2026“AI+网信安全”典型案例集

目录 第一部分：人工智能安全风险防范...........................................1 案例 1：人工智能安全防护平台.........................................1案例 2：大模型安全检测监测平台技术...................................6案例 3：云智算中心安全防护技术及应用................................12案例 4：金陵守正：大模型全生命周期防护平台..........................18案例 5：人工智能赋能新型工业化融合应用安全方案与实践................27案例 6：面向复杂场景的多模态大模型安全治理关键技术研究及规模应用....33案例 7：大模型安全护栏技术及应用....................................38案例 8：大模型价值观及内容安全检测技术..............................46案例 9：基于“楚小智”智能应用大模型生成内容安全评估及防护实践......52案例 10：基于 DID 的智能体身份鉴权体系...............................59案例 11：基于多模态鉴伪的电信实名制安全防护体系.....................64案例 12：人工智能应用的攻击检测与动态防御体系.......................71案例 13：基于多模态的 AIGC 鉴伪大模型关键技术及应用..................79案例 14：大模型全链路安全测评与智能防护护栏实践.....................82案例 15：基于 AI 全生命周期的智能体安全防护体系......................86案例 16：视觉大模型生成内容标识体系.................................91 第二部分：人工智能赋能网信安全..........................................97 案例 17：威胁分析与安全运营智能体 XGPT Agent 及威胁情报 MCP 服务......97案例 18：基于安全大模型与多智能体协同技术的 AI 自动化渗透测试平台...101案例 19：XSIEM 元数据融合安全管理平台...............................108 案例 20：基于智能体的网络攻击日志分析系统..........................113案例 21：智甲终端防御系统..........................................119案例 22：AI 结合设备运维操作提升暴露面风险自动化治理能力............123案例 23：AI 网络安全智能体系统......................................129案例 24：AI 驱动下 IPv6 网络空间资产智能测绘.........................135案例 25：AI 智能体赋能赛事安保引领安全保障新范式....................148案例 26：基于安全大模型的智能化安全运营与威胁检测解决方案..........152案例 27：密态切面融合智能威胁检测系统..............................156案例 28：AI 赋能 IoT 视频安全边界联防体系建设........................160案例 29：AI 赋能的网络安全智能研判与决策支持系统....................165案例 30：基于人工智能的网络安全运营技术............................168案例 31：AgenticAI 驱动的威胁检测与防御能力体系.....................174案例 32：基于知识图谱的 AI-SOC 智能体安全运营平台...................179案例 33：基于大模型精判与 RAG 知识增强的全场景数据分类分级技术......183案例 34：基于大模型的 AI 智能数据泄露监测技术.......................189案例 35：基于大模型与 GraphRAG 的全域数据安全资产测绘与流转风险治理.198案例 36：利用人工智能技术提升数据安全风险监测预警能力..............205案例 37：大模型融合数智引擎赋能数据行为全链式安全治理防护信创实践..210案例 38：基于 LLM 的用户行为意图链智能分析系统......................216案例 39：数据分类分级智能体安全防护平台............................223案例 40：AI 赋能数据识别与分类分级管理..............................233案例 41：大模型驱动的“发现 - 研判 - 整改 - 验证”全闭环治理体系......241案例 42：AI 驱动的数据安全大脑......................................246案例 43：AI 赋能的全链路数据防泄漏体系..............................249案例 44：AI 赋能数据安全合规检查工具箱..............................253案例 45：基于 NLP 和深度学习的数据资产图谱构建应用案例..............261案例 46：基于大模型分析的隐蔽灰产平台识别与检测....................267案例 47：基于 AI+ 被叫画像图谱的跨境诈骗治理与被叫保护防御体系......271案例 48：基于 LLM 构建离线安全案例库与在线实时检测系统..............277案例 49：面向全域感知的业务安全风控 AI 智能体.......................286 案例 50：反诈智能体赋能电诈治理运营................................291案例 51：基于多模态协同技术的生成式 AI 内容安全智能检测系统.........300案例 52：面向 5G 视频场景的 AIGC 伪造内容精准检测应用平台..........306案例 53：基于多模态 AI 的深度伪造内容智能检测.......................315案例 54：基于 AI 智能交互式回访的锁定和解封反诈体系................320案例 55：基于 AI 的消息实时研判与拦截管控...........................325案例 56：短信内容风险 AI 鉴别服务...................................333案例 57：AI 赋能“警银网通”跨域协同反诈治理创新应用...............339案例 58：AI 智能反诈一体化解决方案..................................346案例 59：基于 AI 大模型的多模态不良信息智能识别技术.................352案例 60：融合大模型的多模态鉴伪及 AIGC 生成标识智能识别技术.........357 第一部分：人工智能安全风险防范 案例 1：人工智能安全防护平台 申报单位：中国移动通信集团河南有限公司恒安嘉新（北京）科技股份公司 （一）背景及需求 1、案例背景 近年来，随着以大型语言模型（LLM）为代表的人工智能技术进入第四次发展浪潮，其应用已快速渗透至各行各业。短时间内，众多政府机构及大型企业便完成了相关模型的部署，标志着 AI 技术步入规模化、深层次应用的新阶段。然而，技术与应用的“狂奔”也带来了严峻的、体系化的安全挑战。 这些安全风险可高度归纳为三大核心领域：网络安全（如模型 API 接口遭受注入、DDoS 等攻击）、内容合规（如模型生成或处理违法、违规、敏感信息）与数据安全（如训练数据泄露、用户隐私信息被诱导输出）。面对这些新型、复杂的威胁，传统基于固定规则和堆叠单一功能安全产品的防护模式已力不从心，暴露出防护成本高昂、告警误报泛滥、规则更新滞后导致防御失效等突出痛点。在此背景下，市场亟需一种能够智能、主动、一体化应对大模型全生命周期安全风险的新型防护方案，以保障人工智能技术在合规、安全的轨道上健康发展。 2、案例需求 为解决上述安全挑战，本项目提出建设一套人工智能安全防护平台，可满足以下核心需求： （1）一体化防护能力：可覆盖大模型应用的网络安全、内容合规、数据安全三大风险域，形成统一防护体系。（2）智能检测与响应：具备基于 AI 的智能检测能力，降低误报漏报，提升威胁识别准确率与实时拦截效率。（3）零信任架构支持：支持网络隔离与数据隐身技术，实现对 0Day/NDay 漏洞的免疫能力。（4）合规与审计能力：满足《网络安全法》《个人信息保护法》等法规要求，提 供全流程内容合规审计与追溯能力。 （5）高可用与易部署：适用于政企、运营商等多类场景，支持云端、本地及混合部署模式。 （6）经济效益显著：通过自动化与一体化防护，显著降低安全运维成本与资源浪费。 （二）技术方案 1、总体方案介绍 本平台面向政府、企业、教育、运营商等各类大模型应用单位，针对其在模型部署、使用与运营过程中面临的网络安全、内容合规与数据安全风险，构建了一套以“网络隔离为盾、数据防护为核、内容审计为脉”的三重智能防护体系。平台融合第四代远程浏览器隔离（RBI）技术与 AI 驱动的智能检测引擎，实现从“事前防御—事中拦截—事后追溯”的全流程闭环防护，有效解决了传统安全方案成本高、误报多、规则滞后的痛点，具备显著的社会与经济效益。 架构图如下： 平台采用分层架构设计，通过第四代 RBI 技术在网络层实现物理隔离，确保 Web/API 接口隐身；AI 检测引擎负责内容合规与数据安全智能识别；管理平台提供统一策略配置、实时告警与审计追溯功能，支持多租户与弹性部署，适用于各类大模型应用场景。 2、关键技术及创新 （1）第四代远程浏览器隔离（RBI）技术 通过将用户与网页内容的交互过程转移至云端服务器，在用户端与目标网页之间 建立物理隔离层，仅返回像素流或重构后的静态内容，实现 Web/API 层的攻击面隐身。 创新点： 实现 100% 自动化网络攻击免疫，不依赖规则库，有效防御 0Day/NDay 漏洞。 支持源站漏洞遮蔽，主流漏扫设备无法识别被防护系统的真实漏洞。 减少误报漏报，帮助安全团队聚焦于人工高级威胁。 （2）AI 驱动的智能内容合规引擎 基于自然语言处理与深度学习算法，对用户输入与模型输出进行实时内容合规鉴定，支持敏感话题、指令攻击、合规政策等多维度识别。 创新点： 敏感话题识别准确率达 95%，指令攻击识别准确率达 98%。支持多语种与上下文理解，具备较强的对抗样本识别能力。可与用户内部合规策略联动，实现动态策略匹配与实时拦截。 （3）双引擎敏感数据识别与防护 采用“规则匹配+机器学习”双引擎模式，内置丰富敏感数据特征库，实现个人身份信息、财务数据、医疗信息等多类敏感数据的精准识别与分类。 创新点： 1）敏感数据识别准确率达 98%，支持数据分级与标签化管理。2）具备数据定制水印、异常传输阻断、加密传输等增强防护能力。3）支持与企业数据治理平台对接，实现数据安全生命周期管理。 3、方案优势 针对大模型的网络安全、内容合规、数据安全问题，本方案以“网络隔离为盾、数据防护为核、内容审计为脉”构建三重防护体系，通过第四代RBI实现网络层物理隔离，AI模型检测实现数据