AI智能总结
版权说明 本白皮书是中关村华安关键信息基础设施安全保护联盟(简称:关保联盟)牵头编写,关保联盟保留所有权利。转载、摘抄或利用其他方式使用本白皮书文字或观点的,应注明“来源:中关村华安关键信息基础设施安全保护联盟”。 前言 关键信息基础设施已成为国家安全、经济繁荣和社会稳定的重要基石和保障。随着人工智能技术快速发展,以大模型为代表的生成式AI正重构网络安全范式,深刻影响着关键信息基础设施安全保护,改变网络攻防格局。而网络攻击的智能化、规模化、隐蔽化趋势,也让国家重要行业部门的网络安全综合防御体系面临更为严峻风险和挑战。 “AI+”时代下,网络空间的攻防技术对抗愈发激烈,“人机深度协同、主动免疫、自我进化”的网络安全技术体系正在逐步形成。与此同时,人工智能、大数据的广泛应用给数据安全和隐私保护带来重大挑战,如何科学化、智慧化平衡应用与安全的矛盾,成为亟待解决的关键问题。大模型技术与人工智能应用的迅猛发展,也为网络安全产业升级和能力提升带来新的契机。通过将人工智能技术融入网络安全的装备、工具、设备及网络系统,实现全链条“智能化”升级,将全面支撑网络安全新质战斗力的构建与提升。 郭启全研究员提出网络安全新质战斗力这一网络安全领域新的方法论,设计了网络安全新质战斗力的重要框架和核心内容,并发表在《中国信息安全》(2024第11期)上。在此基础上,郭启全研究员策划了2025年关键信息基础设施安全保护支撑能力白皮书《以新质战斗力引领“AI+”时代网络安全》,并组织关键信息基础设施安全保护联盟成员单位和行业专家共同编写完成。编写《以新质战斗力引领“AI+”时代网络安全》白皮书的目的,是针对AI赋能网络安全领域开展深化探索,通过深入研究人工智能与大模型技术特点、优势及其在网络安全领域应用场景和行业最佳实践,助力关键信息基础设施运营者(简称关基运营者)在新时期新征程中网络安全业务和能力的提档升级,为关基运营者、网络安全服务机构以及有关部门和相关从业者提供参考。 白皮书共分为六章。第一章“AI+”时代人工智能技术,着重分析人工智能技术给全人类带来的红利和风险,以及在AI时代对社会治理的思考;第二章“AI+”时代网络安全面临的风险与应对之策,对安全风险进行分析并针对这些问题提出当下和未来网络安全风险挑战的应对之策;第三章人工智能技术在网络安全领域的发展和应用,从技术维度深入分析小模型、大模型、垂域模型、RAG技术、MCP技术、AI Agent等特点,研究这些技术给网络安全领域带来的发展和应用的可行性;第四章人工智能支撑网络安全 综合防御能力,从平时和战时网络攻防技术对抗能力、新型网络安全管理体系建设及新型网络安全技术体系建设出发,分析人工智能技术在各个场景下的赋能技术措施,为关基运营者和网络安全从业者提供智慧化安全能力建设思路;第五章AI+网络安全产品和服务,从AI应用的产品场景和服务场景出发,对产品和服务智能化目标,从技术维度提出建设思路和方向,供产品开发团队和服务能力建设团队参考;第六章网络安全智能化成果和案例,收集了大量业内优秀实践案例、研究成果、产品和方案,一方面集中展现我国网络安全行业智能化发展成效,另一方面通过各单位的实质性成果与实践经验,为仍然在深度求索的AI安全研究团队、研发团队、技术服务团队注入信心、坚定方向。 白皮书撰写单位包括:中关村华安关键信息基础设施安全保护联盟、国家工业信息安全发展研究中心、中国软件评测中心、中科信息安全共性技术国家工程研究中心有限公司、蚂蚁科技集团股份有限公司、北京邮电大学、中国联合网络通信集团有限公司、华为技术有限公司、航天壹进制(江苏)信息科技有限公司、北京启明星辰信息安全技术有限公司、奇安信科技集团股份有限公司、杭州迪普科技股份有限公司、中检集团天帷网络安全技术(合肥)有限公司、北京海泰方圆科技股份有限公司、江南信安(北京)科技有限公司、江苏云天网络安全技术有限公司、成都数默科技有限公司、成都御之安科技有限公司、成都四方数安信息技术有限公司、北京比瓴科技有限公司、天津市兴先道科技有限公司、北京芯盾时代科技有限公司、福建金瑞信息技术有限公司、北京网藤科技有限公司、合肥赛欧思数字科技有限公司、北京椰子树信息技术有限公司、深圳瑞思博科信息技术有限公司、北京墨云科技有限公司、厦门兆翔智能科技有限公司、北京知道创宇信息技术股份有限公司、中铁成都科学技术研究院有限公司、北京信长城科技发展有限公司、西安安盟智能科技股份有限公司、安徽信科共创信息安全测评有限公司、新疆量子通信技术有限公司。 白皮书撰写人员包括:郭启全、李红霞、乔彩玉、王思登、李安伦、刘雨沆、赵鸣、翁海琴、刘焱、杜皓轩、杨天识、刘吉林、刘京、康梓峰、杨志泉、宁宇飞、杨多、郗桐、李海、程磊、黄恒、张阳、任鹏帅、冯子祥、武建双、王璞、孙康健、刘浦胜、陈光、胡建勋、伊鹏达、刘宇馨、李从宇、赵锋、王熙、沈志强、陈伟清、张淋、潘乐荣、侯硕鹏、林晓林、任航、胡东梅、白晓海、李彦、邓明聪、卓逸谞、李海鹏、马璇、原树生、宋少龙、徐善祥、陈诗、黄俊海、罗燕京、陈晓悦、马寅杰、朱正路、李晨、王利伟、孙志敏、刘兵、罗春、任钰、卢志超、李乾坤、杜旭、段慧鑫、赵瑞、季文东、张建国、张天薏、张锦睿。 目录 第一章 “AI+”时代人工智能技术11.1 “AI+”时代特征11.2 人工智能技术的演进与应用51.3 我国人工智能技术发展与治理体系建设101.4 我国人工智能技术发展的支撑与保障15 第二章 “AI+”时代网络安全面临的风险与应对之策172.1 “AI+”时代网络安全面临的风险与挑战172.2 “AI+”时代网络安全风险挑战的应对之策29 第三章 人工智能技术在网络安全领域的发展和应用403.1 人工智能技术赋能网络安全403.2 安全垂域模型支撑网络安全业务443.3 模型应用与网络安全业务的深度融合50 第四章 人工智能支撑网络安全综合防御能力624.1 利用人工智能技术提升网络攻防技术对抗能力624.2 利用人工智能技术赋能新型网络安全管理体系建设814.3 利用人工智能技术赋能新型网络安全技术体系建设85 5.3 AI+ 内容安全治理110 5.4 AI+ 业务应用安全116 5.5 AI+ 安全服务122 第六章 网络安全智能化成果与案例1296.1 中国联通丨 AI 驱动“墨攻”安全运营服务智能化升级方案1296.2 中国移动丨基于意图识别的 AI+WAF 协同防御实践1346.3 蚂蚁集团丨切面融合智能威胁检测方案1406.4 蚂蚁集团丨 AI 应用于分析研判阶段的技术研究1446.5 绿盟科技丨风云卫 AI 安全能力平台金融行业案例1476.6 金睛云华丨安全大脑赋能的网络安全智能中心平台1556.7 云起无垠丨无极 AI 安全智能体平台1616.8 奇安信丨电力系统网络安全智能巡检解决方案1666.9 奇安信丨 AISOC 智能安全运营平台1706.10 360 数字安全丨 360 安全大模型1756.11 迪普科技丨“先知”智能体助力构建新一代安全运营体系1806.12 迪普科技丨数据分类分级智能体,助力企业数据智能化发展1856.13 瑞思博科丨 AI+ 邮件钓鱼演练与溯源分析方案1916.14 中检天帷丨人工智能驱动的网络安全等级保护测评报告质量分析系统1976.15 信科共创丨基于大模型的报告总结性文本编写系统2016.16 椰子树丨 AI 驱动攻击诱捕的主动防御系统实践2066.17 天懋信息丨 基于 AI 大模型智能驱动的专网主动安全监测解决方案2116.18 第一线 DYXnet 丨 安全运营智能体解决方案2166.19 海泰方圆丨 数据安全沙箱在船舶行业产业链数据空间的应用2216.20 信长城丨 数据脱敏系统在某车企乘用车上的创新应用2266.21 君同未来丨 大模型风险治理平台2296.22 知道创宇丨 大模型网关 -AI 驱动的模型安全治理与生产调度系统2346.23 知道创宇丨 基于 Python-use 创新范式的 AiPy 智能体平台2396.24 知其安丨 某股份制银行基于“曜鉴”安全大模型的告警降噪实践2436.25 鸬鹚科技丨 全场景智能负载均衡应用与安全保障方案2466.26 卫达信息丨 某国央企 AI 赋能主动防御安全解决方案项目2526.27 墨云科技丨 基于天查机器人的自动化渗透智能体256 第一章 “AI+”时代人工智能技术 1.1“AI+”时代特征 1.1.1“AI+”时代已来临 人工智能(Artificial Intelligence,以下简称AI)作为计算机科学领域的一个分支,其核心目标是通过设计和应用先进的算法与系统,模拟、延伸乃至扩展人类的智能行为,从而实现包括感知、学习、推理、决策等多种智能能力的自动化操作。 从“互联网+”到“AI+”的跨越,是技术范式的根本性转变。互联网时代构建了基础的数据资源化和数字化能力,解决了“连接”问题;而“AI+”时代则在此基础上,通过人工智能技术实现数据的智能化应用和价值释放,解决了“赋能”问题。 新一代人工智能技术,以大数据时代的海量数据为燃料,以日新月异的算法与算力为引擎,通过对数据内在特征的逐层挖掘与精准归纳,逐步构建起结构化、系统化的知识体系。这一过程不仅让机器“知道”,更使其具备了“理解”和“推理”的能力。基于此,人工智能正从被动执行指令的工具,演进为能感知环境、规划决策并自主执行任务的智能体(AI Agent)。 智能体能够与周边环境进行实时动态交互,并在复杂多变的应用场景中,自主生成与人类行为模式相近甚至超越的决策与行动。这种由知识驱动的自主决策与行动能力,具有前所未有的影响力、渗透力和塑造力,正以其“智能主义范式”深刻重塑着人机关系、产业形态乃至整个社会的运行逻辑。 1.1.2“AI+”时代的特征 当今世界已从“互联网+”时代跨入“AI+”时代,人工智能技术属于颠覆性技术,正成为新一代技术革命和社会变革的核心推动力,“AI+”时代已从“技术-产业-安全-社会”等多维度被系统性重构。 1.智能时代的技术特征 (1)数据驱动与算法成为核心要素 “AI+”时代的技术高度依赖数据驱动与算法创新。在智能经济中,数据已成为关键生产要素,通过对海量数据的采集、分析和应用,实现精准决策和效率提升。当前,大模型技术已成为AI竞争 的高地,其参数规模从千亿到万亿量级不断攀升,推动人工智能从单点突破转向体系化创新。 (2)人机协同成为典型模式 随着人工智能技术的发展,人类与智能机器之间的分工协作日益深化,形成人机互补、优势叠加的新型生产模式。在智能经济环境中,机器擅长处理标准化、重复性和海量数据运算的任务,而人类则专注于创造性、情感性和复杂决策的工作。在智能制造领域,工业机器人与人类工程师协同完成产品设计和生产;在医疗领域,AI辅助诊断系统与医生协同提供更精准的诊疗方案。 (3)跨界融合成为技术常态 智能经济通过打破产业边界,促进不同行业间的技术渗透与业务融合,形成新的产业生态和价值网络。在技术层面,人工智能与大数据、云计算、物联网等技术相互渗透,形成集成创新的技术体系;在产业层面,智能技术赋能传统产业,推动制造业与服务业的深度融合,形成制造即服务(MaaS)等新业态。 (4)软硬协同驱动产业升级 数字产业发展正逐步从硬件主导、软硬分离向软硬协同加速转变。新技术驱动电子产品多元化发展,并通过软件、算法不断定义和丰富电子产品使用价值,同时叠加数据要素价值红利,将孕育更多颠覆式创新,推动产业价值空间走向新高度。 2.智能经济与产业特征 (1)智能经济主导产业结构 “AI+”时代的经济形态,核心体现为智能经济的全面崛起。它以智能技术产业化为驱动、传统产业智能化为路径,推动生产生活方式与社会治理方式实现智能化变革。智能经济重构生产、分配、交换、消费等经济活动的各个环节,形成一种更加高效、精准、灵活且具有持续创新能力的经济范式。 (2)产业应用呈现全方位智能化 从产业应用角度看,“