人工智能安全治理白皮书（2025）

-2-版权声明本白皮书版权属于中国联合网络通信有限公司、华为技术有限公司、北京百度网讯科技有限公司、三六零数字安全科技集团有限公司、超聚变数字技术有限公司、奇安信科技集团股份有限公司、恒安嘉新（北京）科技股份公司、北京汽车研究总院有限公司、浙江大学、北京邮电大学、南开大学、互联网教育智能技术及应用国家工程研究中心，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国联合网络通信有限公司、华为技术有限公司、北京百度网讯科技有限公司、三六零数字安全科技集团有限公司、超聚变数字技术有限公司、奇安信科技集团股份有限公司、恒安嘉新（北京）科技股份公司、北京汽车研究总院有限公司、浙江大学、北京邮电大学、南开大学、互联网教育智能技术及应用国家工程研究中心”。违反上述声明者，将追究其相关法律责任。 《人工智能安全治理白皮书（2025）》-3-目录前言............................................................................................................................................1一 AI 概述.................................................................................................................................31.1 AI 技术发展历程...........................................................................................................31.2 AI 技术应用发展趋势...................................................................................................41.3 AI 安全治理体系...........................................................................................................5二 AI 安全治理风险分析与挑战.............................................................................................92.1 AI 基础设施安全风险.................................................................................................102.2 AI 数据安全风险.........................................................................................................132.3 AI 模型算法安全风险.................................................................................................162.4 AI 应用安全风险.........................................................................................................22三 AI 安全治理体系现状.......................................................................................................263.1 AI 安全治理法律法规政策现状.................................................................................263.2 AI 安全治理标准规范现状.........................................................................................30四 AI 安全治理技术解决方案...............................................................................................354.1 AI 基础设施安全解决方案.........................................................................................354.2 AI 数据安全解决方案.................................................................................................404.3 AI 模型算法安全解决方案.........................................................................................444.4 AI 应用安全解决方案.................................................................................................48五 AI 安全治理行业案例.......................................................................................................515.1 中国联通人工智能安全治理一体化解决方案..........................................................515.2 华为推理数据与知识库安全解决方案......................................................................535.3 百度大模型安全解决方案..........................................................................................555.4 360 大模型安全解决方案...........................................................................................605.5 奇安信大模型安全技术解决方案..............................................................................625.6 超聚变 xRAY 智能服务一体机解决方案....................................................................645.7 恒安嘉新大模型安全监测解决方案..........................................................................665.8 浙江大学 AI 安全应用实践........................................................................................67六 AI 安全治理发展建议.......................................................................................................71缩略语......................................................................................................................................73参考文献..................................................................................................................................74 -1-前言人工智能（Artificial Intelligence，简称 AI）技术的飞速发展给人类和经济社会的发展带来了翻天覆地的变化，是驱动第四次工业革命和经济社会数字化转型的先进生产力。近年来，从智能体应用到具身智能再到智能物联网，从智慧车间到智能驾驶再到自动化医疗诊断，人工智能技术正在重塑全球产业格局。然而，在人工智能技术跃迁的背后，潜藏着数据、模型、基础设施与应用的多重安全风险。随着各行各业纷纷布局人工智能模型应用，这些风险正从理论推演演变为现实威胁，迫使全球各国、组织和企业重新审视对人工智能技术面对人工智能安全治理的新态势，中国联通联合多家单位，在《人工智能内生安全白皮书（2024）》的基础上发布《人工智能安全治理白皮书（2025）》，在动态演化的技术生态中主动升级治理体系。本白皮书以建立安全可靠、公平可信、智能向善的人工智能系统为目标，围绕人工智能安全治理，重点介绍了人工智能安全治理风险，构建了人工智能安全治理体系，明确了人工智能安全治理的要求和目标，归纳了人工智能安全治理技术体系的建设要点。在人工智能安全治理框架下，本白皮书从 AI 基础设施、数据、模型、应用等多个维度提供了解决方案和案例，并从 AI 安全治理法律法规、标准体系建设、AI 安全前沿技术探索和 AI 安全人才培养与产学研协同创新等多个维度提出人工智能安全治理发展建议，推动我国人工智能技术健康、 的安全治理。安全、可持续发展。 -2-本白皮书由中国联通研究院主笔，华为技术有限公司、北京百度网讯科技有限公司、三六零数字安全科技集团有限公司、超聚变数字技术有限公司、奇安信科技集团股份有限公司、恒安嘉新（北京）科技股份公司、北京汽车研究总院有限公司、浙江大学、北京邮电大学、南开大学、互联网教育智能技术及应用国家工程研究中心联合编写。编写组成员（排名不分先后）：总策划：谢攀、叶晓煜、郑涛、徐雷、陶冶、吴琮、赵平、于天水、李加赞、冯运波、李志伟、邹荣新、姜伟生、杨满智、任奎、秦湛、张熙、刘哲理编委会：阿曼太、安宏亮、陈泱、陈小华、陈晓光、程莉莉、董航、董玉强、高华、管铭、韩文峰、华佳烽、贾雅清、姜福利、李慧芳、李兴成、李朝卓、梁晨、刘兆峰、刘钢、刘东、卢宇荣、马一男、祁彬斌、尚程、尚煜茗、盛杰成、孙世丁、孙浩文、孙学磊、孙忠阁、孙佳、孙禹、唐文、滕义、王庆龙、王一、许小兵、徐积森、杨必琨、杨臻、张钊、张先鹏、张景龙、张小梅、张越威 一 AI 概述1.1 AI 技术发展历程AI 技术历经从符号规则、机器学习（Machine Learning，简称ML）再到深度学习（Deep Learning，简称 DL）的持续演进，其发展技术脉络在 2024 年发布的《人工智能内生安全白皮书（2024）》中已有系统梳理。近年来，AI 技术和应用更是呈现出爆发式增长态势，尤其是以大模型（Large Language Model，简称