2025为人类共同福祉构建全球人工智能安全与治理体系报告

世界互联网大会人工智能专业委员会安全与治理推进计划成员及贡献者 牵 头 人 曾毅肖恩 · 欧 · 海格缇中国科学院北京前瞻人工智能安全与治理研究院剑桥大学 专 家 及 贡 献 者 （包括推进计划成员和特邀专家，以及为报告提供内容或意见的专家，按单位名称首字母排序） 阿里云计算有限公司王星光、张荣 阿拉伯信息通信技术组织纳达 · 拉阿比迪 北京大学王小塞、杨耀东 巴西南大河州联邦大学埃德森 · 普雷斯蒂 北京邮电大学杨忠良 北京印象笔记科技有限公司乔迁 德国埃尔朗根 - 纽伦堡大学文森特 · C · 米勒 北京智源人工智能研究院卜语嫣 德国慕尼黑工业大学丹尼尔 · 凯里米 德国明斯特大学伯纳德 · 霍尔兹纳格尔 杭州安恒信息技术股份有限公司符春辉、王欣 伏羲智库程凯、李娜 金砖国家未来网络研究院（中国 ·深圳）范维、周原 IQuilibriumAI希梅娜 · 索菲亚 · 比维罗斯 · 阿尔瓦雷斯 莫斯科国际关系学院安娜 · 阿布拉莫娃 联想（北京）有限公司胡永启 南开大学陶锋 清华大学唐新华 上海诺基亚贝尔股份有限公司陶涛、王彤 人民网股份有限公司汪凤琼 上海稀宇极智科技有限公司彭韬、沈俊成 上海人工智能实验室乔宇 世界互联网大会梁昊、张雪丽 深圳市腾讯计算机系统有限公司王梦寅、王融 斯里兰卡计算机应急响应中心查鲁卡 · 塞纳尔 · 达穆努波拉、尼罗沙 · 阿南达 香港大学陈澍 香港中文大学蒙美玲、张寄冀 香港岭南大学姚新 央视国际网络有限公司程明 新浪微博王巍、张俊林 英国南安普顿大学温迪·霍尔 云安全联盟约翰 · 杨 中国电信集团有限公司刘威辰、王峰 中关村实验室谭知行 中国联合网络通信集团有限公司周凯 中国互联网络信息中心陈晶晶 中国人民大学龚新奇、刘永谋 中国社会科学院大学刘晓春 中国网络空间安全协会王健兵、夏文辉 中国社会科学院人工智能研究促进中心段伟文 中国移动研究院（中移智库）林琳、吴淑燕 中国信息通信研究院郭苏敏、呼娜英 中兴通讯股份有限公司孟伟 中国政法大学张凌寒 编 写 团 队 北京前瞻人工智能安全与治理研究院中国科学院自动化研究所人工智能安全与超级对齐北京市重点实验室曾毅、王正奇、鲁恩萌、范津宇、皇甫存青 世界互联网大会康彦荣、韩开宇 中国科学院大学曹功策、陈煜、谢佳玮、韩正强、郭晓阳、包傲日格乐、王金 联 系 邮 箱 research@wicinternet.org 前 言 — PREFACE — 人工智能技术正以跨越式速度发展，深刻重塑全球科技、经济与安全格局。伴随其广泛应用，人工智能所引发的风险挑战日益复杂严峻。与此同时，全球人工智能安全与治理体系呈现出碎片化态势，各国在发展水平、治理能力、治理诉求等方面存在差异，国际协作面临阻力。在此背景下，探索构建完善的全球人工智能安全与治理体系，早日形成具有广泛共识的全球治理框架和标准规范，已成为关乎人工智能可持续发展的重要课题。 世界互联网大会依托人工智能专业委员会安全与治理推进计划成员单位，联合相关国际组织、知名智库、科研院所、专业协会及产业界专家，共同开展全球人工智能安全与治理体系研究，旨在促进各方凝聚共识、增进互信、加强协作，推动人工智能服务人类共同福祉与长远安全。 本报告系统梳理了当前全球人工智能安全与治理体系的探索与实践、应解决的关键问题及其他领域的全球治理多边实践经验。报告重点围绕机制设计展开分析，探讨如何构建确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系，并基于践行多边主义、共建人类命运共同体的理念，进一步提出以联合国为中心构建全球人工智能安全与治理体系的机制建议。本报告旨在为各方提供参考，以期凝聚广泛共识，共同推动全球人工智能安全与治理体系的构建与完善。 目 录 01为全球人工智能发展应用构建安全与治理体系01 （一） 全球人工智能发展应用亟须应对安全与治理风险（二） 各方在全球人工智能安全与治理上的探索与实践（三） 全球人工智能安全与治理体系应解决的关键问题（四） 其他领域全球性多边治理体系的经验借鉴01030708 02确保安全：应对人工智能快速变革与重大风险11 （一） 应对人工智能技术快速迭代与不确定性风险（二） 应对人工智能广泛社会应用与滥用恶用风险（三） 前瞻研判与防范人工智能的全球性重大风险111214 03确保包容：兼顾各国人工智能发展与治理诉求16 （一） 正视全球人工智能发展鸿沟与各国诉求差异（二） 保障各国平等发展和利用人工智能的权利（三） 确保全球安全与治理机制的代表性与包容性161718 04明晰权责：推动多利益攸关方协调有力的行动20 （一） 人工智能多利益攸关方的复杂互动与挑战（二） 明晰各利益攸关方的角色定位与责任边界（三） 构建有效的多利益攸关方协同与落实机制202122 05面向未来：践行多边主义共建人类命运共同体23 （一） 凝聚与落实基于人类共同福祉的全球共识（二） 共建以联合国为核心的全球安全与治理体系2324 27附录 全球人工智能安全与治理体系（建议列表） 人工智能在科学、医学、气候、能源、交通等领域对重大问题的应对发挥了显著作用，创造了重要的公共价值与社会红利。 为全球人工智能发展应用构建安全与治理体系 人工智能在带来显著发展机遇、重塑人类生产生活方式的同时，也引发了跨领域、多层次的系统性治理挑战，持续加剧全球治理格局的碎片化与制度脆弱性。推动形成兼具可执行性与广泛共识的全球人工智能安全与治理体系，已成为人类需要共同面对的时代任务。 随 着 技 术 向 更 广 泛、 更 深 层 次 场 景 的 拓展，治理挑战亦随之复杂化并呈系统性外溢。就技术内生风险而言，算法的快速迭代与能力跃升暴露出可解释性不足、鲁棒性薄弱与对抗性脆弱等安全隐患。在应用层面，人工智能的普及使算力安全、供应链脆弱性与跨境技术流动等问题日益凸显。区域与行业的关键系统日益依赖智能化组件，其连锁影响可能跨越能源、交通、金融与通信等基础设施。相关统计与风险评估表明，近年来人工智能相关的恶意利用与网络攻击呈明显上升态势。欧盟网络安全局（European Network and Information Secu-rity Agency，ENISA）发布的威胁评估报告显示1，在 2023 年 7 月至 2024 年 6 月期间共记录 11079 起攻击事件，其中 322 起为针对欧盟 （一）全球人工智能发展应用亟须应对安全与治理风险 当前，人工智能正以跨越式速度发展，深刻重塑全球科技、经济与安全格局。大模型在数学、编程等领域已显示出接近或达到人类专家级的推理能力；视频生成与合成技术在短时间内实现了从概念到高逼真度复杂场景视频生成的跃迁；具身智能的发展也正在推动通用机器人在复杂物理环境中的拟人化交互。同时， 成员国的跨境攻击，受攻击的主要领域包括公共行政、交通运输、金融与数字基础设施（分别占比约 19%、11%、9% 与 8%）。同时，生成式人工智能驱动的深度伪造行为在 2024 年同比增长 118%2，全球相关网络犯罪造成的经济损失在 2025 年预计将高达 10.5 万亿美元3。此类风险已从技术层面向社会系统扩散，具有跨国界与跨领域传导特性，对现行治理体系构成严峻挑战。在此背景下，中国正通过《生成式人工智能服务管理暂行办法》4《人工智能生成合成内容标识办法》5等法律法规，探索建立生成合成内容标识、安全评估等制度，来有效防范相关风险。 同时，人工智能风险的持续累积与地缘政治因素的叠加，正在进一步加剧全球治理困境。近年来，人工智能相关风险事件数量还在持续快速增长。如图 1 所示，2019 至 2024 年间，全球记录在案的人工智能风险事件由约 400 件跃升至 7900 余件，总量增长了近 20 倍。其中，涉及鲁棒性与数字安全、人权与隐私治理、透明度与问责制等问题的事件占比超过 60%，显示技术安全性与伦理性议题已成为全球性挑战。与此同时，部分国家通过出口管制、技术封锁等手段谋求战略优势6。尽管以“技术管制”名义实施的战略举措并未有效限制人工智能扩散，反而可能削弱政策制定国的技术优势7，这种零 成为应对系统性风险的关键路径。这不仅是技术发展的必然要求，更是维护全球数字时代共同安全的重要保障。 和博弈思维正不断挤压国际合作空间，削弱各国参与全球人工智能安全与治理的能力和意愿，降低了国际社会集体应对系统性风险的效能。 （二）各方在全球人工智能安全与治理上的探索与实践 面对当前治理格局呈现显著碎片化、安全与治理需求日益紧迫的现实，从维护全人类共同安全与福祉出发，构建完善的全球人工智能安全与治理体系已刻不容缓。人工智能的跨境属性使其风险与影响天然超越国界——无论是数据流动、算法部署，还是基础模型的应用与扩散，单一国家或地区的监管措施都难以形成有效约束，而任何国家又都无法置身事外。在技术风险持续演化并形成全球外溢效应的背景下，尽早建立一个基于各方充分共识的，能够确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系，已 近年来，各方正通过多层次、多方向的努力，共同推进全球人工智能安全与治理体系的构建进程。联合国系统通过成立咨询机构、召开会议、发布报告、通过联大决议等方式，积极构建全球性的人工智能治理框架。联合国秘书长组建人工智能高级别咨询机构9，该机构发布《治理人工智能，助力造福人类》中期10及最后报告11，分析人工智能全球治理问题并提出建议。联合国大会（TheUnited Nations General Assembly, UNGA）先后通过《抓住安全、可靠和值得信赖的人工智能 联合国儿童基金会（United Nations Children'sFund，UNICEF）推出《 人 工智能为儿童——政策指南》22，提出了儿童友好的人工智能应遵循保护、赋能和友好的原则。 系 统 带 来 的 机 遇，促 进可 持 续发 展》12《 加 强人工智能能力建设方面的国际合作》13决议，召开 未 来 峰 会，通 过《 未 来 契 约》14采 纳《 全球 数 字 契 约》15，并 通 过《 人 工 智能 问 题 独 立国际 科 学 小 组和人 工智能 治 理问题全 球 对 话的 工作 范 围 及 组 建 和 运 作 方 式》16等 后 续 决议，持续推动人工智能全球治理议程实施。此外，联合国秘书长 还向联合国大会递交《人工智能能力建设的创新自愿筹资备选方案》17报告，进 一 步 为 落 实 人 工 智 能 能 力建 设 探 索 相关 融 资机 制 和 筹 资 方 案。联 合 国 教 科文 组 织（United Nations Educational, Scientific andCultural Organization, UNESCO）发 布《 人 工智能 伦 理问题 建议书》18及 其配 套的《准备状态评估方法》19和《伦理影响评估》20，为各成员国和利益攸关方提供规范性伦理指导和评估。国际 电 信 联 盟（International TelecommunicationUnion, ITU）举办“人工智能向善全球峰会（AIfor Good Global Summit）”21， 峰 会 聚 焦 人 工智能创新应用，致力于推动解决全球性挑战。 在国家层面，各国通过发布战略文件与行动倡议，积极构建治理框架。美国发布《人工智能风险管理框架》23，为公共部门和私营机构提供方法工具，用于识别和管理人工智能生命周期中的潜在风险；推动成立国际人工智能安全研究所网络24，在前沿模型安全评估方面开展国际合作和联合测试。新加坡发布了《人工智能模型治理框架（第二版）》25、《生成式人工智能治理模型框架：培育可信赖的生态系统》26，为政府、产业和研究机构在开发和应用人工智能时提供政策指引和实践参考。沙特阿拉伯发布《人工智能伦理原则》27，强调人工智能系