全球人工智能治理发展报告总结
一、人工智能治理概念内涵
人工智能治理是指多方主体通过制定和执行原则、标准、指南与政策法规等，确保算法的公正性、透明性、鲁棒性和抗攻击能力，同时保护算法和数据安全，并遵循以人为本的原则，促进社会价值和公共利益。其核心目标是确保人工智能安全、可靠、可控，最大限度地发挥其在经济、社会和文化领域的积极作用，防范和控制可能出现的风险与负面影响。治理主体包括国际组织、政府部门、科技企业、非政府组织、高等院校、科研机构等。
二、全球人工智能治理趋势和特点
全球人工智能治理正从国际共识向全球共治演进，逐步形成全球性的治理框架。
- 国际组织：联合国及其下设机构积极推动全球人工智能治理进程，如联合国教科文组织发布的《人工智能伦理问题建议书》，以及联合国安理会就人工智能问题举行的高级别公开会。经合组织通过了首部政府间人工智能政策指导方针，20国集团发布《G20 人工智能原则》。科技企业通过签署承诺书、实施最佳实践、设定风险阈值等方式，大力推动了全球人工智能技术的安全和可靠。
- 国家和地区：美国强调人工智能风险管理，逐步向集中化监管转变，并设立人工智能安全研究所和首席人工智能官等机构。欧盟监管风格趋向于强硬，提出了《人工智能的伦理准则》和《人工智能法案》，并设立人工智能办公室。新加坡逐步完善治理框架，发布了《人工智能模型治理框架》和《生成式人工智能模型治理框架草案》。
- 科技企业：以百度、阿里巴巴、腾讯为代表的大型互联网公司纷纷加大在人工智能领域的投入，并积极参与政府主导的人工智能治理工作。
三、我国人工智能治理已开展的举措
- 政策发展：三大基本法（《网络安全法》《数据安全法》《个人信息保护法》）为我国人工智能领域健康发展保驾护航。一系列规范人工智能技术发展和应用的相关法规陆续出台，如《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》等。
- 标准发展：前瞻性开展人工智能标准体系顶层设计，发布了《新一代人工智能治理原则——发展负责任的人工智能》和《国家新一代人工智能标准体系建设指南》。积极推进国内外标准制定工作，开展了《网络安全技术人工智能计算平台安全框架》《网络安全技术生成式人工智能服务安全基本要求》等多项国家标准的制定工作。
- 行业发展：我国人工智能科技企业渐成壮大态势，如百度、阿里巴巴、腾讯、商汤科技、旷视科技等。人工智能自律机制逐步建立完善，如成立人工智能伦理委员会、发布行业治理与伦理框架、将治理原则融入自身产品与应用等。
- 国际合作与倡议：积极彰显人工智能治理中国主张，向联合国大会提交《中国关于加强人工智能伦理治理的立场文件》，发布《全球人工智能治理倡议》。积极推动人工智能治理双多边政策对话，如中非互联网发展与合作论坛、中法双方就人工智能方面达成共识等。倡议规范人工智能军事应用，发布《中国关于规范人工智能军事应用的立场文件》。
四、人工智能治理难点、风险和挑战
- 各国立法步调不统一，全球监管框架难以落地：不同国家在人工智能立法的目标、重点与进程上难以达成一致，导致全球人工智能治理面临碎片化风险。
- 部分国家寻求规则主导权，在推动人工智能治理过程中存在政治化苗头：一些大国在强化本国人工智能治理体系的同时，也在寻求在全球新一轮科技治理规则制定中占据主导位置，试图通过制定有利于自身利益和发展战略的规则，争夺在全球人工智能治理中的话语权和影响力。
- 全球智能鸿沟进一步放大数字鸿沟弊端，治理能力弥合难以追赶鸿沟扩大速度：随着人工智能技术的快速发展，技术和资源的不均衡分布导致全球范围内的智能鸿沟日益加剧，使得弥合治理能力的挑战变得更加艰巨。
- 人工智能安全监管滞后，仍较大程度依靠企业自我约束：监管措施滞后于实际应用，难以有效应对潜在的安全风险，使得当下监管与治理仍较大程度依靠企业自我约束。
五、促进我国人工智能治理的对策建议
- 完善顶层设计：针对人工智能安全架构的五个层面，制定对应层级的治理目标与计划，完善我国人工智能治理顶层设计，加快制定相关法律、行政法规等基础制度。
- 推动技术发展：坚持以人为本、智能向善原则，推动技术健康发展，将合法原则、以人为本原则等要求嵌入到系统开发的技术中，加强源头治理，积极发展促进安全开发的相关技术。
- 实施有力监管：借鉴我国通信行业发展模式，建立强统筹总体组，实施全流程监管，建立分级分类监管机制，深入研究不同领域可能带来的算法歧视和道德伦理问题，建立和完善人工智能应用算法歧视和伦理审查等规则。
- 强化国际合作：秉持全球共治原则，缩小国家间的智能鸿沟，坚持真正的多边主义，广泛开展国际合作，支持在广泛参与和协商一致的原则下，共同构建具有普遍共识的国际人工智能治理框架。
