2024年全球人工智能治理研究报告

上海社会科学院武汉大学同济大学中国现代国际关系研究院中国信息通信研究院中国社会科学院世界经济与政治研究所北京邮电大学北京航空航天大学北京理工大学中国人民公安大学中国政法大学复旦大学南京邮电大学浙江师范大学伏羲智库 联合发起 前言 人工智能技术是新一轮科技革命和产业变革最具代表性的颠覆性技术，给人类社会带来巨大发展机遇的同时，也带来了诸多全球性挑战。人工智能技术的普及应用已惠及医疗、教育、交通、农业、工业、金融、文化、生态等诸多领域的发展；与此同时，人工智能的误用、滥用和恶用已危及个体、群体、社会、生态以及价值规范等不同层面的安全。2022年生成式人工智能技术取得突破性进展以来，新一轮全球人工智能治理浪潮席卷世界。 在此背景下，上海社会科学院、武汉大学、同济大学、中国现代国际关系研究院、中国信息通信研究院、中国社会科学院世界经济与政治研究所、北京邮电大学、北京航空航天大学、北京理工大学、中国人民公安大学、中国政法大学等中国智库和高校的专家围绕全球人工智能治理的基本现状、主要议题和体系建设等问题展开了研究。本报告中的“全球人工智能治理”，是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。需要指出的是，关于人工智能技术在军事领域的应用问题有独立的国际规制进程，本研究 报告不涉及为军事目的开发或使用人工智能的全球治理进程。 目录 前言...........................................................................................I 一、全球人工智能治理现状....................................................1 （一）多边平台的进展....................................................1（二）多方机制的成果....................................................2（三）相关国家/地区的做法...........................................3（四）科技企业的实践....................................................5 二、全球人工智能治理的十大重要议题...............................6 （一）国家主权原则和人工智能发展............................6（二）社会变革和可持续发展........................................6（三）技术创新和产业发展............................................7（四）人机情感和生命伦理............................................8（五）内容安全风险........................................................8（六）模型算法安全风险................................................8 （七）数据安全和隐私保护............................................9（八）产品责任和风险....................................................9（九）知识产权保护......................................................10（十）智能鸿沟和国际协作..........................................10 三、构建完善全球人工智能治理体系.................................11 （二）原则共识..............................................................11 1.尊重国家主权........................................................11 3.坚持平等互利普惠................................................12 （三）行动路径..............................................................12 1.坚持以人为本........................................................12 2.坚守智能向善........................................................12 3.赋能千行百业........................................................12 4.防范应对安全风险................................................13 6.完善全球治理机制................................................14 附录：近年来全球人工智能治理重要文件概览.................16 一、全球人工智能治理现状 1956年，达特茅斯会议正式确定了“人工智能”术语，开辟了人工智能科学的独立研究。此后，人工智能发展经历了数次起伏，并于上世纪九十年代取得了一定突破。1997年深蓝超级计算机战胜国际象棋世界冠军，它不仅引起了公众对于技术未来的思考，也促进了国际社会关于人工智能伦理的早期讨论。 随着人工智能技术向机器学习、强化学习、深度学习等方向演进，2016年AlphaGo战胜围棋世界冠军成为标志性事件，全球人工智能治理迈入制定原则方针的探索阶段。如2016年，电气电子工程师学会提出《人工智能的道德准则设计》，为自主和智能系统的设计和开发提供指引；2017年，全球行业领袖发起《阿西洛马人工智能原则》，提出技术发展“有益于人类”的守则等。 2022年以来，ChatGPT问世并风靡全球，加速推动人工智能从“小模型+判别式”向“大模型+生成式”转变，加强全球人工智能治理的呼声和行动也全面兴起。 （一）多边平台的进展 多边治理进程是全球人工智能治理的主要渠道，是推动国际社会在人工智能相关领域达成普遍共识的关键。 联合国在全球人工智能治理上发挥了重要引领作用。2023年，联合国秘书长安东尼·古特雷斯宣布成立人工智 能高级别咨询机构，这一机构在2024年发布了《为人类治理人工智能》最终报告，提出了加强全球合作的行动方案。2024年，联合国大会通过了《加强人工智能能力建设国际合作》《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》两项决议，有力促进了人工智能国际合作；联合国未来峰会通过《全球数字契约》，提出“加强人工智能国际治理，造福人类”的目标，授权联合国设立人工智能国际科学小组和人工智能治理全球对话等机制。 此外，联合国框架下的多个机构也取得了进展。教科文组织提出的伦理框架已得到了50多个国家积极参与；国际电信联盟连续七年举办人工智能向善全球峰会，已成为全球人工智能交流对话的重要平台。 政府间组织也将全球人工智能治理纳入讨论议程，并取得了相应成果。二十国集团在2023年新德里峰会重申了“以人为本，实现人工智能向善并服务全人类”的观点；金砖国家在2022年同意成立人工智能研究组，意在加强人工智能技术研发、标准制定、产业应用等领域务实合作；经济合作与发展组织等也更新了相关建议书。 （二）多方机制的成果 多方机制在技术标准、伦理规范等领域积极推动发展负责任的人工智能开发与应用。 电气电子工程师学会、国际标准化组织和国际电工委员 会等技术社群发布了人工智能前沿技术标准、人工智能设计的伦理准则、人工智能系统管理指南等。2023年，电气电子工程师学会推出了免费获取人工智能伦理和治理标准的计划；国际标准化组织发布的《信息技术人工智能管理体系》（ISO/IEC42001）则为各类组织管理人工智能提供了框架。 此外，一些国际组织和会议论坛也在该领域加快行动。2023年，世界经济论坛成立了人工智能治理联盟，提出负责任地开发、开放创新和国际合作等建议；世界互联网大会人工智能工作组发布了《发展负责任的生成式人工智能研究报告及共识文件》，致力于推动发展负责任的人工智能。2024年，全球移动通信系统协会推出《负责任的人工智能成熟度路线图》，可帮助通信企业评估其负责任的人工智能成熟度水平。 （三）相关国家/地区的做法 相关国家和地区基于不同的政治文化、产业发展和目标诉求等因素提出了各具特点的治理方案。 中国遵循习近平主席提出的“坚持以人为本、智能向善”的理念和宗旨，统筹人工智能发展和安全，取得了积极进展。2023年，中国提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案；国家互联网信息办公室等七部门联合公布《生成式人 工智能服务管理暂行办法》，此部立法系全球首部生成式人工智能专门立法。2024年，世界人工智能大会发布《人工智能全球治理上海宣言》，呼吁全球共同推动人工智能健康可持续发展；中国在第19届联合国大会期间发布《人工智能能力建设普惠计划》，倡议成立“人工智能能力建设国际合作之友小组”，提出“五大愿景”“十项行动”；中国全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。 美国强调创新发展，发布《关于安全、可靠和值得信赖地开发和使用人工智能的行政命令》等多部政策文件，加大对人工智能创新生态的资金、人才等支持，并在人工智能风险管理上引导建立最佳实践和标准，同时对先进芯片等实施出口管制，以维持美国在人工智能领域中的领先地位。 欧盟注重人工智能监管立法，相继制定出台人工智能相关战略、宣言、计划、指南等文件，特别是在2024年率先推出了《人工智能法》，积极引领人工智能全球治理。 英国将人工智能视为提升其全球影响力的机遇，发布《国家人工智能战略》文件，采取“支持创新”的监管方式，2023年举办首届全球人工智能安全峰会并推动签署首个人工智能安全国际性声明——《布莱切利宣言》。 发展中国家也在积极行动。肯尼亚将人工智能和区块链视为“关键的经济和商业支持技术”，2024年推出了《信 息技术-人工智能-人工智能应用实践守则》；埃及2019年组建国家人工智能委员会，相继发布《国家人工智能战略》等文件；哈萨克斯坦2024年发布《2024-2029年人工智能发展构想（草案）》，加快构建本国人工智能生态系统。 （四）科技企业的实践 大型科技企业在技术、产业和市场领域具有优势，也是参与制定和推进落实全球人工智能规则的主要载体。 在组织建设层面，科技企业不仅设立了内部伦理委员会，还推出了企业人工智能原则，涵盖对社会有益、安全、保护隐私、公平、透明、可解释、可控、负责任等内涵。 在产业实践层面，科技企业在提升人工智能系统的安全性和稳健性、保护数据隐私、提升透明度、提高可解释性、保障公平包容、确保价值对齐、开展内容安全审核等方面提供了解决方案。 在国际合作层面，20家科技企业在慕尼黑安全会议上宣布，将联合打击深度伪造信息，努力检测和抵制欺骗性的人工智能生成内容；16家公司签署《前沿人工智能安全承诺》，承诺实施内外部测试、信息共享、网络安全投资、第三方漏洞报告机制等措施。 总体而言，全球人工智能治理在原则议题上达成了一定的共识。但是，各类机制仍然高度碎片化，在理念细化和方案落实