全球人工智能治理评估指数（AGILE 指数）2024

引用信息： 曾毅，鲁恩萌，关心，皇甫存青，阮子喆，Ammar Younas，孙康，唐璇，王寓巍，索宏杰，梁栋旗，韩正强，包傲日格乐，郭晓阳，王金，谢佳玮，梁尧.全球人工智能治理评估指数（AGILE指数）2024[R].北京：远期人工智能研究中心，中国科学院自动化研究所人工智能伦理与治理研究中心，2024.https://agile-index.ai/ 网站信息：https://agile-index.ai/ 机构信息： 远期人工智能研究中心（Center for Long-term Artificial Intelligence，CLAI）https://long-term-ai.center/中国科学院自动化研究所人工智能伦理与治理研究中心https://ai-ethics-and-governance.institute/ 资助信息： 本研究受到新一代人工智能国家科技重大专项(编号：2022ZD0116202)资助。 联系信息： 如需更多信息或有任何评论，请联系：contact@long-term-ai.cn 报告版本： 本报告版本（v1.0.2c）最初发布于2024年2月4日。 版权信息： 版权所有© 2024远期人工智能研究中心-保留所有权利。 执行摘要 人工智能（AI）技术的快速发展正在深刻改变人类社会，与此同时也引发了一系列伦理、安全、法律和社会挑战。如何有效的开展人工智能治理成为全球各国共同面临的重大课题。过去一年，以大语言模型为代表的生成式人工智能的广泛应用让人工智能治理进入到了新阶段，国际社会都在积极应对人工智能新发展所带来的新挑战。同时，随着相关国际治理共识的不断达成和落实，开展全球性的人工智能治理水平评估的现实意义也逐渐显现。 在此背景下，远期人工智能研究中心（Center for Long-term Artificial Intelligence, CLAI）联合中国科学院自动化研究所人工智能伦理与治理研究中心（International Research Center for AIEthics and Governance, Institute of Automation, Chinese Academy of Sciences），共同发起制定了全球人工智能治理评估指数（AI Governance InternationaL Evaluation Index，简称AGILE指数），并针对首批14个国家开展AGILE指数的首次评估工作，旨在以数据评分的方式，刻画各国人工智能治理的现状，帮助各国定位治理阶段，发现治理问题，最终为各国进一步完善人工智能治理体系提供参考。 秉承“治理水平同发展水平相匹配”的设计思路，AGILE指数的首次评估主要从各国人工智能的发展水平、治理环境、治理工具和治理成效四个方面入手，涵盖了18个维度的39项指标，来全面评估全球14个代表性国家的人工智能治理水平。首次评估国家包括七国集团（G7，分别是美国、英国、法国、德国、日本、加拿大、意大利）、原金砖五国（BRICS，分别是中国、俄罗斯、印度、巴西、南非）、以及区域代表性国家（新加坡、阿联酋），共计14个国家。 AGILE指数的首次评估揭示了许多值得注意的发现： 总体上， 1.美国得分略高于70，位于第一梯队，其次是中国、新加坡、加拿大、德国和英国，所有这些国家的得分均超过60。(第17页)2.各国的AGILE指数得分与其人均GDP水平呈强正相关关系。(第17页)3.金砖国家在治理成效方面表现略好。(第18页)4.根据各国在治理环境等不同评估方面的表现可将14个国家分为三种治理类型。新加坡、加拿大、德国、日本和法国在所有评估方面上的得分较为均衡。(第19页) 就人工智能发展水平而言， 1.同其他国家相比，美国在人工智能发展水平上明显领先。(第22页)2.中国在人工智能发展水平方面取得了显著进展，但在人工智能基础设施建设方面仍有提升空间。(第23页)3.在美国和中国之外，全球人工智能发展实力的拼图正在逐渐形成。(第23页) 就人工智能治理环境而言， 1.2023年记录在案的人工智能风险事件激增12倍，凸显了技术快速进步下人工智能治理亟需跟进的紧迫性。(第25页)2.以美国为代表的14个评估国家在全球范围内暴露的人工智能风险事件中占很大比例，凸显了全球人工智能治理所面临的集体压力。(第26页)3.尽管高收入国家通常展现出更高水平的人工智能治理准备度，但重要的是所有国家都有机会在人工智能治理方面表现出色，无论它们的整体治理准备水平如何。(第27页) 就人工智能治理工具而言， 1.14个评估国家在人工智能的战略规划、治理机构和治理国际参与等维度上均有较好的表现。(第29页)2.从2020年到2023年，人工智能的治理手段“由虚向实”，已经从制定宽泛的规划和原 则转向到制定切实的治理措施，包括人工智能立法、人工智能标准和人工智能影响评估工具等。(第31页)3.14个国家都参与了多种形式的人工智能治理全球机制，其中英国、法国和日本相较其他国家的国际参与度更高。(第33页)4.人工智能立法在全球范围内各不相同，一些国家在国家层面开展综合性立法，而另一些国家则基于现有框架针对人工智能进行修正，或采取更加地方化的立法路径。(第34页) 就人工智能治理成效而言， 1.与高收入国家相比，金砖国家公众对人工智能的信任度普遍更高。(第36页)2.在所有14个评估国家中，人工智能研究者都存在较为明显的性别失衡，只有大约五分之一的研究人员是女性。(第37页)3.对性别差距的进一步分析凸显了一个关键挑战：几乎没有一个国家在人工智能性别包容性和更广泛的社会性别平等方面表现出色，这需要进一步研究关注。(第38页)4.所有14个国家都积极参与全球开发者社区和开源生态建设，美国、中国和印度的贡献和影响尤为突出。(第39页)5.14个国家中人工智能治理相关的出版物占所有人工智能相关出版物的比例大约为3%-4%。(第41页)6.近年来关于人工智能治理的文献总量呈现出指数级加速增长，2022年的增长率达到了45%。(第42页)7.在这14个国家的人工智能治理相关文献中，安全与合作一直是研究最多的主题，而与远期人工智能和问责制相关的研究则明显较少。(第43页)8.各国在人工智能治理方面的合作有目共睹，这表明人工智能治理在全球范围内是相互联系且不可分割的。(第44页)9.在几乎所有人工智能促进可持续发展目标实现的研究方向上，中国和美国共同贡献了一半以上的论文。对于所有14个国家而言，SDG3（良好健康与福祉）、SDG9（工业、创新和基础设施）和SDG4（优质教育）是三个最受欢迎的人工智能促进可持续发展目标实现的研究方向。(第46页)10.在人工智能与可持续发展目标相关的具体应用方面，虽然SDG3、SDG9和SDG4始终 受到广泛关注，但是也有相当数量的项目是针对SDG11（可持续城市和社区）、SDG12（负责任的消费和生产）以及SDG13（气候行动）。(第48页) 目录 执 行 摘 要…….……………………………………………………………………………….........3研 究 团 队…….……………………………………………………………………………….........8 1. AGILE指数......................................................................................................................................9 1.1.评估框架...................................................................................................................................101.2.指标体系...................................................................................................................................12 2.评估概览.........................................................................................................................................15 2.1.评分结果...................................................................................................................................162.2.总体观察...................................................................................................................................17 3.分析与发现.....................................................................................................................................21 3.1.评估方面1：AI发展水平.......................................................................................................223.2.评估方面2：AI治理环境.......................................................................................................253.3.评估方面3：AI治理工具.......................................................................................................293.4.评估方面4：AI治理成效.......................................................................................................36 5.1.指标详情与数据来源...............................................................................................................66 5.2.评分方法...................................................................................................................................75 5.3.其他相关指数...........................................................................................................................79 5.4.图表索引.............................................