2021 年 10 月加强人工智能国际合作进度报告卡梅伦 F. Kerry JoShua p. meLtzer andrea renda aLex c.英格勒·罗珊娜·范尼 2加强人工智能国际合作进度报告2021 年 10 月卡梅伦 F. Kerry JoShua p. meLtzer andrea renda aLex c.英格勒·罗珊娜·范尼 3内容前言四致谢v作者六缩写八执行摘要1简介：人工智能作为一个全球性的社会、经济和战略问题131. 人工智能国际合作为何重要161.1.推动人工智能研发181.2.确认可信人工智能的民主原则201.3.制定一致的人工智能法规、标准和合格评定实践211.4.促进国际贸易和投资231.5.为全球利益部署人工智能231.6.应对中国在人工智能方面的挑战242. 绘制地形图：国家和国际发展262.1. FCAI 参与者的国家发展272.2.国际机构中的人工智能合作362.3.通过标准开发组织 (SDO) 开展国际人工智能合作402.4.人工智能非政府合作412.5.结论：绘制国际合作空间423. 规则、标准和研发项目：合作的关键领域433.1.监管政策合作443.2.合作以实现跨境数据共享603.3.人工智能国际标准合作693.4.研发合作：选择国际人工智能项目744. 建议784.1.初步政策建议804.2.下一步：为 FCAI 对话提议的未来主题87附件 1. FCAI 参与者的人工智能政策和投资92附件 2. 选定 SDO 的运作模式、成员资格和投票程序96尾注98 4前言认识到人工智能 (AI) 的战略、经济和社会意义，许多政府已采取战略来迎接这项技术的挑战和机遇。最初专注于产业竞争力和研究与创新投资的政策制定者也在评估人工智能对基本权利和安全的风险。追求负责任的人工智能——符合道德、值得信赖和可靠——越来越成为许多政府人工智能政策的核心，是人工智能研究和开发的重点，也是渴望在降低风险的同时最大限度地利用人工智能机会的公民社会的关注。这些问题超越了国界。因此，人工智能政策和发展方面的国际合作已成为国家政策的重要组成部分和国际机构的关注焦点。 2019年，布鲁金斯学会和欧洲政策研究中心（CEPS）认为需要更深入地探索人工智能发展和政策制定方面的国际合作，成立了人工智能合作论坛（FCAI），政府官员和学术界、私营部门和民间社会的主要专家之间的高层交流。 FCAI 从加拿大、欧盟、英国和美国之间的跨大西洋对话开始，扩展到包括澳大利亚、日本和新加坡，并在自 2020 年 6 月以来的 12 个月内召开了八次官员和专家圆桌会议。在讨论期间，作者对个人参与者进行了多次采访，并对人工智能和国际人工智能政策的发展进行了研究。所涉及的七个政府是人工智能政策制定和投资的全球领导者，通过贸易、安全利益和共同的民主价值观联系在一起。它们加在一起占全球 GDP 的近 50%，并包含了世界上大部分的人工智能研究、人才和商业。所有人都参与了国际合作讨论。本进展报告概述了 FCAI 的初步调查结果和建议，即如何在这些讨论的基础上加强国际合作，以实现负责任的人工智能，从而利用人类的利益并管理风险。该报告确定了有利于国际合作的具体步骤，以及未来几个月 FCAI 将更深入探讨的主题。 5致谢作者感谢布鲁金斯学会的 Karim Abdelnour、Caitlin Chin 和 Aaron Tielemans 以及 CEPS 的 Moritz Laurer 在研究和项目管理方面提供的帮助；和布鲁金斯学会的 David Batcheck 负责设计和生产。此外，他们感谢布鲁金斯学会的 John Allen 和 Chris Meserole 积极参与该项目。 Rosanna Fanni 感谢富布赖特-舒曼计划资助一名访问研究员在 2020-2021 年留在布鲁金斯学会。布鲁金斯学会是一个致力于独立研究和政策解决方案的非营利组织。它的使命是进行高质量的独立研究，并在该研究的基础上为决策者和公众提供创新、实用的建议。布鲁金斯学会任何出版物的结论和建议仅代表其作者的观点，不反映该机构、其管理层或其他学者的观点。亚马逊、苹果、国务院、德勤、Facebook、谷歌、IBM、麦肯锡公司、微软、万事达卡、美国国家科学基金会、Salesforce、宾夕法尼亚大学和世界银行都是布鲁金斯学会的捐助者。布鲁金斯学会和 CEPS 认识到价值他们提供的是对质量、独立性和影响力的绝对承诺。本报告中的发现、解释和结论不受任何捐赠的影响。欧洲政策研究中心 (CEPS) 是位于布鲁塞尔的独立政策研究机构。其使命是开展健全的政策研究，为欧洲面临的挑战提供建设性的解决方案。 Facebook、谷歌和微软是 CEPS 的捐助成员。本报告中表达的观点完全是作者的观点，不应归因于 CEPS 或与他们相关的任何其他机构或欧盟。 6作者卡梅伦·F·克里是布鲁金斯学会的 Ann R. 和 Andrew H. Tisch 杰出访问学者。除了在布鲁金斯学会的工作之外，克里还是麻省理工学院媒体实验室的访问学者。此前，他曾担任美国商务部总法律顾问兼代理秘书，领导奥巴马政府在消费者隐私方面的工作，包括消费者隐私权利法案。他还曾在私人执业中担任诉讼律师和监管律师。约书亚·P·梅尔策布鲁金斯学会高级研究员，他的研究重点是数字贸易、新兴技术和人工智能。梅尔策曾在美国国会、美国国际贸易委员会和欧洲议会作证。他是欧盟数据流和隐私问题诉讼的专家证人，也是世界银行贸易和隐私问题的顾问。 Meltzer 是澳大利亚国家数据咨询委员会的成员和澳大利亚人工智能行动计划计划委员会的成员。 Meltzer 在墨尔本大学法学院和多伦多大学法学院教授数字贸易法，他是该校的兼职教授，并在英国外交、联邦和发展办公室外交学院教授电子商务和数字贸易。在加入布鲁金斯学会之前，Meltzer 曾在澳大利亚大使馆担任外交官在华盛顿特区，在此之前是澳大利亚外交和贸易部的贸易谈判代表。安德里亚·伦达是 CEPS 的高级研究员和全球治理、监管、创新和数字经济 (GRID) 负责人。他还是杜克大学凯南伦理研究所的非常驻高级研究员，并在 2016-17 学年担任杜克法学院法律和经济学兼职教授。他目前的研究兴趣包括监管和政策评估、监管治理、私人监管、创新、互联网和竞争政策，以及具有长期影响的可持续性和脱碳等政策的一致性。 7亚历克斯·C·恩格勒布鲁金斯学会治理研究研究员，研究人工智能和新兴数据技术对社会和治理的影响。恩格勒还在乔治城大学麦考特公共政策学院教授数据科学和可视化课程，他是该校的兼职教授和附属学者。 2021 年，恩格勒获得富布赖特-舒曼创新奖，以在柏林和布鲁塞尔研究欧洲人工智能和数字治理。在加入布鲁金斯学会之前，恩格勒先生是芝加哥大学的教员，在那里他开设了硕士学位。在计算分析和公共政策。他还带来了在 MDRC 和城市研究所等政策机构担任数据科学家的十年经验。罗珊娜·范妮是 CEPS 全球治理、监管、创新和数字经济 (GRID) 部门的副研究助理和数字论坛协调员。在规范、技术政策和国际关系方面的工作中，她是 2020-2021 年富布赖特-舒曼受助人和布鲁金斯学会的访问研究员。她也是GIGA 研究所即将成为博士研究员，她将在那里分析跨国治理架构和算法基础设施，重点是全球南方。 八缩写S3GPP 第三代合作伙伴计划人工智能行为 欧盟委员会提议的法规欧洲人工智能方法AI HLEG AISG 高级专家组 AI 新加坡ALLEA欧洲科学院联合会科学与人文科学亚太经合组织亚太经济合作组织澳大利亚贸易研究中心澳大利亚交易报告和分析中心B2B 企业对企业BEUC欧洲消费者组织BSI 英国标准协会开海人工智能委员会心肺复苏术“跨境隐私规则”——APECCEPS 欧洲政策研究中心欧洲核子研究中心Conseil Européen pour la Recherche Nucléaire，或欧洲核研究中心CFPB 消费者金融保护局 CIFAR 加拿大高级研究所 CLAIRE 实验室联合会欧洲的人工智能欧洲理事会CSIRO英联邦科学与工业研究机构离散傅立叶变换 信任的数据自由流动欧洲航空安全委员会 欧洲科学院科学咨询委员会EDRi欧洲数字版权EO美国行政命令FCAI人工智能合作论坛 9FEAM 欧洲医学院联合会 GDPR 欧盟通用数据保护条例GPAI 全球人工智能合作伙伴关系GTFS一般运输馈送规范IEC 国际电工委员会 IEEE 电气和电子工程师协会IRC 国际监管合作ISO 国际标准化组织它信息技术国际电联国际电信联盟经济产业省 日本经济产业省机器学习国防授权法案 国防授权法案——美国国家统计局 美国国家人工智能安全委员会经合组织经济合作与发展组织经合组织人工智能OECD.AI 政策观察站ONE AI OECD 人工智能专家网络个人资料保护法个人资料保护法 – 新加坡PIPEDA 个人信息保护和电子文件法竞价排名隐私保护计算研发研发澳大利亚标准协会中国国家标准委SCC 加拿大标准委员会可持续发展目标联合国可持续发展目标 SDO 标准制定组织 TBT 贸易技术壁垒联合国 联合国世界经济论坛世界经济论坛世贸组织世贸组织 加强人工智能国际合作1执行摘要人工国际合作智能——为什么、什么以及如何自 2017 年加拿大成为第一个采用国家人工智能战略的国家以来，至少有 60 个国家对人工智能（AI）采取了某种形式的政策。据估计，到 2030 年，全球产出将增长 16%，即 13 万亿美元，这导致了一场前所未有的竞赛，以促进整个行业、消费者市场和政府服务的 AI 应用。据报道，2020 年全球企业对人工智能的投资已达到 600 亿美元，预计到 2025 年将增加一倍以上。与此同时，制定人工智能全球标准的工作已导致各个国际机构的重大发展。这些包括 AI 的技术方面（在国际标准化组织 (ISO)、国际电工委员会 (IEC) 和电气和电子工程师协会 (IEEE) 等标准开发组织 (SDO) 中）和负责任人工智能的道德和政策维度。此外，7 国集团在 2018 年同意建立人工智能全球伙伴关系，这是一项多利益相关方倡议，致力于探索人工智能监管问题和机遇的项目发展。经济合作与发展组织 (OECD) 启动了人工智能政策观察站，以支持人工智能政策的制定并为其提供信息。其他几个国际组织已经开始积极制定负责任的人工智能开发框架。此外，来自公共和私人组织的宣言和框架激增，旨在指导发展负责任的人工智能。虽然其中许多都侧重于一般原则，但在过去的两年中，已经看到努力通过充分的方式将原则付诸实施成熟的政策框架。加拿大关于在政府中使用 AI 的指令、新加坡的 AI 模型治理框架、日本的以人为本的 AI 社会原则以及英国关于理解 AI 道德和安全的指南在这个意义上一直处于领先地位；紧随其后的是美国对联邦机构人工智能监管的指导以及关于这些机构应如何使用人工智能的行政命令。最近，欧盟关于通过人工智能监管的提案标志着首次尝试引入全面的人工智能立法计划。据报道，2020 年全球企业对人工智能的投资已达到 600 亿美元，预计到 2025 年将增加一倍以上。 执行摘要 |⮌内容2在探索如何协调这些不同的政策制定工作时，我们关注加强国际合作的最令人信服的原因（“为什么”）；似乎最适合加强协作的问题和政策领域（“什么”）；以及可以在推进国际人工智能标准、监管合作和联合研发项目以应对全球挑战（“如何”）方面取得有意义的成果。在本报告的末尾，我们列出了我们建议在即将进行的小组讨论中探讨的主题。为什么人工智能国际合作很重要与 21 世纪的许多科学和工程领域相比，国际 AI 格局是深度协作的，尤其是在研究、创新和标准化方面。维持和加强国际合作有几个原因。1.人工智能研发是一项日益复杂和资源密集型的工作，其中规模是一个重要优势。政府和人工智能研究人员和开发人员之间的跨国合作可以最大限度地发挥规模优势，发挥比较优势，实现互利共赢。缺乏国际合作将导致对 AI 能力的竞争性和重复性投资，从而产生不