2023 年 1 月报告民主可以在 AI 上与中国合作吗研究 ？重新平衡 AI 研究网络CAMERON F. KERRY | JOSHUA P. MELTZER | MATT SHEEHAN 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会1作者卡梅隆 · F · 克里是 A R.安德鲁 · HTisch 是布鲁金斯学会的杰出访问学者，在那里他经常就涉及信息技术的公共问题发表演讲，撰稿人和评论员。除了在布鲁金斯工作外，克里还是麻省理工学院媒体实验室的访问学者。此前，他曾担任美国总法律顾问和代理秘书。S.他领导奥巴马政府在消费者隐私方面的工作，包括《消费者隐私权利法案》。他还曾在私人执业中担任诉讼律师和监管律师。约书亚 · P · 梅尔策是布鲁金斯学会的高级研究员 ， 他的研究重点是数字贸易、新兴技术和人工智能。梅尔策曾在美国国会作证 ，美国国际贸易委员会和欧洲议会。他是欧盟数据流和隐私问题诉讼的专家证人 ， 也是世界银行贸易和隐私事务的顾问。梅尔策是澳大利亚国家数据咨询委员会的成员。他教墨尔本大学法学院和多伦多大学法学院的数字贸易法 ， 他在那里was兼职教授 ， 以及教英国外交 ， 联邦和发展办公室外交学院的电子商务和数字贸易。在加入布鲁金斯之前 ， 梅尔策曾在澳大利亚驻华盛顿大使馆担任外交官 ， 在此之前是澳大利亚外交和贸易部的贸易谈判代表。马特 · 希恩是卡内基国际和平基金会的研究员，他的研究涵盖全球技术问题，重点是中国。他的研究项目探讨了中国的人工智能生态系统，中国技术政策的未来以及技术在中国政治经济中的作用。马特是《跨太平洋实验 ： 中国和加州如何合作和竞争我们的未来》 （ Coterpoit Press，2019 ） 的作者。从 2010 年到 2016 年，Matt 在中国生活和工作，包括担任第一位中国记者。马特在保尔森研究所的智囊团 MacroPolo 担任研究员 ， 在那里他领导了对中国技术问题的研究。Acknowledgements作者感谢布鲁金斯学会的 Mishaela Robiso 和 Aaro Tielemas 的研究帮助。在本文的整个发展过程中，Aaro Tielemas 还担任 FCAI 的项目经理，以及欧洲政策研究中心的 Adrea Reda 。作者还感谢布鲁金斯学会的 Izzy Taylor，Atoio Saadipor 和 Esther Lee Rose 的编辑和制作协助，以及 Rya Hass，Hery Gao 和 Kevi Wolf 的同行评审。布鲁金斯学会是一个致力于独立研究和政策解决方案的非营利组织。它的使命是进行高质量的独立研究 ， 并在此基础上为决策者和公众提供创新、实用的建议。任何布鲁金斯出版物的结论和建议仅是其作者的结论和建议 ， 并不反映该机构 ， 其管理层或其他学者的观点。亚马逊 ， 苹果 ， Facebook ， 谷歌 ， IBM 和微软是布鲁金斯学会的捐助者。布鲁金斯致力于其所有工作的质量 ， 独立性和影响力。捐助者支持的活动反映了这一承诺。 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会2Introduction中国在人工智能 （ AI ） 研究 ， 开发和政策制定的全球格局中占有重要地位。它的人才 ， 不断增长的技术技能和创新以及国家对科学技术的投资使其成为 AI 的领导者。在过去的二十多年中 ， 中国已深深地融入了国际人工智能研究与开发 （ R ＆ D ） 网络 ： 与国外同行共同撰写论文 ， 托管美国公司的人工智能实验室 ， 并帮助扩大全球人工智能研究的领域。在那段时期的大部分时间里 ， 这些联系及其影响在政策界基本上没有得到审查。相反 ， 这些联系的性质是由研究人员、大学和公司决定的。但在过去的五年里，中国与全球研发网络之间的联系受到了政府、大学、公司和民间社会越来越多的关注。四个因素共同推动了这种重新评估 ： （ 1 ） 人工智能本身不断增长的能力及其对经济竞争力和国家安全的影响 ； （ 2 ） 中国对人工智能的不道德使用 ，包括部署人工智能工具对其公民进行大规模监控，最明显的是新疆的维吾尔族，但越来越广泛 ； (3) 中国人工智能能力和雄心的增强，使其成为美国的真正竞争对手S.在野外 ； 和。(4) 中国政府支持这些能力的政策 ， 包括国家定向投资和来自国外的非法知识转移。总之 ， 这些担忧引发了对这些长期关系的严格审查和新问题。合作是否有助于中国在人工智能领域超越民主国家 ？ 民主国家的技术专家和公司在多大程度上为中国部署压制性人工智能工具做出了贡献 ？本工作文件考虑了与中国在人工智能方面的国际合作是否可以持续以及在多大程度上可以持续。在过去的两年中，中国一直是参加 AI 合作论坛 （ FCAI ） 的政府官员和专家之间讨论的主题。2021 年 FCAI 进展报告确定了中国开发和使用人工智能对国际合作的影响。该报告涉及中国在监管协调、标准制定、贸易协定和研发项目方面的一些建议，但也侧重于中国的政策和人工智能的应用。 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会3应对中国提出的挑战的措施在协调中比在孤立中更有可能有效。在该国更广泛的地缘政治 ， 经济和威权政策背景下的挑战。 2021 年 12 月 8 日的圆桌讨论向 FCAI 参与者更全面地介绍了这些问题 ， 并提出了他们的观点。本文对这项工作进行了扩展和提炼，重点是中国参与国际人工智能研发网络的范围、好处和前景限制。在第一部分中，它介绍了中国人工智能发展的历史以及与国际研发的非凡成功接触，并解释了这一历史如何帮助中国成为该领域的全球领导者。第二部分展示了中国如何融入国际人工智能研发网络，中国和美国成为彼此最大的合作者，中国也是参与 FCAI 的其他六个国家的主要合作者。这种合作通过多种途径进行 ： 在大学注册，会议，联合出版物以及在研究实验室工作，这些实验室都以各种方式开发，传播和部署 AI 。然后，第三部分概述了经济，道德和战略问题，这些问题引起了人们对人工智能合作水平是否可以继续的质疑，以及断开合作渠道的挑战和弊端。然后，分析研究了与中国在人工智能研发方面的接触可能会如何发展。它主要是通过一个美国S.- 聚焦镜头，因为美国S.作为迄今为止中国在人工智能领域最大的竞争对手和合作者，为那些也与中国在人工智能研发方面合作并面临许多相同问题的国家和 FCAI 参与者提供了一个保护伞和模板。此外，应对中国提出的挑战的措施在协调中比在孤立中更有可能有效。最近 U.S.对半导体及其制造技术的出口管制暴露了日本和韩国等国家的关键作用。目前，美国S.政府能够通过行政措施，如外国直接产品规则，迫使外国遵守，但如果外国制造商设计美国，这些机制可能会变得毫无意义。S.技术从他们的供应链中脱颖而出。本文涉及的是合作研究，而不是硬件供应链，但是在这些领域中也存在类似的动态。因此，本文不仅涉及与中国的合作，还涉及与中国的合作。The U.S.参与 FCAI 的其他政府及其合作伙伴并不是这部剧的唯一演员。中国未来的人工智能研发也将取决于中国的所作所为。中国加强技术自力更生的努力加速了中国在某些方面与国际技术生态系统的脱离，同时迄今仍将其深深融入其他国际研究网络。未来。 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会4这种接触的轨迹将在很大程度上取决于中国政府和中国共产党采取的行动。鉴于这些变化带来的问题，本文提出通过基于风险的方法重新平衡中国研究人员和机构的人工智能研发。展望未来，这种合作将需要对成本和收益进行清晰的评估，旨在最大限度地利用开放的研究环境以及与中国人工智能研发所带来的风险的强大国际联系。采用适当的基于风险的方法通常不会建议在人工智能研发方面完全脱离中国，而是需要考虑到知识转移的各种载体的再平衡。至关重要的是，各国政府需要相互合作，并与公司、大学和研究实验室合作，以评估风险，并了解与中国进行人工智能研发的好处。如果未能将这些伙伴关系纳入风险评估过程，可能会导致错误的结果，错误地衡量风险和收益，从而使美国S.情况更糟。下表总结了第二部分 (1) 中讨论的每种合作途径的成本和收益，第三部分和 (2) 中讨论的风险缓解战略和国际合作的建议，这些建议是每个网络中的再平衡在全球有效所需的。每个合作途径的收益，风险和挑战各不相同 ； 因此，通过出版物和会议进行的外国学生入学和知识传播应继续进行，但有限的例外，而积极的研究合作要求在政府的指导和指导下，对个别研究人员和机构进行更多的限制。 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会5AI 研发网络费用好处风险缓解策略国际合作的作用中美 AI 联合出版物接触到可以用来以不利于美国的价值观、经济或国家安全在中国获取支持美国创新的人工智能知识有机会了解中国人工智能研发的步伐和重点研究关系可以导致在美国大学的研究生学习制定一种筛选联合研究的方法 ， 考虑到它是否为中国研究人员提供了他们自己无法获得的新信息 ； 中国合作伙伴是否隶属于中国军方 (即国防七子) ； 并考虑到研究的潜在应用需要与关键的人工智能大国 (欧盟、日本、英国和其他国家) 保持一致 ， 以防止美国的行动仅仅导致中国研究人员与第三国的人工智能研究人员增加联合出版物国际 AI 会议中国研究人员获得美国前沿人工智能发展为美国研究人员提供有关中国 AI 发展的见解有机会了解中国人工智能研发的速度和重点狭隘地专注于从会议中筛选不良行为者 ， 以限制从参与会议中获得的人工智能知识和网络的类型。顶级 AI 会议是全球性的 ， 需要国际协调联网在美国大学注册计算机科学和其他 AI 相关课程对技术研究人员和工程师进行实践培训 ， 其中许多人将留在美国 ， 但其中一些人可能会返回中国大学的经济收益有利于学生 / 教师的研究机会让中国人工智能人才接触美国的价值观和机遇关于联合人工智能研究的原则 ， 以指导大学如何筛选出高风险学生 （ 例如 ， 来自 CCP ）与执法部门合作识别不良行为者增加中国学生 / 研究人员的机会与西方其他大学结盟需要解决渗漏问题 (即在非美国大学 ）就研究原则的共同方法开展国际合作 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会6毕业后留在美国 （ 即提供获得永久居留权和公民身份的明确途径 ）打开出版物访问美国的访问Curtailing open人工智能研究前沿人工智能研究研究人员对人工智能的发展China发布可能不可行且不一致与更广泛的美国支持开放internet美国在中国的私营部门实验室 / 中国在美国的私营部门实验室培训和获取商业敏感的 AI 知识技术转让要求与中国顶尖人工智能研究人员密切合作加深对中国 AI 生态系统的了解可以进行的人工智能研究类型的限制与美国执法部门合作解决 AI 知识被盗风险与合作伙伴合作 ， 商定禁止技术转让要求的规则 （ 例如 ， 贸易协定中的非源代码要求 ）国际合作应对知识产权盗窃风险在中国测试和试用 AI 产品以衡量商业影响支持有关技术转让要求的国际规则我们还建议建立一个机构 ， 以促进政府 ， 学术界和民间社会之间就与中国进行国际 AI 合作的风险进行信息共享。这些信息将为基于风险的分析提供信息 ， 这将需要支持与中国的 AI 研发网络的任何再平衡。 民主国家可以在 AI 研究上与中国合作吗 ？ | 平衡 AI 研究网络布鲁金斯学会7中国在国际人工智能研发中的作用“科学是当今世界上最国际化的领域，” 《科学美国人》杂志的编辑去年说。国际科学合作提供了分享项目成本，资源和专业知识的机会。这些机会在人工智能研发方面尤其重要，因为由于 FCAI 进度报告中描述的原因，人工智能的研发特别具有协作性。此外，联合研究可以产生更大的影响，因为其产出在全球范围内被更多地接受，并且它提供了更多获得新思想的机会。 2 确实，研究表明，国际合作产生的科学出版物比合作较少