中美竞争与军事人工智能（英文）

2023 年 7 月美中竞争与军事 AI华盛顿如何在与北京的竞争中管理战略风险雅各布 · 斯托克斯和亚历山大 · 沙利文与诺亚 · 格林 关于作者雅各布 · 斯托克斯是 CNAS 印度太平洋安全计划的高级研究员 ， 他的工作重点是美中关系 ， 中国外交政策 ， 东亚安全事务和大国竞争。他曾在白宫担任国家安全事务时任副总统拜登的工作人员。他还曾担任美中经济与安全审查委员会的专业工作人员 ， 美国参议员艾米 · 克洛布查尔的顾问 ， 以及美国和平研究所中国项目的高级分析师。他是外交关系委员会的任期成员。亚历山大 · 沙利文是 CNAS 印度太平洋安全计划的兼职研究员 ， 他专注于美中关系 ， 中国外交政策以及经济与安全的关系。诺亚 · 格林是 CNAS 人工智能安全与稳定项目的项目助理。他的投资组合包括人工智能在美国 ， 俄罗斯 ， 中国和欧洲的军事应用研究。关于印度 - 太平洋安全计划CNAS 印度 - 太平洋安全计划解决了美国在该地区的机遇和挑战 ， 越来越关注起源于印度 - 太平洋地区但具有全球影响的问题。它借鉴了在区域研究方面具有深厚的政府和非政府专业知识的团队，美国S.外交和国防政策，以及国际安全。印度 - 太平洋安全计划分析趋势，并围绕五个主要研究重点生成实用和创造性的政策解决方案 ：S.- 中国的战略竞争，印度在印太地区日益重要的作用，美国的联盟和伙伴关系，朝鲜的威胁，以及南亚和中亚的挑战。关于人工智能安全与稳定项目CNAS AI 安全与稳定项目是一项为期多年、多项目的工作 ， 旨在解决与人工智能相关的既定和新出现的风险。我们的工作重点是预测和减轻灾难性的 AI 故障; 改善美国国防部的 AI 测试和评估流程; 理解和塑造计算机会治理 ； 了解中国在人工智能和稳定性方面的决策 ； 了解俄罗斯在人工智能和稳定性方面的决策。Acknowledgments作者感谢美国和其他地方的许多官员和专家 ， 他们分享了他们在这个项目过程中的观点。他们特别感谢乔尔 · 乌斯诺 ， 凯文 · 波利特 ，J.Michael Dahm，Jacqely Scheider，Adam Segal 和 James Acto 为该项目的工作组提供了有见地的演讲。还要感谢 Vicet Bolai，Pal Scharre 和 Lisa Crtis 对手稿的专家评论，以及 Mara McCarthy 的敏锐编辑。最后，如果没有许多 CNAS 同事的帮助，包括丽贝卡 · 维特纳，旋律 · 库克，林 · 罗斯巴克，艾莉森 · 弗朗西斯，杰克 · 彭斯，艾玛 · 斯威斯洛和莱斯利 · 梅伦德斯。此处提供的观点不代表 CNAS 或任何其他组织的观点，作者对事实，分析或遗漏中的任何错误负全责。在公开慈善事业的慷慨支持下，这份报告得以实现。作为一家致力于组织，知识和个人诚信的最高标准的研究和政策机构，CNAS 保持严格的知识独立性和对其思想，项目，出版物，活动和其他研究活动的唯一编辑指导和控制。CNAS 在政策问题上不采取机构立场，CNAS 出版物的内容仅反映其作者的观点。根据其使命和价值观，CNAS 不参与游说活动，并完全遵守所有适用的联邦、州和地方法律。CNAS 不会代表任何实体或利益参与任何代表活动或宣传，并该中心在接受非美国来源资助的范围内 ， 其活动将仅限于与适用的联邦法律相一致的真正的学术 ， 学术和研究相关活动。该中心每年在其网站上公开承认所有捐款的捐助者。 TABLE OF CONTENTS01执行摘要02Introduction02 北京的 AI 计划和 AI 在中国军事现代化中的作用06 战略风险路径军事 AI 可能在美中关系中造成或加剧从军事 AI 管理战略风险的 11 种选择14 对政策制定者的建议17 结论 中太平洋安全计划和人工智能安全与稳定项目 | 2023 年 7 月美中竞争与军事 AI ： 华盛顿如何在与北京的竞争中管理战略风险1T执行摘要国际安全环境中的两种构造趋势似乎正在碰撞。第一个趋势是美国和中华人民共和国 （ 中华人民共和国或中国 ） 之间的地缘政治竞争加剧。第二个趋势是人工智能 （ AI ） 技术的快速发展，包括军事应用。本报告探讨了美国如何管理战略风险 - 定义为武装冲突或核战争威胁的增加 - 可能由军事 AI 在与中国的关系中造成或加剧。首先概述了中国对 AI 的看法和政策。北京认为 AI 在其民用经济和现代化中都发挥着作用在国内 ， 中国领导人希望利用人工智能来促进增长和创新 ， 应对经济和社会挑战 ， 并确保中国共产党 (CCP) 的国内统治。AI 在中国的军事野心中也发挥着关键作用 ， 尤其是其在本世纪中叶成为 “世界一流军队 ” 的目标 ， 部分原因是其部队的“ 智能化 ” 。智能化依赖于将 AI 和其他新兴技术与中国认为 ， 其治理模式 ， 包括其军民融合政策 ， 赋予北京相对于华盛顿的竞争优势。然而 ， 实现这一愿景仍然不确定 ， 需要中国克服外部和内部障碍。接下来，该报告阐述了作者所说的五类途径或因果关系，通过这些途径，军事人工智能的应用可能会破坏华盛顿和北京之间的稳定性并增加战略风险。首先是个人能力的提高，这些能力共同赋予中国军事优势。第二是人工智能对决策和信息领域的影响。第三是无船员的自治系统。第四是情报、监视和侦察。第五是指挥、控制和通信。报告对每种途径的讨论提供了有关它们如何发挥作用的复杂性的更多细节。总之 ， 军事人工智能的出现可能会加深美中竞争并增加战略风险。决策者可以借鉴三类应对方案。这些包括限制中国的军事人工智能 ， 同时提高美国自身的能力 -联系 ； 参与军事人工智能的单边负责任管理 ； 追求双边和多边优势以减少战略风险。华盛顿已经在所有三个类别中采取了行动 ， 外国资本也同样寻求塑造军事人工智能环境。为了在迄今采取的行动基础上 ， 美国政策制定者应该 ：◾为了军事和镇压目的 ， 采取大胆的行动来限制中国在人工智能方面的进步 ， 但要以狭隘的方式这样做 ， 避免弄巧成竹的步骤 ；◾建立美国军事 AI 能力以保持领先地位 ；◾制定、颁布和实施关于负责任的军事人工智能的规范和最佳实践 ；◾积极与志同道合的盟友和合作伙伴以及多边机构就军事人工智能问题进行接触 ；◾与中国就军事人工智能相关的降低风险和建立信任措施进行谈判 ；◾尽管存在持续挑战 ， 但继续追求普遍的中美风险降低和危机管理机制 ；◾使军事人工智能成为与中国有关核武器和战略稳定的外交的基本支柱 ；◾采取措施减少不是由军事人工智能直接造成的战略风险 ， 但可能因军事人工智能的固有速度和不可预测性而恶化 ；◾优先收集和分析中国军事人工智能能力 ， 并对其进行净评估。 @ CNASDC2TBIntroduction国际安全环境中的两种构造趋势似乎正在发生碰撞。第一个趋势是愈演愈烈美国和中华人民共和国 (中华人民共和国或中国) 之间的地缘政治竞争。自 2010 年代中期以来 ， 华盛顿和北京之间的关系已经演变成美国总统拜登所说的 “极端 ” 战略竞争 ， 跨越外交、经济、军事和政府领域。1 两国领导人进一步断言 ， 新兴技术将在两个超级大国之间关于全球力量未来的竞争中发挥决定性作用 ， 包括通过塑造军事平衡。第二个趋势是人工智能 （ AI ） 技术的快速发展。最近的 AI 突破 ， 例如 ChatGPT ， DALL • E 和其他生成 AI 模型 ， 在全球头条新闻中大放异彩 ， 并在创纪录的时间内积累了天文数字。2它们说明了新兴技术一旦成熟 ， 将如何迅速彻底改变整个行业。人工智能的重大发展在很大程度上been limited to the civil sector so far. However, AI systems that can be used for a range of military applications — a broad category this report referred to using the shorthand military AI — are same这两种趋势的结合有可能增加本报告所称的战略风险。该术语在这里用于指华盛顿和北京之间武装冲突或核战争威胁的增加。3本报告探讨了美国如何管理军事人工智能在与中国的关系中可能造成或更严重的战略风险。报告分为四个部分。第一部分详细介绍了中国如何看待人工智能在民用经济和军队现代化中发挥的作用。它还探讨了北京如何看待这些新兴能力塑造战争的未来特征。4 第二部分详细介绍了作者所说的五类途径或因果关系，通过这些途径，军事人工智能的应用可能会破坏华盛顿和北京之间的稳定性并增加战略风险。第三部分评估了沿着这些途径管理战略风险的三类选择。最后，第四节对美国如何S.决策者可以减少和减轻军事人工智能在与中国的战略竞争中可能对和平与稳定构成的风险。中国总书记习近平在 2022 年 10 月 23 日中国共产党第二十次代表大会会议上在人民大会堂发表讲话。习近平在北京举行的每十年两次的会议上强调了科学技术的重要性。 （ 张林涛 / 盖蒂图片 ）北京的 AI 计划和 AI 在中国军事现代化中的作用中国的其他公共和私人行为者认为人工智能对中国的未来至关重要。对于党国来说 ， 人工智能的重要性超越了对军事或政治权力的任何贡献 ， 尽管这些当然是重要的好处。它将 AI 视为增强经济增长和社会福利的关键 - 简而言之 ， 对国家的未来在各个方面都至关重要。正如中国共产党总书记习近平在 2017 年 10 月提交给党的十九大的工作报告中所说 ， 中国最高领导人一再表示致力于使中国成为 “科技大国 ” 。5在 2022 年 10 月的第二十次党代会上 ， 习近平表示 “创新仍将是中国现代化建设的核心 ” ； 到 2035 年 ， 中国将“ 以强大的自力更生和科学技术实力加入世界上最具创新力的国家行列 ” ； 它应该 “坚决赢得关键和核心技术的战斗 ” 。6 习近平的这一承诺在 4 月份的中共中央政治局会议上得到重申其中他呼吁 “一般人工智能的发展 ” ， 在西方通常被称为人工智能一般智能 （ AGI ） ， 并被定义为一种能够在不同环境中广泛解决问题的 AI 形式。7然而 ， AGI 的定义有些模糊 ， 并且经常随着技术的新进步而变化。 中太平洋安全计划和人工智能安全与稳定项目 | 2023 年 7 月美中竞争与军事 AI ： 华盛顿如何在与北京的竞争中管理战略风险3正如 2017 年 “新一代人工智能发展规划 ” （ AIDP ） 所说 ，“ 人工智能已成为经济发展的新引擎 ” 。8 鉴于数据是人工智能发展的关键投入之一 ， 中国的人工智能目标是创建国家数据管理局作为整体重组的一部分的关键动机国务院在 2023 年 “两会 ” 会议上公布。9中国领导人认为 ， 世界领先的人工智能能力对于他们的国家继续攀升全球价值链并超越其传统的发展模式是必要的 ， 传统的发展模式已经实现了国内生产总值 （ GDP ） 的快速增长 ， 但产生了地理失衡 ， 环境成本和工业产能过剩 - 实现 “高质量 ” 和可持续增长。中国的规划者着眼于人工智能在特定领域的应用 ， 以解决无数的经济和社会问题。10他们期望社会控制系统。而叙述人工智能驱动的 ， 全面的 “社会信用体系 ” 描述了北京的野心 ， 而不是当前的技术现实 ，11自动内容审核的使用已经是中国庞大的互联网审查系统的重要组成部分。12 面部和其他生物特征识别 ， 计算机视觉和其他 AI 技术是针对新疆维吾尔族人的种族灭绝的关键工具。这些技术也越来越多地用于监视和控制其他少数民族和更广泛的人口。13最后 ， 尽管中共旨在指导和协调整个中国社会的人工智能的发展和使用 ， 但中共认识到它不能独自做到这一点。商业 ， 学术界 ， 医学和民间社会的私人行为者将是研究如何使用这些工具来突破其领域界限的主要行为者。就其本身而言 ， 该党的目标是人工智能及相关技术 -机器人等技术可以提高工业生产率 ， 抵消中国劳动年龄人口的减少 ， 同时更好地利用比他