美国安全与新兴技术中心：2025年关于人工智能行动计划的政策建议

引言 乔治城大学国家安全与新兴技术中心（CSET）应2025年1月23日总统行政令的要求，提交了关于《人工智能（AI）行动计划》发展的以下建议。这些建议基于CSET在评估与评价、生物安全、网络安全与人工智能、军事人工智能应用、技术监测、中美竞争分析及人工智能劳动力研究等广泛领域的研究成果。特朗普政府的相关建议主要分为三类：1）美国为推进并巩固其在尖端人工智能能力开发中的领导地位可采取的步骤，2）与中国在人工智能领域的竞争计划，3）美国政府为实现人工智能的益处并降低其风险可采取的行动。 我们首先提出几项建议，通过在研究、创新和人才方面的投资，提升美国人工智能的领导地位。首先，我们建议增加对公共部门社会与生命科学领域人工智能应用研究的资金投入，并广泛分享研究成果以促进新的发现。其次，我们建议降低新兴人工智能公司的进入门槛，以刺激创新和健康的市场竞争。促进竞争性市场和开放型人工智能模型将推动前沿研究的新颖、多元化方法，为实现强大模型带来的益处提供替代路径。最后，我们建议美国进一步发展人工智能人才，以强化我们的研究生态系统并创造新的商业机会。增加对劳动力培训项目的资金投入，并设立人工智能服务奖学金项目，将为私营部门员工和公务员提供必要的技能，以最有效地开发和利用人工智能工具。保持人工智能领导地位需要持续投入那些已被证明对美国构成根本优势的研究与专业知识。 我们随后就中美人工智能竞争提出建议。我们首先建议政府采取双管齐下的方法来增强美国的技术竞争力。防止非法技术转让，同时提高美国对关键人工智能组件出口管制的有效性，最终将削弱中国的人工智能生态系统。这将需要与盟友和伙伴紧密合作，共同制定联合策略，为出口管制目标争取广泛支持：合作将转化为更大的效力。我们还建议政府优先缓解美国政府与前沿人工智能公司之间的信息不对称，以避免技术意外，并为与盟友进行情报共享。对开源情报收集的投资，包括与国内创建能力和中国人工智能生态系统发展的相关内容，将至关重要，以指导积极主动的美国人工智能政策。最后，我们建议政府 落实人工智能事件报告制度，汇总人工智能故障模式和新兴风险数据，以更好地为安全科学研究优先事项和风险缓解策略提供信息。 最后，我们建议美国政府采取行动，在最小化风险的同时实现人工智能（AI）的效益。为纠正AI系统的损害提供公共保障，并保护举报人免受公司报复，将有助于公众更自信地参与人工智能。我们建议政府创建标准化的申诉途径来挑战不利的AI决策，并为前沿AI公司的员工设立举报人保护制度，这最终可能通过抑制危险行为来提升系统性能。政府还应以积极的态度防范AI风险，通过创建针对AI系统可能如何在生物技术等领域造成伤害的威胁档案，以及制定针对性的模型安全措施来应对这些风险。AI评估和标准在阐明系统功能以及通过与私营部门的合作推动AI进步方面发挥着关键作用。政府应授权联邦机构推进AI评估科学和标准，并展示评估的应用如何促进AI在任务成功中的应用。 RFI回复：人工智能（AI）行动计划的发展。 联邦公报文献引用：90 FR 9088 机构名称: 国家科学基金会，网络和信息技术研究与发展国家协调办公室组织: 乔治城大学国家安全与新兴技术中心 (CSET)主要POCs: 米娅·霍夫曼 (mh2171@georgetown.edu), 杰克·卡斯特恩 (jk2497@georgetown.edu), 米娜·纳拉扬 (mjn82@georgetown.edu) 乔治城大学国家安全与新兴技术中心（CSET）就国家科学基金会网络和信息技术研究与发展国家协调办公室的评论请求作出如下评论。人工智能行动计划的发展乔治城大学内的一个政策研究机构瓦尔多·惠勒学院, CSET向 决策者提供关于新兴技术安全影响的数据驱动分析，重点关注人工智能、先进计算和生物技术。我们感谢提供这些意见的机会。 减轻人工智能风险 ............................................................................................................11概述.........................................................................................................................................2推进人工智能评估科学与标准 ....................................................................12开发与获取人才的安全途径..................................................................................5促进人工智能研究与发展..................................................................................2激发市场、竞争与创新 ...................................................................3与中国竞争...................................................................................................................7改善人工智能信息环境 ..............................................................................8加强日益增长的AI劳动力队伍5促进更广泛的人工智能教育范围6停止向中华人民共和国转移非法技术。7评估和监控出口管制以评估其有效性。7与盟友和合作伙伴合作以确保控制措施保持有效.................................................8培育富有活力和竞争力的市场。3推广开放型AI模型 ........................................................................................................................4激励多种方法进行前沿研究。5利用开源情报避免技术意外 .......................................................8在政府和私营部门之间共享情报.................................................................9鼓励报告AI事件以促进技术采纳。10推进人工智能评估科学以理解模型能力........................................................12制定、采用和协调标准13保护公众免受人工智能造成伤害。11防范人工智能赋能的生物学风险..........................................................................................11 本文件经批准公开发布。本文件不包含任何商业专有或机密信息。文档内容可由政府用于制定人工智能行动计划及有关文件，无需注明出处。 概述 乔治城大学国家安全与新兴技术中心（CSET）根据2025年1月23日发布的总统行政命令，呈报了关于人工智能（AI）行动计划发展的以下建议。这些建议基于CSET广泛的研究成果，大致可分为三类：1）美国可以采取的措施，以推进并巩固其在尖端AI能力开发方面的领导地位，2）与中国在AI领域的竞争举措，3）美国政府可以采取的行动，以实现AI的益处同时降低其风险。 推动人工智能研究与发展 推动人工智能研究与发展（R&D）应成为新《人工智能行动计划》的优先事项。联邦政府填补了关键的R&D空白，并处于独特地位，能够激励特定领域的研究优先级和生产。鉴于私营部门主导人工智能R&D的推动，政府可以在没有直接营利动机的重要研究空白领域发挥作用，例如理解人工智能的社会、政治和经济影响。为促进美国人工智能R&D的领导地位，政府应激励和奖励采用跨学科方法的项目，鼓励研究成果公开广泛传播，并协调支持公共部门研究与私营部门创新。由于人工智能是一项通用技术，基础R&D支持下游模型开发用于商业用途、应用，并最终实现利润。我们必须建立一个繁荣的、跨学科、跨部门的AI研究生态系统，以增强美国的AI主导地位。 ●将商业人工智能发展与创新相结合，并依靠公共部门提供强大、持续的研发资金。.这包括在大学、国家实验室、联邦资助的研发中心和非营利机构进行的研究，有时与私营部门合作，涵盖广泛的技术和非技术领域。其中，这类研究考察人工智能如何与人类行为、流程和结构相互作用及产生影响；旨在改进我们理解和绘制科研向商业创新和实际应用转化的指标；并创建经过良好文档记录且广泛使用的开放数据集。 ●促进人工智能增强的科技进步：The intersection of人工智能与生物技术（AIxBio）具有巨大的发展潜力。—not only for biomedical and industrial innovations, but also as a competitive global battleground for the economic advantages and technological influence that AIxBio technologies will grant to the countries that lead in their development. 一项未来的AI行动计划必须包含强有力的举措以推动人工智能驱动的生物技术发展，以便美国能够享有这些好处。该行动计划应包括： ○支持AIxBio的资助、能力、基础设施和劳动力。虽然一些最大、计算密集型的生物人工智能模型由产业界开发，但许多更专业、特定领域的AIxBio模型来自学术研究小组。为AIxBio研究人员提供额外资源将提升可实现的研发速度和范围，并促进其向实际应用的过渡。 ○生物数据基础设施。目前，用于驱动未来AIxBio应用的各种生物数据类型存在重大局限性，包括缺乏适用于AI系统的、大规模、标准化、标记化和注释完整的数据集。美国应优先发展更稳健的数据库，并探索激励措施以鼓励研究人员以AI可使用的格式收集生物数据。 激发市场、竞争与创新 培育充满活力和竞争力的市场 维持美国在人工智能领域的长期领导地位需要一个充满活力且多元化的国内人工智能系统市场。这样的生态系统——让许多不同的开发者能够追求广泛的人工智能技术和工具，并将他们的成功转化为可行的企业——将促进创新，并确保美国始终处于人工智能的前沿。然而，目前美国的AI产业被一小群现有企业主导，这些企业拥有权力和动力来阻挠其他美国AI开发者的竞争，并可能压制颠覆性的人工智能创新。为了促进美国AI产业的长期健康发展，政策制定者应降低新AI开发者的市场准入门槛，并确保现有企业不会利用其权力扼杀AI市场的竞争。为此，我们提出以下三项建议： ●促进更加开放和竞争的云计算市场。：计算资源是构建和部署人工智能系统的关键投入。许多美国人工智能开发人员通过云服务提供商(CSPs)如亚马逊网络服务、微软Azure和谷歌云平台。政策制定者应打击出口费、限制性合同条款，以及其他策略那是CSPs用来“锁定”客户，并实施非歧视和开放接入规则，以防止CSPs在大型AI开发者和小型AI公司之间给予优势的做法。 ●保持人工智能产品的开放分销渠道。为了建立成功的业务，AI开发者将其产品营销并分发给客户。许多AI产品的最突出“分销渠道”——