2025 CSET对美国人工智能行动计划的建议

引言 乔治城大学安全和新兴技术中心（CSET）根据2025年1月23日总统行政命令的规定，提交了以下关于人工智能（AI）行动计划发展的建议。这些建议来源于CSET在评估和评估、生物安全、网络安全和AI、军事AI应用、技术监控、美中竞争分析以及AI劳动力研究等领域广泛的研究成果。针对特朗普政府的建议大致分为三类：1）美国可以采取的步骤来推进并确保其在发展尖端AI能力方面的领导地位；2）与中国的AI竞争的倡议；3）美国政府可以采取的措施，以实现AI的益处同时减轻其风险。 我们首先提出通过在研究、创新和人才方面的投资来提升美国人工智能领导地位的几项建议。首先，我们建议增加对公共部门在人工智能在社会和生命科学应用方面的研究资金，并广泛分享研究成果以促进新发现。其次，我们建议降低新兴人工智能公司的进入门槛，以刺激创新和健康的市场竞争。促进竞争性市场和开放的人工智能模型将使新的、多样化的方法能够应用于前沿研究，提供实现强大模型效益的替代途径。最后，我们建议美国进一步发展人工智能人才，以加强我们的研究生态系统并创造新的商业机会。增加劳动力培训项目的资金并创建人工智能奖学金服务计划，将使私营部门工人和公职人员具备最有效地开发和利用人工智能工具所需的能力。保持人工智能领导地位需要持续致力于那些已被证明对美国具有根本优势的研究和专业知识。 我们接下来提出关于在美国和中国之间导航人工智能竞争的建议。我们首先建议政府采取双重策略来加强美国的科技竞争力。防止非法技术转移，同时提高美国对关键人工智能组件的出口控制效果，最终将削弱中国的AI生态系统。这需要与盟友和伙伴密切合作，制定联合策略，并广泛支持出口控制目标：合作将转化为更高的有效性。我们还建议政府优先缓解美国政府与前沿AI公司之间的信息不对称，以避免技术惊喜并与盟友进行情报共享。对开源情报收集的投资，包括国内创造的能力和相关中国在AI生态系统的发展，对于制定主动的美国AI政策至关重要。最后，我们建议政府 实施人工智能事件报告制度，以汇总关于人工智能故障模式和新兴风险的数据，这有助于更好地指导安全科学研究优先事项和风险缓解策略。 最后，我们建议美国政府采取行动，在实现AI益处的同时将风险降至最低。提供公众保证，以纠正AI系统的损害，并保护举报者免受公司报复，可以帮助公众更自信地与AI互动。我们建议政府创建标准路径来挑战AI引起的负面决策，并设立前沿AI企业的员工举报保护制度，这最终可以通过消除危险行为来提高系统性能。政府还应积极防御AI风险，制定AI系统可能被用于造成损害（如生物技术领域）的威胁特征，以及针对这些风险的定制模式保障。AI评估和标准在阐明系统能力并通过与私营部门的合作推动AI进步方面发挥着至关重要的作用。政府应授权联邦机构推进AI评估科学和标准，并展示评估的采用如何促进AI在使命成功中的应用。 RFI回复：人工智能（AI）行动计划的发展 联邦登记文件引用：90 FR 9088 机构名称: 国家科学基金会，网络与信息技术研究与开发国家协调办公室组织中心安全与新兴技术（CSET），乔治城大学主要研究对象: 米亚·霍夫曼（mh2171@georgetown.edu），杰克·卡尔滕（jk2497@georgetown.edu），米娜·纳拉扬南（mjn82@georgetown.edu） 乔治城大学安全与新兴技术中心（CSET）就国家科学基金会网络与信息技术研究与发展国家协调办公室就评论请求提供的以下评论： 人工智能行动计划的发展乔治城大学内部的政策研究机构华府外交学院,CSET为决策者提供关于新兴技术安全影响的数据驱动分析，重点关注人工智能、高级计算和生物技术。我们感谢有机会提出这些意见。 降低人工智能风险............................................................................................................11概述.........................................................................................................................................2推进人工智能评估科学和标准....................................................................12开发和保障人才获取权..................................................................................5推广人工智能研究和开发..................................................................................2刺激市场、竞争和创新 ...................................................................3与中国的竞争...................................................................................................................7改善人工智能信息环境..............................................................................8加强日益增长的AI劳动力。5推广更广泛范围的AI教育。6禁止将非法技术转让给中国……7评估和监控出口控制的有效性............................................................................7与盟友和合作伙伴合作以确保控制措施保持有效。8培养动态和竞争性的市场...............................................................................................3推广开源人工智能模型4激励多种方法进行前沿研究……5利用开源情报避免技术惊喜8在政府部门和私营部门间共享情报.................................................................9鼓励报告人工智能事件以促进技术采用10推进人工智能评估科学，以了解模型能力........................................................12发展、采用和同步标准 .........................................................................................13保护公众免受人工智能造成的伤害。11防范AI赋能的生物风险..........................................................................................11 此文件经批准向公众分发。该文件不包含商业专有或保密信息。政府可在不署名的情况下，将文件内容用于制定人工智能行动计划及相关文件。 概览 乔治城大学安全与新兴技术中心（CSET）根据2025年1月23日总统行政命令提出的以下关于人工智能（AI）行动计划发展的建议。这些建议源自CSET广泛的研究成果，主要分为三类：1）美国可以采取的步骤以推进并确保其在开发尖端AI能力方面的领导地位；2）与中国在AI领域的竞争倡议；3）美国政府可以采取的措施以实现AI的益处同时减轻其风险。 推动人工智能研究和开发。 推动人工智能研究与发展（R&D）应在新的人工智能行动计划中成为优先事项。联邦政府填补了关键的R&D空白，并处于独特的位置，以推动特定领域的研发优先级和产出。鉴于私营部门在推动人工智能R&D方面的主导地位，政府可以在解决没有直接利润动机的重要研究空白中发挥关键作用，例如理解人工智能的社会、政治和经济影响。为了促进美国人工智能R&D的领导地位，政府应激励并奖励采用跨学科方法的项目，鼓励研究发现的公开和广泛传播，并支持与私营部门创新协调的公共部门研究。由于人工智能是一种通用技术，基础R&D支持下游模型开发用于商业用途、应用，最终以及利润。我们必须建立一个繁荣的、跨学科的和跨行业的AI研究生态系统，以增强美国的AI主导地位。 ●将商业人工智能开发和创新与由公共部门推动的稳健、持续的研发资金相结合这包括在大学、国家实验室、联邦资助的研究与开发中心以及非营利机构进行的研究，有时与私营部门合作，涉及技术和非技术领域的广泛范围。此类研究包括但不限于以下内容：考察人工智能如何与人类行为、流程和结构相互作用及产生影響；旨在改进我们理解和映射研究转化为商业创新和实际应用的方法；并创建详尽且广泛可用的开放数据集。 ●推动人工智能增强型科学进步：交叉口人工智能与生物技术（AIxBio）具有巨大的发展潜力。—不仅因为生物医学和工业创新，而且作为经济优势和技术影响力竞争的全球战场，这些优势和技术影响力将由在AIxBio技术发展中领先的各国所获得。 一份未来的AI行动计划必须包括强有力的措施来推进AI驱动的生物技术，以便美国能够享受到这些好处。这样的行动计划应包括： ○支持AIxBio的资金、能力、基础设施和劳动力。虽然一些最大的、计算密集型的生物人工智能模型由行业开发，但许多更专业、特定领域的AIxBio模型来自学术研究小组。为AIxBio研究人员提供更多资源将提高可实现发展的速度和范围，并促进其向实际应用的转变。 ○基础设施生物数据。目前，对于可能推动未来AIxBio应用类型的数据，存在重大限制，包括缺乏大型的、标准化的、标记的和注释的训练集以供AI系统使用。美国应优先发展更强大的数据库，并探索激励措施，以鼓励研究人员以AI可用的格式收集生物数据。 刺激市场、竞争和创新 培育动态且具有竞争力的市场。 维持美国在人工智能领域的长期领导地位需要建立一个动态且多样化的国内人工智能系统市场。这样一个生态系统——其中许多不同的开发者被赋权追求各种人工智能技术和工具，并将他们的成功转化为可行的企业——将促进创新并确保美国继续处于人工智能的前沿。然而，目前美国的AI行业主要由少数几家现有企业主导，这些企业拥有阻挠竞争美国AI开发者和可能抑制颠覆性AI创新的能力和动机。为了促进美国AI行业的长期健康发展，政策制定者应降低新AI开发者的进入壁垒，并确保现有企业不利用其权力压制AI市场的竞争。为此，我们提出以下三个建议： ●推动一个更加开放和竞争激烈的云计算市场。计算资源对于构建和部署人工智能系统至关重要。许多美国人工智能开发者通过以下方式访问这些资源：云服务提供商（CSPs）如亚马逊网络服务、微软Azure和谷歌云平台。政策制定者应该打击出口费用、限制性合同条款等。其他策略运营商用来“锁定”客户的策略，并实施非歧视和开放接入规则，以防止运营商在大型AI开发者和小型AI公司之间偏袒前者。 ●保持AI产品的开放分销渠道。为了构建成功的业务，人工智能开发者将他们的产品推向市场并分发给客户。许多最显著的AI产品“分销渠道”——如移动设备、软件套件、在线市场和应用程序商店以及云平台——均由现任技术公司那些内部开发人工智能系统或与知名第三方开发者保持财务联系的公司。政策制定者应禁止公司参与 自我偏好、捆绑和其他允许他们排除竞争对手的AI开发者从有价值的产品分销渠道中的策略。这种行为可能使新的AI开发者更难在市场上站稳脚跟，从而阻碍长期内的竞争和创新。 ●密切关注人工智能行业内的并购（M&A）和企业“合作伙伴关系”。并购交易可