CSET的人工智能行动计划建议

引言 乔治敦大学安全与新兴技术中心（CSET）根据2025年1月23日总统行政命令的要求，提交了以下关于人工智能（AI）行动计划发展的建议。这些建议来自CSET在评估和评估、生物安全、网络安全和AI、军事AI应用、技术监控、美中竞争分析以及AI劳动力研究等领域广泛的研究。针对特朗普政府的建议主要分为三个类别：1）美国可以采取的步骤来推进和确保其在开发尖端AI能力方面的领导地位，2）与中国的AI竞争的倡议，以及3）美国政府可以采取的措施以实现AI的益处同时减轻其风险。 我们首先提出了通过在研究、创新和人才方面的投资来提升美国人工智能领导地位的几项建议。首先，我们建议增加对公共部门在人工智能应用方面的社会和生命科学研究资金，并广泛分享发现以促进新的发现。其次，我们建议降低新兴人工智能公司的进入门槛，以刺激创新和健康的市场竞争。推动竞争性市场和开放的AI模型将能够为前沿研究提供新的、多样化的方法，为实现强大模型的好处提供替代途径。最后，我们建议美国进一步发展人工智能人才，以加强我们的研究生态系统并创造新的商业机会。增加劳动力培训计划资金并创建人工智能奖学金服务项目将为私营部门工人和公务员配备最有效地开发和利用人工智能工具所需的技能。保持人工智能领导地位需要持续承诺于那些已被证明对美国具有根本优势的研究和专业知识。 我们接下来提出应对美国和中国之间人工智能竞争的建议。首先，我们建议政府采取双管齐下的策略来加强美国的科技竞争力。防止非法技术转移，并增强美国对关键人工智能组件出口控制的效力，最终将削弱中国的人工智能生态系统。这需要与盟国和合作伙伴紧密合作，制定联合战略并获得广泛支持以实现出口控制目标：合作将转化为更高的效率。我们还建议政府优先考虑缓解美国政府和前沿人工智能公司之间的信息不对称，以避免技术惊喜并与盟国共享情报。对开源情报收集的投资，无论是与国内创造的技能相关还是与中国的AI生态系统发展相关，对于形成积极主动的美国AI政策至关重要。最后，我们建议政府 实施人工智能事件报告制度，以汇总人工智能故障模式和新兴风险的数据，从而更好地指导安全科学研究优先事项和风险缓解策略。 最后，我们建议美国政府采取行动，在最大限度地降低风险的同时实现人工智能的益处。提供对人工智能系统造成的伤害进行补救的公共保证，并保护举报人免受公司报复，可以帮助公众更自信地与人工智能互动。我们建议政府建立标准途径来挑战人工智能驱动的负面决策，并为前沿人工智能公司的员工建立举报人保护，这最终可能通过减少危险行为来提高系统性能。政府还应通过创建用于造成损害的威胁档案以及针对这些风险定制的模型安全措施，积极主动地防范人工智能风险。人工智能评估和标准在阐明系统能力和通过与企业合作推动人工智能进步方面发挥着关键作用。政府应授权联邦机构推进人工智能评估科学和标准，并展示评估采用如何促进人工智能在任务成功中的应用。 RFI响应：人工智能（AI）行动计划的发展 联邦登记文献引用：90 FR 9088 机构名称国家科学基金会，网络与信息技术研究与发展国家协调办公室组织: 中心安全与新兴技术（CSET），乔治城大学主要目标原位化合物: 米亚·霍夫曼（mh2171@georgetown.edu），杰克·卡尔斯滕（jk2497@georgetown.edu），米娜·纳拉扬南（mjn82@georgetown.edu） 乔治敦大学安全与新兴技术中心（CSET）针对国家科学基金会网络与信息技术研究与开发国家协调办公室就以下评论征求意见的要求，提供如下意见：人工智能行动计划的发展乔治城大学内的一个政策研究机构华尔什外交学院CSET 为 决策者提供关于新兴技术安全影响的数据驱动分析，重点关注人工智能、高级计算和生物技术。我们感谢有机会提供这些评论。 减轻人工智能带来的风险 ............................................................................................................11概述.........................................................................................................................................2推动人工智能评估科学和标准…………12开发和保障人才获取..................................................................................5推动人工智能研究和开发..................................................................................2刺激市场、竞争和创新 ...................................................................3与中国的竞争...................................................................................................................7改善人工智能信息环境..............................................................................8加强日益增长的AI人才队伍5推广更广泛的AI教育内容... ...6停止将非法技术转移到中国。7评估和监控出口管制以评估其有效性............................................................................7与盟友和合作伙伴合作，以确保控制措施保持有效。8培养动态和竞争市场3推广开放AI模型4激励多种前沿研究方法……5利用开源情报避免技术惊喜8在政府部门和私营部门间共享情报.................................................................9鼓励报告AI事件以促进技术采用10将人工智能评估科学向前推进，以理解模型能力........................................................12开发、采用和同步标准 .........................................................................................13保护公众免受人工智能造成的伤害。11防范AI赋能的生物风险..........................................................................................11 本文件经批准对外公开分发。文件中不包含商业机密或保密信息。政府可在无需注明来源的情况下，将文件内容用于制定人工智能行动计划及相关文件。 概述 乔治城大学安全与新兴技术中心（CSET）根据2025年1月23日总统行政命令，提出以下关于人工智能（AI）行动计划发展的建议。这些建议源自CSET广泛的研究成果，主要分为三类：1）美国可以采取的步骤来推进并保障其在开发尖端AI能力方面的领导地位；2）与中国在AI领域的竞争措施；3）美国政府可以采取的措施，以实现AI的益处同时减轻其风险。 推动人工智能研究与开发 推动人工智能研究与发展（R&D）应在新的AI行动计划中成为优先事项。联邦政府在填补关键性R&D缺口上发挥着关键作用，并且处于独特地位来推动特定领域的研究优先级和生产。鉴于私营部门在推动AI研发中的主导地位，政府可以在没有即时利润动机的重要研究领域发挥关键作用，如理解AI在社交、政治和经济方面的含义。为了促进美国的AI研发领导力，政府应鼓励和奖励采用多学科方法的科研项目，鼓励研究成果公开、广泛地传播，并支持与私营部门创新协调一致的公共部门研究。由于AI是一种通用技术，基础R&D支持下游模型的发展，用于商业、应用，最终实现盈利。我们必须建立一个蓬勃发展、多学科跨行业的AI研究生态系统，以增强美国在AI领域的主导地位。 ●将商业人工智能的开发和创新与由公共部门推动的稳健、持续的研发资金相结合。这包括在大学、国家实验室、联邦资助的研究与发展中心和非营利机构进行的研发，有时与私营部门合作，涉及众多技术与非技术领域。这类研究包括：探究人工智能如何与人类行为、过程和结构相互作用和产生影响；旨在提升我们对研究成果转化为商业创新和实际应用的理解和映射的指标；以及创建详实且有广泛可用性的开源数据集。 ●促进人工智能增强的科学进步：交点人工智能与生物技术（AIxBio）具有巨大的发展潜力。——不仅为了生物医学和工业创新，而且还作为全球经济优势和科技影响力竞争的战场，这将授予在AIxBio技术发展中领先的国家的。 一个未来的AI行动计划必须包括强大的倡议，以推进以AI驱动的生物技术，以便美国能享有这些利益。这样一个行动计划应包括： ○支持AIxBio的资金、能力、基础设施和人力。虽然一些最大的、计算密集型的生物人工智能模型由行业开发，但许多更专门化的、领域特定的AIxBio模型来自学术研究小组。为AIxBio研究人员提供额外资源将提高可实现的开发的速度和范围，并促进它们向实际应用的转化。 ○生物数据基础设施目前，未来AIxBio应用能够使用的生物数据类型存在重大限制，包括缺乏大型、标准化、标记和注释的训练集，适用于AI系统。美国应优先发展更强大的数据库，并探索激励措施，以鼓励研究人员以AI可用的格式收集生物数据。 刺激市场、竞争与创新 培养动态和竞争性市场 维持美国在人工智能领域的长期领导地位需要建立一个动态且多元化的国内人工智能系统市场。这样一个生态系统——其中许多不同的开发者被授权追求各种人工智能技术和工具，并将他们的成功转化为可行的企业——将促进创新并确保美国在人工智能领域始终保持领先地位。然而，目前美国的AI行业由少数几家现有企业主导，这些企业拥有权力和动机来阻挠竞争对手的美国AI开发者，并可能抑制颠覆性的人工智能创新。为了促进美国AI行业的长期健康发展，政策制定者应降低新AI开发者的进入壁垒，并确保现有企业不利用其权力来扼杀AI市场的竞争。为此，我们提出以下三条建议： ●推动一个更加开放和竞争的云计算市场。计算资源是构建和部署人工智能系统的关键输入。许多美国人工智能开发者通过以下方式访问这些资源：云服务提供商（CSPs）如亚马逊网络服务、微软Azure和谷歌云平台。政策制定者应打击出口费用、限制性合同条款和其他战术那些电信服务提供商用来“锁定”客户的方法，并实施非歧视和开放接入规则，以防止电信服务提供商在大型人工智能开发商和较小的人工智能公司之间偏袒前者。 ●维持人工智能产品的开放分销渠道。为了构建成功的商业，人工智能开发者向客户推广和分销他们的产品。许多人工智能产品最突出的“分销渠道”——移动设备、软件套件、在线市场及应用程序商店和云计算平台——都归以下所有：现任技术公司内部开发人工智能系统或与知名第三方开发者保持财务联系。政策制定者应禁止公司从事 自我偏好、捆绑和其他允许他们排除竞争对手人工智能开发者从有价值的产品分销渠道的策略。这种行为可能使新的AI开发者更难在市场上立足，从长远来看阻碍竞争和创新。 ●密切监测人工智能行业中的并购（M&A）和企业“伙伴关系”。并购交易可能产生积极的创新效应，使公司能够实现规模经济，获取新技术和人才，同时也可能产生负面效应，可能降低现有企业的创新动力，并使他们能够阻止颠覆性竞争者进入市场。近年来，现有科技企业也开始参与“合作关系与外部AI开发者合作。这些安排不受与传统并购交易