CSET的2024年度报告

年度报告 乔治敦大学沃尔什外国事务学院内的一个政策研究机构——安全和新兴技术中心，为决策者提供关于新兴技术安全影响的基于数据驱动分析。 了解更多，请访问cset.georgetown.edu.©2025 中心安全与新兴技术。版权所有。本报告由Jason Ly设计并由CSET制作。 目录 执行董事来信04首届暑期实习14研究09研究者聚焦132024 突出亮点07CSET在媒体上05文化宣言03捐赠者15 CSET文化声明 CSET的成立旨在通过基于证据、数据驱动的独立于政府、资助者或意识形态视角的方法来审视新兴技术。 CSET员工来自各种背景和学科，为在技术和国家安全交叉领域的科研带来了丰富的视角和经验。我们致力于培养一个根植于知识好奇心和尊重的多元、公平和包容的文化。 在CSET，我们： 挑战假设，跟随证据，了解数据如何影响决策和制定政策，并作为受信任的顾问服务于国家安全社区。 终身学习者，他们理解智力谦卑对于持续成长至关重要。我们寻求并吸收反馈，并积极致力于个人和组织的发展。 庆祝个人特色，并鼓励所有团队成员相互迎接，以营造归属感。 合作，因为我们知道问题最好以团队形式解决。 被授权在工作场所发挥主动性并参与有意义的决策制定。 支持和鼓励所有团队之间进行开放对话。 了解，虽然我们的工作很重要，但我们的个人和家庭需求应排在首位。我们重视工作之外的时光，尊重健康的工作与生活平衡，并在需要时互相支持。 衡量我们作为团队的成功。 将正直与尊重置于一切行为之上。 执行董事来信 行业领导者、慈善家和区域政策制定者，认识到技术进步影响社会的每个行业。 Dewey Murdick执行董事 这扩展的合作包括研讨会并且研讨会涵盖了从重要主题的内容人工智能代理并且关键基础设施对公共部门人才，并推出了新的工具且数据集我们的构建科技联盟会议特别具有影响力，其中一位参与者将其描述为“他们参加过的最佳且最具独特冲击力的防御人工智能活动”。 亲爱的CSET的朋友们， 随着CSET进入第七个年头，我深刻地意识到，自2018年那些早期规划会议以来我们已经走了多远。最初，这是一个将新兴技术与政策之间的差距连接起来的愿景，现在已经成长为一个塑造关于人工智能未来关键对话的组织。 在2025年，我们的研究重点被快速发展的技术变革所指引，同时保持我们对严谨、无党派分析的承诺。这从我们加强对军事和网络安全领域人工智能应用的关注、扩展保障人工智能技术方面的工作，以及继续分析人工智能人才发展等方面得到了体现。 人工智能及其应用持续重塑我们的安全格局，对CSET数据驱动的技术和政策专业组合的需求不断增长。2024年，我们的研究人员与政府官员和行业领导者进行了数百次简报，在国会作证，并发表了超过80篇分析且数十种翻译我们的四篇最受欢迎的研究作品探讨了如何大型语言模型工作，分析了如何项目马文美国第18空降军已将人工智能应用于作战，并进行了探索。中国对人工智能战争的看法并且及时分析了如何华为的人工智能芯片开发推动了美国出口管制的极限。. 这所有的一切都离不开我们尽职的员工、支持者和合作伙伴。无论通过阅读我们的政策人工智能（Policy AI）通讯，参加我们的活动，或直接支持我们的工作您在帮助CSET塑造科技政策方面发挥着关键作用。共同合作，我们可以确保人工智能加强而非损害我们的安全和繁荣。 真诚地， 今年标志着我们在新兴科技政策中应对复杂挑战的方式发生了显著演变。我们将网络范围扩大至美国政府官员之外，包括更多的 CSET在媒体上 战略与基础研究资助主任海伦·托纳 如果你在一条充满意外曲折的道路上驾驶，那么两个能大大帮助你的是拥有清晰的挡风玻璃视野和出色的转向系统。在人工智能领域，这意味着对技术目前所处位置以及其发展方向有清晰的了解，并为不同场景制定相应的计划。 欧阳J. 丹尼尔（Owen J. Daniels）分析部副总监及安德鲁·W·马歇尔研究员 Dewey Murdick执行董事 财富 “美国在全球人工智能领域陷入了一场争夺领导权的斗争，这既包括创造尖端技术，也包括确保开发者能够安全地构建新的模型和应用，以社会的利益为重。在这种背景下，确定美国如何在人工智能领域进行治理、创新和全球竞争，具有至关重要的意义。” 雅各布·费尔德戈伊斯数据研究分析师 华尔街日报 “从一个角度来看，半导体制造公司正在争夺有限的政府资金，但从另一个角度来看，各国政府正在争夺有限的先进制造能力，争夺业界的佼佼者。” 埃米莉亚·S·普罗巴斯科高级研究员 “我认为我们已经在将人工智能，包括生成式人工智能，整合到军事决策领域的道路上前进了。” 杰克·科里根高级研究员 防御情报简报 “加倍下注于前沿模型的最大的风险是，这可能导致路径依赖，将美国锁定在今天的昂贵AI发展模式中，并降低出现更有效方法的可能性——至少在美国是这样。” Josh A. Goldstein高级研究员 NPR 可能是这些发布AI生成内容的社交媒体账户是恶意页面，它们被用于...“ 试图建立观众群体，后来转向尝试销售商品或链接到广告充斥的网站，甚至可能完全改变他们的主题，转向政治话题。但更可能的是，许多这些页面只是创作者意识到，这是一种获取观众参与的有用策略。” Steph Batalis研究助理 “收集更好的生物数据，并通过人工智能处理，可能是管理一次真正的小规模疫情和任其蔓延成为更大问题的区别。” 2024 突出亮点 美国国土安全部网络安全、基础设施、风险和韧性助理部长伊兰加·卡哈南马在CSET研讨会上就人工智能、网络安全和关键基础设施发表了演讲。 Rebecca Gelles和Ronnie Kinoshita提交了他们的论文（与James Dunham和Micah Musser合著）“是计算在人工智能研究中的约束条件吗？在第38届AAAI人工智能会议上。 Ngor Luong 和 Jack Corrigan 在美国-中国经贸与安全审查委员会前作证，关于新兴技术在美中两国经济和国家安全竞争中的作用。 Steph Batalis 在国家竞争力博览会上的AI博览会上就生物安全发表了演讲。 在访问韩国共和国期间，Josh Goldstein在延世大学和国家未来研究所发表了演讲。 Olivia Albrighton-Vanway 获得了2024年乔治城大学外交学院在多元、平等与包容（DEI）领域的卓越奖。 CSET邀请了总统科学技术顾问委员会的成员，他们讨论了委员会向总统提交的报告：《网络物理弹性战略》。 CSET推出了PARAT，一个允许用户探索私营企业AI活动的数据工具，涵盖初创公司至标准普尔500强公司。 科林·希亚-布莱默在DEF CON全球最大黑客大会上赢得了生成式人工智能对抗赛。 Matthias Oschinski 领导了一场圆桌讨论，该讨论是作为 CSET、Beeck Center 和信息技术法与政策研究所主办的政府人工智能聘用、使用、购买圆桌系列研讨会的一部分。 CSET的“建立技术联盟”会议邀请了杰出的演讲者，他们讨论了军事部门在人工智能的应用，借鉴了CSET对美国第18空降军如何成功运用软件和人工智能的研究。 Helen Toner被TIME100 AI 2024评为人工智能界最具影响力的领导者之一。 贾雷特·里迪克是阿斯彭网络峰会的一名 panelist。贾雷特就美国及全球网络人才的现状发表了演讲。 海伦·托纳在美国参议院司法委员会就人工智能治理作证。 Igor Mikolic-Torreira加入了由Emmy Probasco主持的“军事领域负责任的人工智能”首尔峰会圆桌讨论。该讨论会讨论了在军事决策中负责任地使用人工智能决策支持系统。 安娜·多门在由CSET和IQT共同举办的关于国家安全领域先进微电子的活动中发表了演讲。 CSET发布了AGORA，一个用于发现和分析全球人工智能治理关键进展的数据工具。 Sam Bresnick在美国参议院司法委员会就美国科技公司与中国之间的经济和技术相互依存性作证。 研究 CSET在人工智能、网络安全和生物技术领域进行基于数据的研发，利用丰富的数据资源、专业的翻译和深入的专业知识，评估新兴技术的利弊。我们的研究涵盖九个领域，所有这些领域都基于对先进技术安全方面的关注，认识到这些技术日益互联——人工智能的进步不仅加剧了生物和网络安全风险，而且使人工智能系统和其数据面临潜在的滥用风险。在2024年，CSET在多个领域取得了显著影响。我们的研究被广泛引用，出现在从期刊到各种媒体的各种出版物中。自然至于美国-中国委员会提交给国会的年度报告。我们的专家向国会提供了关键证词，向众多政府机构提供了简报，并通过在包括在内的媒体渠道进行了广泛的媒体互动，从而塑造了政策讨论。《纽约时报》，《华尔街日报》,《华盛顿邮报》,自然,大西洋, 且NPR. 人工智能治理 CSET的人工智能治理团队帮助塑造了人工智能政策的演变格局，推动了监督的实用框架，并为政策制定者提供了可立即实施的行动指南。他们关于利用现有权力进行影响的研究展示了美国政府机构如何利用现有法律工具解决人工智能安全关切，为等待全面联邦法规提供了一个务实的选择方案。 CSET的“新兴技术观测站”发布了AGORA（AI治理与监管档案），这是一个关于人工智能相关法律、法规和标准的综合数据库，已成为全球研究人员和政策制定者的必备资源。他们的研究通过在知名出版物中发表，触及了多样化的受众。财富,《原子科学家公报》, 且国际关系委员会，等等，同时他们的虚拟活动比较了美国、欧洲和中国在治理方法上的差异，吸引了数百名参与者。到2025年，该团队正在探索不同利益相关者如何理解并在技术安全、法规和模型扩散控制中实施AI治理。 生物风险 应用程序 CSET的生物风险团队在人工智能生物技术政策交叉领域崭露头角，其分析报告直接影响了国家安全决策。该团队的工作得到了新兴生物技术国家安全委员会的多篇引用，并因其实际政策应用受到赞誉。一份关于中国优先考虑医疗人工智能和生物数据收集的里程碑式报告引发了高层政策讨论，并促成了与国会选定的中国共产主义青年团委员会、参议院国土安全和政府事务委员会以及国务院国际安全顾问委员会的简报。该团队在学术研讨会和行业活动中的参与有助于塑造围绕人工智能在生物技术研发和监管中作用的日益增长的讨论。 CSET的应用团队深化了对政府及其盟友如何有效部署人工智能技术的理解，以维护国家安全，为军事应用和商业安全动态提供了关键见解。他们编制了一份报告，考察了美国公司与中国之间的商业关系如何可能影响潜在冲突期间的商业决策。该论文在国会听证会上被引用。 该团队对第18空降军实施 Maven智能系统（MSS）的案例研究，为人工智能的采纳提供了宝贵的教训，这些教训得到了五角大楼和国会利益相关者的热情欢迎。他们在自动化偏差方面的研究推动了人类-机器交互风险的了解，并提出了人工智能风险管理的方法。展望未来，团队将探讨中国军事技术采购，并扩大其对人工智能决策支持系统的分析，同时考察各种利益相关者如何塑造商业航天领域。 CSET•2024 中国人工智能 竞争 CSET的竞争政策研究塑造了关于技术创新和竞争力的关键讨论，特别是在半导体行业。通过一系列有影响力的分析和观点文章，该团队提供了对美国出口控制有效性和中国半导体行业进步的基本洞察。他们对中国科学院的全面报告为中国科学技术生态系统提供了新颖的视角，为国会和行政部门决策提供了信息。该团队对AI领域并购趋势的数据驱动分析，对于竞争政策讨论特别有价值，而他们在供应链动态方面的研究继续影响着半导体制造和分销的战略规划。 CSET持续提升其在研究中国AI生态系统领域的领导者地位。一份有影响力的报告挑战了关于美国科学家返回中国的影响的传统观念，而另一份报告则展示了中国的独特方法需要以自己的术语进行分析，展示了人技与数据科学方法论的创造性组合。通过广泛的媒体参与和