2024年人工智能政策预测

2024年人工智能政策展望 Gregory C. Allen Georgia Adamson 目录 ABOUT THE WADHWANI CENTER FOR AI AND ADVANCED TECHNOLOGIES 01董事长的信1 瓦迪瓦尼人工智能与先进技术中心是CSIS（战略与国际研究中心）内部的一项倡议，专注于技术治理、监管、国家安全和地缘政治方面的研究，尤其侧重于人工智能。该中心深入探讨出口管制、半导体供应链以及新兴技术对国家安全和全球经济政策制定的影响等核心议题。我们的分析旨在为应对快速发展的技术、促进人工智能与技术的全球合作以及鼓励技术创新的政策解决方案提供依据。该中心由瓦迪瓦尼基金会支持，这是一家致力于加速经济发展的非营利组织。 战略与国际研究中心（CSIS）是一个跨党派、非营利性的政策研究组织，致力于推进实用理念以应对世界面临的最大挑战。 托马斯·J·普里兹克于2015年被任命为卡内基·梅隆基金会董事会主席，接替了前美国参议员萨姆·南（D-佐治亚州）。成立于1962年的卡内基·梅隆基金会由约翰·J·哈姆雷领导，自2000年以来担任总裁兼首席执行官。 CSIS的宗旨是定义国家安全未来。我们秉持一套独特的价值观——非党派性、独立思考、创新思维、跨学科学术、诚信与专业精神以及人才培养。CSIS的价值观协同工作，致力于实现现实世界的影响力。 瓦德瓦尼人工智能与先进技术中心感谢瓦德瓦尼基金会促成了这份报告的出版。 CSIS学者将其政策专长、判断力和强大的网络带到他们的研究、分析和建议中。我们组织会议、出版、演讲，并参与媒体采访，旨在增进相关政策问题与相关利益相关者及公众的认知、意识及其重要性。 CSIS产生影响力，当我们的研究有助于为关键政策制定者的决策和关键影响者的思想提供信息时。我们致力于实现一个更安全、更繁荣的世界愿景。 CSIS并不采取具体的政策立场；因此，此处表达的所有观点应被理解为完全是作者的观点。 © 2024 由战略与国际研究中心（CSIS）所有。保留所有权利。 董事来信 2023年标志着瓦德瓦尼人工智能与先进技术中心的成立。我们在CSIS设立了该组织，旨在提供具有影响力的研究与分析，以跟上快速变化的技术和政策格局。虽然这始终是一项挑战，但我为所取得的进展感到无比自豪。 就在瓦迪瓦尼中心运作的八个月里，我们自豪地发布了10份全面报告，其中提供的见解和建议赢得了政策制定者和行业领导人的共鸣。我们的专家曾三次向国会作证，并有幸多次向高级国际和美国政府政策制定者（包括内阁级官员）介绍我们的研究成果。 展望未来，我们仍致力于推动人工智能和技术领域的讨论。2024年的目标雄心勃勃，聚焦于扩大我们的人才团队，深化研究，拓展影响力，举办及时的活动，并在国家及国际层面继续参与政策制定。 我要特别感谢罗梅什·瓦德瓦尼博士和瓦德瓦尼基金会，感谢他们坚定不移且慷慨的支持。他们致力于独立且具有影响力的政策学研究，为我们提供了这个机会。我深切感谢所有为我们的顺利启动辛勤付出的捐赠者、合作伙伴和员工。 感谢您成为我们故事的一部分。我相信今年将会带来更多激动人心的机遇。 真诚地， Gregory C. Allen Director, Wadhwani Center for AI and先进技术 APRAPR 好莱坞编剧开始非营利性人工智能安全中心3 3 荷兰宣布计划与美国联手限制将半导体技术出售给中国。11 美国和欧盟宣布达成协议，加速联合人工智能研究，以应对气候预测、农业、医疗保健、关键基础设施等全球性挑战。5 OpenAI的聊天机器人ChatGPT成为历史上增长最快的应用程序，1月份拥有1亿用户。8 中国网络空间管理局实施新法规管理深度伪造技术，包括对人工智能生成的内容实施水印。1 数月-long罢工涉及问题发布了一句状态。包括人工智能在增长中的作用，有人认为应减轻从人工智能中灭绝应是一项“全球优先事项”，该倡议由顶尖人工智能CEO、开发者、学者以及其他社会名流签署。22：ative industry.18 参议院多数党领袖查克·舒默在CSIS宣布人工智能政策的安全创新框架。24 中国网络空间管理局公布草案措施以管理生成式人工智能内容，包括使内容符合中国的核心价值观。16 3 3 国防部最初在荷兰海牙举办的“负责任的军事领域人工智能与自主性峰会”上宣布了其《关于负责任地使用人工智能和自主性的政治宣言》，这是此类峰会中的首次。9 商务部宣布成立新的公共工作组，以实施并完善1月份创建的NIS OpenAI 发布了其最新的大型多模态模型 ChatGPT-4，该模型在多个领域表现出色，远超 GPT-3和其他可用模型。12 彭博社报道，荷兰和日本将加入美国限制向中国出口半导体制造设备的努力。6 微软承诺向OpenAI投资据传的100亿美元多年期投资，声称人工智能技术的未来影响将与个人电脑或互联网相媲美。2 顶尖AI开发公司CEO的责任是确保产品安全。19 G7在日本Takasaki结束了数字和技术部长会议（4月29日至30日），宣布成员国致力于采用国际合作的、适应性强的、基于风险的人工智能治理方法。17 23Nvidia短暂加入OpenAI、Anthropic、微软等科技巨头。万亿市值的市场估值，Alphabet会晤总统：with shares up over 200 percent ident Biden to discuss respon-自2022年末以来。可行的AI创新，包括T人工智能风险管理框架。25 Nvidia表示，根据去年更新的美国出口管制规定，它已对其顶级半导体芯片H100进行修改，用于出口到中国，更名为H800。13 作者起诉OpenAI侵犯版权，因其未经适当授权在其作品上训练ChatGPT，引发了围绕人工智能系统的更广泛的版权问题。26 美国国防部更新DOD指令3000.09《武器系统自主性》，将原2012年指令修订以反映自主系统及人工智能的新技术能力。3 白宫启动了美印关键与新兴技术倡议（iCET），这是一个与美国合作，旨在推进技术开发与国防研究创新，并确保半导体供应链弹性的伙伴关系。7 Meta的大型语言模型（LLM）“LLaMA”宣布有限发布。10 OpenAI 首席执行官山姆·奥尔特曼和IBM副总裁克里斯蒂娜·蒙哥马利就ChatGPT快速崛起后快速AI发展的风险向国会作证。20 一份呼吁暂停所有前沿AI发展六个月的公开信因社会潜在灾难性风险而发布。签署者包括杰出的CEO和学者。14 美国国家标准与技术研究院（NIST）发布《NIST人工智能风险管理框架》，这是一套旨在提高企业和组织中人工智能透明度和安全性的指导方针，涵盖人工智能的开发、使用和评估。4 G7领导人聚集在广岛，讨论2023年峰会期间人工智能的包容性治理。21 日本宣布将与美国和荷兰联手，限制向海外出口半导体制造设备。15 AUG 6 29 18 22 8 9 1 谷歌推出AI模型Gemini，这是首个在大型多任务语言理解（MMLU）方面超越人类专家的模型。57 英国在布莱切利公园举行人工智能安全峰会，召集知名政治和技术领袖，就人工智能治理的国际合作进行为期两天的讨论（11月1日至2日）。28个国家和欧盟签署《布莱切利宣言》，宣布对人工智能治理的国际承诺及后续步骤。47 荷兰对中国出口半导体制造设备实施新限制。38 华为发布搭载7纳米半导体芯片的新款Mate60 Pro智能手机，强调尽管面临美国出口和投资限制，中国仍取得技术进步。36 媒体来源路透社获悉一项新的OpenAI项目“Q*”，据传该项目在开发通用人工智能方面是一项突破。52 中国计划到2025年将其总计算能力提高50%，中国外交部报告。41 联合国安全理事会首次召开会议讨论人工智能风险。27 Nvidia宣布推出新型尖端半导体芯片GH200，以加快生成式AI系统的处理速度。32 Meta 发布开源大型语言模型“LLaMA 2.”28 17 13 9 白宫宣布针对中国和其他国家的新措施和更新的措施，以限制人工智能和半导体技术的出口，并填补2022年管制政策中的漏洞。42 21 首个AI洞察论坛会在国会山举行。由参议院多数党领袖查克·舒默领导，会议召集参议员、知名科技CEO及公民社会人士，讨论美国政府监管AI议题。39 24 8 总统拜登签署行政命令，因国家安全和竞争原因禁止美国对中国的敏感技术（如人工智能）进行投资。33 31 包括OpenAI、Meta和Google在内的领先人工智能公司向白宫作出自愿承诺，以确保人工智能安全，包括在发布前测试产品以及标记人工智能生成的内容。29 俄罗斯总统弗拉基米尔·普京表示，俄罗斯的AI战略将在莫斯科的一次会议上很快发布，以对抗西方和中国在AI领域的垄断。53 在首次全球实践中，欧盟通过《欧盟人工智能法案》，建立了一项具有里程碑意义的全面人工智能监管。58 中国科技公司百度向中国公众发布AI聊天机器人“文心一言”。37 商務部長Gina Raimondo在英國人工智能峰会上宣布启动美国人工智能安全研究所。48 26 13 10 28 中国在争议中接受英国邀请参加11月英国人工智能安全峰会。43 The金融时报报道称，在孟加拉国的2024年选举中，多个政党广泛使用生成式人工智能，深度伪造和人工智能生成的虚假信息在社交媒体和新闻渠道中传播。59 国防部宣布成立新的AI任务部队“利马”，负责监督将生成式AI能力整合入该部门。34 Meta宣布在2024年选举前对AI生成内容进行广告限制，包括强制要求向公众披露AI生成的广告。54 24 国家安全局宣布成立一个新的机构——人工智能安全中心，以监督人工智能在美国国家安全系统中的应用。40 日本对23种半导体制造设备的出口管制开始实施。30 英国政府公布计划成立世界上首个人工智能安全研究所。44 国防部发布其人工智能战略，指导其在国防部内部加速采用先进人工智能。49 28 研究人员发现ChatGPT的一个弱点，允许它通过使用一个提示来泄露敏感信息。55 国防部发布新的复制器计划，以加速全领域自主和可消耗军事系统的采购和部署，以与中国竞争。35 26 30 30 15 总统拜登签署关于人工智能安全、可靠和可信赖的开发与使用行政命令。45 OpenAI、Anthropic、谷歌和微软宣布成立新产业组织“前沿模型论坛”，旨在促进人工智能的负责任发展并同政策制定者分享知识。31 The《纽约时报》起诉微软和OpenAI侵犯版权，声称其AI聊天机器人非法使用了数百万篇文章进行训练。60 微软推出定制设计的半导体芯片，旨在降低人工智能产品的制造成本。50 30 美国专利商标局宣布推出一项新的半导体技术试点计划，旨在鼓励半导体制造业创新，并支持《芯片与科学法案》。56 G7就横滨人工智能进程发布声明，讨论人工智能风险以及促进人工智能全球协作开放环境的好处。46 17 Nvidia为中国消费者推出先进的游戏芯片GeForce RTX 4090 D，以适应更新的美国出口管制。61 OpenAI董事会暂时解除了首席执行官Sam Altman的职务，但五天后的11月21日又重新任命了他。51 瓦德瓦尼中心对近期发展要点总结 去年在人工智能领域 生存风险成为人工智能治理的主流关切。 尽管人工智能引发灾难或人类灭绝的风险在过去几年一直是埃隆·马斯克和许多人工智能研究人员的关注焦点，但2023年该问题在全球领导人及政府政策制定者中成为真正的优先事项。这一转变是由私人部门知名人士的呼吁所推动的，包括OpenAI CEO萨姆·奥特曼、谷歌深蓝CEO迪米斯·哈萨比、特斯拉和xAI CEO埃隆·马斯克以及人工智能“教父”杰弗里·辛顿。5月，超过350名顶尖人工智能专家和高管签署了一份单一句子声明，内容为