2024年人工智能政策预测【英文版】

2024AI政策ORECAST 格雷戈里C.艾伦·乔治亚·亚当森 关于 CONTENTS WADHWANI中心或AI和先进技术 CSIS WadhwaiAI和先进技术中心是CSIS内部的一项举措，旨在研究技术治理，监管，国家安全和地缘政治-特别关注AI。该中心调查的核心议题包括出口管制，半导体供应链，以及新兴技术对国家安全和全球经济决策的影响。我们的分析旨在为解决快速发展的技术的政策解决方案提供信息，促进人工智能和技术方面的全球合作，并鼓励技术创新。该中心得到了Wadhwai基金会的支持，该基金会是致力于加速经济发展的非营利组织。 战略与国际研究中心（CSIS）是一个两党，非营利的政策研究组织，致力于推进实践理念，以应对世界上最大的挑战。 ThomasJ.Pritzker于2015年被任命为CSIS董事会主席，接替前美国参议员SamNunn（D-GA）。CSIS成立于1962年，由JohnJ.Hamre领导，他自2000年以来一直担任总裁兼首席执行官。 2023年人工智能的主要发展时间表 CSIS的目的是定义国家安全的未来。我们以一套独特的价值观为指导-无党派关系，独立思考，创新思维，跨学科奖学金，诚信和专业精神以及人才发展。CSIS的价值观一致致力于实现现实世界影响力的目标。 瓦德瓦尼人工智能和先进技术中心要感谢瓦德瓦尼基金会使这份报告成为可能。 CSIS学者将他们的政策专业知识，判断力和强大的网络带到他们的研究，分析和建议中。我们组织会议，发布，演讲，并在媒体上露面，旨在提高相关利益相关者和感兴趣的公众对政策问题的知识，意识和显着性。 04映射AI事件16对关键AI峰会和活动的全球视角 当我们的研究有助于为关键决策者的决策和关键影响者的思想提供信息时，CSIS具有影响力。我们致力于建立一个更安全，更繁荣的世界的愿景。 CSIS不采取具体的政策立场；因此，本文表达的所有观点应被理解为仅是作者的观点。 05未来的一年18 © 2024战略与国际研究中心。保留所有权利。 词汇表2106 尾注26 字母ROM导演 2023年是Wadhwani人工智能和先进技术中心成立之年。我们在CSIS成立了这个组织，以提供有影响力的研究和分析，能够跟上快速变化的技术和政策格局。虽然这始终是一场斗争，但我为我们取得的进步感到无比自豪。 在Wadhwai中心活跃的短短八个月内，我们自豪地发布了10份综合报告，提供了与政策制定者和行业领导者产生共鸣的见解和建议。我们的专家三次在国会作证，并有幸向国际和美国资深人士介绍我们的研究成果S.政府政策制定者，包括内阁级官员，在数十次。 展望未来，我们仍然致力于推进关于人工智能和技术的讨论。我们2024年的目标雄心勃勃，专注于发展我们的才华横溢的员工团队，深化我们的研究，扩大我们的外联，及时召开活动，并继续为国家和国际层面的政策提供信息。 我要特别感谢RomeshWadhwani博士和Wadhwani基金会的坚定和慷慨的支持。他们对独立和有影响力的政策奖学金的贡献给了我们这种机会。我非常感谢我们所有的捐助者、合作伙伴和工作人员，他们为使我们有了如此良好的开端而努力工作。 感谢您参与我们的故事。我相信今年会更多令人兴奋的机会。 真诚地，格雷戈里 ·C·艾伦 WadhwaniAI和AI中心主任先进技术 JUN APR 30 21 11 荷兰宣布计划加入美国，将半导体技术限制在中国。11 中国网络空间管理局实施了一项新的法律来管理深度伪造，包括在人工智能生成的内容上实施水印。1 美国和欧盟宣布一项协议，以加快 OpenAI的聊天机器人ChatGPT成为 参议院多数党领袖查克·舒默在CSIS宣布人工智能政策的安全创新框架。24 非营利组织AI安全中心发布了一句话声明，认为减轻AI的灭绝应该是“全球优先事项”，这是由顶级AI首席执行官和开发人员，学者和其他公民社会人物签署的。22 中国的网络空间管理揭示了管理生成式AI内容的草案步骤，包括使内容符合中国的核心价值观。16 好莱坞作家开始就AI在创意产业中的作用等问题进行长达数月的罢工。18 联合人工智能研究，以解决气候预测，农业，医疗保健，关键基础设施等方面的全球问题。5 历史上增长最快的应用程序，一月份拥有1亿用户。8 30 22 彭博社报道说荷兰和日本将加入美国限制向中国出口半导体制造设备的努力。6 OpenAI揭示了其最新的大型多模态模型ChatGPT-4，在某些领域大大优于GPT-3和其他可用模型。12 4 英伟达短暂加入科技巨头的市场估值万亿美元，自2022年底以来股价上涨超过200%。23 国防部在荷兰海牙举行的军事领域峰会上首次宣布了“关于负责任的军事使用人工智能和自治的政治声明”，这是第一次此类峰会。9 美国商务部宣布成立新的公共工作组，以实施和构建1月份创建的NIST人工智能风险管理框架。25 G7在日本高崎举行的数字和技术部长会议（4月29日至30日）结束，宣布成员国致力于采用国际合作，适应性强和基于风险的AI治理方法。17 微软承诺传闻中在OpenAI上投资100亿美元，声称AI技术的未来影响将等同于PC或互联网。2 顶级AI开发人员的首席执行官OpenAI，Anthropic，Microsoft和Alphabet与PresidentBiden会面，讨论负责任的AI创新，包括公司确保产品安全的责任。19 28OpenAI被作者起诉版权侵权后培训ChatGPT的作品如果没有适当的许可，围绕人工智能系统引发了更广泛的版权问题。26 Nvidia报告说它已经修改了一个它的顶级半导体芯片， 美国国防部更新国防部指令3000.09， H100，用于出口到中国作为H800更新后的美国去年出口管制。13 白宫推出了 16 美国-印度关于批评和新兴技术的倡议（iCET），与印度合作推进技术和国防研究与创新，并确保半导体供应链的弹性。7 Meta的大型语言模型（LLM）“LLaMA”宣布限量发行。10 OpenAI首席执行官SamAltman和IBM副总裁ChristinaMontgomery在Congress之前就ChatGPT迅速崛起后AI快速发展的风险作证。20 “武器系统中的自主性”，改变了最初的2012年指令，以反映自主系统和人工智能的新技术能力。3 发表了一封公开信，呼吁由于对社会的潜在灾难性风险而暂停所有前沿AI发展六个月。签署者包括著名的首席执行官和学者。14 19 美国国家标准与技术研究所（NIST）发布了NISTAI风险管理框架，这是一套针对AI开发，使用和评估的指南，旨在提高企业和组织中AI的透明度和安全性。4 G7领导人聚集在广岛，在2023年峰会上讨论人工智能的包容性治理。21 日本宣布将与美国和荷兰一起限制海外半导体制造设备的出口。15 JULAUGSEP NOV DEC 6 22 18 29 1 8 9 Google推出了AI模型Gemini，这是第一个在大规模多任务语言理解（MMLU）方面优于人类专家的模型。57 英国AI安全峰会在BletchleyPark开幕，召集著名的政治和技术领导人，为期两天，讨论AI治理方面的国际合作（11月- 荷兰对向中国出口半导体制造设备的新限制生效。38 中国的目标是到2025年将其总计算功率提高50%。41 华为发布了具有7纳米半导体芯片的新型Mate60Pro智能手机，突出了尽管美国的出口和投资限制，但中国的技术进步。36 媒体来源路透社获得了新的OpenAI程序的知识-即“Q*”，有传言说这是开发人工智能的一个突破。52 联合国安理会首次召开会议讨论人工智能风险。27 Nvidia宣布推出新的切割边缘半导体芯片GH200，加快生成AI系统的处理时间。32 17 13 Meta推出开源LLM“LLaMA2”2821 9 24 ber1-2）。二十八个国家欧盟签署“布莱切利宣言”，宣布国际社会对人工智能治理和下一步行动的承诺。47 第一届AIInsight论坛会议是在参议院多数党领袖查克·舒默的带领下，会议召集参议员、著名科技公司首席执行官和公民社会人物，讨论美国政府对人工智能的监督。39 白宫宣布新的并更新了限制人工智能和半导体技术向中国和其他国家出口的措施，在2022年的管制政策中弥补漏洞。42 出于国家安全和竞争原因，拜登总统签署了行政命令，禁止美国在中国投资人工智能等敏感技术。33 31 俄罗斯总统弗拉基米尔·普京（VladimirPutin）表示，俄罗斯人工智能战略将很快在莫斯科的一次会议上发布，以对抗西方和中国对人工智能的垄断。53 包括OpenAI，Meta和Google在内的领先AI公司向白宫自愿承诺确保安全的AI，包括在发布前测试产品和对AI生成的内容进行水印。29 在全球范围内，欧盟通过了《欧盟AI法案》，建立了具有里程碑意义的全面AI法规。58 中国科技公司百度向中国公众发布AI聊天机器人ErnieBot。37 商务部长吉娜·雷蒙多宣布启动美国AI安全研究所在英国AI峰会。48 26 10 13 在争议中，中国接受英国邀请参加11月举行的英国人工智能安全峰会。43 28 国防部公布了新的人工智能工作组“利马”，以监督将人工智能功能整合到该部门。34 24 24 据英国《金融时报》报道，在孟加拉国2024年选举中，多个政党广泛使用了生成人工智能，因为深度伪造和人工智能生成的错误信息在社交媒体和新闻媒体中传播。59 美国国家安全局宣布成立一个新机构，即人工智能安全中心，负责监督人工智能在美国国家安全系统中的应用。40 日本对23种半导体制造设备的出口管制生效。30 2 Meta宣布在2024年大选之前对AI生成的广告内容进行限制，包括向公众强制披露AI生成的广告。54 英国政府宣布计划成立世界上第一个AI安全研究所。44 国防部发布了人工智能战略，指示国防部加速采用先进的人工智能。49 28 26 国防部公布了新的Replicator计划，以加快采购和部署全领域自主和可制造的军事系统，以与中国竞争。35 研究人员发现了ChatGPT的一个弱点，允许它通过使用单个提示来揭示敏感信息。55 OpenAI，Anthropic，Google和Microsoft宣布了新的行业机构FrontierModelForum，该论坛旨在促进人工智能的负责任发展并与政策制定者分享知识。31 30 15 30 拜登总统签署了关于安全，可靠和可信的人工智能开发和使用的行政命令。45 微软展示了定制设计的半导体芯片，旨在降低AI产品的高成本。50 《纽约时报》起诉Microsoft和OpenAI侵犯版权，声称AI聊天机器人非法使用数百万篇文章进行培训。60 30 17 美国专利商标局宣布了一项新的半导体技术试验计划，旨在鼓励半导体制造中的创新，并支持CHIPS和科学法案。56 七国集团发布了一份关于广岛人工智能进程的声明，内容涉及人工智能风险以及为人工智能全球合作营造开放环境的好处。46 首席执行官萨姆·奥特曼(SamAltman)被公司董事会暂时从OpenAI中解职，但五天后的11月21日复职。51 Nvidia为中国消费者推出了先进的游戏芯片GeForceRTX4090D，以适应最新的美国出口管制。61 TOP TKEAWAYS Wadhwani中心去年人工智能发展的主要收获 存在风险成为AI治理的主流关注点。 尽管人工智能导致灾难或人类灭绝的风险一直是埃隆·马斯克和许多人工智能研究人员在前几年关注的焦点，但2023年，这一问题已成为全球领导人和政府决策者的真正优先事项。这一转变是由私营部门知名人物的电话领导的，例如OpeAI首席执行官SamAltma，GoogleDeepMid首席执行官D