人工智能：背景，精选问题和政策考虑2021 年 5 月 19 日国会研究服务https://crsreports.congress.govR46795 概括人工智能：背景、选定问题和政策考虑人工智能 (AI) 领域——1950 年代首次使用的术语——在随后的几十年里经历了多次发展浪潮。今天，人工智能可以广泛地被认为是计算机化系统，它以通常认为需要智能的方式工作和做出反应，例如在不确定和变化的条件下学习、解决问题和实现目标的能力。该领域涵盖一系列方法论和应用领域，包括机器学习 (ML)、自然语言处理和机器人技术。近十年来，随着计算能力的增强、大数据的积累以及人工智能技术的进步，人工智能的研究和应用迅速增长。鉴于这些发展以及人工智能技术在各经济部门的应用越来越多，学术界、工业界和民间社会的利益相关者呼吁联邦政府更加了解人工智能技术，并更积极地考虑围绕其使用的公共政策。在第 115 届和第 116 届大会期间，联邦政府加速解决人工智能问题。唐纳德特朗普总统发布了两项行政命令，建立美国人工智能倡议 (E.O. 13859) 和促进在联邦政府中使用可信赖的人工智能 (E.O. 13960)。联邦委员会、工作组和其他实体已经成立，以协调机构活动、帮助确定优先事项并制定国家战略计划和报告，包括更新的国家人工智能研究与发展战略计划和联邦参与制定技术标准的计划和AI 中的相关工具。在国会，委员会举行了多次听证会，议员们提出了各种各样的立法来解决联邦人工智能投资及其协调问题；人工智能相关问题，例如算法偏见和劳动力影响；以及人工智能技术，如面部识别和深度伪造。第 116 届国会至少颁布了四项法律，重点关注人工智能或包括以人工智能为重点的规定。2021 财年国防授权法案（P.L. 116-283）包括处理各种国防和安全相关人工智能活动的条款，以及广泛的 2020 年国家人工智能倡议法案（E 部）。2021 年综合拨款法案 (PL 116-260) 将人工智能纳入 2020 年政府法案（U 部，第一章），该法案指示总务管理局创建一个人工智能卓越中心，以促进人工智能技术在联邦政府。 生成对抗网络 (IOGAN) 的输出识别法案 (P.L. 116-258) 支持对生成对抗网络 (GAN) 的研究，这是用于创建深度伪造的主要技术。PL 116-94 建立了与人工智能等领域出口相关的金融计划。AI 既有潜在的好处和机遇，也有挑战和陷阱。例如，人工智能技术可以加速数据处理并提供洞察力；增强人类决策；优化复杂任务和系统的性能；并提高危险职业人员的安全性。另一方面，人工智能系统可能会延续或放大偏见，可能还不能完全解释他们的决策，并且通常依赖于无法广泛访问以促进研发 (R&D) 的大量数据集。此外，利益相关者质疑公共和私营部门开发和使用人工智能的人力资本是否充足，以及处理可能出现的社会和道德问题的现行法律和法规是否充足。总之，这些挑战可能导致无法完全评估和理解人工智能系统的操作和输出——有时被称为“黑匣子”问题。由于这些问题和担忧，一些利益相关者主张放慢人工智能开发和使用的步伐，直到可以进行更多的研究、决策和准备。其他人则反驳说，人工智能将使人们的生活更安全、更健康、更高效，因此联邦政府不应试图放慢它的发展速度，而应广泛支持人工智能技术并增加联邦人工智能资金。为了回应这场辩论，国会已经开始讨论人工智能的可信度、潜在偏见和道德使用等问题；对美国劳动力可能产生的破坏性影响；美国在人工智能方面的专业知识和培训的充分性；制定技术标准和测试基准的国内和国际努力；美国联邦在人工智能研发方面的投资水平，以及这如何影响美国的国际竞争力。国会可能会继续努力解决这些问题，并努力制定保护美国公民的政策，同时最大限度地发挥美国的创新和领导力。国会研究服务R467952021 年 5 月 19 日劳里·A·哈里斯科技政策分析师 人工智能：背景、选定问题和政策考虑内容简介 1什么是人工智能？ 1人工智能术语 3算法和人工智能 5AI 5 的历史背景人工智能浪潮 5人工智能领域的近期增长 6人工智能研发 6私人和公共资金 8选定的研究和重点领域 11可解释的人工智能 11数据访问 12使用小型替代数据集进行 AI 训练 14人工智能硬件 15AI 16 中的联邦活动行政部门 16AI 17 的行政命令国家科学技术委员会委员会 17选择 AI 报告和文档 18联邦机构活动 19国会 22立法 23听证会 26供国会考虑的选定问题 27对美国劳动力的影响 28工作转移和技能转变 28人工智能专家劳动力 30人工智能研发领域的国际竞争和联邦投资 35标准制定 37道德、偏见、公平和透明度 39偏见的类型 41数字图 1. arXiv 上与 AI 相关的出版物总数，按研究领域，2015-2020 8图 2. 不可解释和可解释的 AI 系统示例 12图 3. 国会中对人工智能和机器学习的提及记录，2011-2020 23联系人作者信息 43国会研究服务 人工智能：背景、选定问题和政策考虑国会研究服务1介绍人工智能 (AI)——一个在 1950 年代首次使用的术语——可以广泛地被认为是计算机化系统，其工作和反应方式通常被认为需要智能，例如在不确定和不确定的情况下学习、解决问题和实现目标的能力。 1 在过去十年中，计算能力的提高、大规模数据集（即大数据）的可用性以及人工智能基础方法的进步，导致该领域的快速发展。人工智能技术目前显示出改善工作安全、质量和效率以及促进创新和经济增长的前景。与此同时，人工智能在现实世界中解决复杂问题的应用引发了人们对可信度、偏见和道德以及对美国劳动力的潜在破坏性影响的担忧。此外，还有许多政策问题存在争议，包括有关美国在人工智能研发 (R&D)、技术标准制定和测试基准开发方面的国际竞争的适当方法的问题。鉴于人工智能技术在各经济部门的使用越来越多，学术界、工业界和民间社会的利益相关者呼吁联邦政府更加了解人工智能技术，并更积极地考虑围绕其使用的公共政策。为协助国会开展人工智能工作，本报告概述了人工智能技术及其发展、人工智能的最新趋势、联邦人工智能活动以及选定的问题和政策考虑。本报告并未尝试解决 AI 的所有应用。有关人工智能技术在交通、国家安全和教育方面的应用信息，请参见单独的 CRS 产品。 2什么是人工智能？虽然没有统一的、公认的 AI 定义，但美国国家标准与技术研究院 (NIST) 将 AI 技术和系统描述为包括“可以学习解决复杂问题、做出预测或执行任务的软件和/或硬件”需要类似人类的感知（例如视觉、语音和触觉）、感知、认知、规划、学习、交流或身体动作。”3 定义可能因所讨论的人工智能学科而异。4 人工智能是通常被描述为一个包含一系列方法和应用领域的领域，例如机器学习 (ML)、自然语言处理 (NLP) 和机器人技术。1 改编自科技政策办公室，为人工智能的未来做好准备，2016 年 10 月，第 3 页。 6.2参见 CRS 报告 R44940，Bill Canis 的自动驾驶汽车部署问题； CRS In Focus IF10737，自主和半自主卡车，作者：John Frittelli； CRS 报告 R45178，人工智能和国家安全，Kelley M. Sayler；和 CRS In Focus IF10937，人工智能 (AI) 和教育，Joyce J. Lu 和 Laurie A. Harris。3 美国国家标准与技术研究院，美国在人工智能领域的领导地位：联邦参与开发技术标准和相关工具的计划，2019 年 8 月 9 日，第 7-8 页。4 例如，参见 Sara Mattingly-Jordan 等人，Ethically Aligned Design: First Edition Glossary 中日常语言、计算学科、工程、经济和社会科学、伦理和哲学以及国际法和政策类别中的 AI 定义，电气和电子工程师协会 (IEEE)，2019 年 1 月，第 1 页。 8，在 https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e_glossary.pdf。 人工智能：背景、选定问题和政策考虑国会研究服务2定义人工智能不仅仅是一项学术活动，尤其是在起草立法时。人工智能研究和应用正在迅速发展。因此，国会考虑是否在法案中包含人工智能的定义，以及如果是这样，如何定义该术语或相关术语，必然包括对立法范围以及该定义当前和未来适用性的关注。在制定立法中使用的定义时，需要考虑的因素包括它是否足够广泛，不会随着人工智能的发展和演变而阻碍法律在未来的适用性，同时是否足够狭窄以明确法律所影响的实体。一些利益相关者认识到定义人工智能的许多挑战，试图定义可能有助于指导决策者的原则。研究表明，用于识别 AI 相关研究的定义的差异可能导致在 AI 竞争、投资、技术转让和应用预测方面的分析和结果存在显着差异。 52019 财年约翰·麦凯恩国防授权法案 (PL 115-232) 在联邦法规中包含了人工智能的第一个定义。 6 与之前引入的其他法案中的定义一样，该定义包含了四个可能目标的共同引用框架AI 系统可能追求：像人类一样思考（例如，神经网络）、像人类一样行动（例如，自然语言处理）、理性思考（例如，逻辑求解器）或理性行动（例如，包含在机器人中的智能软件代理）的系统.7 然而，人工智能研究和应用不一定只属于这四类中的任何一类。2020 年 12 月，《2020 年国家人工智能法案》作为威廉姆计划的一部分颁布。M. (Mac) Thornberry 2021 财年国防授权法案 (NDAA) (P.L. 116-283)，包括以下定义：“人工智能”一词是指一种基于机器的系统，它可以针对一组给定的人类定义的目标，做出影响真实或虚拟环境的预测、建议或决策。人工智能系统使用机器和基于人的输入来——(A) 感知真实和虚拟环境； (B) 通过自动分析将此类感知抽象为模型； (C) 使用模型推理来制定信息或行动的选项。 8当前的人工智能系统被认为是狭义的人工智能，这意味着它们是为特定的、狭义的任务量身定制的。人工智能在日常生活中的示例应用包括垃圾邮件过滤、语音辅助（例如 Siri、Alexa、Cortana）、金融贷款决策和搜索引擎结果。人工智能技术正在被整合到一系列领域，包括交通、医疗、教育、农业、制造业和国防。一些人工智能专家使用术语增强智能或以人为中心的人工智能来捕捉物理和连接系统中的各种人工智能应用，例如机器人技术和物联网，9 并强调使用人工智能技术来增强人类活动，而不是更换它们。大多数分析师认为，通用人工智能，即在一系列认知任务中表现出智能行为的系统，不太可能在十年或更长时间内出现。一些人工智能研究人员5 Dewey Murdick 、 James Dunham 和 Jennifer Melot ， AI 定义影响政策制定，安全与新兴技术中心， 2020 年 6 月，https://cset.georgetown.edu/wp-content/uploads/CSET-AI-Definitions-Affect-政策制定.pdf。6PL 115-232，第 238 条； 10 美国第 2358 条注释。7 Stuart Russell 和 Peter Norvig，人工智能：现代方法，第 3 版。 （新泽西州上马鞍河：Prentice Hall，2010 年），第 1-5 页。8PL 116-283（以下简称FY2021 NDAA）； H.R. 6395，E 部，第 5002(3) 节。9 有关物联网的更多信息，请参阅 CRS In Focus IF11239，物联网 (IoT)：概述，Patricia Moloney Figliola；并确定其他从事物联网和相关主题工作的 CRS 专家，请参阅 CRS 报告 R44225，物联网：CRS 专家，由