双重用途的基础模型及广泛可用的模型权重报告

NTIA 报告2024年7月 目录 摘要.........................................................................................................................................1 概述 .......................................................................................................................................................2 术语表 ...............................................................................................................................................................5 背景 ........................................................................................................................................................7 AI模型权重.........................................................................................................................................8 模型开放性作为光谱 .............................................................................................................9 边际风险和收益分析的方法.............................................................. 10 双用途基础模型中广泛可用模型权重的风险和收益.. 12 公共安全 ............................................................................................................................................. 13 公共安全中广泛可用模型权重的风险........................................................ 14 公共安全中广泛可用模型权重的收益..................................................17 地缘政治考虑.................................................................................................................19 地缘政治中广泛可用模型权重的风险............................................................... 19 地缘政治中广泛可用模型权重的收益......................................................... 22 社会风险和福祉.............................................................................................................. 23 广泛可用模型权重的社会风险....................................... 24 广泛可用模型权重的社会收益 ................................................................. 28 竞争、创新和研究........................................................................................... 29 广泛可用模型权重对竞争、创新和研究的风险................................30 广泛可用模型权重对竞争、创新和研究的收益 .. 31 未来风险和收益的不确定性 ......................................................... 33 风险和收益总结 ........................................................................................................... 34 政策方法和建议 .......................................................................................... 35 政策方法 ................................................................................................................................... 36 限制双用途基础模型模型权重的可用性......................... 36持续评估双用途基础模型生态系统并建立和维护有效应对的能力 ......................................................................... 37 接受或促进开放性 ......................................................................................................... 39 建议 .................................................................................................................................. 40 第1步：收集证据................................................................................................................... 41 第2步：评估证据 ................................................................................................................. 43 第3步：对评估采取行动................................................................................................................ 45 附加政府行动 ....................................................................................................... 47 结论 ................................................................................................................................................. 47 附录：监测模板............................................................................................................... 48 执行摘要 概览 双重用途的基础模型，配备广泛可用的模型权重……带来了一系列广泛的好处。它们使包括资源较少的参与者在内的参与者阵容多样化并扩展，参与人工智能研究与开发。它们将人工智能市场控制权从少数大型人工智能开发者手中分散出去。并且它们使用户能够在不与第三方共享数据的情况下利用模型，提高机密性和数据保护。 正如拜登总统所言：“人工智能（AI）在希望与危险中具有非凡的潜力。”1人工智能模型的不断发展，如双重用途的基础模型，显著增加了人工智能系统的潜在风险和收益。许多开发者限制了或没有提供其高级模型内部运作的公共访问，包括其权重。2相比之下，一些开发商，例如Meta、Google、Microsoft、Stability AI、Mistral、艾伦人工智能研究所和EleutherAI，3已发布模型——尽管并非总是其最先进的模型——这些模型的权重广泛可用（即，通过允许用户从互联网或其他机制下载这些权重向公众开放）。 双重用途的基础模型，具有广泛可用的模型权重（在本报告中称为开源基础模型），引入了一系列广泛的好处。它们使包括资源较少的参与者在内的参与者多样化并扩大了参与人工智能研究和开发的阵容。它们将人工智能市场控制权从少数大型人工智能开发者手中分散出去。并且，它们使用户能够在不与第三方共享数据的情况下利用模型，从而增加机密性和数据保护。 在管理和减轻相关风险的同时，管理广泛可用的模型权重，执行令第4.6节责成商务部长通过通信与信息助理商务部长执行，并在与国务卿协商后，通过公开咨询程序征求来自私营部门、学术界、民间社会和其他利益相关者的反馈，“关于广泛可用的模型权重的双重用途基础模型可能存在的风险、益处、其他影响以及适当的政策和监管方法。” 然而，使某些基础模型权重广泛可用也可能导致对国家安全、公平、安全、隐私或民权的危害和风险，这可能通过积极滥用、有效监督失败或缺乏明确的问责机制而实现。 在2023年10月，美国总统拜登签署了关于“安全、可靠和值得信赖的人工智能开发和使用的”行政命令（EO）。指出最大化双用途基础的重要性。 该通知进一步指出，商业部长将通过商务部通讯与信息助理部长，并与国务卿及相关部门负责人磋商，撰写一份报告提交给总统，报告内容涵盖“双用途基础模型（其权重广泛可用）的潜在利益、风险和影响，以及与这些模型相关的政策和监管建议。”为履行这项任务，国家电信与信息管理局（NTIA）在2024年2月发布了一项公开征求意见，共收到332份反馈意见。4美国国家电信与信息管理局（NTIA）进一步进行了广泛的利益相关者接触，包括举办了两场公开活动，收集了来自各政策和技术专家的意见。本报告及其发现很大程度上基于此反馈。 权重模型以及根据EO定义未被考虑为双重用途基础模型（例如参数少于100亿的基座模型）。 最后，报告考虑了在何种情况下美国政府应限制双用途基础模型模型权重的广泛可用性。它评估了一系列政策方法，评估了它们的风险和收益。并且得出结论，在报告发布时，现有证据不足以明确确定是否需要对这类开放权重模型实施限制，或者在未来是否永远不适宜实施限制。 相反，本报告建议政府应积极监控可能源于双用途基础模型（具有广泛可获得模型权重）的风险组合，并采取措施确保政府