英国前沿人工智能国际治理法案

通过国内法律实现国际治理：即将出台的英国边境人工智能法案 尼古拉斯·A·卡普托，*1海顿·贝尔菲尔德，2Jakob Mökander,3马泰奥·皮斯蒂洛4胡沃·罗伯特斯5索菲·威廉姆斯，6罗伯特·特拉格**1 执行摘要 英国政府目前正在起草一项法案，以规范前沿人工智能。这样的法案必须具备国际范围，因为寻求创建这些系统的公司遍布全球，而且人工智能模型及其产生的效应可以轻易跨越国界。但迄今为止，关于这项法案的讨论中相对忽视了前沿人工智能监管的国际影响。 为了解决这一忽视，牛津马丁人工智能治理倡议最近召集了一组专家，探讨如何最好地塑造即将出台的英国前沿人工智能法案，以实现英国政府有效监管的目标，同时保持狭窄且有利于创新。会议的核心要点如下： 1. 英国应立即行动，确保在前沿人工智能领域占据领导地位：前沿人工智能的国际监管领域相对空白。一部强大且设计精良的法案，为前沿监管设定范例，将使英国在塑造该领域进一步发展方面处于领导地位。此外，一部明确的法案将通过提供可预测的规则，便利人工智能开发者的合规性，从而既提高安全性，也为创新和经济增长铺平道路。 国内法是国际监管的关键部分：虽然直接监管外国AI公司和其他实体可能是确保前沿AI安全发展的必要部分，但精心设计的国内法可以在不必然引发领土管辖权等问题的情况下塑造国外的活动。类似于“伦敦效应”的机制以及最佳实践的模式允许国内法影响外国行为者。因此，考虑国际影响的国内法设计将使政府最大化其监管有效性。 3. 政府必须在扩大自身范围和对其他国家的依赖之间取得平衡：前沿人工智能监管必须涵盖外国实体，但政府不应过度试图在其自身管辖权之外行使国内权力。一个由评估者和监管当局组成的国际体系，这些机构在各个司法管辖区提供相互的安全保证，将有助于解决这一困境，但没有任何一个国家能够单独建立这样的体系。因此，政府应制定法案，在可能的情况下依靠外国监管机构提供的可信保证，同时保留在紧急情况下直接防止损害的权力。一项条款，规定该法律将适用于其系统可能对英国造成“重大且可预见的危害效应”的公司，将有助于提供这种安全网，同时也对其施加了限制。 4. 强有力的国际监管促进国内经济：英国在人工智能领域的经济优势很大一部分可能来自于专门的AI开发和在特定用例中模型的部署。前沿级别的监管将使用户能够部署前沿模型而无需担忧安全风险，并将监管负担集中在国际前沿公司而不是较小的国内初创企业和其他企业上。 5. 英国人工智能安全研究所（AISI）应继续作为一家独立机构（ALB）推进科学研究的进展：英国AISI是全球前沿模型评估的领导者，在人工智能安全科学领域取得了进展，并在与公司和其他评估者协调方面取得了进步。这种合作方法迄今为止效果显著，展示了将英国打造为最佳商业和与监管机构合作场所的价值。将AISI转变为ALB将允许其继续施加影响，以实现政府的目标。如何通过直接监管（例如，通过创建独立的边缘监管机构或扩大现有机构的职责）来补充AISI在科学角色中的功能，超出了本报告的范围，但对于立法者来说是一个关键问题。 6. 政府应强调向开放重量级AI开发者提供免费评估和安全性认证，以激励其在监管制度中参与：开源模型通常是透明的、去中心化的，并且对无法承担专有模型的消费者和企业可及。然而，在前沿框架下，它们难以受到监管，因为它们的危害无法像以前那样轻易归咎于受监管的模型提供者。向开源开发者提供免费评估和类似的安全工具将有助于将他们纳入前沿监管制度，而不对这些群体施加过多的成本。 会议聚焦于前沿人工智能国际监管的六个核心手段，每个手段都有其利弊。起草前沿人工智能法案的不同方式将采用各种监管方法，立法者应仔细考虑如何使用这些工具实现安全与增长的既定目标。 会议还发现，如何监管前沿人工智能的问题是由一系列明显的权衡所构成的。决定如何管理这些权衡，以及确定是否存在实现或平衡所权衡的双方价值的方法，将是制定法案的关键部分。会议确定的主要权衡如下： 1. 规则的特异性和灵活性：由于前沿人工智能模型发展迅速，监管者必须能够随着其发展融入安全性和评估的科学。然而，法规越灵活且经常变化，公司就越难理解如何遵守，其他司法管辖区也越难与英国保持协调一致。尤其是如果国际治理依赖于一种相互认可的分布式监管体系，就需要发展一种结构，以明确且可预测的方式适应监管演变。 2. 规管手段的涵盖面和依赖性：如上所述，各国必须... 共同努力规范前沿人工智能，否则该领域将得不到充分覆盖。然而，各国可能仍然面临来自外国司法管辖区内的威胁，这些辖区对其边境内的前沿公司缺乏足够的监管。因此，在紧急情况下，可能有必要建立某种受限制的法律基础，以便对这些公司进行覆盖。3. 以科学为导向和基于规则：前沿人工智能的科学正在迅速发展 发展中的，监管机构应确保其对这些系统的覆盖是灵活的并能够及时响应科学。然而，他们也不应完全放弃这一领域，现在建立一些基本规则可能会允许未来实施更有效的监管。 国际前沿人工智能的监管环境目前正处于变动之中，随着机构的形成与消失，以及规则的制定与废除。英国有机会通过一项精心制定且稳健的法案来塑造全球前沿人工智能，建立监管框架，利用其积累的专业知识和强大地位，确保安全效益并促进创新和经济机遇。由于其在该领域的领导地位，英国在制定其前沿人工智能法案时的选择将在全球范围内产生共鸣。深思熟虑政府如何实现其目标，并选择合适的国际监管工具组合，同时意识到它们的优点和潜在弱点，是确保前沿人工智能被用于善的目的的关键一步。 目录表 执行摘要1目录表5I. 引言5II. 背景7第三部分：国际监管手段8a. 法律的域外适用10b. 实际上的伦敦效应12c. 多边协议13d. 国际合作与协调14e. 信息共享与合作15f. 规则和实践的建模16IV. 构建法案以实现国际监管目标17a. 边缘人工智能的技术定义17b. 法律覆盖范围19c. 监管与执法20d. 开源人工智能开发者21 V. 结论 22 I. 引言 彼得·凯尔，英国科学、创新和技术部长，最近承诺政府将在当前议会期间提出一项旨在规范前沿人工智能的法案。1如果通过，该法律将成为世界上第一个直接针对这些尖端模型和系统的法律，这些模型和系统既提供了最大的机会，同时也带来了最大的挑战。 社会面临的最大风险。2这项即将在英国出台的AI前沿法案已经成为了关注的焦点。然而，尽管其重要性不言而喻，该法案的国际维度却相对被忽视。任何试图规范在跨司法管辖区公司中开发的AI前沿技术的尝试，3并且在全球范围内使用，必须面对如何在保持这些模型带来的利益和机会的同时，如何进行国际监管的问题。 为了填补这一讨论的空白，牛津马丁AI治理倡议组织了一组来自产业、政府、学术界和民间社会的专家，讨论英国如何最好地塑造其前沿AI法案以实现国际监管。此次会议还旨在为其他司法管辖区立法者提供一些国际监管的一般性经验。特别是，参与者讨论了英国在追求确保安全和促进创新的目标时可以利用的国际监管工具，以及如何构建法律以最佳方式利用这些工具。 政府可以寻求在边界之外以不同程度的直接性进行监管，从对外国实体全面主张权力到仅通过制定良好的规则和实践模式，以期鼓励其他国家在自己的管辖范围内采用。在需要国际监管的情况下，例如在尖端人工智能领域，建立一个稳健的国际合作框架将最能确保安全并减少国家需要尝试在其边界之外进行监管的程度，因为每个国家都可以依赖其他国家。然而，由于这样的合作框架尚未存在，且可能在近期内不会形成，各国必须考虑在外国风险显现时需要发展多少监管外国实体的工具。在尖端人工智能治理的国际秩序中采取领导地位将使英国最能确保其自身的安全并减少它必须依赖单边形式的国际监管而不是合作的程度，尽管政府还应考虑是否希望保留一些单边工具作为备选方案。 本报告旨在实现两大主要目的：首先，它旨在阐明英国政府在推进其关于前沿人工智能法案的立法过程中面临的国家国际法规的选择。其次，它对在国际前沿人工智能监管中必须做出的决策进行抽象分析，这可能对任何当局都有所裨益。 寻求规范前沿人工智能。会议参与者发现，如何规范前沿人工智能的决定是由一系列权衡所构成的，立法者必须在这些权衡中航行，以最佳实现安全并获取前沿人工智能带来的机会。例如，政策制定者必须确定在多大程度上依赖他人来规范前沿人工智能，与在多大程度上发展内部能力之间做出平衡。他们还必须平衡促进清晰、具体且易于人工智能公司遵守的规则，与人工智能科学不断发展和规则可能迅速过时的现实。因此，确定如何在这些权衡中航行并利用国际监管工具确保人工智能的益处，是寻求规范前沿人工智能的立法者的核心任务。 II. 背景 当前英国政府表示，它将提出一项规范前沿人工智能的法案。但截至目前，该法案的具体形式仍不确定。然而，政府已表明，它感兴趣于建立一个以前沿人工智能为重点的监管体系。尚不清楚哪个机构将负责实施该法案，但现有行业监管机构可能会处理属于其管辖范围内的前沿模型应用和为该行业构建的窄人工智能系统。行业监管机构也可能获得新的监管工具，以帮助它们应对这些新技术在法律上的出现。政府进一步表示，作为新法案的一部分，它将把英国人工智能安全研究所（AISI）变成一个独立机构（ALB），并将人工智能安全峰会上由人工智能公司做出的自愿承诺置于法定地位。这些举措共同有助于具体化过去几年在治理方面取得的进展。此外，政府表示，它希望确保人工智能的益处，特别是创新和经济增长，不会被任何它实施的法规所扼杀。即将出台的法案将寻求平衡这些各种目标。 在英国境外，人工智能治理的国际格局仍在变动并逐渐成型。最近发布的《欧盟人工智能法案：通用人工智能行为守则》提供了关于该法律如何规范人工智能的更多信息的描述。4美国关于前沿人工智能的行政命令14110可能会被即将上任的特朗普政府撤销，这将取消多项要求，同时也将使美国人工智能标准机构（US AISI）处于缺失状态。 不稳定的地基。5中国有许多与人工智能相关的法规，但去年由中国社会科学院发布的通用人工智能法草案。6仍然似乎没有形成任何具有约束力的内容。通过联合国、G7、经合组织等国际峰会和其他会议仍在继续，但那些过程的具体成果尚不明确。因此，英国通过通过一项针对前沿人工智能技术的特定监管框架的法案，有机会在国际上产生重大影响。这样的法案可以通过直接监管前沿人工智能模型和间接设定如何对这些先进技术进行监管的标准，来塑造国际监管环境。 第三部分：国际监管手段 有六种核心方式，英国可以寻求在国际上监管前沿人工智能。以下将深入探讨这些监管形式（法律的域外适用、事实上的“伦敦效应”、多边协议、国际协调、信息共享以及与公司的合作、以及最佳实践的建模）。每种监管方式都有其自身的优缺点。决定在何种情境下采用哪种方式或方式的组合是制定前沿人工智能监管框架的必要部分。鉴于英国在该领域的早期领导地位、技术专长集中（特别是在AISI方面）及其经济重要性，英国特别适合监管前沿人工智能。因此，英国产生的任何法律都将影响前沿人工智能的国际监管，无论是直接还是间接。因此，政府应考虑即将出台的法案如何利用以下国际监管工具，以最有效地实现确保安全、促进创新和增长的目标。 直接的国际监管可能是制定治理前沿人工智能框架的必要组成部分，但关于如何构建国内法律和机构的决策也会产生国际影响。因此，政府必须思考它在建立内部治理体系时所做的选择如何影响国外。例如，人工智能治理研究所（AISI）是政府机构，到目前为止，它主要作为一个研究权威机构，推动人工智能治理的科学，以及其他。 通过与合作前沿人工智能公司，帮助他们开发和评估其模型，这些事物得以实现。AISI通过其研究和合作伙伴关系在国外产生了重大影响。政府已表示，它将在即将到来的法案中把英国AISI转变为ALB，增加其制度独立性。AISI可以继续推进评估科学，参与协调和标准化工作，使政府能够间接塑造国际人工智能监管。与一个负责监督前沿人工智能监管的机构相伴，该机构可以设立在即将到来的前沿人工智能法案下，这种方法将允许通过国内法律对前沿人工智能模型进行直接和间接的监管。