人工智能工业治理框架：负责任部署、系统层面可靠性、安全性与可控性

负责任部署、系统级可靠性、安全性与可控性治理框架白皮书，2026年7月 致谢 这份白皮书有助于联合国工业发展组织（UNIDO）在工业人工智能治理方面的工作，并由联合国工业发展组织技术合作与可持续发展司（TCS）提供总体指导编制而成。 在数字转型与人工智能（DAI）司司长杰森·斯莱特（Jason Slater）的领导下，联合国工业发展组织（UNIDO）协调了该文件的准备工作。该文件作为对世界人工智能大会（WAIC）2026背景下工业人工智能治理未来讨论的贡献而制定。 本文白皮书的主要作者为赵学奇博士，主要贡献者包括米拉登诺夫斯卡博士、何子龙博士和比杜利·凯贾达。信息图表由保罗·约翰·阿尔文设计。 联合国工业发展组织（UNIDO）对技术合作与可持续工业发展司司长助理兼司长邹志勇先生，以及清华大学人工智能国际治理研究院院长兰雪教授的指导与支持表示衷心感谢。他们的领导与支持促成了本白皮书的制定与发布。 联合国工业发展组织（UNIDO）也旨在感谢其合作伙伴为该白皮书的准备和传播所做的宝贵贡献。我们对清华大学人工智能国际治理研究院在白皮书的开发和联合发布中的合作表示诚挚感谢；对英国标准协会（BSI）作为战略合作伙伴提供的宝贵支持表示诚挚感谢；对人工智能为人类福祉实验室表示诚挚感谢，该实验室作为潜在实施合作伙伴，在白皮书的准备、发布和未来发展中提供了支持；对上海人工智能研究所（SAIRI）表示诚挚感谢，该研究所为协调白皮书的发布做出了贡献。 © 联合国工业发展组织 2026。在注明出处的情况下，允许复制。 www.unido.org 本文件未经联合国正式编辑。本文件使用的名称和表述，并不表明联合国工业发展组织（UNIDO）秘书处对任何国家的法律地位、领土、城市或地区的当局、其边界或领土的划定、其经济制度或发展程度，或任何其他方面持任何意见。 “发达”、“工业化”或“发展中”等称谓旨在方便统计，并不一定表示对某个国家或地区在发展过程中所达到阶段的判断。提及公司名称或商业产品并不构成联合国工业发展组织（UNIDO）的认可。 尽管已尽最大努力确保本文信息的准确性，但联合国工业发展组织及其成员国均不对使用本材料可能产生的后果承担责任。 本报告中阐述的信息和观点属于作者本人，并不一定代表联合国工业发展组织的官方立场。联合国工业发展组织及其代表任何人，均不对使用本报告所含信息所造成的任何后果负责。 白皮书 工业人工智能：治理框架 负责任的部署、系统级可靠性、安全性与可控性治理框架 维也纳，奥地利 2026年7月 缩略语和首字母缩略词………4概览………………5核心信息………………5前言………………6摘要………………91 引言………………102 治理理由与原则………………112.1 从效率工具到关键基础设施………………112.2 核心原则：以可控性为中心的框架………………132.3 从算法治理到系统治理………………173 重塑治理方法与架构………………193.1 从竞争到共同责任………………193.2 三级嵌套治理架构………………213.2.1 全球层面：标准协调与合作机制………………223.2.2 国家层面：分层监管与综合风险管理………………233.2.3 行业与企业层面：运营实施与协同约束………………243.3 治理工具………………244 实施路径………………274.1 分阶段实施策略………………274.2 构建框架：国家层面的机遇与挑战………………304.2.1 国家层面的机遇与挑战………………304.2.2 为何是联合国工发组织：比较优势论证………………314.2.3 联合工发组织能做什么：项目式响应………………325 结论与进一步工作领域………………35参考文献………………37附件 人工智能性能就绪水平（APRL）：定义、指标和保证程序……38 缩写和首字母缩略词 一瞥之下 工业人工智能（AI）越来越多地用于协调生产、物流和安全功能。然而，在这些应用中，故障往往会影响到部署企业之外的供应链、工人和周边社区。由于治理在地域和行业领域仍然分散，本文提出了一种基于六项原则——安全、可靠、透明、问责、包容和可持续性——的控制中心治理框架（CCGF）。该框架通过一个涵盖全球、国家和行业/企业层面的三级治理架构、一个三阶段实施路线图以及三种互补的治理工具系列——注册与披露、分层风险分类和公共产品赋能——来实现。 作为联合国专门机构，工发组织（UNIDO）拥有独特的授权，致力于促进包容性和可持续的工业发展，这一目标体现在可持续发展目标9（SDG 9）中。在得到成员国指导、可用资源以及联合国系统内部协调的支持下，工发组织能够支持利益相关方会议、技术合作活动，并为这一治理架构下所设想的全球公共产品做出贡献，具体内容详见第3.3节。这一贡献将基于第4.2.2节所述的职能，包括工发组织在包容性和可持续工业发展方面的授权、其与国际标准组织及国家伙伴的合作关系，以及其在支持多边合作、知识交流与共识建立方面所起的作用。 核心信息 随着工业AI越来越多地应用于关键基础设施领域，其故障有可能在整个供应链和社区中蔓延。这使得治理考量超越了传统的仅限于质量保证的实践。 有效治理工业AI需要从竞争心态转变为共担责任的心态，将安全、可靠性和可控性视为公共产品而非私人合规成本。 以可控性为中心的治理框架（CCGF）为这一逻辑提供了操作层面的实质内容，将六项原则——即安全、可靠、透明、问责、包容和可持续性——转化为负责任部署的通用参考标准。 鉴于工业人工智能风险跨越组织和国家界限，该框架采用涵盖全球、国家、行业和企业三个层级的嵌套式三级架构。各层级通过相互认可、信息共享和协调相互强化。 分阶段实施的五年路线图提出了一个可操作的转型路径，涵盖国家注册机构的顺序安排、互认制的合格评定、监管沙盒、行业规范，以及从长远来看，加强国际合作的可能性，包括为工业人工智能治理建立可能性的框架安排。 在其促进包容性和可持续发展工业发展的授权范围内，工发组织可以根据成员国的要求、可利用的资源以及联合国系统内的协调，支持、便利并贡献于国际协调、技术合作以及公共产品的提供，包括测试平台和相关数据库。 前言 人工智能正迅速改变着各行业生产、创新和竞争的方式。在整个制造业价值链中，人工智能正解锁提高生产力、优化资源利用、增强韧性以及加速产业创新的新机遇。与此同时，其日益增长的自主性和复杂性也带来了新的治理挑战，这要求在部署方面采取实用、可信且国际协调一致的方法。 确保工业人工智能保持安全、可靠和有益，需要的技术创新本身是不够的。它要求建立治理框架，使各国、企业和创新者能够负责任地采用人工智能，同时为持续创新保留灵活性。这对全球南方尤为重要，因为加强治理能力对于确保人工智能成为产业转型的驱动力，而不是新的数字鸿沟的来源至关重要。 在工业和制造业人工智能全球联盟（AIM Global Alliance on Artificial Intelligence for Industry and Manufacturing）的广泛合作下开发而成，《治理框架》为政策制定者、监管机构、行业领袖、开发者和制造商提供了实用指导。它并非规定僵化规则，而是通过将可控制性、问责制、透明度和持续监督嵌入工业人工智能系统，促进整个AI生命周期的治理。 该框架支持各国提升治理能力、培育值得信赖的人工智能生态系统，并将治理原则转化为实际工业应用。结合联合国工业发展组织（UNIDO）的工业人工智能行动计划，它为在制造业各领域推广负责任的人工智能应用提供了路径。通过UNIDO全球AIM卓越中心网络和技术合作项目，这些原则能够被转化为可扩展、可复制的解决方案，以适应不同的国家背景，同时保持共同的国际价值观。 我邀请各国政府、行业领袖、研究人员、创新者和开发伙伴通过AIM Global积极参与，与我们一同从对话转向实施，从原则走向实践方案。 我们必须确保企业与创新者能够利用人工智能，成为新兴技术的主人而非被动接受者。联合国工发组织仍致力于与各国政府、产业界、学术界和国际伙伴合作，将治理转化为实际行动，帮助确保工业人工智能不仅具有创新性，而且对所有人而言都是安全、负责任和包容的。 邹慈勇 联合国工业发展组织技术合作与可持续工业发展局总经理助理、总经理 前言 对于我们在科技政策领域工作的人来说，工业人工智能是一个熟悉但如今在物理世界中展开的挑战。技术一贯超越负责监管它的制度。但当人工智能嵌入机器、生产线和供应链中时，风险就变了。错误不再仅仅是数据故障；它通过传感器、设备、操作规程以及工人的判断传播，所有这些都嵌套在 授权与责任分配的安排。简而言之，工业人工智能必须作为社会技术系统而非软件产品来加以管理。 在我看来，治理不应在尚未存在的情况下承诺确定性。其恰当的角色更为谦逊，但也更为关键：使机构能够在不确定性下行动，从结果中学习，并相应地调整其方法。这种适应能力本身就是对创新的一种制度性支持。治理当然能降低风险，但它也通过技术采纳所依赖的社会安排和市场条件来塑造这些环境。政府与产业都无法预见所有意外情况。因此，他们必须共享知识，并随着证据的积累而调整政策。 这份白皮书令我特别有价值的是，它将可控性视为整个社会技术系统的属性，而非仅仅是算法的属性。可控性取决于可观察的系统行为、可追溯的决策、按预期响应的设备，以及能够监控并在必要时进行覆盖的操作员。所提出的以可控性为中心的治理框架通过六个相互关联的原则，将这一见解付诸实践：安全、可靠、透明、问责、包容和可持续性。它们共同将责任从代码扩展到完整的生产环境及其生命周期。 治理体系也必须建立跨层级的协同机制。报告提出了一种涵盖全球、国家和企业三个层级的嵌套式三级架构。其工具应基于使用效果进行务实评估。注册和披露可以提升可见性；分层风险分类可以将注意力集中于后果最严重的领域；公共产品可以构建共享能力；而沙盒测试结合持续监控，则支持迭代调整。所提出的AI性能就绪等级（APRL）量表被视为一种分析工具——它用于评估特定AI系统在声明运行域内的操作可靠性。这仍是一项待验证的提议，需要分行业进行校准，并依据实际运行证据进行验证。它既非标准，也非正式的工贸组织（UNIDO）方法。共同原则无需产生完全一致的机构。各国可以在基本安全层面进行协调，同时 pursued适合其法律框架和能力的实施路径。在相互关联的价值链中，安全、可靠性和可控性成为共享的公共产品。 然而，治理能力仍然参差不齐，因此能力建设应被视为全球安全的重要组成部分。在成员国指导、可用资源和联合国更广泛体系内协调的前提下，工发组织可以通过技术合作帮助弥合国际标准与产业实践之间的差距。 归根结底，这份白皮书的价值，不取决于其框架的精妙，而在于其建议在实践中表现如何，以及经验如何为其修订提供指导。 兰雪 德恩，施瓦茨曼学院院长，清华大学人工智能国际治理研究院院长 摘要 人工智能（AI）正在重塑全球制造业，从任务自动化转向生产过程中的系统级协调、实时预测和自主决策。随着这一进程的推进，工业AI日益被视为关键基础设施，其产生的风险已变得系统化、相互关联和跨国界：算法错误可能在人工检查干预之前通过紧密耦合的生产网络和全球价值链级联传播。然而，现有的治理模式仍以竞争性发展为根基，在结构上不足以管理此类风险。本文通过围绕共同责任重新构建工业AI治理，并提出以可控性为中心的治理框架（CCGF），该框架围绕六个核心原则组织：安全、可靠、透明、问责、包容和可持续性。基于这些原则，本文构建了一个涵盖全球、国家、行业和企业三个层级的嵌套治理架构，并通过分阶段实施策略和三大具体工具系列（注册与披露、分层风险分类、赋能公共产品）来落实该架构。联合国工业发展组织（UNIDO）的工业发展宗旨、其中立性及其国家存在，将使该组织能够支持并促进国际协调平台，并根据成员国的要求，为负责任的工业AI所需的公共产品提供做出贡献。 关键词：工业人工智能治理；可控性；关键基础设施；共同责任；包容可持续的工