AI问责：谁掌握主导权？

谁在掌控？ 2026年7月 内容 03 01 02 04 07 06 05 08 前言 他们正选择成立事业部或设立治理委员会。 麦格arr，BSI全球人工智能市场发展与合作负责人 很明显，背景很重要——组织规模和任期、用例成熟度以及行业动态都会影响所选择的方法。但如果对于问责制应该如何在供应商和用例之间流转没有唯一答案，那么仍然有真正的机会去界定你能够控制的范围。 人工智能由谁负责，是全世界领导者面临的一个根本性问题，并且在不同市场和行业中的情况各不相同。随着许多组织在应对来自关键供应商的多项新兴法规和不断发展的技术，挑战在于明确责任从何处开始、何处结束，谁应承担责任，以及人工智能的失败对组织、用户和社会产生了什么影响。 最终，确定人工智能问责制的性质将为员工、利益相关者和公众提供明确性，表明该技术正在为所有人的最大利益而开发、部署和管理。确定由谁负责有可能加速负责任、安全可靠的采用。 在实践中，许多人仍在定义问责制的具体形式——涵盖治理结构、政策、流程、控制以及风险管理等领域，包括可解释性、伦理和偏见等方面。迄今为止，尚缺乏证据表明组织在人工智能方面始终拥有明确的负责人。一些人正在设立新的首席人工智能官（Chief AI Officer）职位，或扩大现有高管团队的职责范围，而另一些人则... 引言 人工智能治理已进入新阶段。我们现在讨论的已不再是人工智能是否需要治理，而是各组织是否具备有效实践人工智能治理所需的结构、控制机制和问责机制。 随着人工智能系统日益深入商业运营与产出，曾经主要属于数据科学家和创新团队的领域，正越来越多地成为首席执行官、董事会和风险委员会关注的问题。 组织们正发现，人工智能治理已不再是技术上的次要考虑，而是一项战略必需，需要明确的责任主体。那么，谁在掌控人工智能？ 本报告探讨了人工智能问责制的发展演变、不同组织间差异产生的原因，以及成熟方法所共有的特点。 人工智能问责与治理鸿沟 目前，企业中存在可识别的AI治理差距。2025年，BSI的《对AI的信任》研究报告显示，不到四分之一（24%）的企业领导者表示拥有AI治理计划，不到一半（47%）的人称AI的使用受到正式流程的管控，而只有34%的人报告称在使用自愿性行业准则。负责AI战略的人员职责分散，且研究产出中的成熟度指标显示治理进展缓慢。 人工智能治理成熟度指标 我们已从各份研究报告汇总了若干数据点，以AI监管和问责制作为治理成熟度的指标，为相关背景提供说明。 尽管基数较低，但人们日益认识到问责制在人工智能治理中的核心地位。 例如，人工智能问责制正获得更多媒体关注——与12个月前相比增长了175%。涉及首席人工智能官（CAIO）的媒体报道也实现了同比增长181%。 董事会、首席信息官（CIO）、首席数据官（CDO）以及治理委员会似乎在监督人工智能部署、管理风险和确保投资回报方面发挥着更直接的作用。鉴于高级管理层监督被列为与息税前利润（EBIT）增长最相关的组织实践之一，这一点或许并不令人意外。 超过20,000 领英上CXO级别的职位名称包括人工智能或人工智能6 风险与成熟度塑造着人工智能问责方法 跨国公司和高增长科技公司发布职位空缺的公告正逐年翻倍。7 根据组织规模、所属行业和人工智能成熟度的不同，不同的AI问责方法正在涌现。 高风险领域 组织规模 此外，还有行业风险的动态。金融服务业等高风险行业的从业者正迅速将AI问责制纳入治理计划2。数据显示，他们更有可能设立专门人员，无论是作为独立职位还是现有高管职责的一部分，以便最能应对不断变化的法规和风险。 迄今为止，中小企业在人工智能问责制方面往往采取更灵活的方法，专注于在有限资源下构建能力并有效部署人工智能。相比之下，大型企业似乎正朝着正式结构的方向发展。34%的企业表示已建立人工智能治理计划（而中小企业为16%），并且自2023年以来，首席人工智能官已成为全球企业中增长最快的C级职位之一。 安排更为周全，而风险则相对可控。 组织任职年限 一个组织的存续时间也与人工智能治理的成熟度和问责制相关。在成立不到五年的组织中，只有11%建立了人工智能治理计划，而成立超过十年的组织中有28%建立了该计划。同样，只有41%的组织有专门的人员或团队负责确保人工智能领域的合规性，而较成熟的组织中有63%设有此类安排。 然而，那些跨越整个企业或转向商业运营模式的公司，很可能会率先行动，并且已经建立了人工智能治理计划，明确规定了由谁负责管理风险、责任和运营整合。 虽然并非所有组织都在积极采用人工智能，但所有组织都有机会从一开始就设计问责机制，以便在时机成熟时能够最有效地负责任地扩展人工智能应用。 人工智能使用的成熟度 人工智能的使用成熟度也与人工智能治理成熟度相一致。例如，当组织仍在试点人工智能并探索其应用时，治理实践和监督往往仍在进行中。非正式、去中心化的监督 人工智能问责制的现状：一种碎片化的方法 那么，人工智能问责制处于什么位置？ 各公司正尝试不同的方法。一些公司设立了专门的首席人工智能官，例如德勤9和汇丰10。其他公司则扩展了首席信息官（CIO）、首席数据官（CDO）、首席技术官（CTO）或风险负责人的职责。许多人仍然依赖治理委员会、联邦运营模式或业务单元所有权结构。 这反映了企业采用人工智能的不均衡现状。各组织在人工智能的依赖程度、监管风险、技术能力、运营结构以及内部政治等方面存在差异。 谁在掌控？ 迄今为止，尚无充分证据表明任何单一治理模式始终优于其他模式，或已被证明是预防治理失败的最佳模式。 在实践中，组织似乎根据现有实际情况来确立问责制。例如，当CIO们已经拥有强大的企业权力时，人工智能的问责制可能仍然与之相关联。当数据团队具有影响力时，人工智能可能会在首席数据与人工智能官的领导下整合。当转型议程占据主导地位时，可能会出现人工智能理事会或跨职能治理委员会来取代11。 01 02 高管职责范围扩大，例如：首席技术官、首席信息官、首席数据官 首席人工智能官 在确实存在CAIO（首席人工智能官）职位的情况下，它们通常被设立以推动人工智能战略、加速人工智能的采用¹²、指导实施、管理人工智能预算，以及制定人工智能采用的变革管理方案。然而，这一格局并不会长时间保持不变。以制药巨头莫德纳¹³为例，他们采取了新的策略，将人工智能问责制置于一个新设立的首席人力资源与数字技术官职位之下，旨在将IT与人力资源整合起来，为未来的人机工作队伍做好准备。 04 业务单元所有权 联盟运营模式，例如治理委员会 明确高级管理人员问责事项 很清楚的是，这对不同组织意味着不同的事情，无论头衔是什么，指定专人负责有助于提供清晰度、一致性和方向。 但职位名称或责任归属只是其中一部分。最重要的是这些角色或结构能让您的组织采取哪些行动。通过建立清晰的责任体系来落地人工智能，这体现了对负责任的人工智能使用的承诺，也意味着您将能从容应对并跟上这项技术。 随着人工智能问责制被定义为对高管领导力的考验，即使人工智能并不正式属于CEO的职责范围，对其负责任使用的兴趣和支持也可能会增加。 关键洞察 尽管存在人工智能治理差距和不同的治理结构，但明确需要人工智能问责制。 人工智能问责不仅是通用概念，更是期望组织能够为人工智能展现出可信的、已付诸实践的、商业级别的问责。 不存在单一的完美模型。有效性似乎取决于组织环境、成熟度、运营模式与领导能力之间的契合。 现在是建立您的AI问责方法的时候了，一种能够随着您的业务发展而成长，并负责任地拥抱AI的方法。 独立AI领导角色仍将具有价值，同时责任整合至现有结构或采用混合治理模式亦然。 构建您的AI问责方法 人工智能治理正从宽泛的自愿原则转向更接近运营管理纪律的方向。ISO/IEC 42001的重要性，与其说在于公司如何构建自身，不如说在于人们期望公司能够就其人工智能系统的行为和影响，展示出可信的、内嵌的且可审计的责任担当。 构建能力 规范方法 对于成熟度较低的组织而言，问责制可以从反思其人工智能治理方法、组织结构和风险偏好开始。从对组织进行一次“体温检测”以确定其风险敞口，可以是一个很好的第一步。BSI的人工智能基础框架旨在帮助您做到这一点。其内置的培训和自我评估功能，有助于您掌控人工智能风险，并在现有的问责制结构基础上构建相关能力。 更成熟的组织可以从国际框架中获益，例如人工智能管理系统标准（ISO/IEC 42001）。它通过将人工智能治理视为一项由正式流程、生命周期监督和执行领导层支持的企业级管理责任，来支持对人工智能的控制。 如果您想开始实施ISO/IEC 42001，一个很好的第一步是用我们的自我评估清单将您现有的治理实践与标准要求进行比较。此外，还有一系列ISO/IEC 42001培训课程可供选择，以支持您团队提升技能。 该标准旨在适应组织模式，因此它不要求组织任命专门的AI高管，但它规范了领导力问责、明确定义的责任、生命周期监督、运营监控和持续改进等方面的期望。这标志着一次重要的转变。 人员因素 在此探索更多人工智能洞察 最后，随着问责阶梯延伸至董事会，成熟的组织也开始投资于领导力认知和员工能力建设。证据表明，人工智能素养正日益被视为从领导者到一线员工都需要满足的治理要求，而不仅仅是技术技能。 在线联系 通过在企业内部普及人工智能素养，你表明每个人都扮演着重要角色。你的组织将处于一个强有力的地位，去掌控人工智能，并支持组织内承担人工智能责任的所有人员。 脚注 1.负责任的AI实践。AI公司数据倡议组织2025年全球洞察，2026年4月。基于3000家公司，包含超过10万个数据点。