2025年人工智能治理实践报告

里面有什么？前言……………3 执行摘要……………5第一部分。构建人工智能治理计划。 . . . . . . . . . . . . . . . . . . 10 案例研究：万事达的人工智能治理。 . . . . . . . . . . . . . . . . 19 案例研究：TELUS的人工智能治理。 . . . . . . . . . . . . . . . . . . 21 案例研究：波士顿咨询集团的人工智能治理。 . . 24 第二部分。专业化人工智能治理。 .. . . . . . . . . . . . . . . . . . .25案例研究：Kroll的AI治理。32案例研究：IBM的AI治理………...34 第三部分 领导力和问责制………...37案例研究：Randstad的AI治理………………40案例研究：Cohere的AI治理49结论61联系人63 AI治理实践报告2025 | 2 目录 人工智能治理不仅仅是合规性练习。人工智能使全球企业能够竞争。它使它们变得更快、更高效、更具竞争力。为了自信地采用人工智能，企业需要确定性。我们所从事的工作领域专注于如何为企业提供其人工智能系统是可问责的、可靠的和安全的确定性，消除其人工智能采用的障碍，以便它们能够与已经使用人工智能来赢得业务的企业竞争。企业已采用人工智能，为了保持竞争力并继续使用它，现在需要大规模管理风险。管理人工智能风险已经真正成为企业现实的任务，这些企业必须确保遵守已经生效的严格法规，例如欧盟人工智能法案，以及2025年已经出现的新法规，例如韩国人工智能法案。违反人工智能特定法律的首次处罚将开始树立全球先例，迫使企业优先考虑治理或面临严厉后果。人工智能治理可以为企业提供他们所需要的确定性，以大规模地继续运用人工智能进行创新，从而构建更快、更好、更可靠的产品，这些产品得到了消费者和企业合作伙伴的普遍信任。 AI治理在实践报告2025 | 3 前言 在人工智能开发和部署的复杂性中航行的组织越来越多地考虑人工智能治理如何成为其人工智能战略目标的一个赋能功能和成功因素。因此，如何设计和构建一个人工智能治理计划已经迅速成为组织的首要战略重点。我们相信2025年将成为企业AI治理成为战略差异化的年份，我们期待看到真正的承诺和行动来管理AI风险——从网络安全和隐私风险管理最佳实践中学习，但结合针对AI特定风险的新颖和独特方法。其中一个主题是打造一个人工智能治理计划需要全社会的努力。除了专门的人工智能治理角色岗位有所增加，社区、委员会和跨职能团队及工作组也在利用现有的资源和结构，同时承担必要的额外技能提升和人工智能治理特定的工具。隐私、网络安全、信息技术、伦理、产品、营销、法律和本报告阐述了专业化支柱——人员、其技能与培训、工具和流程——如何支持人工智能治理的战略职能和组织结构。报告深入探讨了组织在应对、设计及实施人工智能治理方面的各种方式，并确定了关键和普遍的主题。 乔·琼斯IAPP 研究与洞察总监合规只是社区学习并共同合作进行人工智能治理的领域和学科中的一些。采用隐私设计和安全设计一直使企业能够更快地行动并在市场中更具战略眼光。负责任的人工智能设计也不例外；它在一个无法采用人工智能的企业将被落下的时代中将至关重要。对安全且稳健的人工智能框架进行智能投资将使全球公司能够从长远来看更快地行动并更好地扩展。Evi Fuelle全球政策总监，CredoAI这个蓬勃发展的专业人士推动人工智能治理的村庄填补了急需的空白，即对实施负责任人工智能实践的专业人士的需求与准备好这样做的人士之间的差距。随着这些实践深入并扩大规模，组织开始计算在人工智能治理上投资和优先考虑所带来的商业和战略效益。 77%23%您的组织目前是否正在开展人工智能治理工作？实践中的AI治理报告2025 | 5是不人工智能治理已被证明对组织具有价值。这份报告及其中的数据，分析组织实施人工智能治理计划的程度，以及它们是如何实施的。事实上，调查数据显示，组织开发和部署人工智能的过程往往与人工智能治理同步进行。人工智能治理立法、法规和标准的颁布，加上日益复杂和有要求的社会技术压力，使组织优先考虑人工智能治理计划的建立和实施。 执行摘要 人工智能治理实践报告 2025 | 6重要的是，30%尚未使用AI的组织正在从事AI治理工作，这或许揭示了一种普遍存在的“治理优先”的优先考虑，即在使用AI之前确保良好的治理机制到位。 在被调查的组织中，77%目前正在开展人工智能治理工作，而对于那些已经使用人工智能的组织，这一比例跃升至近90%。重要的是，30%尚未使用人工智能的组织也报告称正在开展人工智能治理工作，这可能揭示了一种普遍存在的“治理优先”优先级，即在人工智能使用之前先确保良好的治理机制到位。一些案例研究也支持这一观点，表明组织在将人工智能用于小型用例之后、但在将其作为战略要务之前，实施了正式的人工智能治理计划。 启动人工智能治理项目涉及招聘新员工或调派现有员工加入人工智能治理团队。公司正逐步组建这些团队，首先分配现有员工任务，然后招聘并授权高级管理人员和执行官，数据显示这有助于减少使用人工智能及其治理报告方面的问题，并带来其他积极成果。许多案例研究表明，较新的人工智能治理项目会聘请具有数字治理领域（如隐私）经验的管理人员。 人工智能治理实践报告2025 | 7受访者指出的一个重要挑战是劳动力中获取合适的AI治理人才和技能。在受访者中，23.5%的人说找到合格的AI专业人员是交付AI过程中的挑战之一。挑战的另一部分是合格的AI治理专业人员需要的众多技能。他们当然需要理解AI，还需要具备治理、风险和合规方面的经验，并且应该能够将立法要求转化为可执行的策略，例如。虽然大公司可以将这些任务分配到几个角色中，但小公司将寻找能够涵盖所有这些领域的AI治理专业人员。受访者表示，随着新型AI技术和政策的开发，AI治理技能将继续发展。某些技能，如红队演练，将变得越来越必要。目前尚无明确的最佳实践指导如何组建和组织人工智能治理团队，包括直接负责人工智能治理的人员的位置，例如作为一个独立团队或整合到一个负责其他数字组合的更广泛的团队中。从组织结构的角度来看，数据显示50%的人工智能治理专业人员通常被分配到伦理、合规、隐私或法律团队。许多拥有成熟人工智能治理计划的机构正从几个部门中招募专家，无论主要的人工智能治理职能是什么。超过50%的受访者表示以下学科将获得额外的职责：隐私、IT、安全以及法律和合规。已参与数字责任的学科作为主要职能或合作职能与人工智能治理相关。组织通常与隐私和其他学科（例如网络安全或数据治理）共同承担责任。受访者表示，人工智能治理专业人员来自不同的学科和专业领域，大量隐私专业人员被持续要求承担人工智能治理角色。 研究方法在制作本报告的过程中采用了两个数据来源。2024年春季，IAPP开展了其年度治理调查。该调查包含广泛的民调问题，如组织规模和收入，以及25个与人工智能治理相关的问题。来自45个国家和地区超过670人响应了调查。在调查中，一些问题揭示了受访者对其人工智能治理方法的信心：\"您是否对您的欧盟人工智能法案合规性有信心？\"以及\"您的人工智能治理预算是否充足？\"其他问题则更基础：\"您是否正在积极进行人工智能治理？\"以及\"您在报告或使用人工智能时面临哪些挑战？\"通过这些问题，我们提取了人们对人工智能治理计划成熟度的主观理解。一些问题，如组织是否拥有人工智能治理委员会，对大公司来说是成熟人工智能治理计划的标志，但对小公司可能无关紧要。关于统计显著性：在本篇中，“显著”一词仅用于表示在95%置信区间（p=0.05）上具有统计学意义的数值。↑表示显著高于样本其余部分的数 那些将人工智能治理计划从隐私计划中独立建立或与其结合建立的组织可能会采用这些结构、流程和工具。一个常见的例子是人工智能风险影响评估流程，在现有隐私治理文件和流程中加入关于人工智能的相关问题。人工智能治理仍在发展中，成熟的AI治理计划仍在持续创新空间。随着新的指导方针和合规负担出现，以及与良好治理相关的新的、更大的商业机会，到2025年或2026年，成熟的人工智能治理计划在同一个组织中的样子将不同于2024年的样子。尽管如此，已经出现了模式，特别是与多样化数字团队的集成性质、不同规模的组织中治理的样子以及每个组织在人工智能治理方面的方法相关。值，和↓表示一个显著低于其余样本的数值。 2025年人工智能治理实践报告 | 8目前，对于构建人工智能治理团队尚无明确的最佳实践。一些公司将人工智能治理嵌入合规或道德团队，而另一些公司则创建独立的人工智能治理职能。人工智能治理通常分散在多个团队，包括隐私、法律、安全和风险管理团队。因此，各组织的人工智能风险影响评估结果纳维纳·辛格创始人 & 首席执行官，Credo AI 不一致。 调查数据可用于按类型和规模对组织进行分组，以及按组织使用的人工智能技术及其用途进行分组。Evi Fuelle全球政策总监，CredoAI理查德·森蒂内拉iapp人工智能治理中心研究学者为了补充调查数据，来自北美和欧洲的总部分布、业务和管理实践遍布全球的七家私营公司提供了案例研究，以突出人工智能治理计划的实例。这些案例研究描述了组织如何就其人工智能治理计划做出决策，包括团队的组成、跨职能合作以及所使用的工具。这些案例研究通过提供个人和具体的背景来补充调查数据中获得的认识，从而深入了解每个人工智能治理计划中的决策。这些公司和它们各自使用人工智能的多样性反映了治理人工智能的不同方法，同时突出了类似机构之间的共性。 27%13%8%2024年人工智能相关战略重点AI治理在实践中报告2025 | 10人工智能治理开发人工智能治理框架开发人工智能评估方法建立或部署一个人工智能治理团队组织正在建立合规和战略实施的基础。使用人工智能的组织，人工智能可以从广义上捕捉到大多数分析技术（根据定义而定），正越来越寻求了解其合规义务。许多组织利用人工智能治理来构建合规计划，同时将人工智能使用引导至战略目标——从减少员工数量到提高市场竞争力。对于近一半的受访者来说，人工智能治理是一项前五位的战略优先事项。 47% 第一部分。构建人工智能治理计划 AI治理实践报告2025 | 11然而，在履行人工智能治理方面，组织面临着各种挑战。最大的挑战是缺乏对基础技术和人工智能合规治理义务的理解，两者均为49%。人事、预算和资源获取对至少四分之一的受访者来说都是重大挑战。在关于人工智能治理的报告中，只有不到30%的受访者报告了缺乏董事会层面的理解，这与上图一致，上图显示只有10%的人报告缺乏董事会支持。大多数组织得到了高层管理和董事会的支持，将其视为战略重点，但缺乏合格的人员，面临预算和资源分配问题，并且受益于人工智能治理培训和信息获取的增加。 AI治理实践报告2025 | 12大约47%的受访者报告人工智能治理是他们组织的前五项战略优先事项，而目前正在从事人工智能治理的人员中有58%将其选为最高优先事项，相比之下，未从事人工智能治理的人员中有13%将其选为最高优先事项。 人工智能治理是优先事项数据显示使用人工智能的组织更有可能也拥有人工智能治理计划，但这一数据并未显示哪个先出现。案例研究表明似乎正在形成一种模式，这种模式可以在规模较小地使用人工智能且人工智能治理更侧重于文件记录而非专业化与分布式的新兴人工智能治理计划中看到。例如，公司通常有书面政策但没有专职员工，直到它们决定将人工智能视为战略要求。在此之后，许多组织会建立更专业化的人工智能治理计划，包括聘请专职员工、推出培训或转移 来自其他数字责任学科的员工内部。约47%的受访者报告人工智能治理是其组织的前五项战略优先事项，而目前正在从事人工智能治理的人员中有58%将其视为最高优先事项，相比之下，未从事人工智能治理的人员中只有13%选择它作为最高优先事项。当其他回答表明优先考虑人工智能治理时，情况也是如此，例如“制定人工智能治理框架”和“建立或部署人工智能