人工智能治理专业实践报告2025

核心观点

人工智能治理为企业提供了在规模化应用人工智能技术的同时，持续创新并构建更快速、更可靠、更值得信赖的产品所需的确定性。随着全球范围内对人工智能技术的应用日益普及，企业需要有效管理人工智能风险，以确保其人工智能系统的问责制、可信赖性和安全性，从而消除人工智能应用障碍，在与已采用人工智能的企业竞争中占据优势。

关键数据

• 77%的受访企业目前正在开展人工智能治理工作，其中30%尚未使用人工智能技术的企业也正在开展相关工作，这可能表明企业普遍重视在应用人工智能技术之前确保良好的治理基础。
• 39%的受访企业设有人工智能治理委员会，且使用人工智能技术的企业更有可能设立人工智能治理委员会。
• 52%的受访企业对其组织遵守欧盟人工智能法案的能力表示 somewhat 或 totally confident，而使用人工智能技术进行个性化体验或客户互动的企业中，这一比例更高。
• 18%的受访企业对其当前的人工智能治理预算相对于组织的义务和目标来说是足够的，而64%的企业则认为不足。
• 10%的受访企业预计在未来12个月内不会需要招聘更多的人工智能治理人员，而需要招聘11-20名人工智能治理人员的80%的企业中，36%的员工人数在1,000-4,999人之间。

研究结论

• 人工智能治理正逐渐成为企业战略差异化的重要因素，预计到2025年，企业将真正将人工智能风险管理作为战略重点，并采取实际行动管理人工智能风险。
• 建立人工智能治理计划涉及为人工智能治理团队招聘新员工或分配现有员工的任务，企业正逐步构建其人工智能治理团队，从任务分配给现有员工开始，然后招聘和授权高级管理人员和执行人员。
• 获取合适的人工智能治理人才和技能是实施人工智能治理计划的主要挑战之一，合格的人工智能治理专业人员需要了解人工智能，并具备治理、风险和合规方面的经验。
• 人工智能治理通常由现有的部门或团队领导，常见的选项包括IT、隐私、法律、合规等，但尚无单一的“最佳实践”模式。
• 人工智能治理是一个跨学科领域，需要不同部门之间的合作，隐私、法律与合规、安全、IT、数据治理等部门都将越来越多地参与到人工智能治理工作中。
• 人工智能治理不是一刀切的方法，每个组织都需要根据其目标和独特情况来决定如何发展其人工智能治理计划。
• 随着全球范围内越来越多的立法和标准规范人工智能技术的应用，企业将面临更大的压力来建立正式、结构化的方法来管理人工智能治理。