携手AI加速前行：治理到位，提速有道

治理到位，提速有道 目录 引言：AI安全护栏为增长引擎注入动力2智能系统亟需更智慧的治理5CEO推动责任落实12行动指南15AI推动领导力重心迁移18 IBM如何提供帮助 IBM凭借深厚的行业、职能和技术专业能力，丰富的企业级技术解决方案、以及基于科学的研究创新，助力企业释放AI、分析和数据的潜能。 如需了解更多信息，请访问： IBM Consulting® AI服务ibm.com/consulting/artificial-intelligence IBM Software AI解决方案ibm.com/watsonx IBM Research® AI创新research.ibm.com/solutions/artificial-intelligence 摘要 AI治理加速放大业务影响力。 成功的组织会将治理视为一套动态框架⸺既具备适应性和韧性，也能和技术发展同步演进。 高管表示超过四分之一(27%)的AI效率提升得益于完善的治理体系；而在AI伦理方面投入更多的组织，其AI业务利润要比其他组织高出34%。1 反之，治理缺失则AI难成。 四分之一的AI项目失败源于治理体系薄弱，但仍有超过半数的组织尚未建立针对AI风险、伦理与治理的清晰管理体系。 AI治理正转向由高层推动和落实。 在三分之二的组织中，首席执行官（CEO）已直接参与AI治理工作。 引言 AI安全护栏为增长引擎注入动力 在AI时代，治理并非企业发展的“刹车器”，而是业绩提升的“加速器”。 这一结论来自IBM商业价值研究院(IBM IBV)对全球1,000名高层业务与技术领导者展开的最新调研。受访高管将超过四分之一(27%)的效率提升驱动力归功于完善的治理体系。IBV相关研究还表明，在AI伦理方面投入更多的组织，其AI业务利润要高出34%，而且AI项目落地速度更快，安全系数也更高。 或许出人意料的是，AI治理⸺这一常被视为阻碍创新的壁垒和走过场的合规事后补救⸺如今已成为实现业务影响力与业务成果的决定性因素。事实上，市场本应预见这一趋势，因为AI的发展速度太快，仅靠被动应对问题的监管模式已难以适配。富有远见的领导者早已将治理视为战略工具加以部署，从而得以提前应对风险，放大创新成效。 AI的发展速度太快，仅靠被动应对问题的监管模式已难以适配。 那么，领先组织究竟如何搭建完善的AI治理体系？其他组织又该如何迎头追赶？本报告基于来自17个行业和7个地区的高管观点，深入剖析了关键因素，阐释了自适应治理在智能体AI规模化时代的运作方式，及其加速业务运行的原因。报告中的案例研究还展示了两家公司如何确立强有力的集中式AI治理职能。此外，报告还深入分析了最高管理层高管，尤其是首席执行官（CEO），在将AI治理转化为业务成功驱动因素的这一过程中的关键作用。报告最后以一份行动指南收尾，就首要行动步骤提出了建议。纵观全文，我们分享了有关当今AI风险与效益的研究发现，也指出落实有效的AI治理所面临的主要障碍。 随着AI系统变得愈加自主且难以预测，静态治理模型终将失效⸺包括那些为速度更慢、更透明的系统而打造的传统模型风险管理方案。成功的组织会将治理视为一套动态框架⸺既具备适应性和韧性，也能和技术发展同步演进。 定义AI治理基础术语 不同组织对相关术语的界定存在差异，为统一认知，特制定以下基础定义作为参考。2 AI伦理：一个多学科领域，研究如何最大化AI的正向价值，同时降低其风险与负面影响。AI伦理议题包括数据责任与隐私保护、公平性、可解释性、稳健性、透明度、环境可持续性、包容性、道德主体、价值观一致性、问责机制、信任构建以及技术滥用防范等。 AI治理：组织通过制定内部规章制度、调配专业人员、搭建流程体系和部署技术系统，在AI全生命周期内实施引导、评估、监控和纠偏，确保AI系统按组织意图运行，符合利益相关者的预期且满足相关法规要求的治理行为。 可观测性：通过持续监控与可视化管理，确保AI系统在实际应用中始终遵循伦理与合规标准。这一能力使组织能够实时发现并管理风险，保留详尽的审计轨迹以支撑问责机制，同时保证透明度。同样重要的是，可观测性可以推动持续改进⸺通过实时绩效数据优化模型，使监管能力随着周期的推移而变得更加智能。3 AI驱动的可观测性：一种依托机器学习解读大规模遥测数据的监控方法，挖掘人工难以识别的规律、异常点与潜在风险。这一方法推动团队从被动响应，转向主动预测和预防。 可信AI：通过以人为本的方法建立信任的AI系统，其特征是满足五项要求：可解释性、公平性、稳健性、透明度和隐私保护。 负责任的AI：在可信AI的基础上，兼顾环境与社会价值，实现可持续、负责任的应用。 智能系统亟需更智慧的治理 本次研究中，几乎所有组织都表示，计划在未来一年内采用更先进的AI技术，例如自主型系统。然而，将为AI打造坚实治理基础放在优先位置的组织却少得多。事实上，在近期的IBM IBV研究中，58%的受访者表示其组织尚未建立完善的数据与治理框架。4 其中一个关键原因在于，AI治理所面临的挑战是传统IT治理无需应对的：目标处于持续变化之中。AI正以不断改写规则的节奏演化，持续重塑数据流、业务流程、甚至决策流程本身。当技术及其应用场景每个季度都在迭代，制定固定的治理政策注定是徒劳的。而且，这种复杂性并不仅仅体现在速度上。传统IT治理主要管理应用、用户与数据三者之间的交叉关系；AI则增加了第四个维度⸺模型本身⸺以及模型与前三者之间不断变化的关系。这一新增维度不仅使风险倍增，更改变了治理的基本结构。 58%的受访者表示其组织尚未建立完善的数据与治理框架。 在这种环境下，组织需要的是更智能、更具适应性、深度一体化的治理体系。智能体AI所做的自主决策可以在短短数小时内⸺而不是数月内⸺放大风险。只有自适应治理才能跟得上这种节奏。自主、以目标为导向的AI代理不只会执行指令⸺还会独立决策、串联一系列动作，并实时调整自身行为。这种速度与不可预测性足以压垮静态治理框架，让昨天的安全护栏变成今天的弱点。 例如，一款用于优化供应链的自主AI智能体，可能会将物流路线规划至劳工权益保障体系不完善的地区；客服场景中的AI助手，可能会在对话变得棘手时，把来电转接给无法解决问题的线路；一套金融分析系统，可能会逐渐形成难以察觉的偏差，从而给出失之偏颇的建议。这些运营层面的现实问题可能导致高昂的失败成本，破坏信任，使原本前景良好的AI项目偏离正轨。 相比之下，自适应AI治理体系，能推动企业全流程的实时优化。正如我们的研究所示，AI治理成熟度更高的组织，其安全指标提升了23%，员工相关指标（例如满意度与敬业度）提升了20%，AI采纳率也提升了18%⸺这很可能得益于治理增强了稳健性、清晰度和团队信心。 智能体AI所做的自主决策可以在短短数小时内⸺而不是数月内⸺放大风险。只有自适应治理才能跟得上这种节奏。 图1 高管担忧的十大AI风险 图2 良好治理的回报 受访者报告的企业效益 AI治理绝非单纯的合规议题，而应是创造价值的议题，是推动增长的赋能手段。 Heather Domin，HCL科技公司副总裁兼负责任AI与治理办公室负责人 图3 AI治理的受阻点 五大常见的组织障碍 IBM如何在不损害信任的前提下加快AI步伐 案例研究 如何在加快AI创新步伐的同时，保持对风险的有效管控？IBM围绕五大核心支柱，重构了AI治理体系： 立足现有基础。1 IBM以现有管理体系为基础，正式搭建AI监管框架。“我们以《通用数据保护条例》（GDPR）为起点，”IBM全球隐私与负责任AI市场战略项目总监Michelle JutrasSteiner表示，“我们当时已经拥有成熟的隐私治理体系，并很快意识到，这套体系可以成为AI治理的核心基石。”IBM数据治理与隐私工程总监Nicole Jackson深度参与了这一工作。她用一句话点明了关键：“数据质量不佳，AI结果就不可能好。道理就是这么简单。” 这种共识⸺对AI的信任始于对数据的信任⸺为企业级变革奠定了基础。 构建全局视角。2 IBM搭建了一体化资产清单管理体系，用以跟踪组织内5,500多个应用与流程、2,000多个数据集与AI模型的使用情况。借助这一统一视图，团队可以准确了解有哪些模型在运行、哪些数据被使用，以及模型在整个生命周期的表现。 这种可观测性让治理从被动应对转向主动预防，公司也借此识别依赖关系，自动化评估流程，实现规模化的风险管理。这一举措的成效是实实在在的：IBM自有数据和第三方数据的审批时间均缩短了一半以上。 让治理成为全员责任。3 IBM并未设立单一职能的技术治理委员会，而是组建了负责任技术委员会，汇集业务部门、研究院、人力资源、市场营销和合规等不同职能的负责人，共同制定治理战略（见图4）。为了进一步落实AI治理，把问责机制嵌入整个组织，IBM指定业务负责人根据AI治理政策完成评估、确保合规性并开展复审。这让治理不再是开发完成前的“检查关卡”，而成为创新的推动力。 用AI治理AI。 IBM的watsonx.governance解决方案为监管引入自动化与可观测性，实时掌握模型性能、数据来源和合规情况。IBM有效地利用AI来治理AI，实现不间断监控，并加速了数据驱动的决策流程。 持续学习，也持续赋能伙伴。 目前已有超过1,600家技术供应商接受了技术伦理培训，内部团队也积极参与“AI日常伦理”、“值得从业人员信赖的AI”等课程。这些举措让负责任的AI不再只是少数专家的专属职能，而演变为全组织共享的一项核心能力。 图4 IGP operating model与业务节奏同频的治理模式 交互式的AI治理模式是一个跨职能运作的体系，靠单一的企业职能并不能实现。 目前已有超过1,600家技术供应商接受了技术伦理培训。 CEO推动责任落实 本次研究中，超过一半(63%)的受访组织表示，其CEO积极参与组织的AI治理工作，以确保治理有效落实。在AI治理成熟度更高的组织中，这一比例上升至81%。大约三分之一的CEO直接负责AI治理的管理与问责职责。 这标志着治理模式从“向下授权”到“高层战略性领导”的转变。这不是微观管理，而是战略上的必然选择。值得注意的是，治理成熟度更高的组织，其CEO的治理参与度也往往更高，这体现了AI对业务的重要性。AI决策已经渗透到业务运营的方方面面，从客户互动，到供应链管理，再到财务规划，其背后的风险与机遇覆盖面极广、影响重大，已无法仅由业务执行团队独立管控。 “仅凭政策无法确保合规落地，企业必须通过文化建设，让员工形成践行合规要求的自觉行为。” Saira Jesani，数据与可信AI联盟执行董事 研究表明，如今75%的高管将AI伦理视为差异化优势的来源之一，而最具成效的组织会将“风险规避”（防范风险、合规落地）与“价值创造”（能力建设、创新驱动与信任提升）两大目标有机结合。5 CEO亲自定调并指引方向，会向整个组织释放出明确的信号。当最高领导层认真对待AI治理时，这种态度会逐级扩散，影响到每一个部门和职能。 案例研究 一家领先的健康与日用消费品零售商通过完善的AI伦理与治理体系实现业务成功6 一家领先的健康与日用消费品零售商的高级总监启动了企业AI计划，通过引入外部供应商与自研产品相结合，打造AI能力。该高管分享了企业在AI治理方面的三大运营实践： 严格的治理流程。该零售商的AI治理小组是一个集中管理团体，负责确保所有AI项目都按要求完成各个审批步骤。为此，治理小组会定期组织会议，由项目团队说明其合规措施如何与治理小组的管控方案保持一致。通过评审的项目才能进入下一阶段。该总监表示，作为一家与大量合作伙伴、供应商、客户和其他生态参与方广泛开展合作的大型企业，在构建AI能力时必须格外谨慎。 AI伦理引擎。无论该零售商采用的是SaaS、外部供应商方案还是开源产品，都会在部署前确保所有伦理相关参数全部达标。其内部审计流程被称为“AI伦理引擎”。