为什么要投资人工智能伦理和治理？2025

2更多信息：来自 IBM 研究院的 AI 创新®research.ibm.com/人工智能巴黎圣母院-IBM技术伦理实验室techethicslab.nd.edu/IBM如何提供帮助ibm.com/services/人工智能客户可以利用ibm深厚的行业、职能和技术专业知识；企业级技术解决方案；以及基于科学的研发创新，来发掘人工智能、分析和数据的潜力。来自 IBM 软件的 AI 解决方案 ibm.com/Watson 拥抱人工智能伦理至关重要。投资人工智能伦理具有创造可量化价值的潜力。大部分公司（54%）期望人工智能伦理在战略上非常重要3随着高管提到涉及20个不同的业务职能。关键要点长期来看，积极主动的人工智能伦理战略能为整个组织创造价值。这不仅仅关乎损失规避。75%的高管认为人工智能伦理是重要的竞争优势来源。1超过85%的受访消费者、公民和员工重视人工智能伦理。2衡量人工智能伦理价值的组织可能领先一步。我们的整体人工智能伦理框架考虑了三种类型的ROI：经济影响（有形的）、声誉影响（无形的）和能力（真实期权ROI）。 衡量人工智能道德价值的组织可能会领先一步。我们的整体人工智能道德框架考虑了三种类型的ROI。 4 1 我们还包含了来自人工智能伦理一线的五位高管的故事，作为 IBM IBV、Notre Dame—IBM 技术伦理实验室、IBM 人工智能伦理委员会和 IBM 隐私与负责任技术办公室之间持续合作项目的一部分。一些访谈是与牛津经济学合作进行的。但是这不简单。在IBM商业价值研究所（IBM IBV）的研究中，80%的企业领导者认为AI可解释性、伦理、偏见或信任是生成式AI采用的主要障碍。5还有一半人说他们的组织缺乏治理和结构来管理生成式人工智能的伦理挑战。6生成式人工智能正在改变行业，但其令人目眩的崛起也引发了重大的伦理问题。在潜在利益与伦理和监管影响之间取得平衡至关重要。面对这种不确定性和风险，许多首席执行官都在暂停行动。超过一半（56%）的人将生成式人工智能的主要投资推迟到他们明确人工智能标准和法规之前。7并且 72% 的高管表示他们的组织实际上会因为伦理问题而放弃生成式人工智能的益处。8为了解锁这种潜力，组织需要在评估人工智能伦理投资的投资回报率时采用新的视角。在本报告的第一部分，我们确定了三种适用于人工智能伦理的投资回报类型——换句话说，一个整体的人工智能伦理框架。在第二部分和第三部分，我们探索了两种不同但有价值的方法来论证当前的人工智能伦理投资。（我们计划在2025年进行更多研究，以更深入地探讨量化问题，从而在此基础上开展工作。）最后，我们提供了一份行动指南，用于在组织内部使整体人工智能伦理框架落地。然而，有一条前进的道路——如果高管们拓宽他们的视野，将人工智能伦理视为一个机会。更好的是：持续的研宄表明，投资人工智能伦理有潜力创造可量化的效益。 第一部分那么，组织如何开始衡量此类举措的影响呢？我们开发了一个整体的AI伦理框架来满足这一需求，并通过与30多家组织进行一系列广泛的对话来验证它。这种方法可以帮助组织理解他们在AI伦理和治理方面的投资价值。人工智能伦理与治理投资可广泛涵盖企业范围，从人工智能伦理委员会到基于设计的伦理方法，从综合治理方案到涵盖人工智能伦理与治理的培训计划，以及其他诸多努力。（参见第13页的“人工智能伦理：前线故事”。另参阅我们的IBM IBV研究报告）企业AI治理指南在 ibm.co/ai-governance。)“我们的工作不仅要为组织的使命做出贡献，还要为组织的利润率做出贡献，”SAS数据伦理实践部的副总裁雷吉·汤森德指出。“否则，它看起来就像是慈善事业，而慈善事业不会得到长期的资助。”传统上，投资是通过仅以财务术语计算ROI来证明其合理性的。AI伦理投资则更具挑战性来评估，它既提供有形和无形的好处，也有助于建立长期能力。我们开发了一个全面的AI伦理框架，通过与超过30个组织进行的一系列广泛对话来验证它。探索全面的AI伦理框架9 10 声誉影响（无形ROI）能力（实物期权投资回报率）经济影响（有形ROI）来源：“人工智能伦理的投资回报：整体框架”。第57届年度HICSS系统科学会议论文集。2024年1月。指的是人工智能伦理投资带来的直接财务收益，例如成本节约、收入增加或资本成本降低。例如，一个组织通过投资人工智能风险管理可能避免监管罚款。指建立能力所带来的长期效益，这些能力最初为人工智能伦理而设立，可以在整个组织中传播更广泛的价值。例如，技术基础设施或特定的伦理平台可能允许组织以能够进一步降低成本和创新的方式进行现代化。可能涉及重要的但难以量化的因素，例如支持积极回报或对股东、政府、员工和客户对组织声誉产生影响的组织品牌和文化。例如包括改善环境、社会和治理（ESG）得分；增加员工留任率；以及积极媒体报道。一个整体的人工智能伦理框架确定了组织在人工智能伦理投资方面应考虑的三种ROI类型。 上述的整体人工智能伦理框架描述了三种理解人工智能伦理投资对利益相关者影响的途径：通过经济回报的直接途径，以及通过能力和声誉的间接途径。该框架涵盖了组织在人工智能伦理方面进行投资时存在的关联、利益相关者以及潜在回报。11整体人工智能伦理框架说明了人工智能伦理如何在整个组织中贯穿始终，无论在实践方面还是在结果方面。从宏观角度看，这种方法在实践中可能如何运作？考虑投资建立人工智能伦理委员会的基础设施和人员。这项投资有助于避免监管罚款（有形影响）；增强客户信任、合作伙伴认可和商业机会（无形影响）；并有助于推动管理系统工具的开发，从而改进自动化文档和数据处理（能力）。整体人工智能伦理框架展示了人工智能伦理如何在组织中的实践和成果方面相互交织。 第二部分“损失厌恶”的价值那么，投资人工智能伦理的商业合理性是什么？这通常始于一种损失规避方法：避免与监管合规相关的成本，或保留可能因客户将业务转向优先考虑人工智能伦理的企业而流失的收入。“想去做是好事，但你需要真的去做，”一家全球金融服务公司的负责人工智能治理的高级领导说。“但要去做，你需要资源，这需要资金。更重要的是，你需要高级管理层的决心。”然而，高贵的AI意图往往被更多地谈论，而不是被付诸行动。虽然我们研究中超过一半的组织公开支持AI伦理原则，但不到四分之一的人已经将其操作化。不到20%的人强烈同意他们的组织在人工智能伦理方面的行动和实践符合（或超过）其声称的原则和价值观。什么是人工智能伦理？富达投资负责数据政策的高级副总裁简洁地表示：“这是以负责任的方式使用人工智能技术，以便在与我们的客户、潜在客户和其他客户沟通时能够区分对错。”高贵的AI意图往往被谈论多于被付诸行动。在最近的IBM IBV研究中，72%的高管表示，如果他们认为潜在的好处可能带来伦理代价，他们会从生成式人工智能计划中退一步。这些相同的组织在收入增长方面更有可能表现优异——这种关联性很难被忽视。 14 1312 保护品牌声誉。与竞争对手保持同步。避免对企业模式构成威胁。消除利益相关者的担忧。监管依据避免监管罚款。满足特定的客户要求或需求。避免法律费用。这些动机反映了短期策略这一事实，并不会削弱其重要性。15损失厌恶会立即产生效果。正如一家全球金融服务公司负责人工智能治理的资深领导者所说，“商业案例的全部内容都是关于降低声誉风险。”实施必要的合规技术机制。损失规避的例子包括：16客户/合作伙伴/竞争对手的论证启用业务以满足合规要求。 来自人工智能监管机构的一击鉴于对法规、监管和负责任的人工智能方法的重视，关注损失规避不仅合乎情理，而且是必要的。欧盟的努力仅仅是开始。人工智能伙伴关系、人工智能全球伙伴关系、世界经济论坛、联合国以及经济合作与发展组织（OECD）等组织都发布了关于负责任的人工智能方法的准则和指南。17在人工智能治理中心对11个国家超过13,000人的调查中，91%的人同意人工智能需要得到仔细管理。18人工智能法规是行动的催化剂。欧盟人工智能法案是主要实体发布的首部全面人工智能法规。德意志电信的一位策略经理表示：“欧盟人工智能法案可能会改变全球人工智能伦理的面貌。例如，如果一家美国公司与我们合作，他们也需要遵守欧盟人工智能法案。” 7 – 展现可信度和成熟度。– 提升客户满意度。– 抓住市场机遇。— 创新以获得竞争优势。– 长期风险管理能力提升。— 与价值观保持一致，成为行业领导者。– 允许长期计划以负责任的方式扩展人工智能。– 提高员工效率或生产率。– 保护弱势个人和社区。– 支持环境、社会及管治（ESG）工作。随着人工智能技术的成熟，组织不仅可以将其融入其运营中，还可以将这项技术用于新的创新。一家领先的医疗保健和消费品零售商的高级主管解释道：“基于我们从人工智能角度为创造和丰富客户体验所采取的措施，我们已经看到了在品牌采用率、销售额增长、客户保留率和客户增长率方面的回报。”但那些对人工智能伦理有深入理解的机构可以利用这些投资：利用人工智能伦理创造价值– 打造独特且有价值组织能力，能够实现差异化。投资人工智能伦理的好处不仅在于成本避免或损害控制。它们还有助于构建有用的能力和切实的创新，从而能够支持一个组织的长期战略。19这种价值创造可能比损失规避更为间接，并且需要扩展对ROI的看法。它也不会一蹴而就，并且可能需要时间才能看到可衡量的成果。 20 反应性损失厌恶合规性理由避免监管罚款。避免法律费用。实现所需技术合规机制。启用业务以满足合规要求。与客户相关的理由合作伙伴，以及竞争对手消除利益相关者的担忧。避免对企业模式构成威胁。满足特定的客户要求或需求。保护品牌声誉。与竞争对手保持同步。融合两者的最佳之处来源：“基于人工智能伦理和治理投资的投资回报率：从损失厌恶到价值创造。”加利福尼亚管理评论。2024年7月29日。 创建技术，基础设施，以及支持人工智能伦理的平台努力并被重新利用启用长期计划以扩展负责任的人工智能。与价值观一致以前进作为行业领导者。抓住市场机遇。保护弱势人群和社区。提高顾客满意度。证明可信性和成熟度。支持环境、社会以及治理（ESG）工作。提升管理风险的能力长期为竞争优势而创新。构建独特且有价值的企业能力，能够实现差异化。采用包含损失规避和价值创造的全面方法的组织将更有效率、更有效、更成功——同时也更符合道德。提高员工效率或生产力。 10当然，这一演进的一个初步步骤是实际开发与组织战略一致并支持其战略的人工智能用例。德意志电信的战略经理指出，“你可以为客户创造人工智能解决方案，或者你可以为你的内部基础设施创造人工智能解决方案。”富达投资集团的高级副总裁观察到：“公司没有意识到的是，前期投资实际上能带来显著的ROI，不仅从伦理角度来看，而且从实施任何用例的总成本角度来看。因为如果你不打好这个基础，你会在所有人逐个实施一个支柱时花更多的钱，并且无法从中获得任何复用效益。”起跑时，采取“防御性”的损失规避姿态来避免我们描述的陷阱，比如监管罚款、诉讼费用和声誉风险，这很本能也很合理。但肥沃的土壤可以在转向价值创造的枢纽中找到。组织需要创建具有多功能性的技术、基础设施和平台，以支持人工智能伦理倡议，并推动更广泛的企业创新。肥沃的土地可以在价值创造的转向中找到。组织需要创造具有多功能性的技术、基础设施和平台，以支持人工智能伦理计划，并推动更广泛的企业创新。获取这些策略的支持和预算可能很棘手。为了说服持怀疑态度的人并克服障碍，组织应明确指出潜在的价值，包括经济回报的指标。这可以通过一个过程来实现，即组织在制定潜在投资计划时，识别相关的损失规避和价值创造的正当理由，然后评估这些潜在投资。21—本质上，使用整体的AI伦理框架。 操作指南如何收获人工智能伦理投资的回报 一位领先的健康和消费品零售商的高级总监说：“您基于人类的思考来教育AI引擎，因为他们从伦理角度来看是更好的判断者。”根据 IBM IBV 研究，75% 的高管将道德视为重要的竞争优势来源。22经济学人信息社的一项研究表明，这些结果得到了印证，它指出可以通过产品质量、人才招聘