为什么投资人工智能伦理和治理

五个现实世界的起源故事 与圣⺟⼤学—IBM技术伦理实验室合作 IBM 如何 帮助 客⼾可以利⽤ IBM 深厚的⾏业、功能和技术专业知识；企业级技术解决⽅案；以及基于科学的研究创新，实现⼈⼯智能、分析和数据的潜⼒。 更多信息，请浏览：IBM 咨询的⼈⼯智能服务 ibm.com/services/artificial-intelligenceIBM 软件的⼈⼯智能解决⽅案 ibm.com/WatsonIBM 研究的⼈⼯智能创新 research.ibm.com/artificial-intelligence圣⺟⼤学-IBM 技术伦理实验室 techethicslab.nd.edu/ 要点 衡量AI伦理价值的组织可能会领先⼀步 拥抱AI伦理⾄关重要 这不仅仅涉及损失规避。75%的⾼管认为AI伦理是重要的竞争差异来源。超过85%的调查对象消费者、公⺠和员⼯重视AI伦理 我们的整体AI伦理框架考虑了三种ROI类型 ⻓期⽽积极的AI伦理策略可以为整个组织创造价值 绝⼤多数公司（54%）预计AI伦理在战略上⾮常重要，⾼管提到了涉及20个不同业务功能 投资AI伦理有潜⼒创造可量化价值 衡量AI伦理价值的组织可能领先。我们的整体AI伦理框架包括三种ROI：经济影响（有形）、声誉影响（⽆形）和能⼒（实际选择ROI） 简介 ⽣成式⼈⼯智能正在彻底改⾰各⾏业，但其令⼈眼花缭乱的崛起也引发了重⼤的伦理关切。平衡潜在的好处与伦理和监管影响⾄关重要。 但这并不容易。在IBM商业价值研究所（IBM IBV）的研究中，80%的商业领导者认为⼈⼯智能的解释性、伦理、偏⻅或信任是⽣成式⼈⼯智能采⽤的主要障碍。⽽⼀半的⼈表⽰，他们的组织缺乏管理⽣成式⼈⼯智能伦理挑战所需的治理和结构。 （56%）延迟对⽣成式⼈⼯智能的重⼤投资，直到他们对⼈⼯智能标准和法规有明确的了解，7 ⽽72% 的⾼管表⽰，由于道德顾虑，他们的组织实际上会放弃⽣成式⼈⼯智能的好处。8 然⽽，有⼀条道路可以前进——如果⾼管拓宽他们的视野，将⼈⼯智能伦理视为机遇。更好的是：最新研究表明，在⼈⼯智能伦理⽅⾯的投资有可能创造可量化的好处。 为了释放这种潜⼒，组织需要在评估⼈⼯智能伦理投资回报率时拥抱⼀种新的视⻆。在本报告的第⼀部分中，我们确定适⽤于⼈⼯智能伦理的三种关键ROI类型，换句话说，⼀种全⾯的⼈⼯智能伦理框架。在第⼆部分和第三部分，我们探讨了两种不同但有价值的⽅法来⽴即证明⼈⼯智能伦理投资的合理性。（我们计划在2025年进⾏进⼀步的研究，深⼊探讨量化问题。）最后，我们提供了⼀个⾏动指南，以便在组织内实现全⾯的⼈⼯智能伦理框架。 我们还包括了五位在⼈⼯智能伦理前线的⾼管的故事 作为IBM IBV、圣⺟⼤学—IBM技术伦理实验室、IBM⼈⼯智能伦理委员会和IBM隐私和负责任技术办公室之间⼀项持续合作项⽬的⼀部分。⼀些采访是与⽜津经济学研究院合作进⾏的。 第⼀部分 探索整体⼈⼯智能道德框架 AI伦理和治理投资可以⼴泛覆盖企业，从AI伦理委员会到以伦理为设计的⽅法论，从综合治理计划到涵盖AI伦理与治理的培训计划，以及许多其他努⼒。（⻅第13⻚“AI伦理：⼀线故事”）。 还请参考我们的IBM IBV研究《AI治理企业指南》⽹址ibm.co/ai-governance。 那么组织如何开始衡量这些倡议的影响？我们开发了⼀个综合的AI伦理框架来满⾜这种需求，并通过与30多家组织进⾏的⼴泛对话进⾏了验证。这种⽅法可以帮助组织理解他们的AI伦理与治理投资的价值。 传统上，投资仅以财务术语计算ROI来进⾏验证。评估AI伦理投资更具挑战性，提供了具体和⽆形的收益，同时有助于建⽴⻓期能⼒。 “我们的⼯作不仅要为组织的使命做出贡献，还必须为组织的利润贡献。” SAS数据伦理实践副总裁雷吉·汤普森指出。“否则，它会被视为慈善事业，⽽慈善事业⽆法⻓期获得资助。” 我们开发了⼀个综合的AI伦理框架，并通过与30多家组织进⾏的⼴泛对话进⾏了验证。 ⼀个全⾯的⼈⼯智能伦理框架确定组织在⼈⼯智能伦理投资中应考虑的三种投资回报类型。 经济影响（有形回报）指的是⼈⼯智能伦理投资的直接财务收益，例如成本节省、增加收⼊或降低资本成本。例如，⼀个组织可以通过投资⼈⼯智能⻛险管理来避免监管罚款。 声誉影响（⽆形回报）可能涉及⼀些重要但难以量化的因素，如⽀持积极回报或影响组织声誉与股东、政府、雇员和客⼾之间关系的品牌和⽂化。案例包括改善环境、社会和治理（ESG）评分； 提⾼员⼯保留率；以及积极的媒体报道。 能⼒（实际选择回报）指的是建⽴能⼒的⻓期益处⾸先为⼈⼯智能伦理建⽴的能⼒，可以在整个组织中传播更⼴泛的价值。 例如，技术基础设施或专⻔的伦理平台可能使组织能够以导致进⼀步节约成本和创新的⽅式现代化。 上述描绘的整体⼈⼯智能伦理框架描述了通过经济回报直接路径以及通过能⼒和声誉间接路径来理解投资于⼈⼯智能伦理对利益相关者的影响。该框架包括并描述了组织在⼈⼯智能伦理⽅⾯进⾏投资时存在的关系、利益相关者和潜在回报。11 在⾼层次上，这种⽅法在实践中可能如何运作？考虑对⼈⼯智能伦理委员会基础设施和⼈员的投资。这项投资有助于防⽌监管罚款（有形影响）；增加客⼾信任、合作伙伴认可和商业机会（⽆形影响）；并帮助促进开发改善⾃动⽂档和数据管理的管理系统⼯具（能⼒）。整体⼈⼯智能伦理框架描绘了⼈⼯智能伦理如何贯穿整个组织，⽆论是在实践还是结果⽅⾯。 整体⼈⼯智能伦理框架阐明了⼈⼯智能伦理如何贯穿整个组织，⽆论是在实践还是结果⽅⾯。 第⼆部分 “损失厌恶”价值 什么是AI伦理？富达投资公司负责数据政策的⾼级副总裁简洁地将其表达为： “这是以⼀种负责任的⽅式使⽤⼈⼯智能技术，以能够在与我们的客⼾、潜在客⼾和其他客⼾交流时区分对错。” 根据最近IBM IBV的研究，72%的⾼管表⽰，如果认为利益可能伴随伦理成本，他们将放慢⽣成式⼈⼯智能项⽬的步伐。这些组织中的同类公司更有可能在收⼊增⻓上取得27%的超常表现。这是⼀个难以忽视的相关性。 然⽽，⾼尚的AI意图往往只停留在⼝头上。尽管我们研究的超过⼀半组织公开⽀持AI伦理原则，但不到四分之⼀的组织已将其操作化。不到20%的⼈坚定认为，他们所在组织在AI伦理⽅⾯的⾏动和实践与他们表述的原则和价值相匹配（甚⾄超越）。 ⼀个国际⾦融服务公司AI治理负责⼈表⽰：“想要做到这⼀点是很好的，但你需要实际去做。 但是，要做到这⼀点，你需要资源，这需要资⾦。更重要的是，你需要⾼管的意志。” 那么，投资于AI伦理的业务正当理由是什么？它通常以损失厌恶的⽅式开始：避免与监管合规相关的成本，或者保留可能因客⼾将业务转移到优先考虑AI伦理的企业⽽丢失的收⼊。 ⾼尚的AI意图往往只停留在⼝头上。 AI监管者的提醒 这些动机反映了短期策略，并不减弱它们的重要性。15损失规避会带来近期的结果。 AI监管是⾏动的催化剂。欧盟AI法案是⼀个重⼤实体⾸次制定的全⾯AI法规。德国电信的⼀位战略经理表⽰：“欧盟AI法案可能会在全球改变AI伦理的⾯貌。⽐如，如果⼀家美国公司与我们合作，它们也必须遵守欧盟AI法案。” 作为全球⾦融服务公司负责AI治理的⾼级领导所指出，“商业案例的重点在于降低声誉⻛险。” 欧盟的努⼒只是⼀个开始。组织例如，AI伙伴关系、全球伙伴关系AI、世界经济论坛、联合国和经济合作与发展组织（OECD）等机构都发布了关于AI负责任⽅法的原则和指南。在AI治理中⼼针对11个国家的超过13,000⼈的调查中，91%的⼈同意AI需要得到谨慎管理。18 损失规避的⽰例包括：16 规范上的理由 避免受到监管罚款。 避免法律成本。 实施必需的技术合规机制 鉴于对法规、监督和⼈⼯智能负责任⽅法的强调，关注损失规避不仅是合理的，⽽且是必要的。 促进业务以满⾜合规要求。 客⼾/合作伙伴/竞争对⼿的理由 消除利益相关者的担忧避免对业务模式构成威胁满⾜特定客⼾的请求或需求保护品牌声誉跟上竞争对⼿的步伐 第三部分 利⽤AI伦理来创造价值 投资于AI伦理的好处不仅仅是为了避免成本或控制损失。它们还有助于建⽴有⽤的能⼒和切实的创新，从⽽促进组织⻓期战略的实施。这种价值的产⽣可能⽐损失规避更加间接，需要对投资回报的视野进⾏扩展。这也不会⼀蹴⽽就，可能需要⼀段时间才能看到可衡量的成果。 但是，对于深刻理解AI伦理的组织来说，可以利⽤这些投资来： - 促使⻓期计划负责任地扩展AI。- 建⽴独特且有价值的组织能⼒，可以引领到差异化。- 提⾼员⼯效率或⽣产率。- 符合推动业内领先的价值观。- 抓住市场机遇。- 保护弱势群体和社区- 提⾼客⼾满意度- 展现信誉和成熟度- ⽀持环境、社会和治理（ESG）⼯作- 增强⻓期⻛险管理能⼒- 为竞争优势进⾏创新 随着⼈⼯智能技术的成熟，组织不仅可以将⼈⼯智能整合到他们的运营中，还可以将这项技术重新⽤于新的创新。⼀位来⾃⼀家领先的健康和消费品零售商的⾼级主管解释说：“基于我们从⼈⼯智能的⻆度采取的措施来创建和丰富客⼾体验，我们已经看到在品牌的采⽤、销售增⻓、客⼾留存和客⼾增⻓⽅⾯的回报。 结合两个世界的最佳部分 拥抱全⾯的⽅法，既包括损失规避⼜包括价值创⽣的组织将更有效率、更有效果、更成功——同时也更具道德性。 富达投资的⾼级副总裁观察到: “公司没有意识到，前期投资实际上会带来显著的投资回报，不仅在伦理⽅⾯，⽽且在任何您的⽤例的实施总成本⽅⾯。因为如果您没有奠定基础，您将花费更多的钱，因为每个⼈都在逐个实施柱，并且⽆法从任何重⽤中获益。” 这种演变的初步步骤，当然，是实际开发与⽀持组织战略⼀致的⼈⼯智能⽤例。 德国电信的战略经理指出：“您可以为客⼾创建⼈⼯智能解决⽅案，也可以为内部基础架构创建⼈⼯智能解决⽅案。” 从起始阶段开始，采⽤“防御性”避免损失姿态是本能和合理的，以避免我们描述的诸如监管罚款、法律成本和声誉⻛险等陷阱。 但在转向创造价值的过程中可以找到肥沃的⼟壤。组织需要创造技术、基础设施，并且具有⽀持⼈⼯智能伦理倡议并推动更⼴泛企业创新的多功能平台。 为这些战略获得⽀持和预算可能有些棘⼿。 为说服怀疑论者并克服障碍，组织应清楚地确定潜在价值，包括经济回报的度量标准。这可以通过确定相关的损失规避和价值创造的理由，就像组织计划，然后评估潜在投资⼀样，来完成，本质上，使⽤全⾯的⼈⼯智能伦理框架。 在转向创造价值的过程中可以找到肥沃的⼟壤。组织需要创造具有多功能性的技术、基础设施和平台，以⽀持⼈⼯智能伦理倡议并推动更⼴泛的企业创新。 操作指南 如何收获AI道德投资的回报 投资于AI道德不仅是正确的选择，也可以成为明智的商业决策。通过使⽤全⾯的AI道德框架，组织可以做出有根据的选择，将资源分配给AI道德，帮助提升AI项⽬的可信度和潜⼒。 根据IBM IBV研究，75%的⾼管认为道德是重要的竞争差异化来源。⼀份来⾃经济学⼈智库的研究与这些结果相符，指出通过产品质量、⼈才招聘和留住、以及新的收⼊来源获得竞争优势。 这些研究强调了积极应对AI道德的关键性。组织必须考虑AI治理与之前技术的差异，渗透到他们⽂化、⽣态系统和客⼾参与的每个⻆落。 “你根据⼈类的思维教育AI引擎，”⼀家领先的医疗保健和消费品零售商的⾼级主管说，“因为从道德的⻆度看，他们是更好的判断者。” 在这⽅⾯，SAS的雷吉·汤普森观察到：“我们有⼀群来⾃各种不同背景和⽣活经历的⼈，我们做困难的⼯作，但也做着⼼灵的⼯作。我不会雇⽤任何对我们正在做的事情没有兴趣的⼈。我们团队⾥有充满激情的⼈，我们把这种激情带到⼯作中。这是根本性的重要。” 以下是我们的优化AI伦理投资的五步指南 邀请最有洞察⼒的AI伦理专家，向⾼管介绍AI伦理中损失规避与价值创⽣⽅法之间的区别。帮助⾼管设想利⽤AI伦理技术、平台和基础设施进⾏更⼴泛应⽤的潜⼒。 2 确定适⽤于当前AI⽤例的AI伦理和治理的具体价值创⽣理由。例如，包括负责任地