面向投资者的负责任 AI Playbook

面向投资者的负责任 AIPlaybook 白皮书 2024 年 6 月 Getty Images 图片 ： Contents 前言 3 执行摘要 4 导言 5 1 RAI 的业务案例和利益相关者的角色 6 1.1人工智能将驱动风险和利润61.2利益相关者在促进负责任的 AI 中的作用8 29投资者参与 RAI 2.1 关注影响最大的领域 9 2.2122.3152.417与公司的接触与外部资产经理的互动参与更广泛的生态系统 3 前面的障碍 - 以及如何清除它们 19 贡献者 22结论 21尾注 24 免责声明 这份文件由世界经济论坛发布，作为对某个项目、洞察领域或互动的贡献。文中表达的研究发现、解释和结论是世界经济论坛促成并认可的合作过程的结果，但这些结果未必反映世界经济论坛的观点，也不一定代表其全部成员、合作伙伴或其他利益相关方的意见。 © 2024 世界经済フォーラム。所有权利保留。本出版物的任何部分均不得以任何形式或通过任何手段进行复制或传输，包括复印和录音，或通过任何信息存储和检索系统。 前言 Cathy Li ， AI ， 数据和 Metaverse 主管 ； 世界经济论坛执行委员会成员 Judy Wade CPP Investments 战略执行和关系管理董事总经理兼主管 当世界经济论坛和CPP投资见解研究所于2022年中期启动这一合作伙伴关系时，负责任人工智能（RAI）对投资者的广泛相关性仍存疑问。此外，在气候变化、公平性、多样性和包容性以及网络安全等领域对公司寄予其他期望的情况下，投资者在促进RAI采用方面的作用也尚不明确。 为了保护其投资组合的当前和未来的稳定性，投资者应同时解决这些 Immediate Issues 以及人工智能的更深层次影响。这始于建立强大的治理框架和明确的原则与实践，以将负责任的人工智能（RAI）标准整合到所有应用中。 如果成功，术语“RAI”将变得过时，因为高质量、可靠且安全的AI将成为常态。正如我们不再区分“桥梁”和“不会倒塌的桥梁”一样，“负责任”的限定词将成为一种未言明的期望。今天，我们正处于这一时代的开端，新的法律法规正在涌现，以确保所有AI应用都是负责任的。 随着2022年底ChatGPT的推出，人工智能的机会与风险变得更加清晰。简言之，采纳负责任的人工智能原则和政策的重要性已不容置疑。 那么 ， 投资者在推动采用这些原则和政策方面的具体功能是什么 ？ 这让我们回到了最初的问题，对于这个问题有一个明确的答案：大型投资者可以并且应该利用其资本赋予的影响来推动在其投资组合中、与投资合作伙伴的合作中以及更广泛的生态系统中使用RAI。 正如阿马拉定律所阐述的，我们往往会在短期内高估一项技术的效果，在长期内则低估其效果。这句格言提醒我们，尽管生成式AI潜在的影响值得肯定，但仍需以长期、审慎的态度来应对基础性问题。更广泛的企业界已经开始面临数据泄露、隐私损失、失业、伦理挑战、虚假信息和误导性信息等风险。 这份白皮书提供了一套投资者如何加速采用RAI以推动价值创造的方法。虽然它并不涵盖所有可用的杠杆，但我们认为它提供了有用的意见、案例和具体步骤，以便与其他利益相关方进行互动。 执行摘要 负责任的人工智能使公司在第四次工业革命中取得成功。 人工智能（AI）在第四次工业革命中发挥着核心作用，这一时期的特点是技术融合以及物理、数字和生物领域界限的模糊。1人工智能正迅速应用于广泛的企业对企业和消费者的应用领域。对于大型投资者而言，确保所有人工智能应用都是负责任的（即诚实、有益且无害）不仅是一项技术升级，更是战略上的必要要求。确保其按照负责任的人工智能（RAI）原则进行开发和部署是提升风险调整后回报率和为企业成功定位的重要步骤。 为了利用 AI 的潜力 ， 投资者 ：应与利益相关者接触 ， 包括 –： 通过与电路板接合投资组合公司的企业董事会，直接投资者可以协助建立（或确保董事对建立）RAI原则、政策和问责措施。 –： 资产所有者可以投资合作伙伴鼓励他们在自身运营中采用AI治理 ，并将其扩展到其持有的公司。 –： 在更长的时期内 ，投资者的努力可以有助于创建一个生态系统，在这个生态系统中，RAI的优势被广泛理解且普及程度极高。 RAI 降低了风险并促进了以下方面的增长 ：以下方式 它关注非监管业务风险。人工智能的采用在伦理（社会）和技术创新层面带来了意外后果的风险，例如新型网络攻击、不必要的偏见、就业中断或替代以及数据泄露或污染。全面的人工智能问责制战略可以帮助识别并减轻这些风险。 几个关键领域需要进一步 ：发展是 –: A 动态AI治理和标准框架对于AI治理至关重要，同样 重要的是能够普遍接受的有效性衡量标准。私营部门、学术界和政府等各方的协作努力可以加速这些工具的发展。 它减轻了法律和监管风险。一个积极主动的AI治理体系能够预见并适应法律和监管变化，保护企业和投资者免受罚款和声誉损害的影响。 –: 保持 人工智能技术进步与教育培训和能力提升同步进行，各利益相关方必须投资于持续学习。这包括高管教育、投资者对话论坛以及公众意识宣传活动。 - 它可以改善底线和底线。研究表明 RAI 可以增加增强客户信任，从而提升参与度和留存率。这还 可以保护品牌安全、拓宽收入渠道、在竞争性招标过程中获得采购优势，并在市场中提高定价能力，从而超越AI系统和与RAI契合度较低的企业。 - 平衡部署速度与安全 ： 公司将面临诱惑追求短期利益而忽视负责任的人工智能（RAI）的开发和部署，将人工智能快速开发和应用视为首要任务，而不是将其作为优先考虑的因素。如果没有适当关注RAI，仓促部署将危及长期价值。 Introduction 负责任的人工智能可以为投资者和其他利益相关者保存和创造价值。 RAI 的业务案例和利益相关者的角色 投资者有动力和机会加速 RAI。 1.1 人工智能将同时驱动风险和利润 根据麦肯锡公司的说法 ， 组织需要管理九类风险， 如表 1 所示。 随着人工智能 adoption 的普及，它将成为风险（即潜在危害）和价值的重要驱动因素。这意味着它也将成为投资者在评估潜在投资时进行尽职调查的重要组成部分。最终，其治理和管理方式将成为公司董事会的核心监督重点。 现实世界的公司挫折凸显了人工智能可能对企业和投资者造成伤害的可能性。例如，当Zillow的模型未能与降温的房地产市场同步调整时，其Zillow Offers房屋翻新业务在2021年损失了约8.81亿美元。10《纽约时报》于2023年因产品在回答用户提示时使用了受版权保护的作品，起诉OpenAI和微软。11来自 AI 系统的现实世界危害和近乎危害的清单继续堆积如山 theAI 事件数据库经济合作与发展组织(OECD)AI 事件监视器. 超越直接组织影响，AI风险可以影响个人并在投资者运营的更广泛生态系统中引发问题——根据国家标准化研究院的AI风险管理框架（NIST AIRMF）（见图1）。12 为了应对这些危害，与AI监管相关的重大法规正在制定中，许多法规很可能在2024年生效。13自 2016 年以来 ， 各国已经通过了至少 148 项与人工智能相关的法案 ， 其中大多数是近年来通过的。14欧盟人工智能法案(EU AIA) ， 目前代表着最严格的人工智能法规 ，15旨在创建一种基于风险的方法来管理技术。16欧盟AI指令（AIA）的域外适用范围及其异常高的罚款额度（即最高可达3500万欧元或公司全球年营业额的7%中的较高者）预计将影响欧盟边境以外地区的监管要求（即“布鲁塞尔效应”）。17 实施 RAI 的费用。19根据贝恩公司（Bain & Company）的研究，采用全面且负责任的人工智能策略的公司，其人工智能努力所获得的利润是普通公司的两倍。20 企业领导者普遍认为，负责任地实施人工智能所带来的长期益处和成本节约远远超过了初始实施RAI的开支。 此外，拥有强大AI治理体系的企业可以在确保合规的前提下规模化发展，并推动业务增长和创新。21波士顿咨询集团（BCG）的一项研究发现，将责任置于扩大AI能力之上的公司经历的AI失败案例几乎减少了30%。22与没有的公司相比。23此外，拥有成熟的人工智能责任计划（RAI）的企业在其AI投资中实现业务“益处”（如更好的产品或服务或加速创新）的可能性是其他企业的两倍，无论其AI成熟度如何。24 虽然RAI主要在于缓解上述的人工智能风险和危害，但它也可以为公司带来额外的好处。其他来自RAI的价值来源基于信任——这些价值包括其通过提升客户参与度、拓宽收入渠道、在竞争性招标过程中提供采购优势以及在市场中增强定价权来促进收入和利润增长的能力。18商业领袖们普遍认为，负责任地实施人工智能所带来的长期益处和成本节约远远超过了初始投资。 此外，消费者信任被认定为公司绩效的关键决定因素，解释了利润 margin 变异的 31% 和资产回报率变异的 21%。25随着人工智能的普及，如果不与RAI原则保持一致，可能会对这一指标产生负面影响。相反，通过增强信任来践行RAI可以为政府、企业和投资者解锁一系列益处。 1.2 利益相关者在促进负责任的AI 中的作用 全球社区将持续推动人工智能的获取、开发和实施的预期，伴随政府监管措施的出台、企业承诺的兑现以及消费者和企业实践的演变。 TheAI 治理中的决策点来自加州大学伯克利分校长期网络安全中心的白皮书系列详细介绍了三个案例研究，探讨了将AI原则付诸实践的努力。26 投资者参与 RAI 为了减轻风险和危害 ， 投资者需要在整个投资组合中以及潜在的投资组合中参与RAI 。 2.1 关注影响最大的领域 投资者可以从何处入手？以下步骤将帮助他们在开始与公司、外部资产管理机构以及更广泛的生态系统进行互动时有所指导。此外，还出现了其他工具来协助他们。 投资者应采用清晰政策和标准的AI治理框架，并促进在AI开发、采用和使用过程中责任和透明度的文化。 合作伙伴确保适当的 RAI 政策和程序到位。 第三步 ： 与公司、外部管理者和更广泛的生态系统接触。 与公司、外部管理者及其他各方合作可以扩大投资者的影响范围，并通过制定定制计划加速负责任人工智能（RAI）的采用，从而帮助他们最大化人工智能投资的价值。与公司、外部管理者及更广泛生态系统相关的参与内容将在本手册后续章节中进行更详细的讨论。27 步骤 1 ： 制定 RAI 承诺并应用其。内部运营的原则和实践 投资者若希望在其投资组合中整合RAI（人工智能/机器人人工智能），第一步是了解AI/RAI，并将其应用到自身运营中。这包括定义自己的RAI原则和优先事项，明确他们会投资的领域。如果在其运营中使用AI， 投资者应采用具有明确政策和标准的AI治理体系，并促进在AI开发、采用和使用过程中责任和透明度的文化。 投资者优先级通常取决于尽职调查和利益相关方需求中发现的内容（例如：公司治理、能力建设、战略和风险管理）。因此，人工智能是关键的杠杆点和影响因素。治理 治理建立基础1 步骤 2 ： 进行 RAI 尽职调查。投资组合 监管、原则、政策、标准和监督等机制为 RAI奠定了基础。 人工智能将在几乎所有的公司中发挥作用，从大型科技公司的创新实验室到工厂车间。投资者需要考虑的是，在投资组合中他们应该首先关注哪种类型的AI？鉴于投资组合和投资者类型的多样性，参与和缓解策略应针对个别投资组合和投资策略进行定制。 监管前存在差距2 并且，在大多数地区，AI领域的监管预期仍处于emergent 阶段。这为投资者提供了机会，可以促进强有力的自我治理机制，主动解决利益相关者的问题。提前应对监管有助于前瞻性地缓解监管和业务风险，节省成本，并最终影响监管环境。 投资者应进行适当的尽职调查，评估企业及其投资合作伙伴如何符合RAI原则（参见案例研究1）。在直接投资组合中，潜在的强化或植入RAI实践的领域可能出现在人工智