面向投资者的负责任人工智能行动手册

面向投资者的负责任AIPlaybook W H I T E P A P E RJ U N E 2 0 2 4 Contents 1RAI的业务案例和利益相关者的角色6 1.1人工智能将驱动风险和利润61.2利益相关者在促进负责任的AI 8中的作用 2投资者参与RAI 9 2.12.2与公司的接触122.32.4参与更广泛的生态系统17 3前面的障碍-以及如何清除它们19 免责声明 本文档由 世界经济论坛是对项目，见解领域或互动的贡献。此处表达的发现，解释和结论是世界经济论坛促进和认可的合作过程的结果，但其结果不一定代表世界经济论坛的观点，也不是其成员、合作伙伴或其他利益攸关方的整体观点。 © 2024世界经济论坛。保留所有权利。本出版物的任何部分不得以任何形式或任何方式复制或传播，包括影印和记录，或通过任何信息存储和检索系统。 前言 CathyLiAI、数据和Metaverse负责人；世界经济论坛执行委员会成员 朱迪·韦德CPP投资公司战略执行和关系管理董事总经理兼主管 当世界经济论坛和CPP Ivestmets Isights Istitte在2022年中期开始建立这种伙伴关系时，负责任的人工智能（RAI）与投资者的广泛相关性仍然存在疑问。投资者在加速采用RAI方面的作用也不清楚，特别是考虑到对气候变化、公平、多样性和包容性以及网络安全领域的公司的其他期望。 为了保护他们现在和将来的投资组合的稳定性，投资者应该解决这两个问题 AI的直接问题以及更深层次的影响。首先要建立强大的治理框架和明确的原则和实践，将RAI标准集成到所有应用程序中。 如果成功，随着高质量，值得信赖和安全的AI成为常态，“RAI”一词将变得过时。正如我们不区分“桥梁”和“不倒塌的桥梁”一样，限定词“负责任”将成为一个不言而喻的期望。今天，我们正处于这个时代的开端，因为新的法律法规应运而生，以确保所有AI应用都负责任。 随着2022年末ChatGPT的推出，人工智能的机遇和风险都变得更加关注。简而言之，采用RAI原则和政策的重要性不再受到质疑。 那么，投资者在推动采用这些原则和政策方面的具体功能是什么？ 这使我们回到了最初的问题，对此有一个明确的答案：大 正如阿马拉定律所阐明的那样，我们通常会高估技术的短期效果，而低估长期效果。这句格言提醒我们，围绕生成AI潜力的早期兴奋虽然是合理的，但应该与对基础问题的长期、谨慎的方法相平衡。更广泛的商界已经在努力应对数据泄露、隐私丢失、失业、道德挑战、错误信息和虚假信息等风险。 投资者可以而且应该行使其资本所提供的影响力，以促进RAI在其投资组合，与投资伙伴的合作以及整个生态系统中的使用。 本白皮书提供了一个关于投资者如何加速采用RAI以帮助推动价值的剧本。虽然它不是所有可用杠杆的全面视图，但我们相信它为与其他利益相关者互动提供了有用的指导、例子和具体步骤。 执行摘要 负责任的人工智能使公司在第四次工业革命中取得成功。 为了利用人工智能的潜力，投资者应该与利益相关者接触，包括： 人工智能（AI）在第四次工业革命中发挥着核心作用，这是一个由技术融合以及物理，数字和生物领域之间的“界限模糊”所定义的时期。1人工智能正在迅速进入广泛的企业对企业和企业- –公司董事会：通过与投资组合公司的董事会接触，直接投资者可以帮助建立（或要求董事负责建立）RAI原则，政策和问责措施。 –投资伙伴：资产所有者可以鼓励投资伙伴在自己的运营中采用人工智能治理，并将其扩展到自己的持股中。–更广泛的生态系统：在更长的时期内，投资者的努力可以帮助创建一个生态系统，在这个生态系统中，RAI的好处得到了很好的理解，并且无处不在。 面向消费者的应用程序。对于大型投资者来说，确保所有人工智能应用程序都负责(即诚实、有帮助和无害)不仅是技术升级，而且是战略需要。确保以符合负责任的人工智能(RAI)原则的方式开发和部署它是提高风险调整后回报和定位业务取得成功的重要一步。 RAI通过以下方式降低风险并促进增长： –它解决了非监管业务风险。人工智能的采用在道德（社会）和技术层面带来了意外后果的风险，例如新型网络攻击，不必要的偏见，工作中断和/或流离失所以及数据泄漏或中毒。全面的RAI策略可以帮助识别和减轻这些风险。 需要进一步发展的几个关键领域是： –AI治理和标准：AI治理的动态框架至关重要，普遍接受的措施也是如此私营部门行为者、学术界和政府(除其他外)之间的协作努力可以帮助加快这些工具的开发。–教育和能力建设：为了跟上人工智能的进步，利益相关者必须投资于持续学习。这包括高管教育、投资者对话论坛和公众意识倡议。–平衡部署速度和安全问题：公司将面临快速开发和部署人工智能以追求短期收益的诱惑，将RAI视为事后而不是事先考虑。如果不适当关注RAI，仓促部署将使长期价值面临风险。 –它降低了法律和监管风险。主动RAI框架可以预测和适应法律和监管变化，保护企业及其投资者免受罚款和声誉损害。 –它还可以保护品牌安全，拓宽收入来源，在竞争性招标过程中提供采购优势，并提高市场定价能力，超越AI系统和与RAI不太一致的业务。 Introduction 负责任的人工智能可以为投资者和其他利益相关者保存和创造价值。 AI是重大风险或机会的所有利益相关者都有动力加速RAI的采用。然而，这往往落后于其他战略AI优先事项。 虽然生成人工智能（AI）的快速发展最近引起了人们的关注和想象力，但AI的力量已经增长了70多年。2人工智能这个术语是在1956年达特茅斯夏季人工智能研究项目中首次提出的，该项目引入了逻辑理论家——一个旨在模仿人类解决问题能力的程序。3 healthcare to finance, manufacturing to transport. Today,the technology facilitates drug discovery, enables frauddetection, poweres predictive maintenance and drivesvehicles. its influence is only expected to grow. Act to a2023 McKinsey & 人工智能对全球经济的潜在影响每年可能超过25.6万亿美元，即使考虑到预测的挑战(特别是在快速变化的环境中)，这也表明了它的潜在规模。4,5 RAI的业务案例和利益相关者的角色 投资者有动力和机会加速RAI。 1.1人工智能将驱动风险和利润 现实世界中的企业挫折凸显了AI可能损害企业及其投资者的潜力。例如，Zillow在2021年的ZillowOffers家庭翻转业务中损失了约8.81亿美元，当时其模型没有与冷却的房屋市场同步调整。10《纽约时报》于2023年起诉OpenAI和微软，因为他们在产品对用户提示的回答中使用了受版权保护的作品。11来自AI系统的现实世界危害和近乎危害的列表继续堆积如山 人工智能事件数据库和经济合作与发展组织(OECD)的人工智能事件监视器。 除了直接的组织影响之外，AI危害还会影响人们，并在投资者运营的更广泛的生态系统中产生问题-根据国家标准与技术研究所的人工智能风险管理框架(NIST AI RMF) (见图1)。12 人工智能带来的三个潜在危害领域 对全球金融体系、供应链或其他相关系统的损害 对自然资源、环境和行星 认识到这些危害，与AI监督有关的主要法规正在制定中，许多法规可能会在2024年生效。13自2016年以来，各国已经通过了至少148项与人工智能相关的法案，其中大多数是近年来通过的。14欧盟人工智能法案（EUAIA），目前代表着最严格的人工智能法规，15旨在创建一种基于风险的方法来管理技术。16欧盟友邦保险的域外范围及其异常高的罚款(即最高 实施RAI的费用。19根据贝恩公司的说法，拥有全面、负责任的人工智能方法的公司从他们的人工智能工作中获得了两倍的利润。20 商业领袖压倒性地同意，与负责任地实施AI相关的潜在长期利益和成本节约远远超过实施RAI的初始费用。 此外，从强大的AI治理结构开始的公司可以充满信心地扩展规模，并推动业务增长和创新。21波士顿咨询集团（BCG）的一项研究发现，在扩展AI功能时优先考虑责任的公司体验减少了近30％ 3500万欧元或公司全球年度总营业额的7％）预计也将影响欧盟境外的监管要求（即“布鲁塞尔效应”）。17 AI失败22与没有的公司相比。23此外，拥有成熟RAI计划的公司，无论其AI成熟度如何，都有机会从其AI投资中实现业务“利益”-例如更好的产品或服务或加速创新。24 虽然RAI主要是为了减轻人工智能的风险和危害，但它也可以为公司带来额外的好处。来自RAI的其他价值来源基于信任-它们包括通过增加客户参与度，扩大收入来源，在竞争性招标过程中提供采购优势以及提高市场定价能力来提高顶部和底部增长的能力。18商业领袖压倒性地同意，潜在的与负责任地实施人工智能相关的长期利益和成本节约远远超过最初的 此外，消费者信任已被确定为公司业绩的关键决定因素， 解释了31%的利润率差异和21%的资产回报率差异。25随着人工智能的激增，未能与RAI原则保持一致有可能拖累这一措施。相反，通过RAI加强信任可以为政府，企业和投资者释放利益的飞轮。 1.2利益相关者的作用 投资者参与RAI2 为了减轻风险和危害，投资者需要在整个投资组合中以及潜在的投资组合中参与RAI。 2.1关注影响最大的领域 投资者可以从哪里开始？当他们开始与公司，外部资产管理公司和更广泛的生态系统接触时，以下步骤将有助于指导他们。还出现了其他工具来帮助他们。 投资者应采用具有明确政策和标准的AI治理框架，并围绕AI的开发，采用和使用促进问责制和透明度的文化。 合作伙伴确保适当的RAI政策和程序到位。 第三步：与公司、外部管理者和更广泛的生态系统接触。 第一步：制定RAI承诺，并将其原则和实践应用于内部运营。 与公司、外部经理合作 和其他参与者可以扩大投资者的影响力，并通过建立定制计划以加速RAI的采用来帮助他们最大化AI投资的价值。与公司，外部经理和更广泛的生态系统的互动在本剧本的以下章节中有更多介绍。27 对于希望将RAI整合到投资组合中的投资者来说，第一步是成为如果在自己的运营中使用AI，投资者应采用具有明确政策和标准的AI治理框架并围绕人工智能开发、采用和使用促进问责和透明的文化。 投资者的优先级通常取决于尽职调查和利益相关者需求（例如公司治理，能力建设，战略和风险管理）期间发现的内容。也就是说，AI治理是杠杆和影响的关键点。 第二步：对投资组合进行RAI尽职调查。 治理奠定了基础。监管、原则、政策、标准和监督等机制为RAI奠定了基础。1 人工智能很快就会在几乎所有的公司中发挥作用，从大型科技的创新实验室到工厂车间。投资者的问题是，在投资组合中，他们应该首先关注RAI？鉴于投资组合和投资者原型的多样性，参与和缓解策略应该针对个人投资组合和投资策略进行调整。 监管之前存在差距。管理AI的法律和监管期望是仍然出现在大多数地区。这为投资者创造了一个机会，以促进强有力的自我治理机制，主动解决利益相关者的担忧。提前监管有助于主动缓解监管和业务风险，节省成本，并最终影响监管格局。2 投资者应进行适当的尽职调查，以评估公司和投资伙伴如何满足RAI原则（参见案例研究1）。在直接投资的投资组合中，可能会出现加强或灌输RAI实践的潜在领域，其中AI驱动核心收入流。 治理支持创新和信任。有了有效的治理，组织可以自信地追求人工智能的创新应用，因为他们知道有识别和减轻风险的机制。3 被部署在高风险领域、受到高度监管或采用率很高(参见案例研究2)。此外,“实体经济”中尚未以任何有意义的方式采用人工智能的公司为投资者提供了帮助使RAI成为公司人工智能战略基础的一部分的机会。在具有外包资产管理的投资组合中,投