影响 AI ： 社会创新中负责任 AI 的 PRISM 框架

影响 AI ： 社会创新中负责任 AI 的 PRISM 框架 白皮书 2024 年 6 月 图片 ： Dimagi ， 盖蒂图片社 Contents 执行摘要 4 1采用途径 ： PRISM 框架 8 2 能力和风险 151.1PRISM 框架91.2沿用途径的案例研究12 22 2.5 成本和指标 25 贡献者 29尾注 31结论 28 免责声明 这份报告由施瓦布基金会为社会企业家创办并与世界经济论坛合作发布。本报告中的发现、解释和结论是施瓦布基金会或世界经济论坛协作过程的结果，但其结果未必反映施瓦布基金会和世界经济论坛的观点，也不代表其全体成员、合作伙伴或其他利益相关方的整体立场。 © 2024 施瓦布基金会和社会企业家精神组织以及世界经济论坛版权所有。本出版物的任何部分不得以任何形式或通过任何形式转载，包括复印和录音，或通过任何信息存储和检索系统。 前言 Jean - Philippe Courtois 微软执行副总裁兼国家转型合作伙伴总裁 Gillian Hinde EY 全球企业责任负责人 ， EYGS Cathy Li ， AI ， 数据和 Metaverse 主管 ； 世界经济论坛执行委员会成员 现在比以往任何时候，企业和组织都处于一个关键节点——必须将社区和环境置于运营的核心位置。不断加剧的全球危机动荡局势表明，继续沿用旧模式已不再可行。在这一变革与挑战并存的背景下，社会创新者在全球范围内、各行业和地区以及社区中展示了未来资本主义的模样——一种目标与利润不仅共存而且相互强化、共同繁荣的模式。 阻碍他们充分发挥其全部潜力。对于社会创新者而言，诸如技术复杂性、技能缺口、获取人工智能技术以及平衡社会和商业目标等挑战可能使其难以理解并应用该技术。另一方面，技术组织和开发者有责任开发道德且公平的人工智能能力，解决全球不平等现象，并避免加剧现有偏见。这要求在技术组织和社会创新者之间建立双向对话，整合社会创新者的 voice，使他们能够影响技术路线图，并确保人工智能能力真正符合对影响型企业的需求。 然而，在2030年可持续发展目标的截止日期临近之际，企业与政府设定的影响目标仍存在显著差距，以确保为所有人创造一个公正、公平和可持续的世界。实现这些目标需要集体行动，并且必须采取跨越常规的方式以加速目标的达成速度。人工智能（AI）的出现为社会创新者、非营利组织、企业和政府提供了变革性的机会。《AI for Impact：人工智能在社会创新中的作用》报告于2024年4月发布，该报告审视了全球范围内正在部署AI的社会创新者所面临的景观。这份报告的关键见解强调了AI作为推动社会影响工具的巨大潜力，特别是在医疗保健、教育和经济赋权等关键领域。 这篇论文在前期努力的基础上，为评估如何将人工智能纳入运营或模型的社会创新者提供了战略路线图。它借鉴了世界经济论坛人工智能治理联盟发布的思想领导力，并得到了活跃在变革前线的社会创新者和中间人的专业知识的支持。特别感谢全球社会创业人工智能促进社会创新工作流中工作组的所有成员，他们的时间和专业知识为本论文的发展做出了贡献，他们的亲身经历也在论文中作为案例进行了展示。 本论文将为基础与其它生态系统合作伙伴进一步开发社会企业的培训和技能培养工具包的工作奠定基础。我们希望本文中呈现的框架和路线图，结合企业合作伙伴提供的资源，能够帮助社会创新者实现人工智能驱动的社会变革的潜力。 为了实现广泛影响，普及人工智能意识并战略性、负责任地部署这项技术是必要的——无论是将其整合到运营模式中还是作为一种手段来推动变革部署的产品。然而，内部和外部障碍仍然存在，阻碍了社会创新者大规模采用人工智能。 执行摘要 PRISM 框架使组织采用人工智能影响和突出技术道德实施的缺陷。 人工智能（AI）能力的迅速发展和普及为社会创新者提供了跨越结构性障碍并扩大其解决方案的可能性。本系列报告的第一篇，《影响的力量：人工智能在社会创新中的作用》由达沃斯基金会的社会创业全球联盟与安永和微软联合发布，对人工智能在社会创新中的角色进行了全面分析，并引用了超过300名社会创新者的见解。该报告展示了社会创新者如何利用这项技术实现具体成果，尤其是在健康 care、环境行动、经济赋权或教育等领域。 风险、低成本的人工智能应用，并强调组织准备的重要性超过单纯的技术能力。这与AI治理联盟的Presidio框架等已有的方法论保持一致。它倡导一种迭代但战略上一致的方法，并为人工智能的实施设置了具体评估关卡。 PRISM框架概述了人工智能实施的三层结构：影响使命与战略、采用路径以及能力和风险。每一层都针对不同的准备要素和潜在应用，从简单的内部用例到复杂的外部部署。模块化的方法使组织能够根据其特定需求和能力定制人工智能战略，确保人工智能的采用既是有效的又是可持续的。丰富的案例研究，如SAS巴西的宫颈癌筛查和High Resolves增强的人工智能教育项目，展示了该框架的应用。 这篇报告深入探讨了在应用人工智能过程中的最佳实践。它涵盖了引领AI应用以产生影响的社会创新者、将其作为扩展工具实施的创新者以及刚刚开始考虑在其运营中使用AI的创新者。数据显示，目前超过50%的社会创新者正在利用AI来提升核心产品或服务。约三分之一的社会创新者利用AI开发全新的解决方案，另有20%的创新者则使用AI来提高内部效率或扩大其组织的规模。 该框架还强调了需要解决的风险和技术不足之处，以确保公平实施。这包括数据偏见或不适合解释AI决策的技术结构等问题——这是构建社区信任的关键要素，而这些社区正是社会创新者试图服务的对象。因此，论文呼吁AI和社会创新生态系统、技术领导者和社会创新者之间进行积极互动，共同促进AI的伦理应用以产生积极影响。 基于此数据集和超过20场深入访谈的研究，本文介绍了PRISM框架，以引导社会创新者及其他组织穿越人工智能集成复杂多变的环境。该框架鼓励组织从低风险的领域开始。 Introduction 人工智能在多个领域具有扩大影响的潜力，但需要合作以帮助社会创新者充分发挥其最大潜力。 并且表明，在低收入/中等收入国家和高收入国家之间不存在实施差距，但在实施领域存在显著多样性：AI在医疗健康和环境领域的应用最为广泛。然而，80%的经济赋权解决方案是由低收入/中等收入国家的社会创新者部署的。 人工智能（AI）在解决复杂的社会挑战方面展现出变革性的潜力，并已在医疗、农业等多个领域得到广泛应用。2024年4月，施瓦布基金会的社会创业全球联盟与埃森哲和微软合作发布了《AI for Impact：人工智能在社会创新中的作用》报告。该报告分析了超过300名社会创新者在AI领域的实施情况。 人工智能的表现相较于更广泛的产业领域的一半水平。伦理和公平性挑战也逐渐显现。例如，大多数商用模型都是基于高收入国家的数据进行训练的，这导致了对低收入和中等收入国家表现不佳的结果。 尽管已广泛实施，报告指出仍存在阻碍更广泛应用的缺口。仅13%的AI项目专注于教育工具包，且主要集中在全球经济较发达地区。性别差距依然存在，仅有25%由女性领导的社会企业使用这些工具包。 这篇论文在世界经济论坛人工智能治理联盟提出的Presidio框架等先前见解和框架的基础上，强调了社会创新者中更广泛采用人工智能的途径。它结合了以往的数据， 研究结合了22场深入访谈和与社会创新者及科技领导者互动工作坊的见解，强调了AI部署中的复杂决策过程，并突显了社会创新者面临的持续挑战。 1采用途径 ： PRISM 框架 在现有概念的基础上 ， PRISM 框架指导负责任地采用人工智能来产生影响。 《2024年4月AI为影响：人工智能在社会创新中的作用》报告强调了社会创新者在人工智能采用方面处于领先地位，尤其是在面对连接挑战的情况下，如SAS巴西公司在宫颈癌筛查项目以及HighResolves在人工智能辅助教育方面的举措。该报告第二部分通过这些经验案例说明了人工智能如何推动社会和环境效益。它综合了来自300名社会创新者和专家访谈的见解，形成了PRISM框架，这是一个用于迭代、负责任且有效实施人工智能的指南。 充分准备往往超过技术考量和数据因素。该框架基于组织的准备情况，并考虑与这些路径相关的各项能力和风险，强调了采用途径。 该框架与世界经济论坛人工智能治理联盟推出的Presidio框架等其他概念相一致，旨在帮助组织负责任地提升生产力并重新定义行业。Presidio框架首先通过识别和筛选与战略目标最契合的最佳生成式AI用例，并将这些用例通过三个常见的评估关卡——商业影响、运营准备性和投资策略。这些评估关卡设计为可以按任意顺序应用并逐步迭代。 The findings encourage social innovators to startsmall and execute low-cost/low-risk implementation when first approaching AI use cases. 它强调，无论是社会创新者还是传统公司，在设计AI实施时都需要考虑其组织的准备情况，以应对内部因素。 通过评估门收集用例 1.1 PRISM 框架 PRISM框架建立在Presidio框架的基础上。它突出了不同的采用路径与组织、技术和数据准备水平之间的相互依赖关系（见图6）。此外，它强调了在每个阶段都需要与组织的影响雄心保持一致（见图6）。它还指出，社会创新者本质上是注重影响的组织，他们在战略对齐方面的考虑（如由AI治理联盟在框架中所阐述）超越了仅仅是业务对齐。他们的考虑范围更广，不仅限于商业层面。 在应用人工智能时应优先考虑影响，并结合核心价值观和伦理原则（例如，在解决方案的设计中优先考虑社区声音）。这并不一定总是需要一个全面、精心设计且资源密集型的战略流程，而更应该是将计划使用案例与影响目标不断进行平衡（例如，在产品/服务开发中早期与社区进行互动、受益者的数据所有权或禁止在无人参与的情况下做出决策）。 图像信用 ：教育Employment 4. 技术：许多社会创新者在确定适合其应用场景的技术方面面临挑战。在早期采用案例中，社会创新者可能会简单地应用现成的解决方案，这些方案具有较低的实施复杂度和成本。随后，模型复杂性、强化训练的需求（尤其是对于需要上下文数据的应用场景）、与生态系统参与者之间的互操作性问题或互联网接入问题也可能浮现。 在300个社会创新应用案例中，大多数创新者（54%）利用AI来增强产品功能（提高3.效率或4.交付能力），30%的创新者创造了全新的产品或服务，12%的创新者利用AI解锁其解决方案的规模化潜力（作为5.核心资产），另有5%的创新者将其用于内部流程（1.试错和3.效率提升）。 在跨不同采用路径实施AI时，会根据不同程度考虑不同的能力和风险。这在PRISM框架的第三层中有所描述： 5. 成本与指标：鉴于人工智能技术的广泛可用性，在人工智能采用的早期阶段，成本并不是主要问题。通过应用程序编程接口（API）提交的请求数量仍然较低，数据量通常受到限制，组织准备程度可能无需特别考虑。但在后期实施中，可变成本会迅速上升，间接费用也会增加，以确保人工智能实施保持影响力并符合伦理责任。社会创新者可能需要考虑和监控不仅限于软件或许可费用的成本，还包括数据获取、数据预处理或硬件成本。 1. 伦理道德：除了在Layer 1层面考虑一般价值观、原则和使命影响之外，这种能力和风险考量还包括考虑AI模型中的偏见问题、确保决策透明性、对所做决策负责，并在组织部署的后期将伦理AI融入企业原则中。 2. 数据：在实施人工智能的过程中，数据策略可以在不同的方面得到应用，包括现有数据资产的分析、数据清洗和准备、数据摄入管理以及在使用数据时的数据隐私考虑——尤其是在医疗保健等高度敏感的影响领域。 以下部分将更详细地探讨上述能力和风险。PRISM框架提供了一种模块化的方法来考虑人工智能的实施以产生影响。在该框架的一端，具有强