2025年金融服务领域生成式AI应用实践：机遇与风险管理研究报告

2025年1月 2这份报告由英国金融协会和埃森哲联合撰写，由英国金融协会人工智能政策委员会赞助。•萨潘·多格拉（埃森哲）•迈克尔·埃拉斯（埃森哲）•卡勒姆·费尔南多-莫里斯（埃森哲）•彼得·海尔斯（埃森哲）•卡斯特·枫 (艾伦·图灵研究所)•沃尔特·麦克考恩 (英国金融)•汤姆·尼尔文 (埃森哲)•贝拉·索恩利 (埃森哲)•Luma Zitani（埃森哲）主要作者（按姓氏字母顺序排列）： 贡献者和审阅者（按姓氏字母顺序排列）：•海瑟·亚当斯（埃森哲）•克莱尔·奥尔沃斯（埃森哲）•莫莉·布卢尔 (英国金融)•利亚姆·卡尔西尔 (埃森哲)•雷·艾特尔-波特（埃森哲）•苏哈伊尔·卡普尔 (埃森哲)•安娜·哈尔钦科娃（埃森哲）•埃德·奈特（埃森哲）•克里斯·莱恩（埃森哲）•乔·洛瓦特（埃森哲）•亚当·马克森（埃森哲）•菲利普·曼德 (英国金融)•杰森·O·布莱恩 (埃森哲)•卢卡兹·什普鲁赫（艾伦·图灵研究所）•魏广毅（埃森哲）•马克·韦尔奇（埃森哲）•詹·威尔逊（Accenture） 内容05 结论与展望 5306参考文献03 生成式人工智能案例研究 2801报告概述04主要风险和缓解方法02 今日金融服务领域的生成式人工智能格局12风险主题一：输出可靠性43风险主题二：数据隐私和安全47风险议题三：第三方考虑50当前采用情况和近期趋势13生成式AI解决方案的子组件17金融服务中常见的用例19生成式人工智能相关风险概述21监管环境25前言：英国金融5前言：埃森哲6执行摘要7案例研究一：客户投诉代理30案例研究二：了解你的客户34案例研究三：软件开发生命周期38 4255 报告概述 前言：英国金融Jana Mackintosh然而，金融业有着悠久的负责任创新史。它近期采用云计算技术，证明了企业拥抱新技术时如何能够成功理解和管理风险。英国金融支付与创新总经理而且到目前为止，生成式人工智能的实践经验表明这种情况仍在持续。本报告表明，企业正在创新并扩大其用例范围，超越聊天机器人，在不同的职能领域找到实际应用。他们还在谨慎地这样做——随着其对技术的理解改进和风险管理框架的增强，逐步扩展其该技术的使用。与其考虑未来某个时刻可能出现的假设用例，本报告专注于近期。其目的是阐明生成式AI当前是如何在生产中使用的，或者在未来近期可能如何使用。同样，它也审视了生成式AI最具挑战性的某些特性，以及有哪些可用或正在出现的措施来帮助管理其带来的风险。我们仔细研究了三个用例和三组风险，旨在深入探索这些内容，而不是采取广泛但浅薄的看法。生成式人工智能的到来在公众和政策制定者中引发了兴奋和不安。尽管对其流畅性和适应各种任务的能力充满热情，但人们对风险和潜在未预见问题的担忧仍然存在。 埃森哲为这一事业带来了丰富的专业知识和经验，没有他们的帮助是不可能的。我们很高兴能与我们的成员一起合作，发布这份报告。尽管本文侧重于近期，我们也很期待看到生成式AI在中长期内将如何被使用。特别是，我们期待看到它如何能与其它创新技术相结合，例如预测式AI或智能数据，以实现新的服务。 彼得·哈里斯前言：埃森哲生成式人工智能在商业和公共领域都受到了大量关注。生成式人工智能的一些预测是建立在坚实基础之上的，有些是平衡的，而鉴于技术和其在商业中的使用正在快速发展，一些预测相对而言是推测性的。英国金融服务业首席执行官我们很高兴能与英国金融协会及其成员共同完成这篇论文。我们借鉴了在交付人工智能解决方案和策略方面的实践经验，并与学术研究团队、英国金融协会成员以及行业研究人员紧密合作。关于生成式人工智能的长期未来，已在许多论文中进行了探讨，我们几乎没有疑问，它将对金融服务产生重大影响。在准备这篇论文的过程中，我们的重点是实际的中短期用途以及公司应对潜在风险的实际方法。报告强调了金融服务公司在相对较短的时间内，已经展示了这项技术执行各种以往属于高技能个人和团队的常见任务的潜力。我们还看到生成式人工智能部署驱动着真实的采用、效率和切实的利益。无论长期预测如何，从金融服务业在过去两年中如何处理这一主题，都可以学到很多东西。该行业的公司经常在实验、创新以及以审慎和控制的方式将新技术应用于其业务运营方面处于前沿，生成式人工智能也不例外。 我们希望本文有助于企业在其整体人工智能旅程中取得进展，并在他们把握机遇、克服实际障碍、实现这项激动人心技术的潜在价值时，带来平衡的视角。同时，企业越来越意识到局限性、风险和不确定性。生成式人工智能相关的一些考量和关注似乎前所未有，与其他更熟悉现有团队、并能通过既定风险管理方法得到更好处理的技术形成对比。这使企业既渴望探索可能实现的事物，又在方法上保持谨慎和适度。 执行摘要自2022年11月30日OpenAI公开发布聊天机器人ChatGPT以来，如今已过去两年多。这一事件展示了生成式AI技术在公共领域内的快速发展。自那时起，各行各业的公司都开始采用和试验基于生成式AI的工具，在自身的商业模式、风险偏好和组织实践中评估该技术的功能。识别近期机会认识到生成式AI的价值，始于识别该技术目前适合的特定业务功能或任务。在金融服务领域，生成式AI可以应用于多个功能，包括市场分析、金融犯罪和欺诈。我们强调，人类专业知识是有效利用和控制技术的核心，解决方案通常依赖于人工监督进行训练、解释和敏感决策。同样重要的是，要理解支撑这些系统的模型性质以及依赖高质量、结构化和非结构化数据来产生准确见解的依赖性。本报告旨在提供金融服务中这项新兴技术的客观概述，其内容基于英国金融协会成员的经验、专家讨论和埃森哲的研究。报告概述了当前行业普遍存在的七个短期用例类别，并解释了如何理解生成式人工智能系统的不同层级。作为一个高度受监管的行业，金融服务行业目前正在探索生成式AI带来的机遇，同时遵守大量现有和新兴的法规和标准。 许多相关论文推测生成式人工智能如何能革新该行业，自动化复杂活动并改变客户体验。尽管这种乐观情绪在短期内或许有其合理性，但我们仍需等待完全可扩展的技术基础、内部运营模式以及关于潜在监管变化的更多清晰度，才能实现这些可能性。检测，客户服务自动化和合规性。相比之下，本文专注于目前已部署或处于高级别开发阶段的应用。通过我们对这些用例的评估，生成式AI的普遍应用主要集中在七个特定领域：•客户参与和个性化营销•知识管理与信息检索•软件开发和数据管理•智能工作流和电子邮件处理•欺诈和金融犯罪•法律、合同及合规文本分析•桌面和会议生产力 展示从讨论和实验到实施的道路，金融服务对生成式AI的投资水平正在稳步增长，代表2024年技术投资的12%，增长到2025年的16%1. 生成式人工智能正越来越多地被用于优化相对多样化的流程，从改进风险管理到提升客户服务。英国-based金融机构正在投资生成式人工智能以自动化上述资源密集型任务。生成式人工智能投资的回报一个关键的观察是，到2024年底，大多数实时生成式AI用例都专注于利用技术中相对容易理解的特性，涉及积极的人工监督，并且专注于相对低风险的流程或任务。本报告更详细地概述了三个说明性案例研究，以帮助描述当前的使用情况并提供具体的洞察。令人鼓舞地，基于调查的行业研究显示，公司越来越多地看到其投资的收益。对已实现的投资回报率（ROI）的满意度很高，从大型企业的高管中有75%到86%。2对于中小型企业而言。然而，在投资部署生成式人工智能时，仍有许多因素需要考虑。目前，量化引入该技术的投资回报率和基准成本的能力有限。3一项2024年的行业研究指出，进一步采纳的主要障碍是实施成本、质量与准确性问题、数据安全与隐私，以及1埃森哲 - 驱动增长：生成式人工智能如何助力英国重塑，2024 - 对未公开的金融服务子集数据的分析显示，2024年的投资占12%，预计2025年的投资将占生成式人工智能总体技术支出的16%谷歌 - 生成式人工智能的投资回报率，一项关于企业采用和价值全球调查，非日期3埃森哲 - 生成增长：生成式人工智能如何助力英国重塑，2024年 - 对未公开的金融服务子集数据的分析 管理不确定性信任和用户感知接受度。尽管存在这些问题，看到公司越来越多地从其投资中受益是令人鼓舞的。感知到的监管不确定性是大规模采用面临的另一个障碍。尽管广泛的监管方法正变得清晰，但某些要素和细节仍有待确认。该领域仍在迅速发展，具有里程碑意义的欧盟人工智能法案（EU AI Act）已引起全球关注。相比之下，英国在其2023年人工智能法规白皮书中阐述了其支持创新的方法。这概述了一个基于原则的框架，而不是欧盟式的广泛人工智能监管。英国的焦点在于根据需要持续更新特定行业的法规，2024年4月英国金融行为监管局（FCA）和英格兰银行（BoE） / 保险业监管局（PRA）的回应证实了这一点。英国计划制定一项人工智能法案，但其范围尚未确定。因此，对于银行、保险公司和资产管理公司来说，继续调整其合规策略以符合既定法规，同时展示这些变更的有效性，至关重要。那些先前已投资于强大的合规和风险框架的人，将特别适合这个过程，并能够安全地创新。 一家公司专注于将生成式人工智能部署到该流程中。在初始试点阶段后，生成式人工智能被扩展到生产管理客户投诉对于维护消费者信任和合规性至关重要。该流程涉及记录、转录、调查和解决客户投诉，确保问题得到公平及时的处理。这一劳动密集型且受监管的流程富含数据，为企业部署生成式人工智能提供了显著的说明性生成式人工智能案例研究为了就生成式人工智能解决方案的安全采用进行讨论。为了说明企业在现实生活中积极部署生成式AI的实际应用，我们挑选了三个案例研究，这些案例研究提供了当前生成式AI使用的合理横截面。这些内容在本报告第四部分有更详细的介绍：生成式人工智能的广泛可用性也带来了风险，即该技术可能被恶意行为者滥用，从而加剧网络攻击或欺诈等威胁。虽然这个问题很重要，但本文重点关注合法公司使用生成式人工智能所带来的风险。生成式人工智能解决方案未被赋予决策权，决策权掌握在一位员工手中，该员工对确保公平的客户结果负责。案件经理的知识被积极利用以改进和提升模型性能。此外，更新操作程序和隐私文件被认为是确保客户被告知包含的提高生产力的30-40%以及客户体验和员工体验的改善。 4. 起草回复函，包括保留函和最终回复。2. 从各种来源总结关键调查领域。5. 基于投诉回复为代理人生成个性化反馈。案例研究一：客户投诉生成式人工智能的风险1. 生成通话记录。3. 分析客户提供文件以支持：成本效益和战略机遇。生成式人工智能需要管理那些风险已被充分认识以及那些以新或有特色的方式加剧的风险。为了对这些风险进行分类，我们利用了美国国家标准与技术研究院（NIST）提出的生成式人工智能风险分类法，它已成为一个更成熟的、专门针对生成式人工智能的标准。我们重点关注了三个方面，它们与目前正在探索的典型用例最相关，并且对金融服务至关重要：(1) 输出的准确性、(2) 数据隐私和安全，以及(3) 第三方解决方案组件的适当集成。我们讨论了这些风险的发生率，除了我们案例研究中使用的缓解方法以及后面深入的章节使用人工智能支持案件经理生产力的关键措施。 90%用于相关客户。百分之五十，准确率超过百分之九十五。案例研究二：了解您的客户这个工具加速了这些SDLC阶段，超过案例研究三：软件开发工具包这个工具将处理时间缩短了为了管理风险，生成式人工智能工具还能够通过与源材料进行比较来运行输出质量检查，并纠正错误或空白字段。然后，操作员会手动进行质量检查，评估工具的输出，并在流程结束后完成。为了降低隐私和数据安全风险，该解决方案完全托管在私有云环境中，通过私有API（应用程序编程接口）调用公司自己的私有实例中的封闭式大型语言模型（LLM）。此外，访问权限受到严格控制，并且文档在静止和传输过程中都进行了加密。应用了数据最小化，并将生成式人工智能环境配置为30天期限后零保留。了解您的客户（KYC）和客户尽职调查（CDD）流程是金融服务的基础。它们受到严格监管，涵盖了公司在客户生命周期内的全部范围，依赖于处理大量的结构化和非结构化个