金融服务中的生成式AI应用：机遇与风险管理

2025年1月 2本报告由英国金融联合会和埃森哲共同撰写，由英国金融联合会人工智能政策委员会赞助。•Sapan Dogra (埃森哲)•迈克尔·埃拉斯（埃森哲）•卡勒姆·法雷尔-莫里斯（埃森哲）•彼得·海尔斯（埃森哲）•卡斯特·枫 (艾伦·图灵研究所)•沃尔特·麦卡洪（英国金融）•汤姆·尼文（埃森哲）•贝拉·索恩利 (埃森哲)•Luma Zitani（埃森哲）主要作者（按姓氏字母顺序排列）： 贡献者和审阅者（按姓氏字母排序）：•海瑟·亚当斯（埃森哲）•克莱尔·奥尔沃斯（埃森哲）•莫莉·布劳尔（英国金融）•利亚姆·卡尔塞尔 (埃森哲)•雷·艾特尔-波特（埃森哲）•苏海尔·卡普尔 (埃森哲)•安娜·哈尔琴科娃（埃森哲）•艾德·奈特（埃森哲）•克里斯·莱恩（埃森哲）•乔·洛瓦特（埃森哲）•亚当·马克森 (埃森哲)•菲利普·曼德（英国金融）•杰森·奥布莱恩（埃森哲）•卢卡斯·施普吕赫（艾伦·图灵研究所）•魏广毅（埃森哲）•马克·韦尔奇（埃森哲）•简·威尔逊（埃森哲） 内容05 结论与展望 5306参考文献03 生成式人工智能案例研究 2801 报告概述04 主要风险和缓解方法02 今天的金融服务生成式人工智能格局12风险主题一：输出的可靠性43风险主题二：数据隐私和安全47风险主题三：第三方考虑因素50当前采用及近期趋势13生成式人工智能解决方案的子组件17金融服务中常见的用例19生成式人工智能相关风险概述21监管环境25前言：英国金融服务5前言：埃森哲6执行摘要7案例研究一：客户投诉代理30案例研究二：了解你的客户34案例研究三：软件开发生命周期38 4255 报告概述 前言：英国金融服务Jana Mackintosh然而，金融行业有着悠久的负责任的创新历史。其最近采用云技术，证明了企业如何在采用新技术时成功理解和管理工作。英国金融支付与创新总监并且到目前为止，生成式人工智能的经验表明情况仍然如此。本报告表明，企业正在创新并扩展其用例，超越了聊天机器人，在不同职能部门中寻找实际应用。他们也在谨慎行事——根据其对技术的理解改进和风险管理体系增强，逐步扩展其技术使用。而不是考虑未来某个时刻可能出现的假设用例，本报告聚焦于近期。旨在阐明生成式AI当前是如何在生产中使用，或可能在近期如何被使用。同样，它也考察了生成式AI最具挑战性的几个特点，以及有哪些现有或新兴的措施来帮助管理其带来的风险。我们仔细研究了三个用例和三组风险，旨在深入探索这些问题，而不是采取广泛但肤浅的观点。生成式人工智能的到来在公众和政策制定者中引发了兴奋和不安。虽然对其流畅性和适应各种任务的能力感到兴奋，但对风险和潜在不可预见问题的担忧仍然存在。 埃森哲为这项事业带来了丰富的专业知识和经验，没有他们这是不可能做到的。我们很高兴能与我们的成员一起合作，发布这份报告。尽管本文侧重于近期，但我们很期待看到生成式AI在中长期内将如何被使用。特别是，我们期待看到它如何能与其它创新相结合，例如预测式AI或智能数据，以实现新的服务。 彼得·海尔斯前言：埃森哲生成式人工智能在商业和公众领域都受到了巨大的关注。对于生成式人工智能的一些预测是建立在坚实基础上的，有些是平衡的，鉴于技术和其在商业中的应用发展迅速，有些则相对推测性。英国金融服务公司首席执行官我们很高兴能与英国金融协会及其成员合作完成这篇论文。在撰写本文期间，我们借鉴了我们在交付人工智能解决方案和战略方面的“一线”项目经验，并与学术研究团队、英国金融协会成员以及行业研究人员紧密合作。许多论文已经探讨了生成式人工智能的长期未来，我们对此深信不疑，它将对金融服务产生重大影响。本文的重点在于探讨其实际的近期至中期应用以及企业应对潜在风险的现实方法。报告强调了在相对较短的时间内，金融服务公司已经展示了该技术的潜力，可以执行过去由高技能个人和团队所主导的各种常见任务。我们还看到生成式人工智能部署正在推动真正的应用、效率和切实的效益。无论长期预测如何，从金融服务行业过去两年的应对方式中可以学到很多东西。该行业的公司经常在实验、创新以及将新技术应用于其业务运营方面走在前列，同时以一种审慎和控制的方式这样做。生成式人工智能也不例外。 我们希望本文能帮助公司在他们的整体人工智能之旅中取得进展，并在他们把握机遇、克服实际障碍、实现这项激动人心技术的潜在价值时，带来平衡的视角。同时，公司越来越意识到局限性、风险和不确定性。与现有团队更熟悉且能通过既定风险管理方法更好解决的问题相比，生成式AI相关的一些考虑和担忧似乎前所未有。这使企业既渴望探索可能性的同时也对其方法保持谨慎和审慎。 执行摘要自 2022 年 11 月 30 日 OpenAI 公开聊天机器人 ChatGPT 发布以来，现在已经过去了两年多。这一事件展示了生成式 AI 技术在公共领域的快速进展。自那以后，各行各业的企业都开始采用和试验基于生成式 AI 的工具，评估该技术在自身商业模式、风险偏好和组织实践中的能力。识别近期机遇认识到生成式AI的价值，始于识别该技术当前适合的具体业务功能或任务。在金融服务领域，生成式AI可以应用于各种功能，包括市场分析、金融犯罪和欺诈我们强调，人类专业知识是有效利用和控制技术的核心，解决方案通常依赖于人工监督进行训练、解释和敏感决策。同样重要的是，要理解支撑这些系统的模型本质以及依赖高质量、结构化和非结构化数据来产生准确见解的依赖关系。本报告旨在提供金融领域这项新兴技术的客观概述，其内容基于英国金融协会成员的实践经验、专家讨论和埃森哲的研究。报告列出了行业目前普遍存在的七个短期用例类别，并解释了如何理解生成式人工智能系统的不同层级。作为一个高度受监管的行业，金融服务业目前正在探索生成式人工智能带来的机遇，同时遵守广泛现有和新兴的法规和标准。 许多相关论文推测生成式人工智能如何能够改变行业，自动化复杂活动并改变客户体验。尽管这种乐观情绪在中等程度上可能是合理的，但实现这些可能性的条件尚未建立，因为我们仍在等待完全可扩展的技术基础、内部运营模式以及关于潜在监管变化的更大清晰度。检测、客户服务自动化和合规性。相比之下，本文关注的是目前已经部署或处于开发后期中的应用。通过我们对这些应用场景的评估，目前生成式AI的主流应用集中在七个特定领域：•客户参与和个性化营销•知识管理与信息检索•软件开发和数据管理•智能工作流和电子邮件处理•欺诈和金融犯罪•法律、合同及合规文本分析•桌面和会议生产力 阐明从讨论和实验到实施的路径，金融服务对生成式AI的投资水平正稳步增长，在2024年代表技术投资的12%，在2025年增长到16%1生成式人工智能正越来越多地被用于优化相对多样化的流程，从改善风险管理到提升客户服务。英国-based金融机构正在投资生成式人工智能以自动化上述资源密集型任务。生成式人工智能投资回报率一个关键的观察是，到2024年底，大多数实时生成式人工智能用例都集中在利用该技术相对容易理解的特性，涉及主动的人工监督，并且专注于相对低风险的过程或任务。本报告更详细地概述了三个说明性案例研究，以帮助描述当前的用途并提供具体的见解。令人鼓舞的是，基于调查的行业研究显示，公司正越来越多地看到其投资的回报。对已实现的投资回报率（ROI）的满意度很高，从大型企业高管中的75%到86%。2对于中小型企业而言。然而，在投资部署生成式人工智能时，仍有许多因素需要考虑。目前，量化引入该技术的投资回报率（ROI）和基准成本的能力有限。3一项2024年的行业研究突出表明，进一步采用的主要障碍是实施成本、质量和准确性问题、数据安全和隐私，以及1埃森哲 - 赋能增长：生成式人工智能如何助力英国重塑，2024 - 对未公开的金融服务子集数据的分析显示，2024年的投资占12%，预计2025年的投资将占生成式人工智能总体技术支出的16%谷歌 - 企业采用和价值全球调查，生成式AI的投资回报率，无日期3埃森哲—赋能增长：生成式人工智能如何助力英国重塑，2024年—对未公开的金融服务数据子集的分析 管理不确定性作为信任和被感知的用户接受度。尽管存在这些问题，看到企业越来越多地从其投资中受益是令人鼓舞的。感知到的监管不确定性是大规模采用的一大障碍。尽管广泛的监管方法正变得 clearer，但某些要素和细节仍待确认。该领域仍在迅速发展，标志性的欧盟人工智能法案 (EU AI Act) 已引起全球关注。相比之下，英国已在 2023 年人工智能监管白皮书中提出了其支持创新的方法。该方案概述了一个基于原则的框架，而非欧盟风格的广泛人工智能监管。英国的重点在于根据需要持续更新特定行业监管，2024 年 4 月英格兰银行 (BoE) / 金融服务行为监管局 (FCA) 和审慎监管局 (PRA) 的回应证实了这一点。英国计划制定人工智能法案，但其范围尚未确定。因此，银行、保险公司和资产管理公司继续调整其合规策略以满足既定法规，同时证明这些变更的有效性至关重要。那些之前投资于强大合规和风险框架的人将特别适合这个过程，并能够安全地创新。 4. 起草回复函，包括保函和最终回复。2. 从各种来源总结主要调查领域。5. 根据投诉回复为代理生成个性化反馈。案例研究一：客户投诉生成式人工智能的风险1. 生成通话记录。3. 分析客户提供文档一家公司专注于将生成式AI部署到该流程中。在初始试点阶段后，生成式AI被扩展到生产以支持：管理客户投诉对于维护消费者信任和合规性至关重要。该流程涉及记录、转录、调查和解决客户投诉，确保问题得到公平及时的处理。这一需要大量劳动力和监管的、数据丰富的流程，为部署生成式人工智能提供了显著的成本和战略机遇。生成式人工智能需要对风险进行管理，这些风险既包括已充分理解的风险，也包括以新颖或独特方式加剧的风险。为了对这些进行分类，我们利用了美国国家标准与技术研究院（NIST）提出的生成式人工智能风险分类标准，该标准已成为专门针对生成式人工智能的更成熟的规范。我们重点关注了三个与当前正在探索的典型用例最相关且对金融服务至关重要的风险主题：(1) 输出准确性、(2) 数据隐私与安全以及 (3)第三方解决方案组件的适当集成。我们讨论了这些风险的普遍性，除此之外还有我们在案例研究中使用的缓解方法以及后面一个深入的章节生成式人工智能解决方案未被授予决策权，决策权由一位员工掌握，该员工对确保公平的客户结果负责。案件管理人员的知识被积极利用，以改进和提高模型性能。此外，更新操作程序和隐私文件被认为是确保客户被告知人工智能正在被用于支持案件管理人员生产力的关键措施。包含提高30-40%的生产力以及客户和员工体验的改善。 说明性生成式人工智能案例研究为了就安全采用生成式AI解决方案展开讨论。为了帮助说明企业正在积极部署生成式AI的实际情况，我们选定了三个案例研究，这些案例提供了当前生成式AI使用的合理横截面。这些内容在本报告第四部分有更详细的介绍：生成式人工智能的广泛可用性也带来了风险，即该技术可能被恶意行为者滥用，从而加剧网络攻击或欺诈等威胁。虽然这个问题很重要，但本文重点关注合法公司使用生成式人工智能所涉及的风险。 90%为相关客户。50% 的准确率超过 95%。案例研究二：了解你的客户这个工具加速了这些SDLC阶段超过案例研究三：软件开发工具包这个工具将处理时间缩短了为了管理风险，生成式人工智能工具还能够通过与源材料进行比较来对输出进行质量检查，并纠正错误或空白字段。然后，操作员会进行人工质量检查，在完成流程前评估工具的输出。为了减轻隐私和数据安全风险，该解决方案完全托管在私有云环境中，并使用私有 API（应用程序编程接口）调用公司自己私有实例中的封闭式大型语言模型（LLM）。此外，访问权限受到严格控制，文档在静态和传输过程中都进行了加密。应用了数据最小化原则，并将生成式人工智能环境配置在30天期限后零保留。了解您的客户（KYC）和客户尽职调查（CDD）流程在金融服务中至关重要。它们受到严格监管，涵盖公司在客户生命周期内的所有方面，依赖于处理大量结构化和非结构化个人数据。部署了生成