从基础开始：盘点监督中的人工智能应用

经FSI主席费尔南多·雷斯托伊授权。© 国际清算银行 2025年。版权所有。经说明出处，可部分复制或翻译。FSI简介由国际清算银行（BIS）金融稳定研究所（FSI）的职员撰写，有时与其他专家合作。它们是关于当前热门监管和监督主题的简短笔记，具有技术性。其中表达的观点是作者的观点，不一定代表BIS或巴塞尔标准制定机构的观点。ISSN 2708-1117 (在线) ISBN 978-92-9259-861-7 (在线)本出版物可在 BIS 网站上获取（www.bis.org）。如需联系 BIS 媒体与公共关系团队，请发送电子邮件至 media@bis.org。您可以在 www.bis.org/emailalerts.htm 上注册邮件提醒。 从基础开始：监督中生成式AI应用的盘点1. 引言亮点1杰里米·普雷尼奥（jermy.prenio@bis.org），国际清算银行。作者感谢参与调查的非正式监管科技网络成员；感谢赛勒赫·阿尔卡里亚恩、萨米尔·基万恩和尼科·劳里德森提出的有益意见；以及感谢安娜·亨兹曼提供的行政支持。2参见Crisanto等（2024）。3参见 Prenio (2024)。•许多金融监管机构已经正在试验、开发或使用生成式人工智能(用于监督目的的生成式人工智能)应用。•金融监管机构试图利用新技术更高效地获取信息，但它们的生成式人工智能活动受到过时信息技术（IT）基础设施、数据安全问题和技术技能缺乏的阻碍。•据报告，大多数监管领域的生成式人工智能应用可分为三类：(i) 基础文档处理；(ii) 知识管理；以及 (iii) 文档审查。大多数“在用”应用属于第一类；开发工作分布在三个类别中；而实验集中在第二和第三类别。•在监管中整合生成式AI应用所面临的主要挑战是用户接受度和提供信息的不准确性。随着金融监管机构转向更复杂的生成式AI应用案例，这些挑战可能会加剧。本文概述了在金融监管中基因人工智能应用的状态。它基于对非正式监管科技网络中代表的机构的调查，该网络由建立。2022年引入一项生成式人工智能（gen AI）应用，开启了在金融领域利用该技术潜在益处的热潮和实验探索。这得益于新技术易于获取，云服务提供商正在扩展其服务以包含gen AI应用。虽然金融机构的gen AI用例侧重于提升运营效率，但它们在持续探索其他潜在用例，并据报道普遍重金投资AI。2从基础开始：监督中生成式AI应用的盘点1围绕生成式人工智能潜在益处的探索和实验并非局限于金融机构。生成式人工智能的发展也为金融监管机构利用创新技术辅助监管工作、即所谓的监管科技（suptech）提供了实验素材。通常情况下，监管机构一直关注探索能够帮助其处理大量叙述性报告及其他相关文本文档的应用。因此，多年来涌现了许多运用自然语言处理技术的工具。生成式人工智能有潜力显著提升这些工具的能力。生成式人工智能也潜在地使监管科技应用对用户更加易用，从而解决将此类应用有效整合到监管流程中的一项挑战。3 1 22.响应调查的机构简介从基础开始：监督中生成式AI应用的盘点当局的生成式人工智能活动来源：FSI。图1在42名受访者中，32名报告称他们已经正在试验、开发或使用用于监督的生成式人工智能应用程序。在这些机构中，只有12家已经在使用此类应用程序（图表2）。比较来自发达经济体和发展中经济体的机构之间的生成式人工智能活动，调查结果显示，在每种类型的管辖区中，试验、开发和使用生成式人工智能应用程序的机构数量没有明显差异（图表3）。2018年金融稳定 институт（FSI）作为金融当局在金融监管中整合金融科技的信息交流和实践分享论坛。调查于2025年1月至3月进行，收到42个当局的回复。4具有发达国家（AEs）和新兴市场国家（EMEs）几乎平衡的代表。受访者当局具有不同的职责，包括银行监管、保险监管、反洗钱/反恐怖融资（AML/CFT）以及证券市场监管（图1）。第2节概述了金融监管机构在生成式人工智能（gen AI）方面的活动——即他们是否正在试验、开发或已使用生成式人工智能应用。第3节描述了监管中的生成式人工智能用例、感知到的益处、部署方式以及将其整合到监管流程中面临的挑战。第4节总结。4参见附件1获取受访者机构的列表。 5从基础开始：监督中生成式AI应用的盘点来源：FSI。来源：FSI。由于安全顾虑，许多监管机构不愿使用云基础设施，这影响了人工智能的采用和人工智能的成熟度。例如，参见 Gambacorta 等人（待发表）。发达经济体（AEs）和新兴市场经济体（EMEs）中正在试验、开发或使用生成式AI的当局受访者报告了他们的组织在实验、开发、使用甚至开始探索用于监督的生成式人工智能（Gen AI）应用时面临的几个挑战。受访者最常提及的挑战是过时的信息技术（IT）基础设施。5数据安全和缺乏技术 图3 3 4探索生成式人工智能（gen AI）应用所面临的挑战3. 监管领域中的生成式人工智能用例从基础开始：监督中生成式AI应用的盘点来源：FSI。图4受访者被问及在哪些监管领域他们正在试验、开发或使用生成式人工智能应用。这些监管领域基于Prenio（2024）和Prenio等人（2024）使用的分类。使用生成式人工智能应用的监管领域与当局积极部署监管科技工具的领域相同，但我们观察到在监管流程自动化方面存在显著集中（图表5）。与金融机构类似，金融监管机构似乎正在利用或希望利用生成式人工智能应用来提高运营效率。确实，调查回应显示这一点，大多数受访者表示生成式人工智能应用为监管带来的好处是提高查找信息的效率。鉴于对生成式人工智能模型中产生幻觉的担忧，一些受访者对生成式人工智能应用能够为他们提供更准确信息的乐观态度令人惊讶且有趣（图表6）。技能。许多受访者还指出，获得通用人工智能（gen AI）技术是一项挑战。这可能涉及到将通用人工智能（gen AI）应用更广泛地推广给监管人员所付出的成本。法律风险，特别是当通用人工智能（gen AI）应用使用公共领域的数据时，以及可能由数据泄露引发的法律风险（例如，当机密数据无意中或有意地被输入到第三方应用中时），也是人们关注的焦点。此外，一些当局仍不清楚他们如何使用通用人工智能（gen AI）进行监管工作。 图5图6受访者还被要求描述他们目前正在实验、开发和使用至少一个生成式人工智能应用。根据回答，我们可以将大多数用于监督的生成式人工智能应用分为三类：(i)基本文档处理；(ii)知识管理；以及(iii)文档审查。大多数已经在使用中的 从基础开始：监督中生成式AI应用的盘点来源：FSI。具体用例示例生成式人工智能应用都属于第一类； 5 从基础开始：监督中生成式AI应用的盘点知识管理以下是该类别中用例的示例：基本文档处理监管人员，尤其是新入职的，花费大量时间查找相关法规和了解监管变化。一个监管机构正在开发一个具有聊天界面的生成式人工智能应用，允许监管人员轻松获取监管信息，并保持完全透明度。聊天机器人会回答关于法规的问题，并提供其用于生成答案的文档的参考文献和引用，从而消除其他聊天机器人中常见的“黑箱”现象。它还可以生成和建议后续问题，并能总结和比较法规。用户还可以按国家或地区法规进行筛选。因此，该应用将简化查找相关法规和突出监管变化的流程，从而支持明智的监管决策。另一个监管机构也在开发一个“知识边界”LLM聊天机器人，该机器人基于该机构的监管要求进行训练。该应用程序将允许监管人员检索包含准确引用的相关信息。用户将能够查询任何监管政策或要求，而无需知道精确的关键词。因此，该应用程序将促进监管人员对相关法规的理解，提高监管活动的准确性和效率。为了降低幻觉风险，开发过程包括创建一个包含全面语义排序技术和缩写词典的强大知识库。此外，采用思维链推理方法并实施当前正在使用的生成式AI应用主要侧重于协助主管处理基础文档任务，例如起草和编辑检查报告、监管决策文件以及向受监管实体发送的通讯。这些应用还用于从相关新闻文章或监管提交中总结、翻译或提取关键信息。此处，像ChatGPT、Microsoft Copilot、DeepSeek和Perplexity这样的公开可用生成式AI工具被广泛使用。类似于上述内容，另一个监管机构正在使用大型语言模型（LLM）开发一个监管聊天机器人，该聊天机器人从包含所有相关法律和该机构法规的知识库中检索信息。其目标是通过对目标问题提问，为监管人员提供对感兴趣法规的快速、精确访问——包括其详细信息。该机构还在评估 Graph RAG 的使用情况，GraphRAG 是通过将知识图谱融入传统 RAG（检索增强生成）技术来增强的技术。通过使用监管数据知识图谱，Graph RAG 有可能为生成信息提供更细致和准确的环境。该机构仍在比较 Graph RAG 与标准 RAG 的长期计算成本。用于知识管理的生成式人工智能应用是指那些能够帮助监管者浏览当局发布的全部法规和其他指南的应用。这些应用可以帮助监管者回应受监管实体或高级管理层就特定法规提出的查询，开展法规研究，审查受监管实体的提交是否符合法规，并更广泛地影响监管决策或行动。此类应用通过检索增强生成在当局的文档上进行训练。也包括那些能够使监管者使用自然语言（即无需学习编程语言）查询其法规数据库的生成式人工智能应用。通常，这些应用被设计为“副驾驶”或人工智能助手或聊天机器人。正在开发的应用程序在三个类别中分布相当均匀；而处于实验阶段的则明显集中在第二和第三类别。 6••• 从基础开始：监督中生成式AI应用的盘点以下是该类别中用例的示例：•作为评估金融机构治理有效性的组成部分，监管机构通常会审查董事会会议记录。有一个监管机构正在开发一个基于LLM的应用程序，以帮助进行这种评估。该应用程序将能够向监管机构提供以下信息：rag工作流中的防护栏优化搜索，并有助于确保输出与已验证的来源正确对齐。该应用程序还将能够积累以往董事会会议记录中的发现，并比较每位董事参与程度的随时间变化。在后期阶段，计划使用该应用程序评估其他文件。然而，目前的挑战是在于确保信息安全，鉴于所评估信息的敏感性。在现场检查期间，监管人员必须审查金融机构提交的大量文件，从中提取见解并跟踪问题。为了协助监管人员在执行这项任务，一个机构已经使用生成式人工智能构建了一个概念验证，该验证将作为智能助手，帮助监管人员更有效地定位和导航文件。特别是，该应用程序旨在：（i）从大量文件中提取相关信息；（ii）跨文件比较内容；以及（iii）随着时间的推移审查定性信息，以识别趋势和模式。该应用程序还可以用于将金融机构与其同行进行比较，以及从过去的检查中查找类似问题。该应用程序将包含几个组件，包括：将扫描文档或图像文件转换为机器可读文本并查找通过嵌入式文档提供每个文档的预览，以便用户选择相关文档。o 评估生成一个参考文献列表，其中提取了见解，并解释如何这些见解是相关的。•一个监管机构为内部替代性争议解决（ADR）系统提供支持，该系统负责裁决金融机构与其客户之间的纠纷。在裁决案件时，确保类似案件处理的一致性并遵守相关法律至关重要。然而，由于案件复杂性和数量繁多以及涉及主体的多样性，这样做具有挑战性。因此，该机构决定开发一个由生成式人工智能（gen AI）驱动的聊天机器人，该聊天机器人正在使用ADR已经裁决的过往案件进行训练。该聊天机器人仅供内部使用，并仅对监管机构可访问，将允许对过往案件进行语义搜索，根据ADR的过往裁决回答特定案件的查询，并为特定案件起草摘要。基于生成式人工智能的文档审查应用是指那些可以通过监督实体的文件（例如监管提交文件、年度披露文件、保险单、复苏计划）并评估其是否符合监管要求的应用。从某种意义上说，文档审查应用是知识管理应用的一种延伸。虽然后者提供人工智能助手，帮助识别监管人员可以在评估监管提交文件时使用的相关法规，但前者甚至自动化了评估部分。此类中的其他应用是指那些可以将监督实体的文件与其他信息来源（例如，财务报表中是否提及相关公开信息，或者提交文件是否与其他监管报告一致）进行比较的应用。每位董事在讨论中的主导程度o a 委员会讨