创新洞察：银行业首席信息官部署生成式AI的关键考量

Gartner｜G00792823创新洞察：银行业首席信息官部署生成式AI的关键考量发布日期：2023年11月30日-ID G00792823-阅读全文约需15分钟作者：分析师JasleenKaur Sindhu，Agustin Rubini，Moutusi Sau重点议题：金融服务数字业务战略与创新；金融服务业务领导力与战略生成式AI（GenAI）为银行业带来巨大机遇。但需注意相关风险仍客观存在，其对业务价值的全面影响尚有待厘清。本研究为银行业首席信息官（CIO）提供新兴生成式AI主流应用场景的权威洞察，并对其风险与收益进行系统评估。概述核心研究发现■根据《2024年Gartner CIO与技术高管调研》数据显示，42%的银行业CIO已部署或计划在未来12个月内部署生成式AI，表明行业对该技术的强烈关注。■目前银行业更倾向于优先将生成式AI应用于内部场景（而非面向客户的用例），旨在全面评估其潜在收益与风险。■当前银行业最常见的生成式AI应用集中于员工日常工作流程中的智能助手场景，例如代码生成、欺诈预防、客服中心助理、个性化产品及营销内容生成等。■银行业CIO最关注的风险包括：AI滥用导致欺诈、模型幻觉、数据隐私风险及输出偏差。建议银行业CIO若要通过部署生成式AI创造业务价值，应当执行以下行动： 第1页，共14页 Gartner｜G00792823■筛选能带来切实业务价值的应用场景（如欺诈预防），同时综合考虑技术可行性及内外部市场成熟度，进而快速推进生成式AI落地。■避免制定孤立的生成式AI计划，而应更新升级数字战略，重新确立生成式AI在现有技术项目中的协同定位。规划跨业务应用场景与跨业务单元规模化扩展所需的基础设施支撑。■联合法律、合规、风险及其他部门高管，审查更新企业风险管理框架，重点应对生成式AI带来的新型挑战（如偏见和数据幻觉）。预判区域性监管规则的快速差异化演变。■组建跨职能治理委员会，通过识别实验性应用场景并实施人工验证、明确决策权及披露义务等管控机制，制定保障生成式AI安全测试与应用的相关政策。战略规划假设到2026年，超过80%的银行将采用生成式AI，较当前5%的采用率大幅提升。到2026年，超70%的一线业务将借助生成式AI能力实现银行客户的财务赋能。到2028年，生成式AI将嵌入80%以上的银行产品与解决方案中，支持客户根据具体情境定制服务与建议。导语根据《2024年Gartner CIO与技术高管调研》数据显示，80%的银行业CIO计划在2024年增加对人工智能/机器学习（AI/ML）（包括生成式AI）的投资，规模高于上一年。1目前银行业领导者正通过欺诈预防、代码生成及客服中心助理等场景（见图1）开展大量生成式AI能力测试，以提升内部效率并优化风险管理。当前多数应用集中于内部场景，原因是银行业决策者需在扩展客户侧部署前，充分评估该技术的收益与风险。2最终相关用例将逐步出现在面向消费者的工具中。 第2页，共14页 Gartner｜G00792823银行业与投资服务领域的GenAI应用场景银行高管采用比例分布技术描述生成式AI技术可通过学习海量原始内容，生成内容、策略、设计与方法的衍生新版本。该技术对商业运营产生深远影响，包括内容发现与创作、真实性验证与合规管理；人力工作的自动化；以及客户与员工体验优化。在银行业领域，生成式AI正被用于以下能力建设：■合成数据生成：增强信贷决策和欺诈检测■软件代码生成、转换和测试■内部内容发现与员工协同助手，覆盖一线员工及客服中心人员工作场景正在实施或已实施计划在未来6个月内实施计划在未来6至12个月内实施欺诈预防代码生成与转换客服中心助理AML与合规个性化产品推荐一线员工/顾问智能助理个性化营销内容生成面向客户的金融/投资AI助理市场情景规划工具产品定价与测试贷款处理AI管理投资组合样本量：78名银行业高管调研问题：贵机构正在考虑银行业与投资服务领域的哪些GenAI应用场景类别？具体实施时间表是如何规划的？来源：《2023年Gartner金融服务研究小组调研》（8月）注：占比低于5%的反馈未予显示。AML=反洗钱（anti-money-laundering）；GenAI=生成式人工智能（generative Al）801381_C 第3页，共14页 Gartner｜G00792823■内容生成：包括个性化营销内容创建、不同文档或多语言文档信息提取、海量数据提炼及决策支持摘要生成■情景规划：定制化定价策略设计、贷款结构优化及现金流预测上述能力基于多种基础模型实现，除大语言模型（LLM）外，也包括诸如生成对抗网络（GAN）等模型。优势与应用当前银行业对生成式AI的应用主要聚焦于内部效率提升而非客户侧场景，具体涵盖以下领域：欺诈检测■模拟分析：瑞典最大银行之一Swedbank，已采用英伟达图形处理器（GPU）来训练生成对抗网络（GANs），优化反欺诈与反洗钱策略。■内容发现：支付平台Stripe面向大小企业，部署生成式预训练变换模型4（GPT4）扫描企业网站，生成业务分析摘要，协助了解每家企业如何使用该平台，进而定制欺诈检测支持方案。4■内容发现：摩根大通（J.P. Morgan）运用大语言模型解析邮件中的异常模式，寻找可能存在的安全漏洞迹象。■内容发现：SouthState银行采用OpenAI企业版ChatGPT辅助员工撰写邮件、查询银行政策、分析可疑活动与欺诈行为。■内容发现：NatWest集团联合Amazon Bedrock开发AI模型，用于识别潜在诈骗受害客户。银行利用AI分析客户行为，可更早识别异常支付模式，从而及时干预，减少财务损失。7 第4页，共14页356 Gartner｜G00792823■模拟分析：汇丰银行、巴西布拉德斯科银行（Banco Bradesco）及丹麦数字银行Lunar与谷歌反洗钱AI（AML AI）协作研发金融犯罪防范监测系统。一线员工与客服中心协同助手■内容发现：摩根士丹利（Morgan Stanley）运用GPT4为财务顾问提供洞见支持，模型已基于企业专有内容和源文档完成训练。■内容发现：Ally银行利用生成式AI实现客服通话转录与摘要自动化，替代传统人工处理。10■内容发现：荷兰银行（ABN AMRO）通过生成式AI自动生成客户通话摘要，辅助员工收集客户数据，解答高频问题。■内容发现：澳大利亚联邦银行（Commonwealth Bank of Australia）部署生成式AI实时解析4,500份银行政策文档，赋能员工高效应对复杂客户咨询。部分银行正投资开发行业专属基础模型。例如，西太平洋银行（Westpac）基于自有数据训练Kasisto金融专项模型KAI-GPT，为借贷双方提供智能房贷流程支持。个性化营销与产品推荐■内容创作：摩根大通（J.P. Morgan）与AI营销技术公司Persado合作，通过生成式AI优化营销文案并重构营销信息，显著提升点击率。■对话式AI：瑞典金融科技公司Klarna为线上商店提供支付服务，并提供直接支付与购后支付功能。该公司通过整合自有ChatGPT插件实现智能购物咨询功能，用户可获取商品推荐与响应的购买链接。代码生成与测试 第5页，共14页891112131415 Gartner｜G00792823■内容创作：高盛集团（Goldman Sachs）正在测试生成式AI工具，辅助代码生成与测试工作。部分场景下，开发人员已实现高达40%的代码自动化编写。Gartner《应用场景分析框架：银行业生成式AI》共识别出20个具备中高商业价值潜力的现有应用场景与新兴机会领域。所有应用场景皆依赖于生成式AI的核心差异化价值，例如：■模型可复用性带来的规模化扩展能力：当前非生成式AI模型针对特定用例定制（如反欺诈模型、客户流失预测模型），存在单一场景限制。与之不同，基础模型通过广谱数据训练实现跨场景与业务环境复用。例如，同一模型可支持信息检索、内容摘要及邮件起草等多重任务。针对反洗钱合规等特定场景，可能需要基于银行内部数据（如内部道德准则）对模型进行微调，但模型的广泛适用性不受影响。■非技术用户交互效率提升：基础模型的自然语言交互能力（含多语言及音视频形式），可赋能跨职能员工（包括销售、运营、中台、IT等）快速精准完成数据任务。例如，SouthState银行5,000名员工中有2,000人使用生成式AI企业解决方案进行内容创作与发现，将原本需12-15分钟的任务缩短至秒级完成。17代码生成与测试是另一项可显著提升生产力的应用场景，未来将成为现有系统现代化改造、统计分析及新产品与用户体验测试的关键IT解决方案。 第6页，共14页16 Gartner｜G00792823■智能决策能力升级：基础模型能够快速摄取、并整合来自不同类型文档及多语言渠道的信息，实时融合结构化与非结构化数据。该技术对银行业产生重大变革影响：金融机构可借此强化信贷决策机制，并实现金融犯罪活动的实时防范。通过合成数据生成技术，银行可有效扩充内部数据资产，优化客户洞察、风险评分及反欺诈模型。银行还可运用模拟能力批量生成多样化定价策略与贷款方案，降低客户违约概率。银行内部财务管理系统可通过该技术实现现金流情景预测、自然语言指令驱动的复杂财务数据分析，并获取实时财务简报与市场情绪洞察，从而优化投资组合配置。■个性化客户体验普及：银行可利用生成式AI实时快速扫描并整合信息，在交互过程中精准识别客户语气与情感倾向。该技术赋能一线及网点工作人员快速检索信息并生成契合客户情境的定制化推荐，从而在更短时间内向更多客户提供个性化建议。银行还可构建AI财务顾问系统，实现对客户的深度赋能，提供金融概念解读、投资洞见生成及理财操作代理等服务。该技术方案促使各类客群（包括金融弱势群体）得以通过极低成本获取个性化金融指导。风险生成式AI虽为金融服务业创造显著价值，但随之带来的生风险也需审慎应对（见图2）。 第7页，共14页 Gartner｜G00792823生成式AI核心风险准确性风险生成式AI可能因系统局限、模型幻觉、数据陈旧及提示词质量不佳而产生不可靠输出。例如，聊天机器人提供的财务建议若基于过期市场数据，将导致决策失效或引发风险。尤其在处理未经训练领域的问题时，AI易生成看似专业实则错误的回复。此外，提示问题的质量直接影响生成内容的准确性与相关度；需通过提示词工程强化输入质量——即用户需向AI同步提供辅助背景信息，以提升输出可靠性。■缓解措施：建立AI生成内容验证层，用于信息交叉核验，并确保生成式AI信息的使用过程中必须标注数据来源和引用依据。严格限定AI应用范畴，并通过人工审核机制保障信息准确性。系统性偏见准确性风险陈旧数据AI幻觉超范围指令响应来源：Gartner 第8页，共14页 Gartner｜G00792823AI偏见源于数据偏斜或算法缺陷，可能导致种族歧视或性别歧视等不公平结果。例如，若抵押贷款审批模型采用社交媒体等不可靠来源的偏见数据进行训练或微调，将导致特定种族群体遭受歧视性对待。此外，确认偏见还将扭曲客户画像，引发差别化金融服务风险。■缓解措施：确保训练或微调数据集具有客观性和高质量特征。选用预训练模型架构，但需基于经严格审核的领域专项数据进行微调。持续监测并修正偏见。采用公平性优化算法。实施旨在识别并修正偏见的算法，提升结果的公平性。隐私与安全风险生成式AI的安全漏洞可能导致客户敏感数据泄露。其他风险包括攻击者发起的模型投毒攻击、因未经授权访问个性化金融数据导致的隐私侵犯，以及利用深度伪造技术实施的欺诈行为。■缓解措施：部署强大的加密技术与多因素身份认证体系。监控异常活动，并限制API的用户访问权限。道德风险AI决策过程的透明度不足与问责机制缺位，将削弱客户信任并招致监管审查。例如，银行AI系统无明确依据拒绝信贷申请，可能同时引发声誉危机与监管处罚。■缓解措施：采用可解释性AI模型架构，针对敏感金融决策实施“人机回环”（human-in-the-loop）系统。泄露风险生成式AI可能无意中暴露敏感信息，或违反