苏商银行：大模型智能客服助手

苏商银行大模型客服助手 20 2 4年6月苏商银行 01客服领域场景概述02大模型技术概述03大模型在客服领域的应用场景04苏商银行的大模型客服助手实践05未来的发展方向 01、客服领域场景概述 客户服务 贷款客户经营 通过电话、手机APP等渠道接入，为客户提供业务咨询、业务办理、产品营销等银行服务，以语音服务、文本服务、视频服务为抓手，坚持以客户为中心的服务理念，服务客户。 负责税E贷、采购贷、商户贷等小微企业类贷款以及个人消费类贷款的销售和客群贷后经营维护工作。通过优化贷款产品结构，提升优质客群占比，降低业务风险；同时逐步调整电销贷款结构，形成均衡产品结构。 风险资产管理 理财客户经营 通过传统电催模式与科技相结合，强化信用风险状况的动态监测与早期预警，在预催收阶段充分运用IVR技术同时通过科技手段进一步提升M1、M2、M3、M3+全流程的电催效率，为全行资产保驾护航。 借助CRM系统以远程管户经营模式，开展银行存款和金服理财客户经营工作，从新客开发、老客深挖、客群转化形成闭环，为财富客户提供资产保值增值服务。 01客服领域场景概述02大模型技术概述03大模型在客服领域的应用场景04苏商银行的大模型客服助手实践05未来的发展方向 02、大模型技术概述 大模型的基本概念 本报告的大模型特指类似ChatGPT的大型语言模型（LargeLanguageModels，LLM），是一种由包含百亿以上参数的深度神经网络构建的自然语言模型。 简单来说，大模型就像是一个拥有巨大知识库的学者，它通过阅读和学习大量的书籍（数据）来掌握语言的规则和知识，从而能够在各种任务中取得优异的成绩。 02、大模型技术概述 对话式交互会成为下一个具有超级增长点的交互方式 随着技术的发展，人机交互正不可逆转地向人更习惯的方式靠近。可以预见的是，接下来是强人工智能时代，过去成百上千个App会逐渐演化成未来的成百上千个Chatbot。就像Android和iOS系统为手机赋能一样，Chatbot将会逐渐成为新的操作系统，逐渐为各行业赋能。 02、大模型技术概述 开源模型（绿线）正在逼近闭源模型（红线） •目前的开源模型与1年半前的闭源模型性能相当•GPT4在开源模型中具有离群性•Qwen和01AI在闭源模型中具有离群性 02、大模型技术概述 AI大模型将加快新质生产力发展，助力我国经济社会高质量发展 我国始终高度重视人工智能发展机遇和顶层设计，发布多项人工智能支持政策，国务院于2017年发布《新一代人工智能发展规划》。科技部等六部门也于2022年印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》对规划进行落实。2024年《政府工作报告》中提出开展“人工智能+”行动。 各地方政府出台相关支持政策，加快大模型产业的持续发展。 南京市政府先后出台《关于加快人工智能产业发展的实施意见》《南京市打造人工智能产业地标行动计划》《南京市加快发展新一代人工智能产业行动计划（2023-2025）》等计划措施，开年初，南京提出要全力突破人工智能产业，抢抓大模型新浪潮，建设算法城市、强化赋能应用，高标准建设人工智能创新应用先导区。 近日，苏商银行建设的“南京市金融大模型工程技术研究培育中心”获得南京市科学技术局立项批复。 01客服领域场景概述02大模型技术概述03大模型在客服领域的应用场景04苏商银行的大模型客服助手实践05未来的发展方向 03、大模型在客服领域的应用场景 大模型在客服领域的具有以下应用场景： 贷款客户经营 理财客户经营 客户服务 风险资产管理 1、大模型能够理解并处理复杂的语义结构，更准确地解析和理解用户的自然语言输入。2、大模型使智能客服更具同理心和人性化，有效管理用户情绪。3、大模型可根据坐席与客户的聊天内容，智能生成知识问答对，提升知识库维护效率。 1、大模型根据客户的信用历史、财务状况和行为模式，大模型可以生成个性化的营销策略，提高贷款产品的吸引力。2、大模型可以分析对话记录，帮助销售人员生成客户画像，通过定期的跟进和个性化的服务，增强客户忠诚度。 1、大模型可以根据历史数据和催收结果，不断优化催收策略，提高催收成功率。2、大模型可以分析催收员的专业领域、历史业绩和工作负载，将案件分配给最有可能成功回收的催收员，提升团队绩效和员工满意度。 1、大模型能够提供定制化的建议和解决方案，根据客户的历史交互、偏好和上下文对话信息，实现个性化服务。 2、大模型具备持续学习能力，能够适应市场动态和产品变更，确保提供给客户的信息和服务始终是最新和最准确的。 03、大模型在客服领域的应用场景 案例简述 中国建设银行 中国交通银行 中国邮政储蓄银行 ü交行利用AI技术深挖个金客户兴趣偏好，用大模型强化业务端留客能力，各类理财模型策略累计触客成交量近4千亿元，较整体成交率提升16倍 ü邮储银行App融合AI空间、数字员工、视频客服，打造沉浸式陪伴服务ü基于大模型的投诉问题分类智能模型，实现消保投诉管理自动统计分析和智能监测；上线推广消保投诉文本分析模型和消保审查智能辅助工具，有效提升消保管理事前审查和事后分析能力。 ü推出的金融AI大模型产品ChatABC，能够利用大模型技术提升智能客服的金融知识理解能力、内容生成能力及安全问答能力。 ü上线了智能客服工单生成功能，每单平均节约客服工作时间15-20秒，可用率达82%，一致性达80%。 ü在同业率先实现大模型技术在座席助手等场景落地，全年服务量21.5亿笔，接听率和智能分流率同业领先。 ü正式上线了首个基于大模型的网点员工智能助手，提升网点效能，全年运营领域智能处理业务量3.2亿笔，比上年14%；建设13个综合型数字员工以及1000余个流程自动化数字员工，智能增效超过3万人年。 ü建设银行上线消保AI智能审查功能，通过智能信息识别与处理，产出AI审查结果，辅助审查人员，提高审查效率，提升消保审查的规范性和专业能力。 ü推出情感模型会话洞察与“灵动智库”服务增强企业微信运营功能，提升基层精细化客户洞察能力。 ü实现营销创意内容和文案自动化生产，帮助打造品牌形象、提升营销内容质量、提升黏客能力。 ü推广客户投诉智慧治理模式，在投诉处置和管理主要环节全面应用机器人流程自动化、自然语言处理、生成式人工智能（AIGC）等技术，成功落地首个全行应用的AIGC场景，实现大模型自动撰写投诉处理报告。 01客服领域场景概述02大模型技术概述03大模型在客服领域的应用场景04苏商银行的大模型客服助手实践05未来的发展方向 04、苏商银行的大模型客服助手实践 知识库运营效率低成本 目前客服知识库的内容不够全面并且更新主要依靠人工，耗时费力，导致在线客服机器人的自助解决率较低，增加了人工客服的工作负担和客户的等待时间 客服效能面临多重挑战 质检流程准确性不高 首先，人工客服在并发处理多个请求时能力有限，易造成响应延迟其次，服务质量参差不齐，不同客服的专业水平和经验差异导致体验不一致；再者，新员工的培训周期长且人力成本高昂。另一方面，现行机器人客服缺乏足够的理解力和应答能力，也难以提供人性化的交流，且面临着系统升级和维护的高成本问题。需要更加智能和高效的机器人客服解决方案 由于目前的质检准确度较低，需要大量依赖于人工判断，不仅耗时耗力，而且难以覆盖所有场景。 业务痛点 电销/电催话术提炼效率低 登记工单效率低 目前电销/电催的优秀话术提炼主要依赖于人工筛选和总结，效率低下，且难以充分利用数据潜力 目前客服坐席手动填写校对工单时耗时耗力、效率低，以及工单填写不规范导致工单处理时需要跟客户反复沟通、影响客户体验 04、苏商银行的大模型客服助手实践 项目目标 打造“客服智能助手”赋能远程银行客户服务业务。按照通话前、通话中、通话后的端到端业务流程闭环，形成事前知识库运营提效、事中副驾驶赋能、事后质检守护，助力客服工作模式和效率的全面升级。 客服知识库助手 质检助手 利用大模型的自然语言理解、抽取和生成能力，实现了知识库的自动化和智能化管理，大幅度降低了人力成本和时间成本 通过大模型提示词技术，实现了质检的自动化，大幅提高了质检的效率和准确性。通过模型的情感分析能力，可以识别出客户和客服的情绪，提供更全面的质量评价 话术推荐助手 工单助手 通过实时理解对话情境和向量化的知识库，利用检索增强生成技术（RAG），实时推荐合适的话术，大幅提升了客服的效率和服务质量。话术推荐助手还可以根据客户的历史交互和偏好，推荐个性化的话术，增强了客户服务的个性化程度，提升了客户满意度 从通话过程中自动提取客户的诉求和关键信息，自动生成规范化的工单减少客服手动填写和校对工单所耗费的时间和精力，提高工单处理效率，避免因信息不完整导致的反复沟通 话术提炼助手 从现有电销/电催等非结构化数据中提炼优秀话术，丰富语料库 04、苏商银行的大模型客服助手实践 04、苏商银行的大模型客服助手实践 04、苏商银行的大模型客服助手实践 •意图识别•知识问答（问题改写、多路召回、重排序）•任务型对话（槽位抽取、对话状态跟踪、对话策略优化和执行） 04、苏商银行的大模型客服助手实践 质检助手 •语音转文字•数据预处理•识别差错点、差错等级、差错原因、原文•逻辑一致性检查 04、苏商银行的大模型客服助手实践 04、苏商银行的大模型客服助手实践 04、苏商银行的大模型客服助手实践 落地效果 1、客服知识库助手：大幅提升了在线客服机器人的自助解决率。 2、话术推荐助手：并行会话数从6通提升到8通，人效提升33%。 挑战与解决方案 缺少高质量训练数据集 模型更新换代迅速 推理速度无法满足实时话务场景需求 不同阶段开发的应用使用了不同版本的模型，且往往不兼容，导致算力资源浪费或增加应用迁移成本。解决方案是提示词工程标准化和统一模型版本管理，确保不同模型版本在使用提示词时具有一致性和兼容性，减少因更新换代带来的资源浪费和迁移成本。 提升模型效果的成本较高，需要大量人工标注数据用于训练，且训练过程需要大量试错，投入产出比低。解决方案是优先使用提示词工程技术快速达到使用要求，同时在实际使用中加强对模型输出的人工审核，积累高质量数据集。此外，可以使用合成数据技术扩充数据集，降低微调训练成本。 电话客服、电销和电催等实时话务场景对推理速度要求极高，需要在1秒内生成结果。目前，大模型的推理速度难以满足，导致其应用场景受限。解决思路包括：第一，通过模型剪枝、量化和知识蒸馏等方法减少模型参数量和计算复杂度；第二，使用专门的推理加速引擎，如vLLM、DeepSpeed和Tensorrt-LLM等。 01客服领域场景概述02大模型技术概述03大模型在客服领域的应用场景04苏商银行的大模型客服助手实践05未来的发展方向 05未来的发展方向 1.探索直接面向客户提供服务 全渠道集成 个性化服务 安全护栏 实现客服助手在所有客户接触点的无缝集成，包括网站、App、社交媒体等 基于客户历史交互数据，提供定制化的服务和建议 在全渠道集成和个性化服务过程中，必须遵循数据隐私和安全法规，确保客户数据的安全。同时，确保服务内容和价值观与公司政策和社会规范对齐，避免可能的偏见和歧视 3.经济高效的推理部署方案 2.充分利用客户对话数据 数据驱动的KYC 模型优化 通过分析对话数据，深入了解客户特征和需求，支持个性化服务 采用模型剪枝、量化等技术，减少模型大小和计算需求 资源弹性管理 营销策略优化 识别营销机会，预测客户行为，制定和优化营销策略，提前响应客户需求 利用云计算资源，实现算力资源的弹性扩展和高效分配 互动问答环节 欢迎大家积极提问