从效率提升到模式创新：大模型如何重塑保险行业应用

AI大模型技术行业应用现状与趋势数据应用模型来源与使用参数与性能构建与演进现状大小Scaling Law仍有效缺高质量数据端侧小模型小型化/定制化性能多模态加速迭代工程化调优并行推理模型增强开源VS闭源场景对内提效服务为主对外服务少逐步深入业务流程范式革新迫切架构MCP/API工具服务workflow智能体模式RAG维度公开数据互联网数据合成数据三方/标注数据企业数据价值待挖掘数据规模与多样性迫切数据时效需进一步提升 企业数据价值化加速在模型预训练、模型精调与蒸馏、AI应用等维度都急需企业高价值私域数据。数据运营与治理•构建全域知识与数据管理能力•DATA+AI数据管理新范式应用构建架构与范式演进智能体开发从助理进化为数字员工，逐步深入核心业务流程，技术架构也在加速革新。业务场景深入•从问答到干活•从对内逐步对外•应用范式从创新到革新AI应用架构演进•RAG+推理/通用模型•AI工作流+MCP/API服务•Multi Agent架构模型训练与推理•大模型向巨量化与轻量化并行进化，私域数据精调提升专属价值；•多模态交互加速产业革新；混合云架构因算力需求激增成为主流。模型趋势•模型巨量与轻量两极并行•企业专属模型将加速应用•多模态/推理能力持续进化 数据应用与价值化•数据全流程处理与应用能力决•定业务应用范式革新的程度•业务服务工具化•强化学习算力与安全•算力需求成指数级增长•混合云算力架构成主流•重视模型训练/应用/推训安全 数据应用模型 趋势 腾讯云大模型战略围绕大模型创新、智能体开发、知识库建设与AI基础设施升级等维度，构建一套真正适用的AI原生体系，帮助更多企业用上AI、用好AI，让AI成为产业中的通用能力。用更少的资源，实现高性能的推理•智算需求从训练驱动转向推理主导•IaaS层与工具层协同优化•智算HCC、高性能存储、星脉网络，训练infra综合性能提升30%•TI平台的训推一体、潮汐调度响应提速，多模态交互，拥抱开源•Turbo S与T1升级灵活可控的工作流执行•多模态模型能力增强•多尺寸模型全面开源•在微信、QQ、腾讯元宝、腾讯会议、腾讯文档等产品中深度应用•混元3D模型、A13B模型开源 大模型创新智能体开发大模型战略AIInfra升级知识库建设 •多智能体协同•灵活可控的工作流执行•企业实战打磨能力知识「活起来」，AI「更懂」企业•腾讯乐享：打破了部门与层级壁垒，对知识的有效性、更新时间、权限进行管控•腾讯ima：打造个人与团队的知识库与助手 腾讯云提供多层级的大模型能力赋能保险业务应用落地场景层营销运营营销推广、销售赋能、客户服务业务管理核保核陪、风控管理应用层乐享知识库+陪练企点大模型客服机器人智能体开发平台原子能力层文档解析文档拆分向量化多轮改写联网搜索大模型层混元生文混元多模态混元生图LLaMA大模型工具层模型训练平台TI-ONE内容检索Elastic Search算力层高性能计算集群腾讯乐享AI知识库提供开箱即用的企业AI知识库，由DeepSeek和混元大模型双核驱动，助力企业快速搭建私有知智能体开平台原子能力覆盖知识问答全链路原子服务，为企业提供灵活组件及开发模型应用的能力。腾讯云TI-One已支持满血版DeepSeek-R1的精调和蒸馏，支持一键部署DeepSeek系 列的 大小模型。腾讯云高性能计算集群提供RDMA网络互联的GPU服务器，双机部署满血版DeepSeek大模型，最大化模型性能和可用性。Step1：尝鲜应用建算力、部模型、搭知识库、RAG、知识管理2.0Step2：深化应用工作流、Agent、联网搜索、内容风控 知识库建设：知识「活起来」，AI「更懂」企业好用的AI，得有「企业知识」，而企业真正的知识，藏在成千上万份文档、邮件、规章制度和员工经验中，将企业沉淀的知识激活是构建好用AI的关键之一保险行业标杆案例激活知识资产&价值腾讯乐享腾讯imaActivation腾讯乐享腾讯imaEfficiency助力企业高效知识协同，降本增效EfficiencyAI应用智能&创新企业品牌传播AI时代必备的核心能力在线协同文档及多格式文件统一目录管理、解析向量化，多重质量保障（巡检/审核/自定义属性），辅以热度统计、趋势及AI分析，确保知识质量与价企业知识管理运营放得进、管得好、看得清统一底座服务多元知识管理私域只是高效运营价值洞察与看板 值。 AI更懂企业，应用更具智能支持提问即答并定位来源，融合个性化知识结构精准检索；提供API及管理工具，支持企业级集成、智能体与业务对接。AI应用&工具服务找得准、用得上、易传播多模型驱动高精准召回全能知识助手MCP对接 腾讯云AI代码助手：AI时代软件工程新范式腾讯云AI代码助手是专为研发团队设计的AI辅助编程产品，以腾讯混元代码大模型主流编程语言和主流IDE，提供代码补全、技术对话、单元测试、代码诊断和智能评审流程场景，辅助开发者提升编码效率和质量，助力研发团队提质增效。补全速度快补全准确性高模型能力强问答泛用性好产品开放度高多Agent可扩展交付形态丰富云上云下均可产品竞争力提升开发速度编码质量提升助力企业打造全栈开发团队产品价值落地案例 为产品基座，支持上百种等能力，覆盖编码全代码规范和最佳实践落地提高员工编程体验满意度3w+日活用户人均千行bug率降低31.5% 35%代码生成率人均编码时间缩短40%腾讯实践 智能体开发：从「问答」到「干活」，打造AI员工腾讯云智能体开发平台融合多Agent协同、工作流编排与企业实战沉淀能力，打造真正“能理解、会执行”的智能体系统。产品优势知识管理维护业内第一不限量、全格式、全场景、满足企业多样化要求端到端问答效果保障业内领先首个通过语义进行长文本切分的模型、OCR大模型解决图文表混排解析痛点多模态交互模式丰富应用端支持多种输入、输出格式，提升交互体验工具链完善支持自定义模型选择、提示词自动优化，支持测试-修正-发布-反馈增强的一站式流程应用构建层-多种模式提升开发效率原子能力组件-RAG（检索增强生成）能力组件灵活输出模型层-全面模型驱动，各取所长精调知识大模型精调多模态大模型DeepSeek系列模型混元大模型（Dense）混元大模型（MOE）三方优秀开源模型支持复杂文档版面分析、元素排序，OCR解析大模型准确率业内首个文本进行多级语义拆分100000000+深入上百个客户的应用场景，亿级行业数据①标准模式：内置RAG②自定义工作流③Agent模式文档解析文档拆分向量化 关键数据No.1提升30%，效果全国第一1st长文本切分大模型，针对性训练，端到端问答精准 权威认可长文档embedding模型，可支持最大长度4K，PEG检索模型斩获MTEB中文榜单第一现已广泛应用于金融行业 腾讯云TI平台一站式AI训练推理工具链TI-ONE为用户提供从数据接入、模型训练、模型管理到模型服务的全流程开发支持。并支持多种训练方式和算法框架，满足不同AI应用场景的需求产品优势TI-ONE提供一站式AI训练推理工具链高效灵活的数据准备4大类场景全面支持稳定可控的训练调度3层机制保障减少中断方式齐全的模型评测3阶段评测全面覆盖易用可靠的的模型部署稳定支持高并发训推加速内置Angel加速套件AI服务部署与运营预置主流开源模型及推理镜像异构算力兼容X86与ARM服务器混合部署内置X86与ARM双镜像支持自研Angel训推加速框架，以上为Angel加速方案相比开源方案的大幅降低首字延时(Time To First Token)单位时间内处理更多请求(Queries Per Second)QPS提升3倍 关键数据超30%训练性能提升，1-2倍推理加速比DeepSeekR1/V3推理性能提升单节点支持更大并发数大幅减少模型权重对对显存的占用并发上限提升4倍显存占用缩小1倍TTFT缩短1倍 THANKS谢谢观看