AI智能总结
CONTENTS /目录如何快速落地智能体?按平台、按场景选择最佳落地方式01 如何提升智能体应用效果?知识库的构建、数据价值的挖掘02 如何优化智能体落地成本?“混合云”、订阅模式、算力调配03 如何快速落地智能体应用?01 选择合适的平台和场景落地保险场景的智能体应用开源模型服务:DeepSeek、Llama、Qwen内部知识库1.平台选择2.场景选择简单场景客服助手理赔助手开源开发平台:Dify、FastGPT、RAGFlow业务应用:知识库、客服助手等智能体开源平台 如何提升智能体应用效果?02 知识库是智能体应用效果提升的基础 ✓知识库中的业务文档是否与应用场景匹配?✓文档入库是否被正确的解析,文档片段是否被最佳拆分?✓单应用的知识库文档量是否越多越好? 能力设定任务拆分 参考示例 ➢提示词优化应用智能体应用整体效果;➢工作流中节点的提示词调整会影响其他节点或端到端的效果; 挖掘业务场景数据价值,提升保司核心竞争力业务场景中收集的客户反馈数据可有效驱动模型迭代优化,而性能提升后的模型又能反哺业务应用,形成'数据-模型-应用'的正向循环。在这一智能体应用的飞轮效应中,持续沉淀的数据资产将成为保险企业的核心竞争壁垒。模型评估智能体应用构建智能体应用企业知识库冷启动 用户交互数据收集模型精调数据飞轮 如何优化智能体落地成本?03 “混合云”架构优化智能体应用落地综合成本云上模型算力提供 基础 和辅 助模 型,云上 弹性GPU算力池,满足高并发需求。云下私有化应用智能体应用服务及组件(向量库、数据库及部分辅助模型)部署在客户IDC环境。 云上SaaS版本支持公开信息(如产品基本信息、公司公开信息披露等)的业务应用场景。云下私有化版本支持数据安全要求较高,与业务系统耦合度较高的业务应用场景。 订阅模式采购智能体平台,是保司落地私有化的最佳选择1.工作流异步调用2.支持语音交互3.支持数智人交互1.工作流支持批处理节点2.解析拆分的人工干预3.新增共享支持库1.新增提示词模板2.支持第三方数据库3.新增知识库检索Agent1.新增MCP协议支持2.新增工作流聚合节点2025.05.15V2.7.52025.06.01V2.8.02025.06.15V2.8.52025.05.01V2.7.0➢云上版本保持平均每两周一次的迭代节奏,在修复线上问题的同时持续推出新功能;➢私有化版本通常较公有云版本滞后2-3个月发布;➢订阅模式的私有化部署更新保持线下版本与线上版本的功能同步;腾讯云智能体开发平台2025年Q2版本迭代 智能体平台动态分配加载模型,最大化利用GPU算力利用智能体平台管控平台,灵活调配底层模型服务的GPU算力,提升GPU在不同阶段的利用率1.段落拆分2.OCR结构化3.向量检索4.多轮改写5.重排序6.意图识别7.向量化在线服务为主离线服务在线服务公共服务 1.段落拆分2.OCR结构化3.向量检索4.多轮改写5.重排序6.意图识别7.向量化离线服务为主 腾讯云智能体开发平台是保司落地大模型应用最佳选择腾讯云智能体开发平台(Tencent Cloud Agent Development Platform),是基于大模型的智能体构建平台。提供LLM+RAG、Workflow、Multi-agent等多种智能体开发框架,助力保司高效地搭建稳定、安全、符合业务需求的智能体应用。文档解析向量化文档拆分多轮改写Rerank多模态原子能力大模型第三方大模型TurboST1混元大模型VisonLargeStandardStandard-256k应用场景顾销渠道场景市场部场景保险建议书生成保险销售对练业务小助理个性化客户体验客户经营智能助理智能体Multi-Agent框架RAG框架WorkFlow框架应用配置应用评测灰度发布权限管理调用统计企业知识库➢官方插件➢MCP插件➢自定义插件插件中心➢模板➢COT设计➢输出控制提示词工程➢ASR/TTS➢OCR➢自定义工具工具集市内容审核➢文档、网页、数据库➢非机构化(PDF、Word、Excel等)➢扫描件处理反馈优化 擅长图文表解析及公式解析,在图文混排文档问答、复杂大表问答等领域效果领先。在用客户包括:月之暗面、元宝、ima、元器等。效果保持领先,解析检索工具沉淀工作流复杂应用构建能力全局视野的Agent,支持节点回退。支持客户通过拖拽大模型节点、参数提取节点、知识问答节点等常用原子能力编排业务流程。升 级Multi-Agent模 式,支 持 多Agent协同。插件中心提供丰富的官方/MCP调用。垂 直领 域Agent沉 淀,支 持工 作流Agent/知识库检索Agent等。支持多Agent智能转交协同账号体系对接数据源对接密钥对接日志对接监控告警对接 THANKS谢谢观看