大模型知识引擎产品介绍与落地实践
产品定位与核心能力
腾讯云大模型知识引擎定位为大模型应用开发平台合作伙伴,支持应用共创,适用于泛政文旅、金融、汽车、零售、能源、地产、一网通办、虚拟导游、代理人辅助、汽车助手、电子说明书、员工服务、物业管家、数智人等场景。产品具备以下核心能力:
- 全面模型驱动:整合混元大模型(Dense、MOE)、精调知识大模型(混元SFT)、行业大模型,以及三方优秀开源模型(如DeepSeek R1/V3),各取所长。
- RAG能力组件:支持检索增强生成,文档解析、拆分、入库、检索、多轮改写、原子能力组件精调、多模态大模型Rerank等。
- 工作流与Agent能力:提供标准模式(内置RAG最佳实践)、工作流模式(拖拽式编排复杂流程)、Agent模式(模型自主规划任务和工具调用),满足不同业务需求。
三大应用模式
- 标准模式:内置RAG最佳实践,适用于知识问答场景,如企业知识服务、产品咨询等。
- 工作流模式:通过拖拽原子能力编排业务流程,适用于个性化需求场景,如智能客服、业务流程自动化等。
- Agent模式:大模型自主规划和工具调用,适用于灵活回复或快速搭建需求场景,如智能助手、快速问答等。
落地实践案例
应用一:企业行政问答小助手
- 客户痛点:新员工对公司规章制度了解不充分,传统AI问答依赖人工梳理QA对,工作量大,知识点不充分,员工咨询意愿低。
- 方案价值:上线2周后,使用人数提升53%,满意度91%,转人工率从73%降至32%。
- 知识覆盖:事务类、业务类、学习类。
应用二:机构业务员专业知识问答和查询
- 客户痛点:知识量极大,运营人员无法及时响应,应答内容不一致。
- 方案价值:问题答案召回率100%,准确率89%。
- 知识覆盖:内部操作规程、外部业务经营要求、业务办理模版。
应用三:保险经纪人消息质检场景提效
- 客户痛点:传统质检模式机械且效率低,准确率低。
- 方案价值:质检准确率95%以上,质检流程提效。
应用四:高效生成保险建议书
- 客户痛点:业务人员熟悉程度参差不齐,产品推荐不完整,手动查询效率慢,建议书无标准格式。
- 方案价值:通过工作流自动生成完整投保方案。
应用落地的难点与解决方案
难点
- 垂直场景业务知识更新快:通用大模型缺少垂直场景知识,基于通用大模型Finetune成本高、时效性弱。
- 企业知识输入篇幅长、多样化:类型包括事实性知识(文档)、概念性知识(表格)、程序性知识(画布),格式多样,排版复杂。
- 对细分场景理解难度高:研报解读、说明书、多产品咨询比较等场景理解不准确。
解决方案
- 全链路解决复杂文档解析、切分、检索、推理、生成:
- 基于OCR大模型解析引擎,覆盖复杂版面分析、元素子图识别,准确率提升30%。
- 语义切分大模型,回答完整性提升20%。
- Embedding模型,支持上万行、上百列大表筛选、求和计算。
- 多模态检索模型,支持文搜图、图搜图。
- Text2SQL能力:支持处理标准大表格单表检索及跨表检索,SQL执行准确率超过80%。
- 综合检索能力:摘要检索、关键词检索、向量检索,提升不规则大表格的问答准确率。
- 自定义意图:支持无关知识拒答、模糊问题主动澄清,提升问答精确性。
- 复杂业务流程编排:通过可视化拖拉拽方式编排原子能力,零代码构建业务流程。
- Agent模式:大模型自主拆解任务和规划路径,模型主动选择和调用工具,并能够主动纠错和反思。
- 安全防护保障:三重安全防护,保障模型可信、可靠、可用,数据资产安全。
DeepSeek+知识引擎更多大模型应用场景探索
- 金融舆情摘要与生成:赋能行业监管人员,支持金融舆情问题的快速发现和定位。
- 投顾服务:支持金融产品相关的问答。
- 投研服务:支持专业研究报告的摘要和生成。
- 大模型辅助车险评残业务:自动化分析医疗资料实现伤残等级快速判定,准确率超95%。