58同城AILab的曾禹飞在DataFunSummit # 2024上分享了关于增强AI能力的Agent实践，重点探讨了RAG与Tool Use的协同效应。
58同城平台业务背景介绍
58同城作为生活服务平台，致力于通过产业化（交易业务）将所有信息流程在线化和数字化，提升客户在房产、招聘等领域的效率。构建模型领先、敏捷易用的AI平台是加速AI应用落地的关键，目前大模型技术已支持内部超过70个业务和场景接入。
AI Agent的核心技术与挑战
AI Agent是以大语言模型为大脑，具备自主理解、感知、规划、记忆和使用工具能力的系统。核心技术包括：
- RAG（检索增强生成）：通过挂载文档（如私有知识库）提升大模型的回答能力。例如，用户询问天气时，系统需调用API获取地点信息后生成回答。
- Tool Use（工具调用）：基于大模型理解，Agent可调用API。实现方式包括ReAct（Reason + Act）、Hotspot QA、Act-Only等，案例涵盖信息检索、内容生成等。
RAG和Tool Use实践
- Agent方案设计：包括知识预处理、索引效果优化等。
- Agent插件和工具便捷使用：支持用户自定义插件和内置插件选项。
- Agent流程编排：提供自定义工作流，支持多轮会话和向量检索，实现全链路记忆管理。
应用案例
- B端商家智能聊天助手：利用RAG技术处理结构化和非结构化数据，提升招聘职位问答的效率。
- 销售场景：通过智能陪练（话术对练、考试、评分）和知识查阅功能，节省培训成本，提升销售技能和留存率。
- SQL智能助手：帮助用户快速生成SQL语句。
- 美事智能助手：提供个性化服务。
总结与展望
知识库的划分直接影响召回准确率，相关性低的知识会导致Agent能力无法充分发挥。未来需优化知识划分和选择，进一步提升Tool Use能力，以实现更高效的AI应用落地。
增强AI能力的Agent实践RAG与Tool Use的协同效应
曾禹飞58同城AILab
DataFunSummit # 2024
个人简介
58同城AILab大模型算法工程师，关注大语言模型预训练/微调技术
自前负责58同城灵犀智能体平台中RAG、ToolUse的研发。
构建模型领先、敏捷易用的A/平台，助力AI应用快速落地
58同城平台业务背景介绍
AIAgent的核心技术与挑战
RAG和Tool Use实践
总结与展望
58
58同城平台业务背景介绍
58同城生活服务平台介绍
第二曲线～产业化（交易业务）
产业化就是把整个链条所有的信息流程全部在线化、数字化，并且能够无缝地将上下游协同起来。需要提供客户需要的所有服务，让客户在房产招聘、汽车、黄页等业务领域都能有更高的效率。
构建模型领先、敏捷易用的AI平台，加速AI应用落地
大语言模型平台支持内部AI应用数70+
大模型技术渗透至企业全流程，支持内部超过70个业务和场景接入
58
02
AI Agent的核心技术与挑战
AI Agent智能体概述
AIAgent是以大语言模型为大脑驱动，具有自主理解、感知、规划、记忆和使用工具的能力，能自动化执行复杂任务的系统。简而言之，AIAgent就是具有独立思考和行动能力的AI程序，
业界各大厂商推出的AIAgent是一个一站式AI开发平台，用户无需编程．只需要通过简单配置即可快捷创建AI机器人：代表性的平台有GPTs（OpenAI），扣子（字节）、文心智能体平台（百度）等。
Agent核心技术
RAG能力建设：Retrieval-AugmentedGeneration检索增强生成，可以给大模型挂载文档（如私有知识库），提升回答能力
U：明天我穿什么衣服？A：你在哪个城市？[需调用查询天气API，缺乏地点参数】U:北京A：明天北京晴天，气温6~19度，建议别穿太多。[调用API，查询北京天气，查询结果交给大模型组织答案
58
Agent核心技术-RAG
RAG检索一FLARE
Stif all tokensof$thaveprobs≥YtSt = LM([Dqt, , y工具的参数量分布在1到12个模型根据用户问题选择1或者2个并行调用（并行调用的数据量只有50条）
Tool Use 评测
下面测试集中的工具没有在LLM训练集中出现过
single_tool_multi_call（工具多次调用）
>每轮对话包含多个工具，需要多次并行调用单个工具才能完成任务。比如输入两个链接，总结两个链接的内容>工具参数分布在1到7之间
parallel multi tools call:
multi tools call:>每轮对话包含多个工具，
Agent方案设计
知识预处理
索引效果优化
58
03
RAG和Tool Use实践
58
RAG和Tool Use实践
Agent插件和工具便捷使用
支持用户白定义插件·提供内置插件
