LLM落地应用及AIAgent解决方案
AGI发展回顾
AGI（通用人工智能）被认为是人工智能的更高层次，能够实现自我学习、自我改进和自我调整。ChatGPT的探索被视为强人工智能拐点的到来，是超级人工智能的雏形，即LLM（大型语言模型）到AGI的演进。Gemini模型虽然强大，但并非万能，实际应用中仍需结合外部工具和平台。
LLM应用的长板和短板
长板
- 易于生成诗歌、计算等简单任务。
- 可通过参数和提示词工程提升模型能力。
短板
- 幻觉问题：商业场景对内容生成质量要求高，简单知识问答无法满足需求。
- 知识/记忆问题：模型无法深入理解行业知识，如“海莲花常用的攻击方式是什么？”
- 交互问题：大部分企业员工缺乏学习提示词的兴趣。
- 系统协同问题：企业无法推倒重来现有信息化系统，需大模型增强和协同现有系统。
LLM的落地工具
- 长期记忆：解决模型记忆和知识问题。
- 接口对齐：实现工具与模型的对接。
- 任务规划：解决复杂推理等问题。
应用案例
- 广州国庆七日游的亲子游计划。
- 自主规划和决策的树状复杂问题。
- 汇率问题，调用工具获取实时数据。
工具可以有效拓展LLM的能力边界。
AIAgent的整体架构
AIAgent以LLM为核心控制器，结合Planning、Tools、Memory等组件，解决实时数据获取、复杂任务等应用落地问题。
架构组件
- LLM大脑：核心控制器，模型一键适配，Prompt模板降低写提示门槛。
- Planning：任务拆解和流程具象化，如工厂流水线，可放置不同工具完成任务。
- Tools工具：让Agent学会调用外部工具，涵盖搜索、文档检索、数据分析等。
- Memory记忆：获取、存储、保留和检索信息，包括知识库使用、长短期记忆。
AIAgent的关键能力
Planning任务规划能力
- 自动编排：通过Prompt Engine引导LLM实现规划，主要方式ReAct、FunctionCalling。
ReAct框架
- 发挥LLM推理和执行能力的协同作用，通过问题分解+依靠外部能力解决问题。
- 在可解释性和可信赖性方面优于其他先进基线。
FunctionCall
- 开发者通过用户提问和描述函数，让模型智能输出调用函数所需的参数JSON对象。
Memory记忆
- 感知记忆：作为LLM或多模态的Embedding输入表示（文本、图像等）。
- 短期记忆STM：使用In-context Learning，受Transformer有限SeqLen长度限制（2K-8K）。
- 长期记忆LTM：借助外部向量存储，Agent可快速查询和检索。
Tools工具
- 学会使用工具是LLM进化的分水岭，打破大模型的应用边界。
AI Agent的未来
- 多模态的Agent：多元化的交互感知（图像、视频、表单、代码）是智能化方向之一。
- 万物皆可Agent：垂类Agent通过分布式决策实现自组织自决策。
- 从LLM中来，到LLM中去：更多专业LLM服务Agent。
AIAgent应用案例
业界进展
- GPTs：支持记忆和外部API，实现全民AI。
- 微软Copilot：在TOC和TOB同时落地Agent框架，如Graph、Office365、Connector。
- Generative Agents：斯坦福“西部世界”虚拟小镇中，GPT agents互相交互，涌现复杂行为。
- Automatic Agents：如AutoGPT、BabyAGI，结合工具使用和长期内存。
- HuggingGPT：垂类Agent的典型代表，LLM作为中心Agent，模型作为Tools或Action。
360Agent进展
- 场景：搭建数字员工，如旅游规划师、Github趋势分析师、IT运维等。
- 能力：
- 零代码Agent Studio：简单几步完成工具使用。
- 低代码Agent Studio：拖拽降低Agent研发成本。
- FunctionCall搜索增强：传统搜索关键字匹配，带追问能力。
- 论文AI助手：自主总结分析论文、报告等知识内容。
- 写作Agent：生成内容、标题、配图。
- 落地：搭建数字员工，旅游规划师、Github趋势分析师、IT运维等。
数字员工官网：https://ai.n.cn/
申请试用：申请试用
