代理的核心组件与运作方式
代理的定义与认知架构
生成式人工智能代理是一种通过观察世界并利用工具采取行动来尝试实现目标的应用。代理是自立的,可以独立于人类干预,并积极主动地努力实现其目标。代理的内部运作基于认知架构,主要包括三个核心组件:
- 模型:作为代理中央决策者的语言模型(LM),可以是通用型、多模式或根据特定代理架构进行微调。
- 工具:赋予代理与外部数据和服务交互的能力,包括扩展、函数和数据存储等类型,使代理能够访问和处理现实世界的信息。
- 编排层:描述一个循环过程,规定代理如何接收信息、进行内部推理,并利用该推理指导其下一步行动或决策。编排层的复杂性可以根据代理和任务的不同而大不相同。
工具的类型与应用
工具是连接基础模型和外部世界之间的纽带,使代理能够执行更多种类的任务,并更加准确可靠。
- 扩展:以标准化方式桥接API和代理,允许代理无缝执行API,而无需考虑其基础实现。扩展通过示例教导代理如何使用API端点以及成功调用API端点所需的参数。
- 函数:完成特定任务的包含代码模块,模型可以采用一组已知的函数,并根据函数的规范决定何时使用每个函数以及函数需要什么参数。函数在客户端执行,而扩展在代理端执行。
- 数据存储:提供对更加动态和最新信息的访问,并确保模型的响应始终保持基于事实和相关性。数据存储通常被实现为开发人员希望代理在运行时访问的向量数据库,以实现检索增强的基于生成(RAG)的应用。
模型的针对性学习
为了提升模型在生成输出时选择正确工具的能力,可以采用以下针对性学习方法:
- 上下文学习:在推断时为通用模型提供提示、工具和少量示例,使其能够“即兴学习”如何以及何时使用这些工具来完成特定任务。
- 基于检索的上下文学习:通过从外部内存中检索最相关的信息、工具和相关示例动态填充模型提示。
- 基于微调的学习:在推断之前使用更大的特定示例数据集对模型进行训练,帮助模型在收到任何用户查询之前理解何时以及如何应用特定工具。
LangChain快速启动代理
LangChain和LangGraph库允许用户通过“链式”连接一系列逻辑、推理和工具调用来回答用户的查询,从而快速构建原型。
利用Vertex AI代理构建生产应用
Vertex AI平台通过提供完全托管的环境和所有基本元素简化了构建生产级应用的过程。开发人员可以使用自然语言界面快速定义代理的关键要素,并使用平台提供的工具进行测试、评估、衡量代理性能、调试以及提高所开发代理的总体质量。
总结
代理通过利用工具访问实时信息、建议现实世界的行动、规划和自主执行复杂任务等,扩展了语言模型的能力。代理操作的核⼼是编排层,这是⼀个认知架构,⽤于构造推理、规划、决策并指导其⾏动。各种推理技术,如ReAct、Chain-of-Thought和Tree-of-Thoughts,为编排层提供了⼀个框架,以接收信息、进⾏内部推理并⽣成明智的决策或回应。工具,如扩展、函数和数据存储,作为代理与外部系统交互并访问超越其训练数据的知识的关键,使代理能够连接到外部 API,执⾏ API 调⽤并检索实时信息。函数通过劳动分⼯为开发⼈员提供更微妙的控制,允许代理⽣成可在客⼾端执⾏的函数参数。数据存储为代理提供结构化或⾮结构化数据访问权限,从⽽实现数据驱动的应⽤程序。代理的未来将会迎来激动⼈⼼的进展,我们只是开始探索可能性的表⾯。随着⼯具变得更加复杂和推理能⼒的增强,代理将有能⼒解决⽇益复杂的问题。此外,“代理链接”战略⽅法将继续获得推动⼒。通过结合专业代理 - 每个在特定领域或任务中都表现出⾊ - 我们可以创建⼀种‘混合代理专家’⽅法,能够在各种产业和问题领域提供出⾊的结果。