行业研究公司研究宏观策略财报招股书会议纪要 seedance2.0 低空经济 DeepSeek AIGC 大模型

大模型上下文工程指南

信息技术2026-03-12-中科算网算泥社区坚***

大模型上下文工程指南总结

上下文的重新定义

传统的上下文被简单理解为模型的“上下文窗口”，即模型一次性可以处理的文本量。然而，随着LLM应用的发展，这种狭隘的定义已成为构建更强大、更智能系统的思想枷锁。因此，需要从系统工程的视角重新定义上下文，将其理解为驱动模型决策的全部信息流的总和，是一个动态的、多层次的、结构化的系统状态。

上下文技术的演进

上下文技术的发展经历了三次重要的飞跃：

静态输入窗口时代（2017–2022）：以Transformer架构的出现为起点，模型上下文窗口成为其能力瓶颈。PromptEngineering成为主流，但存在脆弱、难管理、与世隔绝等问题。
长上下文窗口竞赛（2022–2024）：通过FlashAttention、旋转位置编码、线性偏置注意力等技术创新，上下文窗口长度大幅提升，但同时也出现了上下文腐烂和注意力稀释的问题。
外部记忆与RAG的兴起（2023–2025）：RAG技术将模型的“计算”与“存储”解耦，通过检索增强生成（Retrieval-AugmentedGeneration）的方式，将知识存储在外部数据库中，并通过工具调用（Skills）进行访问。
智能体与协议化上下文（2025–2026）：智能体（Agent）的普及与上下文协议化成为趋势，MCP（ModelContextProtocol）和A2A（Agent-to-Agent）协议的出现，使得上下文成为主动的、分布式的系统状态网络。

上下文工程的核心组件

上下文工程的核心组件包括：

Prompt：引导模型进行结构化思考的人机指令，但存在脆弱、难管理、与世隔绝等问题。
Skills：可复用、可组合的能力单元，将抽象的任务分解为一系列可执行、可管理的具体操作。
MCP：单智能体的上下文扩展坞，通过标准化的客户端-服务器架构，将动态的、结构化的外部上下文无缝集成到模型的工作流中。
A2A：多智能体的协作总线，提供了一套开放、标准的通信规范，让不同厂商、不同平台的智能体能够互相发现、沟通和协作。

上下文工程的方法论支柱

上下文工程的六大支柱分别是：

结构化（Structuring）：将来自不同来源的、异构的、无序的信息，转化为一种清晰、一致、可被机器高效理解和利用的格式。
检索（Retrieval）：从海量的L3语义记忆库中，精准、高效地找到与当前任务最相关的一小部分信息，并将其注入到L1工作记忆中。
压缩（Compression）：通过各种技术手段，在尽可能不损失关键信息的前提下，显著减小其Token数量。
编排（Orchestration）：根据当前任务的动态需求，智能地、自适应地决定“应该使用哪些上下文”、“从哪里获取它们”以及“如何将它们组合在一起”。
评估（Evaluation）：建立一套科学、量化、可重复的度量体系，来客观地评价上下文工程各个环节的质量，并指导系统进行持续的、数据驱动的优化。
安全（Security）：在整个上下文信息的流动、处理和生成过程中，保护系统免受恶意攻击，防止敏感数据泄露，并确保智能体的行为符合预期且可控。

上下文工程的工具和框架

上下文工程的工具和框架主要分为四层：

数据与存储层：负责对AI应用所需的海量、异构的知识进行持久化、结构化的存储，并提供高效的检索接口。向量数据库和图数据库是这一层的主要工具。
编排与代理层：负责将底层的模型、数据源和工具，粘合成一个连贯的、有逻辑的、能够执行复杂任务的智能系统。LangChain、LlamaIndex和AutoGen是这一层的主要框架。
评估与观测层：负责感知、度量、诊断系统在开发和运行过程中发生的一切，确保我们能看清系统的内部状态，理解它的行为，并在出现问题时快速定位和修复。RAGAS和Langfuse是这一层的主要工具。
操作与部署层：负责处理将一个在开发环境中运行良好的原型，转变为一个能够服务于成千上万用户的、健壮、可扩展、安全的生产级服务所需的一切。模型服务、应用部署和安全网关是这一层的主要组件。

上下文工程未来展望

上下文工程未来将朝着以下方向发展：

从“无限”上下文到世界模型：当模型的上下文窗口趋近于“无限”，当模型能够从海量的、多模态的实时信息流中持续学习时，传统的“上下文管理”概念将如何被颠覆。
多模态的融合：将图像、音频、视频等非文本信息，无缝地融入上下文，是上下文工程面临的下一个重大挑战。
Agent的社会化与经济学：当数以万亿计的、由不同组织和个人拥有的AIAgent在网络中交互时，如何设计它们之间的“社会规则”和“经济协议”，以确保这个庞大的智能生态能够高效、公平、安全地协作。

上下文工程师的新角色

面对Agent社会化的浪潮，上下文工程师的技能树需要再次扩展。我们的角色将分化为协议设计师、Agent开发者和经济系统分析师。

总结

上下文工程是一门系统性的工程学科，它将模型、数据、软件工程和业务需求，粘合成一个有机整体。上下文工程师需要具备软件工程师的底蕴、数据科学家的敏锐、产品经理的同理心、图书管理员的智慧以及未来学家的远见，才能在这个领域做出令人惊叹的创造。

目录前言...............................................................................................................................1第1章上下文的重新定义.........................................................................................21.1狭义上下文：TokenWindow作为“技术参数”的时代...........................21.2广义上下文：迈向系统状态的整体视角....................................................31.2.1文本上下文（TextualContext）........................................................41.2.2环境上下文（EnvironmentalContext）............................................41.2.3用户上下文（UserContext）............................................................41.2.4系统上下文（SystemContext）........................................................51.2.5组织上下文（OrganizationalContext）............................................51.3范式跃迁：从被动输入到主动经营............................................................5第2章历史脉络：上下文技术的三次飞跃.............................................................62.1静态输入窗口时代（2017–2022）：PromptEngineering的黄金年代.....62.1.1一切的起点：Transformer与有限的注意力.....................................62.1.2GPT-3的惊鸿一瞥：In-ContextLearning的魔力.............................72.1.3黄金期的局限：PromptEngineering的根本困境............................72.2长上下文窗口竞赛（2022–2024）：从“寸土寸金”到“军备竞赛”..82.2.1解除封印：突破二次方诅咒的关键技术.........................................92.2.2从1k到1M：Token窗口的“通货膨胀”....................................102.2.3“长”的代价：上下文腐烂与注意力稀释...................................102.3外部记忆与RAG的兴起（2023–2025）：解耦计算与存储..................112.3.1RAG的核心思想：解耦“计算”与“存储”.............................112.3.2MemGPT：像操作系统一样管理上下文......................................122.3.3持久化上下文的黎明.......................................................................122.4智能体与协议化上下文（2025–2026）：上下文成为主动的、分布式的系统状态网络.....................................................................................................132.4.1智能体：上下文的终极载体...........................................................132.4.2MCP：标准化“单智能体如何接入世界”..................................132.4.3A2A：标准化“多智能体如何互联”...........................................142.4.4去中心化的上下文网络...................................................................15第3章Prompt：从静态指令到结构化思维............................................................15 大模型上下文工程指南 3.1Prompt的本质：一次性、静态的人机指令...............................................153.2高级Prompt技法：引导模型“思考”.....................................................163.2.1思维链（Chain-of-Thought,CoT）.................................................163.2.2ReAct：协同推理与行动................................................................173.3Prompt的根本痛点：脆弱、难管、与世隔绝.........................................173.4必然的演进：从PromptEngineering到ContextEngineering..................18第4章Skills：可复用、可组合的能力单元.........................................................184.1Skill的定义：从临时工具到能力资产.....................................................194.2Skill在上下文中的角色：能力的显式化.................................................204.3Skill的生命周期：从定义到演进.............................................................214.4演进之路：从自定义JSON到标准化协议...............................................214.5标准化Skill定义与实现.............................................................................22第5章MCP：单智能体的上下文扩展坞..............................................................245.1MCP要解决的核心问题：能力集成的“巴别塔”................................245.2MCP的核心架构：解耦智能体与能力....................................................255.3MCP的三大原语：不止于工具................................................................255.4MCP工作流实例：一次订票查询............................................................265.5最佳实践：基于官方文档的MCPServer和Client实现.........................275.6MCP的历史定位与争议............................................................................31第6章A2A：多智能体的协作总线......................................................................326.1A2A的核心使命：从“单兵作战”到“联合作战”.............................326.2A2Avs.MCP：两个层面的“标准化”...................................................336.3A2A的核心概念：任务、上下文与能力切片.........................................336.4A2A工作流实例：一次复杂的研究任务.................................................346.5愿景：一个“智能体社会”......................................................................356.6最佳实践：基于A2A官方文档的实现示例.............................................356.6.1定义AgentSkill................................................................................356.6.2定义AgentCard................................................................................366.6.3实现AgentExecutor.........................................................................366.6.4启动A2AServer...............................................................................376.6.5A2AClient交互.................................................................................37 大模型上下文工程指南 6.6.6A2A与MCP的关系.........................................................................38第7章L1记忆：瞬时工作记忆（Scratchpad）..................................................387.1L1记忆的本质：模型上下文窗口的动态应用........................................397.2ReAct循环：L1记忆的核心读写机制.....................................................407.3L1记忆的最佳实践..

点击免费查看完整报告