目录 5.1层级一:编程语言本身........................................................................85.2层级二:模型................................................................................85.3层级三:开发者效率工具......................................................................85.4层级四:提示词包与指南......................................................................95.5层级五:生态系统API........................................................................95.6层级六:架构与设计模式......................................................................9 6框架的实际应用..................................................................9 6.1提示词即产品代码(层级四)...................................................................96.2层级五(生态系统API)的环境配置...........................................................106.3生态系统上下文嵌入指南文档.................................................................106.4层级一(Java)提供简洁清晰的结构...........................................................106.5层级三(Cursor)可在几秒内生成上述代码,你只需聚焦架构设计.................................116.6层级六(架构)指南文档.....................................................................11 7该框架的可扩展性...............................................................12 8.1重新定位:引擎、SDK与平台的未来分工.......................................................13 10新现实:原生AI框架..........................................................15 10.1拥抱AI驱动的开发现实....................................................................1610.2框架不仅是代码,更是规范的自然语言........................................................1610.3需要的是SDK,而非重复构建的引擎..........................................................1610.4框架依然关键,但重心已转移................................................................1610.5信任你所选择的语言........................................................................1611未来的框架:作为认知环境的智能体开发........................................................16 AI智能体框架的迷思与破局 ——我们不需要另一个智能体框架 1引言 首先我得坦白:我是一个“框架迷”。这一点,从我这十多年的Java项目开发生涯中可见一斑。我的职业生涯与Spring Framework紧密交织,而企业集成模式的优雅设计,更是曾经的我解决无数复杂问题的基石。我完全理解这种对框架的执着。如果说有哪个社区配得上“框架诺贝尔奖”,那非Java社区莫属。从红帽的早期探索到波澜壮阔的大数据生态,框架在过去的15年里一直是JVM世界发展的核心引擎。我们,是抽象艺术的大师。 因此,当智能体时代来临,而Java正处于追赶状态时,我的第一反应是一种本能:构建一个框架。我甚至已经启动了项目,内心充满了“AI智能体领域的Spring Framework在哪里?”的疑问。 三个月前,Java领域可能只有一个真正意义上的智能体框架。如今,这样的框架已涌现出三个——其中包括Embabel。竞争骤然升温。然而,目睹这场爆发式增长,我不得不提出一个尖锐的问题:框架本身,是否正在成为一种反模式?我们是否正在为自己创造负债,而非聚焦于真正重要的事——构建智能体本身? 近期Java智能体框架的热潮,并非生态系统健康成熟的标志。这只是一种表象,一种架构层面的“代码异味”,它暗示着我们的方法论存在根本性的偏差。 2我们当初为何要构建框架? 让我们回溯历史。像SpringFramework和ApacheCamel这样的框架之所以能占据主导地位,其原因是清晰且合理的: •提升开发者效率:我们曾深陷样板代码的泥潭,框架通过抽象和封装,将开发者解放出来。 •保障代码质量与治理:框架提供了标准化的模式,避免了每位开发者重复造轮子(并且往往造得不佳)。 •增强可复用性:框架提供了经过实战检验的构建模块,节省了大量的时间和精力。 框架的核心使命是优化效率、质量与治理。然而,在今天,我们是否还应该围绕这些维度进行优化?这感觉就像在用2010年的蓝图,试图解决2025年的问题,完全忽略了那个最关键的变量:AI驱动的开发者工具。 这些价值主张在‘AI驱动开发’出现之前是无可辩驳的,但现在,我们需要重新评估它们的权重。 传统框架(如Spring,Camel)的成功,建立在几个稳固的时代假设之上: 1)样板代码是主要负担:开发者时间应聚焦于业务逻辑,而非基础设施代码。2)模式复用是质量保障:通过框架强制推行最佳实践,优于依赖个人能力。3)抽象是复杂性的解药:通过分层与封装,可以管理不断增长的系统复杂度。这些假设在过去十五年里无比正确。但在AI驱动的今天,它们正被逐一颠覆。 3时代已经变了 就在我们忙于将LangChain的思想移植到Java领域时,软件开发世界已然天翻地覆游戏的底层规则已被AI重写: •样板代码从“负担”变为“噪音”:Cursor和GitHubCopilot能在秒级内生成我们曾苦心抽象的代码。框架所节省的打字时间,在AI面前已变得微不足道。 •模式复用的主体从“人”变为“AI”:框架的价值,不再仅仅取决于它为人类开发者提供了多少便利,更在于它能否被AI助手清晰地理解和运用。一个过于精巧、反直觉的抽象,反而会成为AI高效生成的障碍。 •复杂性的核心从“代码”转移到“上下文”:系统中最复杂、最易变的部分,不再是控制流代码,而是驱动智能体的提示词、知识库和与专业平台的集成逻辑。框架若只管理代码,便是隔靴搔痒。 但在此,我们需要暂停一下,提出一个更为本质的问题:你的终端用户,他们真正需要的是什么? 这个问题的本质是:你的终端用户,是为“框架的优雅”付费,还是为“智能体的效能”付费? 4你真正需要构建的是什么? 让我们进行一场思想实验。大多数团队面临两种本质不同的场景: •场景A:智能体作为产品。你的目标是交付一个高度专业化的智能体(例如: 精通你公司API的客服助手、深谙你代码库的审查专家)。它的成功标准是在特定领域内的卓越表现。 •场景B:智能体作为平台。你的目标是提供一个可大规模生产智能体的环境 (例如:为全公司各部门提供服务,或为外部客户定制)。它的成功标准是生产的效 率、一致性与可管理性。 在场景A中,一个全功能的框架很可能是过度设计。在场景B中,你需要的或许也并非一个传统的代码框架,而是一套更广义的生产体系。 5重新定义框架 在放下自己的框架执念,并实际交付了智能体之后,我领悟到一个道理:我们并非需要摒弃框架,而是需要重新定义AI时代框架的真正内涵。 •旧框架定义:一个提供结构并处理横切关注点的可复用代码抽象,是你导入项目并在其上构建的工具。 •新框架定义:一个构建智能体的完整环境——一组相互依赖、协同工作的层级集合,而代码层只是这个宏大体系中的一部分。 现代智能体框架中,真正至关重要的层级如下: 1.基石层:编程语言。Java/Python/Go等现代语言,其类型系统、控制流和模块化能力,已为构建复杂应用提供了足够的结构。在此之上叠加一个定义应用架构的框架,纯属多余。语言即框架。 2.核心层:大语言模型。模型(如GPT-4, Claude3.5)不再是简单的API,而是技术栈中具有自主性的推理引擎。它的选择直接定义了智能体能力的上限。模型是框架中唯一具有“智能”的运行时。 3.加速层:AI原生开发工具。Cursor等工具的出现,标志着开发模式从“编写-调试”转向“指令-迭代”。你的“框架”必须与这些工具兼容——如果AI无法流畅生成符合你模式的代码,这标志着你的设计已经失败。 4.逻辑层:版本化提示词与指南。业务逻辑正不可逆转地从代码移向提示词。因此,版本化、可测试、可复用的提示词包(PromptPack)成为了核心资产。它们是你框架中的“.jar”文件,封装了领域的专业知识与行为准则。 5.扩展层:专业化API生态。智能体的能力边界由其集成的外部系统决定。记忆管理(Zep)、工具执行(Arcade)、向量检索、可观测性(LangSmith)等,正由专业平台通过API提供。你的“框架”是对这些API的上下文感知与组合能力。 6.蓝图层:架构模式与决策记录。这是真正可复用的部分:关于如何将前五个层级组合起来,解决特定问题的模式、决策和蓝图。它不是代码,而是知识——例如,“如何处理智能体幻觉”、“如何设计成本监控体系”。这些是企业真正的架构财富。 5.1层级一:编程语言本身 Java(或你选择的任何语言)及其语法结构、类型系统和设计模式。你无需用另一层抽象去包裹它,直接使用即可。语言本身就是你构建逻辑的框架。你不需要在Java之上再叠加一个代码框架——Java本身就是框架。 5.2层级二:模型 一个能力强大的大语言模型——例如GPT-4、Claude或Gemini。它不仅仅是一个可调用的API,更是你技术栈的核心组成部分。模型的能力直接决定了你能构建何种类型的智能体。选择模型,应如同选择编程语言一般审慎。 5.3层级三:开发者效率工具 Cursor、Copilot以及下一代AI驱动的开发工具。这些不再是“锦上添花”的选项,而是关键的基础设施。你的框架设计必须与这些工具无缝协作。如果Cursor无法轻松生成符合你设计模式的代码,那么问题不在于工具,而在于你的模式本身。 5.4层级四:提示词包与指南 经过版本控制、严格测试和有效治理的提示词集合。它应包含企业的专属语气、领域知识和合规规则。这里,才是业务逻辑的真正栖身之地——不在代码中,而在精心编排的上下文与指令里。你可以将其视为依赖构件,如同JAR包,但其作用在于定义智能体的行为。 5.5层级五:生态系统API 对新兴专业平台及其API的上