AI 应用（AI Agent）开发新范式

AI应用概述01 从“工具”到“智能伙伴”的进化被动的命令处理工具 AI Agent + LLM的双引擎模式AI应用：AIAgent+LLM双引擎LLM扮演着认知核心，也就是“大脑”的角色。它负责处理所有与“思考”相关的任务：理解意图：当用户用自然语言提出复杂需求时，LLM负责精准地理解其背后的真实意图。规划任务：它能将一个模糊的目标（如“分析销售数据”）分解成一系列清晰、有序的步骤。 AI Agent赋予了LLM“手和脚”，让“思考”得以转化为“行动”。如果说LLM负责“思考做什么”，那么AI Agent则负责“如何去完成”：工具调用：这是AI Agent最关键的能力。它可以根据LLM的规划，去调用各种外部工具来执行任务，例如查询数据库、调用公司内部系统的API、访问互联网、读写文件等。任务执行与编排：Agent负责管理整个任务流程，确保LLM规划的步骤被逐一、准确地执行。与环境交互：它能将执行结果（如数据库查询返回的数据）反馈给LLM，供其进行下一步的思考和决策，形成一个“思考-行动-观察-再思考”的闭环。 MCP的出现，很好的解决了构建AI Agent技能系统的痛点问题：规范化了多者的协同关系：MCP协议规范约束了用户、AI Agent、LLM、后端服务四者之间的系统关系。AI Agent和后端服务快速对接：无需后端服务改造，也无需AI Agent改造，无需了解和解析后端服务接口的返回格式。MCP服务是企业AI应用的基石。它将企业零散的IT资产和服务，转化为AI可以理解和调用的标准化能力，从而为上层的AI Agent源源不断地输送技能。 构建AI应用的两种路径：全新开发vs.存量改造Brand New DevelopmentExisting Business TransformationERP这指的是从零开始，为一个全新的业务场景或颠覆性的产品构想，原生设计和开发AI应用。这种模式不受历史技术债务的束缚，可以采用最先进的架构，最大化地发挥AI Agent的能力，是实现颠覆式创新的最佳路径。例如，打造一个面向金融行业的AI研究分析师，或者开发一个企业内部的“超级知识入口”。全新开发：开创业务新大陆这是绝大多数企业会选择的路径。它指的是在企业现有的、成熟的核心业务系统（如ERP、CRM、SCM）中，嵌入AI Agent的能力，对其进行“智能化升级”。这种方式能直接作用于核心业务流程，价值释放路径更短、更明确。改造现有业务：为核心引擎注入AI动力 CRMOASaaS AI应用的核心是AIAgentAI应用基础架构MCPServerAgentPrompt TemplateInstructionsPlanning/ReasoningPromptResponse执行官技能池AgentAgentMCPServerMCPServer多模态模型多模态模型 AI应用架构新范式刨析一个AI网关三种角色，具备统一的管控底座，同时又实现各角色的协同调度。MSENacos发挥注册中心优势，增加MCPRegistry能力，实现普通服务和MCP服务的统一管理，结合网关实现现存业务0改造转换为MCP服务。AIStudio为阿里云自研的低代码构建AIAgent的产品，解决开源Dify高可用，稳定性，性能问题，使AIAgent的运行引擎更稳定。FC具备丰富的触发器和各语言运行环境，基于Serverless计算自身的特性，完美适配AIAgent自身运行环境和AIAgentSandbox的基础组件。 调用链路说明①用户向AI应用发起请求，请求流量进入AI网关，使用Agent API代理AI②AI网关侧维护管理了不同类型的AIAgent的API或路由规则，将用户请求转发至对应的AI Agent。③AI Agent无论以哪种方式实现，只要它需要使用工具解决用户的问题，便向AI网关管理的MCP服务请求获取可用的MCP服务及工具的信息。④因为AI网关处可能维护了很多MCP信息，可以借助LLM缩小MCP范围，减少Token消耗，所以可以通过AI网关代理的小参数LLM，做意图识别，进一步缩小MCP服务范围。（可选，需用户自己⑤AI网关将确定好范围的MCP服务及工具的信息List返回给AI Agent。⑥AI Agent将用户的请求信息及从AI网关拿到的所有MCP信息再通过AI网关发送给LLM。⑦经过LLM推理后，返回解决问题的一个或多个MCP服务和工具的信息。⑧AI Agent拿到确定的MCP服务和工具的信息后通过AI网关对该MCP工具做实际生产中③-⑧步会多次循环交互 Agent。实现）请求。 AIAgent概述02 什么是AI AgentAIAgent 一个AI Agent其实是一个系统，包括以下三个核心内容：使用大语言模型（LLM）来推理可以通过工具执行各类行动。执行思考（Think）->执行（Action）->自省（Observe）->纠错（既重复思考到自省的持续改进）这样一个循环。AI Agent和Chatbot的最大区别是前者可以解决需要通过不同领域的知识和能力协同才可以解决的问题，通俗的说就是复合的、复杂的、多步骤的问题。AI Agent是一个系统 执行思考（Think）->执行（Action）->自省（Observe）->纠错 AI Agent的核心组件AIAgent 大脑，既大语言模型（LLM）作用：识别自然语言，然后进行推理并做出决策。原则：选择最合适的大语言模型。（不同的大语言模型有自己擅长的领域和业务场景）记忆，既存储服务（NoSQL或向量数据库实现）作用：让Agent记得目标、偏好，以及过往的交互信息，从而实现多步骤执行，自省等能力。记忆里也分长期记忆和短期记忆。手，既各类工具（MCP Server）作用：为Agent提供外部能力，各类业务服务，数据库服务，存储服务等等。既执行LLM做出的决策。指令，既系统提示词（System Prompt）作用：定义Agent的目标和行为。 AI Agent的推理模式-ReAct模式评估是否需要继续推理->行动->观察以得到更趋近于用户目标的结果。观察（Observe）自省（Reflect） 使用LLM分析、理解上下文，明确用户任务目标。行动（Act） AI Agent的构建模式与AI Agent类型编码式ManualCodingLangChainLangGraphOpenAI Agents SDKVertex AI AgentsCrew AIPydanticAISpring AI AlibabaLLM辅助基模（基础大语言模型）的AI Agent当今基模的联网搜索、深度研究（DeepSearch）、编码能力都是需要AI Agent辅助的，这类AI Agent并不直接对用户透出。我们的实践中像Qwen3、智谱GLM等都属于这一类，通常都是做基模的公司会涉及到，并且以编码方式构建为主。作为独立产品的AI Agent（通用AI Agent）这类AI Agent大都还是基于主流的Chat模式，帮用户解答问题，规划任务等。我们的实践中像OpenManus、JManus、MiniMaxAgent、昆仑万维等都属于这一类，通常都是做基模或者专门做通用AI Agent产品的公司会涉及到，并且以编码方式构建为主。 低代码式这类AI Agent就是目前广大互联网客户、泛企业客户期望构建或正在构建中的AI Agent，和客户自身的业务耦合比较紧密。我们的实践中像知乎、运满满、义乌小百货等都属于这一类，并且以低代码构建方式为主。 阿里云AIStudio阿里云百炼DifyN8N辅助现存业务的AI Agent 构建AIAgent的核心问题如何选择和使用AI Agent最合适的运行时？如何解决使用LLM时面临的各类问题？ 函数计算FC概述03 阿里云函数计算FC是什么函数计算是事件驱动的全托管计算服务。使用函数计算，用户无需采购与管理服务器等基础设施，只需编写并上传代码。函数计算为客户提供了0.05C128MB到16C32GB不同规格的CPU实例和从1GB到48GB不同显存规格的GPU实例，用户可根据业务需求灵活选择资源规格。支持百毫秒级弹缩，近百种触发器类型满足各类业务场景，并且提供完善的日志、可观测、告警能力，是一款应用广泛的高可靠、高可用、高性价比的计算服务。函数计算（运行代码）免运维一站式体验专注业务开发客户业务（资源类型交付方式）新零售新金融AI阿里云生态能力（请求方式）对象存储日志服务消息服务 函数计算FC被集成集成云工作流CloudFlow极致弹性极致性能极致成本代码交付镜像交付在线教育娱乐游戏车联网IoT大数据…表格存储云监控API网关CDN其他云服务EB让函数执行的方式多种多样高弹性细粒度免运维多种运行环境的计算资源异构计算资源多种交付方式 函数计算FC是云产品的连接器函数计算FC提供了一种事件驱动的计算模型，函数的执行是由事件驱动的，函数的执行可以由多种方式（事件源）触发定时触发器OSS触发器SLS触发器CDN触发器TableStore触发器MNS触发器RocketMQ触发器Kafka触发器MQTT触发器RabbitMQ触发器ALB触发器API网关触发器HTTP触发器更多…定时任务函数视频转码函数视频截帧函数文本文件处理函数CDN回源函数数据清洗函数数据转换函数消息清洗函数消息转换函数日志处理函数请求转发函数数据采集函数AI推理函数更多函数…业务场景媒体内容处理场景更多…音视频转解码视频直播推拉流图片处理文本处理大数据场景更多…数据ETL车联网物联网游戏场景更多…游戏发行买量游戏战斗结算CDN回源打包AI场景AIAgentAI推理AIGC OSSNASIoT物联网平台RDSPolarDBElasticSearchFlinkMaxComputeSAEHologres更多…函数计算FC触发器类型按照触发器集成方式，函数计算支持的触发器分为以下三类：双向集成触发器：您既可以在函数计算，又可以在事件源端配置触发器。单向集成触发器：目前只支持在事件源端配置触发器。云产品事件触发器：支持在函数计算配置触发器，同时支持在事件总线EventBridge创建函数触发规则，无需在事件源端配置。详细信息可参考文档：https://help.aliyun.com/document_detail/53102.html函数计算FC是云产品之间的粘合剂函数计算FC提供了20+核心云产品的原生触发器，各触发器以白屏化的方式可以在函数计算控制台快捷配置，帮助用户快速的构建多产品联动的自动化流程。通过函数计算触发器，可以实现拦截各云产品的行为，用户可以自定义函数对云产品的行为做处理，然后流转到下游服务，从而实现不同产品之间的集成和联动。客户案例媒体内容处理场景游戏场景 大数据场景大并发场景 函数计算FC应用场景HTTP应用通用方案Serverless HTTP应用场景、Web应用场景结合API网关，提供小程序，H5，WEB服务，REST API等通用HTTP解决方案大数据场景通用方案Serverless大数据ETL场景、车联网场景支持一键配置消息中间件数据消费，无需额外构建消费者，如Kafka消息备份、日志清洗、聊天消息分发等支持自定义处理逻辑，承载多种多样的业务需求支持高可用，支持配置错误重试AI场景ServerlessGPU场景【在线/实时/离线】AI推理弹性能力：提供最小1/24卡粒度的GPU虚拟化，将在线推理worker充分并行，单卡资源利用率最大可提高至8倍。，弹性交付时间在秒级（热启动）~分钟级（冷启动）广告平台日志服务A P I函数计算FCK a fk a实时计算处理图片函数触发器处理图片函数触发器接收数据函数触发器处理图片函数触发器处理图片函数触发器接收数据函数触发器小作坊/小集群Develop er开发资源调用任务管理函数计算GPU池 内容处理通用方案Serverless音视频、图片、文