AI应用正当时，详解AI应用开发新范式

洛浩 云原生-解决方案架构师2025/08/29 AI原生、Agent驱动01 CONTENT目录 AI Agent应用落地实践02 ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 AI原生、Agent驱动AI Agent正成为下一代应用的核心驱动力 üAI原生应用与Agentic AI的崛起：AI不再仅仅是数据分析的辅助工具，而是逐步成为业务流程和应用的核心驱动力。 ü成本效益与可持续性：随着数据量和AI工作负载的爆炸式增长，成本控制和资源优化将成为企业选择平台的关键因素。无服务器和按量付费模式将成为主流，同时，平台将提供更精细的成本管理和优化工具，以确保长期运营的可持续性。 üData+AI能力的普及化：行业致力于通过自然语言交互、无代码/低代码工具等方式，将数据洞察和AI能力赋能给更广泛的非技术业务用户，加速AI在企业内部的普及和应用。 ü可观测性成为核心竞争力：随着现代系统复杂性的不断增加，高效且经济地处理海量日志、指标和追踪数据变得至关重要。可观测性能力正与实时分析紧密结合，成为确保AI应用和数据平台稳定运行的关键组成部分。 Agent从“工具”到“智能伙伴”的进化 什么是AIAgent AI Agent是一个系统 一个AI Agent其实是一个系统，包括以下三个核心内容： Ø使用大语言模型（LLM）来推理Ø可以通过工具执行各类行动。Ø执行思考（Think）->执行（Action）->自省（Observe）->纠错（既重复思考到自省的持续改进）这样一个循环。AI Agent和Chatbot的最大区别是前者可以解决需要通过不同领域的知识和能力协同才可以解决的问题，通俗的说就是复合的、复杂的、多步骤的问题。 MCP服务作为技能池 执行思考（Think）->执行（Action）->自省（Observe）->纠错 AI Agent的核心组件 大脑，既大语言模型（LLM） Ø作用：识别自然语言，然后进行推理并做出决策。Ø原则：选择最合适的大语言模型。（不同的大语言模型有自己擅长的领域和业务场景） 记忆，既存储服务（NoSQL或向量数据库实现） Ø作用：让Agent记得目标、偏好，以及过往的交互信息，从而实现多步骤执行，自省等能力。记忆里也分长期记忆和短期记忆。 手，既各类工具（MCP Server） Ø作用：为Agent提供外部能力，各类业务服务，数据库服务，存储服务等等。既执行LLM做出的决策。 指令，既系统提示词（System Prompt），或上下文工程（ContextEngineering）Ø作用：定义Agent的目标和行为。 AI Agent的构建模式与AI Agent类型 编码式 低代码式 ØManualCodingØLangChainØSpring AI AlibabaØLangGraphØOpenAI Agents SDKØVertex AI AgentsØCrew AIØPydantic AI Ø阿里云FunStudioØ阿里云百炼ØDifyØN8N 辅助基模（基础大语言模型）的AI Agent 辅助现存业务的AI Agent 作为独立产品的AI Agent（通用AI Agent） 这类AI Agent就是目前广大互联网客户、泛企业客户期望构建或正在构建中的AI Agent，和客户自身的业务耦合比较紧密，以低代码构建方式为主。 这类AI Agent大都还是基于主流的Chat模式，帮用户解答问题，规划任务等。我们的实践中像智谱Z.AI、OpenManus、MiniMaxAgent、昆仑万维等都属于这一类，以编码方式构建为主。 当今基模的联网搜索、深度研究（DeepSearch）、编码能力都是需要AI Agent辅助的，这类AI Agent并不直接对用户透出。 业务型Agent案例分享——义乌小商品城“世界义乌”APP 义乌小商品城“世界义乌”APP——AI玩具&电商换背景 01AI原生、Agent驱动 Contents目录 02AI Agent应用落地实践 ØAI应用架构 ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 AI原生应用架构 AI原生应用架构：AI原生、Agent驱动，以数据为中心，整合工具链 阿里云云原生应用平台——从云原生应用到AI原生应用 AI原生应用架构新范式 01AI原生、Agent驱动 Contents目录 02AI Agent应用落地实践 ØAI应用架构ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 Dify——开源Agent/AI工作流 社区Dify很难满足生产环境 数据源存储格式单一 流量防护弱 管控与数据链路耦合 推理服务需要大量计算资源，资源分配不均会导致性能瓶颈。 AI应用设计与智能体的执行耦合，高并发无法保证稳定性，QPS不到50 无任何防护措施，很容易被穿透 版本升级困难 缺乏多租隔离能力 对比企业版，社区版缺少隔离能力，是个单租模型。 Dify社区更新频繁，每次版本升级都需要重新部署。 DifyonSAE——针对社区Dify优化提升10倍性能 简单易用 •5分钟创建Dify应用•默认集监控日志能力•底层资源按需弹缩 高可用 •默认支持智能化可用区，支持指定三AZ•默认支持负载均衡与健康检查联动，提供无损上下线 成本经济 •性能调优，支持500QPS•支持多种规格资源，并提供闲时计量模式，夜间成本更低 持续迭代 •Dify版本更新快，SAE支持原地版本升级能力*•AI应用监控提供Trace能力，结合日志查询，问题定位更加迅速 Function AI——FunStudio阿里云自研高性能低代码Agent平台 AIStudio提供类似Dify的可视化Agent构建平台，同时采用自研工作流执行引擎，实际运行QPS>1000 SpringAIAlibaba——JAVA开源高代码Agent开发框架 支持Dify低代码DSL一键转成SAA高代码工程方案，性能提升10倍，满帮和极氪基于此开发生产级业务Agent 01AI原生、Agent驱动 Contents目录 02AI Agent应用落地实践 ØAI应用架构ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 Serverless函数计算FC——让企业聚焦业务价值 轻量灵活的全托管计算服务，以更少的代码为AI业务创新加速 资源利用率按请求计费，CPU1毫秒/GPU1秒计费粒度100% 分钟级落地一个中型业务系统，快速完成线上POC 开发更简单 •全托管计算服务，内置日志、监控、告警•应用中心50+热门应用模板，开箱即用 运维更高效 •开发、调试、部署、运维全生命周期管理•自动弹性伸缩，CPU百毫秒/GPU秒级冷启动 架构更先进 •3AZ高可用，宕机/突发流量自动容灾新实例，大幅降低故障率•资源利用率接近100%，综合成本降低30%+ FunctionAI——AI开发门户，为AI应用开发提效 Function AI聚焦AI应用场景：模型服务（魔搭社区/HuggingFace热门模型托管）； 图像生成（SD、ComfyUIServerlessAPI）；MCP（企业专属MCP市场） Function AI一键创建应用 组装式开发，弹性开放，按需选择 MCP服务(STDIO、SSE、StreamableHTTP) 图像生成（SD、ComfyUI) 无缝升级AI应用开发范式 01AI原生、Agent驱动 Contents目录 02AI Agent应用落地实践 ØAI应用架构ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 MCP是什么 模型上下文协议（ModelContextProtocol）是一个开源协议，由Anthropic（Claude开发公司）开发，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用，而无需为每个AI模型和外部系统组合进行定制集成。 可扩展性 标准化 安全性 模块化 MCP标准化了LLM访问外部数据的方式，简化了不同数据源和工具的集成。 MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。 MCP提供结构化的访问模式，内置验证，确保数据交互安全且受控。 MCP促进了模块化设计，允许独立开发和维护不同组件。 原生MCPServer开发方式——MCPRuntime Function AI一键创建AI应用 魔搭社区MCP广场 百炼MCP市场 优势 痛点 全生命周期MCP服务： 全生命周期MCP服务： 稳定调用：弱化提示词依赖开放标准：无需适配，直接使用调用灵活：Studio/SSE/Streamable HTTP Promote：调用不稳定Function Calling：重复开发Plugin：仅支持HTTP远程调用 •MCP广场：官方MCP服务•MCP管理：自定义MCP服务•MCP使用：Agent/工作流调用 •MCP广场：1500种MCP服务•MCP实验场：提供工具和调试环境•降低门槛：云上托管/本地部署/三方集成 函数计算FC MCP运行时 函数计算Function AI Function AI MCP市场 开源托管（STDIO零改造升级SSE），开放使用（注册到百炼或自建模型/Agent调用）： 自动弹性低成本 一键部署免运维 内置开发框架 •主流云产品官方MCP托管：ECS, OSS, RDS, PolarDB, OTS, Hologress, DataWorks等•企业特性增强：加持FC弹性降本优势，不使用自动缩0，原子化易管理，省token 使用Nacos构建企业私有MCP Registry/私有AI开放平台 üMCP服务自动发现：配合SpringAI Alibaba等应用框架自动注册发现MCP/Agent服务 üMCPRouter：支持过滤和筛选所需的MCP服务避免大范围传入MCP服务列表，减少Token消耗。 ü存量API转换成MCPServer：搭配AI网关，支持RestAPI直接转换成MCPServer 【梦享网络】上架百炼提供MCP接口服务 及刻场景MCP Server提供了IP定位，人口热力查询，POI信息查询，基站信息查询，客流情况查询等。 01从云原生应用到AI原生应用 Contents目录 02AI Agent应用落地实践 ØAgent开发模式ØAgent的大脑LLMØAgent的手和脚MCPServerØAgent流量中枢AI网关ØAgent观测能力建设 每一个企业客户都需要一个AI网关，自建Or云产品 AI网关支持多模型协议代理、丰富的插件策略、ResttoMCP一键转换、完善的可观测服务等 一个典型的AI原生应用全链路可观测 模型日志存储与评估分析 AI全栈统一监控 模型调用端到端链路追踪 •基于Prometheus实现前后端应用、网关、模型服务与基础设施等全栈统一监控•构建LLM领域专属视图，包括模型性能分析、Token成本分析、GPU资源异动分析等 •用户终端（Web/App/小程序等）•网关（API网关、AI网关等）•后端应用（模型应用/编排框架等）•依赖组件（缓存、数据库、Tools等）•模型服务（开源自建、三方服务等） •模型调用日志存储