AI 应用正当时，详解 AI 应用开发新范式

AI原生、Agent驱动AI Agent正成为下一代应用的核心驱动力✓AI原生应用与Agentic AI的崛起：AI不再仅仅是数据分析的辅助工具，而是逐步成为业务流程和应✓成本效益与可持续性：随着数据量和AI工作负载的爆炸式增长，成本控制和资源优化将成为企业选择平台的关键因素。无服务器和按量付费模式将成为主流，同时，平台将提供更精细的成本管理和优化工具，以确保长期运营的可持续性。✓Data+AI能力的普及化：行业致力于通过自然语言交互、无代码/低代码工具等方式，将数据洞察和AI能力赋能给更广泛的非技术业务用户，加速AI在企业内部的普及和应用。✓可观测性成为核心竞争力：随着现代系统复杂性的不断增加，高效且经济地处理海量日志、指标和追踪数据变得至关重要。可观测性能力正与实时分析紧密结合，成为确保AI应用和数据平台稳定运行的 用的核心驱动力。关键组成部分。 Contents目录 01从云原生应用到AI原生应用02MCP加速推动AI Agent应用落地03AI Agent Sandbox 服务管理RPC技术高密度部署原子、自治KubernetesSOA架构微服务架构应用架构演进 手机APP微服务3Agent 1+AI原生应用架构：AI原生、Agent驱动，以数据为中心，整合工具链IOTAI原生应用架构 大数据（Blink+ES）PC云原生应用架构MySQL/Redis/OSSAI原生应用架构向量数据库Agent 2ServerlessGPU大模型（通义…） 阿里云云原生应用平台——从云原生应用到AI原生应用云原生API网关（API网关、AI网关） IAAS（计算、存储、网络）用户业务数据库(PolorDB/RDS)大数据平台AI平台内容安全数据库AI大数据/AI安全云原生应用平台（从云原生应用到AI原生应用）微服务引擎MSE（注册配置中心、微服务治理、分布式任务调度）消息队列（RocketMQ、Kafka、MQTT、MNS、EventBridge）云原生中间件可观测（日志、应用监控、全链路追踪、云监控、压测）容器服务平台（镜像服务ACR、K8s容器服务ACK，Serverless容器服务ACS）Serverless应用计算平台（Serverless应用引擎SAE、函数计算FC、Serverless应用开发平台CAP)云原生计算运行时通义灵码云效开发者 AI应用架构新范式AI应用观测：OpenTelemetry可观测标准协议FCAIStudioSandboxLang Chain…函数计算FCServerless应用引擎DifyonSAEJManusSpringAI…百炼应用/FCAIStudio/Dify/JManus/Spring AIAlibaba Contents目录 01从云原生应用到AI原生应用02MCP加速推动AI Agent应用落地➢MCP三要素之Agent开发➢MCP三要素之大模型➢MCP三要素之MCPServer开发➢AI网关➢AI应用观测03AI Agent Sandbox 模型上下文协议（ModelContextProtocol）是一个开源协议，由Anthropic（Claude开发公司）开发，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用，而无需为每个AI模型和外部系统组合进行定制集成。标准化MCP标准化了LLM访问外部数据的方式，简化了不同数据源和工具的集成。 MCP是什么模块化MCP促进了模块化设计，允许独立开MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。大模型 可扩展性安全性发和维护不同组件。MCP提供结构化的访问模式，内置验证，确保数据交互安全且受控。大模型决策是否使用工具大模型应用（MCPClient/Agent）发送请求+toolsscheme发送上下文和工具结果LocalMCPServerSSEMCPServerHTTPMCPServer调用工具返回结果本地访问Stdio协议本地文件本地数据远程调用MCP调用工具返回结果拼装内容，返回响应 AIAgentFCAIStudio/百炼/Dify/JManus/Spring-AI-AlibabaAI网关通义模型AI Agent实践打通，挖掘，优化私域数据 业务应用 一键部署DifyonSAE——支持社区版和商业版终端用户——浏览器/APP/小程序网关（云原生API网关|ALB）拖拽式编排快速构建DifyProxyDify-可用区ADify-webDify-APIDify-sandboxDify-workerDify-ServiceDifyProxyDify-可用区BDify-webDify-APIDify-sandboxDify-workerDifyProxyDify-可用区CDify-webDify-APIDify-sandboxDify-workerServerless应用平台(SAE)MCPServerServerless应用平台云RDSPostgreSQL版本云数据库RedisAnalyticDBPostgreSQLMaster云RDSPostgreSQL版本云数据库RedisAnalyticDBPostgreSQLStandby业务接口调用数据库调用 简单易用•3分钟创建Dify应用•默认集监控日志能力•底层资源按需弹缩高可用•默认支持智能化可用区，支持指定三AZ•默认支持负载均衡与健康检查联动，提供无损上下线成本经济•按需按量付费•支持多种规格资源，并提供闲时计量模式，夜间成本更低持续迭代•Dify版本更新快，SAE默认具备灰度发布能力•AI应用监控提供Trace能力，结合日志查询，问题定位更加 迅速 百炼智能体和流程编排百炼智能体和流程编排直接引用阿里云市场积攒多年的成熟API服务，助力客户打造AI原生应用插件广场阿里云百炼&阿里云云市场批量引入高质量智能体插件 智能体/编排应用工作流应用网页阅读图像与视频新闻阅读零售电商数据搜索游戏娱乐金融商业 FunctionAI——AIStudio打造高性能低代码Agent部署平台AIStudio提供类似Dify的可视化Agent构建平台，同时采用自研工作流执行引擎，10倍提升Agent运行效率 SpringAIAlibaba——多Agent，多模态，多场景支持Dify低代码DSL一键转成SAA高代码工程方案，性能提升5~10倍 听悟析言GBI妙笔三方应用 基于通义大模型，面向企业和开发者客户，打造一站式大模型服务和大模型应用构建平台模型生态三方大模型多模态大模型百炼MaaS阿里云AI计算服务PaaS/IaaS阿里云百炼——LLMsAPI 通义千问系列通义万相系列通义开源系列通义领域大模型应用生态通义晓蜜自定义应用 业界独家，通过启动GPU快照锁定稀缺GPU资源并实现毫秒级到秒级首次推理启动，弹性效率比虚机/容器快5~10倍毫秒级快照（热启动）秒级快照（温启动）标准模式（冷启动）函数计算FCFC GPU聚焦推理场景：•开源LLM托管：通义千问系列0.6B~235B、Deep Seek系列1.5B~671B、其他开源LLM模型•自训模型托管：OCR、ASR、TTS、图像识别、视频转码、内容审核、3D建模•AIGC生图模型托管造，支持前后端分离与ServerlessAPI，解决开源托管的性能与稳定性问题FCGPU弹性模式：•标准模式（按请求自动弹性+冷启）：秒级冷启动•极速模式（按请求自动弹性+基于快照启动）照温启（~2s），可实现持续锁卡 运行时镜像模型模型加载推理首次推理运行时准备镜像拉取运行时镜像模型模型加载推理首次推理秒级快照运行时镜像模型推理毫秒级快照首次推理首次推理冷启动耗时分布示意图秒级快照（温启动）毫秒级快照（热启动）1ms0.9s20s标准模式（冷启动）25s标准模式（冷启动）SD-v1-5-inpainting（4.27GB）0->1 TTFISD-v1-5-inpainting（4.27GB）0->1 TTFI：托管SD、ComfyUI等业界主流生图模型并进行生产级改：毫秒级快照热启(< 1ms)+秒级快推荐重磅升级FC GPU的技术优势1.弹得最快：按请求弹性，通过启动快照可加速至秒级/毫秒级2.成本最省：规格灵活，支持切卡使用；快照技术既可锁卡，又能降本3.使用简单：标准镜像部署，内置调度、负载均衡、高可用、监控、日志等4.安全容灾：3AZ，宕机自动恢复函数计算GPU极速模式——优化弹性算力成本 1ms1.3s秒级快照（温启动）毫秒级快照（热启动） FunctionAI——为AI应用开发提效FunctionAI聚焦AI应用场景：模型服务（魔搭社区/HuggingFace热门模型托管）；图像生成（SD、ComfyUIServerlessAPI）；MCP&Agent（企业专属MCP市场）应用开发AI运行时内置vLLM, SGLang,Ollama, HuggingFace推理框架海量Serverless AI应用模板，开箱MCP运行时内置MCP开发框架，STDIO零改造升级SSE魔搭社区、百炼官方集成，Function AI一键创建应用模型服务（Qwen,DeepSeek,etc.)图像生成（SD、ComfyUI)MCP服务(STDIO、SSE、StreamableHTTP)组装式开发，弹性开放，按需选择无缝升级AI应用开发范式 应用市场即用，支持二次开发开源模型/智能体应用增强 AI网关——AI应用流量入口与集成利器AI网关支持多模型协议代理、丰富的插件策略、ResttoMCP一键转换、完善的可观测服务等使用AI网关统一代理整合Agent、大模型服务、MCPServerAIProxyAI安全防护多模型适配LLM APIMCPAPIAgentAPI多模态APIAI安全围栏请求内容审核敏感词替换多模型协议代理协议转换重试策略FallbackAI观测统计LLM访问日志Token消费观测可用性告警可观测API-Key托管Tools联网搜索RESTtoMCP统一鉴权多租户管理APIKey二次签发JWT认证自定义鉴权请求缓存Token限流 通义千问OpenAIdeepseek自建大模型……ComfyUITTS……LLMs多模态模型MCPServerMCP 内置开发框架痛点Promote：调用不稳定Function Calling：重复开发Plugin：仅支持HTTP远程调用函数计算联合阿里云百炼发布业界首个全生命周期MCP服务市场，函数计算联合魔搭社区发布最大MCP中文社区 一键部署免运维百炼MCP市场全生命周期MCP服务：自动弹性低成本函数计算Function AIFunction AI MCP市场开源托管（STDIO零改造升级SSE），开放使用（注册到百炼或自建模型/Agent调用）：函数计算MCP运行时——加速AI应用落地最后一公里Function AI一键创建AI应用优势稳定调用：弱化提示词依赖开放标准：无需适配，直接使用调用灵活：Studio/SSE/Streamable HTTP函数计算FC MCP运行时•MCP广场：官方MCP服务•MCP管理：自定义MCP服务•MCP使用：Agent/工作流调用魔搭社区MCP广场全生命周期MCP服务：•MCP广场：1500种MCP服务•MCP实验场：提供工具和调试环境•降低门槛：云上托管/本地部署/三方集成•主流云产品官方MCP托管：ECS, OSS, RDS, PolarDB, OTS, Hologress, DataWorks等•企业特性增强：加持FC弹性降本优势，不使用自动缩0，原子化易管理，省token ✓MCPRegistry：搭配AI网关，支持RestAPI直接转换成MCPServer MSENacos企业版——构建企业私有MCP Registry✓MCPRouter：支持过滤和筛选所需的MCP服务避免大范围传入MCP服务列表，减少T