《AI原生应用架构白皮书》解读

构建AI原生应用的11个关键要素 《AI原生应用架构白皮书》解读 王晨(望宸) 阿里云智能高级技术运营专家 AI领域的四大核心赛道 AI应用 红色字体：把和应用运行相关的要素抽象出来，形成一个可表达、可传播、可共识的概念，就是AI原生应用架构。 MCP开发者比用户多 AI领域的四大核心赛道 AI应用 红色字体：把和应用运行相关的要素抽象出来，形成一个可表达、可传播、可共识的概念，就是AI原生应用架构。 AI云原生应用架构新范式 AI云原生应用架构定义 基于模型，Agent驱动，以数据为中心，整合工具链 AI云原生应用架构定义 云原生+AI原生双轮驱动 一句话总结AI原生应用 意识、自主性、确定性、一致性 AI原生应用架构定义–数据飞轮 大小飞轮，打磨垂类场景模型的输出能力 《AI原生应用架构白皮书》 THANKS ServerlessAI技术分享 从传统应用到AI应用的一站式托管 卢令 阿里云Serverless高级技术专家 CONTENT目录 01传统应用运维的‘简、稳、省’优化之道 02加速AI创新：从快速探索到高效落地 AI爆发进行时，投入结构仍失衡 90%+的互联网入口将由App变为智能体 10%-的时间成本投入到AI技术 AI Agents正在改变我们互动、获取和分发信息的方式"和"人机交互方式变革，简化开发流与工作流" 互联网入口的演变时间线： 成因速览： 从1990年代到2020年代，展示从网页/搜索引擎到社交媒体/电商，再到移动应用/推荐算法，最终到AI Agents/自动化决策的历程。 •直接收益优先，短期ROI•数据/人才/平台能力不足•合规与安全顾虑•组织KPI与预算原因 01传统应用运维的‘简、稳、省’优化之道 --ServerlessAppEngine（SAE）产品 简：一站式容器托管平台，让运维更简单 SAE的简不是功能的削减，而是沉淀产品化的封装，致力于消除运维负担 稳：从架构到防护，全程保障线上稳定运行 从管控调度到资源池管理，全面支撑企业级容器化应用的弹性、韧性与刚性交付 架构上的高可用设计 跨可用区容灾+可用区亲和+控制面与数据面解耦+资源刚性交付 弹性上的快速响应机制 定时&指标弹性+毫秒/秒级响应+缩为0+预留实例与按需实例混合 运维上的全链路可观测 监控+日志+链路追踪+健康检查 安全上的纵深防御体系，网络隔离+权限管控+镜像安全+流量防护； 流程上的自动化保障 CICD+灰度发布+分钟级一键回滚 省：极致资源利用率：按需付费+零冗余+超卖让利 闲置特性利用全球百万级容器资源池，实现运维成本与资源利用率的双重突破，降低75%成本 75%成本降低 动态降级：在低峰期自动缩减资源，避免资源浪费。按实际使用量计费，闲置时成本20% 按照秒计费 按秒计费，时间精确到秒，成本极致计算 冷启动问题的钥匙 冷启动和弹性之间的取舍，在预留小资源时还能做到，非为闲置资源买单。 “省钱利器”：适用于明确低负载窗口的场景，通过动态缩容实现精细化成本管控。资源池化调度：基于阿里云全球百万级容器资源池，实现秒级资源调度。 迈向智能运维：SAE智能助手的核心引擎 从基础问答到故障诊断，AI重构云原生运维流程 高覆盖率的智能诊断 覆盖SAE平台95%以上可枚举问题，基于大量数据训练，确保诊断高准确性。 平台侧问题预警与自愈 AI诊断针对用户操作/配置问题，辅助用户优化自身使用，平台自身故障率降低90%+ 02加速AI创新：从快速探索到高效落地 --AgentRun产品 跨越Agent生产力鸿沟 构建智能体核心基础设施，全面打通AI应用落地最后一公里 运行时&沙箱 同步和异步通信 长短期记忆 安全合规 可观测 强隔离：安全执行任意代码和工具大规模极速弹性：支撑高度变化的负载内置基础工具：工具生态与注册发现 端对端推理过程诊断与监控成本管理及质量评估 高性能存储持久的、上下文感知记忆 身份认证细粒度权限管理 多协议支持Muti-Agent协同 函数计算AgentRun：AgenticAI应用基础设施 函数计算为AgenticAI应用提供开箱即用的开发、部署与运维服务 函数计算AgentRun：AgenticAI应用基础设施 函数计算为AgenticAI应用提供开箱即用的开发、部署与运维服务 函数计算AgentRun：AgenticAI应用基础设施 函数计算为AgenticAI应用提供开箱即用的开发、部署与运维服务 函数计算AgentRun：AgenticAI应用基础设施 函数计算为AgenticAI应用提供开箱即用的开发、部署与运维服务 函数计算AgentRun：AgenticAI应用基础设施 函数计算为AgenticAI应用提供开箱即用的开发、部署与运维服务 AgentRun智能体运行时&云沙箱 轻量灵活、安全隔离、极致弹性、精益成本的Serverless AI运行时 百万级函数&会话规模 AgentRuntime&Sandbox轻量化的函数管理&Session亲和与安全隔离内置多语言执行引擎，提供开箱即用的沙箱服务 AgentRun模型运行时 函数计算FC：负载感知调度、毫秒级闲置唤醒、1/N卡切分使用 AgentRun网关 AI网关支持多模型协议代理、Rest to MCP一键转换等 高可用 通过超时重试、Failover、灰度，并发控制、token级和消费者级别限流，容量管理等将模型稳定性提升到99.9%以上 零信任 统一加密管理API-Key，分配内部细粒度API-key，分配细粒度权限，流量，额度集成安全围栏，解决安全合规 高性能 通过语义缓存、Cache、RAG加速AI请求，降低Token消耗通过软硬一体将性能提升300% AgentRun：可观测 一个典型的AI原生应用全链路可观测 日志存储与评估分析 AI全栈统一监控 端到端链路追踪 基于Prometheus构建AI全栈监控大盘，包括模型性能分析、Token成本分析、GPU资源异动分析等 构建统一日志分析平台，对模型调用日志进行二次评估分析，实现质量、安全、意图提取等语义检测。 基于OpenTelemetryTrace实现用户终端、网关、模型应用、模型服务、外部依赖工具等全链路追踪。 函数计算AgentRun实践 函数计算AgentRun助力魔搭社区、Qwen、百炼以及云上企业客户构建模型、智能体和AI工具 助力Qwen3-Coder成为领先的代码模型助力百炼发布MCPServer市场 零改造将开源STDIOMCP升级为SSE/Streamable HTTP原子化解耦，MCPServer冷热分离，弹性伸缩RT抖动少MCP SSE亲和调度，闲置计费，低峰自动缩0成本最优 谢谢 HigressxHiMarket 构建企业私有化MCP/Agent市场的最佳实践 刘 帅(友瑾) 阿里云高级研发工程师，Higress开源社区Maintainer CONTENT目录 Higress：AI时代的演进之路从传统网关迈向AI网关01 深入了解HigressxHiMarketHigressxHiMarket核心原理02 HigressxHiMarket最佳实践通过HigressxHiMarket快速构建企业级AI市场03 HigressxHiMarket未来规划04 了解HigressxHiMarket项目roadmap，参与开源贡献 Part 1 Higress：AI时代的演进之路 从传统网关迈向AI网关 Higress流量网关 HigressAPI网关 核心优势 AI辅助API设计AI Mock数据AI生成端代码AI测试/诊断 内置10+系统策略支持30+插件策略支持自定义策略（多语言） AI网关新范式 Part2 深入了解HigressxHiMarket HigressxHiMarket核心原理 Higressx Nacos3 MCP方案架构原理 存量业务改造痛点 开发一个AI应用或者做现存业务的AI增强，AI Agent是需要和大量现存业务做交互的，MCP虽然统一的协议，但将现存业务重构为MCP Server的成本是非常高的。并且目前支持的开发语言有限，所以会让很多企业想拥抱MCP，但又无从下手。 零代码转换为MCPServer 网关最擅长做的事情就是协议转换，Nacos在传统微服务场景下已经注册了很多现存的传统服务，那么两者一拍即合，通过网关将注册在Nacos中的传统服务0代码改造的转换为MCP Server。 全生命周期的MCPRegistry管理 从后端服务能力发布，到生成网关接入点，再到发布为RemoteMCPServer供AIAgent发现和接入，实现了全生命周期的自动化管理。 开源HiMarketAI开放平台 帮助企业构建AI开发者门户 HiMarket架构 HiMarketAI开放平台整体架构 Part3 HigressxHiMarket最佳实践 通过HigressxHiMarket快速构建企业级AI市场 MCPServer需要集中化治理 标准化服务元信息 通过自动化的元数据模板强制执行统一的文档要求 跨团队可见性 2 提供实时仪表板，显示哪些部门正在使用特定的MCP服务器，减少AI项目中的重复开发工作 自动化合规跟踪 3 确保个人信息传输合规，尤其出海企业需要遵循GDPR/CCPA监管框架 实现API货币化 实现API和AI的无缝连接 Firecrawl通过引入MCP协议，使其网页爬取能力能够被AI模型直接控制，提升了服务的使用深度和效率 分层订阅或按量付费 2 提供“基础，专业”等分层限额定价，或者基于请求按量计费 基于Agent实现API增值 3 基于MCPServer构建Agent，实现更大幅度的API增值 导入网关 多种网关接入方式 HiMarket支持自建Higress网关、阿里云API/AI网关、阿里云专有云AI网关多种接入方式，用户可根据自身业务需求、现有架构灵活选择多种服务接入点 创建门户并绑定域名 一键创建门户网站 通过HiMarket可以一键傻瓜式的创建门户网站并绑定到域名上发布。此外，通过HiMarket的门户管理，还可以对门户的安全策略、可观测、开发者等资源进行便捷的管理，支持OIDC、OAuth2等安全策略 创建APIProduct并发布到门户 关联API并发布 创建完门户后，通过API关联的方式就可以将网关中的API、MCP服务发布到门户中。当一切准备就绪，就可以直接发布门户网站供用户使用 访问门户 使用门户 访问门户绑定的域名，就可以开始使用门户。 通过将APIs发布到门户可以轻松的构建API货币化和开放平台能力 通过将MCPServer服务发布到门户可以轻松的构建MCP市场 通过HigressxHiMarket构建企业级MCP市场 Part4 HigressxHiMarket未来规划 了解HigressxHiMarket项目roadmap，参与开源贡献 统一AI资源管理平台-HiMarket 模型市场 Agent市场 1.网关、Nacos已有Agent对外开放2.自建Agent对外开放3.AgentDIY、智能化构建 1.网关模型API接入及产品化发布2.自建模型API发布到门户 计量计费 可观测 1.Portal级、Product级、Consumer级、Developer级四个层级的观测大盘2.支持多厂商可观测接入3.支持自建可观测大盘 1.API调用、MCP调用计量计费2.计费报表3.货币化 感谢聆听 https://github.com/alibaba/higress 重