AI 原生驱动企业架构新范式演进

AI-Native Driving the Evolution of Enterprise Architecture 周 琦 （ 简 志 ） 阿里云资深技术专家 从云原生到AI原生数字世界拓展企业效率与智能01 CONTENT目录 企业级应用开发挑战AI对企业需求，对开发者之挑战02 AI原生应用架构展望03 企业架构新范式，落地实践，案例展示 从云原生到AI原生 企业级AI落地挑战 挑战2 AI对开发+运维的挑战 AI原生架构解决方案 语义化工程建设 AI落地企业过程 Operation Intelligence建设之路 可观测AIOps助手: Journey of Building Operation Intelligence 目标：诊断线上异常、定位根因 •70%时间都在等待、查询系统•对数字世界感知是核心竞争力 •数据：整合环境数据•使用：AgentScope•MCP：供上下游协同 Benchmark •300个常见问题：资产查询，异常检测，根因分析，安全巡检•集成：可观测AIOps助手 谢谢 THANKS 《AI原生应用白皮书》解读 Interpretation of AI-Native Application Architecture White Paper 加速AI应用发生 李 艳 林 （ 彦 林 ） 阿里云智能集团资深技术专家 AI原生应用架构白皮书背景模型迈过拐点，Agentic AI爆发01 AI原生应用架构目录 AI原生应用架构定义基于模型，Agent驱动，以数据为中心，整合工具链02 AI原生应用架构实践构建以数据为中心的Agent平台解决效率和效果问题03 AI原生应用架构展望04 让新型生产关系适应新型生产力；充分发挥想象力，充分释放AI潜能 AI原生应用白皮书背景 模型迈过拐点，AgenticAI爆发 行业报告 行业趋势 •据Markets and Markets预测，全球AI Agent市场规模将从2024年的51亿美元增至2030年的471亿美元，年复合增长率达44.8%；Gartner预计，到2028年，至少15%的日常工作决策将通过AI Agent自主完成。•《国务院关于深入实施“人工智能+”行动的意见》到2030年，智能体等应用普及率超90%。 •AI场景爆发：Chat，Coding，智能驾驶，消费电子，智能玩具，DeepResearch等•Google搜索指数，AIAgent过去16个月，1088%增长。 AIAgent趋势 AI发展阶段 改变世界机器人（PhysicalAI)具身智能/自进化/脑机接口 AI原生应用白皮书背景 AI Agent迈过炒作周期，AI原生应用初步成型 技术成熟度 技术趋势 •模型迈过拐点：DeepSeek是AI的Android时刻；QwenVL模型/Gemini催熟多模态生态•AIAgent迈过炒作周期峰值，进入生产大规模落地阶段 •Manus打开通用Agent想象•A2A/MCP标准解决了可插拔扩展问题•Agent平台出现（高代码/低代码/零代码） AIAgent技术趋势 AI云原生应用架构新范式 AI云原生应用架构定义 基于模型，Agent驱动，以数据为中心，整合工具链 AI云原生应用架构定义 AI原生应用架构竞争力 找到核心提效场景，构建高质量数据壁垒，借助大模型大势快速迭代 AI原生应用架构定义–数据飞轮 客户数据可沉淀，行业数据可演进，评估数据可量化，反馈数据可持续 AI原生应用架构实践-挑战 Dev阶段面临开发效率和效果问题/Ops阶段面临难以维护问题 AI原生应用架构实践-解法 构建以数据为中心的AI原生应用平台，解决效率和效果问题，构建AI企业级能力 AI原生应用架构展望 让新型生产关系适应新型生产力；充分发挥想象力，充分释放AI潜能 AI原生应用架构展望 谢谢 THANKS 云原生进化论：加速AI应用构建最佳范式 Cloud-Native Evolution: Best Practices for Accelerating AI Application Development 阿里云智能资深产品专家杨 秋 弟 （ 曼 红 ） AI应用发展势不可挡 到2027年，实现人工智能与6大重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70% GenAI的支出增长尤其迅猛，预计将从2023年的160亿美元增长到2027年的1430亿美元，年均复合增长率（CAGR）高达73.3% 到2028年，33%的企业软件将集成代理型AI，而2024年这一比例还不到1% AI应用发展势不可挡 到2027年，实现人工智能与6大重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70% GenAI的支出增长尤其迅猛，预计将从2023年的160亿美元增长到2027年的1430亿美元，年均复合增长率（CAGR）高达73.3% 到2028年，33%的企业软件将集成代理型AI，而2024年这一比例还不到1% 应用发展与基础设施升级的双向驱动 AI应用架构落地难点 •智能体开发：全新的Agent开发技术栈，如何快速开发、部署与市场验证 •存量系统融合：Agent如何与存量系统打通，利用已有资产，赋能企业核心业务 •稳定运行：如何保障新构建的AI应用稳定、安全的运行 应用发展与基础设施升级的双向驱动 AI应用架构落地难点 •智能体开发：全新的Agent开发技术栈，如何快速开发、部署与市场验证 •存量系统融合：Agent如何与存量系统打通，利用已有资产，赋能企业核心业务 •稳定运行：如何保障新构建的AI应用稳定、安全的运行 应用发展与基础设施升级的双向驱动 AI应用架构落地难点 •智能体开发：全新的Agent开发技术栈，如何快速开发、部署与市场验证 •存量系统融合：Agent如何与存量系统打通，利用已有资产，赋能企业核心业务 •稳定运行：如何保障新构建的AI应用稳定、安全的运行 云原生助力企业AI应用快速开发、稳定运行 AI全栈统一监控 基于Prometheus构建AI全栈监控大盘，包括模型性能分析、Token成本分析、GPU资源异动分析等 端到端链路追踪 基于OpenTelemetryTrace实现用户终端、网关、模型应用、模型服务、外部依赖工具等全链路追踪。 日志存储与评估分析 构建统一日志分析平台，对模型调用日志进行二次评估分析，实现质量、安全、意图提取等语义检测。 智能体成为企业IT系统的新成员 函数计算FC：智能体最佳运行时 提供开箱即用、轻量灵活、安全隔离、极致弹性、精益成本的ServerlessAI运行时 模型运行时 工具运行时 MCP/FunctionCall 开箱即用 •内置Python/Node.js/Shell/Java等超低延 时 的 多 语 言 环 境，代 码 执 行 延 迟<100ms•内 置CodeSandbox、BrowserSandbox、Computer Sandbox、RLSandbox等开箱即用的云沙箱工具 低延时与降本 Session亲和/隔离架构 •Session会话亲和管理•安全容器技术，请求/Sesssion/函数级别的安全隔离 多协议兼容的工具运行时 •同时兼容支持MCP，FunctionCall两种工具运行和调用方式 函数计算FC：智能体最佳运行时 提供开箱即用、轻量灵活、安全隔离、极致弹性、精益成本的ServerlessAI运行时 模型运行时 工具运行时 MCP/FunctionCall 开箱即用 •内置Python/Node.js/Shell/Java等超低延 时 的 多 语 言 环 境，代 码 执 行 延 迟<100ms•内 置CodeSandbox、BrowserSandbox、Computer Sandbox、RLSandbox等开箱即用的云沙箱工具 低延时与降本 Session亲和/隔离架构 •Session会话亲和管理•安全容器技术，请求/Sesssion/函数级别的安全隔离 多协议兼容的工具运行时 •同时兼容支持MCP，FunctionCall两种工具运行和调用方式 函数计算FC：智能体最佳运行时 提供开箱即用、轻量灵活、安全隔离、极致弹性、精益成本的ServerlessAI运行时 模型运行时 工具运行时 MCP/FunctionCall 开箱即用 •内置Python/Node.js/Shell/Java等超低延 时 的 多 语 言 环 境，代 码 执 行 延 迟<100ms•内 置CodeSandbox、BrowserSandbox、Computer Sandbox、RLSandbox等开箱即用的云沙箱工具 低延时与降本 Session亲和/隔离架构 •Session会话亲和管理•安全容器技术，请求/Sesssion/函数级别的安全隔离 多协议兼容的工具运行时 •同时兼容支持MCP，FunctionCall两种工具运行和调用方式 函数计算FC：智能体最佳运行时 提供开箱即用、轻量灵活、安全隔离、极致弹性、精益成本的ServerlessAI运行时 模型运行时 工具运行时 MCP/FunctionCall 开箱即用 •内置Python/Node.js/Shell/Java等超低延 时 的 多 语 言 环 境，代 码 执 行 延 迟<100ms•内 置CodeSandbox、BrowserSandbox、Computer Sandbox、RLSandbox等开箱即用的云沙箱工具 低延时与降本 Session亲和/隔离架构 •Session会话亲和管理•安全容器技术，请求/Sesssion/函数级别的安全隔离 多协议兼容的工具运行时 •同时兼容支持MCP，FunctionCall两种工具运行和调用方式 全新发布RocketMQforAI 异步模式提高系统整体吞吐和稳定性 持久化消息和消费进度支持断点恢复 异步推送结果吞吐率提升10倍 动态创建回复通道自动回收 限流定速消费，保护核心AI算力资源可用性，提高利用率 保持token推送顺序 消息优先级保障高优业务 即将发布 全新发布RocketMQforAI 异步模式提高系统整体吞吐和稳定性 持久化消息和消费进度支持断点恢复 异步推送结果吞吐率提升10倍 动态创建回复通道自动回收 限流定速消费，保护核心AI算力资源可用性，提高利用率 保持token推送顺序 消息优先级保障高优业务 即将发布 智能体与已有系统的融合 AI Agent Integration with Legacy Systems 存量业务+智能体 云原生API网关作为智能体的统一入口支持存量业务打通及新业务入口 TLS性能提升100%Gzip性能提升200% 存量业务+智能体 云原生API网关作为智能体的统一入口支持存量业务打通及新业务入口 TLS性能提升100%Gzip性能提升200% MCP协议让智能体与存量应用顺畅交互 HTTP到MCP一键转换 企业级能力 MCP市场 广泛集成 一站式MCP开发 运行时优化 支持MCP SSE亲和，闲置计费，按量弹性的M CP运行时 测试，部署平台，自带弹性算力，日志，监控，SSEURL等功能 前后端注册、鉴权、灰度、限流，组装 开源HiMarket帮助企业构建MCP市场，促进MCP生态 与百炼，魔搭，AI网关打通，一键发布，易于消费 测试，部署平台，自带弹性算力，日志，监控，SSEURL等功能 MCP协议让智能体与存量应用顺畅交互 HTTP到MCP一键转换 企业级能力 MCP市场 广泛集成 一站式MCP开发 运行时优化 支持MCP SSE亲和，闲置计费