智驱未来 云网随行 打造AI应用开发与交付网络架构新范式

打造AI应用开发与交付网络架构新范式Creating a New Network Architecture for AI Application Development and Delivery 阿里云智能集团云网络产品线负责人 AI应用加速创新，对云网络产品技术提出更高的要求 Accelerated AI Application Innovation Leads to Higher Requirements for Cloud Network Products and Technologies AI数据流转海量数据的汇集和预处理 跨地域/多云协同数据流动性差，形成孤岛 万卡/十万卡，超大规模算力集群 性能 网络延迟与抖动，影响训练性能 可靠性 长时训练，网络抖动或中断导致任务失败 云网络全新升级技术新范式，让客户专注AI创新 Upgraded Cloud Network Technologies Allow Customers to Focus on AI Innovation 物理网络资源建设提速，保障AI业务快速发展 Accelerated Physical Network Resource Development Supports the Rapid Development of AI Services 基于CEN和TR高速连接全球算力和数据 Tapping Global Computing Power and Data with Cloud Enterprise Network(CEN) andTransit Router (TR) 降低数据重复存储成本 内网高速连接全球数据，避免数据在多个Region重复存储 降低跨域流量成本 基于TRQOS和跨域金银铜带宽，提升带宽利用率，降低带宽成本 快速开通 分钟级服务开通，弹性使用带宽 灵骏支持高性能VPCRDMA网络，提升AI训练及推理效率 Improving AI Training-Inference Efficiency with High-Performance VPC RDMA NetworksonIntelligent ComputingLingjun 基于自研ZooRoute技术，提供确定性延迟的内网连接 Providing Intranet Connections with Deterministic Latency Based on the Self-Developed ZooRoute Technology 95% 长途专线链路异常收敛时间 半年内发生超过178起，平均影响时长32.7s，Rerouting收敛到1.5s 98%板卡异常事件收敛时间 半年内累计发生12起，平均影响时长141s，Rerouting平均收敛到2.25s 98% 端口异常事件收敛时间 半年内累计发生28起，平均影响时长58.6s，Rerouting平均收敛到1.2s 发布ALB智能版，打造AI领域的全场景负载均衡 ALBSmart Edition: All-Scenario Load Balancing in the AI Field 全面覆盖AI相关场景 支持大模型服务、推理任务、MCP资源等负载均衡场景 统一网关，简化应用发布支持传统应用和AI应用混合部署 云原生的高可用负载均衡 自动弹性，高性能，SLA99.995%，并支持按量和按需付费 保障AI服务全球一致体验，GA助力AI智能体快速全球化 Global Accelerator: Ensuring Consistent Experience for Global AI Service Users and Accelerating the Globalization of AI Agents 服务全球用户面临的网络需求 延时下降40%多地域就近接入 新增支持DDoS高防一键开启服务化WAF 安全可靠 PrivateLink降低访问复杂度，助力企业级AI服务快速全球发布 PrivateLink: Reducing Access Complexity and Ensuring the Rapid Release of Enterprise-Level AI Services Worldwide PrivateLink降低访问复杂度，助力企业级AI服务快速全球发布 PrivateLink: Reducing Access Complexity and Ensuring the Rapid Release of Enterprise-Level AI Services Worldwide 简单部署 一键跨地域，省去搭建CEN全球网络步骤，一键接入跨地域算力服务/集群 安全合规 全程数据安全保障：完整的RAM鉴权，严格遵循客户身份与权限管理体系 网络AI助手：基于自然语义的云网络全生命周期运营 Network AI Assistant: Full Lifecycle Operation of Cloud Networks Based on Natural Semantics 安全合规 接入RAM、绿网，严格遵循客户身份与权限管理体系 MCP配置查询、工具调用 高效全面 基于卓越架构指导，辅助真实网络数据，给出最佳实践，并同步提供IaC代码可直接部署 智能诊断 基于云网络专家经验，通过MCP调用丰富运维工具、给出问题根因及修复建议 网络AI助手：基于自然语义的云网络全生命周期运营 Network AI Assistant: Full Lifecycle Operation of Cloud Networks Based on Natural Semantics 网络规划阶段 Prompt >我是一家电商平台，国内部署在杭州。现在计划出海，核心用户在新加坡、马来西亚、印尼，帮我规划网络选址，并推荐国内互联网络架构。 Output >根据全网时延，推荐选址新加坡覆盖东南亚_ >根据最佳实践，推荐业务基于TR互联+CDT计费_ >生成对应Terraform配置代码_ 网络AI助手：基于自然语义的云网络全生命周期运营 Network AI Assistant: Full Lifecycle Operation of Cloud Networks Based on Natural Semantics 网络部署阶段 Prompt >我在青岛X实例访问上海X实例的80端口不通，帮我看一下是什么问题？ Output >调用路径分析，找到网络不通根因：路由缺失_ >给出操作指导：在TR实例下配置相应路由_ 网络AI助手：基于自然语义的云网络全生命周期运营 Network AI Assistant: Full Lifecycle Operation of Cloud Networks Based on Natural Semantics 网络运营阶段 Prompt >杭州到青岛链路突发丢包，严重影响业务，请帮我分析原因？ Output >分析流量数据，确定流量突发打满导致_ >分析日志数据，找出异常流量_ >给出操作指导，建议配置QoS_ AI应用开发与交付网络架构新范式，加速企业AI创新 New Architecture for AI Application Development and Delivery, Accelerating Enterprises' AI Innovation 高性能VPCRDMA网络 全球算力与数据一张网 智能运维 阿里云网络NIS-AI助手 60%↓端到端时延 200Gbps实例带宽 身份与权限感知精准意图识别 标准RoCE，兼容非RDMA自研拥塞控制算法，更稳定 用户信息理解安全合规过滤 安全合规 RAM、绿网，权限管控 大规模AI应用交付网络 安全访问 PrivateLink跨域，简化网络复杂度 高效全面专家经验+实际数据，IaC输出 ALB智能版AI领域的全场景负载均衡 智能诊断丰富功能，不止于聊天 多地域就近接入开通即加速 统一网关简化应用发布自动弹性SLA99.995% 全链路数据安全保障 阿里云全球云计算一张网，加速企业AI创新和出海 Alibaba Cloud's Global Cloud Computing Network Helps Enterprises toAccelerate Globalization and AI Transformation THANKYOU