孔勰：打造先进算力网络，推动算力高质量发展

中国移动研究院2023.12 算力已成为数字经济核心生产力 人工智能的发展对智能算力需求呈指数级增长，智能算力占比超过50%，成为主流算力 我国算力规模平均每增长一个百分点，带动数字经济和GDP将分别增长3.5‰和1.8‰ 中国移动算力网络发展历程 算力网络的核心理念 多要素融合、一体化供给 以网强算、算网融合 任务式服务 以存算网为基础要素，叠加AI、大数据、区块链等能力要素，同时综合考虑土地、能源、供水等资源要素实现多要素融合的一体化供给 通过高速网络将原先分散孤立的算力节点连接在一起，构成立体泛在的一体化算力集群 实现算力协作化、集约化、普惠化 用户不用关心资源类型和位置，一点接入，随需申请，随需使用，随需调整 打开算龙头就可以便捷使用算力 算力网络发展三阶段路径 算力网络发展主线 中国移动从算网基础设施构建、业务融合创新、创新技术引领等多方面系统化推进算力网络建设和发展 主线三 主线二 主线一 面向算网基础设施构建 面向创新技术引领 实现创新技术引领，打造原创技术策源地 物理空间、逻辑空间、异构空间、多主体算力融通 实现算网高效协同，支持CHBN业务融合发展，打造算网全新生态 “4+N+31+X”布局，1100边缘节点打造20ms、5ms、1ms三级时延圈SRv6/G-SRv6打造统一算网底座 产品算力化和算力产品化发布算网服务1.0构筑算网大脑 三横两域体系架构提出十大技术发展方向三十二大核心技术 主线一：面向算网基础设施构建 技术创新打造网络新能力 做强边缘算力微循环 打通东数西算主动脉 向算而生构建网络新架构 打造骨干20ms、省域/区域5ms、城市1ms三级时延圈网络枢纽节点全光高速直连枢纽节点间带宽向400G演进 “4+N+31+X”数据中心布局数据中心机架数超120万架单体最大智算中心5.5 EFLOPS并网算力达1.9 EFLOPS SRv6/G-SRv6打造统一算网底座网络切片提供满足确定性连接服务新一代SD-WAN高效分发算力服务数据快递实现长距离高吞吐数据传输 省级节点超300个边缘计算节点超1500余个DCI云专网覆盖300余个地市 主线二：面向创新技术引领 主线二：面向创新技术引领：算力原生（1/4） 中国移动原创提出算力原生技术，目标打破“框架+工具链+硬件”紧耦合的智算生态 主线二：面向创新技术引领：算力原生（2/4） n跨架构编译优化技术：构建开放集成框架进行多级IR互转编译，对用户所输入的模型计算图和程序代码进行融合编译，逐级流转和优化， 生成无感于计算架构的原生程序，最大化兼顾跨架构运行性能 编译器采用LLVM、MLIR等领域标准实现开放式架构 前端：解析SYCL等源码及ONNX等计算图模型中端：进行跨架构综合优化，对并行策略等进行注入后端：完成原生标准格式代码生成 主线二：面向创新技术引领：算力原生（4/4） n自适应动态运行时技术：为CUDA / Level-Zero /ROCm/ CANN等多厂商运行时建立统一抽象接口，并建立灵活接入机制；对异构系统环境、算力内核、内存等计算资源进行注册管控；完成原生程序的加载、解析，保障计算任务与本地计算资源的即时互映射按需执行 算力池化：实现算力设备虚拟化，细粒度切分及远程调用，提升算力利用率，降低碎片化 主线二：面向创新技术引领：算力原生（4/4） 2023中国移动全球合作伙伴大会正式发布智算“芯合”算力原生成果融通智算生态竖井，开辟以软件为核心的智算产业链牵引全新路径 软件研发：4大组件提供跨架构一站式解决方案 发布《面向智算的算力原生白皮书》原创提出“两层架构”和“四大核心技术” ü统一编程套件：统一编程模型+标准IDE+计算库ü源源转换工具：CUDA→SYCL转译ü跨架构编译器：图算融合编译+原生流转文件ü自适应运行时：异构设备统一抽象+动态映射执行 三阶段发展路径： 1、异构算力资源池化2、应用跨架构迁移3、全局泛在融通 应用实践：智算应用在3家智算芯片跨架构部署迁移 OIF成立开源工作组，牵头国内外多项标准立项 ü软件实现视频分析、图像识别等典型智算应用在英伟达、华为、瀚博等3家智算芯片上的跨架构部署迁移ü迁移时间<20s，性能损耗≤15%，CUDA→SYCL转译率>90% ü牵头在OIF成立算力原生子工作组ü牵头在ITU、CCSA进行标准立项 移动全球合作伙伴大会正式发布：智算“芯合”算力原生平台 ü推动智算芯片与“芯合”软件自适应运行时对接，扩展智算芯合产业合作生态生态拓展：9家伙伴联合发布算力原生“芯合”计划 ü降低AI应用向国产化平台迁移成本ü突破基础软件领域国产智算生态的发展ü繁荣我国自主智算软芯片与软件生态 主线三：面向业务融合创新 总结与展望 1、算力网络发展的基础在于“技术策源”，联合业界加强算力原生、算力路由、存算一体等跨学科交叉技术的研究，打造算力网络原创技术新高地 2、算力网络发展的重点在于“继往开来”，在做好技术原创的基础上，还要解决好科学的工程化问题，以打造新型信息基础设施为目标，全面支撑国家东数西算等重大工程向纵深发展 3、算力网络发展的核心在于“产业共赢”，凝聚产学研用力量，加快构建统一技术路线与标准体系，促进新技术转化和产品落地