孔勰：打造先进算力网络，推动算力高质量发展
打造先进算力网络推动算力高质量发展中国移动研究院2023.12 算力已成为数字经济核心生产力网算水电①事关核心生产要素升级1.47%1.76%1.86%1.96%2.16%2.42%2.71%0.00%0.50%1.00%1.50%2.00%2.50%3.00%010000200003000040000500006000070000800002014201520162017201820192020数据中心耗电量全社会用电量我国算力规模平均每增长一个百分点，带动数字经济和GDP将分别增长3.5‰和1.8‰00.511.52环境和公共设施管理文教卫生与社会服务住宿餐饮业科研和技术服务能源供应金融业互联网、软件和信...批发零售业其他制造业计算机等设备制造直接带动产出间接带动产出②事关数字经济增速④事关双碳目标实现资料来源： 国家统计局中国信息通信研究院中国数据中心耗电量及占全社会电量比过去十年，数据中心用电量以每年超10%速度递增，2022年约占全社会用电量的3%③事关智能社会发展2019202020212023智能算力占比逐年提升41%51%~70%2018年AI算力需求2030年AI算力需求AI催生巨大智能算力需求16206 EFLOPS41 EFLOPS人工智能的发展对智能算力需求呈指数级增长，智能算力占比超过50%，成为主流算力来源：罗兰贝格来源：中国信通院 中国移动算力网络发展历程 算力网络的核心理念以网强算、算网融合多要素融合、一体化供给任务式服务用户不用关心资源类型和位置，一点接入，随需申请，随需使用，随需调整打开算龙头就可以便捷使用算力通过高速网络将原先分散孤立的算力节点连接在一起，构成立体泛在的一体化算力集群实现算力协作化、集约化、普惠化以存算网为基础要素，叠加AI、大数据、区块链等能力要素，同时综合考虑土地、能源、供水等资源要素实现多要素融合的一体化供给算力无所不在智能无所不及网络无所不达 起步：泛在协同发展：融合统一跨越：一体内生协同编排网随算动智能编排智慧内生算网一体一站服务、协同运营融合服务、统一运营一体服务，模式创新 十四五阶段十五五阶段及更长期2021-2023 2024-20252025~算网融合算力网络发展三阶段路径 中国移动从算网基础设施构建、业务融合创新、创新技术引领等多方面系统化推进算力网络建设和发展主线三面向创新技术引领主线一面向算网基础设施构建主线二面向业务融合创新物理空间、逻辑空间、异构空间、多主体算力融通“4+N+31+X”布局，1100边缘节点打造20ms、5ms、1ms三级时延圈SRv6/G-SRv6打造统一算网底座实现算网高效协同，支持CHBN业务融合发展，打造算网全新生态产品算力化和算力产品化发布算网服务1.0构筑算网大脑实现创新技术引领，打造原创技术策源地三横两域体系架构提出十大技术发展方向三十二大核心技术算力网络发展主线 主线一：面向算网基础设施构建“4+N+31+X”数据中心布局数据中心机架数超120万架单体最大智算中心 5.5 EFLOPS并网算力达 1.9 EFLOPS打通东数西算主动脉省级节点超300个边缘计算节点超1500余个DCI云专网覆盖300余个地市做强边缘算力微循环打造骨干20ms、省域/区域5ms、城市1ms三级时延圈网络枢纽节点全光高速直连枢纽节点间带宽向400G演进向算而生构建网络新架构SRv6/G-SRv6打造统一算网底座网络切片提供满足确定性连接服务新一代SD-WAN高效分发算力服务数据快递实现长距离高吞吐数据传输技术创新打造网络新能力 主线二：面向创新技术引领数据快递突破广域传输性能瓶颈空芯光纤新型光纤介质与系统在网计算打破算网边界全调度以太突破无损以太性能瓶颈算力度量打破单维算力指标移动算力5G、6G新增计算面算力路由突破互联网架构协议存算一体突破冯氏架构算力原生实现应用跨架构迁移400G/800G超高速大容量全光网络G-SRv6统一IP承载协议算力卸载多算力形态统一底座算力并网实现算力供给侧改革新一代SD-WANUnder与Overlay协同算力解构应用模块化解构部署算力智能内生计算要素创智能服务空天地一体突破异构算网融合隐私计算安全数据分析计算应用感知应用类型识别OTN光电联动新型全光网架构全光接入新型接入网架构云原生敏捷高效体系总线互联卡间高速通信50G PON+FTTR新型接入网架构 硬件层应用层oneAPICUDANeuWareROCm......PytorchCANN无法互识跨架构流转框架层工具链......XXXX算力原生层跨架构流转的原生程序原生运行时 编程模型转换、编译、优化程序加载动态链接oneAPICUDANeuWareROCm......CANN硬件层应用层框架层工具链Pytorch......主线二：面向创新技术引领：算力原生（1/4）繁冗开发、复杂适配、各自为栈一次开发、一次封装、跨芯迁移•统一编程模型及源源转换 基于SYCL的单源编程模型范式•跨架构综合编译机制 多级IR互转，图算数融合编译优化•原生程序格式规范Host侧、Device侧指令元语及执行策略的一体承载•原生运行时算力抽象跨厂商运行时接口/指令集的可变粒度映射机制中国移动原创提出算力原生技术，目标打破“框架+工具链+硬件”紧耦合的智算生态屏蔽底层硬件差异，实现智算应用的跨架构迁移部署 主线二：面向创新技术引领：算力原生（2/4）算力原生层跨架构流转的原生程序原生运行时 编程模型转换、编译、优化oneAPICUDANeuWareROCm......CANN硬件层应用层框架层工具链Pytorch......编译器采用LLVM、MLIR等领域标准实现开放式架构前端：解析SYCL等源码及ONNX等计算图模型中端：进行跨架构综合优化，对并行策略等进行注入后端：完成原生标准格式代码生成n跨架构编译优化技术：构建开放集成框架进行多级IR互转编译 ，对用户所输入的 模型计算图 和 程序代码 进行融合编译，逐级流转和优化，生成无感于计算架构的原生程序，最大化兼顾跨架构运行性能 主线二：面向创新技术引领：算力原生（4/4）算力原生层跨架构流转的原生程序编程模型转换、编译、优化oneAPICUDANeuWareROCm......CANN硬件层应用层框架层工具链Pytorch......原生运行时 算力池化：实现算力设备虚拟化，细粒度切分及远程调用，提升算力利用率，降低碎片化n自适应动态运行时技术：为 CUDA / Level-Zero / ROCm / CANN 等多厂商运行时建立统一抽象接口，并建立灵活接入机制；对异构系统环境、算力内核、内存等计算资源进行注册管控；完成原生程序的加载、解析，保障计算任务与本地计算资源的即时互映射按需执行 2023中国移动全球合作伙伴大会正式发布智算“芯合”算力原生成果融通智算生态竖井，开辟以软件为核心的智算产业链牵引全新路径ü统一编程套件：统一编程模型+标准IDE+计算库ü源源转换工具： CUDA→SYCL转译ü跨架构编译器：图算融合编译+原生流转文件ü自适应运行时：异构设备统一抽象+动态映射执行应用实践：智算应用在3家智算芯片跨架构部署迁移ü软件实现视频分析、图像识别等典型智算应用在英伟达、华为、瀚博等3家智算芯片上的跨架构部署迁移ü迁移时间<20s，性能损耗≤15%，CUDA→SYCL转译率>90%软件研发：4大组件提供跨架构一站式解决方案ü推动智算芯片与“芯合”软件自适应运行时对接，扩展智算芯合产业合作生态生态拓展：9家伙伴联合发布算力原生“芯合”计划主线二：面向创新技术引领：算力原生（4/4）发布《面向智算的算力原生白皮书》 原创提出 “两层架构”和“四大核心技术”三阶段发展路径：1、异构算力资源池化2、应用跨架构迁移3、全局泛在融通OIF成立开源工作组，牵头国内外多项标准立项ü牵头在OIF成立算力原生子工作组ü牵头在ITU、CCSA进行标准立项研发进展成果发布移动全球合作伙伴大会正式发布：智算“芯合”算力原生平台ü降低AI应用向国产化平台迁移成本ü突破基础软件领域国产智算生态的发展ü繁荣我国自主智算软芯片与软件生态 主线三：面向业务融合创新打造算网大脑算力网络基础设施层算网大脑算力网络运营层设计感知接入能力接入智能编排调度网络域能力网关网络域能力网关...发布“天穹”算网大脑并试商用，实现多要素融合的智能编排调度打造算力产品升级云网融合产品云XR云游戏云魔百和......云专线云互联5G云梯探索新业态新模式自动驾驶元宇宙算力并网云XR开创任务式新服务东视西渲中训边推数据快递构建算网服务体系打造东视西渲、数据快递、中训边推等任务式服务东数西存 14总结与展望1、算力网络发展的基础在于“技术策源”，联合业界加强算力原生、算力路由、存算一体等跨学科交叉技术的研究，打造算力网络原创技术新高地2、算力网络发展的重点在于“继往开来”，在做好技术原创的基础上，还要解决好科学的工程化问题，以打造新型信息基础设施为目标，全面支撑国家东数西算等重大工程向纵深发展3、算力网络发展的核心在于“产业共赢”，凝聚产学研用力量，加快构建统一技术路线与标准体系，促进新技术转化和产品落地
