段晓东：构筑NICC新型智算中心加速大模型发展

大模型带来通用人工智能的曙光，催生新的范式 人类社会正在步入通用人工智能新时代，科学技术体系、产业布局及社会治理模式都将被深刻改变 从“X+AI”到“AI+X” 充分发挥人工智能从“X+AI”到“AI+X”的变革性作用，重塑业务流程、形态、服务模式、价值呈现 “AI赋能网络”+“网络使能AI”= AI内生6G网络 面向设计目标，AI赋能网络的设计重点在于数据和模型、网络使能AI的设计重点在于计算和平台 网 络 与A I融 合 统 一 架 构 为实现AI内生网络的整体性能最优设计，需重点解决AI赋能网络和网络使能AI在资源、功能和服务层的耦合关系，实现至简灵活的架构 研发九天人工智能大模型 •基础大模型：加快构建适用于泛场景的自主可控通用基础大模型，打造国家级通用智能底座•行业大模型：聚焦供给侧，加快构建行业大模型，加速各行业各领域智能化转型升级，促进我国整体生产力跃升 打造智能算力新高峰——NICC新型智算中心 新型智算中心 以高性能GPU、AI加速卡为中心，以高速互联智算集群为目标，形成集约化建设的E级超大规模算力基础设施，具备软硬件AI全栈环境，支撑AI大模型的高效训练和推理 1、新型智算中心是对传统云数据中心的飞跃 在新互联、新算效、新存储、新平台、新节能等五大方面进行系统性重构，推动 传统云数据中心 百卡高速总线互联 存算一体 内存池化 冷板/浸没式液冷 独立存储 风冷 裸机/虚机/容器 2、NICC新型智算中心的架构 强化互联技术、深化算力协同、定义新型存储、新增算力原生、升级绿色节能构建标准统一、技术领先、软硬协同、兼容开放的NICC新型智算中心技术体系 3-1、NICC新互联——高速互联计算总线 模型从千亿到万亿，高速卡间互联需求从8卡扩展到百卡，智算设备形态将从S（Server服务器）演变为 S²（Super Server，超级服务器），带来智算中心底层互联技术的全新变革 万亿模型：高通信需求（MoE并行）集中在百卡之间 3-1、NICC新互联——高性能新以太互联网络 大模型以分布式训练为基础，通信开销导致GPU集群有效算力难以线性提升，网络成为AI算力“瓶颈”， 亟需构建以新型以太网技术为基础，开放兼容、超高性能的新型智算中心网络技术体系 未来：突破以太技术、升级高速互联 3-2、NICC新存储——内存池化 传统CPU和GPU分立的存储架构，导致数据大量搬移，影响模型训练效率需要构建CPU和GPU间的统一内存池，减少数据搬运，简化编程开发，使模型训练更加高效 未来：HBM和DDR池化 传统：HBM和DDR分立 •数据多次复制，延迟高，影响模型训练效率•AI模型开发复杂，需要手动管理数据搬移 •数据无需多次搬运，GPU可快速访问巨量共享内存•提供统一寻址空间，AI软件模型开发简化 3-3、NICC新算效——升级计算架构 随着NICC向超级池化阶段发展，解决海量数据处理要求，需要聚焦GPU升级，突破性能瓶颈，加强CPU、GPU、DPU三大芯片协同。未来，探索存算一体新型计算范式，达到能效比数量级提升 GPU、CPU、DPU三大芯片协同三大芯片协同提升算效迎接更加爆炸式的数据处理需求 存算一体，突破传统计算范式 下一代GPU芯片设计 突破冯·诺依曼架构达到能效比数量级提升 性能瓶颈显存带宽和容量的制约数据搬移的功耗激增 演进路线 ①存储一体化设计②稀疏化设计③算法和芯片协同设计④低时延推理架构设计 •GPU+DPU，参数面网卡升级，进一步满足可编程拥塞控制及大QP数量等前沿需求•GPU+DPU+CPU，智算资源并池，大幅优化智算集群管理效率，实现文件存储卸载，加速训推过程 •面向大模型推理场景•基于SRAM，中大算力，100Tops+•无限擦写，数模混合，精度拼接 3-4、NICC新平台——引入算力原生 智算应用难以在多样竖井化智算生态间迁移部署，制约系统整体运用效能。中国移动原创提出算力原生技术，打造“芯合”算力原生跨架构平台，打破“框架+工具链+硬件”紧耦合生态锁定，屏蔽底层硬件差异，繁荣全“芯”生态 •跨架构综合编译器 实现图算融合的跨架构综合编译、多级IR互转优化，生成中间元语格式的算力原生程序 全 系 统 共 识 的“中 间 元 语”。H o s t侧 、Device侧指令元语及执行策略的一体承载 实现“中间元语”跨厂商的再装配，智算应用跨架构、可变粒度映射执行 3-5、NICC新节能——标准化大规模液冷技术 智算中心走向超大规模，面对不断攀升的能耗需求，液冷是必经之路但液冷产业生态不完善，设备标准化程度低，需要通过“五大统一”实现三“极”目标 五大统一 ①机柜尺寸标准 ③液冷工质要求 ④供电系统标准 ⑤监控管理要求 共筑大模型发展智能底座 开放协作普惠共赢