中国移动NICC新型智算中心技术体系解读
智能算力需求增长背景
- AIGC时代:随着智能化场景在各行业的深入发展,智算规模持续扩大,增速显著超越摩尔定律。
- 算力结构预测:预计未来几年内,算力结构将发生根本性变化,智算成为主流算力。
原有智算中心面临的挑战
- 技术匹配度低:早期建设的智算中心主要承载中小模型,技术与大模型需求不匹配。
- 能效水平低:采用传统的PCIe设备和风冷散热方式,能效水平较低。
- 标准化程度不足:建设方案与厂家深度绑定,缺乏行业统一标准。
- 生态封闭:生态发展呈垂直分割状态,迁移和适配难度大。
- 服务范围受限:主要面向区域内提供服务,缺乏全局、跨区域算力调度能力。
- 异构算力调度困难:缺乏有效的异构算力调度能力。
NICC新型智算中心特性
- 高性能GPU与AI加速卡:作为核心组成部分,支撑AI大模型的高效训练和推理。
- 高速互联智算集群:目标是构建E级超大规模算力基础设施,集约化建设,具备软硬件AI全栈环境。
- 五大重构:在新互联、新算效、新存储、新平台、新节能五个方面进行系统性重构,推动异构时期的发展。
技术体系亮点
- 新互联:从节点化向集群化演进,优化卡间互联,采用交换拓扑以适应大模型通信需求。
- 新存储:实现内存池化,提供统一的内存管理和访问,解决数据传输延迟问题。
- 新算效:升级计算架构,探索存算一体的新范式,提升能效比。
- 新平台:引入算力原生技术,实现跨架构迁移部署,简化开发流程。
- 新节能:通过标准化的大规模液冷技术,实现极致能效、极高密度和极简运维。
产业倡议
- 技术标准体系:明确智算技术架构,形成开放统一的技术标准。
- 产业协同:依托协同创新基地和智算编队,建立产业协同机制。
- 创新试验:利用科学装置进行大模型培育和科研验证。
- 规模化建设:通过算力网络试验网,打造新型智算样板间,推动技术成熟与规模应用。
结论
中国移动的NICC新型智算中心技术体系旨在应对智能算力需求的快速增长和挑战,通过技术创新和产业协同,构建一个高性能、高能效、开放统一的智算生态系统,以支持大模型的高效运行和普及应用。