未来网络白皮书系列：智算网络技术与产业白皮书

智算网络技术与产业发展概况

政策态势

• 国家高度重视数字基础设施建设，特别是智能算力基础设施，将其作为推动经济高质量发展的核心支撑。
• 通过发布系列政策，加强智算设施的建设与升级，支撑新感知和新算力设施的快速发展。
• 各地方政府积极推动智算先机，推动产业的数字化升级。

产业形势

• 国内智算产业链涵盖从核心技术研发、资源整合到广泛应用的全链条。
• 中国通信标准化协会正在主导国内的智算网络标准化工作，主要集中在互联互通与基础支撑方面。
• 全国超过30个城市正在建设或提出建设智算中心，建设总数超100个，总投资规模超百亿元。
• 我国智算产业链已形成完整的上游核心技术研发、中游资源整合服务到下游广泛应用的链条。

技术趋势

• AI模型参数规模将超百万亿，超长序列成为主流标配，推动对算力的高需求。
• 以太网将成为智算网络开放互联的基础，百万卡集群规模成为行业共识。
• 融合将成为智算网络演进的主路径，包括总线与网络的融合、电互联和光互联的融合。
• 新型大容量网络芯片将成为智算网络发展的基石，容量持续增长，单比特功耗不断降低，面向AI场景优化成为基本要求。

智算产业对于网络的核心要求

网络带宽要求

• 网络带宽是AI大规模训练和推理中的关键要素，保证训练效率和快速响应用户请求。
• 随着AI模型复杂度和数据规模的增加，未来对网络带宽的需求将进一步提升。

网络时延要求

• 低时延是支撑AI大模型分布式训练和推理的关键要素，确保数据传输的及时性。
• 随着AI技术发展及应用扩展，其对时延的需求将进一步严苛化。

网络抖动要求

• 控制网络抖动相比平均时延更具挑战性，需要合理的技术手段弥补当前网络抖动控制能力的不足。

网络丢包要求

• 网络丢包在AI大规模训练和推理中是一项极其重要的问题，需要采用高可靠性的网络技术与协议，优化网络拓扑结构，增强网络设备稳定性。

智算集群内网络关键技术

新型网络架构

• Clos网络架构：胖树（Fat-Tree）Clos无阻塞网络架构成为大模型训练常用网络架构。
• Dragonfly网络架构：因其较小的网络直径与较低的部署成本被大量使用。
• Group-wiseDragonfly+网络架构：在规模需求超过十万卡时，引入无收敛三层Fat-Tree架构的替代方案。
• Torus网络架构：一种完全对称的拓扑结构，具备低时延、低网络直径等特性，适合集合通信使用。

超宽可编程转发技术

• 超宽可编程转发技术采用RoCE网络方案，当前以博通Tomahawk5芯片的白盒交换机为主流。
• 可编程转发的实现主要涉及控制面、转发面的可编程操作，实现集中化的流量调度和自定义的节点转发逻辑。

无损网络技术

• 无损网络技术旨在确保网络不丢包的情况下实现高吞吐转发，包括流量控制、拥塞控制及负载均衡等。
• 由于原生IBRDMA技术依赖于专用且昂贵的网络设备，基于以太网的RoCEv2技术将拥有广阔的应用前景。

网络负载均衡技术

• AI大模型场景中，业务流量呈现出大象流、低熵、同步效应等特征，需要新型负载均衡技术。
• 按照技术原理大致可分为基于网络状态感知的负载均衡技术和基于流切分技术的负载均衡技术。

端网协同的NetMind跨层通信架构

• NetMind通过网算协同实现系统整体性能的提升，主要涉及水平方向和垂直方向的协同。
• 水平方向包括从网到算和从算到网的协同，垂直方向根据NetMind提供的集合通信算法的适用区间和通信效率进行作业调度。

智算集群间网络关键技术

光电融合组网与路由技术

• 光电融合承载已成为智算网络发展的必然趋势，从传统带宽驱动的通道式网络向业务驱动的光电融合定制化网络演进。
• 光电融合网络采用集中化控制方式，实现对全局光电资源的统一编排与控制。

广域拥塞控制技术

• 随着国家“东数西算”战略的推进，广域长距传输可能会对业务性能产生一定影响，需要引入拥塞控制技术。
• 从传输层与链路层角度对广域拥塞控制技术进行阐述，包括广域TCP拥塞控制和广域链路流量控制。

广域RDMA技术

• RDMA是从DMA技术演进而来，最早由IBTA组织基于InfiniBand（IB）架构而提出。
• 广域RDMA技术为最大限度地利旧现有网络设备与线路，在广域网上使用IP协议进行传输，采用RoCEv2或iWARP协议封装RDMA数据载荷。

新型低损光纤技术

• 为满足不断升级的算力业务需求，业界正在持续探索200G/400G、800G及以上的高速光传输方案。
• 部署新型超低损光纤成为必然趋势，包括G.654.E低损光纤和空芯光纤。

智算网络产业典型案例

天翼云昇腾智算项目

• 项目背景：为了迎接AI时代，众多云厂商正纷纷入局开拓人工智能市场，建设大规模GPU智算计算资源池。
• 网络方案：本项目选用RoCEv2，实现RDMA在以太网网络中的传输，并采用无损以太网络和华为昇腾算力进行万卡集群建设。

紫金山新型无损数据中心项目

• 项目背景：人工智能技术被誉为“数字经济发动机”，新型数据中心作为支撑人工智能发展的核心基建，是实现制造强国、网络强国的重要动能。
• 网络方案：新型无损数据中心采用Fat-Tree的组网架构，分为人工智能高性能专区、工业互联网专区和国产化专区。

智算网络技术与产业发展建议

深化硬件创新与技术优化

• 优化异构计算架构，研发新一代高速互连技术，发展超低损耗光纤技术，探索高效存储解决方案，推进硬件加速器的集成与优化，注重能效优化。

推进软件与算法的智能化集成应用

• 开发与推广智能编译器技术，深入研究并行计算算法，推进AI算法在资源分配和任务调度中的应用，研究先进的数据管理技术。

催化标准化与开放性的行业实践

• 推动行业标准的制定与推广，倡导开放硬件与软件平台，推动互操作性测试与认证机制的建立，呼吁政府和监管机构制定智算网络的相关政策与法规。

加大政府资金支持，促进产业生态合作

• 通过增加财政预算、设立专项基金以及实施税收优惠政策等方式，降低企业在智算网络投资和运营的成本，并激励更多企业与研究机构投身于智算网络的技术创新与应用开发。
• 搭建跨行业合作平台，促进不同领域企业间的资源共享和协同创新，推动产学研用深度融合。

总结与展望

• 中国智算网络产业正站在新的历史起点上，面临着前所未有的发展机遇。
• 未来，智算网络技术将继续沿着高性能、高效率和智能化的方向演进，新型网络架构、量子通信、边缘计算等前沿技术有望进一步提升智算网络的综合性能。
• 随着与人工智能、大数据、物联网等产业领域的紧密结合，将形成更加丰富的智算服务生态系统，为中国数字经济发展和智能化社会建设注入新动力。