超节点与Scaleup网络专题之英伟达：行业标杆，领先优势建立在NVLink和NVLink3

执业证书编号：S1480518080001 投资摘要： 大语言模型（LLM）参数规模从千亿级向万亿级乃至十万亿级演进，跨服务器张量并行（TP）成为必然选择；此外混合专家（MoE）模型在Transformer架构LLM中的规模化应用，更使跨服务器专家并行（EP）成为分布式训练和推理的关键技术需求。为应对TP和EP对网络带宽与延迟的极为严苛的要求，构建超高带宽、超低延迟的Scale up网络（纵向扩张网络）成为业界主流技术路径。 目前英伟达超节点已经推出成熟方案。2024-2026年，英伟达陆续推出GH200 NVL72、GB200/GB300NVL72、VR200 NVL72三代超节点。 Hopper架构开启超节点Scale up初步探索。GH200通过NVLink和NVLink-C2C（Chip-to-Chip）技术，使得每个GPU可以访问其他所有CPU和GPU芯片的内存，实现GPU与CPU内存统一编址。 Blackwell架构推动Scaleup标准化。GB200 NVL72将Scale-up规模稳定在72个GPU/机柜，形成可复制标准化方案。NVL72由18个ComputeTray（计算托架）和9个Switch Tray（网络交换托架）构成。其中，Compute Tray是计算核心单元，负责提供强大的计算能力；Switch Tray是高速通信枢纽，用于实现GPU之间的高速数据交换。NVL72背板通过“NVLink5私有协议+铜线缆”将18个Compute Tray中的72颗B200 GPU和9个Switch Tray中的18颗NVSwitch芯片进行满带宽全连接。 Rubin架构推动Scale up方案带宽倍增。2026年1月CES展会，英伟达发布Rubin架构VR200 NVL72。其中NVLink 6 Switch实现单GPU的互连带宽提升至3.6 TB/s，上代为1.8TB/s。Scale out方面，Spectrum-6交换机支持CPO（共封装光学）技术，将32个1.6Tb/s硅光光学引擎与交换芯片直接封装集成。 在超节点方案上，英伟达处于领先优势。2024-2025年，英伟达陆续推出GH200 NVL72、GB200/ GB300NVL72等成熟超节点解决方案。根据大摩预测，2025年英伟达GB200/300 NVL72出货量约2800台。展望2026-2027年，英伟达计划推出Vera Rubin NVL144和Rubin Ultra NVL576。互联GPU数将从72颗进一步向576颗发展。届时，英伟达将在新一代Kyber机架架构中引入NVLink Switch Blade（NVLink交换机刀片），通过PCB中板替代传统5000+根有源铜缆。可以看到，Rubin Ultra NVL576仍具有较强的工程创新能力。 英伟达超节点的优势建立在NVLink和NVLink Switch。为实现AI训练集群高带宽与低延迟数据传输，NVLink重新设计通信架构，并引入一系列先进技术，包括网状拓扑、差分信号传输、流量调度信用机制、多Lane绑定技术、统一内存空间等。截止2025年，NVLink 5 Switch实现支持单GPU到GPU带宽1800GB/s，可构建72 GPU的NVLink域，总带宽达130 TB/s（双向），支持72 GPU全互联通信。在后续计划中，NVSwitch Gen6和Gen7的GPU-to-GPU通信带宽继续升级为3.6TB/s。 但另一方面，Scaleup网络兴起源于满足大模型分布式训练和推理中的张量并行(TP)与专家并行(EP)。目前AI产业也在探索降低TP与EP规模的技术方案，从而降低Scaleup网络规模的上限。我们认为，Scaleup网络的发展空间或限制英伟达在超节点领域的领先优势。为保持领先优势，实现Scaleup网络和Scaleout网络融合或将成为英伟达超节点新的发展趋势。 投资策略： 自2025年开始，超节点成为AI算力网络重要的技术创新方向。从AI基建竞争维度，AI芯片厂商从芯片算力性能竞争延续至芯片+Scale up网络的双战场。因此，除了原先英伟达、华为、AMD以及谷歌等芯片公司，全球更多厂商加入超节点赛道的竞争，包括微软、Meta、Amazon、中国移动、阿里巴巴、腾讯、百度、中科曙光、中兴通讯、浪潮信息、紫光股份（新华三）、沐曦股份、恒为科技等。 我们认为，全球超节点竞争格局尚未确立。英伟达目前处于领先地位，建议关注英伟达超节点供应链，包括PCB背板、高速铜缆、光模块、供电与液冷系统等。其次，中国厂商在超节点与Scale up网络领域的参与度很高，或有国内厂商在超节点领域取得领先优势，建议关注发布国产超节点的云厂商、通信设备厂商与芯片厂商。最后，基于交换机及芯片是Scale up网络互联的关键设备，建议关注国内交换机供应商以及交换机芯片研发商。 风险提示：（1）LLM训练与推理技术路径变化；（2）超节点互联方案不确定性；（3）英伟达超节点出货量低于预期；（4）AI应用端增长不及预期。 目录 1. LLM训练要求高带宽与延迟，驱动超节点成为AI算力网络创新方向..................................................................................52.英伟达：超节点领先优势建立在NVLink和NVLink Switch............................................................................................102.1 Scale up网络核心技术：NVLink与NVLink交换机.................................................................................................102.2 GB200 NVL72超节点：铜缆互联，总交换容量129.6TB/s......................................................................................132.3 VR200 NVL72超节点：延续GB200 NVL72工程技艺，总交换容量翻倍................................................................192.4总结：处于领先优势，互联GPU数将从72颗进一步向576颗发展.......................................................................223.投资建议...........................................................................................................................................................................254.风险提示...........................................................................................................................................................................25 插图目录 图1：Scale up网络（左）与Scale out网络（右）特点对比.............................................................................................6图2：英伟达NVL72超节点示意...........................................................................................................................................7图3：全球主流算力方案对应Scale Up协议.........................................................................................................................8图4：全球主流算力芯片厂商旗下Scale up协议特点...........................................................................................................9图5：NVLink技术规格参数对比.........................................................................................................................................10图6：NVLink交换机规格参数对比.....................................................................................................................................10图7：NVLink网状拓扑结构提供高速双向带宽....................................................................................................................11图8：NVLink交换网络的演进过程（1）............................................................................................................................12图9：NVLink交换网络的演进过程（2）............................................................................................................................12图10：英伟达GB300 NVL72超节点外观...........................................................................................................................13图11：GB 200 NVL72机柜外观与内部构件细节................................................................................................................14图12：GB200 NVL72中计算托盘......................................................................................................................................15图13：GB 200 NVL72中NVLink交换