超节点架构:从单机多卡到整机柜乃至Pod
超节点通过扩大高带宽、低时延互联域,将多颗加速芯片紧耦合为逻辑统一的计算系统,推动高速互联域由单机向外延伸至整机柜乃至多机柜,缓解大模型训推过程中的通信瓶颈与显存约束。架构革新依托三大底层技术底座:互联协议实现内存语义与跨节点统一编址,实现多颗异构加速芯片资源的池化共享;交换芯片朝着高端口密度、大交换带宽、低转发时延迭代升级,承载扩域后的域内数据转发;机柜功率密度持续抬升,驱动供电架构向集中式高压直流转型,液冷方案也从部件散热升级为机柜级一体化系统集成。
产业链升维与CSP投入共振,国产超节点走向规模商用
超节点产业链核心变化在于交付单元从单台服务器升维至整机柜甚至Pod级系统,产业链的组织方式随之从“部件采购-整机组装-集群部署”的分工,转向以系统级协同为中枢的环状耦合。上游作为算力底座的供给层,由计算与内存芯片承担运算与数据存取功能,交换芯片及互联组件支撑Scale-Up域内的高频数据交换;PCB与封装载板分别承担板级高速信号传输与芯片封装环节的电气互联功能;供电与液冷则从传统服务器的可选配套转变为百千瓦级整柜的刚性基础设施。中游角色边界发生了实质性迁移,平台厂商承担计算架构与互联拓扑的定义职能,其自研超节点方案构成各技术路线的差异化基底;整机厂商与OEM/ODM则可通过联合设计制造(JDM)等模式,围绕共同发现需求、协同研发、产品管控、供应链对接、全球交付与服务五项要素,与客户开展联合定制开发。下游围绕算力服务供给、基础设施建设运营与模型训练推理形成分工。云与算力服务商承担算力采购、集群部署与服务供给,将超节点能力转化为云端算力服务;电信运营商依托数据中心与网络资源,推进超节点基础设施建设与运营,为算力集群部署与互联提供支撑;大模型厂商围绕模型训练与推理提出算力与通信需求,牵引超节点的硬件配置与互联架构优化。
从价值构成看,计算与存储为锚、互联与液冷边际上行。据美国半导体行业协会(SIA)与德勤以“虚拟拆机”方式对高端AI机柜的逐层拆解,单柜系统成本区间为150万至400万美元,半导体器件占整柜系统价值量的95%以上;进一步拆解芯片价值分布,AI加速器模组为单一最大价值贡献环节,约占整机价值的74%(已包含与计算逻辑die共同封装的HBM);拆解至加速器内部,逻辑芯片约占70%、存储约占20%。据报告估算,HBM单价约为30至50美元/GB;在单柜配置14TBHBM的假设下,其成本约为40万至60万美元。其余环节价值占比分别为:CPU约8%,网络与互联部件约5%,供电与散热部件合计约3%。
训推迭代驱动,国产算力方案升级
国内大模型快速选代,旗舰模型参数规模向十万亿级跃迁。模型规模扩张使单卡HBM容量与算力均无法独立承载训练负载,必须依赖多卡协同,但简单堆砌服务器无法解决跨设备资源组织问题:如何将多颗加速芯片的计算与存储高效组织为统一可寻址的计算域,成为大模型持续选代的核心工程课题,也正是超节点架构的现实出发点。MoE架构推动专家并行,All-to-All通信需求提升。在上述多卡协同需求下,我国大模型普遍采用混合专家架构(MoE)以平衡参数量与计算成本:总参数可扩展至万亿级而单Token仅激活部分专家,但全量专家权重远超单卡HBM容量,须将专家分布至多颗加速芯片并引入专家并行(EP),每层前向经dispatchAll-to-All分发Token、计算后经combineAll-to-All合并结果,产生高频跨卡通信;同时专家间负载不均易使部分专家过载、其他专家闲置,降低整体算力利用效率。此类All-to-All流量对互联带宽与时延极度敏感,卡间通信效率与任务分配成为影响MoE架构发挥性能的关键约束。张量并行增加同步压力,All-Reduce对互联带宽提出更高要求。除专家并行外,超大参数模型还需叠加张量并行(TP),将模型大矩阵拆分至不同GPU运行,通过All-Reduce同步计算结果。TP单次通信量较大、通信频率高,对互联吞吐与时延提出严格要求。TP在同步点受组内慢卡制约,进度落后的GPU会增加其他GPU的等待时间,拖慢后续计算推进。在混合并行训练中,TP的All-Reduce与MoE专家并行的All-to-All共同增加跨卡通信负担。两类并行方式均具有较强的通信需求,应尽量部署在NVLink等高速互联域内;当相关通信转由带宽较低的跨节点链路承载时,通信开销增加,模型扩展与算力利用效率更易受到互联能力制约。
超节点通过延伸Scale-Up高速互联域、引入跨节点统一内存编址,将数百颗加速芯片组织为逻辑上的一台计算机,系统性缓解上述约束。
推理负载占比有望持续提升,Token消耗进入常态化放量阶段。量增端,中国信通院等机构披露,2026年6月国内Token日均消耗量约500万亿,是2025年12月的近4倍;质变端更为核心:AgenticAI将单任务由单次问答扩展为多步规划与工具调用,Anthropic披露其多Agent系统的Token消耗约为聊天交互的15倍,对大容量KVCache、高带宽与低时延互联的需求随之增强。产业行为同步响应,阿里磐久AL128超节点服务器将128个AI加速器紧密整合于单机柜,依托高带宽、低延