- 产业兴起背景:超节点行业于2025年开始方案验证与需求调研,核心驱动因素包括大模型参数量快速增长(最新KV的K3达到2.8万亿参数),以及海外NVGPU在国内采购受限,国产GPU单卡性能与海外存在差距,需要从系统层面通过多卡堆叠实现同等算力。
- 对比传统多交换机组网的核心优势:
- 时延大幅降低:八卡通过交换机Scaleout组网的时延为微秒级,64卡超节点通过统一内存寻址+Scaleup原生互联,时延达到纳秒级,提升一个数量级,避免GPU因数据跨设备搬运产生的空闲浪费。
- 资源利用效率提升:64卡超节点实现HBM统一寻址,任务可一次性下发到所有GPU。