英伟达最新架构主线
推理按Prefill/Decode解耦
- 推理过程被分为Prefill和Decode两个阶段,实现解耦优化。
单卡不再一刀切堆HBM
BOM从"存储堆料"转向"光互联+分级存储"减存储
RubinCPX路线(已暂撤)
- 曾计划用GDDR796-128GB替代HBM4,成本降低50%以上。
- GTC2026已暂撤该路线。
RubinUltra主线
- HBM4容量从288GB降至192GB。
- CPU SoC AMM从192GB降至96GB。
- KV Cache经BlueField-4/CMX卸载到本地SSD/NAND层,HBM仅保留热数据。
增强光互联
机柜间互联
- NVL72和NVL576用于放大Scale-up域。
- 跨机架互联采用NPO/CPO替代可插拔光模块。
Spectrum-X硅光CPO交换机