英伟达架构升级 推理解耦与光互联

英伟达最新架构升级的核心内容是推理解耦与光互联。推理过程被分为Prefill和Decode两个阶段，实现解耦优化，提升计算效率。同时，HBM配置更加灵活，不再盲目堆砌，根据需求调整。BOM设计从存储堆料转向光互联+分级存储，减少存储需求。RubinCPX路线曾计划用GDDR796-128GB替代HBM4，成本降低50%以上，但已在GTC2026暂撤。RubinUltra主线将HBM4容量从288GB降至192GB，CPU SoC AMM从192GB降至96GB，并将KV Cache经BlueField-4/CMX卸载到本地SSD/NAND层，HBM仅保留热数据。此外，机柜间互联采用NVL72和NVL576放大Scale-up域，跨机架互联采用NPO/CPO替代可插拔光模块，Spectrum-X硅光CPO交换机计划于2026年量产交付。

英伟达架构升级对AI计算赛道的发展趋势主要体现在推理解耦和光互联技术的应用。通过Prefill和Decode的解耦优化，推理效率得到提升，更符合AI大模型对高并发、低延迟的需求。HBM配置的灵活化调整，以及BOM向光互联+分级存储的转变，将推动AI计算向更高效、更节能的方向发展。光互联技术的增强，特别是NVL和CPO的应用，将解决AI计算中数据传输瓶颈问题，提升系统扩展性。Spectrum-X硅光CPO交换机的量产，将进一步加速AI计算集群的互联速度和规模，为AI大模型训练和推理提供更强支撑。这些技术升级将引领AI计算硬件向更高性能、更低功耗、更易扩展的方向演进。

英伟达架构升级报告重点分析了推理解耦技术、HBM配置优化、BOM设计转型以及光互联增强四个方向。在推理解耦方面，报告详细阐述了Prefill和Decode阶段的优化策略，以及其对推理效率的提升效果。在HBM配置优化方面，报告指出HBM配置不再一刀切堆砌，而是根据需求灵活调整，并分析了RubinCPX和RubinUltra两条路线的对比，特别是RubinCPX路线因成本问题被暂撤。在BOM设计转型方面，报告重点介绍了从存储堆料向光互联+分级存储的转变，包括HBM容量调整、KV Cache卸载到本地SSD/NAND层等具体措施。在光互联增强方面，报告分析了机柜间互联和跨机架互联的技术升级，以及Spectrum-X硅光CPO交换机的未来规划。这些分析方向全面展示了英伟达架构升级的技术路线和未来发展方向。

当前AI计算市场现状表现为对高性能、高效率计算需求的持续增长。随着AI大模型的普及，市场对计算集群的扩展性和互联速度提出了更高要求。英伟达架构升级通过推理解耦和光互联技术，正是为了应对这一市场需求。推理解耦技术提升了推理效率，满足AI大模型对低延迟、高并发的需求；光互联技术的增强，特别是NVL和CPO的应用，解决了传统计算集群中数据传输的瓶颈问题，提升了系统扩展性。同时，BOM设计的转型，从存储堆料向光互联+分级存储的转变，也反映了市场对高效能、低功耗计算硬件的追求。这些技术升级和趋势变化，表明AI计算市场正朝着更高性能、更低功耗、更易扩展的方向发展。

英伟达架构升级报告存在的技术路线调整风险，主要体现在RubinCPX路线的暂撤上。该路线曾计划用GDDR796-128GB替代HBM4，以大幅降低成本，但最终因技术或市场原因被暂撤，表明技术路线的确定性和稳定性存在不确定性。此外，光互联技术的应用仍面临成本和兼容性挑战，如NVL和CPO的普及需要产业链上下游的协同发展，而Spectrum-X硅光CPO交换机的量产交付也存在不确定性。同时，AI计算市场的竞争激烈，英伟达架构升级的技术路线能否持续领先，也存在一定的不确定性。这些风险提示表明，尽管英伟达架构升级在技术上具有创新性，但仍需关注技术路线的稳定性、产业链的协同发展以及市场竞争的动态变化。