IT硬件行业专家会议要点：HBF架构、应用与里程碑

核心观点： 摩根大通硬件专家系列访谈中，前任任天堂技术发展总裁 Sudha Sudharsanan 指出，高带宽闪存 (HBF) 极有可能成为 AI 记忆层次结构中 HBM 的有力补充，尤其是在推理场景下。HBF 在容量上具有优势，可以满足大型模型和上下文的需求，但 HBM 仍然是产生高性能输出的关键。

关键数据和研究结论：

• HBF 与 HBM 的关系： Sudharsanan 认为 HBF 无法取代 HBM 在模型训练中的作用，因为 NAND 的写入性能较差，耐久性较低。HBM 在支持频繁更新的权重方面发挥着重要作用。HBF 的初始机会可能在于混合推理系统，其中 HBM 作为快速内存层，而 HBF 提供更大的容量来存储读取密集型数据，如模型权重、KV 缓存、预填充数据和索引。
• HBF 的挑战： Sudharsanan 指出，HBF 的主要障碍包括功耗、散热、写入耐久性、控制器设计和可实现带宽。由于缺乏商用设备，投资者尚无法验证 HBF 系统是否能够实现预期的性能，也无法评估相关的成本和可靠性权衡。
• HBF 的发展里程碑： Sudharsanan 认为，关键的里程碑包括推出集成了 HBF 控制器的 PCIe 6.0、随后与加速器互连（如 NVLink）的兼容性，以及能够将闪存放置在高功率计算附近且不会造成过热、良率或成本问题的封装解决方案。
• HBF 的应用前景： Sudharsanan 预计，基于 PCIe 架构的初始更高带宽闪存产品可能在 2027 年后期出现，而更紧密集成的 HBF 实现可能需要更长的工程和认证周期。从长远来看，HBF 在 PC、游戏系统、机器人、工业自动化和最终智能手机等领域具有潜在的重大应用。
• 边缘 AI 的采用： Sudharsanan 预计，边缘 AI 的采用将在 2027 年初开始加速，但 HBF 不是初始采用周期中必需的。非易失性 HBF 可以在不刷新 DRAM 的情况下保存模型、本地上下文和应用程序状态，从而实现更快的恢复时间、更低的待机功耗以及更强大的设备端推理能力。