来自 HOTCHIPS HBM 作为计算 内存桥接器 Micron 对 内存墙 的回应

到2030年： 立方体密度(GB)每代都在上升 带宽(TB/s)随着每个节点扩展 能效(pJ/bit)下降‑用更少的功率做更多事。 创新杠杆：颠覆性工艺与设计、下一代封装、通过先进D2D PHY的GPU卸载，以及针对客户的定制功能。 HBM不再只是堆叠的DRAM。它正在成为一个协处理器桥接器。 这就是为什么每个加速器的内存内容持续复合增长，以及为什么供需失衡将持续到2027年以后。 HBM作为计算‑内存桥接器，为AI工作负载赋能提速 相关趋势：立方体密度（GB）持续走高，立方体带宽（TB/s）稳步提升，能量效率（pJ/bit）持续下行。 后续内存产品将迎来重大转折，包含颠覆性工艺与设计创新、下一代封装技术能力、基于先进D2D PHY实现GPU卸载、定制化功能。 内存墙 内存技术已经成为限制AI系统性能的关键因素。 图表数据：2017‑2027年归一化性能，TFLOPS算力曲线约每两年翻3倍，代表产品包含TPU v3、A100、TPU v4、H100、MI300X、B100、TPU v5、B200、R200；HBM带宽曲线增速约小于每两年翻2倍，代表产品HBM2E、HBM3、HBM3E、HBM4。 架构演进方向：2.5D附加内存，2.5D高级内存，内存内处理。