HBM(High Bandwidth Memory,高带宽内存)是一种面向高性能计算和AI领域的新型内存芯片,凭借高带宽、低功耗等特性成为AI时代的关键存储技术,以下从多个维度展开介绍:
HBM是基于3D堆叠封装的DRAM技术,通过硅通孔(TSV)将多层DRAM裸片垂直堆叠,并与底层逻辑控制芯片互联,再通过硅中介层(Interposer)与GPU/CPU封装集成,实现超短距离(毫米级)高速数据传输。简单说,就是把12层芯片“叠成摩天大楼”,同时保证每层间数据通道畅通无阻[1][2][5]。
HBM是AI训练/推理、GPU、HPC(高性能计算)的核心组件。随着AI大模型参数规模突破千亿、万亿级,GPU需快速处理海量数据,HBM作为数据“中转站”,能减少内存延迟,提升计算效率。例如,英伟达H200 GPU搭载HBM3E后,推理速度比H100提升2倍[3][9]。目前AI服务器已成为服务器市场主要驱动力,2024年二季度占比达29%,直接拉动HBM需求激增[3]。
全球仅3家企业能量产HBM:
HBM正成为存储行业在AI浪潮中的“逆袭关键”,未来随着AI服务器、大模型需求持续爆发,其市场规模和技术迭代值得期待[1][5][9]。
© 2018-2026 苏州互方得信息科技有限公司
苏ICP备17077178号|
苏公网安备 32059002001943号|增值电信业务经营许可证:苏B2-20240803