HBM专题报告：跨越带宽增长极限，HBM赋能AI新纪元

投资评级：（）报告日期：推荐维持2024年06月28日 ◼分析师：毛正◼SAC编号：S1050521120001◼联系人：张璐◼SAC编号：S1050123120019 投 资 要 点 AI时代存储新需求催生HBM，海内外供需缺口扩大蓝海广阔 随着人工智能的兴起，对高算力和带宽的需求推动了存储的发展。相较于传统的DRAM，HBM技术采用垂直堆叠DDR芯片与GPU封装实现高带宽、低延迟和低功耗，突破了传统内存的限制，适应AI时代的新需求。目前全球市场由海力士、三星和美光主导，中国厂商如武汉新芯、长鑫存储和华为也在积极推进HBM国产化，市场供需缺口仍持续扩大，DRAM涨价周期叠加AI驱动下，HBM价格预计继续上涨，市场规模预计在2024年达到约70亿美金。 TSV、混合键合、EMC占据产业链价值高地 HBM的生产涉及TSV、凸点制造、堆叠工序。其中，TSV是HBM生产流程中最核心的工艺，也是价值量占比最高的工艺环节；凸点制造将随着未来间距缩小走向混合键合，是HBM未来的发展趋势；EMC是海力士关键工艺MR-MUF的主要材料，在堆叠过程中提供保护、导热、绝缘等复合功能。目前国内厂商在三大关键工艺环节正加速追赶，国产替代空间广阔。 给予HBM行业投资评级：推荐 HBM作为AI浪潮下必不可少的存储器件，供需缺口将推动HBM价值量持续攀升。TSV、混合键合、EMC三大关键工艺作为产业链价值占比较高且具有较好发展前景的环节，预计将率先受益。建议关注HBM相关设备：中微公司、拓荆科技、赛腾股份；HBM相关材料：雅克科技、联瑞新材、华海诚科；HBM封测：通富微电。 风 险 提 示 宏观经济增长不及预期的风险；海外科技管制进一步加强的风险；本土科技创新突破不及预期的风险；下游需求恢复不及预期的风险；行业景气度复苏不及预期的风险；推荐标的业绩不及预期的风险。 2.海内外需求缺口扩大，HBM量价齐升3.三大关键工艺占据产业链价值高地1.存储紧随AI步伐，HBM应运而生4.相关标的 目录CONTENTS 0 1存储紧随AI步伐，H B M应 运 而 生 1.1 DRAM份额稳居存储市场第一 存储器是用来存储程序和数据的部件，对计算机来说，有了存储器，才能有记忆功能，才能保证正常工作。存储器的种类很多，按其介质的不同，将存储器分为光学存储、半导体存储和磁性存储三大类。 资料来源：CSDN，中国存储网，IT技术订阅，华鑫证券研究 1.1 DRAM份额稳居存储市场第一 半导体存储可分为易失性存储芯片（RAM）和非易失性存储芯片（ROM）。其中，易失性存储主要以SRAM（静态随机存储器）和DRAM（动态随机存储器）为主。非易失性存储从早期的ROM（PROM、EPROM、EEPROM）到闪存（NOR Flash和NAND Flash）。 根据传输速度、容量、数据可擦除性等关键参数，不同存储器拥有各自适用的领域，以计算机系统中的使用来看：SRAM速度够快，通常作为中央处理器（CPU）的缓存使用，DRAM价格低廉、容量大，通常用作内存，NAND Flash用于大数据存储，NOR Flash通常用于代码存储。 在存储行业产品的市场占有率方面，DRAM以超过50%的份额稳居第一，紧随其后的是NAND，占比约为41%。NOR则保持稳定，维持着约1%左右的市场份额，其他产品如EEPROM等则占据约1%的市场份额。 资料来源：头豹研究院，Statista，华鑫证券研究 1.2 GDDR、HBM适用于高性能计算 在HBM出现之前，DRAM按照产品分类主要分为DDR、LPDDR和GDDR。其中DDR适用于计算机、服务器和其他高性能计算设备等领域；LPDDR适合移动设备和嵌入式系统等需要长时间使用的场景，如手机、平板、穿戴等；GDDR是为了设计高端显卡而特别设计的高性能DDR存储器规格，它比主内存中使用的普通DDR存储器时钟频率更高，发热量更小，所以更适合搭配高端显示芯片。图表：DDR、GDDR、LPDDR主要区别对比 1.3 AI时代新需求，HBM应运而生 随着人工智能技术的快速发展，传统的GDDR内存逐渐达到其技术发展的瓶颈。1）GDDR5无法跟上GPU性能发展：AI训练的参数量每两年增长410倍，而单GPU内存仅以每两年2倍的速度增长；硬件的峰值计算能力20年中提升了60,000倍，但DRAM带宽的增长却仅提高了100倍，互连带宽只提升了30倍。内存难以跟上AI硬件的计算速度，限制了AI芯片性能发挥，形成了“内存墙”；2）GDDR5限制了外形尺寸：为实现高带宽，越来越多的GDDR5和电路要集成在一起会限制产品的尺寸；3）片上集成并非万能：片上集成的兼容和可拓展性受到限制。HBM的出现克服传统GDDR在带宽上的局限，并突破内存墙的限制，以适应AI时代对高算力和高带宽内存的需求。 图表：GDDR走向HBM 0 2海内外需求缺口扩大，H B M量 价 齐 升 2.1 HBM实现高带宽、低延迟和低功耗 HBM全称为High Bandwidth Memory，即高带宽内存，它将多个DDR芯片垂直堆叠在一起后和GPU封装在一起。与传统的DRAM相比，它确保了更多的I/O（Input/Output，输入/输出）通道，一次可以传输大量的数据，在较小的物理空间内实现高带宽、低延迟和低功耗，从而成为数据中心等应用场景的新一代内存解决方案。 与GDDR5相比，HBM： 高带宽：增加存储堆栈的数量和位宽，以及提升数据传输速率，实现了高带宽。低延迟：缩短存储器和逻辑芯片之间的距离，以及采用并行访问模式，实现了低延迟。 显存位宽是GDDR5的四倍，达到了1024-bit；时钟频率为500MHz，远远小于GDDR5的1750MHz；显存带宽大于100GB/s，而GDDR5的一颗芯片为25GB/s；数据传输速率远高于GDDR5；芯片面积是GDDR5的1/3。 低功耗：降低工作电压，以及减少信号线的数量和长度，实现了低功耗。 HBM自问世以来，其参数经过了几代的演进与优化。每一代HBM产品的推出都比上一代有几倍的性能提升。目前HBM已经来到了HBM3E量产的节点，下一步将朝着HBM4进发。 2.2海外三大存储原厂三分HBM天下 图表：海力士、三星、美光的HBM产品路线图全球HBM市场长久以来都由三大存储原厂牢牢占据龙头地位。根据高盛的数据，2023年HBM市场的竞争格局中，海力士约占54%，三星占41%，美光占5%。海力士目前占据市场主导地位，三星紧随其后追击，而美光虽然目前市场份额较小，但正在积极扩大产能和技术。由于HBM3E产能不足，三大巨头或都进入英伟达供应链，目前美光抢先获得英伟达H200订单，海力士也开始量产供货英伟达，三星已通过AMD MI350的验证，英伟达方面的验证时间稍晚于其他两家。 2.3国内HBM初起步，三大巨头推进产线建设 国内DRAM市场大部分份额仍然被三星、海力士和美光等占据，还有部分台湾厂商南亚科技、华邦电子等角逐市场份额，国内厂商的市场份额相对较小，主要DRAM厂商有兆易创新、北京君正、东芯股份、长鑫存储、紫光国微、福建晋华等。 国内HBM国产化刚刚起步，存储巨头加速推进。国内存储厂商武汉新芯和长鑫存储正处于HBM制造的早期阶段，主要是为了应对未来人工智能（AI）和高性能计算（HPC）领域的应用需求。其中武汉新芯正在针对HBM建造月产能3000片晶圆的12英寸工厂，长鑫存储则与封装和测试厂通富微电合作开发了HBM样品，并向潜在的客户展示。 除存储大厂以外，华为也准备建立其内部HBM供应链。据TheInformation报道，华为已开始将其重点转移到有吸引力的HBM市场。该联盟现在与从事存储器业务的公司合作。HBM在AI市场的动态中发挥着至关重要的作用，特别是在制造AI加速器时，HBM在中国的供应受到更大程度的限制下，建立HBM内部生产链将有利提振未来国内AI能力。 资料来源：中商产业研究，东芯半导体，爱企查，华鑫证券研究 2.4 AI需求强劲驱动，HBM量价齐升 AI和高性能计算（HPC）领域的需求是HBM增长的主要驱动力。HBM显著的高速、高带宽和低功耗特性使得它在AI和高性能计算领域中具有广泛的应用前景。AI服务器主流GPU如H100、A100、A800以及AMD MI250、MI250X等基本都配备了HBM。后续推出的王牌产品也持续升级HBM最新迭代版本，对HBM需求居高不下。 全球各大科技巨头都在竞购HBM，AI浪潮下HBM市场规模将快速增长。根据腾讯科技的测算，2024年全年，全球经由CoWoS封装的GPU产品，产能约为900万颗。按照单颗GPU逻辑芯片搭配6颗HBM内存颗粒的标准计算（部分搭配8颗HBM），全球2024年的GPU，对HBM内存的需求就在5400万颗以上（12层为主）。 AI爆发带动HBM增长的核心点：1）AI服务器催化HBM需求爆发：据美光公司测算，相较于传统服务器，AI服务器中的DRAM需求量提升了8倍；2）单个GPU的HBM数量增加：例如英伟达的H100用6个HBM，B100则用到8个HBM；3）HBM升级迭代，堆叠层数以及容量均有增加：例如B100采用的HBM3E有8层堆叠，单个容量达到24GB，B200使用12层堆叠HBM，容量达到36GB。 TrendForce预估2023年全球HBM需求量将年增近60%，2024年将再成长30%。 2.4 AI需求强劲驱动，HBM量价齐升 中国企业陆续推出AI大模型，国内HBM打开成长空间。据统计，自3月16日百度率先公布“文心一言”以来，国内已有超过30项大模型产品亮相。AI大语言模型趋势带来的HBM需求高峰使得HBM供不应求。《2023-2024中国人工智能计算力发展评估报告》指出，中国AI算力市场规模正在快速成长扩大，2023年中国AI服务器市场规模将达91亿美元，同比增长82.5%；智能算力规模预计达到414.1EFLOPS（每秒百亿亿次浮点运算），同比增长59.3%；2022-2027年期间，年复合增长率预计达33.9%。 国内HBM存在供需缺口，国产替代从0到1。随着美国将限制HBM芯片对华出口，这种情况叠加HBM供不应求使得国内厂商购买到HBM的可能性大大下降，企业将转向国内HBM厂商，未来中国HBM市场空间广阔。根据IDC的数据，2022年上半年到2023年上半年，中国AI加速卡出货约109万张，英伟达市场份额为85%，华为市占率为10%，百度市占率为2%、寒武纪和燧原科技均为1%。随着国内HBM从0到1实现突破后，市占约15%的国产算力芯片厂商将会逐步切换为国产HBM，替代空间广阔。图表：2023年中国AI加速卡市场份额 2.4 AI需求强劲驱动，HBM量价齐升 DRAM价格进入涨价周期，HBM附加值水涨船高。DRAM市场经历了2022年平均销售单价的下滑后，三星在2023年Q4大幅减产，库存压力改善后DRAM出货拉升带动价格从2023年9月中旬开始持续上涨，2024年Q1投片量开始回升，产能利用率达到80%左右，下半年是旺季，需求预期将较上半年明显增加，产能会持续提升至Q4。而HBM此前受ChatGPT的拉动同时受限产能不足，HBM价格一路上涨，与性能最高的DRAM相比，HBM3的价格上涨了五倍，预计2024年HBM价格还会再上涨5-10%。HBM呈现量价齐升的态势，SEMI预计2024年市场规模达70亿美元，2030年达400亿美元，2022-2030年CAGR达63.85%。 0 3三大关键工艺占据产 业 链 价 值 高 地 3.1 HBM关键工艺涉及TSV、凸点制造、堆叠 HBM的制造流程主要分为四步，其中涉及TSV（硅通孔）、Bumping（凸点制造）、Stacking（堆叠）三大关键工序。 3.2 TSV：刻蚀成本近一半 TSV是HBM生产流程中最核心的工艺。TSV（Through Silicon Via）为硅通孔技术，是通过在芯片和芯片之间、晶圆