算力系列报告（一）：AI服务器催化HBM需求爆发，核心工艺变化带来供给端增量

AI服务器催化HBM需求爆发，核心工艺变化带来供给端增量—算力系列报告（一） 太平洋证券电子组张世杰博士分析师登记编号：S1190523020001太平洋证券电子组李珏晗分析师登记编号：S1190523080001 报告摘要 •HBM助力AI服务器向更高带宽、容量升级。HBM即高带宽存储，由多层DRAMdie垂直堆叠，每层die通过TSV穿透硅通孔+μbumps技术实现与逻辑die连接，使得8层、12层die封装于小体积空间中，从而实现小尺寸于高带宽、高传输速度的兼容，成为高性能AI服务器GPU显存的主流解决方案。目前迭代至HBM3的扩展版本HBM3E，提供高达8Gbps的传输速度和16GB内存，由SK海力士率先发布，将于2024年量。 •需求端：HBM成为AI服务器标配，催化其市场规模超50%增长。HBM主要应用场景为AI服务器，最新一代HBM3e搭载于英伟达2023年发布的H200。根据Trendforce数据，2022年AI服务器出货量86万台，预计2026年AI服务器出货量将超过200万台，年复合增速29%。AI服务器出货量增长催化HBM需求爆发，且伴随服务器平均HBM容量增加，经测算，预期25年市场规模约150亿美元，增速超过50%。 •供给端：三大厂产能供不应求，核心工艺变化带来新增量。HBM供给厂商主要聚集在SK海力士、三星、美光三大存储原厂，根据Trendforce数据，2023年SK海力士市占率预计为53%，三星市占率38%、美光市占率9%。HBM在工艺上的变化主要在CoWoS和TSV，配套供应链及国产替代厂商有望受益：1）封测：通富微电、长电科技、太极实业、深科技；2）设备：赛腾股份、中微公司、拓荆科技；3）材料：雅克科技、联瑞新材、壹石通、华海诚科。 •风险提示：下游服务器需求不及预期风险；行业竞争加剧风险；技术发展不及预期风险。 ⅠHBM助力AI服务器向更高带宽、容量升级……………………………………………3 需求端：HBM成为AI服务器标配，催化其市场规模超50%增长………………………9 供给端：三大厂产能供不应求，核心工艺变化带来新增量………………………14 Ⅳ主要公司分析…………………………………………………………………………20 HBM即高带宽存储器，应用场景集中在服务器GPU显存 •HBM（HighBandwidthMemory）即高带宽存储器，用于GPU与CPU之间的高速数据传输，主要应用场景集中在数据中心高性能服务器的GPU显存，小部分应用于CPU内存芯片。HBM同样为3D结构，由多层DRAMdie垂直堆叠，每层die通过TSV（Through Silicon Via）穿透硅通孔+μbumps技术实现与逻辑die连接，再通过中阶层与GPU/CPU/SoC连接，使得4层、8层、12层等数量die封装于小体积空间中。 资料来源：AMD、太平洋证券研究院 资料来源：AMD、太平洋证券研究院 HBM经多次处理速度迭代，现至HBM3的扩展版本HBM3E •HBM经多次处理速度迭代，现至HBM3的扩展版本HBM3E，助力服务器推理性能提升。HBM1最早于2014年由AMD与SK海力士共同推出，作为GDDR竞品，为4层die堆叠，提供128GB/s带宽，4GB内存，显著优于同期GDDR5。HBM2于2016年发布，2018年正式推出，为4层DRAMdie，现在多为8层die，提供256GB/s带宽，2.4Gbps传输速度，和8GB内存；HBM2E于2018年发布，于2020年正式提出，在传输速度和内存等方面均有较大提升，提供3.6Gbps传输速度，和16GB内存。HBM3于2020年发布，2022年正式推出，堆叠层数及管理通道数均有增加，提供6.4Gbps传输速度，传输速度最高可达819GB/s，和16GB内存HBM3E由SK海力士发布HBM3的增强版，提供高达8Gbps的传输速度，24GB容量，计划于2024年大规模量产。 HBM经多次处理速度迭代，现至HBM3的扩展版本HBM3E HBM助力AI服务器向更高带宽、容量升级 •目前主流显卡使用的显存为GDDR5，但在应用中仍存在痛点：1）消耗大量PCB面积：GPU核心周围分布12/16颗GDDR5芯片，而GDDR芯片尺寸无法继续缩小，占据更大空间，同时也需要更大的电压调节模块，2）GDDR5的功耗提升达到了对GPU性能提升产生负面影响的拐点：由于平台和设备需要在逻辑芯片与DRAM之间的实现功耗平衡，而当前GDDR进入功能/性能曲线的低效区，不断增长的内存功耗在未来会阻碍GPU性能提升。 资料来源：AMD、太平洋证券研究院 资料来源：AMD、太平洋证券研究院 HBM助力AI服务器向更高带宽、容量升级 •相较于传统GDDR解决方案，HBM在低功耗、超带宽、小尺寸等方面优势显著。 资料来源：AMD，太平洋证券研究院 ⅠHBM助力AI服务器向更高带宽、容量升级……………………………………………3 需求端：HBM成为AI服务器标配，催化其市场规模超50%增长……………………9 供给端：三大厂产能供不应求，核心工艺变化带来新增量………………………14 Ⅲ 主要公司分析…………………………………………………………………………20 需求端：HBM广泛应用于AI服务器，市场主流服务器匀已采用HBM方案 •HBM因其高带宽、低功耗、小体积等特性，广泛应用于AI服务器场景中。HBM的应用主要集中在高性能服务器，最早落地于2016年的NVP100GPU（HBM2）中，后于2017年应用在V100（HBM2）、于2020年应用在A100（HBM2）、于2022年应用在H100（HBM2e/HBM3），最新一代HBM3e搭载于英伟达2023年发布的H200，为服务器提供更快速度及更高容量。 资料来源：英伟达官网、太平洋证券研究院 资料来源：英伟达官网、太平洋证券研究院 需求端：HBM广泛应用于AI服务器，市场主流服务器匀已采用HBM方案 需求端：AI服务器出货量增长催化HBM需求爆发，市场规模高速增长 •AI服务器出货量增长催化HBM需求爆发，经测算，HBM 2025年市场规模将超过150亿美元，增速超50%。全球服务器增虽长较为稳健，但随着大数据模型训练需求AI服务器出货量呈爆发式增长，2022年AI服务器出货量86万台，渗透率不断提升，AI服务器在整体服务器占比10%左右，预计2026年AI服务器出货量将超过200万台，预计年复合增速29%。同时，主流AI服务器HBM容量需求从40GB向80GB、141GB升级，带动平均HBM容量提升。我们测算，2025年HBM全球市场规模将达到150亿美元，同比增速68%。 资料来源：TrendForce、太平洋证券研究院 资料来源：太平洋证券研究院 需求端：AI服务器出货量增长催化HBM需求爆发，市场规模高速增长 ⅠHBM助力AI服务器向更高带宽、容量升级……………………………………………3 需求端：HBM成为AI服务器标配，催化其市场规模超50%增长………………………9 Ⅲ供给端：三大厂产能供不应求，核心工艺变化带来新增量………………………14 主要公司分析…………………………………………………………………………20 供给端：三大存储原厂占据主要市场份额 •HBM供给厂商主要聚集在SK海力士、三星、美光三大厂，SK海力士领跑。三大存储原厂主要承担DRAMDie的生产及堆叠，展开技术升级竞赛，其中SK海力士与AMD合作发布全球首款HBM，23年率先供应新一代HBM3E，先发奠定市场地位，主要供应英伟达，三星供应其他云端厂商，根据TrendForce数据，2022年SK海力士市占率50%、三星市占率40%、美光市占率10%左右，2023年SK海力士市占率预计为53%，三星市占率38%、美光市占率9%。 资料来源：Trendforce、太平洋证券研究院 资料来源：国家统计局、太平洋证券研究院 供给端：三大存储原厂占据主要市场份额 供给端：存储原厂加码HBM产能投放，预计24年提升2.5倍 •存储原厂加码HBM产能，SK海力士24年产能计划翻倍。SK海力士HBM3E将于24年上半年量产，目标24年HBM产能翻倍，24年资本支出规划虽与23年基本持平，但TSV相关投资将同比增加一倍以上。美光HBM3E将于24年初开始量产，预计24年资本支出75-80亿美元，同比略高，主要用于HBM量产。三星规划在天安厂新封装线，用于大规模生产HBM，预计追加投资7亿美元。 供给端的变化：核心工艺变化带来带来增量 •HBM在封装工艺上的变化主要在CoWoS和TSV。1）CoWoS：是将DRAMDie一同放在硅中介层上，通过过ChiponWafer（CoW）的封装制程连接至底层基板上，即将芯片通过ChiponWafer（CoW）的封装制程连接至硅晶圆，再把CoW芯片与基板连接，整合成CoWoS。当前，HBM与GPU集成的主流解决方案为台积电的CoWoS，通过缩短互连长度实现更高速的数据传输，已广泛应用于A100、GH200等算力芯片中。 资料来源：台积电、太平洋证券研究院 资料来源：台积电、太平洋证券研究院 供给端的变化：核心工艺变化带来带来增量 •HBM在封装工艺上的变化主要在CoWoS和TSV。2）TSV：TSV硅通孔是实现容量和带宽扩展的核心，通过在整个硅晶圆厚度上打孔，在芯片正面和背面之间形成数千个垂直互连。在HBM中多层DRAMdie堆叠，通过硅通孔和焊接凸点连接，且只有最底部的die能向外连接到存储控制器，其余管芯则通过内部TSV实现互连。 资料来源：公司公告、太平洋证券研究院 HBM助力AI服务器向更高带宽、容量升级……………………………………………3 需求端：HBM成为AI服务器标配，催化其市场规模超50%增长………………………9 Ⅱ 供给端：三大厂占据核心份额，核心工艺变化带来新增量………………………14 Ⅲ Ⅳ主要公司分析…………………………………………………………………………20 配套链——封测 •通富微电：公司具备国内顶级2.5D/3D封装平台及超大尺寸FCBGA研发平台，并且完成高层数再布线技术开发，为客户提供晶圆级和基板级Chiplet封测解决方案，已量产多层堆叠NAND Flash及LPDDR封装，是国内首家完成基于TSV技术的3DS DRAM封装开发的封测厂。公司通过收购AMD苏州及AMD槟城各85%股权，实现与大客户AMD深度绑定，AMD于2023年推出MI300，并于23Q4陆续降幅，预计24年将迎来大幅放量，公司将充分受益。 •长电科技：公司与客户共同开发基于高密度Fanout封装技术的2.5DfcBGA产品，TSV异质键合3DSoC的fcBGA通过认证。公司的封测服务覆盖DRAM、Flash等，深耕行业20余年，在16层NANDflash堆叠、35um超薄芯片制程能力、Hybrid异型堆叠等方面行业领先。公司XDFOI技术平台布局AI、5G、汽车、工业等领域运用，XDFOIChiplet量产。 •太极实业：公司子公司海太半导体与SK海力士签订5年合作协议，SK海力士持有海太半导体45%股权，海太与SK海力士形成深度绑定，海太为SK海力士提供DRAM封装服务。SK海力士23年占据HBM市场约50%份额，伴随24年HBM出货量爆发，公司有望承接溢出封测需求。 •深科技：公司通过收购沛顿科技切入存储封测，沛顿科技专注高端封测，具备DDR5、LPDDR5封测量产能力。沛顿Bumping项目已通过小批量试产，聚焦FC倒装工艺、POPt堆叠封装技术的研发、16层超薄芯片堆叠技术的优化。 配套链——设备 •赛腾股份：公司通过收购全球领先的晶圆检测设备供应商日本OPTIMA进军晶圆检测装备领域，公司产品涉及固晶设备、分选设备，晶圆包装机、晶圆缺陷检测机、倒角粗糙度量测、晶圆字符检测机、晶圆