Token视角看AI硬件的斜率之争

从Token视角看AI硬件的斜率之争 glmszqdatemark2026年07月19日 推荐 维持评级 Agent模式下存储、光传输需求与模型定价逻辑。1）定义三大核心参数：累积序列总长度Nk、模型隐藏层维度d、模型总层数L。2）存储与光传输需求：KVCache存储量公式随序列长度Nk严格线性增长，Agent每轮推理都会持续增加存储压力。光传输总流量公式与存储量同阶线性增长。3）算力与存储瓶颈切换：单纯扩大模型规模时，GPU算力是核心瓶颈；Agent多轮深度推理时，HBM容量与带宽成为首要瓶颈。4）模型API定价本质：输入价格和模型计算量正相关，输出价格和KV缓存读写量正相关。密集大模型数值大，定价高昂；MoE模型等效激活维度低、小型模型结构精简，定价更具优势；Agent场景会进一步放大高规格模型的成本劣势。 分析师李哲执业证书：S0590525110028邮箱：lizhe_yj@glms.com.cn 推理需求推动HBM迭代升级。1）HBM发展趋势：受大模型推理驱动，HBM走向容量扩容、带宽跃升、代际升级，主流从HBM3e向HBM4切换，英伟达、谷歌等厂商均推出多款高规格HBM芯片产品。2）HBM容量与带宽提升原理：容量依靠制程微缩+3D堆叠，通过TSV垂直堆叠多层DRAM芯片提升存储密度。带宽依托高并行数据通道、TSV缩短信号路径、翻倍I/O引脚。3）技术瓶颈：TSV工艺存在孔径、堆叠层数物理限制，高层堆叠易出现翘曲、散热、良率问题；台积电CoWoS封装产能不足，成为HBM产业链核心卡点。 分析师李思韦执业证书：S0590525110031邮箱：lisiwei@glms.com.cn HBM封装技术演进与玻璃基板应用。1）主流封装形态：当前以2.5D封装（CoWoS）为主，依靠硅中介层实现GPU与HBM互联；未来向3D封装演进，进一步缩短数据的传输距离、提升性能。2）玻璃基板（TGV）替代方向：可替代传统有机封装基板、硅中介层，解决大尺寸封装翘曲问题，具备低介电损耗、高互连密度等优势。3）配套前沿技术：混合键合缩小HBM与逻辑芯片间距，降低延迟与功耗；逻辑内存融合（CiM）缓解内存墙问题；分层存储架构区分高低频数据，平衡成本与容量。 头部厂商技术路线与战略布局。1）Intel：主推EMIB+玻璃芯基板方案，推出10-2-10厚芯玻璃基板原型，用玻璃替代基板核心层，打造大尺寸、低翘曲的封装平台。2）台积电：升级CoWoS为CoPoS，以玻璃中介层替换硅中介层，结合面板级封装，规划2028-2029年实现量产；融合3D SoIC技术，并提前布局片上光互连。3）三星：跟随行业趋势，跟进HBM迭代与玻璃基板、先进封装技术研发，适配AI芯片高带宽、高集成度需求。 相关研究 1．2026年工程机械行业销量点评：3月挖机内销需求释放，外销持续高增-2026/04/092．太空行业深度报告：SpaceX：构建全球太空基建与算力生态的“超级巨头”-2026/03/303．机械行业太空光伏深度报告：双轨驱动：商业航天+算力革命，太空光伏迎新纪元-2026/03/264．工程机械系列报告：内外需V型复苏在即，重视工程机械布局机会-2026/03/255．液冷行业动态报告：英伟达业绩印证行业景气，国产液冷迎黄金窗口-2026/03/18 投资建议：1）HBM产业链：AI Agent多轮推理持续拉高KV Cache需求，倒逼HBM完成容量、带宽、代际三重升级，叠加车载算力等新增需求，市场规模持续扩容，是算力硬件中确定性最高的赛道之一。2）先进封装：HBM与AI芯片高度依赖先进封装，台积电CoWoS产能瓶颈持续凸显。传统2.5D封装稳步放量，3D封装逐步导入高端场景，行业成长周期拉长。3）玻璃基板+TGV产业链：玻璃基板可解决传统硅中介层成本高、有机基板翘曲的痛点，是台积电CoPoS、Intel新一代封装的核心方案，2028年前后迎来规模化量产，长期替代空间千亿级别。同时玻璃基板具备光互连兼容属性，适配远期CPO技术趋势。 风险提示：1）AI需求不及预期风险；2）半导体周期波动风险；3）地缘政治与供应链风险。 投资聚焦 研究背景 大模型AI Agent进入规模化落地阶段，行业竞争逻辑从传统算力比拼转向存储、带宽与互联能力比拼。当前单卡HBM难以承载权重与KV缓存，多卡并行成为标配，进一步推高HBM容量、带宽以及光互连的需求。在此趋势下，HBM、先进封装、玻璃基板三大产业链进入景气上行周期，也成为AI硬件领域核心的投资主线。 区别于市场的观点/方法 玻璃基板+TGV将成为先进封装长期主流路线，通过模型结构、缓存、硬件、封装的全链路逻辑开展分析。 近期催化 HBM代际迭代加速：2026年HBM4进入批量出样与小规模量产阶段，英伟达Rubin、谷歌正在完成从HBM3e到HBM4的存储技术代际升级，单卡带宽大幅提升。 先进封装产能紧张加剧：台积电CoWoS产能持续紧缺，海外AI芯片厂商订单排队，倒逼行业加快2.5D/3D封装扩产以及玻璃基板替代方案导入，国内高端封测企业迎来海外订单溢出机会。 结论与建议 1）AI Agent驱动行业由“算力为王”转向“存储与带宽为王”，HBM、先进封装、玻璃基板构成递进式产业机会。 2）聚焦TGV设备、玻璃基板制造、HBM专用设备，把握HBM设备国产替代机遇。3）布局高端半导体玻璃原片、混合键合、逻辑内存融合（CiM）等前沿领域，卡位下一代3D封装、内存计算等技术变革红利。 目录 1Agent模式下存储与光需求对比..............................................................................................................................41.1核心变量定义......................................................................................................................................................................................41.2存储与光的需求比较.........................................................................................................................................................................41.3不同模型定价差异的本质.................................................................................................................................................................61.4 Agent模式的核心变量是k..............................................................................................................................................................62推理驱动HBM容量与带宽升级...............................................................................................................................82.1HBM如何提升容量和带宽..............................................................................................................................................................92.2TSV打孔技术解析及HBM提升的物理上限..........................................................................................................................102.3当前HBM与CPU封装方式及未来技术演进............................................................................................................................113可被玻璃基板替代的封装层分析............................................................................................................................133.1玻璃基板可能替代的环节及目的..................................................................................................................................................143.2玻璃基板的优劣势对比...................................................................................................................................................................154台积电与Intel技术路线与战略立场......................................................................................................................154.1 Intel：玻璃基板的破局先锋...........................................................................................................................................................164.2台积电：以CoPoS为核心............................................................................................................................................................165投资建议..............................................................................................................................................................176风险提示..............................................................