后续梳理将按如下逻辑推进:先讲未来3-5年GPU、TPU的技术路线演进,再过渡到整卡整机架构调整,接着分析核心元器件需求量变化,最后梳理单位价值变动与BOM成本拆分。本次梳理将以头部厂商公开的技术路线为依据,覆盖GPU、TPU未来3-5年的硬件演进及元件供需、成本拆分分析。开篇先明确整体框架,第一部分将从制程、算力、互联、显存四大维度梳理技术演进方向,目前已整理出台积电先进制程的迭代性能参数,以及相关产品的落地节奏与产能共享规则。
我还梳理了AI加速硬件在算力、互联维度的演进方向:算力层面移动端消费级芯片、云端加速芯片的算力性能都将实现大幅跃升,互联能力则向高带宽低延迟的多架构方向升级,各厂商均有对应技术迭代路线。
显存/内存规格将全面向高带宽方向升级,未来3-5年AI加速芯片产品线都会搭配更高带宽的HBM系列显存,匹配大模型参数规模增长带来的高数据吞吐需求。同时AI加速硬件的整卡、整机系统架构将迎来四大核心调整,其中CPU角色与配比全面升级,需求直接激增4倍,还将以芯粒形式嵌入下一代AI加速平台,带动周边配套同步升级。
AI加速硬件架构的另外两项核心调整已明确:供电与散热体系升级为核心刚需,整卡封装与硬件资源配置将针对性优化,不同定位的加速卡会匹配差异化的硬件设计。
ABF基板供需紧张,AI端单颗面积是消费PC端8-12倍,将消耗超70%总产能,整卡基板规格升级;内存互联架构也将适配新场景需求。
CPU与GPU间的互联带宽已实现大幅升级,合理提升CPU配置可显著提升首次生成token效率,接下来我将分析新一代GPU、TPU硬件系统的元器件需求量变化。
针对算力芯片的核心元器件需求变化,我梳理出三个核心方向:一是单卡TDP持续攀升,算力性能同步数倍级提升;二是显存需求被数据量爆炸驱动高速提升,增速远高于GPU出货量增速;三是高速接口全面切换为定制化方案,传输带宽需求出现量级式增长。
AI服务器硬件升级还带动两类配套产业价值量提升:PCB单机/单柜价值量随架构升级大幅抬升,电源相关元器件需求弹性显著高于GPU出货增速。
散热方案随单卡功耗陡增全面升级,液冷逐步替代传统风冷,相关组件需求及价值量快速提升。各核心元器件价值随代际迭代持续抬升,XPU单位GW算力对应的单机配套营收上行,核心驱动为XPU芯片单价大幅提升。
单位GW芯片配套价值随产品代际迭代跨级提升,HBM仍是GPU核心成本占比最高的环节,先进封测价值量随AI算力需求爆发大幅提升,已成为与先进制程同等重要的价值创造环节。
受AI服务器升级迭代驱动,单GPU对应的PCB价值量持续走高,同时新一代算力平台对电容的需求明显提升,电容单位GPU价值量也将持续提升。
我梳理了典型GPU算力硬件的BOM成本结构,整机四年折旧口径下GPU占比47%为最大成本项,供电及散热环节占21%;单颗高端GPU核心硬件成本中,高带宽内存占比最高,其余依次为先进封装、逻辑芯片制造、辅助组件。
我们可以基于全球头部厂商公开的GPU、TPU未来3-5年技术路线图,自上而下梳理对应的AI加速硬件全链路变化,同时完成各核心板块的元件需求量与价值拆分。
首先,GPU与TPU的核心参数将沿着四大维度持续迭代,构成后续硬件变化的核心基础。制程工艺层面,行业将从当前主流的7nm、5nm逐步向3nm、2nm节点推进,5nm相较7nm可实现约1.8倍逻辑密度、15%性能提升或30%功耗降低;3nm在此基础上再实现约18%性能提升或32%功耗降低,逻辑密度进一步提高约60%;后续规划中的2nm技术相较3nm还将继续带来10–18%的性能提升以及36%的功耗降低 【6】 。落地节奏上,高通已经在2025年落地第三代N3P 3nm制程的骁龙X2 Elite系列芯片 【1】 ,英伟达Rubin系列新GPU也将在2026年启动出货 【13】 ,TPU产品线此前已落地台积电7nm工艺,后续也将向5nm、3nm高端先进制程推进,和GPU共享稀缺的台积电高端产能资源 【7】 。算力层面也将实现大幅跃升,移动端/消费级AI芯片端,高通2024年的骁龙X Elite系列NPU持续算力为45TOPS,2025年迭代到骁龙X2 Elite系列后,NPU最高算力直接提升到80TOPS,实现近翻倍增长 【1】 ;云端AI加速芯片端,英伟达通过Blackwell/Rubin、GB200等新品持续拉高算力上限,TPU产品从v4的275TFLOPS峰值算力迭代到v5后,进一步通过增加核心数量大幅提升并行计算能力,后续迭代版本还会持续针对AI训练、推理场景做定向算力优化,进一步拉开和通用GPU的场景化算力效率优势 【2】 【5】 【8】 。互联能力方面将向高带宽、低延迟的多架构方向升级,英伟达的GPU产品线会持续迭代NVLink技术,搭配光通信方案不断拉高带宽,支撑GH200等产品实现高效的GPU显存互联共享,后续新平台还会继续提升NVLink带宽,满足大模型集群的多芯片协同需求 【10】 【11】 ;TPU产品线从v4版本开始首次采用3D环面(3D torus)互联架构,相比前代2D环面方案大幅提升带宽与性能,v5版本进一步优化互联结构、降低传输延迟,后续迭代还会配合Ultra Ethernet、UALink等开放互联标准,构建适配多芯片集群的高可靠互联体系 【2】 【8】 。显存/内存规格也将全面向高带宽方向升级,HBM供给是当前GPU、TPU共同的核心瓶颈,未来3-5年两大产品线都会持续搭配更高带宽的HBM系列显存,TPU v4版本的内存带宽已经达到1.2TB/s,较前代提升33%,后续迭代产品还会继续拉高显存带宽上限,匹配大模型参数规模不断增长带来的高数据吞吐需求 【3】 【8】 。
基于上述技术路线的迭代要求,AI加速硬件的整卡、整机系统架构也将随之产生四大核心调整。首先是CPU角色与配比全面升级,过去CPU仅作为服务器算力的配套环节,现在已经成为AI系统架构的核心变量,不再是单纯的请求转发者,而是升级为AI工厂里连接不同计算单元、调度系统资源的关键协调角色。智能体与推理场景普及后,CPU和GPU的配比从传统的1:4-1:8收紧到1:1-1:2,部分场景甚至达到4:1,CPU需求直接激增4倍。比如NVIDIA的Vera CPU和Rubin GPU采用1:2配比,谷歌TPU v8系列也和配套Axion CPU采用1:2配比,后者还新增了工作负载调度、遥测数据收集、跨节点数据移动三类核心协调职责。同时CPU还开始以芯粒形式嵌入下一代AI加速平台,带动周边内存通道、PCIe/CXL接口等配套同步升级 【1】 【24】 【25】 【21】 。其次是供电与散热体系从配套转为核心刚需,随着GPU、TPU等AI芯片单颗功耗持续跃升,供电系统彻底脱离传统低功率分散式架构,向更高电压、更高效率、更高功率密度的体系升级,行业还在快速向800V机架架构演进,侧车式电力单元逐步整合传统PSU、机架级BBU和服务器内大容量电容,大幅提升单位千瓦的功率半导体价值量。散热侧液冷也从可选的节能方案,转变为高功率AI集群的基础配置,二者不再是后端配套,而是直接决定AI芯片性能能否完全释放、集群能否稳定运行的核心基础设施 【17】 【20】 。第三是整卡封装与硬件资源配置针对性优化,下一代AI加速卡开始向多芯粒、大量HBM封装的方向演进,还会在定制化AI加速器中嵌入更多SRAM,单GW算力对应的半导体整体价值量明显提升。同时不同定位的加速卡会针对性调整硬件配置:比如走训练路线的TPU v8t采用3D圆环拓扑,搭配216GB HBM;走推理路线的TPU v8i采用Boardfly拓扑,把HBM容量提升到288GB,适配推理场景大带宽的需求。此外AI端ABF基板的单芯片面积达到消费PC端的8至12倍,即便AI GPU、ASIC出货量仅占整体基板出货量的35%,也会消耗超过70%的ABF总产能,整卡的基板规格也随之大幅升级 【16】 【21】 。最后是内存与互联架构适配新场景需求,为了适配AI智能体的大KV缓存、长上下文窗口需求,整机开始普及基于CXL技术的解耦内存池架构,由CPU统筹管理大容量共享RAM池,相比直接挂在GPU侧的HBM,能更高效承载长任务链产生的海量数据。同时CPU和GPU之间的互联带宽也大幅升级,比如NVIDIA的Vera CPU就把NVLink-C2C互联带宽从Grace时代的900GB/s提升到1.8TB/s,实现系统级的算力均衡,避免CPU性能拖慢GPU的首次生成token速度,实测合理提升CPU配置后,首次生成token的效率最高可提升5.4倍 【23】 【25】 。
在架构调整的基础上,新一代GPU、TPU硬件系统各核心元器件的单卡/单机需求量整体呈现全面升级、价值量与需求弹性大幅提升的趋势。算力芯片层面,单卡TDP(热设计功耗)持续跳升,算力性能同步大幅迭代:英伟达GPU从2016年P100的250W,一路攀升至最新Rubin架构VR200的1800-2300W;谷歌TPU从v4的300W升级到2025年发布的TPU v7p Ironwood的959W,英伟达2024年发布的GB200单卡功耗更是达到2700W,算力性能随功耗同步实现数倍级提升 【32】 【35】 【36】 。显存需求不再随GPU核数线性增长,而是被“数据量爆炸”驱动高速提升:新一代GPU的显存容量、带宽均大幅跃升,比如英伟达H100显存为80GB、带宽3.35TB/s,到Rubin架构VR200已经升级到288GB显存、20TB/s带宽,单位算力配套的内存容量显著提高,显存需求增速远高于GPU出货量增速 【29】 【36】 。高速接口从传统通用PCle插槽全面切换为定制化高速互连方案:新一代硬件改用定制化Nvlink背板实现高效数据传输,搭配支持TB级高带宽传输的高速片上网络,单颗芯片内部IP模块的传输速率达到每秒10TB量级,高速接口的数量、传输带宽需求都出现量级式增长 【30】 【37】 。PCB单机/单柜价值量大幅提升,层数和结构复杂度显著升级:AI服务器从传统机箱形态转向机柜形态,GB200之后CPU与GPU深度融合共板,Rubin架构下采用44-78层正交背板PCB替代部分传统线缆,仅英伟达DGX H100的板组PCB单机价值量就达到1.57万元,新一代平台的PCB价值量还会进一步抬升 【30】 【38】 。电源相关元器件需求弹性显著高于GPU出货增速:电容等电源类元器件的驱动是“GPU数量×单GPU功率/价值量×系统结构复杂度×价格系数”的共同作用,单GPU功率抬升、供电复杂度升级,再叠加互连密度提升、削峰稳压、冗余设计的需求,单卡配套的电源类元器件价值量大幅上涨 【29】 。散热方案随功耗陡增全面升级,液冷逐步替代传统风冷:随着单卡功耗突破千瓦级,传统风冷已经无法满足散热需求,液冷成为数据中心的标配方案,液冷相关的散热组件需求量、价值量都随新一代高功耗GPU/TPU的普及快速提升 【32】 【35】 。
从单位价值量变动趋势来看,各核心元器件的价值随代际迭代持续抬升。XPU(含GPU/TPU等算力芯片)整体配套价值方面,单位GW算力对应的单机芯片配套营收会持续上行,核心驱动是XPU算力芯片单价大幅抬升:芯片内部不仅集成稀疏运算相关专用模块、内嵌片上SRAM,还在同颗多晶粒封装XPU里整合CPU核,并配套大容量HBM堆叠封装。单GW价值随产品代际迭代稳步走高,并非按月、按季度平滑涨价,而是跨一代新品落地后,单位GW的芯片配套价值就上一个台阶 【41】 。HBM高带宽内存长期是GPU核心成本中占比最高的环节,该高占比的现象还在持续,且在2026年上半年得到了进一步加强 【44】 。先进封测环节的价值量随AI算力需求爆发大幅提升,工艺复杂度是核心驱动因素,先进封装已经从传统的低成本环节跃升为与先进制程同等重要的价值创造环节,单Wafer先进封装价值量已经和7nm先进制程处于同一数量级。比如英伟达B200 GPU中,CoWoS及测试成本1367美元/颗,已经接近先进制程芯片制造环节的1500美元/颗;博通TPUv6中,封测和芯片制造的成本几乎完全持平 【45】 。PCB板方面,AI服务器升级迭代驱动单GPU对应的PCB价值量持续通胀:英伟达DGX A100 AI服务器对应单GPU PCB价值量约175美元,到DGX H100时代单GPU PCB价值量达到211美元,较上一代提升21%,背后是高多层、HDI需求快速提升,生产工艺、上游材料性能持续升级带来的价值抬升 【49】 。配套电容的需求由“数量×单机价值量×结构复杂度×价格系数”复合驱动,新一代算力平台的功耗、系统复杂度、供电稳定性要求更高,对电容的需求明显增加,叠加部分系统优化能力弱的客户倾向于增加电容冗余,电容的单位GPU价值量也会持续提升,整体需求弹性显著高于GPU出货增速 【42】 。
从整体BOM成本结构拆分结果来看,以典型GPU算力硬件为例,从整机机时成本(按四年折旧口径)来看,GPU本身是绝对的成本大头,占比达到47%,其次是供电及散热环节,占比21% 【44】 。如果进一步拆分单颗高端GPU的核心硬件成本,以B200为例,高带宽内存(HBM)为2900美元,先进封装为1100美元,逻辑芯片制造为900美元,辅助组件为480美元 【44】 。
© 2018-2026 苏州互方得信息科技有限公司
苏ICP备17077178号|
苏公网安备 32059002001943号|增值电信业务经营许可证:苏B2-20240803