整合GPU、TPU相关内容形成连贯报告的工作将由我推进,具体框架已初步拟定。我已明确报告第一部分的核心内容,将梳理GPU、TPU的制程、算力等核心迭代方向及对应参考依据。
第二部分将梳理适配芯片迭代的AI计算硬件核心架构调整方向,涵盖主机侧CPU升级、服务器形态多元化等多个维度,内容均配有对应参考标注。
我已经梳理完后续两部分内容的框架:第三部分将分析核心元件的需求量变化,涵盖MLCC、电子级PPO等多类元件的需求增长情况;第四部分将从多个维度展开BOM成本拆分,覆盖各细分市场的占比及相关成本数据。
第五部分内容将围绕整体出货预测、总需求规模和价格走势展开,涵盖GPU与ASIC出货量变化、相关元器件需求增长及价格趋势。目前我已梳理完AI硬件分析的开篇内容,明确了从GPU、TPU技术迭代维度切入的分析框架,完成了制程工艺、算力性能、存储配置三个核心演进方向的内容整理。
芯片互联将推进多类协议落地,集群、整机柜互联也有对应演进方向,AI计算硬件主机侧架构将完成升级调整。
AI服务器硬件形态将迎来适配迭代,衍生多种新型架构,散热架构将向风冷/液冷混合演进以适配新一代高功耗AI芯片,供电体系也将全面重构以满足更高功率输出需求。
我明确了AI服务器后端网络、配套板卡接口及算力配比的升级方向:后端网络将搭建专门适配AI集群的架构,配套板卡接口全面升级,算力配比持续优化,适配新一代AI芯片与大规模集群调度需求。
伴随代际算力跃迁,AI硬件各核心板块的单台设备元件需求量呈现显著爆发式增长,MLCC用量随GPU封装数、电源路数提升持续抬升。电子级PPO、CPU、PCB三类AI硬件核心耗材的需求均出现显著增长,其中CPU算力需求较传统AI数据中心的单GW需求较前代实现约4倍增长,单柜PCB价值也较前代大幅提升。
除前述需求外,单机柜配套的功率、被动元件及相关芯片需求量同步爆发,2024年切换第三代AI加速卡后,智算系统直接材料成本占比提升、封装测试占比下降。AI服务器存储系统BOM成本占比大幅提升,HBM是核心高价值元件,不同类型AI服务器成本结构差异显著,2026年AI芯片中存储相关成本占比已提升至50%左右。
以125kW主流AI机柜为测算基准,其功率器件BOM成本及各部件占比已梳理清晰,同时2026年全球AI基础设施市场规模及三大核心芯片板块的份额分布也已明确。
长期来看,AI芯片出货量将持续高增长,ASIC出货增速更快,2028年其出货量将正式超越GPU,2026年行业头部厂商的相关出货量预计也将明显提升。
下游核心元件需求同步爆发,CoWoS晶圆出货量、AI PCB市场规模均将实现翻倍增长,HBM需求也会随AI算力需求提升持续走高。
价格层面,AI PCB随技术升级稳步上行,DRAM已出现量价齐升态势,叠加上游原材料涨价传导,下游核心元件价格将维持高位向好走势。
我们可以从未来3-5年主流商用GPU、TPU的技术迭代路线出发,自上而下梳理对应的AI硬件体系变革,以及各核心板块的元件需求量、成本结构与市场走势。
首先是GPU、TPU产品的核心演进方向,将从四大维度推动全产业链升级。制程工艺上头部厂商芯片将沿着7nm→5nm→3nm→2nm路径持续升级,每一代新制程都带来显著的PPA(性能、功耗、面积)改善,2nm技术相较3nm可实现10-18%的性能提升以及36%的功耗降低,进一步支撑大模型训练推理效率提升 【9】 。算力性能方面,英伟达新一代Rubin平台已全面投产,AI训练性能较上一代Blackwell提升3.5倍,后续迭代将持续向超大算力规模突破 【10】 ;谷歌TPU延续专为机器学习定制优化的ASIC路线,2026年推出的七代Ironwood TPU已实现大规模商用交付,后续将持续放大AI专属算力效率的差异化优势 【4】 【10】 。存储配置上核心瓶颈HBM规格持续迭代,英伟达Rubin平台已配套HBM4内存,带宽较上代实现翻倍,后续HBM技术还将沿着更高带宽、更大单颗容量的路线演进,匹配大模型参数规模膨胀带来的高访存需求,缓解AI计算的存储墙问题 【2】 【10】 。互联能力层面,芯片间互联将同时推进英伟达NVLink等专属高速协议与Ultra Ethernet、UALink等开放互联标准落地,支撑多架构芯片多元生态互联 【1】 ;集群级互联将依托DPU承担机架内数据神经中枢角色,卸载非计算任务释放GPU/TPU算力,提升千卡级智算集群协同运行效率 【6】 ;整机柜互联则逐步向全液冷模块化设计演进,取消传统线缆改用高速PCB中板,进一步降低互联时延、提升信号传输稳定性 【10】 。
为匹配GPU、TPU的迭代节奏,AI计算硬件需要完成多维度的核心架构调整。主机侧计算架构将升级,CPU不再是传统服务器的附属环节,将成为AI工厂里连接不同计算单元、组织系统资源、提升运行效率的核心环节,甚至会以芯粒或多芯片封装的形式嵌入下一代AI加速平台,适配动态增长的推理、智能体等AI工作负载 【16】 。AI服务器硬件形态也将适配迭代,除了传统x86 CPU+GPU通过PCIe连接的基础架构外,还会衍生出集成式、模块化、多GPU互联等多种服务器架构,同时为匹配算力密度提升,将逐步从纯风冷架构向风冷/液冷混合架构演进,适配B200等新一代高功耗AI芯片的散热需求 【19】 【26】 。供电与散热体系将全面重构,随着单柜功耗从过往水平大幅提升至190-230千瓦,下一代甚至将达到600千瓦,供电侧需要升级为800VDC高压直流架构降低转换损耗,配套升级高压直流电源、液冷母排、冷板、大容量储能电容等器件,同时迭代更高功率的AI PSU产品,满足5.5-12kW甚至更高的功率输出要求 【10】 【18】 。后端网络架构将跳出传统面向通用服务器的前端网络设计,搭建专门适配AI集群的后端网络架构,满足极高吞吐量、极低延迟、零数据包损失的核心要求,支撑每两年增长十倍的AI流量传输,适配大规模GPU/TPU学习节点的扩展需求 【22】 【24】 。配套板卡与接口将全面升级,更新内存通道、PCIe/CXL接口规格,用中央PCB中板替代传统机柜线缆,大幅提升单柜PCB价值量,同时配套升级高规格HBM系列高带宽显存、1.6T光模块、800GB/s高带宽网卡,匹配新一代AI芯片的高速数据传输需求 【16】 【10】 。算力配比也将持续优化,AI服务器内部加速器与CPU的配比将从过往16:1的比例逐步优化至4:1,同时提升AI服务器头节点的CPU配置占比,适配大规模AI集群的调度管理需求 【28】 。
伴随代际算力跃迁,AI硬件各核心板块的单台设备元件需求量呈现显著的爆发式增长。MLCC用量随代际快速抬升:H100时代单机柜MLCC用量约4.8万颗,到GB300时代提升至约44万颗,VR200时代进一步增长到约60万颗,到Rubin Ultra NVL576时代更是跃升至约430万颗,由GPU封装数增加带动主板面积放大、电源路数增多带动板载电容用量倍增的双重效应驱动 【30】 。电子级PPO需求稳步增长,2023年单台AI服务器平均搭载4颗GPU,对应GPU端PPO需求为348克,到2027年单台AI服务器平均GPU个数提升至7颗,单台设备GPU端PPO需求增长至609克,叠加服务器CPU端的PPO需求,单台AI服务器整体电子级PPO用量提升明显 【33】 。CPU核心需求出现结构性爆发,传统AI数据中心每GW仅需约3000万个CPU核心,到AI Agent时代每GW对应的CPU核心数飙升至1.2亿个,即使GPU数量保持不变,单节点CPU核心需求也出现10倍跃升,整体CPU算力需求实现约4倍的增长 【34】 【38】 。PCB用量和价值量大幅提升,Rubin架构下采用44-78层正交背板PCB实现GPU与NVSwitch的互连,PCB还可取代部分传统线缆的价值,Rubin NVL144机柜取消传统线缆改用中央PCB中板,单柜PCB价值较前代大幅提升 【35】 【43】 。除此之外,单机柜对应的液冷母排、冷板、高压直流电源、大容量储能电容等功率与被动元件需求量同步爆发,单台AI设备对应的DRAM芯片、DRAM模组配套SPD芯片的需求量也随代际迭代持续提升 【31】 【32】 【43】 。
从成本结构来看,不同代际AI硬件的核心板块元件单位采购成本与BOM占比呈现明显的结构性特征。AI加速卡相关成本结构2024-2025年相对稳定,2024年切换为第三代AI加速卡后,智算系统直接材料占比提升,封装测试占比下降 【45】 。AI服务器板块中,搭载H100/B200的高端AI服务器存储系统(HBM+DDR5+SSD)的BOM成本占比从传统通用服务器的约15%提升至30%-35%,其中HBM3/3e的每比特单价约为同容量DDR5的5-10倍,是和GPU并列的核心高价值元件 【47】 ;不同类型服务器成本结构差异显著,训练型AI服务器GPU占BOM比例达74.0%,配套HBM占比7.6%,SSD占比4.2%,推理型AI服务器GPU占BOM比例为38.8%,配套DDR5占比10.0%,SSD占比27.7%,训练+推理整合型AI服务器GPU占BOM比例达77%,配套HBM占比7.2% 【50】 ,2026年AI芯片的成本结构中,存储相关占比已经提升至50%左右 【51】 。以125kW主流AI机柜为测算基准,全机架功率器件BOM总成本约12644-15119美元,其中GPU Board单项贡献超过全机架BOM的三分之一,机架结构层的PSU+BBU合计贡献4560-5760美元,占比约36-38%,核心元件为SiC MOSFET电源模块 【48】 。2026年全球AI基础设施整体市场规模预计达4709亿美元,三大核心芯片板块的规模及占比分别为:计算芯片占60%(约2839亿美元)、存储芯片占17%(约794亿美元)、通信网络芯片占23%(约1075亿美元),其中通信网络芯片内部数据链路层交换机芯片占总份额的40%,物理层传输相关的网卡、光模块收发模组等器件占总份额的60% 【52】 。
从长期市场走势来看,GPU/TPU等AI芯片出货量将持续高增,GPU出货量2024年为6.69亿颗,预计2025年达7.72亿颗,2033年预计攀升至16.96亿颗;ASIC出货量增速更快,2024年为2.8亿颗,2025年达4.0亿颗,预计2033年将增长至16.54亿颗,2028年ASIC出货量将正式超越GPU 【58】 【10】 ,2026年英伟达GPU出货量预计达1070万片,谷歌TPU全年出货量预计332.5万颗,叠加云厂商自研ASIC集中交付,AI芯片整体出货规模将迎来明显跃升 【59】 【10】 。下游核心元件的整体需求规模也将同步爆发,2026年CoWoS总晶圆出货量预计同比增长71%至123万片,2027年将在此基础上再增长44%至177.6万片 【59】 ;2026年AI PCB市场规模预计同比增长110%实现翻倍增长 【65】 ;2025年第三季度DRAM产业营收已达414亿美元,环比增长30.9%,后续伴随AI算力需求提升,HBM作为GPU/TPU的配套核心内存,需求规模还将持续走高 【63】 。价格层面,AI PCB产品随着层数、工艺复杂度升级,单GPU对应的PCB价值可上调10%,整体价格将随技术升级稳步上行 【65】 ;DRAM端2025年第三季度已经出现常规DRAM合约价上涨、出货量同步提升的量价齐升态势,后续伴随HBM等高附加值内存产品占比不断提升,DRAM整体价格将维持向上走势 【63】 ,叠加上游AI电子布、AI铜箔环节的涨价传导,下游各核心元件价格将维持高位向好的走势 【62】 。
© 2018-2026 苏州互方得信息科技有限公司
苏ICP备17077178号|
苏公网安备 32059002001943号|增值电信业务经营许可证:苏B2-20240803