行业研究公司研究宏观策略财报招股书会议纪要 Token 低空经济十五五 AIGC 大模型

人工智能的动力：数据中心基础的半导体生态系统

信息技术 2026-06-01 德勤飞鹤萘酚

执行摘要

半导体是赋能人工智能（AI）的基础技术，AI系统建立在半导体生态系统的多年创新之上。芯片技术的持续进步推动AI更强大、节能和高效，而更强大的AI则反哺芯片设计和制造，推动对各类芯片需求的增长。AI数据中心市场正经历前所未有的增长，预计2022年至2028年间以88.8%的复合年均增长率（CAGR）发展，其中2025年至2028年间将以56.3%的CAGR增长。

AI核心芯片: 单个AI服务器机架包含超过4,500块封装芯片，由约20,000个独立的晶圆组成。芯片类型包括模拟芯片（如功率芯片、收发器）、高级逻辑芯片（如AI加速器、ASIC、FPGA、CPU、DPU、网络芯片）等。
半导体价值: 半导体占领先AI服务器机架内容价值的95%以上，并占建设及运营AI数据中心所需总资本支出的50%以上。预计到2028年，AI数据中心部署的半导体年收入可能达到超过1.2万亿美元。
芯片需求: AI的进步驱动了对更优异的半导体性能和效率的需求，形成正向反馈循环。政府和产业将投资超过40万亿元到2028年用于新的数据中心基础设施，其中最多2.8万亿美元将用于半导体。

人工智能核心的众多芯片

AI技术芯片为现代AI系统提供基础硬件层，并在现代AI服务器中占据相当大的价值份额。AI数据中心需要大量的计算能力、存储、内存带宽、电力分配和网络能力，这些均由芯片技术的全栈提供。

芯片如何协同执行人工智能训练工作流

AI工作负载: AI工作负载分为训练和推理两个阶段。训练是模型学习的方式，通过接触海量数据来教授模型；推理则是模型将其所学应用于现实情况的方式。
芯片协同: 大规模训练AI模型需要一个紧密协调的专用芯片系统，包括CPU、AI加速器、高带宽内存（HBM）、非易失性存储和光互连等。

拆解人工智能硬件栈：人工智能数据服务器中的芯片

服务器机架: AI数据服务器机架由五种类型的托盘组成：计算托盘、电源托盘、网络和IPMI托盘、AI加速器互连托盘、冷却分配单元（CDU）托盘。
计算托盘: 包含人工智能加速器、高带宽内存（HBM）、中央处理器（CPU）、系统内存（RAM）、非易失性存储器、数据处理单元（DPU）和电源分配单元（PDU）等。
AI加速器: 是专门设计的半导体硬件，旨在通过优化计算密集型操作来加速AI工作负载。包括GPU、FPGA和应用特定集成电路（ASIC）。
高带宽内存（HBM）: 提供超高速、板载内存，直接分配带宽给AI加速器，实现不间断计算。
中央处理器（CPU）: 负责统筹训练工作负载，管理同步、内存协调和任务分配。
系统内存/随机存取存储器: 为AI服务器提供主要的数据暂存和缓冲能力。
非易失性存储器 express 存储: 存储结构化与非结构化数据，以支持现代人工智能工作负载。
数据处理单元（DPU）: 专用的可编程基础设施处理器，用于将AI数据中心中CPU和AI加速器上的非计算任务卸载出去。
网卡: 支持高速互连，这对于分布式AI训练和推理服务至关重要。
电源分配单元: 将来自高压输入的电能转换并分配到CPU、AI加速器、内存等其他子系统所需的精确低压轨上。
加速器互连托盘: 创建了一个统一的高性能计算网络，使AI服务器内的AI加速器能够作为一个单元运行。
网络和IPMI托盘: 提供控制平面基础设施，结合带外管理、高速网络和基于硬件的安全功能，以管理和保障机架级操作。
冷却液分配单元托盘: 负责为高性能AI服务器提供机架级液体冷却。