液冷散热入门：冷板技术

液体冷却基础：冷板 随着人工智能工作负载的快速扩展以及GPU功耗密度的不断增加，数据中心机架的热密度持续提升。仅靠风冷已无法有效管理现代计算架构产生的热量。因此，直接到芯片（DTC）液冷已成为数据中心生态系统中的关键组成部分，而冷板则成为从风冷向液冷过渡的关键使能技术。在液冷生态系统的核心，有两个组件驱动着散热循环——CDU（参见我们之前的入门指南）和冷板。冷板在架构中执行着最重要的任务：将芯片表面的热量物理转移给冷却剂，并且是液冷技术堆栈中的主要使能机制。 +1 917 344 8543varun.govindaraj@bernsteinsg.com瓦鲁·高文达拉吉 +1 917 344 8469chad.dillard@bernsteinsg.com查德·迪拉德 +44 20 7762 4952alasdair.leslie@bernsteinsg.com阿拉斯代尔·莱斯利 在当代人工智能数据中心机架的背景下，冷板的重要性变得显而易见。例如，一个NVIDIA GB200 NVL72机架可以容纳超过100个独立的冷板（每个GPU/CPU一个），这突显了它们部署的规模。随着机架密度随着下一代GPU预计将达到数千千瓦的TDP水平而持续增加，冷板有效管理热通量和热阻的能力对于整体系统性能而言变得越来越关键。尽管扮演着这一核心角色，但我们看待冷板的角度比其他液冷组件更为细致；支持 volumes 的结构性优势被通用化和可能的过时所抵消。 +1 917 344 8401steve.song@bernsteinsg.com宋伟 (Sòng Wěi) 一方面，短期前景显然有利。液冷技术的采用正在加速，超大规模数据中心正致力于全面采用液冷架构（英伟达为Rubin项目宣布了相关计划），而冷板已成为直接到芯片（DTC）系统中非可选的组成部分。这创造了强劲的销量增长动力，并由液冷技术的渗透率不断提高所支撑（目前新设备中约30-40%采用液冷，预计到2030年将成为主流）。另一方面，冷板（与CDU不同）本质上更简单的组件，其价值主要集中于设计而非系统级复杂性。与CDU相比，服务附加价值相对较低，而冷板原始设备制造商（OEM）主要获取硬件利润空间，这种利润空间比服务利润空间更难防御。这就引出了一个问题：其商业模式随时间推移的防御性如何，特别是当设计趋于同质化、制造规模扩大以及创新/稀缺性溢价消退时。并且，在极端情况下，像直接到芯片这样的技术有能力完全取消冷板的需求。 我们预计，到2030年，基准案例冷板市场的规模将达到约60亿至70亿美元（目前为20亿至30亿美元）。与任何数据中心设备一样，这高度依赖于您对新增吉瓦（GW）的假设。如果您希望调整假设，请联系作者或您的伯恩斯坦（Bernstein）销售代表获取原始模型。 在本说明中，我们全面介绍了冷板，包括其工作原理、性能驱动因素、关键设计权衡以及当前的创新方向。我们还评估了不断变化的竞争格局，考察了经济模式（包括有限的服务收入机会），并从自下而上的角度呈现了市场规模和增长情况。最后，我们概述了对该领域发展轨迹的看法：冷板在短期内仍是人工智能基础设施增长的关键推动力，但在较长时间范围内将面临日益的商品化和颠覆性风险。 伯恩斯坦行情表 投资影响 VRTNVTCARRJCIETNSU.FP我们给TT评级为“跑赢大盘”，目标价为550美元。我们评定以416美元为目标价超越对手。我们评定以218美元为目标价超越对手。我们评定市场表现：目标价格为75美元。我们评定以176美元为目标价超越对手。我们评定以534美元为目标价超越竞争对手。我们评定以310欧元为目标价超越竞争对手。 细节 伯恩斯坦分析与估算 引言 过去，持续不断地向服务器吹送凉爽空气足以冷却数据中心。随着时间的推移，芯片和机架的密度越来越高，甚至到了狂风般刺骨的冷风也无法胜任的地步。毋庸置疑，寻找替代的冷却模式变得至关重要。于是，长期处于数据中心基础设施边缘的液冷技术，突然间被推到了聚光灯下。展望未来，机架密度和芯片热设计功耗似乎仍将持续增长，迫使液冷解决方案随着服务器更严格的需求而不断演进。 目前液冷的主流形式是单相DTC（DTC全称为Direct-To-Chip，即直触芯片）。它涉及冷板（冷板是因其内部循环制冷剂而温度降低的金属板）与GPU/ CPU芯片直接接触以提取热量。冷却液分配单元（CDU）将低温冷却液（通常是水-丙二醇混合物）泵入冷板，并在服务器完成热量提取后回收使用过的冷却液。然后从冷却液中提取热量（使其再次变冷），并重复此过程。它被称为单相，是因为冷却液保持为单一相态（液态），不会通过蒸发从液态转变为气态。这个循环（即从CDU流经服务器内的冷板）被称为TCS或技术冷却系统。当使用过的冷却液到达CDU时，它会通过一个热交换器，将热量传递给另一个称为FWS或设施水系统的冷却循环。FWS连接到冷却器或干冷器，将热量排出数据中心。然而，随着机架功率密度持续增加，单相DTC似乎已达到其从服务器机架中提取热量的理论极限。 冷板和冷却液分配单元（CDU）是最需要讨论的。CDU（冷却液分配单元）本质上负责控制冷却液在多排和多机架间的分配、流动和压力。冷板通过歧管从CDU接收冷却液，并通过其表面吸收热量，然后将使用过的冷却液返回CDU。这两个部件都面临巨大的需求（目前存在短缺），该领域出现了大量投资活动，大型企业进行战略性投资和收购（例如，JCI投资Accelsius，Eaton收购Boyd）。在今天的笔记中，我们特别关注冷板。 什么是冷板？ 散热板是一种机加工金属块（铜/铝），它被夹在硅晶圆上的GPU/CPU芯片（即实际芯片架构所在的插槽）上。内部由微细的薄通道或鳍片（通过CNC/精密加工钻制）组成的网络贯穿散热板，液态冷却剂（通常是从单相CDU泵出的水-乙二醇混合物）流经这些通道。散热板与GPU之间有一层导热硅脂或垫片，称为导热界面材料（TIM）。TIM作为发热GPU与散热板之间的热桥——填充因表面粗糙而产生的微观空气间隙，并通过热传导确保GPU到冷却剂（进而到散热板）的均匀热量传递。如果界面管理不当，即使是高性能的液冷散热板也无法发挥其全部冷却潜力，因为不均匀的热接触会导致热点形成。加热后，温热的冷却剂会回流至CDU，从而回到液冷循环——循环重复进行。 简而言之：芯片发热，冷板置于其上，冷却液流经冷板内部通道，将热量带走，以温水形式，并作为冷流体（经回路冷却后）返回循环。冷板在此循环中充当“吸收器”——它是整个液体冷却生态系统中唯一能物理接触芯片的部件。 当将冷板的作用置于现代高密度AI服务器机架的背景下进行考察时，其作用便更加明确。例如，NVIDIA GB200 NVL72机架，其包含18个计算托盘（每个托盘容纳4块Blackwell GPU和2个CPU，共计72块Blackwell GPU和36个CPU）。每块GPU和CPU都需要配备独立的冷板。因此，冷板被安装在每块GPU/ CPU芯片上，每台机架总共需要108块冷板。冷板本质上是一种高容量组件。与CDU（数量较少且更复杂）不同，冷板需要大规模部署，并且必须在性能与制造便捷性之间取得平衡。 什么指标是重要的？ 首先，我们来谈谈冷板中需要注意的关键点。有几十项技术规格；虽然它们都以独特的方式重要，但我们特别指出以下五项需要关注： 1.热容量：通常以瓦（W）或千瓦（kW）表示，热容量是指散热板在运行条件下从芯片（GPU/ CPU）上移除热量的总速率。它受冷却剂入口温度、板设计、热阻和通道几何形状（下文将讨论）的影响。目前，在超大规模部署中，散热板通常支持每芯片约2-5 kW，而下一代设计则能达到5-10 kW+（CoolIT最近宣布推出一款15 kW的散热板）。随着AI工作负载快速增长，导致功率和机架密度不断提升，未来热容量将与芯片架构协同优化。 2.热通量2：衡量芯片单位面积上移除的热量，单位为W/cm，对于理解冷板如何管理芯片上的局部热点至关重要。这对于现代AI工作负载尤为重要，因为热量产生高度集中在芯片的小区域，这些区域密集的张量核用于计算矩阵乘法以解决查询。当前超大规模计算目标的热通量范围为100 - 130+ W/cm，而最前沿的设计正朝着150+ W/cm的方向发展。 3.压力降：这表示冷却液流经冷板时所经历的流体阻力，直接影响系统运行所需的泵送功率。因此，更低的压力降更受青睐（因为它减少了所需的泵送功率），从而降低整体能耗并提高系统效率。然而，存在一个权衡：实现更高的传热（更高的热通量）会增加阻力，因为内部板片结构的复杂性增加（更细密的编织流道）。对于当前的部署，超大规模计算中心通常运行在15-25磅力每平方英寸（psi）的范围内，高性能设计可达30磅力每平方英寸（psi）以上。 4.热阻：衡量芯片向冷却介质传热效率的指标，以每单位热量升高多少摄氏度（°C/W）表示。需要更低的热阻，因为这能实现更高效的传热，使芯片在相同输出下运行温度更低。如今的高性能设计热阻均低于0.04°C/W。随着芯片功耗持续提升，解决热阻问题将变得愈发关键，这将推动接口材料和表面工程技术方面的创新。 5.流道几何：描述冷板内部结构，具体指流道/翅片密度、尺寸、形状以及流体流道的布置方式。这些因素共同决定了冷却剂与GPU热表面之间的交互效率（密度更高的阵列 = 冷却剂与GPU接触的表面积更大 = 热传递效率更高）。微通道等复杂几何结构可增加表面积并产生更大湍流（使芯片壁面热“刮擦”效果更强），从而提高热传递效率。 冷板生态系统正在如何形成？ 冷板如今已成为液体冷却生态系统的关键组成部分，这从英伟达和超大规模计算厂商近期的公告中可见一斑。为了其下一代Rubin架构，英伟达已经强制要求“100%液体冷却生态系统，任何地方都不使用风扇”，为该领域的制造商提供了长期发展的有利条件。通过推荐供应商列表批准不同平台的特定组件供应商，英伟达正在对行业的发展施加软性影响。 与CDU不同，迄今为止，行业对冷板的设计配置规格制定相对有限。然而，OCP（开放计算项目）已建立了运营冷板必须满足的基本运行性能标准（例如允许的压力降、泄漏率、运行温度范围、芯片封装允许的应力量等），这允许制造商自行决定如何精确实现这些性能指标。我们预计，随着GPU TDP的持续上升，在近期至中期内这一趋势将继续，使冷板制造商能够在其定价中获取创新溢价（正如他们对待CDU的方式一样）。然而，从长期来看，一旦TDP稳定且超大规模计算厂商对其计算组合有了更清晰的认识，我们预计这种创新溢价将随着冷板演进需求的有限而逐渐侵蚀。这比CDU（也存在一定的通用化风险）对冷板的影响更大，因为冷板的服务附加价值有限甚至没有，这实质上使利润率结构面临风险。 为什么冷盘没有优质的服务配件？ 散热板主要设计为能够在其冷却的GPU整个生命周期内持续使用。然而，在机架中，自然会发生活所不及的故障。当这种情况发生时，单个散热板不会得到“维修”和重新安装，而是直接更换。这通常由服务器原始设备制造商（如戴尔公司）完成，他们会储备散热板库存，并对更换服务收费。与需要检查和测试设备部件的维修或维护工作相比，这项工作强度较低。此外，对于散热板制造商自身而言，他们只能获得硬件利润空间（而这一空间预计会因散热板本身存在通用化风险而压缩）。在某些情况下，散热板原始设备制造商自身需要负责服务，但这通常发生在故障率超过可接受水平时，并且他们有合同义务介入并管理更换；条款并不有利，没有原始设备制造商真正愿意处于这种境地。这与CDU（冷却分配单元）有本质区别，因为CDU单元中包含多个可能发生故障并需要维护和维修的部件（如泵、热交换器等）。CDU还具有更长的使用寿命，这使得能够更好地实现安装基础的价值。 市场主要参与者的比较 当然，随着液冷技术的加速发展，许多参与者已进入市场。冷板制造市场呈现出成熟工业玩家与新兴初创企业并存的特点。大型现有企业（如 Boyd、CoolIT、CoolerMaster）凭借其规模、制造专长以及与