申万宏源AI研究二十讲 液冷全产业链详解

00:00:01 大家好，欢迎参加申万宏源AI研究20讲液冷全产业链详解。目前所有参会者均处于静音状态，下面开始播报声明。请参会人员务必注意，本次电话会议交流内容仅限参会人员内部参考，任何机构或个人不得以任何形式对电话会议任何内容进行泄露或外发，请勿以任何方式索要、泄露、散布、转发电话会议纪要。任何泄露电话会议纪要等信息的行为均为侵权行为，申万宏源研究保留追究泄露、转发者法律责任的权利。 00:00:42 哎好的，呃，各位领导大家晚上好啊，那欢迎各位领导来继续参与我们这个上万宏源AI研究20讲啊。 00:00:51 那今天呃，我来代表这个团队汇报一下，整个这个液冷的一个全产业链的一个详解啊。那呃，其实这边主要还是汇报算力液冷相关的一些这个议题啊。 00:01:03 那其实呃，大家平时谈AI，像呃前面我们也汇报了一些大模型，包括GPU还有一些算力等等啊，那但是实际上我们说今年很重要的一个变化就是超节点啊，那超节点带来的变化实际上就是单台功耗的上升。那对于整个的这个呃散热的需求啊，其实需求是更加明确，那一台芯片到底能不能够呃真正的跑起来，除了说计算的能力以外，还取决于这个供电以及散热啊。那芯片算得越快，实际上就耗电也会越大，产生的热量更多。那如果说热量带不走的话，我们非常直观地就能看到说呃，芯片也会去降频啊那。严重的时候也会去停机啊，所以说散热啊， 00:01:45 不是说一个配角的一个角色了啊，而是说整个的这个算力能否兑现的一个基础条件。 00:01:52 那我这边呢今天主要会回答4个问题啊，就是呃第一个说为什么我们需要去做液冷啊，第2个呢就是液冷系统到底是怎么工作的，那第三个呢就是产业价值到底是落在哪些方向 啊，包括是呃后续会有哪些这个增量的一些部分啊。那第四还有一些产业链的一些梳理啊，包括这个GPU机柜扩展到哪些部分啊？那大概是这样一个框架啊，和各位领导汇报那。 00:02:19 呃，这一页呢我们先不去讲眼理啊，先给呃各位去给这个市场规模有一个这个直观的一个感受啊。那我们这里是以这个GB300NVL72的机柜为例啊，那大概一台机柜呢就是容纳72g的这个GPU，那所以我们一个万卡集群粗略地去对应大概140个左右的机柜啊。 00:02:39 那这里面的两种测算方式啊，就叶冷系统的总价值，就万卡集群的总价值大概在1800万到2100万美元之间啊。那呃，我们说第一种算法就是只看服务器和机柜里面的核心的液冷部件啊，这里面的表里面大概会列啊，单柜大约在啊9~10万美元啊。那再乘到一个设备的一个配套系数啊，那如果我们说第二种算法，把整个CDU室内外管路包括阀组冷却设备还有一些监控安装调试等等啊，平摊到每个机柜的话，单柜的价值大概在15万美元左右啊。那嗯，这里面整个就是还是一个大概的一个体量的一个感受啊那。呃， 00:03:19 下面这张表呢，其实我们说主要三个点啊。第一个呢就是芯片冷板的数量很多啊，那G PU、C P U和交换侧的热源也会对应冷板啊。第二个呢就是快接头啊，就快速接头还有分页器啊，那之前看起来是一些小零件啊，但是数量很多，价值量也并不低。那第三个更要关注的一个点就是CDU啊，以及一次测二次测的管网， 00:03:43 还有一些室外的一些这个排热的设备啊，还是占了很大的一个比例啊，那大概是这样，那后续我们去进行一个这个详细的一个分拆啊那。 00:03:54 首先我们说这个液冷最根本的驱动力其实只有一个词啊，就是功率密度。 00:03:58 那以前呢，一台服务器的机柜的功率大概是几千啊几千瓦或者是这个十几千瓦啊，那大概这么一个体量。那包括说呃这个基本还能够通过说风扇啊去把热空气去排走。那到了H100H200时代，就巴卡的服务器啊，仍然还是大多处于这种10kW的级别，所以基本上 是风冷和液冷并存的一个状态啊。 00:04:23 那但是到了GB200GB300的NVL72G的整柜的时候，单柜的功率跃升到大概幺百二零到140kW啊。那大家可以把它理解为一个不到两平米占地的机柜啊，持续地去释放相当于几十台的这个家用空调，或者是呃几十个大功率电暖器啊类似的这种热量啊，所以空气的导热和携热能力肯定是有限的。 00:04:49 那风扇再大也会说啊，遇到一些包括风阻噪声还有能耗。耗啊以及空间的一些上限，所以说呃GB300的时候，我们看到就基本上有90%的热量需要通过液冷去捕获了啊，风冷只处理这个少量的一些残余的热量啊。 00:05:06 那再向后的话，就是我们说进入到Robin这个平台的时候，单柜可能会进入到200kW以上啊，那更高密度的这个Robin ultra啊，甚至把这个实时测的能力推到了这个更高的一些水平，所以说这里面就是说，嗯，我们说汇报一个就是。呃液冷不是为了说这个呃节能啊才去用的，而是说因为没有液冷的话，整个高密度的AI机柜啊本身就能嗯难以去呃稳定地运行和交付，所以说已经变成了一个从原来的一个优选项或者优化项，变成了一个所谓的一个前置条件啊。 00:05:45 那嗯我们说现阶段最主要的一个方式啊就是冷板式的一个液冷啊， 00:05:52 那我们说很多种方式啊，就包括有这种浸没喷淋式，还有冷板式啊，那呃，在这个。这个冷板式呢主要就是在这个G P U、C P U还有这些高热的器件表面上啊压上一块这个金属板啊金属的冷板，然后这个金属板内部呢会有一些这个非常细密的啊封闭的流道啊，那冷却液就在这个里面去进行一个流动，把芯片的热量给带走啊。 00:06:20 所以这个很直观，那可以把它理解成这个呃原来汽车发动机里面的那个水冷系统啊，就是水并没有进入到整个的这个发动机的内部，而是把这个水套和管路中去进行一个循环。 00:06:34 那整套系统呢，就是不管你是呃我们说冷板式还是其他的方式啊，基本上都是这种。呃，液冷就是这么两两次散热的一个形式啊。那靠近我们看到的鼠标就是靠近服务器这一侧啊，这一圈叫这个二次侧啊，里面的这个冷却液主要经过冷板软管还有一些快速接头以及分液器啊，把整个的芯片热量带到CDU当中啊， 00:07:00 就中间的这个环节。那CDU可以理解成一个小型的换电站啊，它把二次侧的热量传递给一次侧。那但是两侧的这个液体呢，通常是不直接去进行一个混合的，那依次测再通过这种呃管网啊，把热量送到这个室外的这个冷却塔啊，或者叫干冷器啊，或者是冷水机组当中啊，最终去排到外部环境当中啊。 00:07:26 那我们说为什么现在呃除了这个冷板式以外，还有这个喷淋式，还有静没式啊。静没式更容易理解，就直接把所有的零部件全部放到冷却液当中啊。然后喷淋式呢，就是类似这种喷淋的呃，这个淋浴的这种喷头啊，去进行一些。呃，这个液体的一些。喷洒啊，那所以其实呃未来更先进的肯定是浸没式。但是浸没式包括啊现在海外还有一些这个环保的一些要求啊，因为我们知道里面都是环含氟的一些这个呃液体啊。那所以我们觉得呃现在短期还是以冷板为更主流啊， 00:08:03 因为它对于整个现有的服务器的结构的改动啊，其实还是相对可控的，包括从维护方式啊，和这个传统的机柜其实还是相对比较接近的，产业链也更加成熟。那像浸没式和喷淋式啊也有独特的优势啊，尤其是在一些呃适合更高密度的一些场景啊， 00:08:24 但会涉及到服务器材料的一些兼容，包括一些运维方式，还有一些介质的成本啊，以及整套架构的改造。因此，所以整个现在啊，AI服务器大规模放量阶段，冷板石还是兼顾了呃整个性能成本，还有可维护性的一个这个主流的一个选择。 00:08:44 啊，那呃我们呃讲完了这个大概的一个这个这个概览之后啊，我们还是去从通过这种呃领先的一些厂商啊去做一些这个汇报啊。 00:08:55 那英伟达的整个方案其实还是可以看作整个产业升级的一个主线啊。那GB200目前已经采用了这种整柜的液冷方案啊，但是呢，风冷仍然承担了这个部分的这个辅助散热啊，尤其是在一些关键的热节点上啊。那到了GB300的时候，其实功耗明显要更高了啊，那热源也更多。那液冷的对象也不再是只有像原来的像GPU还有CPU的液冷啊。那现在还包括啊N V S、s w i t c h t c h网卡还有一些交换托盘啊等等这些互联的部件，也就是说，就是原来的液冷从几个就冷几个啊，就降温几个核心的芯片升级到了说整个的呃机柜的啊，计算和互联系统全部需要冷却，那下一代的Robin呢有几个值得啊？呃， 00:09:44 关注的变化啊，那第一个呢就是。45°C的这个冷水的液冷啊，那呃其实这个呃跟很多之前大家不太了解的人，呃这个这个领导可能会呃就感觉这个要用这种冰水啊，去进行一个降温啊。实际上现在的这个冷却液进口的温度，其实也是四呃45°C给的这个方案啊。那嗯其实听起来水更热，但反而是更加先进啊，因为整个呃供水的温度提高之后，很多地区其实可以通过使使用这个室外的这个自然冷源啊和干冷器啊，去减少传统压缩机的这个制冷啊。但是水温更高之后啊，和整个芯片之间的温差变小，冷板就必须做得更加高效啊。那这是第一个变化啊。 00:10:32 第二个呢就是微通道冷板和这个。微通道盖板的方案啊，通过这种更加细密的流道啊，去增加换热的面积，降低热阻。第三个就是800伏的这个高压直流供电和CDU的一个协同啊，那当然我们也说明说，未来的整个电力系统和冷却系统应该是放到一起去设计的啊。 00:10:54 那总体上来说，平台功耗提升啊，不只是意味着说冷板的更贵啊，也意味着说，包括像接头数量、分页器的复杂程度，包括CDU的容量，还有设施测的投入啊，也会这个同步的上升。 00:11:09 那如果说英伟达代表了这个产品平台的一个推动，那么谷歌其实更能说明液冷已经跨过了这个可靠性的一个门槛啊。 00:11:17 我们说谷歌从2018年的这个TPU的V3开始去啊，规模化的部署液冷啊，过去多年在这个大量的TPU pod当中去运运行啊，那整个的可用性基本上已经达到将近百分之百啊。那那谷歌的另一个重要的动作呢，其实是把它第五代的这个DC呃CDU啊，去嗯贡献给了OCP的这个开放计算项目啊，推动了这种兆瓦级的CDU的标准化啊。那当前的整个方案的冷却能力也是达到了两兆瓦啊，并且和这个高压的直流供电架构去同步升级啊。 00:11:54 标准化的这个价值在于说像啊接口啊，液体水质包括控制还有维护的要求啊，去进行了一个逐渐的一个统一。那供应商呢也可以去减少这种重复的定制化啊，数据中心也。更容易去实现一个扩容和替换啊， 00:12:12 因此呢，就是英伟达和谷歌啊，虽然它们在整个的这个实现路径上稍微有差异啊，但是。这个。整个的我们认为说整个液冷还是从啊少量的这种高性能的计算项目啊，现在确实已经走向了这种AI基础设施的一个通用能力上啊。 00:12:31 那嗯，我们讨论说为什么就是把三季度看作一个关键的时间点啊，这里要呃区分一下啊，就是啊行业趋势的确立，确实不等于说所有的这个公司的业绩都已经兑现啊。那液冷现在的整个技术方向还是相对比较明确的啊， 00:12:49 那我们之前资本市场也真正关心，就是订单什么时候能转化成出货收入以及利润啊。 00:12:55 那呃，我们说第一个点呢，就是产品确实已经进入到了这个密集的发布期啊，那GB300呢开始放量啊。那么同时呢，Robin的这个45°C的温水方案啊，微通道的冷板还有更大容量的这个CDU也都在啊进行验证啊，形成了这个呃我们所谓的这种当代量产，然后下一代定点的这种呃正常的一个呃产品发布的一个节奏。 00:13:22 啊，那第二个呢，就是订单也开始进入到这个财务报表当中了啊，就零部件的这些tr two的厂商供应商啊，可能会更早地体现出货啊。那系统级的这个供应商通常要等待说整机的 交付验收啊，后续才能够确认收入啊，所以节奏上会有一些不同啊，就是tr two啊，应该会比t r one啊更早地去释放这个业绩的一个弹性。 00:13:47 那第3个呢就是呃产业链的呃这个主要矛盾其实也正在发生一个变化，就是呃之前关心这个需求啊或者是能不能有认