长江AI产业链深度巡演4 国产芯片如何重构服务器格局

00:00:00 会议。本次电话会议仅服务于长江证券研究所白名单客户。未经长江证券事先书面许可，任何机构或个人不得以任何形式对外公布、复制、刊载、转载、转发、引用本次会议相关内容，否则，由此造成的一切后果及法律责任由该机构或个人承担，长江证券保留追究其法律责任的权利。 00:00:32 各位投资者大家晚上好，我是长江电子分析师蔡少东啊。 00:00:36 今天晚上的话呢，呃是我们关于整个这个AI产业链深度巡演的这个第四期。 00:00:43 然后我们这边呃今天的话呢，是主要是汇报的是关于服务器组装这部分的这样一个内容啊。因为我们在呃周二的话呢，其实也有讲到算力需求这块啊，那么呃这里面其实也提到了就是服务器的话是算力这样一个载体啊。那么这里面我们也当时也呃提出来就是说现在在这个芯片层面的话呢，不仅仅是呃大家采用NV的这个GPU啊，现在也有一些ASIC，包括我们讲的这个呃分为海外跟国产的这样一个芯片啊。所以呃我们这部分的话呢， 00:01:19 首先还是去介绍一下关于这个服务器这样行业的一个情况，另外一个的话呢，可能就是呃讲一讲未来在服务器这块的一个这个发展的几个趋势啊，那么呃。 00:01:32 嗯，从科普上来讲的话呢，就是服务器的话呢，其实是定义的话呢，是在这个为客户提供一个计算存储，网络等服务的这样一个专用的高性能的计算机。那么嗯，这里面就分为啊CPU的这样一个通用服务器啊，还有就是我们讲的像这个AI服务器这种啊所以。 00:01:59 这是两个大类。呃，那么从产业链的这个构成上来看，呃产业链图谱来看的话呢，上游的 话呢，其实服务器是一些我们讲的呃算力相关的一些零部件啊。这这里面包括C P U、G PU啊AI芯片，然后像这个PCB还有像存储散热光模块电源啊，然后有板卡这些，这个都是上游的零部件。 00:02:24 中游的话呢是这个呃主板或者说系统集成厂商啊，像一些ODM厂，这里面包括像工业妇联，像这个英业达纬创啊和硕啊，这个是呃在这个海外这边大家比较熟知的几个组装厂。呃以及我们讲的品牌商品牌的话呢，这里面像IBM像浪潮啊中科曙光啊戴尔这些，它是有自己的那个服务器品牌的。那么再往下游其实就是一些呃客户这里面。 00:02:59 的话呢主要分为几类，一类是像CSP厂商啊，谷歌亚马逊微软这一类的这个代表厂商以及运营商啊。像这个国内就是中国移动啊，中国电信中国联通这些，还有一些这个政企市场啊，包括政府金融啊，医疗工业啊，包括还有一些呃这个我们讲的科研机构这些啊，这个是整个服务器的这个下游啊，然后嗯，服务器未来的这种产业迭代，我们认为。 00:03:34 回顾历史的话呢，其实它是有这个三次大的这样一个重要的这种革命。一次是我们讲的呃局域网那个时代啊，那个时候呢其实是一些大型机啊小型机这样一些产品啊。那个时候是IBM的话呢，开创性的把这个指令指令集这样一个兼容化啊开发出来了，可以拓展这种大型机啊，所以催生出了我们讲样的局域网的这样一个诞生啊，当时IBM是一个呃领头羊， 00:04:01 然后到第二个阶段就是互联网阶段。互联网阶段的话，这个时候呃这个就是PC服务器这块的一个兴起啊。然后那个时候的话呢，典型的代表其实是英特尔，英特尔的处理器的性能其实是不断提升啊，使得这种叉86的这样一个架构的话呢，嗯，这种服务器这种算力是占比在持续提升，然后快速通过一个低廉这种价格取代了原来的大新机啊。然后在这个阶段的话呢，呃也是实现了软软硬件这样一个解耦啊，软硬件。用生态这种。发展得比较快啊，所以这里面的话呢，像很多这个呃惠普啊戴尔这类品牌商的话呢，其实是呃相对来说是获益比较大。 00:04:46 然后第三个阶段是云服务器阶段啊，这个是我们讲的呃伴随着是这个移动互联网这样一个 升级。因为云计算在在这个阶段我们讲的是呃这个比较技术比较成熟，那么互联网这块的话呢，是大力的发展了云服务啊，所以使得这个服务器下游集中度快速提升。然后这个时候的话呢，开始出现了呃云厂商对于这个服务器这块有定制化这样一个需求，然后出现了大类的这种白牌厂商啊，就是我们讲的像呃这个。富士康鸿海和硕这些呃和硕伟创这些啊， 00:05:27 然后现在来看，我们觉得进入到这个18年以后的话呢，其实进入到这个呃人工智能这样一个时代，那其实现在的这样一个服务器也跟着升级到了这种AI服务器啊。所以在这个人工智能这样一个时代下的话呢，GPU这种异构计算的技术是快速成熟，所以呃算力这块的话呢，迎来了一个飞速的这种发展啊，那么算力这种大幅提升的话呢，使得模型。得以这个快速迭代啊，那么嗯，所以在这个时代的话呢，我们讲算力需求是一个快速提升，然后目前来看的话呢，其实。 00:06:07 整个算力产业链是受益的啊，那么AI服务器这块，呃，我们根据历史的这个统计数据上来看的话呢，24年整个。服务器的市场大概是3000多亿美金，那么AI服务器相关的这个市场大概在2000亿美金。到25年的话呢，这个AI服务器本身的需求有增长，另外一个就是价格也更高，所以25年的话呢，AI服务器占整个服务器的市场的话呢有70%以上。 00:06:43 那么嗯服务器的下游呢其实主要是这个互联网厂商啊，互联网的话呢是在服务器这块算是最大的一个下游客户了啊。他的采购的话呢其实呃受到资本开支的一个影响。那么最后的话呢其实是最终的这个呃采购的这个多少的话呢，其实是由业务的成长性来决定的。 00:07:08 那么二四年整个全球服务器整机的这种采购。呃，基本上是。这个以海外几大云厂为主，像呃微软、G o o g l e、A W S、m e t a啊这几个，然后以及国内的这个BBA啊，所以嗯我们可以看到其实呃头部那几家基本上嗯已经占了。我们讲的有一半以上的这样一个采购额了啊，大概在6成这种啊。所以未来的话呢，我觉得这个需求还会继续地向国内的， 00:07:48 像全球的这样一个大的CSP厂商去集中啊那么呃，确实现在几家厂商都在自己搞模型。或 者说为模型厂提供这样一个算力啊那么呃，另外一个就是服务器的这样一个厂商的的话呢，它有一些那个从L一到L10的制造流程啊不同的等级。呃一般来说我们讲L一到L6的话呢，其实这个时候主要是一些零部件的生产跟组装的，基础的组装的这种环节啊，然后L7到L10其实相当于就是呃把各类的这个。加速卡硬盘CPU集成到这个服务器里面。然后还有就是我们讲的再往后去做的话， 00:08:35 就做到一个整个这样整个这样一个机柜啊，到我们讲的这个L11啊，甚至到L12啊，就机柜的这个整体跟交付啊，所以这个是呃服务器整个一个制造的这样一个流程。那么不同厂商他可能参与的环节会不太一样啊。 00:08:54 那么呃，从。ODM厂商这样一个市占率上来看呢，呃，目前的话呢，这个市场更多的是以白牌的这样一个定制化为主啊，所以其实。 00:09:10 从过往的这样一个呃。呃，一个份额来看的话呢，ODM厂商是占了接近一半啊，当然这个是嗯服务器全球整体服务器的这样一个市占率啊，如果是在AI这块的话呢，那基本上。呃，就是以像那几个代工厂为主了，因为呃这个在CSB这边的话基本都是ODM这样一个模式啊，这里面是依赖于这个ODM厂商啊，呃这个是我们讲的格局的一个情况。 00:09:41 然后另外一个就是未来，呃我们觉得AI服务器发展的几个技术上的这样一个趋势。呃第一个就是超节点跟算力集群，那么超节点的话呢，是大规模的这样一个GPU的集群的，这个scale up的这样一个扩展的这样一个方案，那么呃这里面的话呢其实最开始是。 00:10:02 NV这边提出来的这样一个概念啊，它这呃就是我们讲的super port这样一个概念，那么通过硬件的这样一个高速互联把。芯片的话呢，连呃连接在一块形成一个超级的这样一个超大的这样一个GPU啊，消除我们讲传统的这种多卡通信的这样一个通信瓶颈啊。然后呢服务服务这个千万或者说呃，千亿或者说万亿参数的这样一个模型的训练跟推理，呃算力服务器的话呢其实。往这个超级点跟集群方向发展的话， 00:10:39 我们觉得主要有几个几个推动的这样一个因素。 00:10:43 第1个的话呢，是可以很好地突破单机的算力瓶颈来提升训练的效率。第2个是可以满足大规模的这种AI模型训练跟推理的算力需求啊。第3个的话呢，可以在这个能耗跟散热管理上能够做到更更好的这样一个优化啊，所以海内外其实你发现很多算力的这样一个呃供应的这种芯片厂商，不管是华为还是英伟达，其实都在往这个方向去做一个发展啊华为的我们讲的。超节点然后NV的这样一个机柜形态啊，其实本质上都是呃往这个方向去演进。 00:11:22 那么嗯另外一个变化，就是我们觉得未来的这种服务器的这种变化的话呢，其实它的一个嗯迎合算力这种需求，从这个训练往推理去过渡，那么就会产生我们讲的推理车的这样AI服务器的这样一个需求。 00:11:42 所以英伟达在GTC2026上，其实推出了这个grolock3的LPX2这样一个机架啊，专门是为了解决AI推理这种痛点，在于这个低延迟跟高能效的这样一个需求设计。那么这个系统的话呢，其实呃内部是集成了256颗lpu的这样一个芯片，能够提提供我们讲的，呃315P的这样一个算力，跟40P的每40PB每秒的这样一个带宽啊，那么作为。V让Rubin的这种推理的这种加速器的话，其实通过分离式这样一个架构啊，然后能够实现。梅瓦特的这样一个推理推理的这样一个吞吐量能个大幅提升啊，那么这个跟原来的原来的NV的这个呃。 00:12:34 GB系列来看的话呢，其实嗯它核心其实是嗯。可以做一个很好的这样一个结合啊，然后来实现这种大规模参数的这种吞吐量的这样一个倍数级的提升啊，啊，然后后面我们讲像。 00:12:54 NV这边的话呢应该会在28年推出这个费曼的这样一个架构啊，这个也是嗯，我们讲的继B卡跟Rubin这一代以后的第三代的这样一个平台啊，它的目的其实也是为了解决推理时代的这样一个低延迟能效，包括规模化这种瓶颈。那么除了NV以外，其实呃其他厂商也 在往这个方向去发展吧，这里面包括呃4r plus跟华为这些其实都有一些类似的这种解决方案。 00:13:33 那么NV这边作为全球的这样一个AI算力的这种核心供应商，其实在过去的话呢是一直主导了AI芯片市场，那么它的一个产品的路线图的话呢，其实也定义了行业未来技术发展的这样一个方向。 00:13:48 嗯所以它的服务器机柜的话呢，呃也是跟着GPU的架构持续地做一个这个迭代演进。那么从配置上来看的话呢，机柜的集成度是在持续提升的，也就意味着单机柜的GPU的数量在大幅增长啊。然后它的交付也从独立服务器往一个呃，一体化集群这种方案方方向去做一个交付，另外就在互联层面也是。这个持续的这种这个速率在提升啊，还有像功耗这块的话呢，也是因为呃伴随功耗提升的话呢，这里面的散热方式的话也从原来的风冷往液冷去做一个转型啊。 00:14:30 从性能上来看，单柜的这样一个总算力，其实在每一次迭代后都能够跨入一个全新的这种量级，所以能够去呃与之匹配的就是我们讲的像。显存像带宽啊都是一个跃升级别啊，所以这个使得机柜的这样一个系统的话，能够去独立地去承载万亿级的这样一个参数模型的这种训练跟推理啊，基本上成为了AI算力交付的一个基本单元。所以呃我们讲呃NV这边其实机柜这块的话已经非常成熟了，呃未来的话呢，呃VR鲁宾这边还会继续构建。 00:15:10 这个全能型的这样一个算力集群，就是我们讲之前看到的呃威尔鲁in的po的这样一个方案。那么这里面是相当于把五类机架七类芯片总共有40多个机架，是通过超节点这样一个技术进行一个组合啊，所以它是形成了一个从芯片到电网到从计算到存储，从训练到推理完全重构的这样一个。超级集群的这样一个计算机啊，所以这里面包括的是呃这个Rubin的NVL72啊机柜有16个，然后LPX机柜10个啊，还有CPU机柜两个啊，以及我们讲的bluefield4的这种处理器有。机柜有4个，呃，有两有两个，然后还有我们讲的一些交