东吴电子国产算力 超节点算力竞争迈入系统维度 超节点开启国产算力破局之路

各位领导，大家晚上好，欢迎参加我们东吴电子陈海进团队的AI大基建巡礼。 今天晚上是第五讲，我们讲国产算力的超节点。 我们今年是都是一直在讲这个重一定要重视这个超节点。 重视的原因的话就是它是国产算力从这个单卡追赶海外算力芯片转向这个系统破局的关键一跃。 今天晚上的时间我就会先讲清楚它的一个宏观背景和技术逻辑。 再往下的话就落到这个机柜，还有ODM的产业格局。 最后落地找到我们最看好的一个标的上面。 现在的话就是从目前的情况来看，这个算力的真正的瓶颈，它不是说是每某一张卡能够跑多快，这个算力有能有多强，而是这个几百张几十张卡能不能像一个整体一样去协同工作。 这个怎么说，把这个卡弄几几十张、几百张卡做弄成一个整体呢？就是要看它这个算力卡之间互联的话，它的协议是不是统一的，包括它的内存与义是不是一致的，数据迁移的话要不要经过这个CPU的二次仲裁，包括就是说我们物理上面它的散热供电能不能撑得住，以及软件站能不能把整个的硬件协同调动起来。 那一句话来说的话，就是现在这个算力竞争已经从这个单卡的这个点上面，已经到了这个集群层面的这个面上面样的，那就是单卡性能是要要升级到这个系统级别的一个集成能力。 这在这样的一个背景下面的话，国内的产业界也提出了这个超节点的概念。 也就是说把大量的算力芯片，包括CPU、GPU交换芯片，通过这个高速互联整合在一个机柜里面，或者说是在一组机柜里面，让它在逻辑上面成为一个巨大的集层单元。 这里面关键的环节的话，不是某一颗算芯片的一个不是某一颗算力芯片本身，而是就是把这些芯片连接起来。 这个动作其实最关键的，谁能够把更多的芯片用更低的延迟，更高的互联带宽连接在一起的话，那谁就能在整个系统维度上面取得这个优势。 像这个超节点的这个趋势的背后的话，还是有一个现实约束的，一个就是国产的先进制程，短期的话没有办法完全突破。 也就是说我们在这个service上，当前的这个制程的话，最高只能做到224G的service。你要做448G的service的话，可能要到3纳米的加工工艺。 至少我们短期内的话是自主路径落地的话，相对来说有一些难度。 然后在GPU就是说这个GPU卡的本身来讲的话，它的这个卡互联的带宽，包括这个大容量的HBM。 然后就是在这个算算这个算力那个精，就比如说我们这个F P8和BF16这种高精度算力支持上面的话，这个单卡GPU也有一些端板，所以就是说我们单卡的个单点这个工艺如果说追不上的话，我们就要用这个系统级的集成来绕开这个单点的限制。 这也就是说这个超节点这个东西，在这个国产算力路径上面，它的真正的战略价值的一个凸显一个情况。 技术层面的变化和进展的话，我们可以用三条线来理解。 第一条线的话也就是华为的系统集群演进。 这里要先讲一个今年产业里面非常重要的概念。 也就是说华为的这个套定率，就是电路的它这个套定率的话，就是说这个电路时间的常数的那个涛就是今年5月份由何庭波在这，就是华为董事半导体业务部的总裁，在这个IE国际电路系统上面提出了它的套的常数。 那这个套定率它的意思的话，就是摩尔定律，它依靠的是几何微缩，缩小晶体管。 但是涛定律它是走的是这个时间微缩，通过这个压缩信号它通过压缩信号，它这个传输的延迟，在成熟工艺上面能做出更高的一个性能。 那他在芯片层面上面的这个套定率的落地的话，就是在这个逻辑上面折叠。 华为的话六年时间里面一共量产了381款芯片。 像今年秋天发布的这个麒麟芯片的话，也就是用了的这项技术，就是把这个定律推演到极致的话，也就是说从芯片折叠走向了整个的一个系统折叠。 这个系统折叠的话，就是说我们所谓超节点，超级率V，第二版本个论文里面，他提出的这个领取总线包括high one和这个3d floating的ding的超节点的技术底座，包括这个深层384和今年四季度要上线的s plus 950，都是个定路率的思路的产物。 这是第一条技术上面的，就是我们要重视的华为这个套定率。第二层条线的话，就是互联网大厂和国内的些硬件厂商的一个发力的这条技术产线。今年各个各大厂的话都是在这个酸力基建上面加大了资动开支。包括阿里也推出了它的磐久128超节点。腾讯也在从0到1，集结各个细分领域的顶尖团队来研发自己的这个超节点方案。华浪潮这些O厂商的话，也是在今年三季度四季度也在积极推他们各自的超级点的机会方案。整体的产业节奏来看的话，还是非常快的，所以这就说今年是超节点的原因的话并不为过。第三条的话，我们也就是要看它这个落地的进展，前段时间的话我们去看这个世界互联网大会现场，有几十家玩家都在推各自的这个超节点方案。从整机柜到这个交换芯片，从液冷到铜缆连接各个环节都是有相应的厂商的一个布局。更加值得注意的是今年这个互联网大会的参会人员的结构，去年更多是投管和市场部的人来聊超节点的概念。但是今年已经是有绝大多数的人参会人的话都是项目管理和销售聊的是能不能交货，这个超节点什么时候交，说明大家今年都是来带着他自己的这个成品成型的这个超级点影产品来谈合作的。所以说从这个第三条的这个落地进展的情况下面来看的话，超节点已经从去年的概念型上面的有没有，然后进入到了我们今年的能不能卖的这样一个阶段。这也是整个产业阶段的一个重要的一次跃迁。讲完整个宏观背景的话，我们下一部分就下沉到我们这个技术层面，看看整个AI I算力基建落地到这个具体环节的话，它包含了哪些东西，以及说为什么这个超节点是其中最核心最卡脖的部分。最底层是数据中心，数据中心技术层面上面就是有大量的服务器机会组成，这个里面就包含了AI服务器机柜级整机方案，以及柜内外的一些配套的一些基础设施。柜外的话包括交换机、oc全光交换连接器、连接线、铜缆，在数据中心层面的话，还有散热液、冷电源。柜内的话还包含了这些铜连接背板、HBM交换芯片且还有个再往上的话就是这个CPU、GPU还有co这些先进封装技术。那超节点的话相比传统服务器上面有几块明确的一个增量，那散热上面的话就是超节点要 求从原来的普通服务器的风冷升级为大规模的GPU叶冷。因为单柜的功耗已经从30千瓦级别提升到了1000千瓦的这样一个级别。没有叶能的话这个真压根压不住。供电层面上面的话，超节点也是升级的，这个800伏的集中枢纽供电，这个连接上面的话，也带来了大量的retimer和高规格的投揽需求。最后也就是最核心的，也就是说这个高速交换机和交换芯片也是非常重要的。那因为你这个超节点里面的话，几十张卡的这个互联连接核心绕不开的还有这个高速交换机和这个交换芯片。讲到这个交换芯片的话，我们要先要分清楚两个概念，一个是scale out，一个scale up。Scale out的话就是机柜和机柜之间的个GPU通信。这个对速率的要求的话，相对来说是比较温和的。重在整个数据中心里面，多个超节点多个超节点它在网络上面的一个扩展。Skup的话是机柜内部的连接，他就是说你机柜内部的这些GPU之间的数据，它传输不需要经过CPU的二次仲裁。那整个机柜逻辑上面的话，你是几十个芯片，这个gp U算D芯片融为了一个整体。对于数据传输中的食延，包括我们转发时候的这个丢包，包括这个带宽的要求是非常高的。那目前来看的话，国内的这个超节点恰恰就是卡在了这个呃就是相对来说在这个skup这一层上面有点卡。目前国内还没有这厂商能够量产对标这个呃就是博通的他的这个scale ill up这个芯片，也就是说博通的这ultra的这一款交换芯片。因为现在除了这个英伟达gb 200 gb 300Robin的话，其他的这个超节俭的交换的话，基本上都是按照博通的这个方案为主了。这一块的话，也是我们非常明确的国产替代这个空白点。这也就是我们后面为什么要重点去讲这个深科通信的原因。交换芯片自身的眼镜的话，主线一句话也能说清楚，从早期的GPU通信必须经过CPU仲裁走PCIE，到因为达开始用这个NV link实现整个GPU的直连，再到交换芯片独立成模块，模块之间直接通信，每一步都在缩短这个数据传输的路径。这套引进的逻辑的话，我们后面也会有一讲专门的交换芯片的这个电话会，就是我们的这个AI大基建群里的。 这个里面有一有有一有一讲专门是讲交换芯片，我们再去展开。 那么今天的话先记住这个结论，一个结论就可以了。 就是说超节点的它的核心的话就是在连。 而连的技术门槛的话，还有包括这个国产空白都是集中在这交换芯片上面，包括这个交换芯片上面的互联标准studies在这些技术细节的话，我们就等到下一讲的这个交换芯片再去讲，我们今天先不展开。 大家只要记住的话，就是我们这个超节点里面GPU芯片之间的互率互联速率越高，也就说然后就是说一个机柜里面塞一个GPU的数量越大，连接密度越大，那么对于交换芯片的要求就越高，这就是超节点驱动交换机交换芯片，它量价提升的一个底层逻辑。 那就是说这个供需缺口上面的话，一句话来概括的话，今年国内skout的交换机的需求体量是非常大的，供给端博通的卡相对来说比较紧张，主流品类的交付周期普遍都拉长到了一年以上的一个量级。 即便加钱的话，也没法保证交付。 从品类上面来看的话，12.8T这类低端品品类供应还是相对来说充足，也在逐步淘汰。 二厂不会为他去做这个替代。 国产替代的核心的话还是集中在了25.6T和51.2T这两档。 供给缺口和这个交期压力是共同构成了整个国产算力，国产交换芯片导入最直接的一个驱动力，那从整个超节点机柜的这个成本结构来看的话，价值量的分布也很难说明有问题。这个里面的话肯定超节点里面价值上占比最高的就是这个GPU，预定大概在30%左右，存储的话占到两成多。 那交换芯片的话，其实它是第三大的一个价值量环节，占到两成左右这样一个价值。 那除此之外的话，包括这个连接器电缆核计接近一成，还有10%左右多一点的话，是这个ODM自主采购的一部分。 包括了这个冷的元器件、结构件、电源PCB，还有这个部分的连接线线缆。 像这个价值量占比比较高的GPU，switch这些关键芯片的话，通常都是由互联网客户指定型号去控制供应的那ODM的话主要负责的是采购执行和系统集成。 这个事的话就说明了两就就是说明了两件事情。 一个的话就是说对外芯片，它这个价值量在整个超节点里面的话是比较靠前的，是核心环节。 那ODM的话可能真正专研的空间就在一千多的自主采购和系统集成的能力上面。 当然就是说国产芯片和国产先进国际的先进水平上面还存差距，消费芯片这块的话在这个时延上面也存在这个数量级上面的一个差距，丢包率这些都还是有一些明显的差距。 所以就是国产这个交换芯片的话，先是进入到了这个非核心的scale out，然后就是去验证一些中低端的一个场景，慢慢的话往后再去逐步往高端延伸，这也是一个比较现实的一个导入节奏。 就是说讲完超节点的技术的方面的东西的话我们就是呃再讲一下OM这一块的情，因为这个超节点要落地的话，实际上核心的这个执行角色就是这个ODM厂商。 那ODM厂商也是非常重要的，为什么它比较重要呢？因为大部分的互联网厂商，它实际上是不具备完整的硬件开发能力和组装能力的。 通常都是自己提供资金和部分的一个解决方案，采购好GPU和HBM，那剩下的板材、线材以及组装的工作的话，必须要和这个ODM厂商去合作，而且服务器制造的话是那实际上是非常消耗现金流的。 因为你这个里面买的这些芯片的话都很贵，你这块这块的话都非常会占用你这个和capital。 那交这个互联网大厂的话，交给ODM厂商，这个商业逻辑上面也是非常顺的那他不用背这个working capital。 还有一点的话，就是在这个GPU和上层的应用结合最紧密。 这个大厂抓大放小，把自己去主导和GPU层面上面的一个适配，还是比较会更加的顺畅。其余的这些硬件的话，交给ODM整个效率是更高的，然国内来看的话，这个机柜服务器的ODM的话，这个厂商还是比较多的。 他们大致可以分为两类。 第一类的话，就是传统的AI服务器厂商，本身有非常深厚的服务器开发底蕴。 像这个浪潮信息的话，就是传统CPU服务器出身的行业巨头，华清技术