超节点框架：未来AI基础设施的基石

发布时间：2026-08-19 一、AI总结内容 一、核心要点 1. 超节点服务器是当前及未来AI训练、推理及百万卡集群的核心载体，可解决通信、内存、功耗三大“墙”问题，单TOKEN每秒吞吐远高于普通八卡机，推理成本更低。 2. 国产算力呈放量趋势，资本开支向国内倾斜，国产芯片出货量明年将大幅增长，国内模型性能迭代加快（如千问3.8、K3等），推动推理侧需求释放。 3. 超节点服务器类型分为整机柜式（如阿里磐久、百度天池）、级联超节点（含通算、存储、推理芯片模块）、小型超节点（替代中小企业需求）三类。 4. 超节点服务器增量核心为网络互联环节，需新增交换芯片、交换机、高速互联线缆等，当前国产交换芯片迎来进口替代窗口期。 5. 三季度为超节点方案拐点，明年年中或达需求峰值，服务器环节集中度提升，头部厂商毛利有望改善，液冷、高压供电成标配。 二、投资线索 1. 网络互联环节：交换芯片厂商、交换机厂商（如紫光股份、新华三）、高速连接器及线缆厂商。2. 服务器环节：头部ODM厂商，具备网络、液冷、供电整合能力的厂商。3. 配套环节：液冷、高压供电厂商，存储服务器相关厂商（如万通发展旗下苏州科达、南汽科技）。三、风险与关注 1. 海外先进交换芯片供货恢复，或影响国产替代进度。2. 超节点需求放量节奏不及预期，或导致相关板块业绩释放缓慢。3. 超节点架构迭代快，厂商需持续投入研发以适配新需求。 二、音频原文（转写） 任何机构或个人不得以任何形式复制、刊载、转载、转发、引用本次会议内容，否则由此造成的一切后果及法律责任由该机构或个人承担。本公司保留追究其法律责任的权利。哎，好的，呃，各位投资者晚上好。我是呃，国家民生电子雷新宇。 对，今天的话主要是给各位领导汇报一下关于这个超一点的一个框架啊，未来AI EFR的一个基石。嗯，就首先说一下，为为什么我们看好这个呃，超点放量，我们觉得当下的一个国产算力的话，整体的一个趋势逻辑还是啊，第一个从这个资本开支啊，目前可以看到明年的本项字节以及或。这个刚刚这个披露Q二的这个资本开支的程序啊，整体对于啊就是今明两年的一个资本开支啊，还是非常的激进。 但并且呢，随着这个国产 芯片啊，上游像这个封装厂啊，晶圆厂的一个扩产，国产芯片的一个出货。看到在。明年相比今年有一个。啊，大幅的一个增长。 那芯片的修复那个环节之后呢？您觉得就是同样的大厂成本开支，像国内这一侧的一个倾斜的比例。啊，相较于呃今年也会持续的去加重啊，以前是 想买卡对吧？只能买N卡，然后N卡后面还被禁呃禁掉了，只只剩少部分的这个合规卡。 呃，那 明年呢，随着这个国产芯片的一个供给的一个缓解，我们认为对这个 呃 资本开支会更多的向国内去呃大陆到地区去增加。那第三个就是我们看到模型，模型的话我们觉我们看到就是 国内和海外的模型这个差距啊，动态的一个呃差距也在逐步的一个减少，像这个最新的。嗯。嗯。 呃，V四的正式版像千问的这个三点八啊，以及 之前这个K三啊，二点八T的一个参数。那总体来看的话，我们看到就是国产模型的一个呃这个性能也在持续的迭代，并且参数量也在不断的提升。那随着国产呃模型的一个逐步开源，有望对整个国内AI的一个能力啊再一次进行一个呃阶梯式的一个提升。呃那国内整个AI能力提升之后，也会加速整个推理侧的一个需求的一个释放。 那超一点呢，其实作为这个目前看啊，就是作为国内来说是大大产。基本上是采采来这个呃用来做推理，它的推理呢主要是相比这个巴卡做的是一个这个降本呃降本增效的一个利器。这个单TOKEN是每秒钟每瓦的一个吞吐力是远高于巴卡机的。所以总体来看的话，我们认为就是今年两年对超一点服务器这块的一个需求也会呃得到一个大幅的一个增加。 呃，像这个金，像这个比如说像字节的这个大宇阿里的磐久啊，最新的这个磐。产品有超一点，我们看到在上周的时候呃，也是在正式上线到云啊六四卡为一个单元去出租。然后首次是在这个乌兰察布那个地方进行了一个呃集群的一个部署。那目前国内的一些企业客户也可以去上云去租用这个超一点的服务器的一个实力啊。 我们我们认为啊，就未来随着这个超一点出货的一个持续的加速啊，就可以看到就是云上面这些呃越来越多，这个超一点选择也会越来越多。那像最新的K三。他其实官方建议就是作为这个推理的部署，也是建议去用这种六四卡的超一点服务器啊，去作为一个基准去部署。那我们觉得呃往后的话，就是整体对这个超一点的一个需求也会持续的增加。 那对应到这个放量节奏的话，我们看到像这个呃华行公开给的指引啊，就是呃像呃预计是三季度啊，也会来到一个超一点方案拐点啊。我们认为明年的话可能在。嗯，明年是年终的时候，可能会达到一个超一点突破的一个巅峰。那么也建议各位。 啊，投资者去关注这个超点服务器这个板块啊。那为什么我们说这个需要往后啊，就需要这个超点服务器呢？我们认为 嗯。分为两个方向吧，一个是这个训练和推理。 那训练册的话。呃，首先我觉得对于整个 我驱动。引用这个超一点服务器主要是两个方面，第一个就是随着模型参数的一个增加。从早期一个小的C模型到现在。 啊，基本上都是一个。这个两T、三T、四T，甚至像下一代的这个。呃，模型呃，自己之前爆料的就是已经有这个十T十T的一个机模已经开开始训练了。那模随着模型参数的增加，已经超过了这个。 逐步的超过一个单卡，甚至单个八卡服务器的一个选择容量的时候。呃，这个时候具体就用这个巴卡服务器去做训练。其实就会造成这个。跨服务器这个流量啊，通过这个score out网卡功能块去传输。 那我们知道，通过网卡方块的一个速率是远低于走这个skill up协议的。所以总体来看的话，其实 呃，把这个服务器的这个C R P扩大啊。呃，去进行呃，去做这个训练，其实是一个性价比更高的一个选择。那第二个就是来源于这个模型本身啊，现在都是以M O E架构为主。 有没有有很多专家，他在训练的时候呢？呃，有非常多的这个E P和T P的流量。那E P的时候就主要是这个专家在同一个问题。进行推理之后的结论，要进行这个梯度的回传。 呃，一批就不同的。呃，比如说一张GPU部署个两到三个专家，不同GPU之间进行这个OTO的通讯。啊，就会带来很多这种。卡与卡之间无序的一个流量。 那厂里面解决方案呢，就是把这种 呃，单次通信量大。ダメ 通信是不多的，像这个E P的T P主要还是放在这个超一点服务器内部。啊，去进行这个通信。那像这个D P P P啊，甚至F P这些，还是通过score的去传输。 所以说，总的来看，就是用超一点服务器去做这个训练集群啊。它能够加速GPU之间的这个参数的交换和数据同步。那进而也能 嗯。呃。 整体就缩短了大模型的一个训练周期。那在当下 啊，无论是这个国内的 几家云厂，包括海外云厂，以及大国与大国之间的这个竞争来看。啊，军备形态现在来看。啊，那用这个超点。 不去去做这个训练，基本上已经达成一个共识啊，因为确实能够加速模型的一个。啊，迭代来取得。持久的这个。呃，机模的一个领先。 那以上就是我们说，为什么训练者需要用到超一点的服务器。就往下来看。就是这个。呃，推理测，推理测其实是呃，是国内整体呃，采购这个。 好点。这么急切的，我们认为是一个核心原因啊，就是总体来看，用超一点去做推理。啊，它的这个单网每秒钟就是T P S的一个。是呃，这个数数据是远高于这个。 嗯。嗯，打卡级的。啊，像这个diss的当时呃，在这个发布这个V四的时候，在公众号里面也好像小智也提到了，就是 嗯。呃，下半年就是增城九五零超一点批量上市后。 这个deepseek V四pro的一个推理价格会大幅下滑，也是从侧面印证了这个超一点它其实。用来做推理之后，它的一个推理成本。啊，性价比呃，设计成本会更低，性价比的话比原来的八卡机会更高。核心原因就是他。 呃，能做这个多卡之间的一个 呃，物联把这些 把这些整个整个显存做一个石化啊，然后通过 给袜子。快速的把 一些这个Q B cash啊，卸载到内存上面啊，相对而言的八卡机，一方面是Q B cash。就是。就是整个服务器的显存变大了，用来做这种百万上百万上下文的一个推理。 呃，这个战略的负担。啊，压力更低。第二个的话就卸载的也更快啊，所以总体来看其实。用来做推理的话，它是一个。 呃，国内用国产卡的。然后来做整这个超一点图形为主，推理是一个。更优的一个选择。那其次呢，如果我们从这个呃集群的维度去看，就是比如说我们在讨论未来的一个这个十万卡、百万卡集群的叙事。 啊，因为其实像海外现在已经建了很多这种小几十万卡的一个剧情，像国内前段时间也上线了。嗯，这个海关的这个十万卡超算机型啊，就是其实 未来百万卡集群肯定是一个大的一个方向啊，那怎么做到这个百万卡集群呢？呃，分为两个方向嘛，一个是skill up和skill out。那总体来看，肯定是结论肯定是先scale up，再scale out。 啊，先把这个服务器 啊 give up可以做大做成这个六四七四二一二八甚至二五六啊 他再去做这个scout，他能够 一方面降低你的这个集群的一个网络架构的一个复杂度。和运维的一个成本。啊，第二方面也能提升啊，你整个呃超级点，就是你超验集群也能提升你整个集群的M F U。相比普通的那种巴卡机用来做是个二层，实际上。 嗯 不能。你相当于就变相减少你这个算力的损失嘛。同样都是这个万卡巨星，我的这个算力。啊，因为这个通信通信的这个速率更高啊，我的这个算力的损失更低，那实际上也是一个 节约了这个成本的一个啊，变相来看也节约了成本这么一个作用。 啊，对于这种厂商来说，实际上 呃，也是一个。知道少一点，就是未来这个大集群的一个基石。那所以总结来看啊，就是超野他其实 我们认为解决的就是啊三方面的问题啊，第一方面就是通过这个做高带宽域啊，HP D域。去解决这个之前通信墙的问题啊，传输速率低。 第二个呢，就是做整个。呃，芯片甚至啊，把整个CPU各种元器件都做这种内存。呃，统一的这个语义内存的实话去解决这个内存墙的一些问题。那第三个呢，就是通过 呃，工程上呢是通过这个，比如说集中的供电。 然后把四百伏、八百伏DC，以及像这个液冷呃散热去解决这个工程上落地的功耗墙的问题。那总体来看呢，就是 嗯。超一点，它的一个定义啊，就是说。呃，把这个通过一个高带宽的 一个互联协议，呃，把整个GP U。 互联组成一个这个统一编制低延迟。自己的一个逻辑上的一个大的G P O。啊，那这个呢，我们认为就是一个创业点。那总结来看，就是超点它其实。 比这个普通的集群性能更强。啊，然后推理成本的话，嗯。啊，也更低。那以上呢，就是先简单介绍一下，就是呃，目前整个 呃，算力的一个发展，以及为什么我们说推理和训练都需要这个超一点。 啊，那第往下呢，就是我们看到就呃再介绍一下超点的一个类型和具体的一个架构。以及对比原来的这个巴卡级，呃，有什么样的一个变化？超一点的话，他 目前看主要是分为三种种类。啊，第一种呢就是。 比较常见的这种整机贵的一个超级点，比如说像海外的N V O七十二。啊，国内的这个 ah 各种像呃，无论是服务器厂商推的那种像。浪潮的元老啊，然后是华灯的这个。八万X八万呃，中心的这个O E X 呃，以及包括云厂推的这个。 啊，大雨。自己的大雨，阿里的磐久，百度的天池啊，这种其实基本上都是以这种整机柜潮一点为主啊，就是一个柜子里面既有G P U C P U。There. 当然，像运营商的话也有去推这个。呃，分期会。 Mhm. 嗯。没有你，我。谁呀？听会了呢，我操，不接了。 超一点或者叫啊，然后整个呃这个这个算力的密度也没有那么高啊。然后往后来看，我们认为下一代的超一点就是往这个级联超一点或者叫这个matrix超一点去走。就强调不光要有现在的这个G P U整机柜的超一点，以及比如说我要去配备额外的这个通用服务器啊，通算的超一点去做一些这个向后的一些，比如说多一点调用的核数的一些补充啊，或者说我配一些额外的存储服务器做成存。去呃对应，像比如说企业的一些外挂数据库，包括训练策略一个存储这个check point