西部郑宏达英伟达Feynman架构和LPU芯片

李想西部证券计算机行业分析师 好打坐线上各位领导大家早上好，我是西部计算机团队的李想。然后我们都知道CDC作为三月份非常重要的一个科技类的一个展会。其实每一年都会重磅发布大量的新安全信息，比如二三年就在GDC上面发布了这个S100，然后24年也是发布了blackwell的这个架构，然后25年也就是发布了到今年要大批量出货的rubin这代架构。所以大家到了26年，大家就会非常关心接下来C曼这一代架构以及后续型号它的一个技术的这样一个特点。 我们知道英伟达在整个25年，实际上他还是在技术上做了很多的革新和尝试。比如说他开始跟Intel合作去做一些CPU在推理层面的一些优化，同时也在Scale-up的部分去推广他自己CPO的技术。更重要的还是英伟达在25年持续地去扩充他自己的技术力量。在25年9月份的时候，用了他账上1/3的现金，也就是200亿美元，去事实上去收购了Groq，也是吸引他的核心团队加入英伟达。所以大家也非常关心，就是半年时间过去了，英伟达在整合Groq相关技术的环节，到底做出了哪些努力和尝试，也会非常关心Feynman这一代的架构，会不会融合LPU的产品，去做面向推理的这种专用推理芯片。因为我们知道其实最早GPU的功能，实际上是计算我们电脑上面每一个像素点的RGB值。所以这类任务天然地具有什么样的一个特点呢？就是说我同一时间有很多的任务要进行，但同时每个任务我的计算量又都不是很大。这种特点就让它跟CPU有一个明显的区别，也就是GPU事实上更擅长处理这种大规模并行任务，特别是这种单个线程计算量不是很大的这种并行计算任务，因此在AI兴起以后，GPU逐渐演化为AI计算的一个主要的算力设施。 那么在这个趋势上，其实最早GPU是非常通用化的。也就是说我可能同一款GPU既要去应对这种高精度的计算需求，比如FP64、FP32这种偏高精度的计算需求，也要去面对比 如像FP32或者FP16这样的AI领域的计算需求。所以当时的GPU事实上是两边都要兼顾的，特别是高精度那一块，比如说像一些气象、空气动力学的这种计算，包括结构强度的计算其实也是非常重要的一个GPU市场。 随着我们看到22年年底ChatGPT的推出，整个生成式AI的需求越来越大。AI对于GPU来说，所占的下游市场份额越来越多。各个厂商事实上也在慢慢地朝AI计算专用推理芯片去做产品迭代。我们能够看到非常明显，其实英伟达在25年的9月份，已经开始做相关这种专用推理基础设施的尝试。我们可以简单回忆一下，25年9月份的时候，英伟达就发布了CTX的这样一个方案。 相当于事实上把AI计算的过程分为两个部分：一个是Prefill，一个是Decode。分别用专用的Rubin-CTX GPU来处理Prefill阶段的计算，然后再用普通Rubin GPU来处理Decode阶段的计算。 这样有什么好处呢？因为我们知道Prefill它相当于是计算密集型的计算过程，真正限制算力上限的卡点是我单颗芯片或者是互联起来的若干颗芯片整一个计算核心的计算能力，或者说它是一个计算核心的数量。在Decode阶段，事实上它的算力天花板影响因素是不一样的。Decode阶段，因为频繁涉及到计算单元跟我的显存的数据读写，所以说这个环节的天花板实际上就是我的显存带宽。两个环节不太一样。所以英伟达其实已经在一年前就开始针对AI计算，特别是AI推理的需求，去专用化地迭代他自己的基础设施产品。我们知道在大模型的计算过程当中，实际上现在90%以上计算量是由GPU的，就我们讲通用GPU的Tensor Core来处理。因为我们知道通用GPU，我们打开H系列或者打开Blackwell系列的白皮书，都能够看到，英伟达一个最小计算单元叫SM。然后一个SM里面它会既有我们所谓的CUDA Core，也就是GPU的核心，也会有我们专门面向AI计算的Tensor Core。而事实上现在的大语言模型，90%以上推理计算量，包括它的一些主要阶段上主要是一些矩阵的乘法加法，以及矩阵和向量的乘法，这些其实全部是由Tensor Core来承担的。只有跟注意力机制，也就是一些数学上的归一化、一些指数运算、一些高精度的求和，包括最后输出时候要一些采样计算，那这些对精度要求比较高的，才会放在GPU的核心上。但是事实上GPU的核心又占据了英伟达整颗GPU的相当一部分面积，所以我们认为相对来说在效率上并没有达到一种最优的解决方案。 为了进一步提高芯片计算能力的天花板，其实我们知道各个厂商也做了非常多的尝试和努力。典型的就比如Groq之前推出的LPU，它相当于是进一步地在GPU的基础上去提升了硬件的效率。这怎么理解呢？就是我们知道GPU因为它面对每个任务特点可能都是不一样 的，这种我们认为是计算上的不确定性。那么GPU是怎么解决的？就是说同一个GPU在面对不同计算任务的时候，都有比较高效率的需求，GPU它实际上是使用这种快速调度的方式来解决这种不确定性。 这怎么理解？就是说我们知道GPU在内部有非常复杂的逻辑链路，它实际上会有软件实时去监控。就比如说数据到了没有，计算单元空闲了没有。那如果数据还没有到，那么计算单元就会等待。如果计算单元冗余了，或者计算单元很忙，那数据就会到其他计算单元那边。它相当于是一种对于硬件的动态调控，但凡是调控，肯定都会涉及到一些计算的过程。 所以说GPU我们认为它效率上不是最高的。那什么是效率最高的呢？就是LPU。为什么呢？为了消除这种计算和计算之间这种不确定性，LPU这个芯片内部是没有这种软件调度的。在程序的编译阶段，LPU就能够依靠软件去决定数据什么时候进到哪一个计算单元，哪一个计算单元在什么时候输入哪一条指令，这个他在编译阶段就已经做好了，所以它相当是一个高度自动化的精密流水线，不需要软件端再去做一些运算时候的调用了，能够大大提高效率。 但同时，我们也知道，这样的话就意味着它的这个编译器，软件这一方面，其实是更加的重要。所以当我们看到英伟达，他自己宣布整个rock的核心的这种编辑团队也要加入英伟达的时候。所以我们也就知道实际上他要对这个LPU做一个很深度的一个整合。所以总结下来来看，就是不管是英伟达也好，还是它的主要竞争对手AMD，然后包括这个大厂自研芯片也好，大家都已经开始面向推理，面向AI计算，特别是推理去迭代自己的算力芯片的这样一个产品。或者说专用于推理过程的这样一个推理芯片，也有望在未来的1到2年，去实现它的一个大规模的突破，我们认为这个行业趋势在整体上是不可阻挡的。那么我们回归到这个投资上，就除了这个非曼架构和LPU，除了对于上游的这个，比如说上游供应链，比如说像这个PCV，存储，这是有这个影响以外。我们认为它能够映射到国内，其实也是对国内的国产的AI芯片的这样一个放量，有一个逻辑上这样一个利好。 我们知道各种股票投资上，我们主要推荐寒武纪、海光、盛科和澜起。我们知道寒武纪本身接下来的新产品90，作为一款支持FP4和FP8两种精度的芯片，同时也是基于Chiplet技术打造的芯片。在算力上和架构上，特别是架构上是基于它前一代590的一个巨大的革新，架构上是一个重要的革新，同时在产品性能上也会实现一个比较大幅度的飞跃。之前可能要专注于推广搜，也就是推荐算法、广告算法和搜索算法这种推理任务。接下来也可能会拓展到对于新的大尺寸推理模型的推理任务的承接，这个是寒武纪，节奏上可能也不 会特别慢，不会特别低于大家的预期。然后海光我们知道海光三号，其实接下来也会有一些，大家也非常关注三号在重点客户这边的放量。 因为我们知道参考英伟达自己的技术路线，其实在Hopper这一代产品当中，英伟达自己就会用比较多的FP64核心和FP32核心混着用。然后到了Blackwell这一代，就已经事实上是没有FP64核心，只有FP32核心。所以我们觉得适度地去掉这种高精度的计算单元，辅助以低精度或者是单精度计算单元，也是一个非常重要的行业趋势，所以我们也非常看好海光在大客户这边的突破和放量。 我们知道除了AI芯片，超低时延也是现在市场关心的一个重点。然后我们认为盛科通信在超低时延概念上，有望是一个重要的受益标的。盛科它25.6T的交换芯片，其实已经实现了突破。然后51.2T也正在紧锣密鼓的流程当中。包括后续我们看到在Scale-up部分，不管是以太网方案还是NVLink的方案，事实上在国内云厂商这边也在紧锣密鼓地进行测试和验证。因此我们认为对于盛科通信来说，基于它自己25.6T，包括将来51.2T的交换机技术，也有望在互联网客户，特别是大批量使用超低时延的互联网客户这边获得一个相对比较大的份额，以及一个先发优势。 另外一方面，对国产超低时延来说，CXL的方案其实也是非常引起市场关注。我们认为在CXL这个领域，澜起也有望获得一个相对比较大的增量。一方面是在大客户这边能够取得一个接近独供的份额，同时另外一方面我们也可以关注到，其实CXL芯片随着大客户自研芯片大批量上架，我们可以看到它对应的CXL Switch芯片以及更重要的PCIe Switch芯片也将迎来一个非常大的需求增长，相关企业弹性都是比较大的。我认为随着澜起在这些领域逐渐取得突破，那么后续的增量我们有望能够获得持续上修。所以在股票投资领域，随着英伟达推出Feynman架构和LPU方案，我们认为这些标的是非常受益的。 总结一下，我们认为Groq以及Groq的LPU产品，事实上是进一步突破了AI算力芯片在推理阶段的性能天花板，也有助于大家进一步降低单位Token的成本。随着单位Token成本进一步降低，大厂也有望持续为了边际上面的一些收益，去扩大对于AI芯片的采购。然后英伟达愿意下场收购Groq，并且把Groq的LPU整合进自己的Feynman架构，或者整合进他自己的产品线里面，也从另外一个方面说明了去设计一款专用于AI计算，甚至是AI推理的芯片，我们认为从性能上、从性价比上都是能够有比较大突破和提高的，也是适合于现在生成式AI的发展浪潮的。我们也觉得国产AI芯片，也能够通过对于AI场景的专用化，特别是面向推理场景的专用优化，持续取得订单额、销售量、销售额上的大幅增长，实现弹性比较大，同时确定性比较高的增长。主要是这样一些内容，感谢各位领导 参会，我们今天的会议就先到此结束。好，谢谢大家。