算力租赁深度电话会20260722

00:00:00 算力成本我们假设它的技术是一致的话，那K3的算力成本应该是质谱就要M算力成本的。3.5倍以上，事实上我们认为啊，现在因为它还没有参数没有。权重参数没有释放出来，也就是说，第三方除了我们之外，其他的人也都没有测试过。我们只能去估估算。这个Kimi它的一个效率，但我们现在估算它的效率应该不会比质普高，就意味着它的算力成本是质谱的3.5倍到4倍的样子。 00:00:36 然后我们也看到它的定价。质谱的这个。GM5.2的，它输出的定价是28块钱。然后KimiK3是100块钱，差不多也是它的三倍。三倍多，所以它这个定价也从侧面可以反映，K米K3它的成本是质谱的3.5倍到4倍之间，它卖的价格也是3.5倍到4倍之间。所以他们他其实K3在定价的时候就考虑了，充分考虑了根GM5.2的一个竞争。所以，呃，单纯从算力上、成本上和售价上面来讲，他们两个是非常相当的。就是我我的成本是你的3.5倍到4倍，所以我的售价是你的3.5倍到4倍，这这是非常合理的。 00:01:25 然后从技术参数上面和它的售价策略上面，这两点都是吻合的，那剩下的就是说作为开发者作为使用者。 00:01:34 会选择哪个？我们目前看到的这个海外的大部分评测机构，评分比较中立一点的评分是指？ 00:01:44 Kimi K3.它在性能上面肯定是超越了智谱GM5.2在很多方面，而且它是多模态的。呃，所以GM5.3它会用的非常全面的场景，下面对标的是stable。然后质谱GIM5.2对标的是opus。 00:02:02 但是市场需要的是什么呢？市场更需要OPPO的4.8以及这个质谱的GM5.2，我们自己作 为开发者。大概率还是会选择质谱GM5.2， 00:02:15 所以呃现在市场对这件事情是过激的，认为诶谁超过了质谱GM5.2，大家就都会用去都会去用Kimi K3.其实这个是一个相对来说错误的想法，因为大面积使用质谱GM5.2的都是用用它干嘛呢，用它做来做这个软件工程和编程。这些客户不会因为Kimi K3它这种。多模态。在整体领域上面的超越，而去选择一个比质谱GIM5.2贵上几几倍的这个K3，所以。K3它可以去抢夺非常多的像M i n i M a x、D e e p S e e k、千问的份额，尤其是尤其抢的会是Anthropic的份额和GPT的份额，它并不太会影响自子DM5.2的这个份额。 00:03:08 大致是这样的一个情况，就是大家对质谱是有点过于。过于忧虑了啊。他们俩不在一个竞争维度上面。 00:03:18 嗯，好的，好的，明白。然后请那个归处所播报一下提问方式啊，谢谢。 00:03:26 喂？大家好，如需提问，电话端的参会者请先按话机上的星号键，再按数字1，网络端的参会者，您可以在直播间互动区域内文字提问，或点击旁边的举手按钮申请语音提问，谢谢。大家好，如需提问，电话端的参会者请先按话机上的星号键，再按数字1，网络端的参会者，您可以在直播间互动区域内文字提问，或点击旁边的举手按钮申请语音提问，谢谢。 00:04:32 哦，专家老师，我这边后台收到了客户的一个文字提问，嗯，想跟您请教是不是超节点可以部署呢？呃，以及成本多少呢，谢谢。 00:04:46 好的，呃，超节点是肯定可以部署的。然后我们讲的超节点大概率讲的是包括英伟达，就是GB200、GB300和它的下一代卢比NVL72,或者是国内的这个超节点就是生成的。呃，910B，还有这个新发布的这个950。这个超节点都可以部署，而且在超节点，现在超节点它优势在什么呢？国内以升腾为例。超节点的优势在于，它卡间的互联其实比英伟达的卡间互联的速度还高。呃，整个深层它都是纯光互联，就是卡间都是光互联。 00:05:25 但是英伟达的超节点呢，它是用了部分铜缆加光缆，所以在互联的这个速率上，英伟达呃不。华为确实包括910B和910C和这个950都占有优势，互联上面占有优势，但是在这个模型的适配底层推理框架和推理引擎的适配上面呢，英伟达应该还是会占有比较大的一个优势。 00:05:53 那部署成本呢？呃，整体。我们其实可以看刚才我讲到过一个呃大致的数据，像英伟达B300是两台可以去部署。这个Kimi K3那。两台两台B300呢，在海外的成本大概是120万美元，加上它的这个。叫交换机光模块等等，大概还要加上一个30万美元，所以海外的一个Kimi K3的部署成本，最低成本应该是在150万美金左右。就是海外的部署成本，而国内的超节点。 00:06:33 如果要部署的话，超节点以910B和910C为例。呃，是300。呃，384节点，384节点呢。它的显存其实比这个B300已经大非常多了。它的这个成本大概是已经去到了。一个亿了，最便宜的910B910C应该都要一个亿了，这还是便宜的还是风冷的？如果是液冷的去到1.5个亿了，所以超节点部署这个。国内超节点来部署成本确实很高，因为国内的超节点整体算力和显存都有点跟不上，造价很贵。 00:07:13 海外呢是两台B300就可以完成，那海外的成本刚才讲到150万美金，折合人民币差差不多1000多万吧。而B300如果现在在中国市场上的市场售价是1350万。两台B300在国内的部署成本差不多是3000万，在海外是150万美金，而超节点。国内的售价在1个亿到1.5亿之间，然后950GT这个。超节点的目前还没有报价。所以大致的价格应该也在这个接近两个亿了，就是我们认为两个亿甚至到3个亿，具体的超节点报价我们没有拿到。啊，海外的这个g B200和GB300的以及卢比，他们的这个成本GB200应该在400万美金左右，GB300在500万美金，而Rubin nvl72的报价应该在800万美金。就是。呃。整体的一个超节点的成本。 00:08:19 好的，感谢专家老师的解答。呃，各位投资者，如果大家需要提问的话，可以发在公屏 上，我这边将会带您进。大家好，如需提问，电话端的参会者请先按话机上的星号键，再按数字1，网络端的参会者，您可以在直播间互动区域内文字提问，或点击旁边的举手按钮申请语音提问，谢谢。大家好，如需提问，电话端的参会者请先按话机上的星号键，再按数字1，网络端的参会者，您可以在直播间互动区域内文字提问，或点击旁边的举手按钮申请语音提问，谢谢。 00:09:04 呃，专家老师，我这边后台还收到一个问题。呃，想跟您请教在呃token分成模式下，算力租赁厂商在采购英伟达B300集群呃与国产超节点集群时，应如何就是权应如何权衡成本呃稳定性及交付能力呢，呃，以及国内超节点是否已具备支撑K3级别高并发推理的商业化能力呢，谢谢。 00:09:34 呃。大致的数据是这样的，就是因为官方的这个数据，包括英伟达对超节点的这个官方。报告的数据呢，跟实测是有差别的，英伟达也有一些虚报，然后我们国产呢。也存在一些这个。实测达不到这个官方公布数据的情况，我只能以一个实际的这个生产的这个结果，或者是某某些某两个大厂的结果来跟大家说这个问题。具体的数据有一些因为涉及到跟官方不一致，没办法去把详细的数据跟大家分享。 00:10:16 大致的情况是。国内超节点，比如我还是以生成910，因为910B是有实测数据的，910B的这样的一个超节点呢，它的性能。Token的生产速率我们以质谱GLM5.2为例，因为K3大家还没有安装嘛，所以K3的数据是没有的，K3现在只有Kimi官方自己有，其他人都拿不到。那。 00:10:44 一台超节点的这种910B910C，它的一个token的产出效率。差不多就是等于。2~4台B300这样的一个效率，为什么是2~4台呢？因为两台是指原始效率啊，4台是指原始效率，两台是指这个推理引擎以及内存优化后的token生产效率，就是通经过推理引擎和这个内存优化。以后两台B300，它的token生产效率差不多可以达到一个超节点的生产效率。呃。所以？这个英伟达B300才会包括，因为供应链的问题吧，B300才会从这个400多万500多万一直炒到现在的1300多万，那两台差不多就是2700多万，呃，基本上就 能达到一个超节点的这个生产的效率， 00:11:40 我指的是DeepSeek和G2M5.2，那Kimi呢？Kimi是可以部署在超节点上面，也可以部署在这个B300上面。我们的评估下来认为。如果910B和910C，应该它的token生产效率会接近两台B300的效率。 00:12:01 呃，91950DT这个设备还缺乏数据和依据。好的好，大概大致是这样的一个结果。好的，呃，专家老师这边还有一个呃问题，嗯，他想说参数量是按等比例增加成本的吗？呃，比如Kimi新模型的参数是质谱5.2的3倍，呃，那成本也是它的3倍。这里面是训练和推理都是一样的趋势吗，谢谢。呃，不完全是等比例的，这样的一个比如那个质谱的，它的参数是七七千四百多亿的参数，那Kimi是2.8万亿，差不多接近4倍吧，超过3.5倍到3.5~4倍这样的一个阶段。 00:12:58 首先我们部署上面部署成本。意味着我一台。哦。就是部署同样的这个。GLM和部署同样的，呃，部署一套GM和部署一套Kimi K3Kimi K3所要求的这个卡的存储的。倍数存储倍数显存加上存储的倍数肯定是跟参数是成比例的。 00:13:23 但是部署以后，它的token产出效率。比方说我用一台B300布，这个GM5.2那边我用一个4台布，一个K3。他们的token生产效率是不是一致的？我们认为越小的模型它的生产效率会更高。也就是说。哪怕你用4台设备部署K3，我用一台设备部署这个GM5点呃5.2，那理论上来讲。GIM5.2的这个。因为他的卡点。卡间的这个交换速度更高，GM5.2的token生产速度理论上是更高的。这是单一指他们的技术架构，一样的情况下，谁的参数越小，谁的token生产效率会更高。 00:14:11 就是单从这个角度来讲，另外还受其他因素的影响，就是Kimi K3它有一个。呃， 00:14:18 静候的机制，它这个静候机制也会导致他。更慢。我们我们可以这么理解，就是GM5.2，他他的这些专家分布在8张卡里面而。K3它的这个专家是分布在16张卡里面，这16张 卡里面到底是启用哪张卡的专家不一定，而这些专家之间的互联是没有在一台机器那么快的。一台机器相当于我住在一栋楼嘛，然后两台机器呢中间。你可以理解是两栋楼之间的互联，它中间要有个走廊，这个走廊就叫IP，主IP网络。ID网络总是没有一栋楼之间快。所以越大的集群它。它的整体的通信效率会越低，卡越多通信效率越低，也会导致它的token生产效率会慢一点，所以。 00:15:11 呃，我认为或者。这个K3因为它的权重和实测数据缺乏依据实实际的部署，我们认为这个K3的。呃，部署的这个性价比会低于质服CM，也就是说，你4台未必有我一台的效率高。然后你的价格并没有达到我的4倍嘛。呃，大部分token工厂依然会选择部署智谱GLM5.2。除非是什么呢，除非是。质谱GM5.2的这个打折打得厉害，最终还要看市场。市场的这个价格，因为K3。目前是没有打折的，也没有第三方参与，而自此GM5.2第三方可能打到6折甚至5折。那他们的这个价格比又不是28:1。这个100也许是14:100，所以市场会动态地平衡这件事情。会通过价格来动态平衡。 00:16:19 好的，呃，感谢专家老师的解答。呃，这边有一个新的提问想跟您请教， 00:16:24 模型高端化定价对租租赁方呃。分润空间的传导，呃，K3API I输出定价大幅上调至呃，每百万token100元，呃，创国产模型新高，反映了算力成本上升及高价值定位。这种模型端的高端化定价趋势，将如何传导至算力租赁方与大模型厂商的？呃，toke肯分润博弈中呢，呃，是否会实质性打开算力租赁单卡盈利天花板呢，谢谢。呃。就是市场它是一个供需，供需去匹配出一个价格来，当供不应求的时候它就价格上涨。 00:17:11 质谱的情况就是我们可以看到质谱的订阅制， 00:17:16 所谓的订阅制就是个人我