Swarm把任务推向了小时级别,只需要一句话,比如做一个炉石传说/奇迹暖暖游戏,在算力资源充足的情况下,2-3小时就可落地,人类一句话就能让AI自己工作的时代越来越近。 2.训练的资源哪里来的:该2.8T的模型训练资源使用了接近2个B300万卡集群+数个H200集群,算力资源主要来自阿里云(阿里在kimi的持股超过30%),6月Qwen训练算力紧张后大幅减少了给KIMI的供应,后期KIMI向AWS等海外公司采购了部分算力支持自身训练需求,月租超过50万/台八卡服务器。 3.下一阶段的算力需求减少了吗:整体需求成倍的增长。 -训练:下一代6T的模型至少需要3-4个B300万卡集群+数个H200集群支撑训练,训练需求翻倍。 -推理:目前订阅199的套餐,使用K3,10-12小时就能烧完,随着参数增加,推理算力的需求3-4倍。周末整个K3都是处于高峰期,用不了的状态 4.算力资源缺疯了:KIMI目前账上准备了近400亿的现金,预计至少2/3会用来采购算力资源,智谱要加快追赶大参数模型,对算力资源的需求增加的更多,仅这两家训练+推理的需求近400亿/年,对应近13个万卡集群(阿里云和字节需求更多),下半年国内B300到货不会超过1万台,B300五年闭口长协租金接受度已经超过28万/月(年内租金 上涨3倍),违约罚则30-40%,对有交付能力的公司另有10%的预付。 5.大模型厂商和CSP继续扩大资本开支的动力:盈利能力强是最大的理由。现阶段互联网大厂、大模型厂商,算力投入产生的效益整体很高,如果不考虑训练的情况下,只将算力用于推理,下游厂商是真正意义上ROI>10,从这个角度来说算力再涨价1-2倍也是便宜的,考虑训练后ROI也>3,从Meta、谷歌等同行了解下来他们也没有要减少资本开支的动力。另外云厂商的ROI也超过2,考虑杠杆后ROI更高,整个产业发展非常良性,几乎每个环节都在赚钱。 内容来自金斧头星球 6.国内B300交付的情况:目前具备B300交付能力的公司不多。去年Q4和今年Q1整体比较容易拿,Q2以后所有非强绑定的二手渠道基本失效(期货渠道拿货也可以,得按现货加钱,目前某公司交付的256台,期货价格是4月定的550万,最后付款是1000万),原厂价格没什么变动,下游价格却到1300万了,一手货公司的价值大幅提升。Q2交付了256台B300以上的公司屈指可数,A股应该不超过6家