Nvidia专家会纪要

，双向带宽已经达到了 900G3)燧原的训练卡是 T20 和 T21，T21 是 OAM的模块，单精度算力是 40T。下游客户：1）字节之前采购了一万多张的 A100，裸卡可以按 7 万元人民币一张来算，采购 额将近 10 个亿。2)字节目前有 20 万张算力板卡，大概 10 万张是高规格的算力板卡，比如 A100、A800、H800。3)国内企业中，H、寒武纪的确在给字节送样，产品规 格比 H20 强，价格和服务也有优势。阿里以英伟达的板卡为主，跟寒武纪有联系。腾讯采用燧原的板卡Nvidia 专家会议1、目前 NVIDIA 主推的是 NV36 还是 NV72？ CSP 买的都是走价，但是 CSP 以外的价格我们就不知道 3、一颗晶片是 3 万还是 4万？ 会比这个价格还高，至少 XXX 万 美金以上，我们公司是这样看得，我们家高速运算大概 400 亿美金，但我觉得不会这么 少。4、可以跟我讲一下目前 B 跟 H 的方向吗？感觉很像是会大量？ 现在 B 跟 H 都有人买，出比较多的当然是 H200，H100 会慢慢减少，B100 在 生成式 AI 的 训练是很快的，但是要做到深度学习训练的话并没有 H100 快。如果是做Transformer 的话 就没有必要换到 B5、GB 卖那么贵，他们对 CSP 来说Nvidia 的主要吸引力在哪？众所周知现在大家都是要用 inference 来赚钱，你要应用这些软体或服务的话还是要建 inference 的 server，现在大家都在拚 inference，因为投入这么多资源和资本支出下相对 inference 就变得很重要。我们针对 inference 有推荐 的产品，比方说 L10 或 L4，这些 inference 是用在地端像是制造业的 inference，可是有些应用他的 inference 方式可能更不 一样，他可能就会比较适合这一代的比方说 B 系列去做生成式 AI 的训练和推论，这是他们 目前的需求。我们要对每个客户做产品的细分才能把所有的 Suppy 到正确的客户端。B 现 在还没出，出可能要到 04 了，GB 可能要到明年，今年都还是 H 系列，目前 H100 比较快 到货，交期也在缩短。6、以你们的角度会需要知道最下游的产品卖到哪里吗？ 目前卖货都要填表，美国政府要知道你的产品的用途、卖到哪个国家等。但是现在还是很 多偷渡到其他中东国家的案件发生，Supermicro 本次财报不敢给预期就是因为怕被査出来他的货卖到其他国家，所以其实他的生意没有不好，甚至是非常好，他们只是怕揭露之后会被质疑出货地区。每个国家都有 AI 需求，但是美国需要对 AI 做管制，甚至近期巴西也有 AI 需求来寻求 Nvidia 的协助。这种布建跟 Demand 都是一直存在，你们不用担心需求，今年预估有 1000 亿美金的营收，去年是 600 亿美金，预计成长 70%。预估 2027 年 sever 营收可达 4000 亿美金。同样的需求下 GB 价格贵 60%，即使量一样都能成长 60%以上，我 们会开发更多需求出来，CSP 买很多了可是还有潜在的需求存在，我觉得军备竟赛是不会 停的， 比方说中国自驾车也希望自建 AI 系统而非使用特斯拉的 FSD，另外一个部分是 inference，inference 目前炒的就是 AI PC 嘛，我们认为年中或下半年会有很多真 正的应用 和转折出现。比方说 QCOM 的笔电先出接下来各家笔电厂也会跟进，下半年应该会出现很 多 AIPC 相关的投资出现，因为现在进入训练的市场竞争太累了，大家都转向 inference 的 市场，就像 AMD 在北京的发布会只讲 APC 并没有讲 MI300，Co 太会有什么改变。只要有投资大家就会开始竞争，从这阵子的财报 就可以看的出来，AMD 股价也会上去，4、5 月本来就不会很好因为这本来就没什么话题 7、现在 H100 的交期再向下？H100 的量怎么样？H100 供需状况如何？交期以前是一年，这 2~3 个月变成 1~2 个月。有急需的人才会买 H100，可以等的都 在等 B 系列，因此量就被释放出来就变得比较好买，基本上要换单我们都会评估一下，我们会算好一个 G100 全部出完再让人家换单的量。我们可以不让别人换单有的人要换单他可以等 到B100 出来之后再做，如果适合的话我再让她换。因为不是每个人都是用生成式 AI 在做 模型，比方说如果你是用深度学习在做你就不用换 B100，用 H100 还比较快。H100 需求还 是高于供给，多出来的需求量我们可以让他们换单到 B 使 B 的需求能被确保。去年底今年 初的时候还有转单的状况出现，当时还有机会可以屯货，但现在市面上大家的想法是 H100拿到就快点出掉，因为现在交期短，拿到也没办法再转。8、H200 的主要市场？H200 是不是一个过渡产品？ H200 主要市场是训练，他是比 H100 高记忆体的版本，过渡期产品的部分的话，我们是让 对手没有机会，刚开始 H100 被清光后我们出一个记忆体空间