国泰海通计算机Serebras架构与美十万卡级AI集群研讨纪要

发布时间：2026-08-12 一、核心要点 1. 本次会议由国泰海通计算机团队与海外云和AI算力专家参与，围绕AI集群基础设施、芯片架构、网络、运营等展开，含40分钟专家介绍及提问环节 2. 美国AI集群受供电、散热、网络架构限制，三层无损网络峰值为3.6万卡，十万卡集群由多个3.6万卡单元构成，千卡集群是数据中心经济合理单元3. AWS芯片组合中英伟达芯片占10%、自研训练芯片占30%、AMD芯片占5%；Serebras大硅片芯片适合推理预填充，但存在内存小、软件生态弱、良品率低、生产成本偏高的局限性，推理环节性能优势明显但profiling阶段无法应用4. 大厂通过资本支出应对HBM涨价，HBM供需失衡但供应可保障；英伟达占据芯片垄断地位，软件生态完善、硬件毛利率高；AMD为候补选项，性能部分超英伟达但软件生态弱；亚马逊、谷歌等自研芯片性价比提升40%-50%，未来或冲击英伟达地位5. 十万卡级AI集群供不应求，GPU租赁、Token售卖模式的IRR超20%，回报期2.5-3年，Token类业务回收期短于GPU服务模式6. 中美AI集群建设节奏有差异，国内落地速度快于美国，2027年东南亚将有大量数据中心落地二、风险与关注 1. 美国建数据中心面临电力获取、地电环保等压力，日本2兆瓦以上电力需等待18个月，百万卡集群或需自建电站、核电站或依赖氧化电池等自发电方案，公网供电几乎不可行2. Serebras芯片内存小，无法适配推理阶段内存需求大的任务（如KVCache、RAG），且软件生态弱、良品率低3. 国内云厂商自研芯片设计难度低，最大挑战为先进制程生产环节，目前阿里已推进相关自研工作4. 大语言模型训练面临高质量数据瓶颈，10万亿参数后提升空间有限，企业级私有模型训练仍处起步阶段