Cerebras Systems Inc CBRS 讨论AI速度与晶圆级技术对实时应用影响的预先准备演讲实录

核心观点与关键数据

• 代理式设计的优势：设计代理被称为“重型”，其架构迫使代理将设计过程扁平化为生成，并通过循环实现设计质量的提升。代理式设计能帮助设计师节省时间，专注于设计的乐趣部分，并适应设计师秒级的循环工作方式。
• 语料库的重要性：Sigma 平台积累了数十亿的设计分层构建数据，为代理式设计提供了丰富的数据和上下文支持。Figma 能够构建定制化内部模型，以更可靠的方式判断设计质量，并克服现成模型对某些风格模式的偏见。
• Cerebras 推理硬件的优势：Cerebras 的推理硬件使速度成为代理式设计的策略核心。通过与 Cerebras 合作，Figma 构建了更便宜、更快、专门针对设计师工作方式的代理。
• 速度对代理式设计的重要性：速度能提升代理的效率，让用户在更短的时间内完成更多任务，并保持专注，无需切换上下文。快速推理使 AI 工具更像是实时互动的合作者，而非需要单独设置的程序。
• Cerebras 系统的性能：Cerebras 的 CS3 系统比 GPU 快 15 倍，CS4 系统将进一步提升性能，提供高达两倍的速度提升。CS4 系统采用晶圆级芯片，拥有更高的内存带宽、计算能力和互连带宽，以及更低的延迟。
• 解耦推理的优势：通过将预填充阶段卸载到 GPU，将解码阶段卸载到 Cerebras，可以实现更快的速度和更高的吞吐量。Cerebras 与 AMD 合作，提供解耦推理解决方案，以满足不同应用的需求。

研究结论

• 速度与智能的平衡：Cerebras 的硬件加速器消除了速度与智能之间的权衡，使用户能够同时获得速度和智能，从而在时间敏感的工作中发挥 AI 的优势。
• 代理式设计的未来：代理式设计将彻底改变用户体验，使 AI 工具更具互动性和吸引力。未来，代理式设计将进入家庭，并改变人们与 AI 的互动方式。
• 网络的重要性：高速网络是 AI 推理的基础，未来网络需要跟上计算和流程的发展速度，并支持 AI 应用的规模扩展和跨地点扩展。
• 合作与创新：Cerebras 与 OpenAI、Figma、CrowdStrike、AMD 等公司合作，共同推动 AI 推理技术的发展，并探索新的应用场景。

关键数据

• CS3 系统性能：每秒超过 2300 个 token，比 GPU 快 15 倍。
• CS4 系统性能：比 CS3 系统快两倍，提供高达两倍的速度提升。
• CS4 系统内存带宽：比 GPU 多 2000 倍。
• CS4 系统互连带宽：比 GPU 多 2000 倍。
• CS4 系统延迟：比 GPU 低 2.5 倍。
• Helios 系统性能：4 倍的速度提升，20 倍的吞吐量提升。
• AI 模型参数量：未来三年将增长至 3.2 TB 甚至 6.4 TB。