千兆级AI正在重新定义现代数据中心必须提供的能力。随着下一代AI工作负载朝着大规模模型、实时推理以及覆盖整个区域的互联AI工厂发展,基础设施必须演进,以提供前所未有的规模、连接性和能效。
NVIDIA光子学交换机正是为此而生,它消除了当前数据中心的限制,实现了向数百万GPU的无缝扩展。本次会议探讨了NVIDIA架构如何将传统数据中心转变为完全集成的AI工厂,始于利用NVLink在机架内连接GPU的高速纵向扩展,随后扩展到专为AI设计的Spectrum-X以太网横向扩展和跨节点网络,通过遥测驱动的拥塞控制消除数据包丢失和抖动,带来超级计算机级别的性能。
在本次网络研讨会中,你将了解到:
- NVIDIA共封装光学技术如何实现10倍更高的弹性,使应用能够不间断运行长达5倍的时间。
- 共封装光学技术如何实现每瓦卓越性能。
- Spectrum-X以太网如何在数据中心内连接AI计算结构,并跨多个AI数据中心进行扩展。
演讲者:Gilad Shainer,NVIDIA网络业务高级副总裁。