数据中心、电信和企业网络中高速以太网的未来

信息技术 2024-10-28 - 思博伦邓轶韬

总体需求：持续增长的服务提供商边缘网络和中型企业需求。
细分市场增长：
- 超大规模云服务商：刷新周期驱动的早期需求。
- 大型企业：对400G的需求持续增长，视其为未来解决方案。
- 二三类云服务提供商：逐渐采用400G。
- 大型电信运营商：IP核心升级推动需求。
市场预测：
- 2024-2026年：预计发货量将达到24亿多个高速以太网（HSE）端口。
- 2024-2026年：1.6T Ethernet端口发货量预计达到6.5亿个以上。
- 2025-2026年：8.5亿个800G端口发货。

1.6T Ethernet：
- 需求驱动：数据流量激增推动1.6T Ethernet研究。
- 市场状态：2026年前IEEE 802.3dj标准完成，但2024年的基础功能已支持早期开发。
400G与800G：
- 企业应用：大型企业将400G视为未来解决方案，简化向800G及更高传输速率的过渡。
- 数据中心应用：用于支持AI的数据中心互联，提供更高的带宽、更低的延迟和更好的能效。
AI与HPC网络：
- 标准化IP网络：RDMA over Converged Ethernet (RoCEv2) 和新的Ultra Ethernet Transport (UET) 标准。
- 实际应用：用于加速AI和HPC工作负载，提高性能和效率。

市场需求：AI对数据中心和网络连接的影响巨大，推动了前所未有的性能和效率需求。
实际案例：
- 微软：拥有超过60万台GPU，并计划到2024年底扩展至180万台。
- 字节跳动：2023年接收10万台Nvidia A100和H800 GPU。
- 甲骨文：超级集群配备32,768个Nvidia A100 GPU。
- 亚马逊：每个UltraScale集群配备2万多个Nvidia H100 GPU。
- 谷歌：A3超级计算机配备约2.6万个Nvidia H100 Hopper GPU。
- Meta：收购35万台GPU，构建训练集群，包括24,576个GPU。
成本与可持续性：
- 成本：2024年预计有超过220万个GPU用于数据中心AI处理，每台GPU成本在15万至40万美元之间。
- 电力管理：有效管理和优化AI数据中心的能源消耗对于实现可持续发展目标至关重要。
- 能耗：麦肯锡公司预测2030年数据中心耗电量将达到35吉瓦，相当于2620万户家庭的用电量。
- 冷却需求：创新如水下数据中心和北欧冰封数据中心正在兴起，以应对巨大的冷却需求。