从3D Torus升到SemiAnalysis描述的6D Torus,光连接数量和OCS端口需求会出现非常显著的提升,#接近4倍级别,而不是简单翻倍。#
但是:TPUv9t使用6D Torus目前并没有得到Google官方确认
现有3D Torus:
每颗TPU有:
6个邻居
= ±X、±Y、±Z而所谓6D Torus:
12个邻居
其中:
第一组6条连接:机柜内部,短距离铜连接新增加的6条连接:去往周边其他机柜新增的跨柜连接主要靠光机柜本身再构成第二层3D Torus
Google现有的是TPU 8t仍然是3D Torus,而且一个Superpod已经扩到9,600颗TPU。
Bisection Bandwidth
对于规则Torus,如果假定单链路带宽不变:
16³ 3D Torus
理论bisection links:
2×16^2
=512
4 6D To⁶rus
理论bisection links:
2×4^5
=2048
也就是说:
#2048/512=4倍#
从3D Torus升到SemiAnalysis描述的6D Torus,光连接数量和OCS端口需求会出现非常显著的提升,#接近4倍级别,而不是简单翻倍。#
但是:TPUv9t使用6D Torus目前并没有得到Google官方确认
现有3D Torus:
每颗TPU有:
6个邻居
= ±X、±Y、±Z而所谓6D Torus:
12个邻居
其中:
第一组6条连接:机柜内部,短距离铜连接新增加的6条连接:去往周边其他机柜新增的跨柜连接主要靠光机柜本身再构成第二层3D Torus
Google现有的是TPU 8t仍然是3D Torus,而且一个Superpod已经扩到9,600颗TPU。
Bisection Bandwidth
对于规则Torus,如果假定单链路带宽不变:
16³ 3D Torus
理论bisection links:
2×16^2
=512
4 6D To⁶rus
理论bisection links:
2×4^5
=2048
也就是说:
#2048/512=4倍#