TPU互联结构升级分析
TPUv7 3D拓扑结构
- 连接方式:每个芯片在X轴、Y轴、Z轴正反方向分别与2个芯片互联,形成立方体网络。
- 互联芯片数:每个芯片与6个芯片直接互联,ICL链接数为6条。
TPUv9 6D拓扑结构
- 连接方式:机架内部及机架之间均采用3D拓扑,形成更大3D网格,机架间通过光互连。
- 互联链条数:每个芯片与ICI链条数为12条。
互连升级方案
- 升级目标:形成6DTorus结构(3维芯片级+3维机架级)。
- 3DTorus(16×16×16):最远芯片间通信需最多24跳。
- 6DTorus(4×4):具体实现方式及跳数未详细说明。
核心结论
- TPUv9通过6DTorus结构显著提升大规模芯片间通信效率,减少通信跳数。
- OCS核心组件将受益于该拓扑升级带来的性能提升。