一、Google位居AI行业第一梯队,有望进一步加强AI领域投资
- Google为大模型领域奠基者,最新发布的Gemini彰显深厚底蕴
- Google早在2017年就提出AI First战略,并长期深耕大模型和算力设施,为后续大语言模型的升级迭代奠定了基础。
- Google最新发布的Gemini多模态模型在大型语言模型(LLM)研发中使用的32个广泛使用的学术基准中,Gemini Ultra 性能有30 个都超过了当前最先进的结果,是第一个优于人类专家的模型。
- Google持续加强算力建设,将AI技术深度赋能公司各项业务,并通过Google Cloud对外提供算力支持。
- 自研的AI芯片TPU,支撑Google AI技术及业务发展的重要利器
- TPU(张量处理器)是Google推出的用于机器学习的专用处理器,擅长大型矩阵运算,可以更高效地训练模型。
- TPU采用脉动阵列的方式以规避冯·诺依曼瓶颈,大幅提升了其计算吞吐量,特别适用于AI的应用场景中。
- 历经多代的持续更迭,最新发布的TPUv5p性能尤为强大,其训练大型LLM模型的速度为TPUv4的2.8倍。
- TPU已成为Google大模型训练的主力军,90%以上的模型训练均在TPU上进行。
- Google Cloud支撑公司业绩向好,AI领域投资有望进一步加强
- AI赋能下Google利润率及营收增速迎来拐点,2022年公司收入为2828亿美元,同比+9.8%。
- Google Cloud业务占比提升迅速,有望成为公司第二成长曲线,2022/2023Q1-3公司云业务收入占比分别为9.3%/10.8%。
- Google资本开支进入向上通道,有望进一步加强AI领域投资,2022年资本开支同比+27.8%。
二、自研基于OCS的光连接新方案,进一步提升TPU集群性能
- OCS的应用场景1:Jupiter数据中心
- Jupiter:Google自研的第五代网络架构,历经五代架构的演进后,逐步形成目前的Jupiter架构,最大可支持超过3万台服务器组网。
- Jupiter网络架构持续升级,通过引入OCS取代Spine层传统电交换机,将网络逻辑拓扑由CLOS架构演进到Aggregation块的直接光互联,实现整个Jupiter网络互联带宽的数倍增长。
- OCS的应用场景2:TPUv4计算中心
- Google自研的低成本高性能TPUv4超级计算机集群,系统由4096个TPUv4芯片组成,共享256 TiB的HBM内存,总算力超过1 ExaFLOP。
- 系统使用的光模块数量为TPU数量的1.5倍,即整个系统需要6144个光模块。
三、深度剖析Google OCS解决方案:器件高度定制化
- 基于MEMS器件的OCS成为新的光交换方案
- OCS是简单高效的光交换解决方案,采用光交换,对传输的速率无感,通过进一步引入WDM和环形器等技术可以实现在单根光纤上传输通道数的增加以及Tx/RX双路信号,提升单光纤的数据传输速率。
- MEMS反射镜是OCS的核心组成器件,每个MEMS反射镜模组采用陶瓷封装,内部在一块MEMS芯片上制作了176个微镜,每个镜子都可以单独可控。
- 适配OCS需求,定制化设计光模块
- Google对光模块中的关键组件,如激光器,环行器,跨阻放大器(TIA),光电探测器(PD),数字信号处理(DSP) ASIC等进行了重新设计或者加强集成,以实现更低成本,提高可制造性。
- 目前Google在基于OCS的TPUv4 Pod中所使用的,是使用环形器+CWDM4/8的最新一代Bidi OSFP封装光模块。
- 光模块内创新性引入环形器,传输效率进一步提升
- 引入环形器,单光纤传输带宽再提升,可实现单根光纤的双工传输,主要作用是限制光的传输方向。
- 环形器供应链较为成熟,核心器件法拉第旋转片国产化程度较低。
- 更高链路预算需求带来的光芯片与电芯片配套升级
- 配合OCS的应用环境,光模块内光电芯片需进行较大改变,光芯片需从DML演进为外部调制激光器EML;电芯片用DSP方案替换了原来基于模拟的时钟数据恢复(CDR)方案。
- EML及DSP芯片均以海外供应商为主,国产化程度较低。
- 两层连接释放大量铜缆与光纤需求
- Rack内采用铜缆连接,Rack外采用光纤连接,每个Rack由4x4x4个TPUv4芯片组成,其中4个TPUv4组成一张板卡,同一个Rack内的板卡间通过铜缆连接,Rack和OCS之间使用光互联,需要使用光模块进行光电转换。
四、AI浪潮加速算力基础设施的演进,重点关注产业演变趋势带来的机遇
- 趋势1:自研低成本算力部署方案或成为新选择,有助于算力基础设施的快速建设
- Google的TPUv4相较于A100性能更佳、成本更低、功耗更低,为下游客户提供了更多的选择,有望助力原本受制于成本和供应因素而未完全释放的下游需求得到进一步加快加大的释放。
- 降低核心芯片供应风险,AI巨头积极布局自研芯片,除Google以外,众多AI巨头公司也都在布局自研AI算力芯片。
- 趋势2:AI巨头的算力需求景气度高,进一步推动高度定制化成为新商业模式
- AI产业中前端包括Gemini、GPT-5等更多参数量更大的大模型持续在训练和发布,行业对于算力的需求仍在持续释放中。
- AI巨头持续投入算力设施建设,或更倾向定制化算力解决方案,与客户深度绑定的供应链企业,有望核心享受定制化带来的高价值红利。
- 趋势3:网络架构升级将催生如OCS等新型设备的落地应用,带来产业格局变化
- 高性能计算领域的拓扑结构正被引入到智能算力中心,如Torus、Dragonfly等。
- 拓扑的演进必然会带来使用设备的更新,或推动产业格局变革,OCS就是最有代表性的案例,其在网络拓扑演进促进OCS得到更多应用的趋势下,产业格局或出现变革。