Hua Taiwan Telecommunications Development in Hua Xiao附近的华通信息产业发展局

近日华为发布CloudMatrix 384超节点方案，推理性能出色。 根据《查找图书科创板日报》报道，硅基流动已经联合华为云基于384超节点昇腾云服务正式上线DeepSeek-R1，在保证单用户20TPS水平前提下，单卡Decode吞吐突破1920Tokens/s， 尽管近期算力板块在市场对于贸易摩擦、Capex持续性等因素的担忧下，股价承压 【华泰通信】从华为超节点，看光通信产业发展趋势 近日华为发布CloudMatrix 384超节点方案，推理性能出色。 根据《查找图书科创板日报》报道，硅基流动已经联合华为云基于384超节点昇腾云服务正式上线DeepSeek-R1，在保证单用户20TPS水平前提下，单卡Decode吞吐突破1920Tokens/s， 尽管近期算力板块在市场对于贸易摩擦、Capex持续性等因素的担忧下，股价承压。 但我们仍建议关注GPU超节点架构有望催生的产业趋势。 我们的分析如下： ①推理为何要用超节点？ 超节点架构中，GPU卡间通过超高带宽紧密耦合为一个整体（scale up），打破推理场景中的内存＆内存带宽瓶颈，有效提升了推理效率。 即：通过提升卡间互联带宽，一定程度上弥补了算力的短板。 ②对光通信有何影响？ 根据SemiAnalysis的分析，384超节点架构中，单卡对外互联带宽达到2.8T，通过4台16800旗舰型数通交换机，实现单层网络的组网。 单卡所匹配的400G光模块达18只，显著超过此前scale out三层胖树下的GPU：光模块=1：3的配比。 市场此前担忧推理场景中，光模块用量或有缩减，但我们透过超节点的组网架构可看出，其对于光模块的需求依旧可观。