基于国产GPU算力平台的低时延通信技术研究

研究单位：中国长城科技集团股份有限公司、中电云计算技术有限公司、中国信息通信研究院、深圳云豹智能股份有限公司、苏州登临科技股份有限公司、昆仑芯（北京）科技股份有限公司、沐曦集成电路（上海）股份有限公司 完成日期：2025年12月 研究报告要点 本报告聚焦国产GPU算力平台的低时延通信技术，系统阐述了其技术架构、关键挑战与解决方案。在硬件层面，报告深入分析了以华为昇腾、沐曦、昆仑芯为代表的国产GPU计算架构及其高速互联技术，通过软硬件协同设计实现数据路径优化，显著降低传输延迟。核心技术研究覆盖低时延通信协议的优化策略，包括拥塞控制、多路径转发和故障自愈机制，以构建高可靠、无损的网络环境。报告提出了涵盖硬件平台、系统软件和应用生态的三层系统架构，并设计了基于国产AI服务器、GPU加速卡和智能网卡的完整解决方案。性能评估表明，该方案在测试中实现了整机柜超过400GB/s的聚合带宽和微秒级延迟，验证了其在大规模分布式训练等场景下的可行性。最后，报告总结了当前国产生态面临的挑战，提出未来优化方向，为国产GPU低时延通信技术落地及算力生态完善提供技术支撑。 研究单位：中国长城科技集团股份有限公司、中电云计算技术有限公司、中国信息通信研究院、深圳云豹智能股份有限公司、苏州登临科技股份有限公司、昆仑芯（北京）科技股份有限公司、沐曦集成电路（上海）股份有限公司 主编：李璇、朱国平、谢贵超、刘年超、张乾编 委：张鲁峰、周庆飞、颜培源、汪勇、王晓东、张瑾、陈睿博、於海军、高杰、何秀菊、聂一、张章、段萌、丁岩、李志超、周东雷、范莹莹 完成日期：2025年12月31日 目 引言研究背景与意义国产GPU算力平台现状(一)国产GPU的发展历程41.萌芽期（2000年前后）2.军用突破期（2010-2018年）3.AI驱动期（2019年至今）4(二)主要国产GPU厂商及产品(三)国产GPU的主要架构和技术特点51.华为昇腾（达芬奇架构）52.壁仞科技（壁立仞架构）63.沐曦（MXMACA自主架构）.64.登临科技（GPU+架构）65.摩尔线程（MUSA架构）6.寒武纪（MLUarch架构）7.其他架构(四)国产GPU的应用领域8(五)存在的问题8 143.数据流路径分析（以AI训练梯度同步为例）(二)硬件平台选型与配置.151.计算节点：长城AI服务器..152.AI加速单元：曦云C550OAMAI加速卡..163.网络接口单元：云豹智能网卡.174.网络交换设备：新华三（H3C）高性能数据中心交换机..18(三)软件框架搭建与优化.181.驱动层适配与协同.192.通信中间件优化.193.拥塞控制与流量调度优化204.AI框架集成.21(四)关键模块设计与实现.211.GPUDirectRDMA高速数据路径模块，.212.网络健康与性能监控模块.223.自适应集合通信算法模块.23五、基于国产GPU的低时延通信关键技术研究.24(一)低时延通信的基本概念.241.时延的定义与分类.242.低时延通信的应用场景.263.优化目标.274.低时延通信的技术演进趋势...29(二)GPU硬件加速通信...301.GPU单机及超节点ScaleUp通信技术（GPUDirect）...312.GPU大规模集群ScaleOut通信技术...35(三)低时延通信的协议栈分析与优化.39 401.IB和RoCE网络对比分析2.RoCEv2协议优化策略...46(四)实时任务处理机制..491.故障无感恢复..502.链路级高可靠性.533.端网协同网络路径精确控制..544.层次化多粒度负载均衡.575.多维智能自动化运维关键技术.59(五)网络拥塞控制策略1.智能无损的拥塞控制（AI-ECN）.632.端网协同的拥塞控制（ENCC).65(六)低时延通信的性能评估指标.671.核心指标672.测试工具与方法，.673.国产GPU的评估重点.68六、低时延通信技术性能评估.68(一)实验环境搭建.681.硬件平台.682.软件栈.72(二)测试方案设计..721.测试原理..722.测试步骤，..73(三)测试结果分析..731.测试结果，.742.测试结论76 (四)与其他平台的对比分析761.国产GPUVS国际主流GPU平台.772.传统通信方案vs优化后方案.77七基于国产GPU的低时延通信应用案例..78(一)工业互联网中的应用.78(二)分布式AI场景的应用.79(三)金融智能服务的应用，.80八、结论与展望.80(一)研究总结..801.国产GPU算力平台的低时延通信潜力与优势..812.低时延通信技术对国产算力生态的重要性.813.面临的挑战.82(二)未来研究方向，..821.AI驱动的动态时延优化822.低时延通信技术在更多领域的应用前景83 引言 在方物智联与算力泛在化时代，通信网络的低时延、高可靠与智能化已成为产业数字化转型的核心驱动力。工业互联网的实时控制、自动驾驶的协同感知、元宇宙的全息交互等场景，不仅要求端到端时延逼近物理极限（微秒至纳秒级），更需实现算力资源与网络资源的全局动态适配。这一背景下，“GPU（图形处理器）+DPU（数据处理器）”异构算力架构凭借其优异的“计算-通信-存储”协同能力，成为重构低时延通信技术体系的核心引擎。 当前，全球算力竞争已进入以异构融合与生态掌控为核心的新阶段。展望“十五五”，我国算力基础设施的发展核心，将从“十四五”期间的“突破有无、实底座”，转向“引领创新、构建自主生态、赋能新质生产力”的系统性升级。近年来，以壁仞科技、沐曦、摩尔线程等为代表的国产GPU企业，在通用计算架构与AI加速器设计上取得显著进展。同时，中科驭数、云豹智能等国产DPU厂商，则在可编程数据面、网络功能硬件卸载等领域实现关键技术国产化。国产“GPU+DPU"服务器的落地，标志看我国在异构算力架构层面构建起“计算-通信”一体化的自主技术路径，为低时延通信技术的场景化创新提供了坚实底座。 一是异构算力协同效率不足。GPU与DPU间的任务卸载、内存共享与中断响应机制尚未形成统一标准，跨芯片数据搬移时延成为性能瓶 颈。二是软硬件生态割裂。国产GPU的并行计算框架与国产DPU的专用驱动、开发工具链之间缺芝深度适配，导致协议栈优化难以全局贯通。三是场景化能力滞后。工业实时控制、分布式边缘智能等场景对确定性时延的需求，驱需GPU+DPU"架构与TSN（时间敏感网络）、确定性算力调度等技术的跨层融合。 本报告聚焦国产“GPU+DPU"异构平台在低时延通信领域的技术突破与应用实践，旨在为通信设备商、云计算服务商及垂直行业提供技术演进路标，推动国产异构算力平台从“可用”向“好用”跨越，助力我国在全球低时延通信技术竞争中实现从跟随到引领的范式跃迁。 关键词：低时延通信、GPU、DPU、异构计算 一、研究背景与意义 近年来，随着人工智能技术的快速发展，国产GPU算力平台在智能计算领域取得了显著突破。以华为异腾、沐曦、摩尔线程等为代表的国产GPU厂商，在深度学习、神经网络训练和推理等核心场景中展现出强大的计算能力。国产GPU不仅在性能上逐步追赶国际领先水平，更在能效比和定制化能力上形成了一定优势。特别是在智算领域，国产GPU通过支持大规模并行计算和硬件加速，成为推动人工智能技术落地的重要引擎。未来，随着智算需求的持续增长，国产GPU将朝着更高算力、更低功耗和更广泛的应用场景发展，为人工智能、大数据分析和智能通信等领域提供核心算力支撑。 低时延通信是实现高效数据处理和实时决策的核心技术，在智算领域具有关键作用。在边缘计算场景中，低时延通信能够确保数据在终端设备和边缘服务器之间快速传输，实现实时分析和响应；在分布式人工智能训练中，低时延通信可以减少节点间的同步延迟，提开训练效率；在智能驾驶和工业物联网中，低时延通信是实现实时控制和智能决策的基础。此外，随着人工智能应用场景的不断扩展，低时延此，低时延通信技术的研究与优化对推动智算领域的发展至关重要。 基于国产GPU算力平台开展低时延通信技术研究具有重要的战略意义和实际价值。首先，国产GPU在智算领域的计算性能和并行处理能力为低时延通信技术的实现提供了硬件基础。通过充分利用国 产GPU的硬件加速特性，可以显著降低通信协议处理和数据传输的延迟，从而提升智算系统的整体效率。其次，基于国产GPU平台开展研究，有助于推动通信技术与人工智能的深度融合，实现从数据采集到智能决策的全流程优化。这不仅能够打破国外技术断，还能推动我国在智算领域的自主创新，提升国际竞争力。最后，这一研究将为边缘计算、智能驾驶、工业物联网等智算应用场景提供技术支撑，推动相关产业的快速发展，具有显著的经济和社会效益。 二、国产GPU算力平台现状 （一）国产GPU的发展历程 国产GPU的研发起步较晚，早期依赖进口技术，经历了从图形处理向通用计算扩展的长期探索。 1.萌芽期（2000年前后） 高校和科研机构（如中科院、清华大学）开始图形处理器研究，但无商业化产品。 2.军用突破期（2010-2018年） 3.AI驱动期（2019年至今） 中美科技竞争加速国产替代，华为昇腾、壁仞科技、摩尔线程等 企业崛起，产品覆盖AI训练、推理、图形染及高性能计算（HPC），性能对标国际主流。 （二）主要国产GPU厂商及产品 目前，国产GPU领域的主要厂商及产品如下。 （三）国产GPU的主要架构和技术特点 1.华为昇腾（达芬奇架构） 架构设计：针对AI计算优化，支持高密度张量运算，集成AICore+ControlCore+TaskScheduler，实现硬件级任务调度效率提升。 内存与互联能力：异腾910C采用HBM2e技术，显存容量128GB，显存带宽3.2TB/s。卡间互联采用HCCS高速总线，双向带宽达到784GB/s。 2.壁仞科技（壁立仞架构） 架构设计：双计算芯粒设计突破单芯片面积限制，通过Chiplet技术实现模块化拼接 内存与互联能力：壁彻BR100系列采用HBM2e技术，显存容量64GB，显存带宽1.6TB/s。卡间互联采用BLink高速总线，双向带宽达到512GB/s。 3.沐曦（MXMACA自主架构） 架构设计：兼容主流GPU生态，高精度混合计算，突破传统GPU性能瓶颈，实现高计算性能，采用数据压缩、数据广播以及共享硬件加速单元等先进技术，大幅度优化核心算力能耗比。 内存与互联能力：沐曦C500采用HBM2e技术，显存容量64GB，显存带宽1.8TB/s。卡间互联采用HCCS高速总线，双尚带宽达到384GB/s。 4.登临科技（GPU+架构） 架构设计：采用片内异构技术，集成通用计算核与AI加速核能效比优于国际同级产品，多层次缓存、大容量SRAM、高吞吐互联数据交换效率高，低功耗、低延迟、低内存带宽依赖。 内存与互联能力：登临GoldwasserII-XL512采用GDDR技术，显存容量128GB，显存带宽1.0TB/s。卡间互联采用PCIe高速总线，双向带宽达到256GB/s。 5.摩尔线程（MUSA架构） 架构设计：兼容图形染与通用计算，支持光线追踪与AI加速，集成AI加速器与通用计算核。 内存与互联能力：摩尔线程S5000采用HBM3技术，显存容量80GB，显存带宽1.6TB/s。卡间互联采用MTLink高速总线，双向带宽达到784GB/s。 6.寒武纪（MLUarch架构） 架构设计：优化卷积与矩阵运算，支持变长张量处理，减少数据搬移延迟，支持稀疏计算、访存带宽压缩技术，提升AI计算能效比。 内存与互联能力：寒武纪MLU590采用HBM2e技术，显存容量最大192GB，显存带宽，2.4TB/s。卡间互联采用MLU-Link高速总线，双向带宽达到600GB/s。 7.其他架构 传统图形染架构：代表厂商景嘉微、芯动科技； 通用计算架构：代表厂商天数智芯、燧原科技； 嵌入式与专用架构：代表厂商芯原股份、中微电、昆仑芯、中天恒星。