AI计算节点发展研究报告（2026年）
(2026年) 中国信息通信研究院云计算与数字化研究所2026年3月 版权声明 本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。 前言 当前，全球人工智能（AI）加速发展，伴随着大模型参数规模与训练数据大幅增长，AI产业发展推动全球AI算力市场规模持续扩大，互联网、金融、制造等重点行业智能化转型进一步放大算力需求。同时，传统算力架构面临单机性能受限、集群扩展瓶颈、资源利用率偏低等多重挑战，新型架构探索成为突围算力瓶颈的关键路径。AI计算节点作为构建超大规模智能算力集群的核心，依托高速互联技术融合多算力芯片形成规模化计算单元，有效破解AI大模型训练中的算力协同与效率难题。 在此背景下，智能算力作为支撑人工智能高质量发展的重要基础，已成为国家战略支点，多国加大政策支持与投资力度，我国也通过多项政策部署，推动AI计算节点技术突破与工程落地。同时，我国智能算力正处于从规模化扩张向高效化提升的关键期，AI计算节点凭借高密集约、高速超宽、高效灵活、高稳可靠的核心特征，通过节点架构重构、超低时延网络、CXL内存、智能算力调度、绿色低碳供能等核心技术创新，在大模型训练、高并发推理及金融、工业、能源等行业场景应用中发挥着关键支撑作用。 立足新发展阶段，本报告系统分析AI计算节点发展概况、核心技术、应用场景、产业生态及未来趋势，为政策制定、技术研发与产业应用提供参考，助力构建先进易用、绿色高效的算力基础设施，推动AI与实体经济深度融合，夯实数字经济发展基础。 时间仓促，报告仍有诸多不足，恳请各界批评指正。后续我们 将不断更新完善，如有意见建议请联系中国信通院研究团队：dceco@caict.ac.cn。 目录 一、AI计算节点发展概况........................................................................................ 1 （一） 定义与核心特征.......................................................................................1（二） 发展背景...................................................................................................2（三） 发展阶段与演进脉络...............................................................................6 （一） 节点架构重构，驱动算力高效聚合.......................................................7（二） 异构计算技术，实现算力密度突破.......................................................9（三） 超低时延网络，破解数据传输瓶颈.................................................10（四）HBM与CXL，突破存储带宽瓶颈......................................................11（五） 智能算力调度，提升资源利用效率.................................................12（六） 绿色低碳供能，保障系统高效运行.................................................12 三、AI计算节点典型应用场景.......................................................................... 13 （一） 大模型训练场景：支撑万亿参数模型高效训练.................................13（二） 高并发推理场景：保障生成式AI服务实时响应.............................. 14（三） 行业智算场景：适配重点领域定制化需求.........................................15四、AI计算节点产业生态建设分析...................................................................... 18（一） 国际视角：技术引领与生态开放并行.................................................19（二） 国内发展：多主体协同与自主生态构建.............................................20五、AI计算节点未来趋势....................................................................................22（一） 政策聚焦自主创新与多维支撑........................................................... 22（二） 技术关注高效互联与高密集成.............................................................23（三） 产业格局头部引领与多方协同.............................................................24（四） 行业应用试点向全域渗透迈进.............................................................25 图 目 录 图1 AI计算节点组网................................................................................................. 1图2 AI计算节点特征................................................................................................. 2图3全球人工智能服务器市场规模预测................................................................. 3图4 AI计算节点组网架构......................................................................................... 9 表 目 录 表1国内外AI计算节点产业生态对比.................................................................18 一、AI计算节点发展概况 （一）定义与核心特征 在AI技术加速迭代演进的背景下，我国智能算力需求正从规模化扩张向高效化提升转型，AI计算节点已成为支撑智能算力发展的核心算力单元。AI计算节点是构建大规模算力集群的技术架构，最早由英伟达提出，指将多张GPU集成在一个逻辑单元内，形成类似“超级计算节点”的系统。与传统架构相比，该节点通过高速互联技术整合多算力芯片形成计算单元，有效破解AI大模型训练中的算力协同与效率问题，实现效率的显著优化。 具体来说，作为以超大带宽实现多卡GPU-GPU、GPU-CPU及GPU-Memory高效互联的Scale-Up（纵向扩展）系统，AI计算节点以高带宽域（High-Bandwidth Domain，HBD）为基本单元，通过传统Scale-Out（横向扩展）扩展方式构建更大规模的算力集群，有效解决AI大模型训练过程中算力协同不足、资源调度效率偏低等突出问题，为AI产业高质量发展提供坚实的算力支撑。 从技术层面看，AI计算节点的核心特征集中体现在高密集约、高速超宽、高效灵活、高稳可靠四大能力。通过四大能力建设，构建起高效处理各类AI计算任务的基础架构，为AI应用创新发展提供坚实支撑。具体来看，一是高密集约能力，通过硬件架构创新与多芯片集成设计，实现计算资源的高效聚合，提升并行处理效能，为大规模AI任务提供核心算力单元支撑。二是高速超宽能力，聚焦构建高带宽、低时延数据传输体系，采用芯片级直连等技术，有效保障计算节点数据的高效流通，破解数据传输瓶颈。三是高效灵活能力，推动异构计算资源池化与软件定义调度，实现根据任务需求动态分配算力资源，提升基础设施利用效率与灵活性。四是高稳可靠能力，通过流量管理、故障冗余等机制，确保长周期、高负载AI任务连续稳定执行，强化系统运行的稳定性与容错能力。 （二）发展背景 1.人工智能发展催生智算缺口 当前，全球AI产业迭代加速，AI大模型参数与训练数据量跨越式增长，各行业智能化转型提速，智算资源刚性缺口持续扩大，算力需求激增。国际数据公司（IDC）数据显示，2025年全球人工智能服务器市场规模为1587亿美元，2028年有望达到2227亿美元1。AI大模型智能水平与性能提升高度依赖算力支撑，依据Scaling Law（规模法则），扩大模型参数规模、增加训练数据量是提升大模型能力的核心路径。而大模型参数规模已实现从百亿级向万亿级的跨越，主流大模型训练数据量从千亿级token跃升至数十万亿级token，节点间数据传输量几何级增长，进一步加剧了算力资源供给压力。 AI技术在互联网、金融、制造业等规模化落地进一步放大了智能算力的需求缺口。随着DeepSeek、Llama等开源大模型的普及，大模型在各行业的落地应用将持续提速，行业模型的智能算力需求也将快速增长。互联网行业，头部平台算力需求爆发式增长。如字节跳动全球日活用户达15亿，AI推荐引擎每日处理千亿级数据。金融行业， 合规约束加剧算力刚性短缺。如邮储银行在“智慧投行”建设中，将AI超算与高性能计算融合，形成以千卡算力集群为核心的算力平台，支撑风控、投研、交易等业务的实时计算。制造行业，工业AI的深度渗透，催生巨量算力需求。如小鹏汽车研发720亿参数模型，已建成万卡智算集群，集群利用率长期稳定在90%以上，但高峰时仍需外部调配算力才能满足需求。此外，在教育、娱乐等领域的智能问答、个性化推荐等场景，算力需求缺口同样显著。 2.智算中心成为国家战略支点 多国政府将AI基础设施建设上升至国家战略，持续加大投资及政策支持。美国“网络与信息技术研发计划”(NITRD)人工智能研发投资预算增长至31亿美元，占整体年预算的近三分之一，相比于上一年提高19.2%。2025年1月，美国政府公布“星际之门”的国家级人工智能基础设施计划，预计将投入5000亿美元用于美国国内人工智能基础设施建设。2025年11月，美国特朗普政府启动的一项国家级人工智能（AI）科研动员计划—“创世纪计划”旨在整合联邦科学资源，加速AI驱动的科学发现，以应对科技竞争，聚焦于先进制造、生物技术、关键材料、核能、量子科学和半导体等六大战略领域。英国在《AI机会行动计划》中提出“AI增长区”（AI Growth Zones），通过提供电力、规划审批等专项支持，鼓励在本土建设高密度AI数据中心，并计划在2030年前将AI研究资源容量扩大至少20倍。欧盟正在推进设立“人工智能工厂”，鼓励成员国建设人工智能基础设施建设，将向数字欧洲计划拨款8亿欧元，用于购买新的AI专用计 算资源或升级现有基础设施。加拿大启动《加拿大主权AI计算战略》，投入10亿美
