智算运维产业发展研究报告（2025）

一、智算运维产业发展现状

• 政策环境与产业发展：国家政策大力支持智算产业发展，地方政策积极响应，算力规模持续扩张，AI模型参数规模攀升，训练成本上涨，推理需求高速增长。大模型从通用能力迈向垂直行业深耕，开放模型、轻量模型、智能体生态蓬勃发展。
• 技术迭代与行业应用：AI基础设施加速演进，超节点架构驱动智算运维范式重构，大模型训练呈现“长周期、高并发、强耦合”的特点，推理侧则从高线推理转向高并发、低时延、弹性伸缩的实时服务。垂直行业应用加速落地，推理场景驱动智算运维需求升级。

二、智算运维服务面临的挑战

• 多用户多场景训推并行，资源失衡制约算力利用效率：多用户智算环境中，资源分配失衡导致部分节点闲置、部分超负荷，资源碎片化，拉低整体利用率。
• 智算系统向超节点形态演进，对运维提出新要求：超节点功率密度更高，散热需求及供电可靠性要求更高，业务运行更复杂，故障传播机制变化更大，跨域跨层定界定位诊断更难。
• 运维语料多源异构难统一，智能运维大模型训练受限：不同设备厂商、AI框架、通信库产生的数据格式、语义和事件结构高度不一致，缺乏统一的数据规范与词汇体系。
• 系统与业务安全威胁，平台可信保障面临考验：算力劫持、容器逃逸、数据泄露或篡改、模型遭受数据投毒或推理篡改等安全事件影响业务连续性，损害企业声誉。
• 节能调度优化压力大，连锁失效风险多、损失大：大规模算力集群功耗高，能效低，训练任务长周期、高并发，推理任务波峰波谷明显，能耗管理和调度优化成为核心挑战。

三、智算运维服务能力的建设

• 算力调度能力：通过虚拟化、容器化、池化技术实现算力资源高效管理与调度，提升训练和推理任务的整体算力利用率。需要考虑异构算力适配与兼容，以及训练和推理场景的差异化调度策略。
• 智能运维能力：从被动响应向主动预防转变，从人工排查向智能决策升级，从手动修复向自动自愈演进。包括可观测性、故障根因分析、故障自愈及主动运维等核心工作。
• 数据治理能力：构建体系化的数据治理能力体系，将跨厂商、跨架构、跨组件的复杂运维数据进行规整、融合、语义对齐，最终沉淀为可用于大模型训练的高质量数据集。
• 安全防护能力：构建覆盖“硬件-系统-数据-模型”全链路的安全管理能力体系，保障系统、数据与模型的可信运行。
• 能效保障能力：设施级能效管理成为影响算力供给效率和能源成本的关键环节，需要构建综合能耗调优模型，实现算力动态分配和灵活调度，提升整体算力中心的能效水平和运营效率。

四、未来趋势预测和展望

• 技术层面：多要素协同演进，推动智算运维向纵深智能化发展，运维对象由单节点拓展至超节点集群，运维能力由规则和经验驱动升级为模型与知识驱动，运维系统由单点工具演进为多智能体协间体系。
• 市场层面：智算运维由“拼规模”向“拼效率、拼服务、拼价值”转型，服务质量、成本效率和能效水平成为核心竞争要素。
• 生态层面：产业链协同形成开放、融合、共赢的智算运维新格局，标准体系建设持续完善，产学研用深度融合。

五、智算运维落地实践

• 中国移动智算训推资源池运维实践：通过技术创新与管理协同，实现千亿参数级别模型在万卡集群下的高效收敛、长稳训练和主流模型推理性能达业内领先水平。
• 联想燃弘智算运维实践：实现了多元算力的统一调度与高效管理，打造开箱即用的AI生产力平台，实现算力成本的精细化与价值最大化，通过技术创新实现能耗的精准管控与降低。
• 科大讯飞智算运维AI节能实践：通过AI赋能，提升设备运转效率，实现智算运维节能降碳，实现冷源效率的提升和液冷智算集群的整体能耗降低。