再谈ARM为何受益GPU与CPU协同

ARM CPU与GPU协同推理的优势及机遇

Ampere AI推理优化框架与性能表现

Ampere AI推理优化框架（AIO）专为AmpereOne云原生处理器设计，通过与AmpereOne平台的深度协同优化，在SLM（小语言模型）和MoE（混合专家）模型推理场景中实现低成本与高能效的双重突破。Fedimoss官网测试数据显示，AmpereOne 192核ARM CPU在Llama-3.2-1B上tg吞吐量达4242.553tokens/s，在Qwen3-30B-A3B（MoE）上达769.691 tokens/s，验证了ARMCPU在SLM和MoE模型推理场景中的可行性与效率。落地案例中，某加密货币服务提供商部署该方案后营销文章生成周期从2天缩短至60分钟。

跨环境异构推理的架构趋势与工程落地

Agentic AI工作负载呈"推理-调用-决策"交替执行模式，GPU利用率间歇化，高核心密度ARM CPU可承担请求路由、Prompt预处理、工具编排、代码执行调度、KV Cache管理及部分Decode任务。芯片架构层面呈现CPU-GPU紧耦合集成趋势，Apple Silicon、NVIDIA Grace Blackwell等均反映此方向。"GPU Prefill + CPU Decode"异构混合推理路径中，GPU处理Prefill阶段，ARM CPU处理Decode阶段，可提升异构集群整体资源利用率。Fedimoss AITHER跨环境推理云已实现ARM CPU与GPU异构协同，MoE模型中Attention+共享专家常驻GPU、路由专家卸载至CPU内存；三级协同使KV Cache内存消耗增长显著慢于上下文长度增长；"GPU Prefill + CPUDecode"架构进一步提升异构集群整体资源利用率，降低LLM服务长期TCO。

ARM CPU的系统性壁垒与发展机遇

Arm架构已成为覆盖云、边、端全场景的统一计算底座，生态优势突出。Arm AGI CPU基于Neoverse V3平台，136核、最高3.7GHz频率、12个DDR5内存，已有Meta、OpenAI、Oracle等重要客户。Arm的核心竞争优势已从传统能效领先，升级为兼具性能与生态的系统性壁垒。Arm AGI CPU可实现单机架性能较高，具备业界领先的内存带宽和高性能、高能效的单线程处理器核心。

投资建议

AI基础设施正进入推理效率竞争阶段，MoE稀疏化、Agentic AI等趋势推动算力需求转向系统级效率优化，ARM CPU兼具性能与生态的系统性壁垒，将迎来重要的发展机遇。建议重点关注集智股份、中国长城、禾盛新材、广合科技等。

风险提示

CPU工程化落地不及预期风险；AI推理需求增长不及预期风险；行业竞争加剧风险。