这份研报主要分析了Agentic时代CPU的价值重估。报告指出,Agentic AI工作负载呈现推理-调用-决策的交替执行模式,GPU利用率间歇化,而高核心密度ARM CPU可承担请求路由、Prompt预处理、工具编排、代码执行调度、KV Cache管理及部分Decode任务。ARM架构全球开发者规模超2200万,AGI CPU基于Neoverse V3平台,已有OpenAI、Oracle等客户。Fedimoss AITHER跨环境推理云实现ARM CPU与GPU异构协同,使KV Cache内存消耗增长显著慢于上下文长度增长。根据Fedimoss官网数据,AmpereOne 192核ARM CPU在Llama-3.2-1B上吞吐量达4242.553 tokens/s,在Qwen3-30B-A3B上达769.691 tokens/s。
Agentic AI赛道的发展趋势显示,高核心密度ARM CPU在AI Agentic场景下具有显著优势。随着Agentic AI工作负载的推理-调用-决策交替执行模式,GPU利用率呈现间歇化特征,而ARM CPU可高效承担请求路由、Prompt预处理等任务。ARM架构全球开发者规模超2200万,为AGI CPU发展提供坚实基础。Neoverse V3平台已获OpenAI、Oracle等客户认可,Fedimoss AITHER实现ARM CPU与GPU的异构协同,通过MoE模型的优化,使KV Cache内存消耗增长显著慢于上下文长度增长。AmpereOne 192核ARM CPU在Llama-3.2-1B和Qwen3-30B-A3B上的高性能表现进一步验证了ARM CPU在AI Agentic场景下的价值。
研报重点分析了高核心密度ARM CPU在AI Agentic场景下的优化方案及市场价值。报告详细阐述了Agentic AI工作负载的特性,指出GPU利用率间歇化问题,而ARM CPU可承担请求路由、Prompt预处理、工具编排等关键任务。ARM架构全球开发者规模超2200万,为AGI CPU发展提供支持。Neoverse V3平台的应用及OpenAI、Oracle等客户的采用,展示了AGI CPU的市场潜力。Fedimoss AITHER的异构协同方案通过MoE模型的优化,显著提升KV Cache效率。AmpereOne 192核ARM CPU在Llama-3.2-1B和Qwen3-30B-A3B上的高性能表现,进一步验证了ARM CPU在AI Agentic场景下的优势。
当前AI Agentic市场呈现高核心密度ARM CPU与GPU异构协同的发展趋势。随着Agentic AI工作负载的推理-调用-决策交替执行模式,GPU利用率间歇化问题凸显,而ARM CPU凭借高核心密度在请求路由、Prompt预处理等任务中表现优异。ARM架构全球开发者规模超2200万,为AGI CPU发展提供坚实基础。Neoverse V3平台已获OpenAI、Oracle等客户认可,Fedimoss AITHER实现ARM CPU与GPU的异构协同,通过MoE模型的优化,使KV Cache内存消耗增长显著慢于上下文长度增长。AmpereOne 192核ARM CPU在Llama-3.2-1B和Qwen3-30B-A3B上的高性能表现,进一步验证了ARM CPU在AI Agentic场景下的价值。市场正逐步接受ARM CPU在AI Agentic场景下的应用方案。
研报提示了AI算力需求不及预期及技术路线变化风险。AI算力需求的不确定性可能导致市场对ARM CPU的预期波动,而技术路线的变化可能影响AGI CPU的市场定位。当前ARM CPU在AI Agentic场景下的应用仍处于发展初期,市场接受度及技术成熟度存在一定的不确定性。此外,GPU与ARM CPU的异构协同方案仍需持续优化,以提升整体性能和效率。因此,投资者需关注AI算力需求的变化及技术路线的演进,以评估ARM CPU在AI Agentic场景下的长期发展潜力。