AIAgentCPU调研

研报总结

一、调研概述

本调研聚焦三大核心议题：

1. 头部电动车品牌与国产电商云的Agent落地案例，不同部门的CPU用量变化及应用扩面的条件；
2. API编排、文档解析与代码沙箱的资源口径，并发、池化及工程优化对CPU测算的影响；
3. x86与ARM的兼容性、功耗和部署计划，企业任务选用高端或普通CPU的条件。

二、API编排与工具调度资源消耗

• API与工具编排负载较轻，3-4个vCPU（约2个物理CPU核）可满足每秒调度需求，存活时间短（0.1-0.3秒），单次任务资源消耗低。
• 不同模型或工程实现影响调度资源消耗，实测一次编排任务约需2-4个vCPU，执行时间0.1-0.3秒。
• 单次执行简单编排任务瞬时占用vCPU极低（0.1-0.2个vCPU），2-4个vCPU指单位时间内总消耗量。
• 资源消耗评估有两种计算方法：瞬时vCPU总量（不需考虑利用率）和任务消耗总vCPU秒（需考虑利用率）。
• 轻量级API编排典型并发量256-512（指虚拟机）。

三、PDF文档解析资源消耗

• PDF解析资源消耗主要看是否含OCR，不含OCR处理一页约需6-8个vCPU/秒，含OCR需10个vCPU/秒起。
• 解析一页需要消耗6-8个vCPU秒指每秒消耗量，即解析任务瞬时占用vCPU数量。
• 可通过降低vCPU延长执行时间，但会显著增加延迟，最低需满足任务运行所需最低资源阈值。

四、检索任务资源消耗

• 轻量级本地检索约0.2-0.5vCPU-秒，向量检索约1-2vCPU-秒，深度检索（长文档）约3-5vCPU-秒。
• 深度检索最低配置0.3个vCPU，常规推荐0.5个vCPU，轻量级可低至0.01个vCPU。

五、网页浏览任务资源消耗

• 简单网页约2-3个vCPU，复杂网页（动态内容、GPU渲染、脚本）约60个vCPU甚至上百个。
• 并发加载复杂网页约30-50个vCPU（并发数20左右），简单网页也需十几个vCPU。
• 网页加载任务最低资源要求高，至少10个vCPU才能启动，最低启动配置为10个vCPU。

六、Python沙箱与代码执行任务资源消耗

• 简单Python沙盒任务（数据分析）约5-10个vCPU，复杂任务（复杂循环、大文件处理）约30-50个vCPU。
• 常规Python执行任务至少需20+个vCPU，建议并发数40+（最好50-80）。
• 代码执行任务建议并发数高于网页浏览（40+ vs 20），因程序执行逻辑更复杂，需更高并发处理。

七、多模态任务资源消耗

• 图像处理（编解码、归一化等）约12个vCPU/张图片。
• 视频处理（5-10帧抽取与解码）约50-60个vCPU秒。
• 高分辨率图像计算（图表、绘图、表格）约20-30个vCPU。
• 视觉编码任务（如AMX技术转换编码格式）约30-40个vCPU。

八、智能体应用场景与用户资源消耗

• 常规应用场景：解析文档、执行检索任务、代码浏览。
• 平均每个活跃用户执行任务时实际消耗约1-2个vCPU（超分资源分配模式下）。
• C端并发用户占日活比例较高，B端（如钉钉）较低。
• 未来并发用户中拉起沙箱比例可能达20%-30%。
• 主要瓶颈在于智能体本身（可用性、用户意愿、数量）。
• 资源池化技术使用户实际使用的资源与名义配置不完全对应。
• Meta按用户分配资源（Muse），主流CSP按任务分配资源，后者更具成本效益。
• "为每位用户分配一个虚拟机"是产品概念，实际非完全独占，资源可迁移或降配。

九、工程优化方法

• 工程优化方法及效果因场景而异：
  • 英特尔AMX技术处理单张图片可降50% vCPU。
  • 浏览器任务复用进程实例可节省30%+ CPU开销。
  • 其他优化手段（任务熔断、镜像加载优化、K8s沙箱、大页内存）可综合降低10%-30% vCPU消耗。
• 先前提供的vCPU消耗数据为优化前状态，仍有进一步优化空间（浏览器任务至少再降30%）。
• 各类任务的极限优化潜力：
  • 多模态预处理：常规降20%-30%，极致降40%-50%。
  • 浏览器任务：极致降50%-70%，冷启动场景降80%-90%（常规50%）。
  • 其他环节优化潜力也相当可观（如快照克隆预热池降80%-90%，混合调度提升集群利用率降20%-30%）。

十、CPU紧缺预期与智能体数量增长

• 尽管优化空间大，但CPU资源未来确定会紧缺，因智能体数量将远超十倍或百倍（数百倍甚至千倍）。
• 智能体数量增长预期：
  • 客户内部智能体数量显著增加（如比亚迪、米哈游）。
  • 智能体具备再创造能力，导致衍生式增长。
  • 物理世界用户增长可匡算，虚拟世界自我繁衍数量难估。
• 典型企业案例：蔚来汽车
  • CPU使用量相比之前约增3-5倍（主要应用代码开发）。
  • 未来智能体应用扩展至其他场景，CPU需求将远超3-5倍增长。
  • 智能体应用仍处起量初期，潜力被低估。
  • 阿里云内部更为激进：
    • 财务部门CPU用量增幅约60倍（渗透率超50%，目标70%-80%）。
    • 供应链部门增幅约10-20倍（渗透率近40%，目标30%-50%）。
• CPU用量与智能体数量关系：
  • 前述百倍、千倍增长指智能体数量，非CPU用量直接倍数。
  • 智能体数量增加10倍，CPU用量约增3-5倍。
  • 财务部门约60倍CPU增幅，由背后数百倍智能体数量增长驱动（高渗透率）。

十一、x86与ARM架构选型

• x86架构更理想，避免兼容性问题；ARM架构低功耗，未来数据中心功耗管理关键。
• ARM生态覆盖约95%设备，x86覆盖100%，ARM落地影响不大，x86支持长程复杂任务。
• 当前x86占比近80%，未来预计60%-70%市场份额，阿里云计划推进ARM架构，目标20%-30%市场份额，加上RISC-V生态，x86仍占主导。

十二、高端CPU需求与未来演变

• 随AIAgent渗透率提升，处理的工作负载会趋向更复杂。
• 企业级Agent任务不一定都需要高端CPU，未来配置将混合状态。
• 采用最新一代CPU（如AMD 192核第五代或英特尔第六代），可降低30%-50% vCPU配置。
• 前述vCPU消耗数据主要基于英特尔的SPR和EMR（第八代和第九代）产品。