Agent Ready对企业云基础设施提出两大核心需求:模型推理和Agent运行。模型推理需关注GPU、异构算力调度、模型管理及推理服务治理;Agent运行则需扩展至CPU、存储、网络、安全隔离和权限治理,并与传统及容器应用统一管理。这要求企业IT基础设施具备更强的算力整合、资源调度和统一治理能力,以支持企业级智能体的私有化部署。
Agentic AI发展显著加速私有化部署趋势。首先,Agent需持续连接企业知识库和数据库,产生大量上下文和文件数据,安全治理与数据主权成为首要考量,私有化能更好地保障数据安全。其次,模型服务所需海量Tokens消耗也推动企业转向私有化。NVIDIA、AMD、Intel等企业指出,Agentic AI将推理转变为持续运行的企业工作负载,CPU在编排、工具调用、指令执行中占主导地位,其研究显示CPU侧任务可能占Agentic AI Pipeline端到端运行时间的50%-90%。VMware by Broadcom、HPE等企业也强调,企业更重视成本可预测性、数据控制和安全,私有云模式更稳定、治理更紧密。
模型推理基础设施面临算力资源分散、异构算力分配不足、模型文件版本分散、推理服务缺少统一治理等挑战。Agent运行基础设施则面临有状态运行带来的存储压力、安全沙箱需求、动态访问路径的网络安全治理、链路割裂导致的端到端可观测不足等挑战。这些挑战要求企业云基础设施具备更强的资源整合、动态调度、统一管理和安全隔离能力,以支持不同场景下的高效稳定运行。
SmartX榫卯企业云平台提供计算、存储、网络与安全、容灾备份、模型服务(MaaS)、统一管理等全栈能力,满足模型推理与Agent运行需求。平台将AI能力作为既有云基础设施的延展,支持传统应用、容器应用、模型推理和Agent运行,用户可根据业务阶段模块化组合能力。在模型推理场景下,用户可基于榫卯AI平台结合SKS容器服务快速搭建生产级模型基础设施;在Agent运行场景下,用户可将虚拟机、容器、存储、网络安全和Agent原生文件共享能力整合在统一架构中,实现高效协同管理。
Agent Ready对企业云基础设施提出更高要求,潜在风险包括:算力资源整合与调度难度加大,异构算力分配不足可能导致性能瓶颈;模型文件版本管理复杂,推理服务缺少统一治理可能引发运维混乱;Agent运行带来的存储压力和安全沙箱需求,若管理不当可能存在数据泄露或系统不稳定风险;此外,私有化部署初期投入较高,企业需平衡成本与收益,确保基础设施升级的可行性和可持续性。