智能体AI时代的基础设施现状白皮书2026

核心观点与关键数据

• 智能体AI对基础设施提出新要求：随着智能体AI的兴起，传统架构因无法满足其持续推理和自主决策的需求而显得力不从心。83%的组织认为需要升级基础设施以支持生产级智能体AI系统。
• 推理成为主要工作负载：智能体工作负载的特点是推理（AI的“执行”过程）占比大幅提升，已超过训练（47% vs 28%）。
• 智能体就绪状态差距：AI工作负载从小规模测试转向落地部署时，旧的基础设施导致速度瓶颈，无法满足自主智能体系统的需求。
• 治理是扩展推理能力的先决条件：五分之四的领导者认为安全、治理和MLOps是扩展推理能力时面临的最大挑战。
• 混合多云成为AI部署新标准：52%的组织已采用混合多云架构，90%认为边缘部署至关重要。
• 效率成为关键需求：91%的领导者在选择硬件时会考虑功耗，能源消耗成为制约增长的双重障碍。

研究结论与建议

• 重构架构方法：创新型组织需要重构整体架构方法，向分布式环境转型，从源头保护工作负载，并将治理直接嵌入编排层。
• 迁移到AI就绪型云平台：企业需要将关键工作负载迁移到提供统一数据湖、流畅计算、毫秒级延迟和集成式AI开发工具的云平台。
• 采用托管式基础架构：先进的AI应用者正转向完全或主要使用托管式服务，以降低运维复杂性并专注于创新。
• 治理与安全：在智能体时代，需要在开发核心环节建立清晰的治理框架，并采用统一的AI底层架构。利用集成式平台进行集中监督，并采用安全AI框架（SAIF）实现“从设计上保证安全”。
• 混合架构策略：采用混合架构策略，平衡云硬件与边缘计算，优先考虑以主权为先的设计，满足当地法律要求并管理全球运营。
• 优化效率：利用混合架构平衡负载，为任务匹配合适的加速器，以最大限度地提高能效。

未来趋势

• 数字主权：到2030年，美国境外的75%企业将拥有数字主权战略。
• 能源管理：能源管理成为业务运营的一项严格法律先决条件，企业需采用能效策略以保持合规性。