核心观点与关键数据
- 企业 AI 基础设施现状：目前，企业 AI 发展和部署主要依赖云和本地基础设施，其中 41% 的企业采用混合部署方式。73% 的企业使用云或混合基础设施部署 AI 工作负载，而只有 8% 的企业完全使用本地设备。
- 企业对现有基础设施的质疑：75% 的企业对云服务中的潜在数据泄露表示担忧，因此更倾向于本地处理数据。99% 的企业在其 AI 工作流程中处理专有数据，这使得本地处理成为关键安全要求。
- 企业 AI 成熟度与基础设施选择：处于 AI 成熟阶段的企业更倾向于混合部署方式，其中 56% 的企业同时使用 Mac 进行本地 AI 工作负载，并部署本地 NVIDIA GPU，表明本地平台与专用计算资源相辅相成。
- 企业 AI 工作负载迁移趋势：超过三分之一的计划在未来 12 个月内将更多 AI 工作负载迁移到本地设备。这些企业已确定特定工作负载，本地基础设施可以解决当前方法中的差距，例如安全敏感工作负载和开发工作流。
- 企业对 AI 合作伙伴的不满：只有 9% 的企业表示其合作伙伴完全满足其需求。普遍存在的问题包括数据隐私控制不足、成本不可预测以及与现有系统的集成不佳。
- 企业 AI 基础设施的总拥有成本 (TCO)：云计算、安全和软件许可投资是企业 AI 基础设施 TCO 的主要关注点。然而，企业往往只跟踪可见的成本，如云成本，而忽略了安全成本，这导致对混合部署策略的优势评估不足。
研究结论
- 本地设备 AI 的优势：本地设备 AI 在安全性、经济性和工作负载可行性方面具有显著优势。本地处理可以消除数据传输风险，降低合规成本，并提高开发速度。本地设备的经济性使得实验和迭代成本几乎为零，并且可以避免云服务中不可预测的成本和未使用许可证的浪费。
- 工作负载与基础设施匹配的重要性：并非所有 AI 工作负载都需要大型模型或云资源。57% 的企业模型参数小于 10 亿，完全可以由现代设备如 MacBook Air 或入门级 MacBook Pro 处理。内存架构是决定本地部署可行性的关键因素，统一内存架构可以支持更大模型的本地处理。
- Mac 在 AI 领域的优势：Mac 在 AI 领域的偏好并非偶然，而是由于其架构直接解决了云中心或本地中心方法的不足。Mac 的统一内存架构为典型企业 AI 工作负载提供了充足的容量，并允许在价格合理的情况下运行大型模型。此外，Mac 还具有数据安全性、可预测的成本模型和开发者偏好等优势。
建议
- 根据工作负载匹配基础设施：企业应根据模型大小、数据敏感性、使用模式和用户要求，将 AI 基础设施与工作负载相匹配，避免一刀切的部署方式。
- 通过架构解决安全问题：对于涉及专有或敏感信息的项目，应评估能够通过架构消除传输风险的基础设施选项，例如本地处理。
- 扩大 TCO 测量范围：企业应将 TCO 测量扩展到除了云计算账单和硬件采购等易于跟踪的项目之外，还应量化安全审查延迟、合规成本、资源限制带来的生产力影响以及基于使用量的定价的边际成本。
- 赋予内部技术团队构建混合解决方案的能力：企业应赋予内部开发团队将不同类型的基础设施类型纳入其中，以便每个基础设施都能为特定工作流提供最佳支持的能力，并建立采购框架和技术政策，以支持这种战略多样化。
