为企业生产环境下的AI负载选择合适的架构

Alluxio 新方案加 NAS/NFS 应对 AI 数据访问挑战

企业 AI 从试点到生产级部署的挑战

• 企业 AI 应用从试点扩展到生产级部署时，面临可扩展性、性能和数据管理方面的挑战。
• 早期 AI 架构随着数据量、模型复杂性和 GPU 集群扩容，出现可扩展性、性能和数据管理问题。
• 生产级 AI 基础设施需要全面而严谨的决策，以避免后期高昂的扩展和改造成本。

数据访问在 AI/ML 中的关键性

• 数据访问是 AI/ML 的关键要素，尤其对于 GPU 资源稀缺的架构，优化数据加载至关重要。
• 数据访问挑战包括模型训练效率低、低吞吐数据流、数据同步瓶颈、并发和元数据问题、性能缓慢或 GPU 利用率低等。
• 现有解决方案如更快的存储和 NAS/NFS 存储层存在数据迁移、维护瓶颈、供应商锁定等问题。

Alluxio 解决方案的优势

• Alluxio 作为高性能数据访问层，提供数据抽象和分布式缓存，提高 AI/ML 架构的性能和可扩展性。
• Alluxio 解决的问题包括：
  • 增加容量：超越单个节点限制，统一数据访问层，挂载 PB 级数据湖。
  • 减少数据管理：自动分布式缓存，简化 GPU 集群之间的数据移动和存放。
  • 提升性能：消除传统存储的 I/O 瓶颈，提供内存和 SSD 级别的本地数据访问。
• Alluxio 在架构中的三种集成方式：
  • 与 NAS 并置：作为透明缓存层增强 I/O 性能。
  • 独立数据访问层：整合多个数据源，为 GPU 节点提供数据访问服务。
  • 跨 GPU 存储的虚拟缓存：同步 S3 数据并在 GPU 节点之间共享。

Alluxio 部署在 AWS 上的参考架构和基准测试

• 参考架构：训练数据存储在 AWS S3 中，Alluxio 实现模型训练集群对训练数据的无缝访问。
• 基准测试结果：
  • 基于 ResNet-50 上 3 个 epochs 的图片分类任务，使用 Alluxio 比使用 S3-FUSE 的速度快 5 倍。
  • Alluxio 将数据加载时间由 82% 缩短至 1%，GPU 利用率由 17% 提升至 93%。

Alluxio 的核心优势

• 优化数据加载：加速训练任务和模型服务的数据访问，最大化 GPU 利用率。
• 维护需求低：自动缓存热文件或对象，无需手动拷贝数据。
• 支持扩展：通过 SSD 扩展内存，缓存任何大小的文件，避免数据拷贝。
• 更快的切换：数据迁移无需替换硬件，支持云厂商、本地或多云环境迁移。