计算存储中的 Davis - GPU 和 DPU

核心观点与内容总结

1. DPU 的概念与作用

• DPU（数据处理器单元）作为数据中心的新构建模块，能够加速数据中心工作负载，适用于芯片上的数据中心基础设施、企业 AI、计算云原生、HPC、云游戏、加速计算、存储、5G、工业/核心/边缘、网络安全、AI-Powered 云计算、裸金属即服务等场景。
• DPU 通过卸载 CPU，实现隔离和加速，提高数据中心性能和效率。

2. 计算存储与边缘计算

• 计算存储和边缘计算结合数据中心计算、AI & ML，提升存储性能和智能化水平。
• 边缘数据中心通过计算存储和边缘计算，实现更高效的 AI & ML 应用。

3. 计算存储解决方案选项

• 基于 FPGA 的解决方案：灵活性有限，需要特殊技术专业知识，成本较高（~$50B），形状因素受限。
• 基于 CPU 的解决方案：AL 和 ML 功能有限，数据集大小受限，性能受限于 CPU + DRAM。
• 基于 GPU + DPU 的解决方案：标准 PCIe 外形规格，标准组件，非常灵活和广泛的开放式解决方案集，包括强大的 AI，高性能和容量的存储 IO。

4. 基于 DPU 的存储系统

• 性能与效率：100Gb/s 的网络速度，节省房地产、成本、电力、冷却和复杂性。
• 架构：包含 DPU、CPU、DRAM、NVMe SSD、PCIe 32 车道、Gen4 PCIe 开关、96 车道 NVMe SSD 等。
• 应用案例：如 JBOF（密集存储刀片）成为智能存储刀片，GPU + DPU 计算存储解决方案支持按需就地分析、提取/加载/转换。

5. AI 创建 GPU 存储 IO 挑战

• GPUDirect 存储 (GDS)：通过 GPUDirect 技术，减少数据传输延迟，提高存储 IO 性能。
• 性能对比：基于 GPU 的计算相比基于 CPU 的计算，在处理大数据集时具有显著加速效果。

6. 关键收益

• GPU 和 DPU 组合解决方案是计算存储 AI 解决方案的理想选择，利用通用组件、系统架构、软件和专业知识，使 AI 能够无缝地移动到边缘。

7. 研究结论

• 基于 GPU + DPU 的计算存储系统具有高性能、高灵活性、强 AI 支持等优势，是未来数据中心存储发展的理想方向。