硬件/软件协同设计是 OCP 基础架构降低 TCO 的关键 OCP 基础架构通过硬件/软件协同设计可节省大量 TCO(总拥有成本)。
可编程 OCP M.2 加速器模块是实现 TCO 节省的理想选择 可编程 OCP M.2 加速器模块是实现 TCO 节省的理想方案,适用于推荐模型等内存绑定工作负载。
推荐模型的计算与内存挑战 推荐模型(如 DLRM)是数据中心常见工作负载,占 AI 周期的 79%,但现有数据中心基础架构内存效率低下。
OCP M.2 加速器模块的技术规格
适应性加速与软硬件设计空间探索 可通过软件重新编程,加速推荐模型和其他内存绑定工作负载,如 k-NN,实现软硬件设计空间快速探索。
基准测试与性能提升
DLRM 基准测试结果
经济效益
OCP M.2 加速器模块显著降低 TCO 通过可编程硅和 DDR4 内存,OCP M.2 加速器模块在推荐模型等场景中实现性能与能效双重提升,降低资本支出和运营成本。
可编程硅的长期价值 可编程硅在数据中心具有长期价值,5 年内仍将发挥重要作用。
数据中心优化方案 通过 OCP M.2 加速器模块,数据中心可优化计算密度和能源效率,实现 TCO 显著降低。