登录
注册
回到首页
AI
搜索
发现报告
发现数据
发现专题
研选报告
定制报告
VIP
权益
发现大使
发现一下
行业研究
公司研究
宏观策略
财报
招股书
会议纪要
稀土
低空经济
DeepSeek
AIGC
智能驾驶
大模型
当前位置:首页
/
行业研究
/
报告详情
Wu - How - CXL - Will - Change - The - Data - Center
信息技术
2022-06-24
SNIA持久内存+计算存储2022峰会SNIA Persistent Memory + Computational Storage Summit
王***
AI智能总结
查看更多
CXL 技术概述
CXL(Compute Express Link)通过硬件和软件创新改变数据中心内存架构,提升异构计算利用率,实现内存虚拟化、内存快照服务、内存分层等高级功能。
核心优势包括提高内存总量和类型、增强内存带宽、促进跨应用程序数据共享,尤其对 HPC 和 AI/ML 工作负载效益显著。
CXL 应用场景
主要用例包括媒体娱乐(模拟/渲染)、基因组学(测序/组装)、EDA/CAE(仿真建模)、HPC(仿真/建模)、内存中数据库、云环境(KVM 快照)、FSI(分析/决策支持)、AI/ML(深度学习)等。
CXL 面临的挑战
许多 HPC 和 AI/ML 应用程序具有“宠物”特性,内存访问模式复杂,需要针对性优化。
内存分层需解决透明性、自动化和性能问题,确保应用程序无需修改即可受益。
HPC 应用程序计算配置文件分析
以 MetaSpades 应用为例,展示计算、内存和 IO 绑定交替的特点,需通过 CXL 优化内存访问模式。
CXL 内存分层目标与实现
目标:实现应用程序透明性,提升 HPC 和 AI/ML 性能、效率和成本效益。
方法:通过 CXL 1.1 扩展内存,实现 DRAM 和 PMEM 之间、本地和远程 NUMA DRAM 之间的分层,降低延迟至 NUMA 跳变级别。
基于 DRAM 模拟的内存分层实验
使用 384GB DDR4 内存(8 x 16GB 慢层 + 16 x 16GB 快层)测试分层效果,基准应用程序在快速层上运行延迟降低至 108ns,验证分层可行性。
通过 IBS(Intel IBS)辅助内存分析器检测热点虚拟内存地址,使用更快 DRAM 支持,合成内存负载生成器模拟高斯分布访问模式,带宽提升 77.7%。
内存分层优化挑战
现有内存热图查看器不适用于分层优化,需更精准的内存访问分析工具。
内存机器部署方案
支持裸机、Kubernetes 和 KVM 部署,通过 DaemonSet 方式灵活部署内存服务,优化应用程序级内存分层效果。
总结
CXL 通过软件定义内存和硬件级内存池化,彻底改变数据中心架构,提升异构计算效率,加速 HPC 和 AI/ML 工作流程,实现更快的洞察时间。
你可能感兴趣
When the human body is the biggest data platform, how will medtech companies capture value?
安永
2018-10-17
How will US consumers beverage choices change with lockdown
凯度
2020-05-07
Next-Gen and Breakout Data Center Technologies for the Cloud and Edge - Presented by Wiwynn
信息技术
2019 OCP全球峰会
2021-06-15
How will the property boom affect macro policies?
汇丰银行
2016-10-04
Solving the Data Center Energy Crisis:Creating Energy-Efficient, High-Performance Servers - Presented by Ampere Computing
信息技术
2019 OCP全球峰会
2021-06-15