内存成本随时间扩展,新内存技术成本/GB同比增长约40%,传统内存成本/GB同比约30%下降。全球芯片产量中,存储器占比持续提升,晶体管计数中存储器占比超过非存储器。
日常操作驱动了对数据和存储需求的增加,数据中心、汽车、手机、医学等领域数据量激增,AI模型复杂度超越摩尔定律,用户数据生成速度达2.5万亿字节/天。AI内存解决方案需要更高带宽、更好性能和更低功耗。
传统摩尔定律结束,领域特定架构(DSA)成为趋势,深度学习加速器等DSA优化计算和数据流,增强对内存和数据传输的依赖。通过提高内存效率进行DSA缩放,模拟加速器等技术在合理功耗范围内显著提升效率。
关键挑战包括有限的深度、内存计算能力,需要协同内存、存储和加速器,探索未来内存和存储构建模块的架构、框架和操作系统。极致内存带宽需>100TB/s,需通过架构/算法、语言和框架等提升。
新兴存储器如PCM、RRAM、FeRAM等特性各异,成本/比特和耐力各有优劣。异构集成是未来趋势,晶圆到晶圆键合技术实现高精度互连,推动内存和计算协同集成。
技术发展指导原则包括识别突破性挑战、驱动全栈创新、展示原型级别解决方案。内存系统协作目标是通过新材料、新兴存储器和以内存为中心的计算架构,实现端到端能力原型设计,初始展示者包括程序/基础架构、内存中心架构、内存/计算原型和3D内存结构数据中心规模申请架构分析。
材料、器件和电路层面创新机遇包括低Ioff半导体材料、类神经形态计算、多元MLC等,需兼容高性能CMOS,探索新物理学和机制,利用成熟技术实现新功能和用途。