昇腾950系列芯片是华为面向下一代人工智能应用打造的旗舰级计算芯片,涵盖昇腾950PR与昇腾950DT两款核心产品,基于全栈自主可控的制造工艺和第三代达芬奇(DaVinci)架构,在算力密度、存储带宽及互联拓扑三大维度实现了跨越式升级。
AI子系统架构演进:
- Cube Core(张量计算单元)升级:新增HiF8、MXFP8、FP8、MXFP4等低精度格式,算力跃升;优化微架构,提升缓存复用率;提供按需张量结果即时数据格式转换和L0C Buffer->Unified Buffer随路量化。
- Vector Core(向量计算单元)优化:架构革新为双发射Register-Based的SIMD新架构,首创支持SIMD-SIMT混合编程模式;单核FP16和FP32的TFLOPS较上一版本提升100%;新增对BF16的原生支持,并扩展多种浮点格式转换指令;针对Softmax、GELU等关键函数优化微架构;支持SIMD/SIMT混合编程,全面支持FP32、FP16、BF16、INT8/16/32/64等多种格式。
- 数据流与调试增强:支持NDDMA灵活的异步数据拷贝机制;构建Cube与Vector之间的高效内部数据通路及同步机制;大幅增强Profiling与Debug能力。
存储体系:
- 高速片上内存:昇腾950PR单芯片提供最高128GB容量与1.6TB/s带宽,昇腾950DT单芯片提供最高144GB容量与4TB/s带宽,具备完备的RAS特性。
- L2 Cache特性:128MB全局L2 Cache,采用Chiplet UMA统一内存架构,支持算子可控的Cache Hint管理机制,支持按Way的Cache Lock与驻留策略,性能提升显著。
互联组网:
- 灵衢(Unified Bus,UB)互联总线:端口复用,支持异步拷贝的URMA和Load/Store全局内存语义UB Memory;支持nD-Mesh、Clos等多种灵活组网。
- 超高带宽互联:单芯片互联带宽高达2TB/s;支持PCIe 5.0 x16;支持2*400Gbps UBoE。
通信加速:
- CCU(集合通信计算加速单元):实现计算与通信的深度并行,显著降低对主存的占用及IO调度延迟;通过硬件卸载集合通信任务,释放AI Core算力。
Transformer专项优化:
- 算子加速:针对FlashAttention等关键算子,单核性能较上一代提升1.5~2倍。
- 全流程提速:结合高效的计算通信并行机制,显著缩短大模型的预训练与推理时间。
其他特性:
- AI CPU子系统:集成华为自研的Linx816 CPU,支持物理双线程,提供强劲的通用逻辑处理能力。
- 媒体处理:内置DVPP子系统,提供硬件级的图像预处理、编解码加速能力。
- 安全引擎:搭载专用安全算法引擎,确保数据处理的全链路安全。
- 图片处理子系统:集成4×VPC、4×JPEGE和8×JPEGD,实现多流、多格式的并行处理能力。
- 超节点能力:昇腾950芯片可以基于UB互连组建超节点,搭配UB Switch可以组建多达K级别的超节点;基于UB互连可以构建超大内存池和超大存储资源池;基于UB组建的昇腾超节点提供了领先的竞争力,可以无缝接入到以太网络。