DS为国产芯片适配FP8精度国产AI的又一重要时刻1DeepSee

DeepSeek发布的DS-V3.1模型具备混合推理架构、更高的思考效率以及更强的推理能力。其核心亮点在于采用了UE8M0 FP8 Scale的参数精度，该精度专为即将发布的国产芯片设计，显著提升国产芯片的使用效率，有望缩小与NV芯片的效率/成本差距，增强国产芯片的可用性。

FP8精度包含多种格式，各有特点：

• E4M3：1位符号+4位指数+3位尾数，动态范围小，精度高，适合记录细节。
• E5M2：1位符号+5位指数+2位尾数，动态范围大，精度低，适合表示粗略范围。
• UE8M0：8位指数，无符号和尾数，仅表示2^n倍数，适合存储缩放因子，如调焦光圈，提高稳定性和生态兼容性。

UE8M0的来源与演进：

• 最初出自NVIDIA PTX指令集，用于MXFP8中的缩放因子。
• DeepSeek通过DeepGEMM开源库贡献了工程实现与FP8稳定训练方案，推动生态落地，如SM100需要packed UE8M0缩放因子。

对国产算力芯片的影响：

• UE8M0-FP8结合显著提升国产芯片效率，助力缩小与NV芯片的差距，增强国产芯片竞争力。
• DeepSeek的贡献在于提供工程实现与稳定训练方案，推动技术生态发展。