DeepSeek V3-R1解释

——2万字解读与硬核分析DeepSeek V3/R1的架构 （官方版V1.31/2025年2月7日） 知乎专栏：https://www.zhihu.com/people/chenweiphd 目录 1 V3与R1的主要特征..................................................................................................................................... 11.1 V3/R1架构特征.................................................................................................................................. 11.2 R1在CoT的进化............................................................................................................................... 31.2.1 DeepSeek-R1-Zero .............................................................................................................. 31.2.2 DeepSeek-R1.......................................................................................................................... 32 V3/R1的架构提升.......................................................................................................................................... 42.1多头潜注意力(MLA) ....................................................................................................................... 42.1.1从KV Cache（KV缓存）说起......................................................................................... 42.1.2 MLA的原理与优势............................................................................................................... 52.1.4 MLA是颠覆性创新吗？...................................................................................................... 62.2 MoE架构与辅助无损负载均衡..................................................................................................... 72.2.1 MoE与Dense模型的混战................................................................................................. 72.2.2无辅助损耗负载均衡........................................................................................................... 72.2.3 MoE会是大模型的终局吗？............................................................................................. 83 V3/R1训练架构的独特优势...................................................................................................................... 103.1 HAI-LLM框架的软硬件协同设计............................................................................................... 103.1.1软件层面的并行优化......................................................................................................... 113.1.2针对软件并行策略的硬件优化...................................................................................... 123.1.3针对硬件架构的软件优化............................................................................................... 133.2 FP8训练框架体系........................................................................................................................... 133.2.1低比特训练框架的构建.................................................................................................... 133.2.2对英伟达GPU市场有巨大影响？................................................................................ 153.3 DualPipe优化.................................................................................................................................... 163.4跨节点All-to-All通信与显存优化......................................................................................... 173.4.1对于SM与NVLink的优化............................................................................................. 173.4.2显存节省技术...................................................................................................................... 183.4.3打破了CUDA生态壁垒？............................................................................................... 18 3.4.4挖了NVLink的墙角？...................................................................................................... 194 V3的训练流程............................................................................................................................................... 204.1 V3的基础预训练.............................................................................................................................. 204.2 V3长文扩展训练.............................................................................................................................. 214.3 V3的后训练/精调............................................................................................................................ 224.3.1 V3的有监督精调（SFT）................................................................................................. 224.3.2 V3的强化学习...................................................................................................................... 225 R1的训练流程............................................................................................................................................... 235.1无SFT的R1-Zero训练................................................................................................................ 235.2 DeepSeek-R1的训练流程............................................................................................................ 255.2.1冷启动（Cold Start）：CoT SFT ..........................................................................