DeepSeek完全实用手册：技术原理·使用技巧·部署进展

地方政府: 全国已有超过70%的地方政府（包括四大直辖市国企）完成DeepSeek模型部署，应用场景涵盖智能问答、公文起草、政务服务、知识库、政策咨询、智能客服、12345热线等方面。
央企: 全国98家央企中已有60家（集团或下属公司层面）完成DeepSeek模型部署，应用场景涵盖办公、能源、制造、通信、航运等多领域。
地方国企: 我国四大直辖市国企(北京、上海、天津、重庆) 40+企业已全面部署DeepSeek模型，应用涵盖生产制造、金融创新、智能汽车、交通运营、水务管理等多个领域。
智能终端: DeepSeek模型在智能手机、AI PC、智能家电、智能汽车等多个智能终端领域得到部署，主要集中在语音交互、智能问答、AI助手、智能座舱等方面。

模型类型: DeepSeek拥有通用模型（V3）和推理模型（R1）。
关键技术:
- 混合专家架构（MoE）: V3和R1模型均采用MoE架构，每个MoE层包含1个共享专家和256个路由专家，在运行时每个词元只激活8个路由专家，有效节约计算资源。
- 多头潜在注意力（MLA）: 对注意力键和值进行低秩联合压缩，减少推理过程中的键值缓存（KV cache），从而降低推理时的内存占用。
- 多词元预测训练（MTP）: 在训练过程中，模型不仅预测下一个词元，同时预测多个未来的词元，通过在共享模型主干上增加多个独立的输出头来实现。
- FP8混合精度训练: 使用细粒度量化策略、低精度优化器状态等方法以实现增强精度、低精度存储和通信。
- 强化学习中的群体相对策略优化（GRPO）: 对PPO改良，提高计算效率，降低内存占用。
开源程度: DeepSeek属于大模型开源级别，完全公开模型权重、训练数据、代码等，并支持社区协议。

调用方式: 可通过云端调用和本地部署的方式使用。
云端调用: 可通过官方API或第三方API直接调用DeepSeek R1模型服务并接入业务中；或者可以在云平台上创建、部署、微调模型，再通过API连接模型调用。
本地部署: 需下载DeepSeek R1满血版或蒸馏版本模型，通过Ollama、vLLM等工具启动模型，并借助可视化界面工具与用户交互。
部署方案: 市面上有多家厂商提供DeepSeek一体机方案，如新华三、浪潮、中科曙光、超聚变、联想等。

开源代码库: 2025年2月24日起，DeepSeek启动开源周，连续5天总共开源8个代码库，包括FlashMLA、DeepEP、DeepGEMM、DualPipe、EPLB、profile-data、3FS、Smallpond等。
新模型: 2025年4月3日，DeepSeek发布新论文Inference-Time Scaling for Generalist Reward Modeling，新模型DeepSeek-GRM准备开源，论文先行。GRM在各种RM基准测试中优于现有方法和模型，并且比训练时缩放相比性能更好。