AI+专题系列点评（十七）：DeepSeek发布第二代MoE模型，降本增效有望加速AI应用普及

幻方量化AI公司DeepSeek-V2开源大模型发布及市场影响

模型概述与性能

• DeepSeek-V2，幻方量化旗下的AI公司于2024年5月6日正式开源，具备出色的多语言综合能力，中文能力与GPT-4-Turbo、文心4.0等顶级闭源模型相匹敌，英文能力则与LLaMA3-70B并肩，领先于其他MoE架构模型如Mixtral 8x22B。在知识、数学、推理、编程等多个维度测试中排名靠前。

成本效益分析

• 成本优化：DeepSeek-V2采用MoE架构，大幅度降低API调用成本，每百万tokens输入仅需1元、输出2元（32K上下文），相比GPT-4-Turbo近乎便宜了一个数量级。

技术创新与效率提升

• 模型架构革新：摒弃传统Dense或Sparse结构，引入MLA（Multi-head Latent Attention）架构，结合自研的Sparse结构DeepSeekMoE，显著减少计算量和推理显存需求。这一创新使得DeepSeek-V2在同等参数量下，性能达到或超越了70B-110B的Dense模型，但显存消耗仅为同类模型的1/5至1/100。

实际部署性能

• 高效部署：在实际部署中，DeepSeek-V2能够在8卡H800机器上实现每秒超过10万tokens的输入吞吐量以及每秒超过5万tokens的输出，展现出卓越的处理速度和效能。

投资建议与风险提示

• 市场潜力：鉴于DeepSeek-V2的高性价比和全面性能，预计其将吸引更多开发者和企业的关注，加速AI生成内容（AIGC）应用的落地和普及。
• 投资方向：推荐关注AI大模型应用领域的企业，包括但不限于安全、办公、法律、医疗、教育、金融、电商、数据处理、媒体等细分行业。
• 风险考量：强调商业化表现的不确定性、用户付费意愿、以及行业技术更新速度对投资的影响。

结论

DeepSeek-V2的发布标志着幻方量化在AI领域的技术创新和开放共享，不仅提升了AI生成内容的质量和效率，还通过显著的成本优势加速了AI应用的市场化进程，为相关行业带来了新的发展机遇和投资机会。