DeepSeek应用与部署总结
AIGC发展历程
- AIGC发展历程从2014年至今,经历了自然语言处理与语言模型的发展,大语言模型LLM在2018年至2024年取得显著进展。
- DeepSeek作为AIGC领域的新兴技术,自2023年开始崭露头角。
DeepSeek技术创新
- 模型架构:DeepSeek V2采用Multi-Head Latent Attention架构,V3则在此基础上进行了进一步优化。
- 推理模型:DeepSeek利用RL强化学习(PPO、GRPO)使智能体在环境中不断尝试、学习并优化策略,以获得最大化的奖励。
- 能力层级:
- 基础能力层:支持多模态数据融合与结构化理解,涵盖200多种数据格式。
- 中级能力层:进行领域问题建模与复杂推理,包括领域自适应学习、因果推理引擎和多目标优化决策。
- 高级能力层:构建复杂系统模型与自主决策,涉及数字孪生仿真系统、多智能体协同优化和元认知调控机制。
- 终极能力层:实现自主进化与创造性突破,包括概念空间探索、范式转移预警和自编程能力。
DeepSeek V3与R1
- DeepSeek V3和R1模型在性能和功能上有所差异,R1模型在推理能力上表现出色,适用于多种场景。
DeepSeek提示词工程
- 提示词工程分为十类:内容生成类、信息处理类、对话交互类、技能应用类、个性化定制类、系统操作类、知识查询类、教育与研究类、多模态处理类、伦理与安全类。
DeepSeek部署方案
- 部署方式:本地部署蒸馏小模型、第三方UI客户管接入服务、云端网站接入服务、移动手机应用。
- 替代部署方案:本地部署蒸馏小模型(如ollama平台、LM Studio平台)、第三方UI客户管接入服务(如Anything LLM、Cherry Studio、Chatbox)、秘塔AI搜索、硅基流动、阿里云百炼、百度智能云、英伟达。
- API调用:通过API接口调用DeepSeek-V3和DeepSeek-R1模型,Token用量根据中英文字符计算。
DeepSeek本地部署
- 硬件环境:推荐NVIDIA显卡(RTX 3090/4090/A100等),显存要求7B模型至少16GB,13B/20B模型至少24GB,70B模型需多卡并行。
- 系统要求:Linux(Ubuntu 20.04+)或Windows WSL2,Python 3.8+。
- 部署办法:使用Hugging Face Transformers、vLLM加速推理、Docker部署。
DeepSeek UI客户端使用
- 通过Anything LM+Ollama+Deepseek RAG数据库工程、Cherry LM+DeepSeek API大模型智能体工程等方式使用DeepSeek UI客户端。
DeepSeek业务流应用
- Coze+Deepseek API(Deepseep R1)业务流
- Dify+Deepseek API搭建本地知识库
- Langchain+Deepseek API 业务流工程
2025七款RAG
- R2R:支持多模态内容摄取、混合搜索、知识图谱构建等。
- Cognita:模块化框架,用于构建可扩展的RAG应用程序。
- LLMWare:提供统一框架构建基于LLM的应用。
- LangChain:构建于大语言模型之上,简化开发者与语言模型交互。
- deepset的Haystack:用于构建基于NLP的搜索和问答系统。
- LlamaIndex:简化外部知识库与LLM的集成。
- txtai:一体化嵌入数据库,提供自然语言搜索功能。
DeepSeek赋能各行业的应用场景
- 酒企:市场分析、智能营销、生产优化等。
- 房产装修:智能设计、VR/AR体验、客户需求分析等。
- 知识产权服务:专利检索、侵权检测、法律咨询等。
- 金融行业:智能投顾、风险管理、客户服务等。
- 跨境贸易:市场分析、供应链优化、合规管理。
- 健康医美:个性化治疗方案、市场分析、智能营销。
- 智库咨询机构:智能研究、政策分析、智能报告生成等。