您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [华为]:DeepSeek华为云AI解决方案主打胶片 - 发现报告

DeepSeek华为云AI解决方案主打胶片

2025-02-12 - 华为 任云鹏
报告封面

目录 1.DeepSeek介绍和洞察 2.DeepSeek华为云部署方案 3.DeepSeek应用场景 DeepSeek历程:23年5月成立持续走开源道路,24年底发布AI核弹级产品震惊全球 DeepSeek下载量霸占165多个国家榜首 DeepSeek时刻,云巨头集中接入 ◼1月底,DeepSeek在苹果应用商店中霸占了157个国家/地区的第一名位置,其中包括美国这一重要市场。◼1月底,DeepSeek遭受黑客攻击,美国科技股蒸发万亿◼2月1日:DeepSeek的人工智能助手在140个市场下载次数最多的移动应用程序排行榜上名列前茅。 •微软、英伟达、亚马逊全部接入DeepSeek•华为云、腾讯云、百度智能云、阿里云也先后接入DeepSeek相关大模型 全球增长最快应用,增长势头超越ChatGPT 截止2.5号,上线不到一个月DeepSeek日活跃用户数已突破2000万,达到2215万,全球下载量接近4000万;DeepSeek的访问量达到了创纪录的4900万次,比前一周增长了614% DeepSeek-V3发布 DeepSeek大模型解读:通过系统优化实现极致性能,完全开源+免费商用,挑战A国AI霸权 低成本完美对标OpenAIO1,突破精确语义理解及复杂推理任务 数学+编程领域大幅领先,DeepSeek-V3训练成本不足Meta/OpenAI的10%,DeepSeek-R1推理成本仅为OpenAIo1的3%,成为开源模型SOTA。 低成本 性能优 技术创新 绕过CUDA挖掘FP8硬件潜力,MOE和MLA技术实现不到10%的成本方案 数学、科学和代码等领域领先业界,成为业界公认的LLM的领先模型 硬件级、算法级、架构级、工程级、开源生态5大技术创新,轰动全球 •绕过CUDA进行PTX编程•计算与通信优化,性能提升30% 硬件级优化 ~150M$Llama3.1-405B训练成本 5.57M$DeepSeek–V3训练成本 •GRPO:群体进化的智慧筛选器•自我验证机制:AI的"错题本系统" 算法革命 •混合专家模型的"智能路由器“•多头潜在注意力MLA:空间压缩术 •训练框架加速:16到3的量化压缩,通信降低89%•推理加速:预加载,动态批处理等 •模型、数据、工具链、部署全开源•蒸馏技术使能第三方模型性能 目录 1.DeepSeek介绍和洞察2.DeepSeek华为云部署方案3.DeepSeek应用场景 场景1:基于ModelArts Lite/Standard部署DeepSeek R1&V3全尺寸模型 解决方案架构 1.是什么 通过私有部署DeepSeek-R1模型按需/包月费用预估如下,Tokens/s为单并发 一、方案简介:面向腰部重点客户,以及模型服务提供商等需要独立部署DeepSeek全尺寸模型R1&V3的场景 •基于华为云ModelArtsLite&Standard部署DeepSeek R1&V3全尺寸模型 虚拟机/裸金属 3.核心优势 方案核心优势 昇腾910系列 ➢灵活部署:提供ModelArts Lite(裸金属服务器)和ModelArts Standard(Console平台)两种方式部署。 AI计算超节点集群 场景2:基于ModelArts Studio部署DeepSeekV3& R1& R1-Distill模型 解决方案架构 1.是什么 通过私有部署DeepSeek-R1模型按需/包月费用预估如下,Tokens/s为单并发 一、方案简介:面向AIISV,AI行业场景应用创业公司,人工智能研究院等客户,提供开箱即用的模型API服务 •基于华为云ModelArtsLite&Standard部署DeepSeek R1&V3全尺寸模型 3.核心优势 方案核心优势 ➢开箱即用:提供开箱即用的MaaS API服务,客户轻松对接业务需求。➢多重计费方式:按需/包周期计费方式均可使用 场景3:基于云服务器私有化部署DeepSeek-Distill模型 解决方案架构 1.是什么 通过私有部署DeepSeek-R1模型按需/包月费用预估如下,Tokens/s为单并发 一、方案简介:面向开发者、企业等需要独立部署DeepSeek推理系统的场景 •基于华为云Flexus云服务器X实例(弹性云服务器ECS)上快速搭建DeepSeek-R1:1.5B和7B轻量级推理系统•基于华为云GPU服务器上快速搭建DeepSeek-R1:7B和8B、14B等推理系统 3.核心优势 方案核心优势 ➢低成本:提供高性价比的云服务器,用户可以根据实际需求自定义不同规格的云服务器。 ➢一键部署:一键轻松部署,即可完成云服务器及公网IP等资源的快速下发和DeepSeek-R1蒸馏版模型的搭建。 目录 1.DeepSeek介绍和洞察2.DeepSeek华为云部署方案3.DeepSeek应用场景 基于DeepSeek搭建应用场景解决方案 检索增强生成RAG,提高回答问题准确度 •本 地 知 识 库 检 索: 内 置 强 大 的 知 识 库 能 力 , 导 入您 的 知 识 文 档 即 可 实 现 基 于 私 域 知 识 的 对 话 助 手•联 网 检 索: 内 置 联 网 插 件 , 可 实 现 大 模 型 联 网 搜索 的 能 力 支持多种交互形态,提升用户体验 •语 音 交 互: 精 准 的 语 音 转 写 能 力 , 支 持 大 容 量 热词 定 制 , 可 方 便 快 捷 提 升 特 定 场 景 识 别 率•数 字 人:D e e p S e e k +知 识 库+联 网 搜 索 的 数 字人 大 脑 让 数 字 人 既 懂 私 域 知 识 也 懂 外 部 知 识 ; 数字 人 口 型 更 精 准 , 业 界 领 先 DeepSeek联网助手解决方案一指禅 解决方案架构 1.是什么 基于华为云Flexus X实例(部署Dify工作流平台)+ DeepSeek构建的DeepSeek联网+知识库助手,使得DeepSeek具备更多客户私域知识和外部知识,提高DeepSeek模型落地能力,此外工作流平台还可以进行意图理解等强大功能,拓展DeepSeek智能助手能力边界。 3.卖给谁 目标客户 ➢AI行业场景应用创业公司/人工智能ISV/人工智能研究院➢高校和AI培训机构➢中型传统企业(需要企业内部问答助手) 4.核心优势 方案核心优势 ➢1. DeepSeek性能卓越,用户体验佳,拥有强大的自然语言处理能力,其思维链的特性进一步强化了上下文对话能力。➢2. Dify内置联网搜索插件,可实现大模型联网搜索的能力➢3. Dify内置强大的知识库能力,导入您的知识文档即可实现基于私域知识的对话助手 DeepSeek智能交互数字人解决方案一指禅 解决方案架构 1.是什么 基于华为云部署DeepSeek + Flexus X实例(部署Dify工作流平台)+MetaStudio构建的DeepSeek交互数字人方案,可以轻松挂载个人/企业知识库以及联网搜索服务,实现搜索增强模型生成(RAG),DeepSeek的思维链强化了上下文记忆能力,极大提升了数字人多轮对的话能力 3.卖给谁 ➢零售业门店,餐饮业,制造业,学校(大厅或门店数字人)➢数字人直播,数字人教育 4.核心优势 方案核心优势 ➢1. DeepSeek+知识库+联网搜索的数字人大脑让数字人既懂私域知识也懂外部知识➢2. Deepseek思维链的特性进一步强化了多轮对话的能力,提升用户与智能数字人对话体验➢3.数字人口型更精准,业界领先➢4.整体交互时延低,用户体验好 DeepSeek智能语音交互/智能终端解决方案一指禅 解决方案架构 1.是什么 基于华为云部署DeepSeek + Flexus X实例(部署Dify工作流平台)+SIS语音交互服务构建的轻量化智能语音交互方案,可做智能语音助手,同时也可基于意图分类模块和大模型能力可实现智能终端云底座,使得终端类设备(摄像头,耳机,玩具,手表,智能座舱)实现语音交互智能决策。 3.卖给谁 ➢电子终端类ISV(手表,蓝牙耳机,摄像头,学习机等电子类设备智能化升级)➢汽车厂商/汽车行业ISV(智能座舱)➢玩具厂商/玩具ISV(玩具智能体,如机器狗) 4.核心优势 方案核心优势 ➢本方案可实现意图识别和分类,通过人声转文字再识别用户意图的方式,驱动终端实施具体操作➢本方案具备并发能力,并可按照并发量的增大逐渐增大用量,比按路数计费的模式节省大量成本,可按商用效果逐渐增大并发量,避免初期客户投入过大而流失 部署指导: •ModelArts Lite部署DeepSeek指导书:https://support.huaweicloud.com/bestpractice-modelarts/modelarts_ds_infer_0006.html•MaaSDeepSeek免费tokens部署文档:https://bbs.huaweicloud.com/blogs/445909•Flexus X实例/GPU上部署蒸馏版本DeepSeek-R1:https://www.huaweicloud.com/solution/implementations/building-a-deepseek-lnference-system.html•DeepSeek+Dify—联网搜索+知识库:https://bbs.huaweicloud.com/blogs/446508•DeepSeek+Dify+MetaStudio—智能交互数字人:https://bbs.huaweicloud.com/blogs/445228 Thank you. 把数字世界带入每个人、每个家庭、每个组织,构建万物互联的智能世界。 Bring digital to every person, home andorganization for a fully connected,intelligent world. Copyright©2018 Huawei Technologies Co., Ltd.All Rights Reserved. The information in this document may contain predictivestatements including, without limitation, statements regardingthe future financial and operating results, future productportfolio, new technology, etc. There are a number of factors thatcould cause actual results and developments to differ materiallyfrom those expressed or implied in the predictive statements.Therefore, such information is provided for reference purposeonly and constitutes neither an offer nor an acceptance. Huaweimay change the information at any time without notice.