DeepSeek的本地化部署与AI通识教育之未来

陈建海博导/副教授 浙江大学通识人工智能（A）（理工农医）课程团队负责人浙江大学计算机科学与技术学院基础教学中心副主任/支部书记浙江大学智能计算与系统实验室负责人浙江大学人工智能教育教学研究中心 提纲 vDeepSeekAI的新时代背景vDeepSeek的本地化部署实践vDeepSeek与AI通识教育之未来v总结 提纲 vDeepSeekAI的新时代背景vDeepSeek的本地化部署实践vDeepSeek与AI通识教育之未来v总结 我们进入了一个怎样的时代 生成式人工智能：AIGC盛行（文生文、文生图、文生视频.....） 过去、现在和未来-人机共存时代 人工智能（AI）无处不在的时代 智能是智慧和才能的总称 9（1）正名篇：所以知之在人者谓之知，知有所合谓之智。所以能之在人者谓之能，能有所合谓之能。（2）多元智能理论：语言智能、音乐智能、逻辑智能、空间智能、运动智能、人机智能、认知智能 人工智能是以机器为载体用人工方法和技术模拟实现的人的智能 从人的智能到人工智能荀子·正名篇：人的智能，智慧和才能的总称 所以知之在人者谓之知，知有所合谓之智。 《荀子·正名篇》 才能 能力 所以能之在人者谓之能，能有所合谓之能。 人（主体）固有的能力叫作“能”，主体的能力与客体对象接触联通后所形成的能力为“才能”。 “能”在外，“能力”一般是外在通过某种形式表现出来的，跟身体架构整体有关。 多元智能理论 （1983年，哈佛大学发展心理学家霍华德·加德纳（HowardGardner）教授） DeepSeek来了，它是谁？ vDeepSeek大模型产品 vDeepSeek全称 –DeepSeek-Math–DeepSeek-Coder–DeepSeek-Math–DeepSeek-VL、VL2–DeepSeek-V2、V2.5–DeepSeek-V3–DeepSeek-R1–DeepSeek-R1-Zero–... –杭州深度求索（DeepSeek）人工智能基础技术研究有限公司，创始人：梁文锋–幻方量化基金，2023年7月17日成立，专注开发大模型及相关技术 vDeepSeek——高性能、低成本的国产开源大模型 浙江大学学子 DeepSeek是什么 高性能、低成本的、国产开源大模型! •DeepSeek-R1发布开源，擅长处理复杂且在训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升模型推理能力。 •DeepSeek-R1在数学、代码、自然语言推理等任务上，性能比肩OpenAlo1正式版。 •目前大模型主流榜单开源模型DeepSeek-V3位列榜首，与世界上最先进的闭源模型不分伯仲。 蒸馏小模型的性能超越OpenAIo1-mini v基于DeepSeek-V3训练DeepSeek-R1-Zero和DeepSeek-R1 vDeepSeek-R1的输出，蒸馏了6个小模型开源给社区 v其中32B和70B模型在多项能力上实现了对标OpenAIo1-mini的效果。 DeepSeek破圈席卷全球 DeepSeek—有史以来最快获得1亿注册用户的APP。 开源AI大模型和相关技术火爆全球，DeepSeek一度在140多个国家的应用商店下载排行首位。 DeepSeek多场景全面接入 v三大基础运营商、超过15家芯片厂家、200多家企业（涉及云服务、网络科技、金融等领域）、多个手机厂商和车企，以及地方政府政务系统等。 v世界级的云计算巨头：微软、英伟达、亚马逊宣布接入DeepSeek。 vDeepSeek的“朋友圈”瞬间扩大，引领大模型在AI领域的创新应用 DeepSeek多场景全面接入（比如：钉钉） DeepSeek能做什么（ChatGPT能的DeepSeek也能做） •直接面向用户或者支持开发者，提供：智能对话、文本生成、语义理解、计算推理、代码生成补全等应用场景，支持联网搜索与深度思考模式，同时支持文件上传，能够扫描读取各类文件及图片中的文字内容。简历修改解题助手撰写产品痛点分析语法纠正写工作汇报ChatGPT的100个功能 提纲 vDeepSeekAI的新时代背景 vDeepSeek的本地化部署实践 什么是DeepSeek的本地化部署 vDeepSeek的本地化部署是指将人工智能系统（如模型、算法及服务）部署在用户指定的本地服务器或基础设施中，而非依赖云端服务，旨在实现数据主权掌控、文化适配优化和合规性保障的技术方案。其核心是通过技术与场景的深度结合，满足特定区域、行业或机构的个性化需求。 云端（远端、部门外部） 本地化部署的优点 v5.长期成本效益 v3.性能优化与低延迟 v1.数据隐私安全 •减少云服务依赖：避免持续支付API调用费用，尤其在高频使用场景下成本优势显著。•硬件自主规划：可按需选择服务器配置，平衡性能与预算，长期摊销硬件投入。 •实时响应：本地处理消除网络延迟，提升高频交互场景（如客服、实时翻译）的体验。•资源独占：硬件资源专用于模型推理，避免云服务多租户环境下的资源争抢。 •敏感数据保护：数据无需上传至第三方云端，避免传输和存储过程中的泄露风险，适合医疗、金融、政府等敏感领域。•完全控制：企业自主管理数据访问权限，降低外部攻击或内部滥用风险。•符合安全审计：本地环境更容易满足严格的安全审计要求（如ISO 27001）。 v6.稳定性和可靠性 v4.高度定制化 •规避云服务风险：不受供应商服务中断、API限制或政策变动影响，保障业务连续性。•灾备可控：可自主设计备份和容灾方案，提升系统鲁棒性。 •模型微调：可根据企业垂直领域（如法律、医疗）调整模型参数，提升专业场景的准确性。•系统集成：灵活对接内部数据库、ERP等系统，实现个性化功能。•版本控制：自由选择或回滚模型版本，避免云服务强制更新导致的兼容性问题。 v2.法律合规性 •数据主权：满足GDPR、HIPAA等法规对数据存储位置的要求（如数据不得跨境传输）。•行业合规：适应金融、政务等行业的本地化数据监管政策，避免法律纠纷。 v7.技术自主性 •避免供应商锁定：掌握核心技术栈，减少对第三方平台的依赖，保障长期战略灵活性。•知识产权保护：模型与数据的本地化管控降低知识产权外流风险。 缺点：成本高 DeepSeek的连接官网简单使用 v连接官网 基于ollama的本地run（macos或者linux） v安装ollama的包 –pipinstallollama v基于ollama运行DeepSeek –运行1.5b模型•ollamarundeepseek-r1:1.5b–运行7b模型•ollamarundeepseek-r1:7b–运行8b模型•ollamarundeepseek-r1:8b•... DeepSeek手机版的扫码安装和简单使用（手机里面使用） DeepSeek的部署 vDeepseek系列模型包括V3（671b）、R1（660b）和基于DeepSeek-R1蒸馏的模型,如下表。 v教育和科学领域任务需求，包括智能问答系统、学习辅助工具、数据分析助手、论文摘要生成等任务，可以基于deepseek搭建和部署本地的小模型环境。 vDeepSeekR1蒸馏版均可进行本地化部署。 v小规模的1.5b-8b的可部署在普通机，其余需要GPU。 v全量版MoE671b：无法直接本地部署，但有压缩的动态量化版本实现本地化，需高端GPU服务器。 DeepSeek部署的前期准备-机器环境 vTo-B（单位） vTO-C（个人） v机器：个人笔记本、台式机 v单位：服务器或基础设施（带GPU） v选择版本：1.5b、7b、8b v选择版本：14b、32b、70b v配置要求： v配置要求： –内存：建议16GB以上–CPU性能越好，有带GPU更好–根据配置选择部署的大模型版本：1.5b、7b、8b、14b或更高版本–普通电脑1.5b的效果不错 –内存：建议64GB以上–CPU性能越好，有带GPU更好–根据配置选择部署的大模型版本–操作系统：Linux v软件：python及相关的包、库等。 v操作系统：Windows、Linux、MacOS v软件：python及相关的包、库等。 Ollama的本地化部署-下载和安装【速度超级快】 Deepseek模型的本地运行和使用-ollama[windows的命令行运行] 模型正在下载 DeepSeek本地版-基于Page Assist forOllama（网页版） vPage Assist是浏览器插件，基于本地AI模型的Web UI工具，可视化的模型对话，提供便捷的交互界面，支持视觉模型和文档交流功能 PageAssist的使用 提纲 v1.DeepSeekAI的新时代 v2.DeepSeek的本地化部署实践 v3.DeepSeek与AI通识教育之未来 国家战略呼吁“人工智能+”行动，各高校陆续推进人工智能通识教育 v2024年政府工作报告，首次被明确提及“人工智能+”行动，人工智能技术在国家战略中的重要地位。 v各高校陆续面向全校开展人工智相关课程，旨在培养适应未来社会发展需求的新型人才。 –2024年2月南京大学宣布面向全体新生开设人工智能通识核心课程。–2024年6月19日浙江大学发布了《大学生人工智能素养红皮书》《教师人工智能素养红皮书》，成立大学人工智能教育创新联盟，2025年2月面向全校开设人工智能通识课。–复旦大学将在2024-2025学年推出至少100门AI领域课程，加快AI+融合创新人才培养新局面。–7月29日，在十四届全国政协第22次双周协商座谈会上，教育部副部长吴岩提到要：打造人工智能通识课程体系。 浙江大学成立人工智能教育教学研究中心 教材是实处·课程是深处·实践是难处·师资是痛处 2024年3月，浙江大学成立人工智能教育教学研究中心，统筹全校教育、科技、人才优势，整体规划和统筹协调人工智能通识教育教学改革，打造人工智能通识课程体系和实训范式，直面“智能时代、教育何为”挑战，让更多人成为人工智能这一通用智能技术的受益者。 作为中心一员，承担理工农医人工智能通识基础课程建设 发布人工智能系列研究报告 浙江大学组建跨学科高水平人工智能师资队伍 自2024-2025学年春夏学期起，浙江大学每年将面向全校本科生开设人工智能通识课程。各学院（系）设立人工智能教育教学工作牵头教师，组建百人以上教师的跨学科教学团队，参与人工智能基础课程、教材建设，实现全校联动，多部门协同工作机制，形成“人工智能+”的交叉融合新生态。 建设人工智能专业核心课程，牵头计算机“101计划”核心课程《人工智能引论》 面向校内外学生开设人工智能微专业。其中华五“AI+X微专业”项目入选教育部“人工智能+高等教育”应用场景典型案例，2025年将全新升级推出2.0版本 面向各学科（专业）学生，开设人工智能与其他学科专业深度交叉融合的AI交叉类课程，现已建设158门。 开设多层次的人工智能基础A/B/C通识必修课程，2024-2025学年春夏学期面向2024级学生全面开设58个教学班 改革计算机大类通识课程培养方案 浙江大学人工智能基础通识课程教材体系 2024年6月16日，在教育部101计划核心课程《人工智能引论》的建设基础上，按照不同类别设置面向全校所有学生的人工智能通识必修课程群，其中面向理工农医类开设《人工智能基础A》，注重构建基础；面向社会科学类开设《人工智能基础B》，注重应用实践；面向人文艺术类开设《人工智能基础C》，突出通识理解。实行标准化教学管理，统一各教学班知识点、成绩构成、考试标准，出版配套教材。2024-2025学年秋冬学期，已开设五个人工智能通识教育试点班，探索完善教学资源、优化教学方法，确保全校性人工智能通识教育质量和教学目标的实现。2024-2025学年春夏学期