DeepSeek应用场景中需要关注的十个安全问题和防范措施

DeepSeek应用场景中需要关注的十个安全问题和防范措施 AI肖睿团队（傅挣、王俊鑫、秦天、李娜、谢安明、陈钟） 2025年2月26日 ·北大青鸟人工智能研究院北大计算机学院 摘要 1.本次讲座为DeepSeek原理和应用系列研讨的讲座之一。随着人工智能技术的快速发展，DeepSeek作为前沿的A/平台，其安全性和可靠性成为关注焦点。本讲座探讨了DeepSeek在实际应用中面临的安全挑战，为不同类型的用户揭示使用DeepSeek的潜在风险并提出防范策略 2.本讲座的内容分为四个主要部分： ①首先，介绍了DeepSeek安全问题具有威胁难以预测、攻防非对称的特点，以及存在数据隐私、知识产权、责任归属、伦理道德等法律问题；并从内生安全和外延安全描述了安全方案框架，帮助大家对DeepSeek的安全建立整体认知 ②其次，帮助大家理解DeepSeek模型自身的5个安全问题，包括DDoS攻击、无限推理攻击、漏洞探测与利用、投毒问题和越狱问题，还演示了漏洞探测与利用的过程，让大家形象的理解DeepSeek被黑客利用的过程③再次，帮助企业用户和技术爱好者说明了DeepSeek私有化部署的2个安全问题，包括DeepSeek本地化部署工具的风险针对DeepSeek本地化部署实施网络攻击的风险。并演示了从利用部署工具的漏洞到最终获取模型服务器管理权的全过程，帮助大家能安全的使用私有化部署④最后，为普通用户介绍DeepSeek外延的3个安全问题，包括仿冒DeepSeek官方APP植入木马、仿冒DeepSeek官方网站和域名收集用户信息、DeepSeek辅助实施攻击。还演示了仿冒网站收集用户信息、DeepSeek辅助渗透攻击的方法。让普通用户在使用DeepSeek的时候了解常见的防范措施。 3.在技术学习的道路上，优质学习资源至关重要。推荐大家参考《人工智能通识教程（微课版）》这本系统全面的入门教材，结合B站“思睿观通栏目的配套视频进行学习。此外，欢迎加入ai.kgc.cn社区，以及“AI肖睿团队”的视频号和微信号，与志同道合的A/爱好者交流经验、分享心得。 目录 CONTENTS DeepSeek安全问题的特点DeepSeek模型的02及目前的安全方案框架5个安全问题 03DeepSeek私有化部署的04DeepSeek外延的2个安全问题3个安全问题 DeepSeek安全问题的特点及自前的安全方案框架 PART01 DeepSeek快速出圈硬控全中国 deepseek 2025年2月17日，中共中央在北京召开民营企业座谈会，DeepSeek创始人梁文锋出席了会议。这不仅是对DeepSeek的认可，也意味着国家对民营企业AI创新、AI应用的鼓励和高度重视 2025年1月20日下午，中共中央政治局常委、国务院总理李强主持召开专家，企业家和教科文卫体等领域代表座谈会，听取对《政府工作报告（征求意见稿）》的意见建议。DeepSeek公司创始人梁文峰作为企业家代表之一参加了此次座谈会。 DeepSeek安全问题的特点 安全问题特点1：威胁难以预测 传统技术工具与人工智能技术特性迥异 传专统技术工具即便复杂，其设计原理和运行逻辑也能被人掌握，行为可预测 DeepSeek的快速发展与安全问题 AI发展的独到之处就在于并非由权威主导，而是由广大民营创业者主导。另外世界各地的开发者和研究机构通过开源平台共享代码和研究成果，这种全球协作加速了技术的传播和创新。其发展速度具有以下显著特点 &已深度思考（用时0秒） 创新与迭代速度快 DeepSeek的版本从V2、V2.5、V3到R1等更新仅用了半年多 服务器繁忙，请稍后再试。 >用户增长快 上线18天，日活用户数达到1500万，而ChatGPT达到同样的数字花了244天。上线20天内，日活跃用户突破2000万，成为全球增速最快的AI应用。上线7天，获1.1亿全球用户，登顶多个国家应用商店 >安全问题特点突出 威胁难以预测攻防非对称 Weapologizeforthe inconvenience,we will beback shortly我们对给您带来的不便深表款意，我们很快就会回来。 法律问题：如数据隐私、知识产权、责任归属、伦理道德等 学习交流可以加AI肖睿团队微信号（ABZ2180） DeepSeek安全问题的特点 安全问题特点1：威胁难以预测 现代人工智能技术主要是指大模型技术，是基于深度学习的勺人工神经网络模型的数据智能，犹如“黑箱”，使用者仅知其好用，却不明原理，也无法排除错误和安全隐患。同时，大模型在推理阶段还具有系统“涌现”的可能，即极高的规模和复杂度下产生新的、不可预测的特性或行为模式。 DeepSeek安全问题的特点 安全问题特点1：威胁难以预测 当人工智能广泛应用于各行各业，当人工智能的“黑箱”“涌现”出难以预测的、错误的和有安全隐患的信息和行为时，用户通常只能被动接受。 DeepSeek的火“烧"到物流领域！顺丰同城首批接入大模型如何重塑物 DeepSeek安全问题的特点 安全问题特点2：攻防非对称 在人工智能安全领域，攻防的非对称性十分显者 从攻击端来看，成本低廉、手段丰富直易于实施 比如对抗样本攻击，只需对原始数据做些人眼难察的微小扰动，就能让人工智能系统输出错误结果。 FOOLING THE AI Deep neural networks (DNNs)arebrilliant at imagerecognition-buttheycanbeeasilyhacked 一个本该触发停车的STOP标识，简单处理后，会被误识别为speed limit45 Thesestickersmadeanartificial-intelligencesystem readthis stopsign as'speed limit 45' DeepSeek安全问题的特点 防御端难度极大，不仅成本高昂，还需持续投入。防御方得投入大量精力研发更安全的机器学习算法和模型。同时，还得时刻关注攻击者的新动向，及时调整和完善防御策略，以此来应对复杂多变的攻击威胁 安全问题特点2：攻防非对称 DeepSeek遭受连环攻击 数据库越权 XSS漏洞攻击 模型投毒 DDoS攻击 2025年1月28日超过一百万行的日志流被曝光，包含聊天记录API密钥、后端详细信息等高度敏感信息 2025年1月31日劫持会话、窃取信息发起网络钓鱼攻击 2025年1月DeepSeek官方网站瘫痪长达48小时 DeepSeek对大型公开数据集的依赖，未来会进一步加大了注入对抗样本的风险，可能长期产生不良后果，如操控模型行为和输出等 学习交流可以加AI肖睿团队微信号（ABZ2180） DeepSeek的法律问题 初用于协助明讯元宝产生人工智能生成内容的腿示性内容）以及您使用本服努生内客，您授予费讯公司及其关联方一项不可撤销的，可转让的、可分许可/再许可的，非排他的，无地域限制的，永久的，免费的许可使用权，内容以及本服务生成的内容进行存储、使用、复制、修订、端辑、发布、属示、翻译、分发上述生成内容或制作派生作品等使用（包括但不限究、市场营销、用户调研），以改善本服务及/或聘讯的产品 法律问题 5.5您验留意，基于本服务生成内吾的权利由您自行维护并对其独立为断君使用，如因生成内害的作、使用产生的任何问题由您自行处理，我们 5.6您不得以任何方式用，纯藏、修改或替换本服务，本服务相关界面或本服务生成内客所呈现内客中所需的或包含的任何权利声明，其他任何5.7我们尊重如识产权及其地权利人的合法权益，积极采取效措施保护做人的知识产权等台法权益，如如说产权尊权利人认为本平台慢犯其合法本协议第品条（违规信息投诉、举报）中约定的路轻进行举报，按诉，向我们如实反馈您的意见，并提供相应的证明材料。我们将对您的意高处理措施， A的发展带来了诸多法律挑战，涉及数据隐私知识产权、犯罪治理等多个领域。随着AI技术的广泛应用，相关法律问题将更加复杂，需要立法、司法和企业共同努力，完善法律框架，规范AI技术的应用。 QQ用户 这是腾讯元宝的服务协议，请任何原创文案工作者立即停止使用腾讯元宝，见过不要脸的，没见过这么不要脸的。 隔壁DeepSeek: 4.输入与输出 QQ用户 4.1您对握交给我们服务的所有辅入和对应的输出负责，您声明并保证您向我们的服务提交的输入，您拥有根据我们的条款处理输入所需的所有权利、许可和权限，这输入和对应的输出不侵犯任何人的知识产权、肖像权、名誉权、荣誉权、姓名权、隐私权。个人信息权益等合法权益，不涉及任何国家秘率，商业秘密或其他可能会对国家安全或者公共利益造成不利影响的数据， 帮忙扩吧，哪怕你写了10w字的小说给腾讯元宝让它检查错别字你小说就归腾讯了！ 有权和利益（如有）：（2）我们将本服务输出的内客的任何权利、所有权和（）您可特本服务的辅入可制出用于广泛的使用场景中，包括个人便用、学术研究、衍生产品开发、训练其他模型（如模型系饰）等。 2025年3月1日起，腾讯元宝已对此协议内容进行了更新 DeepSeek安全和法律问题 全国两会热议A/安全 2025年3月全国两会，围绕人工智能话题，多位人大代表和政协委员建言献策： 接续奋斗共谱新篇 奇安信董事长齐向东：针对人工智能发展的安全问题，要从技术保障制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。 两会新华社快讯：人工智能等新兴领域将加强立法研究 360创始人周鸿祎：传统网络安全的解题方法解决不了人工智能的安全问题。智能体的安全、知识数据的安全、客户端的安全、基座模型的安全，构成AI安全的新领域。 TCL董事长李东生：对AI/生成的内容进行强制标识，减少恶意滥用，并有助于厘清责任、对违法犯罪行为追责。 小米董事长雷军：明确“AI换脸拟声”应用边界红线，完善侵权证据规则加大对利用人工智能技术实施犯罪行为的刑事处罚力度 学习交流可以加AIABZ2180 DeepSeek安全方案框架 安全问题的分类 02 01 外延安全问题：重点关注在社会、经济、法律等外部环境中产生的影响和问题，包括发展安全、技术滥用（如网络攻击、深度伪造等）。更侧重于Deepseek技术与外部世界交互过程中引发的一系列安全问题和挑战 内生安全问题：更聚焦于Deepseek系统自身内部的核心要素，如数据算法、模型等，关注的是这些要素在系统运行过程中的安全保障，确保系统本身能够稳定、正确、安全地运行 DeepSeek安全方案框架 DeepSeek安全方案框架 DeepSeek模型5个安全问题 PART02 DeepSeek模型5个安全问题 >问题1：DeepSeek遭受DDoS攻击 >问题2：DeepSeek遭受无限推理攻击 >问题3：DeepSeek遭受漏洞探测与利用 >问题4：DeepSeek模型的投毒问题 >问题5：DeepSeek模型的越狱问题 问题1：DeepSeek遭受DDoS攻击 Deepseek官网发文遭受攻击 deepseek 2025年1月28日，DeepSeek官网服务状态页面发布信息称由于近期DeepSeek线上服务遭受了大规模恶意侵袭，为确保服务能够持续稳定地提供自前暂时仅保留了+86手机号这一注册方式，限制了其他注册途径，而已成功注册的用户仍可正常登录 DeepSeek网真/API性能异（DeepSeekWeb/APIDegradedPerfomance) Update-近期DeepSeek线上服务受到大规模恶意攻击，为持续提供服务，暂时限制了+86手机号以外的注册方式，已注册用户可以正常登录，感谢理解和支持。Toensurecontinuedervicergistrationstemporarilylimitedto+86phonenumbrsExistingursca