大模型安全漏洞分析报告总结
一、概述
大模型因其庞大的参数量和复杂的架构，在训练、部署和使用阶段面临多种安全风险，包括后门攻击与数据投毒、对抗性攻击、数据泄露与模型窃取以及系统框架漏洞。大模型安全不仅关乎技术伦理，更是防止技术滥用、维护数字时代人类文明秩序的必然要求。
二、大模型部署
大模型部署过程包括数据准备、模型训练与微调、模型评估与验证、模型部署与推理以及监控与维护等阶段。部署方式包括本地部署、云服务API访问和容器化技术。大模型部署涉及的关键组件包括模型转换与优化工具（如llama.cpp、GGML/GGUF、TensorRT、ONNX Runtime）、训练与微调框架（如LLaMA-Factory、PEFT、DeepSpeed、Accelerate）、推理优化引擎（如vLLM、Xinference、Triton Inference Server、Ray Serve）、交互界面与API框架（如FastChat、LMStudio、Ollama、Gradio、Streamlit）以及监控与安全组件（如LangKit、Dynatrace、DataDog、Guardrails）。
三、大模型训练微调漏洞
模型训练类组件如PyTorch的RemoteModule存在反序列化远程代码执行（RCE）风险（CVE-2024-48063），LLaMA-Factory存在远程命令注入漏洞（CVE-2024-52803）。训练工具漏洞主要包括训练数据污染、计算环境逃逸、特权滥用、远程代码执行、路径遍历、资源滥用以及不安全反序列化等。
四、大模型推理优化部署漏洞
推理优化组件如vLLM存在拒绝服务（CVE-2024-8768、CVE-2024-8939）、远程代码执行（CVE-2025-24357）和哈希碰撞（CVE-2025-25183）等漏洞。部署组件如Ollama存在未授权访问（CNVD-2025-04094）、DNS重绑定（CVE-2024-28224）、路径遍历（CVE-2024-37032）、文件存在性信息泄露（CVE-2024-39719）、越界读取（CVE-2024-39720）、文件读取导致goroutine无限运行（CVE-2024-39721）、路径遍历（CVE-2024-39722）和路径遍历（CVE-2024-45436）等漏洞。
五、大模型应用框架漏洞
快速构建框架如AnythingLLM存在路径遍历漏洞（CVE-2024-5211），QAnything存在SQL注入漏洞（CVE-2024-25722、CVE-2024-7099），RAGFlow存在远程代码执行漏洞（CVE-2024-10131）。UI及可视化工具如OpenWebUI存在跨站脚本攻击（CVE-2024-7037），Gradio存在命令注入漏洞（CVE-2023-6572）。分布式计算运维工具如Ray存在任意文件读取漏洞（CVE-2023-6021），KubePi存在硬编码密钥漏洞（CVE-2023-22463）。
六、其他大模型相关工具漏洞
工作流扩展工具如ComfyUI-Manager存在远程代码执行漏洞（CVE-2024-21574），ComfyUI-Impact-Pack存在路径遍历漏洞（CVE-2024-21575）。数据及特征工具如ClickHouse存在缓冲区溢出漏洞（CVE-2024-41436）。开发及实验环境工具如Jupyter-Lab存在跨站脚本攻击漏洞（CVE-2024-43805），Jupyter-Notebook存在未授权访问风险，Jupyter-Server存在未授权访问漏洞（CVE-2024-28179）。
七、模型使用阶段漏洞
模型使用阶段漏洞包括模型越狱（Jailbreaking）、模型数据泄漏、Prompt泄露与注入漏洞以及模型助手类漏洞。模型越狱攻击利用精心设计的提示绕过大模型内置的安全限制，生成违反安全策略的内容。模型数据泄漏风险主要源于配置错误、系统漏洞或人为疏忽，导致未经授权的用户访问和利用敏感数据。Prompt泄露与注入攻击通过窃取或篡改系统预设的Prompt模板，控制模型的行为。模型助手类漏洞包括基于大模型的开放平台的自建AI助手和基于开源组件整合的通用、垂直型智能体，其开放性设计范式在赋予用户高度定制能力的同时，也系统性引入了新型安全风险。
八、总结
大模型安全问题体现在多个层面，其在部署阶段的安全漏洞与传统网络安全的通用漏洞高度相似。但在使用阶段，则存在其特有的内容安全问题，这些漏洞可能源于模型本身的特性，例如生成内容的不可控性、对输入指令的过度依赖，以及多模态交互中的潜在风险。大模型在部署和使用的各个阶段所涉及的组件，均存在安全风险，需从整体上重视安全建设，构建多层次、多维度的防御体系。当前大模型攻防研究约60%集中在攻击方法上，而防御相关研究仅占40%，更多是“被动应对”而非“主动防御”。大模型安全的解决需要从模型的内在机理入手，深入研究其训练数据记忆机制、模态间交互特性以及语言对齐的局限性，并结合系统级和模型级的综合防御策略。
