大语言模型越狱攻击：模型、模型因及其攻防演化

核心观点

• 越狱攻击定义： 越狱攻击是指恶意用户利用特定技术绕过大型语言模型（LLM）的安全保护机制，使其生成违反使用规范、伦理或法律的内容。
• 攻击方法： 越狱攻击方法主要包括人工设计、自动改写、自动优化、模型操控和间接攻击等。
• 防御方法： 防御方法包括安全性训练、红队测试、输入侧防御、安全性推理和输出侧防御等。
• 攻防演化规律： 攻防技术具有同源性，呈现红蓝对抗的演化规律。
• 评价指标： 常用的评价指标包括攻击成功率（ASR）、二分类判断、字符串匹配、李科特量表打分和细粒度评估等。
• 攻击效果评估： 不同攻击方法对不同模型的攻击效果存在显著差异，当前的攻击方法已经非常先进和有效。
• 发展趋势： 越狱方法的可扩展性和越狱攻击造成的系统性风险是未来需要关注的问题。
• 挑战： 防御策略的挑战、模型可解释性的壁垒和跨场景安全性泛化挑战是未来需要克服的挑战。

关键数据

• AdvBench 包含 500 个测试用例。
• EasyJailbreak 是一个统一的越狱大型语言模型框架。
• GPT-4 的 ASR 达到 91%。

研究结论

• 越狱攻击是 LLM 安全性面临的重要威胁。
• 需要不断发展和完善防御方法，以应对不断演化的攻击技术。
• 需要关注 LLM 的可解释性和跨场景安全性泛化能力。