6-4 对抗样本技术在互联网安全领域的应用

01 Adversarial Examples

• 定义：对抗样本（Adversarial Examples）是通过微小扰动输入数据，使模型输出错误结果的现象。
• 类型：包括提示词对抗、图片分类对抗和文字定位对抗。
• 产生方式：通过攻击模型（如ens）生成对抗扰动，影响模型判断。

02 对抗攻击方法

• 攻击方式：包括提示词对抗、图片分类对抗和文字定位对抗。
• 关键数据：攻击模型（attack model）和目标模型（h model）的对比分析。
• 技术细节：通过生成对抗扰动（AdvGAN），影响模型输出。

03 AdvGAN模型

• 核心概念：AdvGAN模型用于表示学习到的生成对抗扰动，被攻击的模型可以是ens。
• 应用场景：通过生成对抗扰动，使模型输出错误结果。
• 技术实现：通过刿㢴和䱲雭等操作，生成对抗样本。