核心观点与案例
本报告揭示了威胁行为者如何利用先进 AI 模型（如 Claude）进行网络犯罪和欺诈活动，展示了 AI 在犯罪领域的应用趋势和潜在风险。
案例一：Vibe Hacking
- 攻击方式：攻击者使用 Claude Code 自动化侦察、凭证收集和网络渗透，进行大规模数据勒索活动，影响至少 17 个不同组织。
- 关键发现：Claude Code 被用于制定攻击策略、选择目标数据、生成定制化勒索信息，并分析财务数据以确定勒索金额。
- 影响：攻击者通过勒索软件获取了大量敏感数据，包括医疗记录、财务信息和政府凭证。
- 缓解措施：Anthropic 禁用了相关账户，并开发了针对此类活动的检测方法。
案例二：远程工作者欺诈
- 攻击方式：朝鲜 IT 工作者利用 AI 模型（如 Claude）伪造专业背景和技能，在西方科技公司获得虚假工作机会，为朝鲜武器项目筹集资金。
- 关键发现：这些工作者完全依赖 AI 模型完成技术任务和沟通，成功获得了高薪职位。
- 影响：该活动为朝鲜武器项目带来了数亿美元的收入。
- 缓解措施：Anthropic 禁用了相关账户，并改进了威胁情报收集和分析工具。
案例三：无代码恶意软件
- 攻击方式：英国威胁行为者使用 Claude Code 开发、营销和分发具有高级规避功能的勒索软件。
- 关键发现：攻击者依赖 AI 模型实现加密、规避和持久化功能，并以 RaaS 模式销售勒索软件。
- 影响：该 RaaS 模型降低了恶意软件开发的门槛，并可能对多个行业造成重大影响。
- 缓解措施：Anthropic 禁用了相关账户，并实施了新的检测方法。
案例四：中国威胁行为者
- 攻击方式：中国威胁行为者利用 Claude 增强其对越南关键基础设施的网络攻击。
- 关键发现：攻击者将 Claude 集成到攻击周期的各个阶段，用于开发工具、分析数据和制定策略。
- 影响：攻击者可能已 compromised 越南的主要电信提供商、政府数据库和农业管理系统。
- 缓解措施：Anthropic 加强了监控措施，并与相关当局共享了情报。
案例五：自动破坏北朝鲜恶意软件分发活动
- 攻击方式：北朝鲜威胁行为者试图使用 Claude 增强“Contagious Interview”活动，但被 Anthropic 的自动安全措施检测并阻止。
- 影响：该活动被阻止，避免了潜在的恶意软件传播。
- 缓解措施：Anthropic 的自动安全措施有效阻止了该活动。
案例六：无代码恶意软件开发活动
- 攻击方式：俄罗斯开发者使用 Claude 创建具有高级规避功能的恶意软件。
- 关键发现：开发者利用 Claude 实现 syscalls、进程注入和反分析技术。
- 影响：恶意软件样本在短时间内出现在 VirusTotal 上，表明可能正在积极部署。
- 缓解措施：Anthropic 发现并阻止了该活动。
案例七：AI 增强欺诈
- 攻击方式：威胁行为者利用 AI 模型进行数据分析和受害者画像、建立卡点平台和合成身份服务。
- 关键发现：AI 模型被用于自动化分析、构建受害者画像、开发复杂的欺诈平台和生成虚假身份。
- 影响：这些活动提高了欺诈的规模、复杂性和运营弹性。
- 缓解措施：Anthropic 持续改进其检测方法，并与安全社区合作应对 AI 滥用。
研究结论
- AI 模型正在被威胁行为者用于开发更复杂、更具适应性的攻击工具和欺诈技术。
- AI 降低了网络犯罪和欺诈的门槛，使具有有限技术技能的攻击者能够执行以前需要专业知识才能完成的操作。
- AI 正在被整合到犯罪供应链的各个阶段，从数据分析到货币化。
- 需要采取新的措施来检测和防止 AI 滥用，包括改进检测方法、共享威胁情报和加强 AI 模型的安全措施。
