CHECK POINT AI 安全年度报告

AI 威胁日益严峻：网络犯罪分子积极利用 AI 技术进行攻击，包括生成恶意软件、进行社交工程诈骗、进行数据挖掘等。新型 AI 模型如 WormGPT、GhostGPT 等被专门用于网络犯罪，而伪 AI 平台则被用来欺骗用户并传播恶意软件。
新型社交工程攻击：AI 技术使得社交工程攻击更加自动化和规模化，例如使用 AI 生成高度逼真的钓鱼邮件、音频深度伪造进行诈骗，以及利用 AI 生成图像绕过 KYC 身份验证等。
AI 模型被攻击：LLM 账户成为网络犯罪分子的目标，他们通过凭证填充攻击、越狱等技术获取账户，并利用这些账户进行恶意活动。此外，AI 模型本身也面临攻击，例如数据投毒和检索中毒等。
AI 在网络安全研究中的应用：AI 技术可以帮助网络安全研究人员进行 APT 搜寻、漏洞研究等，例如利用 LLM 自动识别攻击模式、提取威胁情报、进行恶意软件分析等。
企业 AI 使用风险：企业网络中 AI 服务的使用越来越普遍，但同时也带来了数据丢失、新兴漏洞、过度代理等风险。企业需要加强 AI 监控和治理，确保 AI 的安全使用。

每月至少有 51% 的企业网络会使用 AI 服务。
每 80 个从企业设备发送到生成式 AI 服务的提示中，就有 1 个 (1.25%) 被发现存在敏感数据泄漏的较高风险，且另有 7.5% 的提示 (1/13) 包含潜在的敏感信息。
在使用最广泛的 AI 服务中，OpenAI 的 ChatGPT 出现在 37% 的企业网络中，其次是微软的 Copilot，出现在 27% 的企业网络中。