2025年人工智能安全报告

核心观点与关键数据

• 企业对 AI/ML 工具的使用呈指数级增长，2024 年交易量同比增长 3,464.6%，达到 536.5 亿次。
• ChatGPT 占据了 AI/ML 交易量的 45.2%，是使用最广泛的 AI 应用，同时也是被阻止最多的应用。
• 企业阻止了 59.9% 的 AI/ML 交易，显示出对数据安全和 AI 治理的重视。
• 金融和保险、制造业是 AI/ML 交易量最大的行业，分别占 28.4% 和 21.6%。
• 美国、印度、英国、德国和日本是 AI/ML 交易量最多的国家。

AI/ML 使用趋势

• AI/ML 工具使用呈全球性增长，企业将其集成到运营中，员工将其嵌入日常工作中。
• Zscaler 跟踪了超过 800 个 AI/ML 应用，反映了企业对 AI 工具的依赖程度不断加深。
• AI/ML 交易量从 2024 年 2 月的 3.7 亿次增长到 12 月的 49 亿次，7 月份达到峰值，为 82.7 亿次。
• AI/ML 交易量中，53.1% 属于“通用 AI 应用”， underscoring the rapid proliferation of AI use across enterprises。
• 顶级 AI 应用包括 ChatGPT、Grammarly、Microsoft Copilot、DeepL 和 QuillBot，主要用于提高生产力、内容和写作生成、语言和翻译。

企业 AI 风险与现实威胁场景

• 企业 AI 采用带来的主要风险包括数据质量问题、知识产权和非公开信息泄露以及数据隐私和安全风险。
• AI 增强型网络钓鱼、AI 驱动的恶意软件和勒索软件以及自主 AI（代理 AI）是新兴的攻击向量。
• DeepSeek 等开源 AI 模型的出现带来了新的安全风险，包括弱安全控制、数据外泄和网络犯罪分子赋能。

AI 威胁预测

• AI 驱动的社交工程攻击将达到新的高度，特别是语音和视频网络钓鱼。
• 自主 AI 代理将使企业面临重大数据风险和安全挑战。
• 攻击者将利用对 AI 的兴趣，通过虚假服务和平台进行攻击。
• AI 建设者繁荣将打开网络犯罪分子创新的闸门。
• 深伪将成为跨行业的巨大欺诈向量。
• 保护生成式 AI 将成为一项优先的企业安全任务。

最佳实践：安全采用企业 AI

• 企业应遵循最佳实践，实施明确的政策，优先考虑安全、确保合规并促进道德使用。
• 建议分阶段安全地整合生成式 AI 工具，从阻止所有 AI 应用开始，然后逐步采用经过严格审查的 AI 工具。
• Zscaler 提供零信任 + AI 解决方案，帮助企业安全地采用 AI，同时抵御 AI 驱动的威胁。

Zscaler 的 AI 安全解决方案

• Zscaler 的云基础零信任架构通过持续验证和最小权限访问来最大限度地减少外部攻击面。
• Zscaler 利用 AI 提供实时洞察，增强安全运营和数字性能。
• Zscaler AI 能够安全地启用公共 AI 使用，最大限度地减少影子 AI 和数据丢失的风险。
• Zscaler 应用了 AI 到攻击链的每个阶段，确保在造成伤害之前检测和中和威胁。