新防御与新威胁：AI与生成式AI对网络安全的影响

核心观点

• 网络安全威胁日益严峻：随着网络安全事件数量上升，威胁手段也日趋复杂，包括网络钓鱼、鱼叉式网络钓鱼、勒索软件、深度伪造和欺诈等。92% 的组织在去年经历了安全漏洞，而 99% 的组织在过去三年中至少经历过一次安全漏洞。
• AI 和 Gen AI 带来的新威胁：威胁行为者利用 AI 和 Gen AI 进行更复杂的攻击，例如生成高级网络钓鱼邮件、恶意软件、绕过安全控制等。Gen AI 降低了攻击门槛，使得更多攻击者能够执行复杂攻击。
• 攻击面的扩展：Gen AI 的使用导致攻击面扩大，包括传统攻击面和内部攻击面。内部员工或员工可能滥用 AI 工具，导致敏感数据泄露。此外，“影子 AI”的兴起也带来了安全风险。
• Gen AI 解决方案的生命周期管理：需要确保 Gen AI 解决方案整个生命周期的安全性，从数据收集、模型定制到开发和维护，以防止敏感数据泄露并确保解决方案的可用性和完整性。
• AI 在网络安全中的应用：AI 增强了威胁检测和报告能力，通过实时响应功能显著减少了分析师的疲劳，并指导分析师找到最相关的调查路径，从而提高了速度和准确性。
• Gen AI 将加强网络安全：Gen AI 将能够进行高级威胁模拟和主动防御策略，并预计在长期内将加强网络安全。

关键数据

• 平均每天有约 30 起安全事件，其中银行业最高，达到每天 10-50 起。
• 过去三年中，经历安全漏洞的组织比例从 2021 年的 51% 上升到 2023 年的 92%。
• 半数组织报告称，过去三年直接或间接损失超过 5000 万美元。
• 89% 的组织报告称，云相关安全事件在过去一年中增长了近 90%。
• 97% 的组织在过去一年中遇到了与 Gen AI 相关的安全事件。
• 近三分之二的组织认为 AI 在网络安全中具有高优先级。
• 超过三分之二的组织使用 AI 进行数据安全和应用安全。
• 近三分之二的组织表示，实施 AI 后，检测安全漏洞的时间缩短了至少 5%。
• 超过一半的组织预计 Gen AI 将通过使用加快威胁检测并提高准确性。
• 近三分之二的组织认为 Gen AI 将赋予网络安全分析师专注于应对复杂威胁的策略。

研究结论

• 组织需要增加网络安全预算以加强防御。
• 组织应制定 AI/Gen AI 安全战略，包括明确整合 AI 和 Gen AI 到现有安全系统的策略，以及持续评估安全格局和风险。
• 组织需要获得必要的基础设施，包括先进的通信系统、数据管理解决方案和云计算资源。
• 组织应建立框架、政策和治理机制，以确保数据安全和完整性。
• 组织应投资基于 AI 和 Gen AI 的解决方案，以集成到现有的安全运营中心 (SOC) 系统中，并增强其有效性。
• 组织应投资全面的 AI 网络安全培训，以确保员工了解 AI 和 Gen AI 的能力和局限性。
• 组织应保护业务流程，并培养员工的风险意识文化。