网络安全事件数量持续增加，威胁日益复杂，组织需加强防御。AI 和 Gen AI 发展带来新风险，但也提供增强安全的机会。
网络安全事件现状：
- 92% 的组织经历数据泄露，远高于 2021 年的 51%。
- 50% 的组织在过去三年中损失超过 5000 万美元。
- 各行业组织经历安全事件比例显著增加，如汽车行业从 49% 上升至 91%。
- 公共部门成为网络攻击目标，新加坡、加拿大、澳大利亚等国数据泄露事件增加。
- 云服务和机器速度攻击安全事件上升，航空航天、消费品、零售等行业尤其脆弱。
AI 和 Gen AI 的风险：
- 更复杂的攻击和更多对手：威胁行为者利用 AI 和 Gen AI 发动更复杂的攻击，如钓鱼攻击、社会工程学、深度伪造等，降低攻击门槛。
- 扩大网络攻击面：传统攻击面之外，还需保护对话式 AI 代理、AI 集成应用、AI 助手等新应用，以及“影子 AI”和内部人员误用风险。
- 自定义 Gen AI 解决方案的生命周期管理：从数据收集到模型开发维护，需全程保障数据安全和系统可靠性。
AI 和 Gen AI 在网络安全中的优势：
- 60% 的组织认为 AI 对有效威胁响应至关重要。
- 大多数组织依赖 AI 加强数据安全、应用安全和云安全。
- AI 提供实时响应能力，增强威胁检测和报告，减少分析师工作疲劳，提高速度和准确性。
- 超过一半的组织的领导层认为 Gen AI 将在长期内强化网络安全。
AI 和 Gen AI 应用案例：
- IT 领域：思科、美国运通、PayPal、摩根大通等利用 AI 检测威胁、自动化响应、分析数据。
- OT 领域：美国 TSA、海克斯科技、BBVA 等利用 AI 检测异常、预测威胁、自动化工业控制系统。
- IoT 领域：思科、Ring、Nest 等 利用 AI 启用设备传感器监控、威胁检测和自动化响应。
组织应对建议：
- 制定 AI/Gen AI 安全策略：明确战略，分阶段改进系统，评估效率提升和风险降低。
- 突发事件响应协议：建立应急响应团队，制定应对和缓解协议，进行事后分析。
- 投资 AI 网络安全培训：确保员工了解 AI 能力和限制，负责任地使用。
- 不断重新评估安全态势：及时识别新风险，部署适应性防御机制。
- 保障业务流程，培养风险意识文化：将安全意识融入企业文化，验证数字通信真实性。
- 获得必要的基础设施：投资先进通信系统、数据管理解决方案、云计算资源。
- 建立框架、政策和指导方针：制定数据使用、存储和传输政策，确保 AI 工具符合伦理规范。
- 模型选择和训练：选择合适的模型，如 LLM 或 SLM，并进行微调。
- 制定集成和监控计划：将 AI 代理整合到运营中，持续监控和更新 AI 系统。
- 与现有 SOC 解决方案集成：增强 SecOps 能力，提高检测效率和响应速度。
- 建立意识和培训计划：提升员工 AI 网络安全意识和技能。
研究结论：
AI 和 Gen AI 被恶意行为者利用，威胁网络安全，但也可用于增强防御。组织需拥抱 AI 技术，建立相应基础设施和策略，培养安全文化，以应对不断演变的威胁。
