网络安全中的 AI

人工智能（AI）在网络安全领域具有双重影响，既增强了威胁检测和响应能力，也为网络犯罪分子提供了新的攻击手段。AI技术使黑客攻击更高效、更有效，并推动网络攻击向转型阶段发展。根据CANCOM报告，2023年综合和验证过的事件激增了257%，Deep Instinct调查显示75%的美国安全专业人士观察到攻击数量增加，其中85%归因于GenAI的使用。

AI攻击的主要类型是社交工程，占所有网络攻击的83%，Darktrace研究显示2023年1月至2月“新型社交工程攻击”数量增加了135%。AI生态系统的发展增加了组织的攻击表面，WormGPT、FraudGPT等工具的涌现为网络犯罪分子提供了更多攻击手段。Gartner预测到2026年超过80%的企业将使用GenAI，组织需采取前瞻性安全措施。

为应对AI驱动的安全威胁，公司应：

1. 评估网络安全战略，确保能详细回答基本安全问题；
2. 将网络安全作为战略重点，涉及高层领导；
3. 谨慎使用AI网络防御工具，避免“黑盒”效应；
4. 开发AI能力对抗AI攻击，加强员工安全培训。

AI防御工具包括欺诈检测、安全事件模拟、异常检测、法规遵从性、威胁情报、自动响应、漏洞管理和网络钓鱼检测等。这些工具可增强安全专家效率，但需与人类协作。政府和企业正积极开发AI增强安全工具，如Google的Secure AI框架、Microsoft的Responsible AI工具箱等。

结论：AI不能替代人类，但可增强安全能力。组织需结合传统安全措施和AI工具，建立强大治理结构，确保负责任地使用AI。