预测人工智能对网络攻防平衡的影响

核心观点与结论

• AI 对网络攻防平衡的影响：AI 作为数字技术，将直接影响网络攻防的平衡。研报分析了 AI 如何通过改变数字生态系统、加固数字环境、影响数字对抗战术、改变激励和机会以及战略层面冲突和危机来重塑网络安全格局。
• 攻防平衡的复杂性：研报指出，没有单一答案能确定 AI 是否会使网络攻击或防御占主导地位。网络攻防双方拥有多样化的目标，且实现方式多样，因此 AI 将以可预测的方式改变网络安全态势，但程度可控。
• AI 对数字生态的影响：AI 可能会扩大和复杂化数字生态系统，增加代码、服务和系统的数量及复杂性，从而加剧系统性漏洞风险。但同时，AI 也可能通过减少外部连接需求（如嵌入式 AI）来简化网络防御。
• AI 加固数字环境：AI 有助于加固防御，例如通过清理代码、实施补丁、评估网络风险等。只要漏洞发现速度不超过 AI 防御能力，AI 将有助于强化数字环境。
• AI 对数字对抗战术的影响：AI 可加速攻击技术，如逆向工程、侦察和漏洞利用。防御方也能利用 AI 加速防御相关任务，并通过设计系统限制攻击速度和规模，采用分层防御等策略。
• 可靠性与原创性：防御任务强调可靠性，而 AI 开发更注重原创性。为使 AI 优势偏向防御，需要改变 AI 评估标准，优先奖励可靠性而非新颖性。
• 可证明的安全：通过投资形式化方法、彻底测试等，构建可证明安全的数字环境，即使 AI 发现漏洞，也能限制其破坏力。
• 实时补丁：为应对 AI 加速的漏洞发现，需要发展实时补丁技术，减少补丁实施带来的停机时间。
• AI 系统的安全标准：为关键系统中的 AI 组件制定更高的安全性和可靠性标准，确保 AI 替代人类时不会引入新的风险。
• 保持人工控制：关键系统应保留人工操作模式，以应对 AI 系统故障或攻击时的危机。
• 评估风险：需谨慎评估 AI 系统过度收集信息或控制权带来的风险，避免将过多敏感信息或控制权集中。
• 减少连接性：利用 AI 限制系统连接需求，实现“空气隔离”，增强防御能力。
• 设计防御优势：通过设计系统限制攻击速度和规模，引入人工审批等，增强防御优势。
• 模拟 AI 引发的网络危机：通过模拟演练，为应对 AI 加速的新型威胁做好准备，明确危机应对流程。

关键数据与研究结论

• 网络攻击损失：每年造成的损失估计达数万亿美元，防御投入也达数百亿美元。
• AI 影响的五个维度：数字生态系统变化、数字环境加固、数字对抗战术、激励和机会、战略层面冲突和危机。
• AI 对攻击者的影响：降低攻击门槛，使更多非专业攻击者参与；可能削弱归因信号，但部分归因手段仍有效。
• AI 对防御者的影响：增加防御任务范围，但也提供加固环境、加速防御任务的机会；需确保 AI 可靠性，避免因错误操作造成损害。
• 战略层面：AI 可能使攻击者获得更多战略优势，如缩短攻击时间、增加攻击次数，但也可能导致意外损害和升级风险。

建议

• 激励可靠性：改变 AI 评估标准，奖励可靠性而非原创性。
• 投资可证明安全：增加对形式化方法、彻底测试等技术的投入。
• 发展实时补丁：优先发展无需停机的补丁技术。
• 制定 AI 安全标准：为关键系统中的 AI 组件制定更高的安全性和可靠性标准。
• 保留人工控制：关键系统应保留人工操作模式。
• 评估风险：谨慎评估 AI 系统过度收集信息或控制权带来的风险。
• 减少连接性：利用 AI 限制系统连接需求，实现“空气隔离”。
• 设计防御优势：通过设计系统限制攻击速度和规模，引入人工审批等。
• 模拟 AI 引发的网络危机：通过模拟演练，为应对 AI 加速的新型威胁做好准备。