金融领域的人工智能和网络安全

人工智能（AI）正在重塑金融领域的网络安全威胁格局，其速度、频率和范围都在加速，对金融稳定构成实质性、非线性且快速升级的风险。金融领域面临的核心问题不是AI引入了全新的网络攻击技术，而是其极大地提高了漏洞被发现和潜在利用的速度、频率和范围。鉴于金融领域高度相互关联以及对共享数字基础设施的依赖，这些规模效应可能将广泛使用的软件或基础设施中的操作弱点转化为系统性事件。

本报告评估了AI驱动的网络威胁对金融稳定的启示，并确定了五个具有系统性意义的结构性漏洞：

• AI网络安全能力的双用性和自主性：这些能力不仅可以加强防御，还可以加速攻击活动。
• 共享数字基础设施带来的集中风险：由于共同的软件依赖和少数主要AI和云服务提供商，存在单点故障的风险。
• 对第三方、操作弹性和AI特定网络风险的监管空白：现有的监管框架未能充分解决这些新兴风险。
• 全球安全差距和新兴市场与发展中经济体（EMDEs）的暴露：EMDEs面临着与发达经济体相同的风险，但防御资源、监管能力和对前沿防御工具的获取能力有限。
• 前沿AI治理中的治理空白：随着模型能力的提高，现有的基准和监管框架已经无法跟上。

报告还回顾了新兴的国际政策法规环境，并提出了七项政策行动建议，包括：

1. 更新网络风险监测，将AI驱动的威胁情景纳入金融稳定监测。
2. 加强对第三方AI服务提供商的监管，更好地捕捉集中、可替代性和依赖风险。
3. 加强跨部门网络协调，建立或加强中央协调机制，以协调关键部门的网络准备情况。
4. 扩大网络模拟演习，将AI驱动的网络事件可能产生的运营和宏观金融影响纳入演习范围。
5. 制定AI特定的披露和透明度标准，加强金融公司向监管机构报告网络事件的及时性、标准化和决策相关性。
6. 推进AI治理的国际协调，通过标准制定机构和监管网络加强国际合作。
7. 建立前沿AI监测能力，确保监管机构和被监管机构拥有足够的资源来应对不断变化的威胁环境。

本报告强调，鉴于AI驱动的威胁速度更快、频率更高，现有的反措施需要升级和加强。当前的重点包括限制漏洞影响范围的技术控制、强大的事件响应和恢复能力、在适当情况下部署机器速度防御工具，以及加强公私合作，以确保防御能力与快速发展的技术能力保持同步。