衡量美国金融业的人工智能事件和影响（英）

核心观点与关键数据

• AI 风险日益增长，但报告不足：生成式和代理式 AI 的快速发展扩大了金融行业 AI 系统的风险范围和自主性，导致 AI 风险成为日益关注的议题。然而，目前 AI 相关事件的报告严重不足，缺乏透明度和标准化框架。
• 现有报告局限性：根据美国证券交易委员会（SEC）文件分析，AI 风险报告仅占 43%（2024 年），且多为通用描述，缺乏具体缓解措施和治理细节。公开的 AI 事件数据库存在信息不完整、侧重社会影响、信息来源不均衡等问题。
• 关键数据：
  • 超过 46% 的资产超过 10 亿美元的公司在 SEC 文件中提及 AI 相关声誉风险（2024 年）。
  • 保险公司寻求将 AI 风险排除在公司政策之外。
  • Deloitte 预测，到 2027 年，美国生成式 AI 邮件欺诈损失可能达到 115 亿美元。
  • EY 调查显示，近 90% 的公司经历了 AI 相关财务损失（平均 440 万美元），成熟的公司 AI 实践能减少事件数量和严重程度。

研究结论与建议

• 定义金融特定 AI 事件分类法：报告提出一个包含事件类型、原因、影响和元数据的金融特定 AI 事件分类法，以更一致地跟踪事件频率、估计直接和间接财务成本及非财务影响，并识别失败模式。
• 研究现状：现有研究开始量化 AI 失败的财务和运营后果，包括对公司估值和市场表现的影响，以及欺诈、滥用和治理成熟度方面的分析。
• 未来展望：需要更大规模和原创性的研究来准确估计美国金融行业 AI 事件的直接和间接财务成本和其他影响。该分类法可作为未来研究的基础，帮助金融机构：
  • 了解 AI 相关事件的全范围及其根本原因。
  • 识别自身运营中存在的或潜在的事件。
  • 评估和量化运营、财务和监管影响。
  • 内部更透明、一致和严格地跟踪事件。
• 最终目标：通过持续研究和标准化跟踪实践，提高 AI 相关事件的透明度，建立更负责任的 AI 生态系统。