2025 年 AI 翻车事故(AI 事件) ： 强制报告制度的关键因素研究报告

AI 事件 强制性报告制度的关键组成部分 作者 Ren Bin LeeDixon Heather Frase 2025 年 1 月 执行摘要 在我们过去的出版物 “混合 AI 事件报告的论点 ” 中 ， 我们建议实施联合*并且建立全面的人工智能事故报告框架，以系统地记录、分析和应对人工智能事故。1混合报告框架建议实施强制性、自愿性和公民报告机制。本文件描述了应在强制性AI事故报告制度中包含的关键内容，并应指导自愿性和公民报告的努力。 在本出版物中，我们定义了一套标准化的关键组件，可用于作为报告模板收集关键的人工智能事件数据。这些组件包括但不限于关于人工智能事件类型的信息、危害的性质和严重程度、技术数据、受影响的实体和个人，以及事件发生的背景和情境。尽管我们的提议较为概括，但该组件集合从跟踪与人工智能相关的实际事件、危害和风险的现有AI项目中提炼了信息，并借鉴了交通运输、医疗保健和网络安全领域事故报告系统和实践中的经验教训。 如果这些报告组件被政府、监管机构、专业组织、开发者和研究人员广泛且一致地采用，它们可以帮助增强AI的安全性和安全性措施，通过： ● 促进AI事件的一贯数据收集● 推动AI事件的跟踪、监控、研究和信息共享● 提高对AI相关危害和风险的认识● 确保收集关键的AI事件数据以防止报告缺口● 建立一个基础框架，以便灵活地报告AI事件并适应AI技术的进步 为了充分利用这些组件的优势，我们建议基于它们发布强制性的AI事故报告格式，并建立一个独立的调查机构以揭露可能在报告时不易立即辨识的事故数据。此外，该列表还可以作为自愿和公民AI事故报告系统中期望披露指南的模板。 目录 执行摘要............................................................................................................................................2 引言...................................................................................................................................................4 AI事件的关键组成部分..............................................................................................................7 综合AI事件的关键组成部分...................................................................................................10 事件类型......................................................................................................................................10 AI事件与险些事件......................................................................................................................10 损害维度......................................................................................................................................11 损害类型......................................................................................................................................11 损害机制......................................................................................................................................11 严重性因素..................................................................................................................................12 技术数据......................................................................................................................................14 背景、情境和利益相关方..........................................................................................................14 事后数据......................................................................................................................................16 政策建议......................................................................................................................................17 发布AI事件报告格式................................................................................................................17 建立独立调查机构......................................................................................................................17 结论..................................................................................................................................................18 附录 ....................................................................................................................................................19分解AI事件.................................................................................................................................19 AI损害事件作为一个连续体...................................................................................................21 记录AI损害：AI的多种影响...................................................................................................22 重要但有限的信息......................................................................................................................23 其他部门报告的事件组成部分..............................................................................................24 共享事件组成部分......................................................................................................................25 额外的关键组成部分..............................................................................................................25 评估严重性：初步视角..............................................................................................................26 作者....................................................................................................................................................27 致谢.......................................................................................................................................................27参考文献.............................................................................................................................................28 Introduction 人工智能事件频发，造成广泛负面影响。目前，仅有少数独立数据库记录人工智能事件。2这些数据库主要依赖于“大众媒体、行业媒体和学术期刊”发布的新闻报道和其他公开可用的事件报告。3还没有任何联邦*政策框架建立以促进系统的和全面的AI事件报告实践。随着AI能力的不断扩展，系统收集AI事件数据以增强我们对AI相关危害的认识并帮助我们开发安全、可靠且值得信赖的AI系统的需求变得尤为迫切。4 为了应对这一关键缺口，在我们之前发表的论文“论混合AI事故报告的重要性”中，我们建议建立一个联邦的、全面的和标准化的AI事故报告框架。5我们发现，实施一致且全面的事故报告和记录可以有助于收集更加完整和有用的数据。随着数据量的增加，可以揭示人工智能事故中的关键趋势，并提供更多关于其严重性的清晰度。随着时间的推移，这将使我们能够更准确地评估不同的人工智能