人工智能红队报告的系统化

引言

AI红队测试是评估人工智能系统安全性和安全性的关键流程，但其定性和高度情境化的性质导致了不同的方法和报告实践。本报告探讨了如何改进AI红队测试结果的透明度和实用性，并使报告信息对主要利益相关者（AI开发人员、部署者和测试人员）和下游利益相关者（政策制定者和其他决策者）更具可操作性。

研究方法

本研究采用定性研究方法，对17位直接参与AI红队测试和相关安全评估的从业者进行了半结构化访谈。访谈内容涵盖了AI红队测试的定义、目标、设计因素、输出和结果，以及报告实践和考虑因素。

研究发现

1. 组织环境塑造AI红队测试实践：不同的参与者面临着不同的目标、限制和报告要求。例如，前沿AI开发者的内部团队通常拥有对模型内部、培训基础设施和负责实施缓解措施的工程团队的特权访问。相比之下，下游部署者通常对底层模型架构的可见性有限，并更多地关注其特定应用和运营环境产生的风险。
2. 威胁模型指导红队测试实践：威胁模型是AI红队测试的指导框架，决定了哪些参与者、风险、攻击面和系统组件应包含在评估中。威胁模型不仅确定了哪些风险被认为是重要的，而且还影响了测试方法的选择和结果的解释。
3. 报告要求因利益相关者而异：报告是针对其预期受众量身定制的。例如，产品和安全团队通常需要支持重新创建和缓解已识别问题的详细信息，而领导层受众则更喜欢简洁的摘要，这些摘要将复杂的评估转化为少量关键判断或指标。
4. 红队测试人员同意四个关键报告维度：
   • 方法背景：报告应清楚记录评估中使用的方法，例如测试人员的专业知识、团队组成、系统访问权限、测试持续时间、计算资源、执行方法和自动化程度。
   • 造成的危害或缺陷：报告应描述测试过程中观察到的失败，并将其与威胁模型联系起来，以解释其意义和重要性。
   • 可操作信息：报告应提供足够的信息来支持受管理AI相关风险的组织的具体、下游行动，例如防止或缓解检测到的危害或风险的信息。
   • 威胁模型：报告应解释为什么选择了特定的测试，并澄清评估中考虑的参与者、风险和攻击面。

红队测试人员面临的限制和挑战

• 报告限制：信息危害、不成熟的漏洞披露机制、保密义务和商业激励限制了可以公开披露的信息量。
• 红队测试实践中的结构性挑战：评估实践缺乏一致性、科学基础薄弱、对基础概念和定义存在分歧，以及与更广泛的激励结构不匹配。

建议

• AI红队测试人员：通过报告四个关键维度来系统化公开报告，并在保护隐私、机密性和安全性的同时尊重红队测试人员的需求。
• 政策制定者和其他利益相关者：通过创建信息共享渠道、支持进行评估和制定内部AI使用政策的联邦政府机构，以及改善AI红队测试人员披露评估结果的激励措施来支持AI测试和评估生态系统。

结论

系统化AI红队测试结果的报告可以提高评估结果的透明度和可解释性，并促进AI评估生态系统的整体发展。通过解决报告和实践中存在的挑战，可以更好地了解人工智能系统的行为，并提高其安全性和安全性。