2025联合网络防御协作组织人工智能网络安全协作手册

联合⽹络防御协作⽹络安全和基础设施安全局 2025年1⽉14⽇ ⽬录 致谢 ............................................................................................................................. 3问题和反馈 ................................................................................................................... 5免责声明 ...................................................................................................................... 5观众 ............................................................................................................................. 6背景 ............................................................................................................................. 6⽬的 ............................................................................................................................. 6关键定义 ...................................................................................................................... 7信息分享：保护和机制 .................................................................................................... 8信息分享保护 ................................................................................................................ 8信息共享机制................................................................................................................. 9JCDC内部信息共享................................................................................................... 9新发现的漏洞协调................................................................................................... 10事件报告............................................................................................................... 10积极信息共享................................................................................................................ 11有关事件或漏洞的信息共享............................................................................................. 12CISA的信息分析和运营使⽤............................................................................................ 17加强协调...................................................................................................................... 18⾏动号召...................................................................................................................... 19附录A：信息处理限制和⾃愿性检查表的填写⽰例 信息共享 21附录B：积极信息共享与增强协调的案例研究 26积极信息共享⽰例：Clearview AI配置错误案例研究 26增强协调⽰例：PyTorch依赖链受损 27附录C：⾃愿信息共享的其他途径 29附录D：其他资源 32 鸣谢 美国⽹络安全和基础设施安全局（CISA）1带领联邦、国际和私营部⻔合作伙伴通过联合⽹络防御合作（JCDC）合作开发了《⼈⼯智能（AI）⽹络安全合作⼿册》。2 JCDC是CISA内的公私合作组织，利⽤国会在2021年《国防授权法案》授予的权⼒，团结全球⽹络社区捍卫⽹络空间。本⽂件上的JCDC标志表⽰JCDC合作伙伴3，特别是JCDC.AI合作伙伴4与CISA合作为该⼿册所作出的贡献。以下是JCDC合作伙伴的列表。 JCDC AI⽹络安全合作⼿册是直接由2024年举办的两次桌⾯演练（TTXs）的结果开发⽽成，这两次活动汇聚了联邦、⾏业和国际合作伙伴。第⼀次演练于2024年6⽉在弗吉尼亚州雷斯顿市的微软公司总部举⾏，通过探讨⼈⼯智能（AI）⽹络安全事件带来的独特挑战为⼿册的发展奠定基础。 这⼀基础性演习为⼿册的早期阶段发展提供了信息。第⼆次演习于2024年9⽉在加利福尼亚州旧⾦⼭Scale AI总部举⾏，通过模拟⾦融服务⾏业中的AI⽹络安全事件，帮助参与者进⼀步完善了⼿册。CISA从来⾃美国联邦机构、私营部⻔和国际政府组织的约150名与会者那⾥收到了即时反馈，这些演练强调了增强操作协作和信息共享的必要性，最终形成了⼿册的最终版本。 以下合作伙伴为该⼿册的开发做出了贡献： 联邦政府合作伙伴 •联邦调查局（FBI）•国家安全局（NSA）⼈⼯智能安全中⼼（AISC） 产业合作伙伴 •Anthropic•AWS•Cisco•Cranium•Fortinet•GitHub•Google•HiddenLayer•IBM•洲际交易所（ICE）•摩根⼤通•微软•英伟达•OpenAI•Palo Alto Networks•保护 AI•Robust Intelligence (现已并⼊思科)•规模化 AI•稳定性 AI•美国银⾏•Zscaler 国际合作伙伴 •澳⼤利亚信号局澳⼤利亚⽹络安全中⼼（ASD的ACSC）•英国国家⽹络安全中⼼（NCSC） TLP:CLEAR 问题和反馈 根据利益相关者的反馈、威胁格局的变化或运营环境的转变需要，将随时更新此⼿册。⿎励利益相关者向 CISA.JCDC@cisa.dhs.gov 发送反馈，主题为：“反馈：AI⽹络安全合作⼿册。” 免责声明 AI安全主题，如对⼈类⽣命、健康、财产或环境的⻛险，不在JCDC AI⽹络安全合作⼿册的预期范围之内。利益相关者应当及时、适当地处理涉及⼈类⽣命、健康、财产或环境的任何⻛险或威胁，按照适⽤的流程或程序处理此类事件。同样，与AI公平性和道德有关的问题也不在本⼿册的范围之内。本⼿册不制定政策，不强制要求，不指定⾏动，也不取代现有的法律或法规义务。根据本⼿册采取的所有⾏动均属⾃愿。 本⽂仅供信息⽬的，不旨在约束公众或制定公众必须遵守的任何要求。编写机构不认可任何商业实体、产品、公司或服务，包括⽂档中链接或引⽤的任何实体、产品或服务。对特定的商业实体、产品、流程或服务的参考，⽆论以服务标记、商标、制造商或其他⽅式，均不构成或暗⽰编写机构的认可、推荐或偏爱。 注：⽹络安全事件报告格局不断演进。5 本指南不旨在提供所有可能的报告渠道的全⾯概述。相反，此指南旨在补充组织现有的⽹络安全事件响应资源，提供可能的关键报告途径⽰例。组织应当咨询其法律顾问，确定在⽹络安全事件发⽣时可能适⽤的相关法定、契约、法规和其他合法报告要求。 TLP:CLEAR 观众 这本⼿册旨在向操作型⽹络安全专业⼈员，包括事件响应⼈员、安全分析师和其他技术⼈员，介绍如何与CISA和JCDC合作并与他们分享关于⼈⼯智能相关的⽹络安全事件和漏洞的信息。 背景 作为美国⽹络防御机构和关键基础设施安全与恢复的国家协调员，CISA在解决与⼈⼯智能特定⽹络安全挑战⽅⾯发挥着关键作⽤。 通过JCDC.AI，CISA建⽴公私合作伙伴关系，改善信息共享并制定计划，促进对针对软件系统（包括⼈⼯智能系统）的⽹络威胁协调响应。随着⼈⼯智能越来越多地整合到关键基础设施中，了解和应对其独特挑战和复杂性对增强对恶意⽹络⾏为者的防御⾄关重要。 由于⼈⼯智能系统依赖数据驱动、⾮确定性模型，因此引⼊了独特的复杂性，使其容易受到恶意⽹络活动的威胁，如模型中毒、数据篡改和对抗性输⼊。这些漏洞，再加上⼈⼯智能系统的快速采⽤，要求制定全⾯的策略和公私合作伙伴关系来应对不断发展的⻛险。CISA与JCDC合作伙伴合作，共享知识和能⼒，以应对恶意⽹络⾏为者并增强集体弹性。 ⽬的 JCDC⼈⼯智能⽹络安全合作⼿册促进AI社区内包括AI提供商、开发⼈员和采⽤者之间的⾃愿信息共享，以加强对新威胁的集体⽹络防御。该⼿册旨在促进政府、⼯业界和国际合作伙伴之间的操作性协作，并将定期更新以确保适应不断加速的⼈⼯智能采⽤的动态威胁格局。 本⼿册旨在: •指导JCDC伙伴如何⾃愿分享与⼈⼯智能系统相关的事件和漏洞信息 •概述接收到的共享信息后CISA的措施 TLP:CLEAR JCDC AI Cybersecurity Collaboration Playbook •促进联邦机构、私营⾏业、国际合作伙伴和其他利益相关者之间的合作，增加对⼈⼯智能⽹络安全⻛险的认识，并提⾼⼈⼯智能系统的弹性。 在加强 JCDC 内部协作的同时，该⼿册定义了适⽤于其他信息共享机制（附录 C）的关键信息类别，例如信息共享和分析中⼼（ISACs）。CISA ⿎励组织采纳该⼿册的指南，以增强其信息共享实践，为跨关键基础设施的⼈⼯智能相关威胁采取统⼀的⽅法。 关键定义 JCDC ⼈⼯智能⽹络安全合作⼿册结合了主要⽴法和技术框架中的定义，为解决⼈⼯智能⽹络安全挑战奠定了基础。 •⼈⼯智能系统：基于机器的系统，在给定⼀组⼈类定义的⽬标时，进⾏预测、推荐或影响真实或虚拟环境的决策。这些⼈⼯智能系统使⽤机器和⼈类输⼊来感知环境，通过⾃动化分析将这些感知抽象成模型，并使⽤模型推断提供信息或⾏动选项。•事件：‘‘事件’’⼀词指实际或即将危及信息系统上信息的完整性、机密性或可⽤性的发⽣，或在没有合法授权的情况下，实际或即将危及信息系统。 有了这些定义，CISA制定了关于⼈⼯智能⽹络安全事件的⼯作定义： “在没有合法授权的情况下，实际上或即将危及⼈⼯智能系统的保密性、完整性或可⽤性，以及由⼈⼯智能系统启⽤和/或创建的任何其他系