2025联合网络防御协作组织人工智能网络安全协作手册

JCDC人工智能网络安全合作手册

背景与目的： 本手册由美国网络安全和基础设施安全局（CISA）联合网络防御合作（JCDC）开发，旨在指导人工智能（AI）社区内各参与方（包括AI提供商、开发者和采用者）进行自愿信息共享，以加强集体网络防御，应对AI网络安全挑战。手册强调AI系统的独特性，如数据驱动和非确定性模型，使其易受模型中毒、数据篡改和对抗性输入等威胁。

关键定义： 手册明确了“人工智能系统”和“网络安全事件”的定义，并强调AI系统对关键基础设施安全的重要性。

信息共享：保护与机制： JCDC利用交通灯协议（TLP）进行信息传播控制，为非联邦实体分享网络威胁信息提供法律保护，如免于特权放弃、专有信息保护、免于FOIA披露等。JCDC内部信息共享流程包括明确TLP等级、获取许可、匿名分享等机制。

信息共享内容： 手册鼓励合作伙伴主动共享AI网络安全事件或漏洞信息，包括恶意活动、恶意软件工件、IOCs/TTPs等。同时，定义了自愿信息分享清单，涵盖事件/漏洞描述、受害者信息、影响范围、缓解措施、攻击者信息等。

CISA的信息分析与运用： CISA对收集到的信息进行汇总、验证、分析和丰富，并采取多种行动增强网络安全，包括信息共享、揭示对手策略、协调解决恶意基础设施、通知受害实体、共享检测能力、制作和分发威胁情报产品等。

增强协调： 当常规流程无法解决网络安全问题时，CISA和合作伙伴将实施增强协调机制，包括增加信息共享、扩大协作、提高沟通频率等。手册以CompromisedPyTorchDependencyChain事件为例，说明增强协调的流程。

呼吁行动： JCDC鼓励AI安全专家和利益相关者积极参与，包括标识技术交流机会、确定AI社区优先问题、促进事后分析和知识共享、成为JCDC合作伙伴等。

其他信息共享途径： 手册附录C列举了其他自愿信息共享途径，包括CISA区域办公室、网络安全顾问、FBI IC3、NSA CCC、CVE、MITREATLAS、ISACs等。

额外资源： 手册附录D提供了AI系统网络安全相关的额外信息资源，如NIST报告、MITREATLAS、行政令14110、欧盟人工智能法规等。