双重用途的基础模型及广泛可用的模型权重报告

核心观点

• 开放基础模型（具有广泛可用的模型权重）具有广泛益处，包括促进人工智能研究与开发、分散市场控制权以及增强数据机密性。
• 开放基础模型也带来了一系列风险，包括被用于设计、获取或使用化学、生物、辐射或核（CBRN）武器，以及增强网络攻击行动。
• 报告采用了边际风险分析框架，评估开放基础模型相对于封闭模型或现有技术所带来的额外风险和收益。
• 报告建议政府应积极监控开放基础模型的风险，并采取措施确保政府在风险加剧时能够采取行动。
• 报告建议政府应继续鼓励创新，并在与开源基础模型相关的话题上引领国际协调，同时保留未来限制某些类别模型权重广泛可用的选择。

关键数据和研究结论

• 许多具有广泛可用模型权重的AI模型参数数量少于100亿，因此根据行政命令14110的定义，这些模型不在此报告的范围内。
• 开放模型权重可能会降低创建AI生成CSAM（儿童色情材料）和NCII（非自愿亲密图像）的门槛，导致这些内容更加逼真，并更容易传播。
• 开放模型可能会被用于创建政治深度伪造内容，对民主程序的完整性带来边缘风险。
• 开放模型可能会加剧虚假信息和错误信息的风险，但这些风险的程度取决于平台、内容分发商和其他相关方的预防措施。
• 开放模型可能会加剧歧视性结果的风险，因为即使原始模型已经设置了守卫线来帮助减轻偏见的结果，下游参与者也可能通过微调移除这些保障。
• 开放模型可能会降低市场进入壁垒，促进竞争和创新，并使更广泛的社区能够访问AI系统。
• 开放模型可能会增强人工智能研究和开发，并有助于确保人工智能系统的开发考虑到多样化的权益、视角和社会影响。

政策建议

• 政府应鼓励、标准化，并在适当的情况下强制实施基础模型审计和透明度。
• 政府应支持和开展基础模型和高风险模型的安全、安全和可靠性研究。
• 政府应发展和维护风险投资组合、指标和阈值。
• 政府应保持增加政府的可能性开放，并继续领导围绕开放基础模型的国际外交和规范制定努力。