核心观点: 生物威胁无论是自然产生还是人为制造,都具有造成重大影响的能力。政策制定者需要采取一系列治理工具和缓解措施来应对这些威胁,包括针对恶意行为者和合法科学研究中的潜在风险。
关键路径: 研报分析了两种可能导致生物危害的路径:恶意行为者故意生成和部署病原体或毒素,以及合法科学研究中的实验室事故。每个路径都分为两个阶段:规划和设计以及实际执行。
政策选项:
- 针对恶意行为者:
- 加强生物监测和生物溯源能力,以阻止恶意行为者并增强威慑力。
- 采用模型保护措施来管理 AI 工具的性能,包括限制聊天机器人参与某些主题、识别并删除双用途数据、实施访问控制、评估模型输出等。
- 监控或限制某些材料的流动,例如通过客户筛选和出口管制。
- 监控或限制对研究服务的访问,例如云实验室和自动化实验平台。
- 通过增强对恶意活动的认识来实现执法干预,例如提升和协调生物威胁情报收集。
- 加强实验室生物安全,以防止或减轻研究事故的后果,例如将标准化生物安全实践扩展到所有研究、增加对机构生物安全工作的支持和资源、增加研究以告知基于证据的生物风险管理。
- 针对合法科学研究:
- 通过提高研究人员的安全意识和培训来促进负责任的生物安全与生物安全研究发展。
- 将安全性和报告要求作为条件研究经费,例如 NIH 指南、DURC/PEPP 政策和 FSAP。
- 鼓励非联邦资助者将生物安全和生物安保审查纳入其中,例如国际生物资助者契约。
主要结论:
- 一些保障措施既适用于故意滥用也适用于合法的科学研究,而另一些则特定于某一场景。
- 研究监督机制主要针对联邦资助的研究项目,这留下了监管和透明度方面的缺口,特别是对于非联邦资助的研究。
- 生物安全、生物安保和生物防御的责任跨越政府的任务、部门和机构,并需要加强协调。
- 有效的监督将受益于一个明确且具体定义了令人担忧的结果的生物风险框架。
未来方向:
- 降低风险的策略不应被完全消除风险的策略所取代,应实施当前虽不完美但可行的防护措施,同时投资开发未来更为先进的策略。
- 未来的安全举措需要平衡其与科学研究之间的权衡,避免过度阻碍科学创新。
- 未来的研究人员和利益相关者应当更广泛地考虑多种潜在的生物危害,例如植物和动物病原体、人类基因工程、环境损害等。