能力、阈值和干预措施

核心观点

• 生物安全风险现状： 现今生物安全风险来源多样，包括自然发生的疫情、实验室事故以及国家和非国家行为体有意制造生物武器。尽管近年来没有发生重大生物袭击事件，但现有生物防御措施不足以应对大规模生物威胁。
• AI 对生物安全风险的影响： AI 技术的进步可能通过多种方式改变生物安全风险格局。AI 工具可以加速生物武器的研发，降低非国家行为体制造生物武器的门槛。此外，AI 还可能影响生物风险的其他方面，例如提高病原体工程化能力、加速生物威胁信息传播等。
• 需要监测的关键能力： 专家和政策制定者应密切关注以下四个关键能力的发展：
  • 基础模型提供实验指导的能力： 基础模型可能帮助非专家理解复杂的生物实验步骤，从而加速生物武器的研发。
  • 云实验室和实验室自动化降低实验专业知识需求： 云实验室和自动化技术可以降低进行生物实验所需的专业知识，使非专家更容易制造生物制剂。
  • 宿主对传染病易感性研究中的双用途进展： AI 可以帮助识别使人群更容易感染疾病的遗传特征，这些信息可能被用于制造针对特定人群的生物武器。
  • 病毒病原体精准工程化的双用途进展： AI 可以帮助设计更具杀伤力、传播性或免疫逃逸能力的病毒，从而增强生物武器的效果。
• 建议措施：
  • 进一步加强云实验室和其他基因合成服务机构的审查机制。
  • 定期、严格评估基础模型在生物武器生命周期中的生物能力。
  • 投资于可以遏制基础模型潜在威胁的技术安全机制。
  • 更新政府生物防御投资，进一步优先考虑生物防御系统的敏捷性和灵活性。
  • 长期考虑对具有潜在灾难性能力的生物设计工具实施许可制度。

关键数据

• 全球共有 69 个生物安全水平 4（BSL4）实验室正在运行、建设或计划中。
• 1918 年西班牙流感导致全球约 1% 的人口死亡，相当于今天 7000 万至 1.5 亿人口。
• 1918 年西班牙流感对 15-34 岁年龄段人群的死亡率最高，导致严重的经济损害。
• 2001 年美国发生的炭疽杆菌袭击事件造成 5 人死亡，17 人患病。
• 2020 年，AI 驱动的生物技术领域年度投资在 2017 年至 2021 年间增长了近 10 倍，仅 2021 年就至少达到 103 亿美元。

研究结论

尽管 AI 技术的进步可能提高生物安全风险，但当前 AI 对生物安全风险的影响仍然有限。然而，现有生物防御措施已经不足，需要采取行动加强生物防御能力，并密切关注 AI 技术的发展，以应对未来可能出现的生物安全风险。