随着人工智能驱动的自主武器的使用越来越多，保护人类的道德能动性

核心观点与关键数据

• 自主武器系统对正义战争理论的挑战：自主武器系统通过减少军事人员直接风险，可能改变战争的风险计算，导致政治领导人更倾向于发动冲突。同时，它们在区分战斗人员和平民以及评估军事优势与平民损害之间的比例方面存在困难，威胁到正义战争理论中的区分和比例原则。
• 现有法律框架的局限性：国际人道法（IHL）目前没有针对自主武器的具体规定，Article 36 的要求执行不足，导致自主武器可能在没有充分审查的情况下扩散。
• “有意义的人类控制”（MHC）的重要性：MHC 是解决自主武器挑战的关键，要求人类操作员能够对武器系统进行有判断力的监督，并在使用武力方面保持道德能动性。

研究结论与建议

• 建立国际监管框架：通过联合国等多边机制制定具有法律约束力的协议，强制要求对自主武器系统的关键功能实施 MHC。
• 更新军事条令和培训：为指挥官提供关于 AI 武器道德部署的专门培训，制定针对 AI 的规则和道德指南。
• 建立问责机制：设立专门调查单位，审查涉及 AI 武器的潜在事件，并在冲突前进行 Article 36 审查。
• 要求商业开发的道德指南：国防技术公司应采用行业范围内的道德原则，优先考虑透明度、问责制和遵守国际法。

案例分析

• 纳戈尔诺-卡拉巴赫冲突：展示了自主武器系统（如无人机和自杀式无人机）在战场上的使用如何导致对 IHL 的违反，包括对平民基础设施的攻击和难以验证的打击合规性。

总结

自主武器系统的兴起对正义战争理论和国际人道法构成了重大挑战。通过实施有意义的人类控制（MHC），建立国际监管框架，更新军事条令和培训，以及建立问责机制，可以解决这些挑战，确保战争仍然受到道德人类判断和法律问责制的约束。