人道行动中技术负责任使用研讨会报告

研讨会核心观点与结论

研讨会背景与目标

• 研讨会聚焦于数字化及新兴技术如何重塑人道行动，探讨在危机环境中负责任使用技术的必要措施。
• 由红十字国际委员会卢森堡全球网络事务代表处、红十字国际委员会东亚地区代表处及清华大学战略与安全研究中心联合主办，汇聚近20个国家80余位人道实践者、学术研究人员及产业界代表。

开幕式与主旨演讲

• 强调技术既为人道行动提供助力，也带来伦理、人道与治理层面的风险。
• 主旨演讲嘉宾强调人工智能在人道实践中的应用潜力，呼吁以人道和负责任的方式发展人工智能，并建立相关保障措施和问责框架。
• 警示人工智能军备竞赛风险，呼吁加强全球治理和主要大国自我约束。
• 强调数字技术为人道响应的生命线，呼吁在设计初期就融入人道原则，并持续开展跨领域合作。

开幕小组讨论

• 探讨技术治理和应用，强调人类控制和问责制是负责任人工智能治理的基石。
• 指出全球在人工智能治理方面已达成多项共识，如以人为本、问责制和透明度等。
• 强调技术碎片化风险，提出借鉴互联网治理原则，如基本共识和可执行的代码。
• 突出数字技术两用性，需在即时行动需求和长期治理之间取得平衡，并将人道原则作为实践指南。

分论坛一：负责任的人工智能

• 探讨人工智能治理、伦理与问责治理。
• 主要结论：
  • 人类控制和问责制是负责任人工智能治理的基石。
  • 全球在安全、透明度、人类监督和包容性等方面已达成共识。
  • 需要具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。

分论坛二：技术向善

• 探讨技术如何支持高效协同的危机应对。
• 主要结论：
  • 强健的数字基础设施是“技术向善”中最关键的一环。
  • 技术中立性存在争议，需妥善管理外部依赖和防范依赖风险。
  • 仅凭良好意图不足够，需建立问责制、融入伦理考量，并具备拒绝有害技术的勇气。

分论坛三：人工智能安全保障

• 探讨危机环境中人工智能负责任部署的可行防范措施。
• 主要结论：
  • 人工智能风险高度依赖具体情境，后台管理工具风险可控，一线系统需严格审查。
  • “安全设计”理念需在数据、透明度及模型训练方面作出艰难抉择。
  • 需提升透明度与培养人工智能素养，并推动多利益相关方合作。

分论坛四：数字信任

• 探讨在互联世界中如何构建和维护信任。
• 主要结论：
  • 数字信任是开展人道行动的重要基石，需在技术保障措施、治理框架和跨部门合作相结合。
  • 冲突背景下数字信任尤为脆弱，人道数据滥用会直接危及受影响民众。
  • 需要前瞻未来风险并做好准备，如制定应急预案，并实施“数字标志”项目等实用机制。