研讨会概述
- 主办方: 红十字国际委员会卢森堡全球网络事务代表处、红十字国际委员会东亚地区代表处（北京）及清华大学战略与安全研究中心。
- 时间地点: 2025年12月4日至5日，中国北京。
- 参与人员: 来自亚、欧、非及北美近20个国家的80余位人道实践者、政策专家、产业界代表及研究人员。
- 核心议题: 探讨新兴技术如何重塑人道行动，以及在危机环境中负责任使用这些技术所需要采取的措施。
核心观点与关键数据
- 技术对人道行动的影响: 技术在提升人道行动效率、精准度与覆盖面方面发挥重要作用，但也引入新的风险、依赖关系和两难困境。
- 人工智能治理:
- 人类控制和问责制是负责任人工智能治理的基石。
- 尽管各地区治理模式存在差异，但在安全性、透明度、人类监督与包容性等方面已形成共识。
- 需要建立具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。
- 人工智能风险程度与使用情境高度相关，需根据具体情况进行风险评估和风险减轻。
- 技术向善:
- 强大的数字基础设施是“技术向善”最重要的体现形式，包括网络联通、电力供应和支持离线运行的系统。
- 技术中立性存在争议，技术始终反映权力结构与激励机制。
- 需要与科技行业开展对话，确保科技企业所设计的技术和产品能够成为向善之力。
- 人工智能安全保障:
- 人工智能在安全和保障方面的风险有高度的情景依赖性。
- “安全设计”理念意味着要在数据、透明度及模型训练等方面作出艰难的运营抉择。
- 需要采取基于风险评估的采购机制，提升透明度，培养人工智能素养，并推动多利益相关方合作。
- 数字信任:
- 数字信任是开展人道行动的重要基石，指公众对数字技术、服务及其提供方的预期。
- 在冲突和危机背景下，数字信任尤为脆弱，人道数据的滥用、挪用或泄露会直接危及受影响民众。
- 构建并维系数字信任，需要前瞻未来风险并做好准备，包括为技术故障或滥用制定应急预案，并实施红十字国际委员会“数字标志”项目等实用机制。
研究结论
- 人道行动日益依赖数字技术，需要与产业界、学术界、民间社会及人道领域的利益相关方一道，开展网络化、持续性的协作。
- 负责任地使用技术需要建立具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。
- 需要加强跨部门、跨区域的对话与合作，充分纳入中国及“全球南方”的多元视角。
- 仅凭良好意图不足以实现技术“向善”，需要建立问责制，在技术设计之初就融入伦理考量，以及具备拒绝使用那些造成依赖性、暴露敏感数据或削弱信任的技术的能力。
- 需要推动在更广泛的社会层面提升人工智能素养，使相关社区了解人工智能的应用场景与使用局限，并明晰何时应质疑其输出结果。
