人道行动中负责任使用技术研讨会报告

人道行动中负责任使用技术 2025年12月4日至5日|中国北京 研讨会报告 目录 研讨会主办方............................................................................................................................... 4 执行摘要....................................................................................................................................... 5 引言................................................................................................................................................ 6 分论坛一：负责任的人工智能：伦理、安全与问责治理............................................................................11 分论坛二：技术向善：技术如何支持高效协同的危机应对？................................................................. 13 分论坛三：人工智能安全保障：危机环境负责任部署的可行防范措施................................................ 15 分论坛四：数字信任：构建和维护在互联世界中的信心........................................................................ 17 致谢............................................................................................................................................. 19 研讨会主办单位 清华大学战略与安全研究中心 清华大学战略与安全研究中心成立于2018年11月7日，是聚焦国际战略与安全领域研究的清华大学校级智库。中心有两大目标：一是研究国际秩序、国际关系及战略与安全问题，跟踪国际形势变化，为决策提供参考和建议，向社会传递理性专业声音；二是通过国际交流与合作阐释和传播中国的理念和政策主张，增进国际社会对中国的了解，提升清华大学在战略与国际关系领域的影响力。 中心下设美欧研究、全球治理研究、欧亚研究、人工智能治理等研究方向，设有致力于国际传播的子品牌“中国论坛”以及覆盖国内外一流高校的学生学术项目“战略青年”，指导清华大学学生全球战略研究协会和中美新声人文交流社团。 红十字国际委员会 红十字国际委员会是一个公正、中立和独立的组织，其独特的人道使命在于保护武装冲突和其他暴力局势受难者的生命与尊严，并为其提供援助。 红十字国际委员会东亚地区代表处于2005年7月在北京设立。过去几十年来，随着中国的国际地位愈发显著，该代表处将鼓励并支持中国为国际人道事业作出贡献作为其使命。东亚地区代表处积极推进并维护与中国政府、军队、警方、中国红十字会、智库与学术机构、媒体以及企业界的战略对话，就人道议题和国际人道法的推广展开深入交流。同时，东亚地区代表处同时也是红十字国际委员会在全球最大的采购中心之一。 红十字国际委员会卢森堡全球网络事务代表处的设立，旨在应对数字化转型对武装冲突和人道行动日益加深的影响。红十字国际委员会依托该代表处，将网络和数字层面的考量纳入其中立、独立的人道行动中，并始终优先考虑受冲突影响民众的需求。该代表处的使命是确保红十字国际委员会在网络空间及整个数字时代，始终作为中立、公正且独立的人道组织开展行动。为践行这一使命，该代表处积极开展战略研究、推动法律与政策层面的接触沟通、实施外联举措并推进行动创新。 执行摘要 “人道行动中负责任使用技术研讨会”汇聚了来自近20个国家的80多名人道实践者、学术研究人员及产业界代表，共同讨论了新兴技术正在如何重塑人道行动，以及在危机环境中负责任使用这些技术所需要采取的措施。 第一场圆桌会议围绕“负责任的人工智能”主题展开，重点探讨治理、伦理与问责三个关键问题。与会者一致认为，人的控制与对人的问责仍是人工智能治理的核心，因为法律和伦理责任不能转嫁给机器。讨论指出，尽管不同地区监管方式存在差异，各方在安全性、透明度、人类监督与包容性等共同原则上正逐步形成共识。与会者同时强调，仅靠原则已不足以应对当前挑战。推动负责任的人工智能，需要建立具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。 第二场圆桌会议围绕“科技向善”主题展开，探讨技术如何为高效协同的危机应对提供支持。与会者指出，健全的数字基础设施是“科技向善”最重要的体现形式，涵盖网络联通、电力供应和支持离线运行的系统。讨论随后聚焦于颇具争议的技术中立性问题。部分与会者主张，代码可以保持中立。而另一些与会者则强调，技术始终反映权力结构与激励机制，会形成人道行动者应予管理的依赖关系。与会者一致认为，与科技行业开展对话是使“科技”成为“向善力量”的关键所在——而这需要责任担当、保障措施和退出策略，以及敢于对造成伤害、依赖或破坏人道原则的技术说“不”的勇气。 第三场圆桌会议围绕“人工智能的安全与保障”议题，探究如何在危机环境中负责任地部署人工智能。与会者一致认为，人工智能风险程度与使用情境高度相关，比如在物流或后台职能中应用风险较低，而影响分诊或预警系统的人工智能系统则风险更高。由于人工智能系统将数据直接嵌入算法，基于“安全设计”理念，人们必须在数据、透明度和模型训练方面做出艰难抉择。讨论强调，必须让工作人员和社区具备识别偏见与风险的能力，使其在必要时能够对人工智能系统提出质疑并保持审慎；人道组织无法单独管理这些风险，因此与学术界、产业界及公共部门的合作至关重要。 第四场圆桌会议围绕“数字信任”展开，重点探讨在互联世界中如何构建和维护信任。与会者将信任界定为一种由实践驱动的关系型概念，并一致认为，信任建立在一致、透明且可预测的行为基础上。在冲突环境中，数字信任尤为脆弱。敏感数据的滥用或泄露不仅可能直接危及民众安全，也会阻碍人道援助的准入与接纳。展望未来，与会者强调，构建并维系信任需要对未来风险做好准备和预判，包括制定系统发生故障或被滥用情况下的应急预案，并推行如数字红十字、红新月及红水晶标志等务实举措。 引言 在数字化及其他新兴技术加速发展的当下，人道领域正处于关键的十字路口。从网络互联与数据管理、到人工智能与卫星系统，技术正在重塑人道组织评估需求、规划行动、沟通联络、提供援助以及开展保护的方式。这类工具有助于提升人道行动的效率、精准度与覆盖面，但同时也会引入新的风险、依赖关系和两难困境。例如，网络有害信息的快速传播可能助长分裂、煽动暴力，加重冲突给民众带来的伤害。数据泄露则会破坏平民及武装冲突各方对人道组织的信任，不仅妨碍人道援助有效触达受武装冲突及其他暴力影响的人群，也可能危及人道工作者的安全。此外，军事技术与自主武器系统的研发，也会在战场上引发大量人道、法律及伦理层面的挑战。 随着人道行动日益依赖主要由外部相关方开发的数字系统，治理、问责、中立性与保护等问题已经从人道实践的边缘走向核心。这意味着，人道领域难以独自解决这些技术挑战，而是需要与产业界、学术界、民间社会及人道领域的利益相关方一道，开展网络化、持续性的协作。 为此，红十字国际委员会（ICRC）在2022年通过其位于卢森堡的全球网络事务代表处发起了一系列研讨会，以应对网络空间与数字时代人道行动面临的挑战。该系列研讨会均遵循查塔姆规则，构建一个开放、可信赖的平台，围绕新技术、网络安全、数据保护与人道行动的交汇点，开展跨领域和跨学科的对话。研讨会此前已先后于2022年和2024年在卢森堡、2024年11月在肯尼亚内罗毕、2025年6月在瑞士日内瓦、2025年11月在奥地利维也纳举行。更多详情可访问红十字国际委员会官网www.icrc.org/zh。 以下报告总结了该系列研讨会于2025年12月在中国北京举办的一场会议的关键发现与成果。 人道行动中负责任使用技术研讨会 本次研讨会聚焦人道行动中负责任使用技术，在内容深度与合作广度上均成为该系列研讨会的重要里程碑。研讨会由红十字国际委员会卢森堡全球网络事务代表处、红十字国际委员会位于北京的东亚地区代表处及清华大学战略与安全研究中心（CISS）共同主办。研讨会将有关技术的人道辩论置于学术环境中，围绕安全、技术政策与全球治理的交汇领域展开深入探讨。本次活动汇聚了来自亚、欧、非及北美近20个国家的80余位人道实践者、政策专家、产业界代表及研究人员，有力推动人道一线关切与人工智能治理与安全、网络风险及数字化转型等相关议题深度融合。 作为红十字国际委员会迄今在中国举办的规模最大的技术领域活动，本次研讨会也为与中国的科研与技术界开展合作营造了良好氛围。研讨会汇聚众多学术精英，聚焦长期研究、治理模式及战略风险思维等议题。同时，讨论始终立足于现实人道实践，将数字信任、中立性与独立性等问题与数字技术在冲突环境中给平民带来的机遇与风险相结合。 开幕致辞及主旨演讲 开幕式围绕新兴技术展开探讨，指出其既为人道行动提供重要助力，也带来伦理、人道与治理层面的重大风险。开幕式由清华大学战略与安全研究中心副主任肖茜主持，清华大学校务委员会副主任杨斌教授和红十字国际委员会主席中国特使、东亚地区代表处主任史德林（Balthasar Staehelin）先生分别代表主办方发言。 在人类文明的漫长历程中，技术始终是社会进步的驱动力。……但正因为技术蕴含着巨大的潜力，我们才必须确保其得到负责任地使用。如果没有适当的规范和伦理框架，技术在人道领域的应用可能会达不到预期效果，甚至给弱势群体带来新的风险。 —杨斌 我们在战争中面临的这类[数字]困境， 就像放大镜一样， 将某些问题以极其鲜明的方式凸显出来。 —史德林 两位发言人均将研讨会置于快速的技术变革与人道责任的交汇点，强调虽然人工智能、大数据和云计算正在以前所未有的速度改变社会和人道行动，但在危机情境中采用这些技术仍需要审慎的治理。杨斌指出，中国在人工智能符合伦理的发展和全球治理倡议议程方面参与日益深入，这也是选择北京作为研讨会举办地的动因之一。史德林则将人道场景喻为“放大镜”，指出数据敏感性、算法偏见、网络虚假信息与数字包容等困境在此类场景中尤为凸显，并可能直接引致人身伤害。两位发言人一致强调，应加强跨部门、跨区域的对话与合作，充分纳入中国及“全球南方”的多元视角。 主旨演讲嘉宾从互补角度对这些议题作了进一步阐释。中国新一代人工智能发展战略研究院执行院长龚克强调，人工智能已应用于人道实践，助力更快速、更高效的危机应对。他呼吁进一步优先发展契合人道需求的人工智能应用，并强调以人道和负责任的方式发展人工智能的重要性。相关保障措施可包括将伦理原则贯穿于人工智能整个生命周期——从初始设计和部署阶段就嵌入伦理原则，而不是仅在事故发生后才处理伦理问题。他还提议建立人工智能事故学习平台、无过错人工智能赔偿基金以及构建负责任人工智能的问责框架。 人工智能能帮助我们更有效、更迅速、更准确地应对危机。 但只有将人工智能牢牢植根于人道主义的核心原则—— 人道、中立和独立中，这一潜力才能真正得以实现。 弱势群体应当是首先受益于人工智能的人群，而不是最后一批。 —龚克 中国军控与裁军协会秘书长戴怀成警示了人工智能军备竞赛的持续升级的风险，强调人工智能的