世卫组织就制定卫生人工智能伦理和治理指南进行磋商

世卫组织磋商制定健康人工智能伦理和治理指南2019 年 10 月 2 日至 4 日，瑞士日内瓦 会议报告 世卫组织关于制定卫生人工智能伦理和治理指南的磋商：会议报告，瑞士日内瓦，2019 年 10 月 2 日至 4 日ISBN 978-92-4-001275-2（电子版） ISBN 978-92-4-001276-9（印刷版）© 世界卫生组织 2021保留一些权利。本作品可在知识共享署名-非商业性-ShareAlike 3.0 IGO 许可下获得（CC BY-NC-SA 3.0 IGO；https://creativecommons.org/licenses/by-nc-sa/3.0/igo）。根据本许可的条款，您可以出于非商业目的复制、重新分发和改编该作品，前提是该作品被适当引用，如下所示。在使用本作品时，不应暗示世卫组织认可任何特定组织、产品或服务。不允许使用 WHO 标志。如果您改编作品，那么您必须在相同或等效的知识共享许可下许可您的作品。如果您创建此作品的翻译，您应在建议的引文中添加以下免责声明：“此翻译不是由世界卫生组织 (WHO) 创建的。世卫组织不对本翻译的内容或准确性负责。英文原版为具有约束力的正版”。任何与许可纠纷有关的调解均应按照世界知识产权组织的调解规则（http://www.wipo.int/amc/en/mediation/rules/）进行。建议引用.世卫组织关于制定卫生人工智能伦理和治理指南的磋商：会议报告，瑞士日内瓦，2019 年 10 月 2 日至 4 日。日内瓦：世界卫生组织； 2020. 许可证：CC BY-NC-SA 3.0 IGO。出版编目 (CIP) 数据。CIP 数据可在 http://apps.who.int/iris 获得。销售、权利和许可。要购买 WHO 出版物，请参见 http://apps.who.int/bookorders。要提交商业使用请求以及有关权利和许可的查询，请参阅 http://www.who.int/about/licensing。第三方材料。如果您希望重复使用本作品中归属于第三方的材料，例如表格、数字或图像，则您有责任确定该重复使用是否需要许可并获得版权所有者的许可。因侵犯作品中任何第三方拥有的组件而引起的索赔风险完全由用户承担。一般免责声明。本出版物中使用的名称和材料的呈现方式并不意味着世卫组织对任何国家、领土、城市或地区或其当局的法律地位或对其划界的任何意见。边界或边界。地图上的点划线表示可能尚未完全一致的大致边界线。提及特定公司或某些制造商的产品并不意味着它们得到世卫组织的认可或推荐，优先于未提及的其他类似性质的产品。除错误和遗漏外，专有产品名称以首字母大写区分。世卫组织已采取一切合理的预防措施来核实本出版物中包含的信息。但是，发布的材料在分发时没有任何明示或暗示的保证。解释和使用材料的责任在于读者。在任何情况下，世卫组织均不对因使用其造成的损害负责。本出版物包含“世卫组织关于制定卫生人工智能伦理和治理指南的磋商”报告，并不一定代表世卫组织的决定或政策。 3内容致谢iv执行摘要v1.2.3.4. 人工智能的道德使用：原则、指南、框架和人权标准 85.6.7.8.缩写与首字母缩略词AI人工智能LMIC 中低收入国家经合组织经济合作与发展组织 致谢世卫组织于 2019 年 10 月 2 日至 4 日在瑞士日内瓦世卫组织总部召开专家磋商会，讨论使用人工智能促进健康的伦理和治理。会议由 Andreas Reis（全球卫生伦理部门）和 Sameer Pujari 组织。数字健康部），在 Vasee Moorthy 和 John Reeder（健康研究部主任）、Bernardo Mariano（数字健康部主任）和 Soumya Swaminathan（首席科学家）的指导下。世卫组织感谢为本报告（附件 1）做出贡献的专家小组，特别是专家组主席 Effy Vayena 教授和 Partha Majumder 教授，感谢他们在项目的概念化和实现方面的投入。特别感谢 Tracy Swan，他担任报告员并编写了本报告的初稿。邀请所有专家对草案发表评论。世卫组织卫生伦理和治理部门顾问 Rohit Malpani 支持了这次会议，准备了概念说明并与受邀专家进行了交流。iv 5执行摘要人工智能 (AI) 由计算技术组成，其性能类似于人类智能。人工智能可能会改变医学，其应用可以适应更广泛的用途，包括药物研发、公共卫生监测和医疗保健管理。虽然人工智能为改善卫生服务和服务提供了可能性，但在开发和使用这些技术的伦理方面存在许多问题，包括人工智能是否以及如何跨越数字鸿沟以确保中低收入国家 (LMIC) 受益从中。还应解决许多跨国伦理、法律和社会问题，包括公平获取、隐私、适当使用和用户、责任、偏见和包容性。尽管一些政府机构、学术机构、非政府组织和国家伦理委员会正在解决与在医疗保健中使用数字技术相关的伦理问题，但没有专门针对医疗保健的国际指导。统一的伦理指导对于全球卫生中伦理人工智能的设计和实施至关重要。作为联合国卫生专门机构，世卫组织处于有利位置，可以制定人工智能伦理和治理的全球框架，以确保此类技术符合促进公平、公正的全球卫生的更广泛目标，并满足人权标准并有助于会员国做出实现全民健康覆盖的承诺。世卫组织正在召集一个国际专家小组，为会员国制定关于卫生领域人工智能伦理和治理的指南。该指南的制定是全球卫生伦理部门和世卫组织首席科学家司数字卫生部门以及世卫组织合作中心和同事的一项合作倡议。指南制定过程将符合世卫组织制定规范和标准的政策，并将包括已建立的多学科专家组的多次磋商、与所有相关利益攸关方的广泛磋商和同行评审。本文件是第一次专家会议的报告，该会议于 2–2019 年 10 月 4 日在日内瓦的世卫组织。与会者在现有框架和人权标准的背景下讨论了当前和潜在的人工智能在全球健康方面的应用。与会者考虑了道德、治理和公平获取的主要挑战，并讨论了潜在的解决方案。专家会议为将于 2020 年 3 月 5 日至 6 日在丹麦哥本哈根举行的第二次会议奠定了基础。世卫组织关于卫生人工智能伦理和治理的指导文件预计将于 2020 年完成。 11. 介绍数字技术、机器学习和人工智能 (AI) 可以改变医学、研究和公共卫生领域。用于“大数据”和人工智能的工具、方法和技术正在全球范围内应用于卫生服务和系统。尽管前景广阔，但这个快速发展的领域引发了跨国伦理、法律和社会对公平获取、隐私、适当使用和用户、责任、偏见和包容性的关注。机器学习算法也在软件工程中提出了新的伦理挑战。关于这些技术的伦理发展和使用，仍有许多悬而未决的问题，包括低收入和中等收入国家 (LMIC) 是否以及如何从这些发展中受益。目前，人工智能还没有统一的定义。该术语通常用于描述与人类智能类似的计算技术，例如视觉识别、学习、推理、解决问题、决策和适应变化。人工智能技术和应用的主要目标是模仿、补充、增强和增强人类解决任务的能力。尽管这些过程可能类似于人类执行的过程，但它们在人工智能系统中的范围非常有限，并且它们没有以允许人类决策的复杂方式组合在一起。尽管如此，基于人工智能的应用程序可以适用于卫生部门的研发、公共卫生和医疗保健管理。目前，基于人工智能的医疗保健应用主要用于高收入国家的个性化医疗保健以及自动诊断和促进健康行为等策略。一些政府机构、学术机构、非政府组织和国家伦理委员会已经开始解决与数字技术相关的伦理问题和挑战，但没有关于其在健康中的使用的国际指导。因此，应该为全球卫生中人工智能的设计和实施制定统一的伦理指南。出于这个原因，世卫组织启动了一项旨在制定全球道德和治理框架的倡议，以确保基于人工智能的技术与促进公平、公正的全球健康和确保全民健康覆盖的更广泛目标相一致。在此前世卫组织关于伦理、大数据和人工智能的磋商 (1) 的基础上，世卫组织旨在 2020 年为会员国制定关于人工智能在卫生领域的伦理和治理指南。该倡议是全球卫生伦理团队和数字世卫组织首席科学家司卫生部门、世卫组织其他同事和具有专业知识的世卫组织合作中心。召集了一组外部国际专家，就制定全球相关框架和指南向世卫组织提供建议。WHO’s 数字健康与创新部世卫组织设立了一个新的数字卫生和创新部，以加强其在评估数字技术和支持会员国优先考虑、整合和监管这些技术方面的作用。世卫组织致力于通过其规划和合作以及通过以下方式利用数字技术的可能性： 在与专家就如何最大限度地发挥这些工具对卫生系统和人民健康的影响进行广泛磋商后，发布关于移动和数字技术的循证指南和建议 (2)； 与其他利益相关者沟通，以确保新的和现有的数字平台对人们的生活产生积极影响；和 2 参与新的合作和伙伴关系，例如精准公共卫生倡议（见下文）、Be He@lthy、Be Mobile (3)，这是与国际电信联盟关于使用移动技术改善人们健康的联合倡议非传染性疾病的风险或患有非传染性疾病的风险以及 WHO-国际电信联盟和欧盟委员会移动医疗创新和知识中心 (4)，这是由欧盟地平线 2020 资助的一项合作，旨在为欧洲建立移动医疗创新和知识中心。世卫组织数字卫生和创新司的使命是通过世卫组织第 13 个工作总规划的“三个十亿”目标和可持续发展目标 3，确保数字卫生有助于实现人人享有最高水平的健康，以确保健康生活，促进所有年龄段所有人的福祉 (5)。在 2018 年世界卫生大会上，会员国一致通过了 WHA71.7 (6) 号决议，呼吁世卫组织制定全球数字卫生战略，以支持国家卫生系统实现全民健康覆盖。 2019 年 9 月，联合国主办了一次高级别会议，以最终确定到 2030 年实现全民健康覆盖的承诺和建议。世卫组织关于卫生领域人工智能伦理和治理的指南2019 年，世卫组织数字卫生部门和首席科学家办公室下属的全球卫生伦理部门启动了一个项目，为全球卫生中人工智能的设计和使用编写伦理和治理指南。第一步是 2019 年 10 月的联合国际磋商，参与者来自政府、政府间机构、学术界、民间社会和工业界。磋商的目标是： 讨论人工智能技术在健康方面的当前和预期用途，以及指导其使用的伦理考虑和人权原则； 审查国际组织和政府的倡议；和 就将在计划于 2020 年举行的进一步磋商中详细阐述的道德和治理指南的格式和内容提供建议。本报告总结了会议上的发言和讨论。2. 伦理在人工智能中的重要性人工智能可以帮助塑造个人和全球公共卫生的未来，并帮助各国实现全民健康覆盖。然而，人工智能既可以成为解决方案的一部分，也可以成为问题的一部分。必须同时考虑人工智能在医疗保健中的风险和挑战及其潜在利益。人工智能可以扩大卫生服务和信息的范围、透明度、安全性、有效性、可靠性和可访问性，以惠及更多人，包括边缘化和弱势群体。人工智能可以改善公共卫生监测、预测、建模和监测，促进卫生工作人员的培训，将创新和效率引入卫生系统，改善临床结果，确保具有成本效益的规划，加速和改进药物开发，优化运营和医疗保健条款。人工智能还可能加剧医疗保健的不平等分配，减少医疗保健劳动力，降低医疗保健工作者的技能，使不尊重的临床互动长期存在或增加，并扩大国家内部和国家之间医疗保健结果的差异。技术的好处已经在富人之间和内部分配不均 3和贫穷的国家。数字鸿沟可能会加剧获得医疗保健的不公平现象，无论是在地理、性别、年龄、使用设备和连接方面。虽然隐私、保密和知情同意是全球患者权利的支柱，但随着数字技术的普及和扩展，这些权利可能会被重新定义或削弱。人工智能的性能取决于数据的性质和范围。在人工智能中使用受限、贫乏和异构的数据可能会延续和加深医疗保健领域的偏见和差异。有偏见的推论、误导性的数据分析以及设计不当的健康应用程序和工具可能是有害的。已经表明，商业预测算法可以识别复杂的健康需求，但它们也可能导致明显的种族偏见，因此当使用医疗保健成本来训练算法时，黑人患者比白人患者处于更大的劣势 (7)。一些人工智能算法基于质量和分辨率不均匀的图像，这可能会对系统输出的准确性和可靠性产生不利影响。用于健康和疾病评估的成像设备、血液测试、脑