人工智能健康伦理与治理：大型多模式模型指南2024

大型多模态模型指南 伦理和治理人工智能健康 大型多模态模型指南 健康人工智能的伦理与治理。大型多模态模型指南 ISBN 978 - 92 - 4 - 008475 - 9 (电子版) ISBN 978 - 92 - 4 -008476 - 6 (印刷版) ©WorldHealthOrganization2024 保留某些权利。此作品可根据知识共享署名-非商业-共享3.0 IGO许可证（CC BY - NC - SA 3.0 IGO; https: / /creativecommons. org / licenses / by - nc - sa / 3.0 / igo）获得。 根据本许可证的条款，您可以复制，重新分发和改编作品用于非商业目的，只要该作品被适当引用，如下所示。在使用这项工作时，不应建议世卫组织认可任何特定组织、产品或服务。不允许使用WHO徽标。如果你适应工作，那么你必须在相同或同等的知识共享许可下许可你的工作。如果您创建此作品的翻译，则应添加以下免责声明。 建议引用：“此翻译不是由世界卫生组织（WHO）创建的。WHO对本翻译的内容或准确性不负责。英文原版应为装订正版。” 与根据许可证产生的争议有关的任何调解均应根据世界知识产权组织的调解规则进行。（http: / / www. wipo. int / amc / en / mediation / rules /）。 建议引用。健康人工智能的伦理和治理。大型多模式模型指南。日内瓦:世界卫生组织；2024年。许可证: CC BY - NC - SA 3.0 IGO。 出版物编目(CIP)数据CIP数据可在http: / / apps. who. int / iris查阅。 销售、权利和许可。要购买世卫组织出版物，请参见http: / / apps. who. int / bookorders。要提交商业用途请求以及有关权利和许可的查询，请参见http: / / www. who. int / about / licensing。 第三方材料。如果您希望重新使用此作品中归因于第三方的材料，例如表格，图形或图像，则您有责任确定该重新使用是否需要许可并获得版权所有者的许可。由于作品中任何第三方拥有的组件受到侵权而导致的索赔风险完全由用户承担。 一般免责声明本出版物中使用的名称和材料的介绍并不意味着世卫组织对任何国家、领土、城市或地区或其当局的法律地位或对其边界或边界的划定表示任何意见。地图上的虚线和虚线代表可能尚未完全一致的近似边界线。 提及特定公司或某些制造商的产品并不意味着它们得到世卫组织的认可或推荐，而不是未提及的其他类似性质的产品。除错误和遗漏外，专有产品的名称以首字母大写字母区分。 世卫组织已采取一切合理的预防措施来核实本出版物中的信息。但是，分发已发布的材料没有任何明示或暗示的保证。解释和使用该材料的责任在于读者。在任何情况下，世卫组织都不对因使用该材料而造成的损害负责。 图形设计：JoannaSleigh（苏黎世联邦理工学院，苏黎世，瑞士）布局：ImprimeieCentrale（卢森堡） Contents 致谢v缩写vii执行摘要viii 1Introduction 11.1LMMs 3的意义1.2世卫组织关于人工智能促进健康的伦理和治理的指导4 I.LMMs的应用、挑战和风险7 2中使用LMM的应用和挑战health ....................................................................................8 2.1诊断和临床护理82.2以患者为中心的应用122.3文书职能和行政任务162.4医学和护理教育172.5科学和医学研究与药物开发17 3卫生系统和社会的风险以及使用的伦理问题LMMs 203.1卫生系统203.2遵守法规和法律要求233.3社会关注和风险24 II.医疗保健和医学中LMM的伦理与治理31 4通用基础模型的设计与开发(LMM) 344.1在通用开发过程中需要解决的风险-目的基础模型(LMM) 344.2开发人员可以采取的应对风险的措施-目的基础模型(LMM) 354.3政府法律、政策和公共部门投资.........................................................................394.4开源LMMs 41 6.1(LMM)......................................................................................................................536.2部署...................................................................................................................546.36.4实践.........................................................................................................................55 7LMM .................................................................................................................................58 Acknowledgements 世界卫生组织（WHO）指南的制定由Andreas Reis（卫生部健康伦理和治理部门的共同负责人）领导 和Sameer Pujari（数字健康与创新部），在John Reeder（健康研究总监），Alain Labrique（数字健康与创新总监）和Jeremy Farrar（首席科学家）的总体指导下。 Rohit Malpani（法国顾问）是主要作者。世卫组织健康人工智能伦理和治理专家组的联合主席EffyVayena（瑞士苏黎世联邦理工学院）和Partha Majumder（印度统计研究所和印度国家生物医学基因组学研究所）为起草报告和专家组的领导提供了总体指导。 世卫组织感谢以下个人为制定本指南做出了贡献。 世卫组织人工智能促进健康的伦理和治理专家组 Najeeb Al Shorbaji, eHealth Developmet Associatio, Amma, Jorda; Maria Paz Caales, Global Parters Digital,智利圣地亚哥; Arisa Ema, Toyo, Uiversity of Toyo, Toe, Japa; Amel Ghoila,比尔和梅林达·盖茨基金会，美国西雅图（WA）；Jeifer Gibso，世卫组织生物伦理学合作中心，多伦多大学，加拿大，多伦多；Keeth Goodma，哥本哈根，生物伦理学和健康政策研究所，迈阿密大学米勒医学院，美国；MalavaJayaram，数字亚洲中心，新加坡；Dadi Jjjjjigo，伦敦大学，印度医学中心 意大利都灵；南非德班纳塔尔省Kwa - Zulu大学的Jerome Singh；荷兰代尔夫特大学的Jeroen vanden Hoven（王国）；瑞士苏黎世联邦理工学院的Effy Vayena；新西兰奥克兰大学的RobynWhittaker；和中国科学院曾毅，中国北京。 观察员 David Gruson，Luminess，法国巴黎；Lee Hibbard，欧洲委员会，法国斯特拉斯堡 外部审稿人 Ore Asma，特拉维夫大学，以色列特拉维夫；I.Gle Cohe, Harvard Law School, Bosto (MA), USA;Alexadrie Pirlot de Corbio, Privacy Iteratioal, Lodo, Uited Kigdish; Rodrigo Lis, Federal Uiversity of Peramco,Recife,巴西；美国西雅图（WA）比尔和梅林达·盖茨基金会综合发展副主任Dog McNair；南非开普敦斯泰伦博斯大学的Keymathri Moodley；以色列特拉维夫特拉维夫大学的Amir Tal；英国伦敦的Tom West隐私国际。 外部贡献者 指南的方框2（儿童使用LMM的道德考虑）由美国斯坦福大学（加利福尼亚州）的VijaythaMuralidharan，Alyssa Burgart，Roxana Daneshjou和Sherri Rose起草。指导的方框3（与LMM相关的道德考虑及其对残疾人的影响）由瑞士日内瓦独立顾问Yonah Welker起草。 所有外部审查人员、专家和撰稿人都根据世卫组织的政策宣布了他们的利益。声明的利益都没有被评估为重大利益。 WHO Shada Al - Salamah，日内瓦数字卫生和创新部技术干事；Mariam Otmai Del Barrio，日内瓦热带病研究特别计划科学家；Marcelo D 'Agostio，世卫组织美洲区域办事处信息系统和数字卫生股股长，华盛顿(DC)；日内瓦首席科学家Jeremy Farrar；丹麦哥本哈根，世卫组织欧洲区域办事处技术干事ClaytoHamilto；日内瓦数字卫生和创新部顾问Kaia Kalra；开罗，世卫组织东地中海区域办事处研究和创新协调员Ahmed Mohamed Ami Madil；IssaMatta，日内瓦法律事务；Jose Edardo Diaz Medoza，日内瓦数字健康与创新部顾问；Mohammed Hassa Nor，。 世卫组织东地中海区域办事处数字卫生和创新司技术干事，开罗；数字司技术干事DeniseSchalet 日内瓦卫生与创新；日内瓦数字卫生与创新部技术官员Yu Zhao。 缩写 AI人工智能LMM大型多模态模型美国美利坚合众国 执行摘要 人工智能（AI）是指将算法集成到系统和工具中以从数据中学习的能力，以便它们可以执行自动化任务，而无需人类对每一步进行明确编程。生成AI是 在可用于生成新内容（如文本、图像或视频）的数据集上训练哪些算法。该指南解决了一种类型的生成AI，大型多模态模型（LMM），它可以接受一种或多种类型的数据输入，并生成不限于馈送到算法中的数据类型的不同输出。预计LMM将在医疗保健、科学研究、公共卫生和药物开发等领域得到广泛的应用和应用。LMM也被称为“通用基础模型”，尽管尚未证明LMM是否可以完成广泛的任务和目的。 LMM的采用速度比历史上任何消费者应用程序都要快。它们之所以引人注目，是因为它们促进了人机交互，以模仿人类交流并生成对查询或数据输入的响应，这些响应可能看起来像人类和权威。随着消费者的迅速采用和吸收，以及其颠覆核心社会服务和经济部门的潜力，许多大型科技公司、初创企业和政府正在投资并竞争指导生成人工智能的发展。 2021年，世卫组织发布了关于人工智能促进健康的伦理和治理的综合指南(1)。世卫组织咨询了20位人工智能领域的主要专家，他们确定了在医疗保健中使用人工智能的潜在益处和潜在风险，并发布了六项原则，以协商一致方式达成共识，供政府、开发者和提供者在使用人工智能的政策和实践中考虑。这些原则应指导包括政府、公共部门机构、研究人员、公司和实施者在内的广泛利益相关者在医疗保健中开发和部署人工智能。这些原则是：（1）保护自主权；（2）促进人类福祉，人类安全和公共利益；（3）确保透明度，“可解释性”和可理解性；（4）促进责任和问责制；（5）确保包容性和公平性；（6）促进响应和可持续的人工智能（图1）。 世卫组织正在发布本指南，以协助