聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类试点

聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类试点I N S I G H T R E P O R TM A R C H 2 0 2 2 聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类试点2图片：盖蒂图片，巴比伦内容1聊天机器人 RESET 框架 61.11.22卢旺达试点：目的和过程 82.12.2试点过程 93卢旺达飞行员：第 10 课3.13.23.33.43.5您使用 AI 13 的挑战和机遇是什么在这个应用程序和卢旺达？3.63.73.8聊天机器人 RESET 17 的哪些原则和行动你选择的框架？你为什么选择他们？3.9你是如何实施这些行动的？ 183.103.11免责声明本文件由世界经济论坛作为对项目、洞察领域或互动的贡献。本文所表达的调查结果、解释和结论是世界经济论坛推动和认可的协作过程的结果，但其结果不一定代表世界经济论坛或其成员、合作伙伴或其他利益相关者的全部观点。© 2022 世界经济论坛。版权所有。不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统复制或传播本出版物的任何部分。 聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类试点32022 年 3 月聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分流试点前言Crystal Rugege 卢旺达第四次工业革命中心董事总经理COVID-19 大流行引发了人工智能在医疗保健中的快速和大规模采用，因为世界上的每个卫生系统都经历了终极压力测试。尽管过去许多医疗保健提供者一直不愿使用聊天机器人，但大流行的压力要求在不堪重负和资源不足的环境中部署新技术。尽管一些国家的医疗保健系统已恢复正常，但对于世界上许多其他国家来说，这种高压力情况仍然照常营业。聊天机器人有可能缩小医疗保健服务中的关键差距并改善患者结果，特别是对于资源有限的服务不足的社区。但是，我们必须承认在医疗保健环境中采用这项技术所带来的风险以及如果出现问题会产生不成比例的影响。卢旺达一直是战略性利用技术增加医疗保健服务的先驱。随着该国与 Babyl 合作推出首个支持 AI 的分类服务，我们很高兴有机会试用 Chatbots RESET 框架。该试点在确保负责任地部署该技术方面发挥着至关重要的作用。特别是，该试点的一个目标是通过将卢旺达特定的镜头应用于框架，其中对安全、透明度和问责制等原则的解释需要以当地情况为基础。的确，这试点具有显着意义，因为人工智能支持的分诊服务最终将通过基于社区的健康保险为大多数人口提供，展示了聊天机器人在高科技和低科技环境中的实用性。关于聊天机器人在医疗保健中的好处和风险还有很多需要了解。这个框架是对全球话语的重要贡献。我们希望这个试点让我们更接近负责任地增加获得医疗保健的机会。 执行摘要卢旺达正在使用世界经济论坛开发的框架负责任地领导使用人工智能来改善其公民的医疗保健服务。人工智能 (AI) 正被应用于医疗保健领域，包括精准医疗、标准化信息、智能个人健康记录、机器人技术和环境辅助生活。人工智能在这些应用程序中实现的自动化和处理数据和信息的速度为服务更多患者提供了机会。症状检查器是使用人工智能对患者进行快速分类的突出例子。两家医疗保健初创公司、一家大型医院系统和一家全球技术提供商于 2021 年试行了 Chatbots RESET 框架。本报告总结了在卢旺达进行的人工智能分诊服务应用程序的第五次试点。技术分诊服务的开发者和提供者巴比伦从框架中选择了三个原则（安全性、问责制和透明度），并根据这些原则实施了相关的行动。图片来源：巴比伦随着人工智能在医疗保健中的使用越来越多，以及监管其使用所需的法规滞后，需要替代机制。世界经济论坛与全球专家合作，创建了一个“软治理”框架，以促进负责任地使用人工智能（聊天机器人，在本例）在医疗保健领域。 Chatbots RESET 框架包含人工智能和医疗保健原则，以管理在医疗保健中负责任地使用聊天机器人。它还包括技术开发商、医疗提供者和政府监管机构可以采取的实施这些原则的行动。本报告以与服务提供商的一系列问答的形式对试点进行了总结。从该试点和前四个试点中汲取的经验和教训强化了使用聊天机器人 RESET 框架来管理医疗保健中负责任地使用人工智能的好处。对于担心缺乏具体的使用规定的私营和公共部门组织在医疗保健应用中的人工智能方面，试点结果为采用人工智能指明了前进的方向。聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员4 介绍Chatbots RESET 是一个多利益相关方框架，用于负责任地在医疗保健中使用聊天机器人。人工智能 (AI) 和其他第四次工业革命技术的采用率迅速提高，政府在监管这些技术以保护社会免受其在医疗保健等公众高度敏感领域的潜在负面影响方面滞后。强烈需要替代品“软监管”机制以弥合随之而来的治理差距。世界经济论坛已采取系统方法以框架和工具包的形式开发此类软监管机制，以便在多个应用中负责任地使用人工智能，包括采购、人力资源和面部识别的使用。 Chatbots RESET 就是这样一种框架。世界经济论坛与多利益相关方项目社区合作，开发并发布了聊天机器人 RESET，这是一个框架在医疗保健中负责任地使用聊天机器人。该框架的开发是为了响应全球医疗保健环境中越来越多地采用人工智能（尤其是聊天机器人）。虽然之前在各种医疗保健情况下尝试使用聊天机器人，但 COVID-19 大流行创造了向公众快速传播信息的紧迫性。为此目的广泛部署了聊天机器人。该框架包含一组人工智能和医疗保健原则，以及针对每项原则的一组行动。这些操作为系统中使用医疗保健聊天机器人的不同参与者提供建议：开发人员（创建技术）、提供者（在医疗保健环境中使用它们）和监管机构（负责保护公众）。试点快速验证 Chatbots RESET 框架的一个重要方法是在现实生活中的应用。每个试用该框架的组织都选择了框架原则的一个子集，并在其应用程序环境中对其进行了测试。论坛与四个合作伙伴合作，于 2021 年 1 月至 2021 年 4 月对该框架进行了试点并公布了结果12021年11月。从那时起，该论坛一直在与全球医疗保健公司 Babylon 及其卢旺达实体 Babyl 合作，以实施 AI 分类工具框架中的关键原则。该工具是 Babyl 与卢旺达政府合作提供综合数字优先医疗服务的一部分，该服务利用该国的全民健康保险计划，为卢旺达数百万患者提供医疗保健服务。 以合乎道德的方式使用人工智能是我们的责任——尤其是在医疗保健等领域。Kay Firth-Butterfield，世界经济论坛人工智能和机器学习负责人聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员5 聊天机器人 RESET 框架该框架由一套原则和行动组成，以实施每项原则。在对聊天机器人在医疗保健中的使用进行景观审查之后，世界经济论坛召集了一个使用这些聊天机器人的系统各个部分的专家社区。与密切合作社区成员，该框架是在 2020 年共同创建的。以下是该框架的摘要，完整的详细信息可以在原始出版物中找到。21.1原则项目社区根据其相关性和适用性从 AI 和医疗保健原则中为 Chatbots RESET 框架选择了 10 条原则，并在医疗保健中使用聊天机器人的背景下对其进行了具体解释。图1在医疗保健中使用聊天机器人的背景下的原则及其解释示例安全/非恶意–聊天机器人的行为不得对人类造成可避免的伤害或其他意外后果，包括欺骗、成瘾或缺乏对多样性的尊重问责制–组织中的实体（个人或团体）应对聊天机器人的治理负责–聊天机器人的结论和建议应该是可审计的透明度–聊天机器人用户应始终了解他们是在与 AI 还是人类或两者的组合进行交互–聊天机器人应明确告知用户系统性能的限制，除非出于聊天机器人的预期目的不需要告知–如果聊天机器人无法理解用户或无法确定地做出回应，应立即通知聊天机器人用户，除非此类通信干扰了聊天机器人的预期目的聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员61 1.2行动在 Chatbots RESET 框架中，每个原则都进一步详细说明了一组开发人员、提供商和监管机构可以采取的行动来实施该原则。这些行动使医疗保健中使用聊天机器人的各种参与者能够快速实施负责任的行为。Chatbots RESET 框架清晰且非常全面；它是与该领域的专家合作建造的。Sujoy Kar，印度阿波罗医院首席医疗信息官数字 2Chatbots RESET 框架中的原则和操作人工智能伦理 医疗伦理包容性安全/非恶行功效聊天机器人重置原则正直可解释性聊天机器人 RESET 原则数据保护人力资源中介开发者提供者监管者公平问责制透明度聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员7开发部署规模原则实施原则的行动 卢旺达试点：目的和过程在负责任的情况下，使用 AI 执行患者分类是扩大医疗保健访问范围的有效方式。Babylon 是一家全球数字医疗保健公司，自 2016 年起通过与卢旺达政府的合作在卢旺达提供服务。 Babylon 的卢旺达实体 Babyl 允许卢旺达人在该国任何地方通过任何移动设备咨询医生或护士。患者可以使用 Babyl 进行预约，并通过文本接收处方、转诊或实验室测试的代码，而不是长途跋涉到健康中心并等待（有时是数小时）就诊。该服务已集成到卢旺达的国家健康保险计划，是该国最大的数字健康提供商，有超过 260 万卢旺达人注册使用该服务。2021 年，Babyl 将 Babylon 的 AI 支持的分诊技术引入了这项服务，供 Babyl 的呼叫中心护士在咨询患者时使用。该工具可帮助护士向患者提出正确的问题，收集有关患者症状的必要信息，并为他们提供见解以帮助选择正确的分诊路径。卢旺达一直是数字健康领域的先驱，该试点在促进负责任地使用人工智能以进一步增加医疗保健服务方面发挥着至关重要的作用。Crystal Rugege，卢旺达第四次工业革命中心董事总经理聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员82 2.1 试点目的验证 Chatbots RESET 框架的一种快速方法是根据相关性和实用性评估框架原则和操作的使用。在四个私营部门组织的背景下对该框架进行试点后，有必要了解该框架在公共医疗保健中的效用设想。 Babyl 的 AI 分诊试点为开展这项试点提供了绝佳的机会。试点目标试点的目标是–通过实施 Chatbots RESET 框架中的原则和行动来展示项目目标的实现–分享试点经验这些试点目标旨在实现更广泛的目标：最大限度地利用聊天机器人在医疗保健中的有益用途，并将负面后果降至最低。2.2方框 1聊天机器人 RESET 框架：卢旺达人工智能 (AI) 分类飞行员9试点过程卢旺达试点于 2021 年 11 月 22 日启动。在接下来的四个月中，论坛的人工智能和机器学习团队成员、第四次工业革命卢旺达中心成员和 Babyl 团队成员密切合作，选择并实施了三个聊天机器人 RESET 框架原则.在试点期间，一个项目社区由项目社区成员的医疗、技术和法规专家对实施提供了指导。核心团队每两周开会一次，审查状态并计划下一步。项目社区在试点期间召开了 3 次会议，审查并提出意见。然后向巴比尔提出了一系列有关驾驶经验的问题。为该试点提供建议的项目社区–Patrick Gacirane（研究员/分析师，人工智能）由以下成员组成：倡议，卢旺达公用事业监管局）– Noella Bigirimana（副总干事，–Ritah Kanyana（高级战略和卢旺达生物医学中心）运营主管，巴比勒）– Maria Birkmyre（全球临床安全–Sujoy Kar（首席医疗信息官，巴比伦军官）阿波罗医院）– Kay Firth-Butterfield（人工负责人–Nupur Kohli（论坛全球塑造者）智能和机器学习，中心第四次工业革命，世界–Nikhil Malhotra（首席创新官，经济论坛）技术马恒达）– Jean Baptiste Byirin