聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人

聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人I N S I G H T R E P O R T没有 2 0 2 1 聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人2封面和内部：Getty Images，Unsplash内容3前言4执行摘要51 背景5 目的5框架6试点过程72 总结7医疗保健应用7 机会7 挑战7治理的需要8为什么使用聊天机器人 RESET 框架？8反馈总结8 一些最佳实践8总体观察93 后续步骤104 四名飞行员的详细资料10艾达健康13OmniBot 人工智能16阿波罗医院18科技马恒达21 位贡献者免责声明本文件由世界经济论坛发布，作为对项目、洞察领域或互动的贡献。本文所表达的调查结果、解释和结论是世界经济论坛推动和认可的协作过程的结果，但其结果不一定代表世界经济论坛或其成员、合作伙伴或其他利益相关者的全部观点。© 2021 世界经济论坛。版权所有。不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统复制或传播本出版物的任何部分。 聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人3前言凯·弗斯-巴特菲尔德世界经济论坛人工智能和机器智能负责人人工智能 (AI) 是一种有价值的工具，已部署在广泛领域的应用中。在医疗保健领域，对人工智能使用的治理最为重要——这是一项涉及所有人的社会关键服务。在医疗保健中使用人工智能是一把双刃剑：可能有巨大的好处，但如果不实施人工智能以负责任的方式，可能会导致严重的负面后果。Chatbots RESET 框架正是由世界经济论坛开发的，旨在应对这一挑战。它涵盖了人工智能和医疗伦理原则，但也许最重要的是，它定义了利益相关者可以采取的行动将原则付诸实施。运营化是负责任的人工智能实施的一大挑战，该框架直接解决了这个问题。框架需要在现实世界的应用程序中使用才能产生影响。在过去的几个月里，我们很幸运有两家初创企业和两家大型组织试用了这个框架。他们在本报告中分享了他们的旅程。试点和扩展框架等因为聊天机器人 RESET 对于确保快速采用和充分部署软治理机制至关重要。如果没有这一点，人工智能的快速采用与其使用的治理之间的差距将继续扩大。Venkataraman (Sundar) Sundareswaran三菱化学控股研究员，人工智能和机器智能，世界经济论坛2020 年 1 月，我们开始努力确定是否在医疗保健需求中使用聊天机器人被治理。当时，我们没有预料到 COVID-19 大流行会导致聊天机器人的使用激增。从那时起，聊天机器人就被国家和全球机构（包括疾病控制中心 (CDC) 和世界卫生组织）用于交流有关病毒、症状、预防措施、自我保健和疫苗接种等信息。 WHO）。仅基于 Microsoft Health Bot 平台的聊天机器人在全球就有数千个。时机无可挑剔。我们异常高质量的多利益相关方社区的成员为共同创建聊天机器人 RESET 框架背后的思想领导力。自该框架于 2020 年 12 月发布以来，四个合作伙伴组织已经开展了试点项目，实施了框架中的原则和行动，为医疗保健应用部署聊天机器人。这份洞察报告包含这些试点的详细信息和经验教训。该报告可作为其他组织在医疗保健中使用聊天机器人时实施框架原则的参考和动力。读者可能也会受到启发将其扩展到医疗保健中更广泛地使用人工智能或在不同领域使用聊天机器人的框架应用程序。欢迎在这些方向开展合作。 聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人4执行摘要随着人工智能 (AI) 应用程序的激增，它们开始以实际方式影响日常生活。这方面的一个例子是在医疗保健应用程序中使用对话式人工智能系统，也称为聊天机器人。在 COVID-19 大流行期间，聊天机器人已被广泛用于交流有关病毒和疫苗接种的信息，并协助检查症状。人工智能在医疗保健中的这种使用可能非常有益，但我们也必须注意潜在的负面后果。去年，世界经济论坛组建了一个多方利益相关者社区，共同创建了聊天机器人 RESET，这是一个管理在医疗保健领域负责任地使用聊天机器人的框架。该框架由两部分组成：（1）从人工智能伦理和医疗伦理原则中选出的一组 10 项原则，并在医疗保健中使用聊天机器人的背景下进行解释； (2) 以建议的形式针对每项原则采取行动，以在医疗保健中部署聊天机器人的各个阶段实施。 Chatbots RESET 框架是可操作的，开发人员、提供商和监管机构可以轻松使用。该框架于 2020 年 12 月发布。自 Chatbots RESET 框架发布以来，已有四个组织对该框架进行了试点：Ada Health、OmniBot AI、Apollo Hospitals 和 Tech Mahindra。这些组织应用了框架中的原则他们的医疗保健聊天机器人项目，利用框架中推荐的操作行动。在这些试点中，他们为他们的项目选择了合适的原则，实施了实现这些原则的行动，并提供了他们的经验反馈。对任何试点活动都适用的警告是，选择原则和行动是为了执行框架而不是完全验证它。该洞察报告提供了每个试点的详细信息以及他们的总体反馈摘要。希望报告能起到为他人提供参考，使他们能够追随这四个开创性组织的脚步，鼓励他们通过实施聊天机器人 RESET 框架的原则和行动，带头在医疗保健应用中负责任地使用人工智能技术。与合作三菱化学控股公司聊天机器人重置管理在医疗保健中负责任地使用对话式人工智能的框架D E C E M B E R 2 0 2 0 背景目的本文档的主要目的是让读者了解和访问一个框架，该框架将帮助他们在医疗保健领域的聊天机器人工作中取得成功。许多医疗保健组织，包括中小型企业 (SME)、大公司、医疗保健提供商、保险公司、民间社会组织和政府监管机构，都对了解在该领域使用聊天机器人等人工智能技术的积极和消极影响感兴趣。这种兴趣进一步激化通过在 COVID-19 大流行期间加速 AI 部署。在大流行期间，聊天机器人技术已被部署在数千个案例中，并在医疗保健领域呈现了一个独特而狭窄的人工智能用例。世界经济论坛的人工智能和机器学习团队汇集了来自医疗保健组织及其他领域的利益相关者，共同创建了一个在医疗保健领域使用聊天机器人的框架。框架由多利益相关方项目社区共同创建的框架 Chatbots RESET 于 2020 年 12 月由论坛发布。此后，四个合作伙伴组织在其项目中试用了该框架。该框架包含一组由项目社区专家选择的原则，这些原则来自人工智能和医疗保健。这些原则已在医疗保健中使用聊天机器人的背景下在框架中进行了详细阐述。此外，根据原则制定了一套行动项目社区，以帮助框架的用户“实施”这些原则。在试点过程中，包含操作化行动的好处已经变得非常明显。1人工智能伦理医疗伦理安全/非恶行聊天机器人重置原则包容性功效正直数据保护聊天机器人 RESET 原则开发者提供者监管者可解释性人力资源中介公平问责制透明度聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人 5部署开发规模原则实施原则的行动 试点过程试行该框架旨在成为一种快速验证其内容的相关性和实用性的方法。为了使合作伙伴组织能够快速完成试点过程，向他们提供了两种方法，这两种方法都只包括来自论坛的少量监督：(1) 在实际项目中使用该框架，无论是新项目还是正在进行的项目，以实施用于医疗保健场景的聊天机器人； (2) 在模拟场景中使用框架，例如，未来在医疗保健应用中使用聊天机器人。参与试点的四个合作组织完成了实施，并三个月（2021 年 1 月至 2021 年 3 月）的评估，并在 2021 年 4 月 6 日举行的全球技术治理峰会期间的社区会议上分享了他们的反馈。本报告提供了他们试点经验的全面文件。它首先总结了试点合作伙伴的经验，然后提供了有关其每个实施和流程的更多详细信息。聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人 6 概括虽然每个试点都有自己的实施方法、经验和教训，但试点之间有一些共同点。这些在下面分享。医疗保健应用所有的飞行员都关心在他们的医疗旅程的早期指导病人。这包括对他们进行医疗保健条件和护理选择方面的教育。其中一个专门针对公共卫生状况（即 COVID-19）进行教育的试点是基于语音的聊天机器人，而其他试点则是基于文本的。机会试点合作伙伴指出，在医疗保健中使用聊天机器人会带来几个机会：–患者医疗旅程数据的可用性–更轻松地访问电子医疗保健/医疗记录 (EHR/EMR)–更好的临床决策–有助于提高质量、降低成本和增加医疗保健的可及性–减少热线电话无人接听的次数–缩短公共卫生事件（例如疫苗接种）的处理时间挑战合作伙伴在为医疗保健实施聊天机器人时发现了以下挑战：–选择合适的问题–处理偏见问题–确保准确性–实现成功的人机协作–平衡安全与过度谨慎–确保高水平的可访问性–寻找“万能的解决方案”以服务于不同的人群并遵守特定国家/地区的法律治理的需要以下项目被确定为医疗保健聊天机器人应受到管理的原因：–满足社会关键需求（如医疗保健）时的道德问题–采用要求（通常需要临床医生-AI 协作解决方案）–作为一个新领域的事实（通常不归类为医疗器械）–监管没有赶上快速发展的技术–促进政府接受2 为什么使用聊天机器人 RESET 框架？合作伙伴阐明了以下功能，作为他们为其飞行员选择聊天机器人 RESET 框架的原因：–使用方便–衔接好–综合的–帮助解决数据敏感性问题–多利益相关方产品–有机会追溯检查以前的产品和项目–通过从框架中的少数原则开始并扩展到涵盖其他原则，可以实现持续改进–作为可能遗漏或忽略的因素（例如透明度）的清单反馈总结以下反馈由试点合作伙伴提供–一些操作化操作应该分配给开发者和提供者，因为他们通常需要一起工作并就结果和路径达成一致–供应商和开发商应在项目开始时评估相互的数字成熟度，以确保顺利参与–执行的任何背景/准备工作都应与生态系统其他部分的合作者共享–应聘请具有第一手经验的专家顾问–可以将基于试点期间收集的真实世界见解的实用指导添加到框架中一些最佳实践试点合作伙伴分享的有效经验教训包括：–在残疾立法方面的先前经验，例如美国残疾人法案 (ADA) 很有帮助–人群测试是评估机器人功能的好方法–现实的主题库和现实生活条件很重要总体观察以下意见是根据试点合作伙伴的反馈得出的–不同飞行员的医疗保健应用程序非常相似，专注于在医疗保健旅程的早期阶段提供指导，包括症状检查和患者教育–并非所有原则都适用于每种情况。试点合作伙伴在每种情况下实施了四到八项原则–试点合作伙伴报告说，框架中的原则是完整和连贯的–他们对框架的实用性非常积极–所有的实施都是在两到三个月的短时间内完成的–试点就如何维护和改进框架提供了有用的反馈第 4 节以回答向试点合作伙伴提出的一系列问题的形式提供了有关每个试点的更多详细信息。聊天机器人 RESET 框架试点项目：在医疗保健中使用聊天机器人 8 聊天机器人 RESET 框架试点项目：使用聊天机器人卫生保健9下一步我们目前正在开展一项旨在增加卢旺达人口医疗保健服务的试点项目。完成后，将针对该试点准备一份单独的报告。我们邀请您通过以下方式之一参与 Chatbots RESET 项目：–在医疗保健中的聊天机器人应用中试行该框架，或–通过与我们合作，将框架扩展到聊天机器人的相邻应用或医疗保健中的其他领域3 聊天机器人 RESET 框架试点项目：使用聊天机器人卫生保健10四名飞行员的详细信息四名试点中的三名在实际应用程序中实施了 Chatbots RESET 框架，而第四名（Tech Mahindra）使用了模拟应用程序。在以下部分中，试点合作伙伴分享了他们的方法和观察。艾达健康贵组织的背景是什么？Ada 是一家由医生、科学家和行业先驱创立的全球健康公司，旨在为个人健康创造新的可能性，并将知识转化为更好的结果。其核心系统将医学知识与智能技术相结合，帮助每个人积极管理自己的健康，健康组织提供有效的护理。该公司与领先的医疗保健提供者、组织和政府合作，以实现这一愿景。 Ada 平台在全球拥有 1100 万用户，