赛迪译丛：人工智能和数据伦理：从一般性指导原则到指导性原则

-1-2021年12月27日第45期总第518期人工智能和数据伦理：从一般性原则到指导性原则【译者按】2021年8月，大西洋理事会发布《人工智能和数据伦理：从一般性原则到指导性原则》研究报告。报告认为，人工智能和大数据运用面临着保证公平公正、隐私、自主、透明度和可说明性方面的挑战。报告分析了从一般性伦理概念和原则过渡到有指导性和实质性内容原则的重要性及难度，提出了实现公平公正性的指导性举措，包括从优化组织结构和治理模式、拓展视野与合作方式、加强培训与教育、注重伦理的应用实践、构建人工智能和数据伦理社区等。赛迪智库世界工业研究所对该报告进行了编译，期望对我国有关部门有所帮助。【关键词】人工智能数据伦理指导原则 -2-一、概述研究人员、企业、政策制定者和公众已普遍意识到，人工智能和大数据的运用面临着公平公正、隐私度、自主性、透明度和可说明性等方面的挑战，为此，人们越来越多地希望各种组织能够解决这些问题，但是现阶段仍缺乏对实际行动强有力的监管指导。为了应对上述问题，私营企业、非政府组织和政府实体等许多组织已经开始制定人工智能或数据伦理框架和原则，表明其致力于解决人工智能挑战的承诺和决心，最重要的是，如何切实推动这些框架和原则落地。确定一套伦理概念并利用它们制定一般原则是阐明人工智能和数据伦理的关键组成部分。此外，已经制定的许多框架之间存在相当大的趋同性，虽然这些框架的重点可能是个人、社会或系统（见表1），但它们都将围绕核心概念相互融合。目前基本伦理概念已达成共识，这表明我们在理解负责任的人工智能和大数据开发和应用方面已经取得进展。表1：规范概念个体导向社会导向系统导向隐私公平公正透明度自主民主可解释性包容性/可及性社会福祉责任性人工智能和数据伦理规则围绕若干伦理概念相聚合，其中一些概念重点关注个人利益 -3-和权利，如保护隐私、促进自主和确保可及性；另一些概念则聚焦社会问题，如促进公平公正、维护民主制度和提升社会福祉；还有一些概念侧重于技术系统的特性，如系统如何实现充分的透明度或可解释性，从而确保决策的清晰解读以及责任划分。不过，阐明价值观、伦理概念和一般原则只是应对人工智能和数据伦理挑战的第一步，而且在很多方面也是最简单的一步。相关声明文件虽然看似雄心勃勃，但实际上采纳成本很低，只能算是口头承诺。更艰巨的工作包括：具体说明概念、原则和承诺的实质性内容，即阐明公平公正、隐私度、自主性、透明度和可解释性在特定环境中的实际内容和要求；培养专有能力，在实践中实现这些概念、原则和承诺（各项任务的内容及其相互关联性见表2）。完成这些任务不仅需要纵向的努力和资源，还需要多学科专业知识的相互配合。在此过程中，各个组织需要确定行动的优先次序，修改现有的组织流程和结构，这也是落实指导原则的关键步骤。如果做不到这点，任何承诺或原则都只能是“伦理洗白”。人工智能和大数据的开发和应用将不可避免地存在伦理问题，面对这种困境，政策制定者、员工、消费者、客户和公众将认为相关行业未能充分履行自己的承诺。表2：从价值观到可行性承诺和评估标准伦理根据规范内容，通过治理来指定和满足价值观的工作治理在整个组织内部指定规范指导并根据具体情况加以应用的能力规范内容将基本价值观和核心概念转化为指导行动的具体规范和承诺的实施过程 -4-基本组织价值观核心概念原则承诺规范基础实施定义指出需要促进和保护的内容体现或代表基本组织价值观说明尊重概念和实现价值观的一般规范或指导原则描述遵守将要采用或实现的原则的具体方法提供衡量承诺实现水平的标准示例尊重个人，诚信为本，客户至上隐私、平等、公平公正、自主、民主、透明及可说明性不歧视、保护、包容、平等、正直行事无差别考量、资格推定、让利于顾客是否可以解释人工智能决策，不同群体实现客户服务需要多久本报告旨在实现以下目标：说明从一般伦理概念和原则到可以指导行动的实质性内容（以下称为规范内容）转变的重要性和复杂性；对相互关联的两个重要核心伦理概念，即公正以及透明度进行详细讨论；指出从一般伦理概念和原则转变为更具体的规范内容并最终实施这些内容的策略。“规范内容”定义“规范”一词共有两种用法。一种是作为描述性词语，用于说明行为特点；另一种是作为伦理性标准，用于规定应该做什么。通常情况下，应该做什么（规定性内容）与当前正在做什么（说明性内容）存在差异。人工智能和大数据的伦理规范及广泛运用需要有效的指导原则，因为目前的许多做法都存在问题。例如，在人工智能和大数据的开发和使用中，应避免存在长期歧视性做 -5-法和不平等对待。因此，规范内容指的是关于应该做什么样的指导。相比于单纯描述当前正在做什么，规范内容更是针对个人、团体和组织应该做什么所制定的合理标准、原则和实践。规范内容（从伦理和规定的意义上来看）最终基于社会和组织价值。本报告研究的则是将这些一般价值转化为具体的可行性指导和承诺的过程。因为具体的原则和承诺与情境密切相关，而且不同的价值观有时会彼此矛盾，所以这一过程并非易事。二、案例分析：生物伦理学中的知情同意对现有案例的反思有助于说明从一般伦理概念向指导行动的规范内容转变过程中所面临的挑战。知情同意（informedconsent）被广泛认为是医学伦理临床实践和研究的重要组成部分。但我们将要反思这一原则从何而来，有何含义以及实现这一原则需要什么。知情同意可以保护个体的自主权，因此被视为医学和人体研究的伦理实践要求。尊重个体的自主性意味着不操纵、不欺骗。自主权包括有权选择是否参与研究试验或接受医学治疗。知情同意是实际操作中尊重个人自主权的主要方式。那么，在实践中满足知情同意标准的要求是什么？当明确表示知情同意时，必须满 -6-足三个主要条件：披露、理解和自愿（见表3）。披露是指向患者、研究对象或其代理人说明具体情况，为他们将要作出的决定提供清晰、准确的相关信息。理解是指以患者、研究对象或其代理人能够理解的方式或形式向其呈现信息。自愿是指患者、研究对象或其代理人在没有不当影响或胁迫的情况下作出决定。披露、理解和自愿三个主要条件本身必须具备可操作性，这也是机构审查委员会、医院伦理委员会、专业组织和生物伦理学家的工作。他们负责制定能够满足知情同意条件的最佳实践、标准和流程，例如何种信息需要提供给潜在研究对象；对患者来说，什么程度的认识才构成理解；以及医生如何在提供专业意见的同时不对患者的决定产生不当影响。此外，标准和最佳实践可以且必须根据具体情境而定。例如，急诊和住院肯定采取不同的标准和最佳实践方式。知情同意原则在医学和研究中的应用已长达几十年，但为应对新问题、符合新重点和适应新情境，知情同意原则一直在不断改进，以确保能够保护个人自主权。知情同意原则旨在保护自主权的价值，表达对个人的尊重，而对知情同意原则的普遍承诺只是一个开始。我们必须清晰地阐明和实施这一原则，以使其在实践中发挥有效作用。人工智能和数据伦理原则也是如此。表3：在医学研究中尊重个人 -7-基本核心价值观核心伦理概念原则承诺说明尊重个人自主知情同意披露理解自愿维持研究对象的同意情境，汇报独立审查员的整体发现在临床医学和医学研究中，最基本的价值观是尊重个人，即尊重病人和研究对象，但若要弄清实现这一价值观的实际需求，就必须对其加以明确和落实。在医学中，尊重个人被理解为赋予个人自主选择权，这就需要患者或研究对象具备知情同意权。生物伦理学家、临床医生和研究人员已经在披露、理解和自愿等某些选择条件下，通过一系列具体实践，比如用病人的母语向其披露信息，保护研究对象的知情权以及清晰表述相关风险信息等，实现自主知情同意，从而实现对个人的尊重。生命伦理学中的知情同意案例为理解人工智能和数据伦理从一般伦理概念到实践指导的挑战提供了一些经验教训：从一般伦理概念（如公平公正、可解释性、隐私）到实践指导，首先需要明确规范内容（如明确一般原则并提供适合具体情境的操作流程）；指定规范内容通常需要确定旨在保护或促进知情同意的基本价值观；一般原则在实践中的具体要求可随具体情境不同而存在显著差别；一般伦理概念或原则的实施通常需要整合技术、伦理，及具体情境等各种专业知识；由于各种不可预测的新因素经常出现，我们需要在组织结构和实践的支持下，不断监测、评估和改进原则的执行流程和应用实践。基本核心价值观核心伦理概念原则承诺说明人工智能和数据伦理包括明确基本价值观和核心伦理概念，明确规范内容（一般原则和具体情境下的原则实施流程）以及在实践中的实施。图1：规范内容指定流程下文将重点讨论相互关联的人工智能和数据伦理概念（公平公正和透明性）从核心概念和原则到实施的复杂性。 -8-三、人工智能和机器学习中的公平公正人工智能与数据伦理中的公平公正问题公平和公正被广泛认为是人工智能和数据伦理的关键组成部分。其中一个原因是，许多案例已经表明，机器学习和自动决策系统会导致偏见、歧视或其他不平等的结果。比如，人工智能招聘广告系统会复制业已存在的种族、性别歧视及其他因素；医疗情景下的人工智能系统为非裔美国患者分配的风险评分低于白人患者，导致非裔患者获得日常护理或紧急护理的机会更低；面部识别系统存在种族偏见等。公正在人工智能和数据伦理中是一个至关重要的伦理因素，这已成为共识。机器学习、数据分析以及人工智能的应用至少不应加剧现有不公正现象或引发新的不公正现象。此外，人工智能/机器学习有可能通过发现和纠正当前决策系统中（通常是无意的）存在的偏见和歧视来减少不公平现象。“公平”与“公正”的含义在围绕人工智能和数据伦理的讨论中，“公平”和“公正”经常互换使用，这是为了囊括其包含的所有因素。当然，这些术语有时也拥有更具体的含义。如在研究这些问题的计算机科学家看来，“公平”通常指群体之间某种形式的平等。举例来说，如果一个算法系统在受保护群体中具有相同的准确率或假阳性率， -9-那么这个系统就是“公平的”。一个常见的问题是，这些形式的公平中的哪一种是在该情景下恰当的公平操作（因为通常不可能同时实现多种形式的公平）。在制度背景中，“公平”通常用于特定情境中的处理过程，而“公正”是指构成该情境的制度特征，如果系统缺乏公正性（以有利于某些团体而不利于另一些团体的方式组织系统），属于该系统的流程（如贷款或刑事司法）将是不公平的。总之，“公正”的概念存在复杂性，在不同的情境中可以指代不同的事物。为了确定公正在人工智能和数据使用具体情境中的要求，如在决定贷款申请、社会服务获取或医疗优先级时，有必要明确规范内容和潜在价值。只有这样才有可能说明具体情况下的需要，以及如何（或在何种程度上）在技术和科技社会系统中实现公正。（一）公正的价值和形式公正包含的基本价值是人的价值和政治地位的平等。该领域关注的是如何按照这些价值观组织社会、政治、经济以及其他体系和结构。若法律、制度、流程或算法未能体现这些价值，其便失去了公正性。因此，最普遍的公正原则就是所有人都应在社会、经济和政治制度以及流程中享受平等的尊重和重视。这些核心价值观和公正的普遍原则在很多方面与社会结构和 -10-制度相互关联。因此，如表4所示，我们拥有一套更加具体和多样的公正原则。表4：公正原则程序分配认知非歧视制度或决策流程不应对某些群体存在偏见。平等享有所有人应拥有享受相同/相似福利和服务的权利。平等对待无论属于何种群体，任何人都应被平等对待。机会平等所有人应拥有获得成功（如教育、社会或经济）的平等/相似的机会。利益分享为集体事业作出贡献的所有人都应有权分享集体成果。准确代表人们或其团体不应被误解。参与平等所有人应在社会和政治决策情境和流程中享有相似权利。良好地位所有人应享有较好（或起码体面）的社会和经济地位。包容人们或其团体（及其利益）不应被忽略或排除。劳有所得人们的社会和经济地位能够反映其努力和贡献。弱势群体优先实践和政策应优先考虑最弱势、最孤立无援或最需要的人。补偿性公正已经发生的不当行为造成的伤害应得到补偿或解决，从而避免产生进一步的伤害或未来的不利现象。每一条原则均涉及社会、政治或经济体制和结构，其中部分原则涉及体系运作流程（程序公正），部分原则关注结果（分配公正），还有部分原则关注个人感受（认知公正）。虽然促进