面部识别用例责任限制政策框架：执法调查（2022年修订）（英）
一个政策框架负责任的限制面部识别用例:执法调查我N S G H T E P O R TR E V I S E D N O E M B E R 2 0 2 2 特别感谢和欣赏:负责任限制面部识别的政策框架用例:执法部门调查2 图片:盖蒂图片社,Unsplash内容前言45介绍方法81 执法调查：用例和定义10192734363841两个原则3自我评估问卷结论术语表贡献者尾注免责声明本文发表的世界经济论坛是一个贡献一个项目,了解区域或交互。结果,解释和结论表示这是一个结果的帮助和协作过程了世界经济论坛的支持但其结果不一定代表世界经济的观点论坛,也不是其成员的整体,合作伙伴或其他利益相关者。©2022世界经济论坛,犯罪司法所国际刑警组织和荷兰警察。所有版权。没有这个出版物的一部分可以复制或传播任何形式或通过任何方式,包括复印和记录,或由任何信息存储和检索系统。负责任限制面部识别的政策框架用例:执法部门调查3 2022年11月负责任的政策框架限制面部识别用例:执法部门调查前言Irakli Beridze人为中心的负责人智能和机器人技术,犯罪司法所Marjolein Smit-Arnold Bik头的特殊业务部门,荷兰警方凯Firth-Butterfield的人工智能机器学习;成员执行委员会,世界经济论坛西里尔痛风主管业务支持和分析,国际刑警组织远程生物识别技术，尤其是面部技术认可 – 在近年来安全部门。的准确性这些技术随着深入学习算法的进步,越来越多大量的训练数据和访问压力减少偏差值可以忽略不计。联合国组织(国际刑警组织)区域间犯罪和司法研究所(犯罪司法所)和荷兰警方应对这一挑战的全球联盟带来的问题在法律中使用FRT负责国际执法调查议程。我们还与一个社区专家组成的政府、公民社会和学术界通过收集他们的见解协商进程，并试行了我们提议的框架与执法机构确保我们提出可以真正的工作操作的执法环境。和它。这种技术的出现是一次当越来越多的执法机构预期解决更加复杂通常跨国犯罪和开展调查迅速(通常是有限的资源。在一个领域中表现不佳可以是一个生死的问题,工具,如人脸识别技术可以大大受益执法部门调查。但是,不当实现或不实现这一观点报告提出了一系列的建议在法律中使用面部识别的原则执法调查以及自我评估问卷旨在支持执法机构设计策略周围FRT和审查现有的使用政策符合该原则。考虑其后果，面部识别技术(FRT)可能会导致巨大的弊端人权和公民造成损害,尤其是缺医少药社区。这只是法律对话的开始执法部门对FRT的使用，但我们相信这种独特的方法可以是一个重要的求婚对执法界的贡献帮助为全球的公众辩论提供信息。我们鼓励执法机构和国家一级的决策者对此进行反思论文，在此基础上参与对话并审查或通过支持《公约》的立法使用面部识别技术负责。毫无疑问,FRT的快速应用多重关注点，主要与可能性有关它有可能破坏自由和权利隐私。与此同时，还有一个越来越强调政策到位地址和缓解这些风险。与本文的创作世界经济论坛,国际刑事警察负责任限制面部识别的政策框架用例:执法部门调查4 介绍在过去的十年中,人工的进展2020年11月,第二个一工作流程成立,专注于执法背景- - - - - -支持的识别人通过对比探测到一个或形象多个参考数据库来推进一个警察调查。而执法利用生物特征数据,如指纹、DNA,进行调查，FRT是一个新的机会对执法部门和挑战。智能(人工智能)和传感器已经推动了面部识别技术（FRT）的发展——软件匹配的人脸的能力针对数据库的数字图像或视频帧的面部图像。这导致其迅速采用在各种行业,包括执法、交通、医疗和银行业。FRT带来了相当大的发展对社会有益的用途的机会。例如它可以在face-unlock找到应用程序机制在移动设备,允许他们进入音乐会和体育赛事，以及出勤跟踪员工和学生。但它也创造了独特的挑战。充分把握这些挑战和他们可能需要权衡并建立适当的治理过程,它是必要的方法FRT部署通过检查特定的应用程序。事实上,通过机场的边境控制使用人脸识别，使用基于人脸的广告在零售业或采用面部识别解决方案执法调查涉及非常不同的利益和风险。的挑战,被执法部门使用提出了多个公众关切,为主因为带来的潜在威胁系统错误或误用在这一领域。一项研究在2019年进行的研究所标准与技术(NIST)表明,尽管一些面部识别算法“察觉”方面的差异跨种族准确性,其他展览基于人口的性能缺陷性别和种族等特点。法律3执法机关应该意识到这些潜在的性能缺陷和实现适当的治理过程,以减轻他们。在这一过程中,他们会限制的风险假阳性或假阴性和可能基于输出错误逮捕的人从一个FRT系统。建立在这样的失败过程可能产生戏剧性的后果。例如,2018年在美国,一个无辜的非洲裔美国人被逮捕因被错误识别而被拘留作为盗窃调查的嫌疑人，其中 FRT确保可靠和安全的部署这种技术的跨领域,世界经济论坛已经率先开展了全球多利益相关方政策倡议，以设计稳健的产品治理框架。论坛推出了首先在2019年4月一工作流程,关注流动而法律执行一直在使用生物特征数据,如指纹或DNA,进行调查,FRT是一个新的管理应用程序——取代门票1面部识别访问物理前提或公共交通，如火车站台或机场。这一工作流程是在2020年12月结束随着测试评估问卷的发布通过Tokyo-Narita机场,一个审计框架和协同设计与使用一个认证方案是使用。除了阻碍权利等4无罪推定的,正确的通过公平审判和正当程序，FRT的使用执法机构也可以破坏言论自由、集会自由和机会和挑战法律执行。认证（法国标准化协会）。2协会和隐私权。5负责任限制面部识别的政策框架用例:执法部门调查5 这些问题导致了政策全球活动。仅在美国，一些本地和政府已经禁止使用FRT由公共机构,包括执法。此外,美国大型科技公司还就这一主题制定了立场。在唤醒中2020年一系列事件增加了不信任向警察机构在美国和世界范围内,包括去年Clearview AI争议,17IBM宣布将不再提供、开发或研究FRT，而微软承诺停止销售FRT执法机构在美国,直到介绍了联邦监管。182022年,微软更进一步，对所有人施加新的限制和保障措施使用 FRT 作为更广泛的 AI 原则的一部分。192021年,亚马逊网络服务(AWS)主要城市如旧金山、和波士顿已经采取了这样的措施。在国家层面,阿拉巴马州,科罗拉多州,10缅因州,116奥克兰789马萨诸塞州,12维吉尼亚州13和华盛顿14都制定了立法来规范其使用。最后,在联邦政府层面,各种账单15——包括最近2022年的面部识别法,介绍了2022年9月16——已经提出规范FRT但没有一个采用这个日期。延长暂停警方使用其平台Rekognition,最初在2020年实施。20在其他司法管辖区，政策制定者正在尝试将 FRT 的使用限制在非常具体的用例中与强劲的问责机制为了防止潜在的可能导致的错误错误逮捕。提出的方向在2021年,欧盟委员会(European Commission)发布了人工智能法案草案21——一个综合分类监管的建议四种不同风险类别下的人工智能应用具体要求。22这个提议包括规定远程生物识别系统,其中包括FRT。州吗人工智能系统旨在用于“实时”和“发布”自然人的远程生物识别代表高风险应用程序，需要一个事前合格评定技术提供者在获得欧盟市场和一个事后符合性评估在他们的系统操作。此外,“实时”远程生物识别系统出于法律目的在公共可访问的空间中执行是被禁止的,除非他们非常服务与公共安全相关的有限例外（例如防止迫在眉睫的恐怖主义威胁或有针对性的寻找失踪人员)。为了进入然而,生效,欧盟委员会(European Commission)的建议将首先需要通过的欧盟议会和理事会欧盟。在联合国,类似的方法新兴,高级专员办公室人权公署提出报告23在2021年到右边的人权理事会数字时代的隐私，它建议禁止不能用于人工智能应用程序符合国际人权法。与特定的使用FRT由法律规定的执法,国家安全、刑事司法和边境管理,报告说远程生物特征识别显著增加国家当局系统地处理能力负责任限制面部识别的政策框架用例:执法部门调查6 除了提供实际的指导和识别和跟踪个人在公共场所,破坏人们的能力未被观察到的生活并导致直接负面对行使自由权的影响表达和平集会和结社，以及自由运动。该报告还重申要求暂停使用远程生物特征识别在公共场所至少在当局能够证明存在没有重大的准确性或歧视性问题这些人工智能系统的影响,符合健壮的隐私和个人数据的保护标准。尽管有这些进展,多数政府世界各地继续解决FRT提出的挑战的野心这项工作是加强他们的努力克服他们,法律和政策的支持全球制造商设计可操作的治理框架,解决的关键政策考虑,等的必要性特定目的的性能评估授权解决方案、采购流程执法机构的培训专业人士和链的维护命令紧急情况下.法律支持执行和决策者、这个治理框架寻求告知公众讨论使用FRT。法院也开始发挥重要作用在塑造FRT政策议程。2021年,在巴西圣保罗法院封锁24的部署的FRT公共交通系统。这被认为是民权的重大胜利反对越来越多地使用FRT的组织由公共机构。在英国的类似案例中，虽然上诉法院发现的部署警方的自动化FRT确实有法律依据在普通法,其使用的南威尔士警察在特定事件和公共场所非法的,因为它没有足够的定义可以在观察列表中以及可以使用它的位置。25为了达到这个目标,世界经济论坛,国际刑事警察组织（刑警组织），联合国区域间犯罪和司法研究所(犯罪司法所)和荷兰警方召开多方参与社区集中在合作设计一组原则,概述什么是使用FRT负责执法调查。这些原则是陪同通过自我评估问卷调查的支持执法机构设计策略周围FRT和审查现有的使用政策符合该原则。在一些国家,政府已经采用了一种谨慎的做法。一直是这样荷兰。2019年,司法部长和安全寄一封信给成员议会通知他们现有的使用FRT的执法机构和重申他支持强劲的治理过程关于这个敏感技术。26此外,他认为,和现有的法律框架技术和组织保障措施包括足够坚固，以确保负责任地使用FRT执法机构。尽管如此,他要求额外的隐私，道德和人类在授权任何权利的影响评估FRT进一步使用或者飞行员。除了提供实际的指导和支持执法和决策者,这种治理框架旨在告知公众关于在国家、区域使用FRT的辩论和国际层面，并提供可操作的框架来最大化FRT而带来的好处减轻风险。而政策框架提出了文件并不是唯一的此类政策指导域，它试图提出一个独特的提案建立具有国际视野，结合多利益相关方方法，包括执法，行业和公民社会的发展。负责任限制面部识别的政策框架用例:执法部门调查7 方法在过去的三年里，人工智能/机器学习(AI /毫升)世界的平台经济论坛一直在进行一项政策关于FRT治理的倡议。目标这一举措是创造一个适当的空间进行对话以推进政策的起草有关生物技术的使用。方法,本质上,由一个合作伙伴和一个扩展的核心社区专家共同引领全球社区一个试点项目的发展。这pilot-based决策方法已被采用因为它被认为有潜力更好通知和指导用户和执法活动政策制定者寻求确保适当的FRT治理。基于一个多方参与的方法核心社区和社区项目总共主动把世界经济论坛与国际刑警组织和荷兰警察-两种用户的FRT和犯罪司法所联合国家实体支持联合国授权成员国在制定和实施改进预防犯罪领域的政策和刑事司法。以提议为目的一个政策框架,这个核心社区聚集几乎每周都在2021年1月之间2022年10月。启动项目,试图获得吗64人参与这项目社区,代表技术公司,政府与国际组织中,公民社会和学术界。的见解关于使用相关的风险的FRT执法和潜力缓解它们的解决方案。第二次磋商被要求评论的草案使用FRT负责法律原则实施调查。项目社区被分配一个月分享评论吗该提案。随后，四位专家访谈组织收集额外的见解。在总共有10个组织和专家来自该项目社区共享评价草案核心社区纳入修订草案的原则。另外社区组织的核心与广大利益攸关方群体的磋商-项目社区进一步受益更广泛的专业知识和见解。共64人参与本项目社区，代表科技公司,政府和整个项目是在进行的查塔姆研究所的规则,即参与者免费使用收到的信息，但既不能身份或演讲者的隶属关系，也不其他参与者,可能显示。27国际
