人脸识别技术：负责任的使用原则和立法前景

2021年9月面部识别技术负责任使用原则和立法环境由詹姆斯·a . Lewis &威廉小野人面部识别技术：负责任使用原则面部识别技术（FRT）的讨论正值一个充满政治色彩的时刻。在讨论FRT时提出的一些问题是基于错误的信息。为了解决合理的问题，FRT的使用必须明显符合宪法保护，这需要明确的护栏 - 法律，规则和政策 - 使用FRT。这些护栏最好由国会制定，以提供一致的国家规则。FRT讨论中的混乱和错误信息程度令人震惊。鉴于研究文献通常是不透明的，其中一些是可以理解的，但必须更好地了解对FRT的公开讨论。FRT正在迅速改善，任何基于几年前数据的批评都有完全错误的风险。确定准确性和偏见问题的基本真相 - 目前供不应求的东西 - 对于良好的政策至关重要。对FRT的批评往往是基于对技术的误解。改变这种情况的一个很好的起点是澄清FRT和面部特征之间的区别。FRT 比较两个图像，并询问一个图像与另一个图像相同的可能性有多大。最好的FRT是比人类更准确在匹配图像。相比之下，“面部分析”或“面部特征”检查图像，然后尝试通过性别、年龄或种族来表征它。对FRT的大部分批评实际上是关于面部特征的。关于FRT不准确的说法要么已经过时，要么错误地谈论面部特征。当然，准确性取决于如何使用FRT。当图像质量较差时，准确性较低，但通常仍优于普通人。一个2021年的报告美国国家标准与技术研究院（NIST）发现，准确性大大提高，更准确的系统不太可能基于种族或性别出错。这种混乱阻碍了有效规则的发展。 面部识别技术：负责任使用原则和立法环境 | 页2有些人想禁止FRT，但由于对消费者的便利和对公共安全的好处，它将继续开发和部署。传感器和人工智能（AI）的持续进步将提高用于面部识别的技术的可用性和性能。停止FRT的发展需要停止人工智能的发展，这既不可能，也不符合国家利益。本报告提供了指导民用法律法规制定的护栏清单。护栏FRT需要嵌入到一个强有力的监管框架中。已经有实质性的工作在这个领域。规则因用例而异。这些规则可分为三大类：商业用途、一般政府使用和执法使用。以下部分提供了指导规则制定的原则，以确保FRT的负责任使用。本报告没有涉及的一个主题是国防和情报的使用。这些已经受到法律和道德准则其中包括对美国人的实质性保护，并为公共安全提供重大利益。允许使用:FRT只能以符合宪法对公民自由和公民权利的保护的方式使用。确保这一点的最佳方法是通过立法和法规，以符合这些权利的方式概述具体的FRT用途。对于执法部门来说，这可以借鉴为其他调查技术（如通信监控）开发的保护措施。其他政府用途也可以建立有关数据使用和保留的现有法律体系。规则因用例而异，例如 FRT 是否用于身份身份验证、取证或监视。将FRT用于商业目的不会产生同样的风险，但表明国会需要制定国家隐私立法。透明度:透明度意味着决定何时以及如何通知公众正在使用FRT。对透明度的要求将因用例而异，并将受到人们合理期望隐私的“公共”或“私人”情况的决定的影响。国内没有不需要透明度的用例。透明度要求可能包括年度报告、公开咨询，并公开有关如何使用FRT的信息。定期报告使用情况和影响声明对于确保使用符合法律和法规很有价值。同意和授权:在民主制度中，公众同意的基本要素是民选官员、立法机构和法院的行动。在联邦一级，作为人民的合法代表，国会负有主要责任。国会需要制定FRT的规则，法院需要决定这些规则是否符合宪法保护并得到公平应用。某些FRT的使用需要受试者的同意。这可能是默示的同意，就像您进入对FRT使用透明的商店一样。其他用途可能需要搜查令或其他法院批准才能使用。规则可以澄清何时需要授权才能使用FRT。在个人层面上，确保有适当的机制来选择加入或选择退出FRT的使用而不会受到处罚，这需要同意。例如，在机场，如果一个人愿意，他们应该可以选择排队等候。数据保留:一个令人担忧的原因是，为一个目的收集的图像随后在未经同意或透明的情况下被用于另一个目的。必须有明确的规则来定义何时可以存储图像、存储多长时间以及在什么条件下可以使用任何存储的图像。自主的使用:一个值得关注的领域是FRT（以及一般的AI）将在没有人工输入的情况下做出决策。当用于身份认证时，例如在获得联邦福利或边境出入境过程中，只要使用透明，FRT 就可以自主，有能力 詹姆斯·a·路易斯和威廉小野人|页面3选择退出那些选择这样做的人，以及适当的监督和纠正机制。海关和边境巡逻队在入境点使用FRT已经受到管制，这是一个值得关注的成功故事。在执法中，FRT不是无需进一步调查和分析即可接受结果的灵丹妙药。立法应确保这一点。纠正和补救措施:一些FRT用例提出了类似于首次使用“禁飞”列表时遇到的问题。与前面的清单一样，解决方案是提供易于访问的上诉和补救流程，并反复改进技术。虽然向法院提出上诉是补救的最终补救办法，但应该有行政程序，以便迅速纠正错误。监督和审核:对使用FRT的担忧可以通过适当的监督和审计来解决。民选官员和法院对此负有主要责任。授权使用FRT的每一级政府都需要一些监督机制。在许多在这种情况下，FRT的使用需要伴随着对隐私影响的一些评估，无论是在部署之前还是在部署后的定期。系统性能审核还应审查并公开有关准确性的信息。作为任何部署的一部分，都应要求对使用情况进行年度公开报告。算法的点评:与任何新技术一样，FRT 的改进是迭代的。2017 年至 2021 年间，错误率急剧下降。这反映了算法的改进。要求机构经常“刷新”他们使用的FRT以利用新的或改进的算法对于进一步减少错误至关重要。关于正在使用哪种算法及其准确性的透明度有助于增加信任并激励性能。由于现有算法的性能差异很大，国会可能希望为敏感应用建立精度阈值（基于NIST的最新工作）。训练数据:一些FRT使用AI，必须在庞大的图像数据集上进行“训练”。其中一些数据集是通过“抓取”互联网来收集人脸图像而创建的，通常未经所有者同意。这种收集并不违法，但人们越来越担心这是不道德的。培训数据的收集应遵守要求透明度和同意的规则，以便在使用中进行监督。在许多情况下，FRT的使用需要伴随着对隐私影响的一些评估，无论是在部署之前还是在部署后的定期。系统性能审核还应审查并公开有关准确性的信息。推进FRT如果目标是简单地阻止使用任何FRT，则该目标是无法实现的。对于执法以外的商业和政府用途，人们会重视FRT提供的便利性和效率，从而导致需求增加。地方政府无权禁止联邦用于国防，鉴于公共安全和国家安全的风险，国会不太可能这样做。公众对犯罪和安全的日益关注也将提高公民对FRT使用的需求。为面部识别制定规则和监督是一项必要的任务，应该以平衡隐私问题与公共安全和便利的方式进行。FRT提供更大的便利 面部识别技术：负责任使用原则和立法环境 | 页4为消费者，提高公共安全。随着它的不断改进，它的使用也将增加。一旦排除FRT和面部特征之间的混淆，使用的风险就很小。通过设置正确的护栏，可以进一步减少这些情况。这不是美国第一次不得不为一项新技术建立监管框架。最好避免的是因州和城市而异的法规拼凑在一起。对FRT的担忧导致美国许多司法管辖区制定了自己的规则和法规。在联邦政府不采取行动的情况下，这种趋势可能会继续下去，导致监管分散和不确定性，减缓创新，并为消费者和公共安全带来成本。已经有使用FRT的门铃示例，在大多数州都允许，但不能在其中销售，因为它违反了该州的规定。涵盖FRT不同用途（商业，政府和执法）的国家立法是最有效的方法。本报告对综合国家框架的建议借鉴了对地方、州和联邦层面 FRT 立法的审查。下一节将探讨美国各地拟议和颁布的FRT政策的立法环境。面部识别技术：美国立法格局本节首先调查了联邦、州和地方各级政策制定者最近为规范政府运营商使用 FRT 而采取的行动，然后继续研究不同司法管辖区完全禁止政府机构使用该技术的尝试。然后，报告接着审查了规范和禁止商业经营者使用这种行为的努力。政府监管的面部识别使用迄今为止，监管工作的主要重点是制定规则来管理政府运营商（尤其是执法机构）如何使用FRT。联邦、州和地方各级已经做出了许多努力，以制定规则来指导如何使用该技术并确保负责任地部署该技术。本报告的研究确定了州一级的三项主要立法和地方一级的九项主要立法，这些立法已经颁布以规范FRT的使用。这些列在附录1中，以及20项拟议的州立法。该表还包括本届国会的一项拟议法案和上届国会的五项法案，这些法案提供了联邦立法者在不久的将来可能如何处理这些问题的指标。这些拟议的法律范围广泛。有些只试图管理某些狭窄的用例，例如将面部识别应用于随身摄像机镜头，而另一些则试图形成一个全面的治理制度。这些法律涵盖的主题包括FRT部署的授权和监督，对技术使用环境的限制，操作员的透明度要求，衡量系统性能的测试以及人工审查的要求。授权和监督监管的一个共同目标是建立新的流程来授权和监督政府FRT系统的部署。法规寻求实现这一目标的主要方式有三种。 詹姆斯·a·路易斯和威廉小野人|页面5首先是要求运营商在购买和安装面部识别系统之前获得立法机构的许可。除纽约外，表1中列出的每个城市都采用了这种方法，并要求各机构在购买面部识别系统之前获得市议会的批准。1在州一级,亚利桑那州的立法提议《关于监控技术》是目前唯一一个法案的例子，该法案将强制要求州和地方当局进行这一批准程序。华盛顿的法律要求各机构在采购FRT系统之前向立法机构提交意向通知。通知要求与要求授权不同，但通知程序为市议会和州立法者提供了对他们认为令人反感的拟议用途采取行动的机会。建立监督的第二种方法是仅授权少数组织使用面部识别（通常是州警察和监督州驾驶执照和身份证登记的机构）。如果任何其他机构想要进行面部识别搜索，他们需要向为数不多的授权运营商之一提交请求。这减少了拥有面部识别系统的组织数量，并更容易建立一致的方法管理技术的使用。最近通过的法律麻萨诸塞州和犹他州采取了这种方法，要求所有地方警察部门向国家机构提交书面请求，然后由国家机构决定是否代表他们进行搜查。最后，许多司法管辖区通过要求执法人员在使用面部识别之前获得搜查令或法院命令来实施司法监督。麻萨诸塞州，例如，刑事调查中使用的任何面部识别搜索都需要搜查令。肯塔基州和路易斯安那州目前，双方都在考虑立法，实施类似措施。在联邦一级，第116届国会期间提出了两项法案（S.3284和H.R.4021）将为联邦执法部门进行的面部识别搜索创建搜查令要求。其他政策将法院授权要求扩大到访问通过面部识别收集的数据。在纽约任何国家机构或承包商都需要法院授权才能保留面部识别图像或与第三方共享这些图像。一些法规只规定了持续监视和实时识别的授权要求。这方面的一个例子是华盛顿的面部识别法，以及目前正在辩论的立法明尼苏达州.在联邦一级，第116届国会期间提出的立法（S.2878)将同样在联邦执法人员可以使用FRT进行持续监视之前，需要搜查令。一些州根据所搜索图像的来源实施不同的标准。例如，拟议的法案爱荷华州,堪萨斯,密歇根需要与警察随身摄像机一起使用的 FRT 搜查令。麻萨诸塞州目前正在考虑一项提案，禁止对无人机收集的数据使用面部识别，除非获得授权令的授权。在路易斯安那州，拟议的法案将要求法院命令所有涉及该州驾驶执照数据库的搜索（但不包括涉及逮捕记录的搜索）。更严格的版本是拟议的法案新汉普郡，这将维持该州目前禁止在驾驶执照照片上使用面部识别的禁令，同时允许在获得搜查令后搜索其他数据库。2020年警务正义法（S.3912）将在联邦一级施加类似的要求。1圣克拉拉,劳伦斯, 匹兹堡,纳什维尔允许有限的例外的要求。 面部识别技术：负责任使用原则和立法环境 | 页6这三种方法并不相互排斥。一些司法管辖区使用组合来提供额外的保障措施。麻萨诸塞州，例如，两者都限制了哪些机构可以进行面部识别搜索，并在进行搜索之前要求搜查令。使用限制FRT法规的一个重要目标是澄清可以使用和不能使用FRT的情况。许多法规通过明确列出政府运营商可以使用FRT的目的并禁止超出该范围的使用来解决这个问题。拟议的法案夏威夷例如，只允许执法机构使用FRT为目击者创建照片阵容，或将监控照片与逮捕记录（但不是