边缘设计以设计过程中最边缘化和受影响的人为中心——从构思到生产（英）

技术与公共事业部 O SE PRO JE CT从边缘设计以设计过程中最边缘化和受影响最大的人为中心——从构思到生产阿夫萨内·里戈特纸5 月 2 0 日 2 2 日 技术和公共目的项目贝尔弗科学与国际事务中心哈佛肯尼迪学院肯尼迪街 79 号马萨诸塞州剑桥市 02138belfercenter.org/project/technology-and-public- purpose本报告中表达的陈述和观点仅代表作者的观点，并不暗示哈佛大学、哈佛肯尼迪学院或贝尔弗科学与国际事务中心的认可。版权所有 2022，哈佛大学校长和研究员 纸5 月 2 0 日 2 2 日从边缘设计以设计过程中最边缘化和受影响最大的人为中心——从构思到生产阿夫萨内·里戈特技术与公共事业部 O SE PRO JE CT 关于技术和公共目的项目 (TAPP)创新进步的弧线已经到了拐点。确保它向公共利益倾斜是我们的责任。技术变革通过改善健康、生产力和便利性为数十亿人带来了不可估量的好处。然而，正如最近的事件所表明的那样，除非我们积极管理它们对社会的风险，否则新技术也可能带来无法预料的破坏性后果。使技术变革对所有人都有利是我们这个时代的关键挑战。我们自己——不仅是发现的逻辑和市场力量——必须管理它。为了创造一个技术为全人类服务、公共目的推动创新的未来，我们需要一种新的方法。由贝尔弗中心主任、麻省理工学院创新研究员和前任美国国防部长 Ash Carter，TAPP 项目致力于确保以服务于整体公共利益的方式开发和管理新兴技术。TAPP项目原则：1.技术的进步是不可避免的，它常常为一些人带来很大的进步。然而，不能保证所有人都能取得进展。我们有义务预见新兴技术带来的困境，并为它们找到解决方案。2.没有银弹；技术引发的公共困境的有效解决方案需要政府监管和技术部门自治相结合。正确的组合只能来自科技行业之间强大且值得信赖的联系和政府。3.确保公共目的推动创新的未来需要下一代技术领导者采取行动；我们必须培训和激励他们实施可持续解决方案并传递火炬。ii从边缘设计 关于作者阿夫萨内·里戈特是一名分析师、研究员、倡导者，涵盖法律、技术、LGBTQ、难民和人权等问题。她是 ARTICLE 19 的高级研究员，专注于中东和北非 (MENA) 人权问题和国际企业责任。她还是哈佛伯克曼克莱因中心 (BKC) 的附属机构和哈佛网络法律诊所的顾问。在第 19 条中，Afsaneh 继续领导关于技术对中东和北非地区 LGBTQ 人群影响的跨国研究，揭示警察和国家如何根据他们的身份使用技术来针对、骚扰和逮捕社区。独立地，她对在法庭起诉 LGBTQ 人群中使用数字证据和法律框架进行了首次研究。她更广泛的工作和她的研究提出了有关技术在其并非设计用于的环境中的影响以及技术的影响的问题西方中心主义对脆弱和/或难以到达的社区。它还着眼于如何与掌权公司进行建设性的合作。在她的 TAPP 奖学金期间，Afsaneh 将利用在实施公司变革方面的经验和知识，以受影响最大的人为中心，进一步发展她的方法和概念。她希望通过她所谓的“从边缘设计”重新定义我们设计主要通信工具的方式：一种方法论，要求偏离专注于“主要用例”的结构和设计流程。她的工作将强调基于那些受影响最大的人（通常被视为“边缘案例”）进行设计的必要性。这项工作驳斥了经常被重复的观点，即由于商业激励，公司不能被追究责任，设计实践不能从“最大的用例”转移，表明当受影响的社区得到有效咨询时，进步是可能的。贝尔弗科学与国际事务中心|哈佛肯尼迪学院三 目录示例 5：Facebook 采取措施保护缅甸的弱势用户 .46 示例 6：面向高危、边缘化和弱势群体的应用程序/工具按设计分组 47概念 .........................................................................................................................49第二阶段：放大偏心61贝尔弗科学与国际事务中心|哈佛肯尼迪学校v 玛丽亚·斯蒂勒的作品 1贝尔弗科学与国际事务中心|哈佛肯尼迪学院介绍在一个虚拟连接和日益依赖互联网进行日常活动的时代，包括边缘化群体，1公司和技术人员能否重新构建其功能或标准以支持最边缘化的群体？2 用户的需求？在创造技术时，是否可以倾听、学习和集中来自一些最边缘化群体的数字空间内的弹性模式？边缘设计 (DFM), 一个将受影响最大和边缘化的用户从构思到生产的设计过程，推动了这样一种观念，即这不仅可以而且必须完成，而且对所有用户和公司都非常有益。要做到这一点，消费者利益对话需要在“最大用例”场景以及美国和欧盟中心主义之外构建，并重新关注经常被边缘化的案例：去中心化案例.本报告概述了如何使用 DFM 方法为去中心化案例（通常被视为“边缘案例”）构建我们最知名和最可靠的技术3这是非典型或不太常见的产品用例）从设计过程的开始，而不是在部署后对其进行改造以满足社区的额外需求。1由于外部或内部的交流需求，通过诸如压迫性和歧视性法律、历史结构、社会污名和流行病等障碍放置。2边缘化是“[a] 个人或群体（有意或无意地）远离权力和资源的社会过程，并被构建为对社区或“主流”社会而言微不足道、边缘化或价值/特权较低的社会过程。该术语描述了一个社会过程，以免暗示缺乏代理。被边缘化的群体或人是那些被排除在主流社会、经济、文化或政治生活之外的人。边缘化群体的例子包括但不限于因种族、宗教、政治或文化群体、年龄、性别或财务状况而被排除在外的群体。然而，这些人群被边缘化的程度取决于具体情况，并取决于相关社交网站的文化组织。” Racialequitytools.org。 2021. 种族平等工具词汇表。 [在线] 可在：<https://www. raceequitytools.org/glossary> [2022 年 4 月 27 日访问]。3有关以下定义的更多信息，请参见 Decentered Cases: A Decentered Design 另请参阅：Say Yes!。 2022. 词汇存档-说是的！ [在线] 可在：<https://sayyeah.com/glossary/#edge-case> [2022 年 4 月 6 日访问]。 2从边缘设计为此，本研究中提出的理论指出，从边缘进行设计对所有人都有好处，并且为去中心化案例创建的内容将始终可以推广到更广泛的用户。这是 DFM 的重要组成部分。为这些案例量身定制的既定框架和设计可以进行微调并提供给更广泛的用户群，前提是您的工具、产品、平台、功能处于如果成功的衡量标准是基于它如何保护你最脆弱和被剥夺权利的人口统计数据，那么它是最可靠的。这需要深入研究、背景和细致入微的理解，并投资于建立不从边缘化和弱势群体中提取的设计和开发团队。这意味着现在作为公司框架存在的包容性或多样性是不够的：我们的举措应该致力于关注那些从构思过程到生产过程中受影响最大、风险最大和咨询最少的人的需求。这偏心的包括受影响最大和支持最少的亚群；他们往往是那些在社会中面临最高边缘化的人，没有法律、社会或政治支持结构。反过来，他们往往是最犯罪的，并且面临拥有技术的风险武器化对付他们。缺乏官方保护和支持基础设施的几个不同背景下的社区采用自我保护方法来应对他们面临的威胁和风险。他们对如何改进科技产品以保持根据以下分散案例中的定义：分散设计：去中心化被识别的用户作为那些在相关情况下面临最大风险和支持不足的人.与受到许多保护的普通用户、其他边缘化用户和有特定需求的用户（通常受到保护）相比，这些群体通常也是最受刑事犯罪的群体。去中心化这个名字的含义是，这些用户不应该处于边缘，而应该拥有中央权力——他们不仅因为更广泛的系统而被取代，而且还被开发和设计过程中的公司和技术所取代.该术语体现了运动的概念，并呼吁将去中心化的人转移到他们在这些过程中心的应有位置。 3贝尔弗科学与国际事务中心|哈佛肯尼迪学院然而，他们的社区更安全，其中包含为每个人构建更好工具的关键见解。毕竟，当您的产品涵盖了您面临最大风险和被剥夺权利的人时，我们都被涵盖了。“我们希望建筑师设计的建筑物和桥梁能够承受强风和重载4：我们也应该期望那些以产品为自由表达和获取信息的工具的公司设计敏感、有弹性的技术以造福所有人，无论他们是否面临政府镇压和社会污名。边缘设计可以改变现在为我们日常生活提供基础设施的应用程序和其他技术产品。”5直到今天，许多技术都是在它们不是为它们设计的环境中构建和扩展的；随着它们的扩张，它们正在造成大规模的危害。如果设计和开发过程从那些“边缘案例”或边缘开始，那么有一些策略可以减少危害——尤其是通过技术武器化进行的侵犯人权行为——并增加对用户的保护。从边缘设计是一种扭转的方法企业意志和“主要用户”关注点之间的一些权力关系这样我们就可以设计和开发正义和权利的技术，从而提高所有用户的正义和权利。从边缘设计并专注于偏心的设计过程不是为了增加资本主义的盈利能力，而是通过将注意力从被认为是主要电力用户的考虑不周的据点上移开来减少技术引起的危害6（但是，正如您将在下面看到的那样，通过关注边缘化社区需求使您的产品更加强大，即使后者不是动机，仍然存在利润动机。这一次，这不是以牺牲他们最边缘化的用户为代价的.) 有了这个建议，真正的高级用户是那些遇到系统结构缺陷和盲点的用户群，然后成为你的技术如何武器化它们的受害者。4尽管我们应该在这里指出，有许多建筑物的设计更多地是为了美观和实用性，而不是耐用性和安全性，这就是监管机构参与这些情况的原因。5杰西卡·弗杰德 (Jessica Fjield) 对 DFM 的引用，她是哈佛法学院法律讲师和伯克曼克莱因互联网与社会中心网络法律诊所的助理主任：https://twitter.com/jessicafjeld。6Abercrombie, R.，2022 年。高级用户的问题 - 可用性极客。 [在线] 可用性极客。可在：<https://usabilitygeek.com/problem-with-power-users/> [2022 年 4 月 5 日访问]。 4从边缘设计报告的目标是谁？重新构想这些从构思到部署的流程的呼吁不仅针对科技公司的设计团队，还针对所有参与这些技术构建过程的人：工程师、用户体验设计师、政策负责人、产品经理等。每个玩家都是产品不同部分的关键或工具被开发出来——每个策略或代码都有无数的优势后果，尤其是在安全或隐私方面。尽管有些团队会比其他团队更多地参与其中，但应该为团队的各个方面提供更广泛的问题和背景。我，本报告的作者，不是开发人员、设计师或工程师。我是一名研究人员、倡导者和实践者，专注于因缺乏隐私和安全而导致的与技术相关的危害和侵犯人权行为。我亲眼目睹了考虑不周或研究不足的技术对边缘化社区的危险和影响，因为它们扩展到了它们原本不适合的环境。多年来，我与包括我自己在内的许多社区合作，以寻找安全网、缓解方法，我已经推动了公司的变革。本报告针对从有利的角度向技术建设者展示我们主要技术的设计、开发和部署方法中缺少最边缘化用户的安全和隐私需求。 5贝尔弗科学与国际事务中心|哈佛肯尼迪学院从边缘演变设计的定义学者金伯勒·克伦肖（Kimberlé Crenshaw）的以下话语教会了我们一个根本性的重新构想：“目标 [] 应该是促进边缘化群体的包容，对他们来说：‘当他们进入时，我们都进入。’”7 同样的想法也适用于我们生活中的大部分框架和周围的技术：“当它们被设计时，我们都是为之而设计的。”8图片1:从边缘设计。工作标志之一。7Crenshaw, Kimberle () “种族和性别交叉的边缘化：对反歧视主义、女权主义理论和反种族主义政治的黑人女权主义批判”，芝加哥大学法律论坛：卷。 1989 年：伊斯。 1，第 8 条。见：http://chicagounbound.uchicago.edu/uclf/vol1989/iss1/8。8通过 Kend