设计民主：2021年对技术非法使用的肯定回应

2020 年 12 月设计民主对 2021 年不自由使用技术的肯定回应卡拉 · 弗雷德里克 Acknowledgments作者感谢 Sheena Greitens （ 德克萨斯大学奥斯汀分校 ） ， Nicole Wong （ Albright Stonebridge Group ） ， Laura Rosenberger （ 安全民主联盟 ） ， Andrew Imbrie （ 安全与新兴技术中心 ）在乔治敦大学 ） ， Shanthi Khalil （ 国家民主基金会 ） ， Aynne Kokas （ 弗吉尼亚大学 ） ， 国务院 ， Facebook 和 Google 提供了周到的反馈和建议。特别感谢新美国安全中心 （ CNAS ） 数字自由论坛的成员 ， 他们的见解有助于塑造我们分析的范围和广度。数字自由论坛是一项两党合作的努力 ， 汇集了不同的利益相关者 ， 以确定如何美国应回应国外对技术的不自由使用 ， 同时推进数字领域的自由和开放价值观。本报告中表达的观点仅是作者的观点 ， 并不代表论坛或其成员的观点。感谢 Mara McCarthy，Pal Scharre，Elsa Kaia，Martij Rasser，Aiii Riioe 和 Mega Lamberth 对草案各个阶段的评论和澄清对话。Mara McCarthy，Emma Swislow 和 Melody Coo 在编辑和图形设计方面提供了出色的帮助。最后，CNAS 要感谢 Qadrivim 基金会对这一举措和其他数字自由举措的慷慨支持。关于作者卡拉 · 弗雷德里克是新美国安全中心 （ CNAS ） 技术与国家安全计划的研究员。她的研究重点是高科技的自由主义 ， 外国影响力行动和数字监控。卡拉的分析和评论发表在《华尔街日报》、《纽约时报》、《华盛顿邮报》、《外交政策》和《经济学人》上。她曾在参议院司法犯罪和恐怖主义问题小组委员会作证 ， 是华盛顿特区乔治华盛顿大学艾略特国际事务学院技术和国际事务讲师在加入 CNAS 之前，Kara 帮助创建并领导了 Faceboo 的全球安全反恐分析计划。她还是位于加利福尼亚州门洛帕克的 Faceboo 总部区域情报团队的团队负责人。在加入 Faceboo 之前，她曾担任美国高级情报分析师。S.海军特种作战司令部，在国防部担任反恐分析员六年。在国防部期间，她曾三次向阿富汗部署以支持特种作战部队，担任负责特种作战 / 低强度冲突的助理国防部长的简报，并担任国家安全局的联络人。她从伦敦国王学院获得了战争研究硕士学位 ， 并从弗吉尼亚大学获得了外交和历史学士学位。美国竞争 2020America Competes 2020 是一项全中心计划 ， 旨在加强美国在国内外的战略优势 ， 包括前沿的 CNAS 研究、出版物、活动和多媒体。 TABLE OF CONTENTS01执行摘要02建议摘要05Introduction06通过现有的联邦机制解决系统性风险08对技术支持的侵犯人权行为施加成本10建立数字自由的肯定议程14Conclusion 技术与国家安全 | 12 月 2020设计民主 ： 对 2021 年不自由使用技术的肯定回应1A中国电信公司华为试图建立世界上许多下一代无线网络 ， 以国家安全问题为由 ， 激发了民主国家的回击。在这里 ， 该公司于 2019 年在中国深圳的华为园区展示了面部识别摄像头。 （ Kevin Frayer / Getty Images ）执行摘要民主国家和独裁国家之间的全球竞争正在数字领域展开。技术将改变自由 ， 开放的社会与封闭 ， 镇压的政权之间的平衡。与美国直接竞争的民族国家试图通过根据自己的意愿塑造现有的数字秩序来投射全球影响力。在国内不自由使用技术的冲动可能会削弱个人自由 ， 限制机会并侵蚀真正开放的社会。民主国家还没有应对这一问题的模式。在美国 ， 解决方案的路线图必须从一个基本问题开始: 美国科技公司应该如何 ，在美国政府的帮助下 ， 应对国外专制行为者对技术的不自由使用 ？ 本报告通过确定包含政府、科技部门、公民社会和学术界投入的具体行动和威胁缓解策略来解决这个问题。它提供了解决固有系统性风险的起点在与专制政权打交道时 ， 还研究了对那些参与技术侵犯人权的同谋的人的成本强加。然而 ， 从长远来看 ， 仅旨在阻止不自由使用技术的战略将失败。相反 ，U.S.政府和科技公司都必须招募民主盟友，以推动在全球范围内促进数字自由的积极议程。这份报告提出了一个议程，强调美国及其技术公司的隐私领导力。它确认了美国的合作领域S.盟友和民主伙伴，如数字贸易、外国执法要求数据和技术标准。这份报告的肯定议程也包含了对美国的当务之急S.科技公司将建立面向数字自由的商业规范，并在自己的队伍中激励透明度。为了使数字自由胜过技术的专制使用 ， 民主国家必须提供更好的东西。他们必须共同建立全球技术使用的替代模型。这些建议从美国开始建立了民主案例。 @ CNASDC2建议摘要通过现有的联邦机制解决系统性风险为了帮助美国私营公司应对在海外经营时的系统性风险 ， 美国国务院 （ DoS ） 应 ：◾将东道国的数字实践纳入其年度《人权实践国家报告》 ， 也称为《人权报告》。◾与商务部合作 ， 更新其国家商业指南 ， 以纳入一系列国外专制数字实践的关键指标。◾每年更新国家商业指南 ， 以包括这些新指标 ， 以及民间社会和科技行业愿意的合作伙伴的反馈。◾每两年与美国科技公司举行一次正式磋商 ， 讨论提供与协助威权政府相关的风险信息的效用。◾与商务部和其他相关机构合作 ， 定期更新其基于风险的监管技术尽职调查合规框架。◾采取步骤 ， 使人权最终使用应有的勤奋合规具有法律约束力 ， 而不是自愿的。这包括与商务部工业和安全局 （ BIS ） 协调 ， 以扩大基于最终用途的出口管制。1为了应对系统性风险 ， 美国大学应考虑以下行动方案 ：◾根据参与这些国家所产生的系统性风险指标以及由于 COVID - 19 大流行而转向在线学习的情况 ， 重新思考与专制国家的接触。2◾遵守美国政府基于国务院的最终用途和商务部的实体清单的人权指导。◾通过建立内部人权研究审查委员会 ， 对个人 ， 组织和学术研究的最终用途进行尽职调查。◾将人权标准和培训纳入商业和工程课程。◾制定评估资金来源和研究合作中国家安全风险的准则。对技术支持的侵犯人权行为施加成本为了对实施技术支持的侵犯人权行为者施加成本 ， 美国政府 （ 指定的立法 ， 行政和联邦机构 ） 应该 ：◾审核当前的决策过程，以告知旨在对抗高科技自由主义的联邦行动。具体来说，白宫应该召集多个机构，从 DoS，商业和财政部开始，调查现有的联邦工具包 - 制裁，禁令，暂停和撤资 - 并考虑采取其他措施来减缓或防止对技术和技术的投资。◾协调这些多管齐下的方法 ， 调整决策 ， 并通过国家安全委员会 （ NSC ） ， 与国家经济委员会 （ NEC ） 和科学技术政策办公室 （ OSTP ） 协调 ， 在此过程中考虑到所有利益相关者。3建立数字自由的肯定议程这个肯定的议程包括三个主要概念 ： 引导隐私 ， 寻找与民主伙伴和盟友相互合作的领域 （ 例如 ， 数字贸易 ， 外国执法要求数据和技术标准 ） ， 以及争取和支持科技公司建立数字自由的商业规范。隐私铅国会应该 ：◾建立联邦数据保护框架 ， 并对联邦政府和商业实体如何收集、存储和共享美国用户数据进行适当的标准和监督。4◾阐明并发布此框架的公开理由 ， 该框架描述了强大的隐私制度的基本要素。◾要求联邦贸易委员会 （ FTC ） 执行隐私立法。国会和白宫也应该 ：◾通过国家标准与技术研究所 （ NIST ） ， 国家科学基金会 （ NSF ） ， 恢复开放 ， 资助隐私保护技术解决方案的研究和开发 技术与国家安全 | 12 月 2020设计民主 ： 对 2021 年不自由使用技术的肯定回应3美国科技公司首席执行官在华盛顿国会山的固定装置将对实施任何联邦数据保护框架至关重要。 2020 年 11 月 17 日 ， Facebook 首席执行官马克 · 扎克伯格在参议院司法委员会举行的题为 “打破新闻 ： 审查制度 ， 压制和 2020 年选举 ” 的听证会上作证。 （ Bill Clark / Pool / Getty Images ）技术基金 （ OTF ） 和 DoS ， 特别是民主 ， 人权和劳工局 （ DRL ） 。◾美国政府还应该资助研究和开发隐私保护和监管当局的民主模型 ， 利用双边解决方案 ， 如澄清合法海外使用数据 （ CLOUD ） 法案 ， 以更好地与合作伙伴合作。美国科技公司应该 ：◾将工程能力用于设计具有内置数据隐私保护的协议。◾投资于 “可互操作的隐私 ” ， 以确保这种隐私制度与民主盟友的可行性和持久性。◾同样 ， 投资于隐私合规 ， 以及隐私保护 ， 以巩固强大隐私实践与联邦政府携手合作。重点关注与盟友和合作伙伴的相互合作领域 ： 数字贸易 ， 外国执法要求和技术标准5为了保持数字贸易的开放 ， 美国贸易代表办公室 （ USTR ） 应该 ：◾加强自由贸易协定中的数字贸易语言 ， 通过亚太经济合作组织 （ APEC ） 跨境隐私规则 （ CBPR ） 系统的全球扩展 ， 实现数据自由流动和盟国之间的监管互操作性。为了帮助确保外国生成的执法数据请求和合规性符合民主价值观 ， 并加强与全球志同道合的合作伙伴的合作 ， DoS 和司法部 （ DOJ ） 应 ：◾利用 CLOUD 法案 ， 就外国执法数据请求寻求与尊重数字自由、开放数字贸易、隐私、人权和正当程序基线原则的政府达成双边甚至多边协议。 @ CNASDC4为了通过与志同道合的合作伙伴的国际标准组织促进数字自由 ， 商务部长应 ：◾发布联邦政府参与制定监控技术标准的计划 ， 类似于 2019 年 NIST 计划 ， 以推进人工智能 （ AI ） 标准和研究重点。为了通过与志同道合的合作伙伴的国际标准组织促进数字自由 ， 国会和白宫应该 ：◾扩大联邦对标准制定组织 （ SDO ） 的支持 ， 以确保与易于被权威主义者滥用的技术 （ 如 AI 相关技术 ） 相关的结果 （ 标准和监管建议 ） 更支持数字自由。6为了通过与志同道合的合作伙伴的国际 stan - dards 组织促进数字自由 ， 美国大学应该 ：◾利用美国参与国际标准化组织 / 国际电工委员会 （ ISO / IEC ） 标准的制定 ， 例如 24368 “AI 对道德和社会问题的概述 ” 和 24027“ AI 系统和 AI 辅助决策中的偏见 ” 。7 适当地 ， 实施关于道德和负责任的使用和发展的培训of technology in science, technology, engineering, and mathematics (STEM) currapa, with an emphasis on algorithm design. This including of the appropriate美国商务部国家标准与技术研究所 （ NIST ） 大楼的外观属于其外观 ， 它提供了前倾的技术努力 ， 以制定将确定全球技术使用道路规则的标准。 （ Dana Romanoff / Getty Images ）围绕人工智能道德和课程设计偏见的考虑将允许加强 STEM 课程与国际标准保持一致。EnList TECH Companies to buil commercial norms to Ward Digital Freedom为了建立促进数字自由和提高透明度的规范 ， 美国科技公司应该 ：◾为易于滥用的新型新兴技术的负责任发布制定指导 （ 例如 ， 利用 Open AI 分阶段发布 GPT - 2 语言模型等示例 ） ， 以围绕负责任的发布建立规范。◾继续努力保护用户安全和隐私 ， 包括通过加密和其他隐私保护技术等技术。◾考虑公布关于数据收集、存储和共享的政策和意图的自愿性、半年一次的公开报告。