推进数字代理：数据中介的力量

推进数字代理：数据中介的力量I N S I G H T R E P O R TF E B R U A R Y 2 0 2 2 向数字代理迈进：可信数据中介的作用2图片：盖蒂图片社内容1挑战：人机交互 5和数据价值链1.11.21.32机会：值得信赖的以人为本的数据中介 132.12.22.33迈向值得信赖的数字机构 203.1数字身份在支持人类机构中的作用 213.23.34重塑人机交互 284.1数据中介的使用如何塑造人类– 29科技互动4.2使用三分之一的用户体验设计后果 - 30派对数字代理5行动的杠杆 315.15.2词汇表39贡献者41致谢42尾注43免责声明本文件由世界经济论坛作为对项目、洞察领域或互动的贡献。本文所表达的调查结果、解释和结论是世界经济论坛推动和认可的协作过程的结果，但其结果不一定代表世界经济论坛或其成员、合作伙伴或其他利益相关者的全部观点。© 2022 世界经济论坛。版权所有。不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统复制或传播本出版物的任何部分。 推进数字代理：数据中介的力量32022 年 2 月推进数字代理：数据中介的力量前言数据生态系统的力量从未如此强大，但系统本身正变得越来越难以驾驭。导航数据生态系统安妮·约瑟芬·弗拉纳根世界经济论坛数据政策和治理主管数据生态系统的力量从未如此强大，但由于复杂性的增加，系统本身变得越来越难以驾驭。我们每天共享和接收数据，以与为我们服务的技术进行交互，无论是在个人还是商业环境中。然后，数据价值链汇集、使用和重用这些数据，通常用于商业或公共利益目的。这些通常涉及个人数据的价值链充其量是难以遵循的；在最坏的情况下，它们可能导致对数据共享的不信任，并可能为不良行为者提供掩护。与这种复杂性形成鲜明对比的是，我们对数据共享的依赖既是我们的生活方式，也是作为全球数据经济的支柱和技术创新的关键。如果对数据生态系统的不信任成为导致次优结果的故障点我们大家，能做些什么？如果有更好的方法让数据更容易被数据生态系统中的数据权利持有者（包括人）追踪、更容易获得许可、更容易控制呢？数据中介作为行动的杠杆Sheila Warren 第四工业中心副主任革命网络，世界经济论坛在本报告中，世界经济论坛的数据中介工作组由全球商业、学术和民间社会参与者组成，探讨了这些问题以及更多问题。以论坛的重新设计数据隐私为基础：重新构想人机交互的通知和同意1报告中，该工作组检查了数据价值链场景，因为它们已经存在 - 并且可能存在于未来 - 以期更广泛地改善人机交互和数据共享。在一个政策制定者超越隐私法并努力开发旨在支持出于共同目的共享数据的政策杠杆的时代，工作组分享了它为支持负责任的政策而学到的知识。数据中介的增值使用是解开复杂性和建立信任的关键，有望保护数据共享者和数据主体的利益——最终也是社会的利益。迈向值得信赖的数字代理从全球商业、研究界和尖端技术设计中汲取经验教训，我们探索使用数据中介的最佳实践。我们确定了各种模型，包括承担受托责任的组织数据中介，例如数据信任。我们探索预先确定标准规则的自动化网关。我们展望未来，展望未来，允许第三方代表我们自主决策的人工智能代理，以及相关的承诺和风险。最后，尽管所表达的任何观点不代表任何个别工作组成员或其组织的观点，但我们邀请您加入我们的探索之旅，因为我们挖掘并构建一幅图景，即在释放数据中介的力量导致可信赖的数字代理方面达成共识可能存在或不存在的地方——以及这些类型的政策可能在何时何地部署。 推进数字代理：数据中介的力量4执行摘要数据中介代表了一种新的政策杠杆，可以应对不断增长的数据生态系统的挑战。挑战每个人都熟悉上网和点击他们不理解的条款和条件（或花时间阅读）的范式。没有人知道（也不知道）他们的数据会发生什么。这种现状造成了对公司负责的依赖，但可能导致对整个数据生态系统的不信任。此外，数据生态系统变得越复杂，人与技术之间的不信任就会被放大时间。曾经人们可以通过屏幕进行导航，新的环境数据收集方法具有许多好处，当人们没有全面了解时会产生紧张和无奈。在某些情况下，个人可能会选择不与对他们的生活大有裨益的技术进行互动。但是，如果可以将这些决策点外包给代表个人甚至团体的受信任代理人呢？机会既然无屏技术已成为日常生活的一部分，那么就有机会重新思考人机交互范式和重新定位辩论的重点是超越个人的角色和责任。数据中介的使用如何帮助人们驾驭技术和数据生态系统模型，同时又不会忽视人类在代理和期望方面的意义？考虑到当人们朝着无屏幕虚拟世界问题的复杂性迈进，他们对“人性”的理解正在发生转变时，人们如何能超越这一点？数据中介——尤其是数字代理——代表了一项新政策个人可以通过这些杠杆来应对不断增长的数据生态系统的挑战。本报告旨在阐明另一种以人为中心的人与技术交互的替代方法，即数据似乎以人为中心的方式无缝地从人传递到技术，而且至关重要的是，这种方式是值得信赖的。通过传达共享激励、建立声誉或接受第三方验证，如除了具有减轻中介和权利持有人风险的保证结构外，数据中介还可以增加人们与他们交互的技术之间的信任。解决方案本报告探讨了数据中介，特别是第三方数字代理的机遇和风险。从数据信任到值得信赖的数字机构，该报告描绘了一个对人和公司更感同身受的世界，为数据共享提供了更大的确定性，作为通过引入值得信赖的第三方进行创新。至关重要的是，它为公共和私营部门提供了行动杠杆，以确保一个面向未来的数字政策环境，允许数据在人和为他们服务的技术之间无缝和可信地移动。 推进数字代理：数据中介的力量5挑战：人机交互和数据价值链寻求各方之间的信任共享数据不是默认状态。1 1.1简介：数据共享中的信任差距人们甚至不信任最负责任和最有道德的公司，因为系统——数据生态系统——是导航太混乱了。“我们的日子充满了无数离散的数据收集时刻。即使我们有真正的意图肯定同意收集数据的每一刻，实际上也不可能这样做：没有人有时间几乎始终如一地提供肯定同意。可以说，这一现实破坏了我们的个人机构。”2在人们参与数据生态系统时，世界正在经历某种不信任的流行病。这种全球“信任差距”或“信任赤字”是经济增长、数字创新和社会凝聚力的障碍。技术生态系统最终由数据的收集、共享和处理提供支持，通常是个人数据在自然界。数据共享是技术创新和成熟经济模式数字化的驱动力。但寻求共享或交换数据的各方之间的信任不是默认状态；它是需要获得或建造的东西，通常结果是随着时间的推移付出了巨大的努力。这包括在人和技术之间建立信任。这是所有更多考虑到人们每次与技术交互时都共享数据，这一点很重要在他们的生活中。正如前首席执行官比尔·麦克德莫特（Bill McDermott）SAP 的首席执行官指出：“当信任存在时，我们可以大踏步前进，将最大的挑战转化为最大的机遇。如果不是，针就会卡住。小障碍变得不可逾越。分裂压倒团结。”3正如罗素哈丁所定义的，4信任是对行为者将在特定上下文中执行特定操作的信念，而可信赖性是演员的财产。数据中介和支持它们的基础设施的目标是使数据权利持有者能够信任可信赖的数据中介。这并不是说没有信任和可信赖性就没有数据共享。但有了信任和守信，就会有更大的参与，从而增加了数据的数量，甚至增加了数据的准确性。向数字代理迈进：可信数据中介的作用 6 推进数字代理：数据的力量中介机构7通知和同意问题当出现隐私声明时，有必要花时间考虑其影响条款和条件，并克服明确考虑偏好所需的注意力所带来的障碍。有意义地同意个人数据共享（即个人数据的收集和处理）的挑战是众所周知的。5人们与技术的大部分交互都依赖于通过屏幕等媒介同意数据收集和处理。当出现隐私声明时，有必要花时间考虑条款和条件的含义，并克服明确考虑偏好所需的注意力所带来的障碍。人们需要考虑他们真正关心的是什么，并预见他们的数据可能用于什么——如果他们可以想象的话。术语“决策疲劳”6反映真实的事物：卡内基梅隆大学的 Lorrie Cranor 和 Aleecia MacDonald 研究7阅读人们通常会经历的隐私通知的难以理解的负担以及由此产生的困难有时间对他们做出有意义的反应、理解和同意。人们只是太忙了，没有时间阅读网站上的每一个同意通知。即使他们这样做了，他们真的能预料到他们的数据将如何被使用吗？如果没有屏幕怎么办？环境数据收集，例如通过闭路电视和连接设备，越来越普遍。随着世界朝着创建元节的方向发展，达到可接受的默认状态比以往任何时候都更加紧迫人机交互的形而上学状态变得更加无缝。某些司法管辖区确实存在其他数据收集和处理的合法依据，例如根据欧盟 (EU) 通用数据保护条例履行合同的合法利益或合同，但它们有其自身的局限性。世界各地的法院都清楚地表明，在某些情况下，通知和同意是首选的法律依据。在通知和同意被认为是唯一现有的可接受标准的情况下，该约束可能具有如前所述的限制。由此产生的不信任今天的默认状态并不健康。一方面，人们有时会接受并且常常感到无能为力；另一方面，组织努力获取和处理可以有意义地改善生活、健康甚至地球的数据。人们甚至不信任最负责任和最有道德的公司，因为系统——数据生态系统——导航起来非常混乱。至于法律，它很难跟上。高度重视缺乏特定场景细微差别的原则，监管最喜欢的工具是简单地问：这可以吗？实体收集您的数据？个人在没有有意义地理解收益和成本的情况下说“是”，依此类推，因为他们继续“同意”而不总是有意义地同意。一种新方法如果有更好的方法呢？如果您可以将决策疲劳外包给值得信赖的第三方会怎样？如果您可以预先同意您的偏好，这样您就不需要不断地选择加入怎么办？什么如果技术允许您将决策进一步外包给数字自动化代理，可能会使用人工智能 (AI)，它可以主动为您做出这些决策？所有这些情况都需要招募中介。世界是否准备好采用这种以人为本的激进方法来管理数据关系？通过第三方数据中介？如此复杂和细致入微的数据的元素生态系统已经存在，但适当的政策框架远未到位，无法在系统层面使这种情景可行。除了问这个问题，这个报告还通过对相关用例的检查来探索这种场景的次要影响，并询问什么行动 公共和私营部门行为者在探索此类问题时可以采取，以建立一个更强大、以人为本和可持续的数据生态系统。 推进数字代理：数据的力量中介机构8假设出于本文的目的，做了几个假设。第一个假设是，无论数据共享关系如何，在没有适当保护措施的情况下，数据权利持有者本质上会相互不信任，假设数据中介根据数据共享场景和中介的特征，可能会成为缺失的保障措施。所有情况下的假设都是数据权利持有者对其数据权利感兴趣：例如，人们关心有关他们的信息，而公司关心专有信息的价值。其次，在探索数据中介的可能性时，关系本质上可能是二元或多方的。这方面的一个例子是在智慧城市环境中收集的有关人员的数据可用于城市规划的目的；虽然被收集数据的人本身就是权利持有者，但共享在整个数据价值链中发生了多次。8第三，数据是上下文无关的，这意味着非个人数据可能会根据上下文而成为个人数据，例如，如果与其他数据集结合使用。这包括涉及某人个人数据的企业对消费者 (B2C) 和企业对企业 (B2B) 关系，但企业对政府 (B2G) 场景也相关。如果数据中介匿名化个人数据和/或处理非个人数据，则可能建议他们建立一个流程来测试其匿名化方法的稳健性。尽管如此，鉴于难度将个人数据与包含非个人数据的数据集分离，以及对处理个人数据设置更高的监管标准，个人数据将被用作所有数据的代理。最后，没有灵丹妙药：政策反应与他们应对的情景一样微妙。假设调查结果这项工作与个人数据有关的内容可能会进行调整，以适用于不同场景的处理，包括专门的非个人数据共享场景，例如 B2B 共享从非个人数据源或未知未来生成的专有数据用例。事实上，本文旨在为该领域其他人的未来工作做出贡献。 推进数字代理：数据的力量中介机构91.2引入数据中介第三方数据共享的中介方法的可能性与数据共享本身的可能性一样无限。数据中介可以使人们能够控制甚至自动化关于他们自己的数据流，改善跨境数据流，并允许利用个人数据产生社会影响，仅举几个用例。数据中介可以采取多种形式；但他们共享的主要目的是促进