2024年数字信任报告

数字信任：支持个体能动性 白皮书 二月 2024 Getty Images, Unsplash 图片： 目录 附录 15脚注 19贡献者 18可纠正性：预防、参与、监管 12前言 3结论142 设计中的隐私：保护用户隐私 10执行摘要 41 设计透明度：照亮选择的职责 7引言 5 免责声明 本文件由世界经济论坛出版，作为项目、洞察领域或互动的贡献。其中所述的发现、解读和结论是世界经济论坛促成并支持的协作过程的结果，但并不意味着必然反映世界经济论坛的观点，也不代表其全部成员、合作伙伴或其他利益相关者的看法。 © 2024 世界经济论坛。版权所有。本出版物任何部分不得以任何形式或任何手段进行复制或传播，包括影印和录音，或通过任何信息存储和检索系统。 前言 Kathryn White执行研究员，世界经济论坛第四次工业革命中心；全球责任新兴技术与创新总监，美国安盛集团 丹尼尔·多布里戈夫斯基头部，治理与信任，第四次工业革命中心，世界经济论坛 提供它们——将保护所有利益相关者的利益并维护社会期望和价值观。”2此定义已指导决策框架的发布，以及高级实施路线图的制定。3关于实施前的步骤指南4如何衡量数字信任5针对组织领导者的文件。本文件建立在这些开创性的出版物基础上，确保个体成为技术的中心。它进一步指导商业和政府领导者以及个人，如何更好地认识到人们在数字信任中的关键利益相关者角色。随着个人越来越多地与新兴的快速发展的技术，如生成式人工智能互动，支持以人为本的技术从未如此重要。 在2024年世界经济论坛年度会议达沃斯会议上，与会代表围绕“重建信任”的主题展开讨论。在会上，与会者继续赞同世界经济论坛的指导方针，即在技术——特别是人工智能等新兴技术——方面，信任必须通过负责任的决策来赢得，同时强调个人和社会对技术未来的影响力。1 在论坛上，第四次工业革命中心帮助利益相关者充分利用技术进步的潜力，以实现行业、经济和社会的公平和以人为本的转型。主题领域从人工智能到沉浸式技术，再到量子技术和太空技术，改善治理成为首要任务。为了改善技术领域的治理，论坛于2021年启动了数字信任倡议，旨在在关键利益相关者之间建立全球共识，关于数字信任的含义以及可以采取哪些可衡量的步骤来提高数字技术的可信度。 本报告从组织、监管机构和个人三个视角，紧密审视了透明度、隐私和可救济性的数字信任维度——所有这些视角都聚焦于支持个人能动性。鼓励商业和政府领导人将个人视角优先考虑在整个技术生命周期中，并采取“设计即”方法，特别是针对透明度和隐私。在所有行为者各自发挥作用的情况下，我们希望能充分实现新兴技术的益处，同时在所有利益相关者之间建立信任。 具体而言，论坛的数字信任倡议通过多利益相关方方法，将数字信任定义为“个人对数字技术和服务的期望——以及其背后组织的”。 执行摘要 可信的数字系统支持和保护个人选择和自主权。 数字信任在数字技术支持和调解几乎所有经济交易、社会联系和机构的世界中是必需的。然而，对技术、创新和科学的信任在全球范围内正在消退。《世界经济论坛》启动了其数字信任倡议，通过关注支持可信赖技术的决策制定，旨在扭转这一趋势。该工作将数字信任定义为“个人期望数字技术和服务——以及提供这些服务的组织——将保护所有利益相关者的利益并维护社会期望和价值观。”6 隐私 隐私默认保护确保用户在线互动的安全性以及他们的个人信息得到保护。隐私在数字技术中被整合当： — 技术严格遵守全面隐私法规的实质和字面意思 — 开发者采用有效的同意机制以及支持性工具和资源 本文阐述了在重建对数字技术的信任过程中，对个人能动性和人权的支持、尊重个人用户的选择和价值至关重要。所建议的信任型发展方法——个人能动性——必须是任何方案的核心组成部分。 可纠正性 通过设计的技术战略或监管方法，旨在赢得用户和个人的信任。 预防和准备并不总是足以消除数字技术造成伤害的风险。因此，必须建立有效的补救机制，以确保受到伤害的个人能够得到恢复。这些机制可以分为以下类别： 个体代理设计是数字技术中至关重要的责任设计原则，侧重于数字信任的维度。,透明度与设计原则 隐私救济性在此描述确保技术可以以以人为本的方式开发，支持个人的期望和价值观。具体而言，通过设计实现个体能动性的方式包括以下几种： – 用于执行个人或消费者权利的防止损害工具 – 修复程序，允许受损害的个人与技术开发者和所有者之间进行互动 透明度 – 第三方监管机制以确保个别伤害得到公平纠正。 透明性是值得信赖的设计的一个标志，它确保数字技术不会超出用户期望，也不会不足。透明性被整合到数字技术中，当开发者： 通过认识到个体能动性在人类与数字互动中的首要地位，本报告旨在支持一种以人为本、可信赖的新技术研发方法。最终，开发和激励尊重人类能动性的技术是一项共享的公私责任，如果所有利益相关者都能充分执行，将有助于重建对数字技术和创新的信任。 – 将透明度融入其产品和服务中 - 提供有效的数字素养课程 – 使透明度工具更易于获取、可用且直观 引言 一个可信赖的数字景观需要技术来保护、告知并赋能个人。 保护个人选择和能动性是任何值得信赖的系统的基本要素。世界正处在第四次工业革命大约十年后的复杂技术环境中航行。人们正在经历从1990年代末和21世纪初的数字时代到嵌入式连接时代的社会、政治和经济转变——这是数字、生物和物理世界的融合。7在哪里，个人的数字体验可以更加具象化、沉浸 将设计原则应用于透明度、数字素养和隐私，提出如何将这些概念嵌入到用户对数字产品或服务的体验中。在数字信任的多个维度中，由于它们与个人能动性的直接关系，以下三个维度最为相关：透明度、隐私和可救济性（此顺序并非暗示重要性的顺序）。本探索涵盖了重要考虑因素，包括组织确保清晰度和信任的责任，以及隐私机制如何支持个人能动性，以及当发生损害时可供救济的机制层级。本文总结的支持个人能动性的努力并非万能药。相反，它们是组织保护和支持更大拼图的一部分。同样，本文中干预措施的排序并不代表偏好或应用的顺序。相反，这里的理念是按照最合作和预防性的方法首先描述，然后是事后的解决方案机制。 式和无处不在。8在此背景下，个人代理权，即使个人能够以知情 、自给自足和受保护的方式导航他们的数字生活，是至关重要的。支持个人代理权包括与数字系统的部署和发展相关的活动和决策。支持个人代理权需要维护人权，因此，它是持久信任的必要组成部分——而持久的数字信任对于更公平、更安全、更可持续的数字经济至关重要。人们有权利能够为自己和代表自己做出选择。进一步促进个人代理权还有助于负责任的创新，这是确保采用第四次工业革命技术（如人工智能和空间计算）的唯一可持续和公平的方式。 个体代理设计 数字信任是个体对数字技术和服务的期望，以及提供这些技术和服务的组织将保护所有利益相关者的利益并维护社会期望和价值观。9追求这一目标，世界经济论坛成立了数字信任倡议。10并且发布了关于该主题的基础性著作《赢得数字信任》，该著作主要关注组织如何做出更值得信赖的技术决策。本文——《数字信任：支持个体能动性》——讨论了更大一群使用或以其他方式与数字技术互动的利益相关者。为了有效地建立和维护数字信任，这些个人必须能够认识到自己是具有自我导航数字技术能力的利益相关者。 数字化信任需要一种基于设计的科技方法，强调从一开始就保护和支持个人，将他们的需求和价值观纳入开发的最早阶段。这一概念最初通过“安全设计”理念而广为人知，基于设计的理念已经影响了设计和发展技术的其他几种方法，包括隐私设计、无障碍设计以及可持续设计。11 这种方法，其中用户保护和在线危害预防被内置于技术中，转化为一种支持个体自主性和更具信任度的数字产品或服务。12这个理念不是要剥夺个体的选择权，也不是要增加普通人的责任负担，而是要确保他们在安全、可靠和值得信赖的环境中，有公平的选择，并且其他组织保障措施能够实现这一目标。 本论文从数据管理领域提取案例，该领域在处理数字信任考虑因素方面处于前沿，探讨组织如何作出决策以实现个体能动性和培养数字信任。论文 应用负责任的创新设计原则 确保人员所提供公平选项内一个安全、可靠并且可靠环境。 标准与技术人工智能风险管理框架16新加坡的在线安全准则17日本的促进数字社会的法律18欧盟（EU）人工智能（AI）法案19并且欧洲数字权利宣言及数字十年原则20以及欧盟数字市场法案和数字服务法案。21 技术公司和开发者可以利用由国际组织、政府和非政府组织制定的良好实践、原则和标准现有库。 — 资源来自非政府组织，例如国际消费者联盟组织，22一家消费者权益倡导组织，其资源包括数字金融消费者保护建议。23并且战略框架，如论坛的Presidio关于负责任生成式AI的建议24并且全球网络倡议（GNI）关于言论自由和隐私框架。25 – 国际组织已经定义了保障措施，例如联合国（UN）消费者保护指南13并且联合国提出的全球数字契约。14 – 各国政府跨区域推动网络安全、隐私保护和负责任的技术使用，例如美国的人工智能权利法案蓝图。15美国国家研究院 1设计透明度：揭示选择的职责 正如明亮的空间有助于清晰的视觉和理解，透明的数字环境照亮了互动界限和机遇，确保了清晰度和信任。 作为认可个人能动性的关键第一步，寻求培养数字信任的组织必须为个人提供足够的“光明”，使他们能够感到有权自主做出选择并在数字环境中为自己的最大利益行事。建立和维护信任是一项持续的努力，需要组织在其政策、产品和服务的各个方面始终如一地展示对消费者保护的承诺。具体而言，组织旨在通过在其产品和服务中构建透明度，提供有效的数字素养项目，以及使透明度工具更易于获取、使用和直观，确保用户保持控制权。让消费者参与设计过程加强了实现透明目标所涉及的决策过程。消费者倡导者寻求与组织和监管机构合作，以确保透明度努力普遍且对消费者有益。这些努力导致市场上有适当的选项，消费者友好的在线选择架构以及相应的默认设置。 和谐以支持个体能动性和赢得数字信任。它们之间的相互作用构成了特定技术和组织问责文化的基础，同时为个人提供了一个更可靠和安全的数字环境。 建立和维护信任是一项持续的努力。 对数据流的可见性 个人数据的使用和移动为数字素养和透明度的体现提供了一个有益的例子。数据是人们与数字技术交互的基础。随着数字经济的发展，几个应用软件在为企业收集数据时，广告已成为一种在不上支付墙的情况下提供数字产品和服务的途径。作为对使用技术服务的一种交换，消费者被鼓励分享他们的个人信息。随着这种动态的发展，消费者数据变得越来越有价值，收集方法也越来越全面。这使得用户和组织都有更大的机会和潜在的损害。26 协同效应关于透明度并且数字素养培育一种文化责任归属具有……的潜力更可信的未来。 数字素养 例子：支持个人机构使用的透明度工具 Salesforce信任站点36 Salesforce提供了一个仪表板，用户可以在其中查看服务可用性和性能的实时信息。该资源的透明度培养了客户对公司服务的信任和信心。 隐私设计：保障用户隐私 默认保护措施有助于减轻用户对其安全或隐私是否得到保护的担忧。 隐私设计（Privacy by design）出现在各种法规中，例如欧盟的通用数据保护条例（GDPR）。37,38印度《数字个人数据保护法案》。39主要技术开发商采用类似的方法（谷歌的隐私和安全原则，40微软的负责任AI标准41 IBM 在实施可信人工智能方面42). 这些概念旨在积极地将原则融入产品或服务中。 确保他们在开发塑造用户体验和技术交互的完整组件时得到优先考虑的方式。 作为信任和信心建立措施，这些保护措施使用户能够更加自信地与科技互动，并更加真诚地参与其中。 购物车以持久性存在（并帮助实现个性化，如定制广告）。安联公司得益于欧盟的通用数据保护条例（GDPR），提供了表达cookie偏好的机会。尽管根据这一要求，“接受所有”通常在组织网站上很容易找到，但用户在选择拒