负责任地使用技术：Salesforce 案例研究

与美国圣克拉拉大学 Markkula 应用伦理中心合作负责任地使用技术：Salesforce 案例研究W H I T E P A P E RS E P T E M B E R 2 0 2 2 负责任地使用技术：Salesforce 案例研究2图片：盖蒂，Unsplash内容1建立合乎道德和人道地使用技术的办公室 51.11.21.32在政策和产品方面对 Salesforce 产生影响 122.12.2推动影响：确定重点领域并确定优先级 133将道德嵌入技术实际上是什么样的？ 143.13.23.3将道德融入产品设计和开发 173.43.53.63.7免责声明本文件由世界经济论坛作为对项目、洞察领域或互动的贡献。本文所表达的调查结果、解释和结论是世界经济论坛推动和认可的合作过程的结果，但其结果不一定代表世界经济论坛或其全体成员、合作伙伴或其他利益相关者的观点。© 2022 世界经济论坛。版权所有。不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统复制或传播本出版物的任何部分。 负责任地使用技术：Salesforce 案例研究32022 年 9 月负责任地使用技术：Salesforce 案例研究前言凯·弗斯-巴特菲尔德世界经济论坛人工智能和机器学习负责人布莱恩·格林圣克拉拉大学 Markkula 应用伦理中心技术伦理主任唐·海德圣克拉拉大学 Markkula 应用伦理中心执行主任负责任地使用技术已成为第四次工业革命最紧迫的问题之一。创新在不断为世界带来巨大利益的同时，也带来了风险和危害。好消息是，负责任地使用技术的挑战——将技术导向最佳用途，远离最糟糕的用途——是许多人不仅在谈论而且正在采取行动的挑战。面对这一挑战，世界经济论坛于 2018 年启动了其负责任地使用技术项目，以帮助将商界、民间社会和政府界团结起来，共同制定惠及所有人的解决方案。该项目旨在为领导者提供实用工具，以：1) 教育和培训他们的员工更多地思考负责任的技术，2) 设计他们的组织以促进更多的道德行为和结果，以及 3) 设计和开发更负责任的技术产品。考虑到这些目标，该项目采取了多管齐下的方法：对 99 位论坛成员和合作伙伴进行调查，了解其组织的道德文化，举办由主要技术公司领导的多个研讨会分享和收集关于他们的道德计划的反馈，并发表多篇论文，包括负责任地使用技术，并与圣克拉拉大学的 Markkula 应用道德中心合作，设计道德：一种负责任地使用技术的组织方法，以及两个先前的案例研究：第一个在 Microsoft 上，第二个在 IBM 上。这些案例研究分享了企业在技术伦理和负责任技术方面的知识，并展示了将企业文化引导向更深刻的道德努力的宝贵经验。在本文中，我们介绍了 Salesforce 开发其道德和人道技术使用办公室的经验。我们要感谢 Salesforce 分享了它如何深化的许多细节其对道德、负责任的技术和社会利益的承诺。我们希望负责任地使用技术项目创造的资源，特别是这一系列案例研究，将激励其他人将道德融入他们自己的组织，从而导致更符合道德的决策、更负责任的技术，最终创造一个更美好的世界。我们欢迎其他希望分享他们故事的公司加入这个系列并为这项工作做出贡献。 负责任地使用技术：Salesforce 案例研究4介绍毫无疑问，世界正在迅速变化，这种快速变化正在引发人类努力的许多领域的挑战：国际关系、政府和政治、经济、教育、医疗保健、通信和媒体、交通等等。这种快速变化的很大一部分是由于具有巨大社会影响的技术的加速发展：人工智能就是一个典型的例子。变化如此之快，机遇与风险同时出现，若不慎重考虑，风险有时会转化为真正的危害。不用说，如果可以预防这些危害，社会会变得更好，但是可以做些什么来避免这些危害呢？一种解决方案是直奔源头，那里正在研究、开发新技术并分发给全世界——特别是组织本身。本文是公开展示主要科技公司的道德和负责任的技术努力的系列文章中的第三篇。微软和 IBM 已经参与其中，现在 Salesforce 正在展示他们的努力。报告深入进入实施技术伦理的故事在 Salesforce 中，这家公司从一开始就以强调道德、包容、可及性和产生积极影响而自豪，但随着技术和周围社会的变化，它仍然需要发展。通过与 Salesforce 员工的合作以及对他们的许多道德资源的检查，本文揭示了 Salesforce 发生的转型过程，以及道德的运作如何通过技术的道德和人道使用办公室变得制度化。改进的旅程永远不会结束，企业技术伦理领域正在迅速变化。这些案例研究的目的不是要将这些公司提升为高不可攀的美德典范——事实上，在每一个案例中，这都是导致每家公司进一步发展的绊脚石。相反，希望是通过分享他们在他们的环境中使技术伦理“真实”的经验，这些分享的经验可能会帮助其他希望从事类似工作的人。 负责任地使用技术：Salesforce 案例研究5副标题建立合乎道德和人道地使用技术的办公室Salesforce 建立了一个积极的集中办公室，以管理技术设计、开发和使用中的道德问题。1.1Salesforce 的企业文化和核心价值观Salesforce 成立于 1999 年，是一家基于云的软件公司，使组织能够利用云、移动、社交、区块链、语音和人工智能连接客户的技术。自成立以来，Salesforce 的领导层一直试图将业务用作积极变革的平台。创始人打算以价值观引领业务发展。如今，信任、客户成功、创新、平等和可持续发展（2022 年新增）这五项核心价值观仍然是企业如何设想自身及其在塑造技术中的作用的核心。1然而，随着公司的发展，内部和外部的关键问题开始出现。科技在社会中的作用是什么？谁因使用某些内容而受到授权或伤害技术？企业如何真正倾听利益相关者的意见2 （客户、员工、合作伙伴、社区、地球和社会）不仅仅是股东？除了价值观和良好意愿之外，Salesforce 还面临需要资源和行动的问题。这导致了道德和人道使用技术办公室的发展。框 1 1-1-1 模型Salesforce 从一开始就强调做好和做好事。价值观如何在定义 Salesforce 文化中发挥作用的一个早期例子是 1-1-1 模型。3期间成立初期，公司领导层决定将 1% 的时间、产品和资源用于慈善事业。这发起了 Pledge 1% 运动，邀请其他企业做出同样的承诺。如今，全球已有超过 15,000 家公司加入了 Pledge 1% 运动。4虽然 1% 可能看起来不多，但参与的规模企业使这种慈善努力产生影响。仅在 Salesforce，就有超过 5.3 亿美元的赠款、7000 万小时的员工志愿服务和捐赠给更多人自公司成立以来，已有超过 54,000 家非营利组织和教育机构实现了 1% 的承诺。除此之外，100 个国家的 10,000 多名会员使用了 Pledge1% 的框架以产生 50 亿美元的新慈善事业。5此外，承诺 1% 的潜在价值建立了一种社会文化在公司内部产生影响，为更雄心勃勃的积极变革举措铺平道路。1 负责任地使用技术：Salesforce 案例研究61.2道德和人道使用办公室的起源故事2018年，科技行业迎来拐点。6在过去两年关于数据在政治和商业中的作用的揭露之后，公众对政府机构的信任逐渐减弱，这让公众开始向私营部门寻求答案——尤其是在监管方向经常落后于当代技术能力的情况下。由于来自专家、员工和公众的众多问题和担忧，知名度达到了历史最高水平。像 Salesforce 这样的公司不得不面对数据安全、政治两极分化和有争议的政府合同等问题。随着商业世界努力应对其反应，价值观对于高层商业决策变得很重要。关于家庭分离、严厉对待寻求庇护者及其在更广泛的政府使用武力机构中的地位的政策决定。Salesforce 的一个核心员工小组认为这份合同与公司的一些既定价值观不符，并给 CEO Marc Benioff 写了一封公开信。“鉴于目前在边境发生的儿童与父母不人道的分离，”信中写道。 “我们认为，我们的平等核心价值受到威胁，Salesforce 应该重新审视我们与 CBP 的合同关系，并公开反对其做法。”8一组 Salesforce 核心员工确定了 [美国海关和边境保护]合同不兼容与公司的一些既定价值观。与此同时，消费者可以更多地访问有关他们支持的企业的信息，并感到更有能力让他们对自己的行为负责。利益相关者有顾虑，随之而来的是对企业行为方式的期望。当人们花钱时，他们希望有更大的信心相信这些钱会流向符合他们价值观的企业。职业界也呼吁采取行动，员工通过抗议、公开信和辞职表达了他们的担忧。7对于 Salesforce，这一点最为明显的地方之一是该公司与美国海关和边境保护局 (CBP) 联邦机构的持续合同。这家机构登上了头条对于组织和签署这封信的人来说，这是一个关键时刻。公开信的作者之一艾米丽·威特 (Emily Witt) 回忆说，她曾要求公司检查如何使用其所有产品，打破不平等并建立护理基础。作为设计师和研究人员，Witt 和其他作者认识到技术设计会影响其使用，在他们的信中不仅提倡道德使用政策，而且还提倡产品设计和开发过程。凭借致力于这一愿景的资源，公司的道德使用团队现在正在努力建立这些基础，以确保将道德和包容性实践融入其产品中。 2018 年 6 月关于美国海关和边境保护局的员工公开信2018 年 7 月Marc Benioff 宣布在平等办公室设立道德和人道使用办公室2018 年 10 月消费者调查导致道德领导和商业研究报告2018 年 11 月SFDC 在论坛上举办了第一次负责任地使用技术召集2018 年 12 月聘请 Paula Goldman 为首席官道德和人道使用办公室转移到 TMP 组织内的产品战略和运营团队，以更直接地影响产品政策、设计和开发2016道德 AI 实践开始在 AI 研究组织中形成2018 年 8 月道德使用原则和框架道德使用咨询委员会成立2018 年 10 月全公司员工情绪调查道德人工智能、产品可访问性和包容性设计组织隶属于道德和人道使用办公室，以巩固努力这封信强调了 Salesforce 的员工对公司对世界的影响的兴趣。 Salesforce 与政府政策或政策实施的关系对其员工很重要；在这方面，他们积极地表明了自己的立场。尽管这不是 Salesforce 需要解决的第一个或最后一个此类问题，但这是一个重要的时刻。以员工信为催化剂，贝尼奥夫决定正确的做法不是玩“道德打地鼠”（一种常见的Benioff 通过解决影响不同业务领域的个别问题来说明挑战）。相反，最好创建一个可以主动识别新兴技术道德趋势并采取行动的集中办公室。凭借投入的资源，该办公室可以确保员工感到有能力继续在 Salesforce 的决策中发挥积极作用，并更广泛地管理 Salesforce 技术的设计、开发和使用中的道德问题。贝尼奥夫宣布成立道德和人道使用办公室，9被领导Salesforce 的第一位首席道德和人道使用官。该办公室将在 Salesforce 的平等办公室内创建10并由首席平等官 Tony Prophet 带头。通过与 CEO 的直接联系，该团队对业务和最高级别的影响力有了广泛的了解。 Prophet 被授权创建一个结构，以确保 Salesforce 的技术用于帮助而不是伤害社会并维护每个人的基本权利。最终，该公司的道德工作被嵌入到其产品组织中，也就是它今天所处的位置。作为这项工作的一部分，该公司采取了图 1 中概述的几个关键步骤。在第四次工业革命中以合乎道德和人道的方式使用技术是前进的方向——不仅是为了我们的行业，也是为了人类。我们必须确保技术加强而不是削弱我们的社会。技术需要改善人类状况，而不是破坏它。Marc Benioff，Salesforce 董事长兼联合首席执行官11数字 1基础和组织时间表：2018当下资料来源：世界经济论坛负责任地使用技术：Salesforce 案例学习7 12制定道德使用指导原则了解外部消费者的观点3 成立伦理使用顾问委员会5 全公司集中力量4聘请首席道德和人道使用官人权Salesforce 致力于确保直接使用其