与合作美国圣塔克拉拉大学Markkula应用伦理学中心负责任地使用技术：微软案例研究W H I T E P P A P E RF E B R U A R Y 2 0 21 负责任地使用技术：Microsoft案例学习2封面：盖蒂图片社/尼古拉·潘德夫（Nikolay Pandev）内部：不溅水/弗洛里安·克鲁姆；盖蒂图片社/皮兰卡内容3前言41介绍与挑战52微软经验63如何改变文化63.1治理74条Microsoft AI原则85负责任的AI标准和流程96种负责任的创新工具96.1判决书106.2 Envision AI研讨会106.3影响评估116.4社区陪审团116.5具有道德影响的机器学习工具157衡量文化变化168最佳实践分析179还有什么要做18结论18专栏1东京项目：采用负责任的创新做法20贡献者21尾注©2021世界经济论坛。版权所有。本出版物的任何部分均不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统进行复制或传播。 负责任地使用技术：Microsoft案例学习32021年2月负责任地使用技术：微软案例研究前言技术总监Brian Green美国圣克拉拉大学Markkula应用伦理学中心的伦理学唐·海德（Don Heider），美国圣塔克拉拉大学Markkula应用伦理学中心执行主任Kay Firth-Butterfield，人工智能和机器学习负责人；世界经济论坛有限责任公司执行委员会成员丹尼尔·林（Daniel Lim）世界经济论坛有限责任公司人工智能与机器学习项目研究员；从Salesforce借调世界经济论坛第四次工业革命中心于2017年启动，其任务是共同制定政策和治理多利益相关方方法构建框架，以加快新兴技术的采用。中心的平台包括人工智能和机器学习，区块链，数据策略和物联网。这项工作的核心是朝着行动，透明，道德和全球公共利益的方向努力。如今，全球冠状病毒大流行继续在社会各方面蒙上阴影。随着社会疏离措施成为维护公共健康的必要条件，数字化转型成为大多数企业赖以生存的必要条件。最大限度地利用技术优势，同时减轻风险的紧迫性风险和危害从未如此巨大。设计，开发，采购，部署和使用技术以负责任的方式进行设计的所有组织都有责任。在与各个领域的领导者进行的无数次对话中，我们了解到，组织的道德操守愿望与他们对如何贯彻良好意图的理解之间存在差距。我们将其称为意向行动差距。为此，该中心致力于为以下方面提供实用资源：组织来实施技术伦理。该计划始于2019年，民间社会，政府和公司积极参与，为人类基于权利和基于道德的方法负责任地使用技术。为了帮助桥接意图与行动之间的差距，我们旨在为领导者提供可行的实用工具，以帮助他们：1）教育和培训员工以更多地考虑负责任的技术； 2）设计他们的组织，以促进更多的道德行为和结果； 3）设计和开发更负责任的技术产品。出于这个最后一个目标，世界经济论坛和圣克拉拉大学Markkula应用伦理学中心发布了本白皮书，这是一系列案例研究的第一篇，重点介绍了促进负责任的技术产品设计和开发的工具和过程。在有关“负责任地使用技术：Microsoft案例研究”的初始文档之后，其他公司还将在以后的论文中介绍其他道德规范和工具的示例。我们感谢Microsoft在此工作中分享了他们负责任的创新工具，做法和专业知识。我们希望这份文件能启发其他人为通过共享企业为相同目的而创建的工具和方法，论坛的“负责任的技术使用”项目。为了实现这些宏伟目标，需要所有全球利益相关方的合作。致力于改善世界状况的世界经济论坛是国际公私合作组织。加州圣塔克拉拉大学（Santa Clara University）的Markkula应用伦理学中心是该项目的主要合作伙伴，在促进道德审议方面拥有30年的历史和经验。我们在一起很高兴为实现这一雄心勃勃的愿景而合作。 负责任地使用技术：Microsoft案例学习4介绍和挑战我们的社会正在经历第四次工业革命，1 其中人工智能（AI），物联网（IoT）和增强现实等强大技术有可能创造持久的社会效益。但是，如果没有合适的护栏，这些技术也会造成巨大的伤害。组织有责任以负责任的方式设计，开发，采购，部署和使用技术。作为朝着更负责任的创新迈出的第一步，来自行业，民间社会和政府的数十个团体发布了道德技术原则，特别是关于人工智能的原则。2 这些价值观和框架为负责任的行为奠定了基础。技术创新的结果可能看起来像。然而，仍然需要定义如何以道德方式制造技术产品。3本文是一系列案例研究中的第一篇，这些案例研究了公司如何开始将道德思维纳入公司的发展中。技术。它着重于Microsoft Corporation，随后将介绍描述其他公司所做努力的论文。通过与微软公司高管和员工的一系列访谈，并结合二级研究，本文提出了微软当前和不断发展的努力的外部视角，这些努力旨在通过其产品工程组织中的工具和实践来建立公司的道德价值观和文化。对于任何组织来说，在技术上实施道德操守的努力应该是一个持续的旅程，因为公司总是在寻找改进的方法。微软的经验也不例外。在世界经济论坛“负责任地使用技术”项目的背景下，本文和本系列文章的目的是总结可帮助组织推进自己负责任的创新实践的课程。该项目旨在确定需要改进的工具和流程领域可以帮助推动技术产品开发中更多的道德考量。它甚至可能激发其他为此目的创建新方法的人分享他们的工作，无论是在本系列丛书中还是在其他地方。1 负责任地使用技术：Microsoft案例学习5微软经验萨蒂亚·纳德拉（Satya Nadella）在2014年成为Microsoft首席执行官时，他带来了“成长心态”的概念。这个概念源自斯坦福大学教授卡罗尔·德威克（Carol Dweck）的工作，他的研究使她发现了有力的思想观念。德怀克（Dweck）的工作表明，人类努力的成功会受到人们的思维方式的极大影响。有固定心态的人比有成长心态的人成功的可能性较小。4 从担任首席执行官一职开始，纳德拉就将成长心态灌输到了微软的文化中。这种思维方式鼓励好奇心，实验性，努力工作和学习，并重复这一过程。这种演变微软的文化创造了一种企业环境，该环境促进了对技术对社会影响的创新和反思。在每个级别，Microsoft的人们都已经在工作中遇到并回答了道德问题。一个著名的例子是2016年发布了一个名为Tay的聊天机器人，这是一项针对会话性的实验理解。希望是Tay在Twitter上与人类进行互动时，互动越多，人工智能驱动的机器人将获得“更智能”的体验。但是，在首次发布后不久，一群用户恶意地将Tay定位为目标，从而使Tay做出了不适当的回应，并且贬低了回应。微软迅速从公众场合撤回了泰，并发表了道歉。5这一集，以及其他方面对于激励组织将道德考虑因素纳入其产品创新过程至关重要。技术是强大的，力量可以用于善恶。因此，新技术的设计者必须仔细考虑技术的构建方式，并帮助增加将其用于利益的可能性。社会。微软是一家正在采取步骤来开发高质量产品的公司，该产品可以使客户以负责任的方式使用它们，从而实现更大的成就。2 负责任地使用技术：Microsoft案例学习6如何改变文化在致力于加强与客户和社会广泛信任的承诺的推动下，Microsoft的领导层和员工采用了基于价值的方法来负责任地构建和部署技术。尽管这种方法在时间，金钱和精力上肯定要求更高，但该公司认为，从长远来看，它具有最佳的投资回报率。是什么促使Microsoft采用这种方法来解决这一挑战？萨蒂亚·纳德拉（Satya Nadella）的2016年“未来的伙伴关系”6Slate的“未来”一文“时态”很好地描述了这一点：做出具有社会意识和道德的技术的决定不仅关乎利润，而且关乎为人类创造的生活世界。技术开发人员不仅是技术专家。他们是人类，必须生活在技术创造的世界中。将这一事实放在首位可以确保技术对社会和环境影响的更大问题仍在眼前，并指导技术人员开发更人性化的技术，这些技术可以真正造福全人类和整个地球的共同利益。建立对技术的信任至关重要......首先要对我们负责。要对我们创建的算法，我们创造的经验以及确保每天对技术的信任度负责。微软首席执行官萨蒂亚·纳德拉（Satya Nadella）7重要的是，微软选择强调道德不仅是自上而下的决定，而且还是公司内部各个层面上出现的决定。该公司的方法基于其AI原则（请参阅下一节），重点是为AI系统主动建立防护栏，以确保可以预见潜在风险和缓解，同时最大程度地为社会带来收益。这个负责任的AI计划的基石包括一个治理结构，以确保问责制和实现进步；定义其负责任的AI标准的一组规则；和允许员工实施原则和规则的培训，工具和实践。3.1治理微软的AI治理方法遵循“辐射式”模式，可帮助公司将隐私，安全性和可访问性集成到其产品和服务中。在此治理方法中，三个团队扮演着至关重要的角色。首先，以太委员会由科学和工程专家组成的工作组，就负责任的AI问题和公司AI原则的制定提供建议。其次，负责任的人工智能办公室管理政策，治理，启用和敏感使用功能。第三，负责任的AI工程技术战略（RAISE）团队使Microsoft的工程师团队可以通过采用系统和工具来实施负责任的AI流程。对于这种治理方法中的“辐条”，微软在部署“冠军”模型中获得了持续的成功，该模型由领导层任命了各个团队和地区受尊敬的领域专家促进对特定主题的认识和教育。负责任的AI冠军计划于2020年实施，其中包括安全和开源领域的专家。冠军引起人们对可用的负责任的AI工具和流程的关注。他们还帮助团队确定和考虑其工作中的道德和社会问题。它们对于引导文化转向更多地思考伦理至关重要。8治理方法中的另一个重要方面是道德与社会，这是RAISE内部的一个团队，负责采用设计思维方法来道德。它在创建本文所述的一些负责任的创新工具中发挥了关键作用。9改变公司的文化是一项巨大的成就，但这当然不是不可能的，并且工业，公民社会和学术界对这些努力的思考是极好的。10我们追求AI的最关键的下一步就是就其设计的道德和共情框架达成共识。微软首席执行官萨蒂亚·纳德拉（Satya Nadella）113 负责任地使用技术：Microsoft案例学习7Microsoft AI原则为了促进文化转变并以道德意识灌输其AI工作，微软制定了AI的六项总体道德原则：公平性，可靠性和安全性，隐私性和安全性，包容性，透明性和问责制。12公平可靠性和安全隐私权与安全性人工智能系统应公平对待人人工智能系统应可靠可靠地运行人工智能系统应安全并尊重隐私包容性透明度问责制人工智能系统应赋予人们权力并使其参与人工智能系统应该是可以理解的人们应对AI系统负责这六个原则是组织Microsoft的道德思考的一种心理工具或框架。虽然专门表述为负责任的AI原则，但它们与技术行业中的许多工作都息息相关。每种原理的简要说明如下：公平专注于开发以公平，平衡的方式对待每个人的系统。该原则承认，为系统定义和缓解公平性问题取决于了解系统的目的和使用环境，并且系统的公平性反映了开发和部署过程中的决策。可靠性和安全性表示开发系统即使在最坏的情况下也很健壮并能够维持安全运行。该原则包括对技术可能造成的危害的考虑，以及员工努力将这些风险降至最低的方式，以便技术可以为用户带来最大的利益。隐私权与安全性寻求保护数据并以对所有利益相关者安全的方式使用数据。隐私是一项基本权利，保护隐私对于确保利益相关者可以信任他们的数据对公司至关重要。数据必须在所有阶段都是安全的，为此，必须采取措施使负责数据的公司的隐私和安全制度化。包容性确保没有人遗漏在技术的设计，开发，部署和使用中。全人类的社区都应通过技术有意义地参与和赋权，技术不应仅限于少数特权社区。这种包容不仅应包括与不同的利益相关者建立联系，还应与他们建立联系。透明度寻求创造一种不仅对于正在开发该技术的人，而且对于将要使用该技术或受其影响的人们都可以理解和解释的技术。利益相关者应该能够解释和理解一项技术在做什么，以及它为何如此行事。这使产品团队可以根据实际情况来改善结果。问责制意味着人们对技术的运作方式以及该运作方式对社会的影响负责。这包括考虑可以实施