智能时代的技术伦理观：重塑数字社会的信任

智能时代的技术伦理观——重塑数字社会的信任 腾讯研究院 腾讯AI Lab 2019年6月 执行摘要 随着人工智能的发展应用，智能时代的大幕正在拉开，无处不在的数据和算法正在催生一种新型的人工智能驱动的经济和社会形式。与此同时，隐私保护、虚假信息、网络安全、网络犯罪、电子产品过度使用等问题成为全球关注焦点。旨在对科技行业的狭隘的技术向度和利益局限进行纠偏和矫正的人工智能伦理开始从幕后走到前台，正如华裔AI科学家李飞飞所言，要让伦理成为人工智能研究与发展的根本组成部分。在此背景下，从政府到行业再到学术界，全球掀起了一股探索制定人工智能伦理原则的热潮，欧盟、德国、英国、OECD、G20、IEEE、谷歌、微软等诸多主体从各自的角度提出了相应的人工智能伦理原则，共同促进AI知识的共享和可信AI的构建。要言之，各界已经基本达成共识，人工智能的发展离不开对伦理的思考和伦理保障。 从最早的计算机到后来的信息再到如今的数据和算法，伴随着技术伦理的关注焦点的转变，技术伦理正在迈向一个新的阶段。为此，我们提出新的技术伦理，探索技术、个人、社会三者之间的平衡。包含三个层面：技术信任，人工智能等新技术需要价值引导，做到可用、可靠、可知、可控（“四可”）；个体幸福，确保人人都有追求数字福祉、幸福工作的权利，在人机共生的智能社会实现个体更自由、智慧、幸福的发展；社会可持续，践行“科技向善”，发挥好人工智能等新技术的巨大“向善”潜力，善用技术塑造健康包容可持续的智慧社会。 目录 引言：智能时代迫切需要面向数据和算法的技术伦理 ................................................................... 1 （一）人工智能引领第四次工业革命加速变革经济社会 ..................................................... 1 （二）人工智能的潜力和价值巨大，但也带来需要积极应对的问题和挑战 .............. 2 （三）各界高度重视人工智能伦理，多举措促进新技术健康发展 ................................. 4 （四）探索智能时代的技术伦理观：信任、幸福与可持续 ................................................ 8 一、信任（trust）：人工智能需要价值引导 .................................................................................... 10 （一）以人工智能“四可”原则促进人工智能信任 ........................................................... 12 （二）构建塑造人工智能信任的规则体系 ............................................................................... 16 二、幸福（happiness）：智能社会人机共生 .................................................................................... 19 （一）人人都有追求数字福祉的权利......................................................................................... 19 （二）人人都有幸福工作的权利 .................................................................................................. 21 三、可持续（sustainability）：践行“科技向善”，塑造健康包容可持续的智慧社会 ................................................................................................................................................................................ 23 结论：以智能时代的技术伦理重塑数字社会的信任 ..................................................................... 25 腾讯研究院X腾讯AI Lab 智能时代的技术伦理观 1 引言：智能时代迫切需要面向数据和算法的技术伦理 （一）人工智能引领第四次工业革命加速变革经济社会 互联网的前三十年，是一个连接一切的故事，从连接人到连接商业再到连接万事万物，互联网技术以前所未有的速度和规模改变着人类和人类社会。截至2019年3月31日，全球网民规模达到43.8亿，占世界总人口56.8%。中国以逾8亿网民规模成为全球最大互联网市场，个人应用、产业应用、政府应用等各类互联网应用蓬勃发展，为人们创造着效率和便利。连接带来的创新，提升了个体生活，促进了经济发展与社会进步。在这一发展过程中，互联网行业始终引领创新发展的浪潮。 再者，人工智能（包括未来可能出现的强人工智能和超人工智能）、机器人、大数据、物联网、区块链、云计算、虚拟现实、基因编辑、脑机接口、3D打印等新技术集群加速涌现和发展，有望引领第四次工业革命。尤其是人工智能，有望像历史上的火种和电力一样，重塑人类生活和人类社会的未来——加速的自动化和智能化，无处不在的连接，物理与数字世界的融合，甚至人类与技术的融合。我们正在步入高度依赖技术的社会，生物层、物理层、技术层有可能融合成为三位一体。未来，包括企业在内的所有组织机构都会数字化、智能化。 智能时代的大幕正在拉开，在其中，无处不在的数据和算法正在催生一种新型的人工智能驱动的经济和社会形式。人们常以“数据化” 腾讯研究院X腾讯AI Lab 智能时代的技术伦理观 2 “智能化”“算法决定论”等词汇描述这一趋势，但核心都是一样：人工智能算法正在改变这个世界。比如，算法已在决定向你展示的广告、新闻资讯等数字内容，可以评估你能否得到面试机会、获得贷款、拿到救助金等，还能预测犯罪、犯罪人的危险性等。当然，人工智能的应用并不局限于这些方面。基于大量的数据，人工智能有潜力做出比人类更优的预测和决策，比如自动驾驶有望比人类驾驶更安全，智能医疗影像诊断比医生的诊断结果更准确，智能语音识别的出错率也比速记员更低。人工智能是一项通用技术，只要有数据，就有望普遍应用于各行各业，进而提高生产力并促进经济增长。 （二）人工智能的潜力和价值巨大，但也带来需要积极应对的问题和挑战 以人工智能为代表的这一轮新技术无疑拥有巨大的潜力和价值，值得在研发和应用上持续投入，但任何有望变革人类社会的新技术都必然会带来社会伦理影响。例如，互联网技术带来的用户隐私、虚假信息、算法“黑盒”、网络犯罪、电子产品过度使用等问题已经成为全球关注焦点，引发全球范围内对互联网技术及其影响的反思和讨论，探索如何让新技术带来个人和社会福祉的最大化。此外，2018年底发生的基因编辑婴儿事件在国内外引发激烈的伦理争议。人工智能也是如此，其在隐私、歧视、安全、责任、就业等经济、伦理和社会方面的问题正在显现。未来可能出现的通用人工智能和超级人工智能则可能带来更深远而广泛的安全、伦理等影响。 腾讯研究院X腾讯AI Lab 智能时代的技术伦理观 3 隐私方面，Facebook-剑桥分析数据丑闻引爆了社会对数据的泄露、不正当二次利用、滥用等问题的担忧，而这些问题已是现今互联网用户普遍面临的问题——很多应用软件会过度收集非必需的用户数据、冗长的“用户须知”或“使用协议”诱导用户授权厂商过度使用甚至出售用户数据等。此外，不法分子利用人工智能技术，可以非法窃取、识别个人信息，甚至影响、操纵用户行为和认知。 歧视方面，“大数据杀熟”成为2018年度社会生活类十大流行语之一，反映了人们对算法歧视的担忧，滴滴、携程、飞猪等都被质疑大数据杀熟。此外，语音识别、人脸识别、精准广告工具等算法应用都可能存在偏见和歧视，甚至还曾引发了诉讼。 安全方面，自动驾驶汽车的安全问题尤其引人关注：Uber的自动驾驶汽车在测试过程中撞死行人、特斯拉的Autopilot系统在运行过程中造成致命事故。人工智能在事关健康安全的医疗领域也出现过问题，比如IBM的“沃森医生”给出过“不安全且错误”的癌症治疗建议。除了人工智能系统本身可能不完善的问题，人工智能还面临着被外部攻击风险，比如图像识别和语音识别技术的对抗攻击问题一直都是相关应用头顶上的一片乌云，自动驾驶汽车和智能家居等连接网络的物理设备也存在被网络远程干扰或操控的风险。此外，人工智能还可能被用作攻击手段——比如用于生成虚假视频和图像（所谓的deepfake即深度伪造），生产和传播假新闻，甚至被用于攻击人工智能系统。 腾讯研究院X腾讯AI Lab 智能时代的技术伦理观 4 责任方面，人工智能算法由于可能存在不透明、不可理解、不可解释等特性，在事故责任认定和分配上也存在有待讨论的法律难题，比如由于行人横穿公路而造成交通事故时自动驾驶汽车运营方是否应该承担责任、智能监控摄像头厂商是否应该为摄像头被网络攻击的问题负责。 就业方面，人工智能可能造成大规模失业的风险一直备受社会关注，甚至有人认为人工智能的普及将会在人类社会中产生一批史无前例的“无用阶层”；但同时也有人认为，与过去的蒸汽机和计算机等技术一样，新技术在夺走一部分工作岗位的同时也会创造更多更好的新型工作岗位。所以，人工智能对劳动力市场的长远影响究竟是积极的、消极的还是中立的，目前还很难预测。尽管如此，已经有一些政府机构和研究者在思考和探索潜在的解决方案了，比如全民基本收入以及教育改革等。 （三）各界高度重视人工智能伦理，多举措促进新技术健康发展 总体来看，我们现在就有必要对人工智能等新技术进行更多的人文和伦理思考，正如华裔AI科学家李飞飞所言，要让伦理成为人工智能研究与发展的根本组成部分。因为正如基辛格所言，面对人工智能的兴起，人们在哲学、伦理、法律、制度、理智等各方面都还没做好准备，因为人工智能等技术变革正在冲击既有的世界秩序，我们却 腾讯研究院X腾讯AI Lab 智能时代的技术伦理观 5 无法完全预料这些技术的影响，而且这些技术可能最终会导致我们的世界所依赖的各种机器为数据和算法所驱动且不受伦理或哲学规范约束。 显然，在当前的人工智能等新技术背景下，我们比历史上任何时候都更加需要“科技向善”理念，更加需要技术与伦理的平衡，以便确保新技术朝着更加有利于人类和人类社会的方向发展。一方面，技术意味着速度和效率，要发挥好技术的无限潜力，善用技术追求效率，创造社会和经济效益。另一方面，人性意味着深度和价值，要追求人性，维护人类价值和自我实现，避免技术发展和应用突破人类伦理底线。因此，只有保持警醒和敬畏，在以效率为准绳的“技术算法”和以伦理为准绳的“人性算法”之间实现平衡，才能确保“科技向善”。 因此，对伦理的强调和重视成为了当前人工智能领域的一大主旋律，社会各界纷纷制定相应的伦理