可信隐私计算研究报告（2022年）

可信隐私计算研究报告 （2022年） 隐私计算联盟2022年7月 编写委员会 ❖ 主要编写单位（排名不分先后）： 隐私计算联盟、中国信息通信研究院云计算与大数据研究所、蚂蚁科技集团股份有限公司、上海富数科技有限公司、杭州趣链科技有限公司、深圳市洞见智慧科技有限公司、京东科技信息技术有限公司、深圳市腾讯计算机系统有限公司、同盾科技有限公司、上海浦东发展银行股份有限公司、北京数牍科技有限公司、深圳前海微众银行股份有限公司、深圳致星科技有限公司（星云Clustar）、优刻得科技股份有限公司、杭州锘崴信息科技有限公司、中国工商银行股份有限公司软件开发中心、中国移动通信有限公司研究院、北京百度网讯科技有限公司、北京冲量在线科技有限公司 ❖ 编写组主要成员（排名不分先后）： 白玉真 袁 博 闫 树 王思源 魏 凯 姜春宇 刘嘉夕 贾 轩 杨靖世 童锦瑞 吕艾临 马智华 韦 韬 彭 晋 潘无穷 昌文婷 袁鹏程 卞 阳 杨天雅 徐 静 汪小益 韩梦薇 曾钰涵 王湾湾 杨 博 孙中伟 赵国梁 李克鹏 程 勇 贾金龙 陈 涛 郭林海 高 扬 金银玉 单进勇 范力欣 黄安埠 蔡烁玮 苗天麒 何永德 刘 沛 唐丹叶 李 帜 周建平 黄司辉 于 路 信 伦 于 欢 周吉文 陈浩栋 张亚申 I 前言 隐私计算是在保护数据安全及个人隐私的前提下，实现数据流通及数据价值深度挖掘的一系列方法。近年来，数据成为国家基础性战略资源，在 政策和市场的共同作用下，隐私计算技术、产业、应用迅速发展，已经从概念验证阶段开始逐步走向规模应用阶段。但是，在技术应用过程中，隐私计算因为涉及需求方、供给方、监管方等多方的参与，仍然面临着安全性、合规性、可用性等方面的挑战，由此隐私计算技术如何“可信”应用引发业界思考。 经过广泛调研征集和深入讨论，隐私计算联盟联合中国信息通信研究院云计算与大数据研究所等单位共同完成了《可信隐私计算研究报告（2022年 ）》。 本报告首先在隐私计算快速发展、相关技术融合创新、隐私计算理论不断演进的形势下提出了广义的隐私计算。然后，基于隐私计算应用过程中面临的挑战，从供给侧角度，梳理了技术可信应用的原则，首次明确提出并重点探讨了“可信隐私计算”的概念和五大核心要素。在此基础上，进一步分析了企业、行业的可信实践路径，提出了未来发展的相关建议。本报告致力于在隐私计算技术原理和应用实践之间搭建起连接的桥梁，为供给侧的企业产品研发和技术应用提供指导，推动隐私计算行业健康发展，让隐私计算在数据要素市场建设和数据流通过程中发挥更大的价值！ II 目录 第一章 可信隐私计算发展背景 .................................................... 1 （一） 隐私计算快速发展 ...................................................... 1 （二） 隐私计算技术理念外延扩展 ...................................... 4 （三） 隐私计算应用需建立信任原则 .................................. 7 第二章 可信隐私计算框架 ........................................................... 11 第三章 可信隐私计算核心要素 ................................................... 13 （一） 第一要素：安全可证 ................................................ 13 （二） 核心要素：隐私保护 ................................................ 16 （三） 信任基础：流程可控 ................................................ 17 （四） 落地抓手：高效稳定 ................................................ 19 （五） 规模化前提：开放普适 ............................................ 21 第四章 可信隐私计算实践路径 ................................................... 23 （一） 企业层面，将可信要素嵌入系统研发应用全流程 23 （二） 行业层面，打造可信隐私计算产业生态 ................ 24 第五章 可信隐私计算发展建议 ................................................... 26 （一） 政府层面，推进我国隐私计算监管进程 ................ 26 （二） 技术层面，全面进行技术前瞻性攻关研究 ............ 26 （三） 企业层面，加快业务场景可信应用 ........................ 27 （四） 行业层面，积极开展评测推动规范应用 ................ 27 参考文献 ......................................................................................... 28 1 第一章 可信隐私计算发展背景 （一） 隐私计算快速发展 隐私计算（Privacy-preserving computation）是指在保证数据提供方不泄露原始数据的前提下，对数据进行分析计算的一系列信息技术，保障数据在流通与融合过程中的“可用不可见”[1]。在数据成为国家基础性战略资源的当下，隐私计算已成为需求强烈的数据流通“技术解”之一。Gartner发布的2022年十二大重要战略技术趋势中指出，预计到2025年，60%的大型企业机构将使用一种或多种隐私计算技术（其称为“隐私增强计算”）。随着各方的积极布局，技术可用性的快速提升促使隐私计算市场由观望转向落地，隐私计算在各行各业多种应用场景中逐渐崭露头角。 1. 数据流通需求 发展数字经济是国家的重要战略部署，其中数据作为关键的生产要素之一，通过跨地域、跨行业、跨领域、跨机构的数据流通释放要素价值。但是，目前机构间的数据流通存在诸多阻碍。 数据流通面临产权制度未建立、安全共享存在风险、监管要求待完善等问题。一是数据的各种产权，如数据资源持有权、数据加工使用权、数据产品经营权等产权运行机制有待建立，为数据要素权益提供保护制度。二是数据流通存在安全风险。近年来，由于流通过程中 2 的数据安全事件时有发生，降低了企业参与数据流通的积极性。三是流通过程中的安全合规尺度难把握。现对数据可流通的对象、范围、方式等一系列落地问题，数据合规流通的细化规定尚未建立和完善。在此背景下，因缺乏统一、明确的合规监管体系和可行的技术实现路径，监管部门及数据使用者对数据流通中的安全合规评价尺度难以把控，导致很多数据流通需求仍处于理论探索阶段，难以实现。 “可用不可见”的隐私计算成为了上述问题的技术突破口。从原理上讲，隐私计算是一套融合了密码学、安全硬件、数据科学、人工智能、计算机工程等众多领域的跨学科技术体系，包含了以多方安全计算、联邦学习和可信执行环境为代表的多种技术方案。从应用目的来看，一 方 面，隐私计算通过对原始数据加密、去标识化或假名化处理，计算过程及结果只传递经处理后的数据，实现了原始数据不出域，保证了原始数据持有权不变且不受损，仅让渡了数据使用权，实现了数据的持有权和使用权相互分离，保障了数据主体的合法权益。另一方面，隐私计算通过限定数据用法、用量，解决了原始数据无限复制、盗用、滥用的问题。同时，隐私计算利用加密、去标识化或假名化处理后的数据进行计算，计算过程中只传递切片、密文等 非原始数据，有助于实现对原始数据的最小化使用。另外，结合特定应用场景，经隐私计算技术去标识化处理后的数据在一定条件下有望实现匿名化，从而为多源数据的安全融合应用和价值释放提供了新思路。 2. 法律政策环境 当前国内多个法律和政策助推隐私计算产业进一步发展。 3 法律层面，一系列与数据及其安全保护相关的法律法规陆续发布，《国家安全法》《网络安全法》《数据安全法》及《个人信息保护法》等共同构筑了数据安全保护的基础性“法律堡垒”。 政策层面，2016年工业和信息化部、中国人民银行、国家发改委、中央网信办、国家能源局等各部委先后在相关政策文件中提出加强隐私计算相关技术的攻关和应用。2021年5月，人民银行组织金融机构开展包括应用隐私计算进行数据共享在内的金融数据综合应用试点。2022年1月，国务院办公厅印发的《要素市场化配置综合改革试点总体方案》中提出探索“原始数据不出域、数据可用不可见”的交易范式，探索建立数据用途和用量控制制度，实现数据使用“可控可计量”。4月，《中共中央 国务院关于加快建设全国统一大市场的意见》明确提出，“加快培育数据要素市场，建立健全数据安全、权利保护、跨境传输管理、交易流通、开放共享、安全认证等基础制度和标准规范，深入开展数据资源调查，推动数据资源开发利用。”地方层面，目前已有十八个省市公布了相关数据条例，促进数据流通和开发利用[2]。 在技术优势和政策环境的助力下，隐私计算在不获取其他参与方原始数据的情况下处理数据，结合授权和防篡改等手段有效控制数据滥用， 成为目前数据流通领域最受关注的技术热点之一。相关的学术会议和论文数量在近几年呈现大幅增长，研究也从技术原理逐步转向应用实践。在算法协议优化、软硬件结合方案提升计算性能之下，越来越多的企业入局隐私计算研发和产品化，产品逐渐开启商业化大规 4 模应用 ，在金融、医疗、政务、互联网、车联网等数据流通需求强烈的场景纷纷落地。 （二） 隐私计算技术理念外延扩展 国际方面，与隐私计算相关的概念有隐私增强技术（Privacy Enhancing Technologies，PETs）和隐私保护计算（Privacy-Preserving Computation）。 其 中隐私增强技术范围比较宽泛，把从系统层面实施数据保护协议的技术都囊括其中，而隐私保护计算则聚焦在具体技术[3] [4][5]。例如，在欧盟网络安全局（ENISA）的定义中，除了隐私保护计算， 隐私增强技术还可包括匿名化、假名化以及访问、通信、存储过程中各种实现隐私保护的技术。 而联合国大数据工作组发布的技术手册中则将两种概念合并使用[6]。 国内方面，中科院信工所的李凤华等人[7][8]定义隐私计算（Privacy Computing）是“面向隐私信息全生命周期保护的计算理论和方法，是隐私信息的所有权、管理权和使用权分离时隐私度量、隐私泄露代价、隐私保护与隐私分析复杂性的可计算模型与公理化系统”。隐私计算联盟、中国信通院云大所在数据流通场景中对隐私计算概念进行延伸，《隐私计算白皮书 （2021）》中定义隐私计算（Privacy-preserving computation）是在保证数据提供方不泄露原始数据的前提下，对数据进行分析计算的一系列信息技术，保障数据在流通与融合过程中的“可用不可见”[1]。该定义被产业界广泛关注引用，更关注的是“保护隐私的技术或方案”。 而今，各界对隐私保护的需求越来越重视，隐私计算概念也有了 5 新的概念外延。例如今年5月， 美国《促进数字隐私技术法案》[9]将隐私增强技术明确为“通过提高可