隐私计算 法律与合规研究白皮书 （2021年） 隐私计算联盟 中国信息通信研究院云计算与大数据研究所 2021年12月 引 言 自党的十九届四中全会将数据列为生产要素以来，数据的开放共享、交换流通成为大数据产业发展的重点。快速发展的隐私计算等数据流通新技术为产业“破局”提供了关键思路，成为建设和完善数据要素市场的重要抓手。隐私计算（Privacy-preserving computation）是指在保证数据提供方不泄露原始数据的前提下，对数据进行分析计算的一系列信息技术，实现数据在流通与融合过程中的“可用不可见”。 从隐私计算实现的目标来看，能实现隐私保护的同时支持数据价值分析的技术方案都可被列入隐私计算的范畴。其中典型的技术路线包括多方安全计算（Secure Multi-party Computation ,MPC）是多个参与方基于密码学技术共同计算一个目标函数，保证每一方仅获取自己的计算结果，无法通过计算过程中的交互数据推测出其他任意一方的输入和输出数据的技术；联邦学习（Federated Learning，FL）可以实现在本地数据不出库的情况下，通过对中间加密数据的处理来完成多方对共享模型的机器学习训练；可信执行环境（Trusted Execution Environment，TEE）是将软硬件方法构建的安全区域与其他应用和操作系统隔离开，使得操作系统和其他应用无法访问或更改该安全区域中的代码和数据，从而达到保护敏感数据和代码效果的技术；同态加密（Homomorphic Encryption，HE）是基于数学难题的计算复杂性理论的密码学技术，能确保在密文上直接进行计算后对输出进行解密，得到的结果和直接明文计算的结果一致。零知识证明（Zero —Knowledge Proof，ZKP）是基于密码学技术，证明者能在不向验证者提供任何有用信息的情况下，使验证者相信某个论断是正确的；差分隐私（Differential Privacy，DP）是通过对数据集添加噪声，避免相邻两个数据集在发布聚合计算结果时单条数据记录的泄露。 数字经济兴起以来，各国通过法律法规和国际条约来规范数据的采集和使用，提出了授权同意、匿名化、安全审查等一系列合规要求，其目的在于保障国家安全、市场竞争秩序、个人隐私、人身及财产安全、个人数据自主权利等法益。在数据合规日趋收紧的背景下，隐私计算提供了合规前提下充分挖掘数据价值、促进数据流通的一种可行的技术解决方案。但与此同时，如何评估隐私计算技术及产品的合规性、如何约定参与方的权利义务以及如何规避法律风险等问题也成为行业普遍关心的热点话题。 本白皮书从隐私计算的合规意义和常见的误区入手，对隐私计算的参与方及相互间的法律关系进行定义和分析。在此基础上，详细分析了隐私计算参与方应关注的法律和合规要点，并给出相应安全和合规方面的建议。为进一步分析隐私计算的合规提升效果，我们对广告营销、企业融资风控、个人信贷风控和人脸识别四个场景的技术方案及其隐私保护效果进行了分析。最后，基于隐私计算发展的现状和未来的需求，产业和监管的互信互动将有助于进一步推进隐私计算乃至数字经济的发展，本白皮书通过对产业的健康发展进行展望，以期隐私计算为数据价值的挖掘和国民经济的发展带来更大的价值。 版权声明 本报告版权属于隐私计算联盟及中国信息通信研究院云计算与大数据研究所，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：隐私计算联盟、中国信通院云大所”。违反上述声明者，本院将追究其相关法律责任。 编写委员会 ❖ 主要编写单位（排名不分先后）： 中国信息通信研究院云计算与大数据研究所 清律律师事务所 华控清交信息科技（北京）有限公司 蚂蚁科技集团股份有限公司 上海富数科技有限公司 同盾科技有限公司 北京德和衡（上海）律师事务所 中移动信息技术有限公司 中国联合网络通信有限公司研究院 北京数牍科技有限公司 联易融数字科技集团有限公司 ❖ 参与编写单位（排名不分先后）： 北京市竞天公诚律师事务所 京东科技控股股份有限公司 ❖ 编写组主要成员（排名不分先后）： 仵姣姣 闫 树 吕艾临 侯 宁 熊定中 庄媛媛 靳 晨 王云河 彭 晋 白晓媛 昌文婷 方 竞 姜 康 彭宇翔 孟 丹 娄 鹤 陈国彧 朱明烨 范东媛 王 鑫 曹 咪 张立彤 史金雨 金银玉 单进勇 陈永侠 陈 曦 魏 凯 孙中伟 李 帅 袁立志 朱 垒 目 录 一、隐私计算的合规意义 1 (一) 隐私计算有助于提升数据合规 1 (二) 隐私计算应用的常见误区 8 二、参与主体及其法律关系 10 (一) 参与主体的定义和主要职能 10 (二) 参与方的法律定性 12 三、隐私计算的法律和合规要点 14 (一) 明确数据处理的合法性基础 14 (二) 事先评估全流程风险 15 (三) 参与方管理 17 (四) 数据源合规 19 (五) 关注技术方案的安全性 20 (六) 明确计算模型的归属 21 (七) 关注产出结果的合规性 22 (八) 关注自动化决策的风险 23 (九) 日志审计和监督机制 23 四、隐私计算的应用实例效果评估 25 (一) 广告营销场景 25 (二) 个人融资风控场景 27 (三) 小微企业信贷风控场景 29 (四) 金融穿透式监管场景 30 (五) 人脸识别场景 32 五、隐私计算合规发展的展望 35 (一) 鼓励创新，留足空间 35 (二) 以点带面，逐步深入 36 (三) 多方参与，各尽其能 36 (四) 层级分明，分类监管 37 1 第一章 隐私计算的合规意义 2021年《数据安全法》与《个人信息保护法》的出台，与《网络安全法》一同形成了数据合规领域的“三架马车”，这标志着数据合规的基本法律架构已初步搭建完成。在此基础上，关注重点行业、新兴技术的法律和司法解释也在今年密集发布，一方面为产业、技术的发展提供了更为清晰的指引，另一方面也意味着监管强度日渐收紧、合规压力日益凸显。因此，不同行业、不同主体间的数据融合流通面临较大的合规压力，平衡数据价值挖掘需求和满足合规要求成为数据流通产业急需解决的问题。 (一) 隐私计算有助于提升数据合规 《数据安全法》第三条指出，“数据安全，是指通过采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的能力”。第七条也表明，“国家保护个人、组织与数据有关的权益，鼓励数据依法合理有效利用，保障数据依法有序自由流动，促进以数据为关键要素的数字经济发展”。可以看出，数字经济的发展需要在保护数据安全的基础上发挥数据的使用价值。隐私计算技术得 2 以在不转移或泄露原始数据的前提下，实现数据融合“可用不可见”的效果，为数据要素的融合流通提供了一种可能的合规“技术解”。 1.隐私计算有助于履行安全保障义务 隐私计算可作为防止未经授权访问、减少个人信息泄露、篡改和丢失的一种技术手段，还可以实现在不获知其他参与方原始数据的情况下处理数据。因此，隐私计算可被理解为是一种加强数据安全的技术措施，有助于保障数据处理过程中各方的数据安全，为防范安全风险提供技术支撑。 从法律层面而言，应用隐私计算也属于履行法律要求的数据安全保护义务，有利于优化数据应用安全环境和维护相关数据主体的权益。我国相关主要法律条款如表1所示： 网络安全法 第四十二条 网络运营者不得泄露、篡改、毁损其收集的个人信息；未经被收集者同意，不得向他人提供个人信息。但是，经过处理无法识别特定个人且不能复原的除外。 网络运营者应当采取技术措施和其他必要措施，确保其收集的个人信息安全，防止信息泄露、毁损、丢失。在发生或者可能发生个人信息泄露、毁损、丢失的情况时，应当立即采取补救措施，按照规定及时告知用户并向有关主管部门报告。 数据安全法 第二十七条 开展数据处理活动应当依照法律、法规的规定，建立健全全流程数据安全管理制度，组织开展