7-1 隐私保护图学习和推荐 - 陈超超

隐私保护图学习和推荐

背景

• 合规与隐私：2021年，《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》相继实施，对数据安全和隐私保护提出严格要求。
• 图数据的广泛应用：社交图、知识图、Web图、设备图、基因图、脑图、分子图、控制流图等图数据无处不在，但存在数据孤岛问题。
• 图数据孤岛问题：不同机构或系统中的图数据相互隔离，难以进行有效融合和分析。

预备知识

• 隐私计算技术分类：
  • 差分隐私 (DP)：通过添加噪声保护隐私，常用拉普拉斯机制、高斯机制和指数机制，ε越小隐私保护程度越高。
  • 多方安全计算 (MPC)：在无可信第三方的情况下，通过密码学技术确保计算过程的安全性。
  • 联邦学习 (FL)：通过在模型（梯度）中加入噪声提升安全性，使用MPC进行模型聚合以防止梯度泄露。
  • 拆分学习 (SL)：将模型拆分成多个计算模块，分别由不同参与方执行，适用于数据垂直切分场景。

图学习

• 隐私保护图学习方案：
  • MPCNN：使用MPC将神经网络逐层转换为密态空间进行计算，逐层执行，但效率低。
  • SplitNN：将非线性运算转换为明文计算，但性能较差。
  • 隐私保护SGLD和GAN：通过算法和密码学协同设计，实现可扩展的隐私保护深度学习模型。
  • 联邦学习与拆分学习结合：解决联邦学习Non-IID性能问题，通过协调local和global模型的表征能力提升准确性。
  • MPC与随机排列结合：使用MPC执行线性计算，随机排列执行非线性计算，降低计算开销和隐私泄露风险。

推荐算法

• 隐私保护推荐 (2C)：使用本地化差分隐私收集隐私数据，通过去中心化算法和联邦学习训练模型，保护隐私数据的同时提升推荐效果。
• 隐私保护跨域推荐 (2B)：使用源域数据提升目标域的推荐效果，基于差分隐私的（稀疏）矩阵降维发布，保证用户距离不变性。

产品简介

• 金智塔隐私计算平台：基于国家重点研发计划项目（No. 2018YFB1403003）落地成果，实现“数据不出域，可算不可见”的数据融合计算场景。
• 产品能力：包括隐私计算节点、算法库（同态加密、秘密分享、差分隐私等）、任务调度、账号权限管理、多方运维监测、加密交互、计算留痕等。