端云协同隐私计算系统的设计和落地探索

背景及设计理念

当前，传统纯云智能系统存在用户隐私泄露风险，如厦门银行违规罚款、Telegram信息泄露等事件频发，同时全球范围内数据隐私法规（如欧盟《数据治理法》《数据法案》、中国《数据二十条》等）日益严格，推动端云隐私计算系统需求增大。

端云隐私计算系统设计

系统设计基于以下假设：数据分布在端侧且被保护，云侧仅持有少量数据，端云交互无法反推隐私信息；端计算能力有限，网络不稳定，端数量庞大且分布全球。系统采用“选择-计算-聚合”范式，通过三层功能需求实现隐私保护：端侧选择参与计算的设备，端云协同进行计算，云侧聚合结果。

设计理念与架构

系统以“主动隐私”为核心，强调以用户为中心，主动感知、审计和合规，保障隐私安全。架构面向落地智能业务，覆盖业务全层级（数据采集、转换、分析、建模、评估等），实现端云协同的隐私保护智能服务。通过大规模端采样（随机异步时空均匀选择）和云侧无数据模型评估（模型到数据范式），实现设备间协作和业务落地。

安全挑战与防御

联邦学习并非绝对安全，面临数据安全和过程安全双重挑战：

• 数据安全：用户隐私数据和模型数据均易受攻击，如投毒攻击（FedPerturb可打破防御造成模型发散）、后门攻击（FedBA可隐蔽植入后门）。
• 过程安全：需通过差分隐私（FedIPR框架防止梯度泄露、FedExactUnlearning实现数据遗忘）、模型水印（FedIPR防止模型非法复制）等技术进行防御。

结论

端云隐私计算系统通过选择-计算-聚合架构和主动隐私技术，实现大规模设备协作和业务落地，但仍需关注投毒、后门等攻击威胁，并采用差分隐私、模型水印等防御措施，确保数据安全和过程安全。