1-4 联邦学习技术应用创新探索- 周旭华

01 联邦学习简介

• 背景介绍：数据“数据孤岛”现象普遍存在，政府、运营商、行业数据相互独立，难以共享。
• 联邦学习概念：通过本地数据处理和中间加密数据流通，实现多方联合机器学习训练和预测，保障数据安全与隐私。
• 联邦学习分类：
  • 横向联邦学习：不同分段数据训练合并。
  • 纵向联邦学习：算法拆分模块化训练，需参数交互。
• 与其他隐私保护计算技术对比：联邦学习提供技术框架，强调“数据不动模型动”，性能接近无损，可与其他技术交叉应用。

02 联邦学习技术创新探索

• 创新探索一：系统架构灵活适应业务场景
  • 标准架构：采用对等模式，满足电信数据提供方需求，解决大数据量、低带宽、网络不直达问题。
  • 交易中心架构：中心模式控制数据流，实现管理模块与计算模块分离，保证数据不出域统一管理。
• 创新探索二：抗数据污染的新检测方法
  • 针对联邦学习数据污染问题，通过提取训练数据特征并分类分析，计算新数据有效性概率，设置阈值判定异常。
• 创新探索三：抗成员推断攻击的在线推理
  • 利用过滤器、同态加密、随机数乘法等技术，保护请求不被响应方精确获悉，抵抗成员推断攻击。
• 创新探索四：纵向联邦学习的异步优化方法
  • 引入缓存单元存储参与方特征计算值，实现异步训练，打破模型依赖，解决木桶效应问题。
• 创新探索五：参与方模型价值贡献评估
  • 基于SV理论，考虑特征重要性，评估各方数据对联邦模型的增益贡献，推动跨域跨行业数据共享。