5-2 图联邦学习进展与应用 -史春奇

图联邦学习进展与应用

图联邦的必要性

• 联邦学习是一种分布式机器学习技术，允许在多个分散的设备或服务器上训练算法，而无需交换数据，从而实现数据安全与机器学习能力的结合。
• 纵向联邦学习是金融机构引入外部数据的重要技术，适用于数据集具有相同样本空间但不同特征空间的参与方。
• 联邦学习的必要性源于日益严格的数据安全合规要求、数据作为生产要素的重要性，以及传统数据合作方法的缺陷。
• 图应用在金融行业的必要性体现在跨地区、跨机构、跨账户的资金流、数据流、信息流的挖掘，图数据在刻画数据间关联关系上具有重要作用。
• 图应用在金融行业的案例包括车险理赔SNA反欺诈、跨境跨机构反洗钱、私募机构联合操纵股价、理财资金被非法挪用、加密货币交易所被黑客攻击等。

图联邦的分类

• 联邦学习的分类：
  • 按数据拥有方：跨设备、跨机构。
  • 按数据集组织：横向、纵向、迁移联邦学习。
  • 按架构：CS架构（仲裁者服务器）、P2P架构、委员会架构。
• 图模型的分类：
  • 邻接矩阵与属性图是常见的描述方式，属性图常基于消息传递架构进行图分析。
• 图学习的目的：节点分类、边预测、图分类与社区发现。
• 图学习的框架：根据图神经网络算子（传播、抽样、池化）进行划分。
• 图联邦的分类：
  • 融合图对象（图、子图、节点）与联邦学习数据划分（横向、纵向）。
  • 融合图对象、架构（CS架构、非CS架构）与联邦学习数据划分（横向、纵向、混合）。

图联邦的经典算法

• 最简单的图联邦模型：同类型金融机构数据合作，例如跨金融的反洗钱，采用横向图联邦和CS架构，实现节点类型预测。
• Non-IID的图联邦模型：
  • 采样方法：参考FedGraph，效果显著。
  • 学习权重调整方法：参考ASFGNN，效果显著。
• 自动最优参数：
  • 强化学习寻找最优参数：FedGraph。
  • 贝叶斯优化寻找最优参数：ASFGNN。
• 异构图的处理：
  • 不同关系类型计算不同图嵌入：参考FedGNN。
  • 引入伪标签修正本地标签：参考FedGL。
• 非CS架构的图联邦模型：
  • 非中心化SGD学习：参考SpreadGNN中的DPA-SGD，效果显著。
• 纵向图联邦：
  • 预测目标在其中一方：参考VFGNN。

图联邦的平台架构

• 通用的图联邦平台架构参考FedGraphNN。

图联邦的金融应用

• 跨机构反洗钱-横向图联邦：
  • 构图数据：6家银行的KYC数据。
  • 目的：AML预警处理。
  • 方法：图统计/图嵌入+节点预测。
  • 实现效果显著。
• 社交数据车险反欺诈-纵向图联邦：
  • 构图数据：人、车、案件网络，社交网络。
  • 处理方法：图嵌入+纵向节点预测。

图联邦的发展展望

• 未来发展展望：
  • 复杂图处理：超大网络、非均衡/Non-IID网络、动态异构网络、时空关系下的图网络、无监督学习/预训练。
  • 联邦安全：图联邦的去中心化、计算的隐私保护、数据对齐的信息泄露与数据授权。
  • 一体化平台建设：存储、查询、计算、通信平台，对齐、构图、可视化平台，任务、数据、日志管理平台，建模、调参平台，部署、应用平台。