1 - 2 图学习中的公平性与可解释性

图神经网络中的公平性和可解释性

公平性

机器学习中的歧视/偏见

• 深色女性在面部识别中表现不佳的例子。

图神经网络在辨别方面的风险

• GNN 辨别风险示例：工资预测，由于历史原因男性工资较高，导致模型预测男性工资为高，女性工资为低。
• 风险原因：网络中相连的人往往具有相同的敏感属性，信息传递导致相连节点的预测结果相似。

实证分析

• 研究表明图神经网络在辨别方面具有更高的风险（如 Pokec-z 数据集）。
• 戴恩艳等（2021）提出对抗性去偏见框架，通过 GNN 分类器和敏感属性估计器进行对抗训练，消除分类表示中的敏感信息。

群体公平的定义

• 统计奇偶校验：预测应与敏感属性无关。
• 机会均等：正类中某一实例被分配到积极结果的概率应等于两个子群体成员的相应概率。

FairGNN 的对抗性去偏见框架

• 对手模型预测敏感属性，分类器学习表征以愚弄对手。
• 公平约束：将协方差约束添加到对抗性损失中，进一步确保公平性。

研究结果

• FairGCN 和 FairGAT 在性能下降很小的情况下实现公平性。
• 对抗性去偏见框架具有通用性，可应用于不同任务和数据集。

未来方向

• 异构图上的公平性。
• 没有敏感属性的公平性。
• 公平中的攻防研究。

可解释性

需求

• 各类应用（如信用评分、欺诈检测）需要 GNN 的可解释性。

事后解释

• 通过识别重要的子图来解释 GNN 的预测。

自我解释 GNN (SE-GNN)

• 戴恩艳等（2022）提出 SE-GNN，通过 K-最近标记节点及其标签和局部图结构相似性进行解释。
• SE-GNN 使用 K-最近标记节点进行预测，并显式建模节点相似性和局部结构相似性。

SE-GNN 的关键步骤

1. 节点相似性建模：识别目标节点的 K 个最近的标记节点，进行自我监督学习。
2. 局部结构相似性建模：通过边匹配进行相似性建模，并使用新型损失函数进行解释。

研究结果

• SE-GNN 在节点分类任务中表现优异，与最先进的自监督方法相当。
• 边缘匹配解释展示了局部图结构的相似性。

评估方法

• 使用真实世界数据集进行节点分类评估。
• 通过可视化方法展示 K 最近标记节点和边匹配的解释。

未来方向

• 用于说明的基准数据集。
• 在公平性和稳健性中应用解释。

参考文献

• 戴恩艳等. “一个综合可信图神经网络调查：隐私、鲁棒性、公平性和可解释性.” 2022.
• 戴恩艳、王苏航. “对歧视说不：在有限敏感属性信息条件下学习公平图神经网络.” WSDM. 2021.
• 戴恩艳等. “走向可解释图神经网络.” CIKM 2022.