基于图神经网络的搜索推荐算法与实践

图神经网络在搜索推荐算法中的应用与实践

图表征学习简介

• 图游走类方法：从图结构数据上采样序列，将图结构学习任务转化为序列上下文建模任务，类比于NLP中的Word2Vec方法。优点是可解释性强、可学习高阶相似信息；缺点是仅考虑拓扑结构信息、静态表征、无法端到端信息、缺少参数共享、参数量随节点数量线性增长。
• 因子分解方法（如LLE，GraRep等）：面临对非线性拟合能力不足、计算复杂度高的问题。

基于谱域的图卷积

• 连接图卷积和图谱滤波的桥梁，使用Chebyshev多项式来近似图滤波器。
• 连接谱域卷积和空域卷积的桥梁，使用一阶Chebyshev多项式来近似图滤波器，感受野正比于图卷积层数。

基于空域的图卷积

• 基于消息传递（Message Passing）范式，降低计算复杂度，扩展成归纳学习任务，对未知节点起到泛化作用。

图在推荐系统中的价值

• 图直接将不同类型的行为包含起来。

图神经网络在推荐系统中的优势

• 提供丰富的上下文信息和交互关系。

图在推荐系统中的应用范式

• 图端到端：图模块为主，推荐任务为监督信号主要来源。
• 图预训练：图模块为主，自监督任务为监督信号主要来源，可直接以Embedding方式赋能召回，也可以作为初始化或子网络基于推荐任务微调。
• 图子网络：图模块为辅，主模型结构多为双塔，下游目标任务为监督信号主要来源。

图召回业界工作例举

• 图端到端：依赖高阶邻居，可能引入噪声，影响相关性。
• 图预训练：利用自监督任务获取统一表征或模型。
• 图子网络：高阶关系为辅，结合双塔模型，保证相关性。

图精排业界工作例举

• 图特征：作为精排模型子模块端到端训练，一般基于图自身的特征聚焦于提升精排模型的特定功能（如特征精炼、特征交互、意图挖掘、冷启动等）。
  • 明文特征：拓扑特征或任务相关特征。
  • Embedding特征：针对精排模型面临的某一类待优化的方向。
• 图子网络：作为精排模型子模块，与User-Tower共享Query相关特征Embedding。

OPPO应用商店搜索

• 相关性要求高。
• Query分布存在长尾问题。
• Query存在语义不明确的问题。
• App与Query语义信息不一致。
• 图召回--子网络：
  • 相关性要求：双塔模型基于节点自身及一阶交互关系建模，图子网络高阶关系为辅，避免引入噪声。
  • Query存在长度短、分布长尾的特点：用户历史query序列较短、新用户无法覆盖、头部query主导。
  • App与Query语义信息不一致：输入3-hop子图增强App表征并缩进Query与App的语义Gap。
• 图精排--特征交互：
  • 结合GMCF、GraphFM、L0-Sign各自优势挖掘显式交叉特征。

未来展望

• 图预训练：利用用户、应用、广告等实体在多个场景的多种交互行为得到统一的预训练表征或模型。
• 噪声过滤：图模型带来信息的同时也带来噪声，噪声>信息则适得其反。