1. 从传统推荐到图卷积:LightGCN的诞生背景
推荐系统作为解决信息过载问题的关键技术,其核心任务是通过分析用户历史行为,预测用户可能感兴趣的物品。协同过滤(Collaborative Filtering)作为推荐系统的经典方法,经历了从矩阵分解到神经网络的发展历程。早期的矩阵分解模型(Matrix Factorization, MF)直接将用户和物品的ID映射为低维向量,通过内积计算匹配得分。这种方法虽然简单,但存在明显的局限性——它仅利用了用户和物品的直接交互信息,而忽略了用户行为背后隐含的高阶关联。
2017年左右,随着图神经网络(Graph Neural Networks, GNN)的兴起,研究者开始尝试将图卷积网络(Graph Convolutional Network, GCN)应用于推荐系统。NGCF(Neural Graph Collaborative Filtering)是这一方向的代表性工作,它通过多层的图卷积操作,显式地建模用户-物品交互图中的高阶连通性。然而,NGCF直接继承了传统GCN的设计,包含特征变换(feature transformation)和非线性激活(non-linear activation)等组件,这些设计在节点具有丰富特征的图数据(如社交网络、引文网络)中表现良好,但在推荐场景下却可能适得其反。
关键问题:推荐系统中的用户和物品节点通常只有ID作为输入特征,缺乏丰富的语义信息。在这种情况下,对ID嵌入进行复杂的非线性变换是否真的必要?
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. LightGCN的核心设计理念
2.1 传统GCN在推荐系统中的冗余操作
通过系统的消融实验,LightGCN的作者发现传统GCN中的两个关键组件对推荐任务几乎没有正面作用:
-
特征变换矩阵(W矩阵):在标准GCN中,每个传播层都包含一个可学习的权重矩阵,用于对节点特征进行线性变换。但在推荐场景中,用户和物品的初始特征只是随机初始化的ID嵌入,缺乏具体语义。实验表明,对这些嵌入进行线性变换不仅增加了模型复杂度,还可能导致信息损失。
-
非线性激活函数:ReLU等激活函数在深度学习中被广泛用于引入非线性。然而,当节点特征本身已经高度抽象(如ID嵌入)时,额外的非线性变换反而会破坏特征的可传播性。NGCF的实验数据显示,
