读论文-基于用户长短期偏好的序列推荐模型

前言

今天要读的论文名为《基于用户长短期偏好的序列推荐模型》，是一篇于2022年12月29日发表在《计算机科学》上的一篇期刊论文。

文章发现了传统的序列推荐模型忽略了不同用户的个性化行为,导致模型不能充分捕获用户动态偏好而产生的兴趣漂移等问题,提出了一种基于用户长短期偏好的序列推荐模型(SequentialRecommendationModelBasedonUser’sLongandShortTermPreference,ULSP-SRM)。

如何引用这篇论文：

[1]雒晓辉,吴云,王晨星等.基于用户长短期偏好的序列推荐模型[J].计算机科学,2023,50(04):47-55.

摘要

针对现有序列推荐模型忽略了不同用户的个性化行为,导致模型不能充分捕获用户动态偏好而产生的兴趣漂移等问题,提出了一种基于用户长短期偏好的序列推荐模型(SequentialRecommendationModelBasedonUser’sLongandShortTermPreference,ULSP-SRM)。首先,根据用户的序列中交互物品的类别和时间信息生成用户的动态类别嵌入,进而有效建立物品之间的关联性,并且降低数据的稀疏性;其次,根据用户当前点击物品和最后一项点击的时间间隔信息生成个性化时序位置嵌入矩阵,模拟用户的个性化聚集现象,以更好地反映用户偏好的动态变化;然后,将融合了个性化时序位置嵌入矩阵的用户长期偏好序列以会话为单位输入门控循环单元中,生成用户的长期偏好表示,并通过注意力机制将用户长短期偏好进行融合,生成用户的最终偏好表示,从而达到充分捕获用户偏好的目的;最后,将用户最终偏好表示输入推荐预测层进行下一项推荐预测。在Amazon公开数据集的7个子集上进行实验,采用AUC(Area Under Curve)值、召回率和精确率指标进行综合评估,实验结果表明,所提模型的表现优于其他先进基准模型,有效地提升了推荐性能。

文章首先提出了传统的推荐模型的缺点，然后提出了一种新的推荐模型；为了降低数据稀疏性，文章提出有效建立物品关联性的方法，即根据用户的序列中交互物品的类别和时间信息生成用户的动态类别嵌入；其次，为了更好地反应用户的动态偏好变化，文章提出一种根据用户当前点击物品和最后一项点击的时间间隔信息生成个性化时序位置嵌入矩阵，模拟用户的个性聚集现象；然后,将融合了个性化时序位置嵌入矩阵的用户长期偏好序列以会话为单位输入门控循环单元中,生成用户的长期偏好表示,并通过注意力机制将用户长短期偏好进行融合,生成用户的最终偏好表示,从而达到充分捕获用户偏好的目的;最后,将用户最终偏好表示输入推荐预测层进行下一项推荐预测。

引言

序列推荐系统(SequentialRecommendationSystem,SRS)已经成为推荐领域的热门研究内容。

序列推荐模型主要通过在序列中建模用户-物品之间的交互来为用户推荐其可能感兴趣的物品。在传统包括基于内容和协同过滤的推荐模型中,通常以静态的方式建模用户-物品交互,只能捕获用户的静态偏好。

事实上,用户-物品交互本质上是具有时间顺序依赖性的,用户偏好可能会随着时间的推移而改变。SRS将用户-物品交互视为一个动态序列,并考虑到顺序依赖关系,以捕获用户长期偏好和短期兴趣来更准确地进行推荐。

然而,现有的大多数推荐方法如基于用户的协同过滤算法都是隐式地将用户进行分组,它们不能明确地对物品类别之间的相关性进行建模。此外,不同用户在相同时间段的习惯不一定相同,例如有的用户喜欢在双十一等购物节采购,有的用户则习惯错峰购买,我们将这种现象称作“个性化时序位置聚合”,针对这些用户的推荐机制显然是不同的。

近年来,学者们采用用户的长期偏好和短期兴趣相结合来提升推荐效果。然而,现有研究通常以静态方式构建用户的兴趣偏好,往往忽略了用户兴趣偏好是动态变化的问题。另外,随着时间的推移,用户的兴趣偏好在不断地发生变化,现有研究不能充分捕获用户的兴趣,产生兴趣漂移的问题。

因此,为了解决以上问题,充分捕获用户个性化的动态兴趣变化,削弱兴趣漂移对推荐性能带来的影响,本文提出了一种基于用户长短期偏好的序列推荐模型(ULSP-SRM)。

首先,将用户的行为序列按天切分成会话表示,然后根据序列中交互物品的类别和时间信息生成用户的动态类别嵌入,以最后一天的行为序列作为用户的短期偏好序列;其次,根据用户当前点击物品和最后一项点击的时间间隔信息生成个性化时序位置嵌入矩阵,与用户的长期偏好序列进行融合;然后,将融合了个性化时序位置嵌入矩阵的用户长期偏好序列以会话为单位输入GRU(GateRecurrentUnit)中,生成用户的长期偏好表示;最后,通过Attention机制将用户长短期偏好进行融合,生成用户的最终兴趣偏好表示,输入推荐预测层进行下一项推荐预测。

相关工作

论文讲述了关于序列推荐算法的相关研究。详情请下载论文查看。

基于用户长短期偏好的序列推荐模型

问题的定义

首先文章给出了符号定义：

设数据集中用户集合U={u₁,u₂,…,u_p},交互物品集合V={v₁,v₂,…,v_q},类别集合C={c₁,c₂,…,c_h},其中p,q和h分别为用户、交互物品和类别的个数。对于每个用户u∈U,我们将用户u的行为序列根据时间戳按天进行了划分,用户u的行为序列定义为L^u_T={S^u₁,S^u₂,…,S^u_T},其中T表示当前的时间,S^u_i⊆V(i∈[1,T])表示用户u在时间i时的会话,每个会话代表用户在一天内的行为序列。由于会话S^u_T包含了用户u最近一天内的点击物品行为,这反映了用户u在T时的短期兴趣,我们称SuT为用户u的短期兴趣序列。那么,我们称用户u在时间1~(T-1)的行为序列L^u _T-1={S^u₁,S^u₂,…,S^u _T-1}为其长期偏好序列。

所研究问题可正式描述为:给定用户的行为序列LuT,预测目标用户的下一个行为,并向目标用户推荐合适的物品。

ULSP-SRM 模型

本文提出的ULSP-SRM模型主要包括4个部分:

序列切分与动态用户类别提取

首先将用户u的行为序列根据时间戳按天划分成会话表示,得到用户u的行为序列L^u_T={S^u₁,S^u₂,…,S^u_T};接下来从L^u_T和C中获取用户的动态类别,其被表示为C^u_T,然后利用C^u_T从物品类别集合C中查找并生成用户在时间T时的动态用户类别嵌入层。我们将长期序列的长度限制为Ls,因此L^u_T-1={L_n-Ls, ..., l_j...,l_n},其中n为L^u_T-1中最后一个交互物品的索引编号。

个性化时序位置矩阵嵌入

本文提出了可训练的个性化时序位置嵌入,用P_u={p_n-Ls,…,p_j,…,p_n}表示,用于对用户的长期历史行为序列进行建模,捕获用户特定时间的个性化兴趣偏好,从而得到融入了时序位置嵌入矩阵的用户长期历史行为表示H^u_T-1={h_n-Ls,…,h_j,…,h_n}。

用户长短期动态偏好提取层

本文将融入了时序位置嵌入矩阵的用户长期历史行为序列H^u_T-1以每个会话为单位输入GRU单元中,得到用户的长期动态兴趣偏好。然后采用神经注意力机制将用户的短期兴趣序列SuT和用户的长期偏好序列L^u_T-1进行融合,得到用户的最终兴趣偏好表示。

推荐预测层

将用户的最终动态兴趣偏好表示输入全连接层中得到最终的预测结果。