首页 > 其他分享 >TempRec论文阅读笔记

TempRec论文阅读笔记

时间:2024-07-18 21:40:25浏览次数:16  
标签:顺序 新闻 推荐 论文 笔记 TempRec 点击 序列 多样性

Is News Recommendation a Sequential Recommendation Task?论文阅读笔记

Abstract

现存的问题:

​ 新闻推荐通常被建模为顺序推荐任务,假定历史点击新闻存在丰富的短期依赖关系。然而,用户通常对新闻信息的时间多样性有很强的偏好,可能不会倾向于连续点击相似的新闻,这与电子商务推荐等许多顺序推荐场景有很大不同。

提出方法:

​ 在本文中,我们研究了新闻推荐是否可以被视为一个标准的顺序推荐问题。通过在两个真实世界数据集上进行大量实验,我们发现将新闻推荐作为传统的顺序推荐问题建模并不理想。为了解决这个问题,我们进一步提出了一种时间多样性感知的顺序新闻推荐方法,它可以推广与最近点击的新闻不同的候选新闻,以帮助更准确地预测未来的点击量。实验表明,我们的方法可以增强各种新闻推荐方法的能力。

Introduction

​ 现有顺序新闻推荐方法的一个核心假设是,历史行为存在丰富的短期依赖关系,未来行为也可能与最近的过去行为相关。虽然这一假设被广泛应用于电子商务推荐 和电影推荐等许多顺序推荐场景,但我们发现,由于用户偏好新闻信息的时间多样性(即新颖性),这一假设在新闻推荐场景中可能并不成立。新闻推荐中独特的时间多样性偏好特征挑战了顺序推荐方法的基本假设,从而提出了传统顺序推荐方法是否适用于新闻推荐的问题。

​ 本文研究了新闻推荐是否适合建模为顺序推荐任务。通过在两个新闻推荐数据集上的大量实验,我们发现现有新闻推荐方法所使用的许多主流序列建模技术都不是最优的,这表明将新闻推荐建模为传统的序列推荐问题是次优的。为了解决这个问题,我们提出了一种时间多样性感知的新闻推荐方法,命名为 TempRec,它鼓励推荐与最近点击的新闻不同的候选新闻。更具体地说,我们使用共享的顺序无关变换器从所有历史新闻点击中学习全局兴趣嵌入,并从最近的几次点击中学习最近的兴趣嵌入。点击得分由候选新闻与全局兴趣嵌入之间的正相关性以及候选新闻与近期兴趣嵌入之间的负相关性的可学习加权求和计算得出。实验结果表明,TempRec 可以改进许多现有的新闻推荐方法。

序列新闻推荐

​ 经典的序列新闻推荐的框架如下:

pkohNE8.png

关于顺序推荐模型的实验

数据集和实验设置

​ 使用了MIND和APP数据集,使用Glove来初始化词嵌入,以及其他的一些实验设置见原始论文

性能对比

​ 比较了三种模型,一种是GRU4Rec,采用了GRU网络进行建模,一种是SASRec,使用自关注网络进行建模,一种是BERT4Rec,使用Transformer进行建模。实验结果见原始论文。

​ 经过实验发现在BERT4Rec中,加入位置嵌入没有带来明显的性能提升。这表明,在新闻推荐中,位置信息对于了解用户兴趣可能并不十分重要。其次,在新闻推荐中,因果自我关注不如双向自我关注。这表明,在用户建模时,最好在点击新闻序列中同时建模过去和未来信息。第三,我们发现使用逆序列不会导致显著的性能差异)。由于递归模型通常更关注最新的步骤,这意味着在新闻推荐中,最近的新闻点击在预测未来点击方面并不比较早的点击更有参考价值,这可能是由于用户的时间多样性偏好和稳定的长期兴趣的影响。此外,非常有趣的是,随机洗牌点击序列甚至可以略微提高某些顺序敏感模型的性能。这可能是因为模型能从洗牌序列中更好地捕捉到用户的整体兴趣。这些结果表明,新闻推荐可能不适合用传统的顺序推荐方法来处理,因为传统的顺序推荐方法严重依赖于行为的短期顺序依赖性。

时间多样性感知的序列新闻推荐

​ 根据前一节的实验结果和分析,使用顺序模型处理点击新闻序列进行新闻推荐并不是最佳选择。为了应对这一挑战,我们提出了一种新颖的时间多样性感知新闻推荐方法,名为 TempRec,它可以考虑新闻推荐的时间多样性特性,从而做出更准确的推荐结果,TempRec的框架如下:

pkohL5D.png

​ TempRec 中有两个并行Transformer。其中一个用于处理整个点击新闻序列,目的是捕捉全球用户的兴趣。另一个用于处理最近的K个新闻点击,目的是捕捉最近的用户兴趣。我们将它们学习到的隐藏新闻表示序列分别表示为\(\mathbf{H}=[\mathbf{h}_1,\mathbf{h}_2,...,\mathbf{h}_N]\)和\(\mathbf{H'}=[\mathbf{h}_{N-K+1}^{\prime},...,\mathbf{h}_{N}^{\prime}]\),然后,我们使用两个注意力网络在两个序列中选择重要的新闻点击,从 H 中学习全局兴趣嵌入 u

标签:顺序,新闻,推荐,论文,笔记,TempRec,点击,序列,多样性
From: https://www.cnblogs.com/anewpro-techshare/p/18310484

相关文章

  • 【笔记】【THM】Introduction to Cryptography(密码学简介)
    【THM】IntroductiontoCryptography(密码学简介)-学习本文相关的TryHackMe实验房间链接:https://tryhackme.com/r/room/cryptographyintro本文相关内容:了解AES、Diffie-Hellman密钥交换、哈希、PKI和TLS等加密算法。(大部分为机翻,若有错误请指出)介绍这个房间的目的是向......
  • 7-18学习笔记
    一、字符串        String类引用类型默认值null不是""1、声明字符串Stringstr="abc你好";str=newString();str=newString("你好");char[]arr={'a','b','c',97};str=newStr......
  • C语言指针笔记
    该笔记整理自阮一峰老师的《C语言教程》和部分网上资料什么是指针指针就是一个代表某个内存地址的值声明和初始化指针变量inta=10;//声明一个指针变量p,并将a的地址赋给pint*p=&a;//输出p的值(地址值)printf("%p",p);//输出p所指向的值printf("%d",*p);这......
  • 扩展 KMP/exKMP(Z 函数)学习笔记
    声明本文章转载自shangruolin的博客,已经过作者(存疑)同意,帮TA宣传一下。扩展KMP/exKMP(Z函数)学习笔记兼P10479匹配统计题解。LCP:最长公共前缀。Z函数,又称扩展KMP(exKMP),能够在\(O(n)\)的时间内求出一个字符串与其所有后缀的LCP的长度。定义\(z_i\)为字符串\(s\)......
  • Datawhale AI 夏令营——CPU部署大模型(LLM天池挑战赛)——Task2与3学习笔记
        Task2的任务是组队+寻找灵感,这里不作阐述;Task3的任务是实现RAG应用,阅读文档并观看卢哥的直播后,结合个人经验做个分享。    运行大语言模型,对LLM使用的加深,我们发现,在使用过程中,大模型会有很多幻觉出现。为了解决幻觉,科研人员提出了各种各样的方案......
  • 什么是信息指纹和信息加密——《数学之美》第16、17章以及其他各种资料的读书笔记
    目录1.信息指纹1.1概念1.2相关算法的演进历程1.3 哈希碰撞1.4 雪崩效应1.5 应用场景2.信息加密2.1密码学的简要历史2.1.1古代密码学:智慧的萌芽2.1.2 中世纪至文艺复兴:密码术的兴起2.1.3 近代密码学:机械密码机的诞生2.1.4 现代密码学:复杂科学的诞生2.......
  • JavaWeb笔记_Response对象
    一.Response对象1.1Response对象概述a.专门负责给浏览器响应信息(响应行,响应头,响应体)的对象b.我们主要使用的是跟HTTP协议相关的Response对象:HTTPServletResponse,继承了ServletResponse,扩展了ServletResponse接口,提供了更多的方法,例如可以操作响应头,cookie等1.2Response......
  • OI学习笔记(C++)
    笔记完整版链接参照oi.wiki整理了基础dp的一些笔记:学习笔记+模板(Adorable_hly)(自己结合网络和做题经验总结的,dalao勿喷)第一大板块:DP动态规划适用场景:1.最优化原理:若该问题所包含的子问题解是最优的,就称该问题具有最优子结构,满足最优化原理。2.无后效性:指某一阶段的状......
  • HP笔记本驱动安装教程
    HP电源管理器类型:软件-解决方法说明:HP电源管理器提供了基础的电源轻松管理软件,该软件支持本地或远程管理员管理峰值电源设置。该软件包适用于运行受支持的操作系统的受支持计算机系统。修复和增强:-更新了HPPowerManager软件。-提供了ICS检测与安装。-将Fusio......
  • [MAUI 项目实战] 笔记App:程序设计
    前言有人说现在记事类app这么多,市场这么卷,为什么还想做一个笔记类App?一来,去年小孩刚出生,需要一个可以记录喂奶时间的app,发现市面上没有一款app能够在两步内简单记录一个时间,可能iOS可以通过备忘录配合捷径做到快速记录,但是安卓上就没有类似的app。二是,自去年做的音乐播放器以来......