首页 > 其他分享 >CAST论文阅读笔记

CAST论文阅读笔记

时间:2024-07-19 10:40:33浏览次数:15  
标签:mathbf 新闻 论文 正文 笔记 标题 CAST 上下文

Is It Enough Just Looking at the Title?: Leveraging Body Text To Enrich Title Words Towards Accurate News Recommendation论文阅读笔记

Abstract

​ 在新闻推荐系统中,如果用户通过查看新闻标题对文章主题感兴趣,就会倾向于点击该文章。这种行为是可能的,因为在查看标题时,人类会利用自身的背景知识,自然而然地想到每个标题单词的上下文含义。

​ 受此启发,我们提出了一种新颖的个性化新闻推荐框架 CAST(带有标题词表示选择模块的上下文感知注意力网络),它能够利用正文作为上下文来丰富标题词,而正文则完全提供了给定文章的全部内容。通过大量实验,我们证明了(1)CAST 核心模块的有效性;(2)CAST 优于 9 种最先进的新闻推荐方法;以及(3)CAST 的可解释性。

Introduction

​ 用户倾向于阅读推荐给他们的新闻文章的标题,然后根据标题了解到的主题做出是否感兴趣的点击决定。因此,现有研究大多侧重于分析新闻文章的标题文本,以预测用户对新闻文章的偏好。用户很容易利用自身的背景知识掌握标题中每个词的上下文含义;然而,新闻推荐系统仅凭标题文本很难全面理解标题词的上下文含义,因为标题文本只是由几个词组成的短句。从这个意义上说,我们认为生成新闻表示的新闻编码器应该正确捕捉标题中没有明确显示的标题词的上下文。

​ 我们的工作是基于这样一个事实,即在只查看标题时,人类会凭借其背景知识自然而然地捕捉到每个标题词的上下文含义。为了更准确地把握标题词的上下文意义,我们的目标是利用正文文本作为上下文来丰富新闻推荐中的每个标题词。

​ 在本文中,我们提出了一个用于个性化新闻推荐的新型框架 CAST(带有标题词表示选择模块的语境感知注意力网络)。为此,作为 CAST 的关键组成部分,我们设计了一个复杂的新闻编码器,利用正文作为上下文的来源。具体来说,CAST 首先只选择与目标标题词相关的一些正文词作为上下文,这与选择模块相对应;然后,CAST 计算上下文中词语的关注权重,这与上下文感知关注网络相对应。通过根据每个标题词的上下文学习正文词的不同重要程度,CAST 能够更有效地理解每个标题词的上下文含义。我们的实证研究结果表明,CAST(1)通过利用正文有效地捕捉了与标题词相关的上下文;(2)提高了新闻表征的质量,从而比 9 个最先进的新闻推荐系统提高了推荐准确率;(3)通过可视化为标题词的上下文提供了解释。

​ (上面描述的可能单看文字不好理解,后面看图就很清楚了)

Method

​ CAST的框架如下:

pkoXvR0.png

新闻编码器

​ 如图 2-(a) 所示,我们的新闻编码器由五个模块组成:单词表示、正文单词选择、上下文感知注意力、标题表示和新闻表示。

单词表示

​ 将标题文本和正文文本转化为表示矩阵。为此,我们使用一个可学习的表示矩阵 W

标签:mathbf,新闻,论文,正文,笔记,标题,CAST,上下文
From: https://www.cnblogs.com/anewpro-techshare/p/18310996

相关文章

  • 笔记本新手入门:从零开始的全面指南
        踏入笔记本电脑的世界,就像打开了一扇通往无限可能的大门。无论你是学生、职场新人,还是追求生活品质的自由职业者,一台得心应手的笔记本都能成为你学习、工作和娱乐的得力伙伴。然而,对于笔记本新手而言,初次接触时的困惑和挑战在所难免。从开机那一刻起,如何快速掌握基......
  • 【笔记】辛普森算法
    核心思想是将被积区间分为若干小段,每段套用二次函数的积分公式进行计算。具体而言,对于一个二次函数\(f(x)\),有:\[\int_{l}^{r}f(x)\mathrm{d}x=\frac{(r-l)\left(f(l)+f(r)+4f\left(\frac{l+r}{2}\right)\right)}{6}\]1普通辛普森直接分成若干段来计算。2自适应辛普森......
  • 《孩子的大脑》读书笔记
    信息《孩子的大脑》阿尔瓦罗·毕尔巴鄂北京科学技术出版社摘录有效奖励和无效奖励有效奖励:花时间陪孩子玩耍让他负责一项任务(如保管钥匙)给他一次特权(如选择晚餐)祝贺他向他表示感谢无效奖励:玩具和其他物质奖励食物告诉他做得不错,但还可以做到更好在众人面前......
  • Java基础 韩顺平老师的 集合 的部分笔记
    498,集合介绍 499,集合体系图(两个图背下)  packagecom.hspedu.collection;importjava.util.ArrayList;importjava.util.HashMap;publicclassCollection01{publicstaticvoidmain(String[]args){//老韩解读//1,集合主要是两组(单列......
  • springboot+vue+mybatis销售评价系统+PPT+论文+讲解+售后
    随着科学技术的飞速发展,社会的方方面面、各行各业都在努力与现代的先进技术接轨,通过科技手段来提高自身的优势,销售评价系统当然也不能排除在外。销售评价系统是以实际运用为开发背景,运用软件工程开发方法,采用Java技术构建的一个管理系统。整个开发过程首先对软件系统进行需求分......
  • 前端重学笔记-CSS篇-10
    一、HTML5新特性HTML5的新增特性主要是针对于以前的不足,增加了一些新的标签、新的表单和新的表单属性等。这些新特性都有兼容性问题,基本是IE9+以上版本的浏览器才支持,如果不考虑兼容性问题,可以大量使用这些新特性。声明:1.新特性增加了很多,但是我们专注于开发常用的新特......
  • 论文《AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning》
    在大模型微调的理论中,AdaLoRA方法是一个绕不开的部分。 这篇论文主要提出了一种新的自适应预算分配方法AdaLoRA,用于提高参数高效的微调性能。AdaLoRA方法有效地解决了现有参数高效微调方法在预算分配上的不足,提高了在资源有限情况下的模型性能,为NLP领域的实际应用提供了新的......
  • 苍穹外卖学习笔记——第九天
    用户端历史订单模块查询历史订单需求分析和设计产品原型业务功能分页查询历史订单。可以根据订单状态查询(全部订单、待付款、已取消)。订单按照下单时间倒序排列。展示订单数据时,需要展示的数据包括:下单时间、订单状态、订单金额、订单明细(商品名称、图片)。接口设计......
  • 苍穹外卖学习笔记——第七天
    缓存商品、购物车缓存菜品问题说明用户端小程序展示的菜品数据都是通过查询数据库获得,如果用户端访问量比较大,数据库访问压力随之增大,从而导致系统响应慢、用户体验差。实现思路通过Redis来缓存菜品数据,减少数据库查询操作,具体流程如下:缓存逻辑分析:每个分类下的菜品......
  • 苍穹外卖学习笔记——第八天
    用户下单、订单支付导入地址簿功能代码需求分析和设计产品原型业务功能查询地址列表新增地址修改地址删除地址设置默认地址查询默认地址接口设计新增地址查询当前登录用户的所有地址信息查询默认地址根据id修改地址根据id删除地址根据id查询......