首页 > 其他分享 >论文记录

论文记录

时间:2024-03-05 20:23:11浏览次数:25  
标签:检索 知识 记录 论文 QA 记忆 Parametric

acl论文汇总原文链接:https://blog.csdn.net/weixin_52171642/article/details/131763613

顺序 摘要 结论 导言 相关工作 模型 实验 评论

ACL  When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parametric Memories 自适应选择少见实体加检索

摘要:尽管大型语言模型(LMs)在不同的任务上有令人印象深刻的表现,但在需要丰富的世界知识的任务上仍然很吃力,这意味着在其参数中编码大量的世界知识是很困难的。本文旨在通过对两个以实体为中心的开放领域QA数据集进行大规模的知识探测实验,了解LM在记忆事实知识方面的优势和局限:PopQA是我们的新数据集,包含14000个关于长尾实体的问题,而EntityQuestions是一个广泛使用的开放域QA数据集。我们发现,LM在处理不太常见的事实性知识时很吃力,而检索增强在这些情况下有很大帮助。另一方面,扩展主要提高了对常见知识的记忆,而对尾部事实性知识的记忆则没有明显的改善。基于这些发现,我们设计了一种新的检索增强方法,通过只在必要时检索非参数记忆来提高性能并降低推理成本。

关键词:开放领域QA;检索增强
csdn论文讲解Re49:读论文 When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parame-CSDN博客

 

 

标签:检索,知识,记录,论文,QA,记忆,Parametric
From: https://www.cnblogs.com/piaoguo326/p/18052580

相关文章

  • 组合数学专项训练记录
    [abc221_e]LEQ依题意得,当确定了两个端点后,中间的可选可不选,考虑枚举左端点,找比它大的右端点,求方案数,时间复杂度\(O(n^2)\),显然会T考虑优化,若两个端点分别是i,j,则方案数为\(2^{j-i-1}=2^j\div2^{i+1}\),所以考虑权值线段树记录\(2^j\),倒序枚举左端点即可代码:#include<cstdio>#......
  • 记录零基础的行人重识别---2024.3.4 第一天
    本人研一小白一枚,老师给定的研究方向为行人重识别的方向,最近在知乎上面看到了郑哲东大佬以及他们悉尼科技大学小组曾经写的知乎帖子https://zhuanlan.zhihu.com/p/50387521,随手也附上他们的GitHub项目链接https://github.com/layumi/Person_reID_baseline_pytorch/tree/master/......
  • 毕业啦!你是否为了论文的通过而发愁?
    服务与售后毕业季......
  • Es实战理解记录
    ES实战理解指定es索引内存储数据结构POSTforum/doc/1{"title":"helloworld",#文章标题"message":"iamasimplemessage",#文章内容"id":"62",#文章id"uid":"1038",#唯一id&q......
  • 《Document-level Relation Extraction as Semantic Segmentation》论文阅读笔记
    原文代码摘要本文研究的是文档级关系抽取,即从文档中抽取出多个实体之间的关系。现有的方法主要是基于图或基于Transformer的模型,它们只考虑实体自身的信息,而忽略了关系三元组之间的全局信息。为了解决这个问题,本文提出了一种新的方法,它通过预测一个实体级关系矩阵来同时捕获局......
  • 配置 HTTPERR 错误日志记录,不断增长会沾满C盘导致服务器停机
    配置HTTPAPI错误日志记录HTTP\Parameters键下的三个注册表值控制HTTPAPI错误日志记录。这些密钥位于注册表项中: HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\HTTP\Parameters。 备注在Windows操作系统的更高版本中,配置值的位置和形式可能会更改。......
  • snappy压缩格式下使用数字与字符串不等于比较,hiveSQL和sparkSQL表现不一致的行为记录
    Hive版本:2.3.4Spark版本:2.4.0当时用Snappy格式对表进行压缩时,时用<>符号将字符串与数字进行比较会产生不一致的结果。SparkSQL结果并非预期结果。DROPTABLEIFEXISTStest.zero_test;CREATETABLEtest.zero_testTBLPROPERTIES("orc.compress"="SNAPPY")ASSELECT......
  • 鸿蒙开发填坑记录
    1、在DevEcoStudio中点击Previewer无法预览。出现Previewfailed.xxxxxx按照网上的检查local.properties文件中nodejs.dir路径是否和node.jshome是否一致。我的是一致的,此方法对我不管用 解决办法:1、先删除项目中的entry下的.preview文件夹。2、进入File下的Invalida......
  • WPF 应用迁移到 Electron 框架过程记录
    前一段时间我用WPF开发了一个查看emoji表情的小工具https://github.com/he55/EmojiViewer,由于最近我使用macOS系统比较多,我想能在macOS系统上也能使用这个工具。于是我尝试将WPF应用迁移到Electron框架,感觉这个框架很强大,在这里记录一下应用迁移的过程。安装Elec......
  • whk记录
    3月4日其实距离正式退役已经近4个月了\kk但是一直在摸鱼qwq开学考寄得十分彻底,而且这周末就是中科大的初试了导数学了一寒假感觉如学物理动量更是一点不会感觉要陪跑了其实一开始就有心理准备毕竟和数物竞的人根本比不了。感觉whk生活确实比较轻松但是这几个月确实有点摸......