首页 > 其他分享 >PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics

PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics

时间:2024-09-01 11:54:06浏览次数:12  
标签:via LLM Language Models 模型 Large State PoLLMgraph 幻觉

本文是LLM系列文章,针对《PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics》的翻译。

PoLLMgraph:通过状态转换动力学揭示大型语言模型中的幻觉

摘要

尽管近年来大型语言模型(LLM)取得了巨大进步,但其实际部署面临的一个特别紧迫的挑战是“幻觉”现象,即模型捏造事实并产生非事实陈述。作为回应,我们提出了PoLLMgraph——LLM的测谎仪——作为一种有效的基于模型的白盒检测和预测方法。PoLLMgraph明显不同于现有的大量研究,后者专注于通过黑箱评估来应对这些挑战。特别是,我们证明,通过可处理的概率模型分析LLM在生成过程中的内部状态转换动力学,可以有效地检测幻觉。在各种开源LLM上的实验结果证实了PoLLMgraph的有效性,其性能远远优于最先进的方法,在TruthyQA等常见基准数据集上AUCROC提高了20%以上就证明了这一点。我们的工作为基于模型的LLM白盒分析铺平了新的道路,激励研究界进一步探索、理解和完善LLM行为的复杂动态。

1 引言

2 相关工作

3 PoLLMgraph

4 实验

5 结论

标签:via,LLM,Language,Models,模型,Large,State,PoLLMgraph,幻觉
From: https://blog.csdn.net/c_cpp_csharp/article/details/141782176

相关文章

  • Social Skill Training with Large Language Models
    本文是LLM系列文章,针对《SocialSkillTrainingwithLargeLanguageModels》的翻译。大型语言模型的社交技能训练摘要1引言2角色和模拟的LLM3APAM框架4安全部署愿景5技术挑战6评估7讨论8总结与展望摘要人们依靠解决冲突等社交技能进行有效沟通,......
  • 《NET CLR via C#》---第八章(类的实例构造器,结构的实例构造器,类型构造器,操作符重载方
    类的实例构造器构造器是将类型的实例初始化为良好状态的特殊方法。构造器方法在“方法定义元数据表”中始终叫做.ctor(constructor的简称)。创建引用类型的实例时,首先为实例的数据字段分配内存,然后初始化对象的附加字段(类型对象指针和同步块索引),最后调用类型的实例构造器来设置对象......
  • [Paper Reading] ControlNet: Adding Conditional Control to Text-to-Image Diffusio
    ControlNet:AddingConditionalControltoText-to-ImageDiffusionModelslink时间:23.11机构:StandfordTL;DR提出ControlNet算法模型,用来给一个预训练好的text2image的diffusionmodel增加空间条件控制信息。作者尝试使用5w-1M的edges/depth/segmentation/pose等信息训练Co......
  • FPGA第 7 篇,FPGA开发环境搭建,Altrea开发环境搭建,Quartus几个版本之间的区别,以Quartus/
    前言我们知道FPGA的应用领域非常广泛,包括但不限于以下,请看,而且未来应用前景也可以,几乎涵盖了所有涉及数字信号处理和技术实现的领域。上期我们介绍了FPGA的基础知识数字电路,请看,FPGA与数字电路https://blog.csdn.net/weixin_65793170/article/details/141363656?spm=10......
  • C# generate thumbnailimage via System.Drawing
    usingSystem;usingSystem.Collections.Generic;usingSystem.Linq;usingSystem.Text;usingSystem.Threading.Tasks;usingSystem.Windows;usingSystem.Windows.Data;usingSystem.Windows.Documents;usingSystem.Windows.Input;usingSystem.Windows.Media.I......
  • C# COM interact with Excel via Com Microsoft.Office.Interop.Excel,write content
    1.AddComReference,Microsoft.Office.Interop.Excel  2.usingMicrosoft.Office.Interop.Excel;usingSystem;usingSystem.IO;usingSystem.Runtime.CompilerServices;usingExcel=Microsoft.Office.Interop.Excel;usingSystem.Reflection;namespaceConsol......
  • C# split big picture into small pieces via graphics
    usingSystem;usingSystem.Collections.Generic;usingSystem.Drawing;usingSystem.Linq;usingSystem.Text;usingSystem.Threading.Tasks;usingSystem.Windows;usingSystem.Windows.Controls;usingSystem.Windows.Data;usingSystem.Windows.Documents;using......
  • BAdam A Memory Efficient Full Parameter Optimization Method for Large Language M
    目录概BAdam代码LuoQ.,YuH.andLiX.BAdam:Amemoryefficientfullparameteroptimizationmethodforlargelanguagemodels.arXivpreprint,2024.概本文介绍了一种Blockcorrdinatedescent(BCD)的训练方式.BAdam当模型本身很大的时候,训练它会成为一......
  • SwapPrompt(论文解读): Test-Time Prompt Adaptation for Vision-Language Models
    2023(NeuralIPS)摘要测试自适应(TTA)是无监督域自适应(UDA)中一种特殊且实用的设置,它允许源域中的预训练模型去适应另一个目标域中的未标记测试数据。为了避免计算密集型的骨干网络微调过程,因此利用预训练视觉语言模型(例CLIP、CoOp)zero-shot的泛化潜力,仅对未见测试域的运行时......
  • (论文解读)Domain Adaptation via Prompt Learning
    摘要无监督域适应(UDA)旨在将从带有标签的源域数据中学习到的模型适应到未标注的目标域数据集。现有的UDA方法通过对齐源域和目标域特征空间来学习领域不变特征。这种对齐是通过约束实现的,例如统计差异最小化或对抗学习。然而,这些约束会导致语义特征结构的扭曲和类别判别性......