首页 > 其他分享 >Quiet-STaR:让语言模型在“说话”前思考

Quiet-STaR:让语言模型在“说话”前思考

时间:2024-03-30 19:44:49浏览次数:24  
标签:STaR LLM 模型 Quiet 思考 推理 语言

大型语言模型(llm)已经变得越来越复杂,能够根据各种提示和问题生成人类质量的文本。但是他们的推理能力让仍然是个问题,与人类不同LLM经常在推理中涉及的隐含步骤中挣扎,这回导致输出可能在事实上不正确或缺乏逻辑。

考虑以下场景:正在阅读一个复杂的数学证明。虽然最终的答案可能很清楚,但关键在于理解初始条件和结论之间未说明的步骤。在交谈中也一样,我们依靠中间的假设和背景知识来理解所说的话。这种内隐的推理的能力是Quiet-STaR为LLM提供的能力。

 

https://avoid.overfit.cn/post/1ea458c86cf14b45ac219e7d7e82cdc4

标签:STaR,LLM,模型,Quiet,思考,推理,语言
From: https://www.cnblogs.com/deephub/p/18105914

相关文章

  • 有关链表算法题的一些思考
    1.针对链表的特性(1)双指针的方法:因为不管是删除还是添加元素,都要涉及指定位置元素的上一个元素,因此需要设置前后两个指针来实现操作,同时针对题目特殊性也可能会有三指针的情况,如LeetCode82的去重,第一个指针作为删除操作的前一个指针,而后两个指针则用来查取重复范围/**......
  • 《C++ Primer 第五版 中文版》第12章 动态内存【阅读笔记 + 个人思考】
    《C++Primer第五版中文版》第12章动态内存【阅读笔记+个人思考】12.1动态内存与智能指针12.1.1shared_ptr类静态内存包括:初始化只读数据段,初始化读写数据段,未初始化数据和常量数据段。详细在下面博客总结:Linux系统下C++程序运行时的内存布局及存储内容,生......
  • 值得思考的两个测试面试题
    前几天和两个测试圈里的好友吃饭,席间听其中一个朋友讲到最近面试遇到的一些问题,听来觉得很有意思,其中有两道题对我触动很大,花了一些时间深度思索了一番。今年已经是我入行做软件测试工作的第九个年头,这位朋友分享的面试题,个人认为值得每一个测试同学都思考一下。这篇文章,聊聊我......
  • 关于工厂模式的思考
    常说的几种工厂模式就是如下几种:简单工厂模式工厂方法模式抽象工厂模式PreWriting标题开玩笑,我可能喜欢开玩笑,大家都乐呵……其中,在23中设计模式中,简单工厂并不在其列,但是常常提起是因为它的思想也是“解耦”,并不能因为它不在23种设计模式中就不算它是设计模式,这种说法在......
  • 关于弱网测试的一点思考
    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结前言    本文主要探讨一下手机app弱网测试的相关内容,尤其是弱网测试中遇到的一些问题和趣事,希望能给广大测试者一点帮助一......
  • 关于模拟上课的一点思考
    今天下午开了教研活动,组里3位年轻女老师在准备模拟上课。课后,组里老师对她们的课进行了点评。会后,我对模拟上课有了几点想法:1、模拟上课是为了提高听评课效率,检测新老师的教学意识,它一般用于评价新教师的基本教学意识。因此它更注重形式,让评委能快速判断这位教师能否胜任教学教......
  • 题目思考过程简记
    ARC175C题解题目链接我们考虑经典套路,假设前\(i-1\)个数已经被确定。设\(f_k(x)\)表示\(a_k=x\)时\(\sum_{i=k+1}^n|\a_i-a_{i-1}\|\)的最小值。那么,\(a_i=x\)当且仅当\(x\)取最小值且\(|\x-a_{i-1}\|+f_i(x)\)为所有可能中的最......
  • 没想到三天10KStar的营销利器MediaCrawler开源作者已经删库了
    前言一站式社交平台数据抓取利器,带你玩转小红书、抖音、快手、B站和微博数据分析不经意间,来查看MediaCrawler仓库源码,发现作者已经删库了。看来是领奖了。才几天不到的时间Star数量已经直逼10K了,增长速度近乎疯狂。前两天只是将代码下载下来了,还没认真的玩。还好代码本地已经......
  • 聊聊多模态大模型处理的思考
    转载请注明出处:https://www.cnblogs.com/zhiyong-ITNote多模态:文本、音频、视频、图像等多形态的展现形式。目前部门内业务要求领域大模型需要是多模态——支持音频/文本。从个人思考的角度来审视下,审视下多模态大模型的实现方式。首先就要区分输入与输出,即输入的模态与输出......
  • [计算机效率] 文件搜索工具:Listary(附详细使用教程)
    3.5文件搜索工具:ListaryListary是一款实用的搜索工具,它能为我的电脑(资源管理器)增添许多智能命令,提高用户日常收藏和整理文件的效率。它具备多种实用功能,例如收藏文件夹、快速打开最近浏览的文件夹,以及快速显示/隐藏文件扩展名等。此外,Listary还是一个轻量级的软件,不会过多......