Query Rewriting 优化技术

在检索增强生成（Retrieval Augmented Generation，RAG）系统中，经常会出现与 user’s original queries（译者注：用户最开始输入的搜索问题或者其他需求。）有关的问题（例如，词汇不准确或缺乏语义信息），导致 RAG 系统难以理解。比如像 “2020 年 NBA 冠军是洛杉矶湖人队！请告诉我 langchain 框架是什么？” 这样的问题，如果直接搜索这个问题，可能会导致 LLM 给出错误的回答或无法回答的模型响应。

因此，将 user queries 的语义空间（semantic space）与系统中存储的文档的语义空间统一起来十分重要。 Query rewriting（译者注：对 user queries 进行重新构造或改写的过程，尽量修正 user queries 中可能存在的错误的、模糊的或不准确的部分。） 技术可以有效解决一问题。其在 RAG 中的作用如图 1 所示：

图 1： RAG 中的 Query rewriting 技术（由红色虚线框标记）。图片由作者提供。

从其在 RAG 系统中所处位置这一角度来看，Query rewriting 是一种 pre-retrieval 方法（译者注：在进行文档检索之前对 Query rewriting 进行重写或改进。）。该图大致说明了 Query rewriting 在 RAG 系统中的位置，在下文将介绍一些可以改进这一过程的算法。