在系列3和系列4我讲了关于一个基本流程下，RAG的提高准确率的关键点，那么接下来，我们再次讲解2个方面，这2个方面可能与RAG的准确率有关系，但是更多的它们是有其它用途。本期先来讲解RAG路由。目录1基本思想2Logicalrouting2.1基本思想2.2代码演示3Semanticrouting3.1

1、引言由于目前比较火的chatGPT是预训练模型，而训练一个大模型是需要较长时间（参数越多学习时间越长，保守估计一般是几个月，不差钱的可以多用点GPU缩短这个时间），这就导致了它所学习的知识不会是最新的，最新的chatGPT-4o只能基于2023年6月之前的数据进行回答，距离目前已经快一年的时间，如

背景Chromaquery底层查询的 query思想是相同的，甚至在vectordb的世界中，都大同小异。如果你有看前面写的  RAG与LLM原理及实践（5）---Chromaquery源码分析应该比较清楚query的运作原理，说直白就是在memory或是disk中通过暴力查询比较与HNSW算法（NSW算法的变种，分层可导航

 背景在chromavectordb的世界中，除了对query的理解，另外就是需要深入理解chroma的运行模式，chroma运行时，提供了 local模式，server-client模式，这些在应用中固然重要，但从实现原理上说，其实就是通过http服务，在固定端口如11344上请求数据。但是在这之前，需要深入了解并理解coll

语义相似度的计算是一个比较复杂的过程。今天打算先比较详细的介绍下几个相似度的距离衡量算法。相似度的排名衡量，在向量数据库vectordb的query中，被大量使用。还是直接上干货，理解下背后的逻辑和概念比较重要，后面看看源码 chromavectordb是怎么处理这个过程的。1）co

长上下文大型语言模型（LCLLMs）确实引起了一些关注。这类模型可能使某些任务的解决更加高效。例如理论上可以用来对整本书进行总结。有人认为，LCLLMs不需要像RAG这样的外部工具，这有助于优化并避免级联错误。但是也有许多人对此持怀疑态度，并且后来的研究表明，这些模型并没有真正利用长上

1开源解析和拆分文档第三方工具去对文件解析拆分，将文件内容给提取出来，并将我们的文档内容去拆分成一个小的chunk。常见的PDFwordmarkdown,JSON、HTML。都可以有很好的一些模块去把这些文件去进行一个东西去提取。1.1优势支持丰富的文档类型每种文档多样化选择与开源框

什么是RAG？Retrieval-AugmentedGeneration(RAG)是一种结合信息检索和生成式AI技术的框架。它通过从外部数据源检索信息，增强语言模型（如GPT-3）的生成能力，从而提供更加准确和相关的回答。RAG的组成部分信息检索模块（Retriever）功能：从预先构建的知识库或文档库中检索与用

大模型在一定程度上去改变了我们生活生工作的思考的方式，然后也越来越多的个人还有企业在思考如何将大模型去应用到更加实际的呃生产生活中去，希望大语言模型能够呃有一些更多企业级别生产落地的实践，然后去帮助我们解决一些业务上的问题。目前1LLM的问题1.1幻觉LLM因为是一个预

花一点时间继续写下，RAG结合LLM。通过上一篇文章你应该知道为什么RAG要结合LLM，或者说为什么LLM要结合RAG使得LLM更强大，特别是当LLM应用在人机对话等方面的时候。只要涉及一问一答，并通过上下文继续丰富对话，就会涉及到他。这个是看事情的两个维度。就像是买钟送电池还是买电池送

在写RAG结合LLM时，如果你读了我前面写的文章，你应该对里面的技术原理及流程有了很详细的了解。在上一篇文章讲了如何在通义千问中使用function的方式来完成LLM与RAG的结合。其实LLM结合RAG的方式可以有很多种，但是原理都是上一节介绍的，其实本质上就是要LLM知道，哪一类问题‘我’

RAG通常指的是"Retrieval-AugmentedGeneration"，即“检索增强的生成”。这是一种结合了检索（Retrieval）和生成（Generation）的机器学习模型，通常用于自然语言处理任务，如文本生成、问答系统等。我们通过一下几个步骤来完成一个基于京东云官网文档的RAG系统数据收集建立知识库向量

在当今快速发展的人工智能领域，大型语言模型（LLM）已经成为无处不在的技术，它们不仅改变了我们与机器交流的方式，还在各行各业中发挥着革命性的影响。然而，尽管LLM+RAG的能力已经让人惊叹，但我们在使用RAG优化LLM的过程中，还是会遇到许多挑战和困难，包括但不限于检索器返回不准确或

随着人工智能的快速发展，特别是大语言模型的惊艳表现，让我们见证了信息检索和知识管理系统的重大进步。在这篇文章中，将探讨如何利用Retrieval-AugmentedGeneration（RAG）技术，结合MongoDB数据库和LangChain框架，来构建一个先进的私人知识聊天机器人。大模型聊天机器人的不

什么是大模型幻觉假设我们有一个基于大型生成模型（如GPT-3）的问答系统，该系统用于回答药企内部知识库中的问题。我们向其提出一个问题：“阿司匹林的主要药理作用是什么？”正确的答案应该是：“阿司匹林主要通过抑制环氧酶（COX）酶的活性，降低前列腺素和血栓素的生成，从而起到抗血小板

前一段时间，各个大模型在争斗：谁能携带更长、更大的上下文Prompt，比如Kimi说200万字，阿里通义千问又说自己能达1000万字；大家都知道Prompt很重要，但是RAG和长的上下文文本携带是两个不同的技术方向。RAG先来简单介绍一下什么是RAG（增强搜索生成），很简单：当我们问Ch

  大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法行

IbuiltacustomAIagentthatthinksandthenacts.Ididn'tinventitthough,theseagentsareknownasReActAgentsandI'llshowyouhowtobuildoneyourselfusingLlamaIndexinthistutorial.我构建了一个自定义的AI智能体，它能够思考然后行动。不过，这并不

CorrectiveRetrievalAugmentedGeneration(https://arxiv.org/pdf/2401.15884.pdf)https://github.com/jiangnanboy/paper_read_note一．序言RAG即检索增强生成(retrievalaugmentedgeneration)，当检索到不准确的数据时，会产生对模型的生成干扰。CorrectiveRetrievalAugme

T-RAG:LESSONSFROMTHELLMTRENCHES(https://arxiv.org/abs/2402.07483)https://github.com/jiangnanboy/paper_read_note一.概述大型语言模型(llm)越来越多地应用于各个领域，包括对私有企业文档的问答，其中数据安全性和鲁棒性至关重要。检索增强生成(retrieve-augmented

UniMS-RAG:UnifiedMulti-SourceRAGforPersonalisedDialogue(https://arxiv.org/abs/2401.13256)https://github.com/jiangnanboy/paper_read_note一．概述本研究探讨如何分解RAG过程，加入多文件检索、记忆和个人信息等元素。大型语言模型(llm)在自然语言任务中表现出色，但

第一条也是最重要的一条规则是永远不要要求LLM提供你无法自己验证的信息,或让它完成你无法验证其正确性的任务。唯一例外的情况是那些无关紧要的任务，例如，让大型语言模型提供公寓装修灵感之类的是可以的。首先请看两个范例不佳示范：“使用文献综述最佳实践，总结过去十

RAG的基本流程：用一个loader把knowledgebase里的知识做成一个个的document，然后把document切分成snippets，把snippets通过embedding（比如openai的embedding模型或者huggingface的）向量化，存储到vectordb向量数据库，以供后续相关性检索。至此便完成了私域数据集的索引indexing。

检索增强生成（RAG：RetrievalAugmentedGeneration）技术旨在把信息检索与大模型结合，以缓解大模型推理“幻觉”的问题。近来关于RAG的研究如火如荼，支持RAG的开源框架也层出不穷，并孕育了大量专业领域的AI工程应用。我们设计了一个通用的开源RAG框架，以兼容未来多样化的基础研究建设和工

RAG通常指的是"Retrieval-AugmentedGeneration"，即“检索增强的生成”。这是一种结合了检索（Retrieval）和生成（Generation）的机器学习模型，通常用于自然语言处理任务，如文本生成、问答系统等。我们通过一下几个步骤来完成一个基于京东云官网文档的RAG系统数据收集建立知识库向