公众号：Halo 咯咯
开源的检索增强型生成（RAG）模型随着对大型语言模型中增强功能需求的增长而变得越来越庞大。
那它们是什么呢？RAG模型是密集检索（DPR）和序列到序列模型的结合。其设计目的是通过引入外部知识来增强LLMs的能力。这是通过检索与查询相关的文档，并使用这些文档来作为上下文发给LLM以得到最终生成结果实现的。
这个过程允许RAG模型产生更准确和上下文相关的输出，因为检索和生成组件一起进行了微调。这种方法在知识密集型的自然语言处理（NLP）任务中特别有效，在开放域问答等领域树立了新的基准。
现在你们对RAG模型有了相当好的了解，让我们来看几个开源社区中的实例。
1、NeMo Guardrails
该模型由 NVIDIA 打造，提供了一个开源工具包，旨在为基于大型语言模型的对话系统引入可编程的防护措施，以确保交互的安全性和可控性。这些防护措施使开发者能够设定模型在特定主题上的行为准则，避免讨论不希望的话题，并确保遵循对话设计的最佳实践。
工具包兼容多个 Python 版本，并带来了诸多优势，包括构建值得信赖的应用程序、安全地集成模型以及对对话流程的控制能力。此外，它还包含了一系列保护机制，用以防范如越狱（jailbreaks）和提示注入（prompt injections）等常见的大型语言模型安全漏洞，并支持与多种大型语言模型及类似 LangChain 这样的其他服务进行集成，增强了其功能性。若要获取关于如何安装、使用该工具包以及可用的防护措施类型的更多详细信息，欢迎访问 NeMo Guardrails 的 GitHub 页面。
Github：https://github.com/NVIDIA/NeMo-Guardrails
2、LangChain
LangChain 是一个开源工具，它提供了一种强化大型语言模型（LLM）以实现检索增强型生成的方法。该工具通过在对话模型中加入检索步骤来提升LLM的回应质量。这样的集成使得模型能够动态地从数据库或文档集合中检索信息，从而使其回应不仅更准确，而且与上下文更加相关。
利用 LangChain 的功能，开发者能够开发出更智能的对话代理，这些代理能够接入并使用广泛的外部信息资源。想要深入了解如何通过 LangChain 实现检索功能，你可以访问它们的官方网站，那里提供了丰富的文档资料和实例，帮助你掌握如何有效利用这一工具。
官方文档：检索,RAG,语言,LLMs,模型,应用程序,效用,LLM From： https://blog.csdn.net/u010180815/article/details/137053280