首页 > 其他分享 >大模型 | RAG 架构设计三阶段:Naive RAG 架构设计、Advanced RAG 架构设计、Agentic RAG 架构设计

大模型 | RAG 架构设计三阶段:Naive RAG 架构设计、Advanced RAG 架构设计、Agentic RAG 架构设计

时间:2024-08-31 22:52:30浏览次数:6  
标签:RAG 架构设计 AI 模型 技术 学习 Query Agentic

第一阶段:Naive RAG 架构设计

大型语言模型(LLMs)虽然展现出卓越的性能,但在处理特定领域或知识密集型任务时,存在一些挑战,比如:产生虚假信息、知识陈旧以及推理过程的非透明性和不可追溯性。RAG 技术作为一种有希望的解决方案,通过融合外部数据库的知识,有效应对了这些问题。它显著提升了生成内容的准确性和可靠性,尤其在知识密集型任务中表现突出,并支持知识的持续更新及特定领域信息的整合。

大模型 Naive RAG 的运作可概括为以下两个关键阶段:

检索阶段:大模型首先在外部知识库中搜寻与输入文本相关的信息。该知识库通常是由大规模文本数据集经过索引处理后形成的数据库。

生成阶段:将检索到的信息送入生成模型(比如:GPT-4o)。该生成大模型会根据这些信息,生成最终的回答或文本内容。

第二阶段:Advanced RAG 架构设计

大模型 Advacned RAG 技术在企业应用中的落地全流程,涵盖了架构、模块、技术三大方面,形成了一套完整的框架,包含10个关键模块和36项技术要点!对于一些关键且复杂的模块,比如:分块、向量化、重排等,也进行了全面总结和概述。

Query 理解(Query NLU):利用 LLM 作为核心引擎,对用户 Query 进行改写以提升检索效果,涉及意图识别、歧义消除、Query 分解、抽象等七个技术点。

Query 路由(Query Routing):查询路由是 LLM 支持的关键决策环节,决定了用户查询的下一步行动,包含一项核心技术。

索引(Indexing):作为 RAG 中的核心模块,索引包括文档解析(五种工具)、文档切块(五类方法)、嵌入模型(六种类型)、索引类型(三种分类)等,共计八项技术。

Query 检索(Query Retrieval):除了 Naive RAG 向量检索外,还关注图谱和关系数据库检索(NL2SQL),共涉及三项技术。

重排(Rerank):不同检索策略的结果需要通过重排来优化,包括重排器类型(五种)和自训练领域重排器等,共计三项技术。

生成(Generation):在企业应用中,生成环节可能会遇到重复、幻觉、流畅性、美化、溯源等问题,涉及 RLHF、偏好打分器、溯源 SFT、Self-RAG 等七项技术。

评估与框架:RAG 需要一个全链路的评价体系,作为企业上线和迭代的依据,包括三项技术。

RAG 新技术:探讨 RAG 未来的发展方向及实现路径,共提出三项潜在的新技术。

第三阶段:Agentic RAG 架构设计

最终,大模型 RAG 问答终章是 Agentic RAG!

向Lv2-智能体提出一个问题。
while (Lv2-智能体无法根据其记忆回答问题) {
    Lv2-智能体提出一个新的子问题待解答。
    Lv2-智能体向Lv1-RAG提问这个子问题。
    将Lv1-RAG的回应添加到Lv2-智能体的记忆中。
}
Lv2-智能体提供原始问题的最终答案。

比如:Query:“与第五交响曲创作于同一世纪的交通工具是什么?”,Agent 通过规划能力分两个子问题来解决:

  • 第一个子问题:“第五交响曲是在哪个世纪创作的?”
  • 第二个子问题:“19 世纪发明的交通工具是什么?”

最后分享

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。

学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

在这里插入图片描述

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。
在这里插入图片描述

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。(书籍含电子版PDF)

在这里插入图片描述

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

在这里插入图片描述

4. 大模型项目实战

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

在这里插入图片描述

5. 大模型面试题

面试,不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

在这里插入图片描述

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方CSDN官方认证二维码,免费领取【保证100%免费

在这里插入图片描述

如有侵权,请联系删除。

标签:RAG,架构设计,AI,模型,技术,学习,Query,Agentic
From: https://blog.csdn.net/m0_59614665/article/details/141727349

相关文章

  • 【K8s】专题十二(4):Kubernetes 存储之 StorageClass
    本文内容均来自个人笔记并重新梳理,如有错误欢迎指正!如果对您有帮助,烦请点赞、关注、转发、订阅专栏!专栏订阅入口Linux专栏 | Docker专栏 | Kubernetes专栏往期精彩文章【Docker】(全网首发)KylinV10下MySQL容器内存占用异常的解决方法【Docker】(全网首发)Kyli......
  • 系统架构设计师——系统工程学
    概述.系统工程是一种跨学科的方法论,旨在通过系统方法组织管理技术来实现系统的规划、研究、设计、制造、试验和使用。它的核心在于从整体的角度出发,合理地开发、设计、实施和运用系统科学和技术,确保系统能够成功地实现其预定目的。以下是系统工程的几个关键视角:目的:系统......
  • OpenHarmony开发:应用分层架构设计
    HarmonyOS应用的分层架构设计以一套代码工程为基础,旨在为华为的手机、2in1等1+8全场景设备提供支持,实现了“一次开发,多端部署”的开发理念。HarmonyOS应用的分层架构主要包括三个层次:产品定制层、基础特性层和公共能力层,为开发者构建了一个清晰、高效、可扩展的设计架构。本......
  • 通过vue-draggable-plus实现一个简单的菜单拖拽功能
    <divclass="my-content-list"v-draggable="[nameList,{animation:300,}]":onStart="onStart":onUpdate="onUpdate">......
  • 计算机架构设计的8个伟大思想
    “Theseareeightgreatideasthatcomputerarchitectshaveinventedinthelast60yearsofcomputerdesign.Theyaresopowerfultheyhavelastedlongafterthefirstcomputerthatusedthem,withnewerarchitectsdemonstratingtheiradmirationbyimitat......
  • 大模型提示词工程技术4-提示词架构设计,包括:TAG框架,TRACE框架,ICIO框架
    大模型提示词工程技术4-提示词架构设计,包括:TAG框架,TRACE框架,ICIO框架。《大模型提示词工程技术》的作者:微学AI,这是一本专注于提升人工智能大模型性能的著作,它深入浅出地讲解了如何通过优化输入提示词来引导大模型生成高质量、准确的输出。书中不仅涵盖了提示词工程的基本......
  • WPF draw thumbs on livecharts and drag drop thumb
    //xaml<Windowx:Class="WpfApp299.MainWindow"xmlns="http://schemas.microsoft.com/winfx/2006/xaml/presentation"xmlns:x="http://schemas.microsoft.com/winfx/2006/xaml"xmlns:d="http://schemas.mi......
  • WPF thumb Drag DragDelta,DragStarted,DragCompleted
    //xaml<Windowx:Class="WpfApp302.MainWindow"xmlns="http://schemas.microsoft.com/winfx/2006/xaml/presentation"xmlns:x="http://schemas.microsoft.com/winfx/2006/xaml"xmlns:d="http://schemas.mi......
  • localStorage、sessionStorage 和 cookies
    localStorage、sessionStorage和cookies都是用于在浏览器中存储数据的方式。localStorage用途:用于存储较大、较长期的数据,数据不会随浏览器关闭而消失,适合存储长期有效的信息,如用户设置、主题偏好等。•存储大小:大约5 MB左右。•有效期:数据会一直保留,直到用户......
  • 系统架构师考试学习笔记第二篇——架构设计专业知识(6)系统工程基础知识
    本章节考点分析:        第6课时主要学习系统工程和系统性能等内容。根据考试大纲,本课时知识点会涉及单项选择题,约占2~5分。本课时内容侧重于概念知识也会有计算题。根据以往全国计算机技术与软件专业技术资格(水平)考试的出题规律,考查的知识点多来源于教材,扩展内容较......