首页 > 其他分享 >LangChain学习笔记1:基本概念

LangChain学习笔记1:基本概念

时间:2023-05-27 11:36:28浏览次数:54  
标签:转换成 tuning 数据库 笔记 文档 LangChain fine 基本概念 向量

GPT:x中之事,事无大小,悉以咨之


概念

加载器(Loader)

从某种介质中获取数据,即加载。

文档(Document)

数据转换成文档进行处理。类比数据库转换成记录……

文本分割(Text Spltter)

LLM一次处理的数据有限,分割成多批进行处理。

向量数据库(Vector stores)

文档转换成向量,把文档存入到向量数据库,自动转换成向量。

链(Chain)

任务

代理(Agent)

门面,可以根据情况进行一系统任务chain处理。

嵌入 Embedding

用于衡量文本的相关性。这个也是 OpenAI API 能实现构建自己知识库的关键所在。 他相比 fine-tuning 最大的优势就是,不用进行训练,并且可以实时添加新的内容,而不用加一次新的内容就训练一次,并且各方面成本要比 fine-tuning 低很多。 具体比较和选择可以参考这个视频:https://www.youtube.com/watch?v=9qq6HTr7Ocw

微调 fine-tuning

Fine-tuning(微调)是深度学习中的一种技术,它通常用于事先训练好的神经网络模型进行调整适应新的任务

参考:

https://liaokong.gitbook.io/llm-kai-fa-jiao-cheng/







标签:转换成,tuning,数据库,笔记,文档,LangChain,fine,基本概念,向量
From: https://blog.51cto.com/shoucuohulu/6361581

相关文章

  • 带宽、网速各种单位换算笔记(一)
    废话不说直接上干货网络带宽计算方法这里指的是带宽网速的单位计算方式方法及关系在计算机网络、IDC机房中,其宽带速率的单位用bps(或b/s)表示;换算关系为:1Byte=8bit1B=8b----------1B/s=8b/s(或1Bps=8bps)1KB=1024B----------1KB/s=1024B/s1MB=1024KB----------1MB/s=1024K......
  • 【Linux学习笔记】设备驱动模型详解——总线、设备、驱动和类
    简介设备驱动是计算机系统中的重要组成部分,它们允许操作系统与硬件交互。设备驱动模型是一种通用的抽象框架,用于描述操作系统如何管理硬件设备。这里我们将介绍设备驱动模型中的四个关键概念:总线、设备、驱动和类。总线在计算机系统中,总线是指多个设备之间传输数据的路径。总线......
  • 构建之法阅读笔记07
    《现代软件工程构建之法》第七章介绍了微软解决方案框架(MSF)在软件开发中的应用。在我过去的软件开发经验中,我通常会采用瀑布模型,但这种开发方法导致项目的变化很难适应,缺乏灵活性并难以满足多样化的需求。通过本章的学习,我了解到MSF是一种面向实际应用的开发框架,注重解决业务和......
  • 构建之法阅读笔记08
    《现代软件工程构建之法》第八章讲述了需求分析在软件开发中的重要性及方法。在我过去的软件开发中,我可能会只关注部分需求,而忽略其他因素,或者基于主观判断进行需求评估和分析。这种方法很容易导致软件的实际功能不符合用户的需求,因而影响软件的使用效果和用户体验。通过本章的学......
  • 构建之法阅读笔记09
    《现代软件工程构建之法》第九章讲述了项目经理在软件开发中的角色和职责,以及项目管理的一些基本原则和方法。在我的过去的软件开发经验中,我可能会集中在技术开发上,忽略项目管理和沟通方面的问题。这种方法往往会导致进度和质量等问题,缺乏项目的整体视野和沟通能力。通过本章的学......
  • End-to-End Object Detection with Transformers论文阅读笔记
    摘要作者提出了一种新的基于Transformer的目标检测模型DETR,将检测视为集合预测问题,无需进行nms以及anchorgeneration等操作。同时,对模型进行简单的修改就可以应用到全景分割任务中。方法ObjectdetectionsetpredictionlossDETR给出的是N个预测,N为预先设定的远大于GT目标框......
  • 构建之法阅读笔记04
    《现代软件工程构建之法》第四章讲述了在软件开发中两个人合作的重要性和合作方式。在过去,我通常独自完成任务,认为这样可以更快地完成,而且我可以完全掌控整个过程。但是,通过阅读本章,我明白了独自完成任务的弊端。首先,由于没有其他人协助,每当遇到问题时,我需要自己解决,并且经常会陷......
  • 构建之法阅读笔记05
    《现代软件工程构建之法》第五章主要讲述了团队和流程在软件开发中的重要性。在我过去的软件开发工作中,我通常会专注于完成指定任务,很少会考虑整个流程和团队的协作。在这种情况下,往往会出现缺乏沟通和协调,导致项目延误、返工和代码质量低下的问题。通过本章的学习,我意识到建立高......
  • 343. Integer Break刷题笔记
    题目描述难点主要是考虑整数拆成两个数之后不继续拆分的情况classSolution:defintegerBreak(self,n:int)->int:dp=[0]*(n+1)dp[2]=1foriinrange(3,n+1):forjinrange(1,i-1):dp[i]=max(dp[i],max......
  • 63. Unique Paths II刷题笔记
    问题描述主要是稀奇古怪的边界条件,例如左上角是1,最左边和最上边是1,有多个1,输入为行,或者列classSolution:defuniquePathsWithObstacles(self,obstacleGrid:List[List[int]])->int:m=len(obstacleGrid)n=len(obstacleGrid[0])dp=[0]*m......