首页 > 其他分享 >吴恩达《LangChain for LLM Application Development》课程笔记

吴恩达《LangChain for LLM Application Development》课程笔记

时间:2023-07-12 14:56:33浏览次数:78  
标签:Development 解析器 吴恩达 https www LangChain 课程 LLM 上下文

1. 前言

LangChain是一个用来构建LLM应用的开源框架,主要是为基于大语言模型的应用提供一系列的构建工具包。这个短课程的主要内容有:

  • 模型、提示和解析器:调用LLM,提供提示并解析响应。
  • LLM的记忆:用于存储对话和管理有限上下文空间的记忆。
  • 链式操作:创建操作序列。
  • 文档问答:将LLM应用于您的专有数据和用例需求。
  • 代理:探索将LLM作为推理代理的新兴发展趋势。

原课程地址:https://www.deeplearning.ai/short-courses/langchain-for-llm-application-development/

B站转载:https://www.bilibili.com/video/BV1zu4y1Z7mc?p=1&vd_source=c2a322357481107ab7f418b1ae9ce618


2. 课程笔记

2.1. 模型、提示和解析器

https://www.bilibili.com/video/BV1zu4y1Z7mc?p=2&vd_source=c2a322357481107ab7f418b1ae9ce618

这节课的要点有两个:

a. 使用Langchain的模板功能,将需要改动的部分抽象成变量,在具体的情况下替换成需要的内,达到一次定义,多次使用的效果。

书中提到的一个例子是,使用模板,去转化表达的风格。这种方式比fstring要更灵活,特别是模板很长的时候。

b. 使用一个解析器,将LLM的输出解析成你需要的格式,如字典。


2.2. LLM记忆,上下文管理

这节课主要如何使用不同的内存类来管理与LLM的对话上下文。


ConversationBufferMemory:保存所有上下文。

ConversationBufferWindowMemory:以对话轮数为单位,设置最大轮数限制。

ConversationTokenBufferMemory:以token的个数为单位,设置最大个数限制。











3. 其他


(完)

标签:Development,解析器,吴恩达,https,www,LangChain,课程,LLM,上下文
From: https://www.cnblogs.com/harrymore/p/17547479.html

相关文章

  • langchain:Prompt在手,天下我有
    目录简介好的prompt什么是prompttemplate在langchain中创建prompttemplateChat特有的prompttemplate总结简介prompts是大语言模型的输入,他是基于大语言模型应用的利器。没有差的大语言模型,只有差的prompts。写好prompts才能发挥大语言模型300%的功力。理论上,要写好prompts......
  • 把langchain跑起来的3个方法
    使用LangChain开发LLM应用时,需要机器进行GLM部署,好多同学第一步就被劝退了,那么如何绕过这个步骤先学习LLM模型的应用,对Langchain进行快速上手?本片讲解3个把LangChain跑起来的方法,如有错误欢迎纠正。Langchain官方文档地址:https://python.langchain.com/基础功能LLM调用支持......
  • LangChain集成中心上线
    LangChain框架介绍LangChain创建于2022年10月,是围绕LLMs(大语言模型)建立的一个框架,LLMs使用机器学习算法和海量数据来分析和理解自然语言,GPT3.5、GPT4是LLMs最先进的代表,国内百度的文心一言、阿里的通义千问也属于LLMs。LangChain自身并不开发LLMs,它的核心理念是为各种LLMs实现通......
  • LangChain:一个让你的LLM变得更强大的开源框架
    前言  你可能听说过,最近几个月出现了很多人工智能的应用程序。你可能也在用一些这样的应用。  比如ChatPDF和CustomGPTAI这些AI工具,它们可以帮我们省去很多麻烦,我们不用再翻来覆去地看文档,就能找到想要的答案。它们让AI为我们做了很多工作。  那么,开发这些......
  • 大语言模型的开发利器langchain
    目录简介什么是langchainlangchain的安装langchain快速使用构建应用聊天模式Prompt的模板ChainsAgentsMemory总结简介最近随着chatgpt的兴起,人工智能和大语言模型又再次进入了人们的视野,不同的是这一次像是来真的,各大公司都在拼命投入,希望能在未来的AI赛道上占有一席之地。因为A......
  • 初识Quantum Mini Linux Development Kit
    本人近期看到稚晖君的Linux-card的相关视频介绍,看到它极大的方便,整体只需Type-C即可供电并且算力满足目前所需要求功能也不少。于是火速下单,从SpeedStudio购入。到货后先认识这个开发套件的外观,可以说是非常小巧,功能接口也不少,可以满足大部分需求。      ......
  • 本地部署开源大模型的完整教程:LangChain + Streamlit+ Llama
    在过去的几个月里,大型语言模型(llm)获得了极大的关注,这些模型创造了令人兴奋的前景,特别是对于从事聊天机器人、个人助理和内容创作的开发人员。大型语言模型(llm)是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使用广泛的数据集进行训练,这......
  • 吴恩达-斯坦福CS229机器学习课程-2017(秋)最新课程分享
    吴恩达主讲的机器学习-2017年秋季课程已经开课啦,今天跟大家分享这套课程。课程介绍本课程主要介绍机器学习和统计模式识别相关的知识。内容主要包括:监督学习(生成/判别学习,参数/非参数学习,神经网络,支持向量机);无监督学习(聚类,维数规约,核方法);学习理论(偏差/方差权衡;VC理论;大边缘概率......
  • 吴恩达卷积神经网络
    过滤器、padding(6)、卷积步长(7)、三维卷积、池化层神经网络的前几层如何检测边缘,有些后面的层可能检测到物体的部分,更靠后的一些层,可能检测到完整的物体eg:给一个例子,可能首先检测图片中的垂直边缘,或者那你想检测水平边缘这是6*6*1的灰度矩阵,不是6*6*3的,因为没有RGB三通道。可......
  • A Practical Methodology, HSM, Handler,Service,Model, for Golang Backend Developm
    EverybodyisfamiliarwiththewidelyadoptedMVC(Model-View-Controller)pattern,whichhasbeenusedformanyyearsacrossvariouslanguagesandframeworks.MVChasproventobeapracticalpatternfororganizingprogramswithuserinterfacesandmultip......