1. 前言
LangChain是一个用来构建LLM应用的开源框架,主要是为基于大语言模型的应用提供一系列的构建工具包。这个短课程的主要内容有:
- 模型、提示和解析器:调用LLM,提供提示并解析响应。
- LLM的记忆:用于存储对话和管理有限上下文空间的记忆。
- 链式操作:创建操作序列。
- 文档问答:将LLM应用于您的专有数据和用例需求。
- 代理:探索将LLM作为推理代理的新兴发展趋势。
原课程地址:https://www.deeplearning.ai/short-courses/langchain-for-llm-application-development/
B站转载:https://www.bilibili.com/video/BV1zu4y1Z7mc?p=1&vd_source=c2a322357481107ab7f418b1ae9ce618
2. 课程笔记
2.1. 模型、提示和解析器
https://www.bilibili.com/video/BV1zu4y1Z7mc?p=2&vd_source=c2a322357481107ab7f418b1ae9ce618
这节课的要点有两个:
a. 使用Langchain的模板功能,将需要改动的部分抽象成变量,在具体的情况下替换成需要的内,达到一次定义,多次使用的效果。
书中提到的一个例子是,使用模板,去转化表达的风格。这种方式比fstring要更灵活,特别是模板很长的时候。
b. 使用一个解析器,将LLM的输出解析成你需要的格式,如字典。
2.2. LLM记忆,上下文管理
这节课主要如何使用不同的内存类来管理与LLM的对话上下文。
ConversationBufferMemory:保存所有上下文。
ConversationBufferWindowMemory:以对话轮数为单位,设置最大轮数限制。
ConversationTokenBufferMemory:以token的个数为单位,设置最大个数限制。
3. 其他
(完)
标签:Development,解析器,吴恩达,https,www,LangChain,课程,LLM,上下文 From: https://www.cnblogs.com/harrymore/p/17547479.html