LangChain大模型应用开发指南-传统编程范式思维的应用

LangChain大模型应用开发指南-传统编程范式思维的应用

上节课，我带领小伙伴们完成了baichuan2量化模型的OpenAI标准接口封装，并完成LangChain对大模型的调用与测试。没有看过的小伙伴可以点击链接查看：

AI课程合集

今天我们将正式开始LangChain大模型应用开发课程。

组件总览

上图为LangChain的组件与架构图，基本完整描述了LangChain的组件与抽象层以及它们之间的相关联系。主要包括以下六个部分，基于同传统软件开发的比较，我将其分为两个类型：

1. 传统编程思想的AI工程化应用

 Chains：链，用于组合组件的结构化方式
 Agents：代理，用于执行特定任务的组件
 Callbacks：回调，用于在链中插入自定义逻辑的组件

2. AI大模型衍生的新能力

 Model I/O：模型输入输出，用于与语言模型交互的组件
 Retrieval：检索，用于从外部来源获取上下文的组件
 Memory：记忆，用于存储和更新上下文的组件

作为LangChain大模型应用开发指南第一课，我将介绍LangChain的六大核心组件和概念解析，帮助大家从全局的角度了解LangChain在AI应用开发流程中的能力边界，并将在最后给出一个使用到了以上所有相关组件和概念的实际使用示例。

受限于文章篇幅，本篇文章主要从传统编程出发，讲解LangChain应用开发中与传统IT应用开发相同的编程范式，本次课程整体提纲如下:

Chains

做过传统软件开发的小伙伴，对链这个名词肯定不陌生，比如Java设计模式里的责任链。LangChain中的Chain也便是大家熟知的链，是LangChain中用于组合组件的结构化方式，它可以让你按照一定的顺序和逻辑来执行不同的任务。你可以把它想象成语言模型进行流水线作业，每个环节都有一个特定的目标和功能。Chains有以下四种类型：

Chains是LangChain中完成业务逻辑拆解和组装的核心组件，它可以让你灵活地构建复杂的应用程序。你可以使用不同类型的Chains来实现大模型、现有数据等各种各样基础能力的组装与能力搭建。

• 如下代码是使用Chain整合提示词模板，OpenAI接口，输出文本格式化解析器的一个简单示例

from langchain.chat_models import ChatOpenAI
from langchain.prompts.chat import ChatPromptTemplate
from langchain.schema import BaseOutputParser

class CommaSeparatedListOutputParser(BaseOutputParser):
    """Parse the output of an LLM call to a comma-separated list."""


    def parse(self, text: str):
        """Parse the output of an LLM call."""
        return text.strip().split(", ")

template = """You are a helpful assistant who generates comma separated lists.
A user will pass in a category, and you should generate 5 objects in that category in a comma separated list.
ONLY return a comma separated list, and nothing more."""
human_template = "{text}"

chat_prompt = ChatPromptTemplate.from_messages([
    ("system", template),
    ("human", human_template),
])
chain = chat_prompt | ChatOpenAI() | CommaSeparatedListOutputParser()
chain.invoke({"text": "colors"})
# >> ['red', 'blue', 'green', 'yellow', 'orange']

Agents

和责任链一样，Java设计模式还有一个设计模式叫代理模式。LangChain中Agents的概念与传统的代理模式基本一致，是通过对稳定的核心能力进行封装，通过Agents代理提供访问入口，既保证了对多样化业务能力需求的支持，也能保持核心能力的稳定性。

LangChain中Agents与传统代理模式的区别就在于，其代理的核心能力便是AI大模型。通过Agents，我们可以让语言模型具有主动性和智能性。你可以把它想象成语言模型的打工人，它可以根据你的需求和指示来完成各种各样的工作。LangChain基于对AI应用开发的总结抽象，主要提供以下六种代理类型：

Agents是LangChain工程化封装与能力复用核心手段，可以动态的帮我们选择和调用 Chain 或者已有的工具，实现面向多种应用场景的智能适配。

• 如下代码是使用Self-ask with search完成查询链

from langchain.llms import OpenAI
from langchain.utilities import SerpAPIWrapper
from langchain.agents import initialize_agent, Tool
from langchain.agents import AgentType

llm = OpenAI(temperature=0)
search = SerpAPIWrapper()
tools = [
    Tool(
        name="Intermediate Answer",
        func=search.run,
        description="useful for when you need to ask with search",
    )
]

Callbacks

回调这个概念不用多说，各种编程语言的回调函数就是具体的应用。 LangChain中Callbacks是用于在链中插入自定义逻辑的组件，它可以让你对语言模型的行为进行控制和调整和调整。你可以把它理解成餐厅排队的叫号，当排队到你的时候就会触发提醒你用餐。同样在LangChain中，它可以在链中的任何位置执行你定义的函数或代码。。LangChain基于对AI应用开发的总结抽象，主要提供以下七种回调类型：

Callbacks是LangChain中实现自定义逻辑插入的入口，它可以让你的任务链达到合适场景时执行你自定义的功能和效果。

• 如下是LangChain内置的标准输出的回调演示

from langchain.callbacks import StdOutCallbackHandler
from langchain.chains import LLMChain
from langchain.llms import OpenAI
from langchain.prompts import PromptTemplate

handler = StdOutCallbackHandler()
llm = OpenAI()
prompt = PromptTemplate.from_template("1 + {number} = ")

# Constructor callback: First, let's explicitly set the StdOutCallbackHandler when initializing our chain
chain = LLMChain(llm=llm, prompt=prompt, callbacks=[handler])
chain.run(number=2)

# Use verbose flag: Then, let's use the `verbose` flag to achieve the same result
chain = LLMChain(llm=llm, prompt=prompt, verbose=True)
chain.run(number=2)

# Request callbacks: Finally, let's use the request `callbacks` to achieve the same result
chain = LLMChain(llm=llm, prompt=prompt)
chain.run(number=2, callbacks=[handler])

总结

本文以传统应用编程设计模式和思维为入口和对比对象，介绍了LangcChain中的Chain、Agent、Callback三大核心概念，并整理了LangcChain为众多开发者内置的能力与工具。

通过本文的指导，读者可以迁移在传统应用编程中累积的思维方式和经验，快速入门掌握AI应用编程。

下一节课我们将着重讲解，LangChain架构在传统应用开发基础上通过AI大模型衍生出的新能力，请大家持续关注。