首页 > 其他分享 >langchain中的LLM模型使用介绍

langchain中的LLM模型使用介绍

时间:2023-10-23 14:31:50浏览次数:40  
标签:LLM 模型 langchain token OpenAI llm

简介

构建在大语言模型基础上的应用通常有两种,第一种叫做text completion,也就是一问一答的模式,输入是text,输出也是text。这种模型下应用并不会记忆之前的问题内容,每一个问题都是最新的。通常用来做知识库。

还有一种是类似聊天机器人这种会话模式,也叫Chat models。这种模式下输入是一个Chat Messages的列表。从而可以保存上下文信息,让模型的回复更加真实。

实际上Chat models的底层还是LLMs,只不过在调用方式上有些变化。

简单使用LLMs

什么是LLMs呢?LLMs是Large Language Models的简称,也就是我们常说的大语言模型。

对于langchain来说,它本身并不提供大语言模型,它只是一个中间的粘合层,提供了统一的接口,方便我们对接底层的各种LLMs模型。

langchain除了可以对接OpenAI之外,还可以对接Cohere, Hugging Face等其他的大语言模型。

比如下面是openAI的使用:

from langchain.llms import OpenAI

llm = OpenAI(openai_api_key="...")

接下来就可以调用llm的方法来进行text completion了。

一般来说有两种方式。第一种方式就是直接输出:

llm("给我写首诗")

还有一种方式调用他的generate方法:

llm_result = llm.generate(["给我唱首歌", "给我写首诗"])

这种方式可以传入一个数组,用来生成比较复杂的结果。

langchain支持的LLM

现在大语言模型可谓是蓬勃发展,一不留神就可能出一个新的大语言模型。

就目前而言,基本的国外主流模型langchain都是支持的。

比如:openai,azure openai,AmazonAPI,Hugging Face Hub等等。数目繁多,功能齐全,你想要的他全都有,你没想到的他也有。

那么有小伙伴可能要问题了,langchain支不支持国产的大语言模型呢?

答案是肯定的,但并不是直接的。

如果你发现langchain并没有你想要的llm,那么你可以尝试进行自定义。

langchain为我们提供了一个类叫做LLM,我们只需要继承这个LLM即可:

class LLM(BaseLLM):

    @abstractmethod
    def _call(
        self,
        prompt: str,
        stop: Optional[List[str]] = None,
        run_manager: Optional[CallbackManagerForLLMRun] = None,
    ) -> str:
        """Run the LLM on the given prompt and input."""

其中,唯一一个必须要实现的方法就是_call,这个方法传入一个字符串和一些可选的stop word,然后返回LLM的输出即可。

另外还可以实现一个_identifying_params方法,用来输出自定义LLM的一些参数信息。

大家可以自行尝试和接入不同的LLM模型。

一些特殊的LLM

很多时候调用LLM是需要收费的,如果我们在开发的过程中也要不断的消耗token肯定是得不偿失。

所以langchain为了给我们省钱,提供了一个FakeLLM来使用。

顾名思义,FakeLLM就是可以手动来mock一些LLM的回答,方便测试。

from langchain.llms.fake import FakeListLLM

responses = ["窗前明月光\n低头鞋两双"]
llm = FakeListLLM(responses=responses)

print(llm("给我写首诗"))

上面的输出结果如下:

窗前明月光
低头鞋两双

langchain中还有一个和FakeLLM类似的叫做HumanInputLLM。

这个LLM可以打印出给用户的prompt,并且将用户的输入作为输出返回给用户,大家可以自行体验。

LLM的高级用法

除了正常的LLM调用之外,langchain还提供了一些LLM的高级用法。

异步调用

比如异步调用LLM。当然目前只支持OpenAI, PromptLayerOpenAI, ChatOpenAI 和 Anthropic这几个LLM。其他的对LLM的支持貌似正在开发中。

异步方法也很简单,主要是调用llm的agenerate方法,比如下面这样:

async def async_generate(llm):
    resp = await llm.agenerate(["Hello, how are you?"])
    print(resp.generations[0][0].text)

缓存功能

另外,对于一些重复的请求来说,langchain还提供了缓存功能,这样可以重复的请求就不需要再发送到LLM去了,给我们节约了时间和金钱,非常好用。

langchain提供的cache也有很多种,比如InMemoryCache,FullLLMCache,SQLAlchemyCache,SQLiteCache和RedisCache等等。

我们以InMemoryCache为例,看看是怎么使用的:

from langchain.cache import InMemoryCache
langchain.llm_cache = InMemoryCache()

# 第一次没有使用缓存
llm.predict("Tell me a joke")
# 第二次使用了缓存
llm.predict("Tell me a joke")

使用起来很简单,只需要添加一行llm_cache即可。

如果你使用其他的cache,除了构造函数不同之外,其他的都是类似的。

保存LLM配置

有时候我们配置好了LLM之外,还可以把LLM相关的参数以文本的形式存储起来。

保存llm到文件:

llm.save("llm.json")

加载llm:

llm = load_llm("llm.json")

流式处理

LLM的速度是一个硬伤,由于返回整个响应的速度太慢了,所以推出了流式响应。只要有response返回,就传输给用户。并不需要等待所有内容都获得之后再处理。这样对用户的体验是最好的。

目前langchain只支持OpenAI,ChatOpenAI和ChatAnthropic。

要实现这个流式处理, langchain提供了BaseCallbackHandler,我们只需要继承这个类,实现on_llm_new_token这个方法即可。

当然langchain已经给我们提供了一个实现好的类叫做:StreamingStdOutCallbackHandler。下面是他的实现:

def on_llm_new_token(self, token: str, **kwargs: Any) -> None:
        sys.stdout.write(token)
        sys.stdout.flush()

使用的时候,只需要在构建llm的是传入对应的callback即可:

from langchain.llms import OpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler


llm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)
resp = llm("给我写首诗")

统计token数目

这个统计token使用数目的功能目前只能在openai使用。

from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback

llm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)

with get_openai_callback() as cb:
    result = llm("T给我写首诗")
    print(cb)

总结

LLM是大语言模型最基础的模式,chat模式的底层就是基于LLM实现的。后续我们会详细介绍chat模式,尽请期待。



标签:LLM,模型,langchain,token,OpenAI,llm
From: https://blog.51cto.com/flydean/7987185

相关文章

  • LLM 新缺陷曝光,自我纠正成功率仅 1%;苹果超 95% 产品仍在中国制造丨 RTE 开发者日报 Vo
     开发者朋友们大家好:这里是「RTE开发者日报」,每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享RTE (RealTimeEngagement) 领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有看点的会议」,但内容仅代表编辑的个人观点,欢迎......
  • 倾斜摄影三维模型根节点合并技术方法探讨
    倾斜摄影三维模型根节点合并技术方法探讨 倾斜摄影技术是一种通过无人机或其他航空器采集大量高分辨率照片,并使用特殊软件将这些照片拼接成三维模型的方法。在这个过程中,摄影机以倾斜角度拍摄照片,从而捕捉到目标物体的多个视角,从而实现更精细和真实的建模效果。在创建倾斜摄......
  • 昇腾CANN 7.0 黑科技:大模型训练性能优化之道
    本文分享自华为云社区《昇腾CANN7.0黑科技:大模型训练性能优化之道》,作者:昇腾CANN。目前,大模型凭借超强的学习能力,已经在搜索、推荐、智能交互、AIGC、生产流程变革、产业提效等场景表现出巨大的潜力。大模型经过海量数据的预训练,通常具有良好的通用性和泛化性。用户基于“大......
  • 综述推荐:视觉计算中的扩散模型
    StateoftheArtonDiffusionModelsforVisualComputinghttps://arxiv.org/pdf/2310.07204v1.pdf视觉计算(VisualComputing)领域,正因生成式人工智能(AI)的出现而快速发展,这为图像、视频和3D场景的生成、编辑和重建打开了前所未有的能力。这些领域中,扩散模型是生成式人工智能架构......
  • 大模型:机器学习的崭新时代
    原创|文BFT机器人在机器学习领域,随着计算能力和数据规模的不断增长,大模型成为一种引人注目的技术。这些具有大规模参数和参数量的机器学习模型正在改变着我们对于人工智能的认识,大模型的出现使得机器学习模型能够处理更复杂的任务,取得更准确和复杂的预测结果。PART01大模型的概......
  • 基于LangChain的LLM应用开发3——记忆
    此情可待成追忆,只是当时已惘然。我们人类会有很多或美好或痛苦的回忆,有的回忆会渐渐模糊,有的回忆午夜梦醒,会浮上心头。然而现在的大语言模型都是没有记忆的,都是无状态的,大语言模型自身不会记住和你对话之间的历史消息。根本用不着“时时勤拂拭”,天然就是“本来无一物”。每一次的请......
  • qemu和vscode调试uboot及设备模型数据流分析
    一,前言对于通用的流程,我需要形成闭环的代码理解,验证我理解的准确性。于是我选择用调试的方法来看数据流,用qemu来仿真,vsocde来调试,但是不能仿真am335。所以用了qemu支持仿真的v9。二,过程记录1,编译ubootmakeARCH=armCROSS_COMPILE=arm-linux-gnueabihf-distcleanrm-rf./v9make......
  • 基于LangChain的LLM应用开发3——记忆
    此情可待成追忆,只是当时已惘然。我们人类会有很多或美好或痛苦的回忆,有的回忆会渐渐模糊,有的回忆午夜梦醒,会浮上心头。然而现在的大语言模型都是没有记忆的,都是无状态的,大语言模型自身不会记住和你对话之间的历史消息。根本用不着“时时勤拂拭”,天然就是“本来无一物”。每一次的......
  • osi七层模型与TCP/IP四层模型
    一.osi七层模型:1.应用层​ 最上层的,也是我们能直接接触到的就是应用层(ApplicationLayer),我们电脑或手机使用的应用软件都是在应用层实现。那么,当两个不同设备的应用需要通信的时候,应用就把应用数据传给下一层,也就是传输层。​ 所以,应用层只需要专注于为用户提供应用功能,比如H......
  • 大语言模型LLM-三种模型架构
    架构:由Transformer论文衍生出来的大语言模型,主要有三种模型架构预训练目标:FLM,PLM,MLM调整:微调:Transformertransfomer可以并行地计算?  transformer中encoder模块是完全并行的,而decoder不是完全并行的。模型结构  使用原文表达如下:theencodermapsaninputsequence......