之前聊了向量数据库,大模型也火了一段时间了,今天特地尝试一下基于Langchain进行百度千帆大模型的使用。Langchain相当于一个LLM编程框架,开发中无需过多关心各个大模型的接入,只需安装相关模型,统一通过Langchain去调用相关大模型进行使用。
1.环境准备
(1)python安装
Langchain需要python3.8.1以上版本,使用conda创建一个python3.9.0的环境。
1.使用conda search python查看有哪些python版本 2.安装python3.9.0,使用命令:conda create -n myenv python=3.9.0 3.使用conda activate myenv命令激活使用
(2)安装langchain
注意切换pip地址,否则会很慢,我这里使用的是清华的地址,并且是直接挂到命令里面配置使用清华地址的。
pip install langchain -i https://pypi.tuna.tsinghua.edu.cn/simple pip install langchain_community -i https://pypi.tuna.tsinghua.edu.cn/simple
(3)安装qianfan
pip install qianfan -i https://pypi.tuna.tsinghua.edu.cn/simple
2.模型AK,SK获取
登录百度千帆创建相关应用,获取相关ak,sk。
3.代码执行
编写简单代码进行测试,不过现在没有免费的了,报了一个收费提示,代码如下:
import os from langchain_community.chat_models import QianfanChatEndpoint from langchain_core.messages import HumanMessage os.environ["QIANFAN_AK"] = "ak" os.environ["QIANFAN_SK"] = "sk" chat = QianfanChatEndpoint( streaming=True, ) res = chat([HumanMessage(content="讲一个故事")]) print(res.content)
标签:python,千帆,langchain,conda,Langchain,pip,试用 From: https://www.cnblogs.com/beststrive/p/18223966