首页 > 编程语言 >【Python】【ChatGPT】本地部署ChatGPT学习记录

【Python】【ChatGPT】本地部署ChatGPT学习记录

时间:2023-10-24 19:15:28浏览次数:34  
标签:https Python 部署 本地 GPT4ALL gpt4all ChatGPT model

学习一下GPT项目的相关使用和部署

 

一、GPT4ALL模型

Github:https://github.com/nomic-ai/gpt4all

GPT4ALL项目部署简易,但是在运行体验上一般,并且是只调用CPU来进行运算,看官方文档介绍在嵌入式上有比较大的优势,但是目前个人对嵌入式方向接触不深,仅在本机部署使用。

本机配置(CPU:i5-8400、显卡:1060、内存:8)

1、模型下载

链接:https://gpt4all.io/index.html

 可以自行选择不同的model类型,都有相对应的介绍,然后直接下载即可。

model使用相关文档链接:https://docs.gpt4all.io/index.html

下述是本机使用过程:

1、安装第三方库:pip install gpt4all

2、

1 from gpt4all import GPT4All
2 model = GPT4All(r'D:\GPT_Model\GPT4All-13B-snoozy.ggmlv3.q4_0', allow_download=False)
3 while True:
4     str = input('Loading Done! Please input: ')
5     if str == '0':
6         break
7     output = model.generate(str)
8     print(output)

 

 使用上述代码,既可在命令行和模型连续沟通,但是体验感不佳(可能是因为我自己电脑配置的原因。。)

 也可以安装界面版,相关信息github自行获取。

 将陆续更新其他的模型本地部署(问就是GPT4ALL不是很好用...)

标签:https,Python,部署,本地,GPT4ALL,gpt4all,ChatGPT,model
From: https://www.cnblogs.com/vangoghpeng/p/17785174.html

相关文章

  • ChatGPT中文资源站 同样是多模态更贴近使用习惯模版多一句生成人工智能
    随着人工智能技术的快速发展,我们迎来了智能化时代的蓬勃发展。在这个时代中,ChatGPT作为一种强大的人工智能技术,已经在众多领域展现出了惊人的潜力。你可能对ChatGPT的中文版产生了浓厚的兴趣。那么,不妨让我向你介绍一个令人兴奋的消息——ChatGPT中文镜像站。ChatGPT中文镜像站是一......
  • 【Python 千题 —— 基础篇】进制转换:十进制转二进制
    题目描述题目描述计算机底层原理中常使用二进制来表示相关机器码,学会将十进制数转换成二进制数是一个非常重要的技能。现在编写一个程序,输入一个十进制数,将其转换成二进制数。输入描述输入一个十进制数。输出描述程序将输入的十进制数转换为二进制数,并输出其二进制形式。示例示例......
  • 21.4 Python 使用GeoIP2地图定位
    GeoIP2是一种IP地址定位库,它允许开发人员根据IP地址查找有关位置和地理位置的信息。它使用MaxMind公司的IP地址数据库,并提供一个方便的PythonAPI。GeoIP2可以用于许多不同的应用程序,例如网站分析、广告定位和身份验证。GeoIP2提供了许多不同的信息,例如国家、城市、邮政编码、经纬......
  • 基于Python的子进程获取键盘输入
    一概念 众所周知,python中的获取键盘输入,input函数是没办法用在子程序的,这就限制了它的用途。想要在子程序中获取键盘输入。唯有fn=sys.stdin.fileno函数了。二实例解析在主进程中敲写代码fn=sys.stdin.fileno(),然后将获取到的文件描述符fn传入子进程,子进程敲写代码sys......
  • python selenium 利用pyautogui+ActionChains 完美解决我的滑块验证登录问题
    在解决滑块验证的时候不知道什么原因明明是滑块已经对上了,代码执行就是会校验不通过,手动时就可以,中间也做利用ActionChains模块减速滑动轨迹的操作,但仍然不行,后面在执行代码中添加了pyautogui模块使鼠标悬停在屏幕中的某个点而不改变ActionChains鼠标的定位后终于每次都能通过了fro......
  • 21.4 Python 使用GeoIP2地图定位
    GeoIP2是一种IP地址定位库,它允许开发人员根据IP地址查找有关位置和地理位置的信息。它使用MaxMind公司的IP地址数据库,并提供一个方便的PythonAPI。GeoIP2可以用于许多不同的应用程序,例如网站分析、广告定位和身份验证。GeoIP2提供了许多不同的信息,例如国家、城市、邮政编码、经纬......
  • Python数据类型
     数据类型有数值型,布尔型和字符串型一、数值型包括int(整型)、float(浮点型)和complex(复数型)等。1.整型Python3.x支持任意大小的整型数。整型数可以表示成十进制、八进制、十六进制和二进制形式。十进制整型常量:数码为0~9,如-135、57232。八进制整型常量:必须以80或8o开头(第1......
  • Mandriva本地安装
    个人学习用途博客部分内容摘抄自网络......
  • Solus本地安装
    ......
  • python引用相对路径
    文件夹ants/bees文件夹与learn_data.py隶属于同一个目录data_process   所以引用相对路径的方式即为:classMyData(Dataset):def__init__(self,root_dir,label_dir):self.root_dir=root_dir#根目录,即hymenoptera_data/trainself.label_......