环境配置
参照官方说明,创建虚拟python环境,并安装所需部署包。说明
https://github.com/THUDM/ChatGLM3/blob/main/composite_demo/README.md
本地模型加载
1、先按照官方指引,将模型下载在本地。
2、修改模型加载地址。MODEL_PATH和TOKENIZER_PATH,都修改
注意:通过修改client.py加载本地模型
Jupyter 内核安装
Jupyter 内核在 Jupyter Notebook 或 JupyterLab 等交互式开发环境中扮演着至关重要的角色。
本步骤需要执行。否则代码编写功能不能完全使用,即可以写代码但是无法执行画圆瞪交互式操作。
注:一开始我没有执行官方文档说明的这一步脚本,code interpreter是可以打印代码的。但是无法执行画图,安装之后,画图功能正常。
ipython kernel install --name chatglm3-demo --user
注意:如果修改--name后的命名,需要到demo_ci.py修改IPYKERNEL对应的第二个参数为新的命名。
检查是否jupyter已经安装
如果不是很确定,就是想检查下,可以执行以下命令:
jupyter kernelspec list
python -m pip list | findstr ipython
python -m pip show ipython
命令显示有结果,代表已经安装。
结果展示
Gradio部署
安装gradio
pip install gradio
注意:一般这步不需要,因为在执行requestment时已经安装过。
执行web浏览器加载脚本
python web_demo.py
标签:部署,本机,ChatGLM3,python,demo,--,执行,安装,加载 From: https://blog.csdn.net/u011833022/article/details/136677558