(硬件环境:笔记本电脑,intel处理器i9-13900HX、64G内存、NVIDIA RTX4080(12G)、操作系统windows11家庭版)
一、下载中科院GPT 学术优化 (GPT Academic)
1.在浏览器输入:https://github.com/binary-husky/gpt_academic。在网页的右方找到并点击“Releases”。
2.选择适合自己的版本,比如Version 3.75&Win/Mac一键安装包,点击下载“oneKeyinstallerForWindowsndMacOS.zip”
3.将文件解压到自己指定的目录,比如d:\OneKeyInstallerForWindowsAndMacOS,注意,目录地址可以变化,最底层目录名称(OneKeyInstallerForWindowsAndMacOS)不要改。
二、修改配置
在config.py同路径下创建一个名为config_private.py的新配置文件,修改gpt_academic/config_private.py文件:
LLM_MODEL = "ollama-llama3-8b-chinese"
AVAIL_LLM_MODELS = ["ollama-llama3-8b-chinese"]
三、运行本地大模型
1.确保已启动ollama。
2.找到d:\OneKeyInstallerForWindowsAndMacOS目录,双击“Windows双击这里运行(推荐).bat”。出现以下窗口。
3.根据以上提示,选择依赖方式。
4.准备完毕,按回车后,在浏览器自动出现以下画面,可以开始使用。
5.关闭以下终端窗口即可结束本程序, 下次运行时, 仍然是双击“Windows双击这里运行.bat”。
标签:8b,py,llama3,OneKeyInstallerForWindowsAndMacOS,GPT,ollama,双击 From: https://blog.csdn.net/weixin_39945822/article/details/139695546