最近想试试使用Meta 发布的最新的开源语言模型Llama 3。我选择下载这个模型,并在自己的电脑上运行。
第 1 步:下载并安装
首先,访问Ollama网站,下载最新版本的安装程序。Ollama是一个多功能工具,旨在帮助用户在不同平台上本地运行、创建和分享大型语言模型(LLMs)。
完成Ollama的安装后,确保它在后台运行。你可以通过系统托盘或任务管理器中的Ollama图标来进行检查
要验证Ollama在命令行界面(CLI)中是否正常工作,可以运行以下命令来查看版本。我当前的版本是0.1.32,你的版本可能会有所不同。
第 2 步:在 VS Code 中安装 CodeGPT 扩展
第 3 步:下载模型
在VS Code的终端里,运行以下命令来下载Llama 3模型:
ollama pull llama3:8b
因为模型大小超过4GB,所以下载可能需要一段时间。请耐心等待直到完成。下载成功后,你将看到一个成功的消息提示。
第 4 步:选择 Llama 3 模型
在VS Code的左侧CodeGPT仪表板中,找到“提供者”下拉菜单,选择“Ollama”。然后,在“模型”下拉菜单中选择“Llama3:8b”。如果列表中没有显示这个模型,你可以手动输入“Llama3:8b”。
然后编写源代码,右键选择CodeGPT:Explain
左侧就出现了代码解释的结果