首页 > 系统相关 >小白Windows下通过Ollama部署使用本地模型

小白Windows下通过Ollama部署使用本地模型

时间:2024-03-12 22:13:51浏览次数:27  
标签:安装 Windows Ollama 模型 路径 小白 ollama 下载

安装环境

运行环境为
windows
R9000P2021拯救者笔记本
AMD R7-5800H
32G 内存
NVIDIA RTX 3070 Laptop GPU

安装主程序

Ollama下载exe,直接下一步下一步没有设置可以更改
windows默认安装路径:
C:\Users\wbigo\AppData\Local\Programs\Ollama\
安装后会自动将该路径加入环境变量
双击图标运行后状态栏会出现小图标,右键有退出、打开日志文件夹按钮

我直接打开cmd运行ollama list报错、应该是环境变量有问题
这时可以打开安装路径按住shift+鼠标右键,点击在此处打开Powershell窗口

输入ollama -v查看当前版本,能输出版本则安装成功

修改模型下载路径

默认模型下载路径:
C:\Users\wbigo\.ollama\models
添加系统变量修改模型默认下载路径
变量名:OLLAMA_MODELS

运行模型单行对话

拉取并运行llama2模型
ollama run llama2
直接输入该命令会检查目录下是否有该模型,没有会自动下载,下载好后自动运行该模型
其他模型见library (ollama.com)

拉取完成后直接进入单行交流模式

第三方API调用

API调用默认端口11434

第三方应用调用API

翻译效果

解释代码效果及CPU、内存、GPU占用

标签:安装,Windows,Ollama,模型,路径,小白,ollama,下载
From: https://www.cnblogs.com/WilliamB/p/18069441

相关文章

  • windows、C++怎么看线程在哪个核上运行
    一.要在Windows系统上查看线程运行在哪个处理器核心上,可以使用Windows系统提供的一些工具和方法。在Windows中,可以使用以下几种方式来查看线程运行的处理器核心:使用任务管理器打开任务管理器:可以通过按下 Ctrl+Shift+Esc 组合键快速打开任务管理器,或者通过右键......
  • 升级Windows 11 专业版升级密钥永久使用
    Windows11专业版是Windows11的商业版本,专为中小型企业和组织设计。它提供了一些家庭版和专业版所没有的功能,例如:安全性:设备加密:使用BitLocker或BitLocker设备加密保护您的设备和数据。身份验证:使用WindowsHelloforBusiness以多种方式登录您的设备,包括面部识别......
  • 升级Windows 11 专业版升级密钥永久使用
    Windows11专业版是Windows11的商业版本,专为中小型企业和组织设计。它提供了一些家庭版和专业版所没有的功能,例如:安全性:设备加密:使用BitLocker或BitLocker设备加密保护您的设备和数据。身份验证:使用WindowsHelloforBusiness以多种方式登录您的设备,包括面部识别......
  • Windows环境安装RabbitMQ
    消息队列......
  • 【CentOS】Linux 或 Windows 上实现端口映射
    一、什么端口映射?端口映射:端口映射就是将内网中的主机的一个端口映射到外网主机的一个端口,提供相应的服务。当用户访问外网IP的这个端口时,服务器自动将请求映射到对应局域网内部的机器上。我们在内网中有一台Web服务器,但是外网中的用户是没有办法直接访问该服务器的。于是我们可......
  • Windows10 windows installer卸载或安装不了软件怎么办?
        先说我的方法:      1.把安装出现问题的软件或者想要卸载的软件的安装目录下的所有文件都删除。      2.用清理软件清理一下垃圾,包括注册表,这里我自己使用的是火绒->安全工具->系统工具->垃圾清理。      3.手动卸载目标软件,这里我是直接去控......
  • Ubuntu 与Windows 之间搭建共享文件夹
    工作中经常需要搭建Linux环境用于测试以及其他开发需求,办公电脑通常是Windows系统,为便于让文件在两个系统之间传输,可以采取共享文件的方式实现;1、安装samba服务;sudoaptupdatesudoaptinstallsamba2、创建共享文件夹:mkdir  /path/shared-foldersu......
  • 权限概念、权限提升概念以及权限提升的分类和目的 Windows 提权的基础原理是了解操作
    关于权限概念、权限提升概念以及权限提升的分类和目的,以下是一些基本信息供您参考:权限概念:权限是指系统或应用程序授予用户或进程执行某些操作或访问资源的能力。权限通常按照用户的身份、角色或组织结构来管理,以确保系统安全和数据保护。权限提升概念:权限提升是指用......
  • windows安装composer并更换国内镜像
    windows安装composer并更换国内镜像第一步、官网下载下载地址Composer安装https://getcomposer.org/Composer-Setup.exe第二步、双击安装即可 第三步选择php安装路径并配置path 第四步、composer-v查看安装是否成功,出现成功界面 第五步、查看镜像地址并更换(comp......
  • Chat GPT订阅充值续费流程,小白教学
    我自己瞎摸索了半天才搞定:为了给大家避坑,总结以下几个亲测步骤:到了付款页面,首先发现:OpenAI不支持国内卡,那么我们就需要注册一个虚拟银行卡   这里我使用的是frompay:https://gpt.fomepay.com/#/pages/login/index?d=5J8YVP (使用手机打开) 首先访问:https://gpt.fomepa......