首页 > 系统相关 >Ollama for windows

Ollama for windows

时间:2024-05-23 16:22:10浏览次数:34  
标签:windows 模型 支持 Docker Ollama 运行

Ollama介绍

Ollama 是一个开源项目,旨在提供一个轻量级、可扩展的框架,用于在本地机器上构建和运行大型语言模型。以下是关于 Ollama 的一些核心特性和功能:

  1. 本地运行: Ollama 允许用户在本地计算机上运行大型语言模型,而无需依赖远程服务器。

  2. 跨平台支持: Ollama 支持 macOS、Windows 和 Linux 系统,提供了相应的下载链接和安装指南。

  3. Docker 支持: 官方提供了 Ollama 的 Docker 镜像,方便用户通过 Docker Hub 进行部署和管理。

  4. 模型库: Ollama 拥有一个模型库,用户可以从中下载并运行多种预构建的模型,如 Llama 3、Phi 3 Mini、Gemma、Mistral 等。

  5. 模型参数: 每个模型都有详细的参数说明,包括模型的参数量、大小以及下载命令。

  6. 自定义模型: 用户可以导入 GGUF 格式的模型,并使用 Modelfile 来创建和运行自定义模型。

  7. 命令行界面 (CLI): 提供了丰富的 CLI 命令,用于创建、拉取、复制、删除和管理模型。

  8. 多行输入: 支持多行输入,用户可以通过特定的语法输入多行文本。

  9. 多模态模型: 支持运行多模态模型,能够处理图像等非文本输入。

  10. REST API: 提供 REST API,用于远程运行和管理模型,方便与其他应用程序集成。

  11. 社区集成: 拥有丰富的社区集成,包括 Web 和桌面应用程序、终端工具、数据库连接、包管理器、库、移动应用、扩展和插件等。

  12. 支持的后端: 支持使用 llama.cpp 项目作为后端,这是由 Georgi Gerganov 创立的项目。

安装

windows安装link

模型下载

 ollama run llama3

应用退出

利用关键词/bye会退出交互的终端。

Windows关闭Ollama进程

开启一个powershell的terminal,然后输入:

Get-Process | Where-Object {$_.ProcessName -like '*ollama*'} | Stop-Process

标签:windows,模型,支持,Docker,Ollama,运行
From: https://www.cnblogs.com/guangqianglu/p/18208750

相关文章

  • windows如何获取文件的哈希值
    在Windows系统中,可以使用以下几种方法来获取文件的哈希值:使用PowerShell在PowerShell中运行以下命令即可计算文件的SHA256哈希值:Get-FileHash-Path<文件路径>-AlgorithmSHA256其中<文件路径>是待计算哈希值的文件的完整路径。使用certutil命令Window......
  • windows服务器 启用 TLS 1.0 ,1.1漏洞问题修复记录
     测试对象:windowsserver2016或2019IIS,sqlserver2014布署的网站启https证书绑定安全检查有漏洞 启用TLS1.0高危,1.1漏洞中危问题修复记录 IISCryptohttps://www.nartac.com/Products/IISCrypto/DownloadIISCrypto是一个免费工具,使管理员能够在WindowsServer......
  • 使用-HTML5-和-JavaScript-开发-Windows-商店应用-全-
    使用HTML5和JavaScript开发Windows商店应用(全)原文:zh.annas-archive.org/md5/8F13EC8AC7BDB8535E7218C5DDB48475译者:飞龙协议:CCBY-NC-SA4.0序言使用HTML5和JavaScript开发WindowsStore应用是一本实践性强的指南,涵盖了WindowsStore应用的基本重要特性以及......
  • windows下使用redis解决.net6.0下人工调用接口时分配位置的并发问题
    使用了nuget包包括了:CSRedisCore,StackExchange.Redis,MyStack.DistributedLocking,Microsoft.Extensions.Configuration安装Redis并注册为windows服务 直接参考这位兄弟的成果:https://www.cnblogs.com/qingheshiguang/p/17952623注册服务:配置文件appsetting.json中加上Red......
  • 阿里oceanbase数据库安装步骤-windows-docker
    打开阿里的安装教程:OceanBase分布式数据库-海量数据笔笔算数找到方案3:容器-docker。https://www.oceanbase.com/docs/common-oceanbase-database-cn-1000000000639587 下载docker-desktop:https://www.docker.com/https://www.docker.com/products/docker-desktop/......
  • Windows 10 LTSC中个人版OneDrive失效的问题
    该问题是由于LTSC注册表无onedriver的id{A52BBA46-E9E1-435f-B3D9-28DAA648C0F6}定义导致,解决方案是新建一个reg_onedrive.reg文件,并编辑内容如下:WindowsRegistryEditorVersion5.00[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Explorer\FolderDescript......
  • windows上使用wsl的ubuntu部署stirling-pdf
    由于要部署stirling-pdf需要docker环境,所以需要使用ubuntu系统,那么在win10/win11上最方便的方式就是使用wsl安装ubuntu然后再wsl上的ubuntu上进行部署,接下来就是整个步骤在windows上使用wsl安装ubuntu,在powershell上使用wsl--install命令就可以默认安装ubuntu了,方便快捷登录ub......
  • Windows server高危漏洞 - 目标主机使用了不受支持的SSL加密算法
    系统扫描出高危漏洞:目标主机使用了不受支持的SSL加密算法。 修复过程:使用IISCrypto工具,下载地址:NartacSoftware-IISCrypto1.打开工具,点击“BestPractices”后,会自动反选掉一些选项,如下图,根据解决建议,手动反选掉TLS1.0和TLS1.1。然后Apply,重启服务器。 2. 服务......
  • QtCreator 跨平台开发添加动态库教程(以OpenCV库举例)- Windows篇
     Qt具有跨平台的特性,即Qt数据结构与算法库本身跨平台和编译脚本(.pro)跨平台。在同时具有Windows下和Linux开发的需求时,最好的建议是使用QtCreator来开发,虽然也可以使用其他的IDE配合CMake等方式,但使用QtCreator更加方便,并且操作环境完全一致。QtCreator支持Windows、Linux、M......
  • QGIS开发笔记(二):Windows安装版二次开发环境搭建(上):安装OSGeo4W运行依赖其Qt的基础环境De
    前言  使用QGis的目的是进行二次开发,或者说是融入我们的应用(无人车、无人船、无人机),本片描述搭建QGis二次基础开发环境,由于实在是太长了,进行了分篇:上半部分:主要是安装好后,使用QtCreator可以使用QGIs的apps下的Qt使用对应的编译器编译不带qgis的空工程。下半部分:在上半......