首页 > 其他分享 >Ollama

Ollama

时间:2024-11-16 21:21:11浏览次数:1  
标签:github Ollama 模型 com https ollama

Ollama

官网: https://ollama.com/
github地址: https://github.com/ollama/ollama
官方文档: https://github.com/ollama/ollama/tree/main/docs

下载运行大语言模型,可以离线运行。

Windows下安装

默认会安装到C盘,只能通过命令行自定义安装位置:

.\OllamaSetup.exe /DIR="D:\Ollama"

模型默认也会下载到C盘,可以通过设置用户的环境变量 OLLAMA_MODELS 来修改下载位置
OLLAMA_MODELS: D:\Ollama\models

使用

这里可以搜ollama支持的大模型:
https://ollama.com/library

下载运行模型

# 通义千问模型
ollama run qwen2.5:7b
# llama模型
ollama run llama3.2:3b

可以用Open WebUI作为图形化界面。

信息来源

https://www.bilibili.com/video/BV1JTSqYqErn


2024/11/3

标签:github,Ollama,模型,com,https,ollama
From: https://www.cnblogs.com/-rvy-/p/18549835

相关文章

  • langchain_chatchat+ollama部署本地知识库,联网查询以及对数据库(Oracle)数据进行查询
    langchain_chatchat+ollama部署本地知识库,联网查询以及对数据库(Oracle)数据进行查询涉及的内容其实挺多的,所以尽量减少篇幅目录langchain_chatchat+ollama部署本地知识库,联网查询以及对数据库(Oracle)数据进行查询准备工作:部署ollama以及拉取模型部署langchain_chatchat部署ora......
  • 如何在云服务器上配置ollama、部署llama3.2大语言模型
    本项目是在NVIDIAGeForceRTX4090云服务器的Ubuntu22.04系统上运行系统环境为:Python3.12、Pytorch2.4.0、CUDA12.1、cuDNN8、NVCC通过VNC远程连接到服务器,服务器的租赁是在矩池云官网上。一、服务器租赁登录到矩池云官网选择亚太一区,选择RTX4090服务器,点击租用,等......
  • vue通过ollama接口调用开源模型
    先展示下最终效果: 第一步:先安装ollama,并配置对应的开源大模型。安装步骤可以查看上一篇博客:ollama搭建本地ai大模型并应用调用 第二步:需要注意两个配置,页面才可以调用1)OLLAMA_HOST="0.0.0.0:11434"2)若应用部署服务器后想调用,需要配置:OLLAMA_ORIGINS=* 第三步:js流式调......
  • 记录一下 Win11 下自编译 Ollama 本地运行 llama3.1
    运行环境Windows11(显卡AMDRadeonRX6650XT)VSCode(用于查找特定代码,在gfx1030附近添加gfx1032)GitGo版本$goversiongoversiongo1.23.3windows/amd64MinGW(编译需要make命令)$make-vGNUMake4.4.1Builtforx86_64-w64-mingw32Copyright(......
  • 初识AI大模型,ollama使用,llama factory大模型微调,lama.cpp模型转换guff
    最近了解了下生成式AI对话,下面是自己的一些尝试记录。ollama安装及使用1、安装我是在windows环境下安装的,很简单,访问:https://ollama.com/,下载windows安装包,打开安装就行了。cmd输入ollama-v检验是否安装成功。    2、配置在环境变量的......
  • Ollama AI 框架缺陷可能导致 DoS、模型盗窃和中毒
    近日,东方联盟网络安全研究人员披露了Ollama人工智能(AI)框架中的六个安全漏洞,恶意行为者可能会利用这些漏洞执行各种操作,包括拒绝服务、模型中毒和模型盗窃。知名网络安全专家、东方联盟创始人郭盛华表示:“总的来说,这些漏洞可能允许攻击者通过单个HTTP请求执行各种恶意操......
  • Ollama简介,以及中文使用指南和AMD图形显卡驱动下载
    Ollama是一个开源的大型语言模型(LLM)服务工具,它旨在简化在本地运行大语言模型的过程,降低使用大语言模型的门槛。Ollama使得开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新的大语言模型,包括但不限于如Qwen2、Llama3、Phi3、Gemma2等开源的大型语言模型。Oll......
  • 树莓派5安装ollama+open-webui
    新购置了个PI5,就想着折腾些什么。除了给它装codesys之外,想到(尤其是看到官配的冷却风扇)是不是能跑个AI什么的。捜了一下,除了TensorFlowLite、PyTorchMobile还有做视觉的OPENCV和YOLO。除此之外,一个熟悉的词汇又冒了出来。ollama。记得有段时间看到很多短视频推送,想着就找下资料看......
  • 江大白 | 跨界融合创新,基于YOLO11和Ollama的增强OCR文本识别
    本文来源公众号“江大白”,仅用于学术分享,侵权删,干货满满。原文链接:跨界融合创新,基于YOLO11和Ollama的增强OCR文本识别导读本文介绍一种通过自定义YOLOv11和EasyOCR,结合Ollama优化OCR效果的方法,解决了传统OCR在复杂图像中的识别难题,显著提高了准确性,为高精度文本提取提供了有......
  • 【semantic Kernel】对接 Ollama
    在chatGPT的推动下。LLM简直火出天际,各行各业都在蹭。听说最近meta开源的llama3模型可以轻松在普通PC上运行,这让我也忍不住来蹭一层。以下是使用ollama试玩llama3的一些记录。什么是llamaLLaMA(LargeLanguageModelMetaAI)是Meta开发的大规模预训练语言模型,基于T......