首页 > 其他分享 >将本地的.gguf文件导入ollama

将本地的.gguf文件导入ollama

时间:2024-12-01 21:00:26浏览次数:6  
标签:Modelfile 模型 gguf 导入 model ollama

文章目录

1.创建Modelfile文件

并写入

FROM ./model.gguf

将./model.gguf换成自己的模型文件地址,最好是吧Modelfile文件跟model.gguf放在一起
在这里插入图片描述

在这里插入图片描述

2.使用ollama进行导入

2.1启动ollama服务
ollama serve

在这里插入图片描述

2.2导入模型
ollama create test_model -f ./Modelfile

将test_model改成自己想要为这个模型取得名字,如图所示

./Modelfile 就是自己的Modelfile文件路径
在这里插入图片描述

查看自己当前有什么模型:

ollama list
2.3运行模型
ollama run 你的模型名称

在这里插入图片描述

ctrl+d,退出模型

标签:Modelfile,模型,gguf,导入,model,ollama
From: https://blog.csdn.net/chenlei456/article/details/144172548

相关文章

  • 在Java中使用Apache POI导入导出Excel(一)
    Excel导入导出应用场景在日常的管理系统应用场景中,进行Excel表格的导入导出是比较常见的需求,比如电商平台、企业管理系统、库存管理系统、人事管理系统等等,基本都需要使用数据进行分析,需要将已有的数据通过Excel导入到系统中,或者将系统分析的结果导出到Excel文件中,可以说在这......
  • ollama部署bge-m3,并实现与dify平台对接
    概述这几天为了写技术博客,各种组件可谓是装了卸,卸了装,只想复现一些东西,确保你们看到的东西都是可以复现的。(看在我这么认真的份上,求个关注啊,拜托各位观众老爷了。)这不,为了实验在windows上docker里运行pytorch,把docker重装了。dify也得重装:Dify基础:Dify平台的本地化部署......
  • 使用phpMyAdmin导入和恢复大体积SQL文件
    修改 config.inc.php 文件找到phpMyAdmin的 config.inc.php 文件。添加或修改以下配置:$cfg['UploadDir']='ImportSQLFile';$cfg['SaveDir']='ExportSQLFile';UploadDir 用于导入文件,SaveDir 用于导出文件。创建文件夹在phpMyAdmin根目录下创建......
  • cURL全攻略:从浏览器复制到JMeter/Postman的一键导入
    前言        在当今的数字化时代,cURL作为一款强大的命令行工具和数据传输库,已成为开发、调试和测试过程中不可或缺的利器。它支持多种协议,如HTTP、HTTPS等,能够轻松实现数据的上传与下载,发送各种HTTP请求,并灵活设置请求头和Cookies。本文旨在详细介绍cURL的基本概念、......
  • 云端地球如何进行标注导入导出?
    云端地球支持标注导入导出,与Dasviewer、CAD等软件进行数据流转。标注导入1.点击【添加标注组】,在标注组上点击【导入标注】,支持导入GeoJSON,KML,CSV格式文件。2.导入的KML在标注组里以点线面等标注的形式展示,且可进行重新编辑。标注导出1.在模型上进行点、线、面......
  • DataGrip如何导入和导出sql文件
    导出右键选择需要导出的数据库名称,我这里选择的是company然后依次按图操作即可选择好后会弹出一个窗口第一个路径选择mysql根目录下的/bin/mysqldump.exe程序,根据自身情况选择第二个路径为保存路径,我D盘下的mysql_File\DataGrip,名称默认为company.sql导出是提示......
  • Allegro 如何导出封装 / 导入DXF结构图 / 导入导出参数
    一、导出封装准备练习板子时,已经有完整的PCB板,但是没有封装库。那就可以从板上导出封装,再放到正确的文件夹中。直接上图:1.选择文件-导出-封装库 2.全选下面的选项,设置导出的路径,如果不设置就默认存放在当前的PCB文件夹中,在点击Export。3.在新的PCB上设置封装路径 ......
  • Docker 实战:搭建本地 Registry 私有镜像仓库及批量导入脚本
    前言:在我之前的博客中,我分享了Harbor仓库搭建的详细操作步骤。然而,在实际的生产环境中,并非每个Docker环境都需要部署一个规模庞大的Harbor仓库。有时,一个轻量级的本地Registry私有镜像仓库会更为便捷。本文将介绍如何搭建一个本地Registry私有镜像仓库,并提供一个自动化......
  • ollama python 新版本支持传递python 函数
    在ollamapythonsdk的最近更新中,支持传递python函数到chat调用中,以下是一个简单示例参考使用app.pyfromollamaimportchatfromollamaimportChatResponsedefadd_two_numbers(a:int,b:int)->int:"""AddtwonumbersArgs:a(int):Thefirst......
  • JS实现 ZIP 压缩包的导入解析
    功能目标在前端实现ZIP压缩包的解析,将文件名通过下拉框展示,并支持查看所选文件的内容。使用技术JSZip:解析ZIP文件的库。FileReader:读取用户上传的文件。HTML和JavaScript:实现交互和动态内容展示。实现步骤1.引入JSZip通过CDN或npm引入JSZip:<scriptsrc=......