首页 > 其他分享 >Ai qwen大模型本地部署

Ai qwen大模型本地部署

时间:2024-06-09 09:21:39浏览次数:25  
标签:https Ai com 模型 qwen 本地 ollama

Ai qwen大模型本地部署

官网地址

ollama官网:https://ollama.com

Github:https://github.com/ollama/ollama

环境配置

Windows操作系统一台【小新2019】

 

windows 下载安装工具

https://ollama.com/download

下载对应操作系统的安装包,下载需要开启魔法,不需要注册登录就能下载,可根据个人需求登录注册。

 

下载工具包完成进行傻瓜式安装即可

 

 

 

验证工具安装成功

 

 

查找模型

需要模型,可以在ollama.com官网搜索查找下载的模型,这边使用阿里开源的通义千问大模型qwen

 

https://ollama.com/library

 

安装模型

https://ollama.com/library?q=qwen

# 搜素模型的参数级 并运行安装
ollama run qwen2:7b

 安装过程

安装过程如下,显示sucess表示成功

 测试验证Ai模型

问几个问题和写个脚本,离线单机都可以,这样一个本地部署的gpt模型就完成了

 

 

系统资源使用

2019年电脑系统使用AI工具时CPU占用较高,不影响使用正常检索但速度稍慢,平均一秒钟出现2个字,基本能满足使用。

 

标签:https,Ai,com,模型,qwen,本地,ollama
From: https://www.cnblogs.com/weiweirui/p/18239251

相关文章

  • 读AI未来进行式笔记07量子计算
    1.      AI审讯技术1.1.        发明者最初的目的是发明一种能够替代精神药物,为人类带来终极快乐的技术1.1.1.          遗憾的是,他找到的只是通往反方向的大门1.2.        通过非侵入式的神经电磁干扰大脑边缘系统,诱发受审者最为恐惧及......
  • 百度站长最新AI旋转验证码识别
     上个月发现百度站长最新出了一个验证码,是AI生成的。内容每次可能都不一样,所以给识别造成了很大困难。传统的比对放松完全失效。一、介绍这个是最近才出的最新验证码,内容主要以工厂、建筑、山峰、机器人、汽车、盆栽植物等为主。如下图所示优点:解决了图片种类有限的问题......
  • Tailor一款〖免费〗视频智能裁剪、视频生成和视频优化的工具
    Tailor一款〖免费〗视频智能裁剪、视频生成和视频优化的工具Tailor是一款视频智能裁剪、视频生成和视频优化的工具。项目地址:https://github.com/FutureUniant/Tailor项目地址:https://gitcode.com/FutureUniant/Tailor/overview百度链接:链接:https://pan.baidu.com......
  • 通过 Docker 启动的 .NET Core 解决方案无法找到本地 Microsoft SQL Server
    我遇到的问题是,当我使用Docker启动.NETCore项目时,无法找到在本地(而不是作为容器)运行的MicrosoftSQLServer。SwaggerUI的响应如下所示。TypeError:NetworkErrorwhenattemptingtofetchresource.这是我的连接。这是我的连接字符串......
  • 精密运算放大器芯片OPA2377AIDGKR中文资料PDF数据手册产品参数产品手册特性
    OPA2377的说明OPA377系列运算放大器是宽带宽CMOS放大器,可提供极低噪声、低输入偏置电流和低失调电压,同时以0.76mA(典型值)的低静态电流运行。OPA377运算放大器针对低电压、单电源应用进行了优化。交流和直流性能的出色组合使其成为各种应用的理想选择,包括小信号调理、音......
  • 想转行做大模型?AI产品经理们,先看看这份指南
    前言作为一个产品经理,你可能已经熟悉了一些常见的AI技术和应用,比如机器学习、深度学习、自然语言处理、计算机视觉等。但是,你是否了解什么是大模型?大模型又有什么特点和优势?为什么大模型会成为AI领域的一个重要趋势?如果你想转行做大模型,你需要具备哪些基本素质和技能?你又该......
  • CF717G Underfail 题解
    题意:若干区间,区间有权值,选择一个子集,使得权值和尽量大并且每个点不被覆盖超过\(x\)次。\(n\le500\)思路:很神奇的一道题。我们考虑费用流,如果单纯的一边是区间一边是点的话其实并不好做,所以这道题我们直接建一排\(n+2\)个点,一个区间\(l,r\)就从\(l\)到\(r+1\)连......
  • WPF master detail view
    <Windowx:Class="WpfApp143.MainWindow"xmlns="http://schemas.microsoft.com/winfx/2006/xaml/presentation"xmlns:x="http://schemas.microsoft.com/winfx/2006/xaml"xmlns:d="http://schemas.microsoft......
  • 【建站教程】Ubuntu结合宝塔面板本地部署Inis博客并发布公网
    ......
  • cypress测试本地web应用
    Cypress是一个流行的前端测试框架,它提供了一套丰富的API来与web应用进行交互,并支持测试运行在浏览器中的任何内容。测试本地web应用是Cypress的强项之一,以下是如何使用Cypress测试本地web应用的一些关键步骤和概念:1.启动本地应用在测试之前,需要确保你的本地web......