首页 > 其他分享 >.NET8 接入qwen2大语言模型

.NET8 接入qwen2大语言模型

时间:2024-08-28 14:52:32浏览次数:12  
标签:github qwen2 模型 接入 https NET8 ollama

前言

dotnet8项目接入qwen大模型,这个主要用到了大模型管理工具叫做 ollama 有了它,接入大模型so easy。使用ollama可以接入很多大模型,详见:https://ollama.com/library

环境

  • vs2022 preview
  • dotent8
  • Windows 10 企业版

1、下载ollama

https://github.com/ollama/ollama

安装完成以后,默认启动,可以看到任务栏有个羊驼

2、运行qwen

打开cmd,运行命令行

# 下载qwen大模型,这里下载0.5b
ollama pull qwen2:0.5b
# 运行qwen大模型
ollama run qwen2:0.5b

成功运行后,就可以在控制台与其对话。

3、项目接入

1. NuGet安装OllamaSharp

https://github.com/awaescher/OllamaSharp

2. 上代码

我是在webapi项目中测试的,这个根据自己需求来吧~ 这个很简单~ 看下github上教程就行。

然后在控制台对话~

4、WebUI

如果自己玩,想要个UI界面,也是有现成的。自己去Github看下启动下就行,很简单。

https://github.com/ollama-webui/ollama-webui-lite

 

标签:github,qwen2,模型,接入,https,NET8,ollama
From: https://www.cnblogs.com/PrintY/p/18384635

相关文章

  • 四博智联ESP32C6接入巴法云远程控制
     16.四博智联ESP32C6接入巴法云远程控制16.四博智联ESP32C6接入巴法云远程控制17.四博智联ESPC6开发板MicroPython评测和功能演示_v217.四博智联ESPC6开发板MicroPython评测和功能演示 开发板:https://item.taobao.com/item.htm?id=779505054090&模组:https://i......
  • PEFT qwen2 lora微调模型训练案例
    参考:https://github.com/huggingface/peft##文档https://huggingface.co/docs/peft/indexhttps://www.wehelpwin.com/article/4299https://www.ethanzhang.xyz/2024/07/09/%E3%80%90%E4%B8%AA%E4%BA%BA%E5%8D%9A%E5%AE%A2%E3%80%91%E4%BD%BF%E7%94%A8huggingface%E5%9C......
  • ASP.NET8 中使用 AutoMapper 配置
    ASP.NET8中使用AutoMapper配置菜鸟新人学习.NET记录,找到了个类似Springboot框架中的Mapstruct的工具,就是配置资料不是很多,踩了蛮多坑的。假设现在有一个USER类,我想将它转换成USERVO把其中的pwd字段給隐藏掉,通过AutoMapper可以不用每个字段赋值创建对象这样子,直接上......
  • ASP.Net8 中使用 JWT 鉴权的异常处理
    .Net8中使用JWT鉴权的异常处理自己搭了个学习Demo想用JWT給后端做鉴权,结果一直报一些奇奇怪怪的异常,最主要是和写业务代码不一样,因为用了官方提供的包很难排查出问题所在,这次有点像以前学Spring的时候,也是一点一点摸着石头过河,最后还是同事帮忙看出来问题在哪的。问题1:I......
  • 四博智联 Esp-32CAM 图像识别接入燃气数据 本地识别及百度数字识别
    接到一个客户需求,利用ESP32+摄像头完成家庭燃气表数据的采集接入,大概流程:一、设备配网:  通过微信小程序BLE连接到ESP32配网,配网完成后,把设备id绑定到相应的账号下。让ChatGPT设计协议及代码如下:设计一个通过微信小程序和BLE(蓝牙低功耗)给ESP32设备配网的协议需要考虑数据......
  • WIFI 传输信道 与 WIFI无线接入过程
    标准号IEEE802.11bIEEE802.11aIEEE802.11gIEEE802.11n标准发布时间1999年9月1999年9月2003年6月2009年9月工作频率范围2.4-2.4835GHz5.150-5.350GHz5.475-5.725GHz5.725-5.850GHz2.4-2.4835GHz2.4-2.4835GHz5.150-5.850GHz非重叠信道数324315物理速率(Mbps)115454600实际吞吐......
  • 使用 UniApp 实现摄像头视频流的接入并在页面上显示视频流
    UniApp是一个使用Vue.js开发所有前端应用的框架,它支持一次开发,多端部署(包括H5、小程序和APP)。下面我将展示如何使用UniApp实现摄像头视频流的接入,并在页面上显示视频流。我还会提供一些使用场景以及代码优化建议。使用场景直播应用:用户可以实时分享自己的画面。在线......
  • 抖音coze接入网站实现智能在线客服
    在coze.cn上创建好机器人并且可以发布为API,方便接入自己的系统一定要先创建新令牌,再点发布,并且必须勾选,发布到API    在客服系统gofly.v1kf.com中配置【菜单】【团队设置】【大模型设置】接口地址部分,请填写扣子的机器人ID接口密钥部分,请填写扣子的API令牌......
  • 在NextChat中接入SiliconCloud API 体验不同的开源先进大语言模型
    NextChat介绍One-Clicktogetawell-designedcross-platformChatGPTwebUI,withGPT3,GPT4&GeminiProsupport.一键免费部署你的跨平台私人ChatGPT应用,支持GPT3,GPT4&GeminiPro模型。主要功能在1分钟内使用Vercel免费一键部署提供体积极小(~5MB)的跨......
  • sentinel-服务接入原理
    通过sentinel前世今生介绍,我们知道了sentinel流控主要是依赖sentinel-core,但是我们生产环境往往需要动态更新流控规则所以需要集成nacos、zookeeper、redis、mysql、等中间存储。配置的复杂性和规则的复杂性我们需要可视化的方式对规则进行管理,我们需要集成dashboard。这些senti......