首页 > 其他分享 >ollama部署bge-m3,并实现与dify平台对接

ollama部署bge-m3,并实现与dify平台对接

时间:2024-11-29 23:32:00浏览次数:10  
标签:Multi bge dify 部署 模型 m3 Ollama M3 BGE

概述

这几天为了写技术博客,各种组件可谓是装了卸,卸了装,只想复现一些东西,确保你们看到的东西都是可以复现的。
(看在我这么认真的份上,求个关注啊,拜托各位观众老爷了。)

这不,为了实验在windows上docker里运行pytorch,把docker重装了。

dify也得重装:
Dify基础:Dify平台的本地化部署(含windows部署中,常见问题及解决方案)
https://blog.csdn.net/xiezhipu/article/details/143693054

结果发现,这个模型注册这里,有了一些新东西:
在这里插入图片描述
那咱可得好好玩一玩。

可以看到,经过之前的配置ollama的通义千问2.5版本已经成为默认的系统推理模型。

如今我们再把embedding模型给它配置好!

什么是Ollama?

Ollama是一个假设的云服务平台,专注于简化机器学习模型的部署和管理。它提供了从模型训练到生产的完整生命周期管理,支持多种框架和算法,旨在让开发人员能够快速迭代并部署他们的机器学习项目。

BGE-M3简介

BGE-M3(Big General Embedding Model - Multi-lingual, Multi-modal, Multi-task)是一个多语言、多

标签:Multi,bge,dify,部署,模型,m3,Ollama,M3,BGE
From: https://blog.csdn.net/xiezhipu/article/details/144147358

相关文章

  • STM32单片机学习记录(11.29)
    一、STM32    6.4-PWM驱动程序        1.PWM基本结构:运行控制——时基单元——输出比较单元——GPIO。        2.PWM程序编写步骤:        (1)RCC开启时钟,将要用的TIM外设和GPIO外设的时钟打开;      ......
  • STM32G4系列MCU的Direct memory access controller (DMA)功能之一
    目录概述1DMA介绍1.1DMA的描述1.2DMA的主要特性2DMA的应用2.1DMA1和DMA22.2DMA的映射关系3DMA的功能描述3.1架构框图3.2DMA引脚和内部信号3.3DMA传输数据3.4 DMA仲裁 概述本文主要介绍STM32G4MCU的DMA功能,包括功能概述,应用特性,框架结构等内容。1......
  • STM32移植FreeRTOS
    移植FreeRTOS到stm32单片机过程比较简单,以下纯做记录。1,打开已有的项目的STM32CUBMX设置 2,在“Pinout&Configuration”页面中,打开“MiddlewareandSoftwarePacks”中间件选项 3,在中间件选项中,①选中“FREERTOS”,打开FreeRTOS设置;②"Interface"接口选中“CMSIS_V1”;③......
  • 知识库助手的构建之路:ChatGLM3-6B和LangChain的深度应用
    ChatGLM3-6B和LangChain构建知识库助手安装依赖库使用pip命令安装以下库:pipinstallmodelscopelangchain==0.1.7chromadb==0.5.0sentence-transformers==2.7.0unstructured==0.13.7markdown==3.0.0docx2txt==0.8pypdf==4.2.0依赖库简介:ModelScope:一个用于机......
  • 从0开始的STM32开发之旅——TM1637数码管
    目录前言数码管介绍一般数码管的显示原理编写驱动第一步——观察我们的TM1637编写驱动第二步——查看如何发起通信第三步——封装协议层bonus:亮度设置第四步:上升为业务逻辑第五步:构建demo示例前言在知识内容上,他算是软件IIC模拟的一个例子,所以实际上也算是使用GP......
  • STM32 实现流水灯(基于 STM32F103C6T6 + HAL 库)
    一、硬件准备1.STM32F103C6T6A+STLink仿真器2.LED3只3.杜邦线若干(20条以内)4.面包板一块5.立式微动开关2只二、线路连接1.STM32核心板PA4PA5PA6分别接三只LED2.PB5PB6分别接两个开关一端3.保证所有开关、LED负极与核心板共地三、端口配置1.P......
  • 2-STM32F103+ESP8266+EC800K(移远4G Cat1)--整体运行测试-Android和微信扫码绑定EC800
    <p><iframename="ifd"src="https://mnifdv.cn/resource/cnblogs/ZLIOTB/EC800K/my.html"frameborder="0"scrolling="auto"width="100%"height="1500"></iframe></p> 说明(这节使用最新......
  • STM32cubeMX配置FreeRTOS生成代码--完成一个简单测试(Led闪烁和向串口发送“hello!world
    一、STM32cubeMX中相关配置(首先我用的STM32板子是STM32F103VBT6,板子不同,配置会略有不同,仅作参考!)打开STM32cubeMX,新建工程,选择对应板子型号:1.配置微控制器的时钟系统HighSpeedClock(HSE):高速时钟源,这里选择的是“Crystal/CeramicResonator”,意味着使用外部晶体......
  • STM32之串口232通讯
    STM32F407系列文章-RS232通讯(六)文章目录前言一、串口(UART)二、RS23-硬件特性三、RS232-程序实现1.函数rs232_init()2.函数USART_UX_IRQHandler()3.函数rs232_send_data()4.函数rs232_receive_data()5.函数rs232_receive_data()总结前言一般STM32F407芯片都会......
  • STM32——GPIO
    目录一、基础知识      (一)基本特性                        数字和模拟信号                        IO端口基本结构      (二)引脚配置       多路复用——基于stm32f103       引......