• 2024-09-18240908-结合DBGPT与Ollama实现RAG本地知识检索增强
    A.最终效果B.背景说明DBGPT在0.5.6版本中开始支持Ollama:v0.5.6版本更新网友对其Web端及界面端的设置进行了分享:feat(model):supportollamaasanoptionalllm&embeddingproxybyGITHUBear·PullRequest#1475·eosphoros-ai/DB-GPTDB-GPT+Ollama构建本地智能数据平
  • 2024-07-24DB-GPT应用部署测试
    环境要求启动模式CPU*MEMGPU备注代理模型4C*8G代理模型不依赖GPU本地模型8C*32G24G本地启动最好有24G以上GPUconda环境安装默认数据库使用SQLite,因此默认启动模式下,无需安装数据库。如果需要使用其他数据库,可以看后面的高级教程。我们推荐通过conda
  • 2024-07-05大模型Linux本地化[离线]部署(以DB-GPT为例)
    DB-GPT本地化[离线]部署由于Python相关依赖包的获取极度依赖pip,而Miniconda支持环境隔离和环境打包,所以离线部署本质就是比在线部署多一步环境打包,环境搬迁。所以本篇文章一样适用于在线部署,以CentOS7为例。资源获取DB-GPT官方说明文档DB-GPT源码下载地址Nvidia驱动