首页 > 其他分享 >牛逼!本地直接部署开源、离线、免费商用的大模型知识库!快速搭建个人和企业私有智能知识库!

牛逼!本地直接部署开源、离线、免费商用的大模型知识库!快速搭建个人和企业私有智能知识库!

时间:2024-03-24 13:29:25浏览次数:26  
标签:git requirements python 知识库 离线 Langchain 开源 install txt

快速上手

1. 环境配置

  • 首先,确保你的机器安装了 Python 3.8 - 3.11 (我们强烈推荐使用 Python3.11)。
$ python --version
Python 3.11.7

接着,创建一个虚拟环境,并在虚拟环境内安装项目的依赖

# 拉取仓库
$ git clone https://github.com/chatchat-space/Langchain-Chatchat.git

# 进入目录
$ cd Langchain-Chatchat

# 安装全部依赖
$ pip install -r requirements.txt 
$ pip install -r requirements_api.txt
$ pip install -r requirements_webui.txt  

# 默认依赖包括基本运行环境(FAISS向量库)。如果要使用 milvus/pg_vector 等向量库,请将 requirements.txt 中相应依赖取消注释再安装。

请注意,LangChain-Chatchat 0.2.x 系列是针对 Langchain 0.0.x 系列版本的,如果你使用的是 Langchain 0.1.x 系列版本,需要降级您的Langchain版本。

2, 模型下载

如需在本地或离线环境下运行本项目,需要首先将项目所需的模型下载至本地,通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。

以本项目中默认使用的 LLM 模型 THUDM/ChatGLM3-6B 与 Embedding 模型 BAAI/bge-large-zh 为例:

下载模型需要先安装 Git LFS ,然后运行

$ git lfs install
$ git clone https://huggingface.co/THUDM/chatglm3-6b
$ git clone https://huggingface.co/BAAI/bge-large-zh

3. 初始化知识库和配置文件

按照下列方式初始化自己的知识库和简单的复制配置文件

$ python copy_config_example.py
$ python init_database.py --recreate-vs

4. 一键启动

按照以下命令启动项目

$ python startup.py -a

5. 启动界面示例

如果正常启动,你将能看到以下界面

标签:git,requirements,python,知识库,离线,Langchain,开源,install,txt
From: https://blog.csdn.net/wangwenzhe222/article/details/136986220

相关文章

  • 替代 Evernote!离线优先、数据安全的个人笔记 | 开源日报 No.205
    laurent22/joplinStars:40.4kLicense:NOASSERTIONjoplin是一个安全的笔记和待办事项应用程序,具有Windows、macOS、Linux、Android和iOS的同步功能。可以处理大量笔记,可以组织成笔记本笔记可搜索,并且支持标签和Markdown格式支持从Evernote导入格式化内容和......
  • 最快的 Python API 框架之一:简单、现代、高性能 | 开源日报 No.207
    tiangolo/fastapiStars:68.1kLicense:MITfastapi是一个现代、高性能、易学习、快速编码且适用于生产环境的框架。其主要功能和核心优势包括:高性能:与NodeJS和Go相当,是最快的Python框架之一。编码速度快:开发特性的速度提高约200%到300%。减少错误:减少大约......
  • AntSK 0.2.3 版本更新:轻松集成 AI 本地离线模型
        大家好,今天和大家分享 AntSK知识库/智能体项目的最新进展。       AntSK是一个基于 .Net8、Blazor 及 SemanticKernel 开发的AI项目,旨在为开发者提供一个强大的AI知识库与智能体平台。最新版本的项目可以在GitHub上找到:https://github.com/A......
  • 开源软件贡献动机问卷调研
    我们是来自南京大学商学院的学生,正在进行对数字公共产品供给侧激励机制的研究。为更好地了解开源平台贡献者的动机与见解,我们设计了此份问卷。您们的回答将对我们分析开源社区的运作机制和激励模型提供重要参考。特别感谢大家能在百忙之中填写我们的问卷,此问卷以选择为主,不会耽......
  • Maven发布开源框架到远程仓库
    1.背景当你写了一个自我感觉良好的开源工具希望给他人分享,如果只是在github等网站进行公布之外,用户使用起来还不是很方便,特别是当你提供是特定领域的基础工具。你还可以把它部署到中央仓库,这样别人使用就会方便很多。接下来,我们就来看看如何使用maven发布自己依赖到中央仓库吧......
  • 开源的数据可视化平台 Kibana 日志可视化 mac 安装笔记
    拓展阅读日志开源组件(一)java注解结合springaop实现自动输出日志日志开源组件(二)java注解结合springaop实现日志traceId唯一标识日志开源组件(三)java注解结合springaop自动输出日志新增拦截器与过滤器日志开源组件(四)如何动态修改springaop切面信息?让自动日志输出......
  • 一款简单易学能快速上手的php开源代码,从创建一个网站开始学习
    简单易学能快速上手的php开源代码从建站源码开始学习PHP建站,php语法、逻辑、判断、调用数据等操作类型)此开源代码选择了比较成熟的ThinkPHP框架开发并遵循Apache2开源许可协议发布,拥有快速、简单的面向对象的轻量级PHP开发框架,秉承简洁实用的设计原则,在保持出色的性能和......
  • .NET开源、免费、强大的交互式绘图库
    前言今天大姚给大家分享一款.NET开源(采用MIT许可证)、免费、强大的交互式绘图库,该库能够轻松地实现大型数据集的交互式显示。使用几行代码即可快速创建折线图、柱状图、饼图、散点图等不同类型的图表:ScottPlot。ScottPlot类库支持平台和框架ConsoleApplication、WinForms、WPF......
  • Mall4j开源商城系统-基于SpringBoot+Vue系统开发介绍
     今天来介绍一款非常不错的Mall4j开源商城系统Mall4j开源商城,一个基于springboot、springoauth2.0、mybatis、redis的轻量级、前后端分离、防范xss攻击、拥有分布式锁,为生产环境多实例完全准备,数据库为b2b2c设计,拥有完整sku和下单流程的开源商城。目录 今天来介绍一......
  • 开源计算机视觉库OpenCV详解
    OpenCV(OpenSourceComputerVisionLibrary)是一个开源的计算机视觉和机器学习软件库。OpenCV最初由Intel开发,后来支持由WillowGarage和Itseez(被Intel收购)进行的维护和更新。这个库旨在为实时的计算机视觉应用提供一个高效的、易于使用的环境,并且是用C++编写的,尽管它提供了......