网站首页
编程语言
数据库
系统相关
其他分享
编程问答
M3E
2024-12-24
FastGPT(知识库)+One-API(统一接口管理)+ChatGLM3(本地大模型)+M3E(向量模型)
本文技术路线为:利用ChatGLM3-6b作为基座大模型,M3E作为向量模型,基于FastGPT建立用户知识库,One-API做统一API接口管理。其中ChatGLM3和M3E模型都是在windows下部署的,FastGPT和One-API是在Linux下部署。在私有化和客制化大模型庞大需求推动下,除了从大模型的全量训练和微调这两个模