首页 > 其他分享 >训练属于自己的大模型LM Studio使用记录

训练属于自己的大模型LM Studio使用记录

时间:2023-12-17 19:32:26浏览次数:36  
标签:ai 模型 LM 菜单栏 点击 Studio 聊天 图标

LM Studio 支持本地运营大模型

下载地址: https://lmstudio.ai/


一 搜索下载管理

安装之后打开, 搜索对应大模型, 下载, 举例: baichuan

训练属于自己的大模型LM Studio使用记录_chatgpe

训练属于自己的大模型LM Studio使用记录_大模型_02

点击左侧菜单栏文件夹图标进行管理

训练属于自己的大模型LM Studio使用记录_chatgpe_03


二 聊天

点击左侧菜单栏聊天图标, 新建聊天, 输入框输入内容

训练属于自己的大模型LM Studio使用记录_chatgpe_04

可能对回答的结果并不满意, 我们可以点击结果后面的编辑, 更正结果, 多次训练后, ai就回回复我们想要的答案

训练属于自己的大模型LM Studio使用记录_chatgpe_05


三 API接口

点击菜单栏倒数第二个图标, 进入api页面; 随意设置一个端口号, 启动服务

训练属于自己的大模型LM Studio使用记录_chatgpe_06

打开浏览器查看服务是否启动

训练属于自己的大模型LM Studio使用记录_大模型_07

api使用python调用: https://github.com/openai/openai-python

标签:ai,模型,LM,菜单栏,点击,Studio,聊天,图标
From: https://blog.51cto.com/ding/8862984

相关文章

  • 一句话解决加载模型时的CUDA out of memory
    在加载模型一行后加上max_memory即可,超出显存后会自动移到内存。model=AutoModel.from_pretrained('your_model',trust_remote_code=True,max_memory={0:"6GiB","cpu":"10GiB"})记录一下,备忘。 本文来自博客园,作者:星如雨yu,转载请注明原文链接:https://www.cnblogs.com......
  • 记Linux跑ChatGLM2的坑及低显存解决办法
    记录一下踩过的坑…0.环境配置:全程国内网Ubuntu20.04withPython3.8andCUDA12.2RTX3060Laptop(6G)1.ChatGLM的下载:#clone仓库gitclonehttps://gitclone.com/github.com/THUDM/ChatGLM2-6BcdChatGLM2-6Bpip3install-rrequirements.txt#pip加速自行百......
  • DevEco Studio 项目鸿蒙(HarmonyOS)多语言
    DevEcoStudio项目鸿蒙(HarmonyOS)多语言一、操作环境操作系统: Windows10专业版IDE:DevEcoStudio3.1SDK:HarmonyOS3.1编辑 二、多语言 新版本IDE可以创建多语言的文件夹,在entry->src->main->resources下,修改en_US和zh_CN文件夹下element的string.json文件即可。下图是文件......
  • 使用LM Studio在本地运行LLM完整教程
    GPT-4被普遍认为是最好的生成式AI聊天机器人,但开源模型一直在变得越来越好,并且通过微调在某些特定领域是可以超过GPT4的。在开源类别中出于以下的原因,你可能会考虑过在本地计算机上本地运行LLM:脱机:不需要互联网连接。模型访问:在本地运行模型,可以尝试开源模型(Llama2、Vicun......
  • helm部署Kafka集群
    1.准备文件1.1.创建命令空间kubectlcreatenskafka1.1.helm包拉取本地#添加bitnami仓库helmrepoaddbitnamihttps://charts.bitnami.com/bitnami#查询charthelmsearchrepobitnami#拉取zookeeperhelmpullbitnami/zookeeper#解压tarzxvfzookeeper-12.0.......
  • XS PLCopen 标准控制器 XS Studio 指令
     1.基础指令  1-1.位逻辑指令 1-1-1.基本位逻辑指令指令名称      功能介绍AND          运算符“与” OR          运算符“或”NOT          运算符“非”XOR      ......
  • deep - glu:卷积神经网络和Bi-LSTM模型的结合,使用ProtBert和手工特征来识别l
    Deepro-Glu:combinationofconvolutionalneuralnetworkandBi-LSTMmodelsusingProtBertandhandcraftedfeaturestoidentifyl会议时间:2022-10-30会议地点:腾讯会议关键词:lysineglutaryation,BERT,deeplearning,proteinlanguagemodels作者:XiaoWang期刊:Bioinform......
  • 5G网络模型及5GAKA认证协议简述
    5G网络模型及5GAKA认证协议简述5G网络的架构由多个关键组件组成,以满足不同的通信需求。核心网络和边缘网络的结合形成了一种灵活、高度可配置的结构。核心组件包括用户设备(UE)、无线接入网络(RAN)、核心网络(CN)和服务管理及应用(SMF/AMF)等。核心网又包括服务域核心网和归属域核心网。用......
  • 237-CSS Flexbox模型布局的简单使用
    .div1{display:flex;flex-wrap:wrap;}.div1-1,.div1-2,.div1-3{flex:1;}.div1-4{flex:00100%;}/*可选:为更好的可视效果添加一些样式*/.div1>div{border:1pxsolid#ccc;padding:10px;margin:5px;}.div1-4input[type="text&quo......
  • AndroidStudio设置密码可见不可见
    这里我们写一个在登录demo中常见的功能,当点击眼睛图片时,使密码可见或不可见,即形成一种保护,也防止了我们输入错误密码情况的出现,是很友好的一个功能。两张图片:睁眼:闭眼:大家记得复制粘贴到drawable.xml文件中。注意一下命名规则,推荐:see.png和nosee.png。然后,我们去写一下布局的代码:<L......