首页 > 其他分享 >探索魔乐社区:GLM-4V-9B模型微调之旅

探索魔乐社区:GLM-4V-9B模型微调之旅

时间:2024-09-05 14:16:55浏览次数:12  
标签:微调 GLM 4V 模型 9B 魔乐

人工智能的浪潮中,魔乐社区以其丰富的资源和开放的环境,逐渐成为了开发者们的新宠。今天,让我们一起走进魔乐社区,通过GLM-4V-9B模型微调的最佳实践,体验这个平台的独特魅力。

多模态的新星:GLM-4V-9B

GLM-4V-9B是智谱AI推出的最新一代预训练模型GLM-4系列中的开源多模态版本。。它不仅具备高分辨率(1120*1120)下的中英双语多轮对话能力,更在中英文综合能力、感知推理、文字识别、图表理解等多方面多模态评测中,展现出超越GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max和Claude 3 Opus的卓越性能。在魔乐社区,你可以近距离感受这一技术革新。

环境准备:一键安装,轻松上手

魔乐社区为开发者提供了详尽的安装教程,无论是Ascend CANN Toolkit和Kernels,还是openMind Library和openMind Hub Client,都可以通过简单的命令一键安装。这样的便捷性,让开发者可以迅速进入开发状态,无需在环境配置上耗费过多时间。如下图所示:

模型下载:一键获取,即刻开始

通过魔乐社区,您可以轻松下载GLM-4V-9B模型。利用Git和git-lfs,您可以一键克隆模型的代码库,快速开始您的项目。这种高效的获取方式,让模型的学习和应用变得更加直接和简单。

模型推理:开启智能对话

利用openMind Library,您可以轻松进行模型推理。无论是图片中的内容识别,还是基于图片的智能对话,GLM-4V-9B都能提供准确而快速的反馈。这种直观的体验,让开发者能够立即看到自己工作的效果。

示例图片:

 

新建 glm-4v-9b-chat.py 推理脚本:


推理结果:

模型微调:定制你的AI助手

魔乐社区提供的微调指南,让您能够根据自己的需求定制AI模型。从准备数据集到执行微调,每一步都有详细的指导,让您的模型更加贴合实际应用场景。

 

微调可视化:直观展示训练过程

训练Loss的可视化功能,让您可以直观地看到模型训练的过程和效果。这种直观的反馈,让开发者能够及时调整训练策略,也增加了开发过程的趣味性。

微调后推理:见证模型的成长

经过微调后的模型,将更加精准地理解您的指令。无论是图片中的细节识别,还是复杂场景的对话生成,微调后的GLM-4V-9B,它的展现让人惊喜。过程如下:

 

推理结果:

结语

根据详细的指引,整个体验是非常流畅的。如果您也对模型开发感兴趣,欢迎加入魔乐社区(https://modelers.cn),探索更多的技术和项目。

相关链接:GLM-4V-9B PyTorch模型微调最佳实践 

标签:微调,GLM,4V,模型,9B,魔乐
From: https://www.cnblogs.com/developer-tianyiyun/p/18398330

相关文章

  • 【大模型】使用 Xinference 部署本地模型,从GPU服务器到本地知识库搭建Dify【LLM大语言
    基本介绍基础信息GPU服务器获取基础安装基础信息安装显卡驱动配置显卡检查下载禁用nouveau系统自带驱动显卡驱动安装安装nvidia-docker下载配置验证Xinference部署docker部署官方文档模型下载glm-4-9b-chatEmbedding(向量)模型Rerank模型模型部署Embedding(向量)模型......
  • SCHNEIDER TSXTIOAS170BDI35600 24VDC IN模块的优缺点
        SCHNEIDERTSXTIOAS170BDI3560024VDCIN模块作为工业自动化控制系统中的关键组件,具有多个显著的优点,这些优点使得它在各种工业应用场合中脱颖而出。以下是对该模块优点的详细阐述:高精度与稳定性:该模块能够高精度地接收和转换24V直流电压信号,确保信号的准确性。同......
  • H6922 低压升压恒压芯片 支持3.7V-5V-9V升12V24V30V48V54V60V72V100V 200W大功率
    H6922低压升压恒压芯片:高效能、多功能,应用于多种电源管理在当今的电子设备中,电源管理芯片扮演着至关重要的角色。其中,H6922作为一款好的低压升压恒压芯片,凭借其高效能、多功能以及应用领域,受到了市场的关注。产品概述H6922是一款外围电路简单的BOOST异步升压恒压控制驱动芯片,适用于......
  • ChatGLM3-6b for mac 本地安装记
    本地macm1max电脑由于对大模型非常感兴趣所以想mac本地能否安装呢?答案当然是可以的了。废话不多说上干货。安装anaconda用于创建虚拟环境m芯片的要安装arm版 不然后面会有问题导致安装进行不下去。这里m1芯片的切记!!这里我推荐去清华的镜像站下载注意红色箭头是我......
  • 惠海H6900B 12V升压24V 60V 5V升压12V芯片 DC-DC LED恒流驱动IC 300W大功率
    H6900B是一款高效率、稳定可靠的升压型LED恒流驱动芯片,适用于多个高亮度LED灯串的恒流驱动。以下是关于该产品的详细解析:产品特征:内置耐压60V功率NMOS,可直接处理60V电压,无需额外升压电路。输入电压范围2.7V-48V,兼容多种电源类型。效率高达95%以上,降低能耗,延长电池寿命。工作频率1MH......
  • 【Intel Hackathon大赛】基于OpenVINO™ Model Optimizer + ChatGLM-6B + P-Tuning的A
    随着人工智能技术的飞速发展,自然语言处理(NLP)领域迎来了前所未有的变革,而大语言模型(LargeLanguageModel,LLM)作为这一变革的核心驱动力,正逐步成为连接人类语言与机器智能的桥梁。LLM通过海量文本数据的学习,掌握了丰富的语言知识、上下文理解能力以及生成高质量文本的能力,为智能教......
  • 世微 AP9195 7-24V 大功率升压恒流驱动芯片 LED照明与控制器方案
    概述AP9195是一款高效率、高精度的升压型大功率LED灯恒流驱动控制芯片。AP9195内置高精度误差放大器,固定关断时间控制电路,恒流驱动电路等,特别适合大功率、多个高亮度LED灯串的恒流驱动。AP9195通过调节外置的电流采样电阻,能控制高亮度LED灯的驱动电流,使LED灯亮......
  • 清华大学ChatGLM大模型
    ChatGLM大模型ChatGLM-6B是一个开源的、支持中英双语的对话语言模型,基于GeneralLanguageModel(GLM)架构,具有62亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4量化级别下最低只需6GB显存)。ChatGLM-6B使用了和ChatGPT相似的技术,针对中文问答和......
  • 零成本、无编程,GLM-4-Flash免费API发布,算法工程师嗨翻了!!!
    作为一名资深NLP算法工程师,大模型在日常工作中扮演了非常重要的角色,辅助处理很多工作。但是,大模型的使用非常麻烦:主流大模型通过网页对话方式交互,手工输入Promt,通过对话的方式获取结果,长度有限且非常不方便。资源有限,市面上很少大模型API资源可供使用,并且都是收费的。今......
  • GLM-4-Flash 大模型API免费了,手把手构建“儿童绘本”应用实战(附源码)
    老牛同学刚刷到了一条劲爆的消息,GLM-4-Flash大模型推理API免费了:https://bigmodel.cn/pricing老牛同学一直觉得上次阿里云百炼平台为期1个月免费额度的“羊毛”已经够大了(太卷了,阿里云免费1个月大模型算力额度,玩转Llama3.1/Qwen2等训练推理),但经过老牛同学在智谱AI官网......