• 2024-09-14开源模型应用落地-qwen2-7b-instruct-LoRA微调-unsloth(让微调起飞)-单机单卡-V100(十七)
    一、前言  本篇文章将在v100单卡服务器上,使用unsloth去高效微调QWen2系列模型,通过阅读本文,您将能够更好地掌握这些关键技术,理解其中的关键技术要点,并应用于自己的项目中。  使用unsloth能够使模型的微调速度提高2-5倍。在处理大规模数据或对时间要求较高的场景下
  • 2024-08-23开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100(八)
    一、前言  本篇文章将使用LLaMA-Factory去高效微调(命令和界面方式)QWen2系列模型,通过阅读本文,您将能够更好地掌握这些关键技术,理解其中的关键技术要点,并应用于自己的项目中。二、术语介绍2.1.LoRA微调  LoRA(Low-RankAdaptation)用于微调大型语言模型(LLM)。
  • 2024-08-20【案例50】护网行动导致系统锁单卡死
    问题现象顾问在系统监视器中发现了大量的锁,手动解锁无效果。查询数据库发现大量的锁表SELECTl.session_idsid,s.serial#,l.locked_mode锁模式,l.oracle_username,l.os_user_name,s.machine,s.terminal,o.objec
  • 2024-08-20DMS:直接可微的网络搜索方法,最快仅需单卡10分钟 | ICML 2024
    DifferentiableModelScaling(DMS)以直接、完全可微的方式对宽度和深度进行建模,是一种高效且多功能的模型缩放方法。与先前的NAS方法相比具有三个优点:1)DMS在搜索方面效率高,易于使用。2)DMS实现了高性能,可与SOTANAS方法相媲美。3)DMS是通用的,与各种任务和架构兼容。来源:晓飞的算法
  • 2024-05-24报错 OpenBLAS blas_thread_init: RLIMIT_NPROC 4096 current, -1 max
    跑whisper报错OpenBLASblas_thread_init:RLIMIT_NPROC4096current,-1maxPython创建大量线程时遇上OpenBLASblas_thread_init报错怎么办?https://www.cnblogs.com/shiyanhe/p/13604707.html解决办法:在shell脚本设置参数即可解决。exportOPENBLAS_NUM_THREADS=2