首页 > 其他分享 >微调qwen-VL报错ValueError: Unrecognized configuration class<xxx>to build an AutoTokenizer

微调qwen-VL报错ValueError: Unrecognized configuration class<xxx>to build an AutoTokenizer

时间:2024-07-04 19:28:01浏览次数:34  
标签:AutoTokenizer tokenizer 模型 xxx 保存 报错 save

问题

在微调qwen-vl的时候,微调完成之后,模型也保存好了,但是用保存的模型进行推理的时候报错,看样子是找不到分词器tokenizer。

报错信息

ValueError: Unrecognized configuration class <class ‘transformers_modules.configuration_qwen.QWenConfig’> to build an AutoTokenizer.

原因

保存的模型缺少tokenizer的相关文件,导致找不到对应的分词器,所以无法对输入进行token化

解决方法

  • 第一种方法,很简单,我也是这样解决的,就是直接从原模型中将有关tokenizer的文件复制过来到新模型的文件夹下。既然原模型可以训练,说明他的对输入进行token化是可以的
    一般从原模型将一下几个文件复制到自己微调后保存的模型的目录之下就行。
    在这里插入图片描述
  • 第二种方法,在保存模型的时候,也对tokenizer进行保存。可以看看自己的代码中是不是没有对tokemizer进行保存,只保存了模型文件。一般加上就ok,如下所示,一个保存模型,一个保存tokenizer。

model.save_pretrained(“your/save/model/path”)
tokenizer.save_pretrained(“your/save/model/path”)

最后在推理的时候,在获取tokenizer的时候,一定要加上trust_remote_code=True,如下

tokenizer = AutoTokenizer.from_pretrained(“/root/autodl-tmp/self_qwen/”, trust_remote_code=True)

这样的话你新保存的检查点(模型)就包含了tokenizer就可以正常的进行推理了。

标签:AutoTokenizer,tokenizer,模型,xxx,保存,报错,save
From: https://blog.csdn.net/weixin_51074012/article/details/140129705

相关文章

  • CTF常用sql注入(二)报错注入(普通以及双查询)
    0x05报错注入适用于页面无正常回显,但是有报错,那么就可以使用报错注入基础函数floor()向下取整函数返回小于或等于传入参数的最大整数。换句话说,它将数字向下取整到最接近的整数值。示例:floor(3.7)返回3floor(-2.5)返回-3round()四舍五入函数将传入的数字四......
  • 没有使用Redis相关的代码或依赖,但在 `application.yaml` 配置文件中配置了Redis参数,项
    个人名片......
  • bug:node-sass报错
    问题:淘宝的npm镜像源https://registry.npm.taobao.org到期,切换到了新镜像源,npmconfigsetregistryhttps://registry.npmmirror.com但是启动老某些老项目的时候,报了node-sass的问题,原因:通过排查发现,原来是有个.npmrc文件配置了老淘宝源 而且npm包管理器就算已经通过np......
  • H3C华三服务器raid报错数据恢复
    一、确认RAID状态与硬盘状态检查RAID状态:通过服务器的管理界面或命令行工具检查RAID的状态,确认是RAID配置错误、信息丢失还是硬盘故障导致的RAID报错。检查硬盘状态:检查服务器的所有硬盘的状态,包括健康状况、读写性能等,以确定是否有硬盘出现物理故障或逻辑错误。二、尝试恢......
  • Linux执行./configure时报错
    configure:error:noacceptableCcompilerfoundin$PATH上述错误是未安装合适的编译器所导致的报错。sudoyuminstallgcc-c++(使用sudoyuminstallgcc-c++时会自动安装/升级gcc及其他依赖的包。)安装、升级完毕后重新执行以下命令即可!./configuremakemake......
  • quartz调度框架和gbase8s适配过程中的四个报错
    1.报错Causedby:java,sql.SOLExceptionCreatebreakpoint.:发生语法错误。程序与数据库通过jdbc连接时,为了保持连接,会向数据库发送sql语句验证连接有效--如mysql的其他数据库connection-test-query:"select1;"--gbase8s数据库需要修改connection-test-query:"sel......
  • [debug]解决cmake编译报错:can not be used when making a PIE object:recompile with -
    问题描述最近在跟施磊老师的高性能服务器项目,使用make命令后一直报错以下问题解决方法报错一大堆recompilewith-fPIC,多半是链接静态库是出错了。根据网上经验,在CmakeLists文件中加入-no-pie,但是两种方法进行尝试后都没有效果。#第一种方法add_compile_options(-fPIC)#......
  • python更新包、pip延时报错,pip check 查询冲突
    pip下载package或者更新package会出现延迟报错的问题,因为python默认使用的是国外镜像,有时候下载非常慢,我们可以选择进行换源,引用国内的镜像资源进行更新或者下载。阿里云: http://mirrors.aliyun.com/pypi/simple/中国科技大学: https://pypi.mirrors.ustc.edu.cn/simple/......
  • Docker容器运行多个命令,有一个报错就重启容器
    核心是entrypoint.sh脚本中的内容。Dockerfile案例FROMpython:3.9.16WORKDIR/codeADDrequirements.txt/code/requirements.txtRUNpipinstall-ihttps://pypi.tuna.tsinghua.edu.cn/simple/-r/code/requirements.txtRUNspacydownloaden_core_web_trfADD......
  • Spring Cloud Gateway整合Knife4j 4.4.0实现微服务聚合文档(报错解决详细版)
    以前做过的都是单服务应用的文档,就算换到了微服务里做的实际上也是单服务(每个服务模块一个单独的文档,然后手动访问不同的端口去查找不同的模块文档,例如用户是3000端口,订单是3100端口,商品是3200端口)。这样的实现实际上挺蠢的,对前端伙伴很不友好,对自己测试也不友好,因此今天要说的......