首页 > 其他分享 >PreTrainedModel 中 from_pretrained 和 load_state_dict 的关联

PreTrainedModel 中 from_pretrained 和 load_state_dict 的关联

时间:2023-11-09 23:44:41浏览次数:33  
标签:load 模型 state dict PreTrainedModel pretrained 加载

from_pretrained

  1. AutoTokenizer.from_pretrained:从path/vocab.json中加载tokenizer

  2. AutoConfig.from_pretrained:从path/config.json中加载模型配置信息

    • 更新模型配置信息:model = Model(config)
  3. PreTrainedModel.from_pretrained:加载模型结构和模型参数

load_checkpoint

从 checkpoint 中加载模型 parameter,而不加载模型结构

标签:load,模型,state,dict,PreTrainedModel,pretrained,加载
From: https://www.cnblogs.com/W-Exert/p/17823149.html

相关文章

  • vue 需要的loader
    vue-loadervue-loader是一个加载器,它能够将.vue文件转换为JavaScript模块。因为.vue文件可以包含template、style和script三种类型的代码,vue-loader需要将它们分别处理。然后将它们组合在一起,生成一个JavaScript模块。在Vue项目中,vue-loader扮演着非常重要的角色,因为.vue文件是V......
  • Load Test Statistics 负载测试统计(负载测试计数器)
    LoadTestStatisticsLoadTestercollectsanextensivemeasurementsduringaloadtest.Thisdataiscollectedinsamples.Eachsamplehasmultiplemeasurementsassociatedwithit.Dependingonthemeasurementtype,somemeasurementsmaynotbaapplicable......
  • 微信小程序hideLoading隐藏showToast提示的问题
     在调用hideLoading与hideToast时配置参数noConflict:true取消混用特性,解决hideLoading隐藏showToast提示的问题。wx.hideLoading({noConflict:true})//也适用于TaroTaro.hideLoading({noConflict:true}) ......
  • python json.loads()字符串转json
    python json.loads()字符串转jsonimportjsonimportrequestsres='''{"code":200,"message":"success","duration":147,"result":{"angle":0,"height":368,"tables":[],&qu......
  • java 获取resources下文件的路径 使用 ClassLoader类 获取路径,使用流的方式读取
    java获取resources下文件的路径使用ClassLoader类,使用流的方式读取Java获取resources下文件的路径在Java开发中,我们经常需要读取resources目录下的文件,例如配置文件、模板文件等。本文将介绍如何获取resources下文件的路径,并提供相应的代码示例。1.resources目录在Java项......
  • Balance Addicts 题解
    BalanceAddicts题目大意给定序列\(a\),求有多少种合法的划分方案。定义一种划分方案是合法的当且仅当划分出的各段序列的和构成回文序列。思路分析一种不太一样的做法。我们先对\(a\)做一遍前缀和,得到\(s\)。观察各段序列的和形式:\[s_{p_1},s_{p_2}-s_{p_1},s_{p_3}......
  • Invalid bound statement (not found)原因
    我犯的错误resources下直接创建的xml,没有创建mapper文件夹,所以导致找不到xml文件修改前修改后然后就解决了网上搜到的几种https://blog.csdn.net/kwppwk/article/details/131832124......
  • LINUX:Error while compiling statement: FAILED: RuntimeException Cannot create sta
    问题截图 可以看到是user=root,权限不够导致 观察发现用的是root用户更改为hadoop用户,也即是可以启动hive的用户 插入成功。 ......
  • vue中使用Loading这个加载工具
    在src/theme文件夹中建立loading.scss文件,内容如下:.loading-next{ width:100%; height:100%;}.loading-next.loading-next-box{ position:absolute; top:50%; left:50%; transform:translate(-50%,-50%);}.loading-next.loading-next-box-warp{ width:80px......
  • 渗透中 PoC、Exp、Payload、RCE、IOC,Shellcode 的区别
    PoC:全称“ProofofConcept”,中文“概念验证”,常指段漏洞证明的代码。Exp:全称“Exploit”,中文“利用”,指利用系统漏洞进行攻击的动作作。Payload:中文“有效载荷”,指成功exploit之后,真正在目标系统执行的代码或指令RCE:RCE(remotecommand/codeexecute)可以让攻击......