首页 > 其他分享 >pytorch中调整学习率的方法

pytorch中调整学习率的方法

时间:2022-12-05 11:36:30浏览次数:43  
标签:间隔 step epoch 学习 pytorch 方法 gamma 调整

1.lr_scheduler.StepLR

class torch.optim.lr_scheduler.StepLR(optimizer, step_size, gamma=0.1, last_epoch=-1)

功能: 等间隔调整学习率,调整倍数为gamma倍,调整间隔为step_size。间隔单位是step。需要注意的是,step通常是指epoch,不要弄成iteration了。

参数:

step_size(int)- 学习率下降间隔数,若为30,则会在30、60、90......个step时,将学习率调整为lr*gamma。

gamma(float)- 学习率调整倍数,默认为0.1倍,即下降10倍。

last_epoch(int)- 上一个epoch数,这个变量用来指示学习率是否需要调整。当last_epoch符合设定的间隔时,就会对学习率进行调整。当为-1时,学习率设置为初始值。

 

这个是在用mmclassification时用到的,其他的详看这个链接:https://zhuanlan.zhihu.com/p/69411064

标签:间隔,step,epoch,学习,pytorch,方法,gamma,调整
From: https://www.cnblogs.com/h694879357/p/16951825.html

相关文章

  • git学习小结
    ​​http://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000​​​不错的教程:git补遗1gitk,输入该命令后,简单的图......
  • 超级菜鸟怎么学习数据分析?
    超级菜鸟如何学习数据分析,如何有效的成长为专业高手。这个问题跟把大象放进冰箱是一个道理。菜鸟成为超级高手是只需要四个步骤,直接上干货。快速上手:可以简单、低门槛的上手......
  • 机器如何快速学习数据采集
    很多人都在思考如何利用机器学习(ML)算法来提高产品或服务的质量。如果你正在考虑采用ML,以正确的格式收集正确的数据,将会降低你的数据清理工作以及数据浪费。要收集所有数据......
  • 31个方法把你的IQ提高到顶峰,你还在等什么?
    引导语:每个人都希望自己聪明过人,你是否很想让自己的IQ高点呢?你是不是在寻找提高IQ的绝顶方法呢?现在告诉你们31个方法,总有一个方法适合你的!只要日常多加注意,你也可以变得更......
  • 设计模式之代理模式学习分享[Darren]
    很高兴又在每晚的这个时候和博友有分享今天的学习成果了,感谢大家一直对Darren的支持,也希望各位博友们能将自己的好文章分享出来,在此Darren只是抛砖,希望大家不要吝啬自己的学......
  • Docker学习系列3:常用命令之容器命令
    本文是Docker学习系列教程中的第三篇。前几篇教程如下: 「图文教程」Windows11下安装DockerDesktop 「填坑」在windows系统下安装DockerDesktop后迁移镜像位置 Dock......
  • win8激活时出现”错误代码:0×8007007B 错误描述:文件名、目录名或卷标语法不正确“解
    今天装了Win8Pro但是在激活的时候提示”错误代码:0×8007007B错误描述:文件名、目录名或卷标语法不正确“,效果图如下:解决方法:安装好后在桌面点击win+X再点A复制以下内容:......
  • C#动态创建和动态使用程序集、类、方法、字段等
    首先我们需要了解每个动态类型在.net中都是用什么类型来表示的。程序集:System.Reflection.Emit.AssemblyBuilder(定义并表示动态程序集)构造函数:System.Reflection.Emit......
  • Web测试方法
     在Web工程过程中,基于Web系统的测试、确认和验收是一项重要而富有挑战性的工作。基于Web的系统测试与传统的软件测试不同,它不但需要检查和验证是否按照设计的要求运行,而且......
  • TS学习笔记
    ###1.类型系统####数字类型声明:lete:number;####字符串类型声明:lete:string;####布尔类型声明:lete:boolean=true;//也可以声明完直接进行赋值,如果......