首页 > 其他分享 >SRTP_Log_20221120

SRTP_Log_20221120

时间:2022-11-20 11:33:34浏览次数:41  
标签:20221120 noise Log SRTP regularization 添加 参数 coef1

Working Content:

1.原来的思路和当前的思路如下:把两个参数的噪声当成另外两个参数,现在神经网络就有了四个输出,由于我们noise一般较小,我们需要使用regularization的方法添加penalty terms来限制它们的大小

 

2.基于以上思路,由于一直noise是哪些个参数,所以可以只对那些个noise参数添加惩罚项。因此我直接没有用pytorch自带的regularization方法,而是在loss function里直接添加了 10 * coefx[0][1] ** 2 + 1e7 * coefx[0][3] ** 2 这一表达式来实现。

Problem:

 1. 如果直接像上述添加惩罚项,coef1的效果还算正常,可以看出noise的量级要比coef1小很多;coef2就不太正常了,noise2和它处于同一量级,并且有时候noise2更大,通过调整正则化系数也改变不了。

 2. 当前只是尝试了用该模型去测试没有noise的情况,实际有noise了还不清楚效果会如何,可能会更差。

标签:20221120,noise,Log,SRTP,regularization,添加,参数,coef1
From: https://www.cnblogs.com/Hexh/p/16908117.html

相关文章

  • zblogphp GetPostList()与GetArticleList()的区别
    GetArticleList()与 GetPostList()获取文章列表的逻辑大差不差,区别在于:GetArticleList()只会查询 log_Type=0的文章,也就是只查询post_type=0的文章,返回的列表全是\P......
  • spdlog日志库源码:formatter类
    目录相关概念formatter类描述formatter系列类类图关系formatter类pattern_formatter类构造与析构compile_pattern_编译patternhandle_padspec_按pad规格处理handle_flag_......
  • zblogphp如何使用模板引擎Template类如何使用
    Template类的构造函数没有任何参数,所有的功能都是通过调用其成员函数实现的。$template=newTemplate();//设置模板标签.zblog内置的模板变量和sidebar都在该函数绑定......
  • zblogphp的Pagebar类如何使用
    当我们为Zblog开发的插件/模板不走系统内置的ViewXX()编辑器时,模板中就没有pagebar对象了。想用系统的Pagebar功能,但是官方文档里没有介绍该怎么使用,就只能查看源码了。......
  • logitech lua apex
    --传奇321912641--第一排第一个732427052--第二排第一个612134111--第三排第一个481541808--第一个和第二个之间横坐标间隔4000--传家宝5480549049--使用......
  • DialFact: A Benchmark for Fact-Checking in Dialogue
    DialFact:ABenchmarkforFact-CheckinginDialogueDialFact:对话场景事实核查作者:PrakharGupta,Chien-ShengWu,WenhaoLiu,CaimingXiong美国卡内基梅隆大学、......
  • Ubuntu上使用Logrotate管理日志文件
    一、前言当我们使用Ubuntu服务器配置一些分析服务时,经常会用到日志去记录一些信息以便追溯分析过程。但是,时间久了之后,日志文件数量和空间会不断膨胀,这个时候我们就需要考......
  • logback的配置和使用
    日志的级别:OFF、FATAL、ERROR、WARN、INFO、DEBUG、TRACE、ALLlogging:level:info#可以配置OFF、FATAL、ERROR、WARN、INFO、DEBUG、TRACE、ALL首先在applic......
  • 2019 Methodology for Efficient CNN Architectures in Profiling Attacks
    一、背景神经网络中有两种超参数优化器参数:关于优化和训练过程的超参数(学习率、批大小、训练轮数、优化器、激活函数、初始权重)模型参数:关于模型结构的超参数(隐藏层单......
  • dialog弹窗里生成二维码 (reading qppendChild)
      在dialog弹窗里生成二维码第一次点击时dialogFormVisible.value=false,二维码生成时会找不到对象可以用nextTick()函数将二维码生成代码放到nextTick()函数里//this......