Working Content:
1.原来的思路和当前的思路如下:把两个参数的噪声当成另外两个参数,现在神经网络就有了四个输出,由于我们noise一般较小,我们需要使用regularization的方法添加penalty terms来限制它们的大小
2.基于以上思路,由于一直noise是哪些个参数,所以可以只对那些个noise参数添加惩罚项。因此我直接没有用pytorch自带的regularization方法,而是在loss function里直接添加了 10 * coefx[0][1] ** 2 + 1e7 * coefx[0][3] ** 2 这一表达式来实现。
Problem:
1. 如果直接像上述添加惩罚项,coef1的效果还算正常,可以看出noise的量级要比coef1小很多;coef2就不太正常了,noise2和它处于同一量级,并且有时候noise2更大,通过调整正则化系数也改变不了。
2. 当前只是尝试了用该模型去测试没有noise的情况,实际有noise了还不清楚效果会如何,可能会更差。
标签:20221120,noise,Log,SRTP,regularization,添加,参数,coef1 From: https://www.cnblogs.com/Hexh/p/16908117.html