详细介绍这里,清楚的介绍了三种损失函数。我这里重点记录一下他们的异同,方便自己消化理解。
1、对于回归损失函数,通常主要有MSE(均方误差),MAE(平均绝对误差),Huber Loss。其中,Huber Loss(也叫smooth L1 Loss)是为了消除二者的缺点而提出来的。
2、通常MSE Loss也称为L2 Loss;MAE Loss也称为L1 Loss。对于大多数CNN网络,一般是使用L2-loss而不是L1-loss,因为L2-loss的收敛速度要比L1-loss要快得多。
3、
函数名 | 公式 | 函数图像 | 备注 |
MSE |
|
他们的共同点就是计算模型预测值与真实值之间的距离。 MSE:求距离平方的平均值; MAE:求距离的平均值; HuberLoss:看δ值的设定。 |
|
MAE |
|
||
Huber Loss |
|