THv
  • 2024-08-24深度学习基础
    深度学习基础一、临界点及其种类1.鞍点2.局部极小值3.局部极大值临界点特点:当参数对损失微分为零的时候,梯度下降不会再更新参数,训练停止,损失不再下降。二、判断临界值种类的方法判断一个临界点是什么种类需要知道损失函数的形状损失函数\(L(\theta)\)可以近似为\[L(\thet