关于最大似然估计的定义我已经分享过啦，小伙伴们可以通过下面的链接看看 什么是最大似然估计？1.求解步骤        今天我们来说一下它的求解步骤（这里的求解过程是以离散型随机变量为例，连续型随机变量同理）。在上文中我们知道，离散型随机变量的似然函数为

一、鞍点的定义一个不是局部最小值的驻点（一阶导数为0的点）称为鞍点。数学含义是：目标函数在此点上的梯度（一阶导数）值为0，但从改点出发的一个方向是函数的极大值点，而在另一个方向是函数的极小值点。二、判断鞍点的充分条件那么对于一个驻点如何判断它是否为鞍点呢？这里给出它的

函数的单调性定理1设函数\(y=f(x)\)在\([a,b]\)上连续，在\((a,b)\)处可导。如果在\((a,b)\)内\(f'(x)\ge0\)，且等号仅在有限多个点处成立，那么函数\(y=f(x)\)在\([a,b]\)上单调增加。如果在\((a,b)\)内\(f'(x)\le0\)，且等号仅在有限多个点处成立，那么函数\(y

一，无条件极值1.极值/极值点的定义：f(x,y)在某点的某邻域内值最大/最小，则称f(x,y)在这点取得极大值/极小值（极值指的是函数值），这一点(x0,y0)称为极值点。极大值/极小值统称为极值。2.多元函数取极值的必要条件：多元函数取得极值=>该点处偏导数若存在则必为0驻点的概念：偏导数等于零

驻点与极值点（一元）链接多元极值点f(\(x_0\),\(y_0\))>f(x,y)就为极大值，小于为极小值多元驻点也不一定是极值点xy极值点也不一定是驻点|x|+|y|在（0，0）点因为|x|+|y|

零点（非点）使得函数值为零的x的值，如\((x-1)^2\)中零点为x=1驻点（不是点为x值）什么是驻点一阶导数为零的点，描述的是函数图像的平稳性\(f'(x)=0\);拐点（点）定义

1.优化失败的原因​图1训练参数的常见情况​在上一节中，讨论了如何通过梯度下降方法训练深度学习模型。随着参数训练更新次数的增加，可能会遇到两种常见的失败情况：第一种，损失

1.洛必达法则2.函数的单调性3.函数的凹凸性和拐点4.极值及其求法5.极值与驻点的关系6.函数的最值