多元函数泰勒展开与黑塞矩阵

文章目录

• ​​1. 引入：函数展开​​
• ​​2. 泰勒展开​​

• ​​2.1 一元函数泰勒展开​​
• ​​2.2 二元函数泰勒展开​​
• ​​2.3 n元函数泰勒展开​​

• ​​3. 黑塞矩阵（海森矩阵）​​

1. 引入：函数展开

• 设函数 在点 处可导，则在点 的某邻域内，可以用下式表示原函数值
  
  对于这种一元函数，示意图如下
• 上面这个式子，可以看作在点 处对 ，使用线性主部 和与展开点 的偏差
• 函数展开的应用非常广泛，这种方法可以把复杂的原始目标函数近似转换为多项式函数，从而简化问题。使用泰勒展开，只要原函数任意阶可导，就可以将其展开为任意阶的多项式函数，得到更高精度的表示

2. 泰勒展开

2.1 一元函数泰勒展开

• 使用泰勒展开，可以把在 处 阶可导的函数 展开为关于 的 次多项式，如下
  
• 当 有上界时，需要在展开式最后添加 的 次方的高阶无穷小 ，保证等号成立。可见，随着展开阶数提高，展开式精度也在不断提高

2.2 二元函数泰勒展开

• 记 ，设二元函数 在 处可导，可以如下展开：
  
  通常写成矩阵形式
  
• 以上展开到2阶，所以至少要求2阶可导，若二阶导数连续（原函数为光滑曲线），则有 ，可进一步化简

2.3 n元函数泰勒展开

• 记 ，设 ， 元函数 在 处可导，可以如下展开：
  
  通常写成矩阵形式
  
  其中 就是 的梯度，化简符号如下：
  
• 以上展开到2阶，所以至少要求2阶可导，若二阶导数连续（原函数为光滑曲线），则有 ，可进一步化简。上式中

3. 黑塞矩阵（海森矩阵）

• 黑塞矩阵是由某个多元函数的二阶偏导数构成的方阵，描述了函数的局部曲率

黑塞矩阵常用于牛顿法解决优化问题，利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中，所列的目标函数往往很复杂，为了使问题简化，常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数，此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵

• 在 2.3 节设定下，黑塞矩阵为
• ​​对称性​​：要求 （二阶偏导数连续，原函数光滑），则原函数的混合偏导数相等，黑塞矩阵成为对称矩阵
• 可以使用黑塞矩阵判断多元函数极值，这个以后的文章再详细分析