首页 > 其他分享 >拉格朗日乘子/拉格朗日乘数(Lagrange multiplier)

拉格朗日乘子/拉格朗日乘数(Lagrange multiplier)

时间:2023-11-07 11:33:45浏览次数:34  
标签:拉格朗 E6% Tucker multiplier x2 乘子 x1 极值

基本的拉格朗日乘子法(又称为拉格朗日乘数法),就是求函数f(x1,x2,...)在g(x1,x2,...)=0的约束条件下的极值的方法。其主要思想是引入一个新的参数λ(即拉格朗日乘子),将约束条件函数与原函数联系到一起,使能配成与变量数量相等的等式方程,从而求出得到原函数极值的各个变量的解。

 

具体方法:

假设需要求极值的目标函数 (objective function) 为 f(x,y),限制条件为 φ(x,y)=M

设g(x,y)=M-φ(x,y)

定义一个新函数

F(x,y,λ)=f(x,y)+λg(x,y)

则用偏导数方法列出方程:

∂F/∂x=0

∂F/∂y=0

∂F/∂λ=0

求出x,y,λ的值,代入即可得到目标函数的极值.

 

扩展为多个变量的式子为:

F(x1,x2,...λ)=f(x1,x2,...)+λg(x1,x2...)

则求极值点的方程为:

∂F/∂xi=0 (xi即为x1、x2……等自变量)

∂F/∂λ=g(x1,x2...)=0

 

以上内容在《数学手册》当中有。另外,可以将这种把约束条件乘以λ(即不定乘子)后加到待求函数上的求极值方法推广到变分极值问题及其它极值问题当中,理论力学当中对非完整约束的处理方法就是利用变分法当中的拉格朗日乘子法。

 

拉格朗日乘子法的用途:

从经济学的角度来看,λ代表当约束条件变动时,目标函数极值的变化。因为∂F/∂M=λ,当M增加或减少一个单位值时,F会相应变化λ。

例如,假设目标函数代表一个工厂生产产品的数量,约束条件限制了生产中投入的原料和人力的总成本,我们求目标函数的极值,就是要求在成本一定的条件下,如何分配利用人力和原料,从而使得生产量达到最大。此时λ便代表,当成本条件改变时,工厂可达到的生产量最大值的变化率。

 

---------------------------------------------------

       在数学最优化问题中,拉格朗日乘数法(以数学家约瑟夫·路易斯·拉格朗日命名)是一种寻找变量受一个或多个条件所限制的多元函数的极值的方法。这种方法将一个有n 个变量与k 个约束条件的最优化问题转换为一个有n + k个变量的方程组的极值问题,其变量不受任何约束。这种方法引入了一种新的标量未知数,即拉格朗日乘数:约束方程的梯度(gradient)的线性组合里每个矢量的系数。

 

很简单的例子

求此方程的最大值:

f(x,y) = x2y

同时未知数满足

x2 + y2 = 1

因为只有一个未知数的限制条件,我们只需要用一个乘数λ.

g(x,y) = x2 + y2 − 1

Φ(x,y,λ) = f(x,y) + λg(x,y) = x2y + λ(x2 + y2 − 1)

将所有Φ方程的偏微分设为零,得到一个方程组,最大值是以下方程组的解中的一个:

2xy + 2λxx2 + 2λyx2 + y2 − 1 = 0

---------------------------------------------------

在数学中,卡罗需-库恩-塔克条件(英文原名: Karush-Kuhn-Tucker Conditions常见别名: Kuhn-Tucker,KKT条件,Karush-Kuhn-Tucker最优化条件, Karush-Kuhn-Tucker条件,Kuhn-Tucker最优化条件,Kuhn-Tucker条件)是在满足一些有规则的条件下,一个非线性规划(Nonlinear Programming)问题能有最优化解法的一个必要和充分条件。这是一个广义化拉格朗日乘数的成果。

 

http://baike.baidu.com/view/2415642.htm

http://zh.wikipedia.org/wiki/%E6%8B%89%E6%A0%BC%E6%9C%97%E6%97%A5%E4%B9%98%E6%95%B0

http://zh.wikipedia.org/wiki/%E5%8D%A1%E7%BE%85%E9%9C%80%EF%BC%8D%E5%BA%AB%E6%81%A9%EF%BC%8D%E5%A1%94%E5%85%8B%E6%A2%9D%E4%BB%B6



标签:拉格朗,E6%,Tucker,multiplier,x2,乘子,x1,极值
From: https://blog.51cto.com/emanlee/8228785

相关文章

  • 拉格朗日插值法
    今天\(T2\)用到了,于是来学一学。拉格朗日插值法洛谷模板求值是指给定一个函数式,根据一个自变量求出因变量。而插值是给出一些自变量及其对应的因变量,求出符合的函数式。一种方法是将所有的值代入,然后解方程,显然极其不方便,这时,一位名为约瑟夫·路易斯·拉格朗日的人站了出来......
  • 拉格朗日插值
    拉格朗日插值普通拉格朗日插值众所周知,\(n+1\)个横坐标互不相同的点可以确定出唯一的最高次为\(n\)的多项式。当给定你\(n\)个点并要求你求出横坐标为\(x\)的点的纵坐标,高斯消元虽是个选择,但是\(O(n^3)\)的时间复杂度显然不优。于是我们选择用\(O(n^2)\)的拉格朗日......
  • 拉格朗日插值
    拉格朗日插值:给定\(n+1\)个点值\((x_i,y_i)\),对应唯一一个\(n\)次多项式,带入\(f(k)=\sum\limits_{i=1}^{n+1}y_i\prod\limits_{j\neqi}\frac{k-x_j}{x_i-x_j}\)。基本思想就是,构建\(n+1\)个多项式使得\(x=x_i\)时为1,\(x=x_j(j\neqi)\)时为0。当你取的点值连续......
  • 《拉格朗日插值》小记
    随便学学,主要是又被卡科技了。参考文章:\(Alex\_Wei\)的拉格朗日插值与多项式乘法\(Alex\_Wei\)的多项式I:拉格朗日插值与快速傅里叶变换\(yyc\)的从拉插到快速插值求值算法介绍公式口糊主要用来对于一个给定的\(n\)次多项式,用\(n+1\)个点值在\(O(n^2)\)的时间复......
  • 拉格朗日插值 学习笔记
    拉格朗日插值学习笔记前言模拟赛考了,我不会,故学之。真的好抽象……背景众所周知,用\(n\)个点可以确定一个\(n-1\)次的多项式,那么应该如何确定呢?我们不妨考虑这样一个题目(其实就是洛谷模板题):给定\(n\)个点\((x,y)\),要求确定\(f(x)\)。当然,直接求出系数可能比较困难,......
  • 跟着GPT学习拉格朗日对偶性
      再来一个例子:  拉格朗日对偶性如何通俗理解呢?有没有实际例子可以说明下? 拉格朗日对偶性是优化理论中的一个重要概念,尤其在机器学习和运筹学中经常遇到。在对偶性中,我们从一个优化问题(称为原问题)中衍生出另一个相关的优化问题(称为对偶问题)。这两个问题之......
  • 【小记】拉格朗日插值
    拉格朗日插值是知道\(n\)次多项式在\(n+1\)个点的点值,快速求出\(f(x')\)的算法结论拉格朗日插值本质上就是该式子,首先我们知道的点值为当\(x=x_i\)时\(f(x)=y_i\)\[f(x)=\sum_{i=0}^{n}y_i\prod_{j\nei}\frac{x-x_j}{x_i-x_j}\]推导首先假设我们考虑第\(i\)个点值。那么我......
  • 考研线代:拉格朗日配方法怎么用?一篇文章就搞明白!
    考研线代:拉格朗日配方法怎么用?一篇文章就搞明白:https://zhaokaifeng.com/16687/......
  • 拉格朗日和kkt公式的应用示例 无论求解最大还是最小值,u都是>=0哈!最大是+ 最小是- 至少
    KKT这个公式一直觉得理解和使用起来很蛋疼,我又从国外站点找了一个例子帮助理解,见最后!https://o-o-sudo.github.io/numerical-methods/-kkt-lagrange-multiplier-to-kkt-condition.html 注意:拉格朗日里的lambda并没有要求>=0,kkt的u才有要求。           注意,国外这个......
  • 《也谈拉格朗日的分析物理》 回复
    《也谈拉格朗日的分析物理》       https://tieba.baidu.com/p/8516261226     我在  《@物空必能(@tigeduy)的大发现(5)》     https://tieba.baidu.com/p/8174088811    17楼 提到  “5剖析,牛顿力学F=ma建立常微分方程,为......