我想问是否有人可以向我简要解释一下诸如Scipy（
https://github.com/scipy/scipy/
）之类的python包如何处理约束$h_j(x)=0$。代码背后的数学原理是什么？在我看来，我不能在这个论坛上使用 Latex，所以我想在所附图片中发布我的问题。感谢您的时间！
SciPy 使用称为序列最小二乘规划 (SLSQP) 的方法来处理“
minimize
”函数中的等式约束。SLSQP 是一种迭代算法，它在满足约束的同时找到目标函数的局部最小值。
以下是 SLSQP 工作原理的概要：
-
问题公式化： SLSQP 算法旨在解决以下形式的约束优化问题：
最小化 f(x) 受限于： g_i(x) <= 0, i = 1, ..., m h_j(x) = 0, j = 1, ..., n其中f(x)是要最小化的目标函数，g_i(x)是不等式约束，h_j(x)是等式约束。 -
转换为无约束问题： SLSQP 通过引入拉格朗日函数将约束优化问题转换为一系列无约束子问题：
L(x, λ, μ) = f(x) + sum(λ_i * g_i(x)) + sum(μ_j * h_j(x))其中λ和μ是与不等式和等式约束相关的拉格朗日乘数。 -
求解子问题： 在每次迭代中，SLSQP 使用二次规划 (QP) 子问题来找到拉格朗日函数的最小值，该子问题使用目标函数的二阶泰勒展开式和约束的线性化来逼近期望值的搜索方向。
-
更新乘数： 拉格朗日乘数 (
λ和μ) 根据约束违反情况进行更新。 -
检查收敛性： 该算法检查是否满足收敛标准，例如目标函数变化很小或约束违反情况在容差范围内。如果满足收敛标准，则算法终止；否则，它将返回到步骤 3。
等式约束的处理：
SLSQP 通过将等式约束作为 QP 子问题中的硬约束来处理等式约束。这意味着该算法将始终搜索满足所有等式约束（即
h_j(x) = 0
）的解决方案。这可以通过多种方法来实现，例如基于消除的方法或基于活动集的方法。
总而言之，SciPy 中的“
minimize
”函数通过使用 SLSQP 算法来处理等式约束，该算法迭代地求解 QP 子问题并在满足等式约束的同时更新拉格朗日乘数以找到局部最小值。