通俗易懂 | 拉格朗日乘子法 (2)

这两个等式与这个等价,唯一的不同就是\(\lambda\)一个是正数一个是负数:

通俗易懂 | 拉格朗日乘子法

当然,对于\(x^2y-3=0\)这个条件,我们也可以写成\(\frac{\partial F(x,y,\lambda)}{\partial \lambda}\),所以,可以得到这样的一个方程组:

通俗易懂 | 拉格朗日乘子法

KKT条件

KKT的英文全称:Karush-Kuhn-Tucker

之前的拉格朗日的约束条件是等值的,现在可以通过KKT条件推广到不等式。因为限制条件往往是不大于,小于这样的不等式,所以KKT才是拉格朗日化约束问题为非约束问题的关键。

对于不等式问题,就是有两种情况:

可行解在g(x)<0;

可行解在g(x)=0。

可行解在g(x)<0,就表示这个约束条件并没有起到约束效果,有根没有事一个效果(下图中的左图);可行解g(x)=0,就表示这个约束条件起到作用了,这就表示g(x)与f(x)相切,也就是下图中右边的图。

通俗易懂 | 拉格朗日乘子法

【g(x)<0的情况】
这种情况下,就是没有限制条件下的情况,其实就是没有约束条件的限制,也就是\(\lambda=0\)的情况,所以我们的等式就是直接求解:
\(\Delta f(x)=0\)

【g(x)=0的情况】
如果是g(x)=0的情况,那也就是约束条件起到作用了,也就意味着\(\lambda>0\)。在这种情况下,存在着:
\(\Delta f(x) = -\lambda \Delta g(x)\)
并且两个函数的扩张的方向相反,所以表明两个g(x)和f(x)的梯度一个是正数,一个是负数。所以这个表示\(\lambda>0\)

所以综上所述,在这种情况下,我们所有的条件综合起来可以得到,其中\(x^\*\)就是最优解:

\(\lambda >=0\)

\(\lambda g(x^*)=0\)

$ g(x^*) <= 0$

这三个就是KKT条件。

通俗易懂 | 拉格朗日乘子法


通俗易懂 | 拉格朗日乘子法


通俗易懂 | 拉格朗日乘子法

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zgwfjj.html