同心の楕円が目的関数 f の等高線、太い曲線が制約 g=0。最適点では等高線が制約曲線に接し、∇f(黄)と ∇g(青)が平行になります。
$$\nabla f=\lambda\,\nabla g,\qquad g(x,y)=0$$
制約付き最適化の条件。最適点では目的関数 f の勾配 ∇f と制約 g の勾配 ∇g が平行になり、その比例係数がラグランジュ乗数 λ。これと制約 g=0 を連立して解く。
$$\lambda=\frac{d f^\star}{dc}\quad(\text{制約緩和の感度・シャドープライス})$$
乗数 λ は制約定数 c を1単位緩めたときの最適値 f* の変化率。資源を1単位増やすと目的関数がどれだけ改善するかを示す「潜在価格」。
$$f=a x^{2}+b y^{2},\qquad x^\star=\frac{b c}{a+b},\;\; y^\star=\frac{a c}{a+b}\;\;(\text{直線制約})$$
目的関数と、直線制約 x+y=c のときの最適解。f* = abc²/(a+b)、λ = 2abc/(a+b)。最適点で f の等高線が制約曲線に接する。