LP Dualitesi için sezgisel / gayri resmi bir kanıt mı?

LP dualitesi hakkında 'eve gelmek' için iyi bir gayri resmi / sezgisel kanıt ne olabilir? Minimize edilmiş objektif fonksiyonun, sınırı anlamak için sezgisel bir yolla gerçekten minimum olduğunu nasıl gösterebiliriz?

Bana öğretilen yol Dualite sadece bildiğim bir çok insan tarafından paylaşıldığından emin olduğum bir anlayışa yol açtı: Karşılık gelen her minimizasyon problemi için, eşitsizlik kısıtlamalarını ters çevirerek türetilebilen eşdeğer bir maksimizasyon problemi var. Dönemi. İkiliğin bu "sonucu", "bu neden böyle" (yani, en iyi çözüm üzerinde nasıl / neden bir sınır vardır) değil gibi görünen bir şeydir.

Kanıt için bir motivasyon olabilecek optimumun alt / üst sınırını 'göstermek' için eşitsizliklerle oynamanın bir yolu var mı?

Chvatal'ın kitabını ve birkaçını daha gözden geçirdim, ancak LP'ye mutlak noobs tarafından anlaşılabilecek hiçbir şey bulamadım. En yakın aldığım Vazirani'nin algoritmalar üzerine yaptığı kitaptan, 'eşitsizlikleri bağlı olan bazı sihirli sayılarla çarpmaktan' bahsettiği yerdi - keyfi bir LP için efektin nasıl yeniden üretileceğinden emin değilim.

linear-programming primal-dual

— Doktora
kaynak

Gelen bu math.SE cevap ve neden - - Bir adım-adım ikili nereden geldiğini örneğinde geçmesi LP ile ortaya çıkabilir, farklı olasılıklar çoğu olan bir sorun. Belki bu yardımcı olabilir mi?

— Mike Spivey

Vazirani'nin argümanının neden genel bir LP için işe yaramadığını düşündüğünüzden emin değilim. Şahsen, bu açıklamayı en iyisi olarak seviyorum.

— Suresh Venkat

Zayıf ikilik veya güçlü ikilik hakkında mı soruyorsunuz?

— Tsuyoshi Ito

Çizgilerin doğrusal bir kombinasyonunu almanın ne anlama geldiğini görselleştirerek (2d'de söyleyin) geometrik sezgi alabilirsiniz. Örneğin , düzlemde

kısıtlamalarını çizin . Bu kısıtlamalar doğrusal kombinasyonlar verir

herhangi

x \leq 1

$x \le 1$

y \leq 1

$y \le 1$

a x + b y \leq a + b

$ax + by \le a + b$

a, b \geq 0

$a,b \ge 0$ . Görmek için bunu çıkarın. Genellikle, kısıtlamaların doğrusal kombinasyonu size çokyüzlünün destekleyici yarı boşluklarını verir. Şimdi sorun, neden bu destekleyici yarım alanlardan birinin maliyete bir bağ vermek için her zaman yeterli olduğunu? Eğer görürseniz, bu güçlü bir ikiliktir.

— Neal Young

@MikeSpivey - Yorumun bir cevap olsaydı :)

— Doktora

Yanıtlar:

OP'nin isteği üzerine, yukarıdaki yorumumda bağlandığım matematik cevabı.

Belki ikili bir örnek sorun üzerinde nereden geldiğini konuşmak faydalı olabilir. Bu biraz zaman alacak, ama umarım ikili işimiz bittiğinde bu kadar gizemli görünmeyecektir.

Diyelim ki aşağıdaki gibi bir temel problem var.

P r i m a l = {\begin{matrix} max 5 x_{1} - 6 x_{2} \\ s . t . 2 x_{1} - x_{2} = 1 \\ x_{1} + 3 x_{2} \leq 9 \\ x_{1} \geq 0 \end{matrix}}

$Primal =\begin{Bmatrix} \max \ \ \ \ 5x_1 - 6x_2 \\ \ \ \ s.t. \ \ \ \ 2x_1 -x_2 = 1\\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ x_1 +3x_2 \leq9\\ \ \ \ \ x_1 \geq 0\\ \end{Bmatrix}$

Şimdi, primalın kısıtlamalarını primalın optimal değeri üzerinde bir üst sınır bulmanın bir yolu olarak kullanmak istediğimizi varsayalım. İlk kısıtlamayı

, ikinci kısıtlamayı

çarpar ve bir araya getirirsek , sol taraf için

Sağ taraf için

. İlk kısıtlama bir eşitlik ve ikincisi bir eşitsizlik olduğundan, bu

9

$9$

1

$1$

9 (2 x_{1} - x_{2}) + 1 (x_{1} + 3 x_{2})

$9(2x_1 - x_2) + 1(x_1 +3 x_2)$

9 (1) + 1 (9)

$9(1) + 1(9)$

Ama bu yana

, aynı zamanda doğru olduğunu

19 x_{1} - 6 x_{2} \leq 18.

$19x_1 - 6x_2 \leq 18.$

x_{1} \geq 0

$x_1 \geq 0$

ve böylece

Bu nedenle ,

, bir baş sorunun en iyi değerin üst-bağlanır.

5 x_{1} \leq 19 x_{1}

$5x_1 \leq 19x_1$

5 x_{1} - 6 x_{2} \leq 19 x_{1} - 6 x_{2} \leq 18.

$5x_1 - 6x_2 \leq 19x_1 - 6x_2 \leq 18.$

18

$18$

Elbette bundan daha iyisini yapabiliriz. Sadece çarpan olarak ve tahmin etmek yerine, onların değişken olmasına izin verelim. Bu nedenle, zorlamak için ve çarpanlarını arıyoruz. $9$ $1$ $y_1$ $y_2$

5 x_{1} - 6 x_{2} \leq y_{1} (2 x_{1} - x_{2}) + y_{2} (x_{1} + 3 x_{2}) \leq y_{1} (1) + y_{2} (9) .

$5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9).$

$y_1$ $y_2$

$5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2)$

$x_1$ $x_2$ $x_1$ $5$ $5$ $x_1 \geq 0$ $5$ $x_1$ $2y_1 + y_2 \geq 5$

$x_2$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $x_2$ . $-y_1 + 3y_2 = -6$

İkinci eşitsizlik :

y_{1} (2 x_{1} - x_{2}) + y_{2} (x_{1} + 3 x_{2}) \leq y_{1} (1) + y_{2} (9)

$y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9)$

$y_1$ $y_2$ $y_1$ $y_1$ $y_1$ $y_2$ $y_2$ $y_2 \geq 0$

$y_1 + 9y_2$

Tüm bu kısıtlamaları $y_1$ $y_2$

\begin{aligned} Minimize y_{1} + 9 y_{2} \\ subject to 2 y_{1} + y_{2} & \geq 5 \\ - y_{1} + 3 y_{2} & = - 6 \\ y_{2} & \geq 0. \end{aligned}

$\begin{align*} \text{Minimize }\:\:\:\:\: y_1 + 9y_2& \\ \text{subject to }\:\:\:\:\: 2y_1 + y_2& \geq 5 \\ -y_1 + 3y_2& = -6\\ y_2 & \geq 0. \end{align*}$

Ve bu ikili.

Muhtemelen bu argümanın ilkel ve ikili tüm olası formları için sonuçlarını özetlemeye değer. Aşağıdaki tablo s. Yöneylem Araştırmasına Giriş 214 , 8. baskı, Hillier ve Lieberman. Buna, bir maksimizasyon veya minimizasyon probleminde belirli bir kısıtlamayı veya değişken kısıtlamayı bulma olasılığına bağlı olarak SOB'un Mantıklı, Tek veya Tuhaf anlamına geldiği SOB yöntemi olarak bahsederler.

             Primal Problem                           Dual Problem
             (or Dual Problem)                        (or Primal Problem)

             Maximization                             Minimization

Sensible     <= constraint            paired with     nonnegative variable
Odd          =  constraint            paired with     unconstrained variable
Bizarre      >= constraint            paired with     nonpositive variable

Sensible     nonnegative variable     paired with     >= constraint
Odd          unconstrained variable   paired with     = constraint
Bizarre      nonpositive variable     paired with     <= constraint

— Mike Spivey
kaynak

$x$ $x = B$ $x$ $x \leq C$ $C$ $B \leq \min C$ $B$ $B = \min C$ $B$ $B$

$f$ $f$ $S,O$ $f(S) \geq (1-1/e) f(O)$ $f$ $f$ $f(O) = 1$ $f(S)$ $\min f(S) = 1-1/e$ (diyelim ki $1-1/e$ en iyisi mümkün) ve ikili çözüm size bir kanıt verir $f(S) \geq 1-1/e$ .

Bu, güçlü dualitenin neden gerçekte tutulduğu sorusunu açık bırakır. Doğrusal programlama için bu gerçeğin, biri simpleks algoritmasını, diğerinin Farkas'ın lemmasını içeren iki kanıtı vardır. Farkas'ın lemması muhtemelen her şeyi sezgisel bir geometrik gerçeğe indirgeyerek durumu anlamanın "doğru" yoludur. Ancak, bu sezginin kafamın üzerinde olduğunu itiraf ediyorum.

Daha genel durumlarda (diyelim ki semidefinite programlama), ikili ve güçlü dualite koşulları için daha genel Karush-Kuhn-Tucker koşullarını (bir çeşit Lagrange çarpanı) kullanmanız gerekir. Bu, doğrusal olmayan veya dışbükey optimizasyon metinleri ile işlenir.

— Yuval Filmus
kaynak