TSP için Held-Karp algoritmasının zaman karmaşıklığı

Michael Held ve Richard M. Karp tarafından " Sıralama Sorunlarına Dinamik Programlama Yaklaşımı " konusuna baktığımda , şu soruyu buldum: TSP için algoritmalarının karmaşıklığı neden (s. 199), yani faktörünü nereden alıyorlar ? Doğru anladıysam , her bir şehir alt kümesi için toplama sayısı anlamına gelir. O zaman neden her ekleme işlemi bana bilinmeyen ile birleştirilmiştir operasyonlar? Bir şekilde minimum almakla bağlantılı olduğunu düşünüyorum, ancak minimum hesaplamak bu kadar çok işlem gerektirmiyor gibi görünüyor. $(\sum_{k=2}^{n-1}k(k-1)\binom{n-1}{k})+(n-1)$ $k$ $k-1$ $k$

Aşağıdaki gibi elde tutulan ve Karp ve bağımsız bir şekilde, Bellman koşuyla dinamik programlama algoritması: her çifti için geçmekte bir yol anlamına , tüm elemanları ve son bulan bilgi işlem $(S,c_i)$ $c_1$ $S$ $c_i$

$OPT[S,c_i]=min\{OPT[S\setminus\{c_i\},c_j]+d(c_j,c_i):c_j\in S\setminus\{c_i\}\},$

burada , ve şehirleri arasındaki mesafe anlamına gelir . Sonra kağıttan formülde boyutu anlamına gelir . $d(c_j,c_i)$ $c_j$ $c_i$ $k$ $S$

ds.algorithms tsp exp-time-algorithms

— Oleksandr Bondarenko
kaynak

Yanıtlar:

Aşağıdakine ek, $k(k-1)$ terimlerini açıklar:

Dolayısıyla, ifadedeki terimleri incelerseniz, (benzetme olarak) terimini, ilk konumda 1 olan 1'leri içeren tüm ikili dizelerin numaralandırması olarak hayal edebilirsiniz . Başka bir deyişle, ikili dizgideki her bir konumun, sorundaki şehirden birinin o sırada düşündüğümüz tam alt kümede olup olmadığının seçimini temsil etmesine izin veriyoruz. Yani, 5 şehir için 10101 {1,3,5} alt kümesine karşılık gelir. $n-1 \choose k$ $k$ $n$

Bu nedenle, {1, ..., } ' nin tüm alt kümelerini hesaplamak için , size = 2 boyutundaki her bir ikili alt kümeyi (yani, ikili dizeleri saymak) sayarız (yani , iki 1 içeren iki boyutlu . boyut = 3, sonra boyut = 4, ... sonra boyut = n. (Size = 1 altkümesinin yalnızca ilk şehri içermesi gerektiğini ve bu nedenle kısmi mesafesini hesaplamanın önemsiz olduğunu unutmayın, çünkü 1 -> alt kümedeki diğer tüm şehirler -> 1 tam olarak 0'dır.) $n$ $n$

şehirleri olan her alt kümede , aday-optimal, kısmi yollar düşünmeliyiz . Özellikle, optimal, toplam yol verilen alt küme boyunca akla gelebilir ve ilk şehir hariç şehirlerinden herhangi birine ulaşabilir . Daha sonra, bu tür her aday alt yol için, o noktaya kadar en uygun turu, önceki = alt yollarından herhangi birinin minimum değeri artı o alt yol için terminal şehirden uzaklığı hesaplıyoruz . geçerli aday alt yolu için terminal şehir. Bu, yapmamız gereken bu tür karşılaştırmaları verir. Benim terimim ile arasındaki tutarsızlık $k$ $k-1$ $k-1$ $k-1$ $(k-1)(k-2)$ $(k-1)(k-2)$ $k(k-1)$ bağlantılı analizdeki terim notasyonel bir farktır ( tanımımdan onlardan farklı bir aralıkta toplanırım). Bununla birlikte, en azından, bu terimin ikinci dereceden düzen karmaşıklığını göstermelidir. $k$

Ne kadar ilginç - birkaç dakika önce bu tam algoritmayı C ++ ile kodlamayı bitirdim. (Bu yüzden, teğeti saf teoriden biraz pratik tartışmaya bağışlayın. :))

zaman ve alan maliyeti - en azından benim uygulama altında. Ancak pratik olarak, alan gereksinimleriniz bu kadar hızlı büyüdüğünde, zaman gereksinimlerinden çok daha acı verici hale gelirler. Örneğin, bilgisayarımda (4 GB RAM ile) 24 şehre kadar olan örnekleri çözebilirim - bundan daha fazlası ve hafızam bitti. $O(2^n n^2)$ $O(2^n n)$

Tabii ki, ben sadece kötü bir programcı olabilirim ve pratikte benden daha iyisini yapabilirsin. :)

Düzenleme: Sorunuzun bir detayı hakkında biraz daha ayrıntılı bilgi: terimi, en kötü durumda, önceki alt kümelerden kısmi, optimal mesafeyi hesaplamanız gerektiğinden gelir (en fazla Bunlardan ; bağlantı verdiğiniz analizde ile toplandığını unutmayın ). Bu, yine en kötü durumda, toplam için boyutundaki alt kümelerle karşılaştırmasını gerektirir . $k(k-1)$ $n$ $k$ $n$ $O(k)$ $k-1$ $O(k^2)$

Ayrıca, açıklamam yeterince açık değilse, Vazirani'nin bazı güzel ders notları ( PDF ). Held-Karp'ın bir analizi de dahil olmak üzere TSP tartışması için P.188'e gidin.

— Daniel Apon
kaynak

Oo elbette! Şimdi bunu düşünerek aptal hissediyorum; Cevabımı güncelleyeceğim. Aslında o tam yorumu daha önce duymuştum ve sadece düşünmeden aktarmıştım. Ve evet - bir dosyaya yazmak / bir dosyadan okumak, birçok şehirde keyfi olarak yüksek gitmenizi sağlar. ... TSP örneklerini gerçek bir amaç için çözmeye çalışmadığınız sürece endişelenmeye değmez bir acıdır. Benimki kesinlikle pratik bir amaç için değildi. ;)

— Daniel Apon

Bjorklund algoritmasını uygulama zamanı :)

— Suresh Venkat

@Suresh: İyi fikir!

— Daniel Apon

@Daniel Apon "Kısmi, en uygun mesafeyi" hesaplarken neden karşılaştırmaya ihtiyacımız olduğunu kesin olarak söyleyebilir misiniz?

— Oleksandr Bondarenko

@Oleksandr: Tabii, cevabımın üstüne ekleyeceğim.

— Daniel Apon

Ana not

"İçin en uygun yolun mesafesini combination of k cities"
değil,
" combination of k cities VE için en uygun yolun mesafesini " hesapladığımızı ve sakladığımızı not etmek önemlidir end-point city from this combination.
Bunu anlamak, aşağıdaki formülde ilk iki çarpanın anlamına yardımcı olacaktır.

İlk etap

İlk aşamadaki işlem sayısı:

\sum_{k >= 2} \underset{\begin{matrix} choose city combination \\ of size = k - 1 \end{matrix}}{\underset{⏟}{(\binom{n - 1}{k - 1})}} \cdot \underset{\begin{matrix} choose city to be the last \\ from k - 1 cities \\ in chosen combination \end{matrix}}{\underset{⏟}{(k - 1)}} \cdot \underset{\begin{matrix} choose city \\ that is not in chosen combination \\ to add to path \end{matrix}}{\underset{⏟}{((n - 1) - (k - 1))}}

$\displaystyle \sum_{k>=2} \underbrace{ \binom{n-1}{k-1} }_{\substack{ \text{choose city combination} \\ \text{of size = $k-1$}}} \cdot \underbrace{ (k-1) }_{\substack{ \text{choose city to be the last} \\ \text{from $k-1$ cities} \\ \text{in chosen combination} } } \cdot \underbrace{ ((n-1)-(k-1)) }_{ \substack{ \text{choose city} \\ \text{that is not in chosen combination} \\ \text{to add to path} } }$

Toplamda üst simge eksik for all k>=2 that is valid for binomial coefficient. Dolayısıyla, son geçerli boş olmayan toplam terimi Bu, toplamımızın son seçimleri yakalamadığı anlamına gelir ilk şehre bağlanmak için şehir. Orada ilk şehre bağlamak için şehirler. Sonunda bu terimi toplayacağız. $k=n-1$

(\binom{n - 1}{n - 2}) \cdot (n - 2) \cdot 1

$\binom{n-1}{n-2} \cdot (n-2) \cdot 1$

n - 1

$n-1$

Formülü, sağladığınız forma dönüştürerek Held-Karp Wikipedia sayfasında da olsun .

\sum_{k >= 2} (\binom{n - 1}{k - 1}) \cdot (k - 1) \cdot ((n - 1) - (k - 1)) = \sum_{k >= 2} \frac{(n - 1)!}{(k - 1)! (n - k)!} \cdot (k - 1) \cdot (n - k) = \sum_{k >= 2} \frac{(n - 1)!}{k! (n - 1 - k)!} \cdot k \cdot (k - 1) = \sum_{k >= 2} (\binom{n - 1}{k}) \cdot k \cdot (k - 1)

$\displaystyle \sum_{k>=2} \binom{n-1}{k-1} \cdot (k-1) \cdot ((n-1)-(k-1))= \sum_{k>=2} \frac{(n-1)!}{(k-1)!(n-k)!} \cdot (k-1) \cdot (n-k)= \sum_{k>=2} \frac{(n-1)!}{k!(n-1-k)!} \cdot k \cdot (k-1)= \sum_{k>=2} \binom{n-1}{k} \cdot k \cdot (k-1)$ Binom katsayılarını değiştirmek şunlara yol açar: Yani ilk işlem sayısı faz

\sum_{k >= 2} (\binom{n - 1}{k}) \cdot k \cdot (k - 1) = \sum_{k >= 2} \frac{(n - 1)!}{k! (n - 1 - k)!} \cdot k \cdot (k - 1) = \sum_{k >= 2} \frac{(n - 3)!}{(k - 2)! (n - 3 - (k - 2))!} \cdot (n - 1) \cdot (n - 2) = (n - 1) \cdot (n - 2) \sum_{k >= 2} (\binom{n - 3}{k - 2}) = (n - 1) \cdot (n - 2) \cdot 2^{n - 3}

$\displaystyle \sum_{k>=2} \binom{n-1}{k} \cdot k \cdot (k-1) = \sum_{k>=2} \frac{(n-1)!}{k!(n-1-k)!} \cdot k \cdot (k-1) = \sum_{k>=2} \frac{(n-3)!}{(k-2)!(n-3-(k-2))!} \cdot (n-1) \cdot (n-2)= (n-1) \cdot (n-2)\sum_{k>=2} \binom{n-3}{k-2}=(n-1) \cdot (n-2) \cdot 2^{n-3}$

(n - 1) \cdot (n - 2) \cdot 2^{n - 3} + (n - 1)

$(n-1) \cdot (n-2) \cdot 2^{n-3}+(n-1)$

İkinci aşama

İkinci aşama, hesaplama aşamalarıyla eşzamanlı olarak ilk aşamada yaptığımız işaretlerle en uygun yolu geri yüklemektir.

Her combination of k cities AND için end-point city from this combination" AND " için en uygun yol için ikinci-son şehri kurtardık.

Optimal yolu geri izlemek için bazı veri yapılarından ikinci ve son şehri "için combination of k cities VE için end-point city from this combination" döndürmesini istememiz gerekir . Yani bu veri yapısı böyle bir şey olmalı
Map<combination of k cities, Map<last city, second-to-last city>>. combination of k citiesÖrneğin, endeks olarak kullanabiliriz binary_string[city id]=1 if city id is in combination. Bu nedenle combination of k citieskombinasyonu tanımlamak ve veri yapımızı endekslemek için tüm öğelerine bakmamız gerekir . Bu bize ikinci aşama için işlem sayısını verir:

\sum_{k >= 2}^{n - 1} k = \frac{(n) (n - 1)}{2} - 1

$\displaystyle \sum_{k>=2}^{n-1} k = \frac{(n)(n-1)}{2} - 1$

— dimathe47
kaynak