Hangi algoritmalar için teorik analiz ile gerçeklik arasında büyük bir boşluk var?

Bir algoritmanın etkinliğini analiz etmenin iki yolu

1. çalışma süresine asimptotik bir üst sınır koymak, ve
2. Çalıştırmak ve deneysel verileri toplamak için.

Merak ediyorum (1) ve (2) arasında önemli bir farkın olduğu durumlar var mı ? Bununla, (a) deney verilerinin daha sıkı bir asimptotik önerdiğini veya (b) teorik analizin X'in Y'den çok daha iyi olduğunu öne sürdüğü ve deneysel verilerin Y'nin çok daha iyi olduğunu öne sürdüğü şekilde X ve Y algoritmaları olduğu anlamına gelir. X.

Deneyler genellikle ortalama durum davranışını gösterdiğinden, en ilginç cevapların ortalama durum üst sınırlarına değinmesini beklerim. Ancak, Noam'ın Simplex hakkındaki cevabı gibi farklı sınırlar hakkında konuşan ilginç cevapları ekarte etmek istemiyorum.

Veri yapılarını dahil et. Lütfen cevap başına bir algo / ds koyun.

Elbette en göze batan örnek, pratikte hızlı çalışan, çoklu zamanlılık düşündüren ancak teoride üstel zaman alan Simplex yöntemi. Dan Spielman, bu gizemi açıkladığı için Nevanlinna ödülünü büyük ölçüde aldı.

Daha genel olarak, birçok Integer-programlama örneği, standart IP-çözücüleri kullanılarak oldukça iyi çözülebilir, örneğin, önemli boyutlardaki girdilerde denen çoğu dağıtım için kombinasyonlu açık artırmalar çözülebilir - http://www.cis.upenn.edu/~mkearns /teaching/cgt/combinatorial-auctions-survey.pdf

Groebner üsleri . En kötü durumdaki çalışma süresi iki kat katlıdır (değişkenlerin sayısında). Bununla birlikte pratikte, özellikle iyi yapılandırılmış problemler için, F4 ve F5 algoritmaları etkilidir (yani oldukça hızlı bir şekilde sonlanır). Hala ortalama ya da beklenen çalışma süresi için ne kadar uygun bir varsayımın olması gerektiğine karar vermek aktif bir araştırma alanıdır. Bir şekilde, altında yatan idealin Newton polipopunun hacmi ile ilgili olduğu varsayılmaktadır.

Bu fenomenin büyük ve az tanınan bir örneği grafik izomorfizmidir . En iyi bilinen algoritma O gibi bir şey alır ( 2 ( √$O(2^{(\sqrt{(n log n)})})$

Sorunun ortalama / düzleştirilmiş karmaşıklığı üzerine resmi bir sonuç olup olmadığını bilmiyorum, ama birinin var olduğunu okuduğumu hatırlıyorum - belki bir başkası resmi bir sonuç ortaya koyar. Elbette, çok sayıda deneysel kanıt ve çok sayıda hızlı çözücü var. Ayrıca, bu mülkün GI-complete ailesinin diğer üyelerine uzanıp açılmadığını merak ediyorum.

David Johnson'dan teorik ve deneysel yaklaşım oranlarındaki tutarsızlık: Gezgin Satıcı Sorunu: Yerel Optimizasyonda Bir Durum Çalışması, DS Johnson ve LA McGeoch . Bu yazıda, teorik asimptotiklere meydan okuyan deneyler için aslitotik kanıtlar (deneyler N = 10.000.000! loglogN), her ikisi de en kötü durum yaklaşık 2 olan oranlara sahip olan Near Insertion ve Double MST'yi atıyor.

Yakın zamana kadar iyi anlaşılmayan bir başka örnek, (pratik açıdan) 50 yıldan fazla bir süredir tercih edilen kümeleme algoritması olan Lloyd'un k-aracı algoritmasının çalışma süresidir . Ancak yakın zamanda, 2009 yılında ( Vattani tarafından ), en kötü durumda, Lloyd algoritmasının giriş noktası sayısında üssel olan birkaç yineleme gerektirdiği kanıtlanmıştır . Öte yandan, aynı zamanda düzeltilmiş bir analiz ( Arthur, Manthey ve Röglin tarafından yapılan ), düzeltilmiş sayıdaki yinelemenin yalnızca ampirik performansı açıklayan polinom olduğunu kanıtladı.

Patlak ağaçları için dinamik iyimserlik varsayımının traversal, deque ve split parantezleri bu boşluklara örnek olarak verilebilir. Deneyler doğrusal zaman iddiasını desteklemektedir, ancak bilinen hiçbir kanıt yoktur.

Soruyla ilgili ufak bir sorun var. Aslında, bir algoritmayı analiz etmenin ikiden fazla yolu vardır ve ihmal edilen teorik yollardan biri, en kötü durum çalışma zamanından ziyade beklenen çalışma süresidir. Gerçekten de, deney yapmakla ilgili olan bu ortalama durum davranışı. İşte çok basit bir örnek: n boyunda bir girdi için bir algoritmaya sahip olduğunuzu düşünün, n'nin her olası uzunluğu için n değerini alan, her zamanın 2 ^ n değerini alan bir uzunluğun belirli bir girişi dışında. En kötü vaka çalışma süresinin üstel olduğunu, ancak ortalama durumun [(2 ^ n -1) n + (2 ^ n) 1] / (2 ^ n) = n - (n-1) / 2 ^ n olduğunu sınırlar Açıkçası, iki analiz türü çok farklı cevaplar veriyor, ancak farklı miktarları hesaplarken bu beklenebilir.

Deneyi birkaç kez çalıştırarak, örnek için en uzun çalışma zamanını alsak bile, yine de olası girdiler alanının sadece küçük bir kısmını örnekliyoruz ve bu nedenle zor örnekler nadirse o zaman onları kaçırmamız muhtemeldir. .

Böyle bir problemin oluşturulması nispeten kolaydır: Eğer ilk n / 2 bitin hepsi sıfır ise, son n / 2 bit ile kodlanmış 3SAT örneğini çözmek yerine. Aksi takdirde reddet. N büyüdükçe, problem en kötü durumda 3SAT için en verimli algoritma ile aynı çalışma süresine sahiptir, burada ortalama çalışma süresinin çok düşük olduğu garanti edilir.

Damas-Milner tipi çıkarımın üssel zaman için tamamlandığı kanıtlanmıştır ve sonucun boyutunda üssel patlama ile kolayca yapılan durumlar vardır. Bununla birlikte, çoğu gerçek dünya girdisinde, etkili bir şekilde doğrusal bir şekilde davranır.

Düzlemsel grafiklerdeki Steiner ağacı için PTAS'ın epsilon'a gülünç bir bağımlılığı vardır. Ancak uygulamada şaşırtıcı derecede iyi performans gösteren bir uygulama var.

[1] 'den gelen yığınların eşleştirilmesi - ekleme ve birleştirme işleminin O (log n) itfa karmaşıklığına sahip olduğu ancak O (1) olduğu tahmin edilen yığınlar uygular. Uygulamada, özellikle birleştirme kullanıcıları için oldukça verimlidirler.

Sadece Sec okurken bugün onları keşfettim. C. Okasaki'nin "Tamamen işlevsel veri yapıları" kitabından 5.5'i aldım, bu yüzden onlar hakkında bilgi paylaşmam gerektiğini düşündüm.

[1] Fredman, ML, Sedgewick, R., Sleator, DD ve Tarjan, RE 1986. Eşleştirme yığını: Kendi kendini ayarlayan bir yığının yeni bir şekli. Algoritma 1, 1 (Ocak 1986), 111-129. DOI = http://dx.doi.org/10.1007/BF01840439

İlyaraz'ın dallanma ve sınırlanma konusundaki yorumu ile ilgili olarak, Pataki ve ark. dal ve sınır artı kafes bazında indirgemenin polytime'daki neredeyse tüm rastgele IP'leri çözebileceğini gösterin.

TSP için Lin-Kernighan sezgisel ("Seyahat eden satıcı problemi için etkili bir sezgisel buluşma", Yöneylem Araştırması 21: 489-516, 1973) uygulamada çok başarılıdır, ancak performansını açıklamak için hala ortalama bir durum veya düzleştirilmiş bir analiz bulunmamaktadır. . Bunun aksine, TSP'ye yönelik 2 tercihli sezgisel araştırmacının Matthias Englert, Heiko Röglin ve Berthold Vöcking (Algorithmica, ortaya çıkması) tarafından yapılan düzgünleştirilmiş bir analizi var.

Uygulamada titizlikle analiz edemeyeceğimiz farklı NP-zor problemler için branş ve sınır algoritmalarında çok hızlı ve etkili bir çok şey var: TSP, Steiner ağacı, çöp kutusu vb.

$\Omega(nm)$