Hesaplamalı bilimlerde “iki kolay, üç zor” un iyi örnekleri

Son zamanlarda meta fenomenin bir formülasyonuyla karşılaştım : " iki kolay, üç zor " (bu şekilde Federico Poloni tarafından yazılmıştır):

Belirli bir problem iki varlık için formüle edildiğinde, çözülmesi nispeten kolaydır; bununla birlikte, üç varlıklı bir formülasyon için bir algoritma, zorlukta büyük ölçüde artar, hatta çözümün elverişsiz veya ulaşılamaz olmasına neden olabilir.

_{(Cümlenin daha güzel, özlü ve doğru olması için önerileri memnuniyetle karşılarım.)}

Bilişimsel bilimlerin çeşitli alanlarındaki (saf doğrusal cebirden başlayarak ve bir battaniye terimsel hesaplama fiziği ile biten) hangi güzel örnekleri biliyorsunuz?

Fiziğin birçok alanında, özellikle de klasik mekanik ve kuantum fiziğinde görülen bir örnek, iki beden problemidir. Buradaki iki cisim problemi, örneğin çekim kuvveti veya Coulomb kuvvetleri ile etkileşime giren etkileşimli iki partikülün dinamiklerini hesaplama görevi anlamına gelir. Bu sorunun çözümü genellikle kapalı formda, kütle merkezi ve bağıl koordinatlara değişken bir dönüşümle bulunabilir.

Bununla birlikte, üç parçacığı göz önünde bulundurduğunuzda, genel olarak kapalı formda bir çözüm yoktur .

Ünlü bir örnek, boole tatmin edilebilirlik problemidir (SAT). 2-SAT polinom zamanında çözmek için karmaşık değildir, ancak 3-SAT NP tamamlanmıştır.

Bir ve iki boyutta, tüm yollar Roma'ya çıkar, ancak üç boyutta değil.

Spesifik olarak, bir veya iki boyutta tamsayılar üzerinde herhangi bir yöne hareket etmesi muhtemeldir), bir veya iki boyutta, o zaman başlangıç ​​noktası ne olursa olsun, bir olasılıkla (yani neredeyse kesin), rastgele yürüyüş sonunda belirli bir özelliğe ulaşır. nokta ("Roma").

Bununla birlikte, üç veya daha fazla boyut için, "Roma" ya girme olasılığı birden azdır; boyut sayısı arttıkça olasılık azalmaktadır.

Mesela, Roma'ya döndüğünde duracak olan "Roma" dan başlayan rastgele bir yürüyüşün stokastik (Monte Carlo) simülasyonunu gerçekleştiriyorsanız, o zaman bir ve iki boyutta, sonunda Roma'ya geri döneceğinden emin olabilirsiniz. ve simülasyonu durdurmak - çok kolay. Üç boyutta, asla geri dönüş yapamazsınız, çok zor.

https://en.wikipedia.org/wiki/Random_walk#Higher_dimensions

İki boyutlu olayı görselleştirmek için kentte rastgele dolaşan bir insan hayal edilebilir. Şehir etkili bir şekilde sonsuz ve kaldırımlardan oluşan bir kare şeklinde düzenlenmiştir. Her kesişme noktasında, kişi rastgele dört yoldan birini (başlangıçta seyahat edilenler de dahil) seçer. Resmen, bu düzlemde tam sayı koordinatlarına sahip tüm noktaların kümesinde rastgele bir yürüyüş.

Kişi yürüyüşün asıl başlangıç ​​noktasına geri dönecek mi? Bu, yukarıda tartışılan seviye geçiş probleminin 2 boyutlu eşdeğeridir. 1921'de George Pólya, kişinin neredeyse kesinlikle 2 boyutlu rastgele bir yürüyüş yapabileceğini ispatladı, ancak 3 boyut ve üstü için, boyut sayısı arttıkça kökene geri dönme olasılığı azaldı. 3 boyutta, olasılık kabaca% 34'e düşer.

Bkz http://mathworld.wolfram.com/PolyasRandomWalkConstants.html sayısal değerler için.

İşte SciComp.SE'deki katılımcıların kalplerine bir yakın:

Navier-Stokes varlığı ve pürüzsüzlük sorun

Üç boyutlu versiyon elbette ünlü bir açık problem ve bir milyon dolarlık Clay Millenium Ödülünün konusu. Ancak iki boyutlu sürüm, uzun zaman önce olumlu bir yanıtla çoktan çözüldü. Terry Tao , çözümün 1933’de Leray’ın tezine dayandığını belirtti!

Üç boyutlu problemi çözmek neden bu kadar zor? Standart, el dalgalı yanıtı, türbülansın üç boyutta iki boyuttan önemli ölçüde daha dengesiz hale gelmesidir. Daha matematiksel olarak titiz bir cevap için, Charles Fefferman'ın Clay Enstitüsü'ndeki resmi problem beyanına veya Terry Tao'nun olası kanıt stratejileri konusundaki güzel açıklamasına göz atın .

Sosyal tercih teorisinde, iki aday ile bir seçim planı tasarlamak kolaydır (çoğunluk kuralları), ancak üç veya daha fazla aday ile bir seçim planı tasarlamak, mutlaka çeşitli makul koşullar altında değiş tokuşlar yapmayı gerektirir. ( Arrow'un imkansızlık teoremi ).

İki matrisin aynı anda kösegenlestirilmesi ve : mevcut ile kaplanır tekil değer ayrışımı genelleştirilmiş .$A_1$$A_2$

Bununla birlikte, üç matrisin aynı anda bir kanonik forma indirgenmesi gerektiğinde (yukarıdakilere göre daha zayıf durum) gerekli olduğunda:

Pratik bir uygulama, ikinci dereceden bir özdeğer problemi için bir çözüm olacaktır:

Kaynak: CF van Loan, "Ders 6: Yüksek dereceli genelleştirilmiş tekil değer ayrışımı", CIME-EMS Yaz Okulu, Cetraro, İtalya, Haziran 2015.

Kuantum bilişimde çok fazla örnek var, ancak bir süredir bunun dışında kaldım ve çok fazla hatırlamıyorum. Bunlardan en önemlisi, iki taraflı dolaşma (iki sistem arasındaki dolaşma) nispeten kolaydır, oysa üç veya daha fazla sistem arasındaki dolaşma muhtemelen konuyla ilgili yazılmış yüz kağıtla çözülmemiş bir karışıklıktır.

Bunun kökü, sıra-2 tensörlerinin (yani matrisler) tekil değer ayrışımı yoluyla analiz edilebilmesidir. 3. veya daha üst seviyedeki tensörler için benzer hiçbir şey yoktur. Aslında, kadar basit bir şey bile (Einstein toplamını ifade eden alt / üst yazılarda), IIRC, etkin bir şekilde çözülebileceğine inanılmadı.$\max\left(u_a v_b w_c T^{abc} / \left\lVert u \right\rVert \left\lVert v \right\rVert \left\lVert w \right\rVert \right)$

Her ne kadar daha önce okumamış olmama rağmen, bu makale alakalı görünüyor: Tensör problemlerinin çoğu NP zor

Doğrultma ve pusula ile açı ikileme basittir, açı üçleme genel olarak imkansızdır.

Rank-n tipleri için tür çıkarımı yazın . Rank-2 için yazım çıkarımı özellikle zor değil, fakat Rank-3 ve üstü için yazım çıkarımı kararsız.

İşte optimizasyondan zarif bir örnek: Çarpanların Alternatif Yön Yöntemi (ADMM) algoritması.

İki değişkenin (değişkenlerin kendileri vektör olabilir) ayrık ve dışbükey bir nesnel işlevi ve iki değişkeni birleştiren doğrusal bir kısıtlama göz önüne alındığında:

Bu optimizasyon problemi için Artırılmış işlevi daha sonra

ADMM algoritması kabaca bu optimizasyon problemi için artırılmış Lagrangian fonksiyonunda bölünmüş bir "Gauss-Seidel" i yaparak, ilk önce ( kalırken en aza indirilmesiyle çalışır. sabit), daha sonra en aza indirerek ile ilgili olarak (iken sabit kalır), daha sonra güncellenmesi ile . Bu döngü durma kriterine ulaşılıncaya kadar devam eder.$L_{\rho}(x_1, x_2, \lambda)$$x_1$$x_2, \lambda$$L_{\rho}(x_1, x_2, \lambda)$$x_2$$x_1, \lambda$$\lambda$

(Not: Eckstein gibi bazı araştırmacılar, Gauss-Siedel bölme görünümünü proksimal operatörler lehine atar; örneğin, bkz. Http://rutcor.rutgers.edu/pub/rrr/reports2012/32_2012.pdf )

Dışbükey problemler için, bu algoritmanın bir araya geldiği kanıtlanmıştır - iki değişken kümesi için. Bu üç değişken için geçerli değildir. Örneğin, optimizasyon problemi

Tüm dışbükey olsalar bile , ADMM benzeri yaklaşım (her bir değişkenine göre Artırılmış Lagrangiyen'i minimize etmek , daha sonra çift değişkeni güncellemek ) bu makalede gösterildiği gibi birleştirme garantisi verilmez.$f$$x_i$$\lambda$

https://web.stanford.edu/~yyye/ADMM-final.pdf

Bir kağıt parçasını alet kullanmadan ikiye katlamak kolaydır. Üçe katlamak zor.

İki köklü bir polinomun faktoringi kolaydır. Üç köklü bir polinom faktoringi, belirgin şekilde daha karmaşıktır.

(Çözeltisi olarak verilen örneğin, derece 2 düzgün bir eğri verilen bir nokta ile derecesi 2 olan bir polinomdur) olan rasyonel bu derece, polinomların katsayılar ile değiştirgelenebilen, yani 3 değil. İlki iyi anlaşılmış sayılır, ikincisi, bir baz nokta, yani spesifik bir çözüm seçildiğinde, eliptik eğriler olarak adlandırılır , yoğun araştırmanın hedefidir.$f(x,y) = 0$$f$

Bu farkın birkaç çıkarımı vardır:

• Derece 2'de tüm rasyonel noktaları bulmak için algoritmalar vardır (rasyonel sayılardaki çözümler), derece 3'te böyle bir algoritma bilinmemektedir.
• İçeren integral ile derecesi 1 ya da 2'nin temel fonksiyonları çözümleri, ancak için derece 3 veya daha yüksek.$\sqrt{f(x)}$$f$$f$
• Ayrık logaritma problemi derece 2 eğrilerinde izlenebilir, bu nedenle kriptografik uygulamalar için uygun değildir, aynı problemin eliptik eğriler üzerindeki varsayılan sertliği en popüler açık anahtar şifreleme sistemlerinin bazındadır.

TREEİşlevi.

Hesaplayabiliriz TREE(2) = 3, ancak TREE(3)evrenin yaşamı boyunca hesaplanamaz, sadece sonlu olduğunu biliyoruz.

İki boyutlu bir alanda, birçok sorunu (örn. Potansiyel akış sorunları ) zarif bir şekilde çözmek için kullanılabilecek karmaşık bir yapı sunabilirsiniz , ancak 3 boyutta hiçbir analog yoktur.

Kuantum çok-beden fiziğinde, farklı modeller çerçevesinde n dönmelerin farklı kafeslerini inceliyoruz (örneğin, Heisenberg modeli, Bose-Hubbard modeli, Ising modeli, ...). Elbette onları incelemek için farklı sayısal yöntemlere sahipsiniz (DMRG, kesin köşegenleştirme, sinir ağları, ...) ve farklı yöntemler geliştirmeye çalıştığımız nedenlerden biri, n'nin "yüksek" olduğunda bu modelleri çözememenizdir. , ve eğer daha yüksek boyutlarda ders alırsanız daha da kötüsü. Örneğin, İsing Modeli için, tam köşegenleştirme, 20d'den yüksek olmayan n için 1d'de iyi çalışır. Bu nedenle, yüksek n için, başka bir yöntemi denersiniz: DMRG. Fakat bu sonuncular gerçekten de yüksek n için iyi çalışıyor (n = 70 gibi ama daha yüksek n için iyi değil). Yine, daha yüksek n: sinir ağları için başka bir yöntem (yani yapay zeka) istiyorsunuz. Ve sinir ağlarına ek olarak, Bu modelleri "daha kolay" (yani nispeten yüksek n ile) inceleyebilirsiniz, bu modelleri daha yüksek boyutlarda (ancak boyut = 3 ve küçük n için, örneğin, temel halini elde etmek için hala birkaç saat (birkaç gün) sürer. gözlemlenebilir sen istedin ...). Bref, n sayısal yöntemleriniz için "çok yüksek" olduğunda (aynı zamanda bilgisayarınızın kapasitesi) yeni yöntemler gerçekleştirmeniz gerekir (ve eğer süper bir bilgisayar kullanıyorsanız) ve bu boyutunuzun boyutuyla aynı sorun Sistem ancak daha da kötüsü hızlı bir şekilde sıkışıp kaldığınız için (boyut = 4'ü çok zaman beklerseniz hariç elde etmek zordur). temel durumu veya istediğiniz gözlemlenebilirliği elde etmek hala çok uzun sürüyor (birkaç gün). Bref, n sayısal yöntemleriniz için "çok yüksek" olduğunda (aynı zamanda bilgisayarınızın kapasitesi) yeni yöntemler gerçekleştirmeniz gerekir (ve eğer süper bir bilgisayar kullanıyorsanız) ve bu boyutunuzun boyutuyla aynı sorun Sistem ancak daha da kötüsü hızlı bir şekilde sıkışıp kaldığınız için (boyut = 4'ü çok zaman beklerseniz hariç elde etmek zordur). temel durumu veya istediğiniz gözlemlenebilirliği elde etmek hala çok uzun sürüyor (birkaç gün). Bref, n sayısal yöntemleriniz için "çok yüksek" olduğunda (aynı zamanda bilgisayarınızın kapasitesi) yeni yöntemler gerçekleştirmeniz gerekir (ve eğer süper bir bilgisayar kullanıyorsanız) ve bu boyutunuzun boyutuyla aynı sorun Sistem ancak daha da kötüsü hızlı bir şekilde sıkışıp kaldığınız için (boyut = 4'ü çok zaman beklerseniz hariç elde etmek zordur).
Tabii ki, burada, sorunuza daha fazla bilgi verilir, çünkü aslında, kuantum çok-vücut fiziğinde, n = 3 yüksek değildir (ancak bir hiperküp olan kafes alırsanız, n = 3'ü alamazsınız. Elbette (koşullar nedeniyle).

Gerçek dünya:

Otomasyon% - örn. Bir şeyi% 30 veya% 50 veya% 80'de otomatikleştirmek kolaydır, bu arada örneğin% 95'in üzerine çıkmak zordur ve% 100'e ulaşmak inanılmaz derecede zor veya hatta neredeyse imkansızdır.