Olasılık Dağılımları ve Hesaplama Karmaşıklığı

Bu soru olasılık teorisinin ve hesaplama karmaşıklığının kesişimi ile ilgilidir. Önemli bir gözlem, bazı dağılımların üretilmesinin diğerlerinden daha kolay olduğudur. Örneğin, sorun

Bir sayısı verildiğinde , ile eşit olarak dağıtılmış bir sayı . $n$ $i$ $0 \leq i < n$

çözmek kolaydır. Öte yandan, aşağıdaki sorun çok daha zor veya öyle görünüyor.

Bir sayısı verildiğinde , sayısını (Gödel sayısı) Peano aritmetiğinde geçerli bir uzunluk n'si olarak gösterecek şekilde bir sayısı döndürün. Bu tür deliller sayısıdır Ayrıca, eğer ise, olasılık uzunluğunun belirli bir kanıt elde etmek için olmalıdır . $n$ $i$ $i$ $pr(n)$ $n$ $\frac{1}{pr(n)}$

Bu bana olasılık dağılımlarının hesaplama karmaşıklığı kavramıyla geldiğini gösteriyor. Dahası, bu karmaşıklık muhtemelen altta yatan karar problemleriyle yakından ilişkilidir (özyinelemeli, örneğin , , özyinelemeli, özyinelemeli olarak numaralandırılabilir veya daha kötüsü). $P$ $EXP$

Benim sorum şu: Kişi, özellikle temel karar sorununun karar verilemediği durumlarda, olasılık dağılımlarının hesaplama karmaşıklığını nasıl tanımlar? Bunun zaten araştırıldığından eminim, ama nereye bakacağımdan emin değilim.

— Martin Berger
kaynak

Bir başka ilginç örnek (ancak karar verilebilir) kuantum fourier dönüşümüdür. Verilen dönüş sayısı olasılığının bu şekilde olan orantılı, .

f (k) = a^{k} \mod b

$f(k)=a^k \mod b$

l \in [0, N]

$l \in [0,N]$

l

$l$

| F (l) |

$\left|F(l)\right|$

F (l) = \sum_{k = 0}^{N} f (k) e^{- 2 π i k l / N}

$F(l) = \sum_{k=0}^N f(k) e^{-2\pi ikl/N}$

— Gezici Mantık

Her iki örnekte de muntazam dağılımlar gösterilebilir. Farklı karmaşıklıkları saymak ne kadar zor olacağını düşünürdümburada destek.

| χ |

$|\chi|$

χ

$\chi$

— Nicholas Mancuso

@NicholasMancuso Sayım + biçimsiz seçimin her zaman kullanılabileceğini kabul ediyorum. Yani bir anlamda bir üst sınır veriyor. Söylenebilecek bu kadar mı? Bu literatürde nerelerde incelenmiştir?

— Martin Berger

@NicholasMancuso Verdiğim örnekler tekdüze dağılımlardır. Ancak aynı soru aynı olmayan dağılımlar hakkında da sorulabilir. üzerindeki dağılımlar da merak edilebilir . Saygılarımızla ayrık dağılımlar gibi: ilk bakışta, sayma yeterince genel olmak görünmüyor, ayrıca oluşturmak gerekiyor seni düzgün seçtikten sonra, -th eleman . Bununla birlikte, saymanın sorunun özü olduğu söylenebilir.

R

$\mathbb{R}$

i

$i$

i

$i$

— Martin Berger

@NikosM. Teşekkürler, ancak bu bağlantı da temeldeki dağıtımın karmaşıklığı hakkında bir şey söylemez. Referans tekdüze dağılımda bir dönüşüm bahsediyor . Ancak bu dönüşüm, hesaplama açısından zor / veya kolay olabilir.

ϕ

$\phi$

— Martin Berger

Olasılık dağılımlarının karmaşıklığı, özellikle Levin'in ortalama vaka karmaşıklığı teorisindeki DistNP gibi dağıtım problemlerinin araştırılmasında ortaya çıkar .

Bir dağılım, kümülatif yoğunluk fonksiyonu polinom zamanında değerlendirilebiliyorsa P ile hesaplanabilir .

Polinom zamanında onlardan numune alabiliyorsak , bir dağılım P-örneklenebilir .

Bir dağıtım P-hesaplanabilir ise P-örneklenebilir. Belirli tek yönlü işlevler mevcutsa bunun tersi geçerli değildir.

Tanımları diğer karmaşıklık sınıflarına genişletebilirsiniz.

Oded Goldreich , kontrol etmek isteyebileceğiniz konuyla ilgili güzel bir tanıtım notuna sahiptir .

— Kaveh
kaynak

Teşekkürler, sanırım örneklenebilir dağılım teorisi aradığım şey gibi. Ama dikkat kısıtlamak için hiçbir neden yoktur , tanımlayabilirsiniz herhangi karmaşıklığı sınıfı için -samplable dağılımları . Olasılıklı programlama dillerinin son zamanlarda yükselişi ile bu hayati önem kazanıyor.

P

$P$

P

$P$

C

$C$

C

$C$

— Martin Berger

@Martin, evet. Orada Olasılık Programlama üzerine bir öğretici ( slaytlar Bunu çok ilginç buldum katıldı insanları duyduğumuz NIPS 2015 de video sıra yayınlanmıştır olacak). ML / Stats ve PL kesişiminde çalışan insanları görmek güzel. :)

— Kaveh

Evet ve asıl sorun, bu tür dillerin (= genel, programlanabilir örnekleyiciler) yavaş olmasıdır. Onları nasıl hızlandırabiliriz?

— Martin Berger