Numune alamadığımız tek değişkenli dağıtım var mı?

Tek değişkenli dağılımlardan (ters dönüşüm, kabul-reddet, Metropolis-Hastings vb.) Rastgele üretim için çok çeşitli yöntemlere sahibiz ve tam anlamıyla herhangi bir geçerli dağıtımdan örnek alabileceğimiz anlaşılıyor - bu doğru mu?

Rastgele üretilmesi imkansız olan tek değişkenli dağıtım örneği verebilir misiniz? Sanırım imkansız olduğu yerde mevcut değil (?), Bu yüzden diyelim ki "imkansız" ile aynı zamanda çok hesaplı olarak pahalı, örneğin sadece bir kabul etmek için büyük miktarlarda örnek çekme gibi kaba kuvvet simülasyonları gerektiren durumlar bunlardan birkaçı.

Böyle bir örnek mevcut değilse, herhangi bir geçerli dağıtımdan rastgele çekiliş yapabileceğimizi kanıtlayabilir miyiz ? Bunun için karşı örnek olup olmadığını merak ediyorum.

Kümülatif dağılım işlevini biliyorsanız, analitik veya sayısal olarak tersine çevirebilir ve ters dönüşüm örnekleme yöntemini kullanarak rastgele örnekler https://en.wikipedia.org/wiki/Inverse_transform_sampling oluşturabilirsiniz .$F(x)$

tanımlayın . Bu, sürekli, ayrık veya herhangi bir kombinasyon olsun, tüm dağıtımları idare edecektir. Bu her zaman sayısal olarak ve belki de analitik olarak çözülebilir. U, Tekdüzen [0,1] olarak dağıtılan rasgele bir değişkenden, yani tekdüze [0,1] rasgele sayı üretecinden bir örnek olsun. Daha sonra , yukarıda tanımlandığı gibi , dağılımına sahip rastgele bir değişkenin rastgele örneğidir . F - 1 ( U ) F ( x $F^{-1}(y) = inf(x:F(x) \ge y)$$F^{-1}(U)$$F(x)$

Bu rastgele örnekler üretmenin en hızlı yolu olmayabilir, ancak F (x) 'in bilindiği varsayılan bir yoldur.

F (x) bilinmiyorsa, bu farklı bir hikaye.

Bir dağılım sadece moment üreten fonksiyonu veya karakteristik fonksiyonu Φ ( t ) = E [ exp { i t X } ] ile tanımlandığında , yol bulmak nadirdir bu dağılımlardan üretme.$\phi(t)=\mathbb{E}[\exp\{tX\}]$$\Phi(t)=\mathbb{E}[\exp\{itX\}]$

İlgili bir örnek, yoğunluk veya cdf için bilinen bir forma sahip olmayan, moment üreten fonksiyona sahip olmayan, ancak kapalı bir form karakteristik fonksiyonuna sahip olan kararlı dağılımlardan$\alpha$ yapılır .

Bayesci istatistiklerde, inatçı olabilirliklerle veya sadece bir bilgisayara sığmayacak kadar büyük veri kümeleriyle ilişkili posterior dağılımların simüle edilmesi (tam olarak) imkansız olarak görülebilir.

Sürekli dağılımlara atıfta bulunduğunuzu varsayarsak. Olasılık integrali dönüşümünü kullanarak, u ∼ ( 0 , 1 ) simülasyonunu yapıp F - 1 ( u ) alarak herhangi bir tek değişkenli dağıtımdan benzetim yapabilirsiniz . Böylece, bir üniforma taklit edebiliriz, o zaman bu kısım yapılır. F'den simülasyonu engelleyebilecek tek şey , ters F - 1'i hesaplayamamanızdır , ancak bu teorik bir şeyden ziyade hesaplama zorluklarıyla ilgili olmalıdır.$F$$u \sim (0,1)$$F^{-1}(u)$$F$$F^{-1}$

Şimdi soru, sadece bir ile herhangi bir model almak "dan numuneye zor" dönüştüğünü iddia inatçı olasılığı , modele bir önceki dağılımını atamak parametreler ve ilgi olduğunu varsayalım θ j girdilerinden birinin marjinal posterior dağılımında . Bu, olasılığın sürdürülemezliği nedeniyle inatçı olmayan posteriordan örneklemeniz gerektiğini ima eder.${\bf \theta} = (\theta_1,...,\theta_d)$$\theta_j$

Bazı durumlarda bu posteriordan yaklaşık olarak örnekleme yöntemleri vardır, ancak şu anda kesin bir genel yöntem yoktur.

Bu gerçekten bir cevap olup olmadığından emin değilim ... tahmin ediyorum (ama bilmiyorum) bir sadece sonlu katkı dağıtımından örnek olamaz. Bir örnek rasyonel sayılar üzerinde, sadece sonlu bir katkı maddesi dağılımı olarak var olabilen eşit dağılımdır. Bunu görmek için, gerekçelerinin bir numaralandırması olsun. Dağılım tekdüze olduğundan, herhangi bir i için P ( X = q i ) = 0 , bu yüzden ∑ ∞ i = 1 P ( X = q i$(q_i)_{i=1}^\infty$$P(X=q_i)=0$$i$ fakat P ( X ∈ Q ) = 1 .$\sum_{i=1}^\infty P(X=q_i)=0$$P(X\in \mathbb{Q})=1$

$\mu$$\pi(\mu) = 1$

Rastgele üretilmesi imkansız olan tek değişkenli dağıtım örneği verebilir misiniz?

$c$$c$

Yalnızca değerleri 64 bit kayan noktalı sayılarla makul olarak tahmin edilebilecek rastgele değişkenleri örneklemekle ilgileniyorsanız veya değerdeki sonlu hataya benzer bir toleransınız varsa ve örneklerinizi temsil etmiyorsunuz. , bunu düşün:

$X \sim \text{Ber}(p)$$p = 1 - c$$0$$1$

$0$$(-∞, c)$$1$$[c, ∞)$$0$$(-∞, 0)$$c$$[0, 1)$$1$$[1, ∞)$$c$$x$$y$-Axis. Hangi örnekleme zorlaştırır emin değilim, bu yüzden en çok ;-) gibi (dis) birini seçin

diyelim ki "imkansız" ile çok hesaplamalı pahalı, yani bunlardan sadece birkaçını kabul etmek için büyük miktarlarda numune çekmek gibi kaba kuvvet simülasyonları gerektiren durumlar kastediyoruz.

Bu durumda, açık cevap açık görünüyor:

• $n$$n$
• Bir kriptografik karma fonksiyonunun ön görüntülerini örnekleyin (yani bitcoin üretin ve git ve mercurial'ı kırın).
• Optimal Go stratejileri setini örnekleyin (anladığım kadarıyla tüm oyunları sonlu hale getiren Çin superko kuralları ile).

Biraz daha resmi olarak: Size NP-komple probleminin (veya EXP-complete vb.) Büyük bir örneğini veriyorum ve çözüm kümesini benim için eşit olarak örneklemenizi rica ediyorum.

$\bot$$\mathbb{R}$$-1$$\bot$

Herhangi bir doğruluk atamasının SAT örneğimi karşılayıp karşılamadığını kolayca kontrol edebilir ve herhangi birinin yaptığını bildiğiniz her şeyi kontrol ettikten sonra, size karşılık gelen dağıtımı örneklemek için henüz bir boolean formül (veya devre) vererek bir CDF belirledim. aslında en azından bir SAT-çözünebilirlik kehaneti kadar güçlü bir şey olmalısınız.

Böylece size dişlilerinize kum atması gereken hesaplanamayan bir sayı verdim ve hesaplaması yavaş olan bir CDF verdim. Belki sorulması gereken bir sonraki soru şu şekildedir: Verimli bir biçimde temsil edilen bir CDF var mı (örneğin polinom zamanında değerlendirilebilir), bu dağılımla numune üretmek zor olacak mı? Bunun cevabını bilmiyorum. Bunun cevabını bilmiyorum.