MCMC algoritmalarındaki hata örnekleri

Markov zinciri Monte Carlo yöntemlerinin otomatik kontrolü için bir yöntem araştırıyorum ve bu tür algoritmaları oluştururken veya uygularken ortaya çıkabilecek bazı hata örnekleri istiyorum. Yayımlanan bir makalede yanlış yöntem kullanılmışsa, bonus puan.

Özellikle hatanın, zincirin hatalı değişmeyen dağılıma sahip olduğu anlamına geldiği, ancak diğer hata türlerinin (örneğin zincir ergodik değil) de ilgi çekici olacağı durumlar ile ilgileniyorum.

Böyle bir hatanın örneği, Metropolis-Hastings önerilen bir hareketi reddettiği zaman bir değer üretememek olabilir.

mcmc

— Simon Byrne
kaynak

En sevdiğim örneklerden biri Harmonik ortalama tahmincisi çünkü güzel asimptotik özelliklere sahip ama pratikte başarısız oluyor. Radford Neal bunu blogunda tartışıyor: "Kötü haber, bu tahmin edicinin doğru cevaba yaklaşması için gereken puan sayısının genellikle gözlemlenebilir evrendeki atom sayısından daha fazla olacağıdır". Bu yöntem uygulamalarda yaygın olarak uygulanmaktadır.

Bir diğeri Prof. Neal nezaket.

— Cyan

@Cyan Neal'ın ciddiye alınması için, sadece internette yayınlamak yerine makalesini kabul edecek bir dergi bulması gerektiğini düşünüyorum. Haklı olduğuna, hakemlerin ve yazarın yanlış olduğuna kolayca inanabilirim. Yayınlanan sonuçlarla çelişen makalelerin yayınlanması zor olsa da ve JASA'nın reddi cesaret kırıcı olsa da, başarılı olana kadar diğer birkaç dergiyi denemeliydi. Bulgularınıza güvenilirlik eklemek için bölüm içi ve bağımsız bir hakeme ihtiyacınız var.

— Michael R. Chernick

Biri hep Prof. Neal'ı ciddiye almalı! o) Cidden bunun gibi sonuçların yayınlanması zor, ve ne yazık ki modern akademik kültürün bu tür bir şeye değer vermeyeceği utanç verici, bu yüzden onun için yüksek öncelikli bir etkinlik değilse anlaşılabilir. İlginç bir soru, cevapları ile çok ilgileniyorum.

— Dikran Marsupial

@Michael: Belki de. Neal'ın durumu da dahil olmak üzere, benzer durumların tüm taraflarında bulunduğum için, birçok durumda, benim anekdot gözlemlerim, kağıt reddinin çoğu durumda olduğu gibi, çoğu durumda olduğu gibi çok az bilgi içeriği taşıdığıdır. Hakem değerlendirmesi, insanların kabul etmekten daha gürültülü olduğu yönündedir ve burada olduğu gibi , oyunda kısmi ve ilgili (bağımsız değil) partiler ve çıkarlar vardır. Bununla birlikte, orjinal yorumumu bizi konuyla ilgili uzağa götürmek niyetinde değildim. konuyla ilgili düşüncelerinizi paylaştığınız için teşekkür ederiz.

— kardinal

Yanıtlar:

1. Marjinal Olabilirlik ve Harmonik ortalama tahmincisi

Marjinal olasılık arka dağılımının normale sabiti olarak tanımlanır

p (x) = \int_{Θ} p (x | θ) p (θ) d θ .

$p({\bf x})=\int_{\Theta}p({\bf x}\vert\theta)p(\theta)d\theta.$

Bu miktarın önemi oynadığı rolün gelen modeli karşılaştırıldığında aracılığıyla Bayes faktörleri .

Bu miktarın yaklaştırılması için çeşitli yöntemler önerilmiştir. Raftery ve diğ. (2007) sadeliği nedeniyle hızla popüler olan Harmonik ortalama tahmincisini önermektedir . Fikir ilişkinin kullanılmasından ibarettir.

\frac{1}{p (x)} = \int_{Θ} \frac{p (θ | x)}{p (x | θ)} d θ .

$\dfrac{1}{p({\bf x})}=\int_{\Theta}\dfrac{p(\theta\vert{\bf x})}{p({\bf x}\vert\theta)}d\theta.$

Posterior bir örnek varsa, bu nedenle, demek , bu miktar yaklaşık olarak hesaplanabilir $(\theta_1,...,\theta_N)$

\frac{1}{p (x)} \approx \frac{1}{N-} Σ_{j = 1}^{N-} \frac{1}{p (x | θ_{j})} .

$\dfrac{1}{p({\bf x})}\approx\dfrac{1}{N}\sum_{j=1}^N \dfrac{1}{p({\bf x}\vert\theta_j)}.$

Bu yaklaşım, Önem Örnekleme kavramı ile ilgilidir .

Neal'ın blogunda tartışıldığı gibi, büyük sayılar yasası uyarınca, bu tahmin edicinin tutarlı olduğunu biliyoruz . Sorun, iyi bir yaklaşım için gereken çok büyük olması olabilir. Bazı örnekler için Neal'ın bloguna veya Robert'in blogları 1 , 2 , 3 , 4'e bakın. $N$

Alternatifler

yaklaşmak için birçok alternatif vardır . Chopin ve Robert (2008) bazı Önem örneklemesine dayalı yöntemler sunmaktadır. $p({\bf x})$

2. MCMC örnekleyicinizi yeterince uzun süre çalıştırmama (özellikle multimodalite varlığında)

Mendoza ve Gutierrez-Peña (1999) , iki normal aracın oranı için önceki / arkadaki referansı bulur ve gerçek bir veri seti kullanarak bu modelle elde edilen çıkarımların bir örneğini sunar. MCMC yöntemlerini kullanarak, aşağıda gösterilen ortalamaların oranının arka kısmının boyutunda bir örnek elde ederler. $2000$ $\varphi$

görüntü tanımını buraya girin

$\varphi$ $(0.63,5.29)$ $0$ $0$

görüntü tanımını buraya girin

$(0,7.25)$

3. Diğer bazı sorunlar böyle değerlendirmek yakınlaşma, değerlerini başlangıç seçenek olarak, zincirin zayıf davranışı bu bulunabilir tartışma Gelman, Carlin ve Neal tarafından.

4. Önem Örnekleme

Bir integrali yaklaştırmak için kullanılan bir metot, integralini yoğunluğu ile çarpmaktan ibarettir. $g$

ben = \int f (x) d x = \int \frac{f (x)}{g (x)} g (x) d x .

$I=\int f(x)dx = \int \dfrac{f(x)}{g(x)}g(x)dx.$

$g$ $(x_1,...,x_N)$ $I$

ben \approx \frac{1}{N-} Σ_{j = 1}^{N-} \frac{f (x_{j})}{g (x_{j})} .

$I\approx \dfrac{1}{N}\sum_{j=1}^N \dfrac{f(x_j)}{g(x_j)}.$

$g$ $f$ $N$

# Integrating a Student's t with 1 d.f. using a normal importance function   
x1 = rnorm(10000000)   # N=10,000,000
mean(dt(x1,df=1)/dnorm(x1))

# Now using a Student's t with 2 d.f. function
x2 = rt(1000,df=2)
mean(dt(x2,df=1)/dt(x2,df=2))

Harika örnekler bunlar. İlgilenen herkes için, rakam ile editöre mektup burada: onlinelibrary.wiley.com/doi/10.1002/bimj.200800256/abstract

— Simon Byrne

Çok güzel ve net özeti! (+1)

— gui11aume

Onun Darren Wilkinson blogda rasgele yürüyüş Metropolis-Hastings ortak bir yanlışa ayrıntılı bir örnek verir. Tamamen okumanızı tavsiye ederim, ancak burada tl; dr versiyonudur.

Hedef dağılımı bir boyutta (Gamma dağılımları gibi ) pozitifse , o boyutta negatif bir değeri olan önerileri hemen reddetmek caziptir. Hata, hiç olmadığı gibi teklifleri atmak ve sadece diğerlerinin Metropolis-Hastings (MH) kabul oranını değerlendirmektir. Bu bir hatadır çünkü simetrik olmayan bir teklif yoğunluğu kullanıyor.

Yazar iki düzeltmeden birini uygulamanızı önerir.

“Olumsuzları” başarısız kabul olarak kabul et (ve biraz verim kaybet).
Bu durumda doğru MH oranını kullanın.

\frac{π (x^{*})}{π (x)} \frac{Φ (x)}{Φ (x^{*})},

$\frac{\pi(x^*)}{\pi(x)} \frac{\Phi(x)}{\Phi(x^*)},$

$\pi$ $\Phi$ $\phi$ $\Phi(x) = \int_0^{\infty} \phi(y-x)dy$

— gui11aume
kaynak

+1 İlginç bir örnek. MH ile kabul oranı ile ilgili diğer konuları da düşünüyordum. Ben 0.234 optimal oranın aşırı kullanıldığını düşünüyorum.

@Procrastinator MCMC literatürünü çok iyi biliyorsunuz. Bu sizin uzmanlık alanınız mı?

— gui11aume

Yorumun için teşekkürler. Bayesian istatistiklerini seviyorum, daha sonra MCMC çaprazını taşımalıyım;).

Çok net bir durum (ilk cevapta belirtilen marjinal olabilirlik yaklaşımı ile bağlantılı) gerçek yakınsama, Chib'in (1995) tahmincisinin kullanımıyla birleştiğinde karışım modellerinde etiket değiştirme probleminin bir örneğidir . Radford Neal'in (1999) işaret ettiği gibi , eğer MCMC zinciri doğru bir şekilde birleşmezse, hedef dağılım modunun bir kısmını keşfediyor olması anlamında, Chib'in Monte Carlo yaklaşımı doğru sayısal değere ulaşamaz.

— Xi'an
kaynak