Metropolis-Hastings algoritmalı MCMC: Teklif seçme

3 parametreli bir fonksiyonun integralini değerlendirmek için bir simülasyon yapmam gerekiyor, $f$çok karmaşık bir formüle sahiptir. Hesaplamak için MCMC yöntemini kullanması ve Metropolis-Hastings algoritmasını şu şekilde dağıtılmış değerleri üretmek için kullanması istenir:$f$ve teklif dağılımı olarak 3 değişkenli normal kullanılması önerildi. Bununla ilgili bazı örnekleri okuduktan sonra, bazılarının sabit parametrelerle normal kullandığını gördüm$N(\mu, \sigma)$ ve değişken ortalama ile bazı kullanımlar $N(X, \sigma)$, nerede $X$ göre dağıtılan son kabul edilen değerdir $f$. Her iki yaklaşım hakkında da şüphelerim var:

1) Teklif dağılımımızın yeni ortalaması olarak son kabul edilen değeri seçmenin anlamı nedir? Sezgim, değerlerimizin şu şekilde dağıtılan değerlere daha yakın olacağını garanti etmesi gerektiğini söylüyor:$f$ve kabul etme şansı daha yüksek olurdu. Ama bizim örneğimize çok fazla konsantre değil mi? Daha fazla numune alırsam zincirin durağan olacağı garanti edilir?

2) Sabit parametreleri seçmezdim ($f$analiz etmek gerçekten zor) algoritmayı başlatmak için seçmemiz gereken ilk örneğe gerçekten zor ve bağımlı olmak? Bu durumda hangisinin daha iyi olduğunu bulmak için en iyi yaklaşım hangisidir?

Bu yaklaşımlardan biri diğerinden daha mı iyi, yoksa duruma bağlı mı?

Umarım şüphelerim nettir ve bazı literatür verilebilirse memnun olurum (tema hakkında bazı makaleler okudum, ama daha fazlası daha iyi!)

Şimdiden teşekkürler!

1) Bu yöntemi rastgele bir yürüyüş yaklaşımı olarak düşünebilirsiniz. Teklif dağıtımı$x \mid x^t \sim N( x^t, \sigma^2)$, genellikle Metropolis Algoritması olarak adlandırılır. Eğer$\sigma^2$çok küçükse, yüksek bir kabul oranınız olacak ve hedef dağılımı çok yavaş keşfedeceksiniz. Aslında, eğer$\sigma^2$çok küçük ve dağıtım çok modlu, örnekleyici belirli bir modda takılabilir ve hedef dağılımı tam olarak bulamayabilir. Öte yandan, eğer$\sigma^2$çok büyükse, kabul oranı çok düşük olacaktır. Üç boyutunuz olduğundan teklif dağıtımınızın bir kovaryans matrisi olacaktır$\Sigma$her boyut için farklı varyanslar ve kovaryanslar gerektirecektir. Uygun bir seçim yapmak$\Sigma$ zor olabilir.

2) Teklif dağıtımınız her zaman $N(\mu, \sigma^2)$, teklif dağıtımınız mevcut örneğinize bağlı olmadığından bu bağımsız Metropolis-Hastings algoritmasıdır. Bu yöntem, teklif dağıtımınız örneklemek istediğiniz hedef dağıtımın iyi bir tahmini ise en iyi sonucu verir. İyi bir normal yaklaşım seçmenin zor olabileceği konusunda haklısınız.

Her iki yöntemin de başarısı, örnekleyicinin başlangıç ​​değerine bağlı olmamalıdır. Nereden başlasanız da, Markov zinciri sonunda hedef dağılıma yaklaşmalıdır. Yakınsamayı kontrol etmek için, farklı başlangıç ​​noktalarından birkaç zincir çalıştırabilir ve Gelman-Rubin yakınsaklık teşhisi gibi bir yakınsama teşhisi yapabilirsiniz.