MCMC ve Metropolis-Hastings algoritmasını anlama

Son birkaç gündür Markov Zinciri Monte Carlo'nun (MCMC) nasıl çalıştığını anlamaya çalışıyorum. Özellikle Metropolis-Hastings algoritmasını anlamaya ve uygulamaya çalışıyorum. Şimdiye kadar algoritma hakkında genel bir anlayışa sahip olduğumu düşünüyorum ama henüz net olmayan birkaç şey var. Bazı modelleri verilere uydurmak için MCMC kullanmak istiyorum. Bu nedenle, gözlemlenen bazı veriler düz bir uydurmak için Metropolis-Hastings algoritması konusundaki anlayışımı anlatacağım :$f(x)=ax$$D$

1) için ilk tahminde bulunun . Bu ayarla mevcut olarak ( ). Ayrıca Markov Zinciri'nin ( ) sonuna ekleyin .$a$$a$$a$$a_0$$a$$C$

2) Aşağıdaki adımları birkaç kez tekrarlayın.

3) Mevcut olasılığını (değerlendirmek ) verilen ve .${\cal L_0}$$a_0$$D$

4) ve ile normal bir dağılımdan örnek alarak yeni ( ) önerin . Şimdilik, sabittir.$a$$a_1$$\mu=a_0$$\sigma=stepsize$$stepsize$

5) Yeni olasılığını (değerlendirmek ) verilen ve .${\cal L_1}$$a_1$$D$

6) Eğer daha büyük , kabul yeni olarak , ekleme bunun sonunda ve adım 2'ye geçin.${\cal L_1}$${\cal L_0}$$a_1$$a_0$$C$

7) ise küçüktür bir sayı (üretmek düzgün bir dağılım aralığında [0,1])${\cal L_1}$${\cal L_0}$$U$

8) ise iki likelihoods arasındaki farktan daha küçüktür ( - ), kabul yeni ürün olarak , ekleme bu sonunda ve adım 2'ye geçin.$U$${\cal L_1}$${\cal L_0}$$a_1$$a_0$$C$

9) Eğer , iki likelihoods arasındaki farktan daha büyük olan ( - ), ekleme sonunda , aynı kullanmaya devam , adım 2'ye gidin.$U$${\cal L_1}$${\cal L_0}$$a_0$$C$$a_0$

10) Tekrar Sonu.

11) (yakma aşaması) başlangıcından bazı elemanları çıkarın .$C$

12) Şimdi değerlerin ortalamasını alın . Bu ortalama tahmin ediliyor .$C$$a$

Şimdi yukarıdaki adımlarla ilgili bazı sorularım var:

• Nasıl için olabilirlik fonksiyonunu inşaa ederler değil, aynı zamanda herhangi bir keyfi bir işlev için?$f(x)=ax$
• Bu Metropolis-Hastings algoritmasının doğru bir uygulaması mı?
• 7. Adımda rastgele sayı oluşturma yönteminin seçimi sonuçları nasıl değiştirebilir?
• Birden fazla model parametresim varsa bu algoritma nasıl değişecek? Örneğin, modeline sahip olsaydım .$f(x)=ax+b$

Notlar / Krediler: Yukarıda açıklanan algoritmanın ana yapısı, bir MPIA Python Workshop'tan alınan koda dayanmaktadır.

Algoritmanın tanımında Metropolis-Hastings (MH) algoritmasının ne olduğu hakkında bazı yanlış algılar var gibi görünüyor.

Her şeyden önce, MH'nin bir örnekleme algoritması olduğunu anlamalıdır. Wikipedia'da belirtildiği gibi

İstatistiklerde ve istatistiksel fizikte, Metropolis-Hastings algoritması, doğrudan örneklemenin zor olduğu bir olasılık dağılımından rastgele örnekler dizisi elde etmek için bir Markov zinciri Monte Carlo (MCMC) yöntemidir.

MH algoritmasını uygulamak için , örneklemenin kolay olduğu bir teklif yoğunluğuna veya atlama dağılımına ihtiyacınız vardır. Bir dağılımından örnek almak isterseniz , MH algoritması aşağıdaki gibi uygulanabilir:$Q(\cdot\vert\cdot)$$f(\cdot)$

1. İlk rastgele durumu .$x_0$
2. Aday oluşturmak den .$x^{\star}$$Q(\cdot\vert x_0)$
3. oranını hesaplayın .$\alpha=f(x^{\star})/f(x_0)$
4. ifadesini olasılığının ile gerçekleştirilmesi olarak kabul edin .$x^{\star}$$f$$\alpha$
5. Al yeni başlangıç devlet olarak ve istenilen örnek boyutu elde edene kadar örnekleme devam edin.$x^{\star}$

Numuneyi aldıktan sonra yine de yakmanız ve inceltmeniz gerekir: örnekleyicinin asemptotik olarak çalıştığı göz önüne alındığında, ilk örneği (yanma) kaldırmanız ve numunelerin bağımlı olduğu göz önüne alındığında, her iterasyonunu alt örneklemeniz gerekir (inceltme).$N$$k$

R'deki bir örnek aşağıdaki bağlantıda bulunabilir:

http://www.mas.ncl.ac.uk/~ndjw1/teaching/sim/metrop/metrop.html

Bu yöntem, model parametrelerinin arka dağılımından örnekleme için Bayesçi istatistiklerde büyük ölçüde kullanılmaktadır.

Sınırlı bir kümedeki kısıtlamadığınız sürece , yoğunluğu olmadığı için kullandığınız örnek bana açık görünmüyor . Benim izlenimim, Metropolis-Hastings algoritmasının doğrusal regresyon bağlamında kullanımını kontrol etmenizi tavsiye ettiğim bir dizi noktaya düz bir çizgi yerleştirmekle ilgileniyorsunuz. Aşağıdaki bağlantı MH'nin bu bağlamda nasıl kullanılabileceği hakkında bazı fikirler sunmaktadır (Örnek 6.8):$f(x)=ax$$x$

Robert & Casella (2010), Monte Carlo Yöntemlerinin R , Ch ile Tanıtımı . 6, "Metropolis – Hastings Algoritmaları"

Bu sitede, olasılık işlevinin anlamı hakkında tartışan ilginç referanslara işaret eden birçok soru da vardır.

Olası bir başka işaretçi mcmc, MH algoritmasını komuttaki Gauss önerileriyle uygulayan R paketidir metrop().