Markovianity'yi etkilemeden rastgele yürüyen MH MCMC'deki teklif dağılımını değiştirebilir miyim?


14

Simetrik öneri ile rastgele yürüyüş Metropolis-Hasitings

q(x|y)=g(|yx|) , kabul olasılığının

P(accept y)=min{1,f(y)/f(x)}

g (\ cdot) teklifine bağlı değildir g().

Bu , zincirin uyumluluğunu etkilemeden g() u zincirin önceki performansının bir fonksiyonu olarak değiştirebileceğim anlamına mı geliyor ?

Beni özellikle ilgilendiren, Kabul oranının bir fonksiyonu olarak Normal teklifin ölçeklenmesinin ayarlanmasıdır.

Birisi bu tür bir sorun için pratikte kullanılan adaptasyon algoritmalarına işaret edip edemeyeceğini de çok takdir edecektir.

Çok teşekkürler.

[değiştir: robertsy ve wok tarafından verilen referanslardan başlayarak MH adaptif algoritmalarında aşağıdaki referansları buldum:

Andrieu, Christophe ve Éric Moulines. 2006.
Bazı Uyarlamalı MCMC Algoritmalarının Ergodisite Özellikleri Üzerine. Yıllık Uygulamalı Olasılık 16, no. 3: 1462-1505. http://www.jstor.org/stable/25442804 .

Andrieu, Christophe ve Johannes Thoms.
2008. Uyarlamalı MCMC hakkında bir eğitim. İstatistik ve Hesaplama 18, no. 4 (12): 343-373'te tarif edilmektedir. DOI: 10.1007 / s11222-008-9110-y. http://www.springerlink.com/content/979087678366r78v/ .

Atchadé, Y., G. Fort, E. Moulines ve P. Priouret. 2009.
Uyarlamalı Markov Zinciri Monte Carlo: Teori ve Yöntemler. Ön baskı.

Atchadé, Yves. 2010.
Subgeometrik çekirdekli bazı uyarlanabilir MCMC algoritmaları için sınır teoremleri. Bernoulli 16, hayır. 1 (Şubat): 116-154. DOI: 10,3150 / 09-BEJ199. http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record .

Cappé, O., S.J. Godsill ve E. Moulines. 2007.
Monte Carlo'daki mevcut yöntemlere ve son gelişmelere genel bir bakış. IEEE 95'in bildirileri, no. 5: 899-924'te açıklanmaktadır.

Giordani, Paolo. 2010.
Normal Karışımların Hızlı Tahminiyle Uyarlanabilir Bağımsız Metropolis – Hastings. Hesaplamalı ve Grafik İstatistik Dergisi 19, no. 2 (6): 243-259. doi: 10,1198 / jcgs.2009.07174. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174 .

Latuszynski, Krzysztof, Gareth O Roberts ve Jeffrey S Rosenthal. 2011.
Uyarlanabilir Gibbs örnekleyicileri ve ilgili MCMC yöntemleri. 1101.5838 (30 Ocak). http://arxiv.org/abs/1101.5838 .

Pasarica, C. ve A. Gelman. 2009.
Metropolis algoritmasını beklenen kare atlama mesafesini kullanarak uyarlamalı olarak ölçeklendirme. Statistica Sinica.

Roberts, Gareth O. 2009.
Uyarlamalı MCMC örnekleri. Hesaplamalı ve Grafik İstatistik Dergisi 18, no. 2 (6): 349-367. doi: 10,1198 / jcgs.2009.06134. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134 .

]


Neden SO kaydınızdan +100 bonusunuz yok?

@mbq, muhtemelen bu hesabı uzun zaman önce OS'de 0 iken oluşturduğum için ... yazık, CW'de 100 büyük bir anlaşma gibi görünüyor, çünkü burada sorulara cevap vermek için gerçek bir adam olmalısın :)
VitoshKa

Tüm ilişkilendirmeleri temizleyip hesapları tekrar ilişkilendirerek bonusu alabilirsiniz.
Wok

Yanıtlar:


7

Bence bu kağıt Heikki Haario ve arkadaşlarının dan. size ihtiyacınız olan cevabı verecektir. Zincirin pazarlığı, teklif yoğunluğunun adaptasyonundan etkilenir, çünkü o zaman yeni bir önerilen değer sadece bir öncekine değil, tüm zincire bağlıdır. Ancak, büyük özen gösterildiğinde dizinin hala iyi özelliklere sahip olduğu görülmektedir.


iyi referans için teşekkürler robertsy. aslında süreç markov değildir. Kabul olasılığı geçmişten bağımsız olsa bile, sürecin geçiş çekirdeği teklif yoğunluğunun bir fonksiyonudur ve bu nedenle tüm zincire bağlıdır.
VitoshKa

3

Tierney, Mira (1999) ' da tarif edildiği gibi gecikmeli ret kullanarak kabul oranını artırabilirsiniz . Bu, ikinci bir teklif fonksiyonuna ve Markov zincirinin aynı değişmez dağılımla hala tersine çevrilebilir olduğunu garanti eden ikinci bir kabul olasılığına dayanıyor : " işe yaramış gibi görünen ancak aslında uyarlanabilir yöntemler oluşturmak kolay olduğu için dikkatli olmalısınız. msgstr " yanlış dağıtımdan örnek ".


3

Kullanıcıların wok ve robertsy tarafından önerilen yaklaşımlar, aradıklarımın bildiğim en yaygın örneklerini kapsar. Sadece bu cevapları genişletmek için, Haario ve Mira 2006'da iki yaklaşımı birleştiren bir makale yazdılar: DRAM (gecikmeli reddetme uyarlamalı Metropolis) dedikleri bir yaklaşım .

Andrieu, Haario 2001'i kapsayan ancak son yıllarda önerilen çeşitli alternatifleri tartışan çeşitli farklı uyarlanabilir MCMC yaklaşımlarına (pdf) iyi bir şekilde sahiptir.


1

Bu benim bir yayının utanmaz fişin biraz, ama biz bunu tam olarak bu yer bu işin ( arXiv ). Diğer şeylerin yanı sıra, kabulü iyileştirmek için üstel dağılımın varyansını uyarlamayı öneriyoruz (kağıttaki algoritmada S3.2 adımı).

Bizim durumumuzda, asimptotik olarak adaptasyon, teklif dağılımını değiştirmez (bu makalede, . Böylece, asimptotik olarak, süreç hala Wang-Landau algoritması ile aynı ruhla Markovian . Sürecin ergodik olduğunu ve seçtiğimiz hedef dağılımından zincir örneklerini (örneğin Şekil 4'ün sol alt paneli) sayısal olarak doğrularız.f1

Kabul oranı hakkında bilgi kullanmıyoruz, ancak ilgilendiğimiz miktardan bağımsız bir kabul görüyoruz (bir spin sisteminin enerjisine eşdeğer, Şekil 4'ün sağ alt kısmı).

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.