Sınırlı bir parametre alanında MCMC?

MCMC'yi bir soruna uygulamaya çalışıyorum, ancak önceliklerim (benim durumumda $\alpha\in[0,1],\beta\in[0,1]$ ) bir alanla sınırlı mı? Normal MCMC kullanabilir ve kısıtlı bölgenin dışında kalan örnekleri yok sayabilir miyim (bu durumda [0,1] ^ 2), yani yeni geçiş kısıtlı (kısıtlı) alanın dışına çıktığında geçiş işlevini yeniden kullanabilir miyim?

— Cupitor
kaynak

Bir göz atın: xianblog.wordpress.com/tag/constrained-parameter-spaces

— Zen

@Zen, tam olarak emin değilim ama Xian'ın önerdiği cevap, alt örneklemenin, MH kullanmak yerine, Gibbs örnekleyicisini kullanmak ve bir boyutun değerlerinden biri sınırı aşması durumunda tekrarlamaktır.

— Cupitor

MH parametre alanının dışında bir şey önerirse, kabul olasılığı

ayarlanır ve her şey yolunda gider. Ben MH sadece yorumladığı düşünüyorum

olarak

(bir tezahürü

önlem teoride).

0

$0$

0 / 0

$0/0$

0

$0$

0 \cdot \infty = 0

$0 \cdot \infty = 0$

— adam

@guy, ancak xian'ın sayfasındaki tartışmaya göre (Zen bağlantısının üstünde), Gibbs'in herhangi bir sebepten bahsetmeden üstünlüğü var gibi görünüyor!

— Cupitor

@Cupitor Bunu söylediğini görmüyorum. Sanırım bunun anlamı Gabriel'in Gibbs içinde Metropolis yapmasıydı.

— adam

Birkaç güzel, az ya da çok basit seçenekleriniz var. Üniformanız önceden onları basitleştirmeye yardımcı olur.

Seçenek 1: Bağımsızlık örnekleyici. Teklif dağıtımınızı, birim karesi üzerinde tekdüze bir dağılıma eşit olarak ayarlayabilirsiniz; bu, örneklerin siz çağırırken kısıtlı bölgenin dışında kalmamasını sağlar. Potansiyel olumsuz: Posterior birim karenin çok küçük bir bölgesinde yoğunlaşırsa, çok düşük bir kabul oranına sahip olabilirsiniz. OTOH, U (0,1) dağılımından daha hızlı rasgele sayılar üretmek zordur. Potansiyel ters: sizin için daha az iş.

2. Seçenek: Parametrelerinizi sınırlandırılmamış bir şeye dönüştürün, dönüştürülmüş parametreler için önerilerde bulunun, sonra parametreleri olasılık işlevlerinde kullanmak üzere geri dönüştürün. Bu durumda öncekinin dönüştürülmüş parametreler üzerinde olacağına dikkat edin, çünkü bunun için teklifte bulunuyorsunuz, bu yüzden yeni önceliği almak için dönüşümün Jacobian'ıyla uğraşmanız gerekecek. Analiziniz için, elbette, MCMC tarafından üretilen rasgele sayıları orijinal parametrelerine geri dönüştüreceksiniz. Potansiyel olumsuz: sizin için daha fazla başlangıç işi. Yukarı yönlü: teklifleriniz için daha iyi kabul oranı.

Seçenek 3: Birim karesinde bulunan bağımsızlık örnekleyicisinden başka bir teklif dağıtımı oluşturun. Bu, ünitenizi önceden korumanıza izin verir, ancak teklif olasılıklarını hesaplarken daha fazla karmaşıklık pahasına. Bunun bir örneği, parametrelerinizden birinin geçerli değeri olmasına izin vermek , parametrelerle bir Beta dağılımı olacaktır . ne kadar büyük olursa, teklifiniz o anki değerin etrafında o kadar yoğunlaşır. Potansiyel olumsuz: sizin için daha fazla başlangıç işi. Pptential Baş: teklifleriniz için daha iyi kabul oranı - ama yaparsanız $x$ $(nx, n(1-x))$ $n$ $n$ çok büyükse ve köşeye yaklaşırsanız, çıkmadan önce köşede çok sayıda küçük hamle yapabilirsiniz.

4. Seçenek: Birim karenin dışında kalan tüm teklifleri reddetmeniz yeterlidir (Xian'ın yarı yürekli önerisi). Bunun yalnızca başka bir teklif oluşturmakla aynı şey olmadığını unutmayın; bu durumda teklifi reddedersiniz, yani parametre için bir sonraki değeriniz parametre için geçerli değerle aynıdır. Bu, parametre alanınızın bazı bölgeleri için önceden sıfır olasılıkınız olsaydı ve o bölgeye düşen rastgele bir sayı oluşturduysanız ne olacağıdır. Potansiyel olumsuz: Bir köşeye yaklaşırsanız, düşük bir kabul olasılığınız olabilir ve bir süre takılabilirsiniz. Potansiyel ters: sizin için daha az iş.

Seçenek 5: Birim karede, karşılaştığınız gerçek problemle aynı olan düzlemde genişletilmiş bir sorun oluşturun, her şeyi doğru yapın, ardından MCMC örneklemesinin sonuçlarını işlerken, dışarıdaki tüm örnekleri dışarı atın birim karenin. Potansiyel olumsuz: Bu genişletilmiş problemi oluşturmak çok kolaysa, sizin için daha az iş olabilir. Potansiyel dezavantaj: Markov zinciri bir süre birim karesinin dışında bir yerde dolaşırsa, örneklerinizin çoğunu atacağınız için aslında korkunç kabul olasılıklarına sahip olabilirsiniz.

Şüphesiz başka seçenekler de var, diğer insanların önerilerini görmek isterim!

2 ve 3 arasındaki fark, gerçekte yaptığınız şey için gerçek çıkarımlara rağmen, bir dereceye kadar kavramsaldır. Sadece öneri dağıtım parametresi bazı ayarlama kenara (I R programlama ediyorsam) ve ekstra çaba miktarı R önerisi olasılıkları ne söylemesine izin istesem de muhtemelen, 3 ile giderdim , bakışlar benim için küçük. JAGS veya HATA kullansaydım, elbette, bu tamamen farklı bir mesele olurdu, çünkü bu araçlar kendi önerilerini ele alıyor. $n$

— jbowman
kaynak

Oyvermek! Böyle kapsamlı bir cevap için çok teşekkürler, ama takip etmek için mücadele ettiğim birkaç nokta var: 1) Aslında parametre alanı kare bir çizgi segmentinden geliyor ve bu nedenle üniforma örnekleme ile elde etmek gerçekten zor 2) Bu aslında oldukça iyi bir fikir gibi görünmüyor. Basit bir örnek vermek için, sadece dış alan olasılığını sıfıra ayarlayarak sınırlı örneği uzatmayı düşünün! Bu yakınsama sürecini çok yavaş yapar sanırım ve bu muhtemelen alt örnekleme benzer olacaktır

— Cupitor

3) Bu fikirle ilgili sorun, teklifinizin tersine çevrilemez olması ve bu nedenle, sonuçta ortaya çıkan örnekleme planının ergodik bir plan olmayabilir!

— Cupitor

4) denediğim ve makul göründüğüm yol (IMH!)

— Cupitor

(0, inf)

$(0,\inf)$

x \in (0, 1)

$x \in (0,1)$

β

$\beta$

α = 2.5

$\alpha=2.5$

(0.5, 1)

$(0.5,1)$

α = 3.2

$\alpha=3.2$

(0, 0.8)

$(0,0.8)$

α = 0.2

$\alpha=0.2$

(0.2, 0)

$(0.2,0)$