MCMC örneklerinden marjinal olasılığın hesaplanması

Bu tekrarlayan bir soru ( bu yazıya , bu yazıya ve bu yazıya bakın ), ancak farklı bir dönüşe sahibim.

Genel bir MCMC örnekleyiciden bir grup örneğim olduğunu varsayalım. Her örnek için $\theta$ , log olabilirlik $\log f(\textbf{x} | \theta)$ ve log değerini biliyorum $\log f(\theta)$ . Eğer yardımcı olursa, veri noktası başına log olasılığının değerini de biliyorum, $\log f(x_i | \theta)$ (bu bilgi WAIC ve PSIS-LOO gibi bazı yöntemlerde yardımcı olur).

Marjinal ihtimalin (kaba) bir tahminini, sadece sahip olduğum örneklerle ve muhtemelen birkaç diğer fonksiyon değerlendirmesinde (ancak bir özel MCMC'yi değiştirmeden) elde etmek istiyorum.

Her şeyden önce, masayı temizleyelim. Harmonik tahmin edicinin şimdiye kadarki en kötü tahmin edici olduğunu hepimiz biliyoruz . Hadi devam edelim. Önceden ve posteriorlarla Gibbs örneklemesini kapalı halde yapıyorsanız, Chib'in yöntemini kullanabilirsiniz ; ancak bu davaların dışında nasıl genelleştirileceğinden emin değilim. Örnekleme prosedürünü değiştirmenizi gerektiren yöntemler de vardır (örneğin temperli posteriorlar aracılığıyla ), ancak burada bununla ilgilenmiyorum.

Düşündüğüm yaklaşım, temel dağılımın bir parametrik (veya parametrik olmayan) şekli ile yaklaştırılması $g(\theta)$ ve ardından normalizasyon sabitinin $Z$ bir 1-D optimizasyon problemi (yani, arasındaki bir hatayı en aza indiren $Z$ olduğunu bulmaktan ibarettir. $Z g(\theta)$ ve $f(\textbf{x}|\theta) f(\theta)$ , örnekler üzerinde değerlendirildi). En basit durumda, posteriorun kabaca çok değişkenli normal olduğunu varsayalım, $g(\theta)$ çok değişkenli bir normal olarak ve bir Laplace yaklaşımına benzer bir şey elde edin (modun konumunu iyileştirmek için birkaç ek işlev değerlendirmesi kullanmak isteyebilirim). Bununla birlikte, $g(\theta)$ gibi çok değişkenli $t$ dağılımlarının değişken bir karışımı gibi daha esnek bir aileyi kullanabilirim .

Bu yöntemin sadece $Z g(\theta)$ makul bir yaklaştığı durumlarda işe yarar , ancak bunun yapmanın neden mantıklı olamayacağına dair herhangi bir sebep veya ihtiyati öykü mü? Tavsiye edebileceğin bir okuma var mı? $f(\textbf{x}|\theta) f(\theta)$

Tamamen parametrik olmayan yaklaşım, Gaussian işlemi (GP) gibi bazı parametrik olmayan aileleri, (veya bunun karekök gibi bazı diğer doğrusal olmayan dönüşümleri) ve Bayesian'ye yaklaştırmak için kullanır. altta yatan hedef üzerinde örtük olarak bütünleşmek için kuadratür ( buraya ve buraya bakınız ). Bu ilginç bir alternatif yaklaşım gibi gözükse de, ruh açısından benzer (aynı zamanda, pratisyen hekimlerin benim durumumda hantal olacağına dikkat edin). $\log f(\textbf{x}|\theta) + \log f(\theta)$

— lacerbi
kaynak

Bence Chib, S. ve Jeliazkov, I. 2001 "Metropolis'ten marjinal olabilirlik - Hastings çıktısı" normal MCMC çıktılarına genelleşiyor - bu yaklaşımla ilgili deneyimleri duymakla ilgilenecektir. GP'ye gelince - bu temel olarak, diğer problemler için de göz önünde bulundurabileceğiniz posterior emülasyonuna bağlı. Sanırım sorun, yaklaşımın kalitesinden asla emin olamamanız. Bir MCMC örneğinin bir GP modeli için ideal olup olmadığı veya kuyruklara daha fazla yatırım yapıp yapmamanız gerektiği de merak ediyorum.

— Florian Hartig

(+1) Referans için teşekkürler, açık görünüyor - Kontrol edeceğim. Tüm model tabanlı yaklaşımların sorunlu olabileceği konusunda hemfikirim (Bayesian karesi ile iyi olan şey, ne kadar kalibre edildiğinden emin olmamakla birlikte bir belirsizlik tahmininde bulunmanızdır). Şu an için mütevazı hedefim, "Laplace yaklaşımından daha iyi" bir şey yapmak.

— lacerbi

Chib ve Jeliazkov (2001) tarafından yapılan uzatma maalesef hızlı bir şekilde pahalı veya çok değişken oluyor, bu da Gibbs örnekleme vakalarının dışında fazla kullanılmamasının bir nedeni.

Orada birçok yolu vardır ve normalizasyon sabiti yaklaşımları olsa da (oldukça çeşitli görüşmelerde gösterdiği gibi tahmin problemi tahmin Sabit atölye slaytlar mevcuttur, biz Warwick Üniversitesi'nde geçen hafta koştu orada ), bazı çözümler doğrudan MCMC çıkışı istismar yok . $\mathfrak{Z}$

Bahsettiğiniz gibi, Newton ve Raftery'nin (1994) harmonik ortalama tahmincisi sonsuz bir varyansa sahip olmak için neredeyse her zaman zayıf. Ancak, harmonik ortalama kimliği yerine sonlu bir destek hedefi kullanarak sonsuz varyans lanetini önlemenin yolları vardır. seçerekposterior bir HPD bölgenin göstergesi olarak. Bu, kuyrukları harmonik ortalamada çıkararak sınırlı değişkenlik sağlar. (Detaylar bulunacak olanDarren Wraith'le yazdığı bir kağıtve bir denormale sabitler hakkında bölümdekısaca Jean-Michel Marin ile yazılmıştır.), Yöntem MCMC çıkışını geri dönüştürürtanımlayarak( % 20 diyelim) hedef bölgesinin en yüksek değerve oluşturma
$\int \frac{α (θ)}{π (θ) f (x | θ)} d π (θ | x) = \frac{1}{Z}$ $\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$ $\alpha$ $\theta_1,\ldots,\theta_M$ $\beta$ $\pi(\theta)f(x|\theta)$ $\alpha$ topları birliği üzerinde düzgün bir o büyük yoğunlukta merkezli olarak (HPD) simülasyonları ve yarıçap ile , normalize sabiti tahmin anlamına ile verilmektedir $\theta^0_i$ $\rho$ $\mathfrak{Z}$ eğerboyutudur(düzeltmeler topları kesen başvurusunda) ve eğerasla kesiştiği için topları için yeterince küçük olan (topları iyi sadece bir gösterge olduğu anlamına sıfırdan farklı). Açıklamasıpayda bu bir çift toplamı olmasıdıraçısından: ${\hat{Z}}^{- 1} = \underset{double sum over β M ball centres θ_{i}^{0} and M simulations θ_{m}}{\underset{⏟}{\frac{1}{β M^{2}} \sum_{m = 1}^{M}}} \underset{\frac{β M α (θ_{m})}{π (θ_{m}) f (x | θ_{m})}}{\underset{⏟}{I_{(0, ρ)} (min_{i} | | θ_{m} - θ_{i}^{0} | |) {π (θ_{m}) f (x | θ_{m})}^{- 1} / \overset{volume of ball with radius ρ}{\overset{⏞}{π^{d / 2} ρ^{d} Γ (d / 2 + 1)^{- 1}}}}}$ $\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$ $d$ $\theta$ $\rho$ $\alpha M^2$ $\beta M^2$ , her terimi ileiçin entegre. $\frac{1}{β M} \sum_{i = 1}^{β M} \underset{same as with min}{\underset{⏟}{\frac{1}{M} \sum_{m = 1}^{M} U (θ_{i}^{0}, ρ) (θ_{m})}} \times \frac{1}{π (θ_{m}) f (x | θ_{m})}$ $\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$ $\theta_m$ ${\mathfrak{Z}}^{-1}$
Başka bir yaklaşım, normalizasyon sabitini bir parametreye çevirmektir . Bu istatistiksel bir sapkınlık gibi geliyor ama Guttmann ve Hyvärinen'in (2012) yazdığı yazı beni tam tersine ikna etti. Çok fazla ayrıntıya girmeden, buradaki net fikir, gözlenen log olasılığını ortak bir log olasılığına dönüştürmektir. $\mathfrak{Z}$
$\sum_{i = 1}^{n} f (x_{i} | θ) - n \log \int \exp f (x | θ) d x$ $\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$ yoğunluk fonksiyonu olan bir Poisson noktanın prosesin log olasılık olan $\sum_{i = 1}^{n} [f (x_{i} | θ) + ν] - n \int \exp [f (x | θ) + ν] d x$ $\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$ $\exp {f (x | θ) + ν + \log n}$ $\exp\{ f(x|\theta) + \nu +\log n\}$ Bu, orijinal olasılığın yukarıdakilerin marjinali gibi görünmemesi için alternatif bir modeldir. Yalnızca modlar çakışır, koşullu mod ν da normalizasyon sabitini sağlar. Uygulamada, yukarıdaki Poisson süreci olasılığı kullanılamıyor ve Guttmann ve Hyvärinen (2012) lojistik bir regresyon yoluyla bir yaklaşım sunuyor. Sorunuzla daha da iyi bağlantı kurmak için Geyer'in tahmini, bir MLE'dir, bu nedenle bir büyütme sorununa çözümdür.
$\pi(\theta|x)$ $\pi(\theta|x)$ $g(\theta)$ $\pi(\theta|x)$ $g(\theta)$ ). Regresörler normalize olsun ya da olmasın, her iki yoğunluğun değerleridir. Bu, farklı hedeflerden örnekleri geri dönüştüren Gelman ve Meng (1997) köprü örneklemesiyle doğrudan bağlantılıdır. Ve daha sonraki sürümleri, Meng'in MLE'si gibi.
Birini belirli bir MCMC örnekleyiciyi çalıştırmaya zorlayan farklı bir yaklaşım Skilling'in iç içe örneklemesidir . Ben [ve diğerleri] yöntemin verimliliği üzerinde bazı çekinceleri var olsa da, benzeri yazılım ile, mevcut astrostatistics ve kozmolojideki oldukça popülerdir multinest .
$H_0: \theta=\theta_0$ $\xi$ $\pi_1(\theta)\pi_2(\xi)$ $H_0$ $B_{01} (x) = \frac{π^{θ} (θ_{0} | x)}{π_{1} (θ_{0})}$ $\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$ $\pi^\theta(\theta_0|x)$ $\theta$ $\theta_0$ $H_0: \theta=\theta_0$ $m_{0} (x) = \int_{Ξ} f (x | θ_{0}, ξ) π_{2} (ξ) d ξ$ $m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$ $m_{a} (x) = \int_{Θ \times Ξ} f (x | θ, ξ) π_{1} (θ) π_{2} (ξ) d θ d ξ$ $m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$

[İşte geçen Aralık ayında bir NIPS atölyesi için normalize edici sabitleri tahmin etme hakkında yazdığım bir dizi slayt .]

— Xi'an
kaynak

(+1) İnanılmaz derecede zengin cevap, teşekkür ederim. Bu benim için yararlı olacak ve sanırım, başka birçok insan. Çeşitli yaklaşımlara bir göz atmam biraz zaman alacak ve sonra belirli sorularla geri dönebilirim.

— lacerbi,

(1) noktasından başlayarak ... ilgili makaleleri okudum. "Düzeltilmiş" harmonik ortalama tahmincisi tam olarak aradığım şey gibi görünüyor . Bir MCMC çıktısı verilen hesaplama düzgün ve kolaydır. Öyleyse ... yakalamak ne? Google Akademik’te yapılan hızlı bir aramadan yola çıkarak, yöntemin yaygın olarak kullanıldığını görünmüyor. Sınırlamaları nelerdir? (yüksek boyutta çok karmaşık posteriorlar için bir sorun haline gelebileceğini düşündüğüm HPD bölgelerini belirleme ihtiyacının yanı sıra). Kesinlikle bir deneyeceğim - ama merak etmem gereken bir şey olup olmadığını merak ediyorum.

— lacerbi

Birkaç ayrıntı daha ekledim: HPD üniforma uygulamasındaki sorun, HPD bölgesi için uygun bir kompakt yaklaşım bulmaktır. Posterior değerleri yüksek olan noktaların dışbükey gövdesi, bu noktalara ortalanan topların kesişmesine neden olabilir; bu da ikincil normalize edici sabit bir problem oluşturur.

— Xi'an

@ Xi'an: çok yararlı, teşekkürler! Sorabilir miyim: tüm bu yaklaşımlardan hangisi, kutudan çıkma eğiliminde olan genel bir yaklaşım ararsa şu anda tavsiyeniz ne olurdu (yani, kullanıcının ayarlaması / kontrolü gerekmiyor)? Özellikle düşük (<50) parametreli, normal olmayan posteriorlu ve parametreler arasındaki güçlü korelasyonlu modeller söz konusu olduğunda ilgimi çekecektir.

— Florian Hartig

Z

$\mathfrak{Z}$