Poster önceliğe ve olasılığa göre çok farklı

Eğer önceki ve olasılık birbirinden çok farklıysa, bazen arkadakilerin hiçbirine benzemediği bir durum ortaya çıkar. Örneğin, normal dağılımları kullanan bu resme bakın.

Her ne kadar bu matematiksel olarak doğru olsa da, sezgilerime uygun gözükmüyor - veriler güçlü tutulan inançlarımla veya verilerle uyuşmuyorsa, hiçbir menzilin iyi geçmesini beklememeyi ya da düz bir poster beklememi beklerdim Tüm aralık veya belki de önceki ve olasılık etrafında bir iki modlu dağılım (hangisinin daha mantıklı geldiğinden emin değilim). Öncelikle inancımla ya da verilerimle uyuşmayan bir dizi etrafında kesinlikle dar bir poster beklemem. Daha fazla veri toplandıkça, posterior'un olasılığa doğru hareket edeceğini biliyorum, ancak bu durumda karşı sezgisel görünüyor.

Sorum şu: bu durum hakkındaki anlayışım nasıl hatalı (veya kusurlu). Posterior bu durum için 'doğru' fonksiyonudur. Ve değilse, başka nasıl modellenebilir?

Bütünlük uğruna, öncelik ve .N ( μ = 6.1 , σ = 0.4 $\mathcal{N}(\mu=1.5, \sigma=0.4)$$\mathcal{N}(\mu=6.1, \sigma=0.4)$

EDIT: Verilen cevapların bazılarına baktığımda, durumu çok iyi açıklamamış gibi hissediyorum. Demek istediğim, Bayesian analizinin , modeldeki varsayımlar göz önüne alındığında sezgisel olmayan bir sonuç ürettiği görülüyordu . Umudum, posterior'un bir şekilde belki de kötü durum modelleme kararlarını hesaba katacağıydı. Cevabımda bu konuda genişleyeceğim.

Evet, bu durum ortaya çıkabilir ve önceki ve örnekleme modelinde (olasılık) modelleme varsayımlarınızın özellikle normallik özelliğidir. Bunun yerine önceliğiniz için bir Cauchy dağılımı seçmiş olsaydınız, posterior çok farklı olurdu.

prior = function(x) dcauchy(x, 1.5, 0.4)
like = function(x) dnorm(x,6.1,.4)

# Posterior
propto = function(x) prior(x)*like(x)
d = integrate(propto, -Inf, Inf)
post = function(x) propto(x)/d$value

# Plot
par(mar=c(0,0,0,0)+.1, lwd=2)
curve(like, 0, 8, col="red", axes=F, frame=T)
curve(prior, add=TRUE, col="blue")
curve(post, add=TRUE, col="seagreen")
legend("bottomleft", c("Prior","Likelihood","Posterior"), col=c("blue","red","seagreen"), lty=1, bg="white")

Şimdiye kadar verilen cevaplara katılmıyorum - bu durum için tuhaf bir şey yok. Olasılık yine de asimptotik olarak normaldir ve normal bir önceki hiç görülmeyen bir durum değildir. Her ikisini de bir araya getirirseniz, önceki ve olasılıkların aynı cevabı vermemesi gerçeğiyle, burada bahsettiğimiz duruma sahibiz. Ben, onu, Baradniemi'nin kodu ile aşağıda betimledim.

Biz söz 1 Böyle bir gözlem normal sonucu ya a) Model yanlış b yapısal olduğu olacağını) verileri yanlış c) önceden yanlıştır. Ancak kesin olarak bir şeyler yanlış, ve yine de yapmanız gereken bazı posterli kestirim kontrolleri yaparsanız bunu da göreceksiniz.

1 Hartig, F .; Dyke, J .; Hickler, T .; Higgins, SI; O'Hara, RB; Scheiter, S. & Huth, A. (2012) Dinamik bitki örtüsü modellerinin verilere bağlanması - ters bir bakış açısı. J. Biogeogr., 39, 2240-2252. http://onlinelibrary.wiley.com/doi/10.1111/j.1365-2699.2012.02745.x/abstract

prior = function(x) dnorm(x,1,.3)
like = function(x) dnorm(x,-1,.3)

# Posterior
propto = function(x) prior(x)*like(x)
d = integrate(propto, -Inf, Inf)
post = function(x) propto(x)/d$value

# Plot
par(mar=c(0,0,0,0)+.1, lwd=2)
curve(like, -2, 2, col="red", axes=F, frame=T, ylim = c(0,2))
curve(prior, add=TRUE, col="blue")
curve(post, add=TRUE, col="seagreen")
legend("bottomleft", c("Prior","Likelihood","Posterior"), col=c("blue","red","seagreen"), lty=1, bg="white")

Bu soruya geldiğimde aradığım cevabı en iyisi Bayesian Biostatistics'deki Lesaffre ve Lawson tarafından en iyi şekilde özetlendi.

Arka hassas yani önce ve örnek kesinlikle toplamıdır:

$$\frac{1}{\sigma^2} = w_{0} + w_{1}$$ $\mu$$\sigma$

Bunun benim için özetlediği ve kabaca diğer cevaplarda belirtildiği gibi, normal öncelikleri normal bir olasılıkla modelleme durumunun, posterior'un ikisinden de daha kesin olduğu bir durumla sonuçlanabileceğidir. Bu, sezgiseldir, ancak bu öğelerin bu şekilde modellenmesinin özel bir sonucudur.

$X_1$$X_0$$\mu \sim N(1.6, 0.4^2)$$X_1 \sim N(\mu, 0.4^2)$$X_1$$X_1$$\sqrt{0.4^2 + 0.4^2}=0.56$$2\phi(-(6.1-1.6)/0.56)=9.3\cdot 10^{-16}$$\mu$

$X_0 \sim N(\mu,0.4^2)$$X_0$$X_0$$X_1$$|X_1-X_0|>6.1-1.6$

$X_0$$X_1$

Bir süre bunu düşündükten sonra, benim sonucum, kötü modelleme varsayımlarıyla birlikte, posterior'un önceki inançlara veya olasılıklara uygun olmayan bir sonuç olabileceğidir. Bundan doğal sonuç posteriorun genel olarak analizin sonu olmamasıdır . Eğer posteriorun verilere kabaca uyması gerekiyorsa veya önceki ile olasılık arasında dağınık olması gerekiyorsa (bu durumda), bu durum muhtemelen posterior-prediktif kontrol veya başka bir şeyle kontrol edilmek zorundadır. benzer. Bunu modele dahil etmek, mümkün olmadığını düşündüğüm olasılıksal ifadelere olasılık koyma yeteneğini gerektiriyor gibi görünmektedir.

Bence bu gerçekten ilginç bir soru. Uyudum, sanırım bir cevabımdan bir bıçak aldım. Anahtar konu aşağıdaki gibidir:

• Olasılığı Gauss pdf olarak gördünüz. Ama bu bir olasılık dağılımı değil - bir ihtimal! Dahası, ekseninizi net olarak etiketlemediniz. Birleştirilen bu şeyler, takip eden her şeyi karıştırdı.

$\mu$$\sigma$$P(\mu|\mu', \sigma')$$\mu'$$\sigma'$$P(X|\mu, \sigma)$$X$$P(\mu|X, \sigma, \mu', \sigma')$$\mu$

$\mu$$P(X|\mu)$

$\sigma'^2 = \sigma^2/N$$\sigma^2$$N$$X$

Öyleyse, önceki ve olasılık eşit derecede bilgilendirici. Neden arka bimodal değil? Bunun nedeni model varsayımların. Bu kurallara göre normal bir dağılım olduğunu varsaydınız (normalden önceki, normal olabilirlik) ve bu durumun arkaya dönük bir cevap vermesini engeller. Bu sadece normal dağılımların bir özelliği, problemi kullanarak bunları kullanmışsınızdır. Farklı bir model mutlaka bunu yapmazdı. Bir hüzünlü bir dağılımın multimodal bir olasılık olabileceği ve dolayısıyla multimodal bir posterior olabileceğine dair bir hisim var.

Dolayısıyla, tekdüze olmak zorundayız ve birincisi olasılık kadar bilgilendirici. Bu kısıtlamalar altında, en mantıklı tahmin, hangisinin inanacağını söyleyecek makul bir yolumuz olmadığı için, olasılık ile öncelik arasında doğrudan bir nokta gibi görünmeye başlamasıdır. Fakat posterior neden sıkılaşıyor?

$\sigma$$\mu$$\sigma$$\sigma$$\sigma$$\mu$

(Görselleştirmenin bir yolu, bir gaussun ortalamasını tahmin etmek, bilinen varyansı olan, sadece iki numune noktası kullanarak hayal etmek olabilir. Eğer iki numune noktası, gaussianın genişliğinden çok daha fazla ayrılırsa (yani dışarıda kuyruklarda), o zaman ortalamanın gerçekte aralarında yattığının güçlü bir kanıtı: Ortalamanın bu konumdan biraz hafifçe kaydırılması, bir örneğin ya da diğerinin ihtimalinde üssel bir düşüşe neden olacaktır.

Özetle, anlattığınız durum biraz gariptir ve modeli kullanarak sahip olduğunuzun farkına varmadığınız sorunla ilgili bazı varsayımları (örneğin tekdüze) dahil ettiniz. Ancak aksi takdirde, sonuç doğrudur.