Bayesian posterior'un uygun bir dağılım olması gerekiyor mu?

Önceliklerin uygun olmadığına ve olasılık fonksiyonunun da 1 ile bütünleşmediğini biliyorum. Fakat posteriorun uygun bir dağılım olması gerekiyor mu? Öyle / değilse, ne anlama geliyor?

, Bildiğim kadarıyla söyleyebilirim, soru posterior olmak zorunda olsun veya olmasın, çünkü (O biraz önce doğru olduğunda arka potansiyel uygunsuzluk odaklanmak önceki cevapları, okumak için bir sürpriz olduğunu doğru ( yani, bir ile bütünleştirilebilir) uygun (yani Bayesci çıkarım için kabul edilebilir) bir posterior olmak.

Bayesian istatistiklerinde, posterior dağılımın , posterior ortalama gibi anları türetebileceği bir olasılık dağılımı olması gerekir π [ h ( θ ) | x $\mathbb{E}^\pi[h(\theta)|x]$ ve güvenilir bir bölgenin kapsamı gibi olasılık ifadeleri, $\mathbb{P}(\pi(\theta|x)>\kappa|x)$ . Eğer

$$\int f(x|\theta)\,\pi(\theta)\,\text{d}\theta = +\infty\,,\qquad (1)$$ posterior$\pi(\theta|x)$ olasılık yoğunluğuna normalleştirilemez ve Bayesian çıkarımı basitçe yapılamaz. Bu gibi durumlarda posterior yoktur.

Aslında, (1) her için geçerli olmalıdır $x$ örnek uzayında sitesindeki ve sadece için gözlenen $x$ , için, aksi takdirde, seçme öncesi bağlı olacaktır veri . Haldane'in önceki gibi önceki değerler bu araçlar $\pi(p)\propto \{1/p(1-p)\}$ , olasılık ile $p$ binominal veya negatif binom değişkeni $X$ arka için tanımlanmamıştır, çünkü kullanılamaz $x=0$ .

Birinin "uygunsuz posterleri" düşünebileceği bir istisna olduğunu biliyorum: David van Dyk ve Xiao-Li Meng tarafından "Veri Geliştirme Sanatı" nda bulundu . Uygun olmayan ölçü, gözlemin artırılmış bir dağılımın marjinali tarafından üretileceği şekilde çalışma parametresi üzerindedir, f ( x | θ ) = ∫ T ( x aug ) = x f ( x aug | θ , α $\alpha$ ve van Dyk ve Meng, MCMC tarafından π ( θ | x ) (olasılık yoğunluğu olarak iyi tanımlanmış olarak kalır ) simülasyonunu hızlandırmak içinbu çalışma parametresi α üzerineuygunsuz bir p ( α ) koydu.

$$f(x|\theta)=\int_{T(x^\text{aug})=x} f(x^\text{aug}|\theta,\alpha)\,\text{d}x^\text{aug}$$ $p(\alpha)$$\alpha$$\pi(\theta|x)$

Bir başka açıdan, eretmochelys'in cevabı ile ilgili olan Bayesçi karar teorisinin bir perspektifi olarak , (1) 'in meydana geldiği bir ortam, optimal kararlara yol açması halinde kabul edilebilir olabilir. Yani, eğer karar kullanarak etkisini değerlendirmek kaybı fonksiyonudur Í , bir Bayes optimal karar önce altında tt verilir δ ⋆ ( x ) = arg dakika δ ∫ L ( δ , İçeride ISTV melerin RWMAIWi'nin ) $L(\delta,\theta)\ge 0$$\delta$$\pi$ hususlar bu tamamlayıcı (her yerde olmadığını, tüm bu δ sonsuz). (1) 'in tutup tutmaması , guarant ⋆ ( x )' in türetilmesi için ikincildir, ancak kabul edilebilirlik gibi özellikler sadece (1) tutulduğunda garanti edilir.

$$\delta^\star(x)=\arg\min_\delta \int L(\delta,\theta) f(x|\theta)\,\pi(\theta)\,\text{d}\theta$$ $\delta$$\delta^\star(x)$

Ön dağılım uygun olsa bile posterior dağılımın doğru olması gerekmez. Örneğin, , 0.25 (daha uygun olan) şekline sahip bir Gamma olduğunu varsayalım ve veri sıfırımızı x bir Gauss dağılımından çizilen şekilde, ortalama sıfır ve varyans v ile modelledik . Diyelim ki x sıfır olarak gözlendi. Daha sonra p ( x | v ) olasılığı v - 0.5 ile orantılıdır , bu da v için posterior dağılımını uygunsuz kılar , çünkü v - 1.25 e - v ile orantılıdır$v$$x$$v$$x$$p(x|v)$$v^{-0.5}$$v$$v^{-1.25} e^{-v}$. Bu sorun, sürekli değişkenlerin tuhaf doğası nedeniyle ortaya çıkar.

$$\text{Bogus Data} = \left\{ x:\int f(x\mid \theta)\,\pi(\theta)\,d\theta = \infty \right\} \, ,$$ $$\mathrm{Pr}\left(X\in\text{Bogus Data}\right) = \int_\text{Bogus Data} \int f(x\mid \theta)\,\pi(\theta)\,d\theta\,dx = \int_\text{Bogus Data} \infty\,dx \, .$$ $\infty$$\text{Bogus Data}$$0$$1$$\text{Bogus Data}$$0$$\mathrm{Pr}\left(X\in\text{Bogus Data}\right)=0$

Sözler: Posterioru uygunsuz kılan bu örnek değerlerin önceden tahmin edilebilirliği sıfıra eşittir.

Hikayenin ahlaki: boş kümelere dikkat edin, ısırtabilirler, ancak mümkün olamayacak olsa da.

Not: Prof. Robert tarafından yorumlarda belirtildiği gibi, önceliğin uygunsuz olması halinde bu akıl yürütme patlar.

Herhangi bir "dağıtım", 1'e toplanmalı (veya bütünleşmelidir) 1'e normalize edilmemiş dağılımlarla çalışabileceği birkaç örnek düşünebilirim, ancak 1'e bir "dağıtım" dışında bir şeye marjinalleşen herhangi bir şeyi çağırmaktan rahatsızlık duyuyorum.

$x$$d$

$$\begin{align} \hat{x} &= \arg \max_x P_{X|D}(x|d) \\ &= \arg \max_x \frac{P_{D|X}(d|x) P_X(x)}{P_D(d)} \\ &= \arg \max_x {P_{D|X}(d|x) P_X(x)} \end{align}$$

$P_D$$x$$\hat{x}$$P_{D|X}(d|x) P_X(x)$

$n$$Beta(0,0)$