Bayesci çıkarımda, bazı terimler neden posterior öngörücüden düşmektedir?


12

Kevin Murphy'nin Konjugat Bayesci'nin Gauss dağılımını incelemesinde , posterior tahmin dağılımının

p(xD)=p(xθ)p(θD)dθ

burada , modelin uygun olduğu ve görünmeyen veriler olduğu verilerdir. Anlamadığım şey , integralde ilk dönemde bağımlılığın neden ortadan kalktığı. Temel olasılık kurallarını kullanarak şunu beklerdim:DxD

p(a)=p(ac)p(c)dcp(ab)=p(ac,b)p(cb)dcp(xD)=p(xθ,D)p(θD)dθ

Soru: teriminde olan bağımlılık neden yok oluyor?D


Değeri için, bu tür bir formülasyon gördüm (koşullu değişkenleri bırakarak) başka yerlerde. Örneğin, Ryan Adam'ın Bayes Online Değişim Noktası Tespitinde posterior kestirimi şöyle yazar:

p(xt+1rt)=p(xt+1θ)p(θrt,xt)dθ

yine burada, ,D={xt,rt}

p(xt+1xt,rt)=p(xt+1θ,xt,rt)p(θrt,xt)dθ

Yanıtlar:


13

Bu varsayımına dayanır şartlı bağımsızdır verilen . Diyor tüm eğitim ve test verileri (yani, çünkü bu, birçok durumda makul bir varsayımdır ve , sırasıyla) bağımsız bilinmeyen parametreler aynı kümesinden oluşturulur . Bu bağımsızlık varsayımı göz önüne alındığında, ve böylece beklediğiniz daha genel formdan çıkar.xDθDxθp(x|θ,D)=p(x|θ)D

İkinci örneğinizde, benzer bir bağımsızlık varsayımının uygulandığı, ancak şimdi (açıkça) zaman içinde olduğu görülmektedir. Bu varsayımlar metinde başka bir yerde açıkça belirtilebilir veya sorunun bağlamına yeterince aşina olan herkes için açıkça anlaşılabilir (bu, belirli örneklerinizde - aşina olmadığım anlamına gelmese de) - yazarlar bu aşinalığa sahip olma hakkına sahipti).


9

Çünkü bu bağımsız olduğu varsayılır verilen . Başka bir deyişle, tüm verilerin parametreleriyle normal bir dağılımdan kaynaklandığı varsayılır . Bir kez gelen bilgiler kullanılarak dikkate alınır , o artık bilgi yoktur yeni bir veri noktası hakkında bize verdiği . Bu nedenle .xDθθθDDxp(x|θ,D)=p(x|θ)

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.