Posterior ve posterior prediktif dağılım arasındaki fark nedir?


31

Bir Posterior'un ne olduğunu biliyorum ama ikincisinin ne anlama geldiğinden emin değilim?

2 farklı nasıl?

Kevin P Murphy, ders kitabındaki Makine Öğrenmesi: Olasılıklı bir Perspektif olduğunu, “içsel bir inanç hali” olduğunu belirtti. Bu gerçekten ne anlama geliyor? Bir Prior'ın içsel inancınızı veya önyargınızı temsil ettiği izlenimindeydim, nerede yanlış yapıyorum?

Yanıtlar:


36

İkisi arasındaki basit fark arka dağıtım bilinmeyen parametre bağlı olmasıdır , yani arka dağılımı şöyle: nerede normalleştirme sabitidir.θ

p(θ|x)=cxp(x|θ)p(θ)
c

Öte yandan, arkadaki öngörüsel dağılım, bilinmeyen parametresine bağlı değildir, çünkü dışarıya entegre edilmiştir, yani, arkadaki tahmin edici dağılım şudur: θ

p(x*|x)=Θcxp(x*,θ|x)dθ=Θcxp(x*|θ)p(θ|x)dθ

nerede Yeni bir gözlemlenmemiş rasgele değişkendir ve bağımsızdır .x*x

Bunu anladığınızı söylediğiniz için posterior dağılım açıklaması üzerinde durmayacağım, fakat posterior dağılım "elde edilen kanıtlara bağlı olarak rastgele bir değişken olarak kabul edilen bilinmeyen bir miktarın dağılımıdır" (Wikipedia). Yani temelde bilinmeyen, rastgele, parametrenizi açıklayan dağılımıdır.

Öte yandan, posterior tahminsel dağılımın tamamen farklı bir anlamı vardır, çünkü önceden tahmin ettiğiniz verilerin önceden gördüğünüz verilere dayanarak dağılımıdır. Bu nedenle, posterior öngörücü dağılım temel olarak yeni veri değerlerini tahmin etmek için kullanılır.

Yardımcı olursa, posterior dağılım ve posterior tahmin dağılımının bir örneğidir:

görüntü tanımını buraya girin

görüntü tanımını buraya girin


3
Bu posterior kestirimci dağılım grafiği, yeni eksen etiketlerine ve bir başlık veya başka bir şeye ihtiyaç duyar. Bu fikre kapılıyorum çünkü posterior bir tahmine dayalı dağılımın ne olduğunu biliyorum;
Camgöbeği

Thanks @BabakP, aynı zamanda, teta'nın pmf'sini çizmek için hangi dağıtımın kullanıldığını işaret eder ve P (x * | theta)
AD 3

... çünkü tüm örneği çözmek istiyorum.
AD

Ben sadece posteriorumun Beta olduğunu iddia ettim (3,2). Aslında hiçbir şey yapmadım. Fakat elbette, bir örnek istiyorsanız, olasılığın Binom (n, p) olduğunu ve p'nin önceki bölümünün bir Beta (a, b) olduğunu varsayalım, o zaman posteriorun bir kez daha bir beta dağılımı olduğunu öğrenebilmelisiniz. .

Ayrıca, bu posterior öngörücü türetilmesi kolay değildir. Ben sadece bir GP arka öngörüsü için yazdığım bazı Gauss İşlemleri kodundan bir grafik aldım. Bununla birlikte, yukarıdaki posterior ve o posterior öngörücü arsa aslında gösterilen posterle uyuşmuyor, ikisi de keyfi.

11

Tahmini dağılım, genellikle bir tür tahmine dayalı modelin parametresi için bir posterior dağılım öğrendiğinizde kullanılır. Örneğin, Bayesian doğrusal regresyonda, bazı gözlemlenen veri X verilmiş olan y = wX modelinin w parametresi üzerinde bir arka dağılım öğrenirsiniz.
Sonra, yeni bir görünmeyen veri noktası x * geldiğinde, olası tahminler üzerindeki dağılımı bulmak istersiniz. * az önce öğrendiniz için posterior dağılımı verildi. Bu muhtemel y * 'nin üzerindeki dağılım, w için posterior ise, tahmin dağılımıdır.


5

İki farklı şeyin dağılımına atıfta bulunurlar.

Posterior dağılım parametrenin dağılımını belirtirken , öngörücü posterior dağılım (PPD) gelecekteki veri gözlemlerinin dağılımını belirtir .

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.