Posterior dağılımı zaten biliyorsak neden posterior dağılımdan numune almak gerekir?

Anladığım kadarıyla parametre değerlerini tahmin etmek için Bayesci bir yaklaşım kullanırken:

Posterior dağılım önceki dağılım ve olasılık dağılımının kombinasyonudur.
Bunu posterior dağılımdan bir örnek oluşturarak simüle ediyoruz (örneğin, değerleri oluşturmak için bir Metropolis-Hasting algoritması kullanarak ve posterior dağılıma ait olma olasılığının belirli bir eşiğinin üzerindeyse bunları kabul ediyoruz).
Bu örneği oluşturduktan sonra, posterior dağılımı ve ortalamaları gibi şeyleri yaklaşık olarak tahmin etmek için kullanırız.

Ama bir şeyi yanlış anlamam gerektiğini hissediyorum. Görünüşe göre bir posterior dağılımımız var ve ondan örnek alıyoruz ve sonra bu örneği posterior dağılımın bir yaklaşımı olarak kullanıyoruz. Ama başlamak için posterior dağılımımız varsa, yaklaşık olarak neden örneklememiz gerekiyor?

— Dave
kaynak

Yanıtlar:

Bu soru muhtemelen bu forumda zaten ele alınmıştır.

"Posterior dağılımınız olduğunu" belirttiğinizde, tam olarak ne demek istiyorsunuz? Bildiğim bir fonksiyonuna "sahip olmak" posterior ile orantılıdır, yani , örneğin tamamen yapay hedef $\theta$

π (θ | x) α π (θ) x f (x | θ)

$\pi(\theta|x) \propto \pi(\theta) \times f(x|\theta)$

bana ne olduğunu söylemiyor

π (θ | x) α tecrübe {- | | θ - x | |^{2} - | | θ + x | |^{4} - | | θ - 2 x | |^{6}}, x, θ \in {R,}^{18},

$\pi(\theta|x)\propto\exp\{-||\theta-x||^2-||\theta+x||^4-||\theta-2x||^6\},\ \ x,\theta\in\mathbb{R}^{18},$

bir fonksiyonu posterior beklenti , örneğin, , standart kayıplar altında Bayes kestiricisi olarak çalışan posterior ortalama; $\theta$ $\mathbb{E}[\mathfrak{h}(\theta)|x]$
keyfi fayda fonksiyonu altında optimal karar, beklenen posterior kaybı en aza indiren karar;
parametrelerde% 90 veya% 95'lik bir belirsizlik aralığı, parametrelerin bir alt vektörü veya parametrelerin bir işlevi, diğer bir deyişle HPD bölgesi ${h = h (θ); π^{h} (h) \geq \underline{h}}$ $\{h=\mathfrak{h}(\theta);\ \pi^\mathfrak{h}(h)\ge \underline{h}\}$
parametrelerin bazı bileşenlerini, bilinmeyen (ve rastgele) tutmak yerine belirli değerlere ayarlamak arasında seçim yapma olasılığı en yüksek olan modeldir.

Bunlar sadece posterior dağılımın birçok kullanımının örnekleridir. En basit olanlar hariç tüm durumlarda, posterior dağılım yoğunluğuna bakarak cevapları veremiyorum ve Monte Carlo ve Markov zinciri Monte Carlo yöntemleri gibi sayısal çözünürlüklerden geçmem gerekiyor.

— Xi'an
kaynak

Xi'an'ın cevabı için çok teşekkür ederim. Eminim bu sorumu cevaplıyor, ama hala onu kavramakta biraz zorluk çekiyorum. Posteriora karşılık gelen bir olasılık yoğunluk fonksiyonuna sahip olduğumuzu haklı mıyım? Neden% 95 CI'yi örneklenmiş posterior dağılımdan ziyade doğrudan bulamadık?

— Dave

@Dave Bence burada anahtar "sahip olmak" ile kastettiğin şey. Genel olarak kapalı bir form çözümünüz olmayacaktır, bu nedenle yararlı bir işleve "sahip olmayacaksınız".

— keşiş

@monk cevap için teşekkürler! Kapalı olmayan bir form çözümünü neyin oluşturduğunu düşünüyor musunuz?

— Dave

Öncekinizin Beta (a, b) ve olasılığınızın Binom (n, p) olduğunu varsayalım. Posteriorunuzun beklenen değerini nasıl hesaplarsınız? Bu ürünün integralini kalem ve kağıtla deneyin. Genel olarak, böyle bir integral bir bilgisayarın kesin bir değer almasını gerektiren bir şey olacaktır. Alternatif olarak, Beta'nın Binom'dan önce eşlenik olduğunu keşfedebilirsiniz ve bu nedenle posterior Beta (kolayca hesaplanabilir parametrelerle) olacaktır. Ama çoğu zaman çok şanslı olmayacaksın. "Kapalı form" tanımını belirlemek zordur ve kendi başına okumaya değer.

— keşiş

Evet analitik bir posterior dağılımınız olabilir. Ancak Bayesci analizin özü, parametrelerin posterior dağılımı üzerinde marjinalleşmektir, böylece hem doğruluk hem de genelleme yeteneği açısından daha iyi bir tahmin sonucu elde edersiniz. Temel olarak, aşağıdaki forma sahip tahmini bir dağıtım elde etmek istersiniz.

$p(x|D)=\int p(x|w) p(w|D)dw$

$p(w|D)$ $p(w|D)$ Bilinen herhangi bir dağıtım ailesine ait olmayan veya $p(x|w)$ . Bu, yukarıdaki integrali analitik olarak hesaplamayı imkansız hale getirir. Sonra markov zinciri monte carlo gibi gelişmiş örnekleme tekniğinin tüm amacı olan integralin örnekleme yaklaşımına başvurmak zorundasınız.

— Karlsson Yu
kaynak