Beta dağılımında daha önce bir konjugat var mı?

34

Beta dağılımının binom ile eşlenik olduğunu biliyorum. Ancak beta öncesi konjugat nedir? Teşekkür ederim.

beta-distribution conjugate-prior

— Brash Dengesi
kaynak

25

Anlaşılan eşzamanlılıktan vazgeçtin. Sadece kayıt için, insanların yaptıklarını gördüğüm bir şey (ancak tam olarak nerede olduğunu hatırlamıyorum, özür dilerim) böyle bir onarımdır. Eğer verilen istatistiksel bağımsız koşullu olarak , öyle ki , unutmayın ve Bu nedenle, olasılığını ve açısından yeniden değerlendirebilir ve önceki gibi kullanabilirsiniz. $X_1,\dots,X_n$ $\alpha,\beta$ $X_i\mid\alpha,\beta\sim\mathrm{Beta}(\alpha,\beta)$

E [X_{i} ∣ α, β] = \frac{α}{α + β} =: μ

$\mathbb{E}[X_i\mid\alpha,\beta]=\frac{\alpha}{\alpha+\beta} =: \mu$

V a r [X_{i} ∣ α, β] = \frac{α β}{(α + β)^{2} (α + β + 1)} =: σ^{2} .

$\mathbb{Var}[X_i\mid\alpha,\beta] = \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)} =: \sigma^2 \, .$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} ∣ μ \sim U [0, μ (1 - μ)] μ \sim U [0, 1] .

$\sigma^2\mid\mu \sim \mathrm{U}[0,\mu(1-\mu)] \qquad \qquad \mu\sim\mathrm{U}[0,1] \, .$ Şimdi posteri hesaplamaya ve en sevdiğiniz hesaplama yöntemiyle keşfetmeye hazırsınız.

— Zen
kaynak

4

Hayır, bu şey MCMC değil! Çeyreklik bu şeyi! sadece 2 parametre - dörtlü, hem zaman hem de doğruluk için küçük boyutlu posteriorlar için "altın standarttır".

— Olasılık

3

Başka bir seçenek de 'ı bir hassasiyet ölçüsü olarak kabul etmek ve tekrar bir ortalama olarak . Bu her zaman Dirichlet işlemleriyle yapılır ve beta dağılımı özel bir durumdur. Belki de önce bir gama veya log-normal üzerinde tekdüze olabilir .

ψ = α + β

$\psi = \alpha + \beta$

μ = \frac{α}{α + β}

$\mu = \frac{\alpha}{\alpha + \beta}$

ψ

$\psi$

μ

$\mu$

— adam

2

Emin olmak için bu konjugat değil, doğru mu?

— Adam

3

Kesinlikle hayır!

— Zen,

Merhaba @Zen şu anda bu sorunla ilgileniyorum, ancak Bayesian’de yeniyim ve bu fikri anlıyorum mu emin değilim. Sana bulmak için teklif ettiğiniz anladım

ve daha sonra yeniden canlandırmayı kullanın, fakat tabii ki bu fikir değildi. Lütfen anlamama yardımcı olabilir misiniz?

\int_{0}^{1} \frac{1}{μ (1 - μ} d μ

$\int_{0}^{1}{\frac{1}{\mu(1-\mu}}d\mu$

— Red Noise

23

Evet, üstel ailede bir eşleniği var. Üç parametre grubuna düşünün Bazı değerleri için oldukça anladım değil, ancak bu (ı inanıyoruz integrallenebilirdir ve - çalışmalıdır tekabül bağımsız üstel dağılımları kadar Bu kesinlikle işe yarıyor ve eşlenik güncelleme

π (α, β ∣ a, b, p) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{p} \exp (a α + b β) .

$\pi(\alpha, \beta \mid a, b, p) \propto \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right).$

(a, b, p)

$(a, b, p)$

p \geq 0

$p \ge 0$

a < 0, b < 0

$a < 0, b < 0$

p = 0

$p = 0$

bu nedenle

işe yaradığını gösterir).

p

$p$

p > 0

$p > 0$

Sorun ve hiç kimsenin bunu kullanmamasının en azından bir kısmı, yani normalleştirici sabit cloed şekline sahip değildir.

\int_{0}^{\infty} \int_{0}^{\infty} {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{p} \exp (a α + b β) = ?

$\int_0^\infty \int_0^\infty \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right) = ?$

— adam
kaynak

Ah. Bu problemli. Zaten daha önce konjugatın bilgisiz bir versiyonunu arayacaktım, bu yüzden iki parametrede tekdüze önceliklerle başlayabilirim gibi görünüyor. Teşekkürler.

— Brash Dengesi,

Sadece olasılıkları karşılaştırıyorsanız normalleştirmenize gerek yok…

— Neil G

Sana eylemini eksik olabilir düşünüyorum

senin de

de dönem. Muhtemelen

, vs. olmalıdır .

p

$p$

\exp

$\exp$

p a α

$pa\alpha$

— Neil G

@NeilG

olan

p

$p$

\exp

$\exp$ , sadece açısından şeyleri ifade etmek zorunda

yerine

. Doing

o hiçbir şeyi değiştirmez, sadece reparmetrization olduğunu. "Sadece olasılıkları karşılaştırmak" derken ne demek istediğinden emin değilim. Koşullu eşleniklik avantajını öldüren Metropolis gibi bir şey kullanmadan, Gibbs örnekleyicisini bu uygulayamazsınız, normalleştirme sabiti

ve

öncelikli

koyarak ya da olasılık yöntemleriyle tahmin etmeyi öldürür. .

\log Γ (\dots)

$\log \Gamma(\cdots)$

Γ (\dots)

$\Gamma(\cdots)$

p a α

$pa\alpha$

a

$a$

b

$b$

— adam

2

@NeilG integrali

ve

üzerindedir, çünkü bunlar rastgele değişkenlerdir.

α

$\alpha$

β

$\beta$

— adam

9

Gelen teori P dağıtımı için bir konjüge önce olmalıdır. Bunun nedeni ise

beta dağılımı, üstel aile dağıtımlarından biridir ve
Teoride bir önceliğin türetilmesi mümkün olmalıdır. Örneğin, wikipedia , D Blei'nin üssel aileler konulu dersine bakınız .

Ancak türetme zor gözüküyor ve A Bouchard-Cote'nin Üstel Aileleri ve Konjugat Öncelikleri'nden alıntı yapmak

Yapılması gereken önemli bir gözlem, bu tarifin her zaman hesaplamalı olarak izlenebilen bir konjugat vermemesidir.

Bununla tutarlı olarak, D Fink'in Eşlenik Öncelikleri A Eşlemesinde Beta dağıtımından önce bir şey yoktur .

— TooTone
kaynak

3

Derivasyon zor değil - Cevabımı gör: mathoverflow.net/questions/63496/…

— Neil G

3

Beta dağıtımı için konjugat olan bir "standart" (yani üstel aile) dağılımı olduğuna inanmıyorum. Bununla birlikte, eğer biri varsa, iki değişkenli bir dağıtım olması gerekir.

Bu soru hakkında hiçbir fikrim yok, ancak cevabınızı destekleyen bu kullanışlı eşlenik önceki haritayı buldum : johndcook.com/conjugate_prior_diagram.html

— Justin Bozonier

Önceki konjugat üstel ailededir ve üç parametreye sahiptir - iki değil.

— Neil G

1

@Neil, kesinlikle haklısın. Sanırım en az iki parametresi olması gerektiğini söylemeliydim.

-1: Bu cevap, "önceki birleşik üstel ailede bulunmadığı" iddiasında açıkça yanlıştır. yukarıda cevabın ...

— Jan Kukacka

3

Robert ve Casella (RC), kitaplarının Örnek 3.6'daki (p 71 - 75) beta dağılımının eşlenik ailesini, R , Springer, 2010'daki Monte Carlo Yöntemlerinin Tanıtılması ailesini tanımlamaktadır. bir kaynak.

Gung'un detay talebine cevap olarak eklendi. RC dağıtım için bunuönceki konjugatın formun "... olduğunu belirtir. $B(\alpha, \beta)$

π (α, β) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} x_{0}^{α} y_{0}^{β}

$\pi(\alpha,\beta) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} x_0^{\alpha} y_0^{\beta}$

nerede , hiperparametrelerdir; $\{\lambda, x_0, y_0\}$

π (α, β | x) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} (x x_{0})^{α} ((1 - x) y_{0})^{β} . "

$\pi(\alpha,\beta \vert x) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} (xx_0)^{\alpha} ((1-x)y_0)^{\beta}."$

Numune örnek ilgilidir önem kalan $\pi(\alpha,\beta \vert x)$ marjinal olasılığını hesaplamak için . $x$

— user37239
kaynak

2

Robert'ın kitabına sahip değilim ama

. Robert, bu konuyu burada da yayınladımathoverflow.net/questions/20399/…

π (α, β) \propto {(\frac{Γ (α + β)}{Γ (α) Γ (β)})}^{λ + 1} (x x_{0})^{α - 1} {(y_{0} (1 - x))}^{β - 1}

$\pi(\alpha, \beta) \propto \left( \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha) \Gamma(\beta)} \right)^{\lambda +1} (x x_0)^{\alpha-1} \left(y_0 (1-x) \right)^{\beta-1}$

— Fred Schoen

1

Özgün posterin, kitapta verilen posteriorun Fred Schoen'in yorumuna göre (kolayca doğrulandığı) yanlış olduğunu belirtmek için yazıyı güncellemesini şiddetle tavsiye ederim.

— RMurphy