Tam koşullar ortak dağılımı belirleyebilir mi?

Tüm tam koşulların (Gibbs örneklemesinde kullanıldığı gibi) eklem dağılımını belirleyebildiğini duydum. Ama neden ve nasıl olduğunu anlamıyorum. Yoksa yanlış mı duydum? Teşekkürler!

distributions

— Tim
kaynak

Bu görünüşte basit olan soru göründüğünden daha derin, bizi Hammersley-Clifford teoremine kadar götürüyor. Ortak dağılımı tam şartlardan kurtarabilmemiz, Gibbs örnekleyicisini mümkün kılan şeydir. Biz marjinal ilan unutmayın eğer, şaşırtıcı bir sonuç olarak görülebilir yok eklem dağılımını belirlemek.

Eklemin, koşulların ve marjinal yoğunlukların iyi bilinen tanımlarıyla resmi olarak hesaplarsak ne olacağını görelim. Dan beri

f_{X, Y} (x, y) = f_{X | Y} (x | y) f_{Y} (y) = f_{Y | X} (y | x) f_{X} (x),

$f_{X,Y}(x,y)=f_{X\mid Y}(x\mid y)\,f_Y(y)=f_{Y\mid X}(y\mid x)\,f_X(x) \, ,$ sahibiz

\int \frac{f_{Y | X} (y | x)}{f_{X | Y} (x | y)} d y = \int \frac{f_{Y} (y)}{f_{X} (x)} d y = \frac{1}{f_{X} (x)},

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy = \int \frac{f_Y(y)}{f_X(x)}dy = \frac{1}{f_X(x)} \, ,$ ve eklem yoğunluğunu resmi olarak tüm koşullu koşullardan kurtarabiliriz.

f_{X, Y} (x, y) = \frac{f_{Y | X} (y | x)}{\int f_{Y | X} (y | x) / f_{X | Y} (x | y) d y} . (*)

$f_{X,Y}(x,y) = \frac{f_{Y\mid X}(y\mid x)}{\int f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y)\,dy} \, . \qquad (*)$

Bu resmi hesaplamadaki sorun, ilgili tüm nesnelerin var olduğunu varsaymasıdır.

Örneğin, bize verilen

X | Y = y ~ Tecrübe (y) ve Y | X = x ~ Tecrübe (x) .

$X\mid Y=y\sim\text{Exp}(y) \qquad \text{and} \qquad Y\mid X=x\sim\text{Exp}(x) \, .$ Bunu takip eder

f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) = x / y

$f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y) = x /y$ ve paydadaki integral

(*)

$(*)$ ıraksadığını.

Eklem yoğunluğunu tam koşullardan geri kazanabileceğimizi garanti etmek için $(*)$ bu yazıda tartışılan uyumluluk koşullarına ihtiyacımız var:

"Uyumlu Koşullu Dağılımlar", Barry C. Arnold ve S. James Press, Amerikan İstatistik Derneği Dergisi, Cilt. 84, No. 405 (1989), sayfa 152-156.

Son olarak, Robert ve Casella'nın kitabındaki Hammersley-Clifford Teoremi hakkındaki tartışmayı okuyun

— Zen
kaynak

"İntegral .... var" ile ne kastedildiğini açıklığa kavuşturabilir misiniz? Burada iki farklı konu var gibi görünüyor, yani. (i) integrali yapar

\int \frac{f_{Y | X} (y | x)}{f_{X | Y} (x | y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$ var mı değil mi? ve (ii) integral varsa, değeri

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$ ? Yoksa bunu ne zaman söylersin

X

$X$ ve

Y

$Y$ koşullu yoğunluklara sahip olacak şekilde

\int \frac{f_{Y | X} (y | x)}{f_{X | Y} (x | y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$ mevcutsa, integralin değerinin

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$ ?

— Dilip Sarwate

Teşekkürler @Zen!

f_{Y}

$f_Y$ ve

f_{X | Y}

$f_{X|Y}$ belirleyebilir

f_{X, Y}

$f_{X,Y}$ , ve

f_{Y | X}

$f_{Y|X}$ ve

f_{X | Y}

$f_{X|Y}$ ayrıca belirleyebilir

f_{X, Y}

$f_{X,Y}$ . (1) Hangisi daha fazla bilgi sağlarsa,

f_{Y}

$f_Y$ veya

f_{Y | X}

$f_{Y|X}$ ? (2) Hangisi daha az yedekli / örtüşen bilgi sağlar

f_{X | Y}

$f_{X|Y}$ ,

f_{Y}

$f_Y$ veya

f_{Y | X}

$f_{Y|X}$ ? (3) Dışında

f_{Y}

$f_Y$ ve

f_{Y | X}

$f_{Y|X}$ , bunlardan biri zaten diğerinin bilgisini sağlıyor mu (şüpheliyim, çünkü biri diğerine yol açacaktır). Sanırım bilgisi arasındaki "kavşak"

f_{Y}

$f_Y$ ve

f_{Y | X}

$f_{Y|X}$ ile birlikte

f_{X | Y}

$f_{X|Y}$ belirler

f_{X, Y}

$f_{X,Y}$ .

— Tim

Selam Tim.

f_{Y}

$f_Y$ hakkında belirsizliği temsil eder

Y

$Y$ , süre

f_{Y ∣ X}

$f_{Y\mid X}$ hakkında belirsizliğinizi temsil eder

Y

$Y$ değerini bildiğiniz göz önüne alındığında,

X

$X$ . "Hangisi daha fazla bilgi içeriyor?" kolay bir soru değil. Eğer

f_{X ∣ Y}

$f_{X\mid Y}$ ve

f_{Y ∣ X}

$f_{Y\mid X}$ uyumludur (Arnold ve Press anlamında), daha sonra

f_{X, Y}

$f_{X,Y}$ vasıtasıyla

(*)

$(*)$ .

— Zen

Şu anda aynı problemle mücadele ediyorum. Bunlar, Gibbs Sampling'in herhangi bir (en azından okuduğum) girişlerinde asla belirtilmediğinden, uyumlu koşullu dağıtımlara duyulan ihtiyaçtan biraz kafam karıştı. Veya uyumlu koşullu dağıtımlara olan gereksinim, yalnızca ortak dağılımları resmi olarak kurtarmaya çalışırsa, örneğin (*) tarafından geçerlidir. -> Gibbs Sampling'in eklem dağılımına yaklaşmıyor mu?

— sklingel

İstatistiksel bir soruna uygulanan normal Gibbs örnekleme ortamında, eklem olasılık dağılımının (posterior) var olduğunu, dolayısıyla bu eklem dağılımından türetilen tam koşulların uyumlu olduğunu varsayıyorsunuz. Bu vakanın dışında Gibbs örneklemesi anlamsız.

— Xi'an