Hiyerarşik bayes modellerinde rastgele değişkenlerin değişebilirliği neden önemlidir?

Hiyerarşik Bayesci modelleme için rasgele değişkenlerin değiştirilebilirliği neden önemlidir?

Değiştirilebilirlik hiyerarşik bir modelin temel bir özelliği değildir (en azından gözlem düzeyinde değil). Temel olarak standart literatürden "bağımsız ve özdeş olarak dağılmış" bir Bayes analogudur. Bu sadece eldeki durum hakkında bildiklerinizi tanımlamanın bir yoludur. Yani "karıştırma" sorununuzu değiştirmez. Bunu düşünmeyi sevdiğim bir yol, size verilen davayı ele almak$x_{j}=5$ ama size $j$. Bunu öğrenirseniz$x_{j}=5$ sizi belirli değerlerden şüphelenmenize $j$diğerlerinden daha fazla ise, dizi değiştirilemez. Sana hiçbir şey söylemiyorsa$j$, ardından dizi değiştirilebilir. Exhcangeability'nin "gerçekte" değil "bilgide" olduğunu unutmayın - bu, bildiklerinize bağlıdır.

Değiştirilebilirlik, gözlemlenen değişkenler açısından önemli olmasa da, bazı değiştirilebilirlik kavramı olmadan herhangi bir modele uymak muhtemelen oldukça zor olacaktır, çünkü değiştirilebilirlik olmadan temel olarak birlikte gözlemleri bir araya getirmek için herhangi bir gerekçe yoktur. Yani tahminimce, modelin herhangi bir yerinde değiştirilebilirlik yoksa çıkarımlarınız çok daha zayıf olacaktır. Örneğin,$x_{i}\sim N(\mu_{i},\sigma_{i})$ için $i=1,\dots,N$. Eğer$x_{i}$ tamamen değiştirilebilir $\mu_{i}=\mu$ ve $\sigma_{i}=\sigma$. Eğer$x_{i}$ şartlı olarak değiştirilebilir $\mu_{i}$ o zaman bu $\sigma_{i}=\sigma$. Eğer$x_{i}$ şartlı olarak değiştirilebilir $\sigma_{i}$ o zaman bu $\mu_{i}=\mu$. Ancak, bu iki "koşullu olarak değiştirilebilir" durumdan birinde, çıkarım kalitesinin birincisine kıyasla azaldığına dikkat edin, çünkü fazladan bir$N$soruna dahil olan parametreler. Değiştirilebilirliğimiz yoksa, temel olarak$N$ ilgisiz sorunlar.

Temel olarak değiştirilebilirlik, çıkarım yapabileceğimiz anlamına gelir $x_{i}\to \text{parameters}\to x_{j}$ herhangi $i$ ve $j$ kısmen değiştirilebilir

"Temel" çok belirsiz. Ama eğer teknikler,$X=\{X_i\}$ değiştirilebilir $X_i$ gözlemlenmemiş bazı parametreler göz önüne alındığında koşullu olarak bağımsızdır $\Theta$ olasılık dağılımı ile $\pi$. Yani,$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$. $\Theta$ tek değişkenli ve hatta sonlu boyutlu olmaları gerekmez ve ayrıca bir karışım, vb. olarak temsil edilebilir.

Değiştirilebilirlik, bu koşullu bağımsızlık ilişkilerinin, kesinlikle başka türlü yapamayacağımız modellere uymamızı sağlaması açısından önemlidir.

Öyle değil! Burada uzman değilim, ama iki sentimi vereceğim. Genel olarak hiyerarşik bir modeliniz varsa,

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

Koşullu bağımsızlık varsayımları yaparız, yani $\Theta_{2}$, $\Theta_{1}$değiştirilebilir. İkinci seviye değiştirilebilir değilse, değiştirilebilen başka bir seviye ekleyebilirsiniz. Ancak, exchaganbelity varsayımı yapamamanız durumunda bile, model, ilk düzeyde verilerinize hala uygun olabilir.

Son olarak, fakat aynı derecede önemli olarak, değiştirilebilirlik yalnızca De Finetti'nin temsil teoremi açısından düşünmek istiyorsanız önemlidir. Önceliklerin, modelinize uymanıza yardımcı olan düzenlileştirme araçları olduğunu düşünebilirsiniz. Bu durumda, değiştirilebilirlik varsayımı, modelinizin verilere uyması kadar iyidir. Başka bir deyişle, Bayes hiyerarşik modelini verilerinize daha iyi uyum sağlamanın bir yolu olarak düşünüyorsanız, değiştirilebilirlik hiçbir anlamda önemli değildir.