Karışık modellerde parametre kestirimi hakkında sezgi (varyans parametreleri ve koşullu modlar)

Rastgele efektlerin (BLUP'lar / koşullu modlar, örneğin özneler için) doğrusal bir karma efekt modelinin parametreleri olmadığını, bunun yerine tahmini varyans / kovaryans parametrelerinden türetilebileceğini birçok kez okudum. Örneğin, Reinhold Kliegl ve diğ. (2011) devlet:

Rastgele etkiler, deneklerin genel ortalama RT'den sapmaları ve deneklerin sabit etki parametrelerinden sapmalarıdır. Bağımsız ve normal olarak ortalama 0 ile dağıldıkları varsayılmaktadır. Bu rastgele etkilerin LMM'nin parametreleri olmadığını , sadece varyanslarının ve kovaryanslarının olduğunu bilmek önemlidir. [...] Konu verileri ile birlikte LMM parametreleri, her konu için rasgele efektlerin “tahminlerini” (koşullu modlar) oluşturmak için kullanılabilir.

Birisi rastgele etkilerin (co) varyans parametrelerinin rastgele etkileri gerçekten kullanmadan / tahmin etmeden nasıl tahmin edilebileceği sezgisel bir açıklama yapabilir mi?

mixed-model intuition blup

— statmerkur
kaynak

Yanıtlar:

Biz bağımlılığını tahmin karma modeli, örneğin, bir rastgele kesişme modelinde doğrusal bir basit göz önünde ile ilgili farklı kişilerde ve her konusu kendi rastgele kesişim olduğunu varsayalım: Burada kesişim bir Gauss dağılımından geliyor olarak modellenmiştir ve rasgele gürültü de Gauss $y$ $x$

y = a + b x + c_{i} + ϵ .

$y = a + bx + c_i + \epsilon.$

c_{i}

$c_i$

c_{i} \sim N (0, τ^{2})

$c_i\sim \mathcal N(0, \tau^2)$

Gelensözdizimi bu model olarak yazılabilir olur.

ϵ \sim N (0, σ^{2}) .

$\epsilon \sim \mathcal N(0, \sigma^2).$ lme4y ~ x + (1|subject)

Yukarıdakileri aşağıdaki gibi yeniden yazmak öğreticidir:

\begin{matrix} y ∣ c \sim N (a + b x + c, σ^{2}) \\ c \sim N (0, τ^{2}) \end{matrix}

$\begin{gather} y \mid c \sim \mathcal N(a + bx + c, \sigma^2) \\ c \sim \mathcal N(0, \tau^2) \end{gather}$

Bu, aynı olasılık modelini belirtmenin daha resmi bir yoludur. Bu formülasyondan, rasgele etkilerinin "parametre" olmadığını doğrudan görebiliriz : gözlemlenmeyen rasgele değişkenlerdir. Peki değerlerini bilmeden varyans parametrelerini nasıl tahmin edebiliriz ? $c_i$ $c$

Birinci denklem yukarıda anlatılan Not koşullu dağılımını verilen . Biz dağılımını biliyorsanız ve , o zaman halledebiliriz koşulsuz dağılımını üzerinde entegre ederek . Bunu toplam olasılık yasası olarak biliyor olabilirsiniz . Her iki dağılım Gauss ise, sonuçta ortaya çıkan koşulsuz dağıtım da Gauss'tur. $y$ $c$ $c$ $y\mid c$ $y$ $c$

Bu durumda koşulsuz dağılım basitçe , ancak gözlemlerimiz denek başına birden fazla ölçüm olduğu için onlardan örnek değildir. Devam etmek için , tüm gözlemlerin tüm boyutlu vektörü dağılımını düşünmemiz gerekir : burada $\mathcal N(a + bx, \sigma^2+\tau^2)$ $n$ $\mathbf y$

y \sim N (a + b x, Σ)

$\mathbf y \sim \mathcal N(a+b\mathbf x, \boldsymbol\Sigma)$

oluşan bir blok-köşegen matris

. Sen sezgi istedin, bu yüzden matematikten kaçınmak istiyorum. Önemli olan, bu denkleminartık

olmamasıdır! Bubir gerçek gözlemlenen verilere uyan şeydir ve bir söylüyor yüzden

modelin parametreleri değildir.

Σ = σ^{2} I_{n} + τ^{2} I_{N} \otimes 1_{M}

$\boldsymbol\Sigma=\sigma^2 \mathbf I_n + \tau^2 \mathbf I_N \otimes \mathbf 1_M$

σ^{2}

$\sigma^2$

τ^{2}

$\tau^2$

c

$c$

c_{i}

$c_i$

, , ve parametreleri uygun olduğunda, her için koşullu dağılımı hesaplanabilir . Karma model çıktısında gördüğünüz, bu dağılımların modları, yani koşullu modlardır. $a$ $b$ $\tau^2$ $\sigma^2$ $c_i$ $i$

— amo diyor Reinstate Monica
kaynak

y \sim N (a + b x, σ^{2} I)

$\mathbf{y} \sim \mathcal{N}(a + b\mathbf{x}, \sigma^2 I)$

y \sim N (a + b x, Σ)

$\mathbf{y} \sim \mathcal{N}(a + b\mathbf{x}, \Sigma)$

— Sextus Empiricus

c

$c$

c

$c$

c

$c$

Bence entegrasyon adımını alamıyorum. @Martijn Weterings'in biraz işaret ettiği gibi (R kodu) bir örnek veya referans bu harika olurdu!

— statmerkur

Cevabımı kabul ettiğin için bana ödül verdiğin için teşekkürler @statmerkur, ama belirsiz kalması çok kötü. Bir örnek düşünmeye çalışacağım. Cevabı güncellediğimde size ping atacağım.

— amip: Reinstate Monica

@statmerkur Bu soruya bir cevapta, karışık efektler modelinin manuel olarak hesaplandığını gösteriyorum (olasılık fonksiyonunu yazma anlamında manuel, optimizasyon hala R'deki

— Sextus Empiricus

Sabit efektleri kullanarak rastgele etkilere dayanmadan varyans ve kovaryans parametrelerini kolayca tahmin edebilirsiniz ( sabit efektlerle rastgele efektlerin tartışılması için buraya bakın ; bu terimlerin farklı tanımlarının bulunduğunu unutmayın).

Sabit etkiler, her grup için (veya her zaman periyodu veya rastgele efekt olarak kullanmayı düşündüğünüz her şey için bir (ikili) gösterge değişkeni eklenerek kolayca türetilebilir; bu, iç dönüşümle eşdeğerdir ). Bu, sabit etkileri (bir parametre olarak görülebilir) kolayca tahmin etmenizi sağlar.

Sabit etkiler varsayımı, sabit etkilerin dağılımı hakkında bir varsayım yapmanızı gerektirmez, sabit etkilerin varyansını kolayca tahmin edebilirsiniz (her gruptaki gözlem sayısı azsa bu son derece gürültü olsa da; rasgele etkilere kıyasla çok daha büyük varyans masraflarının yanlılığı, çünkü bu gösterge değişkenlerini ekleyerek her grup için bir serbestlik derecesi kaybedersiniz). Farklı sabit efekt grupları arasındaki veya sabit efektler ile diğer ortak değişkenler arasındaki kovaryansları da tahmin edebilirsiniz. Örneğin , daha iyi futbolcuların daha iyi takımlar için giderek daha fazla oynayıp oynamadıklarını tahmin etmek için Alman Bundesliga'daki Rekabetçi Denge ve Assortative Eşleştirme adlı bir makalede yaptık .

Rastgele etkiler, kovaryans hakkında önceden bir varsayım gerektirir. Klasik rastgele efekt modellerinde, rastgele etkilerin bir hata gibi olduğunu ve diğer ortak değişkenlerden bağımsız olduğunu varsayarsınız (böylece bunları göz ardı edebilir ve OLS kullanabilirsiniz ve varsayımlar varsa diğer parametre için verimsiz tahminler olsa da tutarlı olabilirsiniz. rasgele etkiler modelinin doğru olduğunu gösterir).

Daha fazla teknik bilgiye buradan ulaşabilirsiniz . Andrew Gelman aynı zamanda onun güzel kitap bu konuda daha fazla sezgisel bir sürü iş vardır regresyon ve düzeyli / hiyerarşik modeller kullanılarak Veri analizi

— Arne Jonas Warnke
kaynak

Rastgele efektlerin (co) varyans parametrelerine atıfta bulunuyorum (bakınız düzenlemem).

— statmerkur

Bunun soruyu cevapladığını sanmıyorum.

— amip: Reinstate Monica