Sabit bir efektin karma efektler modelindeki rastgele bir efektin düzeyleri arasında değişmesine ne zaman izin vermemeliyim *?

16

Öngörülen bir değişken (P), rastgele bir efekt (R) ve sabit bir etki (F) göz önüne alındığında, iki * karışık efekt modeli ( lme4 sözdizimi) sığabilir :

m1 = lmer( P ~ (1|R) + F )
m2 = lmer( P ~ (1+F|R) + F)

Anladığım kadarıyla, ikinci model, sabit etkinin rastgele etki seviyelerinde değişmesine izin veren modeldir.

Araştırmamda genellikle birden fazla insan katılımcı üzerinde gerçekleştirilen deneylerden elde edilen verileri analiz etmek için karışık efekt modelleri kullanıyorum. Katılımcıyı rastgele bir etki olarak ve deneysel manipülasyonları sabit etkiler olarak modellerim. Bence sabit etkilerin deneydeki performansı etkileme derecesinin katılımcılar arasında değişmesine izin vermek mantıklıdır. Ancak, sabit etkilerin rastgele bir etki düzeyine göre değişmesine izin vermem gereken durumları hayal etmekte sorun yaşıyorum, bu yüzden sorum şu:

Ne zaman sabit bir etkinin rastgele bir efektin seviyeleri arasında değişmesine izin verilmemelidir ?

mixed-model

— Mike Lawrence
kaynak

Hala lme4 sözdizimini tam olarak anlamıyorum, bu yüzden cevabı görmeyi merak ediyorum. Ama şu farkla ilgili bir önsezim var: P, bir öğrencinin ödev yapmak için harcadığı zaman, R sınıf düzeyinde bir tedavi ve F öğrencidir. (Ayrıca sınıfın kendisi için rastgele bir etkiye sahip olmalıyız.) Eğer tüm öğrenciler farklı zamanlarda tüm tedaviler R'ye tabi tutulursa, F seviyeleri sınıflar arasında karşılaştırılabilir. Bir okulu bir kerede ölçersek, her sınıfta farklı öğrencilerimiz var, bu yüzden farklı sınıflardaki F seviyelerinin birbirleriyle hiçbir ilgisi yok.

— Thomas Levine

11

$P_{ij}$ $F_{ij}$ $i$ $j$

Y_{i j} = β_{0 i} + β_{1 i} F_{i j}

$Y_{ij}=\beta_{0i}+\beta_{1i}F_{ij}$

Bu bizim ilk düzey gerilememiz. İkinci düzey regresyon ilk regresyon katsayıları üzerinde yapılır:

\begin{aligned} β_{0 i} & = γ_{00} + u_{0 i} \\ β_{1 i} & = γ_{01} + u_{1 i} \end{aligned}

$\begin{align*} \beta_{0i}&=\gamma_{00}+u_{0i}\\ \beta_{1i}&=\gamma_{01}+u_{1i} \end{align*}$

bunu birinci düzey regresyonda değiştirdiğimizde

\begin{aligned} Y_{i j} & = (γ_{0} + u_{0 i}) + (γ_{01} + u_{1 i}) F_{i j} \\ = γ_{0} + u_{0 i} + u_{1 i} F_{i j} + γ_{01} F_{i j} \end{aligned}

$\begin{align*} Y_{ij}&=(\gamma_0+u_{0i})+(\gamma_{01}+u_{1i})F_{ij}\\ &=\gamma_0+u_{0i}+u_{1i}F_{ij}+\gamma_{01}F_{ij} \end{align*}$

$\gamma$ $u$ $\gamma$ $u$

Yazdığım model lmersözdizimine karşılık geliyor

P ~ (1+F|R) + F

$\beta_{1i}=\gamma_{01}$

\begin{aligned} Y_{i j} = γ_{0} + u_{0 i} + γ_{01} F_{i j} \end{aligned}

$\begin{align*} Y_{ij}=\gamma_0+u_{0i}+\gamma_{01}F_{ij} \end{align*}$

bu lmersözdizimine karşılık gelir

P ~ (1|R) + F

Şimdi soru, hata terimini ikinci seviye gerilemeden ne zaman hariç tutabiliriz? Kanonik cevap, ikinci düzeyde regresyondaki regresörlerin (burada herhangi birimiz yok, ancak bunları dahil edebiliriz, doğal olarak sabittir) emin olduğumuzda, sınıflar arasındaki katsayıların varyansını tam olarak açıklar.

$F_{ij}$ $u_{1i}$

Not . Sadece cebirsel bir açıklama yaptım, ama bence bunu akılda tutmak, uygulamalı örneği düşünmek çok daha kolay.

— mpiktas
kaynak

İlk denklemin de bir hata terimi varsa:

Y_{i j} = β_{0 i} + β_{1 i} F_{i j} + e_{i j}

$Y_{ij}=β_{0i}+β_{1i}F_{ij}+e_{ij}$

— Nikita Samoylov

evet, ama netlik için atladım bence.

— mpiktas

10

"Sabit efekt" i, varyans bileşenini sıfır olan "rastgele efekt" olarak düşünebilirsiniz.

Dolayısıyla, sabit etkinin neden değişmesine izin vermeyeceğinize basit bir cevap, "yeterince büyük" bir varyans bileşeni için yetersiz kanıttır. Kanıt hem önceki bilgilerden hem de verilerden gelmelidir. Bu temel "occam'ın ustura" ilkesi ile uyumludur: modelinizi olması gerekenden daha karmaşık hale getirmeyin.

Doğrusal karışık modelleri şu şekilde düşünme eğilimindeyim, aşağıdaki gibi çoklu bir regresyon yazıyorum:

Y = X β + Z u + e

$Y=X\beta+Zu+e$

Yani modelin "sabit" kısmı, "rastgele" kısmı ve OLS tarzı artıktır. "Rasgele etki" varyans parametreleri ve için . Bu, standart sonuçları , yani: $X\beta$ $Zu$ $e$ $u\sim N(0,D(\theta))$ $\theta$ $e\sim N(0,\sigma^{2}I)$ $(Zu+e)\sim N(0,ZD(\theta)Z^{T}+\sigma^{2}I)$

Y \sim N (X β, Z D (θ) Z^{T} + σ^{2} I)

$Y\sim N(X\beta,ZD(\theta)Z^{T}+\sigma^{2}I)$

Bunu OLS regresyonuyla ( ) karşılaştırın ve şunu elde ederiz: $Z=0$

Y \sim N (X β, σ^{2} I)

$Y\sim N(X\beta,\sigma^{2}I)$

Dolayısıyla modelin "rastgele" kısmı, modeldeki parazit veya hata bileşeninin korelasyon yapısı hakkında önceden bilgi belirtmenin bir yolu olarak görülebilir . OLS temel olarak, bir durumda modelin sabit kısmından herhangi bir hatanın, modelin sabit kısmını kesin olarak bilsek bile, başka bir hatayı tahmin etmek için işe yaramaz olduğunu varsayar. Rastgele bir efekt eklemek temel olarak bazı hataların diğer hataları tahmin etmede yararlı olabileceğini düşündüğünüz anlamına gelir.

— probabilityislogic
kaynak

5

Bu çok iyi cevapları olan oldukça eski bir sorudur, ancak bence daha pragmatik bir bakış açısıyla yeni bir cevaptan faydalanabilir.

Ne zaman sabit bir etkinin rastgele bir efektin seviyeleri arasında değişmesine izin verilmemelidir?

Diğer cevaplarda daha önce açıklanan konulara değinmeyeceğim, bunun yerine şimdi ünlü olana değineceğim, ancak Barr ve arkadaşlarının (2013) sık sık "En fazla tut"

Barr, DJ, Levy, R., Scheepers, C. ve Tily, HJ, 2013. Doğrulayıcı hipotez testi için rasgele efekt yapısı: Maksimum tutun. Bellek ve dil dergisi, 68 (3), s.255-278.

Bu makalede yazarlar, tüm sabit etkilerin gruplama faktörlerinin düzeyleri arasında (rastgele kesişmeler) değişmesine izin verilmesi gerektiğini savunmaktadır. Onların argümanı oldukça zorlayıcı olduğunu - tarafından temelde o değil onları değişmesine izin, bu model üzerinde heybetli kısıtlamalar olduğunu. Bu diğer cevaplarda iyi tanımlanmıştır. Bununla birlikte, bu yaklaşımda Bates el al (2015) tarafından açıklanan potansiyel olarak ciddi problemler vardır:

Bates, D., Kliegl, R., Vasishth, S. ve Baayen, H., 2015. Cimri karışık modeller. arXiv ön baskı arXiv: 1506.04967

Burada, Bates'in lme4R'ye karışık modelleri takmak için paketin birincil yazarı olduğunu ve muhtemelen bu tür modeller için en yaygın olarak kullanılan paket olduğunu belirtmek gerekir . Bates ve diğerleri, gerçek dünyadaki birçok uygulamada, verilerin her bir kümede ilgili değişkenler için yetersiz sayıda gözlem bulunduğundan, maksimum rastgele etki yapısını desteklemeyeceğini unutmayın. Bu, yakınsamayan veya rastgele efektlerde tekil olan modellerde kendini gösterebilir. Bu sitedeki bu tür modellerle ilgili çok sayıda soru bunu kanıtlamaktadır. Ayrıca Barr ve arkadaşlarının makalelerinin temeli olarak "iyi davranmış" rastgele etkileri olan nispeten basit bir simülasyon kullandıklarını belirtmişlerdir. Bunun yerine Bates ve arkadaşları aşağıdaki yaklaşımı önermektedir:

(1) rastgele etki yapısının varyans-kovaryans matrisinin boyutsallığını belirlemek için PCA kullanmanızı, (2) başlangıçta korelasyon parametrelerini başlangıçta sıfıra sınırlamak, özellikle de maksimum bir modele uymaya yönelik ilk girişim birleşmediğinde, ve (3) anlamlı olmayan varyans bileşenlerini ve bunların ilişkili korelasyon parametrelerini modelden çıkarmak

Aynı makalede şunları da not ediyorlar:

Önemli olarak, yakınsama başarısızlığı, tahmin algoritmasının kusurlarından kaynaklanmaz, ancak veriler tarafından uygun şekilde desteklenemeyecek kadar karmaşık bir modele uymaya çalışmanın doğrudan bir sonucudur.

Ve:

anti-konservatif sonuçlara karşı korunmak için maksimum modeller gerekli değildir. Bu koruma, verilerin destekleyebileceği karmaşıklık hakkında gerçekçi beklentiler tarafından yönlendirilen kapsamlı modellerle tamamen sağlanır. İstatistiklerde, bilimin başka yerlerinde olduğu gibi, cimri bir erdemdir, bir mengene değildir.

Bates ve ark. (2015)

Daha uygulamalı bir bakış açısından, yapılması gereken diğer bir husus da, veri üretim sürecinin, verinin altında yatan biyolojik / fiziksel / kimyasal teorinin analisti rastgele etki yapısını belirlemeye yönlendirmesi gerekip gerekmediğidir.

— Robert Long
kaynak

“çoğu zaman her kümede yetersiz sayıda gözlem olduğu için” bunu açıklayabilir misiniz? Küme başına gereken minimum sayı 1? Bu bile kabul edilen cevabınız: stats.stackexchange.com/questions/388937/…

— LuckyPal

@LuckyPal bağlandığınız soru rastgele kesişmelerle ilgili, bu rastgele eğimlerle ilgili. 1 örneklem büyüklüğü için eğimi nasıl tahmin edersiniz?

— Robert Long

Alınan nokta. Teşekkürler! +1 Ama yeterli küme varsa, küme başına sadece bir gözlemle sabit bir eğimi tahmin edebiliriz, değil mi? Bu biraz garip görünüyor. Belki, örneklem büyüklüğü nedeniyle rastgele bir eğimle yakınsama problemleri olduğunda, eğimin tahmini - rastgele olsun ya da olmasın - genel olarak sorgulanabilir olabilir?

— LuckyPal

@LuckyPal evet, sabit bir eğimin tahmini tüm kümeler arasındadır, bu yüzden bu genellikle bir sorun değildir. Küçük kümeler ile rastgele bir eğim tahmin etmenin yakınsama sorunlarına yol açabileceğini kabul ediyorum, ancak sabit bir eğimin tahminini etkilememesi gerekir.

— Robert Long