Uygulamada, rastgele etkiler modelinde rastgele etkiler kovaryans matrisi nasıl hesaplanır?

Temel olarak merak ettiğim şey, farklı kovaryans yapılarının nasıl uygulandığı ve bu matrislerin içindeki değerlerin nasıl hesaplandığıdır. Lme () gibi işlevler, hangi yapıyı istediğimizi seçmemize izin verir, ancak nasıl hesaplandıklarını bilmek isterim.

doğrusal karma efektleri düşünün .$Y=X\beta+Zu+\epsilon$

Burada ve ϵ d ∼ N ( 0 , R ) . Ayrıca:$u \stackrel{d}{\sim} N(0,D)$$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

Basitlik için olduğunu varsayacağız .$R=\sigma^2I_n$

Temelde sorum şu: çeşitli parametrelendirmeler için verilerden tam olarak nasıl tahmin ediliyor? D' nin diyagonal (rastgele etkiler bağımsız) veya D tam olarak parametrelendirildiğini (şu anda daha fazla ilgilendiğim durumda) veya diğer çeşitli parametrelerden herhangi birini varsayalım mı? Bunlar için basit tahminciler / denklemler var mı? (Bu şüphesiz yinelemeli olarak tahmin edilir.)$D$$D$$D$

DÜZENLEME: Varyans Bileşenleri kitabından (Searle, Casella, McCulloch 2006) Aşağıdakileri parlamayı başardım:

Eğer daha sonra varyans bileşenleri güncellenir ve hesaplanır, aşağıdaki gibi:$D=\sigma^2_uI_q$

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

Nerede β ( k ) ve$\hat{\beta}^{(k)}$olanksırasıyla güncellemeleri inci.$\hat{{u}}^{(k)}$$k$

blok diyagonal veya tam olarak parametrelendirildiğinde genel formüller var mı ? Tamamen parametrelendirilmiş durumda, pozitif kesinlik ve simetri sağlamak için bir Cholesky ayrışması kullanılıyor.$D$

Goldstein .pdf @probabilityislogic bağlantılı harika bir belgedir. Sorunuzu tartışan bazı referansların listesi:

Harville, 1976: Gauss-Markov Teoreminin rastgele etki tahminini içerecek şekilde genişletilmesi .

Harville, 1977: Varyans bileşeni kestiriminde ve ilgili problemlerde maksimum olabilirlik yaklaşımları .

Laird and Ware, 1982: Boyuna veriler için rastgele efekt modelleri .

McCulloch, 1997: Genelleştirilmiş doğrusal karışık modeller için maksimum olabilirlik algoritmaları .

KARIŞIK prosedür için SAS Kullanım Kılavuzu alıntı kovaryans tahmini ve (sayfa 3968 tarihinde başlayan) çok daha fazla kaynakları hakkında bazı büyük bilgi var.

Orada boyuna / tekrarlı ölçümler veri analizi çok sayıda kaliteli ders kitapları, ama burada (yazarların R uygulanması ile ilgili bazı ayrıntılı anlatır biri lme4ve nlme):

Pinheiro ve Bates, 2000: S ve S-PLUS'ta Karışık Etkili Modeller .

DÜZENLEME : Daha alakalı bir makale: Lindstrom ve Bates, 1988: Tekrarlanan ölçüm verileri için doğrusal karışık efekt modelleri için Newton-Raphson ve EM Algoritmaları .

DÜZENLEME 2 : Ve diğeri: Jennrich ve Schluchter, 1986: Yapısal Kovaryans Matrislere sahip Dengesiz Tekrarlı Ölçüm Modelleri .

Harvey Goldstein başlamak için kötü bir yer değil.

En karmaşık tahmin yöntemlerinde olduğu gibi, yazılım paketine göre değişir. Bununla birlikte, genellikle yapılanlar aşağıdaki adımlardadır:

1. (örneğin D 0 ) ve R (örneğin R 0 ) için bir başlangıç ​​değeri seçin . Set i = $D$$D_0$$R$$R_0$$i=1$
2. ve R = R i - 1 üzerinde koşullu, β ve u ve ϵ tahmini . Β i ve u i ve ϵ i tahminlerini çağırın .$D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$
3. ve u = u i ve ϵ = ϵ i koşullu, D ve R'yi tahmin edin . D i ve R i tahminlerini çağırın$\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. Yakınsama olup olmadığını kontrol edin. Yakınsama değilse, ve 2. adıma dönün$i=i+1$

Basit ve hızlı bir yöntem, en az iki kare prosedürü arasında yinelemeye dayanan ve ikinci bölümde ayrıntılı olarak açıklanan IGLS'dir. Dezavantajı sıfıra yakın varyans bileşenleri için iyi çalışmaz olmasıdır.

Aşağıdaki makale D için kapalı bir form çözümü vermektedir:

• J. Shao, Mari Palta ve Roger Qu, (1998), " Ölçülmemiş ortak değişkenli karma efekt modellerinde en küçük kareler regresyon parametrelerinin tahmini ", İletişimde İstatistik - Teori ve Yöntemler , 27: 6, 1487-1501, DOI: 10.1080 / 03610929808832172

Searle Et al ve Lynch ve Walsh Genetiği ve Kantitatif Özelliklerin Analizi tarafından faydalı olabilecek Varyans Bileşenleri . Doğru hatırlıyorsam Lynch ve Walsh kitabı adım adım algoritma veriyor