Arka plan: Not: Veri kümem ve r kodum aşağıdaki metinde yer almaktadır

R'de lme4 paketi kullanılarak oluşturulan iki karışık efekt modelini karşılaştırmak için AIC'yi kullanmak istiyorum. Her modelin bir sabit etkisi ve bir rastgele etkisi vardır. Sabit etki modeller arasında farklılık gösterir, ancak rastgele etki modeller arasında aynı kalır. Ben REML = T kullanırsanız, model2 düşük AIC puanı olduğunu, ancak REML = F kullanırsanız, model1 düşük AIC puanı olduğunu buldum.

ML kullanma desteği:

Zuur ve diğ. (2009; SAYFA 122) "İç içe sabit efektli (ancak aynı rastgele yapıya sahip) modelleri karşılaştırmak için, REML yerine ML tahmini kullanılmalıdır." Bu bana, rastgele etkilerimin her iki modelde de aynı olması nedeniyle ML kullanmam gerektiğini gösteriyor, ancak sabit etkilerim farklı. [Zuur ve diğ. 2009. R. Springer ile Ekolojide Karışık Etki Modelleri ve Uzantıları.]

REML kullanma desteği:

Bununla birlikte, ML kullandığımda, rastgele etkilerle ilişkili artık varyansın iki model arasında (model1 = 136.3; model2 = 112.9) farklı olduğunu fark ettim, ancak REML kullandığımda, modeller arasında aynıdır (model1 = model2 = 151.5). Bu bana REML kullanmam gerektiğini ima ediyor, böylece rastgele artık varyans aynı rastgele değişkene sahip modeller arasında aynı kalıyor.

Soru:

Sabit etkilerin değiştiği ve rastgele etkilerin aynı kaldığı modellerin karşılaştırması için REML kullanmak ML'den daha mantıklı değil mi? Değilse, nedenini açıklayabilir veya beni daha fazla açıklayan diğer literatüre yönlendirebilir misiniz?

# Model2 "wins" if REML=T:
REMLmodel1 = lmer(Response ~ Fixed1 + (1|Random1),data,REML = T)
REMLmodel2 = lmer(Response ~ Fixed2 + (1|Random1),data,REML = T)
AIC(REMLmodel1,REMLmodel2)
summary(REMLmodel1)
summary(REMLmodel2)

# Model1 "wins" if REML=F:
MLmodel1 = lmer(Response ~ Fixed1 + (1|Random1),data,REML = F)
MLmodel2 = lmer(Response ~ Fixed2 + (1|Random1),data,REML = F)
AIC(MLmodel1,MLmodel2)
summary(MLmodel1)
summary(MLmodel2)

Veri kümesi:

Response    Fixed1  Fixed2  Random1
5.20    A   A   1
32.50   A   A   1
6.57    A   A   2
24.77   A   B   3
41.69   A   B   3
34.29   A   B   4
1.80    A   B   4
10.00   A   B   5
15.56   A   B   5
4.44    A   C   6
21.65   A   C   6
9.20    A   C   7
4.11    A   C   7
12.52   B   D   8
0.25    B   D   8
27.34   B   D   9
11.54   B   E   10
0.86    B   E   10
0.68    B   E   11
4.00    B   E   11

Zuur ve diğerleri ve Faraway (@ janhove'nin yukarıdaki yorumundan) doğrudur; REML tarafından takılan farklı sabit etkileri olan iki modeli karşılaştırmak için olasılık tabanlı yöntemler (AIC dahil) kullanmak genellikle saçmalıklara yol açacaktır.

$X$$\tilde{X}$$\mathbb{R}^n$$\tilde{X}$$X$$B$

$\tilde{X} = XB$

$B$$X$$B$ tersinir olduğu .

$V$ bir kovaryans matrisi olmasına izin verirsek, en üst düzeye çıkarmamız gereken REML ölçütünü düşünelim (bir sabit atlıyorum)

$|V|^{-1/2}|\tilde{X}'V^{-1}\tilde{X}|^{-1/2}\exp((y-\tilde{X}\tilde{\beta})'V^{-1}(y-\tilde{X}\tilde{\beta})/2)$

$\beta = (\tilde{X}V^{-1}\tilde{X})^{-1}y$$X = \tilde{X}B$

$|B||V|^{-1/2}||X'V^{-1}X|^{-1/2}|\exp((y-X\bar{\beta})'V^{-1}(y-X\bar{\beta})/2)$,

where $\bar{\beta} = (XV^{-1}X)^{-1}y$. This is the REML likelihood for the other parametrization times the determinant of $|B|$.

We therefore have an example of two different parametrizations of the same model, giving different likelihood values, assuming that $|B| \neq 1$ (such a matrix can easily be found). The same parameter value will maximize the criterion in both cases but the value of the likelihood will be different. This shows that there is an arbitrary element in the likelihood value and therefore illustrates why one cannot use the value of the likelihood for comparison between models with different fixed effects: you would be able to change the results simply be changing the mean value space parametrization in one of the models.

This an example of why REML should not be used when comparing models with different fixed effects. REML, however, often estimates the random effects parameters better and therefore it is sometimes recommended to use ML for comparisons and REML for estimating a single (perhaps final) model.