R'de AIC “elle” hesaplanıyor

R doğrusal bir regresyon AIC hesaplamak denedim, ancak AICböyle bir işlevi kullanmadan :

lm_mtcars <- lm(mpg ~ drat, mtcars)

nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2)
[1] 97.98786

Ancak, AICfarklı bir değer verir:

AIC(lm_mtcars)
[1] 190.7999

Biri bana neyi yanlış yaptığımı söyleyebilir mi?

r aic information-theory

— luciano
kaynak

(henüz cevabınızı kontrol etmeden): Yanlış bir şey yapmanıza gerek yok çünkü olasılık sadece çarpımsal bir sabite kadar tanımlanmış; iki kişi günlük olasılığını hesaplayabilir ve farklı sayılar alabilir (ancak günlük olabilirlikteki farklar aynıdır).

— Glen_b-Monica'yı

Hong Oois'in cevabı bu soru ile ilgili, sanırım. İşlevin AICkullandığı formül -2*as.numeric(logLik(lm_mtcars))+2*(length(lm_mtcars$coefficients)+1).

— COOLSerdash

luciano: @COOLSerdash formülündeki "+1" varyans parametresi teriminden kaynaklanır. Ayrıca, fonksiyonun modeller için 'tüm sabitleri' içerdiğini logLiksöylediğini unutmayın lm... bu yüzden orada bir log(2*pi)yerde olacak

— Glen_b -Restate Monica

@Glen_b: Neden olasılık sadece çarpımsal bir sabite kadar tanımlanmış ? Sonuçta, farklı dağıtım ailelerinden (örneğin AIC veya Cox testi ile) iç içe geçmiş modelleri karşılaştırırken, bu sabiti hatırlamanız gerekir.

— Scortchi - Monica'yı eski durumuna döndürün

@Scortchi tanımı benim değil! RAFisher ile uğraşmanız gerekecek. En başından beri böyleydi (1921). Hâlâ bu şekilde tanımlandığını, en azından sürekli olarak, buraya bakınız , örneğin, 'Daha kesin olarak' başlayan cümle.

— Glen_b

Yanıtlar:

logLikR'deki işleve ilişkin yardımın, lmmodeller için 'tüm sabitleri' içerdiğini söylediğini unutmayın ... bu yüzden orada bir log(2*pi)yerde bir ve aynı zamanda üs için olası başka bir sabit terim olacaktır. Ayrıca, bir parametre olduğu gerçeğini saymayı unutamazsınız . $\sigma^2$

$\cal L(\hat\mu,\hat\sigma)=(\frac{1}{\sqrt{2\pi s_n^2}})^n\exp({-\frac{1}{2}\sum_i (e_i^2/s_n^2)})$

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n^2}+\sum_i (e_i^2/s_n^2)$

$= n[\log(2\pi)+\log{s_n^2}+1]$

$\text{AIC} = 2p -2\log \cal{L}$

ancak 1 bağımsız değişkeni olan bir model için p = 3 (x katsayısı, sabit ve ) $\sigma^2$

Bu da onların cevabını şu şekilde alırsınız:

nrow(mtcars)*(log(2*pi)+1+log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))
       +((length(lm_mtcars$coefficients)+1)*2)

— Glen_b-Monica'yı eski durumuna döndür
kaynak

Neden sizin hesaplamasında

Yalnızca bölünmesi edilir

s^{2}

$s^2$

n

$n$

n - p

$n-p$

— Luke Thorburn

AIC tanımına bakınız:

parametrelerinin vektörü

(yani tüm unsurları en değerlendirilir

Mles vardır); ör. Wikipedia Akaike bilgi kriteri: Tanım . Eğer bölme değilseniz

hesaplamasında orada

, size MLE hesaplama değiliz

ve böylece gerçekten AIC bilgisayar değil - Eğer uydurma parametrelerinin etkisi iki kez ayar olurdum yürürlükte. (Evet, birçok insan yanlış yapıyor)

- 2 \log L (\hat{θ}) + 2 p

$-2\log\mathcal{L}(\hat\theta)+2p$

θ

$\theta$

\hat{θ}

$\hat\theta$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

— Glen_b -Monsica Monica

- 2 \log L = n \log (2 π) + n \log s_{n} + \sum_{i} (e_{i}^{2} / s_{n}^{2})

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n}+\sum_i (e_i^2/s_n^2)$

\sqrt{2 π s_{n}^{2}}

$\sqrt{2\pi s^2_n}$

AIC $2k -2 \log L$ $L$ $k$ $n \log \frac{S_{\mathrm{r}}}{n} + 2(k-1)$ $S_{\mathrm{r}}$ $n$

— Scortchi - Monica'yı eski durumuna döndürün
kaynak