AICc için negatif değerler (düzeltilmiş Akaike Bilgi Kriteri)

39

İki genel doğrusal karışık modeli karşılaştırmak için AIC ve AICc'yi hesapladım; AIC'ler model 1'den, model 2'den daha düşük AIC'ye sahip olan pozitiftir. Bununla birlikte, AICc için değerler her ikisi de negatiftir (model 1 hala <model 2'dir). Negatif AICc değerlerini kullanmak ve karşılaştırmak geçerli midir?

mixed-model model-selection aic

— Freya Harrison
kaynak

AIC minimum olduğunda? lütfen cevap ver

Model 1'in AIC'si model 2'den küçük olduğunda ne anlama gelir? Model 1 sıfıra daha yakın mı yoksa sıfıra daha mı uzak? Başka bir deyişle, model 1'in AIC'si -390 ise ve model 2'nin -450'si varsa, model 1'i mi yoksa model 2'yi mi seçerdim?

— Jens

46

Önemli olan iki AIC (veya daha iyi, AICc) değeri arasındaki farktır ve iki modele uyumu temsil eder. AIC'nin (veya AICc) gerçek değeri ve olumlu ya da olumsuz olup olmadığı hiçbir şey ifade etmez. Verilerin ifade edildiği birimleri basitçe değiştirdiyseniz, AIC (ve AICc) çarpıcı biçimde değişecektir. Ancak, iki alternatif modelin AIC'si arasındaki fark hiç değişmeyecek.

Alt satır: Gerçek AIC (veya AICc) değerini ve pozitif mi yoksa negatif mi olduğunu dikkate almayın. İki AIC (veya AICc) değerinin oranını da yoksay. Sadece farka dikkat edin.

— Harvey Motulsky
kaynak

2

Bu sorunun tüm cevaplarını faydalı buldum, ancak bunun en pratik olduğunu düşünüyorum.

— Freya Harrison,

1

Değişen birimler hakkındaki yorum ile kafam karıştı, çünkü AIC tanımı birimsiz (ayarlanmış bir maksimum kütle olasılığı). Veri birimlerindeki bir değişiklik, en üst düzeye çıkma olasılığını hiç değiştirmez ve dolayısıyla AIC'yi de değiştirmez. (Ne olursa olsun, sadece farka dikkat etmenizi öneriyoruz. Sorusu yoktur.)

— whuber

5

@whuber: Eğer veriler sürekli dağıtılıyorsa (bunlar orijinal posterin gerçekten "genel" veya "genelleştirilmiş" LMM anlamına gelip gelmediğine bağlı olarak değişebilirse), olasılık yoğunluğu içinde dolaylı bir "delta-x" terimine sahiptir; gerçekten değişen birimlerden etkilenir. Ayrıca bakınız < emdbolker.wikidot.com/faq >

— Ben Bolker

4

@Ben Teşekkürler. Bunu yazdığımda, AIC ile AIC arasındaki fark ile kafam karıştı, ikincisinin eski olduğunu düşünüyorum. Birimlerin seçiminin olasılığa çarpımsal bir sabit getirdiği doğru. Bu nedenle, log olasılığı, AIC'ye katkıda bulunan (iki katına çıktıktan sonra) bir katkı sabitine sahiptir. AIC'lerin farkı değişmedi.

— whuber

27

AIC = -2Ln (L) + 2k

L, bu model için Olabilirlik fonksiyonunun maksimize edilmiş değeridir ve k, modeldeki parametre sayısıdır.

Örnekte -2Ln (L) + 2k <0, maksimumdaki log olasılığının> 0 olduğu anlamına gelir, bu da maksimumdaki olasılığın> 1 olduğu anlamına gelir.

Olumlu bir log-olabilirlik problemi yoktur. Günlük olasılığının negatif olması yaygın bir yanılgıdır. Olasılık bir olasılık yoğunluğundan elde edilirse, mantıksal olasılığın pozitif olduğu, dolayısıyla sapma ve AIC'nin negatif olduğu anlamına gelen, makul olarak 1'i geçebilir. Modelinizde bu oldu.

AIC'leri karşılaştırmanın bir model seçmenin iyi bir yolu olduğunu düşünüyorsanız, o zaman (en düşük mutlak AIC değerine sahip olmayanlar yerine (cebirsel olarak) düşük AIC'nin tercih edilmesinin nedeni bu olacaktır. Yinelemek için, örneğinizdeki en negatif sayıyı istersiniz.

— Graham Cookson
kaynak

13

Genel olarak, AIC'nin (ve böylece AICc) bir sabit eklemeye kadar tanımlandığı varsayılmaktadır, bu nedenle negatif ya da pozitif olması gerçeği hiç de anlamlı değildir. Yani cevap evet, geçerli.

Sabit dahil edilse bile, AIC (AICc) negatif olabilir.

— Rob Hyndman,

1

Ben de öyle yazdım.

5

Evet, negatif AICc değerlerini, negatif AIC değerlerini yaptığınız gibi karşılaştırmak için geçerlidir. AICc'deki düzeltme faktörü, küçük örneklem büyüklüğü ve nispeten fazla sayıda parametre ile büyük olabilir ve AIC'den daha ağır ceza alabilir. Bu yüzden pozitif AIC değerleri negatif AICc değerlerine karşılık gelebilir.

— ars
kaynak

0

Evet. AIC değerlerini, pozitif ya da negatif olmalarına bakmaksızın karşılaştırmak geçerlidir. Bunun nedeni, AIC'nin log-olabilirliğinin doğrusal bir işlevi (-2) olmasıdır. Olasılık büyükse, AIC'niz muhtemelen negatif olacaktır ancak modelin kendisi hakkında hiçbir şey söylemez.

AICc benzerdir, değerlerin şimdi ayarlanması gerçeği hiçbir şeyi değiştirmez.

— SmallChess
kaynak