Doğrusal olmayan modelleri R'de karşılaştırmak için AIC'yi (Akaike'ın Bilgi Ölçütü) kullanıyorum. Farklı model türlerinin AIC'lerini karşılaştırmak geçerli midir? Spesifik olarak, glm ile takılmış bir modeli karşılaştırırken, glmer (lme4) tarafından takılan rastgele etki terimine sahip bir modeli karşılaştırıyorum.
Olmazsa, böyle bir karşılaştırma yapmanın bir yolu var mı? Yoksa fikir tamamen geçersiz mi?
Yanıtlar:
Değişir. AIC, log olasılığının bir fonksiyonudur. Her iki model türü de log olasılığını aynı şekilde hesaplarsa (yani aynı sabiti dahil), eğer modeller iç içe geçmişse , evet yapabilirsiniz .
Bundan oldukça eminim glm()ve lmer()karşılaştırılabilir kütük olasılıkları kullanmıyorum.
İç içe geçmiş modeller hakkındaki nokta da tartışma için hazır. Bazıları AIC'nin sadece iç içe modeller için geçerli olduğunu ve teorinin nasıl sunulduğunu / çalıştığını söylüyor. Diğerleri her çeşit karşılaştırma için kullanır.
Bu, bir süredir merak ettiğim harika bir soru.
Aynı ailedeki modeller için (yani, k veya polinomların otomatik gerileyen modelleri) AIC / BIC çok mantıklıdır. Diğer durumlarda daha az açıktır. Günlük olasılığını tam olarak hesaplamak (sürekli terimlerle) çalışmalıdır, ancak Bayes Faktörleri gibi daha karmaşık model karşılaştırması kullanmak muhtemelen daha iyidir (http://www.jstor.org/stable/2291091).
Modeller aynı kayıp / hata fonksiyonuna sahipse, alternatiflerden biri sadece çapraz onaylanmış log olasılıklarını karşılaştırmaktır. AIC / BIC'in belirli bir durumda bir anlam ifade ettiğinden emin olmadığımda genellikle yapmaya çalıştığım şey budur.
Bazı durumlarda, AIC'nin aynı tipteki modelleri, ARIMA modelleri gibi farklı bir sıralama sırasına göre bile karşılaştıramayacağını unutmayın. Alıntı Tahmini: Rob J Hyndman ve George Athanasopoulos'un İlkeleri ve Uygulamaları :
Bu bilgi kriterlerinin, uygun farklılaşma sırasını seçmede iyi rehber olma eğiliminde olmadığına dikkat etmek önemlidir (