İç içe yerleştirilmemiş iki modelin AIC'deki farkını test etme

AIC'nin veya diğer herhangi bir bilgi kriterinin asıl amacı, daha azının daha iyi olmasıdır. İki M1 modelim varsa: y = a0 + XA + e ve M2: y = b0 + ZB + u ve eğer ilk (A1) AIC'si ikinci (A2) modelinden daha azsa, M1 bilgi teorisi açısından daha uygun. Ancak A1-A2 farkı için herhangi bir kesinti ölçütü var mı? Aslında ne kadar az, daha az? Başka bir deyişle, (A1-A2) için sadece göz küresi yapmaktan başka bir test var mı?

Edit: Peter / Dmitrij ... Yanıt verdiğiniz için teşekkürler. Aslında bu, temel uzmanlığımın istatistiksel uzmanlığımla çeliştiği bir durumdur. Esasen, sorun iki model arasında seçim yapmak DEĞİLDİR, ancak büyük ölçüde eşdeğer olduğunu bildiğim iki değişkenin eşdeğer miktarda bilgi ekleyip eklemediğini kontrol etmektir (Aslında, ilk modelde bir değişken ve ikincisinde bir vektör. değişkenlerin bir indeksine karşı bir grup.). Dmitrij'in belirttiği gibi, en iyi bahis Cox Testi gibi görünüyor. Ancak iki modelin bilgi içeriği arasındaki farkı gerçekten test etmenin bir yolu var mı?

Merak konusu, yani buradaki cevabımdan memnun değil misiniz ? Değilse ...

$AIC$$|AIC_1 - AIC_2| < 2$$AIC$

$AIC$$AIC$$AIC$

$AIC$$1–2$$AIC$$4–7$$AIC > 10$

Daha genel bir yaklaşım şöyledir ...

Ifade tarafından aday modellerinin değerlerini , . Bırakalım bu değerlerin belirtir. Daha sonra , modelinin (beklenen tahmini) bilgi kaybını en aza indirgeme olasılığı olarak yorumlanabilir .$AIC$$AIC1$$AIC2, AIC3, \ldots, AICR$$AICmin$$e^{(AICmin−AICi)/2}$$i$

Örnek olarak, aday setinde değerleri , ve olan üç model olduğunu varsayalım . Daha sonra, ikinci model bilgi kaybını en aza indirmek için ilk modelden kat daha olasıdır ve üçüncü model kez bilgi kaybını en aza indirecek ilk model kadar olası. Bu durumda, üçüncü modeli daha fazla dikkate almaktan çıkarabilir ve ilk iki modelin ağırlıklarını sırasıyla ve ağırlıklarıyla alabiliriz . İstatistiksel çıkarım, daha sonra ağırlıklı multimodele dayanacaktır.$AIC$$100$$102$$110$$e^{(100−102)/2} = 0.368$$e^{(100−110)/2} = 0.007$$1$$0.368$

Bence güzel bir açıklama ve faydalı öneriler. Tıklanabilir olanı okumaktan korkmayın!

In ek , not kez daha, büyük ölçekli veri kümeleri için daha az tercih edilir. Ek olarak Eğer yanlılık düzeltilmiş versiyonunu uygulamak yararlı olabilir kriter (bu kullanabilir kodu ya da formül , tahmini parametre sayısıdır). Genel kural aynı olacaktır. $AIC$$BIC$$AIC$$AICc$R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$$p$

Bence bu gerçekten istemediğinizi elde etmek için bir girişim olabilir.

Model seçimi bir bilim değildir. Nadir durumlar dışında, mükemmel bir model, hatta bir "gerçek" model yoktur; nadiren bir "en iyi" model bile vardır. AIC vs AICc vs BIC vs. SBC vs. Bence fikir bazı İYİ modeller elde etmek. Daha sonra, aralarında temel uzmanlık ve istatistiksel fikirlerin bir kombinasyonuna dayanarak seçim yaparsınız. Önemli bir uzmanlığınız yoksa (nadiren durum; çoğu insanın sandığından çok daha nadiren) en düşük AIC'yi (veya AICc veya her neyse) seçin. Ama genellikle bazı uzmanlıklarınız var - yoksa neden bu değişkenleri araştırıyorsunuz?