AIC ve BIC'nin tamamen farklı model seçimleri yapması mümkün müdür?


12

1 yanıt değişkeni ve 6 ortak değişkenle bir Poisson Regresyon modeli gerçekleştiriyorum. AIC kullanılarak model seçimi, 6 değişken terimin yanı sıra tüm değişkenlere sahip bir model ile sonuçlanır. Ancak BIC, sadece 2 ortak değişkenli ve etkileşim terimi olmayan bir model ile sonuçlanır. Çok benzer görünen iki kriterin tamamen farklı model seçimleri vermesi mümkün müdür?


6
İki metrikten farklı model önerileri almak mümkün olmasaydı, o zaman iki metrik olmazdı, her zaman bir tane kullanırdık.
Gregor Thomas

Modeller bir dizi ayrık parametre arasından seçim yapmanın sonucu olduğunda "tamamen farklı" kelimesini yorumlamak zordur.
BallpointBen

Yanıtlar:


21

Gerçekten mümkündür. Https://methodology.psu.edu/AIC-vs-BIC adresinde açıklandığı gibi , "BIC, model karmaşıklığını daha ağır cezalandırıyor. Anlaşmamaları gereken tek yol, AIC'nin BIC'den daha büyük bir model seçmesidir."

Amacınız iyi bir tahmin modelini tanımlamaksa, AIC'yi kullanmalısınız. Amacınız iyi bir açıklayıcı model tanımlamaksa, BIC'yi kullanmalısınız. Rob Hyndman bu öneriyi
https://robjhyndman.com/hyndsight/to-explain-or-predict/ adresinde güzel bir şekilde özetliyor :

"AIC, seçim için model seçimine daha uygundur, çünkü regresyonda bir kerelik çapraz geçerliliğe veya zaman serilerinde bir adım çapraz geçerliliğe asimptotik olarak eşdeğerdir. Öte yandan, BIC tutarlı olduğu için açıklama için model seçimine daha uygundur. "

Öneri, Galit Shmueli'nin “Açıklamak ya da tahmin etmek için mi?” Adlı makalesinden geliyor, İstatistik Bilimi, 25 (3), 289-310 ( https://projecteuclid.org/euclid.ss/1294167961 ).

Zeyilname:

Üçüncü bir modelleme modeli vardır - tanımlayıcı modelleme - ancak AIC veya BIC'nin en uygun tanımlayıcı modeli tanımlamak için en uygun referansları bilmiyorum. Umarım buradaki diğer kişiler fikirlerini öğrenebilirler.


6
lnn<2n7

İyi bir nokta! Örnek boyutu 7 veya daha az olduğunda, model seçiminin masa dışında olduğunu düşünürdüm. Gh
Isabella Ghement

Üçüncü bir modelleme modeli vardır - tanımlayıcı modelleme - ancak AIC veya BIC'nin en uygun tanımlayıcı modeli tanımlamak için en uygun referansları bilmiyorum. Umarım buradaki diğer kişiler fikirlerini öğrenebilirler. Bir cevap mı yoksa bir soru mu?
Subhash C.Davar

@ subhashc.davar: Henüz cevap yok - Galit Shmueli'ye e-posta gönderip ondan onunla ilgili düşüncelerini sormaya cazip geldim.
Isabella Ghement

1
"Açıklayıcı" anlamını anlar ve ciddiye alırsak, en uygun açıklayıcı modeli tanımlamaktan bahsetmenin mantıklı olduğundan emin değilim.
gung - Monica'yı eski

11

Kısa cevap: evet, bu çok mümkün. İkisi, tahmin edilen parametre sayısına göre farklı cezalar uygular (AIC için 2k vs BIC için ln (n) xk, burada k tahmini parametre sayısı ve n örnek büyüklüğüdür). Bu nedenle, bir parametre eklemekten kaynaklanma olasılığı düşükse, BIC, AIC'ye farklı modeller seçebilir. Ancak bu etki numune boyutuna bağlıdır.


2
n'nin yukarıdaki denklemdeki örnek büyüklüğü olduğunu açıkça belirtmek güzel olurdu
fabiob
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.