BIC gerçek bir model bulmaya çalışıyor mu?

Bu soru, I ve diğer pek çok konuda AIC ve BIC arasındaki fark konusunda biraz zorlandığımız bir konuyu takip etmek veya karışıklığı gidermeye çalışmaktır. @Dave Kellen'in bu konuyla ilgili çok güzel bir cevapta ( /stats//a/767/30589 ) okuyoruz:

Sorunuz, AIC ve BIC'nin aynı soruya cevap vermeye çalıştığını ima ediyor, bu doğru değil. AIC, bilinmeyen, yüksek boyutlu bir gerçekliği en uygun şekilde tanımlayan modeli seçmeye çalışır. Bu, gerçekliğin asla dikkate alınan aday modeller kümesinde olmadığı anlamına gelir. Aksine, BIC adaylar arasında DOĞRU modeli bulmaya çalışır. Araştırmacıların yol boyunca inşa ettiği modellerden birinde realitenin somutlaştırıldığı varsayımını oldukça garip buluyorum. Bu BIC için gerçek bir konudur.

Aşağıdaki bir yorumda, @ gui11aume tarafından şunu okuduk:

(-1) Harika bir açıklama, ama bir iddiaya meydan okumak istiyorum. @Dave Kellen TRUE modelinin BIC için sette olması gerektiği fikrine referans verebilir misiniz? Bunu araştırmak istiyorum, çünkü bu kitapta yazarlar durumun böyle olmadığına ikna edici bir kanıt sunuyor. - gui11aume 27 Mayıs 12: 21: 47

Görünüşe göre bu iddia Schwarz'un kendisinden geliyor (1978), iddia gerekli olmasa da: Aynı yazarlar tarafından (@ gui11aume'e bağlandığı gibi), "Çok modelli çıkarım: Model seçiminde AIC ve BIC'yi anlama" ( Burnham ve Anderson, 2004):

BIC'nin türetilmesi, gerçek bir modelin varlığını varsayar mı yoksa daha dar olarak, gerçek modelin BIC kullanılırken model setinde olduğu varsayılır mı? (Schwarz'un türevi bu koşulları belirtti.) ... Cevap ... hayır. Yani, BIC (belirli bir Bayes integraline yaklaşmanın temeli olarak), türevin altında yatan modelin doğru olduğu varsayılarak türetilebilir (bkz. Örneğin Cavanaugh ve Neath 1999; Burnham ve Anderson 2002: 293-5). Kesinlikle, BIC uygulanırken, model setinin tam gerçekliği temsil eden (var olmayan) gerçek modeli içermesine gerek yoktur. Dahası, BIC tarafından seçilen modelin bir targbet modeline (bir iid örneğinin idealleştirilmesi altında) olasılığındaki yakınsama, mantıksal olarak, hedef modelin gerçek veri üreten dağıtım olması gerektiği anlamına gelmez.

Bu yüzden, bu konuda bir tartışmaya veya biraz açıklamaya (daha fazla ihtiyaç varsa) değer olduğunu düşünüyorum. Şu anda, elimizde olan tek şey @ gui11aume (teşekkür ederim!) AIC ve BIC arasındaki farkla ilgili çok yüksek oy alan bir cevap altında.

model-selection aic bic

— Erosennin
kaynak

Soruyu daha iyi odaklamak için, AIC belki de başlıktan çıkarılabilir, çünkü doğru anlarsam, bu soru BIC kullanırken gerçek modelin aday setinde olması gerekip gerekmediği ile ilgilidir.

— Juho Kokkala

@JuhoKokkala: Katılıyorum.

— Erosennin

Bana göre, en pratik uygulamalarda BIC, yetersiz takma ile sonuçlanır ve AIC, modelin eldeki yeni veriler üzerindeki olası performansını daha doğru bir şekilde değerlendirir. Ancak, örneğin rakip 3 model / özellik seti arasından seçim yapıyorsanız AIC veya BIC'yi kullansanız da, ortaya çıkan model gereğinden fazla takılabilir. AIC ve BIC, potansiyel modellerin sayısı düşük olduğunda veya modeller az sayıda parametre (örn. Cezalar) ile bağlandığında en iyi sonucu verir.

— Frank Harrell

Referansı kazdığınız için @Erosennin'e teşekkürler. Şimdi DOĞRU modelin dahil edilmesi gerektiği fikrinin nereden geldiğini anlıyorum.

— gui11aume

@FrankHarrell: Ne demek istediğini "pratik uygulamalar" ile açıklayabilir misin? Burnham ve Anderson'ı doğru bir şekilde anlarsam, BIC'nin veri az olduğunda yetersiz uyumla sonuçlanacağı anlaşılıyor. Çok fazla veriye sahip olduğumuzda, BIC aslında AIC'den daha karmaşık bir yarı-gerçek modeli seçer / arar. AIC ve BIC'nin farklı "hedef modelleri" vardır. Beni sadece bir makaleye / kitaba yönlendirmek için söylediklerinizin detaylandırılmasını çok isterim.

— Erosennin

\frac{p (M_{1} | y)}{p (M_{2} | y)} > 1 \overset{A}{\sim} S I C (M_{1}) < S I C (M_{2})

$\frac{p(M_1|y)}{p(M_2|y)} > 1 \overset{A}{\sim} SIC(M_1) < SIC(M_2)$

\overset{A}{\sim}

$\overset{A}{\sim}$

p (M_{j} | y)

$p(M_j|y)$

j

$j$

y

$y$

I C (k) = - \frac{2}{T} l (\hat{θ}; y) + k g (T)

$IC(k) = -\frac{2}{T} \mathcal{l}(\hat{\theta};y) + k g(T)$

l (\hat{θ}; y)

$\mathcal{l}(\hat{\theta};y)$

\hat{θ}

$\hat{\theta}$

k

$k$

T

$T$

g (T) \to 0 as \infty

$g(T) \to 0 \; \text{as} \;\infty$

T g (T) \to \infty as \infty

$Tg(T) \to \infty \; \text{as} \;\infty$

g_{A I C} (T) = \frac{2}{T}, g_{S I C} (T) = \frac{\ln T}{T}

$g_{AIC}(T) = \frac{2}{T},\;\; g_{SIC}(T) = \frac{\ln{T}}{T}$

Elliott, G. ve A. Timmermann (2016, Nisan). Ekonomik Tahmin. Princeton Üniversitesi Yayınları.

Schwarz, Gideon. "Bir modelin boyutunu tahmin etmek." İstatistik yıllıkları 6.2 (1978): 461-464.

— Matthias Schmidtblaicher
kaynak