Bir olasılık oranı testi neden ki-kare olarak dağıtılmıştır?

Test testi neden ki-kare testine tabi tutuluyor?

$2(\ln \text{ L}_{\rm alt\ model} - \ln \text{ L}_{\rm null\ model} ) \sim \chi^{2}_{df_{\rm alt}-df_{\rm null}}$

@ Nick tarafından belirtildiği gibi, bu Wilks teoreminin bir sonucudur . Ancak, test istatistiğinin asimptotik olarak dağıtıldığını, dağıtıldığını unutmayın.χ $\chi^2$$\chi^2$

Bu teoremden çok etkilendim çünkü çok geniş bir bağlamda duruyor. Olabilirlik ile istatistiksel bir model göz önünde olduğu vektör gözlemler parametresi ile bir dağılımdan bağımsız çoğaltılmış gözlemler bir alt manifoldu ait arasında ile boyut . boyutunda bir altmanifold izin verin . testini ilgilendiğinizi düşünün .y n θ B 1 R, d dim ( B 1 ) = s B 0 ⊂ B 1 loş ( B 0 ) = m * H 0 : { θ ∈ B 0$l(\theta \mid y)$$y$$n$$\theta$$B_1$$\mathbb{R}^d$$\dim(B_1)=s$$B_0 \subset B_1$$\dim(B_0)=m$$H_0\colon\{\theta \in B_0\}$

Olasılık oranı olan Sapmayı tanımlayın . Daha sonra Wilks teoremi söylüyor, normal düzenlilik varsayımlar altında, asimptotik bir ile -Dağıtık zaman serbestlik derecesi geçerlidir.d(y)=2log(lr(y))d(y)χ2s-m, H

Wilk'in @Nick tarafından belirtilen orijinal makalesinde kanıtlanmıştır . Bence bu yazının okunması kolay değil. Wilks daha sonra belki de teoreminin en kolay sunumuyla bir kitap yayınladı. Williams'ın mükemmel kitabında kısa bir buluşsal kanıt .

Nick Sabbe'nin sert yorumunu ikinci olarak söylüyorum ve kısa cevabım öyle değil . Yani, sadece normal lineer modelde. Kesinlikle başka türlü bir koşul için tam dağılım bir . Birçok durumda, daha sonra Wilks teoremi koşulları yerine getirdiğinin umut ve olabilir asimptotik için dağıtımında log-olabilirlik oran testi istatistik yakınlaşıyor . Wilks teoreminin koşullarının sınırlamaları ve ihlalleri ihmal edilemez.χ $\chi^2$$\chi^2$

1. Teoremi, iid data zaman serisi veya eşit olmayan olasılık anketi örnekleri gibi bağımlı verilerle ilgili sorunlar beklediğini varsayar (olasılıklar zayıf bir şekilde tanımlanmıştır), durum tablosunda bağımsızlık testleri gibi "normal" testleri , toplam olarak davranmaya başlayın ( Rao & Scott ) .Iid verileri için, , ve toplam . bağımsız veri, bu artık böyle değil.χ 2 Σ k bir k v k , v k ~ iid χ 2 1 bir k = 1 χ $\Rightarrow$$\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k=1$$\chi^2$
2. Teorem, gerçek parametrenin parametre alanının içinde olduğunu varsayar. Çalışılacak Öklid alanınız varsa, bu sorun değil. Bununla birlikte, bazı problemlerde, varyans 0 veya -1 ile 1 arasındaki korelasyon gibi doğal kısıtlamalar ortaya çıkabilir . Eğer gerçek parametre bir sınır ise, o zaman asimptotik dağılım farklı derecelerde bir karışımıdır. Özgürlüğün, testin cdf'sinin bu cdfs'lerin toplamı olduğu anlamında ( Andrews 2001 , artı aynı dönemdeki makalelerinin iki ya da üçü daha, tarihin Chernoff 1954'e geri dönmesiyle ).ki-kare $\ge$$\chi^2$
3. Teorem, ilgili tüm türevlerin sıfır olmadığını varsayar. Buna bazı doğrusal olmayan problemler ve / veya parametreleştirmeler ve / veya boş değer altında bir parametre tanımlanmadığında durumlarla mücadele edilebilir. Bir Gauss karışım modeline sahip olduğunuzu ve boş değerinizin bir bileşen ve iki ayrı bileşen seçeneğinin bir karışım fraksiyonuyla . Boş değer, alternatif olarak iç içe yerleştirilmiştir, ancak bu, çeşitli şekillerde ifade edilebilir: (bu durumda parametreleri belirlenmez), (bu durumdaf N ( μ 1 , σ 2 1 ) + ( 1 - f ) N ( μ 2 , σ 2 2 ) f f = 0 μ 1 , σ 2 1 f = 1 μ 2 , σ 2 2 μ 1 = μ 2 , σ $N(\mu_0,\sigma^2_0)$$f N(\mu_1,\sigma_1^2) + (1-f) N(\mu_2,\sigma_2^2)$$f$$f=0$$\mu_1,\sigma_1^2$$f=1$$\mu_2, \sigma_2^2$tanımlanmadı) veya (bu durumda tanımlanmadı). Burada, yerleştirmeyi nasıl parametrelediğinize bağlı olarak farklı kısıtlamalarınız olduğundan, testinizde kaç derece serbestlik olması gerektiğini bile söyleyemezsiniz. Bu konuda Jiahua Chen'in çalışmasına bakınız, örneğin CJS 2001 .$\mu_1=\mu_2, \sigma_1=\sigma_2$$f$
4. dağıtım doğru belirtilmişse Tamam çalışabilir. Fakat değilse, test tekrar bozulur. Yapısal eşitlik kovaryansı modellemesi olarak bilinen çok değişkenli analizin (büyük oranda istatistikçiler tarafından ihmal edilen) alt alanında, çok değişkenli normal bir dağılım genellikle kabul edilir, ancak yapı doğru olsa bile, dağılım farklıysa test yanlış yapar. Satorra ve Bentler 1995 , dağıtımın , benim açımdan bağımsız olmayan verilerle aynı öyküye gösteriyor, ancak aynı zamanda s modelin yapısına ve dağılımın dördüncü anlarına bağlıdır.∑ k a k v k , v k ∼ iid χ 2 1 a $\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k$
5. Sonlu örnekler için, büyük bir sınıfta olasılık oranı Bartlett ile düzeltilebilir : süre büyüklükte bir örnek için ve dağılım fonksiyonu olarak normal olabilirlik sorunları için, dağıtım, bir sabit bulabilirsiniz öyle ki , yani daha yüksek bir dereceye doğruluk. Böylece sonlu örnekler için yaklaşımı iyileştirilebilir (ve nasıl yapılacağını biliyorsanız, muhtemelen iyileştirilmesi gerekir). Sabitn, F ( x , χ 2 d ) χ 2 d b p r O , b [ d ( y ) / ( 1 + b / n ${\rm Prob}[d(y) \le x]=F(x;\chi^2_d)[1+O(n^{-1})]$$n$$F(x;\chi^2_d)$$\chi^2_d$$b$χ 2${\rm Prob}[d(y)/(1+b/n) \le x]=F(x;\chi^2_d)[1+O(n^{-2})]$$\chi^2$$b$ modelin yapısına ve bazen yardımcı parametrelere bağlıdır, ancak tutarlı bir şekilde tahmin edilebilirse, kapsama sırasının iyileştirilmesinde de işe yarar.

Bu ve benzeri ezoterik sorunların olasılık çıkarımında gözden geçirilmesi için, bkz. Smith 1989 .