T testi ve tek yönlü ANOVA her iki Wald testi mi?

11

Normal olarak dağılmış bir numunenin ortalamasının bir sabite eşit olup olmadığını test etmek için t-testinin, örnek ortalamasının standart sapmasının, balıkçının numune ortalamasındaki normal dağılım bilgisi ile hesaplanmasıyla Wald testi olduğu söylenir. Ancak t testindeki test istatistiği bir öğrenci t dağılımına sahipken, Wald testindeki test statüsü asemptotik olarak ki-kare dağılımına sahiptir. Bunu nasıl açıklayacağımı merak ediyorum.

Tek yönlü ANOVA'da test istatistiği, sınıflar arası varyans ile sınıf içi varyans arasındaki oran olarak tanımlanır. Bunun bir Wald testi olup olmadığını merak ediyordum. Ancak tek yönlü ANOVA'daki test istatistiği bir F dağılımına sahiptir ve Wald testindeki test istatistiği asemptotik olarak ki-kare dağılımına sahiptir. Bunu nasıl açıklayacağımı merak ediyorum.

Teşekkürler ve saygılar!

hypothesis-testing anova

— Tim
kaynak

17

Aşağıdaki kurulumu düşünün. Modeli tam olarak belirten bir -boyutlu parametre vektörümüz ve bir maksimum olabilirlik tahmin edicimiz . Fisher bilgi isimli ifade edilmiş . Genellikle Wald istatistiği olarak adlandırılan şey $p$ $\theta$ $\hat{\theta}$ $\theta$ $I(\theta)$

(\hat{θ} - θ)^{T} I (\hat{θ}) (\hat{θ} - θ)

$(\hat{\theta} - \theta)^T I(\hat{\theta}) (\hat{\theta} - \theta)$

burada , maksimum olabilirlik tahmininde değerlendirilen Fisher bilgisidir. Düzenlilik koşulları altında Wald istatistiği , gerçek parametre olduğunda asimptotik olarak serbestlik dereceleriyle bir dağılımı izler . Wald istatistiği, parametre vektörünün tamamında basit bir hipotez test etmek için kullanılabilir . $I(\hat{\theta})$ $\chi^2$ $p$ $\theta$ $H_0 : \theta = \theta_0$

İle Fisher bilgi ters hipotez Wald test istatistiği olan Asimptotik dağılımı, 1 serbestlik derecesine sahip bir dağılımıdır. $\Sigma(\theta) = I(\theta)^{-1}$ $H_0 : \theta_1 = \theta_{0,1}$

\frac{({\hat{θ}}_{1} - θ_{0, 1})^{2}}{Σ (\hat{θ})_{i i}} .

$\frac{(\hat{\theta}_1 - \theta_{0,1})^2}{\Sigma(\hat{\theta})_{ii}}.$

χ^{2}

$\chi^2$

Normal model için , Wald test istatistiği test ise ortalama ve varyans parametrelerinin vektörüdür edilir ile numune boyutu. Burada , ( bölündüğünüz ) maksimum olabilirlik tahmincisidir . -testi istatistik (bu bölmek varyans tarafsız tahmincisi olup ) . Wald test istatistiği, karesine neredeyse ama tam olarak eşit değildir. $\theta = (\mu, \sigma^2)$ $\mu = \mu_0$

\frac{n (\hat{μ} - μ_{0})^{2}}{{\hat{σ}}^{2}}

$\frac{n(\hat{\mu} - \mu_0)^2}{\hat{\sigma}^2}$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

n

$n$

t

$t$

\frac{\sqrt{n} (\hat{μ} - μ_{0})}{s}

$\frac{\sqrt{n}(\hat{\mu} - \mu_0)}{s}$

s^{2}

$s^2$

n - 1

$n-1$

t

$t$ -test istatistiği, ancak olduğunda asimptotik olarak eşdeğerdirler . Kare test istatistiği, için 1 serbestlik derecesine sahip dağılımına dönüşen tam bir dağılımına sahiptir .

n \to \infty

$n \to \infty$

t

$t$

F (1, n - 1)

$F(1, n-1)$

χ^{2}

$\chi^2$

n \to \infty

$n \to \infty$

Aynı hikaye tek yönlü ANOVA'daki testi ile ilgili . $F$

— NRH
kaynak

Teşekkürler! T test istatistiği Wald test istatistiğine değil, doğrudan olabilirlik oranı test istatistiği üzerine inşa edilmiştir. Tek yönlü ANOVA doğrudan olasılık oranı testi üzerine mi kuruluyor?

— Tim

3

@Tim, ANOVA'da kullanılan testleri normal hata dağılımına dayalı olabilirlik oranı testlerine eşdeğerdir.

F

$F$

— NRH

Teşekkürler! Normal istatistiksel model altında, bazıları ayrıca Wald test istatistiğindeki küçük bir değişikliğin dağılımının null altında bir F dağılımına sahip olduğunu söylüyor. Bu doğru mu? Burada

— Tim

13

@NRH iyi bir teorik cevap verdi, işte daha basit, daha sezgisel olmayı amaçlayan bir cevap.

Resmi Wald testi (NRH tarafından cevapta açıklanmıştır) vardır, ancak aynı zamanda bir tahmin edilen parametre ile tahmin edilen değer arasında Wald tarzı testi olarak tahmin edilen varyasyona göre farka benzeyen testlere atıfta bulunuyoruz. Bu nedenle, genellikle kullandığımız t-testi, tam Wald testinden biraz farklı olsa bile bir Wald Style testidir ( ile $n$ $n-1$ bir kare kök içinde). Tahmin edilen bir medyan eksi, tahmin edilen medyanın IQR'nin bir fonksiyonuna bölünmesiyle elde edilen bir Wald tarzı testi bile tasarlayabiliriz, ancak hangi dağılımı takip edeceğini bilmiyorum, bir önyükleme, permütasyon veya simüle etmek daha iyi olurdu ki-kare asimptotisine bağlı olmak yerine bu test için dağılım. ANOVA için F-testi de genel örüntüye uymaktadır, payın ortalama bir ortalamadan ortalamaların farkını ölçmesi düşünülebilir ve payda varyasyonun bir ölçüsüdür.

Ayrıca, dağıtımda bunu izleyen rasgele bir değişkeni Kare yaparsanız, pay için 1 df ile bir F dağılımını izleyeceğini ve df paydasının t dağılımındakiler olacağını unutmayın. Ayrıca sonsuz payda df'ye sahip bir F dağılımının ki-kare dağılımı olduğuna dikkat edin. Yani bu hem t-istatistiği (kare) hem de F istatistiği tıpkı Wald istatistiği gibi asimptotik olarak ki-kare şeklindedir. Uygulamada daha kesin bir dağılım kullanıyoruz.

— Greg Snow
kaynak