Veri boyutu devasa olduğunda regresyondaki istatistiksel öneme ne oldu?

13

Whuber'ın ilginç bir noktaya işaret ettiği büyük ölçekli regresyon ( bağlantı ) ile ilgili bu soruyu şu şekilde okuyordum :

"Çalıştırdığınız neredeyse tüm istatistiksel testler o kadar güçlü olacak ki," önemli "bir etki tanımlayacağınızdan neredeyse emin olacaksınız. Anlamdan ziyade, etki büyüklüğü gibi istatistiksel önem üzerine çok daha fazla odaklanmalısınız."

--- whuber

Bunun kanıtlanabilecek bir şey mi, yoksa pratikte bazı yaygın fenomenler mi olduğunu merak ediyordum?

Bir ispat / tartışma / simülasyon için herhangi bir işaretçi gerçekten yararlı olacaktır.

regression statistical-significance

— Bayesric
kaynak

1

Efekt boyutu önemlidir. (Glen_b'in cevabına +1). Hızlı bir örnek vermek gerekirse: obez olsaydık, mevcut diyetimizi, bir değeri olsa bile bir ay sonra 0,05 kg kilo kaybına neden olsaydı, yeni daha pahalı bir diyetle değiştirmeyecektik . Hala obez olurduk, sadece fakir oluruz. Herkes için böyle küçük bir ağırlık düşüşünün sadece sağlık kliniğinden kaynaklanabileceğini biliyoruz. (Güzel soru + 1)

p

$p$

\leq 0.0000000001

$\leq 0.0000000001$

— usεr11852

10

Oldukça genel.

Küçük, ancak sıfır olmayan bir etki olduğunu düşünün (yani, testin alabildiği boş değerden bir miktar sapma).

Küçük numune boyutlarında, reddetme şansı tip I hata oranına çok yakın olacaktır (gürültü küçük etkiye hakimdir).

Örnek boyutları büyüdükçe, tahmini etki bu popülasyon etkisine yakınlaşmalı, aynı zamanda tahmini etkinin belirsizliği (normalde ) küçülmeli ve null durumun tahmini etkiye yeterince yakın olması ihtimali popülasyondan rastgele seçilen bir örnekte hala akla yatkın olması etkili bir şekilde sıfıra iner. $\sqrt{n}$

Yani nokta null'larla sonuçta reddetme kesinleşir, çünkü neredeyse tüm gerçek durumlarda esasen her zaman sıfırdan bir miktar sapma olacaktır.

— Glen_b-Monica'yı eski durumuna döndür
kaynak

“... çünkü neredeyse tüm gerçek durumlarda esasen her zaman sıfırdan bir miktar sapma olacaktır.” Yani orada ve kişi bile görebiliyor. Bu oldukça güzel bir özellik olurdu ya da değil mi?

— Trilarion

Burada "null" katsayının sıfıra eşit olduğu null hipotezini ifade eder?

— Arash Howaida

Bence Glen_b'in cevabı geneldir ve bir puan boş olan herhangi bir hipotez testi için geçerlidir. Regresyon bağlamında, evet, boş değer, katsayının sıfıra eşit olmasıdır. Kendi anlayışım olsa ...

— Bayesric

4

Bu bir kanıt değildir, ancak pratikte örneklem büyüklüğünün etkisini göstermek zor değildir. Küçük değişiklikler ile Wilcox (2009) basit bir örnek kullanmak istiyorum:

Genel bir kaygı ölçüsü için, bir araştırmacı, üniversite öğrencilerinin nüfusunun ortalama en az 50 olduğunu iddia ettiğini düşünün. Bu iddiayı kontrol etmek için, on üniversite öğrencisinin test hedefi ile rastgele örneklendiğini varsayalım. ile . (Wilcox, 2009: 143) $H_0: \mu \geq 50$ $\alpha = .05$

Bu analiz için t-testini kullanabiliriz:

T = \frac{\bar{X} - μ_{o}}{s / \sqrt{n}}

$T = \frac{\bar X - \mu_o}{s/\sqrt{n}}$

Örnek ortalamasının ( ) 45 ve örnek standart sapmasının değerlerinin 11 olduğunu varsayarsak , $\bar X$ $s$

T = \frac{45 - 50}{11 / \sqrt{10}} = - 1.44.

$T = \frac{45-50}{11/\sqrt{10}}=-1.44.$

Student dağılımının kritik değerlerini serbestlik dereceleriyle $t$ $ν$ içeren bir tabloya bakarsanız , for , olduğunu göreceksiniz . Dolayısıyla ile sıfır hipotezini reddedemiyoruz. Şimdi, aynı örnek ortalama ve standart sapmaya sahip olduğumuzu varsayalım, bunun yerine 100 gözlem var: $v = 10 -1$ $P(T \leq - 1.83)= .05$ $T=-1.44$

T = \frac{45 - 50}{11 / \sqrt{100}} = - 4.55

$T = \frac{45-50}{11/\sqrt{100}}= -4.55$

İçin , , reddetme olabilir Boş hipotez. Diğer her şeyi sabit tutmak, örnek boyutunu artırmak paydayı azaltacaktır ve örnekleme dağılımının kritik (ret) bölgesinde değerlere sahip olma olasılığınız daha yüksek olacaktır. Not bu ortalama standart hatası bir tahminidir. Böylece, benzer bir yorumlamanın, örneğin, doğrusal regresyonda elde edilen regresyon katsayıları üzerindeki hipotez testlerine nasıl uygulandığını görebilirsiniz; burada . $v = 100 - 1$ $P(T \leq -1.66) = .05$ $s/\sqrt{n}$ $T = \frac{\hat\beta_j-\beta_j^{(0)}}{se(\hat\beta_j)}$

Wilcox, RR, 2009. Temel İstatistikler: Geleneksel Yöntemleri ve Modern Anlayışları Anlamak . Oxford Üniversitesi Yayınları, Oxford.

— TEG - Monica'yı eski durumuna döndür
kaynak

1

Cevap için teşekkürler. Cevabınız Glen_b'in cevabının somut bir demosunu sunar: örnek boyutu çok büyük olduğunda, sıfırdan küçük sapma (pratikte her zaman küçük sapma vardır) önemli etki olarak yakalanacaktır.

— Bayesric

2

Regresyonda, genel model için test F'de.

F = \frac{\frac{R S S_{1} - R S S_{2}}{p_{2} - p_{1}}}{\frac{R S S_{2}}{n - p_{2}}}

$F = \frac{\frac{RSS_1-RSS_2}{p_2 - p_1}}{\frac{RSS_2}{n-p_2}}$ Burada RSS kalan kareler toplamıdır ve p parametre sayısıdır. Ancak, bu soru için anahtar, alt paydadaki N'dir. Hayır ne kadar yakın bir önemi etmektir N biraz daha büyüdüğünde, F büyür. Yani, F anlamlı olana kadar N'yi artırın.

R S S_{1}

$RSS_1$

R S S_{2}

$RSS_2$

— Peter Flom - Monica'yı eski durumuna döndürün
kaynak

1

Cevap için teşekkürler. Ancak, "N büyüdüğünde F büyür" konusunda şüpheliyim; N arttıkça, RSS2 de artar, F'nin neden büyüyeceği net değil.

— Bayesric

@Peter Flom bu gerçek değil ama buraya bir göz atabilir istatistik.stackexchange.com/questions/343518/…

— user3022875