Normallik testi 'esasen işe yaramaz mı'?

Eski bir meslektaşım bir keresinde bana şöyle tartışmıştı:

Normalde, null altında sadece asimptotik veya neredeyse normal olan rastgele değişkenler üreten (nihayetinde büyük yapamayacağımız miktarlara bağlı 'asimptotik' kısmı olan) süreçlerin sonuçlarına normalite testleri uygularız ; Ucuz bellek, büyük veri ve hızlı işlemciler çağında, normallik testleri, büyük (delicesine büyük olmasa da) örnekler için normal dağılımın boşluğunu her zaman reddetmelidir. Bu nedenle, normal olarak testler yalnızca küçük numuneler için kullanılmalıdır, büyük olasılıkla daha düşük güce ve tip I oranı üzerinde daha az kontrole sahiplerse.

Bu geçerli bir argüman mı? Bu iyi bilinen bir argüman mı? Normallikten daha 'boş' bir boş hipotez için bilinen testler var mı?

Bu bir tartışma değil. Resmi normallik testlerinin her zaman bugün birlikte çalıştığımız devasa örneklem büyüklüğünü reddettiği (biraz belirtilmiş) bir gerçek. N büyüdüğünde mükemmel normallikten en küçük sapmanın bile önemli bir sonuç vereceğini kanıtlamak bile kolaydır. Her veri setinin bir dereceye kadar rastgelelik derecesine sahip olması nedeniyle, hiçbir veri kümesi tamamen normal dağılıma sahip bir örnek olmayacaktır. Ancak uygulamalı istatistiklerde soru, verilerin / artıkların tamamen normal olup olmadığı değil, varsayımların tutması için yeterince normal olup olmadığıdır.

Shapiro-Wilk testi ile göstereyim . Aşağıdaki kod normalliğe yaklaşan ancak tamamen normal olmayan bir dizi dağıtım oluşturur. Daha sonra, shapiro.testbu neredeyse normal dağılımlardan bir numunenin normallikten sapıp sapmadığını test ediyoruz . R'de:

x <- replicate(100, { # generates 100 different tests on each distribution
                     c(shapiro.test(rnorm(10)+c(1,0,2,0,1))$p.value,   #$
                       shapiro.test(rnorm(100)+c(1,0,2,0,1))$p.value,  #$
                       shapiro.test(rnorm(1000)+c(1,0,2,0,1))$p.value, #$
                       shapiro.test(rnorm(5000)+c(1,0,2,0,1))$p.value) #$
                    } # rnorm gives a random draw from the normal distribution
               )
rownames(x) <- c("n10","n100","n1000","n5000")

rowMeans(x<0.05) # the proportion of significant deviations
  n10  n100 n1000 n5000 
 0.04  0.04  0.20  0.87 

Son satır, her bir örneklem büyüklüğü için simülasyonların hangi kısmının normaliteden önemli ölçüde saptığını kontrol eder. Dolayısıyla, vakaların% 87'sinde, 5000 gözlem örneği, Shapiro-Wilks'e göre normallikten önemli ölçüde sapmaktadır. Ancak, qq grafiklerini görürseniz, asla normallikten sapmaya karar vermezsiniz. Aşağıda bir örnek olarak rastgele örneklemlerin bir seti için qq-plotları görüyorsunuz.

p-değerleri ile

  n10  n100 n1000 n5000 
0.760 0.681 0.164 0.007 

Normallik testinin 'esasen işe yaramaz' olup olmadığını düşünürken, ilk önce ne için faydalı olması gerektiğini düşünmek gerekir. Pek çok insan (en azından ... en azından birçok bilim insanı) normallik testinin cevapladığı soruyu yanlış anlıyor.

Soru normallik testleri cevap veriyor: Gaussian idealinden sapma olduğuna dair ikna edici kanıtlar var mı? Orta büyüklükteki gerçek veri setleriyle cevap neredeyse her zaman evet.

Bilim adamları genellikle normallik testinin cevap vermesini bekliyorlar: Veriler, Gaussian idealinden Gauss dağılımını gösteren bir testin "yasaklanmasına" yetecek kadar sapıyor mu? Bilim adamları genellikle normallik testinin ne zaman konvansiyonel (ANOVA, vb.) Testlerden ne zaman vazgeçileceğine karar veren ve bunun yerine dönüştürülmüş verileri analiz eden veya sıra tabanlı parametrik olmayan bir test veya yeniden örnekleme veya önyükleme yaklaşımı kullanan hakem olmasını ister. Bu amaçla normallik testleri çok kullanışlı değildir.

Normallik testlerinin grafik muayenelere eşlik edebileceğini düşünüyorum. Yine de doğru şekilde kullanılması gerekiyor. Bence bu , Shapiro-Wilk, Anderson-Darling ve Jarque-Bera testleri gibi birçok popüler testin asla kullanılmaması gerektiği anlamına geliyor.

Bakış açımı açıklamadan önce birkaç açıklama yapmama izin verin:

• $100,000$ ya da daha fazla kez ...).
• Örgün bir test yapmak istemeseniz bile, örneğin normal olmayanlığı , örneğin örnek çarpıklığını hesaplayarak ölçmek faydalı olacaktır .
• Çok değişkenli normalliğin grafiksel olarak değerlendirilmesi zor olabilir ve çok değişkenli istatistikler için asimptotik dağılımlara yakınsama yavaş olabilir. Normallik testleri bu nedenle çok değişkenli bir ortamda daha faydalıdır.
• Normallik testleri belki de istatistiği bir kara kutu yöntemi olarak kullanan uygulayıcılar için özellikle yararlıdır . Normallik reddedildiğinde, uygulayıcı alarm vermeli ve normallik varsayımına dayanan standart bir prosedür yerine, parametrik olmayan bir prosedür kullanmayı, dönüşüm uygulamayı ya da daha deneyimli bir istatistikçiye danışmayı düşünmelidir.
• $n$

(Benim tanımımda) eğer bir sınıfın alternatifi, eğer o sınıfın alternatiflerine duyarlı, fakat diğer sınıfların alternatiflerine duyarlı değilse, bir alternatif sınıfına karşı yönlendirilir. Tipik örnekler, çarpık veya kurtotik alternatiflere yönelik yapılan testlerdir . En basit örnekler, test istatistiği olarak örnek eğriliği ve kurtozu kullanır.

Yönlendirilmiş normallik testleri, genellikle omnibus testlerine (Shapiro-Wilk ve Jarque-Bera testleri gibi) tercih edilir, çünkü sadece bazı normal olmayan türlerin belirli bir çıkarım prosedürü için endişe verici olması yaygındır. .

$\gamma=\frac{E(X-\mu)^3}{\sigma^3}$$\kappa=\frac{E(X-\mu)^4}{\sigma^4}-3.$$X$$\gamma=0$$\gamma$$\kappa$ normal dağılıma için 0 olarak kalır.

$T_n$

$\Phi(\cdot)$$\phi(\cdot)$

$\gamma$$n^{-1/2}$$\kappa$$n^{-1}$$T_n$

$n$

Genel bir kural olarak ( doğanın bir yasası değil ), araçlarla ilgili çıkarım çarpıklığa ve sapmalarla ilgili çıkarımın kurtosise karşı hassastır.

Normallik için yönlendirilmiş bir test kullanmak, '' tehlikeli '' alternatiflere karşı daha yüksek güç elde etmenin ve '' tehlikeli '' alternatiflere karşı daha düşük güç elde etmenin yararını yaratır; çıkarımsal prosedürümüzün performansını etkilemez. Normal olmama, eldeki sorunla ilgili olarak ölçülür. Bu grafiksel olarak yapmak her zaman kolay değildir.

$n$$|\gamma|\leq 1$

IMHO normallik testleri aşağıdaki nedenlerden dolayı kesinlikle yararsızdır:

1. Küçük örneklerde, popülasyonun gerçek dağılımının büyük ölçüde normal olmadığı, ancak normallik testinin bunu almak için güçlü olmadığı ihtimali yüksektir.

2. Büyük örneklerde, T testi ve ANOVA gibi şeyler normal olmayan duruma oldukça dayanıklıdır.

3. Normal olarak dağılmış bir popülasyonun fikri, nasıl olsa uygun bir matematiksel yaklaşımdır. Genellikle istatistiksel olarak ele alınan miktarların hiçbiri, tüm gerçek sayıların desteğiyle makul bir şekilde dağılımlara sahip olamaz. Örneğin, insanlar negatif bir yüksekliğe sahip olamazlar. Bir şey, evrenden daha fazla veya daha fazla kütleye sahip olamaz. Bu nedenle, söylemek güvenlidir şey olduğunu tam olarak normalde gerçek dünyada dağıttı.

Normallik ön testinin (grafik kullanarak gayri resmi değerlendirmeler içeren) konuyu kaçırdığını düşünüyorum.

1. Bu yaklaşımın kullanıcıları, normalite değerlendirmesinin 1.0'a yakın bir güce sahip olduğunu varsaymaktadır.
2. Wilcoxon, Spearman ve Kruskal-Wallis gibi parametrik olmayan testler, normalliğin geçerli olması durumunda, 0.95'in verimine sahiptir.
3. 2. bakış açısına göre, verilerin normal dağılımdan kaynaklanamadığı olasılığını eğlendirmesi halinde parametrik olmayan bir testin kullanımı önceden belirtilebilir.
4. $Y$$Y$

Normallik için bir testin veya herhangi bir kaba kontrolün "yararlı" olup olmadığını sormadan önce, "Neden soruyorsun?" Sorusunun arkasındaki soruyu cevaplamak zorundasın.

Örneğin, yalnızca bir veri kümesinin ortalamasına bir güven sınırı koymak istiyorsanız , ne kadar veriniz olduğuna ve ne kadar büyük olduğuna bağlı olarak normallikten ayrılmanız önemli olabilir veya olmayabilir. Bununla birlikte, gelecekteki gözlemlerde veya örneklemiş olduğunuz popülasyonda en uç değerin ne olacağını tahmin etmek istiyorsanız, normallikten ayrılmalar çok önemlidir.

Küçük bir şey ekleyeyim:
Alfa hatasını hesaba katmadan normallik testi yapmak, genel olarak alfa hatası yapma olasılığınızı arttırır.

Her ek testin alfa-hata birikimini kontrol etmediğiniz sürece bunu asla unutmamalısınız. Bu nedenle normallik testini reddetmek için iyi bir sebep daha.

Buradaki cevaplar birçok önemli noktaya değindi. Hızlı bir şekilde özetlemek için:

• Bir veri kümesinin gerçekten bir dağıtımı takip edip etmeyeceğini belirleyebilecek tutarlı bir test yoktur.
• Testler, yüksek kaldıraç, yüksek etki gözlemleri ve bunların model üzerindeki etkileri hakkında yorum yapmak için verilerin ve modellerin görsel olarak denetlenmesinin bir alternatifi değildir.
• Pek çok regresyon rutini için varsayımlar genellikle normal dağılmış "veri" [artıklar] gerektirdiği için yanlış anlaşılır ve bunun, acemi istatistikçiler tarafından analistin bunu analizlere devam etmeden önce bir anlamda resmi olarak değerlendirmesini gerektirdiği şeklinde yorumlanması.

Öncelikle, kişisel olarak en sık erişilen ve okunan istatistiksel makalelerden birine değinmek için bir cevap ekliyorum: " Büyük Halk Sağlığı Veri Kümelerinde Normallik Varsayımlarının Önemi ", Lumley et. ark. Bütünüyle okumaya değer. Özet şöyledir:

T testi ve en küçük kareler doğrusal regresyon, yeterince büyük numunelerde normal dağılım varsayımı gerektirmez. Önceki simülasyon çalışmaları, “yeterince büyük” in genellikle 100'ün altında olduğunu ve hatta son derece Normal olmayan tıbbi maliyet verilerimiz için bile 500'den az olduğunu göstermektedir. -test ve lineer model, yalnızca Normal dağılımlara sahip değil, birçok veri türündeki farklılıkları ve eğilimleri analiz etmek için kullanışlı varsayılan araçlardır. Normallik için resmi istatistiksel testler, dağıtımın önemli olduğu küçük örneklerde düşük güce sahip olacakları ve sadece dağılımın önemsiz olduğu büyük örneklerde yüksek güce sahip olacaklarından özellikle istenmezler.

Doğrusal regresyonun geniş örnek özellikleri iyi anlaşılmış olsa da, Normallik varsayımının önemsiz olması için gereken örneklem büyüklükleri konusunda çok az araştırma yapılmıştır. Özellikle, gerekli örneklem büyüklüğünün modeldeki yordayıcı sayısına bağlı olduğu açık değildir.

Normal dağılımlara odaklanma, bu yöntemlerin gerçek varsayımlarından uzaklaştırabilir. Doğrusal regresyon, sonuç değişkeninin varyansının yaklaşık olarak sabit olduğunu varsaymaktadır, ancak her iki yöntemde de birincil kısıtlama, sonuç değişkeninin ortalamasındaki değişiklikleri incelemenin yeterli olduğunu varsaymalarıdır. Dağılımın başka bir özeti daha büyük ilgi çekiyorsa, t testi ve doğrusal regresyon uygun olmayabilir.

Özetlemek gerekirse: normallik, belirli bir bilimsel soruyu cevaplamanın öneminin aksine, tartışmaya veya dikkatine değmez. Arzu verideki ortalama farkları özetlemekse , t testi ve ANOVA veya lineer regresyon çok daha geniş bir anlamda haklı çıkarılır. Bu modellere dayanarak yapılan testler, dağıtım varsayımları karşılanmadığında bile, güç olumsuz yönde etkilense de doğru alfa seviyesinde kalır.

Normal dağılımların dikkatlerini çekmelerinin nedenleri klasik nedenlerden dolayı olabilir, ANOVA'lar için F dağılımlarına ve T testi için Student-T dağılımlarına dayalı kesin testler elde edilebilir. Gerçek şu ki, bilimin birçok modern ilerlemesi arasında, genellikle daha önce toplananlardan daha büyük veri setleri ile ilgileniyoruz. Birisi aslında küçük bir veri kümesiyle uğraşıyorsa, bu verilerin normal şekilde dağıtıldığı gerekçesi bu verilerden gelemez: basitçe yeterli güç yoktur. Diğer araştırmalara, kopyalara, hatta ölçüm sürecinin biyolojisi veya bilimine dikkat çekmek, bence gözlemlenen verilerin altında yatan muhtemel bir olasılık modelini tartışmak için çok daha haklı bir yaklaşımdır.

Bu nedenle, alternatif olarak bir rütbeye dayalı testi seçerek bu noktayı tamamen gözden kaçırıyor. Ancak, jackknife veya bootstrap gibi sağlam varyans tahmin edicilerinin kullanılmasının, bu hataların bağımsızlığı veya özdeş dağılımı gibi çeşitli daha önemli model spesifikasyon ihlalleri altında test yapılmasına izin veren önemli hesaplama alternatifleri sunduğunu kabul edeceğim.

Ben kullanılan normallik testleri tamamen yararsız olduğunu düşünmek.

Ancak şimdi diğer araştırmacılara danışmanlık yapıyorum. Genellikle, numuneleri elde etmek son derece pahalıdır ve bu nedenle n = 8 ile çıkarım yapmak isteyeceklerdir.

Böyle bir durumda, parametrik olmayan testlerle istatistiksel anlamlılık bulmak çok zordur, ancak n = 8 olan t testleri normalden sapmalara karşı hassastır. Öyleyse elde ettiğimiz şey “normal, varsayımlara bağlı olarak, istatistiksel olarak anlamlı bir fark bulduk” diyebiliriz (endişelenmeyin, bunlar genellikle pilot çalışmalar ...).

O zaman bu varsayımı değerlendirmenin bir yoluna ihtiyacımız var. Ben kampa yarı yoldayım, arazilere bakmanın daha iyi bir yol olduğu söylenebilir, ancak gerçeği söyleyeyim, bu konuda çok fazla anlaşmazlık olabilir, ki eğer sizinle aynı fikirde olmayanlardan biri ise çok sorunlu olabilir. makalenizin incelemesi.

Birçok yönden, normalite testlerinde hala birçok kusur olduğunu düşünüyorum: örneğin, II. Tip hatayı tip I'den daha fazla düşünmeliyiz. Fakat onlara ihtiyaç var.

Buna değer, bir keresinde kesilmiş normal dağılım için hızlı bir örnekleyici geliştirdim ve normallik testi (KS) bu fonksiyonun hata ayıklama işleminde çok yararlı oldu. Bu örnekleyici testin büyük örneklem büyüklüğünden geçtiğini, ancak ilginç bir şekilde GSL'nin ziggurat örnekleyicisinin test etmediğini belirtti.

Verdiğin argüman bir fikir. Normallik testinin öneminin, verilerin normalden ciddi şekilde ayrılmadığından emin olmak olduğunu düşünüyorum. Çıkarım prosedürüm için parametrik ve parametrik olmayan bir test arasında karar vermek için bazen bunu kullanıyorum. Testin orta ve büyük örneklerde (merkezi limit teoremi devreye girmediğinde) yararlı olabileceğini düşünüyorum. Wilk-Shapiro veya Anderson-Darling testlerini kullanma eğilimindeyim, ancak SAS'ı çalıştırırken hepsini alıyorum ve genelde oldukça iyi anlaşıyorlar. Farklı bir notta, QQ grafikleri gibi grafiksel prosedürlerin eşit derecede iyi çalıştığını düşünüyorum. Resmi bir testin avantajı objektif olmasıdır. Küçük numunelerde, bu uygunluk testlerinin iyiliğinin pratikte gücü yoktur ve bu sezgisel bir anlam ifade eder, çünkü normal bir dağılıma ait küçük bir numune şans eseri normal görünmeyebilir ve testte hesaba katılabilir. Aynı zamanda normal olmayan birçok dağılımı normal dağılımdan ayıran yüksek çarpıklık ve kurtozis küçük örneklerde kolay görülmez.

Burada maksimum entropi yaklaşımının faydalı olabileceğini düşünüyorum. Normal bir dağılım atayabiliriz çünkü verinin "normal dağılmış" olduğuna inanıyoruz (bunun anlamı ne olursa olsun) veya sadece aynı büyüklükteki sapmaları görmeyi bekliyoruz. Ayrıca, normal dağılımın sadece iki yeterli istatistiği olduğundan, bu miktarları değiştirmeyen verilerdeki değişikliklere duyarsızdır. Yani bir anlamda, normal bir dağılımı, aynı birinci ve ikinci anlarla mümkün olan tüm dağılımlar üzerinde "ortalama" olarak düşünebilirsiniz. Bu en küçük kareler için bir neden sağlar gerektiğini de onun yaptığı gibi çalışır.

Faydasız olduğunu söyleyemem, ama gerçekten uygulamaya bağlı. Unutmayın, verilerin geldiği dağılımı gerçekten asla bilmiyorsunuz ve elinizde olan tek şey küçük bir gerçekleştirme kümesi. Numune ortalamanız numunede her zaman sonludur, ancak bazı olasılık yoğunluk fonksiyonları için ortalama tanımsız veya sonsuz olabilir. Üç tür Levy kararlı dağılımını düşünelim: Normal dağılım, Levy dağılım ve Cauchy dağılımı. Numunelerinizin çoğunun kuyruğunda çok fazla gözlem yoktur (yani numune ortalamasından uzakta). Bu yüzden ampirik olarak üçü ayırt etmek çok zordur, bu nedenle Cauchy (tanımlanmamış bir ortama sahiptir) ve Levy (sonsuz bir ortama sahiptir) normal bir dağılım olarak kolayca maskelenebilir.

Bence ilk 2 soru tamamen cevaplandı, ancak 3. soruya değinildiğini sanmıyorum. Pek çok test, deneysel dağılımı bilinen bir varsayımsal dağılımla karşılaştırır. Kolmogorov-Smirnov testi için kritik değer, F'nin tamamen belirtilmesine dayanıyor. Tahmini parametrelerle parametrik dağılıma karşı test etmek için değiştirilebilir. Öyleyse, daha ziyade ikiden fazla parametre tahmin etmek demektir, o zaman sorunun cevabı evet. Bu testler 3 parametre ailesine veya daha fazlasına uygulanabilir. Bazı testler, belirli bir dağıtım ailesine karşı test yaparken daha iyi güce sahip olacak şekilde tasarlanmıştır. Örneğin, normallik testi yapılırken, boş varsayımsal dağılım normal olduğunda Anderson-Darling veya Shapiro-Wilk testi KS veya chi karesinden daha fazla güce sahiptir.

Analiz için önemli olan "bir şeyin" yüksek p-değerleri ile desteklendiği testlerin yanlış olduğunu düşünüyorum. Diğerlerinin de belirttiği gibi, büyük veri kümeleri için 0,05'in altında bir p değeri temin edilir. Bu nedenle, test aslında küçük ve bulanık veri setleri için “ödüller” ve kanıt yetersizliği için “ödüller”. Qq grafikleri gibi bir şey çok daha kullanışlıdır. Zor sayıların her zaman böyle şeylere karar verme isteği (evet / normal / normal değil), modellemenin kısmen bir sanat olduğunu ve hipotezlerin gerçekte nasıl desteklendiğini özlüyor.

Bahsettiğimi sanmadığım normallik testinin bir iyi kullanımı, z-puanları kullanmanın uygun olup olmadığını belirlemektir. Diyelim ki bir popülasyondan rastgele bir örnek seçtiniz ve popülasyondan rastgele bir birey seçme olasılığını bulmak ve 80 veya daha yüksek bir değer elde etmek istediğinizi varsayalım. Bu sadece dağılım normalse yapılabilir, çünkü z-puanları kullanmak için, nüfus dağılımının normal olduğu varsayımı.

Ama sanırım bunun tartışmalı olduğunu da görebiliyorum ...