Kalanlar normal dağılmış fakat y değilse?

Garip bir sorum var. Basit bir doğrusal modelle analiz edeceğiniz bağımlı değişkenin çarpık kaldığı küçük bir örneğiniz olduğunu varsayalım. Böylece farz bu normalde dağıtılmış olmasına neden olur, çünkü normalde, dağıtılan değildir . Ancak QQ-Normal grafiğini hesapladığınızda, artıkların normal dağıldığına dair kanıtlar vardır. Böylece, herkes, olmamasına rağmen, hata teriminin normal şekilde dağıldığını varsayabilir . Yani ne o hata terimi normal dağılıma sahip gibi görünüyor zaman tabii ama gelmez yapar ki?y y $u$$y$$y$$y$

Tepki değişkeni olmasa da, regresyon probleminde kalanların normal olarak dağılması makul olur. olan tek değişkenli bir regresyon sorunu düşünün . böylece regresyon modelinin uygun olması ve ayrıca değerinin gerçek olduğunu varsayalım . Bu durumda, gerçek regresyon modelinin kalıntıları normal olsa da, koşullu ortalaması bir fonksiyonu olduğu için dağılımı dağılımına bağlıdır . Veri kümesi değerlerinin bir sürü varsa sıfıra yakın olan ve gittikçe daha az yüksek bir değer , daha sonra dağılımβ = 1 y x y x $y \sim \mathcal{N}(\beta x, \sigma^2)$$\beta=1$$y$$x$$y$$x$$x$$x$$y$ sola doğru eğilir. Eğer değerleri simetrik olarak dağıtılmışsa, simetrik olarak dağıtılacaktır, vb. Bir regresyon problemi için, cevabın sadece değerinde şartlandırılmış normal olduğunu varsayıyoruz .$x$$y$$x$

@DikranMarsupial elbette tam olarak haklı, ancak özellikle bu kaygı sıkça ortaya çıktığı için, amacını açıklamanın güzel olabileceği aklıma geldi . Spesifik olarak, bir regresyon modelinin kalıntıları normalde p değerlerinin doğru olması için dağıtılmalıdır. Ancak, artıklar normal olarak dağılmış olsa bile, bu olacağını garanti etmez (önemli değil ...); dağılımına bağlıdır . $Y$$X$

Basit bir örnek alalım (ki ben bunu yapıyorum). Diyelim ki izole sistolik hipertansiyon için bir ilacı test ediyoruz (yani, en yüksek tansiyon sayısı çok yüksek). Sistolik bp'nin normalde hasta popülasyonumuzda, ortalama 160 ve SD3'lük bir dağılım ile dağıldığını ve hastaların her gün aldıkları ilacın her mg'si için sistolik bp'nin 1 mmHg azaldığını da belirtelim. Başka bir deyişle, değerinin gerçek değeri 160 ve -1 ve gerçek veri oluşturma işlevi şudur: β 1 B P s y s = 160 - 1 x günlük ilaç dozajı + $\beta_0$$\beta_1$

(Dozajları, puanları ayırt etmeleri zor olacak kadar örtüşmeyecek şekilde sıkıştırdım.) Şimdi, (yani, marjinal / orijinal dağılım) dağılımını ve artıkları kontrol edelim : $Y$

Qq-plotlar bize uzaktan normal olmadığını, artıkların oldukça normal olduğunu gösteriyor. Çekirdek yoğunluğu grafikleri bize dağıtımların daha sezgisel olarak erişilebilir bir resmini verir. Açıktır ise üç modlu artıklar bir normal dağılım bakmak gerekiyordu çok benziyor oysa. $Y$$Y$

Peki ya takılan regresyon modeli, normal olmayan ve (ancak normal artıkların) etkisi nedir? Bu soruyu cevaplamak için, böyle bir durumda bir regresyon modelinin tipik performansıyla ilgili neye endişelenebileceğimizi belirtmemiz gerekir. İlk mesele, ortalama olarak betalar değil mi? (Elbette, bazılarının etrafında zıplayacaklar, ancak uzun vadede, betaların örnekleme dağılımları gerçek değerlere odaklanmış mı?) Bu önyargı meselesi . Başka bir konu ise, aldığımız p değerlerine güvenebilir miyiz? Yani, sıfır hipotezi doğru olduğunda,X p < .05 β $Y$$X$$p<.05$zamanın sadece% 5'i? Bunları belirlemek için, yukarıdaki veri üretme sürecindeki verileri ve ilacın etkisinin olmadığı, çok sayıda, paralel bir durumu simüle edebiliriz. Daha sonra örnekleme dağılımlarını ve gerçek değere odaklanıp odaklanmadıklarını kontrol edebilir ve boş durumda, ilişkinin ne sıklıkla 'önemli' olduğunu kontrol edebiliriz: $\beta_1$

set.seed(123456789)                       # this make the simulation repeatable

b0 = 160;   b1 = -1;   b1_null = 0        # these are the true beta values
x  = rep(c(0, 20, 40), each=100)          # the (non-normal) drug dosages patients get

estimated.b1s  = vector(length=10000)     # these will store the simulation's results
estimated.b1ns = vector(length=10000)
null.p.values  = vector(length=10000)

for(i in 1:10000){
  residuals = rnorm(300, mean=0, sd=3)
  y.works = b0 + b1*x      + residuals
  y.null  = b0 + b1_null*x + residuals    # everything is identical except b1

  model.works = lm(y.works~x)
  model.null  = lm(y.null~x)
  estimated.b1s[i]  = coef(model.works)[2]
  estimated.b1ns[i] = coef(model.null)[2]
  null.p.values[i]  = summary(model.null)$coefficients[2,4]
}
mean(estimated.b1s)       # the sampling distributions are centered on the true values
[1] -1.000084                  
mean(estimated.b1ns)
[1] -8.43504e-05               
mean(null.p.values<.05)   # when the null is true, p<.05 5% of the time
[1] 0.0532                   

Bu sonuçlar, her şeyin yolunda gittiğini göstermektedir.

Hareketlerden geçmeyeceğim, ancak eğer normal olarak dağıtılmış olsaydı , aksi halde aynı kurulumla, orijinal / marjinal dağılımı normalde artıklar gibi dağıtılırdı (daha büyük bir SD'ye rağmen). Ayrıca, çarpık bir dağılımının (bu sorunun arkasındaki itici güç) etkilerini de göstermedim , fakat @ DikranMarsupial'ın noktası bu durumda olduğu gibi geçerlidir ve benzer şekilde gösterilebilir.Y $X$ $Y$$X$

Bir regresyon modeline uygun olarak, her seviyesindeki cevabın normalliğini kontrol etmeliyiz , ancak bu amaç için anlamsız olduğundan toplu olarak değil . Gerçekten normalliğini kontrol etmeniz gerekirse , her seviyesi için kontrol edin .$X$Y X$Y$$X$