Sonuç değişkeninin neden yordayıcı (lar) üzerine “gerilediğini” söylüyoruz?

Bu terminoloji için bazı sezgisel açıklamalar var mı? Sonuç üzerinde yordayıcılara değil, neden bu şekilde oluyor?

İdeal olarak, bu terminolojinin neden var olduğunun doğru bir açıklamasının öğrencilerin bunu hatırlamasına yardımcı olacağını ve yanlış bir şekilde söylemelerini durduracağını umuyorum.

"Gerileme" nin etimolojisinin ne olduğunu bilmiyorum ama işte bu ifadeyi söylerken veya duyurken aklımdaki yorum. Hastie ve ark.'nın İstatistiksel Öğrenmenin Unsurları'ndan aşağıdaki rakamı düşünün :

Özünde, lineer regresyon, X üzerine (üzerine) dik açılı izdüşümü anlamına gelir ; burada y , bağımlı değişkenin gözlemlerinin n -boyutlu vektörü ve X , prediktör vektörleri tarafından yayılan altuzaydır.$\mathbf y$$\mathbf X$$\mathbf y$$n$$\mathbf X$

Bu doğrusal regresyonun çok faydalı bir yorumudur.

Yana üzerinde yansıtılırken X , yani bunu duymak ne zaman Bence ne olduğunu y "üzerine geriledi" dır X . Bu açıdan, X'in y üzerinde gerilediğini veya y'nin X ile "karşı" veya "karşı" gerilediğini söylemek daha az mantıklı olacaktır .$y$$X$$y$$X$$X$$y$$y$$X$

İdeal olarak, bu terminolojinin neden var olduğunun doğru bir açıklamasının öğrencilerin bunu hatırlamasına yardımcı olacağını ve yanlış bir şekilde söylemelerini durduracağını umuyorum.

Söylediğim gibi, bunun neden bu terminolojinin var olduğunu (belki de sadece neden devam ettiğini?) Açıkladığından şüpheliyim, ama eminim öğrencilerin hatırlamasına yardımcı olabilir.

Sık sık bu tarz konuşma yöntemlerini kullandım ve duydum. Tahmincilerden önce sonucu veya yanıtı ifade eden dizinin yazılı olarak, kelimeler kullanarak veya notasyon kullanarak veya ikisini karıştırarak konvansiyonlardan takip ettiğini tahmin ediyorum.

$Y = X\beta$

farklı değişkenler dediğimiz şeyin aynı derecede ilginç (ya da ilgisiz!) sorusunu bir kenara bırakmak.

Ancak, birçok matematikçinin önce argümanlarla eşlemeler veya işlevler yazması gibi, ilk önce yordayıcılardan bahsetmek de matematiksel ve istatistiksel olarak aynı derecede geçerli görünüyor.

İstatistiksel tartışmalarda kullandığımız diziyi sıklıkla yönlendiren şey, bilimsel veya pratik olarak genellikle neyi tahmin etmeye çalıştığımız hakkında net bir fikrimiz olmasıdır - bu ölüm veya gelir veya buğday verimi veya bir seçimde oylar veya her neyse - potansiyel veya gerçek öngörücüler havuzu o kadar açık olmayabilir. Açık olsa bile, önce önemli şeylerden bahsetmek mantıklıdır. Ne yapmaya çalışıyorsun? Her neyse tahmin edin . Nasıl yapacaksın? Bu değişkenlerin bir kısmını veya tamamını kullan .

Benim için uygun başka bir kelime yerine "on" için bir hikayem yok. "Karşı-gerileme" ya da "karşı-gerileme" duymuyorum. Burada mantık olmayabilir, sadece ders kitaplarında, öğretimde ve tartışmalarda iletilen memler.

$y$$x$

1) Regresyon terimi , olağan basit doğrusal regresyon modelinde:

$y = \alpha + \beta x + \epsilon$

$y$$x$$\hat{y}$$\bar{y}$$x$$\bar{x}$

$|\hat{y} - \bar{y}| / s_y < |x - \bar{x}| / s_x$

For example if we use the BOD data frame built into R then:

fm <- lm(demand ~ Time, BOD)
with(BOD, all( abs(fitted(fm) - mean(demand)) / sd(demand) < abs(scale(Time))))
## [1] TRUE

For a a proof see: https://en.wikipedia.org/wiki/Regression_toward_the_mean

2) The term on comes from the fact that the fitted values are the projection of the outcome variable onto the subspace spanned by the predictor variables (including the intercept) as further explained in many sources such as http://people.eecs.ku.edu/~jhuan/EECS940_S12/slides/linearRegression.pdf .

Note

Regarding the comment below, what the commenter is stating is what the answer already states above in formula form except that the answer states it correctly. In fact, due to the equality:

$(\hat{y} - \bar{y}) = \hat{\beta} (x - \bar{x})$

the dependent variable is not necessarly on average closer to its mean than the predictor is to its mean unless $| \beta | < 1$ . What is true is that the dependent variable is on average fewer standard deviations from its mean than the predictor is to its as stated in the formula in the answer.

Using Galton's data to which the comment refers (which is available in the UsingR package in R) I ran the regression and in fact the slope is 0.646 so the average child was closer to its mean than its parent was to its but that is not the general case. The current usage of regression to the mean is based on the correct general relationship which we showed in the answer. In the example shown in the R code in the answer above $beta > 1$ so it is not true that the demand is necessarily closer to the mean demand than the Time is to the mean Time and we can readily check numerically in this example that it is not always closer. It is only true if we measure closeness in standard deviations as the inequality in the answer shows.

Personally, when it comes to explaining terminology, I find the definition of the term itself always helps, especially when explaining to students. The actual definition of the word regress is:

"return to a former or less developed state".

So one way to explain I guess would be the following:

"Thinking of the outcome as the fully developed state, we try to explain the outcome by using less developed states, i.e. the independent variables. Thus the outcome is regressed on the predictors."

Hope that helps.