Neden

14

Not: $SST$ = Toplam Kareler Toplamı, $SSE$ = Kareli Hataların Toplamı ve $SSR$ = Kareler Regresyon Toplamı. Başlıktaki denklem genellikle şu şekilde yazılır:

\sum_{i = 1}^{n} (y_{i} - \bar{y})^{2} = \sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i})^{2} + \sum_{i = 1}^{n} ({\hat{y}}_{i} - \bar{y})^{2}

$\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2$

Oldukça basit bir soru, ama sezgisel bir açıklama arıyorum. Sezgisel olarak, bana öyle geliyor ki daha anlamlı olurdu. Örnek vermek gerekirse; noktası y değerini, denk gelen ve burada, regresyon doğrusu üzerindeki mukabil bir nokta. Ayrıca veri kümesi için ortalama y-değerinin olduğunu . Sonra bu özel nokta için i, $SST\geq SSE+SSR$ $x_i$ $y_i=5$ $\hat y_i=3$ $\hat y_i$ $\bar y=0$ , oysa ve . Açıkçası, . Bu sonuç tüm veri kümesini genelleştirmez mi? Anlamıyorum. $SST=(5-0)^2=5^2=25$ $SSE=(5-3)^2=2^2=4$ $SSR=(3-0)^2=3^2=9$ $9+4<25$

regression least-squares r-squared

— Kam
kaynak

1

Çok yakından alakalı konuların da iyi cevapları vardır: stats.stackexchange.com/questions/1447 , stats.stackexchange.com/questions/118 , stats.stackexchange.com/questions/123651 , stats.stackexchange.com/questions/204930 ve stats.stackexchange.com/questions/127598 .

— whuber

15

Toplama ve çıkarma Yani

\begin{array}{rcl} \sum_{i = 1}^{n} (y_{i} - \bar{y})^{2} & = & \sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i} + {\hat{y}}_{i} - \bar{y})^{2} \\ = & \sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i})^{2} + 2 \sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i}) ({\hat{y}}_{i} - \bar{y}) + \sum_{i = 1}^{n} ({\hat{y}}_{i} - \bar{y})^{2} \end{array}

$\begin{eqnarray*} \sum_{i=1}^n (y_i-\bar y)^2&=&\sum_{i=1}^n (y_i-\hat y_i+\hat y_i-\bar y)^2\\ &=&\sum_{i=1}^n (y_i-\hat y_i)^2+2\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)+\sum_{i=1}^n(\hat y_i-\bar y)^2 \end{eqnarray*}$

. Yazma

\sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i}) ({\hat{y}}_{i} - \bar{y}) = 0

$\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)=0$

Bu nedenle, (a) 'artıkları

, ve (b), bağımlı değişken toplamına eşit olduğu edilen değeri ihtiyaçları toplamı,

Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) = Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) {\hat{y}}_{ben} - \bar{y} Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben})

$\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)=\sum_{i=1}^n(y_i-\hat y_i)\hat y_i-\bar y\sum_{i=1}^n(y_i-\hat y_i)$

donatılmış değerlere ortogonal olması gerekir,

e_{i} = y_{i} - {\hat{y}}_{i}

$e_i=y_i-\hat y_i$

\sum_{i = 1}^{n} (y_{i} - {\hat{y}}_{i}) {\hat{y}}_{i} = 0

$\sum_{i=1}^n(y_i-\hat y_i)\hat y_i=0$

.

\sum_{i = 1}^{n} y_{i} = \sum_{i = 1}^{n} {\hat{y}}_{i}

$\sum_{i=1}^ny_i=\sum_{i=1}^n\hat y_i$

: Aslında, I (a) tek bir değişken durum özel bir durum olan genel çoklu regresyon için matris gösterimde göstermek için daha kolay olduğunu düşünüyorum

\begin{array}{rcl} e^{'} X \hat{β} & = & (y - X \hat{β})^{'} X \hat{β} \\ = & (y - X (X^{'} X)^{- 1} X^{'} y)^{'} X \hat{β} \\ = & y^{'} (X - X (X^{'} X)^{- 1} X^{'} X) \hat{β} \\ = & y^{'} (X - X) \hat{β} = 0 \end{array}

$\begin{eqnarray*} e'X\hat\beta &=&(y-X\hat\beta)'X\hat\beta\\ &=&(y-X(X'X)^{-1}X'y)'X\hat\beta\\ &=&y'(X-X(X'X)^{-1}X'X)\hat\beta\\ &=&y'(X-X)\hat\beta=0 \end{eqnarray*}$

\frac{\partial S S R,}{\partial \hat{α}} = - 2 \underset{ben}{Σ} (y_{ben} - \hat{α} - \hat{β} x_{ben}) = 0,

$\frac{\partial SSR}{\partial\hat\alpha}=-2\sum_i(y_i-\hat\alpha-\hat\beta x_i)=0,$

\underset{ben}{Σ} y_{ben} = n \hat{α} + \hat{β} \underset{ben}{Σ} x_{ben}

$\sum_i y_i=n\hat\alpha+\hat\beta\sum_ix_i$

\sum_{i = 1}^{n} {\hat{y}}_{i}

$\sum_{i=1}^n\hat y_i$

{\hat{y}}_{i} = \hat{α} + \hat{β} x_{i}

$\hat y_i=\hat\alpha+\hat\beta x_i$

— Christoph Hanck
kaynak

3

(1) Neden için sezgi $SST = SSR + SSE$

$SST$ $SST = SSR + SSE$

(2) Geometrik sezgi

Lütfen burada ilk birkaç resme bakın (özellikle üçüncü): https://sites.google.com/site/modernprogramevaluation/variance-and-bias

$\bar{Y}$ $\bar{Y}$ $SST$ $SSE + SSR$

(3) resminizle ilgili sorun

$SST = SSR + SSE$

$b_1 = \frac{\sum(X_i -\bar{X})(Y_i-\bar{Y}) }{\sum (X_i -\bar{X})^2}$

Bu yardımcı olur umarım.

--Ryan M.

— RMurphy
kaynak

1

$SST=SSE+SSR$

\begin{array}{rcl} S S T & = & Σ_{ben = 1}^{n} (y_{ben} - \bar{y})^{2} \\ = & Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben} + {\hat{y}}_{ben} - \bar{y})^{2} \\ = & Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben})^{2} + 2 Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) + Σ_{ben = 1}^{n} ({\hat{y}}_{ben} - \bar{y})^{2} \\ = & S S E + S S R, + 2 Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) \end{array}

$\begin{eqnarray*} SST&=&\sum_{i=1}^n (y_i-\bar y)^2\\&=&\sum_{i=1}^n (y_i-\hat y_i+\hat y_i-\bar y)^2\\&=&\sum_{i=1}^n (y_i-\hat y_i)^2+2\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)+\sum_{i=1}^n(\hat y_i-\bar y)^2\\&=&SSE+SSR+2\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y) \end{eqnarray*}$

\begin{array}{rcl} Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) & = & Σ_{ben = 1}^{n} (y_{ben} - β_{0} - β_{1} x_{ben}) (β_{0} + β_{1} x_{ben} - \bar{y}) \\ = & (β_{0} - \bar{y}) Σ_{ben = 1}^{n} (y_{ben} - β_{0} - β_{1} x_{ben}) + β_{1} Σ_{ben = 1}^{n} (y_{ben} - β_{0} - β_{1} x_{ben}) x_{ben} \end{array}

$\begin{eqnarray*} \sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)&=&\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)(\beta_0+\beta_1x_i-\bar y)\\&=&(\beta_0-\bar y)\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)+\beta_1\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)x_i \end{eqnarray*}$

S S E = Σ_{ben = 1}^{n} {(e_{ben})}^{2} = Σ_{ben = 1}^{n} {(y_{ben} - \hat{y_{ben}})}^{2} = Σ_{ben = 1}^{n} {(y_{ben} - β_{0} - β_{1} x_{ben})}^{2}

$SSE=\displaystyle\sum\limits_{i=1}^n \left(e_i \right)^2= \sum_{i=1}^n\left(y_i - \hat{y_i} \right)^2= \sum_{i=1}^n\left(y_i -\beta_0- \beta_1x_i\right)^2$

β_{0}

$\beta_0$

\frac{\partial S S E}{\partial β_{0}} = Σ_{ben = 1}^{n} 2 {(y_{ben} - β_{0} - β_{1} x_{ben})}^{1} = 0

$\frac{\partial{SSE}}{\partial{\beta_0}} = \sum_{i=1}^n 2\left(y_i - \beta_0 - \beta_1x_i\right)^1 = 0$

Σ_{ben = 1}^{n} {(y_{ben} - β_{0} - β_{1} x_{ben})}^{1} = 0

$\sum_{i=1}^n \left(y_i - \beta_0 - \beta_1x_i\right)^1 = 0$

β_{1}

$\beta_1$

\frac{\partial S S E}{\partial β_{1}} = Σ_{ben = 1}^{n} 2 {(y_{ben} - β_{0} - β_{1} x_{ben})}^{1} x_{ben} = 0

$\frac{\partial{SSE}}{\partial{\beta_1}} = \sum_{i=1}^n 2\left(y_i - \beta_0 - \beta_1x_i\right)^1 x_i = 0$

Σ_{ben = 1}^{n} {(y_{ben} - β_{0} - β_{1} x_{ben})}^{1} x_{ben} = 0

$\sum_{i=1}^n \left(y_i - \beta_0 - \beta_1x_i\right)^1 x_i = 0$

Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) = (β_{0} - \bar{y}) Σ_{ben = 1}^{n} (y_{ben} - β_{0} - β_{1} x_{ben}) + β_{1} Σ_{ben = 1}^{n} (y_{ben} - β_{0} - β_{1} x_{ben}) x_{ben} = 0

$\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)=(\beta_0-\bar y)\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)+\beta_1\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)x_i=0$

S S T = S S E + S S R, + 2 Σ_{ben = 1}^{n} (y_{ben} - {\hat{y}}_{ben}) ({\hat{y}}_{ben} - \bar{y}) = S S E + S S R,

$SST=SSE+SSR+2\sum_{i=1}^n(y_i-\hat y_i)(\hat y_i-\bar y)=SSE+SSR$

— DavidCruise
kaynak

1

Bu sadece Pisagor teoremi! resim açıklamasını buraya girin

— user0
kaynak

stats.stackexchange.com/q/71620/171583 , stats.stackexchange.com/a/256532/171583 .

— ayorgo