Doğrusal regresyon katsayısının standart hatası nasıl elde edilir

20

Bu tek değişkenli doğrusal regresyon modeli için veri kümesi , katsayı tahminleri olan

y_{ben} = β_{0} + β_{1} x_{ben} + ε_{ben}

$y_i = \beta_0 + \beta_1x_i+\epsilon_i$

D = {(x_{1}, y_{1}), . . ., (x_{n}, y_{n})}

$D=\{(x_1,y_1),...,(x_n,y_n)\}$

İşte benim soru, kitap ve uygunVikipedi, standart hata

olduğunu

{\hat{β}}_{1} = \frac{\underset{ben}{Σ} x_{ben} y_{ben} - n \bar{x} \bar{y}}{n {\bar{x}}^{2} - \underset{ben}{Σ} x_{ben}^{2}}

$\hat\beta_1=\frac{\sum_ix_iy_i-n\bar x\bar y}{n\bar x^2-\sum_ix_i^2}$

{\hat{β}}_{0} = \bar{y} - {\hat{β}}_{1} \bar{x}

$\hat\beta_0=\bar y - \hat\beta_1\bar x$

{\hat{β}}_{1}

$\hat\beta_1$

Nasıl ve neden?

s_{{\hat{β}}_{1}} = \sqrt{\frac{\underset{ben}{Σ} {\hat{ε}}_{ben}^{2}}{(n - 2) \underset{ben}{Σ} (x_{ben} - \bar{x})^{2}}}

$s_{\hat\beta_1}=\sqrt{\frac{\sum_i\hat\epsilon_i^2}{(n-2)\sum_i(x_i-\bar x)^2}}$

standard-error inference

— Avokado
kaynak

1

stats.stackexchange.com/questions/44838/…

— ocram

@ocram, teşekkürler, ama matris malzemelerini idare edemiyorum, deneyeceğim.

— avokado

1

(n - 2)

$(n-2)$

15

Yukarıdaki 3. yorum: Nasıl olduğunu zaten anladım. Ama yine de bir soru: yazımda, standart hatanın (n − 2) var, cevabınıza göre, neden yok, neden?

\hat{se} (\hat{b}) = \sqrt{\frac{n {\hat{σ}}^{2}}{n Σ x_{ben}^{2} - (Σ x_{ben})^{2}}} .

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{n \hat{\sigma}^2}{n\sum x_i^2 - (\sum x_i)^2}}.$

n \underset{ben}{Σ} (x_{ben} - \bar{x})^{2}

$n \sum_i (x_i - \bar{x})^2$

\hat{se} (\hat{b}) = \sqrt{\frac{{\hat{σ}}^{2}}{\underset{ben}{Σ} (x_{ben} - \bar{x})^{2}}}

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{\hat{\sigma}^2}{\sum_i (x_i - \bar{x})^2}}$

{\hat{σ}}^{2} = \frac{1}{n - 2} \underset{ben}{Σ} {\hat{ε}}_{ben}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

\hat{se} (\hat{b})

$\widehat{\text{se}}(\hat{b})$

n - 2

$n-2$

— ocram
kaynak

1

{\hat{σ}}^{2} = \frac{1}{n - 2} \sum_{i} {\hat{ϵ}}_{i}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

2

n-2 df hakkında düşünmenin başka bir yolu, eğim katsayısını (Y ve X ortalaması) tahmin etmek için 2 araç kullandığımızdır.

Wikipedia'dan df: "... Genel olarak, bir parametrenin tahmininin serbestlik derecesi, tahmine giren bağımsız skorların sayısına eksi parametrenin kendisinin tahmininde ara adımlar olarak kullanılan parametre sayısına eşittir. ."

— Eivind
kaynak

2

Bu bir sezgi olmasına rağmen gerçekten böyle bir türev değil. Bununla ilgili bazı incelikler için bkz . Özgürlük dereceleri nasıl anlaşılır?

— Gümüş Balık