Değişkenlerin bir vektörü bir hiper düzlemi nasıl temsil edebilir?

İstatistiksel Öğrenmenin Unsurlarını okuyorum ve sayfa 12'de (bölüm 2.3) doğrusal bir model şöyle belirtiliyor:

\hat{Y} = X^{T} \hat{β}

$\widehat{Y} = X^{T} \widehat{\beta}$

... ki burada , öngörücülerin / bağımsız değişkenlerin / girişlerin bir sütun vektörünün devrik olmasıdır. (O kadar değil bu marka ediyorum "bütün vektörler sütun vektörleri olduğu varsayılır" önceki devletler bir satır vektörü ve bir sütun vektörü?) $X^{T}$ $X^{T}$ $\widehat{\beta}$

, (sabit) kesişme veren karşılık gelen katsayı ile çarpılacak bir " " dahildir . $X$ $1$

Söylemeye devam ediyor:

Olarak boyutlu giriş-çıkış alanı, bir düzlem temsil eder. Sabit dahil edilirse, hiper düzlem başlangıç noktasını içerir ve bir altuzaydır; değilse, eksenini noktasında kesen bir afin setidir . $(p + 1)$ $(X,\ \widehat{Y})$ $X$ $Y$ $(0,\ \widehat{\beta_0})$

Mu " ", kesişme en "öngördürücülerin birleştirme ile oluşturulan bir vektör açıklar " ve ? Ve neden dahil olmayan bir " " in mutlaka "o, başlangıç noktasından geçmeye altdüzlem zorlamak ile çarpılır edilecek" dır ? $(X,\ \widehat{Y})$ $1$ $\widehat{Y}$ $1$ $X$ $1$ $\widehat{\beta_0}$

Kitabı anlayamıyorum; herhangi bir yardım / tavsiye / kaynak bağlantıları çok takdir edilecektir.

regression references statistical-learning

— Scott
kaynak

İlk önce

düşünmek yardımcı olabilir . Bu

ile

kesişme. Bu geçen bir çizgi denklemi

. Daha yüksek boyutlara genişletmeler hemen gerçekleşir.

p = 1

$p = 1$

\hat{y} = {\hat{β}}_{0} + x \hat{β}

$\hat{y} = \hat{\beta}_0 + x \hat{\beta}$

β_{0}

$\beta_0$

(0, {\hat{β}}_{0})

$(0, \hat{\beta}_0)$

— Mart'ta ocram

@Ocram'ın yardımı yeterli değilse, vektörleri yazmayı ve çarpmayı yapmayı deneyin.

— Peter Flom

İşte güzel bir grafik sunum: blog.stata.com/2011/03/03/… . Notasyonu orada X ve x, A farklıdır

\hat{β}

$\hat \beta$

— Dimitriy V.Masterov

Kitap olduğu yanlış veya en azından tutarsız. Açıkça sabit dahil olmayan

değişkenleri vardır . Böylece resim

gerçekten bir hiper düzlemdir, ancak sabitin "

dahil" olduğunu söylemek yanlıştır . Bunun yerine, kitabın sabitin regresyona dahil olduğunu söylemek anlamına geldiğini düşünüyorum, ancak yine de

parçası olarak düşünülmemelidir . Bu nedenle modelin gerçekten yazılmalıdır

p

$p$

{(X, \hat{Y}) | X \in R^{p}}

$\{(X,\hat{Y})|X\in\mathbb{R}^p\}$

X

$X$

X

$X$

burada

ayarıderhal kesişme hakkında iddia verir.

\hat{Y} = {\hat{β}}_{0} + X^{'} \hat{β}

$\hat{Y}=\hat\beta_0 + X'\hat\beta$

β = (β_{1}, β_{2}, \dots, β_{p})^{'}

$\beta=(\beta_1,\beta_2,\ldots,\beta_p)'$

X = 0

$X=0$

— whuber

Bunun yerine sabit içeriyorsa (

, o zaman izin olamaz

serbest tüm değişebilir

: bir mesafede yalan sınırlandırılır

boyutlu alt uzay grafiktir.

sonra keyfi dik boyutlu sahip en az

ve bu yüzden aslında bir "hiper düzlem.")

X

$X$

X

$X$

R^{p}

$\mathbb{R}^p$

p - 1

$p-1$

{(X, \hat{Y})}

$\{(X,\hat Y)\}$

2

$2$

— whuber

$N$ $K$

$X$ $N\!\times\!K$ $x_i^T$ $K\!\times\!1$ $\beta$ $Y$ $N\!\times\!1$ $Y_n$

$Y$ $X$ $X$ $N\!\times\!K$ $X$ $Y$ $Y$ $X$

$Y$ $X$ $K$ $X$ $K\!+\!1$

$X$ $1$ $\beta_1$ $\beta_1$ $Y$ $x_{1i}$ $K\!+\!1$ $K$ $\beta_1$ $K$

y_{i} = β_{1} x_{1 i} + β_{2} x_{2 i} + u_{i}

$y_i=\beta_1x_{1i} + \beta_2x_{2i} +u_i$

Y = X β + u

$Y=X\beta +u$

X

$X$

N \times 2

$N\!\times\!2$

$<Y,X>$

$x_1$ $1$

y_{i} = β_{1 i} + β_{2} x_{2 i} + u_{i}

$y_i=\beta_{1i} + \beta_2x_{2i} + u_i$

X, Y

$X,\ Y$

< Y, X >

$<Y,X>$

β_{1}

$\beta_1$

x_{2 i} = 0

$x_{2i}=0$

$<0,\beta_1>$ $<0,0>$ $\beta$

(X^{'} X) β = X^{'} y ⟹ (X^{'} X) β - X^{'} y = 0 ⟹ X^{'} (y - X β) = 0.

$(X'X)\beta=X'y \implies (X'X)\beta-X'y=0 \implies X'(y-X\beta)=0.$

X

$X$

y - X β = 0

$y-X\beta=0$

( Düzenleme: Sadece ikinci sorunuz için bunun, regading sabitini veya hariç tutmayı yazdığınızın tam tersi olduğunu fark ettim. Ancak, çözümü burada zaten tasarladım ve bu konuda yanlış olduğumda düzeltilmiş duruyorum. )

Bir regresyonun matris temsilinin başlangıçta oldukça kafa karıştırıcı olabileceğini biliyorum, ancak sonunda daha karmaşık cebir elde ederken çok basitleştiriyor. Umarım bu biraz yardımcı olur.

— Majte
kaynak

Düşünmenin yolu bu denklemi yeniden düzenlemektir:

\hat{Y} - X^{T} \hat{β} = 0

$\widehat{Y} - X^{T} \widehat{\beta} = 0$

\hat{Y}

$\widehat{Y}$

— DWin
kaynak