Hat matrisinin top'un lineer regresyondaki önemi nedir ?

Regresyon analizinde şapka matrisinin önemi nedir ?$H=X(X^{\prime}X )^{-1}X^{\prime}$

Sadece daha kolay hesaplama için mi?

Doğrusal regresyon çalışmasında temel başlangıç ​​noktası, olan veri üretme işlemidir ; burada ve belirleyici. En küçük kareler ölçütünü en aza sonra, için bir , yani . İlk formülde tahmin ediciyi ekledikten sonra , veri oluşturma işleminin doğrusal bir modeli olarak edilir. Şimdi, tahmin ediciyi$\textbf{y= XB + u} \quad$$\textbf{u} \sim N(0,\sigma^2 \boldsymbol I)$$\textbf{X}$$\widehat {\textbf{B} }$$\textbf{B}$$\widehat {\textbf{B}}= ( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}$$\widehat {\textbf{y}}=\textbf{X}\widehat {\textbf{B}}$$\widehat {\textbf{B}}$ve$\widehat {\textbf{y}}=\textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}.$

Yani, aslında bir projeksiyon matrisidir. içindeki tüm değişkenleri aldığınızı düşünün . Değişkenler vektörlerdir ve bir boşluğa yayılır. Bu nedenle, çok-katlı durumunda tarafından , daki gözlenen değerler çıkıntı değişkenler tarafından yayılmış olan alan üzerine . için tahminler verir ve buna neden şapka matrisi olarak adlandırılır ve neden böyle bir önemi vardır. Sonuçta, doğrusal regresyon bir projeksiyondan başka bir şey değildir ve projeksiyon matrisi ile sadece tahminlerini hesaplayamayız$\textbf{H} = \textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '$$\textbf{X}$$\textbf{H}$$\textbf{y}$$\textbf{y}$$\textbf{X}$$\textbf{y}$$\textbf{y}$aynı zamanda için de kullanılabilir ve örneğin normalde dağıtılmış olup olmadığını kontrol edebilir.$\textbf{u}$

İnternette bu güzel resmi buldum ve bu projeksiyonu görselleştiriyor. Lütfen yerine kullanıldığını unutmayın . Dahası, resim hata terimlerinin vektörünün çıkıntıya dik olduğunu ve dolayısıyla tahminleriyle ilişkili olmadığını vurgulamaktadır.$\beta$$\textbf{B}$$\textbf{y}$

Şapka matrisi birkaç nedenden dolayı çok yararlıdır:

1. Bunun yerine sahip , bunu elde şapka matrisidir. Bu bize nin gözlemlenen değerlerin doğrusal bir eşlemesi olduğunu verir.$\widehat{y}=Z\widehat{\beta}$$\widehat{y}=Py$$P$$\widehat{y}$
2. Hat matrisi , kalıntılarını hesaplamak kolaydır . Biz görüyoruz .$P$$\widehat{\epsilon}$$\widehat{\epsilon}=y-\widehat{y}=y-Py=\left(I_n-P\right)y$

Bu, b'nin A sütun sütununda olmadığı Ax = b için "en yakın" çözümü bulmaktan başka bir şey değildir, b'yi sütun boşluğuna yansıtıyoruz ve Ax (şapka) = p için çözüyoruz, burada p, b'nin projeksiyonudur sütun alanı.