Ana bileşen puanları neden ilişkilendirilmiyor?

Varsayalım , ortalama merkezli verilerin bir matrisidir. Matris olduğu , var belirgin öz ve özvektörler , ... ortogonal olan. $\mathbf A$ $\mathbf S=\text{cov}(\mathbf A)$ $m\times m$ $m$ $\mathbf s_1$ $\mathbf s_2$ $\mathbf s_m$

-inci ana bileşen (bazı insanlar "puanlarının" olarak adlandırmak) olan vektör . Başka bir deyişle, sütunlarının doğrusal bir birleşimidir , burada katsayılar özvektörünün bileşenleridir . $i$ $\mathbf z_i = \mathbf A\mathbf s_i$ $\mathbf A$ $i$ $\mathbf S$

Neden ve tüm için ilişkisiz olduğu anlaşılamıyor . ve dikey olduğu gerçeğinden mi kaynaklanıyor? Elbette hayır, çünkü bir matrix ve bir çift dikey vektör bulabilirim böylece ve birbiriyle ilişkilidir. $\mathbf z_i$ $\mathbf z_j$ $i\neq j$ $\mathbf s_i$ $\mathbf s_j$ $\mathbf B$ $\mathbf x, \mathbf y$ $\mathbf B\mathbf x$ $\mathbf B\mathbf y$

correlation pca linear-algebra

— Ernest A
kaynak

İlgili bir cevap istatistikleri.stackexchange.com/a/110546/3277 .

— ttnphns

z_{i}^{⊤} z_{j} = (A s_{i})^{⊤} (A s_{j}) = s_{i}^{⊤} A^{⊤} A s_{j} = (n - 1) s_{i}^{⊤} S s_{j} = (n - 1) s_{i} λ_{j} s_{j} = (n - 1) λ_{j} s_{i} s_{j} = 0.

$\mathbf z_i^\top \mathbf z_j = (\mathbf A\mathbf s_i)^\top (\mathbf A\mathbf s_j) = \mathbf s_i^\top \mathbf A^\top \mathbf A \mathbf s_j = (n-1) \mathbf s_i^\top \mathbf S \mathbf s_j = (n-1) \mathbf s_i \lambda_j \mathbf s_j = (n-1) \lambda_j \mathbf s_i \mathbf s_j = 0.$

— amip
kaynak

Matematik: ne güzel bir dil.

— Néstor

Bu ve dikeydir. , bunun doğru olması gerektiği anlamına gelir: . Her nasılsa , ve sonra da ilişkisiz olduklarını ima eder.

z_{i}

$\mathbf z_i$

z_{j}

$\mathbf z_j$

(z_{i} - {\bar{z}}_{i})^{⊤} (z_{j} - {\bar{z}}_{j}) = 0

$(\mathbf z_i-\bar z_i)^\top(\mathbf z_j-\bar z_j)=0$

{\bar{z}}_{i} = {\bar{z}}_{j} = 0

$\bar z_i=\bar z_j=0$

z_{i}^{⊤} z_{j} = 0

$\mathbf z_i^\top \mathbf z_j=0$

— Ernest A

Güzel nokta, @Ernest. Araçlar gerçekten sıfırdır, çünkü veriler ortalama merkezli (varsayımınıza göre). O zaman tüm projeksiyonlar ortalama sıfır olmalıdır.

— amip

@Karacıklar çünkü , bu nedenle .

S = cov (A) = \frac{1}{n - 1} A^{⊤} A

$S = \text{cov}(\mathbf A) = \frac{1}{n-1}\mathbf A^\top \mathbf A$

A^{⊤} A = (n - 1) S

$\mathbf A^\top \mathbf A = (n-1) \mathbf S$

— Ernest A

@Ernest, metin içermeyen bir cevap vermekten kaçınamadım, ama belki de PC'lerin ilişkisiz olmasının altında yatan nedenin kovaryans matrisinin tarafından özvektör bazında verildiğini ve bu temelde köşegen hale geldiğini eklemeliyim - - özduyumun bütün mesele bu.

S

$S$

S

$S$

— amip