Özvektörlerin görsel açıklaması hakkında karıştı: görsel olarak farklı veri kümeleri aynı özvektörlere nasıl sahip olabilir?

Birçok istatistik ders kitabı, bir kovaryans matrisinin özvektörlerinin neler olduğunu sezgisel bir şekilde göstermektedir:

resim açıklamasını buraya girin

U ve z vektörleri özvektörleri oluşturur (çukur, özler). Bu mantıklı. Ama beni şaşırtan tek şey, özvektörleri ham verilerden değil korelasyon matrisinden çıkarmamızdır. Ayrıca, oldukça farklı olan ham veri kümelerinin özdeş korelasyon matrisleri olabilir. Örneğin, aşağıdakilerin her ikisinin de korelasyon matrisleri vardır:

[\begin{matrix} 1 & 0.97 \\ 0.97 & 1 \end{matrix}]

$\left[\begin{array}{} 1 & 0.97 \\ 0.97 &1\end{array}\right]$

Özvektörleri

Aynı şekilde, aynı yöne işaret eden özvektörlere sahiptirler:

[\begin{matrix} .71 & - .71 \\ .71 & .71 \end{matrix}]

$\left[\begin{array}{} .71 & -.71 \\ .71 & .71\end{array}\right]$

Ancak, özvektörlerin ham verilerde hangi yönlere sahip olduğuna dair aynı görsel yorumu uygularsanız, farklı yönlere işaret eden vektörler elde edersiniz.

Birisi bana nerede yanlış yaptığımı söyleyebilir mi?

İkinci Düzenleme : Eğer çok cesur olursam, aşağıdaki mükemmel cevaplarla karışıklığı anlayabildim ve resmedebildim.

Görsel açıklama, kovaryans matrisinden çıkarılan özvektörlerin farklı olduğu gerçeğiyle uyumludur .

Kovaryanslar ve Özvektörler (Kırmızı):

$[\begin{matrix} 1 & 1 \\ 1 & 1 \end{matrix}] [\begin{matrix} .7 & - .72 \\ .72 & .7 \end{matrix}]$ $\left[\begin{array}{} 1 & 1 \\ 1 & 1\end{array}\right] \left[\begin{array}{} .7 & -.72 \\ .72 & .7\end{array}\right]$
Kovaryanslar ve Özvektörler (Mavi):

$[\begin{matrix} 0,25 & .5 \\ .5 & 1 \end{matrix}] [\begin{matrix} 0,43 & - 0,9 \\ 0,9 & 0,43 \end{matrix}]$ $\left[\begin{array}{} .25 & .5 \\ .5 & 1\end{array}\right] \left[\begin{array}{} .43 & -.9 \\ .9 & .43\end{array}\right]$
Korelasyon matrisleri, standartlaştırılmış değişkenlerin kovaryans matrislerini yansıtır. Standartlaştırılmış değişkenlerin görsel incelemesi, örneğimde özdeş özvektörlerin neden çıkarıldığını gösterir:

resim açıklamasını buraya girin

— Sue Doh Nimh
kaynak

Korelasyonu değerlendirmek istiyorsanız, dağılım grafiklerinizi bileşenlerin standart sapmalarının eşit olduğu ölçeklerle çizmelisiniz. Görüntülerinizden hiçbirinde durum böyle değil (belki de ikincisindeki kırmızı noktalar hariç), bu kafa karıştırıcı bulmanızın bir nedeni olabilir.

— whuber

Sorunuzu açıkladığınız için teşekkür ederim. Bu, insanların onu anlamasına yardımcı olur ve ileride başvurmak için ileti dizisinin değerini artırır. Bununla birlikte, erkeklerin ~% 10'unun kırmızı-yeşil renk körü olduğunu unutmayın. 2 renk ile kırmızı ve mavi daha güvenli olabilir.

— gung - Monica'yı eski

Çok teşekkürler, önerdiğiniz gibi renkleri düzelttim

— Sue Doh Nimh

Sorun değil, @SueDohNimh. Herkes için anlaşılır yaptığınız için teşekkür ederiz. Farklı bir notta, [PCA]etiketi saklardım. Soruyu yeniden odaklamak veya yeni bir (ilgili) soru sormak ve buna bir bağlantı sormak istiyorsanız, bu iyi görünüyor, ancak bu sorunun etiketi hak edecek kadar PCA-ish olduğunu düşünüyorum.

— gung - Monica'yı eski

Aferin, @SueDohNimh. İsterseniz, bunu düzenleme yerine kendi sorunuza yanıt olarak da ekleyebilirsiniz.

— gung - Monica'yı

Korelasyon matrisi üzerinde PCA yapmak zorunda değilsiniz; kovaryans matrisini de ayrıştırabilirsiniz. Bunların genellikle farklı çözümler üreteceğini unutmayın. (Bununla ilgili daha fazla bilgi için bakınız: korelasyon veya kovaryans üzerine PCA? )

${\rm Cov}_{xy} / {\rm SD}_x{\rm SD}_y$

Yine, kovaryans matrislerini kullanarak bu gruplarla PCA yaparsanız, korelasyon matrislerini kullanmaktan farklı bir sonuç elde edersiniz.

— gung - Monica'yı eski durumuna döndürün
kaynak

(1, 1)

$(1,1)$

(1, - 1)

$(1,-1)$

@Whuber'ın yazdıklarına +1, ancak karşılık gelen özdeğerlerin korelasyon değerine bağlı olduğunu unutmayın.

— amip

Bu doğrudur, ancak Cov matrisinin özvektörleri korelasyona bağlı olarak değişebilir.

— gung - Monica'yı eski

Merhaba arkadaşlar, çok teşekkürler. Bunun yerine farklı özvektörlerin kovaryans matrislerini kullanmaktan kaynaklandığının farkındaydım; korelasyon matrislerini kullanarak kullanılan bilgileri azalttığım ve bu nedenle daha az doğru olduğum konusunda endişelendiğim için bu endişe kaynağıydı. Yanıtlarınıza dayanarak, sağlanan görsel yorumlamanın, korelasyon matrisi yerine ham verilerin kovaryans matrisinin özvektörlerine gerçekten uygulanabilir olduğu sonucuna varmak mantıklı olur mu?

— Sue Doh Nimh

Pek sayılmaz, @SueDohNimh. Görsel yorumu kullanabilirsiniz, korelasyon matrisini kullanmak istiyorsanız önce değişkenlerinizi standartlaştırmanız yeterlidir.

— gung - Monica'yı eski