PCA'daki özvektörlere karşı yüklemeler: ne zaman bir başkası kullanılmalı?

Temel bileşen analizinde (PCA) özvektörler (birim vektörler) ve özdeğerler elde edilir. Şimdi, yüklemeleri olarak tanımlayalım

Özvektörlerin sadece yön olduğunu ve yüklerin (yukarıda tanımlandığı gibi) bu yönler boyunca varyansı içerdiğini biliyorum. Fakat daha iyi anladığım için, özvektörler yerine yükleri nerede kullanmam gerektiğini bilmek isterim? Bir örnek mükemmel olurdu!

Genelde sadece özvektör kullanan insanlar gördüm, ancak arada bir yükler kullanıyorlar (yukarıda tanımlandığı gibi) ve sonra farkı gerçekten anlamadığımı hissetmeye başlıyorum.

PCA'da, kovaryans (veya korelasyon) matrisini ölçek kısmına (özdeğerler) ve yön kısmına (özvektörler) ayırırsınız. Daha sonra özvektörleri skala ile donatabilirsiniz: loadings . Böylece, yükler değişkenler arasında gözlemlenen kovaryanslar / korelasyonlar ile büyüklükle karşılaştırılabilir hale gelir, çünkü değişkenlerin eş değişkenliğinden çizilenler şimdi geri döner - değişkenler ve temel bileşenler arasındaki eş değişkenlik şeklinde. Aslında, yükleri olan orijinal değişken ve birim ölçekli bileşenler arasında kovaryanslar / korelasyonlar . Bu cevap geometrik olarak hangi yüklerin olduğunu ve bileşenleri PCA veya faktör analizindeki değişkenlerle birleştiren katsayıların neler olduğunu gösterir.

Yükler :

1. Temel bileşenleri veya faktörleri yorumlamanıza yardımcı olur; Ünite ölçeklendirilmiş bileşenlerin veya faktörlerin bir değişkeni tanımladığı veya "yüklediği" lineer kombinasyon ağırlıklarıdır (katsayılar) .

   (Özvektör sadece bir ortogonal dönüşüm veya projeksiyon katsayısıdır , değeri içinde "yük" içermez. "Yük", (miktarının bilgisi) varyans, büyüklüktür. PC'ler değişkenlerin varyansını açıklamak için çıkarılır. biz eivenvalue biz "yükleme" varyans miktarı ile çıplak katsayısı sq.root ile özvektör çarptığımda (= açıklanabilir) Bilgisayarlar varyansları.. bu sayesinde biz ölçüsü olduğu katsayısı yapmak ilişki , ko- değişkenlik).

2. Yükleri bazen edilir "döndürülmüş" (örn varimax) sonradan yorumlanabilirliğini (kolaylaştırmak için ayrıca bakınız );

3. Orijinal kovaryans / korelasyon matrisini "geri yükleyen " yükler (aynı zamanda PCA ve FA'nin bu açıdan nüanslarını tartışan bu konuya bakınız );

4. PCA'da, bileşenlerin hem özvektörlerden hem de yüklerden değerlerini hesaplayabilirsiniz, faktör analizinde yüklerden faktör puanlarını hesaplarsınız .

5. Ve her şeyden önce, yükleme matrisi bilgilendiricidir: dikey kareler toplamı özdeğerler, bileşenlerin varyansları ve yatay kareler toplamları, değişkenlerin bileşenlerin "açıkladığı" bölümlerinin parçalarıdır.

6. Yeniden ölçeklendirilmiş veya standartlaştırılmış yükleme, değişkenin st. sapma; korelasyondur. (Senin PCA PCA korelasyon tabanlı ise korelasyon tabanlı PCA standartlaştırılmış değişkenlere PCA, çünkü yükleme, tek yeniden ölçeklemek eşittir.) Rescaled yükleme kare bir pr katkısının anlamı vardır. değişkene bileşen; eğer yüksekse (1'e yakın) değişken yalnızca o bileşen tarafından iyi tanımlanır.

PCA ve FA’de yapılan hesaplamalara bir örnek görmeniz için .

Özvektörler birim ölçekli yüklemelerdir; ve bunlar değişkenlerin ortogonal dönüşümünün (dönme) asıl bileşenlere veya arkaya katsayılarıdır (kosinüsleri). Bu nedenle, bileşenlerin değerlerini (standartlaştırılmamış) onlarla hesaplamak kolaydır. Bunun yanında kullanımları sınırlıdır. Kare değerindeki özvektör değeri bir değişkenin pr'e katkısının anlamını taşımaktadır. bileşen; eğer yüksekse (1'e yakın) bileşen tek başına bu değişken tarafından iyi tanımlanır.

Her ne kadar özvektörler ve yükler , iki noktadaki verinin sütunlarını (değişkenlerini) temsil eden aynı noktaların koordinatlarını normalleştirmek için iki farklı yol olsa da, iki terimi karıştırmak iyi bir fikir değildir. Bu cevap nedenini açıkladı. Ayrıca bakınız .

Yükler, katsayılar ve özvektörler hakkında çok fazla kafa karışıklığı var gibi görünüyor. Yüklemeler kelimesi Faktör Analizinden gelir ve veri matrisinin faktörler üzerindeki regresyon katsayılarını ifade eder. Faktörleri tanımlayan katsayılar değildir. Örneğin, Mardia, Bibby ve Kent veya diğer çok değişkenli istatistik ders kitaplarına bakınız.

Son yıllarda, kelime yükleri, PC'lerin katsayılarını belirtmek için kullanılmıştır. Burada, matrisin özdeğerlerinin sqrt ile çarpılan katsayıları belirtmek için kullanılmış gibi görünüyor. Bunlar PCA'da yaygın olarak kullanılan miktarlar değildir. Ana bileşenler, birim norm katsayıları ile ağırlıklandırılmış değişkenlerin toplamı olarak tanımlanır. Bu şekilde PC'ler karşılık gelen özdeğere eşit normlara sahiptir, bu da bileşen tarafından açıklanan varyansa eşittir.

Faktör Analizinde faktörlerin birim normuna sahip olmaları istenmektedir. Fakat FA ve PCA tamamen farklı. PC'lerin katsayısının döndürülmesi, nadiren yapılır, çünkü bileşenlerin optimizasyonunu tahrip eder.

FA'de faktörler benzersiz şekilde tanımlanmamıştır ve farklı şekillerde tahmin edilebilir. Önemli miktarlar, yükler (gerçek olanlar) ve kovaryans matrisinin yapısını incelemek için kullanılan topluluklardır. Bileşenleri tahmin etmek için PCA veya PLS kullanılmalıdır.

In Factor Analysis (using PCA for extraction), we get orthonormal eigen vectors (unit vectors) and corresponding eigenvalues. Now, loadings are defined as 

Yükler = Ortonormal Özvektörler⋅ (Mutlak Eigen değerleri) karekökü Burada ortonormal öz vektörler (yani Ortonormal Özvektörler terimi) bir yön sağlar ve (Mutlak Eigen değerleri) karekökü değeri sağlar.

Genellikle insanlar yüklemelerde işaretlerin önemsiz olduğunu, ancak büyüklüğünün önemli olduğunu söyler. Ancak, bir öz vektörlerin yönünü tersine çevirirsek (diğer öz vektörlerin işaretlerini olduğu gibi koruyarak) faktör puanları değişecektir. Bu nedenle daha fazla analiz önemli ölçüde etkilenecektir.

Şimdiye kadar bu belirsizliğe tatmin edici bir çözüm bulamadım.

Bu konuyla ilgili bazı karışıklıklar var, bu yüzden bazı gözlemler ve literatürde mükemmel bir cevabın bulunabileceği için bir işaretçi sunacağım.

İlk olarak, PCA ve faktör analizi (FA) vardır benzer. Genel olarak, ana bileşenler tanım gereği ortogonaldir, oysa faktörler - FA'deki benzer varlık - değildir. Basitçe ifade etmek gerekirse, temel bileşenler, verinin saf öz-analizinden elde edilmelerinden dolayı, faktör uzayını isteğe bağlı fakat zorunlu olarak yararlı olmayan bir şekilde kapsar. Öte yandan, faktörler tesadüfen yalnızca dik (yani ilgisiz veya bağımsız) olan gerçek dünya varlıklarını temsil eder.

Aldığımız Say ın her birinden gözlemlerini l konularda. Bu veri matris içine yerleştirilmiş olabilir D sahip ler satır ve l sütunlar. D , bir skor matrisi S'ye ve bir yükleme matrisi L'ye , D = SL olacak şekilde ayrıştırılabilir . S olacaktır s satır ve L olacak l sütun, her bir faktör sayısı olmak ikinci boyut , n . Faktör analizinin amacı, D' yi parçalamaktır.altta yatan puanları ve faktörleri ortaya çıkaracak şekilde. L'deki yüklemeler bize D' deki gözlemleri oluşturan her bir puanın oranını söylemektedir .

PCA'da L , D' nin korelasyon veya kovaryans matrisinin özvektörlerine sütun olarak sahiptir. Bunlar geleneksel olarak karşılık gelen özdeğerlerin azalan düzeninde düzenlenir. Değeri n - önemli temel bileşenlerin sayısı örneğin analizi korumak için, ve dolayısıyla sıralarının sayısı L - tipik olarak bulunabilir bir eteğindeki özdeğerler arsa veya sayısız başka yöntemden biri kullanılarak belirlenir Edebiyat. PCA'daki S sütunları n özü ana bileşenlerini oluşturur. N'nin değeri , veri kümesinin altında yatan boyutudur.

Faktör analizinin amacı, soyut bileşenleri , D = STT- ¹ L olacak şekilde bir dönüşüm matrisi T kullanılarak anlamlı faktörlere dönüştürmektir . ( ST ), dönüştürülmüş puan matrisi ve ( T ^-1 L ) dönüştürülmüş yükleme matrisidir.

Yukarıdaki açıklama kabaca Edmund R. Malinowski'nin Kimyadaki Mükemmel Faktör Analizi'nden gösterilmesini izler . Açılış bölümlerini konuya giriş olarak tavsiye ederim.

Bu isimlerle biraz kafam karıştı ve “Atmosferik Bilimde İstatistiksel Yöntemler” adlı kitapta aradım ve bana PCA'nın farklı Terminolojisinin bir özetini verdi, işte kitaptaki ekran görüntüleri, yardımcı olacağını umuyorum.