PCA çözümleri benzersiz mi?

12

PCA'yı belirli bir veri kümesinde çalıştırdığımda, çözüm bana benzersiz mi?

Yani, interpoint mesafelerine göre bir dizi 2d koordinat elde ederim. Bu kısıtlamaları karşılayacak noktalardan en az bir tane daha düzenleme bulmak mümkün müdür?

Cevabınız evet ise, bu kadar farklı bir çözümü nasıl bulabilirim?

pca

— raygozag
kaynak

11

Teklik sorununun cevabı hem evet hem de hayır. Öz uzayların ve özdeğerlerin matematiksel olarak iyi ve benzersiz bir şekilde tanımlanması anlamında "evet" tir. (A) bu eigensplanları temsil etmenin birden çok yolu olduğu (normalize edilmiş bir eigenvektör bile reddedilebilir ve dejenere eigensuzaylar için birçok temel seçenek vardır) ve (b) farklı algoritmaların farklı sonuçlar üretebileceği duyularında "hayır" dır. hesaplamalarda kayan nokta hatası birikimi nedeniyle.

— whuber

Ramsay ve Silverman "Fonksiyonel Veri Analizi" kitabında VARIMAX rotasyonundan bahsediyorlar. Fonksiyonların bir veri kümesini (bir matris olarak temsil edilir) temel bileşenlerine bölme hakkında konuşursunuz.

— güç

PCA'yı boyut küçültme aracı olarak kullanmak istediğiniz anlaşılıyor. Boyut azalmasına bakarak başlayabilirsiniz ...

— Elvis

7

Hayır, cevap benzersiz değil. Bunu göstermenin birçok yolu var. Bir olasılık, bir kare spektral ayrışma bildirimi için olan ile matris çözüm maksimize bir dışbükey fonksiyonunun . İlk öz vektörü / değeri düşünün: $p$ $p$ $X$ $w$

λ_{1} = max_{w \in R^{p} : | | w | | = 1} w^{'} X w

$\lambda_1=\underset{w\in\mathbb{R}^{p}:||w||=1}{\max} w'Xw$

(burada ilk özdeğer ve ilk öz vektördür). $\lambda_1$ $w^*$

Bu sorunlara çözüm (ör: değerleri bu maksimum elde), genel olarak, tek değildir. $w$

Bununla birlikte , bu çözümleri hesaplamak için kullanılan algoritmalar deterministiktir, yani sayısal köşe durumları için tasarruf ederseniz, elde ettiğiniz çözümler aynı olmalıdır.

Bu tür sayısal köşe vakalarına örnek: birkaç özdeğer değerinin (sayısal olarak) aynı olduğu durumlar, sıralamada eksik olduğu durumlar ... $X$

— user603
kaynak

7

Henüz fark edilmeyen bir şey, bir PC'nin işaretini tersine çevirmenin farklı bir çözüm üretmesidir. Eğer bir deyişle, olan sonra inci ana bileşeni, ayrıca bir çözüm inci ana bileşen. Bu, özellikle bilgisayarınız alternatif PC'ler çıkardığında daha önce karışıklığa neden olmuştur. Bu soruya bakın . $\mathbf{w}$ $n$ $-\mathbf{w}$ $n$

— Cam.Davidson.Pilon
kaynak

3

Bu belirsizliğin ilginç bir pratik uygulaması için lütfen stats.stackexchange.com/questions/34396 adresine bakın . (BTW, işaret ters edildi fark: Bu soruya ilk yorumu görmek.)

— whuber