Bileşen sayısını seçmek için PCA uyumunun kalitesini değerlendirmek için iyi metrikler nelerdir?

Temel bileşen analizinin (PCA) kalitesini değerlendirmek için iyi bir ölçüm nedir?

Bu algoritmayı veri kümesinde gerçekleştirdim. Amacım özellik sayısını azaltmaktı (bilgi çok gereksizdi). Tutulan varyans yüzdesinin ne kadar bilgi tuttuğumuzun iyi bir göstergesi olduğunu biliyorum, gereksiz bilgileri kaldırdığımı ve bu tür bilgileri 'kaybetmediğimden emin olmak için kullanabileceğim başka bilgi metrikleri var mı?

Bu sorunun bir bölümünün, kümülatif yüzde varyans (CPV) ve benzer dağ eteğindeki parsel yaklaşımı dışında başka bir metrik olup olmadığını varsayalım. Bunun cevabı evet, çok .

Bazı seçenekler hakkında harika bir makale Valle 1999:

• Temel Bileşen Sayısının Seçimi: İmar Hata Kriterlerinin Diğer Yöntemlerle Karşılaştırmalı Varyansı

  Sergio Valle, Weihua Li ve S. Joe Qin, Endüstriyel ve Mühendislik Kimyası Araştırması 1999 38 (11), 4389-4401

CPV'nin yanı sıra Paralel Analiz, Çapraz validasyon, Rekonstrüksiyon hatasının Değişimi (VRE), bilgi kriterleri temelli yöntemler ve daha fazlasını da kapsar. VRE'yi karşılaştırdıktan ve kullandıktan sonra makalenin önerisini takip edebilirsiniz, ancak PRESS'e dayalı çapraz doğrulama da benim deneyimimde iyi çalışıyor ve bununla da iyi sonuçlar alıyorlar. Deneyimlerime göre, CPV uygun ve kolaydır ve iyi bir iş çıkarır, ancak bu iki yöntem genellikle daha iyidir.

Veriler hakkında daha fazla bilgi sahibi olduğunuzda PCA modelinizin ne kadar iyi olduğunu değerlendirmenin başka yolları da vardır. Bunlardan biri, eğer tahmin ederseniz (simülasyonlarda yapacağınız) tahmini PCA yüklerini gerçek yüklerle karşılaştırmaktır. Bu, tahmini yüklerin gerçek yüklere olan sapmasının hesaplanmasıyla yapılabilir. Önyargınız ne kadar büyükse, modeliniz o kadar kötü olur. Bunu nasıl yapacağınız için yöntemleri karşılaştırmak için bu yaklaşımı kullandıkları bu makaleye göz atabilirsiniz . Gerçek PCA yüklemelerini bilmediğiniz gerçek veri durumlarında kullanılamaz. Bu, dışarıdaki gözlemlerin etkisi nedeniyle modelinizin yanlılığından çok kaç bileşeni çıkardığınızdan daha az konuşur, ancak yine de bir model kalitesi metriği olarak işlev görür.

Ayrıca bilgi teorik kriterlerine dayalı önlemler de vardır.

Rissanen MDL (ve çeşitleri)