PCA, boolean (binary) veri tipleri için çalışır mı?

Daha yüksek dereceli sistemlerin boyutsallığını azaltmak ve kovaryansın çoğunu tercihen 2 boyutlu veya 1 boyutlu bir alanda yakalamak istiyorum. Bunun ana bileşen analizi yoluyla yapılabileceğini biliyorum ve PCA'yı birçok senaryoda kullandım. Ancak, onu hiçbir zaman boolean veri türleriyle kullanmadım ve PCA'yı bu setle yapmanın anlamlı olup olmadığını merak ediyordum. Örneğin, nitel veya açıklayıcı ölçütlerim varmış gibi davranın ve bu metrik bu boyut için geçerliyse bir "1" ve eğer değilse (ikili veri) "0" atayım. Örneğin, Pamuk Prenses'teki Yedi Cüceyi karşılaştırmaya çalışıyormuş gibi yapın. Sahibiz:

Doc, Dopey, Bashful, Huysuz, Sneezy, Uykulu ve Mutlu, ve onları nitelikleri temel alarak düzenlemek istersiniz ve aynısını yapın:

(\begin{matrix} L a c t o s e I n t o l e r a n t & A H o n o r R o l l & A t h l e t i c & W e a l t h y \\ D o c & 1 & 0 & 1 & 1 \\ D o p e y & 0 & 0 & 0 & 0 \\ B a s h f u l & 1 & 0 & 1 & 1 \\ G r u m p y & 1 & 1 & 1 & 1 \\ S n e e z y & 0 & 1 & 1 & 0 \\ S l e e p y & 1 & 0 & 0 & 0 \\ H a p p y & 1 & 1 & 0 & 0 \end{matrix})

$\begin{pmatrix} & Lactose\ Intolerant & A \ Honor\ Roll & Athletic & Wealthy \\ Doc & 1 & 0 & 1 & 1 \\ Dopey & 0 & 0 & 0 & 0 \\ Bashful & 1 & 0 & 1 & 1 \\ Grumpy & 1 & 1 & 1 & 1 \\ Sneezy & 0 & 1 & 1 & 0 \\ Sleepy & 1 & 0 & 0 & 0 \\ Happy & 1 & 1 & 0 & 0 \end{pmatrix}$

Mesela Bashful, A onuruna değil, laktoz intoleransıdır. Bu tamamen varsayımsal bir matris ve gerçek matrisimde daha birçok tanımlayıcı sütun olacak. Sorum şu ki, bireyler arasındaki benzerliği bulmak için bu matris üzerinde PCA yapmak uygun olur mu?

— Alvin Nunez
kaynak

Bu soru (neredeyse) yineleniyor o biri . PCA ikili / boolean verilerde yapılabilir, ancak bu tür veriler üzerinde faktör analizi (PCA "dahil", "FA" gibi) yapmak problemlidir .

— ttnphns,

Sizinki ("mevcut" vs "yok" gibi) gibi ikili veri üzerindeki PCA normalde değişkenleri merkezlemeksizin gerçekleştirilir çünkü orijinal 0 dışında bir orijin (referans noktası) önermek için hiçbir neden yoktur. veya korelasyona dayalı PCA'ya SSCP veya kosinüs bazlı bir ulaşıyoruz . Bu tür bir analiz çok benzer, neredeyse sizin için seçim olabilecek Çoklu Yazışma analizine (= Homojenlik analizi) eşdeğerdir.

— ttnphns,

a means of finding the similarity between individuals. Ancak bu görev PCA için değil Küme analizi içindir.

— ttnphns,

Kısa cevap: Doğrusal PCA (boyutsallık azaltma tekniği olarak alınmışsa ve faktör analizi olarak gizli değişken tekniği değil ise) ölçek (metrik) veya ikili veriler için kullanılabilir. Düz (doğrusal) PCA, sıralı verilerle veya nominal verilerle kullanılmamalıdır - bu veriler bir şekilde metrik veya ikili (örneğin kukla) olmadıkça.

— ttnphns,

@ ttnphns PCA değişkenleri kümelemenin bir yolu olarak görülebilir. Ayrıca, PCA ve küme analizi sırayla

— Antoine

Yanıtlar:

Kategorik değişken verilerinden otomatik yapı çıkarımı için nispeten yeni bir teknik önermek isterim (bu ikili içerir). Bu yönteme Güney Kaliforniya Üniversitesi'nden Greg van Steeg'den CorEx adı verilir. Buradaki düşünce, entropi önlemlerine dayanan Toplam Korelasyon kavramını kullanmaktır. Basitliği ve çok sayıda hiperparametre ayarlaması olmaması nedeniyle çekici.

Hiyerarşik temsillerle ilgili makale (en son, önceki önlemlerin üstüne inşa edilmiştir). http://arxiv.org/pdf/1410.7404.pdf

— Vladislavs Dovgalecs
kaynak

@AlvinNunez Rica ederim! Python uygulaması GitHub'da bulunabilir github.com/gregversteeg/CorEx Verilerinizi almak ve ne olduğunu görmek gerçekten kolay.

— Vladislavs Dovgalecs

Analiz edilecek değişkenler nicel yerine kategorik olduğunda (buradaki ikili değişkenleriniz için de geçerlidir), temel bileşen analizinin bir uzantısı olan Birden Çok Yazışma Analizi'ni (MCA) de kullanabilirsiniz. Örneğin, Husson ve ark. (2010) veya Abdi ve Valentin (2007) . MCA'yı (ve bilgisayarlarda hiyerarşik kümelemeyi) gerçekleştirmek için mükemmel bir R paketi FactoMineR'dir .

— Antoine
kaynak

İlginç bir cevap, buna katılıyorum. inflation of the feature spaceMCA'da değil neden PCA'da ortaya çıktığını ve neden PCA'da ortaya çıkacağını daha ayrıntılı olarak açıklarsanız, bu sizin için büyük bir avantaj olacaktır.

— ttnphns,

Bu inflation of the feature spacefenomeni yanlış anladım . CA'dan MCA'ya giderken oyuna giriyor gibi görünüyor, ancak PCA'nın doğal bir sorunu değil. Bu yorumu okuduğunuzda cevabımı kaldıracağım. Bunu farketmemi sağladığın için teşekkürler.

— Antoine,

Cevabı kaldırmak zorunda olduğunu sanmıyorum. MCA benim için doğru seçimlerden biri ve cevabınız tamam.

— ttnphns,

Cevabı geri ekledim, çünkü MCA'nın burada yardımcı olabileceğini düşünüyorum, ancak özellik alanı enflasyonu ile ilgili tartışmayı alakalı görünmediği için kaldırdım

— Antoine

İkili verilerde MCA'nın sonucu, bir PCoA'nın sonucundan, Jaccard veya basit eşleme gibi ikili veriler için uygun bir mesafe ölçüsü ile ne kadar farklı olabilir?

— emudrak

PCA'yı değişkenler arasındaki ilişkileri görselleştirmenin bir yolunu bulmak için bir keşif tekniği olarak düşünürseniz (ve bence bu konuda düşünmenin tek yolu budur) o zaman evet, ikili duruma koyamamak için hiçbir neden yoktur. değişkenler. Örneğin, işte verilerinizin bir kopyası

görüntü tanımını buraya girin

Bu oldukça kullanışlı görünüyor. Örneğin, Doc ve Bashful’ın çok benzer olduğunu görebilirsiniz; İK, diğer üç değişkene benzememektedir; Uykulu ve hapşırık çok farklı, vb.

— Flounderer
kaynak