Örnek kovaryans matrisi ters çevrilemezse ne yapmalı?

Bazı kümeleme teknikleri üzerinde çalışıyorum, burada belirli bir d-boyut vektörleri kümesi için çok değişkenli normal dağılım varsayıyorum ve örnek d-boyutlu ortalama vektörü ve örnek kovaryans matrisini hesaplıyorum.

Sonra yeni, görünmeyen, d boyutlu bir vektörün bu kümeye ait olup olmadığına karar vermeye çalışırken mesafesini şu ölçü ile kontrol ediyorum:

{(X_{i} - {\hat{μ}}_{X})}^{'} {\hat{σ}}_{X}^{- 1} (X_{i} - {\hat{μ}}_{X}) > B_{0.95} (\frac{p}{2}, \frac{- p}{2})

$\left(X_i-\hat{\mu}_X\right)'\hat{\sigma}_X^{-1}\left(X_i-\hat{\mu}_X\right)>B_{0.95}\left(\frac{p}{2},\frac{-p}{2}\right)$

Bu da kovaryans matrisinin tersini hesaplamamı gerektiriyor . Ancak bazı örnekler verildiğinde, kovaryans matrisinin tersinir olacağını garanti edemiyorum, olmaması durumunda ne yapmalıyım? $\hat{\sigma}_X$

Teşekkürler

— Aly
kaynak

matrisin tersine çevrilememesine neyin sebep olduğuna bağlıdır. Olası nedenler şunlar olabilir: .

— user603

Bence numune boyutu

— küçülüyor

@ Anony-Mousse Şimdi en az boyut kadar örnek kullandığımdan emin oldum, aksi takdirde matris sıralama yetersiz olacak. Şimdiye kadar hiçbir sorun, ama örnek kovaryans ile tersine çevrilebilir olabilir düşünüyorum?

— Aly

neden her zaman ters çevrilebilir olmalıdır? Tek bir gözlemle ortalama, bu gözleme eşittir, bu nedenle örnek kovaryans, ters çevrilmeyecek sıfır matristir. Bir matrisin ters çevrilmesi için tam rütbe olması gerektiğini düşünüyorum ve sadece örnek sayısı> = boyut

M M^{T}

$MM^T$

— Korone

@corone bunu sıkı bir hale getirir>

— user603 12:13

Numunelerinizin boyutsallığı vektör uzayının boyutluluğundan daha azsa, tekil matrisler ortaya çıkabilir. daha az örneğiniz varsa ( boyutsallığınız olduğunda), bu durum zorunlu olarak ortaya çıkacaktır: örnekleri en fazla boyutlu bir hiper düzlemi kapsar. Böyle küçük bir örnek verildiğinde, ortogonal alanda bir varyansı hesaplayamazsınız. $d+1$ $d$ $k+1$ $d$

'S ortak etmek nedeni budur değil literal PCA kullanmak, ancak bunun yerine gerçekleştirmek tekil değer ayrıştırma hesaplamak için kullanılabilir, pseudoinverse bir matris. Matris ters çevrilebilirse, yalancı ters ters olacaktır.

Bununla birlikte, ters çevrilemez matrisler görüyorsanız, vektör kümenin temsil ettiği hiper düzlemin dışındaysa, kümeye olan uzaklığınızın anlamsız olması muhtemeldir, çünkü dikey boşluktaki varyansı bilmiyorsunuz ( bu varyans 0 olarak!) SVD yalancı ters hesaplayabilir, ancak "varyanslar" yine de verileriniz tarafından belirlenmez.

$y=x$ $x-y$

Ayrıca, kovaryans matrisini nasıl hesapladığınıza bağlı olarak, felaket iptali nedeniyle sayısal sorunlarla karşılaşıyor olabilirsiniz. En basit çözüm her zaman önce verileri ortalamak ve sıfır ortalama elde etmektir.

— QUIT Vardır - Anony-Mousse
kaynak

burada cevap verdiğim için üzgünüm ama aynı konuda çalışıyorum. ters kovaryans matrisi gerektiren Mahalanobis mesafesi ile kümeleme mesafelerini karşılaştırıyorum. Ancak benim durumumda aynı hatayı alıyorum. Bu yüzden SingularValueDecomposition'ı denedim ama bu sefer tüm mesafeler eşit 1.4: D i

— anlayamıyorum