K-araçları kümelemede küme sayısı nasıl tanımlanır?

En uygun küme numarasını belirlemenin herhangi bir yolu var mı yoksa en iyi değere karar vermek için sadece farklı değerleri denemeli ve hata oranlarını kontrol etmeli miyim?

clustering unsupervised-learning

— berkay
kaynak

@berkay Bu denetimsiz yöntem için bir hata oranını nasıl tanımlarsınız? (veya SS içinde mi demek istediniz?)

— chl

@chl, tüm kümeler veya genel doğruluk için kare hataların toplamını kullanabilirim (bu durumda sınıf etiketlerini biliyorum.)

— berkay

@berkay No. kümelerini bulmak için basit bir algoritma, artan sayıda kümede (2 ile başlayan ve 9 veya 10 ile biten) 20 k-ortalama koşulu için ortalama WSS'yi hesaplamak ve Bu kümeler üzerinden minimum WSS ayarlandı. Başka bir yöntem de Gap istatistiğidir . Ancak zaten örnekleri etiketlediyseniz, neden denetimsiz bir yöntem deniyorsunuz?

— chl

@ chl teşekkürler, iyi soru, örneklerin özelliklerine bağlı olarak kümeleri tahmin edebilirim, yeni izinsiz giriş özelliklerini analiz ediyorum, yasal uygulamaların taklididir.

— berkay

Buraya yarım düzine yöntemle (kullanarak R) benzer bir Q yanıtladım : stackoverflow.com/a/15376462/1036500

— Ben

Kullandığım yöntem CCC (Kübik Kümeleme Kriterleri) kullanmaktır. Küme sayısını 1 arttırdığımda CCC'yi maksimuma çıkaracağım ve sonra CCC'nin ne zaman azalmaya başladığını gözlemliyorum. Bu noktada, kümelerin sayısını (yerel) maksimumda alırım. Bu, temel bileşenlerin sayısını seçmek için bir eğri çizgi çizimi kullanmaya benzer.

SAS Teknik Raporu A-108 Kübik Kümeleme Ölçütü ( pdf )

$n$ = gözlem sayısı = kümedeki sayı = değişken sayısı = küme sayısı = veri matrisi = küme matrisi = küme göstergesi anlamına gelir ( eğer küme , , aksi takdirde 0)
$n_k$ $k$
$p$
$q$
$X$ $n\times p$
$M$ $q\times p$
$Z$ $z_{ik}=1$ $i$ $k$

Her değişkenin ortalama 0 olduğunu varsayın: ,
$Z’Z = \text{diag}(n_1, \cdots, n_q)$ $M = (Z’Z)-1Z’X$

$SS$ (toplam) matrisi = = (kümeler arasında) matrisi = = (kümeler içinde) matrisi = = $T$ $X’X$
$SS$ $B$ $M’ Z’Z M$
$SS$ $W$ $T-B$

$R^2 = 1 – \frac{\text{trace(W)}}{\text{trace}(T)}$
(trace = köşegen elemanların toplamı)

sütunlarını uzun bir sütuna yığınlayın. Gerilemeye Kronecker'in ürün arasında ile özdeşlik matrisi hesaplayın , bu gerileme yönünden - Aynı $X$
$Z$ $p\times p$
$R^2$ $R^2$

CCC fikri karşılaştırmaktır Birlikte kümelerinin kümesi verilen almak sen noktaların düzgün yayılı seti kümeleme alacağı boyutlu uzayda. $R^2$ $R^2$ $p$

— Ralph Winters
kaynak

CCC dışında başka kriterler de vardır. Ana kümeleri görmek için bir veri kümesindeki küme sayısını belirleme konusuna bakın.

— Vincent Labatut