K-araçlarının (veya yakın akrabalarının) kümelemeyi, sadece nokta-özellik verileriyle değil, yalnızca bir mesafe matrisiyle kümelemeyi gerçekleştirin.

Sahip olduğum nesnelere K-aracı kümelemesi yapmak istiyorum, ancak nesneler uzayda nokta, yani objects x featuresveri kümesi tarafından tanımlanmadı . Ancak, herhangi iki nesne arasındaki mesafeyi hesaplayabiliyorum (benzerlik işlevine dayanıyor). Bu yüzden mesafe matrisini elden çıkarıyorum objects x objects.

Daha önce K-araçları kullandım, ancak bu nokta veri kümesi girdisiydi; ve uzaklık matrisi girişi ile, kümelenmelerin bir nokta gösterimi olmadan "merkez" olacak şekilde kümelerin nasıl güncelleneceği bana açık değildir. Bu normal olarak nasıl yapılır? Bunun için K-araçlarının versiyonları veya buna yakın yöntemler var mı?

Açıkçası, k-ortalamalar ihtiyaçları hesaplamak için muktedir demektir .

Bununla birlikte, kedoid veya PAM (Medoidlerin Etrafında Bölünme) olarak bilinen iyi bilinen bir varyasyonu vardır; burada medoid, küme için en merkezi olan mevcut nesnedir. K-medoidler sadece ikili mesafelere ihtiyaç duyar.

Çekirdek problem ayarını tam olarak tanımlıyorsunuz ; Bir veri noktasını Öklid vektörü olarak temsil edemezseniz , ancak iç ürünü iki veri noktası arasında hala hesaplayabilir (veya tanımlayabilirseniz) , algoritmayı çekirdekleştirebilirsiniz . Aşağıdaki web sayfası algoritmanın kısa bir açıklamasını sunar:$k$

Çekirdek sayfa sayfası$k$

Bu çekirdek numarası , İstatistik ve makine öğreniminde çok popüler ve temel bir fikirdir.

Çekirdek numarasıyla ilgili Wiki sayfası

Eğer ilgileniyorsanız, Bernhard Schölkopf ve Alexander J. Smola tarafından yazılmış Çekirdeklerle Öğrenme kitabı çok güzel bir giriş olacaktır.

Max Welling'in bu notu çok hoş görünüyor; Ayrıca, R kullanıyorsanız, bu R paketine bakabilirsiniz .

MDS, sorununuzu çözmenin bir yolu olabilir, ancak çözmek istediğiniz soruna doğrudan saldırmaz; Çekirdek k anlamına gelir.

@gung, mesafe matrisinden veri oluşturmak için bir ön araç olarak çok boyutlu ölçeklendirmeyi (YTH) önermek için kesinlikle doğrudur points X dimensions. Sadece birkaç vuruş ekleyeceğim. K-aracı kümelemesi öklid mesafelerini ifade eder . MDS size boyut-içi koordinatlar verecek ve böylece öklid mesafelerini garanti edecektir. Metrik MDS kullanmalı ve olabildiğince büyük boyutlarda talep etmelisiniz, çünkü amacınız verileri yeniden oluşturma hatasını en aza indirmektir, 2D veya 3D olarak eşlemek değil.

Elinizde MDS yazılımınız yoksa, özdeğer ayrışması veya tekil değer ayrıştırması gibi bazı matris fonksiyonlarına sahipseniz ne olur? O zaman basit metrik MDS'yi kendiniz de yapabilirsiniz - Ana Koordinatlar analizi (PCoA) olarak da bilinen Torgerson MDS. Biraz "bükülmüş" Temel Bileşenler analizi anlamına gelir. Oldukça basit olmasına rağmen, burada açıklamayacağım. Bu konuda birçok yerde okuyabilirsiniz, örneğin burada .

Son olarak, "uzaklık matrisi girişi için K araçları" nı doğrudan programlamak mümkündür - PCoA veya başka bir metrik MDS yapan işlevleri çağırmak veya yazmaksızın. Biliyoruz ki, (a) merkezden kare sapmaların toplamı, nokta sayısına bölünen çift kareli kare Öklid mesafelerinin toplamına eşittir ; ve (b) küme centroidleri arasındaki mesafenin uzaklık matrisinden nasıl hesaplanacağını bilmek ; (c) ve ayrıca , Toplam Kareler toplamının K-araçlarıyla nasıl ilişkili olduğunu da biliyoruz . Hepsi bir arada, istediğiniz algoritmayı basit ve karmaşık bir taahhüt değil yazıyor. K-araçlarının sadece Öklid mesafeleri / öklid uzayları için olduğu hatırlanmalıdır. Öklid olmayan mesafeler için K-medidler veya başka yöntemler kullanın.

Benzer bir soru .

Kesinlikle "normal" nasıl yapıldığını bilmiyorum ve kayıt için küme analizi hakkında fazla bir şey bilmiyorum. Ancak, Çok Boyutlu Ölçeklemeye aşina mısınız? ( Burada başka bir referans, wiki ve çok boyutlu ölçekleme etiketi altında CV'de arama yapabilirsiniz .) Çok boyutlu ölçeklendirme, durumunuza benzeyen, çift mesafeli bir matris alır. MDS'den nesnelerin yerlerini, yeterince temsil etmek için gereken en düşük boyutlu uzayda elde edebilirsiniz. Sanırım bu yerleri daha sonra k-means gibi küme analizi yapmak için kullanabilirsiniz; alternatif olarak, bir kez çıktı aldığınızda, CA'ya artık ihtiyacınız kalmayabilir.

R kullanıp kullanmadığınızı bilmiyorum, ama işte MD'de RS'de bir bölüm içeren Psikometri'nin görev görünümü.

$k$

Senin durumunda, temelde yapmanız gereken şey:

1. $D$
2. $D_{ij}$$D_{ji}$
3. $D^c$
4. $S^c = -\frac{1}{2}D^c$
5. $S^c$$S^c$$\tilde S^c$
6. $\tilde S^c = V \Lambda V^\top$
7. $n-1$$X = V\Lambda^{1/2}$

$n$

Verileriniz bir ağ olarak da görüntülenebilir ve mevcut birçok ağ kümeleme algoritmasından birini kullanabilirsiniz. Bunun için, kenar ağırlıkları üzerinde bir eşik uygulamanız ve mesafeleri benzerliklere dönüştürmeniz gerekebilir. Bir şeyleri yapmanın 'istatistik' yolu değildir, ancak küme analizi başlangıçta belirtilmiş bir sorundur ve araştırma araçları ağ kümeleme algoritmaları çok iyi performans gösterir.

Literatürde neden bu kadar nadir olduğunu bilmiyorum, ancak @gung ve @ttnphns tarafından önerilen çözüm (ilk önce, örneğin R kullanıyorsanız bu paket üzerinden Temel Koordinatlar Analizi kullanarak çift mesafeli mesafelerinizi Öklid uzayına yansıtın). K-her zamanki gibi yapmak) basittir ve özel algoritmalar gerektirmez. Şahsen kullanılan burada bir optimizasyon çerçevesinde gömülü ve oldukça iyi çalıştı.

Kümeleme ve YTH ile ilgili olarak aşağıdaki kaynakları öneriyorum:

• Sayısal Ekoloji (Pierre Legendre ve Louis Legendre): http://www.sciencedirect.com/science/bookseries/01678892/20 veya http://tinyurl.com/cgrdfqk (google books) - 'Ekolojik benzerlik' bölümü
• Küme Analizi (Brian S. Everitt, Sabine Landau, Morven Leese, Daniel Stahl): http://tinyurl.com/bld7k8h (google kitapları) - 'yakınlığın ölçülmesi' bölümü
• 'B. Biyoistatistik-II, Çok Değişkenli Yöntemler' dersi, Ohio Üniversitesi'nde Prof. Brian C. McCarthy tarafından: http://www.ohio.edu/plantbio/staff/mccarthy/multivariate/multivariate.htm

Bu referanslar aynı zamanda ikili ve sürekli veriler için benzerlik ve uzaklık fonksiyonlarını (yakınlık önlemleri) güzel bir şekilde kapsar.