K-ortalamaları veri kümesinin rasgele alt örnekleri aracılığıyla başlatmak?

Belirli bir veri kümem varsa, küme merkezlerini bu veri kümesinin rasgele örneklerini kullanarak başlatmak ne kadar akıllı olurdu?

Örneğin, istediğimi varsayalım 5 clusters. Orijinal veri kümesinden 5 random samplessöz ediyorum size=20%. Daha sonra bu 5 rastgele örneğin her birini ortalayabilir ve bu araçları ilk 5 küme merkezim olarak kullanabilir miyim? Bunu nerede okuduğumu bilmiyorum ama bu fikir hakkında ne düşündüğünüzü bilmek istedim.

GÜNCELLEME: Lütfen bu konuya bakın K-başlatma kümeleme anlamına gelir: mevcut yöntemler nelerdir? çeşitli başlatma yöntemleri hakkında genel tartışma için.

Eğer varsa rastgele sizin 5 vasıta olacak neredeyse çakıştığı 5 alt örneklere örnek bölün. Bu tür yakın noktaları ilk küme merkezleri haline getirmenin anlamı nedir?

Birçok K-aracı uygulamasında, ilk küme merkezlerinin varsayılan seçimi tam tersi düşünceye dayanır: en uzak olan 5 noktayı bulmak ve onları ilk merkezler yapmak. Bu uzak noktaları bulmanın yolu ne olabilir diye sorabilirsiniz? SPSS'in K-araçlarının bunun için yaptığı şey:

Veri kümesinin herhangi bir k vakasını (noktası) başlangıç ​​merkezleri olarak alın. Geri kalan tüm durumlar, aşağıdaki koşullar ile bunları başlangıç ​​merkezleri olarak değiştirme yeteneği açısından kontrol edilmektedir:

• a) Dava, merkeze en yakın merkezden birbirine en yakın iki merkezden daha uzaksa, dava, ikincisinin ortasına daha yakın olduğu ikisinin yerini alır.
• b) Vaka, kendisine en yakın merkez ile bu merkeze en yakın merkez arasındaki mesafeden daha yakın 2. merkezden daha uzaksa, dava kendisine en yakın merkezin yerine geçer.

Koşul (a) karşılanmazsa koşul (b) kontrol edilir; eğer tatmin olmazsa da dava merkez haline gelmez. Durumlarda aracılığıyla böyle çalışmasının sonucu olarak elde k başlangıç merkezleri haline bulut içinde azami vakaları. Bu algo'nun sonucu, yeterince sağlam olmasına rağmen, "herhangi bir k vakasının" başlangıç ​​seçimine ve veri kümesindeki vakaların sıralama düzenine tamamen duyarsız değildir ; bu nedenle, K-araçlarında her zaman olduğu gibi, birkaç rastgele başlatma denemesi hala memnuniyetle karşılanmaktadır .

Cevabımı , k-araçları için popüler başlatma yöntemlerinin bir listesiyle görün . Rastgele alt örneklere bölme yöntemi (burada ben ve diğerleri tarafından eleştirilir) ve SPSS tarafından kullanılan açıklanan yöntem de listede yer almaktadır.

Araçlar çok benzer olacak. Veri kümesi ortalamasını da bulabilir ve ardından ilk sentroidleri bu ortalamanın etrafındaki küçük bir daireye / küreye yerleştirebilirsiniz.

K-means için daha fazla ses başlatma şeması görmek istiyorsanız, k-means ++ 'a bir göz atın. K-araçlarını tohumlamak için oldukça akıllı bir yöntem geliştirdiler.

• Arthur, D. ve Vassilvitskii, S. (2007).
  k-ortalamalar ++: Dikkatli tohumlama avantajları".
  Ayrık algoritmalarına onsekizinci yıllık ACM-SIAM Sempozyumu,

Yazar slaytları: http://www.ima.umn.edu/~iwen/REU/BATS-Means.pdf

Rastgele örneklerin araçlarını kullanmak, yorumunda işaret ettiği gibi, ihtiyacınız olan şeyin tam tersini verecektir. İhtiyacımız olan şey, birbirinden oldukça uzakta olan veri noktalarını bulmanın bir yoludur.

İdeal olarak, tüm noktalar üzerinde tekrarlayabilir, aralarındaki mesafeleri bulabilir, mesafelerin en büyük olduğu yerleri belirleyebilirsin ...

OP'nin niyetini ortadan kaldırmak için değil, ama bence "çözüm" k-ortalama algoritmasına dahil edildi. Birden çok yineleme gerçekleştiriyoruz ve önceki yinelemelere dayanarak küme sentroidlerini yeniden hesaplıyoruz. Ayrıca genellikle kmeans algoritmasını birkaç kez çalıştırıyoruz (rastgele başlangıç ​​değerleriyle) ve sonuçları karşılaştırıyoruz.

Biri varsa önsel bilgiye, alan bilgisi, daha sonra bu ilk küme merkezleri olması gereken yerde belirlemek üstün bir yönteme yol açabilir. Aksi takdirde, büyük olasılıkla başlangıç ​​değerleri olarak rastgele veri noktaları seçmek ve daha sonra birden fazla çalışma ve çalışma başına birden çok yineleme kullanmak önemlidir.

Önerilen cevapların tümü etkilidir, ancak orijinal teklifinizden daha işlevsel hale getirilmesi çok daha zordur. İnitialize çok basit bir şekilde almaktır orijinal noktaları olarak rasgele gözlemler. İki başlangıç ​​noktasını kapatma olasılığı oldukça düşüktür ve algoritma, en uç durumlar dışındaki herkes için hızlı bir şekilde yürütülür.$k$