Bir veri kümesini hem ayrık hem de sürekli değişkenlerle kümeleme

4'ü ayrık değerler olan 10 boyuta sahip bir veri kümesi X'e sahibim. Aslında, bu 4 ayrı değişken sıralıdır, yani daha yüksek bir değer daha yüksek / daha iyi bir anlam ifade eder.

Bu ayrık değişkenlerin 2'si, bu değişkenlerin her biri için, örneğin 11 ila 12 arasındaki mesafenin, 5 ila 6 arasındaki mesafeyle aynı olmadığı anlamında kategorize edilmiştir. mutlaka lineer değil (aslında, gerçekten tanımlanmış değil).

Sorum şu:

• Hem ayrık hem de sürekli değişkenler içeren bu veri kümesine ortak bir kümeleme algoritması (örn. K-Means ve sonra Gaussian Mixture (GMM)) uygulamak iyi bir fikir midir?

Değilse:

• Ayrık değişkenleri kaldırmalı mıyım ve sadece sürekli olanlara mı odaklanmalıyım?
• Sürekli olanları ayrıklaştırmam ve ayrık veriler için kümeleme algoritması kullanmalı mıyım?

Böylece uygun bir mesafe ölçere ihtiyacınız olduğu söylendi. İşte bazı ipuçları:

• Karma verilerin kümelenmesi
• Karışık veri için genelleştirilmiş bir Mahalanobis mesafesi
• Mahalanobis mesafesinin karışık sürekli ve kesikli verilere göre tahmini
• Karışık durumda Mahalanobis mesafesinin genelleştirilmesi
• Kategorik ve karma değişkenler için mesafe fonksiyonları
• Karışık sürekli ve kategorik değişkenlerde bilgi uzaklıkları ve ilgili istatistikler

ve tabii ki: Mahalanobis mesafesi .

Geçmişte bu tür bir sorunla uğraşmak zorunda kaldım ve 2 ilginç yaklaşım olabileceğini düşünüyorum:

• Süreklileştirme: sembolik özellikleri bir tam sayı dizisi ile dönüştürün. Bunu yapmanın, hepsi bu makalede açıklanan çeşitli yolları vardır . NBF, VDM ve MDV algoritmalarını deneyebilirsiniz.

• Özelleştirme: Sürekli özellikleri sembolik değerlere dönüştürür. Yine, birçok algoritma ve bu konuda iyi bir ders bu yazı olacaktır . En sık kullanılan yöntemin Holte 1R olduğuna inanıyorum, ancak kesin olarak bilmenin en iyi yolu ROC eğrilerine EWD, EFD, ID, LD veya NDD gibi algoritmalara bakmak.

Tüm özelliklerinizi aynı alanda topladığınızda, olağan bir kümelenme problemi haline gelir.

Süreklileştirme veya ayrıklaştırma arasında seçim yapmak veri kümenize ve özelliklerin neye benzediğine bağlıdır, bu yüzden söylemesi biraz zor, ancak size bu konuda verdiğim makaleleri okumanızı tavsiye ediyorum.

K-aracı açıkçası, anlamsız olduğu anlamına gelir (anlamsızdır). Aynı GMM için de geçerli.

Mesafeye dayalı kümeleme algoritmalarını uygun mesafeli fonksiyonlarla, örneğin DBSCAN ile denemek isteyebilirsiniz.

Asıl zorluk mesafe fonksiyonunu bulmak!

Farklı bir uzaklık fonksiyonunu k-aracına yerleştirebilseniz de, muhtemelen anlamlı olamayacak olan ortalamayı hesaplayacaktır (ve muhtemelen ayrı değerler için bir mesafe fonksiyonuna bulaştırır).

Her neyse, ilk önce "benzer" ne olduğunu tanımlamaya odaklanın . Sonra bu benzer tanımı kullanarak küme!

Uzaklık matrisi ile çalışmak konusunda rahatsanız num_of_samples x num_of_samples, kullanabilirsiniz random forests.

Click burada başlıklı bir referans kağıdı Unsupervised learning with random forest predictors.

Buradaki fikir, shufflingorijinal veri setindeki değerlere göre sentetik bir veri kümesi oluşturmak ve her ikisini ayırmak için bir sınıflayıcıyı eğitmektir. Sınıflandırma sırasında inter-sample distance matrixen sevdiğiniz kümeleme algoritmasını test edebileceğiniz bir tane elde edersiniz.

Kabul edilecek karma yaklaşım: 1) Verileri 2 sınıfa ayırmak için sınıflandırma tekniğini (C4.5 karar ağacı) kullanın. 2) Tamamlandıktan sonra, kategorik değişkenleri bırakın ve kümeleme için sürekli değişkenlerle devam edin.