Sinir Ağları: Bir sıcak değişken ezici sürekli?

Yaklaşık 20 sütun (20 özellik) olan ham veri var. Bunlardan on tanesi sürekli veridir ve 10 tanesi kategoriktir. Kategorik verilerin bazıları 50 farklı değere sahip olabilir (ABD Devletleri). Verileri önceden işledikten sonra 10 sürekli sütun 10 hazırlanmış sütun haline gelir ve 10 kategorik değer 200 tek etkin kodlanmış değişken gibi olur. Bu 200 + 10 = 210 özelliklerinin tümünü sinir ağına koyarsam, 200-sıcak özelliklerin (10 kategorik sütun) 10-sürekli özelliklere tamamen hakim olacağından endişe ediyorum.

Belki bir yöntem, sütunları bir arada "gruplandırmak" olabilir. Bu geçerli bir sorun mu ve bu sorunla başa çıkmanın standart bir yolu var mı?

(Çok önemli olduğunu düşünmeme rağmen Keras kullanıyorum.)

Kategorik değişkenleri, bir etkin moddan farklı bir yöntemle kodlayabilirsiniz. Bu durum için ikili veya karma kodlayıcılar uygun olabilir. Özellikle karma yapmak iyidir çünkü tüm kategorileri özellik vektörü başına tek bir temsilde kodlarsınız, böylece hiç kimse diğerine hakim olmaz. Son gösterimin boyutunu da belirtebilirsiniz, böylece tüm kategorik değişkenleri 10 özelliğe ayırabilir ve 20 sayısal özelliğe (yarı sürekli, yarı kategorik) sahip olabilirsiniz.

Her ikisi de https://github.com/scikit-learn-contrib/categorical-encoding veya kendiniz uygulamak için oldukça basit bir şekilde uygulanır.

Çok sayıda kategorik değişkeni tek bir vektöre dönüştürmek için yerleştirmeyi kullanabilirsiniz . Bu sıkıştırılmış vektör, kategorik özelliklerin dağıtılmış bir temsili olacaktır. Kategorik girdiler, bir şekilde tüm girdileri tanımlayan N gizli özellikleri temsil eden N gerçek sayıları olan nispeten küçük bir uzunluk N vektörüne dönüştürülecektir.

İngilizce sözlükteki çok sayıda kelimeyi düşünün. Bu sayı N ise, her sözcüğü N uzunluğunda bir sıcak kodlu vektör olarak gösterebiliriz. Bununla birlikte, kelime-vec , neredeyse tüm bu bilgileri 200-300 arasındaki bir uzunluk vektöründe yakalayabilir.