KNN ile hangi tip veri normalleştirmesi kullanılmalıdır?

İkiden fazla normalleştirme olduğunu biliyorum.

Örneğin,

1- Verileri z-skoru veya t-skoru ile dönüştürme. Buna genellikle standardizasyon denir.

2- Verileri 0 ile 1 arasında olacak şekilde yeniden ölçeklendirme.

Şimdi normalleştirmeye ihtiyacım olursa soru

KNN ile hangi tip normalleştirme kullanılmalıdır? ve neden?

— jeza
kaynak

K-NN için, verileri ile arasında normalleştirmenizi öneririm . $0$ $1$

k-NN, örnekleri karşılaştırma aracı olarak Öklid mesafesini kullanır . İki nokta arasındaki mesafeyi hesaplamak için, ve , değeri $x_1 = (f_1^1, f_1^2, ..., f_1^M)$ $x_2 = (f_2^1, f_2^2, ..., f_2^M)$ $f_1^i$ $i$ - özelliği : $x_1$

d (x_{1}, x_{2}) = \sqrt{(f_{1}^{1} - f_{2}^{1})^{2} + (f_{1}^{2} - f_{2}^{2})^{2} + . . . + (f_{1}^{M} - f_{2}^{M})^{2}}

$d(x_1, x_2) = \sqrt{(f_1^1 - f_2^1)^2 + (f_1^2 - f_2^2)^2 + ... + (f_1^M - f_2^M)^2}$

İçin için tüm özellikler olması eşit mesafe hesaplanırken önemi, özellikleri gereken değerler aynı aralığı vardır. Bu ancak normalleştirme ile elde edilebilir.

Bunlar Normalleştirilmeselerdi ve örneğin özelliği değerler bir dizi vardı iken) değerler bir dizi vardı . Mesafe hesaplanırken, ikinci terim birinciden kat daha önemli olacaktır, bu da k-NN'nin birinciden daha fazla ikinci özelliğe güvenmesine neden olur. Normalleştirme, tüm özelliklerin aynı değer aralığına eşlenmesini sağlar . $f^1$ $[0, 1$ $f^2$ $[1, 10)$ $10$

Diğer taraftan, standartlaştırma birçok yararlı özelliğe sahiptir, ancak özelliklerin aynı aralığa eşlendiğinden emin olamaz . Standardizasyon diğer sınıflandırıcılar için en uygun olsa da, k-NN veya başka herhangi bir mesafe bazlı sınıflandırıcı için geçerli değildir.

— Djib2011
kaynak

Öklid mesafesi yerine farklı bir mesafe kullandığımda cevabınız aynı mı olacak? Ayrıca değişkenlerin aralığı yaklaşık olarak birbirine yakınsa.

— jeza

f^{1} \in [0, 1)

$f^1 \in [0, 1)$

f^{2} \in [0, 1.2)

$f^2 \in [0, 1.2)$

f^{2}

$f^2$

20 %

$20\%$

f^{1}

$f^1$ . Bahsetmeyi unuttuğum bir şey, standartlaşmanın, herhangi bir özellik ölçeklendirmesi yapmamaktan çok daha iyi olduğuydu; normalleşmeden daha kötüdür.

— Cib2011

Ah, anlıyorum. "normalleşmekten daha kötü" !?

— jeza