Değişkenlerden biri kategorik olduğunda korelasyon neden çok yararlı değildir?

Bu biraz bağırsak kontrolü, lütfen bu kavramı yanlış anlayıp anlamadığımı görmem için bana yardım et.

İşlevsel bir korelasyon anlayışım var ama bu fonksiyonel anlayışın arkasındaki ilkeleri gerçekten güvenle açıklamak için pipetleri biraz kavramış hissediyorum.

Anladığım kadarıyla, istatistiksel korelasyon (terimin daha genel kullanımının aksine), iki sürekli değişkeni ve bunların nasıl yükselme veya düşme eğiliminde olduklarını anlamanın bir yoludur .

Örneğin bir sürekli ve bir kategorik değişken üzerinde korelasyon yapamamanızın nedeni , ikisi arasındaki kovaryansın hesaplanmasının mümkün olmamasıdır , çünkü tanım gereği kategorik değişken bir ortalama veremez ve dolayısıyla ilkine giremez. istatistiksel analizin basamakları.

Bu doğru mu?

Korelasyon olan standart yani kovaryans kovaryans, ve standart sapması bölünmesiyle ve . Bunu açıklayayım.$x$$y$$x$$y$

Özetle, istatistikler verilere modelleri uydurma ve modelin bu veri noktalarını ne kadar iyi tanımladığını değerlendirme olarak özetlenebilir ( Sonuç = Model + Hata ). Bunu yapmanın bir yolu, modeldeki sapmaların veya kalıntıların (res) toplamını hesaplamaktır:

$res= \sum(x_{i}-\bar{x})$

Birçok istatistiksel hesaplama buna dayanmaktadır. korelasyon katsayısı (aşağıya bakınız).

Burada yapılan bir örnek veri kümesi R(artıklar kırmızı çizgilerle ve değerleri yanlarına eklenmiştir):

X <- c(8,9,10,13,15)  
Y <- c(5,4,4,6,8)

Her veri noktasına ayrı ayrı bakarak ve değerini modelden çıkararak (örneğin ortalama; bu durumda X=11ve Y=5.4), bir modelin doğruluğunu değerlendirebilir. Modelin gerçek değeri abarttığını / hafife aldığını söyleyebiliriz. Ancak, modeldeki tüm sapmaları toplarken , toplam hata sıfır olma eğilimindedir , pozitif değerler (model belirli bir veri noktasını hafife alır) ve negatif değerler (model belirli bir veriyi fazla tahmin eder) değerler birbirini iptal eder nokta). Bu sorunu çözmek için sapmaların toplamı karedir ve şimdi karelerin toplamı ( ) olarak adlandırılmaktadır:$SS$

$SS = \sum(x_i-\bar{x})(x_i-\bar{x}) = \sum(x_i-\bar{x})^2$

Karelerin toplamı, modelden sapmanın bir ölçüsüdür (yani, ortalama veya herhangi bir uygun çizginin belirli bir veri kümesine). Gözlem sayısına bağlı olduğu için modelden sapmayı yorumlamak (ve diğer modellerle karşılaştırmak) için çok yararlı değildir. Daha fazla gözlem, karelerin toplamı artar. Bu, karenin toplamlarını bölerek halledilebilir . Ortaya çıkan örnek varyansı ( ), ortalama ve gözlemler arasındaki "ortalama hata" olur ve bu nedenle modelin verilere ne kadar iyi uyduğunun (yani temsil ettiği) bir ölçüsüdür:$n-1$$s^2$

$s^2 = \frac{SS}{n-1} = \frac{\sum(x_i-\bar{x})(x_i-\bar{x})}{n-1} = \frac{\sum(x_i-\bar{x})^2}{n-1}$

Kolaylık için, örnek standart sapması olarak bilinen örnek varyansının kare kökü alınabilir:

$s=\sqrt{s^2}=\sqrt{\frac{SS}{n-1}}=\sqrt{\frac{\sum(x_i-\bar{x})^2}{n-1}}$

Şimdi, kovaryans iki değişkenin birbiriyle ilişkili olup olmadığını değerlendirmektedir. Pozitif bir değer, bir değişken ortalamadan saptıkça diğer değişkenin aynı yönde saptığını gösterir.

$cov_{x,y}= \frac{\sum(x_i-\bar{x})(y_i-\bar{y})}{n-1}$

Standartlaştırarak, Pearson korelasyon katsayısı olan birim standart sapma başına kovaryans ifade ederiz . Bu, değişkenlerin farklı birimlerle ölçülen birbirleriyle karşılaştırılmasını sağlar. Korelasyon katsayısı -1 (mükemmel bir negatif korelasyon) ile 0 (korelasyon yok) ve +1 (mükemmel bir pozitif korelasyon) arasında değişen bir ilişkinin gücünün bir ölçüsüdür.$r$

$r=\frac{cov_{x,y}}{s_x s_y} = \frac{\sum(x_1-\bar{x})(y_i-\bar{y})}{(n-1) s_x s_y}$

Bu durumda, Pearson korelasyon katsayısı, güçlü bir korelasyon olarak kabul edilebilecek (bu, çalışma alanına bağlı olarak da göreceli olmasına rağmen). Bunu kontrol etmek için, burada x ekseninde ve y ekseninde başka bir çizim :$r=0.87$XY

Uzun hikaye kısa, evet duygu doğru ama umarım cevabım bir bağlam sağlayabilir.

Haklısın (neredeyse). Kovaryans (ve dolayısıyla korelasyon da) sadece sayısal değişkenler arasında hesaplanabilir. Buna sürekli değişkenler de dahil olmak üzere ayrık sayısal değişkenler de dahildir.

Kategorik değişkenler, sadece kendileri için yararlı bir sayısal kod verildiğinde korelasyonu hesaplamak için kullanılabilir, ancak bu pratik bir avantaj elde etme olasılığı düşüktür - belki de bazı iki seviyeli kategorik değişkenler için yararlı olabilir, ancak diğer araçların daha uygun olması muhtemeldir.

Değişkenlerden birinin kategorik olduğu hesaplama korelasyonlarında kesinlikle yanlış bir şey yoktur. Güçlü bir pozitif korelasyon, kategorik değişkeninizi açmanın (veya kuralınıza bağlı olarak) açmanın yanıtta bir artışa neden olacağı anlamına gelir. Örneğin, değişkenlerin kategorik olduğu bir lojistik regresyon hesaplanırken bu gerçekleşebilir: diyabet ve bmi gibi hasta eştanıları göz önüne alındığında kalp krizi olasılığını tahmin etmek. Bu durumda BMI, kalp krizi ile çok güçlü bir korelasyona sahip olurdu. Bunun yararlı olmadığı sonucuna varır mısınız?