Sürekli bir değişken ile kategorik bir değişken arasındaki “korelasyon” u nasıl inceleyebilirim?

19

Bu iki değişken türü arasındaki ilişkiyi incelemek için anlamlı bir “korelasyon” ölçüsü nedir?

R'de nasıl yapılır?

r correlation categorical-data association-measure

— Luna
kaynak

1

"nasıl çalışıyorsunuz" sorusunu sormadan önce, "BT nasıl tanımlanır" sorusuna cevap vermelisiniz :-) BTW, kategorik değişkeni tamsayı sayılarına yansıtırsanız, zaten korelasyon yapabilirsiniz.

— Meraklı

2

@Tomas, bunu yaparsanız, ilişkinin tahmini gücü, noktaları nasıl etiketlemeye karar verdiğinize bağlıdır, bu biraz korkutucu :)

— Macro

@Macro, haklısın - iyi bir tanım için başka bir sağlam argüman!

— Meraklı

@Macro Demek istediğini yanlış anlamadım, hayır. Korelasyon doğrusal dönüşümlere duyarsızdır. Dolayısıyla sonlu a ve b için kor (X, Y) = kor (a + bX, Y). Bir 0 / 1'in 1/11 olarak yeniden etiketlenmesi, bu var veya doğrusal dönüşümünü kullanan korelasyonlara hiçbir şey yapmaz.

— Alexis

@Curious yukarıdaki Makroya yaptığım yorumu görüyorum. Ve not: (1) X <- sample(c(0,1),replace=TRUE,size=100)(2) Y <- X + rnorm(100,0.5)(3) corr(Y,X)(4) X <- 1 + 10*X(5) corr(X,Y): her iki korelasyon için aynı sonuçlar!

— Alexis

19

Bir an için sürekli / ayrık sorunu görmezden gelelim. Temel olarak korelasyon, değişkenler arasındaki doğrusal ilişkinin gücünü ölçer ve ilişkinin gücünü ölçmek için alternatif bir yol istiyor gibi görünüyorsunuz. Bilgi teorisinden bazı fikirlere bakmak isteyebilirsiniz . Özellikle karşılıklı bilgilere bakmak isteyebileceğinizi düşünüyorum . Karşılıklı bilgiler temel olarak bir değişkenin durumunu bilmenin diğer değişken hakkında ne kadar bilgi verdiğini ölçmek için bir yol sağlar. Aslında bu tanım çoğu insanın korelasyon hakkında düşündüklerinde kastettiğine daha yakın olduğunu düşünüyorum.

İki X ve Y ayrık değişkeni için hesaplama şu şekildedir:

I (X; Y) = \sum_{y \in Y} \sum_{x \in X} p (x, y) \log (\frac{p (x, y)}{p (x) p (y)})

$I(X;Y) = \sum_{y \in Y} \sum_{x \in X} p(x,y) \log{ \left(\frac{p(x,y)}{p(x)\,p(y)} \right) }$

İki sürekli değişken için toplamı almak yerine entegre ederiz:

I (X; Y) = \int_{Y} \int_{X} p (x, y) \log (\frac{p (x, y)}{p (x) p (y)}) d x d y

$I(X;Y) = \int_Y \int_X p(x,y) \log{ \left(\frac{p(x,y)}{p(x)\,p(y)} \right) } \; dx \,dy$

Özel kullanım durumunuz bir ayrık ve bir sürekli içindir. Bir toplam üzerinde entegrasyon yapmak veya bir integral üzerinde toplamak yerine, değişkenlerden birini diğer türe dönüştürmenin daha kolay olacağını hayal ediyorum. Bunu yapmanın tipik bir yolu olacaktır ayrıklaştırılabilir ayrık kutuları içine sürekli değişken.

Verileri takdir etmenin birkaç yolu vardır (örneğin eşit aralıklarla) ve R'yi kullanmak istiyorsanız entropi paketinin MI hesaplamaları için yararlı olması gerektiğine inanıyorum .

— Michael McGowan
kaynak

1

Teşekkürler. Ancak bir MI değerinin corr = 1 değerine ne kadar yüksek olduğu ve bir MI değerinin corr = 0 değerine ne kadar düşük karşılık geldiği?

— Luna

MI minimum 0 ve MI = 0 ise yalnızca değişkenler bağımsızsa. MI'nın sabit bir üst sınırı yoktur (üst sınır değişkenlerin entropileri ile ilgilidir), bu nedenle sizin için önemliyse normalleştirilmiş sürümlerden birine bakmak isteyebilirsiniz.

— Michael McGowan

6

Kategorik değişken sıralıysa ve sürekli değişkeni birkaç frekans aralığına yerleştirirseniz Gamma'yı kullanabilirsiniz. Sıralı forma yerleştirilen eşleştirilmiş veriler için Kendal's tau, Stuart's tau ve Somers D de mevcuttur. Bunların tümü SAS'ta Proc Freq kullanılarak kullanılabilir. R rutinleri kullanılarak nasıl hesaplandıklarını bilmiyorum. : Aşağıda detaylı bilgi veren bir sunum link http://faculty.unlv.edu/cstream/ppts/QM722/measuresofassociation.ppt#260,5,Measures Nominal ve Ordinal Değişkenler Derneği

— Michael R. Chernick
kaynak

1

Kategorik bir değişken etkili bir şekilde sadece bir gösterge değişkeni kümesidir. Ölçüm teorisinin, böyle bir değişkenin kategorilerin yeniden etiketlenmesine benzememesi temel bir fikirdir, bu nedenle kategorilerin sayısal etiketlemesini başka bir değişken arasındaki ilişkinin herhangi bir ölçüsünde kullanmak mantıklı değildir (örneğin, 'korelasyon') . Bu nedenle, sürekli bir değişken ile kategorik bir değişken arasındaki ilişkinin ölçülmesi tamamen ikincisinden türetilen gösterge değişkenlerine dayanmalıdır.

İki değişken arasında bir 'korelasyon' ölçüsü istediğiniz göz önüne alındığında, sürekli bir rastgele değişken ile kategorik bir değişkenten türetilen bir gösterge rastgele değişken arasındaki korelasyona bakmak mantıklıdır . Letting Elimizdeki: $X$ $I$ $\phi \equiv \mathbb{P}(I=1)$

C o v (I, X) = E (I X) - E (I) E (X) = ϕ [E (X | I = 1) - E (X)],

$\mathbb{Cov}(I,X) = \mathbb{E}(IX) - \mathbb{E}(I) \mathbb{E}(X) = \phi \left[ \mathbb{E}(X|I=1) - \mathbb{E}(X) \right] ,$

hangi verir:

C o r r (I, X) = \sqrt{\frac{ϕ}{1 - ϕ}} \cdot \frac{E (X | I = 1) - E (X)}{S (X)} .

$\mathbb{Corr}(I,X) = \sqrt{\frac{\phi}{1-\phi}} \cdot \frac{\mathbb{E}(X|I=1) - \mathbb{E}(X)}{\mathbb{S}(X)} .$

Dolayısıyla, sürekli rasgele değişken ile gösterge rasgele değişken arasındaki korelasyon , gösterge olasılığının oldukça basit bir fonksiyonudur ve 'deki şartlandırmadan beklenen değerindeki standartlaştırılmış kazançtır . Bu korelasyonun sürekli rastgele değişkenin ayrıklaştırılmasını gerektirmediğini unutmayın. $X$ $I$ $\phi$ $X$ $I=1$

Genel kategorik değişken için aralığı sonra sadece sahip olmak bu fikri uzanacak vektör kategorik değişkenin her bir sonuç için korelasyon değerlerinin. Herhangi bir sonuç için biz gelen gösterge tanımlayabilir ve sahip: $C$ $1, ..., m$ $C=k$ $I_k \equiv \mathbb{I}(C=k)$

C o r r (I_{k}, X) = \sqrt{\frac{ϕ_{k}}{1 - ϕ_{k}}} \cdot \frac{E (X | C = k) - E (X)}{S (X)} .

$\mathbb{Corr}(I_k,X) = \sqrt{\frac{\phi_k}{1-\phi_k}} \cdot \frac{\mathbb{E}(X|C=k) - \mathbb{E}(X)}{\mathbb{S}(X)} .$

Daha sonra tanımlayabilir her bir kategori için bağıntı değerleri vektörü olarak kategorik rastgele değişken. Bu gerçekten, kategorik rastgele bir değişken için 'korelasyon' hakkında konuşmanın mantıklı olduğu tek anlamdır. $\mathbb{Corr}(C,X) \equiv (\mathbb{Corr}(I_1,X), ..., \mathbb{Corr}(I_m,X))$

( Not: göstermek için önemsiz olan ve kategorik rastgele değişken için korelasyon vektörü için bu kısıtlamaya tabi olan kategorik olasılık vektörünün bilgi verilen Bu demektir. rasgele değişken ve standart sapması , herhangi bir mesafede vektörünü olabilir . elemanları arasında) $\sum_k \mathbb{Cov}(I_k,X) = 0$ $X$ $m-1$

Yukarıdaki açıklama gerçek korelasyon değerleri içindir, ancak belli bir analizde bunların tahmin edilmesi gerekir. Gösterge korelasyonlarının örnek verilerden hesaplanması basittir ve parçaların her biri için uygun tahminlerin ikame edilmesiyle yapılabilir. (İsterseniz meraklısı tahmin yöntemleri kullanabilirsiniz.) Verilen örnek verileri korelasyon denkleminin bölümlerini şu şekilde tahmin edebiliriz: $(x_1, c_1), ..., (x_n, c_n)$

{\hat{ϕ}}_{k} \equiv \frac{1}{n} \sum_{i = 1}^{n} I (c_{i} = k) .

$\hat{\phi}_k \equiv \frac{1}{n} \sum_{i=1}^n \mathbb{I}(c_i=k).$

\hat{E} (X) \equiv \bar{x} \equiv \frac{1}{n} \sum_{i = 1}^{n} x_{i} .

$\hat{\mathbb{E}}(X) \equiv \bar{x} \equiv \frac{1}{n} \sum_{i=1}^n x_i.$

\hat{E} (X | C = k) \equiv {\bar{x}}_{k} \equiv \frac{1}{n} \sum_{i = 1}^{n} x_{i} I (c_{i} = k) / {\hat{ϕ}}_{k} .

$\hat{\mathbb{E}}(X|C=k) \equiv \bar{x}_k \equiv \frac{1}{n} \sum_{i=1}^n x_i \mathbb{I}(c_i=k) \Bigg/ \hat{\phi}_k .$

\hat{S} (X) \equiv s_{X} \equiv \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}} .

$\hat{\mathbb{S}}(X) \equiv s_X \equiv \sqrt{\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2}.$

$X$

— Monica'yı eski durumuna getir
kaynak

0

R paketi mpmi, karışık değişken durum için karşılıklı bilgi, yani sürekli ve ayrık hesaplama yeteneğine sahiptir. Burada yararlı olmak için (nokta) biseriyal korelasyon katsayısı gibi başka istatistiksel seçenekler olmasına rağmen, doğrusal ve monotonik dışındaki ilişkilendirmeleri algılayabildiği için karşılıklı bilgilerin hesaplanması yararlı ve şiddetle tavsiye edilir.

— siyisoy
kaynak

0

Eğer $X$ sürekli rastgele bir değişkendir ve $Y$ kategorik bir rv. arasında gözlenen korelasyon $X$ ve $Y$ ile ölçülebilir

nokta-serili korelasyon katsayısı, eğer $Y$ ikiye ayrılır;
nokta-polyserial korelasyon katsayısı, eğer $Y$ sıralı kategorilerle çok boyutludur.

Bununla birlikte, nokta-poliseryal korelasyonun sadece nokta-biseriyelin genelleştirilmesi olduğuna dikkat edilmelidir.

Daha geniş bir görüş için, Olsson, Drasgow & Dorans (1982) [1] 'den bir tablo.

[1]: Kaynak: Olsson, U., Drasgow, F. ve Dorans, NJ (1982). Poliseriyel korelasyon katsayısı. Psikometrik, 47 (3), 337–347

— Waldir Leoncio
kaynak