Üç rastgele değişkenin korelasyonuna bağlı

28

Üç rastgele değişken vardır, $x,y,z$ . Üç değişken arasındaki üç korelasyon aynıdır. Yani,

ρ = cor (x, y) = cor (x, z) = cor (y, z)

$\rho=\textrm{cor}(x,y)=\textrm{cor}(x,z)=\textrm{cor}(y,z)$

için verebileceğiniz en sıkı sınır nedir ? $\rho$

correlation correlation-matrix

— user1352399
kaynak

1

Muhtemelen "pho" ile, rho ( ) demek istiyorsun . Ancak, sorunuz net değil. "Verebileceğin en sıkı sınır nedir" derken ne demek istiyorsun?

ρ

$\rho$

— gung - Monica'yı yeniden yerleştirme

Peki değişkenin adı sadece bir kukla. En sıkı sınırlama ile, bir korelasyon için [-1, 1] gibi bir anlam ifade ediyorum, ama bu açıkça mümkün olan en sıkı sınır değil.

— user1352399

Bunu demek istiyorsun ki, rho = cor (x, y) = cor (x, z) = cor (y, z) ve rho için sınırlar nelerdir?

— user31264,

Evet, rho = cor (x, y) = cor (x, z) = cor (y, z) ve rho limitleri nedir demek istiyorum. Dilip, rho'nun negatif olmamasını, yani> = 0 olması gerektiğini söyler misiniz?

— user1352399 15:13

1

Bunun için alıntı yapacak bir ders kitabı Seber & Lee "Linear Regression Analysis" (En azından ilk baskıda ...)

— kjetil b halvorsen

29

Ortak ilişki değerine sahip olabilir değil . Eğer , daha sonra can eşit olmayan ama aslında . Üç rastgele değişkenin ortak korelasyonunun en küçük değeri . Daha genel olarak, en az ortak ilişki rastgele değişken olduğu vektörleri olarak, bunlar (boyutta bir simplex köşelerinde olan olarak) boyutlu alan. $\rho$ $+1$ $-1$ $\rho_{X,Y}= \rho_{X,Z}=-1$ $\rho_{Y,Z}$ $-1$ $+1$ $-\frac{1}{2}$ $n$ $-\frac{1}{n-1}$ $n-1$ $n$

birim varyans toplamı rasgele değişkenleri toplamının varyansını göz önünde bulundurun . Biz bunu burada olan ortalama değeri arasında korelasyon katsayıları. Ancak bu yana , kolaylıkla elde bu $n$ $X_i$

\begin{aligned} var (\sum_{i = 1}^{n} X_{i}) & = \sum_{i = 1}^{n} var (X_{i}) + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} cov (X_{i}, X_{j}) \\ = n + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} ρ_{X_{i}, X_{j}} \\ (1) & = n + n (n - 1) \bar{ρ} \end{aligned}

$\begin{align*} \operatorname{var}\left(\sum_{i=1}^n X_i\right) &= \sum_{i=1}^n \operatorname{var}(X_i) + \sum_{i=1}^n\sum_{j\neq i}^n \operatorname{cov}(X_i,X_j)\\ &= n + \sum_{i=1}^n\sum_{j\neq i}^n \rho_{X_i,X_j}\\ &= n + n(n-1)\bar{\rho} \tag{1} \end{align*}$

\bar{ρ}

$\bar{\rho}$

(\binom{n}{2})

$\binom{n}{2}$

var (\sum_{i} X_{i}) \geq 0

$\operatorname{var}\left(\sum_i X_i\right) \geq 0$

(1)

$(1)$

\bar{ρ} \geq - \frac{1}{n - 1} .

$\bar{\rho} \geq -\frac{1}{n-1}.$

Dolayısıyla, bir korelasyon katsayısının ortalama değeri en azından . Eğer tüm korelasyon katsayıları var aynı değere , daha sonra ortalama da eşittir ve biz buna sahip böylece ortak korelasyon değerinin eşittir rastgele değişkenlere sahip olmak mümkün müdür ? Evet. Varsayalım ki olan ilintisiz birim varyans rastgele değişkenler ve set . O zaman, iken $-\frac{1}{n-1}$ $\rho$ $\rho$

ρ \geq - \frac{1}{n - 1} .

$\rho \geq -\frac{1}{n-1}.$

ρ

$\rho$

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

X_{i}

$X_i$

Y_{i} = X_{i} - \frac{1}{n} \sum_{j = 1}^{n} X_{j} = X_{i} - \bar{X}

$Y_i = X_i - \frac{1}{n}\sum_{j=1}^n X_j = X_i -\bar{X}$

E [Y_{i}] = 0

$E[Y_i]=0$

var (Y_{i}) = {(\frac{n - 1}{n})}^{2} + (n - 1) {(\frac{1}{n})}^{2} = \frac{n - 1}{n}

$\displaystyle \operatorname{var}(Y_i) = \left(\frac{n-1}{n}\right)^2 + (n-1)\left(\frac{1}{n}\right)^2 = \frac{n-1}{n}$ ve vererek Dolayısıyla , in minimum ortak korelasyon değerini elde eden rasgele değişkenlerdir . Not, bu arada, bu , ve bu yüzden, vektörler olarak, rastgele değişkenler yalan ait boyutlu hiper

cov (Y_{i}, Y_{j}) = - 2 (\frac{n - 1}{n}) (\frac{1}{n}) + (n - 2) {(\frac{1}{n})}^{2} = - \frac{1}{n}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{n-1}{n}\right)\left(\frac{1}{n}\right) + (n-2)\left(\frac{1}{n}\right)^2 = -\frac{1}{n}$

ρ_{Y_{i}, Y_{j}} = \frac{cov (Y_{i}, Y_{j})}{\sqrt{var (Y_{i}) var (Y_{j})}} = \frac{- 1 / n}{(n - 1) / n} = - \frac{1}{n - 1} .

$\rho_{Y_i,Y_j} = \frac{\operatorname{cov}(Y_i,Y_j)}{\sqrt{\operatorname{var}(Y_i)\operatorname{var}(Y_j)}} =\frac{-1/n}{(n-1)/n} = -\frac{1}{n-1}.$

Y_{i}

$Y_i$

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

\sum_{i} Y_{i} = 0

$\sum_i Y_i = 0$

(n - 1)

$(n-1)$

n

$n$ boyutlu uzay.

— Dilip Sarwate
kaynak

25

Mümkün olan en sıkı sınır . $-1/2 \le \rho \le 1$ Tüm bu değerler aslında görünebilir - hiçbiri imkansız değildir.

Sonuçta özellikle derin veya gizemli bir şey olmadığını göstermek için, bu cevap ilk önce tamamen temel bir çözüm sunar, yalnızca varyansların - karelerin beklenen değerleri olduğu - negatif olmamasının gerektiği açık bir gerçeği gerektirir. Bunu (biraz daha sofistike cebirsel gerçekleri kullanan) genel bir çözüm izler.

İlkel çözüm

Herhangi bir doğrusal kombinasyonunun varyansı negatif olmamalıdır. $x,y,z$ Bu değişkenlerin varyanslarının sırasıyla ve olmasına izin verin . Hepsi sıfır değildir (aksi halde korelasyonların bazıları tanımlanmayacaktır). Temel varyans özelliklerini kullanarak hesaplayabiliriz $\sigma^2, \tau^2,$ $\upsilon^2$

0 \leq Var (α x / σ + β y / τ + γ z / υ) = α^{2} + β^{2} + γ^{2} + 2 ρ (α β + β γ + γ α)

$0 \le \text{Var}(\alpha x/\sigma + \beta y/\tau + \gamma z/\upsilon) = \alpha^2 +\beta^2+\gamma^2 + 2\rho(\alpha\beta+\beta\gamma+\gamma\alpha)$

Tüm gerçek sayılar için . $(\alpha, \beta, \gamma)$

olduğu varsayılırsa , küçük bir cebirsel manipülasyon buna eşdeğerdir. $\alpha+\beta+\gamma\ne 0$

\frac{- ρ}{1 - ρ} \leq \frac{1}{3} {(\frac{\sqrt{(α^{2} + β^{2} + γ^{2}) / 3}}{(α + β + γ) / 3})}^{2} .

$\frac{-\rho}{1-\rho} \le \frac{1}{3} \left(\frac{\sqrt{(\alpha^2+\beta^2+\gamma^2)/3}}{(\alpha+\beta+\gamma)/3}\right)^2.$

Sağ taraftaki kare terimi, iki güç aracının oranıdır . Temel güç ortalama eşitsizlik (ağırlıkları ile ) bu oran geçemez iddia (ve eşit olacaktır olduğunda ). Biraz daha fazla cebir daha sonra $(\alpha, \beta, \gamma)$ $(1/3, 1/3, 1/3)$ $1$ $1$ $\alpha=\beta=\gamma\ne 0$

ρ \geq - 1 / 2.

$\rho \ge -1/2.$

Aşağıdaki açık örneği (trivariate Normal değişkenleri ), tüm bu değerlerin değerlerinin aslında korelasyon olarak ortaya çıktığını gösterir. Bu örnek, yalnızca çok değişkenli Normlar tanımını kullanır, ancak aksi takdirde Calculus veya Linear Cebir sonuçlarına neden olmaz. $n=3$ $(x,y,z)$ $-1/2 \le \rho \le 1$

Genel çözüm

genel bakış

Herhangi bir korelasyon matrisi, standartlaştırılmış rastgele değişkenlerin kovaryans matrisidir, bu nedenle - tüm korelasyon matrislerinde olduğu gibi - yarı kesin pozitif olmalıdır. Eşdeğer olarak, özdeğerleri negatif değildir. Bu yüklemektedir basit koşul : herhangi az olmamalıdır (geçemez ve tabii ). Tersine, bu tür aslında bu sınırları dar mümkündür kanıtlayan bazı trivariate dağılımı arasındaki ilişki matrisine karşılık gelir. $\rho$ $-1/2$ $1$ $\rho$

Koşulların $\rho$

Göz önünde ile her diyagonal değerlerle korelasyon matrisine eşit(Soru olayıyla ilgilidir ancak bu genellemenin analiz edilmesi artık zor değil.) Hadi buna diyelim Tanım olarak, sıfır olmayan bir vektör olması koşuluyla bir özdeğerdir . $n$ $n$ $\rho.$ $n=3,$ $\mathbb{C}(\rho, n).$ $\lambda$ $\mathbf{x}_\lambda$

C (ρ, n) x_{λ} = λ x_{λ} .

$\mathbb{C}(\rho,n) \mathbf{x}_\lambda = \lambda \mathbf{x}_\lambda.$

Bu özdeğerleri bu durumda bulmak kolaydır, çünkü

İzin vermek , işlem bu $\mathbf{1} = (1, 1, \ldots, 1)'$

$C (ρ, n) 1 = (1 + (n - 1) ρ) 1 .$ $\mathbb{C}(\rho,n)\mathbf{1} = (1+(n-1)\rho)\mathbf{1}.$
İzin vermek , bir ile sadece için (yer ), işlem bu $\mathbf{y}_j = (-1, 0, \ldots, 0, 1, 0, \ldots, 0)$ $1$ $j^\text{th}$ $j = 2, 3, \ldots, n$

$C (ρ, n) y_{j} = (1 - ρ) y_{j} .$ $\mathbb{C}(\rho,n)\mathbf{y}_j = (1-\rho)\mathbf{y}_j.$

Çünkü özvektörler bugüne kadar bulunmuş tam yayılan boyutlu uzay (kanıt: onların belirleyici mutlak değeri eşittir kolay bir satır azaltma gösterileri , sıfırdan farklı olan), bunlar bir dayanak teşkil bütün özvektörler. Bu nedenle, tüm özdeğerleri bulduk ve bunların veya (çokluğu olan ikincisi) olduklarını belirledik . Tüm korelasyonların sağladığı bilinen eşitsizliğe ek olarak, ilk özdeğerin olumsuz olmayışı ayrıca ima eder $n$ $n$ $n$ $1+(n-1)\rho$ $1-\rho$ $n-1$ $-1 \le \rho \le 1$

ρ \geq - \frac{1}{n - 1}

$\rho \ge -\frac{1}{n-1}$

ikinci özdeğerin olumsuz olmayışı yeni şartlar getirmez.

Koşulların yeterlilik kanıtı

Sonuçları her iki yönde çalışır: Resim matris , pozitif-kesin ve dolayısıyla geçerli bir korelasyon matrisidir. Örneğin, çok normalli bir dağılım için korelasyon matrisidir. Özellikle yaz $-1/(n-1)\le \rho \le 1,$ $\mathbb{C}(\rho, n)$

Σ (ρ, n) = (1 + (n - 1) ρ) I_{n} - \frac{ρ}{(1 - ρ) (1 + (n - 1) ρ)} 1 1^{'}

$\Sigma(\rho, n) = (1 + (n-1)\rho)\mathbb{I}_n - \frac{\rho}{(1-\rho)(1+(n-1)\rho)}\mathbf{1}\mathbf{1}'$

, tersi için. Örneğin, olduğunda $\mathbb{C}(\rho, n)$ $-1/(n-1) \lt \rho \lt 1.$ $n=3$

Σ (ρ, 3) = \frac{1}{(1 - ρ) (1 + 2 ρ)} (\begin{array}{ccc} ρ + 1 & - ρ & - ρ \\ - ρ & ρ + 1 & - ρ \\ - ρ & - ρ & ρ + 1 \end{array}) .

$\color{gray}{\Sigma(\rho, 3) = \frac{1}{(1-\rho)(1+2\rho)} \left( \begin{array}{ccc} \rho +1 & -\rho & -\rho \\ -\rho & \rho +1 & -\rho \\ -\rho & -\rho & \rho +1 \\ \end{array} \right)}.$

Rastgele değişkenlerin vektörünün dağıtım işlevine sahip olmasına izin verin $(X_1, X_2, \ldots, X_n)$

f_{ρ, n} (x) = \frac{\exp (- \frac{1}{2} x Σ (ρ, n) x^{'})}{(2 π)^{n / 2} {((1 - ρ)^{n - 1} (1 + (n - 1) ρ))}^{1 / 2}}

$f_{\rho, n}(\mathbf{x}) = \frac{\exp\left(-\frac{1}{2}\mathbf{x}\Sigma(\rho, n)\mathbf{x}'\right)}{(2\pi)^{n/2}\left((1-\rho)^{n-1}(1+(n-1)\rho)\right)^{1/2}}$

burada . Örneğin, olduğunda bu eşittir $\mathbf{x} = (x_1, x_2, \ldots, x_n)$ $n=3$

\frac{1}{\sqrt{(2 π)^{3} (1 - ρ)^{2} (1 + 2 ρ)}} \exp (- \frac{(1 + ρ) (x^{2} + y^{2} + z^{2}) - 2 ρ (x y + y z + z x)}{2 (1 - ρ) (1 + 2 ρ)}) .

$\color{gray}{\frac{1}{\sqrt{(2\pi)^{3}(1-\rho)^2(1+2\rho)}} \exp\left(-\frac{(1+\rho)(x^2+y^2+z^2) - 2\rho(xy+yz+zx)}{2(1-\rho)(1+2\rho)}\right)}.$

Bu rastgele değişken için korelasyon matrisi $n$ $\mathbb{C}(\rho, n).$

şekil

Yoğunluk fonksiyonlarının konturları Soldan sağa, . Yoğunluğun, düzleminin yakınında yoğunlaşmasından nasıl çizgisinin yakınında yoğunlaşacağına dikkat edin . $f_{\rho,3}.$ $\rho=-4/10, 0, 4/10, 8/10$ $x+y+z=0$ $x=y=z$

ve özel durumları dejenere dağılımlarla da gerçekleştirilebilir ; Önceki durumda, dağılımın aynı şekilde dağıtılmış ortalamanın toplamı olduğu, hiper desteklenebileceğini belirtmek dışında ayrıntılara girmeyeceğim Normal dağılım, ikinci durumda (mükemmel pozitif korelasyon), tarafından üretilen satırda desteklenir , burada ortalama Normal dağılım vardır. $\rho = -1/(n-1)$ $\rho = 1$ $\mathbf{x}.\mathbf{1}=0$ $0$ $\mathbf{1}'$ $0$

Dejenerasyon dışı hakkında daha fazla bilgi

Bu analizin bir gözden bu ilişki matrisi olduğunu açıkça ortaya koymaktadır bir sırası vardır ve bir sıra vardır ve (sadece bir özvektör sahip olduğu için, sıfır olmayan özdeğer). İçin , bu her iki durumda da ilişki matrisi dejenere yapar. Aksi takdirde, ters nin varlığı dejenere olmadığını kanıtlar. $\mathbb{C}(-1/(n-1), n)$ $n-1$ $\mathbb{C}(1, n)$ $1$ $n\ge 2$ $\Sigma(\rho, n)$

— whuber
kaynak

20

Korelasyon matrisin

(\begin{matrix} 1 & ρ & ρ \\ ρ & 1 & ρ \\ ρ & ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho&\rho\\ \rho&1&\rho\\ \rho&\rho&1 \end{pmatrix}$

Önde gelen ana küçüklerin tümü negatif değilse, matris pozitif yarı yarıyıldır. Asıl küçükler, matrisin "kuzey-batı" bloklarının belirleyicileridir;

(\begin{matrix} 1 & ρ \\ ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho\\ \rho&1\end{pmatrix}$

ve korelasyon matrisinin kendisinin belirleyicisidir.

1 açıkça olumlu, ikinci ana küçük olan , herhangi bir kabul edilebilir korelasyon için negatif olmayan bir, . Tüm korelasyon matrisinin determinantı $1-\rho^2$ $\rho\in[-1,1]$

2 ρ^{3} - 3 ρ^{2} + 1.

$2\rho^3-3\rho^2+1.$

Grafik, kabul edilebilir korelasyon aralığının üzerindeki fonksiyonun determinantını göstermektedir . $[-1,1]$ görüntü tanımını buraya girin

Fonksiyonun @stochazesthai tarafından verilen aralıkta olumsuz olmadığını görüyorsunuz (aynı zamanda determinant denkleminin köklerini bularak da kontrol edebilirsiniz).

— Christoph Hanck
kaynak

Cevabınızda olduğunu varsaymıyor muyuz ? Neden yapabiliriz?

V a r () = 1

$Var( )=1$

— Denizdeki yaşlı bir adam.

1

@Anold "Korelasyon" un yazıldığı "kovaryans" okuyor gibisiniz.

— whuber

6

Rastgele değişken vardır biri , ve ikili korelasyonları ile eğer korelasyon matrisi pozitif yarı kesin ise. Bu sadece için olur . $X$ $Y$ $Z$ $\rho_{XY} = \rho_{YZ} = \rho_{XZ} = \rho$ $\rho \in [-\frac{1}{2},1]$

— stochazesthai
kaynak

2

Bunu çok basit bir şekilde açıklayabilir misiniz?

— Elizabeth Susan Joseph

1

Matris cebir bilgisini gerektirmeyen bir açıklama olduğunu sanmıyorum. Vikipedi sayfasına bakmanızı öneririm ( en.wikipedia.org/wiki/… ).

— stochazesthai

4

Sadece temel (lise düzeyinde) cebir gerektiren bir açıklama buldum ve cevabımı da buna dahil ettim.