Ortogonal istatistik bağlamında ne anlama geliyor?

60

Diğer bağlamlarda, ortogonal "dik açılarda" veya "dik" anlamına gelir.

Ortogonal istatistiksel bağlamda ne anlama geliyor?

Herhangi bir açıklama için teşekkür ederiz.

descriptive-statistics

2

Soru için teşekkürler. Daha genel bir soru sordum: tüm ortogonallık vakalarında bu kadar yaygın olan şey. İstatistiksel bağımsızlığın bu özelliği nasıl karşıladığını bilmekle de ilgilenmiştim. physics.stackexchange.com/questions/67506

— Val

5

Buradaki cevapların hiçbirinin genellikle kelimenin matematiksel "doğrusal cebir" anlamına gelmediğinden bahsetmemesine şaşırdım. Örneğin, "ortogonal bir değişkenler kümesi" nden bahsettiğimizde genellikle değişkenleri matris için kastedilmektedir . "ortonormal" de kullanılır.

X^{T} X = I

$X^{T}X=I$

X

$X$

— olasılık

4

@probability "Orthogonal", karesel bir formuna sahip bir vektör uzayı için bir anlama sahiptir : iki ve vektörleri , eğer ve sadece ise diktir . "Birim dikey" terimi ek olarak bu . Dolayısıyla "ortogonal" ve "ortonormal" eşanlamlı değildir ve sonlu matrislerle sınırlı değildir. ( Örneğin , ve , klasik kuantum mekaniğinde kullanılan üzerindeki - karmaşık değerli fonksiyonların alanı gibi bir Hilbert uzayının elemanları olabilir .)

Q

$Q$

v

$v$

w

$w$

Q (v, w) = 0

$Q(v,w)=0$

Q (v, v) = 1 = Q (w, w)

$Q(v,v)=1=Q(w,w)$

v

$v$

w

$w$

L^{2}

$L^2$

R^{3}

$\mathbb{R}^3$

— whuber

Bu bağlantı, ortogonalite ve korelasyonun (olmayan) bağlantısını anlamada yardımcı olabilir. alecospapadopoulos.wordpress.com/2014/08/16/…

— RBirkelbach

Farklı (ancak doğru) cevapların büyüyen koleksiyonu, bunun iyi bir CW dizisi olduğunu gösteriyor.

— whuber

-16

Bu, [X, Y] rasgele değişkenlerinin birbirlerinden 'bağımsız' oldukları anlamına gelir. Bağımsız rastgele değişkenler genellikle birbirlerinin 'dik açılarında' kabul edilir, burada 'dik açıların' ikisinin iç ürününün 0 olduğu (doğrusal cebirden eşdeğer bir koşul) olduğu anlamına gelir.

Örneğin, XY düzleminde, X ve Y ekseninin dik olduğu söylenir, çünkü verilen bir noktanın x değeri değişirse (2,3) 'den (5,3)' e giderse, y değeri aynı kalır (3), ve tam tersi. Dolayısıyla iki değişken 'bağımsız'.

Ayrıca bakınız Vikipedi’nin Bağımsızlık ve Ortogonallık

— crazyjoe
kaynak

24

Korelasyon ile bağımlılık eksikliği arasındaki ayrım önemli olduğundan, diklik ile bağımsızlığı eşitlemek yapılacak iyi bir şey değildir.

— whuber

Ne OP ne de cevaplayıcı bir yıldan fazla bir süredir aktif olmadığından, en azından net bir cevap vermek için muhtemelen bunu düzenlemeye değer . Bunu denedim.

— Esad Ebrahim

1

İstatistikler içinde buna yaygın bir karşı örnek PCA'ya karşı ICA'dır, PCA'yı zorlayan ortogonalite ve ICA bağımsızlığı arttırır.

— jona

5

Moderatörler için: Bu kadar iyi ve çok popüler bir soru olan bir utanç, bu kadar çok düşüncenin daha iyi indirgeyeceğine dair bir cevapla "sıkışmış" (şimdiki puan -4). Hem OP hem de cevaplayıcı bir yıldan fazla bir süredir aktif olmadığından, belki de “kabul edilen” çek kaldırılabilir ve soru “açık” bırakılabilir. Aşağıdaki daha eksiksiz cevaplar kendileri için konuşur.

— Esad Ebrahim

1

@ Asad mods OP'nin kabulünü kaldıramaz. Bu OP'nin eyaleti.

— Glen_b

33

Yorum yapamam çünkü yeterince puanım yok, bu yüzden fikrimi bir cevap olarak konuşmak zorundayım, lütfen beni affet. Bildiğim kadarıyla, ortogonalite olarak tanımlandığı için @crazyjoe tarafından seçilen cevaba katılmıyorum

E [X Y^{⋆}] = 0

$E[XY^{\star}] = 0$

Yani:

Eğer simetrik pdf ile ise onlar bağımlı fakat dikeydirler. $Y=X^2$

Eğer fakat negatif değerler için pdf sıfırsa, o zaman bağımlı olurlar, ancak dik değildir. $Y=X^2$

Bu nedenle, diklik, bağımsızlık anlamına gelmez.

— user497804
kaynak

2

içindeki yıldız işareti (yıldız) nedir?

Y^{*}

$Y^{*}$

— mugen

2

@mugen, muhtemelen karmaşık konjugatı gösterir.

— A. Donda

Kendine not edin (ve muhtemelen başkalarına da) - (gerçek değerli fonksiyonlar için karmaşık konjugatla (?) Yapabileceğimiz), ve gibi rastgele değişkenlerin iç çarpımı olduğuna inanıyorum . ürün beklentileri:

E [X Y]

$E[XY]$

X

$X$

Y

$Y$

⟨ X, Y ⟩ = E [X Y]

$\langle X,Y\rangle=E[XY]$

— Antoni Parellada

21

Eğer X ve Y bağımsızsa ortogonal olurlar. Ancak, kullanıcı 497804'ün zekice örneği ile belirtildiği gibi, görüşme doğru değildir. Tam tanımlar için bakınız

Ortogonal: Kompleks değerli rastgele değişkenler ve , karşılarsa ortogonal olarak adlandırılır. $C_1$ $C_2$ ${\rm cov}(C_1,C_2)=0$

(Pg 376, Geoffrey Grimmett ve David Stirzaker'ın Olasılık ve Rastgele Süreçleri)

Bağımsız: ve rastgele değişkenleri , eğer yalnızca , için bağımsızdır. $X$ $Y$ $F(x,y) = F_X(x)F_Y(y)$ $x,y \in \mathbb{R}$

bu sürekli rastgele değişkenler için, $f(x,y) = f_X(x)f_Y(y)$

(Sayfa 99, Geoffrey Grimmett ve David Stirzaker'ın Olasılık ve Rastgele Süreçleri)

— Naresh
kaynak

21

@Mien zaten bir cevap verdi ve @whuber'ın belirttiği gibi, ortogonal ilişkisiz anlamına gelir. Ancak, ben gerçekten insanların bazı referanslar sağlamasını diliyorum. Korelasyon kavramını geometrik bir perspektiften açıkladıkları için aşağıdaki linkleri faydalı göz önünde bulundurabilirsiniz.

Vektörlerin Geometrisi (bkz. S. 7)
Doğrusal Bağımsız, Ortogonal ve İlişkili Olmayan Değişkenler
Vektör uzayında iki boyutlu korelasyonun grafiksel gösterimi ( size ücretsiz olmayabilir)

— Bernd Weiss
kaynak

1

İkinci bağlantı bilmek istediğim her şeyi açıkladı. Teşekkürler! :)

— Lenar Hoyt

Reel değerli rasgele değişkenler Xve Yeğer sadece merkezlenmiş değişkenlerse X-E(X)ve Y-E(Y)ortogonal ise korelasyon göstermez . [ref]

— knedlsepp 14:15

1

@Bernd İlk iki bağlantı çalışmıyor.

— boğulmuş

@overwhelmed tahmin ediyorum bu ikinci bağlantı bağlantı verdiği yazıdır.

— Josh O'Brien,

8

Bir NIST web sitesi (aşağıda ref) ortogonal'i şu şekilde tanımlar: "Herhangi bir faktörün etkileri diğer faktörlerin etkileri arasında dengelendiğinde (sıfıra toplanırsa) deneysel bir tasarım ortogonaldir."

İstatistiksel tasarıma göre, "ortak olmayan" veya "takma değil" anlamına gelen ortogonalleri anlıyorum. Farklı faktörleri / tedavileri açıkça tanımlayabildiğinizden emin olmak istiyorsanız, denemenizi tasarlarken ve analiz ederken bu önemlidir. Tasarlanmış denemeniz ortogonal değilse, o zaman farklı tedavilerin etkilerini tamamen ayıramayacaksınız demektir. Dolayısıyla, etkinin giderilmesi için bir takip denemesi yapmanız gerekecektir. Buna artırılmış tasarım veya karşılaştırmalı tasarım denir.

Bağımsızlık, tasarım ve analizin bir çok yönüyle kullanıldığından beri kötü bir kelime seçimi gibi görünüyor.

NIST Ref http://www.itl.nist.gov/div898/handbook/pri/section7/pri7.htm

— Chris
kaynak

3

Deneysel tasarım bağlamını tanıtmak için +1. "Ortogonal" kelimesi burada kullanılmayı hak eder çünkü aslında matematiksel kavramla tamamen aynıdır: deneydeki faktörleri temsil eden (sütun) vektörleri, bir Öklid uzayının elementleri olarak kabul edilen, aslında ortogonal olacaktır (sağda) açılı, sıfır noktalı çarpımlı bir ürün) dikey tasarımda.

— whuber

2

Büyük olasılıkla 'dikgen' diyorlarsa 'ilgisiz' anlamına geliyorlar; iki faktör ortogonal ise (örneğin faktör analizinde), ilgisizdir, korelasyonları sıfırdır.

— eda
kaynak

3

Korelasyon katsayısı, bir açının kosinüsüdür (veya doğal olarak yorumlanabilir). Sıfır olduğunda, açının ne olduğunu düşünüyorsun? :-) İlintisiz yok değil ilgisiz demek!

— whuber

Yanıldığını söylemiyorum, ama ilişkisiz ve ilişkili bir şeye bir örnek verebilir misin; ya da tam tersi? Farkı anladığımdan emin değilim.

— Mien

Ve evet, bu açının 90 ° olacağını biliyorum. Bir dik açı olan dik.

— Mien

5

Let rasgele bir değişken alma değerler eşit olasılıkla ve izin . Arasındaki korelasyon ve ise , fakat açıkça ilişkilidir: bir fonksiyonudur .

X

$X$

{- 1, 0, 1}

$\{-1,0,1\}$

Y = X^{2}

$Y=X^2$

X

$X$

Y

$Y$

ρ_{X, Y} = 0

$\rho_{X,Y}=0$

Y

$Y$

X

$X$

— normal

Ah evet, teşekkürler. Fakat bunun tersi mümkün değil, öyle (eğer üçüncü bir değişken yoksa benzer bir şey varsa)?

— Mien

2

Göre http://terpconnect.umd.edu/~bmomen/BIOM621/LineardepCorrOrthogonal.pdf , doğrusal bağımsızlık dikgenlik veya uncorrelatedness için gerekli bir koşuldur. Ancak, daha iyi ayrımlar vardır, özellikle, diklik, ilgisizlik değildir.

— user45059
kaynak

1

Benzer bir soru sordum Ortogonallık ile RV'lerin ürününün beklentisi arasındaki ilişki nedir ve cevabı burada tekrar ediyorum. Ortogonallik, Doğrusal Cebir'den bir kavram olmasına rağmen, iki vektörün nokta ürününün sıfır olduğu anlamına gelir, terim bazen istatistiklerde gevşek olarak kullanılır ve korelasyon dışı anlamına gelir. Eğer iki rastgele vektör ortogonal ise, o zaman merkezileşmiş karşıtları ilişkisizdir, çünkü ortogonallik (nokta-ürün sıfır), merkezileşmiş rastgele vektörlerin korelasyonu olmadığını belirtir (bazen insanlar ortogonalitenin çapraz momentin sıfır olduğunu ima ettiğini söyler). Ne zaman iki Rastgele Vektöre olursak, beklentilerini sıfır yapmak için her zaman onları araçlarının etrafında merkezileştirebiliriz. Ortogonallığı varsayalım ( $(X,Y)$ $X\cdot Y=0$ ), sonra merkezi rasgele değişkenlerin korelasyonu

C o v (X - E [X], Y - E [Y]) = E [X \cdot Y] = E [0] = 0 ⟹ C o r r (X - E [X], Y - E [Y]) = 0

$Cov(X-E[X],Y-E[Y]) = E[X\cdot Y]= E[0]=0\implies \\Corr(X-E[X],Y-E[Y])=0$

— Diogo
kaynak

1

Ekonometride, diklik varsayımı, tüm hataların toplamının beklenen değerinin 0 olduğu anlamına gelir. Bir regresörün tüm değişkenleri mevcut hata terimlerine diktir.

Matematiksel olarak, diklik varsayımı . $E(x_{i}·ε_{i}) = 0$

Daha basit bir ifadeyle, bir regresörün hata terimine "dik" olduğu anlamına gelir.

— Leopold W.
kaynak

-2

İki veya daha fazla IV'ün birbiriyle alakası yoktur (her ikisi de DV üzerinde etkilidir). Her bir IV ayrı ayrı bir sonuç değerine katkıda bulunurken, IV'ün her ikisi veya tamamı da gelirin tahmininde ek bir şekilde katkıda bulunur (ortogonal = kesişmeyen IV'ün DV üzerindeki etkisi). IV'ler birbirleri arasında korelasyonlu değildir ve genellikle dik bir açıyla yerleştirilir * bkz. Venn Diyagramı.

Örnek: Motivasyon ve gelirli eğitim yılları arasındaki ilişki.

IV = Eğitim Yılı IV = Motivasyon DV = Gelir

https://onlinecourses.science.psu.edu/stat505/node/167

— basmakalıp
kaynak

-2

İlgili rastgele değişkenler, X ve Y'nin herhangi bir ilişkiye sahip olabileceğini söyleyen değişkenler anlamına gelir; doğrusal olabilir veya doğrusal olmayabilir. İki değişken doğrusal olarak ilişkiliyse, bağımsızlık ve ortogonal özellikler aynıdır.

— J Subramani
kaynak

2

Bu, crazyjoe tarafından yapılan hatayı sürdürür: dikdörtgensellik, değişkenler birlikte normal dağılmadığı sürece bağımsızlık anlamına gelmez.

— whuber