Arasındaki ilişki

Diyelim İki 1 boyutlu diziler var ki ve . Her biri 100 veri noktası içerir. gerçek veri ve modeli tahminidir. Bu durumda, değeri şöyle olacaktır: Bu arada, bu korelasyon katsayısının kare değerine eşit olacaktır, : Şimdi iki takas eğer gerçek veri ve modeli tahmindir. Denklemden , korelasyon katsayısının hangisinin önce geldiği umrunda olmadığı için,$a_1$$a_2$$a_1$$a_2$$R^2$

$$R^2 = 1 - \frac{SS_{res}}{SS_{tot}} \quad\quad\quad\quad\quad\ \ \quad\quad(1).$$ $$R^2 = (\text{Correlation Coefficient})^2 \quad (2).$$ $a_2$$a_1$$(2)$ ( 1 ) S S T O T = Σ i ( y ı - ˉ y ) 2 R, 2 S S T O T y bir 1 , bir 2 S S r E s = Σ i ( f i - ˉ y ) $R^2$ değeri aynı olurdu. Ancak, denklem , , değeri, çünkü değişecektir biz geçmek durumunda değişti ile ilgili için ; bu arada, değişmez.$(1)$$SS_{tot}=\sum_i(y_i - \bar y )^2$$R^2$$SS_{tot}$$y$$a_1$$a_2$$SS_{res}=\sum_i(f_i-\bar y)^2$

Sorum şu: Bunlar birbirleriyle nasıl çelişebilir?

Düzenle :

1. Merak ediyorum, Eq. (2) basit bir doğrusal regresyon değilse, yani IV ve DV arasındaki ilişki lineer değilse, hala geçerli mi (üstel / log olabilir)?

2. Tahmin hataları toplamı sıfıra eşit değilse, bu ilişki hala geçerli olacak mı?

Bu, değişeceği doğrudur ... ama karelerin regresyon toplamının da değişeceği gerçeğini unuttun. Şimdi, basit regresyon modelini ele alalım gibi korelasyon katsayısı ile ifade , ben alt endeks kullanıldığı yerlerde için bağımsız değişken ve de bağımlı değişken olduğunu vurgulayın . Açıkça, eğer ile değiştirirseniz , değişmez . Kolayca ; burada , karelerin ve regresyonunun toplamıdır. r 2 x y = S 2 x $SS_{tot}$ xyxyr2 x y xySSRxy=Syy(R,2 x y )SSRxySyyxyR '2 x y =SSRx$r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$$S_{yy}$ bağımsız ve bağımlı değişken olduğu toplam karelerdir . Bu yüzden: olduğu karşılık gelen karelerin toplamı, burada , bağımsızdır ve , bağımlı değişkendir. Bu durumda, ile (Bkz. Örneğin Denk. (34) - ( 41) burada .) Bu nedenle:Açıkça yukarıda denklem göre simetrik$x$$y$SS

$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}=\dfrac{S_{yy}-SSE_{xy}}{S_{yy}},$$ xySS D x y = b 2 x y S x x b= S x $SSE_{xy}$$x$$y$$SSE_{xy}=b^2_{xy}S_{xx}$ R22 x y =Syy- S 2 x $b=\dfrac{S_{xy}}{S_{xx}}$xyR2 x $$R_{xy}^2=\dfrac{S_{yy}-\dfrac{S^2_{xy}}{S^2_{xx}}.S_{xx}}{S_{yy}}=\dfrac{S_{yy}S_{xx}-S^2_{xy}}{S_{xx}.S_{yy}}.$$ $x$ve . Başka bir deyişle:Eğer değiştirmek özetlemek için ile , basit regresyon modelinde her iki pay ve payda şekilde değişeceğini$y$x y R 2 x y = S S R x $$R_{xy}^2=R_{yx}^2.$$ $x$$y$ R2 x y =R2 y x$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}$$R_{xy}^2=R_{yx}^2.$

belirleme katsayısını yorumlamanın bir yolu , ona gözlenen değerleri ile takılı değerler arasındaki Pearson Korelasyon Katsayısı olarak .$R^{2}$$y_{i}$$\hat{y}_{i}$

R2 belirleme katsayısının, Squared Pearson Korelasyon Katsayısından, gözlenen değerler yi ve uygun değerler y ^ i arasında nasıl elde edildiğinin tam kanıtı aşağıdaki linkte bulunabilir:

http://economictheoryblog.wordpress.com/2014/11/05/proof/

Gözlerimde anlaşılması oldukça kolay olmalı, sadece tek adımları izleyin. İki anahtar figür arasındaki gerçekliğin gerçekte nasıl çalıştığını anlamak için bakmanın şart olduğunu düşünüyorum.

Basit bir doğrusal regresyon olması durumunda, yalnızca bir tahminciyle . Ancak, birden fazla öngörücü içeren çoklu doğrusal regresyonda, yordayıcılar ve yanıt arasındaki korelasyon kavramı otomatik olarak kapsamaz. Formül alır: $R^2 = r^2 = Corr(x,y)^2$

$$R^2 = Corr(y_{estimated},y_{observed})^2$$

Tepki ve yerleştirilmiş doğrusal model arasındaki korelasyonun karesi.

@Stat ayrıntılı bir cevap verdi. Kısa cevabımda, ve arasındaki benzerlik ve farkın ne olduğunu biraz farklı bir şekilde göstereceğim .$r$$r^2$

$r$ standardize edilmiş regresyon katsayısı P arasında ile ya da ile ve bu şekilde, bu (karşılıklı) bir ölçüsüdür etki boyutu . Değişkenler ikilik olduğunda en belirgin şekilde görülür. Öyleyse, , örneğin, , vakaların% 30'unun, diğer değişken değerini zıt olarak değiştirdiğinde, bir değişkende değerini tersine değiştireceği anlamına gelir.$Y$$X$$X$$Y$$r$$.30$

$r^2$ , diğer taraftan, bir ifadesidir eş değişkenlik oranı : toplam değişkenlik . Bunun iki oranlı bir ürün olduğunu veya daha kesin olarak iki oranlı bir ürün olduğunu unutmayın (oran> 1 olabilir). Gevşek bir olasılık veya eğilimi ifade eden herhangi bir oran veya orana işaret ediyorsa, "eklem olasılığını (eğilim)" ifade eder. İki oranın (veya oranın) birleşik ürünü için bir başka ve geçerli ifade olarak, geometrik ortalamaları, , ki bu çok .$r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$$r^2$$\sqrt{prop*prop}$$r$

(İki oranları, işbirliği fikrini vurgulamak, katkı maddesi, çarpımsal değildir ve bunların takım içinde, birbirini telafi edilemez. Büyüklüğü çünkü çarpımsal olmak zorunda bağlıdır hem büyüklüklerinin ve ve üzerine uyumlu, . uygun bir "ortak varyans orantılı" Ama kendini dönüştürmek için - bir kez iki kez bölünecek olan , "çapraz varyans", hem hisseleri aynı ölçü birimlerini ve , "kendi varyansları" ve ile değil$cov$$\sigma_x^2$$\sigma_y^2$$cov$$cov$$\sigma_x^2$$\sigma_y^2$$\sigma_x \sigma_y$"hibrit varyans"; Bu nedenle , değil , "paylaşılan varyansın oranı" kadar daha yeterlidir.)$r^2$$r$

Yani, görüyoruz yani bir ve dernek miktarının bir ölçüsü olarak farklı (geçerli hem anlamları), ama yine de hiçbir şekilde çelişiyor birbirlerine bu katsayılar olduğunu. Ve her ikisi de, veya tahmin edip etmediğiniz aynıdır .$r$$r^2$$Y\text~X$$X\text~Y$

Sanırım hatalı olabilirsin. Eğer , iki değişkenli bir modeliniz olduğunu varsayıyorum: bir DV, bir IV. Bunları değiştirirseniz ya da IV'ü, IV'ü temel alan DV tahminleriyle değiştirirseniz, değişeceğini sanmıyorum . İşte R'de bir tanıtım kodu:$R^2=r^2$$R^2$

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

değişkenli bir modelle çalışmazsanız, DV seçiminiz etkileyecektir ... eğer değişkenleriniz birbiriyle korele değilse, sanırım, ama bu pek bir istisna değil. Tüm değişkenler aynı korelasyon kuvvetine sahipse ve aynı zamanda DV varyansının aynı bölümlerini paylaşıyorsa (örneğin [veya belki "yani"], değişkenlerin bazıları tamamen aynıysa), bunu kaybetmeden iki değişkenli bir modele indirgeyebilirsiniz herhangi bir bilgi. Yapsanız veya yapmasanız da, hala değişmez.$R^2$$R^2$

Diğer tüm durumlarda, ikiden fazla değişkenle düşünebilirim, burada , belirleme katsayısıdır ve , herhangi bir iki değişkenli korelasyon katsayısıdır (zorunlu olarak Pearson'un değil; örneğin; Bir Spearman's ).R, 2 R $R^2\ne r^2$$R^2$$r$$\rho$