Olası aralığı

10

Diyelim ki üç zaman serisi, , ve $X_1$ $X_2$ $Y$

~ ( ) üzerinde normal doğrusal regresyon çalıştırarak , elde ederiz . Sıradan doğrusal regresyon ~ , . varsayalım $Y$ $X_1$ $Y = b X_1 + b_0 + \epsilon$ $R^2 = U$ $Y$ $X_2$ $R^2 = V$ $U < V$

~ ( ) regresyonunda mümkün olan minimum ve maksimum değerleri nedir? $R^2$ $Y$ $X_1 + X_2$ $Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$

Yeni değişkenler eklemek her zaman arttırdığı için minimum + küçük bir değer olması gerektiğine inanıyorum , ancak bu küçük değeri nasıl ölçeceğimizi bilmiyorum ve maksimum aralığı nasıl elde edeceğimi bilmiyorum . $R^2$ $V$ $R^2$

regression multiple-regression r-squared

— kan davası
kaynak

9

1) DÜZENLEME: Kardinal'in aşağıdaki yorumu min sorusuna doğru cevabın . Bu nedenle OP'nin gönderisinin bu kısmına "ilginç", ama sonuçta yanlış olan cevabımı siliyorum. $R^2$ $V$

2) Maksimum 1'dir. Durumunuza uyan aşağıdaki örneği düşünün. $R^2$

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

Burada varyansını 0 olarak . istiyorsanız , işler biraz değişir. Sen alabilirsiniz yaparak keyfi 1'e yakın küçük daha küçük, ancak asgari sorunu olduğu gibi, oraya değil, bu nedenle maksimum değer. 1 olur sup bu her zaman daha yüksek olduğundan, ancak aynı zamanda sınırı . $\epsilon$ $\sigma^2_\epsilon > 0$ $R^2$ $\sigma^2_\epsilon$ $R^2$ $\sigma^2_\epsilon \to 0$

— jbowman
kaynak

2

(+1) Bazı yorumlar: Bu iyi bir cevaptır; buna mümkün OP o ilgilenen edilip net değil ya, oysa bir de sabit bir asimptotik yaklaşım geçtiniz olması ilginç birini (veya her ikisi). Bu yanıt, OP kısıtlaması ile biraz tutarsız olduğu olsa ve eğer veya bazıları için , örneğin, daha sonra en az için tüm örnek boyutları sabit olan tam . (Bu örneklerin patolojisini özür dilerim.) Ayrıca, OLS, öngörücüler üzerinde ek kısıtlamalar olmadığı sürece tutarlı olmak zorunda değildir . :)

n

$n$

U < V

$U < V$

X_{1} = 0

$X_1 = 0$

X_{1} = a 1

$X_1 = a \mathbf{1}$

a \in R

$a \in \mathbb R$

R^{2}

$R^2$

V := V (n)

$V := V(n)$

— kardinal

@cardinal - tekrar okurken, neden min problemine bu yaklaşımı aldığımı anlayamıyorum, şimdi açıkça doğru cevap gibi göründüğünde ve üstü kapalı olarak gözlemlediğiniz gibi, bunu başaracak bir örnek oluşturabilirdim max parçası damar ... oh iyi, belki bu sabah benim espresso yanlışlıkla kafeinsiz oldu. (Belki de göndermeden önce cevaplarımı daha ayrıntılı olarak incelemeliyim!)

V

$V$

— jbowman

Ben size ben hangi yazdıklarını kaldırmak gerektiğini sanmıyorum did soruya cevap için ilginç bir yaklaşım bulun! Bahsettiğim patolojiler kesinlikle minimum izin , ile gerçekten ne anlama geldiğini merak edebiliriz . Diğer örnek belki de patolojik değildir, çünkü bu sorunun genel bir versiyonunda, herhangi bir ek diğer öngörücülerin sütun boşluğunda olduğu duruma uzanır . :)

R^{2}

$R^2$

X_{1} = 0

$X_1 = 0$

X_{i}

$X_i$

— kardinal

1

@cardinal - teşekkürler! Belki biraz daha resmi olarak yeniden inşa edeceğim ve bir süre sonra tekrar dibe koyacağım.

— jbowman

5

Let arasındaki korelasyonu eşit ve , arasındaki korelasyonu eşit ve ve arasındaki korelasyon ve . Sonra tam model için bölü eşittir $r_{1,2}$ $X_1$ $X_2$ $r_{1,Y}$ $X_1$ $Y$ $r_{2,Y}$ $X_2$ $Y$ $R^2$ $V$

(\frac{1}{(1 - r_{1, 2}^{2})}) (1 - \frac{2 \cdot r_{1, 2} \cdot r_{1, Y}}{r_{2, Y}} + \frac{U}{V}) .

$\left(\frac{1}{(1 - r_{1,2}^2)}\right) \left(1 - \frac{2 \cdot r_{1,2} \cdot r_{1,Y}}{r_{2,Y}} + \frac{U}{V}\right).$

Bu yüzden tam model için eşit yalnızca ve ya da $R^2$ $V$ $r_{1,2} = 0$ $r_{1,Y}^2 = U = 0$

r_{1, 2}^{2} = \frac{2 \cdot r_{1, 2} \cdot r_{1, Y}}{r_{2, Y}} - \frac{U}{V} .

$r_{1,2}^2 = \frac{2\cdot r_{1,2} \cdot r_{1,Y}}{r_{2,Y}} - \frac{U}{V}.$

Eğer , tam model için eşit . $r_{1,2} = 0$ $R^2$ $U + V$

— Margot
kaynak

(+1) Sevimli. Siteye hoş geldiniz. Daha eksiksiz katılabilmek için lütfen hesabınızı kaydettirmeyi düşünün. Bu ifadeye daha sonra biraz daha yakından bakmam gerekecek. :)

— kardinal

4

ve herhangi bir kısıtlama olmadan , minimum ve maksimum maksimum küçük . Bunun nedeni, iki değişkenin mükemmel bir şekilde ilişkilendirilebilmesidir (bu durumda ikinci değişkenin eklenmesi hiç değiştirmez ) veya bu durumda her iki sonuç da dahil olmak üzere dikey olabilir ( . Yorumlarda haklı olarak, her birinin 1'lerin sütun vektörü olan ile dik olmasını gerektirdiği belirtildi . $U$ $V$ $V$ $\min(V + U, 1)$ $R^2$ $U + V$ $\mathbf{1}$

Eğer kısıtlama ilave . Ancak yine de . Yani, , bu durumda . Son olarak, üst sınır hala olduğundan . $U < V \implies X_{1} \neq X_{2}$ $U = 0$ $X_{1} \perp Y$ $\min = \max = V + 0$ $X_{1} \perp X_{2}$ $\min(V + U, 1)$

ve arasındaki ilişki hakkında daha fazla bilgi sahibi olsaydınız, daha fazlasını söyleyebilirsiniz. $X_{1}$ $X_{2}$

— Joshua
kaynak

1

(+1) Ancak, ve dikey ise, ayrı değerlerinin her ikisini de modele dahil ederken toplanacağının (oldukça) doğru olmadığını unutmayın . Biz de hepsini birarada vektör dik olması gerekir . Matematiği işaretlemek için bu sitede kullanabileceğinizi unutmayın . :)

X_{1}

$X_1$

X_{2}

$X_2$

R^{2}

$R^2$

1

$\mathbf 1$

L A T E X

$\LaTeX$

— kardinal

Bu doğru. Yorumlar ve kullanılabileceğini belirttiğiniz için çok teşekkürler . Olabileceğini düşündüm ama mathjax tarzı kaçışları denemişti (ve [satır içi / denklemler için. Tıpkı TeX'te yaptığım gibi yazmak bir cazibe gibi çalıştı :)

L A T E X

$\LaTeX$

— Joshua