T istatistiklerim çok büyük olduğunda R-karem neden bu kadar düşük?

18

4 değişkenli bir regresyon çalıştırdım ve hepsi çok yüksek ve açıkça önemli olan T değerleri $\approx 7,9,26$ ve $31$ ( ondalıkları dahil etmek önemsiz görünüyor çünkü $\approx$ söylüyorum) ile çok istatistiksel olarak anlamlıdır. Ama sonra $R^2$ sadece .2284'tür. Buradaki t değerlerini, olmadığı bir şeyi ifade etmek için yanlış mı yorumluyorum? T değerlerini gördüğümde ilk tepkim, $R^2$ oldukça yüksek olacağı, ancak belki de yüksek bir $R^2$ ?

regression hypothesis-testing econometrics

— Kyle
kaynak

1

Bahse girerim

n

$n$ orta derecede büyük, değil mi?

— Glen_b

@Glen_b evet, yaklaşık 6000.

— Kyle

11

Daha sonra , küçük

ile ilişkili büyük

t

$t$ özellikleri tamamen dikkate değer değildir. Standart hatalar

olarak düştüğünden ,

oranları

olarak artacaktır ,

ise artan

ile sabit kalma eğilimindedir . Neden umursuyorsun

nedir? Neden t oranlarının umurunda?

R^{2}

$R^2$

1 / \sqrt{n}

$1/\sqrt{n}$

t

$t$

\sqrt{n}

$\sqrt{n}$

R^{2}

$R^2$

n

$n$

R^{2}

$R^2$

— Glen_b

46

$t$ -değerleri ve $R^2$ çok farklı şeyler yargılamak için kullanılır. $t$ -değerleri arasında da tahmin accurary yargılamak için kullanılan $\beta_i$ sitesindeki, ancak $R^2$ , yanıt değişkeni varyasyonun ölçülmesi miktarı eş değişken ile açıklanabilir. Eğer bir regresyon modeli tahmin varsayalım $n$ , gözlemler

Y_{i} = β_{0} + β_{1} X_{1 i} + . . . + β_{k} X_{k i} + ϵ_{i}

$Y_i = \beta_0 + \beta_1X_{1i} + ...+ \beta_kX_{ki}+\epsilon_i$

burada $\epsilon_i\overset{i.i.d}{\sim}N(0,\sigma^2)$ , $i=1,...,n$ .

Büyük değerleri (mutlak değerde), olan sıfır hipotezini reddetmenize neden olur . Bu, katsayının işaretini doğru bir şekilde tahmin ettiğinizden emin olabileceğiniz anlamına gelir. Ayrıca,> 4 ve sahipseniz , 0, katsayı için% 99 güven aralığında değildir. katsayısı için-değeri tahmini arasındaki farktır standart hata ile normalize ve 0 . $t$ $\beta_i=0$ $|t|$ $n>5$ $t$ $\beta_i$ $\hat{\beta_i}$ $se\{\hat{\beta_i}\}$

t = \frac{\hat{β_{i}}}{s e {\hat{β_{i}}}}

$t=\frac{\hat{\beta_i}}{se\{\hat{\beta_i}\}}$

tahminin değişkenliğinin bir ölçüsüdür. Yeterince büyük bir veri kümeniz varsa, her zaman istatistiksel olarak önemli (büyük) değerlerine sahip olursunuz . Bu, zorunlu değişkenlerin yanıt değişkenindeki varyasyonların çoğunu açıkladığı anlamına gelmez. $t$

@Stat'ın belirttiği gibi, yanıt değişkeninizde bağımlı değişkenleriniz tarafından açıklanan varyasyon miktarını ölçer. hakkında daha fazla bilgi için wikipedia'ya gidin . Sizin durumunuzda, 'leri doğru bir şekilde tahmin etmek için yeterince büyük bir veri var gibi görünüyor , ancak ortak değişkenleriniz yanıt değerlerini açıklama ve \ veya tahmin etme konusunda zayıf bir iş yapıyor. $R^2$ $R^2$ $\beta_i$

— caburke
kaynak

1

(+1) En başından beri bunun iyi düşünülmüş, bilgilendirici bir açıklama olduğu açıktır.

— whuber

Güzel cevap. "Pratik önem" ve "istatistiksel önem" terimlerinin bu konuyu düşünmede sıklıkla yardımcı olduğunu düşünüyorum.

— Aaron Stack Overflow'dan ayrıldı

3

İki istatistik arasında da basit bir dönüşüm var:

R^{2} = \frac{t^{2}}{t^{2} + d f}

$R^2=\frac{t^2}{t^2+df}$

— Jeff

8

Caburke ile aynı şeyi söylemek, ancak daha basit bir ifadeyle, değişkenlerinizin neden olduğu ortalama yanıtın sıfır olmadığı konusunda çok eminsiniz. Ancak, regresyonda yanıtın atlamasına neden olan başka birçok şey var.

— generic_user
kaynak

0

Öngörücüleriniz yanıt değişkeniniz (eğim sıfırdan önemli ölçüde farklıdır) açısından doğrusal olarak trend olmasına rağmen, t değerlerini önemli kılar, ancak R karesi düşüktür, çünkü hatalar büyüktür, yani verileriniz büyüktür ve bu nedenle regresyon modeliniz iyi bir uyum değildir (tahminler doğru değildir)?

Sadece 2 sentim.

Belki de bu yazı yardımcı olabilir: http://blog.minitab.com/blog/adventures-in-statistics/how-to-interpret-a-regression-model-with-low-r-squared-and-low-p- değerler

— mel
kaynak

0

Verilen bazı cevaplar yakın ama yine de yanlış.

"T-değerleri βi 'nin tahmininizin doğruluğunu değerlendirmek için kullanılır" Beni en çok ilgilendiren odur.

T-değeri sadece rastgele meydana gelme olasılığının bir göstergesidir. Büyük olasılıkla anlamına gelir. Küçük, çok muhtemeldir. Olumlu ve Olumsuz olasılık yorumunun önemi yoktur.

"R2, değişkenlerinizin değişkenleriniz tarafından açıklanan değişkenlik miktarını ölçer" doğrudur.

(Yorum yapardım, ancak bu platform tarafından henüz izin verilmiyordu.)

— Kevin
kaynak

2

T-değerleri hakkında sanki p-değerleriymiş gibi yazıyorsunuz.

— whuber

-4

Küçük bir R kare ile baş etmenin tek yolu, aşağıdakileri kontrol edin:

Numune boyutunuz yeterince büyük mü? Evet ise, 2. adımı uygulayın, ancak hayır ise, örnekleminizin boyutunu artırın.
Model tahmininiz için kaç tane ortak değişken kullandınız? Durumunuzda olduğu gibi 1'den fazla ise, ortak değişkenlerin çok doğrusal doğrusallığı sorunuyla ilgilenin veya basitçe, regresyonu beta sıfır olarak bilinen sabit olmadan tekrar çalıştırın.
Bununla birlikte, sorun devam ederse, kademeli bir regresyon yapın ve yüksek R kare olan modeli seçin. Ama size tavsiye edemem çünkü ortak değişkenlerde önyargıya neden oluyor

— katleho
kaynak