Doğrusal regresyon öngörücüsü eklemek R karesini azaltır

Veri kümem ( ) bağımlı bir değişkene (DV), beş bağımsız "temel" değişkene (P1, P2, P3, P4, P5) ve bir bağımsız ilgi değişkenine (Q) sahiptir. $N \approx 10,000$

Aşağıdaki iki model için OLS doğrusal regresyonlarını çalıştırdım:

DV ~ 1 + P1 + P2 + P3 + P4 + P5
                                  -> R-squared = 0.125

DV ~ 1 + P1 + P2 + P3 + P4 + P5 + Q
                                  -> R-squared = 0.124

Yani, prediktör Q'nun eklenmesi, lineer modelde açıklanan varyans miktarını azaltmıştır. Anladığım kadarıyla bu olmamalı .

Açık olmak gerekirse, bu R-kare değerleri ve vardır değil düzeltilmiş R kare değerleri.

Jasp ve Python'un istatistik modellerini kullanarak R-kare değerlerini doğruladım .

Bu fenomeni görmem için bir sebep var mı? Belki OLS yöntemi ile ilgili bir şey?

regression linear r-squared

— Cai
kaynak

sayısal sorunlar? Sayılar birbirine oldukça yakın ...

@ user2137591 Ben böyle düşünüyorum, ama bunu nasıl doğrulayacağımı bilmiyorum. R-kare değerleri mutlak fark küçüktür ,000513569 olduğu, ancak bu küçük.

— Cai

Umarım lineer cebiri bilirsiniz:

X

$\mathbf{X}$ Yukarıdakilerin tasarım matrisi, lütfen hesaplayabilir misiniz?

det X^{T} X

$\det\mathbf{X}^{T}\mathbf{X}$ , burada matris devrik ve matris belirleyicidir?

T

$T$

det

$\det$

— Klarnetçi

Eksik değerler otomatik olarak düşüyor mu?

— generic_user

0.000513569 çok küçük bir sayıdır: yüzde 0.41 değişikliktir. Büyük olasılıkla sayısal bir konudur. Clarinetist'in söylemeye çalıştığı şey, belki de tasarım matrisinizin kötü bir durum numarasına sahip olması ve ters çevirirken sayısal olarak kararsız olmasıdır ...

QOtomatik olarak bırakılan eksik değerleriniz olabilir mi? Bunun örnek üzerinde etkileri olacak ve iki gerilemeyi karşılaştırılamaz yapacaktı.

— generic_user
kaynak