Lojistik Regresyon - Çoklu Doğrusal Sorunlar / Tuzaklar


16

Lojistik Regresyonda, doğrudan OLS regresyonunda olduğu gibi çoklu doğrusallık konusunda endişelenmeye ihtiyaç var mı?

Örneğin, çoklu doğrusallığın bulunduğu lojistik regresyon ile, Beta katsayılarından çıkarım konusunda dikkatli olmanız gerekir (OLS regresyonunda olduğu gibi)?

OLS regresyonu için yüksek çoklu bağlantıya yönelik bir "düzeltme" sırt regresyonudur, lojistik regresyon için böyle bir şey var mı? Ayrıca, değişkenleri bırakmak veya değişkenleri birleştirmek.

Lojistik regresyonda çoklu doğrusallığın etkilerini azaltmak için hangi yaklaşımlar mantıklıdır? Aslında OLS ile aynı mıdır?

(Not: Bu, tasarlanmış bir deneyin amacı değildir)

Yanıtlar:


16

Çoklu doğrusallık ile ilgili prensiplerin tümü lojistik regresyon için OLS'de olduğu gibi geçerlidir. Çoklu doğrusallığı değerlendiren aynı teşhis kullanılabilir (örn. VIF, durum numarası, yardımcı regresyonlar) ve aynı boyut küçültme teknikleri kullanılabilir (değişkenlerin temel bileşenler analizi yoluyla birleştirilmesi gibi).

Chl tarafından verilen bu cevap , cezalandırılmış lojistik modellerin takılması için bazı kaynaklara ve R paketlerine (ayrıca bu tür cezalandırılmış regresyon prosedürleri hakkında iyi bir tartışma) yol açacaktır. Ancak çoklu bağlantı için "çözümler" hakkındaki yorumlarınızdan bazıları benim için biraz rahatsız edici. Yalnızca, eş zamanlı olmayan değişkenler için ilişkileri tahmin etmeyi önemsiyorsanız, bu "çözümler" iyi olabilir, ancak bu tekniklerle eşlenen değişkenlerin katsayılarını tahmin etmekle ilgileniyorsanız sorununuzu çözmezsiniz. Çoklu doğrusallık sorunu, öngörücü değişkenler matrisinizin tersine çevrilememesi nedeniyle teknik olmasına rağmen, öngörücülerinizin bağımsız olmaması ve etkilerinin benzersiz bir şekilde tanımlanamaması nedeniyle mantıklı bir analogu vardır.


2
(+1) Evet, lojistik regresyonun (veya daha genel olarak GLM'lerin) bazı cezalandırılmış sürümleri vardır, oradaki bazı referanslara bakın: stats.stackexchange.com/questions/4272/… .
chl

@chl, teşekkür ederim. Önceki cevabınıza bağlanmak için güncelledim.
Andy W

Teşekkürler. Bu, zaten mükemmel yanıtınıza bir yorumdu.
chl
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.