R de çoklu regresyon için değişkenleri dönüştürme

İçinde çoklu bir regresyon gerçekleştirmeye çalışıyorum R. Bununla birlikte, bağımlı değişkenim aşağıdaki çizime sahiptir:

İşte tüm değişkenlerime sahip bir scatterplot matrisi ( WARbağımlı değişkendir):

Bu değişken üzerinde bir dönüşüm gerçekleştirmem gerektiğini biliyorum (ve muhtemelen bağımsız değişkenler?) Ancak gereken tam dönüşümden emin değilim. Birisi beni doğru yöne işaret edebilir mi? Bağımsız ve bağımlı değişkenler arasındaki ilişki hakkında daha fazla bilgi vermekten memnuniyet duyuyorum.

Regresyonumdaki tanısal grafikler şu şekilde görünüyor:

DÜZENLE

Bağımlı ve bağımsız değişkenleri Yeo-Johnson dönüşümlerini kullanarak dönüştürdükten sonra, tanı grafikleri şöyle görünür:

Kayıt bağlantısına sahip bir GLM kullanırsam, tanılama grafikleri şunlardır:

John Fox'un kitabı Uygulanan regresyon için bir R arkadaşı , uygulamalı regresyon modellemesi için mükemmel bir kaynaktır R. Paket carbu yanıtında boyunca kullanmak beraberindeki paketidir. Kitabın ayrıca ek bölümleri olan bir web sitesi de var .

Yanıtı dönüştürme (aka bağımlı değişken, sonuç)

RlmboxCoxcar$\lambda$family="yjPower"

boxCox(my.regression.model, family="yjPower", plotit = TRUE)

Bu, aşağıdaki gibi bir arsa üretir:

$\lambda$$\lambda$

Şimdi bağımlı değişkeni dönüştürmek için, işlevini kullanın yjPowergelen carpaketin:

depvar.transformed <- yjPower(my.dependent.variable, lambda)

lambda$\lambda$boxCox

Önemli: Bağımlı değişkeni log-dönüştürmek yerine, bir GLM'ye bir log-link takmayı düşünmelisiniz. İşte size daha fazla bilgi veren bazı referanslar: birinci , ikinci , üçüncü . Bunu yapmak için R, şunu kullanın glm:

glm.mod <- glm(y~x1+x2, family=gaussian(link="log"))

yBağımlı değişkeniniz nerede x1, x2vs. bağımsız değişkenleriniz.

Prediktör dönüşümleri

Dönüşümleri kesinlikle olumlu belirleyicileri bağımlı değişkenin dönüşümden sonra maksimum olabilirlik tahmin edilebilir. Bunu yapmak için, işlevini kullanın boxTidwellgelen car(bkz orijinal kağıt için paketin burada ). Bunu böyle kullanın: boxTidwell(y~x1+x2, other.x=~x3+x4). Burada önemli olan seçenek olmasıdır other.xolan regresyon şartlarını belirtir değil dönüştürülebilir için. Bu, tüm kategorik değişkenleriniz olacaktır. İşlev, aşağıdaki formun bir çıktısını üretir:

boxTidwell(prestige ~ income + education, other.x=~ type + poly(women, 2), data=Prestige)

          Score Statistic   p-value MLE of lambda
income          -4.482406 0.0000074    -0.3476283
education        0.216991 0.8282154     1.2538274

income$\lambda$income$\text{income}_{new}=1/\sqrt{\text{income}_{old}}$

Sitede bağımsız değişkenlerin dönüşümüyle ilgili çok ilginç bir yazı da bu .

Dönüşümlerin dezavantajları

Log dönüşümlü bağımlı ve / veya bağımsız değişkenler nispeten kolay yorumlanabilse de, daha karmaşık olan diğer dönüşümlerin yorumu daha az sezgiseldir (en azından benim için). Örneğin, bağımlı değişkenler tarafından dönüştürüldükten sonra regresyon katsayılarını nasıl yorumlarsınız?$1/\sqrt{y}$$\lambda$$\lambda$

Doğrusal olmayan ilişkileri modelleme

Lineer olmayan ilişkilere uyması için oldukça esnek olan iki yöntem kesirli polinomlar ve spline'lardır . Bu üç bildiri, her iki yönteme de çok iyi bir giriş sunmaktadır: Birinci , ikinci ve üçüncü . Ayrıca kesirli polinomlar hakkında bir kitap da var R. R Paketmfp uygular fraksiyonel polinomları değişkenli. Bu sunum kesirli polinomlar hakkında bilgilendirici olabilir. Spline'lara uyması için , paketten veya işlevlerden işlevi gam(genelleştirilmiş katkı modelleri, mükemmel bir giriş için buraya bakınız R) kullanabilirsiniz.mgcvns(doğal kübik spline) ve bs(kübik B-spline) paketten splines( bu fonksiyonların kullanımı için buraya bakınız ). İşlevini gamkullanarak spline'ları kullanarak hangi belirleyicilere uyacağınızı belirleyebilirsiniz s():

my.gam <- gam(y~s(x1) + x2, family=gaussian())

burada, x1bir spline kullanılarak ve x2normal bir lineer regresyonda olduğu gibi lineer olarak takılabilir . İçinde gamdağıtım ailesini ve link işlevini olduğu gibi belirleyebilirsiniz glm. Böylece log-link işlevine sahip bir modele uyması için, seçeneği family=gaussian(link="log")içinde gamolduğu gibi belirtebilirsiniz glm.

Bu yazıya siteden bir göz atın .

Bize cevabınızın (sonuç, bağımlı) değişkeninin niteliği hakkında daha fazla bilgi vermelisiniz. İlk arsadan, sıfıra yakın ve bazı negatif olan birçok değerle kuvvetli bir şekilde pozitif olarak çarpıktır. Bundan mümkün olabilir, ancak kaçınılmaz değil, dönüşüm size yardımcı olacaktır, ancak en önemli soru, dönüşümün verilerinizi doğrusal bir ilişkiye yakınlaştırıp yaklaştırmayacağıdır.

Yanıt için negatif değerlerin düz logaritmik dönüşümü engellediğini, ancak log (yanıt + sabit) olmadığını ve logaritmik bağlantıya sahip genelleştirilmiş bir doğrusal model olmadığını unutmayın.

Bu sitede, istatistiki insanları bölen log (yanıt + sabit) hakkında tartışan birçok cevap vardır: bazı insanlar bunu geçici ve çalışmak zor olarak görmekten hoşlanmazken, diğerleri meşru bir cihaz olarak görür.

Günlük bağlantısı olan bir GLM hala mümkündür.

Alternatif olarak, modelinizin bir çeşit karma işlemi yansıtması olabilir, bu durumda veri oluşturma işlemini daha yakından yansıtan özelleştirilmiş bir model iyi bir fikir olabilir.

(SONRA)

OP, yaklaşık 100 ila -2 arasında değişen değerlerle bağımlı bir WAR değişkenine sahiptir. Sıfır veya negatif değerlerin logaritmalarını almakla ilgili problemlerin üstesinden gelmek için, OP 0.000001 değerine sıfır ve negatif değerler önermektedir. Şimdi logaritmik bir ölçekte (taban 10) bu değerler yaklaşık 2 (100 ya da öylesine) ila -6 (0.000001) arasındadır. Logaritmik ölçekte ufak tefek noktaların azınlığı, artık büyük aykırıların azınlığıdır. Bunu görmek için başka birşeye karşı log_10 (fudged WAR) yazınız.