Doğrusallığa ulaşmak için en iyi dönüşüm nasıl seçilir?

Çoklu doğrusal regresyon yapmak ve sonra yeni değerleri az tahmin ile tahmin etmek istiyorum. Yanıt değişkenim -2 ile +7 arasında ve üç öngörücü var (yaklaşık +10 - +200 aralığında). Dağılım neredeyse normaldir. Ancak cevap ve öngörücüler arasındaki ilişki doğrusal değildir, araziler üzerinde eğriler görüyorum. Örneğin bunun gibi: http://cs10418.userapi.com/u17020874/153949434/x_9898cf38.jpg

Doğrusallığa ulaşmak için bir dönüşüm uygulamak istiyorum. Yanıt değişkenleri arasında doğrusal bir ilişki görmek için farklı fonksiyonları kontrol ederek ve ortaya çıkan grafiklere bakarak tepki değişkenini dönüştürmeye çalıştım. Ve bana görünür doğrusal ilişki sağlayabilecek birçok fonksiyon olduğunu buldum. Örneğin, işlevler

$t_1=\log(y+2.5)$

$t_2=\frac{1}{\log(y+5)}$

$t_3=\frac{1}{y+5}$

$t_4=\frac{1}{(y+10)^3}$

$t_5=\frac{1}{(y+3)^\frac{1}{3}}$ vb. benzer sonuçları verir: http://cs10418.userapi.com/u17020874/153949434/x_06f13dbf.jpg

Tahmin edilen değerleri geri dönüştükten sonra ( için vb.). Dağılımlar aşağı yukarı normale benzer. $t=\frac{1}{(y+10)^3}$ $y’=\frac{1}{t^\frac{1}{3}}-10$

Verilerim için en iyi dönüşümü nasıl seçebilirim? Doğrusallığı değerlendirmenin nicel (ve çok karmaşık olmayan) bir yolu var mı? Seçilen dönüşümün en iyi olduğunu kanıtlamak veya mümkünse otomatik olarak bulmak.

Yoksa tek yol doğrusal olmayan çoklu regresyon yapmak mı?

regression data-transformation

— nadya
kaynak

Formüllerinizin biçimlendirmesini iyileştirmeye çalıştım, ancak bazı hatalar getirmiş olabilir - lütfen kontrol edin.

— Peter Ellis

Sana inanmıyorum. ile arasında, aralığında altıncı bir değişkenle aynı anda doğrusal bir ilişki olması matematiksel olarak mümkün değildir . Bence bu dönüşümlerini hesaplarken bir hata yapmış olabilirsiniz .

t_{1}

$t_1$

t_{5}

$t_5$

0 \dots 200

$0\ldots 200$

y

$y$

— whuber

@whuber Cevabınız için teşekkür ederim. Arsaları R cs9579.userapi.com/u17020874/153949434/z_9fa17c02.jpg cs9579.userapi.com/u17020874/153949434/z_7fa6891c.jpg

— nadya

Haklısın. Y'nin bu kadar geniş bir yeniden ifade aralığının r ile doğrusal bir ilişki içinde kalması oldukça şaşırtıcı. Bunu paylaştığın için teşekkürler. Eğer artıklarını çizmek, o bulacaksınız iyi ilgili görünüyor ve sonra hiçbir yeniden ifadesini gerekir: .

1 / (y + 5)

$1/(y+5)$

r

$r$ plot(lm(1/(y+5)~r))

— whuber

Yanıtlar:

Bu bir sanattır, ancak her zaman deneyebileceğiniz standart, basit şeyler vardır.

Yapılacak ilk şey , artıkları normal yapmak için bağımlı değişkeni ( ) yeniden ifade etmektir . Bu örnekte, noktaların çok az dağılma ile düzgün doğrusal olmayan bir eğri boyunca düştüğü bu örnekte gerçekten geçerli değildir. Bu yüzden bir sonraki adıma geçiyoruz. $y$

Bir sonraki şey , ilişkiyi doğrusallaştırmak için bağımsız değişkeni ( ) yeniden ifade etmektir . Bunu yapmanın basit ve kolay bir yolu var. Eğri boyunca tercihen her iki uçta ve ortada üç temsili nokta seçin. İlk şekilde, sıralı çiftleri okudum = , ve . Bu dışında herhangi bir bilgi olmadan her zaman pozitif gibi görünüyor, iyi güçler çeşitli güçler için Box-Cox dönüşümlerini keşfetmek , genellikle katları olarak seçilir. veya ve tipik olarak arasında $r$ $(r,y)$ $(10,7)$ $(90,0)$ $(180,-2)$ $r$ $r \to (r^p-1)/p$ $p$ $1/2$ $1/3$ $-1$ ve . ( , yaklaştıkça sınırlayıcı değer .) İlk iki nokta arasındaki eğimin ikinci çift arasındaki eğime eşit olması koşuluyla, bu dönüşüm yaklaşık bir doğrusal ilişki yaratacaktır. $1$ $p$ $0$ $\log(r)$

Örneğin, dönüştürülmemiş verilerin eğimleri = - ve = . Bunlar oldukça farklı: biri diğerinin dört katı. Çalışıyor eğimlerini verir , vb., ve : şimdi bunlardan biri diğerinin sadece iki katıdır, bu bir gelişmedir. Bu şekilde devam etmek (bir elektronik tablo uygundur), iyi çalıştığını görüyorum : eğimler şimdi ve $(0-7)/(90-10)$ $0.088$ $(-2-0)/(180-90)$ $-0.022$ $p=-1/2$ $(0-7)/(\frac{90^{-1/2}-1}{-1/2}-\frac{10^{-1/2}-1}{-1/2})$ $-16.6$ $-32.4$ $p \approx 0$ $-7.3$ $-6.6$ , neredeyse aynı değer. Sonuç olarak, formunun bir modelini denemelisiniz . Sonra tekrarlayın: bir çizgi yerleştirin, kalıntıları inceleyin, yaklaşık simetrik olmasını ve tekrarlamasını sağlamak için bir dönüşüm belirleyin . $y = \alpha + \beta \log(r)$ $y$

John Tukey, klasik Keşif Veri Analizi kitabında ayrıntılar ve birçok örnek sunmaktadır (Addison-Wesley, 1977). O, varyans stabilize dönüşümler tanımlamak için benzer (ancak biraz daha kapsamlı) prosedürleri verir . Bir alıştırma olarak sağladığı örnek bir veri seti, çeşitli sıcaklıklarda ölçülen cıva buharı basınçları hakkında asırlık verilerle ilgilidir. Bu prosedürün takip edilmesi, Clausius-Clapeyron ilişkisini yeniden keşfetmeyi mümkün kılar ; son oturuma kadar olan artıklar atomik mesafelerde meydana gelen kuantum-mekanik etkiler açısından yorumlanabilir! $y$

— whuber
kaynak

Box-Cox dönüşümünün tavsiyesi için teşekkürler. Lm (1 / (y + 5) ~ r) ve diğer fonksiyonların R karelerini kontrol etmek ve sonra bu R karelerini karşılaştırmak mantıklı geliyor mu?

— nadya

rSabitlendiğinde mantıklıdır , çünkü o zaman artıkların varyansı için bir proxy'dir. Yine de (bağımsız değişken) yeniden ifade ediyorsanız , değersiz veya yanıltıcıdır: bkz. Stats.stackexchange.com/questions/13314/… .

R^{2}

$R^2$ r

R^{2}

$R^2$

— whuber

Cevabınız için çok teşekkürler! Bağımsız değişkenlerimi dönüştürmeyeceğim

— nadya

y

$y$

@Erich Bu kitabın her bir parçası son derece ödüllendirici: sonuçta, kalem ve kağıt ile bir şeyler yapabiliyorsanız, bunu yapmak için bir bilgisayar programlayabilirsiniz :-). Tek bir değişkenle genellikle simetri (ampirik dağılımının) için dönüştürmek güzeldir ; Tukey buna "küçük bir anlaşma" diyor. Böyle bir dönüşümü tanımlamanın basit bir yolu, bölüm 3E, "Hızla bakmak" bölümünde açıklanmaktadır. N harfli bir özette bir bakışta neler öğrenilebileceğini gösterir (Tukey, 7 veya 9 harfli bir özet önerir). Bu beceriyi elde etmek, bir bilgisayar programının hesaplamaları sizin için yapmasından daha değerlidir.

— whuber

Orijinal ölçekte yanıt değişkeniniz (ya da daha doğrusu, yanıt değişkeninizin kalıntıları haline gelecektir), sizin ifade ettiğiniz gibi Normal dağılıma sahipse, diğer değişkenlerle doğrusal bir ilişki oluşturmak için dönüştürmek artık Normal olmadığı anlamına gelir. ve ayrıca varyans ve ortalama değerler arasındaki ilişkiyi de değiştirecektir. Bu yüzden açıklamanızın bu kısmından, yanıtı dönüştürmekten lineer olmayan regresyon kullanmaktan daha iyi olduğunuzu düşünüyorum. Aksi takdirde, cevabın doğrusal dönüşümünden sonra, daha karmaşık bir hata yapısına ihtiyacınız olacaktır (bu bir yargı meselesi olabilir ve grafiksel yöntemler kullanarak kontrol etmeniz gerekir).

Alternatif olarak, açıklayıcı değişkenlerin dönüşümünü araştırın . Düz dönüşümlerin yanı sıra, ikinci dereceden terimler ekleme seçeneğiniz de vardır.

Daha genel olarak, dönüşümün temeli olarak ne kullanmanız gerektiğini öneren mevcut bir teori yoksa, dönüşüm bir bilimden daha fazla bir sanattır.

— Peter Ellis
kaynak