Regresyon modelimin iyi olup olmadığı nasıl kontrol edilir

'Glm' kullanarak lojistik regresyon modelinin doğruluğunu bulmanın bir yolu AUC grafiğini bulmaktır. Sürekli yanıt değişkeniyle (regresyon = 'gaussian') bulunan regresyon modeli için aynısı nasıl kontrol edilir?

Regresyon modelimin verilere ne kadar uygun olduğunu kontrol etmek için hangi yöntemler kullanılır?

Başlangıç ​​olarak " doğrusal regresyon modeli teşhisi " ile ilgili kısa bir araştırma önereceğim . Ama kontrol etmenizi önerebileceğim bazıları:

Varsayımların tatmin edici bir şekilde karşılandığından emin olun

• Bağımsız öngörücü (ler) ve bağımlı değişken arasındaki doğrusal ilişkiyi incelemek için dağılım grafiği veya bileşen artı artık grafik kullanın.

• Standartlaştırılmış kalıntı ile öngörülen değere sahip bir arsa oluşturun ve çok yüksek kalıntı ile aşırı bir nokta olmadığından emin olun ve tortunun yayılması, tahmin edilen değer boyunca büyük ölçüde benzer ve aynı zamanda artık ortalamanın üstünde ve altında yayılır, sıfır.

• Ayrıca, y eksenini artık . Bu grafik eşit olmayan varyansın tanımlanmasına yardımcı olur.$^2$

• Bağımsızlık varsayımının makul olmasını sağlamak için çalışma tasarımını yeniden inceleyin.

• Olası eşbiçimliliği incelemek için varyans enflasyon faktörünü (VIF) veya tolerans istatistiklerini alın.

Potansiyel etki noktalarını inceleyin

• Belirli bir veri noktasının regresyon sonuçlarınızı önemli ölçüde değiştirip değiştirmediğini öğrenmek için Cook'un D, ​​DFits veya DF Beta gibi istatistiklerini kontrol edin. Burada daha fazlasını bulabilirsiniz .

ve Düzeltilmiş istatistiklerindeki değişikliği inceleyinR $R^2$$R^2$

• Karelerin regresyon toplamının karelerin toplamına oranı olan , bağımlı değişkeninizdeki değişkenliğin% kaçının model tarafından açıklandığını söyleyebilir.$R^2$
• Düzeltilmiş , ek öngörücüler (ler )im için getirilen fazladan karelerin gerçekten alacağı özgürlük derecesine değip değmediğini kontrol etmek için kullanılabilir.$R^2$

Gerekli etkileşimi kontrol edin

• Ana bağımsız bir öngörücü varsa, bağımsız etkisinin herhangi bir yorumunu yapmadan önce, diğer bağımsız değişkenlerle etkileşime girip girmediğini kontrol edin. Etkileşim, ayarlanmadan bırakılırsa, tahmininizin yanlılığına neden olabilir.

Modelinizi başka bir veri kümesine uygulayın ve performansını kontrol edin

• Regresyon formülünü diğer ayrı verilere de uygulayabilir ve ne kadar iyi tahmin ettiğini görebilirsiniz. Dağılım grafiği gibi grafik ve gözlenen değerden% farkı gibi istatistikler iyi bir başlangıç ​​olabilir.

Nasıl ben çapraz doğrulamak onlar yeni verilere genelleme ne kadar iyi görmek için benim regresyon modelleri. Seçim ölçütüm , çapraz doğrulanmış verilerde ortalama mutlak hata , ancak kök ortalama kare hatası daha yaygın ve eşit derecede faydalı.

R2, eğitim verilerinde hesaplanan hemen hemen her hata metriği aşırı uyuma eğilimli olacağından, modelinizin egzersiz verilerine ne kadar iyi uyduğunun iyi bir metriği olduğunu düşünmüyorum. Eğitim setinde R2'yi hesaplamanız gerekiyorsa, ayarlanmış R2'yi kullanmanızı öneririm .

Modelinizin egzersiz verilerine ne kadar uyduğunu incelemek için kullanabilirsiniz . Bu, verilerdeki varyansın yüzde kaçının model tarafından açıklandığını size söyleyecektir.$R^2$

Gerçek değerle karşılaştırıldığında test kümenizdeki tahminlerinizin RMSE (kök ortalama kare hatası) kullanılmasını öneririm. Bu, sürekli bir değişkenin tahmin hatasını bildirmenin standart bir yöntemidir.

Parametrik olmayan (örn. Bir çekirdek regresyonu) veya yarı parametrik tahmin çizerek ve parametrik yerleştirilmiş eğri ile karşılaştırarak parametre tahmin edicimin fonksiyonel biçimini kontrol etmek için kullanılır . Bunun ilk adımda etkileşim terimlerini veya daha yüksek dereceli terimleri eklemekten daha hızlı (ve belki de daha kavrayıcı) olduğunu düşünüyorum.

R paketi np birçok hoş parametrik olmayan ve yarı parametrik fonksiyon sağlar ve Vignette'i iyi yazılmıştır: http://cran.r-project.org/web/packages/np/vignettes/np.pdf