Lojistik regresyon kalıntı analizi

Bu soru biraz genel ve uzun soluklu, ama lütfen bana katlan.

Uygulamamda, her biri ~ 50 özellikli ~ 20.000 veri noktasından ve tek bir bağımlı ikili değişkenten oluşan birçok veri setim var. Veri kümelerini düzenli lojistik regresyon (R paket glmnet ) kullanarak modellemeye çalışıyorum

Analizimin bir parçası olarak, aşağıdaki gibi artık grafikler oluşturdum. Her özellik için, veri noktalarını bu özelliğin değerine göre sıralarım, veri noktalarını 100 kepçeye bölerim ve sonra her bir gruptaki ortalama çıktı değerini ve ortalama tahmin değerini hesaplarım. Bu farklılıkları planlıyorum.

İşte bir örnek arsa:

Yukarıdaki grafikte, özellik [0,1] aralığındadır (1'de yoğun bir konsantrasyon ile). Gördüğünüz gibi, özellik değeri düşük olduğunda, model 1-çıkış olasılığını fazla tahmin etmeye eğilimli görünüyor. Örneğin, en soldaki kovada, model olasılığı yaklaşık% 9 fazla tahmin eder.

Bu bilgilerle donanmış olarak, bu önyargıyı kabaca düzeltmek için özellik tanımını basit bir şekilde değiştirmek istiyorum. Değiştirmek gibi değişiklikler

$x \rightarrow \sqrt{x}$

veya

$x \rightarrow f_a(x) = \cases{a & if $x<a$ \cr x & else}$

Bunu nasıl yapabilirim? Genel bir metodoloji arıyorum, böylece bir insan tüm ~ 50 parseller arasında hızlı bir şekilde kaydırma yapabilir ve değişiklikler yapabilir ve tüm veri kümeleri için bunu yapabilir ve veriler zamanla geliştikçe modelleri güncel tutmak için sık sık tekrarlayabilir.

Genel bir soru olarak, bu doğru yaklaşım mıdır? Google "lojistik regresyon kalıntı analizi" aramaları, pek çok sonucu iyi pratik tavsiyelerle geri döndürmez. "Bu model iyi bir uyum mu?" ve cevaplamak için Hosmer-Lemeshow gibi çeşitli testler sunuyoruz. Ama modelimin iyi olup olmadığı umurumda değil, nasıl daha iyi hale getireceğimi bilmek istiyorum!

Lojistik regresyondaki önyargıyı gerçekten bu şekilde değerlendiremezsiniz. Logisitik regresyonun sadece log oranları veya logit skorları, log (p / (1-p)) ile ilgili olması beklenir. Oranlar eğri olacak ve bu nedenle önyargılı görünecektir. Artıkları günlük oranları cinsinden çizmeniz gerekir.

bunu yapmak için herhangi bir genel yazılım mevcut değildir. büyük olasılıkla regresyondaki sorunları düzeltmek için genel bir teori olmadığı için. bu yüzden bu teorik olarak temellendirilmiş bir prosedürden ziyade "ne yaparım" şeklinde bir cevaptır.

ürettiğiniz çizim temel olarak 100 bölmeli görsel bir HL testidir, ancak binmeyi yapmak için öngörülen olasılık yerine tek bir öngörücü kullanmaktır. Bu, prosedürünüzün HL testinin bazı özelliklerini devralması muhtemel olduğu anlamına gelir.

ölçütlerinize "fazla uymanın" farkında olmanız gerekir, ancak prosedürünüz makul görünebilir. ölçütleriniz bir teşhis olarak daha az kullanışlıdır, çünkü tahmin sürecinin bir parçası haline gelmiştir. ayrıca, sezgiyle bir şey yaptığınızda, karar verme sürecinizi pratik olduğu kadar ayrıntılı olarak yazmalısınız. bunun nedeni, geliştirildiğinde daha iyi bir prosedüre (bazı teoriye göre daha otomatik ve optimal) yol açan genel bir süreç veya teorinin tohumlarını keşfedebilmenizdir.

Ben gitmek için bir yol önce araştırmak için gereken arazilerin sayısını azaltmak olduğunu düşünüyorum. Bunu yapmanın bir yolu, her bir değişkeni kübik bir spline olarak sığdırmak ve daha sonra sıfır olmayan doğrusal olmayan tahminlere sahip grafikleri araştırmaktır. veri noktalarının sayısı göz önüne alındığında, bu aynı zamanda doğrusal olmamaları için kolay bir otomatik düzeltmedir. bu, modelinizi 50'den 200 + 50k'ye genişletecektir, burada k düğüm sayısıdır. bunu "gerçek" dönüşümün "istatistiksel taylor serisi genişlemesi" ni uygulamak olarak düşünebilirsiniz.

tanı fotoğraflarınız bundan sonra kötü görünüyorsa, etkileşim terimleri eklemeyi denerdim.

sorunuzun bazı bölümleri, burada olduğundan daha fazla stackoverflow alanı olan etkileşimli bir program yazmakla ilgilidir. ayrıca "geri pigme" yapabileceğiniz özelliklere sahip olma olasılıkları daha yüksek olduğu için keşifsel veri analiz araçlarını aramak da yararlı olabilir.