LASSO varsayımları


18

LASSO regresyon senaryosunda,

y=Xβ+ε ,

ve LASSO tahminleri aşağıdaki optimizasyon problemiyle verilir

minβ||y-Xβ||+τ||β||1

\ Epsilon ile ilgili herhangi bir dağıtım varsayımı var εmı?

Bir OLS senaryosunda, bağımsız ve normal olarak dağılması beklenebilir .ε

LASSO regresyonundaki kalıntıları analiz etmek herhangi bir anlam ifade ediyor mu?

LASSO tahmininin için bağımsız çift üstel öncelikler altında posterior mod olarak elde edilebileceğini . Ancak standart bir "varsayım kontrol aşaması" bulamadım.βj

Şimdiden teşekkürler (:

Yanıtlar:


16

LASSO konusunda uzman değilim, ama işte benim isteğim.

İlk olarak OLS'nin bağımsızlık ve normallik ihlallerine karşı oldukça sağlam olduğunu unutmayın. Daha sonra Teorem 7 ve bunun üzerindeki tartışmayı Sağlam Regresyon ve Kement makalesinde değerlendirerek (X. Huan, C. Caramanis ve S. Mannor tarafından) sanırım, LASSO regresyonunda dağılımı ile daha fazla ilgilenmiyoruz , ancak ortak dağılımında . Teorem, bir örnek olduğu varsayımına dayanır , bu nedenle bu, olağan OLS varsayımlarıyla karşılaştırılabilir. Ancak LASSO daha az kısıtlayıcıdır, doğrusal modelden üretilmesini kısıtlamaz .εben(yben,xben)(yben,xben)yben

Özetle, ilk sorunuzun cevabı hayırdır. üzerinde varsayımlar yoktur , tüm dağıtımsal varsayımlar . Dahası zayıftırlar çünkü LASSO'da koşullu dağılımda hiçbir şey varsayılmaz .ε(y,X)(y|X)

Bunu söyledikten sonra, ikinci sorunun yanıtı da hayır. herhangi bir rol oynamadığından , bunları analiz etme yönteminizi analiz etmek mantıklı değildir (normallik testleri, hetero-esneklik, Durbin-Watson, vb.). Ancak bunları modelin ne kadar iyi olduğunu bağlam içinde analiz etmelisiniz.ε

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.