“Çift Kement” yapmanın veya iki kez Kement yapmanın avantajları?


26

Bir keresinde Kement'i iki kez (bir çift kement gibi) kullanarak, orijinal değişken kümesinde kement kullandığınız bir yöntem duydum, S1 diyelim, S2 adı verilen seyrek bir küme elde ettikten sonra, K2 kümesinde S3 kümesini elde etmek için kement tekrar uygulayın. . Bunun için metodolojik bir terim var mı? Ayrıca, iki kez kement yapmanın avantajları nelerdir?

Yanıtlar:


23

Evet, sorduğunuz (veya düşündüğünüz) prosedüre rahat kement denir .

Genel fikir, LASSO'yu ilk defa gerçekleştirme sürecinde muhtemelen “gürültü değişkenleri”; LASSO'yu ikinci bir değişkenler setinde (ilk LASSO'dan sonra) gerçekleştirmek, sadece "gürültü" değişkenleri değil, "gerçek rakip" olan değişkenler arasında modelin bir parçası olmak için daha az rekabet sağlar. Teknik olarak, bu yöntemlerin amacı, çok sayıda değişken içeren veri setlerinde LASSO'nun (bilinen) yavaş yakınsamasının üstesinden gelmektir.

Sen orjinal kağıt üzerinde bu konuda daha fazla bilgi bulabilirsiniz Meinshausen (2007) .

Ayrıca LASSO kullanarak değişken seçimi yapmak için diğer ilginç yöntemlere genel bir bakış sunan İstatistiksel Öğrenmenin Öğeleri (Hastie, Tibshirani ve Friedman, 2008) ile ilgili bölüm 3.8.5'i de tavsiye ediyorum.


Teşekkürler! Kesinlikle Meinshausen'in makalesine bakacağım.
Bstat

19

Fikir, kementin iki etkisini ayırmaktır.

  1. β
  2. β

p>>n

Rahat kement fikri, iki etkiyi ayırmanızdır: değişkenleri seçmek için ilk geçişte yüksek ceza alırsınız; ve ikinci geçişte daha küçük bir miktarda küçülmeleri için daha küçük bir ceza.

Orijinal makale (Néstor ile bağlantılı) daha fazla ayrıntı verir.

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.