«lasso» etiketlenmiş sorular

Sırt ve kement regresyonu için özellikleri standartlaştırmanın yaygın bir uygulama olduğunun farkındayım, ancak bu regresyon yöntemleri için z skor standardizasyonuna alternatif olarak (0,1) ölçeğindeki özellikleri normalleştirmek daha pratik olur muydu?

11 normalization  lasso  standardization  ridge-regression 

LASSO regresyonu konusundaki anlayışım, minimizasyon problemini çözmek için regresyon katsayılarının seçildiğidir: minβ∥y−Xβ∥22 s.t.∥β∥1≤tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t Uygulamada bu, bir Lagrange çarpanı kullanılarak yapılır ve sorunu çözme minβ∥y−Xβ∥22+λ∥β∥1minβ‖y−Xβ‖22+λ‖β‖1\min_\beta \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 λλ\lambda ve t arasındaki ilişki nedir ttt? Vikipedi yararsız …

10 optimization  lasso  regularization  lagrange-multipliers 

Birkaç cevapta CrossValidated kullanıcılarının OPso'nun Lasso, Ridge ve Elastik Ağ hakkında erken makaleler bulmasını önerdiğini gördüm. Gelecek nesiller için Kement, Sırt ve Elastik Ağ üzerindeki seminal çalışmalar nelerdir?

10 references  lasso  regularization  ridge-regression  elastic-net 

tasarım matrisim varsa , burada boyut gözlemlerinin sayısı ise, için çözmenin karmaşıklığı nedir? LASSO, wrt ve ? Cevabın , başka türlü hissetmedikçe, yineleme sayısının (yakınsama) nasıl ölçeklendiğinden ziyade, bir LASSO yinelemesinin bu parametrelerle nasıl ölçeklendiğini belirtmesi gerektiğini düşünüyorum .X∈ Rn × dX∈Rn×dX\in\mathcal{R}^{n\times d}d β = argmin β 1nnndddNdβ^= argminβ12 n| …

10 optimization  lasso  regularization  time-complexity 

Son zamanlarda Kement üzerinde birkaç istatistik görüşmesi yaptım (düzenlileştirme) ve ortaya çıkmaya devam eden bir nokta, Kement'in neden çalıştığını veya neden bu kadar iyi çalıştığını gerçekten anlamamamız. Bu ifadenin ne anlama geldiğini merak ediyorum. Açıkçası, Lasso'nun teknik olarak neden çalıştığını, parametrelerin daralmasıyla aşırı sığmayı önleyerek, ama böyle bir ifadenin arkasında …

10 machine-learning  lasso  regularization 

[Benzer bir soru sorulmuştur burada cevapsız] L1 regülasyonlu (Kement lojistik regresyonu) bir lojistik regresyon modeline uydum ve takılan katsayıları önem açısından test etmek ve p değerlerini almak istiyorum. Wald'ın testlerinin (örneğin), bireysel katsayıların önemini düzenli olarak tam regresyonda test etmek için bir seçenek olduğunu biliyorum, ancak Kement ile olağan Wald …

10 logistic  statistical-significance  regression-coefficients  lasso 

Ben R glmnet kullanarak bir LASSO modeli eğitim ve test düzgün yaklaşmak merak ediyorum? Özellikle, harici bir test veri setinin eksikliği LASSO modelimi test etmek için çapraz doğrulamayı (veya benzer bir yaklaşımı) kullanmamı gerektiriyorsa bunu nasıl yapacağımı merak ediyorum . Senaryomu yıkayım: Glmnet modelimi bilgilendirmek ve eğitmek için sadece bir …

10 r  cross-validation  glmnet  lasso 

Makine öğrenimi dersimde, LASSO regresyonunun özellik seçimini gerçekleştirmede ne kadar iyi olduğunu öğrendik, çünkü regülasyonunu kullanıyor .l1l1l_1 Benim sorum: İnsanlar normalde LASSO modelini sadece özellik seçimi yapmak için mi kullanıyorlar (ve daha sonra bu özellikleri farklı bir makine öğrenme modeline dökmeye devam ediyorlar) mı yoksa tipik olarak hem özellik seçimini …

10 feature-selection  lasso  regression-strategies 

Orijinal bir tam modelden üç azaltılmış model kullanarak ileri seçim geriye doğru eleme L1 ceza tekniği (LASSO) İleri seçim / geri eleme kullanılarak elde edilen modeller için, mevcut CVlmpakette DAAGkullanılan çapraz doğrulanmış tahmin hatası tahminini elde ettim R. LASSO ile seçilen model için kullandım cv.glm. LASSO için tahmin hatası, diğerleri …

10 cross-validation  model-selection  lasso  stepwise-regression 

Elastik ağ ile ilgili bu makaleyi okuyordum. Elastik ağ kullandıklarını söylüyorlar çünkü sadece Kement kullanırsak, yüksek derecede korelasyonlu olan tahmin ediciler arasından sadece bir öngörücü seçme eğilimindedir. Ama istediğimiz bu değil. Demek istediğim, bizi çok doğrusallık sorunundan kurtarıyor, değil mi? Önerileriniz / açıklamalarınız var mı?

10 regression  lasso  elastic-net 

R kullanarak doğrusal bir model uyduruyorum glmnet. Orijinal (düzenli olmayan) model kullanılarak takıldı lmve sabit bir terimi yoktu (yani formdaydı lm(y~0+x1+x2,data)). glmnetbir tahminler matrisi ve bir cevaplar vektörü alır. glmnetBelgeleri okuyorum ve sürekli terimden bahsedemiyorum. Öyleyse, glmnetdoğrusal uyumu başlangıç ​​noktasından zorlamayı istemenin bir yolu var mı?

10 r  regression  lasso 

Negatif olmayan sırt regresyonu nasıl yapılır? Negatif olmayan kement mevcuttur scikit-learn, ancak sırt için betaların olumsuzluklarını zorlayamam ve gerçekten de negatif katsayılar alıyorum. Bunun neden olduğunu bilen var mı? Ayrıca, en küçük kareler açısından sırt uygulayabilir miyim? Bunu başka bir soruya taşıdık: OLS regresyonu açısından sırt regresyonunu uygulayabilir miyim?

10 regression  lasso  regularization  ridge-regression 

R işlevi cv.glm (kütüphane: önyükleme), genelleştirilmiş doğrusal modeller için tahmini K-kat çapraz doğrulama tahmin hatasını hesaplar ve deltayı döndürür. Bu işlevi bir kement regresyonu (kütüphane: glmnet) için kullanmak mantıklı mı ve eğer öyleyse, bu nasıl yapılabilir? Glmnet kütüphanesi, en iyi dönüş parametresini elde etmek için çapraz doğrulamayı kullanır, ancak son …

10 r  regression  cross-validation  lasso  glmnet 

Cezalandırılmış modeller, parametre sayısının örnek boyutuna eşit veya daha büyük olduğu modelleri tahmin etmek için kullanılabilir. Bu durum, kategorik veya sayım verilerinin büyük seyrek tablolarının log-lineer modellerinde ortaya çıkabilir. Bu ayarlarda, bu seviyelerin diğer faktörlerle nasıl etkileşime girdiği açısından ayırt edilemediği bir faktörün seviyelerini birleştirerek tabloları daraltmak genellikle arzu edilir …

10 categorical-data  lasso  elastic-net  log-linear  many-categories 

Ben yaklaşık 5.000 ile ilişkili özellikleri / ortak değişkenleri ve ikili bir yanıt ile bir veri kümesi var. Veriler bana verildi, ben toplamadım. Modeller oluşturmak için Kement ve gradyan güçlendirme kullanıyorum. Yinelenen, iç içe çapraz doğrulamayı kullanıyorum. Lasso'nun en büyük (mutlak) 40 katsayısını ve degrade artırılmış ağaçlardaki en önemli 40 …

9 machine-learning  multiple-comparisons  regression-coefficients  lasso  high-dimensional