«convex» etiketlenmiş sorular

Doktora için teorik makine öğrenmesi - transfer öğrenimi, spesifik olması için çalışıyorum. Merakım dışında, neden dışbükey optimizasyon dersi almalıyım? Teorik makine öğrenimi konusundaki araştırmamda dışbükey optimizasyondan ne gibi faydalar alabilirim?

27 machine-learning  optimization  convex  transfer-learning 

Dışbükey bir maliyet fonksiyonu göz önüne alındığında, optimizasyon için SGD kullanılarak, optimizasyon işlemi sırasında belirli bir noktada bir degradeye (vektör) sahip olacağız. Sorum şu ki, dışbükeydeki noktaya göre, gradyan yalnızca işlevin en hızlı yükseldiği / azaldığı yönü işaret ediyor mu, yoksa gradyan her zaman maliyet işlevinin en uygun / en …

25 neural-networks  optimization  gradient-descent  sgd  convex 

Burada da benzer bir iş parçacığı var ( Sinir ağının maliyet işlevi dışbükey değil mi? ) Fakat buradaki cevaplardaki noktaları anlayamadım ve bunun tekrar sorulma nedeninin bazı sorunları netleştireceğini umuyorum: I karesi alınmış farkı maliyet fonksiyonunun toplamı kullanıyorum için, sonuçta formun şey optimize am y eğitim aşaması esnasında gerçek etiket …

22 machine-learning  neural-networks  optimization  loss-functions  convex 

Bu ifadeyi eski bir doğru / yanlış sınavda okudum: Degrade iniş kullanarak karesi alınmış hataların toplamını en aza indirerek doğrusal bir regresyon problemini çözersek birden fazla yerel optimum çözüm elde edebiliriz. Çözüm: Yanlış Sorum şu, bu sorunun hangi kısmı yanlış? Bu ifade neden yanlış?

19 least-squares  gradient-descent  convex 

Temel Bileşen Analizi (PCA) objektif fonksiyonu L2 norm yöntemi hatasını minimize edilir (bölüm 2.12 bakınız burada başka görüş projeksiyonda varyansı maksimize etmeye çalışıyor Biz de burada mükemmel bir yazı var.:. PCA nesnel işlevi nedir ? ). Benim sorum şu ki PCA optimizasyonu dışbükey mi? ( Burada bazı tartışmalar buldum , …

13 machine-learning  pca  optimization  convex 

IRLS algoritmasını kullanarak bir lojistik regresyon programladım . Doğru özellikleri otomatik olarak seçmek için bir LASSO cezası uygulamak istiyorum . Her yinelemede aşağıdakiler çözülür: (XTWX)δβ^=XT(y−p)(XTWX)δβ^=XT(y−p)\mathbf{\left(X^TWX\right) \delta\hat\beta=X^T\left(y-p\right)} Let negatif olmayan reel sayı. The Elements bölümünde önerildiği gibi kesmeyi cezalandırmıyorum . İstatistiksel Öğrenme . Zaten sıfır katsayıları için aynen. Aksi takdirde, sağ …

12 logistic  generalized-linear-model  feature-selection  lasso  convex