«deep-learning» etiketlenmiş sorular

Bir sinir ağı eğitimi alıyorum ama eğitim kaybı azalmıyor. Bunu nasıl düzeltebilirim? Fazla abartma ya da düzenli olma hakkında soru sormuyorum. Ağımın performansının eğitim setinde düzelmediği problemi nasıl çözeceğimi soruyorum . Bu soru kasıtlı olarak geneldir, böylece bir sinir ağını nasıl eğiteceğiniz hakkındaki diğer sorular, bunun bir kopyası olarak kapatılabilir; …

147 neural-networks  deep-learning 

Doğrusal olmama sanatının durumu, derin sinir ağında sigmoid işlevi yerine doğrultulan doğrusal birimler (ReLU) kullanmaktır. Avantajları nelerdir? ReLU kullanıldığında bir ağın eğitilmesinin daha hızlı olacağını ve biyolojik olarak daha ilham verici olduğunu biliyorum, diğer avantajları nelerdir? (Yani, sigmoid kullanmanın herhangi bir dezavantajı)?

141 machine-learning  neural-networks  deep-learning 

Son zamanlarda derin öğrenme hakkında okudum ve terimler hakkında kafam karıştı (ya da teknolojiler deyin). Arasındaki fark nedir Konvolüsyonel sinir ağları (CNN), Sınırlı Boltzmann makineleri (RBM) ve Otomatik kodlayıcılar?

123 neural-networks  deep-learning  conv-neural-network  autoencoders  rbm 

Bu terimlerle tam olarak belirtilen soruyu görmedim ve bu yüzden yeni bir soru yapıyorum. Bilmek istediğim şey sinir ağının tanımı değil, derin bir sinir ağıyla gerçek farkı anlamak. Daha fazla bağlam için: Sinir ağının ne olduğunu ve geri yayılımın nasıl çalıştığını biliyorum. Bir DNN'nin birden çok gizli katmana sahip olması …

114 neural-networks  deep-learning 

Şu anda Udacity Deep Learning Tutorial'ı yapıyorum. 3. Derste, 1x1 evrişimi hakkında konuşurlar. Bu 1x1 evrişim Google Başlangıç ​​Modülünde kullanılmaktadır. 1x1 evrişimin ne olduğunu anlamada sorun yaşıyorum. Bu yazıyı Yann Lecun tarafından da gördüm . Biri bana bunu nazikçe açıklayabilir mi?

106 neural-networks  deep-learning  convolution  conv-neural-network 

Görüntülerin nasıl normalleştirileceğine dair bazı farklılıklar var ancak çoğu bu iki yöntemi kullanıyor gibi görünüyor: Tüm görüntüler üzerinde hesaplanan kanal başına ortalamayı çıkarın (örn. VGG_ILSVRC_16_layers ) Tüm resimler üzerinde hesaplanan piksel / kanala göre çıkarma (örneğin, CNN_S , ayrıca Caffe'nin referans ağına bakınız ) Doğal yaklaşım aklımda her görüntüyü normalleştirmek …

88 deep-learning  image-processing 

Son yıllarda, evrişimli sinir ağları (ya da genel olarak derin sinir ağları) , 4 uzayda 7 katmandan ( AlexNet ) 1000 katmana ( Artık Ağlar) kadar uzanan son teknoloji ağlarla daha da derinleşmiştir . yıl. Daha derin bir ağdan gelen performanstaki artışın arkasındaki neden, daha karmaşık, doğrusal olmayan bir fonksiyonun …

73 machine-learning  classification  neural-networks  deep-learning  conv-neural-network 

Stokastik gradyan inişindeki bir çağ, verilerden tek bir geçiş olarak tanımlanır. Her SGD minibatch için, örnekleri çizilir, gradyan hesaplanır ve parametreler güncellenir. Çağ ayarında, numuneler değiştirilmeden çizilir.kkk Ancak bu gereksiz görünüyor. Neden olarak her SGD minibatch çekemez rastgele her tekrarda tüm veri kümesinden çizer? Çok sayıda dönemin üzerinde, numunelerinin az …

69 neural-networks  deep-learning  gradient-descent 

İnsanların 'derin bir inanç' ağına atıfta bulundukları zaman bunun temelde bir sinir ağı olduğu ama çok büyük olduğu izlenimini ediniyorum. Bu doğru mu, yoksa derin bir inanç ağı da algoritmanın kendisinin farklı olduğu anlamına mı geliyor (yani, ileriye dönük sinir ağları değil, belki de geri besleme döngüleri olan bir şey)?

62 machine-learning  neural-networks  deep-learning  deep-belief-networks 

Derin sinir ağları için iyi bir R kütüphanesi olup olmadığını merak ediyor muydum? Orada olduğunu biliyorum nnet, neuralnetve RSNNS, ancak bunların hiçbiri derin öğrenme yöntemlerini uygulamak gibi görünüyor. Özellikle denetlenmeyen öğrenmeden sonra denetlenen öğrenmeden ve eş-uyum sağlamak için bırakma kullanmaktan özellikle ilgileniyorum . / edit: Birkaç yıl sonra, h20 derin …

56 r  neural-networks  deep-learning  rbm  deep-belief-networks 

Ben derin öğrenme alanında yeniyim ve benim için ilk adım deeplearning.net sitesinden ilginç makaleler okumak oldu. Derin öğrenme ile ilgili makalelerde, Hinton ve diğerleri çoğunlukla onu görüntü problemlerine uygulamaktan bahseder. Birisi bana cevap vermeye çalışabilir mi, zaman serisi değerlerini (mali, internet trafiği, ...) tahmin etme problemine uygulanabilir mi ve mümkünse …

54 time-series  machine-learning  prediction  deep-learning  deep-belief-networks 

Tensorflow kodlarının çoğunda, Adam Optimizer’ın sabit bir Öğrenme Hızı 1e-4(yani 0.0001) ile kullanıldığını gördüm . Kod genellikle aşağıdakilere bakar: ...build the model... # Add the optimizer train_op = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # Add the ops to initialize variables. These will include # the optimizer slots added by AdamOptimizer(). init_op = tf.initialize_all_variables() # …

53 neural-networks  deep-learning  gradient-descent  tensorflow  adam 

Tekrarlayan Sinir Ağları ve Özyinelemeli Sinir Ağları vardır. Her ikisi de genellikle aynı kısaltma ile gösterilir: RNN. Wikipedia'ya göre , Recurrent NN aslında Recursive NN'dir, ancak açıklamayı gerçekten anlamıyorum. Dahası, Doğal Dil İşleme için hangisinin daha iyi olduğunu (örneklerle ya da öylesine) bulmuyorum. Gerçek şu ki, Socher öğreticisinde NLP için …

48 machine-learning  neural-networks  deep-learning  natural-language 

Son yıllarda, Konvolüsyonel Sinir Ağları (CNN'ler) bilgisayar vizyonunda nesne tanıma konusunda son teknoloji haline geldi. Tipik olarak, bir CNN birkaç evrimli tabakadan sonra bunu iki tam bağlı tabakadan oluşur. Bunun arkasındaki sezgisi, evrişimli katmanların girdi verilerinin daha iyi bir gösterimini öğrenmesi ve tam olarak bağlı olan katmanlar daha sonra bu …

46 machine-learning  neural-networks  svm  deep-learning  conv-neural-network 

Bir de son blog yazısı Rong Ge tarafından, o söyleniyordu: Derin ağları öğrenmek de dahil olmak üzere birçok problem için, yerel minimumun hemen hemen tümünün global optimum ile çok benzer bir fonksiyon değerine sahip olduğuna ve bu nedenle yerel bir minimum bulmanın yeterince iyi olduğuna inanılmaktadır. Bu inanç nereden geliyor?

45 machine-learning  neural-networks  optimization  deep-learning