«neural-networks» etiketlenmiş sorular

Backpropagation kullanarak bir SVM (doğrusal bir şey söylemek, işleri kolaylaştırmak için) mümkün olup olmadığını merak ediyordum? Şu anda, bir yol bloğundayım, çünkü sadece sınıflandırıcının çıktısını şöyle yazmayı düşünebilirim f( x ; θ , b ) = sgn ( θ ⋅ x - ( b + 1 ) ) = sgn …

11 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

Sinir ağlarının (NN) belirli varsayımlar altında (hem ağda hem de fonksiyonda yaklaşık olarak) hem fonksiyonlara hem de türevlerine evrensel yakınlaştırıcılar olarak kabul edilebileceğini anlıyorum. Aslında, basit ama önemsiz olmayan fonksiyonlar (örneğin polinomlar) üzerinde bir dizi test yaptım ve görünüşe göre onları ve ilk türevlerini iyi tahmin edebiliyorum (bir örnek aşağıda …

11 machine-learning  neural-networks  function  derivative 

Sinir ağına sahip bir otomatik kodlayıcı uygularken, çoğu insan aktivasyon fonksiyonu olarak sigmoid kullanacaktır. Bunun yerine ReLU kullanabilir miyiz? (ReLU'nun üst sınırda bir sınırı olmadığından, sigmoid kullanıldığında otomatik kodlayıcı için kısıtlanmış kriterlerin aksine, temel olarak giriş görüntüsünün 1'den büyük piksel olabileceği anlamına gelir).

11 machine-learning  neural-networks  deep-learning  autoencoders 

Bu cümleyi anlamakta güçlük çekiyorum: Önerilen ilk mimari, doğrusal olmayan gizli katmanın kaldırıldığı ve projeksiyon katmanının tüm kelimeler (yalnızca projeksiyon matrisi için değil) paylaşıldığı ileri beslemeli NNLM'ye benzer; böylece, tüm kelimeler aynı pozisyona yansıtılır (vektörlerinin ortalaması alınır). Projeksiyon katmanı vs projeksiyon matrisi nedir? Tüm kelimelerin aynı konuma yansıtıldığını söylemek ne …

11 machine-learning  neural-networks  natural-language  word-embeddings  language-models 

Şu anda yüzleri tanımak için evrişim sinir ağlarını kullanan bir yüz tanıma yazılımı üzerinde çalışıyorum. Okumalarıma dayanarak, eğitim sırasında zaman kazanmak için evrişimli bir sinir ağının ağırlık paylaştığını topladım. Ancak, bir geri yayılımı nasıl adapte eder, böylece bir evrişim sinir ağında kullanılabilir. Geri çoğaltmada, ağırlıkların eğitilmesi için buna benzer bir …

11 machine-learning  neural-networks  computer-vision  backpropagation  conv-neural-network 

Bir algılayıcı algoritmasının karar sınırını çizmeye çalışıyorum ve birkaç şey hakkında gerçekten kafam karıştı. Giriş örneklerim , temelde bir 2D giriş örneği ( ve ) ve bir ikili sınıf hedef değeri ( ) [1 biçimindedir. veya 0].[(x1,x2),y][(x1,x2),y][(x_{1},x_{2}), y]x1x1x_{1}x2x2x_{2}yyy Ağırlık vektörüm şu şekildedir: .[w1,w2][w1,w2][w_{1}, w_{2}] Şimdi ek bir bias parametresi ve …

11 machine-learning  neural-networks  python  decision-theory  perceptron 

Sadece dizeleri alabilen giriş nöronları ile sigmoid nöronların bazı sabit tekrarlayan olmayan (DAG) topolojisi (sabit düğüm ve kenar kümesi, ancak öğrenme algoritması kenarlardaki ağırlığı değiştirebilir) varsa girdi olarak ve bir çıkışa yol açar (0'dan uzakta belirli bir sabit eşikse 1'e veya -1'e yuvarladığımız gerçek bir değer üretir). Bu ağın VC …

11 machine-learning  neural-networks  algorithms  vc-dimension 

Neuralnet R'de 14 giriş ve bir çıkış ile bir NN oluşturmak için kullanıyorum. Aynı giriş eğitimi verilerini ve aynı ağ mimarisini / ayarlarını kullanarak ağı birkaç kez oluşturur / eğitirim. Her ağ üretildikten sonra, tahmin edilen bazı değerleri hesaplamak için tek başına test verileri kümesinde kullanıyorum. Ağı her kurduğumda tüm …

11 r  machine-learning  neural-networks 

Oldukça popüler bir " ADVERSARIAL ÖRNEKLERİ AÇMAK VE SÜRDÜRMEK " makalesini uyguluyordum ve makalede, olumsuz bir objektif işlevi eğitiyor J '' (θ) = αJ (θ) + (1 - α) J '(θ). Α'ya hiperparametre gibi davranır. a, 0,1, 0,2, 0,3 vb. olabilir. Bu özel kağıttan bağımsız olarak, merak ediyorum, neden parametrelerimize …

11 machine-learning  neural-networks  deep-learning  hyperparameter 

Öğrendiklerime dayanarak, farklı özellik dedektörlerini öğrenmek için bir CNN'nin Konv Katmanında birden çok filtre kullanıyoruz. Ancak bu filtreler benzer şekilde uygulandığından (yani girdinin bölgelerine kaydırılmış ve çoğaltılmış), eğitim sırasında aynı parametreleri öğrenmezler miydi? Bu yüzden birden fazla filtre kullanımı gereksiz olur mu?

11 neural-networks  conv-neural-network  convolution  filter 

Kapalı. Bu soru konu dışı . Şu anda cevapları kabul etmiyor. Bu soruyu geliştirmek ister misiniz? Sorunuzu güncelleyin o yüzden -konu üzerinde Çapraz doğrulanmış için. Geçen yıl kapalı . CIFAR-10 veri setinde 15 dönemden sonra yapılan eğitim, geçerlilik kaybının artık azalmamasına ve 1.4'e (% 60 doğrulama doğruluğu ile) bağlı kalmayacağı …

11 neural-networks  conv-neural-network  keras 

Görüntü tanıma için bir evrişim ağı üzerinde çalışıyorum ve farklı boyutlarda görüntüler girip giremeyeceğimi merak ettim (çok farklı değil). Bu projede: https://github.com/harvardnlp/im2markup Onlar söylüyor: and group images of similar sizes to facilitate batching Bu nedenle, ön işlemden sonra bile, görüntüler hala farklı boyutlardadır, bu da formülün bir kısmını kesmeyecekleri için …

10 neural-networks  conv-neural-network  computer-vision 

Sinir ağı ve derin öğrenme arasındaki fark açısından, daha fazla katman dahil, büyük veri seti, eğitim karmaşık modeli mümkün kılmak için güçlü bilgisayar donanımı gibi çeşitli öğeleri listeleyebiliriz. Bunların yanı sıra NN ve DL arasındaki farkla ilgili daha ayrıntılı bir açıklama var mı?

10 machine-learning  neural-networks  deep-learning  conv-neural-network  deep-belief-networks 

Sinir ağının derinliği ile öğrenme hızı arasında temel bir kural var mı? Ağ ne kadar derin olursa, öğrenme oranının o kadar düşük olması gerektiğini fark ettim. Bu doğruysa, neden böyle?

10 neural-networks  deep-learning  hyperparameter  rule-of-thumb 

Sinir ağını belirli bir tarzda resim çizmek için eğitmek mümkün mü? (Bu yüzden bir görüntü alır ve eğitildiği bir tarzda yeniden çizer.) Böyle bir şey için onaylanmış bir teknoloji var mı? DeepArt algoritmasını biliyorum. Ana görüntüyü belirli bir desenle doldurmak iyidir (örneğin, vangoghify görüntüsü), ancak farklı bir şey arıyorum - …

10 machine-learning  neural-networks  deep-learning