«rnn» etiketlenmiş sorular

İleri beslemeli ve tekrarlayan sinir ağları arasındaki fark nedir ? Neden birini diğerine aldın? Başka ağ topolojileri var mı?

58 machine-learning  neural-networks  terminology  rnn  topologies 

Bir süredir LSTM'leri inceliyorum. Her şeyin nasıl çalıştığını yüksek düzeyde anlıyorum. Ancak, onları Tensorflow kullanarak uygulayacağım BasicLSTMCell'in bir dizi birim (yani num_units) parametresi gerektirdiğini fark ettim . Gönderen bu LSTMs arasında çok kapsamlı bir açıklama, tek bir olduğunu topladık LSTM birimi aşağıdakilerden biridir ki bu aslında bir GRU birimidir. Bunun …

32 neural-networks  terminology  lstm  rnn  tensorflow 

Son zamanlarda tekrarlayan bir sinir ağının herhangi bir algoritmaya yaklaşabileceğini okudum. Öyleyse sorum şu: bu tam olarak ne anlama geliyor ve bunun kanıtlandığı yere bir referans verebilir misiniz?

28 references  rnn 

Avantajları nelerdir, neden biri yan yana yığılmış birden fazla LSTM'yi derin ağda kullanmalı? Bir giriş dizisini tek bir giriş olarak göstermek için bir LSTM kullanıyorum. Öyleyse bir kez bu tek temsilciliği elde ettiğimde neden tekrar geçeyim? Bunu soruyorum çünkü bunu bir doğal dil oluşturma programında gördüm.

25 classification  neural-networks  deep-learning  lstm  rnn 

Son birkaç yılda çeşitli Derin Öğrenme makalelerinde dikkat mekanizmaları kullanılmıştır. Open AI araştırma başkanı Ilya Sutskever onları coşkuyla övdü: https://towardsdatascience.com/the-fall-of-rnn-lstm-2d1594c74ce0 Purdue Üniversitesi'nden Eugenio Culurciello, RNN'lerin ve LSTM'lerin tamamen dikkat odaklı sinir ağları lehine terk edilmesi gerektiğini iddia etti: https://towardsdatascience.com/the-fall-of-rnn-lstm-2d1594c74ce0 Bu bir abartı gibi gözüküyor, ancak tamamen dikkat temelli modellerin sıra …

23 time-series  deep-learning  lstm  rnn  attention 

Bu sorunun cevabı burada zaten var : Maliyet işlevindeki değişim nasıl olumlu olabilir? (1 cevap) Sinir ağım öğrenmediğinde ne yapmalıyım? (5 cevaplar) Geçen ay kapalı . 4 tip diziyi sınıflandırmak için bir model (Tekrarlayan Sinir Ağı) eğitimi alıyorum. Eğitimimi yürütürken eğitim grubumdaki örneklerin% 90'ından fazlasını doğru bir şekilde sınıflandırdığım noktaya …

21 machine-learning  neural-networks  loss-functions  rnn  training-error 

Zaman serisi verilerine uygulanacak farklı Tekrarlayan sinir ağı (RNN) mimarilerini anlamaya çalışıyorum ve RNN'leri tanımlarken sıklıkla kullanılan farklı isimlerle biraz karışıyorum. Uzun kısa süreli bellek (LSTM) ve Geçitli Tekrarlanan Birim (GRU) yapısı temelde bir geri besleme döngüsüne sahip bir RNN mi?

20 neural-networks  lstm  rnn 

Son zamanlarda LSTM'lerle ilgilenmeye başladım ve ağırlıkların zaman içinde paylaşıldığını öğrenmek beni şaşırttı. Ağırlıkları zaman içinde paylaşırsanız, giriş zamanı dizilerinizin değişken bir uzunluk olabileceğini biliyorum. Paylaşılan ağırlıklarla antrenman yapmak için daha az parametreye sahipsiniz. Anladığım kadarıyla, bir başka öğrenme yöntemine karşı bir LSTM'ye dönüşmesinin nedeni, verilerinizde öğrenmek istediğiniz bir tür …

20 machine-learning  lstm  rnn 

RNN, tahmin veya sekanstan sekansa eşleme için kullanılabilir. Fakat RNN sınıflandırma için nasıl kullanılabilir? Demek istediğim, bütün diziye bir etiket veriyoruz.

19 machine-learning  neural-networks  rnn 

LSTM sinir ağında aşağıdaki blogdan geçiyorum: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ Yazar, giriş vektörü X'i LSTM'lerin farklı konfigürasyonu için [örnekler, zaman adımları, özellikler] olarak yeniden şekillendirir. Yazar yazar Aslında, harf dizileri ayrı özelliklerin bir zaman basamağı yerine bir unsurun zaman basamaklarıdır. Ağa daha fazla bağlam verdik, ancak beklediğimizden daha fazla sıralama yapmadık Ne anlama …

17 neural-networks  lstm  rnn  tensorflow  tensor 

Ben (diğerleri arasında) Graves 'foneme sınıflandırma 2005 makalesi üzerinden etiketleme RNNs üst düzey uygulama anlamaya çalışıyorum . Sorunu özetlemek gerekirse: Tek cümlelerin (giriş) ses dosyalarından ve (çıktı) uzman etiketli başlangıç ​​zamanlarından, durma zamanlarından ve tek tek telefon seslerinin etiketlerinden (sessizlik gibi birkaç "özel" telefonemden oluşan büyük bir eğitim setimiz var, …

16 lstm  rnn 

Optik karakter tanıma (OCR) projesi yapmak istiyorum. Biraz araştırma yaptıktan sonra ilginç görünen bir mimari ile karşılaştım: CNN + RNN + CTC. Kıvrık sinir ağları (CNN) ve tekrarlayan sinir ağları (RNN) hakkında bilgi sahibiyim, ancak Bağlantıcı Geçici Sınıflandırma (CTC) nedir? Layman'ın terimleriyle bir açıklama istiyorum.

15 machine-learning  deep-learning  conv-neural-network  rnn 

Tekrarlayan bir sinir ağında, genellikle birkaç zaman adımında ilerler, ağı "açar" ve daha sonra girdi dizisi boyunca geri yayılırsınız. Neden sadece sekanstaki her bir adımdan sonra ağırlıkları güncellemiyorsunuz? (1 kısaltma uzunluğunun kullanılmasına eşdeğerdir, bu yüzden açılacak bir şey yoktur) Bu, yok olan degrade sorununu tamamen ortadan kaldırır, algoritmayı büyük ölçüde …

14 time-series  neural-networks  backpropagation  rnn 

RNN'lerin (ve özellikle LSTM üniteleri ile) nasıl çalıştığı hakkında temel bilgiye sahibim. Değerlerin akışını düzenleyen bir hücre ve birkaç kapı olan bir LSTM biriminin mimarisi hakkında resimsel bir fikrim var. Bununla birlikte, görünüşe göre, LSTM'nin geleneksel bir RNN zaman içinde geri yayılım kullanarak, eğitim sırasında ortaya çıkan "yok olan ve …

13 neural-networks  lstm  rnn  backpropagation 

Her biri için en uygun ardışık girdi sorunları nelerdir? Girdi boyutsallığı hangisinin daha uygun olduğunu belirler mi? "Daha uzun bellek" gerektiren problemler LSTM RNN için daha uygun mudur? Çok fazla örtüşme var gibi görünüyor; İkisi arasında ne gibi ince farklar olduğunu merak ediyorum.

13 time-series  neural-networks  hidden-markov-model  rnn