LSTM, BiLSTM nedir ve ne zaman kullanılır?

Derin öğrenme konusunda çok yeniyim ve özellikle LSTM ve BiLSTM'nin ne zaman ve ne zaman kullanılacağını bilmekle ilgileniyorum (büyük uygulama alanları). LSTM ve BILSTM neden RNN'den daha popüler?

Bu derin öğrenme mimarilerini denetimsiz problemlerde kullanabilir miyiz?

RNNgibi mimariler LSTMve BiLSTMöğrenme problemi bir video var örneğin, sıralı olduğu durumlarda kullanılan ve size bir ajan istediğiniz veya hakkında tüm metin bir görüntü ve sizin için belgenin bir satır okumak için ne olduğunu bilmek istiyorum metin biçiminde değil. Ben çok bakmak teşvik burada .

LSTMsve çift yönlü varyantları popülerdir, çünkü mimarilerinde kapıları nasıl ve ne zaman unutulacağını ve ne zaman kullanmayacağını öğrenmeye çalışmışlardır. Önceki RNNmimarilerde, degradelerin yok edilmesi büyük bir sorundu ve bu ağların çok fazla öğrenmemesine neden oldu.

Çift Yönlü'yi kullanarak LSTMs, öğrenme algoritmasını orijinal verilerle bir kez baştan sona ve bir kez baştan sona beslersiniz. Burada tartışmalar var ama göreve bağlı olmasına rağmen genellikle tek yönlü yaklaşımdan daha hızlı öğreniyor.

Evet, bunları görevinize bağlı olarak denetimsiz öğrenmede de kullanabilirsiniz. buraya ve buraya bir bakın .

İnsanlar her saniye düşüncelerine sıfırdan başlamazlar. Bu makaleyi okurken, önceki kelimeleri anladığınıza göre her kelimeyi anlarsınız. Her şeyi atmaz ve tekrar sıfırdan düşünmeye başlamazsınız. Düşüncelerinizin sürekliliği var.

Geleneksel sinir ağları bunu yapamaz ve büyük bir eksiklik gibi görünüyor. Örneğin, bir filmin her noktasında ne tür bir olayın olduğunu sınıflandırmak istediğinizi düşünün. Geleneksel bir sinir ağının, filmdeki önceki olaylar hakkındaki düşüncelerini daha sonraları bilgilendirmek için nasıl kullanabileceği belirsizdir.

Tekrarlayan sinir ağları bu sorunu ele almaktadır. Bunlar, içinde döngüler bulunan ve bilginin devam etmesine izin veren ağlardır.

Daha fazla okumak için Cohen'in Bloguna gidin

LSTM karşılaştırıldığında, BLSTMya BiLSTMiki ağ, bir erişim vardır pastbilgileri forwardyön ve başka erişime futureiçinde reverseyönünde. WIKI

Yeni bir sınıf Bidirectionalresmi doc başına olarak eklenir burada :

model = Sequential()
model.add(Bidirectional(LSTM(num_channels, 
        implementation = 2, recurrent_activation = 'sigmoid'),
        input_shape=(input_length, input_dim)))

IMDB verilerini kullanan tam örnek şöyle olacaktır