Neden bir RNN'de zaman içinde geri yayılır?

Tekrarlayan bir sinir ağında, genellikle birkaç zaman adımında ilerler, ağı "açar" ve daha sonra girdi dizisi boyunca geri yayılırsınız.

Neden sadece sekanstaki her bir adımdan sonra ağırlıkları güncellemiyorsunuz? (1 kısaltma uzunluğunun kullanılmasına eşdeğerdir, bu yüzden açılacak bir şey yoktur) Bu, yok olan degrade sorununu tamamen ortadan kaldırır, algoritmayı büyük ölçüde basitleştirir, muhtemelen yerel minima'da takılma olasılığını azaltır ve en önemlisi iyi çalışıyor gibi görünüyor . Bu şekilde metin üretmek için bir model geliştirdim ve sonuçlar BPTT eğitimli modellerde gördüğüm sonuçlarla karşılaştırılabilir görünüyordu. Ben sadece bu konuda kafam karıştı çünkü gördüğüm RNNs hakkında her öğretici BPTT, neredeyse doğru öğrenme için gerekli gibi diyor, durum böyle değil.

Güncelleme: Bir cevap ekledim

Düzenleme: İki yöntemi karşılaştırırken büyük bir hata yaptım ve cevabımı değiştirmek zorundayım. Şu anki adımda ilerlerken, yaptığım şekilde ortaya çıkıyor, aslında daha hızlı öğrenmeye başlıyor. Hızlı güncellemeler en temel kalıpları çok çabuk öğrenir. Ancak daha büyük bir veri setinde ve daha uzun eğitim süresiyle, BPTT aslında en üste çıkıyor. Sadece birkaç dönem için küçük bir örnek test ediyordum ve yarışı kazanan her kimin kazanan olacağını varsayıyordum. Ama bu beni ilginç bir bulguya götürdü. Sadece tek bir adım adım ilerleyerek antrenmanınıza başlarsanız, BPTT olarak değiştirin ve ne kadar geriye yayıldığınızı yavaşça artırın, daha hızlı yakınsama elde edersiniz.

RNN, her katmanın yeni girdi alabileceği ancak aynı parametrelere sahip olabileceği bir Derin Sinir Ağıdır (DNN). BPT, Gradient Descent için süslü bir kelime olan böyle bir ağda Geri Yayılım için süslü bir kelimedir.

Ki bu RYSA çıkışlar her aşamada ve errort=(yt - y t)$\hat{y}_t$

$$\begin{equation} error_t=(y_t-\hat{y}_t)^2 \end{equation}$$

Ağırlıkları öğrenmek için fonksiyonun "parametredeki bir değişiklik kayıp fonksiyonunu ne kadar etkiliyor?" ve parametreleri şu şekilde hareket ettirin:

$$\begin{equation} \nabla error_t=-2(y_t-\hat{y}_t)\nabla \hat{y}_t \end{equation}$$

Yani, her katmanda tahminin ne kadar iyi olduğuna dair geri bildirim aldığımız bir DNN var. Parametredeki bir değişiklik DNN'deki (timestep) her katmanı değiştireceğinden ve her katman bunun hesaba katılması gereken sonraki çıktılara katkıda bulunduğundan.

Bunu yarı açık olarak görmek için basit bir nöron-bir katman ağı alın:

$$\begin{align*} \hat{y}_{t+1} =& f(a+bx_t+c\hat{y}_t)\\ \frac{\partial}{\partial a}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot c\cdot \frac{\partial}{\partial a}\hat{y}_{t} \\ \frac{\partial}{\partial b}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (x_t+c\cdot\frac{\partial}{\partial b}\hat{y}_{t})\\ \frac{\partial}{\partial c}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (\hat{y}_t+c\cdot\frac{\partial}{\partial c}\hat{y}_{t})\\ \iff\\ \nabla \hat{y}_{t+1} =& f'(a+bx_t+c\hat{y}_t)\cdot \left(\begin{bmatrix}0\\x_t\\\hat{y}_t \end{bmatrix} + c \mathbin{\color{red}{\nabla \hat{y}_{t}}} \right) \end{align*}$$

İle öğrenme hızı bir eğitim aşaması o zaman: $\delta$

$$\begin{equation} \begin{bmatrix}\tilde{a}\\\tilde{b}\\\tilde{c}\end{bmatrix} \leftarrow \begin{bmatrix}a\\b\\c\end{bmatrix} + \delta (y_{t}-\hat{y}_{t})\nabla \hat{y}_t \end{equation}$$

Gördüğümüz olduğu için hesapla için Eğer ihtiyaç dışarı hesapla yani roll . Ne önermektir basitçe kırmızı kısım gözardı kırmızı kısmı için hesapla değil -recurse ayrıca. Sanırım kaybın şöyle bir şey$\nabla \hat{y}_{t+1}$$\nabla \hat{y}_{t}$$t$

$$\begin{equation} error=\sum_t(y_t-\hat{y}_t)^2 \end{equation}$$

Belki de her adım, kümelenmede yeterli olan kaba bir yöne katkıda bulunur? Bu, sonuçlarınızı açıklayabilir, ancak yöntem / kayıp işleviniz hakkında daha fazla şey duymakla gerçekten ilgilenirim! Ayrıca iki zaman aralığı pencereli YSA ile bir karşılaştırmayla ilgilenirsiniz.

edit4: Yorumları okuduktan sonra mimariniz bir RNN değil gibi görünüyor.

RNN: Durum bilgisi olan - gizli durumu süresiz olarak ileri$h_t$ Bu sizin modeliniz ama eğitim farklı.

Modeliniz: Vatansız - her adımda yeniden inşa edilen gizli durum edit2: DNN'lere daha fazla ref ekledi edit3: sabit adım adım ve bazı gösterim düzenleme5: Yanıt / açıklamadan sonra modelinizin yorumu düzeltildi.

"Zaman içinde açılma" sadece zincir kuralının bir uygulamasıdır,

$$\frac{dF(g(x), h(x), m(x))}{dx} = \frac{\partial F}{\partial g}\frac{dg}{dx} + \frac{\partial F}{\partial h}\frac{dh}{dx} + \frac{\partial F}{\partial m}\frac{dm}{dx}$$

, zaman adımında bir çıkışı , girişi ve önceki durum olan parametrelerinin bir fonksiyonudur (bunun yerine zaman adımında tekrar dönüştürülebileceğini unutmayın . çıktı, burada önemli değil). Degrade inişin amacını hatırlayın: bazı hata fonksiyonu verildiğinde , mevcut örnek (veya örnekler) için hataya bakalım ve sonra aynı şekilde tekrar verelim, azalacaktır. .H t θ x t H t - 1 H t t L $t$$H_t$$\theta$$x_t$$H_{t-1}$$H_t$$t$$L$$\theta$

bizim mevcut hataya tam olarak nasıl katkıda bulundu? Biz mevcut giriş, bir ağırlıklı toplamı aldı bulduğumuz giriş boyunca backpropagate gerekir, böylece ayarlama nasıl çalışmak, . Ama bizim da aynı zamanda bir fonksiyonu olan 'in bazı katkılarının sonucuydu , değil mi? Bu yüzden , ve nin bir fonksiyonu olan i bulmamız gerekiyor . Fakat aynı zamanda fonksiyonudur . Ve bunun gibi.x t Turkce ∇ Turkce θ bir ( x t , θ ) θ lH t - 1 θ Turkce ∇ Turkce θ lH t - 1 x t - 1 θ lH t - 2 H t - 2$\theta$$x_t$$\nabla_\theta a(x_t, \theta)$$\theta$$H_{t-1}$$\theta$$\nabla_\theta H_{t-1}$$x_{t-1}$$\theta$$H_{t-2}$$H_{t-2}$$\theta$