Bir RNN'nin modellenmesi için uygulanabilir bir dizi uzunluğu nedir?

Ben zamanlamaları verileri modelleme için tekrarlayan bir sinir ağının (RNN) bir LSTM ( uzun kısa süreli bellek ) sürümünü kullanarak bakıyorum . Verilerin sıra uzunluğu arttıkça, ağın karmaşıklığı da artar. Bu nedenle, hangi dizilerin uzunluğunun iyi bir doğrulukla modellenmesi mümkün olacağını merak ediyorum?

LSTM'nin nispeten basit bir versiyonunu, en son teknolojiye sahip yaklaşımları uygulamak zor olmadan kullanmak istiyorum. Zamanlarımdaki her gözlem muhtemelen 4 sayısal değişkene sahip olacak ve gözlem sayısı 100.000 ila 1.000.000 civarında olacaktır.

Bu tamamen verilerinizin doğasına ve iç korelasyonlara bağlıdır, genel bir kural yoktur. Bununla birlikte, büyük miktarda veriye sahip olduğunuz göz önüne alındığında, 2 katmanlı bir LSTM, büyük bir zaman serisi problemleri / karşılaştırmaları modelleyebilir.

Ayrıca, tüm seriye zaman içinde çoğaltmazsınız, ancak genellikle (200-300) son adımlara geri dönersiniz. En uygun değeri bulmak için ızgara aramasını veya bayes optimizasyonunu kullanarak çapraz doğrulayabilirsiniz. Ayrıca, aşağıdaki parametrelere de bakabilirsiniz: https://github.com/wojzaremba/lstm/blob/master/main.lua .

Yani, sıra uzunluğu model eğitiminizi gerçekten etkilemez, ancak daha fazla eğitim örneğine sahip olmak gibidir, sıfırlamak yerine önceki durumu korumanız yeterlidir.