Bir evrişim sinir ağı eğitimi


11

Şu anda yüzleri tanımak için evrişim sinir ağlarını kullanan bir yüz tanıma yazılımı üzerinde çalışıyorum. Okumalarıma dayanarak, eğitim sırasında zaman kazanmak için evrişimli bir sinir ağının ağırlık paylaştığını topladım. Ancak, bir geri yayılımı nasıl adapte eder, böylece bir evrişim sinir ağında kullanılabilir. Geri çoğaltmada, ağırlıkların eğitilmesi için buna benzer bir formül kullanılır.

New Weight  = Old Weight +  LEARNING_RATE * 1 * Output Of InputNeuron * Delta

Bununla birlikte, evrişimli sinir ağlarında, ağırlıklar paylaşıldığından, her ağırlık birden fazla nöron ile kullanılır, bu yüzden hangisinin Output of InputNeuronkullanılacağına nasıl karar verebilirim ?

Başka bir deyişle, ağırlıklar paylaşıldığından ağırlıkları ne kadar değiştireceğime nasıl karar verebilirim?

Yanıtlar:


13

İlk olarak tüm güncellemelerinizi, wieghts paylaşılmamış gibi hesaplamanız gerekir, ancak sadece saklayın, henüz herhangi bir güncelleme yapmayın.

wkbenk={(ben,j):wben,j=wk}Δwben,j=-ηJwben,jηJwben,j

wben,j=wben,j+Δwben,j.
Δwk=Σ(ben,j)benkΔwben,j
wk=wk+Δwk.

1
Bunun için referansınız var mı? Daha fazla okumak için
Jon
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.