«autoencoders» etiketlenmiş sorular

İleriye dönük sinir ağları kendi girdilerini yeniden yapılandırmak için eğitilmişlerdir. Genellikle gizli katmanlardan biri kod çözücü yorumlamasına yol açan bir "darboğaz" dır.

2
Otomatik kodlayıcı sinir ağlarının kökeni nedir?
Google, Wikipedia, Google araştırmacısı ve daha fazlasını aradım, ancak Otomatik Kodlayıcıların kökenini bulamadım. Belki de yavaş yavaş gelişen bu kavramlardan biridir ve net bir başlangıç ​​noktasını izlemek imkansızdır, ancak yine de gelişimlerinin ana adımlarının bir tür özetini bulmak istiyorum. Autoencoders hakkında bölüm Ian Goodfellow, Yoshua Bengio ve Aaron COURVILLE Dibi …


1
Aktivasyon fonksiyonu olarak otomatik kodlayıcıda ReLU kullanabilir miyim?
Sinir ağına sahip bir otomatik kodlayıcı uygularken, çoğu insan aktivasyon fonksiyonu olarak sigmoid kullanacaktır. Bunun yerine ReLU kullanabilir miyiz? (ReLU'nun üst sınırda bir sınırı olmadığından, sigmoid kullanıldığında otomatik kodlayıcı için kısıtlanmış kriterlerin aksine, temel olarak giriş görüntüsünün 1'den büyük piksel olabileceği anlamına gelir).

2
Birim Gaussian ile KL Kaybı
Bir VAE uyguluyorum ve basitleştirilmiş tek değişkenli gauss KL sapmasının çevrimiçi olarak iki farklı uygulamasını fark ettim. Uygun olarak, orijinal diverjans burada bir bir birim gaussian olduğunu varsayarsak, ve , bu İşte karışıklığım burada. Yukarıdaki uygulama ile birkaç belirsiz github depoları bulmuş olmama rağmen, daha yaygın olarak kullandığım şey:KLloss=log(σ2σ1)+σ21+(μ1−μ2)22σ22−12KLloss=log⁡(σ2σ1)+σ12+(μ1−μ2)22σ22−12 KL_{loss}=\log(\frac{\sigma_2}{\sigma_1})+\frac{\sigma_1^2+(\mu_1-\mu_2)^2}{2\sigma^2_2}-\frac{1}{2} …

1
Bu otomatik kodlayıcı ağının işlevi düzgün şekilde yapılamıyor (evrişimli ve makspool katmanlarla)
Otomatik kodlayıcı ağları normal sınıflandırıcı MLP ağlarından çok daha karmaşık görünmektedir. Lasagne kullanarak yapılan birkaç denemeden sonra , yeniden yapılandırılmış çıktıda elde ettiğim her şey, en iyi şekilde , giriş basamağının gerçekte ne olduğunu ayırt etmeden MNIST veritabanının tüm görüntülerinin bulanık bir ortalamasına benzeyen bir şeydir . Seçtiğim ağ yapısı …

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.