Bayes sinir ağı kullanmanın avantajları nelerdir?

12

Son zamanlarda bir sinir ağındaki girdi ve çıktı arasındaki olasılık ilişkisini veren Bayes sinir ağı (BNN) [Neal, 1992] , [Neal, 2012] hakkında bazı makaleler okudum . Böyle bir sinir ağını eğitmek, geleneksel geri yayılma algoritmasından farklı olan MCMC aracılığıyla yapılır.

Sorum şu: Böyle bir sinir ağını kullanmanın avantajı nedir? Daha spesifik olarak, NN yerine BNN'ye daha uygun bazı örnekler verebilir misiniz?

bayesian neural-networks bayesian-network

— fishiwhj
kaynak

9

Bayes sinir ağları, fazla sığmayı önlemenin bir yolu olarak, verilerin az olduğu alanlarda sorunların çözümünde faydalıdır. Bu gibi durumlarda genellikle diğer tüm yöntemleri yenerler. Örnek uygulamalar, moleküler biyoloji ( örneğin, bu çalışma ) ve tıbbi teşhisdir (verinin sıklıkla maliyetli ve zor expiremental çalışmalardan geldiği alanlar). Aslında, Bayes ağları tek yönlü olarak faydalıdır ve çok sayıda görev için daha iyi sonuçlar elde edebilirler, ancak büyük sorunlara ölçeklendirmek son derece zordur.

— Denis Tarasov
kaynak

2

Bayes ağlarının ölçeklendirilmesinin neden zor olduğunu açıklayabilir misiniz?

— Ellis Valentiner

6

BNN'nin NN'ye göre bir avantajı, bilinmeyen hedeflerin verileriyle uğraşırken tahminlerinizle ilişkili bir hatayı otomatik olarak hesaplayabilmenizdir. Bir BNN ile, şimdi Bayesci çıkarım yapıyoruz. BNN tahminimizi , burada NN işlevidir, girişlerinizdir , NN parametreleridir ve x, t eğitim girdileri ve hedefleridir. Bu, @forecaster tarafından sağlanan bağlantılarda Neal tarafından kullanılan sözdizimi ile uyumlu olmalıdır. Daha sonra, tahmin üzerinde doğruluk olarak safça kullanacağım posterior tahmin dağılımının standart sapmasını hesaplayabiliriz: $\bar{f}(x′|x,t)=∫f(x′,ω)p(ω|x,t)dω$ $f$ $x'$ $ω$ $\sigma(x′)=\sqrt{∫[f(x′,ω)−\bar{f}(x′|x,t)]^2p(ω|x,t)dω}$

— Michelle K
kaynak

1

Bu, konuşmaya ilginç bir ektir, ancak standartlarımıza göre biraz kısadır. Biraz ayrıntı verebilir ve belki bir referans ekleyebilir misiniz?

— Sycorax: Reinstate Monica

Elbette. Bir BNN ile, şimdi Bayesci çıkarım yapıyoruz. BNN tahminimizi olarak tanımlayalım , burada f NN'dir işlevi, x 'girişlerinizdir, NN parametreleridir ve eğitim girişleri ve hedefleridir. Bu, @forecaster tarafından sağlanan bağlantılarda Neal tarafından kullanılan sözdizimi ile uyumlu olmalıdır. Daha sonra, tahmin üzerinde doğruluk olarak safça kullanacağım posterior tahmin dağılımının standart sapmasını hesaplayabiliriz:

\bar{f} (x^{'} | x, t) = \int f (x^{'}, ω) p (ω | x, t) d ω

$\bar{f}(x'|x,t) = \int{f(x',\omega)p(\omega|x,t) d\omega}$

ω

$\omega$

x, t

$x,t$

σ (x^{'}) = \sqrt{(} \int [f (x^{'}, ω) - \bar{f} (x^{'} | x, t)]^{2} p (ω | x, t) d ω)

$\sigma(x') = \sqrt(\int{[f(x',\omega)-\bar{f}(x'|x,t)]^2p(\omega|x,t) d\omega})$

— Michelle K

Lütfen bunu cevabınızda düzenleyin.

— Sycorax, Reinstate Monica'nın