Sinir ağının güvenini tahmin etme

Sınıflandırma veya regresyon gerçekleştirmek için derin bir sinir ağı eğitmek istediğimi, ancak tahminin ne kadar emin olacağını bilmek istiyorum. Bunu nasıl başarabilirim?

Benim fikrim, yukarıdaki nöral metrelerdeki tahmin performansına dayanarak, her eğitim verisi için çapraz entropiyi hesaplamaktır. Daha sonra, her bir referans noktasını girdi olarak alacak olan regresyon için ikinci bir sinir ağını eğitirdim ve çıktı olarak çapraz entropi (bir çıkış düğümü). Daha sonra her iki ağı da pratikte kullanacaksınız - biri etiket / değer tahmini, diğeri ilk ağın güven tahmini için. (.... Ama sonra ikinci ağın güvenini tahmin etmek için üçüncü bir ağa ihtiyacım olur muydu ...?!)

Bu geçerli bir fikir mi? Dahası, yaygın olarak kullanılan standart bir fikir midir? Değilse, ne önerirsiniz?

machine-learning neural-networks

— Karnivaurus
kaynak

Tahmin değerleri güven olarak yorumlanabilir.

— yasin.yazici

Belki de modelinizi n örnek üzerinde çoğaltarak ve bir varyans tahmincisi ve belki de tahminleriniz için bir güven aralığı oluşturarak bir önyükleme yaklaşımı kullanabilirsiniz.

— D.Castro

Sınıflandırma için, bazılarının cevapladığı gibi, olasılıklar kendinizin güveninizin bir ölçüsüdür. Regresyon için, çok benzer bir sorudan gelen cevabımı yararlı bulabilirsiniz.

— etal

benzer bir soruya cevabımı görmek burada stats.stackexchange.com/a/247568/56940

— utobi

Yanıtlar:

Belki de soruyu yanlış anlıyorum, ama sınıflandırma için bana göre standart yol her Nsınıf için bir çıkış nöronuna sahip olmak .

Daha sonra çıktı değerleri Nvektörü, [0, 1]her sınıfa ait girdinin olasılığını temsil eder ve bu nedenle elde etmek istediğiniz "güven" olarak yorumlanabilir.

— giorgiosironi
kaynak

Çıktı genellikle bir softmax tabakasıdır ve nöronların değerini bu şekilde almanız gerekir .

[0, 1]

$[0,1]$

— horaceT

NN tahmini güven tahmini ile ilgilenen insanlar için, Bırakmayı Bayes Yaklaşımı olarak incelemek isteyebilirsiniz : Derin Öğrenmede Model Belirsizliğini Temsil Etme (Gal ve ark., 2016) . Kısaca, bir ağın, bırakma yapılan bir çalışma popülasyonu üzerinde bırakma ile tahminlerinin varyansının, tahmin güvenini tahmin etmek için nasıl kullanılabileceğini gösterir. Bu yaklaşım, sınıflandırma veya regresyon için tasarlanmış ağlar için kullanılabilir.

— lebedov
kaynak