Bir yüz / yüz olmayan ikili algılamayı eğitmek için derin öğrenmeyi kullanmak istiyorum, hangi kaybı kullanmalıyım, SigmoidCrossEntropyLoss veya Menteşe kaybı olduğunu düşünüyorum .
Bu doğru mu, ama ben sadece softmax kullanmalıyım ama sadece iki sınıfla mı merak ediyorum?
Yanıtlar:
Menteşe kaybı ve çapraz entropi genellikle benzer sonuçlara sahiptir. Farklı kayıp fonksiyonlarını karşılaştıran başka bir yazı : Sınıflandırmada yaklaşık 0-1 kaybına farklı kayıp fonksiyonları seçmenin etkileri nelerdir ?
Bu doğru mu, ama ben sadece softmax kullanmalıyım ama sadece iki sınıfla mı merak ediyorum?
Softmax bir kayıp değil, normalleştirme fonksiyonudur, genellikle esasen eşdeğer olan çapraz entropi kaybıyla birlikte kullanılır SigmoidCrossEntropyLoss. Ayrıca bkz . Çıktı katmanında Çapraz Entropi veya Günlük Olabilirliği
Sizin durumunuzda bir ikili sınıflandırma göreviniz vardır, bu nedenle çıktı katmanınız standart sigmoid olabilir (çıktı, test örneğinin bir yüz olma olasılığını temsil eder). Kullanacağınız kayıp ikili çapraz entropidir. Bu kurulum ile derin sinir ağınızın son katmanında bir lojistik gerileme olduğunu hayal edebilirsiniz.
İşte sizin için birkaç bağlantı. Umarım yardımcı olurlar.
https://en.wikipedia.org/wiki/Cross_entropy#Cross-entropy_error_function_and_logistic_regression
http://neuralnetworksanddeeplearning.com/chap3.html
https://www.quora.com/How-do-you-decide-which-loss- fonksiyon kullanımlı-için-makine-öğrenme
Kesinlikle sadece 2 sınıf "Yüz" ve "Yüz Değil" ile softmax'ı kullanabilir ve softmax çıktısını güven skorları olarak yorumlayabilirsiniz.
Hem 2 sınıf softmax hem de ikili menteşe kaybını deneyin. Son zamanlarda , derin konvektör ağlarının üstünde softmax sınıflandırıcı yerine SVM kullanan Lineer Destek Vektör Makineleri kullanan Deep Learning makalesi var ve bazı umut verici sonuçlar var.
Genellikle logaritmik kayıp, sadece tek bir çıktı birimi ile birlikte kullanılan tercih edilen seçim olacaktır. Logaritmik kayıp, ikili çapraz entropi olarak da adlandırılır, çünkü sadece iki sınıf üzerinde çalışan özel bir çapraz entropi vakasıdır.
Teorik olarak, 2 sınıflı bir softmax bir sigmoid olarak yeniden yazılabilir, bu nedenle ikisi arasında sonuçlarda bir fark olmamalıdır. Pratikte, @ dontloo'nun belirttiği gibi, çıktı katmanındaki parametre sayısı iki kat olacaktır (bunun herhangi bir aşırı sığdırma sorununa yol açıp açmayacağından emin değilsiniz) ve elbette iki sınıf için 2 puanınız olacaktır (Yüz ve Non_Face).
sigmoid(son katman aktivasyonu olarak) üzerinde yararlılığını göremiyorum . Teşekkürler