Derin öğrenmeye başlıyorum ve cevabını bulamadığım bir sorum var, belki de doğru aramadım. Bu cevabı gördüm , ancak kilo kaybı kaybının ne olduğu ve kayıp fonksiyonuyla nasıl ilişkili olduğu hala net değil.
Derin öğrenmeye başlıyorum ve cevabını bulamadığım bir sorum var, belki de doğru aramadım. Bu cevabı gördüm , ancak kilo kaybı kaybının ne olduğu ve kayıp fonksiyonuyla nasıl ilişkili olduğu hala net değil.
Yanıtlar:
Kilo kaybı sinir ağındaki düzenliliği belirtir.
Eğitim sırasında, geri yayılım gradyanını hesaplamak için ağın kaybına bir düzenlileştirme terimi eklenir. weight decay
Değeri, bu düzenlileştirme terimi gradyan hesaplama olacak kadar baskın belirler.
Genel bir kural olarak, ne kadar fazla eğitim örneğiniz varsa, bu terim o kadar zayıf olmalıdır. Ne kadar çok parametreye sahip olursanız bu terim o kadar yüksek olmalıdır.
Bu nedenle, Kilo kaybı büyük ağırlıkları cezalandıran bir düzenleme terimidir. Ağırlık bozulma katsayısı büyük olduğunda, küçük ağırlıklar serbestçe büyüyebildiğinde, büyük ağırlıkların cezası da büyüktür.
Şimdi, sorunuzda bağladığınız cevabı tekrar okursanız, şimdi tam mantıklı olacaktır.