Yolo Loss fonksiyon açıklaması

16

Yolo v2 kaybı işlevini anlamaya çalışıyorum:

\begin{aligned} λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - {\hat{y}}_{i})^{2}] \\ + λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] \\ + \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} (C_{i} - {\hat{C}}_{i})^{2} + λ_{n o o b j} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{n o o b j} (C_{i} - {\hat{C}}_{i})^{2} \\ + \sum_{i = 0}^{S^{2}} 1_{i}^{o b j} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} \end{aligned}

$\begin{align} &\lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(x_i-\hat{x}_i)^2 + (y_i-\hat{y}_i)^2 ] \\&+ \lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(\sqrt{w_i}-\sqrt{\hat{w}_i})^2 +(\sqrt{h_i}-\sqrt{\hat{h}_i})^2 ]\\ &+ \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}(C_i - \hat{C}_i)^2 + \lambda_{noobj}\sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{noobj}(C_i - \hat{C}_i)^2 \\ &+ \sum_{i=0}^{S^2} \mathbb{1}_{i}^{obj}\sum_{c \in classes}(p_i(c) - \hat{p}_i(c))^2 \\ \end{align}$

Herhangi bir kişi işlevi detaylandırabilirse.

— Kamel BOUYACOUB
kaynak

5

kimse bağlamsız size yardım edemez ... en azından bize bunun hangi kağıttan geldiğini söyle.

— bdeonovic

1

"Anlamıyorum" ve "işlevi detaylandırma" aşırı geniş. Lütfen belirli soruları belirlemeye çalışın. Yolo ile ilgili çok sayıda soru olduğunu ve bunların bazılarının aradığınız şeyin en azından bir kısmını sağlayabileceğini unutmayın

— Glen_b -Restate Monica

1

Bu mükemmel açıklamadan net olmayan şeylere işaret ederseniz cevabımı eklerim

— Aksakal

1

Bu blogda burada yolo ve yolov2 hakkında ayrıntılı bir grafik açıklama var. Kayıp fonksiyonu ile ilgili soruyu cevaplar. Eğer yeni başlayanlar ve daha ileri düzey kullanıcılar için çok yararlı.

— MBoaretto

18

Farklı terimlerin açıklaması:

3 sabitleri, kayıp işlevinin daha fazla bir yönünü hesaba sabitlerdir. Makalede , ilk dönemde daha fazla önem sahip olmak için en yüksek olduğu $\lambda$ $\lambda_{coord}$
YOLO tahmini bir vektörüdür: Her ızgara hücresi için bbox tahminleri ve her ızgara hücresi için sınıfı tahmini (burada sınıf sayısıdır). İ hücresinin j kutusunun 5 bbox çıkışı, bbox , yükseklik , genişlik ve güven endeksi tte merkezinin koordinatlarıdır $S*S*(B*5+C)$ $B$ $C$ $C$ $x_{ij}$ $y_{ij}$ $h_{ij}$ $w_{ij}$ $C_{ij}$
Şapkalı değerlerin etiketten okunan gerçek ve şapkasız olanın tahmin edilenler olduğunu hayal ediyorum. Yani her BBOX için güven puan için etiketten gerçek değeri nedir ? Öngörülen sınırlama kutusunun etiketten biriyle kesişmesidir. $\hat{C}_{ij}$
,vehücrelerindebaşka bir yerdebir nesne olduğunda $\mathbb{1}_{i}^{obj}$ $1$ $i$ $0$
"hücresindekiSınırlayıcı kutu öngörücüsününbu tahminden sorumlu olduğunu belirtir". Başka bir deyişle,hücresinde bir nesne varsaeşittirvebu hücrenininci belirleyicileriningüveni, bu hücrenin tüm tahmincileri arasında en yüksektir. ,hücresinde NO nesnesi olmadığında 1 değeri dışında neredeyse aynıdır $\mathbb{1}_{ij}^{obj}$ $j$ $i$ $1$ $i$ $j$ $\mathbb{1}_{ij}^{noobj}$ $i$

Her bbox tahminleri için iki indeks ve kullandığımı unutmayın , bu makalede geçerli değildir, çünkü her zaman veya faktörü vardır, bu nedenle belirsiz bir yorum yoktur: seçilen o hücrede yüksek güven puanı tekabül biridir. $i$ $j$ $\mathbb{1}_{ij}^{obj}$ $\mathbb{1}_{ij}^{noobj}$ $j$

Toplamın her bir teriminin daha genel açıklaması:

bu terim, hücre merkezinin kötü lokalizasyonunu cezalandırır
bu terim sınırlayıcı kutuyu yanlış yükseklik ve genişlikle cezalandırır. Kare kök, küçük sınırlayıcı kutulardaki erors'ların büyük sınırlayıcı kutulardaki hatalardan daha cezalandırıcı olması için mevcuttur.
bu terim, güven skorunu nesne ile bir nesne olduğunda tahmin arasındaki IOU'ya eşit yapmaya çalışır.
Hücrede hiçbir nesne olmadığında yakın güven skoru yapmaya çalışır $0$
Bu basit bir sınıflandırma kaybıdır (makalede açıklanmamıştır)

— user7573566
kaynak

1

İkinci nokta olmalı B*(5+C)mı? En azından YOLO v3 için durum böyle.

— sachinruk

@sachinruk bu, orijinal YOLO ile v2 ve v3 arasındaki modeldeki değişiklikleri yansıtır.

— David Refaeli

12

\begin{aligned} λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - {\hat{y}}_{i})^{2}] \\ + λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] \\ + \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} (C_{i} - {\hat{C}}_{i})^{2} + λ_{n o o b j} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{n o o b j} (C_{i} - {\hat{C}}_{i})^{2} \\ + \sum_{i = 0}^{S^{2}} 1_{i}^{o b j} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} \end{aligned}

$\begin{align} &\lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(x_i-\hat{x}_i)^2 + (y_i-\hat{y}_i)^2 ] \\&+ \lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(\sqrt{w_i}-\sqrt{\hat{w}_i})^2 +(\sqrt{h_i}-\sqrt{\hat{h}_i})^2 ]\\ &+ \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}(C_i - \hat{C}_i)^2 + \lambda_{noobj}\sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{noobj}(C_i - \hat{C}_i)^2 \\ &+ \sum_{i=0}^{S^2} \mathbb{1}_{i}^{obj}\sum_{c \in classes}(p_i(c) - \hat{p}_i(c))^2 \\ \end{align}$

YOLOv2 Kaybı işlevi korkutucu görünmüyor mu? Aslında değil! Çevresindeki en cesur, en akıllı kayıp işlevlerinden biridir.

İlk olarak ağın gerçekte ne öngördüğüne bakalım.

Özetlersek, YOLOv2 13x13 özellik haritasında tespitleri tahmin eder, bu yüzden toplamda 169 harita / hücremiz var.

$t_x, t_y, t_w,$ $t_h$

Endişelenecek birkaç şey var:

$x_i, y_i$
$w_i, h_i$
$C_i$
$p_i(c)$
$𝟙_{i}^{obj}$ $𝟙_{i}^{noobj}$ $𝟙_{i}^{obj}$ $𝟙_{i}^{noobj}$ $𝟙_{i}^{obj}$ Bu, 1 olduğu takdirde orada bir nesne olup olmadığını hücrede ve 0.
Bunu 169 hücrenin tamamı için yapmamız gerekiyor ve
Bunu 5 kez yapmalıyız (her bir bağlantı kutusu için).

Çapraz entropi fonksiyonunu kullanan sınıflandırma kaybı hariç tüm kayıplar ortalama karelerdeki hatalardır .

Şimdi görüntüdeki kodu kıralım.

Her bir Anchor Box için kayıpları hesaplamamız gerekiyor (toplamda 5)
- $\sum_{j=0}^B$
Bunu S = 12 olan 13x13 hücrenin her biri için yapmamız gerekiyor (endeksi 0'dan başlattığımız için)
- $\sum_{i=0}^{S^2}$
$𝟙_{ij}^{obj}$ $i$
$𝟙_{ij}^{noobj}$ $i$
$𝟙_{i}^{obj}$
λ'lar sabittir. λ, daha fazla algılamaya odaklanmak için koordinatlar için en yüksektir (unutmayın, YOLOv2'de önce tanıma için eğitiyoruz ve daha sonra algılama için tanıma için ağır cezalandırma zaman kaybıdır, en iyi sınırlayıcı kutuları almaya odaklanıyoruz!)
$w_i, h_i$

var1 | var2 | (var1 - var2) ^ 2 | (sqrtvar1 - sqrtvar2) ^ 2

0.0300 | 0.020 | 9.99e-05 | 0.001

0,0330 | 0,022 | 0.00012 | 0.0011

0.0693 | 0.046 | 0.000533 | 0,00233

0.2148 | 0.143 | 0.00512 | 0,00723

0.3030 | 0.202 | 0.01 | 0.01

0.8808 | 0.587 | 0.0862 | 0,0296

4.4920 | 2.994 | 2.2421 | 0,1512

Korkutucu değil, değil mi?

Daha fazla bilgi için BURAYI okuyun .

— RShravan
kaynak

1

\ Sum içindeki i ve j 0 yerine 1'den başlamalı mı?

— webbertiger

1

Evet, bu doğru webertiger, cevabı buna göre güncelledi. Teşekkürler!

— RShravan

1_{i j}^{o b j}

$\mathbb{1}_{ij}^{obj}$

1

S^{2} - 1

$S^2 -1$

4

@RShravan, diyorsunuz ki: "Çapraz entropi fonksiyonunu kullanan sınıflandırma kaybı hariç, tüm kayıplar ortalama kare hatalarıdır". Açıklayabilir misiniz? Bu denklemde MSE olarak da görünüyor. Şimdiden teşekkürler

— Julian

3

Kayıp fonksiyonunuz YOLO v1 için değil, YOLO v1 içindir. Ayrıca iki kayıp fonksiyonundaki farkla karıştırıldım ve birçok insan gibi görünüyor: https://groups.google.com/forum/#!topic/darknet/TJ4dN9R4iJk

YOLOv2 makalesi, YOLOv1'den mimarideki farkı şu şekilde açıklıyor:

Tamamen bağlı katmanları YOLO'dan (v1) kaldırır ve sınırlayıcı kutuları tahmin etmek için bağlantı kutuları kullanırız ... Bağlantı kutularına geçtiğimizde, sınıf tahmin mekanizmasını mekansal konumdan ayırırız ve bunun yerine her bağlantı kutusu için sınıf ve nesneyi tahmin ederiz.

$p_i(c)$ $i$ $c$ $j$

YOLOv2'nin kayıp işlevini tahmin etmeye ve burada tartışmaya çalışıyorum: https://fairyonice.github.io/Part_4_Object_Detection_with_Yolo_using_VOC_2012_data_loss.html

— FairyOnIce
kaynak

1

İşte Eğitim Notum

Kayıp fonksiyonu: toplam kare hatası

$λ_{c o o r d} = 5$ $\lambda_{coord} = 5$ $\lambda_{noobj}$
Her obejct için sadece bir sınırlayıcı kutu sorumlu olmalıdır. Bir öngörücüyü, temel öngörüyle en yüksek akım IOU'suna sahip bir nesneyi tahmin etmekten sorumlu olacak şekilde atarız.

a. Sınırlı kutu koordinatından kayıp (x, y) Kaybın bir ızgara hücresinden bir sınırlayıcı kutudan geldiğini unutmayın. Nesne ızgara hücresinde yer gerçeği olarak olmasa bile.

{\begin{cases} λ_{c o o r d} \sum_{i = 0}^{S^{2}} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - \hat{y_{i}})^{2}] & responsible bounding box \\ 0 & other \end{cases}

$\begin{cases} \lambda_{coord} \sum^{S^2}_{i=0} [(x_i - \hat{x}_i)^2 + (y_i - \hat{y_i})^2] &\text{responsible bounding box} \\ 0 &\text{ other} \\ \end {cases}$

b. Genişlik w ve yükseklik h'den kayıp. Nesne, ızgara hücresinde zemin gerçekliği olarak olmasa bile, kaybın bir ızgara hücresinden bir sınırlayıcı kutudan geldiğini unutmayın.

{\begin{cases} λ_{c o o r d} \sum_{i = 0}^{S^{2}} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] & responsible bounding box \\ 0 & other \end{cases}

$\begin {cases} \lambda_{coord} \sum^{S^2}_{i=0} [(\sqrt{w_i} - \sqrt{\hat{w}_i})^2 + (\sqrt{h_i} - \sqrt{\hat{h}_i})^2] &\text{responsible bounding box} \\ 0 &\text{ other} \\ \end {cases}$

c. Her bağlı kutuya olan güven kaybı. Nesne, ızgara hücresinde zemin gerçeği olarak olmasa bile, kaybın bir ızgara hücresinden bir sınırlayıcı kutudan geldiği anlamına gelmez.

{\begin{cases} \sum_{i = 0}^{S^{2}} (C_{i} - {\hat{C}}_{i})^{2} & obj in grid cell and responsible bounding box \\ λ_{n o o b j} \sum_{i = 0}^{S^{2}} (C_{i} - {\hat{C}}_{i})^{2} & obj not in grid cell and responsible bounding box \\ 0 & other \end{cases}

$\begin {cases} \sum^{S^2}_{i=0}(C_i - \hat{C}_i)^2 &\text{obj in grid cell and responsible bounding box} \\ \lambda_{noobj} \sum^{S^2}_{i=0}(C_i - \hat{C}_i)^2 &\text{obj not in grid cell and responsible bounding box} \\ 0 &\text{other} \end {cases}$

{\begin{cases} \sum_{i = 0}^{S^{2}} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} & obj in grid cell \\ 0 & other \end{cases}

$\begin {cases} \sum^{S^2}_{i=0} \sum_{c \in classes} (p_i(c) - \hat{p}_i(c))^2 &\text{obj in grid cell}\\ 0 &\text{other} \\ \end {cases}$

Kayıp fonksiyonu sadece ızgara hücresinde obj varsa sınıflandırmayı cezalandırır. Ayrıca, bu kutunun zemin kutusundan sorumlu olması durumunda sınırlayıcı kutu koordinatını da cezalandırır (en yüksek IOU)

— roy
kaynak

Makalede 'C' ile ilgili soru, güven, IOU ile çarpılan nesne ya da hiç nesne değerinin çarpımıdır; Bu sadece test süresi için mi yoksa eğitim maliyeti işlevi için de mi kullanılıyor? Ben sadece çıktı ve etiket (sadece ızgara değerleri ile yaptığımız gibi) C değerini çıkarmak düşündüm, ama bu yanlış mı?

— moondra

0

Yazdığınız kayıp formülü , v2 veya v3 kaybından değil , orijinal YOLO kağıt kaybından kaynaklanır.

Sürümler arasında bazı büyük farklılıklar vardır. Makaleleri okumanızı veya kod uygulamalarını kontrol etmenizi öneririm. Makaleler: v2 , v3 .

Fark ettiğim bazı büyük farklılıklar:

Sınıf olasılık sınırlayıcı kutusu başına hesaplanan (ve bu nedenle çıkış şimdi S'dir * S * B * yerine S (+ 5 ° C) S (B * 5 + C))
Sınırlayıcı kutu koordinatları artık farklı bir temsile sahip
V3'te 3 farklı "ölçek" boyunca 3 kutu kullanırlar

Sen kaybının asıl mesele ayrıntılarına girmeden deneyebilirsiniz, ya piton bakarak / uygulama keras v2 , v3 (fonksiyon yolo_loss için göz) veya doğrudan c uygulaması en v3 (delta_yolo_box için görünüm ve delta_yolo_class).

— David Refaeli
kaynak