Adım adım ters mod otomatik farklılaşma örneği

Bu sorunun buraya ait olup olmadığından emin değilim, ancak optimizasyondaki degrade yöntemleriyle yakından ilgilidir, bu da burada konuyla ilgili görünüyor. Her neyse, başka bir topluluğun bu konuda daha iyi bir uzmanlığı olduğunu düşünüyorsanız, göç etmekten çekinmeyin.

Kısacası, adım adım ters mod otomatik farklılaşma örneği arıyorum . Orada konuyla ilgili çok fazla literatür yok ve mevcut uygulamanın ( TensorFlow'daki gibi ) arkasındaki teoriyi bilmeden anlaşılması zor. Biri biz ayrıntılı olarak göstermek eğer Böylece çok müteşekkir olurum geçmek nasıl, onu işlemek ve ne çıkar hesaplamalı grafiğin.

En çok sorun yaşadığım birkaç soru:

tohumlar - neden onlara ihtiyacımız var?
farklılaşma kurallarını tersine çevir - Farklılaşmayı nasıl ileri süreceğimi biliyorum, ama nasıl geri gideriz? Dan örnekte Örneğin bu bölümde , nasıl olduğunu biliyoruz ? $\bar{w_2}=\bar{w_3}w_1$
sadece sembollerle mi çalışıyoruz yoksa gerçek değerlerden mi geçiyoruz ? Örneğin aynı örnekte , ve sembolleri veya değerleri midir? $w_i$ $\bar{w_i}$

— ffriend
kaynak

"Scikit-Learn & TensorFlow ile Uygulamalı Makine Öğrenimi" Ek D, bence çok iyi bir açıklama yaptı. Bunu öneririm.

— Agustin Barrachina

Diyelim ki ifadesi var ve ve türevlerini bulmak istiyoruz . Ters mod AD, bu görevi 2 parçaya, yani ileri ve geri geçişlere ayırır. $z = x_1x_2 + \sin(x_1)$ $\frac{dz}{dx_1}$ $\frac{dz}{dx_2}$

Doğrudan geçiş

İlk olarak, karmaşık ifademizi bir dizi ilkel ifadeye, yani en fazla tek işlev çağrısından oluşan ifadelere ayrıştırırız. Giriş ve çıkış değişkenlerini tutarlılık için de yeniden adlandırdığımı unutmayın, ancak zorunlu değil:

w_{1} = x_{1}

$w_1 = x_1$

w_{2} = x_{2}

$w_2 = x_2$

w_{3} = w_{1} w_{2}

$w_3 = w_1w_2$

w_{4} = \sin (w_{1})

$w_4 = \sin(w_1)$

w_{5} = w_{3} + w_{4}

$w_5 = w_3 + w_4$

z = w_{5}

$z = w_5$

Bu gösterimin avantajı, her bir ayrı ifade için farklılaşma kurallarının zaten bilinmesidir. Örneğin, türevi biliyoruz olduğu ve böylece . Bu gerçeği aşağıdaki tersine geçişlerde kullanacağız. $\sin$ $\cos$ $\frac{dw_4}{dw_1} = \cos(w_1)$

Temel olarak, ileri geçiş, bu ifadelerin her birini değerlendirmekten ve sonuçları kaydetmekten oluşur. Diyelim ki girdilerimiz: ve . O zaman biz var: $x_1 = 2$ $x_2 = 3$

w_{1} = x_{1} = 2

$w_1 = x_1 = 2$

w_{2} = x_{2} = 3

$w_2 = x_2 = 3$

w_{3} = w_{1} w_{2} = 6

$w_3 = w_1w_2 = 6$

w_{4} = \sin (w_{1}) = 0.9

$w_4 = \sin(w_1) ~= 0.9$

w_{5} = w_{3} + w_{4} = 6.9

$w_5 = w_3 + w_4 = 6.9$

z = w_{5} = 6.9

$z = w_5 = 6.9$

Ters geçiş

Bu sihir başlangıcıydı ve zincir kuralıyla başlıyor . Temel kural olarak, zincir kuralı , bağlı olan ve ardından bağlı olan $t(u(v))$ değişkeni varsa, o zaman şunu belirtir : $u$ $v$

\frac{d t}{d v} = \frac{d t}{d u} \frac{d u}{d v}

$\frac{dt}{dv} = \frac{dt}{du}\frac{du}{dv}$

ya da, eğer $t$ bağlıdır $v$ çeşitli yollar / değişkenler yoluyla $u_i$ , örneğin:

u_{1} = f (v)

$u_1 = f(v)$

u_{2} = g (v)

$u_2 = g(v)$

t = h (u_{1}, u_{2})

$t = h(u_1, u_2)$

o zaman ( burada kanıtına bakınız ):

\frac{d t}{d v} = \sum_{i} \frac{d t}{d u_{i}} \frac{d u_{i}}{d v}

$\frac{dt}{dv} = \sum_i \frac{dt}{du_i}\frac{du_i}{dv}$

Sentezleme grafik açısından, bir son düğüm varsa $z$ ve giriş düğümleri $w_i$ gelen ve yolu $z$ için $w_i$ ara düğümlerin içinden geçer $w_p$ (yani $z = g(w_p)$ burada $w_p = f(w_i)$ ), biz türevi bulabilirsiniz $\frac{dz}{dw_i}$ olarak

\frac{d z}{d w_{i}} = \sum_{p \in p a r e n t s (i)} \frac{d z}{d w_{p}} \frac{d w_{p}}{d w_{i}}

$\frac{dz}{dw_i} = \sum_{p \in parents(i)} \frac{dz}{dw_p} \frac{dw_p}{dw_i}$

Diğer bir deyişle, çıktı değişkeni türevi hesaplamak için $z$ , herhangi bir ara veya giriş değişkeni wrt $w_i$ , sadece ebeveynlerinin türevleri ve ilkel ifade türevi hesaplamak için formül bilmek gerekir $w_p = f(w_i)$ .

Ters geçiş sonunda başlar (yani, $\frac{dz}{dz}$ ) ve tüm bağımlılıklara geriye doğru yayılır. İşte biz ("tohum" ifadesi):

\frac{d z}{d z} = 1

$\frac{dz}{dz} = 1$

Yani "değişim olarak okunabilir $z$ tam olarak aynı değişime sonuçları $z$ oldukça açıktır".

O zaman şunu biliyoruz $z = w_5$ ve diğerleri:

\frac{d z}{d w_{5}} = 1

$\frac{dz}{dw_5} = 1$

$w_5$ doğrusal olarak $w_3$ ve $w_4$ bağlıdır, bu nedenle $\frac{dw_5}{dw_3} = 1$ ve $\frac{dw_5}{dw_4} = 1$ . Zincir kuralını kullanarak bulduklarımız:

\frac{d z}{d w_{3}} = \frac{d z}{d w_{5}} \frac{d w_{5}}{d w_{3}} = 1 \times 1 = 1

$\frac{dz}{dw_3} = \frac{dz}{dw_5} \frac{dw_5}{dw_3} = 1 \times 1 = 1$

\frac{d z}{d w_{4}} = \frac{d z}{d w_{5}} \frac{d w_{5}}{d w_{4}} = 1 \times 1 = 1

$\frac{dz}{dw_4} = \frac{dz}{dw_5} \frac{dw_5}{dw_4} = 1 \times 1 = 1$

$w_3 = w_1w_2$ tanımından ve kısmi türevlerin kurallarından, $\frac{dw_3}{dw_2} = w_1$ . Böylece:

\frac{d z}{d w_{2}} = \frac{d z}{d w_{3}} \frac{d w_{3}}{d w_{2}} = 1 x w_{1} = w_{1}

$\frac{dz}{dw_2} = \frac{dz}{dw_3} \frac{dw_3}{dw_2} = 1 \times w_1 = w_1$

İleriye doğru geçişlerden zaten bildiğimiz gibi:

\frac{d z}{d w_{2}} = w_{1} = 2

$\frac{dz}{dw_2} = w_1 = 2$

Son olarak, $w_1$ katkıda bulunur $z$ ile $w_3$ ve $w_4$ . Daha sonra, kısmi türev kurallarından biliyoruz ki $\frac{dw_3}{dw_1} = w_2$ ve $\frac{dw_4}{dw_1} = \cos(w_1)$ . Böylece:

\frac{d z}{d w_{1}} = \frac{d z}{d w_{3}} \frac{d w_{3}}{d w_{1}} + \frac{d z}{d w_{4}} \frac{d w_{4}}{d w_{1}} = w_{2} + \cos (w_{1})

$\frac{dz}{dw_1} = \frac{dz}{dw_3} \frac{dw_3}{dw_1} + \frac{dz}{dw_4} \frac{dw_4}{dw_1} = w_2 + \cos(w_1)$

Ve yine, bilinen girdiler göz önüne alındığında, bunu hesaplayabiliriz:

\frac{d z}{d w_{1}} = w_{2} + \cos (w_{1}) = 3 + \cos (2) = 2.58

$\frac{dz}{dw_1} = w_2 + \cos(w_1) = 3 + \cos(2) ~= 2.58$

Yana $w_1$ ve $w_2$ için sadece takma adlardır $x_1$ ve $x_2$ , bizim cevap olsun:

\frac{d z}{d x_{1}} = 2.58

$\frac{dz}{dx_1} = 2.58$

\frac{d z}{d x_{2}} = 2

$\frac{dz}{dx_2} = 2$

Ve bu kadar!

Bu açıklama yalnızca skaler girdilerle, yani sayılarla ilgilidir, ancak aslında vektörler ve matrisler gibi çok boyutlu dizilere de uygulanabilir. İfadeleri bu tür nesnelerle ayırt ederken akılda tutulması gereken iki şey:

Türevler, girdilerden veya çıktılardan çok daha yüksek bir boyutsallığa sahip olabilir, örneğin vektör wrt vektörünün türevi bir matristir ve matris türevi, wrt matrisinin 4 boyutlu bir dizi olduğu (bazen bir tensör olarak adlandırılır). Birçok durumda bu türevler çok seyrektir.
$y = f(x)$ $x$ $y$ $y_i$ $y_j$ $x_k$ $\frac{dy_i}{dx_j}$ $y_i$ $x_j$

$\frac{dz}{dw_1} = w_2 + \cos(w_1) = x_2 + \cos(x_1)$

— ffriend
kaynak

Çok faydalı bir soru / cevap. Teşekkürler. Sadece küçük bir eleştiri: açıklama yapmadan bir ağaç yapısına

— ilerliyor gibisiniz

Ayrıca neden tohumlara ihtiyaç duyduğumuzu açıklığa kavuşturmaz.

— MadHatter

\frac{d z}{d z} = 1

$\frac{dz}{dz} = 1$

Teşekkürler! Birden fazla "tohum" ayarlamanız gerektiğinde, genellikle 1 ve 0 seçtiğini fark ettim. Nedenini bilmek istiyorum. Demek istediğim, biri diferansiyel wrt'in kendisinin "kısmını" alır, bu yüzden "1" en azından sezgisel olarak gerekçelendirilir. Peki ya 2'den fazla tohum seçmek zorunda kalırsa?

— MadHatter

Anladığım kadarıyla, yalnızca ileri mod AD'de birden fazla tohum kullanılıyor. Bu durumda ekmeğe göre farklılaştırmak istediğiniz bir giriş değişkeni için tohumu 1 olarak ayarlayın ve çıktı değerine katkıda bulunmamaları için ekimi diğer tüm giriş değişkenleri için 0 olarak ayarlayın. Ters modda, tohumu bir çıkış değişkenine ayarlarsınız ve normalde yalnızca bir çıkış değişkenine sahip olursunuz. Sanırım, birkaç çıkış değişkenli ters mod AD boru hattı oluşturabilir ve hepsini ileri moddakiyle aynı etkiyi elde etmek için bir tanesini 0 olarak ayarlayabilirsiniz, ancak bu seçeneği hiç araştırmadım.

— ffriend