L2, bir posterior kaybın hesaplanması için iyi bir kayıp fonksiyonuna ne örnek olabilir?

L2 kaybı, L0 ve L1 kaybı ile birlikte, posterior beklenen minimum kayıp ile posterior özetlenirken kullanılan üç yaygın "varsayılan" kayıp fonksiyonudur. Bunun bir nedeni belki de hesaplanması nispeten kolaydır (en azından 1d dağılımları için), L0 modda, L1 medyanda ve L2 ortalamadadır. Öğretirken, L0 ve L1'in makul kayıp fonksiyonları olduğu senaryolar (sadece "varsayılan" değil) ile gelebilirim, ancak L2'nin makul bir kayıp fonksiyonu olacağı bir senaryo ile mücadele ediyorum. Benim sorum:

Pedagojik amaçlar için, L2'nin minimum posterior kaybı hesaplamak için iyi bir kayıp fonksiyonu olduğu zaman bir örnek ne olabilir?

L0 için bahis senaryoları bulmak kolaydır. Yaklaşmakta olan bir futbol oyununda toplam gol sayısı üzerine bir posterior hesapladığınızı ve gol sayısını doğru tahmin ederseniz ve aksi halde kaybederseniz $$$ kazandığınız yere bir bahis yapacağınızı varsayalım. O zaman L0 makul bir kayıp fonksiyonudur.

L1 örneğim biraz karışık. Birçok havaalanından birine ulaşacak ve sonra size araba ile seyahat edecek bir arkadaşla buluşuyorsunuz, sorun hangi havaalanını bilmiyor olmanız (ve havada olduğu için arkadaşınızı arayamamanız). Hangi havaalanına inebileceğine dair bir posterior göz önüne alındığında, onunla aranızdaki mesafenin küçük olduğu için, kendinizi konumlandırmak için iyi bir yer nerede? Burada, arabasının doğrudan bulunduğunuz yere sabit hızda gideceğini basitleştiren varsayımlar yaparsanız, beklenen L1 kaybını en aza indiren nokta makul görünmektedir. Yani, bir saatlik bekleme süresi 30 dakikalık bekleme süresinin iki katıdır.

1. L2 "kolay". Doğrusal regresyon, SVD, vb.Gibi standart matris yöntemleri yaparsanız varsayılan olarak aldığınız şeydir. Gauss süreçleri gibi birçok meraklı yöntemle L2 kaybını kullanarak kesin bir cevap almak, diğer kayıp fonksiyonlarını kullanarak kesin bir cevap almaktan daha kolaydır.

2. İlgili olarak, L2 kaybını tam olarak 2. derece Taylor yaklaşımı kullanarak alabilirsiniz, bu çoğu kayıp fonksiyonu için geçerli değildir (örn. Çapraz entropi,). Bu, Newton yöntemi gibi 2. dereceden yöntemlerle optimizasyonu kolaylaştırır. Diğer kayıp fonksiyonları ile başa çıkmak için birçok yöntem hala aynı nedenden ötürü kaputun altında L2 kaybı için yöntemler kullanmaktadır (örn.

3. L2 Gauss dağılımlarıyla yakından ilişkilidir ve Merkezi Limit Teoremi Gauss dağılımlarını yaygınlaştırır. Veri oluşturma süreciniz (şartlı olarak) Gaussian ise, L2 en etkili tahmin edicidir.

4. L2 kaybı, toplam varyans yasası nedeniyle iyi ayrışır. Bu, gizli değişkenlere sahip bazı grafik modellerin özellikle uymasını kolaylaştırır.

5. L2 korkunç tahminleri orantısız bir şekilde cezalandırır. Bu iyi veya kötü olabilir, ancak genellikle oldukça mantıklıdır. Bir saatlik bekleme, ortalama olarak 30 dakikalık bekleme süresinin dört katı kadar kötü olabilir; bu, birçok kişinin randevularını kaçırmasına neden oluyorsa.