Yüzdelik Kayıp İşlevleri

11

Sorunun çözümü:

min_{m} E [| m - X |]

$\min_{m} \; E[|m-X|]$

medyanı olarak iyi bilinir $X$ , ancak kayıp fonksiyonu diğer persantiller için nasıl görünür? Örn: X'in 25. persentili şu çözümdür:

min_{m} E [L (m, X)]

$\min_{m} \; E[ L(m,X) ]$

Bu durumda nedir $L$ ?

expected-value loss-functions

— Cam.Davidson.Pilon
kaynak

12

Let $I$ gösterge işlevi: o eşittir $1$ gerçek argümanlar için ve $0$ aksi. Seçim $0\lt\alpha\lt 1$ ve set

Λ_{α} (x) = α x I (x \geq 0) - (1 - α) x I (x < 0) .

$\Lambda_\alpha(x)=\alpha x\, I(x\ge 0) - (1-\alpha)x\, I(x\lt 0).$

şekil

Bu şekil $\Lambda_{1/5}$ . Sol tarafta ve olan eğimleri yardımcı olmak için doğru bir en boy oranı kullanır . Bu durumda yukarıdaki geziler ağır aşağıda geziler kıyasla düşük ağırlık verilmesinin edilir . $-4/5$ $+1/5$ $0$ $0$

Bu ağırlıklar değerler, denemek için doğal bir fonksiyonudur aşan farklı daha az olan . İlişkili kaybı hesaplayalım ve optimize edelim. $x$ $0$ $x$ $0$

dağıtım işlevi için yazma ve , hesaplama $F$ $X$ $L_\alpha(m,x) = \Lambda_\alpha(x-m)$

\begin{aligned} E_{F} (L_{α} (m, X)) & = \int_{R} Λ_{α} (x - m) d F (x) \\ = α \int_{R} I (x \geq m) (x - m) d F (x) - (1 - α) \int_{R} (x - m) I (x < m) d F (x) \\ = α \int_{m}^{\infty} (x - m) d F (x) - (1 - α) \int_{- \infty}^{m} (x - m) d F (x) . \end{aligned}

$\eqalign{ \mathbb{E}_F(L_\alpha(m,X))&=\int_\mathbb{R} \Lambda_\alpha(x-m)dF(x)\\ &=\alpha\int_\mathbb{R} I(x\ge m)(x-m) dF(x) - (1-\alpha)\int_\mathbb{R} (x-m)I(x\lt m) dF(x)\\ &=\alpha\int_m^\infty(x-m)dF(x) - (1-\alpha)\int_{-\infty}^m(x-m) dF(x). }$

şekil 2

Şöyle Standart normal dağılım ile resimde değişir , toplam olasılık ağırlıklı alanı çizilir. (Eğri, grafiğidir.) için sağ taraftaki grafik , pozitif değerlerin daha düşük ağırlıklandırılmasının etkisini açık bir şekilde gösterir, çünkü bu düşük ağırlık olmadan, grafik kökeni hakkında simetrik olmak. Orta grafik, mavi mürekkebin toplam miktarının ( ) temsil eden mümkün olduğunca az olduğu optimumu gösterir . $m$ $F$ $\Lambda_{1/5}$ $\Lambda_{1/5}(x-m)dF(x)$ $m=0$ $\mathbb{E}_F(L_{1/5}(m,X))\$

Bu işlev farklılaştırılabilir ve bu nedenle ekstremi kritik noktaları inceleyerek bulunabilir. Zincir Kuralı ve hesabın temel teoremini uygulanması ile ilgili olarak türevini elde etmek üzere verir $m$

\begin{aligned} \frac{\partial}{\partial m} E_{F} (L_{α} (m, X)) & = α (0 - \int_{m}^{\infty} d F (x)) - (1 - α) (0 - \int_{- \infty}^{m} d F (x)) \\ = F (m) - α . \end{aligned}

$\eqalign{ \frac{\partial}{\partial m}\mathbb{E}_F(L_\alpha(m,X))&=\alpha\left(0-\int_m^\infty dF(x)\right) - (1-\alpha)\left(0 - \int_{-\infty}^m dF(x)\right)\\ &= F(m) - \alpha. }$

Sürekli dağılımlar için, bu her zaman, tanım gereği, herhangi bir kantili olan bir çözeltisine sahiptir . Sürekli olmayan dağılımlar için bu olabilir bir çözüm ancak en az bir adet olacak olmayan olan Tüm ve Tüm : bu da (tanım gereği) bir kantilidir . $m$ $\alpha$ $X$ $m$ $F(x)-\alpha\lt 0$ $x\lt m$ $F(x)-\alpha\ge 0$ $x\ge m$ $\alpha$ $X$

Son olarak, ve , ne ne de bu kaybı en aza indirmeyeceği açıktır . Bu, kritik noktaların incelenmesini tüketir ve faturaya uyduğunu gösterir. $\alpha\ne 0$ $\alpha\ne 1$ $m\to-\infty$ $m\to\infty$ $\Lambda_\alpha$

Özel bir durum olarak, , soru. $\mathbb{E}_F(2L_{1/2}(m,X)) = \mathbb{E}_F\left(\left|m-x\right|\right)$

— whuber
kaynak

Beklenen kaybın doğru nokta tarafından en aza indirildiğini göstermek için gösterdiğiniz çabayı takdir ediyorum . Kendi cevabım için bunu nasıl yapacağımı merak ediyordum, ama açıklamanız iyi. (+1)

m

$m$

2

Resimlerin 1000 kelimeye bedel olduğunu kanıtladınız. Teşekkürler @whuber =)

— Cam.Davidson.Pilon

8

Bu makalenin cevabı var. Spesifik olmak gerekirse, Kayıp fonksiyonu civarında farklı olasılık kütle bölgelerini çıkarma ile 'dengelemek' olarak yorumlanabilir . Ortanca için bu kütle bölgeleri eşittir: kayıp işlevini orantılı hale getirir (sabitte ihmal edilebilir) medyan için istenen sonucu verir.

L_{0.25} (m, X) = | (X - m) (0.25 - 1 {X > m}) | .

$L_{0.25}(m,X) = \left| \left( X - m \right) \left(0.25 - \mathbf{1}\{ X > m \} \right) \right|.$

0.25

$0.25$

0.25 - 1 {X > m}

$0.25 - \mathbf{1}\{ X > m \}$

L_{0.5} (m, X) = | (X - m) (0.5 - 1 {X > m}) | = | (X - m) \times \pm 0.5 |,

$L_{0.5}(m,X) = \left| \left( X - m \right) \left(0.5 - \mathbf{1}\{ X > m \} \right) \right| = \left| \left( X - m \right) \times \pm 0.5 \right|,$

| X - m |,

$\left| X - m\right|,$

(+1) Aferin! - Wikipedia makalesini nerede arayacağınız belli değildi; kantil regresyonu düşünmeliydin.

— whuber

Teşekkürler @ Matthew, bu harika bir keşif. Yorumlamayı dengelemeyi seviyorum

— Cam.Davidson.Pilon

Hala anlayamıyorum. Bu nereden geliyor? X kuantil seviyenin üzerindeyse, 0.75, aksi takdirde 0.25? Sadece bu?

| (0.25) - 1 X > m) |

$|(0.25)-\mathbb{1}{X>m})|$

(X - m)

$(X-m)$

— IcannotFixThis