Monte Carlo ile Kullback Leibler (KL) Diverjansını Tahmin Edin

10

F ve g'nin iki sürekli dağılımı arasındaki KL sapmasını tahmin etmek istiyorum. Ancak, f veya g için yoğunluğu yazamıyorum. Bazı yöntemlerle (örneğin, markov zinciri monte carlo) hem f hem de g'den numune alabilirim.

F'den g'ye KL sapması şöyle tanımlanır

D_{K L} (f | | g) = \int_{- \infty}^{\infty} f (x) günlük (\frac{f (x)}{g (x)}) d x

$D_{KL}(f || g) = \int_{-\infty}^{\infty} f(x) \log\left(\frac{f(x)}{g(x)}\right) dx$

Bu, ilgili beklentisidir, böylece bazı monte carlo tahminleri hayal edebilirsiniz $\log\left(\frac{f(x)}{g(x)}\right)$

\frac{1}{N-} Σ_{ben}^{N-} günlük (\frac{f (x_{ben})}{g (x_{ben})})

$\frac{1}{N}\sum_i^N \log\left(\frac{f(x_i)}{g(x_i)}\right)$

Burada i , i = 1, ..., N için f'den (yani alınan N örneklerini endeksler $x_i \sim f()$

Ancak, f () ve g () bilmediğim için, bu monte carlo tahminini bile kullanamıyorum. Bu durumda KL'yi tahmin etmenin standart yolu nedir?

EDIT: f () veya g () için normalleştirilmemiş yoğunluğu bilmiyorum

kullback-leibler

— frelk
kaynak

Ecdfs kullanmayı düşündünüz mü?

— Toby

Bu işe yarayacaktır ancak sert f ve g seçimi için (yavaş veya kapalı kuyruklar) keyfi olarak yavaş olabilir. Örnekleri kuyruklardan uzak tutmaya karar verirseniz, roc'u üst sınırlamada daha fazla şansınız olabilir.

— Christian Chapman

Esasen bir kopya: stats.stackexchange.com/questions/211175/…

— kjetil b halvorsen

7

Bence değerlendirebilirsin $f$ ve $g$ normalleştirici bir sabite kadar. Göstermek $f(x) = f_u(x)/c_f$ ve $g(x) = g_u(x)/c_g$ .

Kullanılabilecek tutarlı bir tahmin edici

\hat{D_{K L}} (f | | g) = {[n^{- 1} \sum_{j} f_{u} (x_{j}) / π_{f} (x_{j})]}^{- 1} \frac{1}{N} \sum_{i}^{N} [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})}) \frac{f_{u} (z_{i})}{π_{r} (z_{i})}] - \log (\hat{r})

$\widehat{D_{KL}}(f || g) = \left[n^{-1} \sum_j f_u(x_j)/\pi_f(x_j)\right]^{-1}\frac{1}{N}\sum_i^N \left[\log\left(\frac{f_u(z_i)}{g_u(z_i)}\right)\frac{f_u(z_i)}{\pi_r(z_i)}\right] - \log (\hat{r})$ nerede

\begin{matrix} (1) & \hat{r} = \frac{1 / n}{1 / n} \frac{\underset{j}{Σ} f_{u} (x_{j}) / π_{f} (x_{j})}{\underset{j}{Σ} g_{u} (y_{j}) / π_{g} (y_{j})} . \end{matrix}

$\hat{r} = \frac{1/n}{1/n}\frac{\sum_j f_u(x_j)/\pi_f(x_j)}{\sum_j g_u(y_j)/\pi_g(y_j)} \tag{1}.$ oran için önemli bir örnekleme tahmin edicisidir

c_{f} / c_{g}

$c_f/c_g$ . Burada kullan

π_{f}

$\pi_f$ ve

π_{g}

$\pi_g$ enstrümantal yoğunluk olarak

f_{u}

$f_u$ ve

g_{u}

$g_u$ sırasıyla ve

π_{r}

$\pi_r$ normal olmayan yoğunlukların log oranını hedeflemek.

İzin ver $\{x_i\} \sim \pi_f$ , $\{y_i\} \sim \pi_g$ , ve $\{z_i\} \sim \pi_r$ . (1) 'in payı $c_f$ . Payda yakınsar $c_g$ . Oran, sürekli haritalama teoremi ile tutarlıdır. Oranın günlüğü tekrar sürekli haritalama ile tutarlıdır.

Tahmincinin diğer kısmı ile ilgili olarak,

\frac{1}{N} \sum_{i}^{N} [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})}) \frac{f_{u} (z_{i})}{π_{r} (z_{i})}] \overset{as}{\to} c_{f} E [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})})]

$\frac{1}{N}\sum_i^N \left[\log\left(\frac{f_u(z_i)}{g_u(z_i)}\right)\frac{f_u(z_i)}{\pi_r(z_i)}\right] \overset{\text{as}}{\to} c_f E\left[ \log\left(\frac{f_u(z_i)}{g_u(z_i)}\right) \right]$ büyük sayılar kanunu.

Motivasyonum şu:

\begin{aligned} D_{K L} (f | | g) & = \int_{- \infty}^{\infty} f (x) günlük (\frac{f (x)}{g (x)}) d x \\ = \int_{- \infty}^{\infty} f (x) {günlük [\frac{f_{u} (x)}{g_{u} (x)}] + günlük [\frac{c_{g}}{c_{f}}]} d x \\ = E_{f} [günlük \frac{f_{u} (x)}{g_{u} (x)}] + günlük [\frac{c_{g}}{c_{f}}] \\ = c_{f}^{- 1} E_{π_{r}} [günlük \frac{f_{u} (x)}{g_{u} (x)} \frac{f_{u} (x)}{π_{r} (x)}] + günlük [\frac{c_{g}}{c_{f}}] . \end{aligned}

$\begin{align*} D_{KL}(f || g) &= \int_{-\infty}^{\infty} f(x) \log\left(\frac{f(x)}{g(x)}\right) dx \\ &= \int_{-\infty}^{\infty} f(x)\left\{ \log \left[\frac{f_u(x)}{g_u(x)} \right] + \log \left[\frac{c_g}{c_f} \right]\right\} dx \\ &= E_f\left[\log \frac{f_u(x)}{g_u(x)} \right] + \log \left[\frac{c_g}{c_f} \right] \\ &= c_f^{-1} E_{\pi_r}\left[\log \frac{f_u(x)}{g_u(x)}\frac{f_u(x)}{\pi_r(x)} \right] + \log \left[\frac{c_g}{c_f} \right]. \end{align*}$ Bu yüzden onu izlenebilir parçalara ayırıyorum.

Olabilirlik oranının nasıl simüle edileceğiyle ilgili daha fazla fikir için, birkaç tane içeren bir kağıt buldum: https://projecteuclid.org/download/pdf_1/euclid.aos/1031594732

— Taylor
kaynak

(+1) Burada, hedef dağılım, örneklediğiniz dağıtımdan daha büyük kuyruklara sahipse ve / veya boyutların sayısının çok fazla olması durumunda önem örneklemesinin son derece yüksek varyansa (sonsuz varyansa) sahip olabileceğini belirtmek gerekir.

— David J. Harris

DavidJ.Harris çok çok doğru

— Taylor

6

Burada sadece modellerden örnek alabileceğinizi varsayıyorum; normal olmayan bir yoğunluk fonksiyonu mevcut değildir.

Sen yaz

D_{K L} (f | | g) = \int_{- \infty}^{\infty} f (x) günlük (\underset{=: r}{\underset{⏟}{\frac{f (x)}{g (x)}}}) d x,

$D_{KL}(f || g) = \int_{-\infty}^{\infty} f(x) \log\left(\underbrace{\frac{f(x)}{g(x)}}_{=: r}\right) dx,$

burada olasılıkların oranını $r$ . Alex Smola, farklı bir bağlamda , sadece bir sınıflandırıcı eğiterek bu oranları "kolayca" tahmin edebileceğinizi yazıyor . Bir sınıflandırıcı aldığınızı varsayalım $p(f|x)$ , bu size bir gözlemin $x$ tarafından oluşturuldu $f$ . Bunu not et $p(g|x) = 1 - p(f|x)$ . Sonra:

r = \frac{p (x | f)}{p (x | g)} = \frac{p (f | x) p (x) p (g)}{p (g | x) p (x) p (f)} = \frac{p (f | x)}{p (g | x)},

$r = \frac{p(x|f)}{p(x|g)} \\ = \frac{p(f|x) {p(x) p(g)}}{p(g|x)p(x) p(f)} \\ = \frac{p(f|x)}{p(g|x)},$

burada ilk adım Bayes'e, son adım ise $p(g) = p(f)$ .

Böyle bir sınıflandırıcı almak iki nedenden dolayı oldukça kolay olabilir.

İlk olarak, stokastik güncellemeler yapabilirsiniz. Bu, lojistik regresyon veya sinir ağları için tipik olan degrade tabanlı bir optimize edici kullanıyorsanız, her birinden bir örnek çizebileceğiniz anlamına gelir. $f$ ve $g$ ve bir güncelleme yapın.

İkincisi, neredeyse sınırsız veriye sahip olduğunuz için, $f$ ve $g$ ölüme - aşırı takma veya benzeri şeyler için endişelenmenize gerek yoktur.

— bayerj
kaynak

0

@Bayerj tarafından bahsedilen olasılık sınıflandırıcı yönteminin yanı sıra, [1-2] 'de türetilen KL ıraksamasının alt sınırını da kullanabilirsiniz:

K L [f ‖ g] \geq \underset{T}{yudum} {E_{x ~ f} [T (x)] - E_{x ~ g} [tecrübe (T (x) - 1)]},

$\mathrm{KL}[f \Vert g] \ge \sup_{T} \left\{ \mathbb{E}_{x\sim f}\left[ T(x) \right] - \mathbb{E}_{x\sim g} \left[ \exp \left( T(x) - 1 \right)\right] \right\},$ nerede

T : X \to R

$T:\mathcal{X}\to\mathbb{R}$ isteğe bağlı bir işlevdir. Bazı hafif koşullar altında, sınır aşağıdakiler için sıkıdır:

T (x) = 1 + \ln [\frac{f (x)}{g (x)}]

$T(x) = 1 + \ln \left[ \frac{f(x)}{g(x)} \right]$

KL farklılığını tahmin etmek $f$ ve $g$ , fonksiyona alt sınır wrt $T(x)$ .

Referanslar:

[1] Nguyen, X., Wainwright, MJ ve Jordan, MI, 2010. Dışbükey risk minimizasyonu ile diverjans fonksiyonlarını ve olabilirlik oranını tahmin etmek. IEEE Bilgi Teorisi İşlemleri, 56 (11), s.5847-5861.

[2] Nowozin, S., Cseke, B. ve Tomioka, R., 2016. f-gan: Değişken ıraksama minimizasyonu kullanarak üretken nöral örnekleyicilerin eğitimi. Sinirsel bilgi işleme sistemlerindeki ilerlemeler (s. 271-279).

— Cuong
kaynak