Olasılıkların oranı ve PDF'lerin oranı

Kümeleme sorununu çözmek için Bayes kullanıyorum. Bazı hesaplamalar yaptıktan sonra iki olasılık oranını elde etme ihtiyacım var:

P (A) / P (B)

$P(A)/P(B)$

elde edebilme . Bu olasılıklar, bu cevapta açıklandığı gibi iki farklı 2D çok değişkenli KDE'nin entegrasyonu ile elde edilir : $P(H|D)$

P (A) = \iint_{x, y : \hat{f} (x, y) < \hat{f} (r_{a}, s_{a})} \hat{f} (x, y) d x d y

$P(A) = \iint_{x, y : \hat{f}(x, y) < \hat{f}(r_a, s_a)} \hat{f}(x,y)\,dx\,dy$

P (B) = \iint_{x, y : \hat{g} (x, y) < \hat{g} (r_{b}, s_{b})} \hat{g} (x, y) d x d y

$P(B) = \iint_{x, y : \hat{g}(x, y) < \hat{g}(r_b, s_b)} \hat{g}(x,y)\,dx\,dy$

burada $\hat{f}(x, y)$ ve $\hat{g}(x, y)$ KDE'lerdir ve entegrasyon $\hat{f}(r_a, s_a)$ ve eşiklerinin altındaki tüm noktalar için yapılır $\hat{g}(r_b, s_b)$ . Her iki KDE de bir Gauss çekirdeği kullanır . Çalıştığımdakine benzer bir KDE'nin temsili bir görüntüsü burada görülebilir: Çekirdek yoğunluğu tahmincisini 2B'ye entegre etme .

Bir pythonişlev stats.gaussian_kde işleviyle KDE'leri hesaplıyorum , bu yüzden bunun için aşağıdaki genel formu varsayıyorum:

K D E (x, y) = \frac{1}{n} \sum_{i = 1}^{n} - \frac{1}{2 h^{2}} e^{- \frac{(x - x_{i})^{2} + (y - y_{i})^{2}}{2 h^{2}}}

$KDE(x,y) = \frac{1}{n} \sum_{i=1}^{n} -\frac{1}{2h^2} e^{-\frac{(x-x_i)^2 + (y-y_i)^2}{2h^2}}$

burada nnoktalarının zaman Dizinin uzunluğu ve hkullanılan bant genişliği.

Yukarıdaki integraller, oldukça hesaplamalı olarak pahalı olan bir Monte Carlo işlemi uygulanarak hesaplanır. Bu gibi durumlarda, olasılıklar oranını, eşit derecede geçerli sonuçlar elde etmek için eşik noktalarında değerlendirilen PDF'lerin (KDE'ler) oranıyla değiştirmenin mümkün olduğunu bir yerde okudum (nerede unuttum, üzgünüm). KDE'lerin oranının hesaplanması, MC ile integrallerin oranını hesaplamaktan daha büyük büyüklük sıralarıdır.

Böylece soru bu ifadenin geçerliliğine indirgenmiştir:

\frac{P (A)}{P (B)} = \frac{\hat{f} (r_{a}, s_{a})}{\hat{g} (r_{b}, s_{b})}

$\frac{P(A)}{P(B)} = \frac{\hat{f}(r_a, s_a)}{\hat{g}(r_b, s_b)}$

Hangi koşullar altında, varsa, bu ilişkinin doğru olduğunu söyleyebilir miyim?

[sabit yazım hatası (EDIT)]

Ekle :

İşte temel olarak aynı soru ama daha matematiksel bir formda.

— Cebrail
kaynak

Uygun integraller için ortalama değerli teorem ile sağlandığını unutmayın.

r_{a, b}, s_{a, b}

$r_{a,b}, s_{a,b}$

— Dave

Değirmen Oranının alakalı olabileceğine inanıyorum .

— whuber

@whuber görünüşe göre ben P(X)hesaplamak kaçınmaya çalışıyorum olan değeri olduğunu bilmek gerektirir . Bu parametrenin alaka düzeyine göre biraz genişletebilir misiniz?

— Gabriel

KDE, Normal dağılımların bir karışımıdır. Bir tanesine bakalım.

ve tanımları, değerlerinin düzlemdeki çeviriler ve yeniden ölçeklendirmeler altında değişmez olduğunu gösterir, bu nedenle PDF ile standart Normal dağılımı dikkate almak yeterlidir . Eşitsizlik $P(A)$ $P(B)$ $f$

f (x, y) \leq f (r, s)

$f(x,y) \le f(r,s)$

eşittir

x^{2} + y^{2} \geq r^{2} + s^{2} .

$x^2 + y^2 \ge r^2 + s^2.$

Kutupsal koordinatlar , integralin yeniden yazılmasına izin verir $\rho, \theta$

P (r, s) = \frac{1}{2 π} \int_{0}^{2 π} \int_{\sqrt{r^{2} + s^{2}}}^{\infty} ρ \exp (- ρ^{2} / 2) d ρ d θ = \exp (- (r^{2} + s^{2}) / 2) = 2 π f (r, s) .

$P(r,s) = \frac{1}{2\pi}\int_0^{2\pi}\int_\sqrt{r^2+s^2}^\infty \rho \exp(-\rho^2/2) d\rho d\theta= \exp(-(r^2+s^2)/2) = 2\pi f(r,s).$

Şimdi karışımı düşünün. Doğrusal olduğu için,

\begin{aligned} P (r, s) & = \frac{1}{n} \sum_{i} 2 π f ((r - x_{i}) / h, (s - y_{i}) / h) \\ = 2 π h^{2} (\frac{1}{n} \sum_{i} \frac{1}{h^{2}} f ((r - x_{i}) / h, (s - y_{i}) / h)) \\ = 2 π h^{2} K D E (r, s) . \end{aligned}

$\eqalign{ P(r,s) &= \frac{1}{n}\sum_i 2\pi f((r-x_i)/h, (s-y_i)/h) \\ &= 2\pi h^2\left(\frac{1}{n}\sum_i \frac{1}{h^2} f((r-x_i)/h, (s-y_i)/h)\right) \\ &=2\pi h^2 KDE(r,s). }$

Aslında, ve orantılıdır. Orantılılık sabiti . $f$ $P$ $2\pi h^2$

ve arasındaki böyle bir orantılılık ilişkisinin özel $P$ $f$ olması, basit bir karşı örnek düşünülerek takdir edilebilir. Let ölçülebilir grubu üzerinde muntazam bir dağılımı birim alan ve ölçülebilir grubu üzerinde muntazam bir dağılımı gelen ayrık olan ve alan vardır . Daha sonra PDF ile karışım sabit bir değere sahip ile , üzerinde , ve başka bir yerde, sıfırdır. Dikkate alınması gereken üç durum vardır: $f_1$ $A_1$ $f_2$ $A_2$ $A_1$ $\mu\gt 1$ $f=f_1/2 + f_2/2$ $1/2$ $A_1$ $1/(2\mu)$ $A_2$

$(r,s)\in A_1$ . Burada 1/2 maksimuma, ulaşır . oranı . $f(r,s)=1/2$ $P(r,s)=1$ $f(r,s)/P(r,s) = 1/2$
$(r,s)\in A_2$ . Burada kesinlikle 2'den küçük ama büyüktür . Böylece entegrasyon bölgesi tamamlayıcısıdır ve ortaya çıkan integral / eşit olmalıdır . oranı . $f(r,s)$ $1/2$ $0$ $A_1$ $1/2$ $f(r,s)/P(r,s) = (1/(2\mu))/(1/2) = 1/\mu$
Başka yerlerde, sıfırdır ve integrali sıfırdır. $f$ $P$

Açıkça görüldüğü gibi (tanımlandığı yerde) oran sabit değildir ve ile arasında değişir . Bu dağılım sürekli olmamakla birlikte, buna Normal dağıtım eklenerek yapılabilir . her iki özdeğerini de küçük yaparak , dağılımı çok az değiştirecek ve niteliksel olarak aynı sonuçları üretecektir - ancak şimdi oranının değerleri aralıktaki tüm sayıları içerecektir . $1$ $1/\mu \ne 1$ $(0,\Sigma)$ $\Sigma$ $f/P$ $[1,1/\mu]$

Bu sonuç diğer boyutlara da genelleme yapmaz. Aslında bu cevabı başlatan aynı hesaplama, eksik bir Gamma fonksiyonu olduğunu ve açıkça aynı olmadığını gösterir . İki boyutlu özel entegrasyon belirterek tarafından takdir edilebilir olduğu esas ilgilidir mesafeleri ve ne zaman, normal olarak dağıtılır, mesafe işlevi vardır olduğu - dağıtım üstel dağılım. Üstel fonksiyon kendi türevi ile orantılı olarak benzersizdir - bu nedenle ve integral orantılı olmalıdır. $P$ $f$ $P$ $\chi^2(2)$ $f$ $P$

— whuber
kaynak

Bu inanılmaz bir cevap whuber, çok teşekkür ederim. Burada yazdığınız her şeyi tam olarak işlemem biraz zaman alacaktır, ancak size hesaplamalara tamamen güveniyorum, bu da soruyu çözülmüş olarak işaretlediğim anlamına geliyor. Şerefe.

— Gabriel