Beta dağılımı nerede?

Eminim herkes burada, zaten Beta dağılımı ait PDF bilir $X \sim B(a,b)$ tarafından verilir

$f(x) = \frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1}$

Bu formülün kökenlerini açıklamak için her yerde avlanıyordum, ama bulamıyorum. Beta dağıtımında bulduğum her makale bu formülü veriyor, birkaç şeklini gösteriyor, sonra doğrudan anlarını tartışmaya devam ediyor ve oradan devam ediyor.

Türetemediğim ve açıklayamadığım matematiksel formülleri kullanmayı sevmiyorum. Diğer dağıtımlar için (örn. Gama veya binom)) öğrenip kullanabileceğim açık bir türev var. Ama Beta dağıtımı için böyle bir şey bulamıyorum.

Benim sorum şu: bu formülün kökenleri neler? Başlangıçta hangi bağlamda geliştirildiyse ilk ilkelerden nasıl türetilebilir?

[Açıklığa kavuşturmak için, Beta dağılımını Bayesçi istatistiklerde nasıl kullanacağımı ya da pratikte sezgisel olarak ne anlama geldiğini sormuyorum (beyzbol örneğini okudum). Sadece PDF'yi nasıl türeteceğimizi bilmek istiyorum. Benzer bir şey soran bir önceki soru vardı, ancak (yanlış düşünüyorum) sorunu ele almayan başka bir sorunun kopyası olarak işaretlendi , bu yüzden şu ana kadar burada herhangi bir yardım bulamadım.]

EDIT 2017-05-06: Sorular için herkese teşekkürler. Kurs eğitmenlerimin bazılarını sorduğumda aldığım cevaplardan birinden istediğimin iyi bir açıklaması olduğunu düşünüyorum:

"Sanırım insanlar normal yoğunluğu, sqrt (n) 'ye bölünen n şeyin toplamının bir limiti olarak türetebilirler ve poisson yoğunluğunu sabit bir oranda meydana gelen olaylar fikrinden türetebilirsiniz. Benzer şekilde, beta yoğunluğu için, yoğunluğu bağımsız olarak ve mantıksal olarak öncesinde beta dağıtımını bir şey yapan şey hakkında bir fikriniz olmalı. "

Yani yorumlarda "ab initio" fikri muhtemelen aradığım şeylere en yakın. Ben bir matematikçi değilim ama türetebileceğim matematiği kullanmakta kendimi çok rahat hissediyorum. Kökeni idare edebilecek benim için çok ileriyse, öyle olsun, ama değilse, anlamak istiyorum.

— Bradshaw olacak
kaynak

Ne türetildi? Binom-konjügat-önceki bir yaklaşım olarak kabul edilebilir değilse, çeşitli alternatifler burada (tek tip bir rastgele değişkenin örneğin sipariş istatistikleri, Gama değişken oranları).

— GeoMatt22

Not: Beta dağıtımının tüm geçmişi, olası her ayrıntıyı içeren bu dağıtımdaki inanılmaz Wikipedia sayfasında sunulmaktadır !

— Xi'an

Önceki soru tekrarı olarak işaretlendi diğer OP bir yorumda sonra ne açıklık sonrasında. whuber, @ Geomatt22'nin yaptığı gibi aynı soruyu sordu: "Bir türetme , kurulacak bir şeyle mantıklı bir bağlantı anlamına gelir. Ne varsaymak istersiniz ?"

— Scortchi - Monica'yı eski durumuna döndürün

@Aksakal ama o zaman soru çok geniş - her türlü yoldan türetilebilir; eğer haklıysanız, soru olası cevaplar

— kapmaktan

Küçük bir tarihsel bağlamın kısa bir tartışması burada (en azından eksik beta işleviyle ilişkisi açısından). Gama dağılımıyla bağlantıları vardır ve birçok başka dağıtımın yanı sıra birçok farklı şekilde oldukça makul bir şekilde ortaya çıkar; Xi'an'ın belirttiği gibi , Pearson sisteminde de tarihsel kökenleri var . Burada ne tür bir cevap arıyorsunuz? Ne verildi / ne türetilmelidir?

— Glen_b-Monica

Yanıtlar:

Eski bir fizikçi olarak nasıl türetilebildiğini görebiliyorum. Fizikçiler böyle devam eder:

B (x, y) = \int_{0}^{1} t^{x - 1} (1 - t)^{y - 1} d t

$B(x,y) = \int_0^1t^{x-1}(1-t)^{y-1}\,dt$

f (s | x, y) = \frac{s^{x - 1} (1 - s)^{y - 1}}{\int_{0}^{1} t^{x - 1} (1 - t)^{y - 1} d t} = \frac{s^{x - 1} (1 - s)^{y - 1}}{B (x, y)},

$f(s|x,y)=\frac{s^{x-1}(1-s)^{y-1}}{\int_0^1t^{x-1}(1-t)^{y-1}\,dt}=\frac{s^{x-1}(1-s)^{y-1}}{B(x,y)},$

0 < s < 1

$0<s<1$

Bunu her zaman tüm integrallere o kadar sık yaparlar ki, düşünmeden bile refleks olarak gerçekleşir. Bu prosedüre "normalleştirme" veya benzer adlar diyorlar. Nasıl Bildirim tanım gereği yoğunluk böyle her zaman pozitif olarak bunu istiyorum tüm özelliklere sahiptir ve birine ekler trivially.

$f(t)$

GÜNCELLEME

@ whuber'ın Beta dağıtımı hakkında neyin özel olduğunu sorurken yukarıdaki mantık sonsuz sayıda uygun integrale uygulanabilir (yukarıdaki cevabımda belirttiğim gibi)?

Özel kısım binom dağılımından gelir . PDF'sini parametreler ve değişkenler için normal gösterimi değil , beta sürümümle benzer gösterimi kullanarak yazacağım :

f^{'} (x, y | s) = (\binom{y + x}{x}) s^{x} (1 - s)^{y}

$f'(x,y|s) = \binom {y+x} x s^x(1-s)^{y}$

Burada, - başarı ve başarısızlık sayısı ve - başarı olasılığı. Bunun Beta dağılımındaki payla nasıl çok benzediğini görebilirsiniz. Aslında, Binom dağıtımı için öncekine bakarsanız, Beta dağıtımı olacaktır. Ayrıca şaşırtıcı değildir, çünkü Beta etki alanı 0 ila 1'dir ve Bayes teoreminde yaptığınız şeydir: aşağıda gösterildiği gibi bu durumda başarı olasılığı olan parametresi üzerine entegre edin : burada - verilen başarı olasılığı (yoğunluğu) Beta dağıtımının önceki ayarları ve $x,y$ $s$ $s$

\hat{f} (x | X) = \frac{f^{'} (X | s) f (s)}{\int_{0}^{1} f^{'} (X | s) f (s) d s},

$\hat f(x|X)=\frac{f'(X|s)f(s)}{\int_0^1 f'(X|s)f(s)ds},$

f (s)

$f(s)$

f^{'} (X | s)

$f'(X|s)$ - olasılık gözönüne alındığında bu veri kümesi (örneğin, gözlenen başarı ve başarısızlık) yoğunluğu .

s

$s$

— Aksakal
kaynak

@ Xi'an OP tarihle ilgilenmiyor gibi görünüyor.

— Aksakal

"Bu formülün kökenlerinin açıklaması ... hangi bağlamda geliştirilseydi" bana tarih gibi geliyor :-).

— whuber

Aynı zamanda hem tarihle hem de ilklerle ilgilenebileceğine inanıyorum. :-) Cevabınız matematiksel olarak doğru olmasına rağmen, ne yazık ki çok genel: sonlu integral ile herhangi bir negatif olmayan fonksiyonun yoğunluğunu yapabilir. Peki, bu özel dağıtım ailesi hakkında bu kadar özel olan ne? Bu nedenle, yaklaşımınız her iki bakış açısını da tatmin edici görünmüyor.

— whuber

@WillBradshaw, evet. Normalde, binom dağılımına olasılık ve deneme sayısı parametresi olarak verildiğinde başarısızlık (veya başarı) sayısının bir fonksiyonu olarak bakarız. Bu şekilde ayrı bir dağıtımdır . Ancak, parametre olarak başarı ve başarısızlık sayısı göz önüne alındığında olasılıkların bir işlevi olarak bakarsanız, yeniden ölçeklendirdiğinizde Beta dağılımı haline gelir, sürekli bir dağıtım, btw.

— Aksakal

Beta dağılımı üzerinde Wikipedia makalesi Karl Pearson, hiç izleri aynen Şian @ tarafından önerdi. Stigler, İstatistik Tarihinde: Belirsizliğin Ölçülmesi 1900'den önce , modern gösterimi kullanarak Pearson'un türetilmesinin kısa bir açıklamasını verir.

— whuber

Thomas Bayes (1763), Beta dağıtımını [bu adı kullanmadan] posterior dağılımın ilk örneği olarak türetmiştir, Leonhard Euler (1766) Glen_b tarafından birkaç yıl boyunca işaret edilen Beta integralindeki çalışmalardan önce gelmektedir , ancak integral de Faktör fonksiyonunu genelleştirmenin bir yolu olarak Euler (1729 veya 1738) [Opera Omnia, I14, 1 {24] bu nedenle normalleştirilen Beta sabiti Euler fonksiyonu olarak da adlandırılabilir . Davies $-$ $B(a,b)$ $-$ Wallis (1616-1703), Newton (1642-1726) ve Stirling'den (1692-1770) daha önce integralin özel durumlarıyla ilgilenenlerden bahseder. Karl Pearson (1895) ilk olarak bu dağıtım ailesini Pearson Tip I olarak kataloglamıştır .

Tarihsel olarak bu sırada görünmese de, Beta dağıtımına sezgisel bir giriş Fisher'in dağılımından yapılır, bu da oranının dağılımına karşılık gelir Burada varyans tahminleri için alışılmış gösterimleri bilerek kullandım iki varyansın eşitliğini test etmek için ortaya çıktı ve motive edildi. Sonra , tersine, eğer , yoğunluğunu bulma $F(p,q)$

ϱ = {\hat{σ}}_{1}^{2} / {\hat{σ}}_{2}^{2} p {\hat{σ}}_{1}^{2} \sim χ_{p}^{2} q {\hat{σ}}_{1}^{2} \sim χ_{q}^{2}

$\varrho=\hat\sigma^2_1\big/\hat\sigma_2^2\qquad p\hat\sigma_1^2\sim\chi^2_p\quad q\hat\sigma_1^2\sim\chi^2_q$

\frac{p ϱ}{q + p ϱ} \sim B (p / 2, q / 2)

$\frac{p\varrho}{q+p\varrho}\sim B(p/2,q/2)$

ω \sim B (a, b)

$\omega\sim B(a,b)$

\frac{ω / a}{(1 - ω) / b} \sim F (2 a, 2 b)

$\dfrac{\omega/a}{(1-\omega)/b}\sim F(2a,2b)$

B (a, b)

$B(a,b)$ dağıtım bu nedenle değişken adımın değişikliğidir: dağılımının yoğunluğundan başlayarak , ve değişkenini göz önünde bulundurarak çeviren Jacobian dönüşüm yoğunluğuna yol açar [burada tüm normalizasyon sabitleri, yoğunluğun bire entegre olmasını empoze ederek elde edilir.

F (p, q)

$F(p,q)$

f_{p, q} (x) \propto {p x / q}^{p / 2 - 1} (1 + p x / q)^{- (p + q) / 2}

$f_{p,q}(x) \propto \{px/q\}^{p/2-1}(1+px/q)^{-(p+q)/2}$

y = \frac{{p x / q}}{{1 + p x / q}} y \in (0, 1)

$y=\frac{\{px/q\}}{\{1+px/q\}}\quad y\in(0,1)$

x = \frac{q y}{p (1 - y)}

$x=\frac{qy}{p(1-y)}$

\frac{d x}{d y} = \frac{q}{p (1 - y)} + \frac{q y}{p (1 - y)^{2}} = \frac{p}{q (1 - y)^{2}}

$\frac{\text{d}x}{\text{d}y}=\frac{q}{p(1-y)}+\frac{qy}{p(1-y)^2}=\frac{p}{q(1-y)^2}$

g (y) \propto y^{p / 2 - 1} (1 - y)^{q / 2 + 1} (1 - y)^{- 2} = y^{p / 2 - 1} (1 - y)^{q / 2 + 1}

$g(y)\propto y^{p/2-1}(1-y)^{q/2+1}(1-y)^{-2}=y^{p/2-1}(1-y)^{q/2+1}$

— Xi'an
kaynak

+1. K. Pearson'ın sadece Beta dağılımlarını "kataloglamadığını" belirtmek gerekir: bunları Binom için fark denklemleri ve Normal dağılım için diferansiyel denklemler arasında gözlemlediği bir ilişkiden esinlenen bir diferansiyel denklemler ailesinin çözümleriyle türetmiştir . Binom fark denkleminin hipergeometrik dağılıma genelleştirilmesi, çözümleri "Tip I" ve "Tip II" Beta dağılımlarını içeren diferansiyel denklemin genelleştirilmesini sağlamıştır. Bu tam olarak OP'nin aradığı ab initio türetme türüdür .

— whuber

Bu cevabı inceleyerek çok şey öğrenebileceğimi düşünüyorum. Şu anda benim için çok gelişmiş, ama zamanım olduğunda geri döneceğim ve bahsettiğiniz konuları araştıracağım, sonra anlamaya çalışın. Çok teşekkürler. :)

— Bradshaw

Her şeyden önce, kafamdaki kavramların matematiksel olarak kesin açıklamalarında iyi değilim, ancak basit bir örnek kullanarak elimden gelenin en iyisini yapacağım:

$\lambda$

\begin{array}{rcl} λ = g (x) = λ_{m a x} - (q | x - x_{0} |)^{\frac{1}{q}}, q > 0, 0 \leq λ \leq λ_{m a x} \end{array}

$\begin{eqnarray} \lambda=g(x)=\lambda_{max}-(q|x-x_0|)^\frac{1}{q},~q > 0,~0 \leq \lambda \leq \lambda_{max} \end{eqnarray}$

x_{0}

$x_0$

q = 1 / 2

$q=1/2$

$x_0$ $g(x)$ $P(x_0) = C\cdot g(x)^{p-1})$ $P(\lambda)d\lambda=P(x_0)dx_0$ $\lambda$

\begin{array}{rcl} P (λ) = P (g^{- 1} (λ)) | \frac{d g^{- 1} (λ)}{d λ} | = C^{'} \cdot λ^{p - 1} \cdot (λ_{m a x} - λ)^{q - 1} \end{array}

$\begin{eqnarray}P(\lambda) = P(g^{-1}(\lambda)) \biggl|\frac{dg^{-1}(\lambda)}{d\lambda}\biggl| = C' \cdot \lambda^{p-1} \cdot (\lambda_{max} - \lambda)^{q-1}\end{eqnarray}$

burada normalleştirme sabiti beta fonksiyonudur. Beta dağılımının standart parametrelendirilmesi için . $C'$ $\lambda_{max} = 1$

Başka bir deyişle, beta dağılımı, oluklu bir dağılımın merkezindeki olasılıkların dağılımı olarak görülebilir.

Umarım bu türetme eğitmeninizin ne anlama geldiğine biraz daha yakın olur. ve ın fonksiyonel formlarının çok esnek olduğunu ve üçgen benzeri dağılımlardan ve U-şekilli dağılımlardan (aşağıdaki örneğe bakın) keskin bir şekilde doruğa ulaşan dağılımlara ulaştığını unutmayın. $g(x)$ $P(x_0)$

Bilginize: Bunu doktora çalışmamda bir yan etki olarak keşfettim ve tezimde sıfır şişirilmiş başak sayısı dağılımlarına (sıfır modlu bimodal) yol açan sabit olmayan nöral ayarlama eğrileri bağlamında rapor ettim. Yukarıda tarif edilen kavramı uygulamak, nöral aktivite için Beta-Poisson karışım dağılımını vermiştir. Bu dağıtım verilere uygun olabilir. Takılan parametreler , ters mantıkları uygulayarak hem dağıtım hem de titreşim dağılımını tahmin etmeyi sağlar . Beta-Poisson karışımı, aşırı dağılımın modellenmesi için yaygın olarak kullanılan negatif binom dağılımına (bir Gamma-Poisson karışımı olan) çok ilginç ve esnek bir alternatiftir. Aşağıda "Jitter " adlı bir örnek bulabilirsiniz $g(x)$ $p(x_0)$ $\rightarrow$ Beta "- fikir iş başında:

C : ( ) titreşim dağılımından alınan simüle edilmiş 1D deneme yer değiştirmesi . Deneme ortalamalı ateşleme alanı (koyu siyah çizgi) daha geniştir ve titreşim olmadan altta yatan ayarlama eğrisine kıyasla daha düşük bir pik hızına sahiptir (koyu mavi çizgi, kullanılan parametreler: . B : ortaya çıkan dağılımı de . N = 100 araştırmalarda ve beta dağılımı analitik pdf C : parametreler sahip bir Poisson işleminden Simüle başak sayısı dağılımı i çalışmaların indislerine belirtmektedir ve sonuçta ortaya çıkan Beta-Poisson dağılımı. $P(jitter)\propto g(x)^{p-1}$ $\lambda_{max} = 10, p = .6, q=.5$ $\lambda$ $x_0$ $\lambda_i$ D : Aynı istatistiklere yol açan rastgele kaydırma açıları ile 2D'de benzer durum.

— Jojo
kaynak