Exp (X) ~ Gamma ise hızlı bir şekilde X örneği nasıl alınır?

İç döngü gibi görünüyor basit bir örnekleme sorunu var:

v = sample_gamma(k, a)

burada sample_gammabir Dirichlet örneği oluşturmak için Gama dağılımından örnekler.

İyi çalışıyor, ancak k / a'nın bazı değerleri için bazı aşağı akış hesaplama akışları.

Günlük alanı değişkenlerini kullanmak için uyarladım:

v = log(sample_gamma(k, a))

Programın geri kalanının tümünü uyarladıktan sonra, doğru çalışır (en azından bana test senaryolarında aynı sonuçları verir). Ancak, öncekinden daha yavaştır.

gibi yavaş işlevleri kullanmadan ı doğrudan örneklemenin bir yolu var mı ? Bunun için googling yapmayı denedim, ancak bu dağıtımın ortak bir adı (log-gamma?) Olup olmadığını bile bilmiyorum. $X, \exp(X) \sim \text{Gamma}$ $\log()$

sampling gamma-distribution

— luispedro
kaynak

Tek yapmanız gereken her gamma değişkenini toplamlarına bölmektir. Öyleyse, taşma nasıl oluşur? Ve logaritmayı almak bu sorunu nasıl çözüyor (yine de tekrar üstlenmeden toplamı hesaplayamazsınız)?

— whuber

@whuber Günlük alanında, toplamı hesaplar ve her öğeden çıkarırsınız . Böylece, bu ilk taşma noktasını önler. Bu dirichletler karışım bileşenleri olarak işlev gördüklerinde ve tekrar küçük sayılarla çarpıldıklarında biraz daha işlem yapılır.

— luispedro

Günlükleri eklemek matematiksel olarak yanlıştır: gamaları eklemek yerine çoğaltmaya karşılık gelir . Evet, çalışma sonuçları alabilirsiniz, ancak kesinlikle Dirichlet dağılımı olmayacak! Yine, orijinal alt akışın doğası tam olarak nedir ve gerçekleştiğinde hangi hesaplamaları yapıyorsunuz? Üzerinde çalıştığınız gerçek değerler nelerdir?

— whuber

@whuber Açıklamamda biraz fazla basitleştirilmiş olabilirim. Ben i {t = gamma (a, b) yapıyorum; toplam + = t; d [i] = log (t)}; logsum = log (toplam); forall i {d [i] - = logsum; }. Daha önce, a çok küçükse bu taştı.

— luispedro

Anladım: yakınındaki 0 için ne olursa olsun başınız belada olacak. İlginç bir sorun!

α

$\alpha$

— whuber

Yanıtlar:

Küçük bir şekil parametresi düşünün gibi, 0'a yakın . 0 ve arasındaki aralıkta , yaklaşık , bu nedenle Gamma pdf'si yaklaşık . Bu yaklaşık bir CDF, entegre edilebilir . Tersine çevirirken, bir gücü görüyoruz : büyük bir üs. İçin (az bir çift hassas değeri bu Yetersizlik bir şans neden olur veya daha az). İşte temel on logaritmasının bir fonksiyonu olarak taşma şansının bir grafiği $\alpha$ $\alpha = 1/100$ $\alpha$ $e^{-\alpha}$ $1$ $x^{\alpha-1}dx / \Gamma(\alpha)$ $F_\alpha(x) = \frac{x^\alpha}{\alpha \Gamma(\alpha)}$ $1/\alpha$ $\alpha = 1/100$ $10^{-300}$ $\alpha$ :

resim açıklamasını buraya girin

Bir çözüm, log (Gamma) değişkenleri oluşturmak için bu yaklaşımdan yararlanmaktır: aslında, bir Gamma değişkeni üretmeye çalışın ve çok küçükse, logaritmasını bu yaklaşık güç dağılımından üretin (aşağıda gösterildiği gibi). (Günlük alt akış aralığı içinde olana kadar bunu tekrar tekrar yapın, böylece orijinal alt akış değişkeninin geçerli bir yedeğidir.) Dirichlet hesaplaması için, günlük değerlerinin her birinden maksimum tüm logaritmaların çıkarılması: bu dolaylı olarak tüm ölçeklendirilir Gama değişir, böylece Dirichlet değerlerini etkilemez. Çok küçük olan (örneğin, -100'den küçük) sonuçtaki günlükleri gerçek sıfırın günlüğü olarak kabul edin. Diğer günlükleri üsler. Artık taşma olmadan devam edebilirsiniz.

Bu öncekinden daha uzun sürecek, ama en azından işe yarayacak!

Yaklaşık günlük Gamma değişkenini şekil parametresiyle oluşturmak için önceden hesaplayın . Bu kolaydır, çünkü log Gamma değerlerini doğrudan hesaplamak için algoritmalar vardır . 0 ile 1 arasında tekdüze rastgele bir şamandıra oluşturun, logaritmasını alın, bölün ve ekleyin . $\alpha$ $C = \log(\Gamma(\alpha)) + \log(\alpha)$ $\alpha$ $C$

Scale parametresi yalnızca değişkeni yeniden ölçeklendirdiğinden, bu yordamlarda barındırılmasıyla ilgili bir sorun yoktur. Tüm ölçek parametreleri aynı ise buna bile ihtiyacınız yoktur.

Düzenle

Başka bir cevapta OP, tekdüze bir değişkenin ( varyasyonu) gücünün bir varyasyonu ile çarpıldığı bir yöntemi açıklar . Bu iki değişkenin ortak dağılımının pdf'sinin . Pdf bulmak için biz yerine Jakoben ile, bölme ve dışarı entegre . Yekpare şart aralığı için için , nereden $1/\alpha$ $B(\alpha)$ $\Gamma(\alpha+1)$ $\left(\alpha x^{\alpha-1}\right) \left(y^{\alpha}e^{-y}dy/\Gamma(\alpha+1)\right)$ $z = xy$ $y \to z/x$ $x$ $x$ $z$ $\infty$ $0 \le y \le 1$

pdf (z) = \frac{α}{Γ (α + 1)} \int_{z}^{\infty} (x^{α} / x) e^{- x} (z / x)^{α - 1} d x d z = \frac{1}{Γ (α)} z^{α - 1} e^{- z} d z,

$\text{pdf}(z)=\frac{\alpha}{\Gamma(\alpha+1)}\int_z^{\infty}{\left(x^\alpha / x\right) e^{-x} (z/x)^{\alpha-1} dx} dz = \frac{1}{\Gamma(\alpha)}z^{\alpha-1}e^{-z}dz,$

dağılımının pdf . $\Gamma(\alpha)$

Bütün mesele, , çizilen bir değerin taşma olasılığı düşüktür ve günlüğünü ve kez bağımsız bir üniforma günlüğünün toplamını değiştiririz. değişkeninin günlüğüne sahip olur . Günlüğün çok olumsuz olması muhtemeldir, ancak kayan nokta gösteriminde taşacak olan antilogunun yapısını atladık. $0 \lt \alpha \lt 1$ $\Gamma(\alpha+1)$ $1/\alpha$ $\Gamma(\alpha)$

— whuber
kaynak

Düzenlemenizi biraz daha zarif hale getirmek için bir argüman, burada entegrasyona itiraz etmeniz gerekmez. Sadece artı . Bunlar hem beta hem de gama dağılımlarının standart özellikleridir. Ayrıca, olduğunda, kabaca sahibiz , bu benzetme ( ) genel rasgele değişkeninden daha hızlı olabilir.

\frac{Γ (α)}{Γ (α) + Γ (1)} \sim B e t a (α, 1)

$\frac{\Gamma(\alpha)}{\Gamma(\alpha)+\Gamma(1)}\sim Beta(\alpha,1)$

Γ (α) + Γ (1) \sim Γ (α + 1)

$\Gamma(\alpha)+\Gamma(1)\sim \Gamma(\alpha+1)$

α \approx 0

$\alpha\approx 0$

y \sim e x p o (1)

$y\sim expo(1)$

- \log (u)

$-\log(u)$

Γ (α + 1)

$\Gamma(\alpha+1)$

— olasılık

Kendi sorumu cevaplıyorum, ama tam olarak anlamasam bile oldukça iyi bir çözüm buldum. GNU Bilimsel Kitaplığı'ndan kod baktığımızda, işte burada numuneler gama değişkenleri (nasıl rrasgele sayı üreteci olduğunu aolduğunu ve olan ): $\alpha$ b $\beta$

  if (a < 1)
    {
      double u = gsl_rng_uniform_pos (r);
      return gsl_ran_gamma (r, 1.0 + a, b) * pow (u, 1.0 / a);
   }

gsl_ran_gammasırasında (yukarıda böylece ardışık bir çağrı olduğu) bir gamma rasgele bir örnek geri fonksiyonu olan gsl_rng_uniform_posbir düzgün dağılmış numarası verir ( 0.0 döndürmez garantilidir olarak kesinlikle pozitif içindir). $(0,1)$ _pos

Bu nedenle, son ifadenin günlüğünü alabilir ve kullanabilirim

return log(gsl_ran_gamma(r, 1.0 + a, b)) + log(u)/a;

İstediğimi elde etmek için. Şimdi iki log()çağrım var (ama bir tane daha az pow()), ama sonuç muhtemelen daha iyi. Daha önce, whuber'ın işaret ettiği gibi , potansiyel olarak çok sayıda gücüne yükseltilmiş bir şey vardı . Şimdi, günlük alanında, çarpıyorum . Bu nedenle, taşma olasılığı daha düşüktür. $1/a$ $1/a$

— luispedro
kaynak

Gsl_rng_uniform_pos ve gsl_ran_gamma'nın ne yaptığını açıklayabilir misiniz? İlk 0 ve r arasında tekdüze rastgele bir değer döndürür ve ikincisi bir Gamma (1 + a, b) değeri ile ilgili - sanırım eksik bir Gamma? Genel olarak bu önerdiğim yaklaşıma çok yakın görünüyor (hariç, gözden geçirme dışında, bölmeyi kısmına göre belirtmeyi unuttuğum açıktır !)

α

$\alpha$

— Whuber

Cevabımı şimdi daha fazla ayrıntı içerecek şekilde düzenledim.

— luispedro

Teşekkür ederim: ama "r" nedir? (Özyineleme sınırlıdır: en fazla bir özyinelemeli çağrı yapılacaktır, çünkü> 0, 1.0 + a> 1 anlamına gelir.)

— whuber

r rastgele sayı üretecidir (rastgele sayıları nereden alırsınız).

— luispedro

Ah, bu zekice: bir ve bağımsız bir değişkeninin ürünü değişkenidir. Cevabımı düzenledim, böylece çözümünüzü işaret ediyor ve neden çalıştığını açıklıyor.

Γ (α + 1)

$\Gamma(\alpha+1)$

B (α, 1)

$B(\alpha,1)$

Γ (α)

$\Gamma(\alpha)$

— whuber