Gama rasgele değişkenlerinin genel toplamı

35

I adres okuma aynı ölçek parametresi ile Gama rastgele değişkenlerin toplamı başka Gama rastgele değişken olduğunu. Ayrıca Moschopoulos'un genel bir Gamma rasgele değişken setinin toplanması için bir yöntemi tanımlayan makalesini de gördüm . Moschopoulos'un yöntemini uygulamaya çalıştım ancak henüz başarılı olamadım .

Genel bir Gamma rasgele değişken kümesinin toplamı nasıl görünür? Bu soruyu somutlaştırmak için neye benziyor:

$\text{Gamma}(3,1) + \text{Gamma}(4,2) + \text{Gamma}(5,1)$

Yukarıdaki parametreler özellikle açıklayıcı değilse, lütfen başkalarını önerin.

— OSE
kaynak

4

Her iki Gamma dağıtımının toplamı için açık bir çözüm , istatistik.stackexchange.com/a/252192 adresinde yayınlanmıştır .

— whuber

Tüm Gama dağılımlarının şekil parametresi 1'e sahip olduğu (yani üstel oldukları) bunun özel bir örneği hipo-eksensel dağılım (aile) olarak adlandırılır . Sadece iki adet üstel dağılım için, istatistik.stackexchange.com/questions/412849 adresinde verilen açık bir formül de vardır .

— whuber

37

İlk önce, aynı ölçek faktörüne sahip olan toplamları birleştirin : a artı a değişkeni, bir değişkeni oluşturur. $\Gamma(n, \beta)$ $\Gamma(m,\beta)$ $\Gamma(n+m,\beta)$

Daha sonra, karakteristik fonksiyonu (bakınız) gözlemleyin olan , bu dağılımların toplamının cf ürünüdür nereden $\Gamma(n, \beta)$ $(1-i \beta t)^{-n}$

\prod_{j} \frac{1}{(1 - i β_{j} t)^{n_{j}}} .

$\prod_{j} \frac{1}{(1-i \beta_j t)^{n_j}}.$

Tüm hepsi bütünleşik, kısmi fraksiyon olarak, bu ürünün genişler bir içine lineer kombinasyonu arasında burada arasındaki tam sayılardır ve . olan örnekte ( ve 'in toplamından ) ve bulduk. $n_j$ $(1-i \beta_j t)^{-\nu}$ $\nu$ $1$ $n_j$ $\beta_1 = 1, n_1=8$ $\Gamma(3,1)$ $\Gamma(5,1)$ $\beta_2 = 2, n_2=4$

\frac{1}{(1 - i t)^{8}} \frac{1}{(1 - 2 i t)^{4}} = \frac{1}{(x + i)^{8}} - \frac{8 i}{(x + i)^{7}} - \frac{40}{(x + i)^{6}} + \frac{160 i}{(x + i)^{5}} + \frac{560}{(x + i)^{4}} - \frac{1792 i}{(x + i)^{3}} - \frac{5376}{(x + i)^{2}} + \frac{15360 i}{x + i} + \frac{256}{(2 x + i)^{4}} + \frac{2048 i}{(2 x + i)^{3}} - \frac{9216}{(2 x + i)^{2}} - \frac{30720 i}{2 x + i} .

$\frac{1}{(1-i t)^{8}}\frac{1}{(1- 2i t)^{4}} = \\ \frac{1}{(x+i)^8}-\frac{8 i}{(x+i)^7}-\frac{40}{(x+i)^6}+\frac{160 i}{(x+i)^5}+\frac{560}{(x+i)^4}-\frac{1792 i}{(x+i)^3}\\-\frac{5376}{(x+i)^2}+\frac{15360 i}{x+i}+\frac{256}{(2 x+i)^4}+\frac{2048 i}{(2 x+i)^3}-\frac{9216}{(2 x+i)^2}-\frac{30720 i}{2 x+i}.$

Cf almanın tersi, ters olan Fourier Dönüşümüdür, yani doğrusaldır : bu terimi terim olarak uygulayabileceğimiz anlamına gelir. Her terim bir Gama dağılımının cf katı olarak tanınır ve böylece PDF'yi vermek için kolayca tersine çevrilir . Örnekte elde ettik

\frac{e^{- t} t^{7}}{5040} + \frac{1}{90} e^{- t} t^{6} + \frac{1}{3} e^{- t} t^{5} + \frac{20}{3} e^{- t} t^{4} + \frac{8}{3} e^{- \frac{t}{2}} t^{3} + \frac{280}{3} e^{- t} t^{3} - 128 e^{- \frac{t}{2}} t^{2} + 896 e^{- t} t^{2} + 2304 e^{- \frac{t}{2}} t + 5376 e^{- t} t - 15360 e^{- \frac{t}{2}} + 15360 e^{- t}

$\frac{e^{-t} t^7}{5040}+\frac{1}{90} e^{-t} t^6+\frac{1}{3} e^{-t} t^5+\frac{20}{3} e^{-t} t^4+\frac{8}{3} e^{-\frac{t}{2}} t^3+\frac{280}{3} e^{-t} t^3\\ -128 e^{-\frac{t}{2}} t^2+896 e^{-t} t^2+2304 e^{-\frac{t}{2}} t+5376 e^{-t} t-15360 e^{-\frac{t}{2}}+15360 e^{-t}$

Toplamın PDF'si için.

Bu, toplam içindekilere eşit ölçek faktörlerine ve toplam içindeki değerlere eşit veya daha küçük olan şekil faktörlerine sahip sonlu bir Gamma dağılımının karışımıdır . Özel durumlar dışında (bazı iptallerin olabileceği durumlarda), terimlerin sayısı toplam şekil parametresi tarafından verilir (tüm farklı olduğu varsayılarak ). $n_1 + n_2 + \cdots$ $n_j$

Bir test olarak, burada ve dağılımlarından bağımsız çizimler ekleyerek elde edilen sonuç histogramı . Üzerinde , önceki işlevin katı olan grafik üst üste getirilir . Uyum çok iyi. $10^4$ $\Gamma(8,1)$ $\Gamma(4,2)$ $10^4$

şekil

Moschopoulos, toplamın cf'sini sonsuz bir Gamma karakteristik fonksiyon dizisine genişleterek bu fikri bir adım öteye taşıyor ve bir veya daha fazlası integral olmadığında sonsuz serileri sonlandırıyor ve sonra da sonsuz serileri makul derecede iyi olduğu bir noktada sonlandırıyor. $n_i$

— whuber
kaynak

2

Küçük Yorum: Tipik haliyle, sonlu bir karışım formu bir pdf anlamına gelir burada ve olduğunu, olan Olasılıklar ve pdf, olasılıkları ile ortaya çıkan çeşitli koşullar göz önüne alındığında , koşullu pdf'lerin (toplam olasılık yasası) ağırlıklı toplamı olarak yorumlanabilir . Bununla birlikte, yukarıdaki toplamda, bazı katsayılar negatiftir ve bu nedenle karışımın standart yorumu geçerli değildir.

f (x) = Σ_{ben = 1}^{n} {bir}_{ben} f_{ben} (x)

$f(x) = \sum_{i=1}^n a_i f_i(x)$

a_{i} > 0

$a_i > 0$

\sum_{i} a_{i} = 1

$\sum_i a_i = 1$

a_{i}

$a_i$

a_{i}

$a_i$

— Dilip Sarwate

@Dilip Bu iyi bir nokta. Bu durumu ilginç yapan şey, bazı katsayıların olumsuz olmasına rağmen, yine de bu kombinasyonun hala geçerli bir dağılım olduğudur (inşaat tarafından).

— whuber

Bu yaklaşım bağımlı değişkenlerin eklenmesi için genişletilebilir mi? Özellikle, her biri diğerleriyle korelasyon içinde olan 6 dağıtım eklemek istiyorum.

— masher

11

Uygulanması oldukça kolay olan ve bugünün R yazılımıyla mümkün olan başka bir çözümü göstereceğim. Bu, daha geniş bilinmesi gereken saddlepoint yoğunluk yaklaşımıdır!

Gama dağılımı hakkında terminoloji için, ben takip edecek https://en.wikipedia.org/wiki/Gamma_distribution şekil / ölçek parametreleriyle birlikte, şekil parametresi ve ölçektir. Saddlepoint yaklaşımı için Ronald W Butler: "Uygulamaları ile saddlepoint yaklaşımları" (Cambridge UP). Saddlepoint yaklaşımı burada açıklanmıştır: Saddlepoint yaklaşımı nasıl çalışır? Burada bu uygulamada nasıl kullanıldığını göstereceğim. $k$ $\theta$

$X$

M (s) = E e^{s X}

$M(s) = E e^{sX}$

s

$s$

K (s) = günlük M (s)

$K(s) = \log M(s)$

E X = K^{'} (0), Var (X) = K^{″} (0)

$E X = K'(0), \text{Var} (X) = K''(0)$

K^{'} (\hat{s}) = x

$K'(\hat{s}) = x$ bu, bir fonksiyonu olarak tanımlar ( aralığında olmalıdır ). Örtük olarak tanımlanmış bu işlevi olarak yazıyoruz . Saddlepoint denkleminin her zaman tek bir çözüme sahip olduğuna dikkat edin, çünkü kümülant işlevi dışbükeydir.

s

$s$

x

$x$

X

$X$

\hat{s} (x)

$\hat{s}(x)$

Sonra yoğunluk için saddlepoint yaklaşım arasında ile verilir Bu yaklaşık yoğunluk işlevinin 1 değerine entegrasyonu garanti edilmez, normalize edilmemiş saddlepoint yaklaşımıdır. Daha iyi bir yaklaşım elde etmek için onu sayısal olarak bütünleştirebilir ve yeniden düzenleyebiliriz. Ancak bu yaklaşımın negatif olmadığı garanti edilir. $f$ $X$

\hat{f} (x) = \frac{1}{\sqrt{2 π K^{"} (\hat{s})}} \exp (K (\hat{s}) - \hat{s} x)

$\hat{f}(x) = \frac1{\sqrt{2\pi K''(\hat{s})}} \exp(K(\hat{s}) - \hat{s} x)$

Şimdi 'in bağımsız gama rasgele değişkenleri olmasına izin verin ; burada parametreleri ile sahiptir . Daha sonra kümülatif üretme işlevi için tanımlanmış . İlk türev ve ikinci türev Aşağıda bunu hesaplayan bazı kodlar vereceğim ve , , parametre değerlerini kullanacağım $X_1, X_2, \dots, X_n$ $X_i$ $(k_i, \theta_i)$

K (s) = - \sum_{i = 1}^{n} k_{i} \ln (1 - θ_{i} s)

$K(s) = -\sum_{i=1}^n k_i \ln(1-\theta_i s)$

s < 1 / max (θ_{1}, θ_{2}, \dots, θ_{n})

$s<1/\max(\theta_1, \theta_2, \dots, \theta_n)$

K^{'} (s) = Σ_{ben = 1}^{n} \frac{k_{ben} θ_{ben}}{1 - θ_{ben} s}

$K'(s) = \sum_{i=1}^n \frac{k_i \theta_i}{1-\theta_i s}$

K^{"} (s) = Σ_{ben = 1}^{n} \frac{k_{ben} θ_{ben}^{2}}{(1 - θ_{ben} s)^{2}} .

$K''(s) = \sum_{i=1}^n \frac{k_i \theta_i^2}{(1-\theta_i s)^2}.$ R

n = 3

$n=3$

k = (1, 2, 3)

$k=(1,2,3)$

θ = (1, 2, 3)

$\theta=(1,2,3)$ . Aşağıdaki Rkodun, R 3.1'de verilen uniroot işlevinde yeni bir argüman kullandığını unutmayın , bu nedenle eski R'lerde çalışmaz.

shape <- 1:3 #ki
scale <- 1:3 # thetai
# For this case,  we get expectation=14,  variance=36
make_cumgenfun  <-  function(shape, scale) {
      # we return list(shape, scale, K, K', K'')
      n  <-  length(shape)
      m <-   length(scale)
      stopifnot( n == m, shape > 0, scale > 0 )
      return( list( shape=shape,  scale=scale, 
                    Vectorize(function(s) {-sum(shape * log(1-scale * s) ) }),
                    Vectorize(function(s) {sum((shape*scale)/(1-s*scale))}) ,
                    Vectorize(function(s) { sum(shape*scale*scale/(1-s*scale)) }))    )
}

solve_speq  <-  function(x, cumgenfun) {
          # Returns saddle point!
          shape <- cumgenfun[[1]]
          scale <- cumgenfun[[2]]
          Kd  <-   cumgenfun[[4]]
          uniroot(function(s) Kd(s)-x,lower=-100,
                  upper = 0.3333, 
                  extendInt = "upX")$root
}

make_fhat <-  function(shape,  scale) {
    cgf1  <-  make_cumgenfun(shape, scale)
    K  <-  cgf1[[3]]
    Kd <-  cgf1[[4]]
    Kdd <- cgf1[[5]]
    # Function finding fhat for one specific x:
    fhat0  <- function(x) {
        # Solve saddlepoint equation:
        s  <-  solve_speq(x, cgf1)
        # Calculating saddlepoint density value:
        (1/sqrt(2*pi*Kdd(s)))*exp(K(s)-s*x)
    }
    # Returning a vectorized version:
    return(Vectorize(fhat0))
} #end make_fhat

 fhat  <-  make_fhat(shape, scale)
plot(fhat, from=0.01,  to=40, col="red", main="unnormalized saddlepoint approximation\nto sum of three gamma variables")

aşağıdaki arsada sonuçlanan: görüntü tanımını buraya girin

Normalleştirilmiş saddlepoint yaklaşımını bir egzersiz olarak bırakacağım.

— kjetil b halvorsen
kaynak

1

Bu ilginç, ancak Rkodunuzu, yaklaşımı tam cevapla karşılaştırmak için kullanamıyorum . Çağırma girişimi fhat, görünüşe göre kullanımında hatalar oluşturur uniroot.

— whuber

3

R versiyonunuz nedir? Kodlar, R sürüm 3.1'de tanıtılan uniroot, extendInt komutunda yeni bir argüman kullanır. R'niz eskiyse, bunu kaldırmayı deneyebilirsiniz (ve uniroot'a verilen aralığı uzatın). Ancak bu kod daha az sağlam hale getirecek!

— kjetil b halvorsen

10

Welch-Satterthwaite denklemi bir vermek için kullanılabilecek yaklaşık bir gamma dağılımının şeklinde cevap. Bu, gama dağılımlarını (yaklaşık olarak) ek altında kapalı olarak ele almamıza izin verme özelliğine sahiptir. Bu yaygın olarak kullanılan Welch t-testindeki yaklaşımdır.

(Gama dağılımı, ölçeklenmiş ki kare kare dağılımı olarak görülebilir ve tamsayı olmayan şekil parametresine izin verir.)

Yaklaşımı , gama dağılımının parametrelerine uyarladım: $k, \theta$

k_{s u m} = \frac{(\underset{ben}{Σ} θ_{ben} k_{ben})^{2}}{\underset{ben}{Σ} θ_{ben}^{2} k_{ben}}

$k_{sum} = { (\sum_i \theta_i k_i)^2 \over \sum_i \theta_i^2 k_i }$

θ_{s u m} = \frac{Σ θ_{ben} k_{ben}}{k_{s u m}}

$\theta_{sum} = { { \sum \theta_i k_i } \over k_{sum} }$

Let , $k=(3,4,5)$ $\theta=(1,2,1)$

Böylece yaklaşık olarak Gamma elde ederiz (10.666 ..., 1.5)

biçim parametresinin aşağı yukarı toplamlandığını, ancak girdi ölçek parametreleri farklı olduğu için biraz daha az olduğunu görüyoruz . , toplamın doğru ortalama değere sahip olduğu şekildedir. $k$ $\theta_i$ $\theta$

— Paul Harrison
kaynak

6

Bir kesin çözüm evrişimi (yani, miktar) gama dağılımları Denklem olarak verilir. (1) DiSalvo tarafından verilen bağlantılı pdf'te . Bu biraz uzun olduğu için, buraya kopyalamak biraz zaman alacak. Sadece iki gama dağılımı için, kapalı formdaki tam toplamları Denk. (2) DiSalvo ve Denk. (5) Wesolowski ve ark. Özgeçmiş sitesinde de bu sorunun cevabı olarak görünmektedir . Yani, $n$

G, D C (bir, b, α, β; τ) = {\begin{array}{cc} \frac{b^{bir} β^{α}}{Γ (bir + α)} e^{- b τ} {τ^{bir + α}}^{- 1}_{1} F_{1} [α, bir + α, (b - β) τ], & τ > 0 \\ 0, τ \leq 0 \end{array},

$\mathrm{G}\mathrm{D}\mathrm{C}\left(\mathrm{a}\kern0.1em ,\mathrm{b}\kern0.1em ,\alpha, \beta; \tau \right)=\left\{\begin{array}{cc}\hfill \frac{{\mathrm{b}}^{\mathrm{a}}{\beta}^{\alpha }}{\Gamma \left(\mathrm{a}+\alpha \right)}{e}^{-\mathrm{b}\tau }{\tau^{\mathrm{a}+\alpha}}^{-1}{}_1F_1\left[\alpha, \mathrm{a}+\alpha, \left(\mathrm{b}-\beta \right)\tau \right],\hfill & \hfill \tau >0\hfill \\ {}\hfill \kern2em 0\kern6.6em ,\hfill \kern5.4em \tau \kern0.30em \le \kern0.30em 0\hfill \end{array}\right.,$ yukarıdaki sorulardaki gösterim; , burada. Yani, ve burada hız sabitleridir ve zaman skalarları değildir.

G a m m a (a, b) \to Γ (a, 1 / b)

$Gamma(a,b) \rightarrow \Gamma(a,1/b)$

b

$b$

β

$\beta$

— Carl
kaynak