Verilerin normal ve lognormal dağılımdan örnek olma olasılığını hesaplamak için algoritma gerekir

Diyelim ki bir dizi değeriniz var ve bunların Gauss (normal) bir dağılımdan veya lognormal bir dağılımdan örneklenmesinin daha olası olup olmadığını bilmek mi istiyorsunuz?

Tabii ki, ideal olarak popülasyon veya deneysel hatanın kaynakları hakkında bir şeyler biliyor olacaksınız, bu yüzden soruyu cevaplamak için yararlı ek bilgiler olacaktır. Ancak burada, sadece bir dizi rakamımız olduğunu ve başka hiçbir bilgimizin olmadığını varsayalım. Hangisi daha olasıdır: Gauss'tan örnekleme mi yoksa lognormal dağılımdan örnekleme mi? Ne kadar muhtemel? Ne umuyorum iki model arasında seçim ve umarım her birinin göreli olasılığını ölçmek için bir algoritma.

Her bir dağılımı (normal veya lognormal) verilere maksimum olasılıkla sığdırarak, daha sonra her model altındaki log olasılığını karşılaştırarak (en yüksek log olasılığına en uygun model) karşılaştırarak dağıtım türünde en iyi tahminde bulunabilirsiniz. Örneğin, R dilinde:

# log likelihood of the data given the parameters (par) for 
# a normal or lognormal distribution
logl <- function(par, x, lognorm=F) {
    if(par[2]<0) { return(-Inf) }
    ifelse(lognorm,
    sum(dlnorm(x,par[1],par[2],log=T)),
    sum(dnorm(x,par[1],par[2],log=T))
    )
}

# estimate parameters of distribution of x by ML 
ml <- function(par, x, ...) {
    optim(par, logl, control=list(fnscale=-1), x=x, ...)
}

# best guess for distribution-type
# use mean,sd of x for starting parameters in ML fit of normal
# use mean,sd of log(x) for starting parameters in ML fit of lognormal
# return name of distribution type with highest log ML
best <- function(x) {
    logl_norm <- ml(c(mean(x), sd(x)), x)$value
        logl_lognorm <- ml(c(mean(log(x)), sd(log(x))), x, lognorm=T)$value
    c("Normal","Lognormal")[which.max(c(logl_norm, logl_lognorm))]
}

Şimdi normal bir dağılımdan sayılar oluşturun ve ML'ye göre normal bir dağılım takın:

set.seed(1)
x = rnorm(100, 10, 2)
ml(c(10,2), x)

üretir:

$par
[1] 10.218083  1.787379

$value
[1] -199.9697
...

Normal ve lognormal dağılımların ML uyumu için günlük olasılığını karşılaştırın:

ml(c(10,2), x)$value # -199.9697
    ml(c(2,0.2), x, lognorm=T)$value # -203.1891
best(x) # Normal

Lognormal bir dağılımla deneyin:

best(rlnorm(100, 2.6, 0.2)) # lognormal

Atama, n, ortalama ve sd'ye bağlı olarak mükemmel olmayacaktır:

> table(replicate(1000, best(rnorm(500, 10, 2))))

Lognormal    Normal 
        6       994 
> table(replicate(1000, best(rlnorm(500, 2.6, 0.2))))

Lognormal    Normal 
      999         1 

Sorunuza Bayesci yaklaşım bir dizi veri noktası verildiğinde modelleri üzerindeki poster olasılığını dikkate almak olacaktır ,$M \in \{ \text{Normal}, \text{Log-normal} \}$$X = \{ x_1, ..., x_N \}$

$$P(M \mid X) \propto P(X \mid M) P(M).$$

Zor olan kısım marjinal olabilirlik ,

$$P(X \mid M) = \int P(X \mid \theta, M) P(\theta \mid M) \, d\theta.$$

Bazı seçimleri için Gauss'un marjinal olasılığı kapalı biçimde elde edilebilir . Diyerek bu yana dağıtılmış-normalde günlük söyleyerek aynıdır olan normalde dağıtılır}, sizin için aynı marjinal olasılığını kullanmak mümkün olmalıdır log-normal bir modeli , yerine uygulayarak . Sadece dönüşümden Jacobian'ı dikkate almayı unutmayın ,$p(\theta \mid M)$$X$$Y = \{ \log x_1, ..., \log x_N$$Y$$X$

$$P(X \mid M = \text{Log-Normal}) = P(Y \mid M=\text{Normal}) \cdot \prod_i \left| \frac{1}{x_i} \right|.$$

Bu yaklaşım için, parametreleri üzerinde bir dağılım seçmeniz gerekir - burada, muhtemelen - ve önceki olasılıklar .$P(\theta \mid M)$$P(\sigma^2, \mu \mid M=\text{Normal})$$P(M)$

Misal:

İçin bir seçim , normal, ters-gama dağılımını parametreleri ile .$P(\mu, \sigma^2 \mid M = \text{Normal})$$m_0 = 0, v_0 = 20, a_0 = 1, b_0 = 100$

Göre Murphy (2007) (203 denklemi), normal dağılımın marjinal olasılığı aşağıdaki formülle verilir:

$$P(X \mid M = \text{Normal}) = \frac{|v_N|^\frac{1}{2}}{|v_0|^\frac{1}{2}} \frac{b_0^{a_0}}{b_n^{a_N}} \frac{\Gamma(a_N)}{\Gamma(a_0)} \frac{1}{\pi^{N/2}2^N}$$

burada ve , arka (Denklemler 196 ila 200) parametreleridir ,$a_N, b_N,$$v_N$$P(\mu, \sigma^2 \mid X, M = \text{Normal})$

$$\begin{align} v_N &= 1 / (v_0^{-1} + N), \\ m_N &= \left( v_0^{-1}m_0 + \sum_i x_i \right) / v_N, \\ a_N &= a_0 + \frac{N}{2}, \\ b_N &= b_0 + \frac{1}{2} \left( v_0^{-1}m_0^2 - v_N^{-1}m_N^2 + \sum_i x_i^2 \right). \end{align}$$

Log-normal dağılım için aynı hiperparametreleri kullanıyorum,

$$P(X \mid M = \text{Log-normal}) = P(\{\log x_1, ..., \log x_N \} \mid M = \text{Normal}) \cdot \prod_i \left|\frac{1}{x_i}\right|.$$

Önceki log-normal olasılığı için , ve aşağıdaki log-normal dağılımından alınan veriler,P ( M = Günlük normal ) = $0.1$$P(M = \text{Log-normal}) = 0.1$

posterior şöyle davranır:

Kesintisiz çizgi, veri noktalarının farklı çekimleri için ortanca posterior olasılığı gösterir . Çok az veya hiç veri için inançların önceki inançlara yakın olduğunu unutmayın. Yaklaşık 250 veri noktası için, algoritma neredeyse her zaman verinin log-normal dağılımından alındığından emindir.$N$

Denklemleri uygularken, yoğunluk yerine kütle yoğunluklarıyla çalışmak iyi bir fikir olacaktır. Ama aksi halde oldukça basit olmalı. İşte araziler oluşturmak için kullanılan kod:

https://gist.github.com/lucastheis/6094631

Muhtemelen profesyonel istatistikçi olmayan analistlere yardım etmek için oldukça pragmatik bir şey arıyorsunuz ve qq çizimlerine, yoğunluk çizimlerine, vb. Bakmak gibi standart keşif tekniklerini yapmaları için onları harekete geçirecek bir şeye ihtiyacınız var gibi görünüyor.

Bu durumda neden orijinal veriler üzerinde ve günlük dönüştürülmüş verilerde bir normallik testi (Shapiro-Wilk ya da her neyse) yapmıyorsunuz ve ikinci p değeri daha yüksekse analistin bir günlük dönüşümü kullanmayı düşünmesi için bir bayrak kaldırın. ? Bir bonus olarak, yoğunluk çizgisi grafiğinin ve ham ve dönüştürülen verilerin qqnorm grafiğinin 2 x 2 grafiğini tükürün.

Bu, teknik olarak göreceli olasılıkla ilgili sorunuza cevap vermeyecektir, ancak ihtiyacınız olan her şeyin bu olup olmadığını merak ediyorum.