PyMC'de iki normal dağılım için montaj modeli

Daha fazla istatistik öğrenmeye çalışan bir yazılım mühendisi olduğum için, başlamadan önce beni affetmen gerekecek, bu ciddi yeni bölge ...

Ben öğrenme been PyMC ve bazı gerçekten (gerçekten) basit örnekleri çalışma. Çalışamadığım (ve ilgili örnekleri bulamadığım) bir problem, iki normal dağılımdan üretilen verilere bir model uydurmaktır.

Diyelim ki 1000 değerim var; 500'den bir Normal(mean=100, stddev=20)ve bir başka 500'den bir Normal(mean=200, stddev=20).

Onlara bir model sığdırmak istiyorsam, yani PyMC kullanarak iki ortalama ve tek standart sapmayı belirleyin. Biliyorum ki ...

mean1 = Uniform('mean1', lower=0.0, upper=200.0)
mean2 = Uniform('mean2', lower=0.0, upper=200.0)
precision = Gamma('precision', alpha=0.1, beta=0.1)

data = read_data_from_file_or_whatever()

@deterministic(plot=False)
def mean(m1=mean1, m2=mean2):
    # but what goes here?

process = Normal('process', mu=mean, tau=precision, value=data, observed=True)

yani, oluşturma işlemi Normal'dir, ancak mu iki değerden biridir. Sadece bir değer gelip gelmediğini arasında "karar" temsil etmek nasıl bilmiyorum m1ya m2.

Belki de bunu modellemek için tamamen yanlış bir yaklaşım benimsiyorum? Birisi bana bir örnek gösterebilir mi? HATA ve JAGS okuyabilirim, bu yüzden her şey yolunda.

Yarısının bir dağıtımdan, diğer yarısının diğerinden geldiğinden kesinlikle emin misiniz? Değilse, oranı rastgele bir değişken olarak modelleyebiliriz (ki bu çok bayesci bir şeydir).

Yapacağım şey şu, bazı ipuçları gömülü.

from pymc import *

size = 10
p = Uniform( "p", 0 , 1) #this is the fraction that come from mean1 vs mean2

ber = Bernoulli( "ber", p = p, size = size) # produces 1 with proportion p.

precision = Gamma('precision', alpha=0.1, beta=0.1)

mean1 = Normal( "mean1", 0, 0.001 ) #better to use normals versus Uniforms (unless you are certain the value is  truncated at 0 and 200 
mean2 = Normal( "mean2", 0, 0.001 )

@deterministic
def mean( ber = ber, mean1 = mean1, mean2 = mean2):
    return ber*mean1 + (1-ber)*mean2


#generate some artificial data   
v = np.random.randint( 0, 2, size)
data = v*(10+ np.random.randn(size) ) + (1-v)*(-10 + np.random.randn(size ) )


obs = Normal( "obs", mean, precision, value = data, observed = True)

model = Model( {"p":p, "precision": precision, "mean1": mean1, "mean2":mean2, "obs":obs} )

Yukarıdaki tartışma ile ilgili birkaç nokta:

1. Yaygın normal ve üniforma seçimi oldukça akademiktir (a) konjugasite konusunda endişe duymuyorsanız, bu durumda normal kullanacaksınız veya (b) gerçek değerin üniformanın uç noktalarının dışında olma olasılığı makul olabilir . PyMC ile, özellikle bir Gibbs örnekleyicisi kullanmak istemiyorsanız, konjugati hakkında endişelenmenize gerek yoktur.

2. Bir gama aslında bir varyans / kesinlik parametresinden önce bilgi vermeyenler için mükemmel bir seçim değildir. Düşündüğünüzde daha bilgilendirici olabilir. Daha iyi bir seçim, standart sapmadan önce bir üniforma koymak, sonra ters bir kare ile dönüştürmektir. Ayrıntılar için Gelman 2006'ya bakınız.