Bağımlı veriler için Bernoulli rastgele değişkenlerinin toplamı nasıl modellenir?

Bunun gibi hemen hemen aynı sorularım var: Bernoulli rastgele değişkenlerinin toplamını nasıl verimli bir şekilde modelleyebilirim?

Ancak ayar oldukça farklıdır:

1. $S=\sum_{i=1,N}{X_i}$ , , ~ 20, ~ 0.1$P(X_{i}=1)=p_i$$N$$p_i$

2. Bernoulli rastgele değişkenlerinin sonuçları için verilerimiz var: ,$X_{i,j}$$S_j=\sum_{i=1,N}{X_{i,j}}$

3. maksimum olasılık tahmini ile tahmin (ve ), çok daha büyük olduğu ortaya çıkar. diğer kriterler tarafından beklenen:$p_i$$\hat p^{MLE}_i$$\hat P\{S=3\} (\hat p^{MLE}_i)$$\hat P\{S=3\} (\hat p^{MLE}_i) - \hat P^{expected} \{S=3\}\approx 0.05$

4. Bu nedenle, ve bağımsız olarak ele alınamaz (küçük bağımlılıkları vardır).$X_{i}$$X_{j}$ $(j>k)$

5. Bunun gibi bazı kısıtlamalar vardır: ve (bilinen), P \ ' nin tahminine yardımcı olmalıdır {S \} .$p_{i+1} \ge p_i$$\sum_{s \le 2}\hat P\{S=s\}=A$$P\{S\}$

Bu durumda Bernoulli rastgele değişkenlerinin toplamını modellemeye nasıl çalışabiliriz?

Görevi çözmek için hangi literatür yararlı olabilir?

GÜNCELLENMİŞ

Başka fikirler de var:

(1) arasındaki bilinmeyen bağımlılığın 1 veya daha fazla başarıdan sonra başladığını varsayabiliriz . Ne zaman , ve .${X_i}$$\sum_{i=1,K}{X_i} > 0$$p_{K+1} \to p'_{K+1}$$p'_{K+1} < p_{K+1}$

(2) MLE'yi kullanmak için en az şüpheli modele ihtiyacımız var. İşte bir varyant:

$P\{X_1,...,X_k\}= (1-p_1) ... (1-p_k)$ eğer k k eğer ve ve herhangi bir k için .$\sum_{i=1,k}{X_i} = 0$$P\{X_1,...,X_k,X_{k+1},...,X_N\}= (1-p_1) ... p_k P'\{X_{k+1},...,X_N\}$$\sum_{i=1,k-1}{X_i} = 0$$X_k = 1$$P'\{X_{k+1}=1,X_{k+2}=1,...,X_N=1\} \le p_{k+1} p_{k+2} ... p_N$

Biz, sadece ilgi yana (3) biz ayarlayabilir ( başarılarının kuyruktan elde edilmesi olasılığı). Ve parametrelendirmeyi$P\{S\}$$P'\{X_{k+1},...,X_N\} \approx P''\{\sum_{i=1,k}{X_i}=s' ; N-(k+1)+1=l\}$$\sum_{i=k+1,N}{X_i}$$P''\{\sum_{i=k,N}{X_i}=s' ; N-k+1=l\}= p_{s',l}$

(4) ve parametrelerine dayalı model için MLE kullanın ile, için (ve herhangi bir ) ve diğer bazı doğal kısıtlar .$p_1,...,p_N$$p_{0,1}, p_{1,1}; p_{0,2}, p_{1,2}, p_{2,2};...$$p_{s',l}=0$$s' \ge 6$$l$

Bu planla ilgili herşey yolunda mı?

GÜNCELLENDİ 2

Poisson dağılımı (mavi) ile karşılaştırıldığında ampirik dağılımın bazı örnekleri (kırmızı) (poisson araçları 2.22 ve 2.45, örnek boyutları 332 ve 259'dur):$P\{S\}$

Poisson 2.28 ve 2.51 (örnek boyutları 303 ve 249) olan örnekler (A1, A2) için:

Birleştirilmiş samlpe A1 + A2 için (örnek boyutu 552'dir):

Görünüşe göre Poisson için bazı düzeltmeler en iyi model olmalı :).

Bir yaklaşım, $X$genelleştirilmiş doğrusal model (GLM) ile. Burada formüle edersiniz$p_i$, başarı olasılığı $i$son gözlem tarihinin (lojistik doğrusal) bir işlevi olarak deneme. Yani esasen gürültünün Bernoulli ve link fonksiyonunun logit olduğu otoregresif bir GLM takıyorsunuz. Kurulum:

$p_i = f(b + a_1 X_{i-1} + a_2 X_{i-2} + \ldots a_k X_{i-k})$, nerede

$f(x) = \frac{1}{1+\exp(x)}$, ve

$X_i \sim Bernoulli(p_i)$

Modelin parametreleri $\{b, a_1, \ldots a_k\}$lojistik regresyon ile tahmin edilebilir. (Yapmanız gereken tek şey, her denemede gözlem geçmişinin ilgili bölümünü kullanarak tasarım matrisinizi oluşturmak ve bunu bir lojistik regresyon tahmin fonksiyonuna aktarmaktır; log olabilirliği içbükeydir, bu nedenle parametreler için benzersiz bir küresel maksimum vardır). Sonuçlar gerçekten bağımsız ise$a_i$'sı sıfırlanacak; pozitif$a_i$demek ki $p_i$başarı gözlendiğinde artar.

Model vermez üzerinde olasılığı için basit bir ifadeyi sağlamak toplamının arasında$X_i$ancak, model basit Markovian yapısına sahip olduğundan, simülasyon (parçacık filtreleme veya MCMC) ile hesaplanması kolaydır.

Bu tür bir model, beyindeki nöronların "sivri uçları" arasındaki zamansal bağımlılıkları modellemek için büyük bir başarı ile kullanılmıştır ve otoregresif nokta süreç modelleri hakkında kapsamlı bir literatür vardır. Bkz. Örneğin Truccolo ve ark. 2005 (bu makale Bernoulli olasılığı yerine bir Poisson kullanıyor olsa da, birinden diğerine eşleme basittir).

Bağımlılık topaklanmadan kaynaklanıyorsa, bileşik Poisson modeli, $S_j$. Çok özel bir rastgele referans bu Barbour ve Chryssaphinou ile.

Tamamen farklı bir yönde, çünkü $N$ 20'dir ve bu nedenle nispeten küçüktür. $X_{ij}$ancak kurulumunuzun ve verilerinizin mümkün olup olmadığını bilmiyorum. @Chl yorumları olarak, ne olduğunu açıklarsanız yararlı olacaktır.$X_{i,j}$'dır.

Eğer $X_{i,j}$'nin ardışık ölçümleri, örneğin zamanla temsil ettiği ve bağımlılık bununla ilişkili olduğu için üçüncü bir olasılık - ve yukarıdaki iki öneri arasında bir uzlaşma sağlamak için - gizli bir Markov modelini kullanmaktır. $X_{i,j}$'S.