Poisson dağılımının neden binom dağılımının sınırlayıcı vakası olduğunu sezgisel olarak anlayın

14

DS Sivia'nın "Veri Analizi" nde Poisson dağılımının binom dağılımından bir türevi vardır.

olduğunda Poisson dağılımının binom dağılımının sınırlayıcı vakası olduğunu iddia ederler; burada , deneme sayısıdır. $M\rightarrow\infty$ $M$

Soru 1: Bu argüman sezgisel olarak nasıl anlaşılabilir?

Soru 2: Büyük sınırı neden eşittir Burada , başarı sayısıdır. denemeler? (Bu adım türetmede kullanılır.) $M$ $\frac{M!}{N!(M-N)!}$ $\frac{M^{N}}{N!}$ $N$ $M$

— Ytsen de Boer
kaynak

Bu konuyla ilgili: stats.stackexchange.com/questions/180057/…

— kjetil b halvorsen

5

Basit bir sezgisel açıklama deneyeceğim. Binom rastgele değişken için beklentimizin ve varyansın olduğunu kaydedin . Şimdi , her biri çok küçük bir olasılık sahip çok sayıda numaralı denemedeki olay sayısını kaydettiğini düşünelim, böylece çok yakınız (gerçekten ). Sonra demek ve , bu nedenle ortalama ve varyansın her ikisi de eşittir $X \sim \text{Bin}(n,p)$ $n p$ $n p (1-p)$ $X$ $n$ $p$ $1-p=1$ $\approx$ $np=\lambda$ $n p (1-p) \approx n p 1 =\lambda$ $\lambda$ . O zaman bir poisson dağıtılmış rastgele değişken için her zaman ortalama ve varyans eşittir! Bu en azından poisson yaklaşımı için bir akla yatkınlık argümanıdır, ancak bir kanıt değildir.

Sonra başka bir bakış açısından bakalım , gerçek noktadaki poisson noktası işlemi https://en.wikipedia.org/wiki/Poisson_point_process . Bu, rastgele noktalar kurallara göre ortaya çıkarsa, aldığımız çizgi üzerindeki rastgele noktaların dağılımıdır:

ayrık aralıklardaki noktalar bağımsızdır
çok kısa bir aralıkta rastgele bir noktanın olasılığı aralığın uzunluğu ile orantılıdır
çok kısa bir aralıkta iki veya daha fazla noktanın olasılığı esasen sıfırdır.

Daha sonra, belirli bir aralıktaki nokta sayısının dağılımı (mutlaka kısa olmamalı) Poisson'dur ( parametresi uzunluk ile orantılıdır). Şimdi, bu aralığı çok, eşit derecede çok kısa alt aralıklara ( ) bölersek, belirli bir alt aralıkta iki veya daha fazla noktanın olasılığı esasen sıfırdır, böylece bu sayı çok iyi bir yaklaşımla bir bernolli dağılımına sahip olacaktır, yani, , bu yüzden tüm bunların toplamı , bu nedenle bu (uzun) aralıktaki nokta sayısının poisson dağılımına iyi bir yaklaşım. $\lambda$ $n$ $\text{Bin}(1,p)$ $\text{Bin}(n,p)$

Düzenleme @Ytsen de Boer (OP) den: 2. sorusuna tatmin edici Łukasz Grad @ tarafından cevaplanır.

— kjetil b halvorsen
kaynak

6

Alternatif bir buluşsal yöntem sunayım. Poisson sürecine binom olarak nasıl yaklaşacağımı göstereceğim (ve düşük olasılıklı birçok denemede yaklaşıklamanın daha iyi olduğunu savunacağım). Bu nedenle binom dağılımı Poisson dağılımına eğilimli olmalıdır.

Diyelim ki olaylar zaman içinde sabit bir hızla gerçekleşiyor. Beklenen olay sayısının $\lambda$ olduğunu bilerek, bir günde kaç olayın gerçekleştiğinin dağılımını bilmek istiyoruz .

Saat başına beklenen olay sayısı $\lambda/24$ . Bunun, belirli bir saatte gerçekleşen bir olayın olasılığının $\lambda/24$ olduğu anlamına geldiğini varsayalım . [tam olarak doğru değildir, ancak $\lambda/24 \ll 1$ temelde aynı saat içinde birden fazla olayın gerçekleşmediğini varsayabilirsek iyi bir yaklaşımdır ]. Daha sonra , her biri başarı olasılığı olan $M=24$ denemeleri ile bir binom olarak olay sayısının dağılımını yaklaşık olarak tahmin edebiliriz . $\lambda/24$

Aralığımızı dakikalara çevirerek yaklaşımı iyileştiririz. Sonra deneme ile $p=\lambda/1440$ . Eğer , 10 diyelim, hiçbir dakikanın iki etkinliği olmadığından oldukça emin olabiliriz. $M=1440$ $\lambda$

Tabii ki saniyeye geçersek daha iyi olur. Şimdi her biri küçük olasılıkla olan $M=86400$ olaylarına bakıyoruz . $\lambda/86400$

Senin ne kadar büyük olursa olsun $\lambda$ olduğunu, sonunda yeterince küçük bir seçebilir $\Delta t$ çok büyük olasılıkla hiçbir iki olay aynı aralıkta meydana budur, öyle ki. Sonra karşılık gelen binom dağılımı $\Delta t$ gerçek Poisson dağılımının için mükemmel bir maç olacak.

Tam olarak aynı olmamalarının tek nedeni, iki olayın aynı zaman aralığında meydana gelme olasılığının sıfır olmamasıdır. Ama orada sadece etrafında verilen $\lambda$ olaylar ve onlar çok daha kutuları bazı sayıya dağıtılır $\lambda$ , bunlardan herhangi iki aynı tenekesine yalan düşüktür.

Başka bir deyişle, başarı olasılığı ise binom dağılımı Poisson dağılımına $M \to \infty$ olarak eğilim gösterir . $p=\lambda/M$

— Joel
kaynak

5

Soru 1

Binom dağılımının tanımını hatırlayın:

her birinde aynı başarı olasılığı bulunan belirli sayıda denemedeki olası başarılı sonuçların sıklık dağılımı .

Bunu Poisson dağılımının tanımı ile karşılaştırın:

sabit bir zamanda meydana gelen bir dizi bağımsız olayın olasılığını veren ayrı bir frekans dağılımı .

İkisi arasındaki önemli fark binomda denemede, Poisson bir süre boyunca . Sınır nasıl sezgisel olarak ortaya çıkabilir? $n$ $t$

Diyelim ki sonsuzluk için Bernoulli duruşmalarına devam etmek zorundasınız. Üstelik dakikada koşuyorsunuz . Dakikada her başarıyı sayıyorsunuz. Yani tüm sonsuzluk için her dakika bir işlemi yürütüyorsunuz . 24 saatin üzerinde bir . $n = 30$ $Bin(p,30)$ $Bin(p,43200)$

Yoruldukça "18:00 ile 19:00 arasında kaç başarı gerçekleşti?" Cevabınız , yani ortalama başarıları bir saat içinde sağlarsınız. Bu bana Poisson parametresi gibi geliyor. $30*60*p$ $\lambda$

5

Soru 2)

\frac{\frac{M!}{N! (M - N)!}}{\frac{M^{N}}{N!}} = \frac{M (M - 1) \dots (M - N + 1)}{M^{N}} = 1 (1 - \frac{1}{M}) \dots (1 - \frac{N - 1}{M})

$\frac{\frac{M!}{N!(M-N)!}}{\frac{M^N}{N!}} = \frac{M(M-1)\dots(M - N + 1)}{M^N} = 1(1 - \frac{1}{M})\dots(1 - \frac{N - 1}{M})$

Sabit için limiti almak $N$

lim_{M \to \infty} \frac{\frac{M!}{N! (M - N)!}}{\frac{M^{N}}{N!}} = lim_{M \to \infty} 1 (1 - \frac{1}{M}) \dots (1 - \frac{N - 1}{M}) = 1

$\lim_{M \to \infty} \frac{\frac{M!}{N!(M-N)!}}{\frac{M^N}{N!}} = \lim_{M \to \infty} 1(1 - \frac{1}{M})\dots(1 - \frac{N - 1}{M}) = 1$

— Asukasz Grad
kaynak

+1. Stirling'in yaklaşımına bakarak başladım, ama daireler çizmeye başladım. Yaklaşımınız çok daha basit.

Ben OP sezgisel bulacaksınız ne olduğunu sanmıyorum ...

— kjetil b halvorsen

M

$M$

M ≂ M - k

$M \eqsim M - k$

k << M

$k << M$

1

@kjetilbhalvorsen Q1'e (türetme adımı) bir yanıt, Q1'e değil (sezgisel açıklama)

— Ben Bolker

@TemplateRex Hmm ama sanırım noktaya yakınsaklığı kanıtlarken , sabitliğe giderken her sabit için bunu kanıtlamam gerekiyor , değil mi? Bu

N

$N$

M

$M$

\forall_{ω \in Ω} lim_{m \to \infty} X_{m} (ω) \to X (ω)

$\forall_{\omega \in \Omega} \lim_{m \to \infty} X_m(\omega) \to X(\omega)$

— Łukasz Grad

5

Sorun, Poisson'u binom dağılımını sınırlayan bir vaka olarak nitelemenizin belirtildiği gibi doğru olmamasıdır .

Poisson şu durumlarda binom için sınırlayıcı bir durumdur: İkinci bölüm önemlidir. Eğer kalıntıları sabit, ilk şart oranı da bağlı olmaksızın artacağını ima eder.

M \to \infty and M p \to λ .

$M \to \infty \quad \color{red}{\text{and} \quad Mp \to \lambda.}$

p

$p$

Poisson dağılımının varsaydığı şey, olayların nadir olduğudur . "Nadir" ile kastettiğimiz, olayların oranının düşük olması değildir - aslında, bir Poisson süreci çok yüksek bir yoğunluğa sahip olabilir ama bunun yerine, herhangi bir zamanda meydana gelen bir olayın olasılığı yok denecek kadar küçük. Bu olasılık bir binom modeli aksine bulunmaktadır bir olayın (örneğin, "başarı") verilen herhangi bir deneme için sabittir. $\lambda$ $[t, t + dt)$ $p$

Örnek vermek gerekirse, her biri başarı olasılığı olan bir dizi bağımsız Bernoulli çalışmasını modellediğimizi ve sayısının olarak dağılımının ne olduğuna baktığımızı varsayalım . İstediğimiz kadar büyük olan herhangi bir için ve ne kadar küçük olursa olsun , beklenen başarı sayısı için . Başka bir deyişle, başarı olasılığı ne kadar düşük olursa olsun, sonuçta yeterince deneme yaparsanız, istediğiniz kadar ortalama başarı elde edebilirsiniz. Yani, (ya da sadece " " $M$ $p$ $X$ $M \to \infty$ $N$ $p$ $\operatorname{E}[X] = Mp > N$ $M > N/p$ $M \to \infty$ $M$ büyüktür ") için bir Poisson modelini haklı göstermek için yeterli değildir . $X$

sınırlayıcı olarak cebirsel olarak kurmak zor değil örneği ayarlayarak ve . Buradaki diğer cevaplar bu ilişkinin arkasındaki sezgiye hitap etti ve aynı zamanda hesaplama rehberliği sağladı. Ancak olması önemlidir . Bunu görmezden gelemezsin.

Pr [X = x] = e^{- λ} \frac{λ^{x}}{x!}, x = 0, 1, 2, \dots

$\Pr[X = x] = e^{-\lambda} \frac{\lambda^x}{x!}, \quad x = 0, 1, 2, \ldots$

Pr [X = x] = (\binom{M}{x}) p^{x} (1 - p)^{M - x}, x = 0, 1, 2, \dots, M

$\Pr[X = x] = \binom{M}{x} p^x (1-p)^{M-x}, \quad x = 0, 1, 2, \ldots, M$

p = λ / M

$p = \lambda/M$

M \to \infty

$M \to \infty$

p = λ / M

$p = \lambda/M$

— heropup
kaynak

0

Sadece kısmi bir cevap girişiminde bulunabiliyorum ve bu, Soru 2'nin sezgisi ile ilgili.

Binom katsayısı size boyutu örneklerinin sayısını verir arasından, değiştirmeksizin ve düzen olmadan. $N$ $M$

Burada o kadar büyür ki, senaryoyu değiştirme ile örnekleme olarak tahmin edebilirsiniz, bu durumda siparişli örnekler alırsınız . Seçilen nesnelerinin sırasını umursamıyorsanız, bu düşerçünkü bu nesneleri sipariş edilebiliryolları. $M$ $M^N$ $N$ $M^N/N!$ $N$ $N!$

— PM.
kaynak

-2

Bence bu, binom dağılımının çok sayıda topla nasıl normale döndüğünü sezgisel olarak açıklayan en iyi örnek. Burada, her topun her katmanda pimin her iki tarafına eşit düşme olasılığı vardır ve tüm toplar aynı sayıda mandalla yüzleşmek zorundadır. Topların sayısı çok arttıkça, farklı bölümlerdeki topların dağılımının normal dağılım gibi olacağı kolayca görülebilir.

2. soruya cevabım Lukasz tarafından verilen cevapla aynı.

— samwise_the_wise
kaynak

2

Bu gerçekten soruyu cevaplamıyor, başka bir soruya cevap veriyor ...

— kjetil b halvorsen

1. soruda sorulan soruları sezgisel olarak açıklamaya çalıştım. Bunun neden bir cevap olmadığını düşündüğünüzü lütfen açıklar mısınız?

— samwise_the_wise

1

Üzgünüm, şimdi anladım. Tamamen farklı bir soruya cevap verdim. Benim hatam.

— samwise_the_wise

1

Bir binom dağılımının oldukça ayrık bir versiyonunu görüyorum. Neden bu quincunx'in altındaki topların dağılımının normal olması gerektiği açık olmalıdır? Bu makineden kaç top attığınıza bakılmaksızın, hala 13 kutuda sayım dağılımı elde edeceksiniz: bu muhtemelen normal olamaz!

— whuber