Tamsayı olmayan bir ardışık Bernoulli başarısı nasıl oluşturulur?


18

Verilen:

  1. İle bir sikke bilinmeyen önyargı (Baş).pp
  2. Kesinlikle olumlu bir gerçek .a > 0a>0

Sorun:

yanlılığı ile rastgele bir Bernoulli varyasyonu oluşturun .p apa

Bunu nasıl yapacağını bilen var mı? Örneğin, ne zaman pozitif tam sayıdır, daha sonra bir bozuk parayı çevirebilirsiniz o zaman mesele '0' ise, aksi sorunu '1': süreleri ve tüm sonuçlar Kafalar olup olmadığını görmek. Zorluk gerçeğinde yatar mutlaka bir tamsayı olması gerekmez. Ayrıca, önyargı tanıyor olsaydım, istenen önyargı ile başka bir bozuk para inşa edebilirdim. a aa aa app


2
@gung: Sanırım istenen, bir bozuk para verilen Bernoulli varyantı üretmek için bir algoritma.
Neil G

1
Burada nokta zaman olduğunu düşünüyorum Yalnızca her dışarı 1 ortalama tutmak açılır ve ne zaman başları , sen ortalama kafaların her yinelenen zamanlarda. a > 1 a>1a aa < 1 a<11 / a1/a
Makro

3
@Macro, fikri genişletebilir misin?
Pedro A. Ortega

1
Sevgili Pedro, (+1) göreviniz için, bu da CV'yi en azından benim için çok canlandırıcı ve uyarıcı yapan bir soru. Bu sorunun kaynağının ne olduğunu sorabilir miyim?
kardinal

@cardinal: Cevabınız için tekrar teşekkürler! Bu sorun, üzerinde çalıştığım stokastik kontrol sorunlarını çözmek için bir örnekleyicinin bir parçasıdır. Nedeni (bu durumda kötü bir bölüm fonksiyonudur) normalizasyon sabiti bilerek gerektirecektir çünkü bilinmemektedir, ama biz yine de ret örnekleme yöntemiyle ondan tadabilirsiniz. Btw, sadece CV ;-) bağlantısını değil, sizi adıyla belirtmek güzel olurdu. pp
Pedro A. Ortega

Yanıtlar:


19

Bunu birkaç "hileci" ve biraz matematikle çözebiliriz.

İşte temel algoritma:

  1. Başarı olasılığı olan bir Geometrik rasgele değişken oluşturun .pp
  2. Bu rastgele değişkenin sonucu, bilinen sabit bir değerini .f n[ 0 , 1 ]fn[0,1]
  3. madalyonuzun blok halinde eşlenmiş oluşturulan adil jeton kullanarak bir rastgele değişkeni oluşturun .B e r ( f n ) Ber(fn)B e r ( p )Ber(p)
  4. Ortaya çıkan sonuç , tüm ihtiyacımız olan herhangi için olacaktır .B e r ( p a ) Ber(pa)a ( 0 , 1 )a(0,1)

İşleri daha sindirilebilir hale getirmek için işleri parçalara ayıracağız.

Adet 1 : Genel kayıp olmadan olduğunu varsayın .0 < a < 10<a<1

Eğer , bazı pozitif tamsayı ve bazı için yazabiliriz . Ancak, herhangi iki bağımsız Bernoulli için Açık bir şekilde madalyonuzdan bir Bernoulli üretebiliriz . Bu nedenle, kendimizi yalnızca olduğunda oluşturmakla ilgilenmemiz gerekir .a 1 a1p a = p n p bpa=pnpb n n0 b < 1 0b<1P ( X 1 = X 2 = 1 ) = p 1 p 2.

P(X1=X2=1)=p1p2.
p n pnB e r ( p a ) Ber(pa)a ( 0 , 1 )a(0,1)

2. Parça : Adil madeni para çevirmelerinden keyfi bir oluşturmayı bilin .B e r ( q )Ber(q)

Bunu yapmanın standart bir yolu var. Expand onun ikili genişleme ve daha sonra bizim adil sikke "maçın" nin basamak çevirir kullanmak . İlk eşleşme, bir başarı ("kafa") veya başarısızlık ("kuyruk") ilan edip etmeyeceğimizi belirler. Eğer ve tura , kafaları beyan edin, ve , kuyruk . Aksi takdirde, sonraki rakamı yeni bir bozuk para flipine karşı düşünün.q = 0. q 1 q 2 q 3q=0.q1q2q3q qq n = 1 qn=1q n = 0qn=0

Parça 3 : Bilinmeyen önyargıları olan haksız paralardan nasıl adil bir yazı tura dönüştürüleceğini öğrenin.

Bu, , paranın çiftler halinde çevrilmesi ile yapılır. alırsak , bir kafa beyan edin; alırsak , bir kuyruk bildirin ve yukarıda belirtilen iki sonuçtan biri gerçekleşene kadar deneyi tekrarlayın. Bunlar eşit derecede olasıdır, bu yüzden olasılık olmalıdır .p ( 0 , 1 ) p(0,1)H , T HT, T , H TH1 / 21/2

4. Parça : Biraz matematik. (Taylor kurtarmaya.)

Genişleterek etrafında , Taylor teoremi iddia o Not çünkü , sonra her bir terim ilk negatif elimizdeki böylece, a priori olarak bilinir . Bu nedenle burada , veh ( p ) = p a h(p)=pap 0 = 1 p0=1p a = 1 - a ( 1 - p ) - a ( 1 - a )2!(1p)2a(1a)(2a)3!(1p)3.

pa=1a(1p)a(1a)2!(1p)2a(1a)(2a)3!(1p)3.
0<a<10<a<1pa=1n=1bn(1p)n,
pa=1n=1bn(1p)n,
0bn10bn11pa=n=1bn(1p)n=n=1bnP(Gn)=n=1fnP(G=n)=Ef(G),
1pa=n=1bn(1p)n=n=1bnP(Gn)=n=1fnP(G=n)=Ef(G),
GGeom(p)GGeom(p)f0=0f0=0fn=nk=1bkfn=nk=1bkiçin .n1n1

Ve biz zaten başarı olasılığı ile Geometrik rastgele bir değişken oluşturmak için paramızı kullanmayı biliyoruz .pp

Parça 5 : Monte Carlo hilesi.

Let değerleri alan ayrı bir rasgele değişken ile . Let . Sonra XX[0,1][0,1]P(X=xn)=pnP(X=xn)=pnUXBer(X)UXBer(X)P(U=1)=nxnpn.

P(U=1)=nxnpn.

Ancak, ve , şimdi nasıl rastgele değişken oluşturulacağını görüyoruz ve bu bir bir.pn=p(1p)npn=p(1p)nxn=fnxn=fnBer(1pa)Ber(1pa)Ber(pa)Ber(pa)


Sizi (veya çözümünüzü) nasıl anlatabilirim?
Pedro A. Ortega

2
@Pedro: Sanırım bu cevabın altındaki "paylaş" bağlantısını tıklayabilirsiniz. Sabit bir bağlantı olmalıdır. Math.SE, bu sitede etkinleştirilmemiş gibi görünen bir alıntı mekanizmasına sahiptir , ancak onu uyarlayabilirsiniz.
kardinal

1
Şimdi, bu harika bir cevap!
Zen

1
Bunu Coursera sınıfının Analitik Kombinatorik hakkındaki Genel Tartışma forumunda yazdım, çünkü bu, orada kapsanan bazı materyallerle ilgili güç serilerinin güzel bir kullanımıydı. class.coursera.org/introACpartI-001/forum/thread?thread_id=108
Douglas Zare

@Douglas: Teşekkürler! Bu iş parçacığının herkese açık olarak görüntülenebilir bir sürümü var mı veya dersi görmek için kaydolmam gerekir mi? Pedro ve ben bu yaklaşımı bazı araştırmalarına dahil etmenin olası yollarını (e-posta yoluyla) tartışıyoruz.
kardinal

6

Aşağıdaki cevap aptal mı?

Eğer bağımsız ve dağılımı vardır , yaklaşık olduğunda yaklaşık olarak dağıtılacaktır .X1,,XnX1,,XnBer(p)Ber(p)YnYnBer((ni=1Xi/n)a)Ber((ni=1Xi/n)a)YnYnBer(pa)Ber(pa)nn

Bu nedenle, bilmiyorsanız , ancak bu jetonu birçok kez atabilirsiniz , bir rastgele değişkeninden (yaklaşık olarak) örnekleme yapmak mümkündür .ppBer(pa)Ber(pa)

Örnek Rkod:

n <- 1000000
p <- 1/3 # works for any 0 <= p <= 1
a <- 4
x <- rbinom(n, 1, p)
y <- rbinom(n, 1, mean(x)^a)
cat("p^a =", p^a, "\n")
cat("est =", mean(y))

Sonuçlar:

p^a = 0.01234568 
est = 0.012291 

2
Ben bu yanıtı seviyorum ama (veya hakkında ampirik bilgi bilmeden istenen dağıtımdan üretilen bir algoritma istediğini yorumladığım sorunun noktasını kaçırdığından şüpheleniyorum . Ancak, sorun rasgele değişkenler oluşturabileceğinizi varsayar , bu yüzden bu oldukça makul bir cevaptır ve hiç saçma değildir! +1ppppBernoulli(p)Bernoulli(p)
Makro

1
+1: Beğendim. Diyelim ki dağıtılıyor…? YnYn
Neil G

Çok daha iyi! Tks, @Neil G!
Zen

1
Bu sevimli (+1), ancak bunu neredeyse kesin olarak sonlu sayıda döndürmeyle yapabiliriz (ve ortalama olarak, bu sayı nispeten küçük olacaktır).
kardinal

5

Bu sorunun aşağıdaki açıklamasını ve kardinal'in cevabını Coursera'daki mevcut Analitik Kombinatorik sınıfının Genel Tartışma forumuna, "Güç serisinin rastgele bir değişken oluşturmak için uygulanması" na gönderdim. Bunu herkese açık ve daha kalıcı bir hale getirmek için topluluk wiki'si olarak burada bir kopya gönderiyorum.


Stat.stackexchange.com'da güç serileriyle ilgili ilginç bir soru ve cevap vardı: "Ardışık olmayan ardışık Bernoulli başarıları nasıl üretilir?" Soruyu ve cevabı kardinal ile açıklayacağım.

Diyelim ki olasılığı olan kafalar ve pozitif bir gerçek sayı olan haksız bir paramız var . Olasılığı olan bir olayı nasıl oluşturabiliriz ?ppαpα

pozitif bir tamsayı olsaydı , jetonu çevirebilirizα α kezve olayın tüm fırlatılmış kafalar olduğunu. Ancak, α tamsayı değil, demek 1 / 2 sonra bu mantıklı değil, ama biz durumda buna azaltmak için bu fikri kullanabilirsiniz, 0 < α < 1 . Olasılığı p 3.5 olan bir olay oluşturmak istiyorsak, olasılıkları p 3 ve p 0.5 olan bağımsız olayların kesişimini alırız.

Yapabileceğimiz bir şey, bilinen herhangi bir olasılıkla bir olay oluşturmaktır p [ 0 , 1 ] . Bunu yapmak için, biz tekrar tekrar iki kez yazı tura okuyarak adil bitleri akışını oluşturabilirsiniz H T olarak 1 ve T H olarak 0 ve görmezden H H ve T T . Bu akışı p = 0 ikili genişlemesi ile karşılaştırıyoruz. A 1 a 2 a 3 . . . 2. Burada birinci anlaşmazlık olan etkinlik , bir i = 1 olasılığı vardır p ' . P α'yı bilmiyoruz , bu yüzden bunu doğrudan kullanamayız, ancak yararlı bir araç olacaktır.

Ana fikir, p α = ( 1 - q ) α = 1 - α q - α ( 1 - α ) için güç serilerini kullanmak istediğimizdir.2 q2-α(1-α)(2-α)3 ! q3-. . . buradap=1-q. Biz kimin olasılıkları vardır olayları oluşturabilirsinizqnsikke saygısıznsürelerini ve hepsi kuyrukları ise görme ve biz olasılık ile bir etkinlik üretebilirp'qnikili basamak karşılaştırarakp'yukarıdaki gibi adil bir bit akışı ventosses'in kuyrukolup olmadığını kontrol etmek.

P parametresi ile geometrik bir rastgele değişken G oluşturun . Bu, sınırsız bir madeni para dizisindeki ilk kafadan önceki kuyruk sayısıdır. P ( G = n ) = ( 1 - p ) n p = q n p . (Bazı insanlar 1'den farklı bir tanım kullanır .)

Bir dizi verilen t 0 , t 1 , t 2 , . . . , Üretebilir t G ilk kafa kadar para çevirin ve varsa: G, birincil kafa önce kuyrukları, göstergesi dizisinin elemanını almak G . Her t n[ 0 , 1 ] ise , E [ t olasılığı bulunan bir olay elde etmek için t G'yi [ 0 , 1 ] 'de (yukarıdaki gibi yapılandırılmış) tekdüze rastgele bir değişkenle karşılaştırabiliriz.G ] = n t n P ( G = n ) = n t n q n p .

Neredeyse ihtiyacımız olan bu. Bunu elimine etmek istiyorum p güç dizisi aracılığıyla s a olarak q .

1 = p + q p + q 2 p + q 3 p + . . .

q n = q n p + q n + 1 p + q n + 2 p + . . .

n snqn= Σ n s , n ( q , n p + q , n + 1 p + q , n + 2 s + . . . )=n(s0+s1+...+sn)qnp

Consider 1pα=αq+α(1α)2q2+.... Let tn be the sum of the coefficients of q through qn. Then 1pα=ntnqnp. Each tn[0,1] since the coefficients are positive and sum to 10α=1, so we can construct an event with probability 1pα by comparing a fair bit stream with the binary expansion of tG. The complement has probability pα as required.


Again, the argument is due to cardinal.


1
(+1) Thanks for going to the trouble to post this. The differences in exposition, while relatively slight, help make the approach more clear.
cardinal

4

The very complete answer by cardinal and subsequent contributions inspired the following remark/variant.

Let PZ stand "Probability of Zero" and q:=1p. If Xn is an iid Bernoulli sequence with PZ q, then Mn:=max(X1,X2,,Xn) is a Bernoulli r.v. with PZ qn. Now making n random i.e., replacing it by an integer rv N1 leads to Bernoulli rv MN with Pr{MN=0}=n=1Pr{MN=0|N=n}Pr{N=n}=n=1Pr{N=n}qn.

So if 0<a<1 and if we take Pr{N=n}=bn from cardinal's answer, we find Pr{MN=0}=1pa and 1MN is Ber(pa) as wanted. This is indeed possible since the coefficients bn satisfy bn0 and they sum to 1.

The discrete distribution of N depends only on a with 0<a<1, recall Pr{N=n}=ann1k=1(1a/k)(n1).

It has interesting features. It turns out to have an infinite expectation and an heavy tail behaviour nbnc/na with c=1/Γ(a)>0.

Though MN is the maximum of N rvs, its determination needs a number of Xk which is N since the result is known as soon as one Xk is 1. The number of computed Xk is geometrically distributed.


A related idea would be to make the rvs Xk dependent with extremal index θ (0<θ<1), meaning that Mn has PZ qnθ rather than qn. Taking nθ=a would do the job for any a>0. Given a sequence of iid rv.s Xn following a standard Frechet, there are known methods to generate a dependent sequence Xn with standard Frechet margin and the prescribed extremal index θ. However, what happens if we replace standard Frechet'' by Bernoulli''?
Yves

(+1) Very nice, @Yves. A few remarks: (1) The first part can be viewed as the complement of the approach I've taken. In fact, when I first got the series in bnqn, while I immediately saw the connection to the geometric, I first tried something more direct and didn't come up with a natural way to do it. Your answer solves that problem. (2) Your approach can also be implemented using only a Ber(p) coin. In particular, N can be generated by descending down a full binary tree based on fair coin flips, where the left nodes are leaves and the decision is made by (...)
cardinal

(...) comparing the number in (0,1) constructed from the (partial) sequence of coin flips to the partial sums fn=ni=1bi. The termination depth gives N. (3) I believe that nbncn(1+a), which will change your conclusion regarding the finiteness of the mean. (4) In both your approach and mine, it seems we cannot escape computing fn=ni=1bi, even if we allow for uniform random variates in addition to our Ber(p) coin for the purposes of sampling. Finding a way to avoid that would seem to be the most obvious way to improve efficiency.
cardinal

1
Thank you @cardinal. I agree with all your comments except perhaps (3). I actually made an error since c is 1/Γ(a) (edited), but the exponent of n seems the right one. I used the representation of Γ(z) as found e.g. on Wikipedia page on infinite product and took z:=a which gives an equivalent for the product n1k=1. I would be more confident if you could check this.
Yves

Dear @Yves, (+1) You are correct about the constant and about (3). My apologies. Somehow, when I went to transcribe things to paper, I ended up focusing on the asymptotics of bn instead of nbn. :-)
cardinal
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.