Bernoulli işlemindeki olasılığı 10 hataya kadar örnekleyerek tahmin etme: önyargılı mı?

10 başarısızlıkla karşılaşıncaya kadar örnekleme yaptığımız başarısızlık olasılığı q olan bir Bernoulli sürecimiz olduğunu varsayalım (ki bu küçük olacaktır, örneğin q ≤ 0.01 ) . Bu suretle olarak başarısızlık olasılığının tahmini q : = 10 / K burada N numune sayısıdır.$q$$q \leq 0.01$$10$$\hat{q}:=10/N$$N$

Soru : mi q bir önyargılı tahmin ait q ? Ve eğer öyleyse, düzeltmenin bir yolu var mı?$\hat{q}$$q$

Son numunenin başarısız olduğu konusunda ısrar etmenin tahmini önyargıya sokması.

Doğrudur q bir önyargılı tahminidir q anlamında E ( q ) ≠ q , ama mutlaka bu sizi caydırmak izin verilmemelidir. Bu kesin senaryo, daima tarafsız tahmin ediciler kullanmamız gerektiği fikrine karşı bir eleştiri olarak kullanılabilir, çünkü burada önyargı, yaptığımız belirli deneyin bir yapaylığıdır. Veriler, örnek sayısını önceden seçmiş olsaydık tam olarak göründükleri gibi, neden çıkarımlarımız değişmeli?$\hat{q}$$q$$\text{E}(\hat{q}) \neq q$

İlginç bir şekilde, bu şekilde veri toplayacak ve daha sonra hem binom (sabit örnek boyutu) hem de negatif binom modelleri altında olabilirlik fonksiyonunu yazacak olsaydınız, ikisinin birbiriyle orantılı olduğunu görürdünüz. O Bu araçlar q elbette son derece mantıklı bir tahmindir negatif binom modeli altında gayet sıradan maksimum olabilirlik tahmindir.$\hat{q}$

Son örneğin tahminin önyargılı olduğu bir başarısızlık olduğu konusunda ısrar etmiyor, N'nin karşılığını alıyor$N$

Yani örneğinizde fakat E[$\mathbb{E}\left[\frac{N}{10}\right] =\frac{1}{q}$. Bu aritmetik ortalamanın harmonik ortalama ile karşılaştırılmasına yakındır$\mathbb{E}\left[\frac{10}{N}\right] \not = q$

Kötü haber şu ki, küçüldükçe önyargı artabilir , ancak q zaten küçük olduğunda çok fazla değil . İyi haber, gerekli hata sayısı arttıkça önyargıların azalmasıdır. Görünüşe göre f başarısızlıklarına ihtiyacınız varsa , önyargı yukarıda çarpımsal bir f faktörü ile sınırlıdır.$q$$q$$f$küçükqiçin f - 1 ; ilk başarısızlıktan sonra durduğunuzda bu yaklaşımı istemezsiniz $\frac{f}{f-1}$$q$

başarısızlıktan sonra durmak , q = 0.01 ile E [ N alırsınız$10$$q=0.01$ama E[$\mathbb{E}\left[\frac{N}{10}\right] = 100$,q=0.001ileE[Nalırsınız$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.011097$$q=0.001$ama E[$\mathbb{E}\left[\frac{N}{10}\right] = 1000$. Kabaca bir10önyargı$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.001111$ çarpım faktörü $\frac{10}{9}$

Dsaxton cevabı bir tamamlayıcı olarak, burada örnekleme dağılımını gösteren R bazı simülasyonları q k = 10 ve q, 0 = 0.02 :$\hat{q}$$k=10$$q_0 = 0.02$

n_replications <- 10000
k <- 10
failure_prob <- 0.02
n_trials <- k + rnbinom(n_replications, size=k, prob=failure_prob)
all(n_trials >= k)  # Sanity check, cannot have 10 failures in < 10 trials

estimated_failure_probability <- k / n_trials
histogram_breaks <- seq(0, max(estimated_failure_probability) + 0.001, 0.001)
## png("estimated_failure_probability.png")
hist(estimated_failure_probability, breaks=histogram_breaks)
abline(v=failure_prob, col="red", lty=2, lwd=2)  # True failure probability in red
## dev.off()

mean(estimated_failure_probability)  # Around 0.022
sd(estimated_failure_probability)
t.test(x=estimated_failure_probability, mu=failure_prob)  # Interval around [0.0220, 0.0223]

E gibi görünüyor [değişkenliğe oldukça küçük bir eğilim görecelidir, q .$\mathbb{E}\left[ \hat{q}\right] \approx 0.022$$\hat{q}$