İmkansız bir tahmin sorunu mu?

Soru

Negatif bir binom (NB) dağılımının varyansı her zaman ortalamasından daha büyüktür. Bir numunenin ortalaması varyansından daha büyük olduğunda, NB parametrelerini maksimum olasılıkla veya moment tahmini ile uydurmaya çalışmak başarısız olur (sonlu parametrelerle çözüm yoktur).

Bununla birlikte, bir NB dağılımından alınan bir numunenin ortalama varyanstan daha büyük olması mümkündür. İşte R'de tekrarlanabilir bir örnek.

set.seed(167)
x = rnbinom(100, size=3.2, prob=.8);
mean(x) # 0.82
var(x) # 0.8157576

NB'nin parametreler için tahmin edilemeyen bir örnek üretme olasılığı sıfırdır (maksimum olasılık ve moment yöntemleri ile).

Bu örnek için makul tahminler verilebilir mi?
Tahminler tüm örnekler için tanımlanmadığında tahmin teorisi ne diyor?

Cevap hakkında

@MarkRobinson ve @Yves'in cevapları bana parametrelerin ana sorun olduğunu anlamamı sağladı. NB'nin olasılık yoğunluğu genellikle şu şekilde yazılır:

P (X = k) = \frac{Γ (r + k)}{Γ (r) k!} (1 - p)^{r} p^{k}

$P(X = k) = \frac{\Gamma(r+k)}{\Gamma(r)k!}(1-p)^rp^k$ veya

P (X = k) = \frac{Γ (r + k)}{Γ (r) k!} {(\frac{r}{r + m})}^{r} {(\frac{m}{r + m})}^{k} .

$P(X = k) = \frac{\Gamma(r+k)}{\Gamma(r)k!} \left(\frac{r}{r+m}\right)^r \left(\frac{m}{r+m}\right)^k.$

İlk parametreleştirme altında, numunenin varyansı ortalamadan küçük olduğunda maksimum olabilirlik tahmini dır, bu nedenle hakkında faydalı hiçbir şey söylenemez . İkincisi altında, , yani için makul bir tahmin verebiliriz . Son olarak, @MarkRobinson gösterir biz kullanarak sonsuz değerleri sorununu çözebilir yerine . $(\infty, 0)$ $p$ $(\infty, \bar{x})$ $m$ $\frac{r}{1+r}$ $r$

Sonuç olarak, bu tahmin probleminde temelde yanlış bir şey yoktur, ancak her örnek için her zaman ve için anlamlı yorumlar veremezsiniz . Adil olmak gerekirse, fikirler her iki cevapta da mevcuttur. @MarkRobinson'un verdiği tamamlayıcılar için doğru olanı seçtim. $r$ $p$

estimation maximum-likelihood negative-binomial

— gui11aume
kaynak

Böyle bir durumda maksimum olasılığın başarısız olduğunu belirtmek yanlıştır. Sadece moment yöntemleri zorluklarla karşılaşabilir.

— Xi'an

@ Xi'an Genişleyebilir misiniz? Bu örnek olasılığı etki alanında maksimum değere sahiptir

(bakınız ayrıca , bu örneğin). Bir şey mi kaçırıyorum? Her durumda, bu durum için parametrelerin ML tahminlerini verebilirseniz, soruyu güncelleyeceğim.

(0, \infty) \times (0, 1)

$(0,\infty) \times (0,1)$

— gui11aume

Olasılık,

için sonsuz mesafede maksimum olabilir . Benzer bir sorun ancak daha basit tanı ile Lomax dağılımı söz konusudur: örnek

varyasyon katsayısına sahip olduğunda şeklin ML tahmininin sonsuz olduğu bilinmektedir . Yine de bu olayın olasılığı herhangi bir örneklem büyüklüğü için pozitiftir ve örneğin

ve için oldukça güçlüdür .

p \to 0

$p \to 0$

r \to \infty

$r \to \infty$

CV < 1

$\text{CV} < 1$

α = 20

$\alpha = 20$

n = 200

$n = 200$

— Yves

@Yves Bu diğer örnek için teşekkür ederim (ki ben farkında değildim). İnsanlar bu durumda ne yapar?

— gui11aume

Lomax örneğinde, bazı insanlar ve için sınır olan üstel dağılımı kullanmayı seçti . Bu sınırsız bir ML tahmininin kabulü anlamına gelir. Yeniden parametrelendirmeyle değişmezlik uğruna, bazı durumlarda sonsuz parametrelerin anlamlı olabileceğine inanıyorum. NB örneğiniz için, arasındaki Poisson dağılımını kullanmayı seçersek aynı şey olur .

α \to \infty

$\alpha \to \infty$

λ / α \to θ > 0

$\lambda / \alpha \to \theta >0$

r p / (1 - p) \to λ

$rp/(1-p) \to \lambda$

— Yves

Yanıtlar:

Temel olarak, örneğiniz için, size parametresinin tahmini, parametre alanının sınırındadır. Ayrıca, d = boyut / (boyut + 1) gibi bir yeniden parametrelendirme de düşünülebilir; boyut = 0, d = 0 olduğunda, boyut sonsuza eğilimliyse, d 1'e yaklaşır. Verdiğiniz parametre ayarları için sonsuzluğun boyut tahminlerinin (d'ye 1'e yakın), NB için MLE tahminlerine alternatif olan Cox-Reid ayarlanmış profil olabilirlik (APL) tahminleri (örnek burada gösterilmiştir) . Ortalama parametrenin (veya 'prob') tahminleri iyi görünmektedir (şekle bakın, mavi çizgiler gerçek değerlerdir, kırmızı nokta tohumunuz için tahmindir = 167 örnek). APL teorisi hakkında daha fazla ayrıntı burada .

Yani, 1 diyorum: İyi parametre tahminleri olabilir .. size = sonsuzluk veya dağılım = 0 örnek verilen makul bir tahmindir. Farklı bir parametre alanı düşünün ve tahminler sonlu olacaktır.

— Mark Robinson
kaynak

Soruma cevap vermek için siteye katıldığınız için teşekkürler! Cox-Reid ayarlı profil olasılığının detayı çok umut verici görünüyor.

— gui11aume

Negatif binom (NB) bir örnekte, olabilirlik için sonsuz bir mesafede de maksimuma sahip olabilir ve , alan sınırında $p \to 0$ $r \to \infty$ . Poisson dağılımının bir miktar ortalama NB'den daha büyük bir olasılığagötürdüğü ortaya çıkarsa, o zaman $\Theta := (0,\,1)\times(0,\,\infty)$ $\lambda >0$ , ve ile bir yol boyunca hareket eder. Maksimum olasılıkın sınırda bulunma olasılığı sıfır değildir. $[p,\,r] \in \Theta$ $p \to 0$ $r \to \infty$ $rp/(1-p) \to \lambda$

Benzer bir sorun ancak daha basit tanı ile Lomax dağılımı söz konusudur: örnek varyasyon katsayısına sahip olduğunda şeklin ML tahmininin sonsuz olduğu bilinmektedir . Yine de bu olayın olasılığı herhangi bir numune boyutu için pozitiftir ve örneğin ve için . $\text{CV} < 1$ $>0.3$ $\alpha = 20$ $n = 200$

ML özellikleri büyük bir örneklem büyüklüğü içindir: Düzenlilik koşulları altında, bir ML tahmininin var olduğu, benzersiz olduğu ve gerçek parametreye meyilli olduğu gösterilmiştir. Yine de belirli bir sonlu örneklem büyüklüğü için, ML tahmini alan adında mevcut olmayabilir, çünkü sınırda maksimum değere ulaşıldığı için. Ayrıca, maksimize etmek için kullanılandan daha büyük bir alanda da bulunabilir.

$\alpha \to \infty$ $\lambda / \alpha \to \theta >0$ $\text{GPD}(\sigma,\,\xi)$ $\xi >0$ $\widehat{\xi} < 0$ $\widehat{\xi} = 0$

Yeniden parametrelendirmeyle değişmezlik uğruna, bazı durumlarda sonsuz parametrelerin anlamlı olabileceğine inanıyorum.

— Yves
kaynak