Tutarsız bir Maksimum olabilirlik tahmincisi örneği

Bir makaleye yorum okuyorum ve yazar, bazen tahmin ediciler (ML veya maksimum quasilikelihood tarafından bulunan) tutarlı olmasa da, bir olasılık oranının veya yarı olabilirlik oranı testinin gücünün hala 1 gözlenen veri sayısı sonsuzluğa (test tutarlılığı) eğilimlidir. Bu nasıl ve ne zaman oluyor? Bir bibliyografya biliyor musunuz?

— Denizde yaşlı bir adam.
kaynak

LR ve QLR nedir?

— gung - Monica'yı eski

Olabilirlik oranı ve quasilikelihood oran testi;)

— Denizde yaşlı bir adam.

Güç bir nokta dışında her yerde 1'e gitmelidir. Sahip olmayacağınız şey nominal tip 1 hata oranıdır.

— Glen_b

@Glen_b, yorumunuzla ilgili daha fazla ayrıntı verebilir misiniz? Teşekkürler;)

— Denizde yaşlı bir adam.

@Glen_b, maalesef hayır ve wiki'nin bir girişi yok gibi görünüyor ...

— Denizdeki yaşlı bir adam.

Yanıtlar:

[Bence bu, sorunuzda tartışılan durumun bir örneği olabilir.]

Tutarsız ML tahmincilerinin sayısız örneği vardır. Tutarsızlık yaygın olarak çeşitli hafif karışık karışım problemleri ve sansür problemlerinde görülür.

[Bir testin tutarlılığı temel olarak sadece (sabit) bir yanlış hipotez için testin gücünün olarak bire yükselmesidir .] $n\to\infty$

Radford Neal, 2008-08-09 Tutarsız Maksimum Olabilirlik Tahmini: “Sıradan” Bir Örnek olan blog girişinde bir örnek veriyor . parametresinin tahminini içerir : $\theta$

X | θ \sim (1 / 2) N (0, 1) + (1 / 2) N (θ, \exp (- 1 / θ^{2})^{2})

$X\ |\ \theta\ \ \sim\ \ (1/2) N(0,1)\ +\ (1/2) N(\theta,\exp(-1/\theta^2)^2)$

(Neal kullanan nerede sahip ), burada ML tahmini eğiliminde olacaktır olarak (ve aslında ihtimali oldukça mütevazi bir örneği için de geçerlidir değerde daha 0'a yakın bir zirve ile çok daha yüksek olabilir, boyutları). Gerçek değer yakınında bir tepe var ki yine de böyledir , bu 0'a yakın olandan sadece küçük. $t$ $\theta$ $\theta$ $0$ $n\to\infty$ $\theta$

Şimdi bu durumla ilgili iki vakayı düşünün:

a) alternatif karşısında olabilirlik oranı testi ; $H_0: \theta=\theta_0$ $H_1: \theta<\theta_0$

b) alternatif karşısında olabilirlik oranı testi . $H_0: \theta=\theta_0$ $H_1: \theta\neq\theta_0$

Durumda, (a) olarak, hayal doğru (alternatif doğrudur ve böylece doğru diğer tarafı ). Daha sonra rağmen çok yakın 0 olasılığı o aşacağı de, olasılığını yine de en olasılığını aşan hatta küçük numunelerde ve oran olarak daha büyümeye devam edecektir , olasılık oran testinde ret olasılığını 1 yapacak şekilde yapar. $\theta<\theta_0$ $0$ $\theta$ $\theta$ $\theta$ $\theta_0$ $n\to\infty$

Gerçekten de, (b) durumunda bile sabit ve uzakta olduğu sürece , olabilirlik oranının bir olasılık oranı testinde de reddetme olasılığını yapacak şekilde büyüyeceği de olmalıdır. yaklaşım 1. $\theta_0$ $0$

Dolayısıyla bu, bir gücünün yine de 1'e gitmesi gereken ( hariç) tutarsız ML tahmininin bir örneği gibi görünecektir . $\theta_0=0$

[Bu durumun, daha önce netlik örneği olduğunu düşündüğüm ve test tutarlılığı ile bir tahmin edicinin tutarlılığı arasındaki farkı anlamak için çok daha basit olan hiçbir şeyin cevabı olmayan bir şey olmadığını unutmayın. Spesifik örnekteki tutarsız tahmin edicinin ML olmadığı gerçeği, bu farkı anlamak ve burada yapmaya çalıştığım gibi, özellikle ML olan tutarsız bir tahminciyi getirmek kadar önemli değil. herhangi bir şekilde açıklama. Buradaki örnekteki tek gerçek nokta, bir ML tahmincisi kullanma konusundaki endişenizi giderdiğini düşünüyorum.]

— Glen_b-Monica'yı eski durumuna döndür
kaynak

Cevabınız için teşekkürler Glen. Yine de bir sorum var. Mesele şu ki, LRT'nin sınır dağılımının ki-kare şeklinde olduğunun kanıtında, ML tahmincilerinin tutarlı olduğu varsayılmaktadır. Sizin durumunuzda, artan dağılım oranının sınırlama dağılımı bilinmediğinde ret olasılığının 1'e çıkmasını nasıl haklı göstereceksiniz? Yoksa biliniyor mu?

— Denizde yaşlı bir adam.

Olasılık oranı testi istatistiğinin sınırsız büyümesi için ihtiyacınız olan tek şey paydaki değerinin paydadakinden daha hızlı büyümesi ihtimalidir . Bağlantılı tartışmadan anladığım kadarı Neal'ın bunu ima ettiğini, ancak ayrıntıların gerçek bir kontrolünü yapmadım. Testin ki-kare dağılımına sahip olacağını iddia etmek için iyi bir neden olduğunu düşünmüyorum; Söz konusu verdiklerini az bilgi benim varsayım açıklanan deney yapılıyor olmasıydı sanki ... (ctd) o asimptotik ki-kare, ama

θ

$\theta$

— Glen_b -Reinstate Monica

(ctd) ... açıkladığınız yorumun yazarına bunun ne anlama geldiğini sormanız gerekir.

— Glen_b

Aslında, söylediğim şey doğru değil, çünkü payın paydadan daha hızlı büyümesi mümkün, ancak oran sınırsız büyümez (ikisinin oranı büyüyebilir, ancak sınırlanabilir). "Yeterince daha hızlı" gibi bir şey söylemeliydim.

— Glen_b

Let bir normal IID çekilebilir dağıtım. Tahminciyi düşünün $(X_n)$ $(\mu, 1)$

T (x_{1}, \dots, x_{n}) = 1 + \bar{x} = 1 + \frac{1}{n} \sum_{i = 1}^{n} x_{n} .

$T(x_1, \ldots, x_n) = 1 + \bar{x} = 1 + \frac{1}{n}\sum_{i=1}^n x_n.$

Dağılımı Normal . Bu yakınsamaktadır bu tutarsız gösteren. $T(X_1,\ldots,X_n)=1+\bar{X}$ $(\mu+1, 1/\sqrt{n})$ $\mu+1\ne \mu$

Boş bir hipotez ile basit bir alternatif, örneğin , günlük olasılık oranı yerine dayalı LLR ile tam olarak aynı olacaktır . (Aslında, , boş hipotez ile alternatif hipotez .) Ortalamayı temel alan testte herhangi biri için yakın güç var Test boyutu ve herhangi bir efekt boyutu, kendisini kullanarak testin gücü de yakınsar . $\mu=\mu_0$ $\mu=\mu_A$ $\bar{X}$ $T$ $T$ $\mu+1=\mu_0+1$ $\mu+1=\mu_A+1$ $1$ $\alpha\gt 0$ $T$ $1$

— whuber
kaynak

bu soruya gösterdiğiniz ilgi için teşekkür ederiz. Nasıl daha genel bir ortamda testin tutarlılığından emin olabiliriz? Belirli bir vaka değil, daha genel bir cevap arıyordum. Ve ayrıca varsa bazı kaynakça. Teşekkürler;)

— Denizde yaşlı bir adam.

Ayrıca, belki yanılıyorum, ama T tahmincisi ML tahmincisi gibi görünmüyor. Soru şu: “ne zaman test tutarlılığına sahibiz, ML tahmin edicileri veya maksimum quasilikelihood tahmin edicileri tutarlı değilse?”

— Denizde yaşlı bir adam.

Soruyu düzenledim, çünkü istediğim şey tam olarak olmayabilir. Üzgünüm;)

— Denizde yaşlı bir adam.