Ait tahminleyicisinin UMVUE varlığı ve seçim günü içinde nüfus

Let çekilen rasgele numune olduğu popülasyonu burada . $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

UMVUE'yu arıyorum . $\theta$

Ortak yoğunluğu olduğu $(X_1,X_2,\cdots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \prod_{i = 1}^{n} \frac{1}{θ \sqrt{2 π}} \exp [- \frac{1}{2 θ^{2}} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [- \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [\frac{1}{θ} \sum_{i = 1}^{n} x_{i} - \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} x_{i}^{2} - \frac{n}{2}] \\ = g (θ, T (x)) h (x) \forall (x_{1}, \dots, x_{n}) \in R^{n}, \forall θ \in R \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

, burada ve . $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

Burada , ve - ve bağımsızdır . Bu yüzden, Fisher-Neyman- factorisation teoreminden, iki boyutlu istatistik için yeterlidir . $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

Ancak, $T$ tam bir istatistik değildir. Bunun nedeni,

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

ve aynı sıfır değildir. $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

Ama biliyorum ki, yeterli düzeyde minimal bir istatistik. $T$

Emin değilim ama bence bu kavisli üstel aile için tam bir istatistik olmayabilir. Öyleyse UMVUE'yu nasıl edinebilirim? Tam bir istatistik mevcut değilse, yeterli istatistiki bir işlev olan tarafsız bir tahminci ( bu durumda gibi ) UMVUE olabilir mi? (İlgili konu: Tarafsız bir tahmincinin UMVUE olması için gerekli koşul nedir? ) $\bar X$

en iyi doğrusal yansız tahmincisini (MAVİ) düşünürsem ne olur ? MAVİ UMVUE olabilir mi? $\theta$

I lineer yansız tahmin değerlendirdiğimizi varsayalım bölgesinin ve . Bildiğimiz için . Benim fikrim ı en aza indirgemek ki MAVİ olacaktı . O zaman theta'nın UMVUE'u olur mu? $T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

ve dayalı doğrusal bir tarafsız tahminci aldım çünkü için de yeterlidir . $\bar X$ $S$ $(\bar X,S^2)$ $\theta$

Düzenle:

Gerçekten bilindiği daha genel ailesindeki tahmininde çok fazla çalışma yapılmıştır . Aşağıdakiler en alakalı referanslardan bazılarıdır: $\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

Gleser / Healy tarafından bilinen varyasyon katsayısı ile normal dağılımın ortalamasını tahmin etmek .
RA Khan tarafından bilinen varyasyon katsayısı ile normal dağılımın ortalamasını tahmin etme notu .
RA Khan tarafından Bilinen Varyasyon Katsayısı ile Normal Dağılım Ortalamasını Tahmin Etme Üzerine Bir Yorum .
Bu bölüm özü.

Casella / Berger'in İstatistiksel Çıkarımından bu çalışmada ilk olarak bu referansları buldum :

Benim sorum bu egzersizle ilgili değil.

Son not (bölüm özeti), yeterli telafi $\theta$ istatistikleri tam olmadığından theta'nın UMVUE değerinin mevcut olmadığını söylüyor . Tam bir yeterli istatistik bulunamadığından bir UMVUE'nun var olmamasını neyin mümkün kıldığını bilmek istiyorum ? Bununla ilgili herhangi bir sonuç var mı? Bağlantılı iş parçacığında tam yeterli istatistikler olmasa bile UMVUE'nun varlığını görüyorum.

Şimdi tekdüze bir minimum varyans yansız tahmin edicisinin olmadığını varsayarsak, 'en iyi' tahmin ediciyi seçmek için bir sonraki kriterlerimiz ne olmalı? Minimum MSE, minimum varyans veya MLE'yi mi arıyoruz? Yoksa kriter seçimi tahmin amacımıza mı bağlı?

Örneğin, tarafsız bir tahmincim ve başka bir önyargılı tahmincim olduğunu . Varsayalım ki (varyansı) MSE , daha fazla . Aynı anda hem de sapması gibi önyargı minimize MSE araçlarının minimize beri bence daha tahmincisi bir 'iyi' seçenek olmalıdır eski önyargılı olsa. $T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

tahmincilerinin olası seçenekleri son notun 4. sayfasında listelenmiştir. $\theta$

Aşağıdaki alıntı Lehmann / Casella tarafından Nokta Tahmini Teorisi'nden alınmıştır (ikinci baskı, sayfa 87-88):

Her şeyi yanlış anlamam oldukça muhtemeldir, ancak son cümle belirli koşullar altında UMVUE'nun varlığı için tam istatistiğin varlığının gerekli olduğunu söylüyor mu? Eğer öyleyse, bakmam gereken sonuç bu mu?

En sonunda bahsedilen RR Bahadur'a bağlı bu son sonuç bu nota işaret ediyor .

Daha fazla araştırma yapıldığında, eğer yeterli asgari istatistik tam değilse, o zaman tam bir istatistik bulunmadığını belirten bir sonuç buldum. En azından burada tam bir istatistiğin bulunmadığına ikna oldum.

Dikkate almayı unuttuğum bir başka sonuç, kabaca tarafsız bir tahmin edicinin UMVUE olması için gerekli ve yeterli bir koşulun, sıfırın her tarafsız tahmincisi ile ilişkilendirilmemesi gerektiğidir. Burada bir UMVUE olmadığını ve gibi tarafsız bir tahmin edicinin UMVUE olmadığı gerçeğini göstermek için bu teoremi kullanmayı denedim . Ancak bu, örneğin burada , son çizimde olduğu gibi basit değildir . $\bar X$

— StubbornAtom
kaynak

Güncelleme:

Tahmincisi düşünün yazınıza verilir. Bu, tarafsız bir kestirimcisidir ve aşağıda verilen kestirimci ile açıkça ilişkilendirilecektir (a'nın herhangi bir değeri ).

\hat{0} = \bar{X} - c S

$\hat 0 = \bar{X} - cS$

c

$c$

0

$0$

a

$a$

C&B teoremi 6.2.25 , , açık bir set içerdiği sürece Üstel aile için tam istatistiklerin nasıl bulunacağını gösterir . Bu dağılımı sayesinde ve açık set oluşturmaz (beri ) Bu nedenle, istatistik için tam değildir ve aynı nedenden dolayı tarafsız bir tahmincisi oluşturabiliriz. herhangi bir tarafsız tahmincisi ile ilişkilendirilecek

{(w_{1} (θ), \dots w_{k} (θ)}

$\{(w_1(\theta), \cdots w_k(\theta)\}$

R^{k}

$\mathbb R^k$

w_{1} (θ) = θ^{- 2}

$w_1(\theta) = \theta^{-2}$

w_{2} (θ) = θ^{- 1}

$w_2(\theta) = \theta^{-1}$

R^{2}

$R^2$

w_{1} (θ) = w_{2} (θ)^{2}

$w_1(\theta) = w_2(\theta)^2$

(\bar{X}, S^{2})

$(\bar{X}, S^2)$

θ

$\theta$

0

$0$

θ

$\theta$ yeterli dayalı .

Başka Bir Güncelleme:

Buradan argüman yapıcıdır. Başka tarafsız tahmincisi var olduğu durumda olmalıdır öyle ki en az biri için . $\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

İspat: Diyelim ki , ve ( değeri için ). Yeni bir tahminci düşünün Bu tahminci açıkça varyans ile ilişkilidir Let . $E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + b \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V a r (\tilde{θ}) = V a r (\hat{θ}) + b^{2} V a r (\hat{0}) + 2 b C o v (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

Varsayım olarak, bir orada bulunması gerekir şekilde . Biz seçerseniz , ardından de . Bu nedenle UMVUE olamaz. $\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

Özetle: aslında o is bağıntılı olan (herhangi bir seçim için ) biz daha iyi olan yeni bir tahmincisi inşa edemeyeceğini ima en az bir nokta için , tekdüzelik ihlal en iyi tarafsızlık iddiası. $\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

Doğrusal kombinasyonlar fikrinize daha yakından bakalım.

\hat{θ} = a \bar{X} + (1 - a) c S

$\hat\theta = a \bar X + (1-a)cS$

Belirttiğiniz gibi, , Yeterli (tam olmasa da) istatistiklere dayandığı için makul bir tahmin edicidir. Açıkçası, bu tahminci tarafsızdır, bu nedenle MSE'yi hesaplamak için sadece varyansı hesaplamamız gerekir. $\hat\theta$

\begin{aligned} M S E (\hat{θ}) & = a^{2} V a r (\bar{X}) + (1 - a)^{2} c^{2} V a r (S) \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [E (S^{2}) - E (S)^{2}] \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [θ^{2} - θ^{2} / c^{2}] \\ = θ^{2} [\frac{a^{2}}{n} + (1 - a)^{2} (c^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

Farklılaştırarak, belirli bir örnek büyüklüğü için "optimal " yı bulabiliriz . $a$ $n$

a_{o p t} (n) = \frac{c^{2} - 1}{1 / n + c^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$ burada

c^{2} = \frac{n - 1}{2} {(\frac{Γ ((n - 1) / 2)}{Γ (n / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

Bu optimum seçim bir arsa aşağıda verilmiştir. $a$

Şekilde bu not biraz ilginç , var (Wolfram Alpha ile teyit edilmiştir). $n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

Bunun UMVUE olduğuna dair bir garanti olmamakla birlikte, bu tahminci, yeterli istatistiğin tüm tarafsız lineer kombinasyonlarının minimum varyans tahmin edicisidir.

— knrumsey
kaynak

Güncelleme için teşekkürler. C&B'yi ders kitabı olarak takip etmedim, sadece alıştırmalara baktım.

— StubbornAtom

@StubbornAtom theta'nın neden UMVUE olamayacağını gösteren bir kanıt ekledim (C&B sayfa 344'ten yoğun bir şekilde ödünç alındı). Bir göz atın ve bunun işe yarayıp yaramadığını bana bildirin.

\hat{θ}

$\hat\theta$

— knrumsey