Rao-Blackwell Teoremi neden ?

Rao-Blackwell Teoreminin belirtileri

Let bir tahmin edici ile Tüm . için yeterli olduğunu varsayalım ve Sonra tüm , bir fonksiyonu olmadığı sürece eşitsizlik katıdır $\hat{\theta}$ $\theta$ $\Bbb E (\hat{\theta}^2) < \infty$ $\theta$ $T$ $\theta$ $\theta ^ * = \Bbb E (\hat{\theta}|T)$ $\theta$
$E (θ^{*} - θ)^{2} \leq E (\hat{θ} - θ)^{2}$ $\Bbb E (\theta^* - \theta )^2 \leq \Bbb E (\hat{\theta} - \theta )^2$ $\hat{\theta}$ $T$

Doğru teoremi anlamak, yeterli istatistiği varsa, bu durumları için bölgesinin koşullu beklenen değere verilen çözüm $T$ $\theta$ $\hat{\theta}$ $T$ $\min_{\hat{\theta}} \Bbb E$ $(\hat{\theta}-\theta)^2$

Quesitonlarım

Bunu düzeltmek muyum $\theta^*$ minimize $\Bbb E$ $(\hat{\theta}-\theta)^2$ ?
Rao-Blackwell Teoremi neden $\Bbb E(\hat{\theta}^2) < \infty$ ?
$\hat{\theta}$ bir fonksiyonu olmadığı sürece eşitsizlik neden katıdır ? $T$

rao-blackwell

— Stan Shunpike
kaynak

Rao-Blackwell Teoremi için Sezgisel ve Formül Gerekçesinin

— Xi'an

Ne bulmak için gereklidir ?

min_{\hat{θ}} E

$\min_{\hat{\theta}} \Bbb E$

(\hat{θ} - θ)^{2}

$(\hat{\theta}-\theta)^2$

— Stan Shunpike

Yanıtlar:

Hayır, daha iyi bir tahmin ancak mutlaka en iyisi değildir (ne anlama geliyorsa!) $\theta^*$ $\hat\theta$
Tahmincinin herhangi bir varyansı yoksa, riski sınırsızdır ve nin sınırlı bir riski olduğuna dair bir garanti yoktur (bu, Horst Grünbusch tarafından yorumlarında belirtildiği gibi olsa da ). $\theta^*$
İçin sonlu varyans altında , eşitsizlik nedeniyle sıkı varyans ayrışma beklenen koşullu varyansın toplamı artı koşullu beklenen varyansı olarak Beklenen koşullu varyans sıfır olmadığı sürece, yalnızca bir fonksiyonu . $\hat\theta$ $var (\hat{θ}) = E_{T} [var (\hat{θ} | T)] + {var}_{T} (E [\hat{θ} | T]) = E_{T} [var (θ | T)] + {var}_{T} (θ^{*})$ $\text{var}(\hat\theta)=\mathbb{E}_T[\text{var}(\hat\theta|T)]+ \text{var}_T(\mathbb{E}[\hat\theta|T])=\mathbb{E}_T[\text{var}(\theta|T)]+\text{var}_T(\theta^*)$ $\hat\theta$ $T$

— Xi'an
kaynak

reklam 2: neden imkansız ? Düşünün için tahmin olarak , , ve ilgisiz bir Cauchy- dağıtılmış rv.

E ({\hat{θ}}^{2} | T) < E ({\hat{θ}}^{2}) = \infty

$E(\hat{\theta}^2|T)<E(\hat{\theta}^2)=\infty$

\hat{θ} = X + C

$\hat{\theta} = X + C$

μ

$\mu$

X \sim N (μ, σ^{2})

$X \sim \mathcal{N}(\mu,\sigma^2)$

C

$C$

— Horst Grünbusch

HorstGrünbusch Why @ Cauchy parça üzerinde zaman koşulu uzağa gider ? Ayrıca tarafsız bir tahmin edici değildir.

T

$T$

\hat{θ}

$\hat{\theta}$

— dsaxton

@ HorstGrünbusch Bana öyle geliyor ki nın koşullu bir beklentisi bile yok ( ( bir beklentisi olmadığı için), dolayısıyla tanımsız olacaktır).

\hat{θ}

$\hat{\theta}$

∣ T

$\mid T$

C

$C$

θ^{*}

$\theta^\ast$

— Juho Kokkala

Tamam, istediğim tek şey varyanssız, beklentisiz idi . ;) Şimdi , yani 2 serbestlik dereceli ve ve bağımsız olarak dağıtılmış Student-t'yi alın . Yeterli istatistik açıkça . Sonra , ancak

C

$C$

C \sim t_{2}

$C \sim t_2$

E (C) = 0

$E(C)=0$

C

$C$

X

$X$

X

$X$

E (X + C | X) = E (X | X) + E (C | X) = X + E (C) = X

$E(X+C|X) = E(X|X) + E(C|X) = X + E(C) = X$

\infty = V a r (C) + V a r (X) = V a r (X + C) > V a r (X + C | X) = σ^{2}

$\infty=Var(C) + Var(X) = Var(X+C)>Var(X+C|X)=\sigma^2$

— Horst Grünbusch

Bu yüzden, orijinal tahmin edicinin sonsuz varyans varsa, bir Rao-Blackwell tahmin edicisinin mutlaka sonsuz varyansa sahip olması yanlış olduğunu düşünüyorum. (Yine de her iki varyasyon mutlaka sonsuz olsa bile.)

\infty \leq \infty

$\infty \leq \infty$

— Horst Grünbusch

Yeterli bir istatistik olmanın benzersiz olmadığını unutmayın. Önemsiz olarak, tüm veriler yeterlidir, ancak bunlar üzerinde bir tahmincinin koşullandırılması hiçbir şeyi değiştirmez. Bu nedenle, minimum ortalama kare hatasına sahip olmak için tek başına yeterli bir istatistik yeterli değildir (pun!). Yeterli bir yeterlilik (aslında, yeterli ve eksiksiz olmak) için kanıtta Rao-Blackwell teoremini kullanan Lehmann-Scheffé-teoremine bakın.
Her ikisi de sonsuzsa, zayıf eşitsizlik her zaman doğrudur. Ancak, bir karşı örnek olarak, bir fonksiyonu olmayan, ancak hala sonsuz bir varyansa sahip olan (sadece ) yeterli bir istatistik oluşturabilirsiniz . $T$ $\leq$

Örneğin , ve ile değiştirilmiş dağıtılmış rastgele değişken ve bağımsız bir değişken . Tahmin edilecek parametre . Orijinal tahminci . Yeterli bir istatistik elbette . Hem Rao-Blackwell tahmincisi ve sonsuz varyansa sahiptir. Yani eşitsizlik zayıf bir şekilde devam edecekti. Öte yandan, sadece işlevi değildir $C_1 \sim t_2 + \mu$ $t_2$ $E(C_1) = \mu$ $Var(C_1) = \infty$ $C_2 \sim t_2$ $\mu$ $\hat{\theta} = C_1 + C_2$ $C_1$ $E(\hat{\theta}|C_1)=C_1$ $\hat{\theta}$ $C_1+C_2$ $C_1$ : Diğer rasgele değişkeni içerir, bu da 3. sorunuza sorduğunuz son cümle ile çelişir. Aslında, bazı ders kitapları orijinal tahmin edicinin sonsuz varyansını kabul etmektedir, fakat sırayla bekletildiğinde ifade edemezler . $<$

Eğer bir fonksiyonudur , sen ayrıştırma teoremi Bununla kanıtlayabilirim zaten için yeterlidir . Böylece yine hiçbir şey geliştirmiyoruz. Bu durumun yanı sıra, eşitsizlik katıdır ve bu teoremin önemsiz bir iddiasıdır. $\hat{\theta}$ $T$ $\hat{\theta}$ $\theta$

— Horst Grünbusch
kaynak