M-tahmin edicisinin gerçek ortama yaklaşması için koşullar

10

Bir gauss dağıtımından ve M tahmincisinden , üzerinde özellikleri neler garanti etmek için yeterli olasılık? Mı kesinlikle dışbükey olmak ve kesinlikle yeterli artan? $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— tırtıl
kaynak

Eğer alabileceğinden ve ardından böylece evet artan kesinlikle bir örnek bile değil kesinlikle dışbükey olabilir araçlarının demek oluyor, ama ... kesinlikle dışbükey veya kesinlikle, hem artan ya koyardı bunu kanıtlamak zorunda olsa da, yeterli gibi görünüyor. Sezgisel olarak katı dışbükeylik benzersiz küresel minimum sağlar, kesinlikle artırmak için önemli olan gaussian varsayımıdır.

ρ (x) = x

$\rho(x) = x$

μ_{m}

$\mu_m$

— Dmitrij Celov

1

Hjort ve Pollard tarafından dışbükey süreçlerin minimistleri için kağıt Asimptotikleri , Gauss dağılımları konusunda uzmanlaşmasa da ve gösterimleri olsa da daha genel bir kontrast işlevi olarak kabul eder, yani . Dışbükey yanı sıra olarak , bunlar bir genişleme gerektiren olarak çevresinde , veri dağıtım alakalı bir anlamda. Yani, basit olarak sadece demiyorum olarak is dışbükey veya artan, ama belki de sen Gauss dağılımları ve teoremini kısıtlamak eğer $\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$ belirttiğiniz forma sahip olmak için daha düzgün bir koşul kümesi elde edebilirsiniz. Teoremlerini burada, tam anlamıyla, biraz açıklamalı olarak yeniden yazacağım:

Varsayalım

$Y,Y_{1},Y_{2},\ldots$ dağıtımında yer alan $F$
parametresi $\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ , burada konveks olduğu . $g(y,t)$ $t$
etrafında ' zayıf bir genişlemesi var : ve altında ortalama sıfır olan bir için kesin pozitif matrisin . $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ olarak . $t\to0$
$D(Y)$ , sınırlı bir kovaryans matrisine sahiptir . $K=\int D(y)D(y)^{T}\, dF(y)$

O zaman herhangi bir tahminci olan için -Tutarlı , ve ile asimptotik olarak normaldir $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidRM
kaynak

0

Bu bir cevap olmayacaktır, çünkü probleminizi başka bir soruna indirgeyecektir, ancak bence yararlı olabilir. Sorunuz temel olarak M tahmincisinin tutarlılığıyla ilgilidir. İlk önce genel sonuçlara bakabiliriz. İşte van der Vaart kitabının sonucu (teorem 5.7, sayfa 45):

Teorem Let rastgele fonksiyonlar olmak ve izin sabit fonksiyonu öyle ki her $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

Sonra ile içeren herhangi bir tahmin dizisi olasılıkla $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

Sizin durumunuzda , ve $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

Buradaki anahtar koşul, tekdüze yakınsamadır. 46. sayfada van der Vaart diyor ki

sizin durumunuz olan ortalamalar için bu koşul ( ) Glivenko işlevlerine eşittir. -Canteli . Yeterli koşulların basit bir seti, kompakt olması, işlevlerinin her için sürekli olması ve> bütünleştirilebilir bir işlev tarafından yönetilmesidir. $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

In Wooldrridge teoremi Büyük sayılar, sayfa 347 (ilk baskı), teoremi 12,1'lik Üniforma Zayıf Kanunu denilen bu sonuç formüle edilir. Yalnızca van der Vaart'ın belirttiklerine ölçülebilirlik gereksinimleri ekler.

Senin durumunda güvenle alabilirsiniz bazıları için , işlevi var olduğunu göstermek gerekir böylece öyle $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

Tüm , bu şekilde . Dışbükey fonksiyon teorisi burada yardımcı olabilir, çünkü temel olarak $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

Bu fonksiyon güzel özelliklere sahipse, gitmek için iyidir.

— mpiktas
kaynak