Hangi dağılımlar için standart sapma için kapalı biçimli tarafsız bir tahminci vardır?

Normal dağılım için, aşağıdakiler tarafından verilen standart sapmanın tarafsız bir tahmincisi vardır:

{\hat{σ}}_{unbiased} = \frac{Γ (\frac{n - 1}{2})}{Γ (\frac{n}{2})} \sqrt{\frac{1}{2} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2}}

$\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2}$

Bu sonucun çok iyi bilinmemesinin nedeni , büyük bir ithalat meselesinden ziyade büyük ölçüde bir curio olduğu anlaşılıyor . Kanıt bu konuya dahil edilmiştir ; normal dağılımın temel özelliklerinden yararlanır:

\frac{1}{σ^{2}} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2} \sim χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

Oradan, biraz çalışma ile beklentisini almak mümkündür ve bu yanıtı katı olarak belirleyerek sonucu için çıkarabiliriz . $\mathbb{E}\left( \sqrt{\sum_{k=1}^n(x_i-\bar{x})^2} \right)$ $\sigma$ $\hat{\sigma}_\text{unbiased}$

Bu, hangi diğer dağılımların standart sapmanın kapalı formlu tarafsız bir tahmincisine sahip olduğunu merak ediyor. Varyansın tarafsız tahmincisinden farklı olarak, bu açıkça dağılıma özgüdür. Ayrıca, kanıtın diğer dağıtımlar için tahmin edicileri bulmak üzere uyarlanması kolay olmayacaktır.

Çarpık-normal dağılımlar, ikinci dereceden biçimleri için bazı güzel dağılım özelliklerine sahiptir, bu da kullandığımız normal dağılım özelliğinin etkili bir şekilde özel bir durumudur (normal, özel bir çarpıklık-normal tip olduğu için), bu yüzden belki de çok zor olmaz. bu yöntemi onlara uzatın. Ancak diğer aksaklıklar için tamamen farklı bir yaklaşım gerekli görünecektir.

Bu tahmin edicilerin bilindiği başka dağıtımlar var mı?

mathematical-statistics standard-deviation unbiased-estimator

— Gümüş Balık
kaynak

Teknik dikkat dağıtıcı unsurları görmezden gelirseniz, cevabın niteliği daha net hale gelir. Normal durumda, yazdıklarınızın çok azı sonuçla gerçekten ilgilidir; önemli olan tek şey bu özel tahmin edicideki yanlılık miktarının yalnızca

bir fonksiyonu olmasıdır (ve verilerden tahmin edilmesi gereken diğer dağılım parametrelerine bağlı değildir).

n

$n$

— whuber

@whuber Sanırım bahsettiğiniz genel fikri görebiliyorum ve açıkça "

işlevi " gerekli. Ama bunun yeterli olacağını düşünmüyorum - bazı hoş dağıtım sonuçlarına erişimimiz olmasaydı, "kapalı form" yönünün nasıl izlenebilir olacağını göremiyorum.

n

$n$

— Silverfish

"Kapalı form" ile ne demek istediğinize bağlıdır. Örneğin, bir kişiye bir teta fonksiyonu "kapalı" olabilir, ancak diğerine sadece sonsuz bir ürün, kuvvet serisi veya karmaşık integraldir. Düşünmeye gel, bir Gamma fonksiyonunun tam da bu olduğu :-).

— whuber

@whuber İyi bir nokta! "Bu özel tahmincisi yanlılık miktarı" Sanırım sen de siz demek ki önyargı

bir fonksiyonudur (daha doğrusu sıfır önyargıya sahip sorusuna listelenen tahmincisi yerine)

(ve aynı zamanda

, ama neyse tarafsız bir tahminci bulmak için kolayca yeniden düzenleyebileceğimiz şekilde)?

s

$s$

n

$n$

σ

$\sigma$

— Silverfish

@whuber: Herhangi bir konum ölçeği ailesi için benzer bir formül olmalı, n uyarısının

işlevinin zorlanamaz bir integral olabileceğine dikkat çekti .

n

$n$

— Xi'an

Yanıtlar:

Bu doğrudan söz bağlı olmasa da, bir orada Peter Bickel ve Erich Lehmann tarafından 1968 kağıt bu dağılımların bir dışbükey ailesi için, devletler , fonksiyonel tarafsız bir tahmin edicisi vardır bir örneklem büyüklüğü için ( yeterince büyük) ve yalnızca bir polinom ise $F$ $q(F)$ $n$ $q(\alpha F+(1-\alpha)G)$ $0\le \alpha\le 1$ . Bu teorem buradaki sorun için geçerli değildir, çünkü Gauss dağılımlarının toplanması dışbükey değildir (Gauss'luların bir karışımı Gauss değildir).

Söz konusu sonucun bir uzantısı, olduğunda yeterli gözlem olması koşuluyla, standart sapmanın herhangi bir gücünün tarafsız bir şekilde tahmin edilebilmesidir . Bu sonuçtan sonra gelir $\sigma^\alpha$ $\alpha<0$ ,için ölçek (ve benzersiz) parametresidir.

\frac{1}{σ^{2}} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2} \sim χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

σ

$\sigma$

\sum_{k = 1}^{n} (x_{i} - \bar{x})^{2}

$\sum_{k=1}^n(x_i-\bar{x})^2$

Bu normal ayar daha sonra sonlu varyansı olan herhangi bir konum ölçeği ailesine genişletilebilir . Aslında,

X_{1}, \dots, X_{n} \overset{iid}{\sim} τ^{- 1} f (τ^{- 1} {x - μ})

$X_1,\ldots,X_n\stackrel{\text{iid}}{\sim} \tau^{-1}f(\tau^{-1}\{x-\mu\})$

σ^{2}

$\sigma^2$

varyans yalnızca bir fonksiyonudur ; ${var}_{μ, τ} (X) = E_{μ, τ} [(X - μ)^{2}] = τ^{2} E_{0, 1} [X^{2}]$ $\text{var}_{\mu,\tau}(X)=\mathbb{E}_{\mu,\tau}[(X-\mu)^2]=\tau^2\mathbb{E}_{0,1}[X^2]$ $\tau$
karelerin toplamı ,formunda bir beklentiye sahiptir; $\begin{aligned} E_{μ, τ} [\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}] & = τ^{2} E_{μ, τ} [\sum_{k = 1}^{n} τ^{- 2} (X_{i} - μ - \bar{X} + μ)^{2}] \\ = τ^{2} E_{0, 1} [\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}] \end{aligned}$ $\begin{align*}\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]&=\tau^2\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n\tau^{-2}(X_i-\mu-\bar{X}+\mu)^2\right]\\ &=\tau^2\mathbb{E}_{0,1}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]\end{align*}$ $\tau^2\psi(n)$
ve benzer şekilde herhangi bir güç beklenti sonlu olacak şekilde. $E_{μ, τ} [{\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}}^{α}] = τ^{2 α} E_{0, 1} [{\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}}^{α}]$ $\mathbb{E}_{\mu,\tau}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]=\tau^{2\alpha}\mathbb{E}_{0,1}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]$

— Xi'an
kaynak

Muhtemelen iyi bilinen bir vaka, ancak yine de bir vaka.
Sürekli bir düzgün dağılım düşünün . Bir iid örneği verildiğinde, maksimum sipariş istatistiği, beklenen değere sahiptir $U(0,\theta)$ $X_{(n)}$

E (X_{(n)}) = \frac{n}{n + 1} θ

$E(X_{(n)}) = \frac {n}{n+1}\theta$

Dağılımın standart sapması

σ = \frac{θ}{2 \sqrt{3}}

$\sigma = \frac {\theta}{2\sqrt 3}$

Tahmincisi Yani

\hat{σ} = \frac{1}{2 \sqrt{3}} \frac{n + 1}{n} X_{(n)}

$\hat \sigma = \frac 1{2\sqrt 3}\frac {n+1}{n}X_{(n)}$

açıkça için tarafsızdır . $\sigma$

Bu, dağılımın alt sınırının da bilinmediği durumu genelleştirir, çünkü Aralık için tarafsız bir tahminciye sahip olabiliriz ve daha sonra standart sapma yine Aralık'ın doğrusal bir fonksiyonudur (esas olarak yukarıda olduğu gibi).

Bu @ whuber'ın "sapma miktarının tek başına bir fonksiyonu olduğu " (artı muhtemelen bilinen sabitler) - yani deterministik olarak düzeltilebileceği yorumunu örneklendirir . Ve burada durum böyle. $n$

— Alecos Papadopoulos
kaynak

Şimdi zor kısım: dünyada ne zaman tekdüze bir dağılımın standart sapmasıyla ilgileniyoruz? (+1)

— shadowtalker

@ssdecontrol Bu mükemmel bir soru! -Lütfen bir sonrakine geçin ...

— Alecos Papadopoulos

\hat{θ}

$\hat{\theta}$

@Silverfish Ne açıdan fakir? Bazı hızlı simülasyonlar, normal standart sapmadan daha düşük MSE'ye sahip olduğunu gösteriyor (bu beni şaşırttı).

— Dave

@Dave İlginç! Sadece maksimum düzen istatistiğine baktığı için fakir olacağı sonucuna atlamıştım, ama ben de şaşırdım! Bazı simülasyonlar yapmanın değerini gösterir ...

— Silverfish