Normal rastgele değişkenler için yaklaşık sıra istatistikleri

38

Belirli rastgele dağılımların düzen istatistikleri için iyi bilinen formüller var mı? Özellikle normal rastgele değişkenin birinci ve son derece istatistikleri, ancak daha genel bir cevap da takdir edilecektir.

Düzenleme: Açıklığa kavuşturmak için, tam integral ifadesini değil, açıkça veya daha az açıkça değerlendirilebilecek yaklaşık formülleri arıyorum.

Örneğin, normal bir rv'nin birinci dereceden istatistiği için (yani minimum) aşağıdaki iki yaklaşımı gördüm:

$e_{1:n} \geq \mu - \frac{n-1}{\sqrt{2n-1}}\sigma$

ve

$e_{1:n} \approx \mu + \Phi^{-1} \left( \frac{1}{n+1} \right)\sigma$

Bunlardan ilki, , yaklaşık olarak ; $n=200$ $e_{1:200} \geq \mu - 10\sigma$

İkincisi, verirken, hızlı bir Monte Carlo , bu yüzden de kötü bir yaklaşım değildir, ama ya büyük değildir Daha da önemlisi, nereden geldiği hakkında hiçbir fikrim yok. $e_{1:200} \approx \mu - 2.58\sigma$ $e_{1:200} \approx \mu - 2.75\sigma$

Herhangi bir yardım?

— Chris Taylor
kaynak

4

R kullanıyorsanız, ppoints işlevine bakın.

— kardinal

1

@ probabilityislogic, listelediğiniz yaklaşımlar için bazı iyi sezgiler sunmuştur. Alternatif bir bakış açısıyla biraz daha fazlasını verirsem, ya da bu konudaki merakınızı tatmin ettin mi?

— kardinal, 19

31

Klasik referans Royston (1982) [1] 'dir ve açık formülleri aşan algoritmaları vardır. Ayrıca, Blom (1958) tarafından iyi bilinen bir formülden alıntı yapar: olan . Bu formül için -2.73 çarpanını verir . $E(r:n) \approx \mu + \Phi^{-1}(\frac{r-\alpha}{n-2\alpha+1})\sigma$ $\alpha=0.375$ $n=200, r=1$

[1]: AS 177 Algoritması: Beklenen Normal Sıra İstatistikleri (Tam ve Yaklaşık) JP Royston. Kraliyet İstatistik Derneği Dergisi. Seri C (Uygulamalı İstatistik) Vol. 31, No. 2 (1982), sayfa 161-165

— Aniko
kaynak

21

$\newcommand{\Pr}{\mathrm{Pr}}\newcommand{\Beta}{\mathrm{Beta}}\newcommand{\Var}{\mathrm{Var}}$ Bu sıralı herhangi bir rasgele rasgele sıralamanın istatistik dağılımı PDF değişkeniyle "beta-F" bileşik dağılımı verilir. Bu dağılım hakkında düşünmenin sezgisel yolu, örneğindeki sıra istatistiklerini düşünmektir . Şimdi, rastgele bir değişkeni sırasındaki değerinin eşit olması için 3 koşula ihtiyacımız var:

N

$N$

X

$X$

x

$x$

$i-1$ altındaki değerleri , bu her gözlem için olasılığına sahiptir , burada , rastgele X değişkeninin . $x$ $F_{X}(x)$ $F_X(x)=\Pr(X<x)$
$N-i$ üzerindeki değerleri , bu olasılık olasılığına sahiptir $x$ $1-F_{X}(x)$
İhtiva eden aralık sonsuz küçük içinde 1 değeri , bu olasılık vardır burada olan rastgele değişkeninin PDF'si $x$ $f_{X}(x)dx$ $f_{X}(x)dx=dF_{X}(x)=\Pr(x<X<x+dx)$ $X$

Vardır Elimizdeki bu yüzden, bu seçimi yapmak için yollar: ${N \choose 1}{N-1 \choose i-1}$

f_{i} (x_{i}) = \frac{N!}{(i - 1)! (N - i)!} f_{X} (x_{i}) {[1 - F_{X} (x_{i})]}^{N - i} {[F_{X} (x_{i})]}^{i - 1} d x

$f_{i}(x_{i})=\frac{N!}{(i-1)!(N-i)!}f_{X}(x_{i})\left[1-F_{X}(x_{i})\right]^{N-i}\left[F_{X}(x_{i})\right]^{i-1}dx$

Orijinal yazımda EDIT , bu noktadan daha ileriye gitme konusunda çok zayıf bir girişimde bulundum ve aşağıdaki yorumlar bunu yansıtıyor. Bunu aşağıda düzeltmeye çalıştım

Bu pdf'nin ortalama değerini alırsak şunları alırız:

E (X_{i}) = \int_{- \infty}^{\infty} x_{i} f_{i} (x_{i}) d x_{i}

$E(X_{i})=\int_{-\infty}^{\infty} x_{i}f_{i}(x_{i})dx_{i}$

Ve bu integralde, değişkenini (@ henry'nin ipucunu alarak aşağıdaki değişikliği yaparız ve integral olur: $p_{i}=F_{X}(x_{i})$

E (X_{i}) = \int_{0}^{1} F_{X}^{- 1} (p_{i}) B e t a (p_{i} | i, N - i + 1) d p_{i} = E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})]

$E(X_{i})=\int_{0}^{1} F_{X}^{-1}(p_{i})\Beta(p_{i}|i,N-i+1)dp_{i}=E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]$

Dolayısıyla, bu, aşağıdakileri yapmak için delta yöntemi kullanılarak iyi bir şekilde yaklaştırılabilen ters CDF'nin beklenen değeridir:

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [E_{B e t a (p_{i} | i, N - i + 1)}] = F_{X}^{- 1} [\frac{i}{N + 1}]

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[E_{\Beta(p_{i}|i,N-i+1)}\right]=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

Daha iyi bir yaklaşım elde etmek için 2. dereceye kadar genişleyebiliriz (asal farklılaşmayı ifade eder) ve bir tersinin ikinci türevinin:

\frac{\partial^{2}}{\partial a^{2}} F_{X}^{- 1} (a) = - \frac{F_{X}^{^{″}} (F_{X}^{- 1} (a))}{{[F_{X}^{^{'}} (F_{X}^{- 1} (a))]}^{3}} = - \frac{f_{X}^{^{'}} (F_{X}^{- 1} (a))}{{[f_{X} (F_{X}^{- 1} (a))]}^{3}}

$\frac{\partial^{2}}{\partial a^{2}}F_{X}^{-1}(a)=-\frac{F_{X}^{''}(F_{X}^{-1}(a))}{\left[F_{X}^{'}(F_{X}^{-1}(a))\right]^{3}}=-\frac{f_{X}^{'}(F_{X}^{-1}(a))}{\left[f_{X}(F_{X}^{-1}(a))\right]^{3}}$

Let . O zaman biz var: $\nu_{i}=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [ν_{i}] - \frac{{V a r}_{B e t a (p_{i} | i, N - i + 1)} [p_{i}]}{2} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[\nu_{i}\right]-\frac{\Var_{\Beta(p_{i}|i,N-i+1)}\left[p_{i}\right]}{2}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

= ν_{i} - \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$=\nu_{i}-\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

Şimdi, normal dava için uzmanlaşmış

f_{X} (x) = \frac{1}{σ} ϕ (\frac{x - μ}{σ}) \to f_{X}^{^{'}} (x) = - \frac{x - μ}{σ^{3}} ϕ (\frac{x - μ}{σ}) = - \frac{x - μ}{σ^{2}} f_{X} (x)

$f_{X}(x)=\frac{1}{\sigma}\phi(\frac{x-\mu}{\sigma})\rightarrow f_{X}^{'}(x)=-\frac{x-\mu}{\sigma^{3}}\phi(\frac{x-\mu}{\sigma})=-\frac{x-\mu}{\sigma^{2}}f_{X}(x)$

F_{X} (x) = Φ (\frac{x - μ}{σ}) ⟹ F_{X}^{- 1} (x) = μ + σ Φ^{- 1} (x)

$F_{X}(x)=\Phi(\frac{x-\mu}{\sigma})\implies F_{X}^{-1}(x)=\mu+\sigma\Phi^{-1}(x)$

Not bu Ve beklenti yaklaşık olarak olur: $f_{X}(\nu_{i})=\frac{1}{\sigma}\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]$

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{σ Φ^{- 1} (\frac{i}{N + 1})}{{[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)}{\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}$

Ve sonunda:

E [x_{i}] \approx μ + σ Φ^{- 1} (\frac{i}{N + 1}) [1 + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2) {[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}]

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)\left[1+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}\right]$

@Whuber'ın belirttiği gibi, bu kuyruklarda doğru olmayacak. Aslında, farklı parametrelerle bir beta eğriliği nedeniyle, daha kötü olabileceğini düşünüyorum

— probabilityislogic
kaynak

1

" Rastgele değişkenin maksimum olabilirlik tahmincisi "? Bunun ne olduğundan emin değilim, ama sanırım modu (neredeyse) hesapladın .

— kardinal

1

Gizemli bir şey, birdenbire ve herhangi bir uyarı veya tanım olmadan göründüğünde , yolun üçte ikisinde meydana gelir .

μ

$\mu$

σ

$\sigma$

— whuber

2

"Kazık" demek istemem ama parantez içindeki miktarın negatif bir sayıya nasıl yaklaştığını görmek benim için zor.

— kardinal

1

hesap düzeyinde, öyle denebilir ederken @probabilityislogic, bu durumda iki değişkenli fonksiyon düşünüyoruz ve sadece onun yerine başka biri değişken üzerinde maksimize ben, matematiksel istatistik nedeni vardır düşünüyorum ve pedagojik değil ne diye hitap etmek "maksimum olabilirlik tahmini" yaptım. Bu alanda numaralandırmak için çok fazla sayılıyorlar, ancak yeterince zor olduğunu düşündüğüm basit bir şey, istatistiklerden bir nedenden ötürü özel, gizli bir kelime kullanıyoruz. Tek bir sorun için bir heves (ler) ... / ... yanlış anlama yol açtığına değiştirme

— kardinal

2

Cevaplanan cevap için @probabilityislogic (+1). Bir öneri, belki de "ima" anlamına gelmek daha iyidir . Bazı yakınsama iddialarında bulunmadığınızı farketmeniz birkaç saniye boyunca izlendi.

\Rightarrow

$\Rightarrow$

\to

$\to$

— kardinal,

13

Aniko'nun cevabı, Blom'un seçimi içeren iyi bilinen formülüne dayanıyor . Bu formülün kendisi, G. Elfving (1947), normal bir popülasyondan örneklerdeki aralığın asimptotik dağılımı , Biometrika, Vol. 34, sf. 111-119. Elfving'in formülü, doğru alfa seçiminin olduğu numunenin minimum ve maksimumunu hedefler . Blom formül sonuçları ne zaman yaklaşır tarafından . $\alpha = 3/8$ $\pi/8$ $\pi$ $3$

Blom'un yaklaşımı yerine Elfving formülünü kullanarak -2.744165 çarpanını alıyoruz. Bu sayı, Erik P.'nin kesin cevabına (-2.746) ve Monte Carlo yaklaşımına (-2.75), Blom'un yaklaşımına (-2.73) göre olduğundan daha yakındır;

— Hal M. Switkay
kaynak

Elfving'den (1947) nasıl geldiğine dair biraz daha ayrıntılı bilgi verebilir misiniz? Makalede açık değil.

α = π / 8

$\alpha=\pi/8$

— Anthony,

1

Anthony - Bar, Samuel Wilks tarafından yayınlanan Matematiksel İstatistik ders kitabına güveniyorum. Wiley (1962). Egzersiz 8.21, s. 249 belirtiyorsa: "x_ (1), x_ (n), sürekli bir cdf F (x) 'den n büyüklüğünde bir numunenin en küçük ve en büyük sıra istatistikleri ise, 2n * sqrt rasgele değişkeni {[F (x_ ( 1))] [1-F (x_ (n))]}, ortalama pi / 2 ve varyans 4- (pi ^ 2) / 4 olan n -> sonsuz olarak bir sınır dağılımına sahiptir. " (Üzgünüz, biçimlendirme kodunu bilmiyorum!) Simetrik bir dağılım için, F (x_ (1)) = 1-F (x_ (n)). Böylece F (x_ (n)) yaklaşık pi / (4n) 'dir, veya x_ (n) yaklaşık F ^ (-1) (pi / (4n))' dir. Blom formülü, 3 / (4n) yaklaşımını kullanır.

— Hal M. Switkay

Bu bana Indiana Eyalet Yasama Meclisine atfedilen Infamous " " faturasını hatırlatıyor . ( Wikipedia makalesi , hikayenin popüler versiyonunun doğru olmadığını

π = 3

$\pi=3$

— öne sürmesine rağmen

7

Ne yapmak istediğinize bağlı olarak, bu cevap yardımcı olabilir veya olmayabilir - Maple'nın İstatistik paketinden aşağıdaki formülü aldım .

with(Statistics):
X := OrderStatistic(Normal(0, 1), 1, n):
m := Mean(X):
m;

\int_{- \infty}^{\infty} 1 / 2 \frac{_t 0 n! \sqrt{2} e^{- 1 / 2 {_t 0}^{2}} {(1 / 2 - 1 / 2 e r f (1 / 2_t 0 \sqrt{2}))}^{- 1 + n}}{(- 1 + n)! \sqrt{π}} d_t 0

$\int _{-\infty }^{\infty }\!1/2\,{\frac {{\it \_t0}\,n!\,\sqrt {2}{ {\rm e}^{-1/2\,{{\it \_t0}}^{2}}} \left( 1/2-1/2\, {{\rm erf}\left(1/2\,{\it \_t0}\,\sqrt {2}\right)} \right) ^{-1+n}}{ \left( -1+n \right) !\,\sqrt {\pi }}}{d{\it \_t0}}$

Tek başına bu çok kullanışlı değildir (ve muhtemelen rastgele değişkenlerin minimum olması nedeniyle elle kolayca elde edilebilir ), ancak verilen değerleri için çok daha doğru olan değerler için hızlı ve çok doğru bir yaklaşım için izin verir. Monte Carlo: $n$ $n$

evalf(eval(m, n = 200));
evalf[25](eval(m, n = 200));

sırasıyla -2.746042447 ve -2.746042447451154492412344’ü verir.

(Tam açıklama - Bu paketi saklıyorum.)

— Erik P.
kaynak

1

@ProbabilityIsLogic bu integrali cevabının ilk yarısındaki tüm sipariş istatistikleri için elde etti.

— whuber