Boyutlar arttıkça normal dağılımın yoğunluğu

Sormak istediğim soru şudur: Normal dağılımın ortalama 1 SD'si içindeki örneklerin oranı, değişken sayısı arttıkça nasıl değişir?

(Neredeyse) herkes, 1 boyutlu normal dağılımda, numunelerin% 68'inin ortalamanın 1 standart sapması içinde bulunabileceğini bilir. 2, 3, 4, ... boyutlarında ne olacak? Azaldığını biliyorum ... ama ne kadar (tam olarak)? 1, 2, 3 ... 10 boyutlarının yanı sıra 1, 2, 3 ... 10 SD'ler için rakamları gösteren bir tabloya sahip olmak kullanışlı olacaktır. Herkes böyle bir tabloya işaret edebilir mi?

Biraz daha bağlam - 128 kanala kadar veri sağlayan bir sensöre sahibim. Her kanal (bağımsız) elektrik gürültüsüne maruz kalır. Bir kalibrasyon nesnesini algıladığımda, 128 ayrı standart sapma ile birlikte 128 kanalda yeterli sayıda ölçüm yapabilir ve ortalama bir değer elde edebilirim.

ANCAK ... bireysel anlık okumalar söz konusu olduğunda, veriler 128 ayrı okumaya çok fazla yanıt vermiyor ve 128-dimensonal vektör miktarının tek bir okuması gibi. Kuşkusuz bu, aldığımız birkaç kritik değeri (tipik olarak 128'den 4-6) tedavi etmenin en iyi yoludur.

Bu vektör uzayında "normal" varyasyon ve "aykırı" nedir hakkında bir fikir edinmek istiyorum. Eminim tarif ettiğim gibi bu tür bir durum için geçerli bir tablo gördüm - kimse bir birine işaret edebilir mi?

normal-distribution multivariate-analysis

— omatai
kaynak

Lütfen - sadece ampirik cevapları alabilir miyim - çoğu matematiksel notasyonu anlamıyorum.

— omatai

alalım $X = (X_1,\dots,X_d) \sim N(0,I)$ : her $X_i$ normal $N(0,1)$ ve $X_i$ bağımsızdır - sanırım daha yüksek boyutlarda demek istediğiniz budur.

Bunu söyleyebilirim ortalama 1 sd içinde olduğu zaman (X ile ortalama değeri arasındaki mesafe 1'den düşük). Şimdi bu yüzden olasılığı ile olur, burada $X$ $||X|| < 1$ $||X||^2 = X_1^2 +\cdots+X_d^2\sim \chi^2(d)$ $P( \xi < 1 )$ $\xi\sim\chi^2(d)$ . Bunu iyi chi kare tablolarında bulabilirsiniz ...

İşte birkaç değer:

\begin{array}{ll} d & P (ξ < 1) \\ 1 & 0.68 \\ 2 & 0.39 \\ 3 & 0.20 \\ 4 & 0.090 \\ 5 & 0.037 \\ 6 & 0.014 \\ 7 & 0.0052 \\ 8 & 0.0018 \\ 9 & 0.00056 \\ 10 & 0.00017 \end{array}

$\begin{array}{ll} d& P(\xi < 1)\\ 1 & 0.68\\ 2 & 0.39 \\ 3 & 0.20 \\ 4 & 0.090 \\ 5 & 0.037 \\ 6 & 0.014 \\ 7 & 0.0052 \\ 8 & 0.0018\\ 9 & 0.00056\\ 10& 0.00017\\ \end{array}$

Ve 2 sd için:

\begin{array}{ll} d & P (ξ < 4) \\ 1 & 0.95 \\ 2 & 0.86 \\ 3 & 0.74 \\ 4 & 0.59 \\ 5 & 0.45 \\ 6 & 0.32 \\ 7 & 0.22 \\ 8 & 0.14 \\ 9 & 0.089 \\ 10 & 0.053 \end{array}

$\begin{array}{ll} d & P(\xi < 4)\\ 1 & 0.95\\ 2 & 0.86\\ 3 & 0.74\\ 4 & 0.59\\ 5 & 0.45\\ 6 & 0.32\\ 7 & 0.22\\ 8 & 0.14\\ 9 & 0.089\\ 10 & 0.053\\ \end{array}$

Sen gibi commads ile Ar bu değerleri alabilirsiniz pchisq(1,df=1:10), pchisq(4,df=1:10)vb

Post Scriptum Yorumlarda belirtildiği gibi, bu olasılıkların asimtotik davranışını tahmin edebiliriz. Bir KTL değişken olup $\chi^2(d)$ buradaolaneksik taşımasının avantajlıve classicaly.

F_{d} (x) = P (d / 2, x / 2) = \frac{γ (d / 2, x / 2)}{Γ (d / 2)}

$F_d(x) = P(d/2,x/2) = {\gamma(d/2, x/2) \over \Gamma(d/2)}$

γ (s, y) = \int_{0}^{y} t^{s - 1} e^{- t} d t

$\gamma(s,y) = \int_0^y t^{s-1} e^{-t} \mathrm d t$

γ

$\gamma$

Γ (s) = \int_{0}^{\infty} t^{s - 1} e^{- t} d t

$\Gamma(s) = \int_0^\infty t^{s-1} e^{-t} \mathrm d t$

Tüm parçaları gösterir bir tamsayı, tekrar entegrasyon olduğu $s$ Poisson dağılımının CDF kuyruk hangi.

P (s, y) = e^{- y} \sum_{k = s}^{\infty} \frac{y^{k}}{k!},

$P(s,y) = e^{-y} \sum_{k=s}^\infty {y^k \over k!},$

Şimdi bu meblağa ilk dönemi hakim (kardinal sayesinde çok teşekkürler): $P(s,y) \sim {y^s \over s!} e^{-y}$ $s$ $d$

P (ξ < x) = P (d / 2, x / 2) \sim \frac{1}{(d / 2)!} {(\frac{x}{2})}^{d / 2} e^{- x / 2} \sim \frac{1}{\sqrt{π d}} e^{\frac{1}{2} (d - x)} {(\frac{x}{d})}^{\frac{d}{2}} \sim \frac{1}{\sqrt{π}} e^{- \frac{1}{2} x} d^{- \frac{1}{2} d},

$P(\xi < x) = P(d/2,x/2) \sim {1 \over (d/2)!} \left({x\over 2}\right)^{d/2} e^{-x/2} \sim {1\over\sqrt{\pi d}}e^{{1\over 2}(d-x)} \left({x\over d}\right)^{d\over 2} \sim {1\over\sqrt\pi} e^{-{1\over 2}x} d^{-{1\over 2}d},$ for big even

d

$d$ , the penultimate equivalence using Stirling formula. From this formula we see that the asymptotic decay is very fast as

d

$d$ increase.

— Elvis
kaynak

Welcome to our site, Elvis! Nice answer. (+1)

— whuber

(+1) Good answer. Here are a couple suggestions for your consideration: (1) It might help to make explicit what

ξ

$\xi$ is for clarity's sake, (2) briefly give an intuitive argument for the choice you've made for the meaning of "one standard deviation" in this context and why it is even well-defined in the first place, and (3) add a statement regarding the growth of this quantity as a function of

d

$d$ . (The OP asks for only "empirical" answers, but other readers might appreciate a small mathematical addendum.)

— cardinal

Thank you for your comments. I didn’t think this answer would receive much attention! It is true that this is a nice form of the curse of dimensionality... @cardinal concerning (3) I don’t know any asymptotic equivalent of the incomplete gamma function when the first parameters goes to infinity, the second being fixed, this is not easy! A rough majoration could be done, I may write that later.

— Elvis

Regarding (3), to avoid a computation, you can employ the following argument: Let

d

$d$ be even and such that

d = 2 k

$d = 2 k$ . Note that

Z_{i} = X_{2 i - 1}^{2} + X_{2 i}^{2}

$Z_i = X_{2i-1}^2 + X_{2i}^2$ is an

E x p (1 / 2)

$\mathrm{Exp}(1/2)$ random variable. So

‖ X ‖^{2} = \sum_{i = 1}^{k} Z_{i}

$\|X\|^2 = \sum_{i=1}^k Z_i$ . But, then

‖ X ‖^{2}

$\|X\|^2$ is just the time until the

k

$k$ th renewal of a Poisson process with rate 1/2. So

P (‖ X ‖^{2} < 1) = P (N_{1 / 2} (0, 1) \geq k) = e^{- 1 / 2} \sum_{x = k}^{\infty} 2^{- x} / x!

$\mathbb P(\|X\|^2 < 1 ) = \mathbb P( N_{1/2}(0,1) \geq k) = e^{-1/2} \sum_{x=k}^\infty 2^{-x}/x!$ . The tail of the Poisson is dominated by the leading term, so

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1)

$\mathbb P(\|X\|^2 < 1) \sim e^{-1/2} 2^{-k} / \Gamma(k+1)$ as

d \to \infty

$d\to\infty$ (Again:

k = d / 2

$k = d/2$ ).

— cardinal

Part of the point of the foregoing comment is that we get an exact answer for all even

d

$d$ . Also, using Stirling's approximation, we get that

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1) \sim e^{(d - 1) / 2} d^{- (d + 1) / 2} / \sqrt{π}

$\mathbb P(\|X\|^2 < 1 ) \sim e^{-1/2} 2^{-k} / \Gamma(k+1) \sim e^{(d-1)/2} d^{-(d+1)/2} / \sqrt{\pi}$ .

— cardinal