Gauss (normal) dağılımın en şaşırtıcı özelliği nedir?

52

üzerindeki standartlaştırılmış bir Gauss dağılımı açıkça yoğunluğunu vererek tanımlanabilir: $\mathbb{R}$

\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}

$\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$

veya karakteristik işlevi.

Bu soruda hatırlandığı üzere , örneklemin ortalama ve varyansının bağımsız olduğu tek dağılım budur.

Bildiğiniz Gaussian önlemlerin diğer şaşırtıcı alternatif karakteristikleri nelerdir? En şaşırtıcı cevabı kabul edeceğim

— robin girard
kaynak

39

Benim en şaşırtıcı olanı, örnek ortalama ve varyansı ile ilgili olanıdır, ancak işte başka (belki) şaşırtıcı bir karakterizasyon: ve , ve bağımsız sonlu varyansa sahip IID ise , ve normaldir. $X$ $Y$ $X+Y$ $X-Y$ $X$ $Y$

Sezgisel olarak, değişkenlerin bir dağılım grafiğinden bağımsız olmadığını genellikle belirleyebiliriz. Bu yüzden bağımsız görünen çiftlerin bir dağılım grafiğini hayal edin . Şimdi 45 derece döndürün ve tekrar bakın: eğer hala bağımsız görünüyorsa, ve koordinatları ayrı ayrı normal olmalıdır (hepsi elbette gevşek konuşur). $(X,Y)$ $X$ $Y$

Sezgisel bitin neden çalıştığını görmek için, bakınız

[\begin{array}{cc} \cos 45^{\circ} & - \sin 45^{\circ} \\ \sin 45^{\circ} & \cos 45^{\circ} \end{array}] [\begin{matrix} x \\ y \end{matrix}] = \frac{1}{\sqrt{2}} [\begin{matrix} x - y \\ x + y \end{matrix}]

$\left[ \begin{array}{cc} \cos45^{\circ} & -\sin45^{\circ} \newline \sin45^{\circ} & \cos45^{\circ} \end{array} \right] \left[ \begin{array}{c} x \newline y \end{array} \right]= \frac{1}{\sqrt{2}} \left[ \begin{array}{c} x-y \newline x+y \end{array} \right]$

— user1108
kaynak

3

Jay - bu temelde, ortalama ve varyansın bağımsız olduğunun bir tekrarıdır. , yeniden ölçeklendirilmiş bir ortalamadır ve , yeniden ölçeklendirilmiş bir standart sapmadır.

X + Y

$X+Y$

X - Y

$X-Y$

— olasılık

5

@probabilityislogic - Söylediklerinizin sezgisini seviyorum, ama tam olarak bir yeniden ifade olduğunu sanmıyorum, çünkü SD'yi tam olarak yeniden ölçeklendirmiyor: SD işareti unutuyor. Dolayısıyla, ortalama ve SD'nin bağımsızlığı, , ( olduğunda ) bağımsızlığından kaynaklanır , ancak tersi olmaz. "Temelde" derken neyi kastediyor olabilirsiniz. Neyse, iyi şeyler.

X - Y

$X - Y$

X + Y

$X+Y$

X - Y

$X-Y$

n = 2

$n = 2$

4

Bu mülk için kanıtı nerede bulabiliriz?

— Royi

1

@Royi, bkz. 16. burada . (A) için, olduğuna dikkat edin . (B) için yerine geçen " aldığınız . Eğer , o , dolayısıyla tüm, , ve bir sekans olup şekilde ve , tüm için sürekliliğini ters, de

2 X = (X + Y) + (X - Y)

$2X=(X+Y)+(X-Y)$

φ (2 t) φ (- 2 t) = (φ (t) φ (- t))^{4}

$\varphi(2t)\varphi(-2t)=(\varphi(t)\varphi(-t))^4$

ψ (t) = φ (t) φ (- t)

$\psi(t)=\varphi(t)\varphi(-t)$

ψ (t) = ψ^{2^{2 n}} (\frac{t}{2^{n}})

$\psi(t)=\psi^{2^{2n}}(\frac{t}{2^n})$

φ (t_{0}) = 0

$\varphi(t_0)=0$

ψ (t_{0}) = 0

$\psi(t_0)=0$

n

$n$

ψ (\frac{t_{0}}{2^{n}}) = 0

$\psi(\frac{t_0}{2^n})=0$

t_{n}

$t_n$

t_{n} \to 0

$t_n\to 0$

φ (t_{n}) = 0

$\varphi(t_n)=0$

n

$n$

φ

$\varphi$

0

$0$ . (c) düz bir şekilde devam ediyor [devam]

— Gabriel Romon

1

(D) için, . , dolayısıyla olduğuna dikkat edin . Bunu önceki eşitliğe takın ve , için, tüm için anlamına gelen kanıtlayın . Bunun anlamı gerçektir ve (a) 'daki eşitlik dönüşür. Yine, olduğunu kanıtlayın ve elde etmek için . Dolayısıyla ve

γ (t) = γ^{2^{n}} (\frac{t}{2^{n}})

$\gamma(t)=\gamma^{2^n}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

γ (t) = 1 + o (t^{2})

$\gamma(t)=1+o(t^2)$

t

$t$

lim_{n} γ^{2^{n}} (\frac{t}{2^{n}}) = 1

$\lim_n \gamma^{2^n}(\frac{t}{2^n}) = 1$

γ (t) = 1

$\gamma(t)=1$

t

$t$

φ

$\varphi$

φ (t) = φ^{2^{2 n}} (\frac{t}{2^{n}})

$\varphi(t)=\varphi^{2^{2n}}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

lim_{n} φ^{2^{2 n}} (\frac{t}{2^{n}}) = e^{- t^{2} / 2}

$\lim_n \varphi^{2^{2n}}(\frac{t}{2^n}) = e^{-t^2/2}$

φ (t) = e^{- t^{2} / 2}

$\varphi(t)=e^{-t^2/2}$

X

$X$ normal.

— Gabriel Romon

27

Diferansiyel entropiyi en üst düzeye çıkaran sabit değişkenli sürekli dağılım Gauss dağılımıdır.

— shabbychef
kaynak

22

Bu konuda yazılmış bir kitap var: "Normal olasılık kanununun özellikleri", AM Mathai ve G. Perderzoli. JASA kısa bir incelemesi (Aralık 1978) aşağıdakilerden bahsetmektedir:

Let bağımsız rasgele değişkenler olsun. O zaman ve bağımsızdır, burada , eğer sadece [ ] ise. $X_1, \ldots, X_n$ $\sum_{i=1}^n{a_i x_i}$ $\sum_{i=1}^n{b_i x_i}$ $a_i b_i \ne 0$ $X_i$

— whuber
kaynak

3

Böyle bir durum olmalı eksik? örneğin eğer n = 2 ve bağımsız değilse.

< a, b >= 0

$<a,b>=0$

a_{i} = b_{i} = 1

$a_i=b_i=1$

X_{1} + X_{2}

$X_1+X_2$

X_{1} + X_{2}

$X_1+X_2$

— Robin Girard

1

@ robin iyi yakalamak. Ben de örtülü niceleyiciler üzerinde kafa yoruyorum. Maalesef, elimde olan tek şey, kitaptan değil, derlemeden (titreme) alıntı yapmak. Bir kütüphanede bulup taramak eğlenceli olurdu ...

— whuber

Bu, G. Jay Kerns'in (şu anda 1 numaradaki) cevabının genelleştirilmesi gibi bir şey.

— vqv

Lukacs ve King (1954) gazetesini arıyor olabilirsiniz. Bu cevaba matematik bölümünden bakınız .

— kardinal

2

Bu önerme yazan yere "nerede burada", bu skalerler HER seti için demek 'veya "bazıları için her için burada 'yerine kullanılan' '? Ben görmekten nefret ediyorum''." burada burada" de olduğu gibi, bir kişinin gösterimini açıklamak için kullanılmalıdır ' , ışığın hızı ve brüt iç ürünü', vb olduğu

a_{i} b_{i} \neq 0

$a_i b_i\ne 0$

a_{i} b_{i} \neq 0

$a_i b_i \ne 0$

c

$c$

g

$g$

— Michael Hardy

17

Gauss dağılımları, sonlu varyansa sahip tek kararlı toplam dağılımdır.

— shabbychef
kaynak

8

Toplam dengeye sahip olmaları ve sonlu varyansa sahip benzersiz olanlar olmalarının ikisi de CLT tarafından zorlanır. Bu iddianın ilginç kısmı, başka toplam istikrarlı dağılımların mevcut olmasıdır!

— whuber

1

@whuber: gerçekten! Bu karakterizasyon biraz karışıktır ve diğer toplam dengeli dağıtımlar belki de daha meraklıdır.

— perişanlık

@whuber aslında, CLT'nin bu gerçeği nasıl ima ettiğini anlamıyorum. Sadece bize asimptotik olarak normallerin toplamının normal olduğunu, herhangi bir sonlu toplamın normal olarak dağıtıldığını söylemediği anlaşılıyor. Yoksa bir şekilde Slutsky teoremini de kullanmak zorunda mısın?

— Kasım'da shabbychef

3

Her zamanki standardizasyonu benimseyen, iki normalin toplamı, bir normal dağılım X_0 artı bir seri X_1, X_2, ... serisinin sınırlayıcı dağılımının toplamıdır; bu nedenle toplam, X_0, X_1, ... Lindeberg-Levy CLT tarafından normaldir.

— whuber

17

Stein'ın Lemması çok kullanışlı bir karakterizasyon sağlar. standart Gauss IFF olan tüm mutlak sürekli fonksiyonlar için ile . $Z$

E f^{'} (Z) = E Z f (Z)

$E f’(Z) = E Z f(Z)$

f

$f$

E | f^{'} (Z) | < \infty

$E|f’(Z)| < \infty$

— vqv
kaynak

12

Teoremi [Herschel-Maxwell]: olsun bağımsızdır ve (ii) 'nin dağıtımı ortogonal bölme odaya grubu, (i) çıkıntılar için rasgele vektör uzunluğuna da bağlıdır. Sonra normalde dağıtılır. $Z \in \mathbb{R}^n$ $Z$ $\|Z\|$ $Z$

Öğretim istatistiklerinde George Cobb tarafından alıntılanmıştır : Bazı önemli gerginlikler (Şili J. Statistics Cilt 2, Sayı 1, Nisan 2011), s. 54.

Cobb, bu karakterizasyonu , Calculus kullanmadan (veya çok olasılık teorisi) , , ve dağılımlarını türetmek için bir başlangıç noktası olarak kullanır . $\chi^2$ $t$ $F$

— whuber
kaynak

9

Let ve ortak bir simetrik dağılımı parçacıkların iki bağımsız rastgele değişken olarak $\eta$ $\xi$

P (| \frac{ξ + η}{\sqrt{2}} | \geq t) \leq P (| ξ | \geq t) .

$P\left ( \left |\frac{\xi+\eta}{\sqrt{2}}\right | \geq t \right )\leq P(|\xi|\geq t).$

O zaman bu rastgele değişkenler gauss'tur. (Açıkçası, eğer ve ortalanmış Gauss ise, doğrudur.) $\xi$ $\eta$

Bu Bobkov-Houdre Teoremi

— robin girard
kaynak

9

Bu bir karakterizasyon değil, 1917'den kalma ve Cantelli'den kaynaklanan bir varsayımdır:

Eğer üzerinde olumlu bir fonksiyonudur ve ve olan bağımsız rastgele değişken şekilde normal, ardından hemen hemen her yerde bir sabittir. $f$ $\mathbb{R}$ $X$ $Y$ $N(0,1)$ $X+f(X)Y$ $f$

Burada Gérard Letac tarafından bahsedilmiştir .

— yaptım
kaynak

Bahsetmen güzel! Sezgiyi çözemiyorum, ya sen?

— Robin Girard

@robin Bu varsayımı bu kadar özel kılan şey: tamamen temel bir ifade, sefil bir şekilde başarısız olan bazı belirgin yaklaşımlar (karakteristik fonksiyonlar), ve kimse kavrayacak bir şey bırakmadı. veya yanlış? Bu bile bana açık değil.

— mü

2

Eğer Gérard Letac bunu ispatlayamadıysa, uzunca bir süre açık kalabilecek bir ...

— Xi'an

@ Xi'an: Elbette tamamen katılıyorum. (Web'de ... sen iyi haber Kamaramda dolaşım bilmiyordum.)

— Did

6

@ Xi'an İşte Victor Kleptsyn ve Aline Kurtzmann'ın Cantelli'nin varsayımına bir örnekle bir ön baskısı. Yapı, yazarların Brownian toplu taşımacılığı olarak adlandırdığı ve süreksiz bir işlev veren yeni bir araç kullanıyor . Yazarlar, eğer sürekli olduğunu sorarsa, Cantelli varsayımının beklediğine inandıklarını ifade eder (onların iki sürekli fonksiyonun bir karışımı olduğu).

f

$f$

f

$f$

— mü

8

Birinin, iid verilerini kullanarak bir konum parametresi tahmin ettiğini varsayalım . Eğer kestirim, daha sonra örnek dağılımı Gaussian'dır. Jaynes en uygun Olasılık Teorisi: Bilim ve Mantık . S 202-4, bu Gauss başlangıçta türetilmiş nasıl oldu. $\{x_1,...,x_n\}$ $\bar{x}$

— Mavi
kaynak

Bunu normal dağılımın bir özelliği olarak anladığımdan emin değilim, bu yüzden muhtemelen bir şeyleri özlüyorum. Ya Poisson verilerini tanımladıysak ve tahmin etmek istersek ? MLE olan ancak örnek dağılımı Gauss değil - ilk olarak, rasyonel olmak zorundadır; ikincisi, eğer olsaydı, olurdu, ama bu olurdu .

μ

$\mu$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\sum x_{i}

$\sum{x_i}$

Poisson (n μ)

$\text{Poisson}(n\mu)$

— Silverfish,

2

Poisson ortalaması bir konum parametresi değil!

— kjetil b halvorsen

6

Sınırsız bölünebilir dağılımlar sınıfı arasındaki normal dağılımın daha belirgin bir karakteristiği Steutel ve Van Harn (2004) 'te sunulmuştur .

Dejenere olmayan, sonsuz bölünebilir rastgele değişken , normal bir dağılıma sahiptir ve eğer sadece $X$
$- \underset{x \to \infty}{lim sup} \frac{\log P (| X | > x)}{x \log (x)} = \infty .$ $-\limsup_{x\rightarrow\infty}\dfrac{\log{\mathbb P}(\vert X\vert>x)}{x\log(x)}=\infty.$

Bu sonuç normal dağılımını kuyruk davranışı açısından karakterize eder.

— kullanıcı10525
kaynak

1

Aşağıdaki şekilde belirtilen limit kısa bir kanıtı şöyledir: Eğer , normal standart, daha sonra olarak , yani . Fakat ve böylece sonuç. Poisson davası için kaba bir taslak, verilen sınırın olduğunu gösteriyor gibi görünüyor , ancak bunu çok yakından kontrol etmedim.

X

$X$

x P (X > x) / φ (x) \to 1

$x \mathbb P(X>x)/\varphi(x)\to 1$

x \to \infty

$x\to \infty$

\log P (X > x) - \log φ (x) + \log x \to 0

$\log\mathbb P(X>x)−\log \varphi(x) + \log x \to 0$

2 \log φ (x) \sim - x^{2}

$2 \log \varphi(x) \sim −x^2$

λ

$\lambda$

— kardinal

6

Görüntü yumuşatma bağlamında (örn. Ölçek alanı ), Gaussian tek dönüşel simetrik ayrılabilir * çekirdeğidir.

İhtiyaç duyduğumuz Yani, eğer burada , o zaman dönme simetrisi gerektirir bu, eşittir .

F [x, y] = f [x] f [y]

$F[x,y]=f[x]f[y]$

[x, y] = r [\cos θ, \sin θ]

$[x,y]=r[\cos\theta,\sin\theta]$

\begin{aligned} F_{θ} & = f^{'} [x] f [y] x_{θ} + f [x] f^{'} [y] y_{θ} \\ = - f^{'} [x] f [y] y + f [x] f^{'} [y] x = 0 \\ ⟹ \\ \frac{f^{'} [x]}{x f [x]} & = \frac{f^{'} [y]}{y f [y]} = c o n s t . \end{aligned}

$\begin{align} F_\theta &= f'[x]f[y]x_\theta+f[x]f'[y]y_\theta \\ &= -f'[x]f[y]y+f[x]f'[y]x = 0 \\ &\implies \\ \frac{f'[x]}{xf[x]} &= \frac{f'[y]}{yf[y]} = \mathrm{const.} \end{align}$

\log [f [x]]^{'} = c x

$\log\big[f[x]\big]'=cx$

Bu gerektiren uygun olarak çekirdek daha sonra sabit bir Gauss çekirdek, sonuçta negatif ve başlangıç değeri pozitif gerektirir. $f[x]$

* Olasılık dağılımları bağlamında, ayrılabilir araçlar bağımsızdır, görüntü filtreleme bağlamında 2D konvolüsyonu hesaplamalı olarak iki 1D konvolüsyona indirgenebilir.

— GeoMatt22
kaynak

2

+1 Fakat bu 2B'deki Herschel-Maxwell teoreminin derhal uygulanmasından kaynaklanmıyor mu?

— whuber

@whuber Aslında, bir şekilde bu konuya bakarken cevabınızı gözden kaçırmayı başardım!

— amip diyor Reinstate Monica

@whuber Evet. Bu eski konuyu ayrıntılı olarak okumamıştım ve sadece bu cevabı istek üzerine ekliyordum.

— GeoMatt22

1

@ amoeba da burada bakınız .

— GeoMatt22

3

Son zamanlarda Ejsmont [1] Gaussian'ın yeni karakterizasyonu ile bir makale yayınladı:

Let tüm anlar, bağımsız rastgele vektörler dejenere olan ve istatistik izin , yalnızca sahip bir dağıtıma sahiptir , burada ve . Daha sonra bağımsızdır ve sıfır aracı ile aynı normal dağılıma sahiptir ve için . $(X_1,\dots, X_m,Y) \textrm{ and } (X_{m+1},\dots,X_n,Z)$ $X_i$ $\sum_{i=1}^na_iX_i+Y+Z$ $\sum_{i=1}^n a_i^2$ $a_i\in \mathbb{R}$ $1\leq m < n$ $X_i$ $cov(X_i,Y)=cov(X_i,Z)=0$ $i\in\{1,\dots,n\}$

[1]. Ejsmont, Wiktor. "Normal dağılımın bir çift rasgele vektörün bağımsızlığı ile karakterize edilmesi." İstatistik ve Olasılık Mektupları 114 (2016): 1-5.

— Daniel
kaynak

1

Bu hassas ve etkileyici bir karakterizasyondur. Paylaşarak bu konuyu geliştirdiğiniz için teşekkür ederiz!

— whuber

1

Karakteristik işlevi, pdf ile aynı biçimdedir. Bunu yapan başka bir dağıtımdan emin değilim.

— Jason
kaynak

4

Karakteristik işlevleri pdfs ile aynı olan rastgele değişkenler oluşturmanın yolları için bu cevaba bakınız .

— Dilip Sarwate

-1

Beklenti artı eksi standart sapma, fonksiyonun eyer noktalarıdır.

— Tal Galili
kaynak

11

Bu, Normal dağılımın bir özelliğidir, elbette, ancak onu nitelendirmez , çünkü diğer pek çok dağıtım da bu özelliğe sahiptir.

— whuber