Nerede

36

aşağıdaki gibi merkezi sınırlı teoremin çok basit bir sürümü ki Lindeberg – Lévy CLT'dir. Neden sol tarafta bir olduğunu anlamıyorum . Ve Lyapunov CLT ama neden değil ? Birisi bana bu faktörlerin neler olduğunu söyler mi, ve ? onları teoremi nasıl alırız?

\sqrt{n} ((\frac{1}{n} \sum_{i = 1}^{n} X_{i}) - μ) \overset{d}{\to} N (0, σ^{2})

$\sqrt{n}\bigg(\bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg) - \mu\bigg)\ \xrightarrow{d}\ \mathcal{N}(0,\;\sigma^2)$

\sqrt{n}

$\sqrt{n}$

\frac{1}{s_{n}} \sum_{i = 1}^{n} (X_{i} - μ_{i}) \overset{d}{\to} N (0, 1)

$\frac{1}{s_n} \sum_{i=1}^{n} (X_i - \mu_i) \ \xrightarrow{d}\ \mathcal{N}(0,\;1)$

\sqrt{s_{n}}

$\sqrt{s_n}$

\sqrt{n}

$\sqrt{n}$

\frac{1}{s_{n}}

$\frac{1}{s_n}$

central-limit-theorem intuition

— Uçan Domuz
kaynak

3

Bu istatistik.stackexchange.com/questions/3734 adresinde açıklanmaktadır . Bu cevap uzun, çünkü “sezgi” diye soruyor. "Bu basit yaklaşım, Moivre'nin ilk başta evrensel bir sınırlayıcı dağılım olduğundan, logaritmasının ikinci dereceden bir işlev olduğu ve uygun ölçek faktörünün ile orantılı olması gerektiğinden olabileceğini gösteriyor. ... "

s_{n}

$s_n$

\sqrt{n}

$\sqrt{n}$

— whuber

1

Sezgisel olarak, eğer tüm sonra ve 2. hat 1 hattından aşağıdaki gibidir: ile bölmek (elbette Lyapunov koşulu, kombinasyon kapalı hepsi , başka bir soru)

σ_{i} = σ

$\sigma_i=\sigma$

s_{n} = \sqrt{\sum σ_{i}^{2}} = \sqrt{n} σ

$s_n = \sqrt{\sum\sigma_i^2}=\sqrt{n}\sigma$

\sqrt{n} ((\frac{1}{n} \sum_{i = 1}^{n} X_{i}) - μ) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} (X_{i} - μ) \overset{d}{\to} N (0, σ^{2})

$\sqrt{n}\bigg(\bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg)-\mu\bigg)=\frac{1}{\sqrt{n}}\sum_{i=1}^n \bigg(X_i-\mu\bigg)\xrightarrow{d}\ \mathcal{N}(0,\;\sigma^2)$

σ = \frac{s_{n}}{\sqrt{n}}

$\sigma = \frac{s_n}{\sqrt{n}}$

\frac{\frac{1}{\sqrt{n}} \sum_{i = 1}^{n} (X_{i} - μ)}{\frac{s_{n}}{\sqrt{n}}} = \frac{1}{s_{n}} \sum_{i = 1}^{n} (X_{i} - μ_{i}) \overset{d}{\to} N (0, 1)

$\frac{\frac{1}{\sqrt{n}}\sum_{i=1}^n \bigg(X_i-\mu\bigg)}{\frac{s_n}{\sqrt{n}}}=\frac{1}{s_n}\sum_{i=1}^{n}(X_i-\mu_i)\xrightarrow{d}\ \mathcal{N}(0,\;1)$ $\sigma_i$

— Sextus Empiricus

33

Güzel soru (+1) !!

Bağımsız rastgele değişkenler için ve , ve . Varyansı Böylece olan ve varyans , . $X$ $Y$ $Var(X+Y) = Var(X) + Var(Y)$ $Var(a\cdot X) = a^2 \cdot Var(X)$ $\sum_{i=1}^n X_i$ $\sum_{i=1}^n \sigma^2 = n\sigma^2$ $\bar{X} = \frac{1}{n}\sum_{i=1}^n X_i$ $n\sigma^2 / n^2 = \sigma^2/n$

Bu varyans içindir . Rastgele bir değişkeni standartlaştırmak için, standart sapmasına bölün. Bildiğiniz gibi, beklenen değer ise değişkeni böylece, $\bar{X}$ $\mu$

\frac{\bar{X} - E (\bar{X})}{\sqrt{V a r (\bar{X})}} = \sqrt{n} \frac{\bar{X} - μ}{σ}

$\frac{\bar{X} - E\left( \bar{X} \right)}{\sqrt{ Var(\bar{X}) }} = \sqrt{n} \frac{\bar{X} - \mu}{\sigma}$ , 0 değerini ve varyansını bekler. 1. Bir , standart Gaussian . Birinci denklemdeki formülasyonunuz eşdeğerdir. Sol taraf çarpılarak varyansı ayarlayabilirsiniz .

N (0, 1)

$\mathcal{N}(0,\;1)$

σ

$\sigma$

σ^{2}

$\sigma^2$

İkinci nokta ile ilgili olarak, yukarıda gösterilen denklem sen bölme zorunda olduğunu göstermektedir inanıyoruz değil kullandığınız açıklarken, denklemi standardize etmek (tahmincisi ve . $\sigma$ $\sqrt{\sigma}$ $s_n$ $\sigma)$ $\sqrt{s_n}$

Ekleme: @whuber , ölçeklendirmenin nedenini ile tartışmayı önerir . O öyle orada , ama cevap çok uzun olduğu için (Moivre düşünceleri de rekonstrüksiyonudur), argümanının derinliklerinden yakalamak için çalışacağız. $\sqrt{n}$

Çok sayıda + 1 ve -1 eklerseniz, toplam sayımın basit sayma yoluyla olması olasılığını tahmin edebilirsiniz . Bu olasılığın günlüğü ile orantılıdır . Eğer yukarıdaki büyüklüğün büyükleştikçe bir sabite yakınsamasını istiyorsak, normalize edici bir faktör kullanmak zorundayız . $n$ $j$ $-j^2/n$ $n$ $O(\sqrt{n})$

Modern (Post-Moivre) matematik araçlarını kullanarak, aranan olasılığın fark edildiğini fark ederek yukarıda belirtilen yaklaşımı görebilirsiniz.

P (j) = \frac{(\binom{n}{n / 2 + j})}{2^{n}} = \frac{n!}{2^{n} (n / 2 + j)! (n / 2 - j)!}

$P(j) = \frac{{n \choose n/2+j}}{2^n} = \frac{n!}{2^n(n/2+j)!(n/2-j)!}$

Stirling'in formülü ile yaklaşık

P (j) \approx \frac{n^{n} e^{n / 2 + j} e^{n / 2 - j}}{2^{n} e^{n} (n / 2 + j)^{n / 2 + j} (n / 2 - j)^{n / 2 - j}} = {(\frac{1}{1 + 2 j / n})}^{n + j} {(\frac{1}{1 - 2 j / n})}^{n - j} .

$P(j) \approx \frac{n^n e^{n/2+j} e^{n/2-j}}{2^n e^n (n/2+j)^{n/2+j} (n/2-j)^{n/2-j} } = \left(\frac{1}{1+2j/n}\right)^{n+j} \left(\frac{1}{1-2j/n}\right)^{n-j}.$

\log (P (j)) = - (n + j) \log (1 + 2 j / n) - (n - j) \log (1 - 2 j / n) \sim - 2 j (n + j) / n + 2 j (n - j) / n \propto - j^{2} / n .

$\log(P(j)) = -(n+j) \log(1+2j/n) - (n-j) \log(1-2j/n) \\ \sim -2j(n+j)/n + 2j(n-j)/n \propto -j^2/n.$

— gui11aume
kaynak

Lütfen Michael C. ve Guy'ın önceki cevaplarına yorumlarımı inceleyin.

— whuber

İlk denklem gibi görünüyor (LL CLT) s / b ? Bu da beni , varyans olarak göründü.

\sqrt{n} ((\frac{1}{n} \sum_{i = 1}^{n} X_{i}) - μ) \overset{d}{\to} N (0, 1)

$\sqrt{n}\bigg(\bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg) - \mu\bigg)\ \xrightarrow{d}\ \mathcal{N}(0,\;1)$

σ^{2}

$\sigma^2$

— B_Miner

Gaussian'ı ortalama ve değişkenlikle standartlaştırırsanız (standart sapma değil) OP'nin formülünün doğru olduğuna inanıyorum.

— gui11aume

1

Ahh..bağladısak, frak eğer tarafından biz (OP tarafından gösterildi olsun iptal): yani . Ancak VAR (aX) = a ^ 2Var (X) olduğunu biliyoruz, bu durumda a = ve Var (X) 1'dir, böylece dağıtım .

\frac{\bar{X} - E (\bar{X})}{\sqrt{V a r (\bar{X})}} = \sqrt{n} \frac{\bar{X} - μ}{σ} \overset{d}{\to} N (0, 1)

$\frac{\bar{X} - E\left( \bar{X} \right)}{\sqrt{ Var(\bar{X}) }} = \sqrt{n} \frac{\bar{X} - \mu}{\sigma} \xrightarrow{d}\ \mathcal{N}(0,\;1)$

\frac{\bar{X} - E (\bar{X})}{\sqrt{V a r (\bar{X})}}

$\frac{\bar{X} - E\left( \bar{X} \right)}{\sqrt{ Var(\bar{X}) }}$

σ

$\sigma$

σ

$\sigma$

\sqrt{n} ((\frac{1}{n} \sum_{i = 1}^{n} X_{i}) - μ)

$\sqrt{n}\bigg(\bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg) - \mu\bigg)$

σ^{2}

$\sigma^2$

N (0, σ^{2})

$\mathcal{N}(0,\;\sigma^2)$

— B_Miner

Gui, Çok geç değilse, bunun doğru olduğundan emin olmak istedim. varsayalım ve biz bu miktarın beklenen değerini (yani ) olan sabit bir ( ) ile ), sıfır olan, E [aX] = a * E [X] => * 0 = 0 olarak sıfırdır . Bu doğru mu?

\frac{\bar{X} - E (\bar{X})}{\sqrt{V a r (\bar{X})}} = \sqrt{n} (\bar{X} - μ) \overset{d}{\to} N (0, 1)

$\frac{\bar{X} - E\left( \bar{X} \right)}{\sqrt{ Var(\bar{X}) }} = \sqrt{n} ({\bar{X} - \mu}) \xrightarrow{d}\ \mathcal{N}(0,\;1)$

σ

$\sigma$

\sqrt{n} (\bar{X} - μ)

$\sqrt{n} ({\bar{X} - \mu})$

σ

$\sigma$

— B_Miner

8

Ne tür bir dağılımın rasgele değişkenlerin toplamının dağılımını sınırladığına dair güzel bir teori var. Güzel kaynak, şahsen çok zevk aldığım Petrov'un yazdığı kitap .

Görünüşe göre bu tipin sınırlarını araştırıyorsanız burada bağımsız rastgele değişkenler, limitlerin dağılımı sadece belirli dağılımlar.

\frac{1}{a_{n}} \sum_{i = 1}^{n} X_{n} - b_{n}, (1)

$\frac{1}{a_n}\sum_{i=1}^nX_n-b_n, \quad (1)$

X_{i}

$X_i$

Daha sonra etrafta dolaşan ve sınırda olanları tamamen karakterize eden birkaç teoremle kaynaşan bir çok matematik var. Bu tür teoremlerden biri Feller'den kaynaklanmaktadır:

Teoremi Let bağımsız rastgele değişken bir sekans olabilir, dağılımı fonksiyonu ve pozitif sabit bir dizisi. Amacıyla $\{X_n;n=1,2,...\}$ $V_n(x)$ $X_n$ $a_n$

max_{1 \leq k \leq n} P (| X_{k} | \geq ε a_{n}) \to 0, for every fixed ε > 0

$\max_{1\le k\le n}P(|X_k|\ge\varepsilon a_n)\to 0, \text{ for every fixed } \varepsilon>0$

ve

sup_{x} | P (a_{n}^{- 1} \sum_{k = 1}^{n} X_{k} < x) - Φ (x) | \to 0

$\sup_x\left|P\left(a_n^{-1}\sum_{k=1}^nX_k<x\right)-\Phi(x)\right|\to 0$

bu gerekli ve yeterli

\sum_{k = 1}^{n} \int_{| x | \geq ε a_{n}} d V_{k} (x) \to 0 for every fixed ε > 0,

$\sum_{k=1}^n\int_{|x|\ge \varepsilon a_n}dV_k(x)\to 0 \text{ for every fixed }\varepsilon>0,$

a_{n}^{- 2} \sum_{k = 1}^{n} (\int_{| x | < a_{n}} x^{2} d V_{k} (x) - {(\int_{| x | < a_{n}} x d V_{k} (x))}^{2}) \to 1

$a_n^{-2}\sum_{k=1}^n\left(\int_{|x|<a_n}x^2dV_k(x)-\left(\int_{|x|<a_n}xdV_k(x)\right)^2\right)\to 1$

ve

a_{n}^{- 1} \sum_{k = 1}^{n} \int_{| x | < a_{n}} x d V_{k} (x) \to 0.

$a_n^{-1}\sum_{k=1}^n\int_{|x|<a_n}xdV_k(x)\to 0.$

Bu teorem daha sonra neye benzemesi gerektiği konusunda bir fikir verir . $a_n$

Kitaptaki genel teori, normlama sabiti herhangi bir şekilde kısıtlanacak şekilde yapılandırılmıştır, ancak gerekli ve yeterli koşulları sağlayan son teoremler , dışında bir norm için sabit yer bırakmaz . $\sqrt{n}$

— mpiktas
kaynak

4

s , numune ortalaması için örnek standart sapmayı temsil eder. s , örnek ortalamasının örnek varyansıdır ve S / n'ye eşittir . S ise popülasyon varyansının örnek tahminidir. S = S / √n'den beri, ilk formülde nasıl göründüğünü açıklar. Limit olsaydı, payda bir σ olacağını unutmayın. $_n$ $_n$ $^2$ $_n$ $^2$ $_n$ $^2$ $_n$ $_n$

N (0,1) fakat limit N (0, ) olarak verilir. S tutarlı bir σ tahmini olduğundan, secnd denkleminde σ limitini çıkarmak için kullanılır. $^2$ $_n$

— Michael Chernick
kaynak

Sorunun diğer (daha temel ve önemli) kısmı ne olacak: neden ve başka bir dağılım ölçüsü olmasın?

s_{n}

$s_n$

— whuber

@whuber Bu tartışma için olabilir, ancak sorunun bir parçası değildi. OP, formülünde neden ve √n göründüğünü bilmek istedi . Elbette S vardır, çünkü σ için tutarlıdır ve CLT σ biçiminde çıkarılır.

_{n}

$_n$

_{n}

$_n$

— Michael Chernick 19:12

1

Bana göre, in " için tutarlı" olması nedeniyle mevcut olduğu açık değil . Bu da neden aşırı değer istatistiklerini normalleştirmek için kullanılması gerektiğini (ki işe yaramayacağını) ima ? Basit ve açık bir şeyi mi özlüyorum? Ve, neden kullanmıyorsunuz - hepsinden önce, bu için tutarlı !

s_{n}

$s_n$

σ

$\sigma$

s_{n}

$s_n$

\sqrt{s_{n}}

$\sqrt{s_n}$

\sqrt{σ}

$\sqrt{\sigma}$

— whuber

Belirtildiği gibi teorem N (0,1) 'e yakınlaşmıştır, bu nedenle ya σ'yı bilmeniz ve kullanmanız ya da Slutsky'nin teoreminin çalıştığı tutarlı bir tahmin kullanmanız gerekir. Bu belirsiz miydi?

— Michael Chernick 19:12

Belirsiz olduğunuzu sanmıyorum; Sadece önemli bir noktanın eksik olabileceğini düşünüyorum. Sonuçta, pek çok dağıtım için, yerine IQR kullanarak sınırlayıcı bir normal dağılım elde edebiliriz , ancak sonuç düzgün değildir (sınırlayıcı dağılımın başladığımız dağılıma bağlıdır). Sadece bunun çağrılmayı ve açıklanmayı hak ettiğini söylüyorum. 40 yıl boyunca geliştirdikleri sezgiye sahip olmayan biriyle karşılaştıkları tüm dağıtımları standartlaştıracak kadar açık olmayacak!

s_{n}

$s_n$

— whuber

2

Sezgisel olarak, eğer bazı için ise kabaca ; Genel olarak gerekli olduğunu düşünmeme rağmen oldukça makul bir beklenti gibi görünüyor. Sebebi ilk ifadede varyansı olmasıdır gider gibi ve böylece için eşit olacak şekilde ifade sadece varyans sahip olduğu varyansı şişirmektir . İkinci ifadede terimi olarak tanımlanır $Z_n \to \mathcal N(0, \sigma^2)$ $\sigma^2$ $\mbox{Var}(Z_n)$ $\sigma^2$ $\sqrt n$ $\bar X_n - \mu$ $0$ $\frac 1 n$ $\sqrt n$ $\sigma^2$ $s_n$ $\sqrt{\sum_{i = 1} ^ n \mbox{Var}(X_i)}$ payın varyansı gibi , yine de tüm ifadenin varyansının bir sabittir ( bu durumda ). $\sum_{i = 1} ^ n \mbox{Var}(X_i)$ $1$

Temel olarak, dağılımında "ilginç" bir şey olduğunu biliyoruz , ancak düzgün şekilde merkezleyip ölçeklediğimizde onu göremeyiz. Bunun bazen mikroskobu ayarlamaya ihtiyaç duyduğu şeklinde tanımlandığını duydum. Biz patlatmak yoksa (örneğin) tarafından o zaman sadece var zayıf kanunla dağılımında; CLT kadar bilgilendirici olmamakla birlikte başlı başına ilginç bir sonuç. Herhangi bir etken ile şişirirken hakimdir , yine de alır ise bir faktör olan ağırlıkta olmak $\bar X_n := \frac 1 n \sum_i X_i$ $\bar X - \mu$ $\sqrt n$ $\bar X_n - \mu \to 0$ $a_n$ $\sqrt n$ $a_n(\bar X_n - \mu) \to 0$ $a_n$ $\sqrt n$ verir . Görünüşe göre bu durumda neler olup bittiğini görebilmek için sadece doğru büyütmedir (not: buradaki bütün yakınsaklık dağılımdadır; neredeyse kesin yakınsama için ilginç olan başka bir büyütme düzeyi vardır; yinelenen logaritma yasasına). $a_n(\bar X_n - \mu) \to \infty$ $\sqrt n$

— adam
kaynak

4

İlk olarak ele alınması gereken daha temel bir soru, SD'nin dağılmayı ölçmek için neden kullanıldığı. Neden başka bir değeri için mutlak merkezi anı olmasın ? Ya da neden IQR veya akrabalarından herhangi biri değil? Bu bir kez cevaplandıktan sonra, kovaryansın basit özellikleri derhal bağımlılığı verir (@ Gui11aume yakın zamanda açıklandığı gibi).

k^{th}

$k^\text{th}$

k

$k$

\sqrt{n}

$\sqrt{n}$

— whuber

1

@whuber Katılıyorum, bu yüzden bunu buluşsal olarak sunuyorum. Bunu duymak isterim basit bir açıklama için uygun olduğundan emin değilim. Benim için geçmişten daha basit ve açıklanabilir bir nedene sahip olduğumdan emin değilim "çünkü kare terimi, ortalamayı çıkardığınızda karakteristik fonksiyonun Taylor genişlemesinde ilgili terimdir."

— Adam