Büyük sayılar yasasına karşı merkezi limit teoremi

14

Merkezi limit teoremi, sonsuza giderken iid değişkenlerinin ortalamasının normal olarak dağıldığını belirtir . $N$

Bu iki soruyu gündeme getiriyor:

Bundan büyük sayılar yasasını çıkarabilir miyiz? Büyük sayılar kanunu rastgele değişkenin değerlerinin bir numunenin ortalaması gerçek ortalama eşittir diyorsa olarak sonsuza gider o zaman değer haline gelmesi (merkezi sınır söylediği gibi) demek daha güçlü görünüyor, burada standart sapmadır. O zaman merkezi sınırın büyük sayılar yasasını ima ettiğini söylemek adil midir? $\mu$ $N$ $\mathcal N(\mu, \sigma)$ $\sigma$
Merkezi limit teoremi değişkenlerin doğrusal kombinasyonuna uygulanır mı?

probability central-limit-theorem law-of-large-numbers

— user9097
kaynak

5

"Merkezi limit teoreminin, sonsuza giderken, normalde dağılmış olan iid değişkenlerinin ortalamasının yanlış olduğunu belirtir" iddianız yanlıştır. Benzer sorunları gündeme getiren bu son soruya verdiğim cevaba bakın . Bu soruya başka bir cevap daha gönderildi ancak kısa süre sonra silindi ve bu cevabı izleyen tartışma şimdi de gitti, bu konuları da tartıştı.

N

$N$

— Dilip Sarwate

1

Neden olan nüfus ortalama örnek ortalama yakınsak bir örnek ortalama yakınsak daha zayıf bir sonuç örnek bir mesafede dağıtım?

μ

$\mu$

N (μ, σ)

$\mathcal N(\mu, \sigma)$

— Dilip Sarwate

@DilipSarwate Bayrak için teşekkürler, ancak yorumunuz yeterince IMO'dur ve sorudaki yanlış anlamaları ortaya çıkarır ve makul yanıtlar ortaya çıkar.

10

OP diyor

Merkezi limit teoremi, N sonsuza giderken iid değişkenlerinin ortalamasının normal olarak dağıldığını belirtir.

Bunun OP inanç olduğunu belirtmek için bu alacak Rasgele değişkenlerin için ortalama ile ve standart sapma , kümülatif dağılım fonksiyonu bir , ortalama ve standart sapma ile normal bir rastgele değişken olan kümülatif dağılım işlevine yakınsar . Veya OP bu formülün küçük düzenlemelerinin olduğuna inanır, örneğin dağılımı dağılımına veya $X_i$ $\mu$ $\sigma$ $F_{Z_n}(a)$

Z_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}

$Z_n = \frac{1}{n} \sum_{i=1}^n X_i$

N (μ, σ)

$\mathcal N(\mu,\sigma)$

μ

$\mu$

σ

$\sigma$

Z_{n} - μ

$Z_n - \mu$

N (0, σ)

$\mathcal N(0,\sigma)$

(Z_{n} - μ) / σ

$(Z_n - \mu)/\sigma$ standart normal rasgele değişken olan dağılımına yakınsar . Örnek olarak bu ifadelerin olarak .

N (0, 1)

$\mathcal N(0,1)$

P {| Z_{n} - μ | > σ} = 1 - F_{Z_{n}} (μ + σ) + F_{Z_{n}} ((μ + σ)^{-}) \to 1 - Φ (1) + Φ (- 1) \approx 0.32

$P\{|Z_n - \mu| > \sigma\} = 1 - F_{Z_n}(\mu + \sigma) + F_{Z_n}((\mu + \sigma)^-) \to 1-\Phi(1)+\Phi(-1) \approx 0.32$

n \to \infty

$n \to \infty$

OP söylemeye devam ediyor

Bu iki soruyu gündeme getiriyor:

Bundan büyük sayılar yasasını çıkarabilir miyiz? Büyük sayılar kanunu, rastgele bir değişkenin değerlerinin bir örneğinin ortalamasının N sonsuza giderken gerçek ortalama μ'ye eşit olduğunu söylüyorsa, (merkezi sınırın dediği gibi) değerin N ( μ, σ) burada σ standart sapmadır.

Büyük sayılar zayıf kanunu diyor Rasgele değişkenlerin için sonlu ortalama ile , herhangi bir, , Standart sapmanın sonlu olduğunu varsaymanın gerekli olmadığını unutmayın. $X_i$ $\mu$ $\epsilon > 0$

P {| Z_{n} - μ | > ϵ} \to 0 as n \to \infty .

$P\{|Z_n - \mu| > \epsilon\} \to 0 ~~ \text{as}~ n \to \infty.$

OP'nin sorusunu cevaplamak için,

OP tarafından belirtildiği gibi merkezi limit teoremi , büyük sayıların zayıf kanunu anlamına gelmez . As , teoremi söylüyor merkezi limit OP'ın versiyonu iken zayıf yasa $n \to \infty$ $P\{|Z_n-\mu| > \sigma\} \to 0.317\cdots$ $P\{|Z_n-\mu| > \sigma\} \to 0$
Bir itibaren doğru merkezi limit teoremi açıklamada, iyi anlamak sonlu ortalama ve standart sapma ile rasgele değişkenlere uyarlanır çok sayıda zayıf hukuk Sadece sınırlı formu az bir kutu. Ancak büyük sayıların zayıf kanunu da Pareto'nun sonlu yollarla rastgele değişkenler, ancak sınırsız standart sapması gibi rasgele değişkenler için geçerlidir.
Örnek ortalamanın sıfır olmayan standart sapma ile normal bir rastgele değişkene dönüştüğünü söylemenin neden örnek ortalamanın, sabit (veya sıfır standart sapma ile rastgele bir değişken olan popülasyon ortalamasına yakınsadığını söylemekten daha güçlü bir ifade olduğunu anlamıyorum. gibi).

— Dilip Sarwate
kaynak

Cevabımı reddeden kişinin söylediklerimde sakıncalı veya yanlış bulduğunu merak ediyorum.

— Dilip Sarwate

7

Büyük sayıların kanunu için, tüm değişkenlerin aynı olasılık alanında tanımlanması gerekir (büyük sayıların kanunu, tarafından belirlenen bir olayın olasılığı hakkında , tüm aynı anda olduğu için). Dağıtımda yakınsama için, farklı olasılık alanlarına sahip olabilirsiniz ve bu, provaların birçok yönünü basitleştirir (örneğin, çeşitli üçgen dizi provaları için çok yaygın olan iç içe boşlukları artırmak). Ancak aynı zamanda, ve ortak dağılımları hakkında herhangi bir açıklama yapamayacağınız anlamına gelir . Yani hayır, tüm değişkenler için ortak bir olasılık alanınız olmadığı sürece, dağıtımda yakınsama büyük sayıların kanunu anlamına gelmez. $\bar X_n$ $n$ $\bar X_n$ $\bar X_{n+1}$

— StasK
kaynak

(+1) Söyledikleriniz doğru ve çok önemli bir nokta. Üçgen dizi, her "satırdaki" değişkenlerin önceki satırlardan farklı olasılık uzaylarında yaşamasına izin verir. Öte yandan, rasgele değişkenlerin bir sırasını düşündüğümüz bir a priori dersek, bağımsızlık kavramının çok anlamlı olması için dolaylı olarak altta yatan ortak bir alanda var olmaları gerekir.

— kardinal

@cardinal: doğru anlarsam, hepsinin aynı alanda tanımlandığı "basit" durumda, merkeziyetin büyük sayıların yasasını ima ettiği durum nedir? ya da hayır?

— user9097

@ user9097 Şu anda ince ayrıntılar alemlerine girdiğimizden, büyük sayıların hangi yasası soruluyor? Zayıf ya da güçlü yasa?

— Dilip Sarwate

Bu nokta sadece büyük sayıların güçlü yasası için geçerlidir , zayıf yasa

— kjetil b halvorsen

4

Birincisi, birçok tanım olmasına rağmen, merkezi limit teoreminin standart formlarından biri nin dağılımında birleştiğini söylüyor , burada örnek ortalaması olan rastgele değişkenin IID kopya . $\sqrt{n}(\bar{X}_n-EX)$ $\mathcal N(0, Var(X))$ $\bar{X}$ $n$ $X$

İkinci olarak, ve olmak üzere iki bağımsız rastgele değişkenimiz olduğunu varsayalım . Sonra veya $X$ $Y$

\sqrt{n} (\frac{1}{n} \sum_{j = 1}^{n} (a X_{j} + Y_{j}) - E (a X + Y)) \to N (0, V a r (a X + Y))

$\sqrt{n}(\frac{1}{n}\sum_{j=1}^n(aX_j+Y_j) - E(aX+Y)) \to \mathcal N(0, Var(aX+Y))$

\sqrt{n} a ({\bar{X}}_{n} - E X) + \sqrt{n} ({\bar{Y}}_{n} - E Y) \to N (0, a^{2} V a r (X) + V a r (Y)) .

$\sqrt{n}a(\bar{X}_n- EX)+\sqrt{n}(\bar{Y}_n -EY) \to \mathcal N(0, a^2Var(X)+Var(Y)).$

Başka bir deyişle, rastgele değişkenlerin doğrusal bir kombinasyonu, CLT altında normal bir doğrusal kombinasyona dönüşmez, sadece bir normal. Rastgele değişkenlerin doğrusal bir kombinasyonu, CLT'nin doğrudan uygulanabileceği sadece farklı bir rastgele değişken olduğu için bu mantıklıdır.

— Daniel Johnson
kaynak

1

Bu cevap için iyi bir başlangıç. İşte bazı yorumlar: (eklem) normallerinin doğrusal bir kombinasyonu normaldir, bu yüzden, bu konudaki yorumunuzun ne anlama geldiğinden emin değilim. Her halükarda, OP'nin düşündüğünüz formun doğrusal kombinasyonlarını düşünmediğinden şüpheleniyorum. O Gözlem her biri için sorabilir doğal soruyu bir böyle olur bu "tekdüze" ağırlıkları diğer (daha keyfi) ağırlıklarla değiştiriyoruz. Ne zaman bir CLT alıyoruz? Lindeberg'in CLT'si bu soruya ulaşmak için kullanılabilir.

{\bar{X}}_{n} = \sum_{i = 1}^{n} w_{n i} X_{i}

$\bar X_n = \sum_{i=1}^n w_{ni} X_i$

w_{n i} = 1 / n

$w_{ni} = 1/n$

i = 1, \dots, n

$i = 1,\ldots,n$

— kardinal

Ben sıkı koşullar ile sonuç hala hakkında bir şeyler söyleyecektir . Önce bu koşulları tanımlayalım ve sonra nasıl zayıflatacağımızı düşünelim. Çekme sağlar ve negatif olmayan reals tek bir sonsuz bir dizi için. Farklı sayısı ve her biri sırayla sonsuz sıklıkta görünüyorsa, her rastgele bir değişken tanımladığı ve yukarıda verdiğim 'doğrusal kombinasyon' çerçevesine olmalıdır . O zaman iyi bir soru , ile ayrı ölçeği sayısına izin verebilirsek olurdu .

\sum_{j = 1}^{n} w_{n j} X_{j}

$\sum^n_{j=1}w_{nj}X_j$

w_{n j} = w_{j} / n

$w_{nj} = w_{j}/n$

w_{j}

$w_j$

w_{j}

$w_{j}$

w_{j} X

$w_jX$

w

$w$

n

$n$

— Daniel Johnson

1

Bu iyi bir yorum ve güzel bir fikir, ancak çalışmak için bazı değişiklikler yapılması gerektiğine inanıyorum. Wlog olduğunu varsayalım . Senin Construct şöyle. Let , . Şimdi, endüktif olarak şu şekilde tanımlayın : olana kadar ayarlayın . Sonra olana kadar olanları ekleyin . Sıfırları, sonra olanları tekrar ekleyin. Reklam sonsuzluğunu tekrarlayın. Şimdi, ve her ikisi de sonsuz sayıda gerçekleşir, ancak yeniden ölçeklendirilmiş ortalamanın varyansı ve arasında salınır

E X = 0

$\mathbb E X = 0$

w_{j}

$w_j$

w_{1} = 1

$w_1 = 1$

w_{2} = 0

$w_2 = 0$

w_{j}

$w_j$

w_{j} = 0

$w_j = 0$

\sum_{i = 1}^{j} w_{i} / j \leq 1 / 4

$\sum_{i=1}^j w_i /j \leq 1/4$

\sum_{i = 1}^{j} w_{i} / j \geq 1 / 2

$\sum_{i=1}^j w_i /j \geq 1/2$

0

$0$

1

$1$

1 / 2

$1/2$

1 / 4

$1/4$ (kabaca). Bu nedenle, belirtilen diziniz dağıtımda birleşemez.

— kardinal

(Not: Burada ve seçimi ile ilgili özel bir şey yoktur . Ayrıca, açıklamada açıkladığınız prosedür kesinlikle cevabınızın doğrusal kombinasyon çerçevesine gerçekten uymuyor.)

0

$0$

1

$1$

— kardinal