Markov Zincirleri için Merkezi Limit Teoremi

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ Merkezi Limit Teoremi (CLT), $X_1,X_2,\dots$ bağımsız ve aynı şekilde dağıtılmış (iid) olduğunu belirtir $\E[X_i]=0$ ve $\operatorname{ Var} (X_i)<\infty$ , toplam normal bir dağılıma olarak yakınsar $n\to\infty$ :

Σ_{ben = 1}^{n} X_{ben} \to N- (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Bunun yerine, $X_1,X_2,\dots$ sabit dağılımlı $\P_\infty$ 0 beklentisi ve sınırlı varyans ile sınırlı bir Markov zinciri oluşturduğunu varsayın . Bu dava için basit bir CLT uzantısı var mı?

Markov Zincirler için CLT'de bulduğum yazılar genellikle daha genel vakaları tedavi ediyor. İlgili genel sonuca ve bunun nasıl uygulandığına dair bir açıklama için çok minnettar olurum.

markov-process central-limit-theorem

— tom4everitt
kaynak

Lin ve Tegmark'ın Deep Dynamics'in Eleştirel Davranışı makalesi , Markov süreçlerinin ve analizinin "sınırlamaları *" hakkında derinlemesine inceliyor

— Mike Hunter

Yanıtlar:

Alex R.'nin cevabı neredeyse yeterli, ancak birkaç ayrıntı daha ekliyorum. In Merkezi Limit Teoremi Markov Zinciri Açık - Galin L. Jones , sen teoremi 9 bakarsak, diyor,

Eğer sabit dağılımı ile Harris ergodik Markov zinciridir , daha sonra bir Clt için tutar eğer eşit ergodik ve . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

Sonlu durum uzayları için tüm indirgenemez ve aperiodik Markov zincirleri eşit olarak ergodiktir. Bunun kanıtı Markov zincir teorisinde kayda değer bir temel içermektedir. İyi bir referans Teorem 18 alt kısmında, Sayfa 32 olurdu burada .

Dolayısıyla, Markov zinciri CLT, sınırlı bir ikinci momente sahip olan herhangi bir fonksiyonunu tutacaktır . CLT'nin aldığı form aşağıdaki gibi açıklanmaktadır. $f$

Let zaman kestirimcisi ortalama olarak , daha sonra Alex R olarak, işaret ettiği gibi , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} Σ_{ben = 1}^{n} f (X_{ben}) \overset{gibi}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

Markov zinciri CLT

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N- (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

burada

σ^{2} = \underset{Beklenen terim}{\underset{⏟}{{var}_{π} (f (X_{1}))}} + \underset{Markov zinciri nedeniyle terim}{\underset{⏟}{2 Σ_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

terimi için bir türev burada Charles Geyer'in MCMC notlarının Sayfa 8 ve Sayfa 9'unda bulunabilir $\sigma^2$

— Greenparker
kaynak

Teşekkürler, bu çok açık! Sonlu durumun, indirgenemez ve aperiodik Markov zincirlerinin neden tekdüze ergodik olduğu konusunda kolay bir tartışma var mı? (Sana güvenmediğimden değil ^^).

— tom4everitt

@ tom4everitt Ne yazık ki, "kolay" tanımı özneldir. Markov zincirleri için sürüklenme ve küçükleştirme koşullarına aşina iseniz, argüman kolaydır. Değilse, o zaman uzun bir tartışma olurdu. Bunun yerine bir referans bulmaya çalışacağım. Biraz zaman alabilir.

— Greenparker

Bu harika olurdu. Herhangi bir şey bulamazsanız, ana adımlara işaret eden birkaç cümle yine de yardımcı olacaktır.

— tom4everitt

@ tom4everitt Cevaba bir referans eklendi. Umarım bu yeterlidir.

— Greenparker

@ Greenparker Cevabınızdaki varyansın nasıl türetildiğini anlamanız için yardım isteyebilir miyim? Cevabınızdaki referansa baktım, ama orada bir türetme bulamadım. MCsist için bir kaynağım var, ama orada nasıl türetildiğini tam olarak anlamıyorum. Yani, terimi nasıl türetilir? Teşekkür ederim!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer

Markov Zincirleri için "olağan" sonuç, Birkhoff Ergodik Teoremi'dir.

\frac{1}{n} Σ_{ben = 1}^{n} f (X_{ben}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

burada sabit dağılımdır ve karşılar ve yakınsama neredeyse . $\pi$ $f$ $E|f(X_1)|<\infty$

Ne yazık ki bu yakınsamadaki dalgalanmalar genellikle oldukça zordur. Bu, ne kadar hızlı toplam varyasyon sınırları bulmaktan ilişkin büyük bir güçlük esas olarak sabit dağıtım yakınsaması . Orada dalgalanmalar CLT benzer olan bilinen vakalar vardır ve bazı koşullar bulabilirsiniz sürüklenme benzetme tutun olun: Markov Zinciri Merkezi Limit Teoremi Açık - Galin L. Jones (Bkz Teoremi 1). $X_i$ $\pi$

Ayrıca aptal durumlar da vardır, örneğin iki durumlu bir zincir vardır, burada birinin emdiği (yani ve Bu durumda dalgalanma yoktur ve siz dejenere normal dağılıma yakınsama (sabit). $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— Alex R.
kaynak

Neredeyse kesin yakınsama istediğini sanmıyorum. Sanırım bazı CLT'lerin genel alanlara bir tür 'çevirisini' istiyor: muhtemelen sonlu durum uzay zincirlerinin özel bağlamında gerekli varsayımların ne anlama geldiğinin açıklaması

— Taylor

Teşekkürler. Normal, hoş, sonlu bir Markov zinciri sürüklenme koşulunu önemsiz bir şekilde karşılar mı? Sadece iki devletli bir zincir için bunu bilmek bile mutlu olurdu, ama bunu nasıl kanıtlayacağım çok açık değil.

— tom4everitt