Markov zinciri ile Markov zinciri monte carlo arasındaki bağlantı nedir

15

SAS kullanarak Markov zincirlerini anlamaya çalışıyorum. Bir Markov sürecinin, gelecekteki durumun sadece geçmiş duruma değil, yalnızca geçmiş duruma bağlı olduğu ve bir durumdan diğerine geçiş olasılığını yakalayan bir geçiş matrisi olduğunu anlıyorum.

Ama sonra bu terimle karşılaştım: Markov Zinciri Monte Carlo. Bilmek istediğim, Markov Zinciri Monte Carlo'nun yukarıda tarif ettiğim Markov süreci ile ilgili olup olmadığı?

— galip
kaynak

9

Evet, iki terim arasında bir ilişki var çünkü MCMC'den çekimler bir Markov zinciri oluşturuyor. Gelman'dan, Bayesci Veri Analizi (3. baskı), s. 265:

Markov zincir simülasyonu ( Markov zinciri Monte Carlo veya MCMC olarak da adlandırılır ), uygun dağılımlardan değerlerini çizmeye ve daha sonra hedef posterior dağılımı, daha iyi tahmin etmek için bu çizimleri düzeltmeye dayanan genel bir yöntemdir . Örnekleme, çizilen son değere bağlı olarak örneklenen çekimlerin dağılımı ile sırayla yapılır; dolayısıyla, çekmeler bir Markov zinciri oluşturur. $\theta$ $p(\theta|y)$

— Sycorax: Monica'yı eski durumuna getirdi
kaynak

Umm tamam, ama neden bir markov süreci oluşturan rastgele örnekler çizmem gerekiyor, normal, bernoulli, bulundurma vb.Gibi birçok başka süreç var

— Victor

2

@Victor Bence MCMC kullanım durumunu gözden kaçırdınız . Posterior dağılımın analitik bir formu olmadığında MCMC'yi Bayesci istatistiklerde kullanıyoruz.

— Sycorax, Reinstate Monica'ya

3

+1 Bayesci istatistikler belki de MCMC'nin (hedef dağılımın ortak posterior olduğu) en belirgin uygulamasıdır, ancak mümkün olan tek şey değildir.

— Glen_b-Monica

18

Her iki kavram arasındaki bağlantı, Markov zinciri Monte Carlo (diğer adıyla MCMC) yöntemlerinin karmaşık hedef dağıtımdan simülasyonlar ve Monte Carlo yaklaşımları üretmek için Markov zinciri teorisine . $\pi$

$X_1,\ldots,X_N$ $X_i$ $\{X_{i-1},\ldots,X_1\}$ $X_{i-1}$

X_{i} = f (X_{i - 1}, ϵ_{i})

$X_i=f(X_{i-1},\epsilon_i)$

f

$f$

π

$\pi$

ϵ_{i}

$\epsilon_i$

X_{i}

$X_i$

π

$\pi$

i

$i$

\infty

$\infty$

Bir MCMC algoritmasının en kolay örneği dilim örnekleyicisidir : bu algoritmanın yinelemesinde,

$\epsilon^1_i\sim\mathrm{U}(0,1)$

$X_{i}\sim\mathrm{U}(\{x;\pi(x)\ge\epsilon^1_i\pi(X_{i-1})\})$ $\epsilon^2_i$

$\mathrm{N}(0,1)$

$\epsilon^1_i\sim\mathrm{U}(0,1)$

$X_{i}\sim\mathrm{U}(\{x;x^2\le-2\log(\sqrt{2\pi}\epsilon^1_i\})$ $X_i=\pm \epsilon_i^2\{-2\log(\sqrt{2\pi}\epsilon^1_i)\varphi(X_{i-1})\}^{1/2}$ $\epsilon_i^2\sim\mathrm{U}(0,1)$

veya R cinsinden

T=1e4
x=y=runif(T) #random initial value
for (t in 2:T){
  epsilon=runif(2)#uniform white noise 
  y[t]=epsilon[1]*dnorm(x[t-1])#vertical move       
  x[t]=sample(c(-1,1),1)*epsilon[2]*sqrt(-2*#Markov move from
        log(sqrt(2*pi)*y[t]))}#x[t-1] to x[t]

$\mathrm{N}(0,1)$ $(X_i)$

Ve burada Markov zincirinin evrimi, $(X_i,\epsilon^1_i\pi(X_i))$

curve(dnorm,-3,3,lwd=2,col="sienna",ylab="")
for (t in (T-100):T){
lines(rep(x[t-1],2),c(y[t-1],y[t]),col="steelblue");
lines(x[(t-1):t],rep(y[t],2),col="steelblue")}

hedef yoğunluk eğrisinin altında Markov zincirinin dikey ve yatay hareketlerini takip eder.

— Xi'an
kaynak