«metropolis-hastings» etiketlenmiş sorular

MCMC yöntemlerini öğrenmeye çalıştım ve Metropolis Hastings, Gibbs, Önem ve Reddetme örneklemesine rastladım. Bu farklılıkların bazıları açık olmasına rağmen, yani, tam şartlara sahip olduğumuzda Gibbs'in Metropolis Hastings'in ne kadar özel bir durum olduğu açık olsa da, diğerleri Gibbs örnekleyicisinde MH kullanmak istediğimizde olduğu gibi, daha az belirgindir. Bunların her biri …

36 mcmc  monte-carlo  gibbs  metropolis-hastings  importance-sampling 

Bazı problemler için bir Monte Carlo simülasyonu kodlarken ve model yeterince basit olduğunda, Gibbs örneklemesi için çok basit bir ders kitabı kullanıyorum. Gibbs örneklemesini kullanmak mümkün olmadığında, yıllar önce öğrendiğim Metropolis-Hastings ders kitabını kodlarım. Ona verdiğim tek düşünce atlama dağılımını veya parametrelerini seçmek. Bu ders kitabı seçeneklerinde gelişen yüzlerce yüzlerce …

21 bayesian  mcmc  gibbs  metropolis-hastings 

Uyarlanabilir MCMC hakkında okuyorum (bakınız örneğin Markov Zinciri El Kitabı El Kitabı Bölüm 4 , ed. Brooks ve ark., 2011; ve ayrıca Andrieu & Thoms, 2008 ). nnnp ( n )p(n)p(n)limn → ∞p ( n ) = 0limn→∞p(n)=0\lim_{n \rightarrow \infty} p(n) = 0 Bu sonuç asemptotik olarak (posteriori) sezgiseldir. Adaptasyon …

20 simulation  mcmc  random-generation  metropolis-hastings 

Gibbs örnekleme ve Metropolis Hastings algoritması hakkında biraz okuma yapıyorum ve birkaç sorum var. Anladığım kadarıyla, Gibbs örneklemesi durumunda, büyük bir çok değişkenli problemimiz varsa, koşullu dağıtımdan örnek alıyoruz, yani bir değişkeni örneklerken, diğerlerini sabit tutarken MH'de tam eklem dağılımından örnek alıyoruz. Belgenin söylediği bir şey, önerilen örneğin Gibbs Sampling'de …

20 bayesian  sampling  mcmc  gibbs  metropolis-hastings 

Bugün Christian Robert'ın Blogunu okuyordum ve tartıştığı yeni Metropolis-Hastings algoritmasını çok beğendim. Uygulaması basit ve kolay görünüyordu. MCMC'yi her kodladığımda, günlük hareketlerinde bağımsız hareketler veya rastgele yürüyüşler gibi çok temel MH algoritmalarına bağlı kalmaya eğilimliyim. İnsanlar rutin olarak hangi MH algoritmalarını kullanıyor? Özellikle: Onları neden kullanıyorsun? Bir anlamda optimal olduklarını …

20 mcmc  metropolis-hastings 

Farklı MCMC algoritmaları vardır: Metropolis-Hastings Gibbs Önem / ret örneklemesi (ilgili). Metropolis-Hastings yerine neden Gibbs örneklemesi kullanılır? Şüpheliyim, Gibbs örneklemesinde Metropolis-Hastings'e göre çıkarımın daha izlenebilir olduğu durumlar var, ancak ayrıntılarda net değilim.

20 bayesian  simulation  mcmc  gibbs  metropolis-hastings 

entegre etmek istediğim bir fonksiyonum olduğunu varsayın Tabii ki 'nin uç noktalarda sıfıra gittiğini varsayarsak , patlama olmaz, güzel işlev. I ile ilgilenmek oldum bir yolu örnekleri bir listesini oluşturmak için Metropolis- Hastings yapısı kullanmaktır dağılımından orantılı için normalleştirme sabit eksik, N = \ int _ {- \ infty} ^ …

16 simulation  monte-carlo  metropolis-hastings  numerical-integration 

Buradan indirilebilen Stan belgelerini inceliyordum . Özellikle Gelman-Rubin teşhisini uygulamalarıyla ilgileniyordum. Orijinal Gelman ve Rubin kağıdı (1992) potansiyel ölçek azaltma faktörünü (PSRF) aşağıdaki gibi tanımlar: Let Xi,1,…,Xi,NXi,1,…,Xi,NX_{i,1}, \dots , X_{i,N} olduğu iii örneklenmiş inci Markov zinciri, ve genel olarak söz konusu olsun MMM örneklenmiş bağımsız zincirleri. Let X¯i⋅X¯i⋅\bar{X}_{i\cdot} ortalama olarak …

16 mcmc  convergence  gibbs  metropolis-hastings  stan 

Son birkaç haftadır MCMC'yi ve Metropolis-Hastings algoritmalarını anlamaya çalışıyorum. Ne zaman anlasam yanlış olduğumu anlıyorum. On-line bulmak kod örnekleri çoğu açıklama ile tutarlı olmayan bir şey uygulamak. yani: Metropolis-Hastings'i uyguladıklarını söylüyorlar ama aslında rastgele yürüyüş metropolü uyguluyorlar. Diğerleri (neredeyse her zaman), Simetrik bir teklif dağıtımı kullandıkları için Hastings düzeltme oranının …

15 mcmc  metropolis-hastings 

Simetrik öneri ile rastgele yürüyüş Metropolis-Hasitings q( x | y) = g( | y- x | )q(x|y)=g(|y−x|)q(x|y)= g(|y-x|) , kabul olasılığının P( a c c e p t y ) = dk { 1 , f( y) / f( x ) }P(accept y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} g (\ cdot) …

14 mcmc  metropolis-hastings 

Bir modelin parametrelerini tahmin etmek için bir kod yazmak için Metropolis-Hastings algoritmasını anlamaya çalışıyorum (yani f(x)=a∗xf(x)=a∗xf(x)=a*x ). Kaynakçaya göre Metropolis-Hastings algoritması aşağıdaki adımlara sahiptir: Y t ∼ q ( y | x t ) üretYt∼q(y|xt)Yt∼q(y|xt)Y_t \sim q(y|x^t) Xt+1={Yt,xt,with probabilityρ(xt,Yt),with probability1−ρ(xt,Yt),Xt+1={Yt,with probabilityρ(xt,Yt),xt,with probability1−ρ(xt,Yt),X^{t+1}=\begin{cases} Y^t, & \text{with probability} \quad \rho(x^t,Y_t), \\ x^t, …

14 mcmc  metropolis-hastings 

Son birkaç gündür Markov Zinciri Monte Carlo'nun (MCMC) nasıl çalıştığını anlamaya çalışıyorum. Özellikle Metropolis-Hastings algoritmasını anlamaya ve uygulamaya çalışıyorum. Şimdiye kadar algoritma hakkında genel bir anlayışa sahip olduğumu düşünüyorum ama henüz net olmayan birkaç şey var. Bazı modelleri verilere uydurmak için MCMC kullanmak istiyorum. Bu nedenle, gözlemlenen bazı veriler düz …

13 mcmc  metropolis-hastings 

3 parametreli bir fonksiyonun integralini değerlendirmek için bir simülasyon yapmam gerekiyor, fffçok karmaşık bir formüle sahiptir. Hesaplamak için MCMC yöntemini kullanması ve Metropolis-Hastings algoritmasını şu şekilde dağıtılmış değerleri üretmek için kullanması istenir:fffve teklif dağılımı olarak 3 değişkenli normal kullanılması önerildi. Bununla ilgili bazı örnekleri okuduktan sonra, bazılarının sabit parametrelerle normal …

13 mcmc  metropolis-hastings 

mgcvİçin paket Rtensör ürün etkileşimleri uydurma için iki işlevi vardır: te()ve ti(). İkisi arasındaki temel işbölümünü anlıyorum (doğrusal olmayan bir etkileşime uymak ve bu etkileşimi ana etkilere ve etkileşime ayırmak). Anlamadığım şey neden te(x1, x2)ve ti(x1) + ti(x2) + ti(x1, x2)(biraz) farklı sonuçlar üretebilir. MWE (uyarlanmıştır ?ti): require(mgcv) test1 <- …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

Aşağıdaki simülasyon sorun geldi: verilen bir dizi bilinen gerçek sayılar, bir dağıtım ile tanımlanır burada , pozitif kısmını belirtir . Bu dağılımı hedefleyen bir Metropolis-Hastings örnekleyicisini düşünürken, algoritmanın sırasını den ya düşürmek için çok sayıda sıfır olasılıktan yararlanarak verimli bir doğrudan örnekleyici olup olmadığını merak ediyorum. .{ω1,…,ωd}{ω1,…,ωd}\{\omega_1,\ldots,\omega_d\}{−1,1}d{−1,1}d\{-1,1\}^dP(X=(x1,…,xd))∝(x1ω1+…+xdωd)+P(X=(x1,…,xd))∝(x1ω1+…+xdωd)+\mathbb{P}(X=(x_1,\ldots,x_d))\propto (x_1\omega_1+\ldots+x_d\omega_d)_+(z)+(z)+(z)_+zzzO(2d)O(2d)O(2^d)O(d)O(d)O(d)

9 simulation  algorithms  random-generation  computational-statistics  metropolis-hastings