Bayes bilgi kriterinde ayrık veya ikili parametrelerin muhasebeleştirilmesi

BIC, parametre sayısına göre cezalandırır. Parametrelerin bazıları bir tür ikili gösterge değişkenleri ise ne olur? Bunlar tam parametre olarak sayılıyor mu? Ancak ikili parametrelerini değerlerini alan tek bir değişkende birleştirebilirim . Bunlar parametresi veya bir parametre olarak mı sayılmalıdır ? $m$ $\{0,1,...,2^m-1\}$ $m$

— highBandWidth
kaynak

Kısmen BIC'deki "parametre sayısı" ndaki bu yanlışlık nedeniyle DIC ( sapma bilgisi kriteri ),

p_{D} (x) = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$ nerede

D (θ) = - 2 \log f (x | θ)

$D(\theta)=-2\log f(x|\theta)$ ve

DIC (x) = p_{D} (x) + E [D (θ) | x]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$ Bunu not et

p_{D} (x)

$p_D(x)$ veriye bağımlıdır. (Burada tartışıldığı gibi , DIC'nin de kendi sorunları var!)

— Xi'an
kaynak

Bu yüzden biraz kafam karıştı. BIC'nin

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$ MCMC simülasyonlarından hesaplanabilir. O zaman neden DIC'i hesaplayalım?

— highBandWidth

Evet, BIC, marjinal olasılığın bir tahminidir. Bununla birlikte, sadece örneklem büyüklüğü sonsuza kadar büyüdüğünde "gerçeğe" yaklaşan bir yaklaşımdır. Bu nedenle doğrudan Bayesian değildir (öncekini bir şey için kullanmaz!) Ve MCMC ile tamamen ilgisizdir (yaklaşık bir Monte Carlo tipindeyse: simülasyon sayısını arttırırsam, yaklaşım artar). DIC, birçok kişi tarafından Bayesian olarak kabul edilir (B. Carlin ve D. Spiegelhatler dahil)

— Xi'an

Sanırım sorum DIC de marjinal model olasılığının bir tahmini miydi? Sanırım bu konuyu kendim okumalıyım, ama tartıştığımızdan beri, bunun açıklanmasının cevabı daha eksiksiz hale getireceğini düşündüm. Teşekkürler!

— highBandWidth