Gibbs Sampling algoritması ayrıntılı dengeyi garanti ediyor mu?

Üst düzey yetki ^1'de Gibbs Sampling'in Markov Zinciri Monte Carlo örneklemesi için Metropolis-Hastings algoritmasının özel bir örneği olduğunu düşünüyorum. MH algoritması her zaman ayrıntılı denge özelliği ile bir geçiş olasılığı sağlar; Gibbs'ın da olmasını bekliyorum. Peki aşağıdaki basit durumda nerede yanlış yaptım?

İki ayrık (basitlik için) değişken üzerinde hedef dağılım $\pi(x, y)$ için, tam koşullu dağılımlar şunlardır:

$$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$$

Gibbs Örneklemesini anladığım gibi, geçiş olasılığı yazılabilir:

$$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$$

Soru şu: ancak alabileceğim en yakın π ( y 1 ,

$$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$$ $$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$$ That's subtly different, and does not imply detailed balance. Thanks for any thoughts!

Markov zincirinin bir geçişini, koşullu dağılımından sırayla her bir bileşeni örneklediğiniz 'Gibbs süpürmesi' olarak değerlendirerek elde edilen Markov zinciri için ayrıntılı bir denge göstermeye çalıştınız. Bu zincir için ayrıntılı denge sağlanmamaktadır. Buradaki nokta, belirli bir bileşenin koşullu dağıtımından her bir örneklemesinin ayrıntılı dengeyi sağlayan bir geçiş olmasıdır. Gibbs örneklemesinin, birden fazla farklı teklif arasında geçiş yaptığınız, biraz genelleştirilmiş bir Metropolis-Hastings'in özel bir örneği olduğunu söylemek daha doğru olur. Daha fazla detay takip eder.

Taramalar ayrıntılı dengeyi sağlamaz

$X_1,X_2$), with probabilities as shown in the following table:

$$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$$ Assume the Gibbs sweep is ordered so that $X_1$ is sampled first. Moving from state $(0,0)$ to state $(1,1)$ in one move is impossible, since it would require going from $(0,0)$ to $(1,0)$. However, moving from $(1,1)$ to $(0,0)$ has positive probability, namely $\frac{1}{4}$. Hence we conclude that detailed balance is not satisfied.

However, this chain still has a stationary distribution that is the correct one. Detailed balance is a sufficient, but not necessary, condition for converging to the target distribution.

The component-wise moves satisfy detailed balance

Consider a two-variate state where we sample the first variable from its conditional distribution. A move between $(x_1,x_2)$ and $(y_1,y_2)$ has zero probability in both directions if $x_2 \neq y_2$ and thus for these cases detailed balance clearly holds. Next, consider $x_2 = y_2$:

$$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$$

How the component-wise moves are Metropolis-Hastings moves?

Sampling from the first component, our proposal distribution is the conditional distribution. (For all other components, we propose the current values with probability $1$). Considering a move from $(x_1, x_2)$ to $(y_1, y_2)$, the ratio of target probabilities is

$$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$$ But the ratio of proposal probabilities is $$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$$ So, the ratio of target probabilities and the ratio of proposal probabilities are reciprocals, and thus the acceptance probability will be $1$. In this sense, each of the moves in the Gibbs sampler are special cases of Metropolis-Hastings moves. However, the overall algorithm viewed in this light is a slight generalization of the typically presented Metropolis-Hastings algorithm in that you have alternate between different proposal distributions (one for each component of the target variable).