Önyükleme filtresi / Parçacık filtresi algoritması (Anlama)

Bootstrap filtresinin nasıl çalıştığını gerçekten anlamıyorum. Kabaca kavramları biliyorum ama bazı detayları kavrayamıyorum. Bu soru benim için dağınıklığı gidermem. Burada doucet tarafından yapılan bir referanstan bu popüler filtre algoritmasını kullanacağım (şimdiye kadar bunun en kolay referans olduğunu düşünüyorum). Öncelikle size sorunumun hangi dağılımların bilindiğini ve hangilerinin bilinmediğini anlamak olduğunu söyleyeyim.

Bunlar benim sorularım:

1. 2) 'de dağılımı nedir? Bu dağılım biliniyor mu? Bu dağılımı tüm için biliyor muyuz ? Eğer öyleyse, ya ondan örnek alamazsak? Bu önemi örnekleme adımı olarak adlandırdıkları çok komik ama teklif dağıtımı görmüyorum.$p(x_t|x^{(i)}_{t-1})$$t$
2. Ayrıca 2 inç) bir bilinen dağıtım? "Önem Ağırlığını Normalleştirin, ? neyi üzerindeki tilde ve ortalama? o mu gibi ortalama bir şey un-resampled veya sırasıyla un-normalize?$p(y_t|\tilde{x}^{(i)}_{t})$$w^{(i)}_{t}=\frac{\tilde{w}^{(i)}_{t}}{\sum_{i=1}^{N}\tilde{w}^{(i)}_{t}}$$x$$w$
3. Herkes bu bootstrap filtreyi kullanmak için iyi bilinen dağıtımları kullanarak basit bir oyuncak örneği verebilir eğer takdir ediyorum. Önyükleme filtresinin son hedefi benim için net değil.

1. Bu, modelinizin bir parçası olan ve bu nedenle bilinen durumun ( ) geçiş yoğunluğudur . Temel algoritmada örneklemeniz gerekir, ancak tahminler mümkündür. olan , bu durumda teklifi dağılımı. Bu dağıtım için kullanılır genelde uysal değildir.$x_t$$p(x_t|x_{t-1})$ $p(x_t|x_{0:t-1},y_{1:t})$

2. Evet, bu da modelin bir parçası olan ve bu nedenle bilinen gözlem yoğunluğu. Evet, normalleşmenin anlamı budur. Tilde "ön" gibi bir şey belirtmek için kullanılır: ise yeniden örnekleme önce ve olduğu renormalize önce. Gösterimin, bir yeniden örnekleme adımı olmayan algoritmanın varyantları arasında eşleşmesi için bu şekilde yapıldığını tahmin ediyorum (yani her zaman nihai tahmindir).$\tilde{x}$$x$$\tilde{w}$$w$$x$

3. Önyükleme filtrenin nihai amacı koşullu dağılımlar dizisini tahmin etmektir (en gözlenemeyen halde kadar tüm gözlemler verilen, ).$p(x_t|y_{1:t})$$t$$t$

Basit modeli düşünün:

Bu, gürültü ile gözlemlenen rastgele bir yürüyüştür ( değil, sadece gözlemlersiniz ). Sen hesaplayabilir Kalman filtresi ile tam olarak, ama biz isteğiniz üzerine önyükleme filtresi kullanacağız. Modeli, partikül filtresi için daha yararlı olan durum geçiş dağılımı, ilk durum dağılımı ve gözlem dağılımı (bu sırayla) açısından yeniden ifade edebiliriz:$Y$$X$$p(X_t|Y_1, ..., Y_t)$

Algoritmayı uygulama:

1. Başlatma. Biz oluşturmak göre (bağımsız) parçacıkları .$N$$X_0^{(i)} \sim N(0,1)$

2. Her bir parçacığı üreterek bağımsız olarak ileriye doğru simüle ediyoruzHer bir için .$X_1^{(i)} | X_0^{(i)} \sim N(X_0^{(i)},1)$$N$

   Bu o zaman, uygunluk hesaplamak , burada olduğu ortalama ve varyans ile normal yoğunluk (gözlem yoğunluğumuz). gözlemini üretme olasılığı daha yüksek olan parçacıklara daha fazla ağırlık vermek istiyoruz . Bu ağırlıkları normalleştiriyoruz, böylece toplamları 1.$\tilde{w}_t^{(i)} = \phi(y_t; x_t^{(i)},1)$$\phi(x; \mu, \sigma^2)$$\mu$$\sigma^2$$y_t$

3. Partikülleri bu ağırlıklara göre yeniden . Bir parçacığın tam bir yolu olduğuna dikkat edin (yani yalnızca son noktayı yeniden örneklemeyin, olarak ifade ettikleri her şey ).$w_t$$x$$x_{0:t}^{(i)}$

Tüm seriyi işleyene kadar parçacıkların yeniden örneklenmiş versiyonu ile ilerleyerek 2. adıma geri dönün.

R'deki bir uygulama şu şekildedir:

# Simulate some fake data
set.seed(123)

tau <- 100
x <- cumsum(rnorm(tau))
y <- x + rnorm(tau)

# Begin particle filter
N <- 1000
x.pf <- matrix(rep(NA,(tau+1)*N),nrow=tau+1)

# 1. Initialize
x.pf[1, ] <- rnorm(N)
m <- rep(NA,tau)
for (t in 2:(tau+1)) {
  # 2. Importance sampling step
  x.pf[t, ] <- x.pf[t-1,] + rnorm(N)

  #Likelihood
  w.tilde <- dnorm(y[t-1], mean=x.pf[t, ])

  #Normalize
  w <- w.tilde/sum(w.tilde)

  # NOTE: This step isn't part of your description of the algorithm, but I'm going to compute the mean
  # of the particle distribution here to compare with the Kalman filter later. Note that this is done BEFORE resampling
  m[t-1] <- sum(w*x.pf[t,])

  # 3. Resampling step
  s <- sample(1:N, size=N, replace=TRUE, prob=w)

  # Note: resample WHOLE path, not just x.pf[t, ]
  x.pf <- x.pf[, s]
}

plot(x)
lines(m,col="red")

# Let's do the Kalman filter to compare
library(dlm)
lines(dropFirst(dlmFilter(y, dlmModPoly(order=1))$m), col="blue")

legend("topleft", legend = c("Actual x", "Particle filter (mean)", "Kalman filter"), col=c("black","red","blue"), lwd=1)

Ortaya çıkan grafik:

Yararlı bir öğretici Doucet ve Johansen tarafından verilen öğreticidir, buraya bakın .