Artımlı Gauss Süreci Regresyonu

Bir akış yoluyla tek tek gelen veri noktaları üzerinde kayan bir pencere kullanarak artımlı bir gauss işlemi regresyonu uygulamak istiyorum.

İzin Vermek $d$girdi uzayının boyutsallığını gösterir. Yani, her veri noktası$x_i$yer alır elemanların sayısı.$d$

sürgülü pencerenin boyutu olsun .$n$

Tahminler yapmak için, bir gram matris tersini hesaplamak için gereken , k karesi üstel çekirdek ve.$K$$K_{ij} = k(x_i, x_j)$

K'nin her yeni veri noktasında büyümesini önlemek için, yeni noktalar eklemeden önce en eski veri noktasını kaldırabileceğimi ve bu şekilde gramın büyümesini önlediğimi düşündüm. Örneğin, burada ağırlıkların kovaryansı ve , kareli üstel çekirdek tarafından ima edilen örtük eşleme işlevidir.$K = \phi(X)^{T}\Sigma\phi(X)$$\Sigma$$\phi$

Şimdi ] ve burada 'in vardır ile kolon matrisleri.$X=[x_{t-n+1}|x_{t-n+2}|...|x_{t}$$X_{new}=[x_{t-n+2}|...|x_{t}|x_{t+1}]$$x$$d$$1$

Potansiyel olarak kullanarak bulmak için etkili bir yol gerekir . Bu, Sherman-Morrison formülüyle etkili bir şekilde çözülebilen bir rütbe-1 güncellenmiş matris probleminin tersi gibi görünmüyor.$K_{new}^{-1}$$K$

Bunu yapmak için birkaç özyinelemeli algoritma olmuştur. Çekirdek özyinelemeli en küçük kareler (KRLS) algoritmasına ve ilgili çevrimiçi GP algoritmalarına bir göz atmalısınız.

• Van Vaerenbergh, S., Santamaria, I., Liu, W. ve Principe, JC (2010). Sabit bütçeli çekirdek özyinelemeli en küçük kareler . Akustik Konuşma ve Sinyal İşleme (ICASSP), 2010 IEEE Uluslararası Konferansı, sayfa 1882-1885. IEEE.
• Lazaro-Gredilla, M., Van Vaerenbergh, S. ve Santamaria, I. (2011). Çekirdek özyinelemeli en küçük karelerle izleme için Bayesci bir yaklaşım . Sinyal İşleme için Makine Öğrenimi (MLSP), 2011 IEEE Uluslararası Çalıştayı, sayfa 1-6. IEEE.
• Perez-Cruz, F., Van Vaerenbergh, S., Murillo-Fuentes, JJ, Lazaro-Gredilla, M. ve Santamaria, I. (2013). Doğrusal olmayan sinyal işleme için Gauss süreçleri: Son ilerlemelere genel bakış . IEEE Sinyal İşleme Dergisi, 30 (4): 40-50.

GP modellerinin aşamalı olarak tahmin edilmesi literatürde iyi çalışılmıştır. Temel fikir, tahmin etmek istediğiniz tüm yeni gözlemleri koşullandırmak, bir adım önde olacak şekilde koşullandırmak ve bunu tekrar tekrar yapmaktır. Bu bir şekilde kalman filtrelemeye yakın hale gelir.