Kalıntıları önyükleme: Doğru mu yapıyorum?

Her şeyden önce: Anladığım kadarıyla, bootstrapping kalıntıları aşağıdaki gibi çalışır:

1. Modeli verilere sığdır
2. Kalıntıları hesaplayın
3. Kalıntıları yeniden örnekleyin ve 1'e ekleyin.
4. Modeli 3'ten yeni veri kümesine sığdır.
5. nSüreleri tekrarlayın , ancak her zaman yeniden örneklenen kalıntıları 1'den uygunluğa ekleyin.

Bu şimdiye kadar doğru mu?

Ne yapmak istediğim biraz farklı bir şey:

Bazı çevresel değişkenleri tahmin eden bir algoritma için parametre ve tahmin belirsizliğini tahmin etmek istiyorum.

Sahip olduğum şey, sentetik bir veri kümesi oluşturmak için x_truebiraz gürültü eklediğim bu değişkenin hatasız bir zaman serisidir (bir simülasyondan) . Daha sonra objektif fonksiyon olarak algoritmamı karelerin toplamıyla (! Değil !) Sığdırıp en uygun parametreleri bulmaya çalışıyorum . Algoritmamın nasıl performans gösterdiğini görmek ve parametrelerimin dağılımlarından örnekler oluşturmak için yeniden örneklemek , eklemek , modelime tekrar sığdırmak, durulamak ve tekrarlamak istiyorum. Parametre belirsizliğini değerlendirmek için geçerli bir yaklaşım mı? Önyükleme veri kümelerinin uyumlarını tahmin belirsizliği olarak yorumlayabilir miyim, yoksa yukarıda gönderdiğim prosedürü izlemem gerekir mi?x_noisexsum((x_estimate - x_true)^2)x_estimate - xx_noisex_true

/ edit: Sanırım modelimin ne yaptığını netleştirmedim. Bunu esasen parazit giderici bir yöntem gibi düşünün. Öngörücü bir model değil, gürültülü bir zaman serisi çevresel verilerin temel sinyalini çıkarmaya çalışan bir algoritmadır.

/ edit ^ 2: MATLAB-Kullanıcılar için , ne demek istediğimin bazı hızlı ve kirli doğrusal regresyon örneğini yazdım.

Kalıntıların "sıradan" önyüklemesinin olduğuna inanıyorum (yanlışsam lütfen beni düzeltin): http://pastebin.com/C0CJp3d1

Yapmak istediğim bu: http://pastebin.com/mbapsz4c

Genel (yarı parametrik-bootstrap) algoritması daha ayrıntılı olarak verilmiştir:

$\text{B}$ = önyükleme sayısı

model:
$y = x\beta + \epsilon$

let kalıntılar olabilir$\hat{\epsilon}$

1. Regresyonu çalıştırın ve ve rezidüel tahmin edicilerini alın .$\hat\beta$$\hat\epsilon$
2. Kalıntıları değiştirerek yeniden örnekleyin ve önyüklemeli artık vektörü edinin .$\hat\epsilon_\text{B}$
3. Tahminciyi (1) 'den orijinal ve önyüklemeli ekleyerek önyükleme bağımlı değişkenini elde edin: .$y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$
4. Regresyonu bootstrapped bağımlı değişkenleri ve orijinal çalıştırın , bu bootstrapped tahmincisi verir, yani üzerinde gerilemesi , .$y_B$$x$$\hat\beta_\text{B}$
5. Tekrar prosedür (2) geri giderek -times.$\text{B}$

Anladığımın doğru olduğundan emin değilim. Ama işte benim kodunuzu ("artıkların sıradan önyüklemesi", satır 28-34) değiştirmek için önerim:

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

Fikir şu ki, ilk kullanımdan değil, önceki önyükleme uyumundan kalanları kullandığınızda. Bana gelince, diğerlerinin hepsi geçerli gibi görünüyor.

Bu, MATLAB'da kontrol edilen gözden geçirilmiş versiyondur. İki hata düzeltildi.

Bir algoritmanın tahmini doğruluk / ortalama kare hatası açısından nasıl performans gösterdiğini görmek için muhtemelen Efron-Gong "iyimserlik" önyüklemesine ihtiyacınız vardır. Bu, R rmspaketinde kolay kullanım için uygulanır . Fonksiyonlarını Bkz ols, validate.ols, calibrate.