Bootstrapping vs Bayesian Bootstrapping kavramsal olarak?

Bayesian Bootstrapping işleminin ne olduğunu ve bunun normal bootstrapping işleminizden ne şekilde farklı olacağını anlamada sorun yaşıyorum. Ve eğer biri sezgisel / kavramsal bir inceleme ve ikisinin karşılaştırmasını sunabilirse, bu harika olurdu.

Bir örnek alalım.

Diyelim ki [1,2,5,7,3] bir veri kümemiz var.

X boyutuna eşit numune boyutları oluşturmak için birçok kez değiştirmeyle numune alırsak (yani, [7,7,2,5,7], [3,5,2,2,7], vb.) her birinin araçlarını hesaplayın, örnek ortalamasının önyükleme dağılımı mı?

Bunun bayesyen önyükleme dağılımı ne olurdu?

Ve diğer parametrelerin (varyans, vs.) bayesyen önyükleme dağılımı aynı şekilde nasıl yapılır?

(Sık) önyükleme, verileri bilinmeyen popülasyon dağılımına makul bir yaklaşım olarak alır. Bu nedenle, bir istatistiğin örnekleme dağılımı (verilerin bir işlevi), gözlemleri tekrar tekrar örnekleyerek ve her bir örnek için istatistiği hesaplayarak yaklaştırılabilir.

Let orijinal veri belirtmektedir. (Örnek olarak verilen, n = 5 ). Let y b = ( y b 1 , ... , Y B , n ) anlamında olabildikleri, bir ön yükleme örneği. Böyle bir örnek muhtemelen bir veya daha fazla kez tekrarlanan bazı gözlemlere sahip olacak ve diğer gözlemler bulunmayacaktır. Önyükleme örneğinin ortalaması m b = 1 ile verilmiştir.$y = (y_1,\ldots,y_n)$$n=5$$y^b = (y_1^b, \ldots, y_n^b)$Bu dağılımımbbilinmeyen nüfustan örnekleme dağılımın yaklaşık kullanılır önyükleme tekrarlamalı bir dizi bitti.

$$m_b = \frac{1}{n} \sum_{i=1}^n y_i^b.$$ $m_b$

Frequentist bootstrap ve Bayes bootstrap arasındaki bağlantıyı anlamak için, hesaplamak için nasıl görmek öğreticidir farklı bir bakış açısıyla.$m_b$

Her bir önyükleme örnek olarak , her bir gözlem y ı herhangi bir yerde, 0 ila oluşur , n kere. Let h b ı sayısını ifade y ı meydana y b ve izin h b = ( h b 1 , ... , h B n ) . Böylece h b $y^b$$y_i$$n$$h_i^b$$y_i$$y^b$$h^b = (h_1^b, \ldots, h_n^b)$$h_i^b \in \{0, 1, \ldots, n-1,n\}$ve . H b göz önüne alındığında , toplamı negatif olan bir ağırlıklar topluluğu oluşturabiliriz : w b = h b / n , burada w b i = h b i / n . Bu notasyon ile bootstrap örneğinin ortalamasını m b = n ∑ i = 1 w b $\sum_{i=1}^n h_i^b = n$$h^b$$w^b = h^b/n$$w_i^b = h_i^b/n$

$$m_b = \sum_{i=1}^n w_i^b\, y_i.$$

Bir önyükleme örneği için gözlemlerin seçilme şekli, için eklem dağılımını belirler . Özellikle, h b böylece çokterimli dağılımına sahiptir ve ( $w^b$$h^b$Bu nedenle, hesaplayabilir m b çizerek ağırlık b dağıtımından kaynaklanan ile nokta ürünün işlem y . Bu yeni bakış açısına göre,ağırlıklar değişkenkengözlemlerinsabitkaldığı anlaşılmaktadır.

$$(n\,w^b) \sim \textsf{Multinomial}(n,(1/n)_{i=1}^n).$$ $m_b$$w^b$$y$

Bayesian çıkarımında, gözlemler gerçekten de sabit olarak alınmaktadır, bu nedenle bu yeni bakış açısı Bayesian yaklaşımına uygun gözükmektedir. Gerçekten de, Bayesian açılış bandına göre ortalamanın hesaplanması sadece ağırlıkların dağılımında farklılık gösterir. (Bununla birlikte, kavramsal bir bakış açısından Bayes önyükleme frequentist versiyondan oldukça farklıdır.) Verileri sabitlenir ve ağırlıklar ağırlık bilinmeyen parametrelerdir. Bilinmeyen parametrelere dayanan verilerin işlevselliği ile ilgilenebiliriz : $y$$w$

$$\mu = \sum_{i=1}^n w_i\, y_i.$$

Burada, Bayesian açılış bandının arkasındaki modelin bir küçük resmi: Gözlemler için örnekleme dağılımı multinomiyal ve ağırlıklar için bir önceki ise simpleksin köşelerine tüm ağırlığını koyan sınırlayıcı bir Dirichlet dağılımıdır. (Bazı yazarlar bu modeli multinomyal olabilirlik modeli olarak adlandırmaktadır .)

Bu model, ağırlıklar için aşağıdaki arka dağılımı üretir:

$$w \sim \textsf{Dirichlet}(1,\ldots,1).$$

$\mu$$w$$y$

Biz çerçevesini kabul edebilir hesaplama denklemini

$$\sum_{i=1}^n w_i\, g(y_i,\theta) = \underline 0,$$ $g(y_i,\theta)$$\theta$$\underline 0$$\theta$$y$$w$$w$ampirik olabilirlik ve genelleştirilmiş moment metodu (GMM).)

$$\sum_{i=1}^n w_i\,(y_i - \mu) = 0.$$ $\theta = (\mu,v)$ $$g(y_i,\theta) = \begin{pmatrix} y_i - \mu \\ (y_i - \mu)^2 - v \end{pmatrix}.$$