James-Stein kestiricisine neden “büzülme” kestiricisi deniyor?

James-Stein tahmincisi hakkında okuyordum. Bu yer, tanımlanan notları gibi

\hat{θ} = (1 - \frac{p - 2}{‖ X ‖^{2}}) X

$\hat{\theta}=\left(1 - \frac{p-2}{\|X\|^2}\right)X$

Kanıtı okudum ama şu ifadeyi anlamıyorum:

Geometrik olarak, James-Stein tahmincisi her bir bileşenini $X$ başlangıç noktasına doğru daraltır ...

" her bileşenini $X$ başlangıç noktasına doğru daraltır " tam olarak ne anlama geliyor? Ben gibi şeyler düşünüyordum

‖ \hat{θ} - 0 ‖^{2} < ‖ X - 0 ‖^{2},

$\|\hat{\theta} - 0\|^2 < \|X - 0\|^2,$ uzun olduğu kadar bu durumda doğrudur

(p + 2) < ‖ X ‖^{2}

$(p+2) < \|X\|^2$ ,

‖ \hat{θ} ‖ = \frac{‖ X ‖^{2} - (p + 2)}{‖ X ‖^{2}} ‖ X ‖ .

$\|\hat{\theta}\| = \frac{\|X\|^2 - (p+2)}{\|X\|^2} \|X\|.$

$L^2$ normunda JS tahmincisi sıfıra daha yakın olduğu için, insanlar "sıfıra doğru küçült" derken kastettiği bu $X$ mu?

22/09/2017 itibariyle güncelleme : Bugün belki de aşırı karmaşık olduğumu fark ettim. İnsanlar gerçekten $X$ küçük bir şeyle çarptığınız anlamına gelir , yani , her bileşeni eskisinden daha küçük olacaktır. $1$ $\frac{\|X\|^2 - (p + 2)}{\|X\|^2}$ $X$

— 3x89g2
kaynak

Bir resim bazen bin kelimeye bedeldir, bu yüzden bir tanesini sizinle paylaşmama izin verin. Aşağıda Bradley Efron'un (1977) gazetesinin Stein'ın paradoksundan gelen bir çizimi görebilirsiniz . Gördüğünüz gibi, Stein'ın tahmincisinin yaptığı her bir değeri genel ortalamaya yaklaştırmaktır. Değerleri genel ortalamadan daha küçük, genel ortalamadan daha küçük değerleri daha büyük yapar. Büzülme ile , değerleri ortalamaya doğru veya bazı durumlarda parametreleri düzenli olarak küçülten sıfıra doğru hareket ettirmeyi kastediyoruz .

Tabii ki, sadece kendini küçültmekle ilgili değil, Stein (1956) ve James ve Stein (1961) 'in kanıtladığı şey, Stein'ın tahmincisinin toplam kare hatası açısından maksimum olabilirlik tahmincisine egemen olması,

E_{μ} (‖ {\hat{μ}}^{J S} - μ ‖^{2}) < E_{μ} (‖ {\hat{μ}}^{M L E} - μ ‖^{2})

$E_\mu(\| \boldsymbol{\hat\mu}^{JS} - \boldsymbol{\mu} \|^2) < E_\mu(\| \boldsymbol{\hat\mu}^{MLE} - \boldsymbol{\mu} \|^2)$

burada , Stein'ın tahmincisidir ve ; her iki tahminci de örneğinde tahmin edilir . Kanıtlar orijinal belgelerde ve atıfta bulunduğunuz makalenin ekinde verilmiştir. Düz İngilizce'de, gösterdikleri şey, aynı anda tahminleri yaparsanız, toplam kare hatası açısından, ilk tahminlerinize sadık kalmayla karşılaştırıldığında onları daraltarak daha iyi yapacağınızdır. $\boldsymbol{\mu} = (\mu_1,\mu_2,\dots,\mu_p)'$ $\hat\mu^{JS}_i$ $\hat\mu^{MLE}_i = x_i$ $x_1,x_2,\dots,x_p$ $p > 2$

Son olarak, Stein'ın tahmincisi kesinlikle büzülme etkisi veren tek tahminci değildir. Diğer örnekler için kontrol edebilirsiniz Bu blog girişi veya sevk Bayes veri analizi Gelman ve arkadaşları tarafından kitap. Düzenli regresyon hakkındaki konuları da kontrol edebilirsiniz, örn. Büzülme yöntemleri hangi problemi çözer? , veya Regresyon için regülasyon yöntemleri ne zaman kullanılır? , bu etkinin diğer pratik uygulamaları için.

— Tim
kaynak

Makale yararlı görünüyor ve ben okuyacağım. Düşüncelerimi daha fazla açıklamak için sorumu güncelledim. Bir bakabilir misin? Teşekkürler!

— 3x89g2

@Tim Bence Misakov argümanı, James-Stein tahmincisinin tahmincisini MLE'den sıfıra yaklaştırdığı için meşru . Sıfır bu tahmin edicide merkezi ve merkezî bir rol oynar ve diğer merkezlere ve hatta alt uzaylara daralan James-Stein tahmin edicileri inşa edilebilir (George, 1986'da olduğu gibi). Örneğin, Efron ve Morris (1973), diyagonal altuzaya denk gelen ortak ortalamaya doğru küçülürler.

θ

$\theta$

— Xi'an