Sandviç tahmincisi sezgisi

Vikipedi ve R sandviç paketi vinyeti , OLS katsayısı standart hatalarını destekleyen varsayımlar ve sandviç tahmincilerinin matematiksel arka planı hakkında iyi bilgi verir. Yine de, artık standart OLS katsayıları varyans tahminini tam olarak anlayamadığım için, artıkların heteroseladastisite sorununun nasıl ele alındığından emin değilim.

Sandviç tahmin edicisinin ardındaki sezgi nedir?

— Robert Kubrick
kaynak

tahmini (veya bazen ekonometride adlandırıldığı için ekstremum tahmini) hakkında daha fazla bilgi edinmeniz gerekir . Regresyon için sandviç tahmincisi, çok genel bir delta yöntemi formülünün özel bir örneğidir ve ikincisini anlarsanız, öncekiyle ilgili herhangi bir sorununuz olmaz. Sandviç tahmin edicisinin heteroskedastisiteyi modellemeye çalışmadığı veya bununla ilgili özel bir şey yapmadığı sezgi yoktur; standart OLS tahmincisinden daha genel bir varsayımlar dizisi altında çalışan farklı bir varyans tahmincisi.

M

$M$

— StasK

@StasK Teşekkürler! M-tahmini ve delta yöntemi formülleri hakkında iyi bir kaynak biliyor musunuz?

— Robert Kubrick

@Robert Huber'ın "Sağlam İstatistikler" monografisi görülmeye değer.

— Momo

OLS için, size koşullu varyans için bir tahmin olarak (bağımsızlık ve homoscedasticity varsayımı altında) artıkların tahmin varyansını kullandığınız tahmin edebilirsiniz s. Sandviç tabanlı tahmin edicide, gözlemlenen kare kalıntılarını, gözlemler arasında değişiklik gösterebilen aynı varyansın eklenti tahmini olarak kullanıyorsunuz. $Y_i$

var (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} diag (var (Y | X)) X) {(X^{T} X)}^{- 1}

$\begin{equation} \mbox{var}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(\mbox{var}\left(Y|X\right)\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

Regresyon katsayısı tahmini için normal en küçük kareler standart hata tahmininde, sonucun koşullu varyansı sabit ve bağımsız olarak ele alınır, böylece tutarlı bir şekilde tahmin edilebilir.

{\hat{var}}_{O L S} (\hat{β}) = {(X^{T} X)}^{- 1} (r^{2} X^{T} X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{OLS}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(r^2X^TX\right)\left(X^TX\right)^{-1} \end{equation}$

Sandviç için, koşullu varyansın tutarlı bir şekilde tahmin edilmesinden kaçınıyor ve bunun yerine, kare şeklindeki artık kullanılarak her bileşenin varyansının bir eklenti tahminini kullanıyoruz

{\hat{var}}_{R S E} (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} diag (r_{i}^{2}) X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{RSE}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(r_i^2\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

Eklentiyi varyans tahmini kullanarak, varyansı tutarlı tahminleri alabilir Lyapunov Merkezi Limit Teoremi tarafından. $\hat{\beta}$

Sezgisel olarak, gözlemlenen bu kare kalıntılar, sabit varyans varsayımı altında beklenmeyen heteroscedastisite nedeniyle açıklanamayan herhangi bir hatayı silecektir.

— Adamo
kaynak

Son paragrafınız kavramakta zorlanıyorum. Gösterebilir misiniz?

— Robert Kubrick

Formüllerinizde SE değil, AdamO, SE ^ 2 ... ne demek istediğiniz matris biçiminde.

— StasK

@StasK İyi bir nokta. Belki bir varyans şapkası daha iyidir. Çok değişkenli ve tek değişkenli terminolojiyi karıştırıyordum.

— AdamO

@RobertKubrick Son paragrafta, tahmincilerdeki temel farkın koşullu varyans terimini nasıl temsil ettiğimize dikkat çekiyorum

var (Y | X)

$\mbox{var}(Y|X)$

i

$i$

Düzenleme: Ben "artıkların varyans tutarlı tahmin" demek istediğimde, OLS var tahminleri "artıkların tutarlı tahminler" içerir dedi.

— AdamO