AR (1) katsayısının OLS tahmincisi neden taraflı?

OLS'un neden AR (1) sürecinin taraflı bir tahmincisi verdiğini anlamaya çalışıyorum. Düşünmek

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$ Bu modelde katı dışsallık ihlal edilmiştir, yani

y_{t}

$y_t$ ve

ϵ_{t}

$\epsilon_t$ korelasyonlu fakat

y_{t - 1}

$y_{t-1}$ ve

ϵ_{t}

$\epsilon_t$ ilintisiz. Ancak bu doğruysa, aşağıdaki basit türev neden geçerli değildir?

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

— Florestan
kaynak

Cross Validated'da birkaç ilgili soru var. Onları aramaktan faydalanabilirsiniz.

— Richard Hardy

Onları gördüm, ama bana gerçekten yardım etmediler. Bu sonucu gösteren bir kanıt ve simülasyonlar buldum. İlgilendiğim şey, yukarıdaki akıl yürütmemde yanlış olan şey.

— Florestan

Kullanırken

plim

$\text{plim}$ , önyargısızlıktan ziyade tutarlılığı ele almıyor musunuz? Önyargısızlık için beklentileri kullanmalısınız.

— Richard Hardy

Tamamen haklısın, bu bulmacayı çözebilir. Dolayısıyla, yukarıdaki denklem bir plim olmadan tutulmazsa, küçük numunelerde OLS'nin yanlılığıyla çelişmez ve OLS'nin tutarlılığını aynı anda göstermez. Biraz emin olmadığım halde: Varyans formülü üzerindeki bu kovaryans, sadece beklenti için değil, sadece plim için mi geçerli? Şimdiden çok teşekkürler!

— Florestan

OLS tahmincisinin kendisi herhangi bir şey içermez

plim

$\text{plim}$ s, sadece sınırlı örneklerde beklentilere bakmalısınız.

— Richard Hardy

Yanıtlar:

Esasen yorumlarda tartışıldığı gibi, tarafsızlık sonlu bir örnekleme özelliğidir ve eğer tutulursa şu şekilde ifade edilir:

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(beklenen değer sonlu örneklem dağılımının ilk anı olduğunda)

tutarlılık ise şu şekilde ifade edilen asimtotik bir özelliktir

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

OP, bu bağlamda OLS'nin önyargılı olmasına rağmen, hala tutarlı olduğunu göstermektedir.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Burada çelişki yok.

— Alecos Papadopoulos
kaynak

@Alecos, doğru bir plim ve tarafsızlığın neden aynı olmadığını güzelce açıklar. Tahmincinin tarafsız olmasının altında yatan nedene gelince, bir tahmincinin tarafsızlığının tüm hata terimlerinin tüm regresör değerlerinden bağımsız olmasını gerektirdiğini hatırlayın , $E(\epsilon|X)=0$ .

Mevcut durumda, regresör matrisi değerlerden oluşur $y_1,\ldots,y_{T-1}$ , böylece - mpiktas'ın yorumuna bakın - durum $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ hepsi için $s=2,\ldots,T$ .

Burada,

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Varsayım altında bile

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$ bizde var

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$ Fakat,

y_{t}

$y_t$ ain AR modelinde gelecekteki değerler için bir regresördür.

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$ .

— Christoph Hanck
kaynak

Eklerim ki

E (ε | X)

$E(\varepsilon | X)$ bu durumda

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$ her biri için

s

$s$ . Sonra daha fazla tartışma biraz daha netleşir.

— mpiktas

iyi bir noktaya, bir düzenleme yaptım

— Christoph Hanck

İki iyi cevabı genişletmek. OLS tahmincisini yazın:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Tarafsızlık için ihtiyacımız var

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Ama bunun için buna ihtiyacımız var $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ her biri için $t$ . AR (1) modeli için bu açıkça başarısız olur, çünkü $\varepsilon_t$ gelecekteki değerlerle ilgilidir $y_{t},y_{t+1},...,y_{T}$ .

— mpiktas
kaynak

Sadece doğru anladığımı kontrol etmek için: Sorun her bir t için pay değil

y_{t - 1}

$y_{t-1}$ ve

ϵ_{t}

$\epsilon_{t}$ ilintisiz. Sorun, pay ve payda arasında bir korelasyon olacak şekilde payın daha yüksek t 'lere sahip olan paydadır, böylece payın toplamı içinde beklentiyi alamam (sıkı dışsallık altında bunu yapabilir miyim ?!). Doğru matematik sezgisi bu mu?

— Florestan

Evet bu doğru bir sezgi. Bu durumda katı dışsallığın mümkün olmadığını, ancak tarafsızlık açısından sıkı dışsallığın bir gereklilik haline geldiğini unutmayın.

— mpiktas