ARMA kullanarak durağan olmayan bir süreci modellemenin sonuçları?

Durağan olmayan bir zaman serisinin modellenmesinde ARIMA'yı kullanmamız gerektiğini anlıyorum. Ayrıca, okuduğum her şey ARMA'nın sadece durağan zaman serileri için kullanılması gerektiğini söylüyor.

Anlamaya çalıştığım şey, bir modeli yanlış sınıflandırırken ve d = 0durağan olmayan bir zaman serisini varsayırken pratikte ne olur ? Örneğin:

controlData <- arima.sim(list(order = c(1,1,1), ar = .5, ma = .5), n = 44)

Kontrol verileri şöyle görünür:

 [1]   0.0000000   0.1240838  -1.4544087  -3.1943094  -5.6205257
 [6]  -8.5636126 -10.1573548  -9.2822666 -10.0174493 -11.0105225
[11] -11.4726127 -13.8827001 -16.6040541 -19.1966633 -22.0543414
[16] -24.8542959 -25.2883155 -23.6519271 -21.8270981 -21.4351267
[21] -22.6155812 -21.9189036 -20.2064343 -18.2516852 -15.5822178
[26] -13.2248230 -13.4220158 -13.8823855 -14.6122867 -16.4143756
[31] -16.8726071 -15.8499558 -14.0805114 -11.4016515  -9.3330560
[36]  -7.5676563  -6.3691600  -6.8471371  -7.5982880  -8.9692152
[41] -10.6733419 -11.6865440 -12.2503202 -13.5314306 -13.4654890

Verileri bilmediğimi farz edersem ARIMA(1,1,1), bir bakabilirim pacf(controlData).

PACF (controlData)

Sonra verilerin sabit olup olmadığını görmek için Dickey-Fuller kullanıyorum:

require('tseries')
adf.test(controlData)

# Augmented Dickey-Fuller Test
#
# data:  controlData
# Dickey-Fuller = -2.4133, Lag order = 3, p-value = 0.4099
# alternative hypothesis: stationary

adf.test(controlData, k = 1)

# Augmented Dickey-Fuller Test
#
#data:  controlData
# Dickey-Fuller = -3.1469, Lag order = 1, p-value = 0.1188
# alternative hypothesis: stationary

Yani, ARIMA (2,0, *) Sonra kullanmak verileri kabul edebilirsiniz auto.arima(controlData)bir iyi uyumu yakalamak için denemek için?

require('forecast')
naiveFit <- auto.arima(controlData)
naiveFit
# Series: controlData 
# ARIMA(2,0,1) with non-zero mean 
# 
# Coefficients:
#          ar1      ar2     ma1  intercept
#      1.4985  -0.5637  0.6427   -11.8690
# s.e.  0.1508   0.1546  0.1912     3.2647
#
# sigma^2 estimated as 0.8936:  log likelihood=-64.01
# AIC=138.02   AICc=139.56   BIC=147.05

Bu nedenle, geçmiş ve gelecekteki veriler ARIMA (1,1,1) olmasına rağmen, bunu ARIMA (2,0,1) olarak sınıflandırmak için cazip gelebilirim. tsdata(auto.arima(controlData))çok iyi görünüyor.

Bilgili bir modelcinin bulabileceği şey:

informedFit <- arima(controlData, order = c(1,1,1))
# informedFit
# Series: controlData 
# ARIMA(1,1,1)                    
#
# Coefficients:
#          ar1     ma1
#       0.4936  0.6859
# s.e.  0.1564  0.1764
#
# sigma^2 estimated as 0.9571:  log likelihood=-62.22
# AIC=130.44   AICc=131.04   BIC=135.79

1) Bu bilgi kriteri neden seçilen modelden daha iyi auto.arima(controlData)?

Şimdi gerçek verileri ve 2 modeli grafiksel olarak karşılaştırıyorum:

plot(controlData)
lines(fitted(naiveFit), col = "red")
lines(fitted(informedFit), col = "blue")

tsPlots

2) Şeytanın savunuculuğunu oynamak, bir ARIMA'yı (2, 0, 1) model olarak kullanarak ne tür sonuçlar doğurabilirim? Bu hatanın riskleri nelerdir?

3) Çoğunlukla çok dönemli vadeli tahminlerin sonuçları hakkında endişeliyim. Sanırım daha az doğru olurlar mı? Sadece bazı kanıtları arıyorum.

4) Model seçimi için alternatif bir yöntem önerir misiniz? “Bilgi içermeyen” bir modelleyici olarak benim akıl yürütmemde herhangi bir sorun var mı?

Bu tür yanlış sınıflandırmaların diğer sonuçlarının ne olduğunu merak ediyorum. Bazı kaynaklar arıyordum ve hiçbir şey bulamadım. Bu konuyla ilgili bulabildiğim tüm literatür, sadece ARMA yapmadan önce verinin durağan olması gerektiğini ve durağan değilse, o zaman farklı zamanların farklı olması gerektiğini belirtiyor.

Teşekkürler!

r time-series arima stationarity

— Clark Henry
kaynak

Benim izlenimim, bunun kesitsel regresyondaki "ortogonal hatalar" varsayımına benzemesidir (yani standart hataları önyargılıdır, katsayıları değil), ama gerçekten gerçek cevabı duymakla ilgileniyorum.

— shadowtalker

Yanıtlar:

Benim izlenimim, bu sorunun benzersiz ve tamamen genel bir cevabı olmadığı, bu yüzden sadece en basit vakayı ve biraz gayrı resmi bir şekilde keşfedeceğim.

Gerçek Veri Üretme Mekanizmasının ile olağan sıfır-ortalama iid beyaz gürültü bileşeni, . Yukarıdakiler aynı zamanda

\begin{matrix} (1) & y_{t} = y_{t - 1} + u_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{1}$

u_{t}

$u_t$

E (u_{t}^{2}) = σ_{u}^{2}

$E(u_t^2)= \sigma^2_u$

\begin{matrix} (2) & y_{t} = \sum_{i = 1}^{t} u_{i} \end{matrix}

$y_t = \sum_{i=1}^tu_i \tag{2}$

Biz belirtmek bir model, bu modeli diyoruz $A$

\begin{matrix} (3) & y_{t} = β y_{t - 1} + u_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = \beta y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{3}$

ve biz bir tahmin elde öne için (en ihtiyaç duyulduğunda sadece bir tahmin yöntemi tartışalım). $\hat \beta$ $\beta$

Böylece bir -ileri-adım tahmini olacak $k$

\begin{matrix} (4) & {\hat{y}}_{T + k} = {\hat{β}}^{k} y_{T} \end{matrix}

$\hat y_{T+k} = \hat \beta^k y_T \tag{4}$

ve onun MSE olacak

M S E_{bir} [{\hat{y}}_{T + k}] = E {({\hat{β}}^{k} y_{T} - y_{T + k})}^{2}

$MSE_A[\hat y_{T+k}] = E\left(\hat \beta^k y_T-y_{T+k}\right)^2$

\begin{matrix} (5) & = E {[({\hat{β}}^{k} - 1) y_{T} - Σ_{ben = T + 1}^{T + k} u_{ben}]}^{2} = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$=E\left[(\hat \beta^k-1) y_T -\sum_{i=T+1}^{T+k}u_i \right]^2 = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

(karenin orta vadesi ve gelecekteki hataların çapraz ürünleri) ortadan kalkar.

Şimdi verilerimizi değiştirdiğimizi ve modelini belirttiğimizi varsayalım. $B$

\begin{matrix} (6) & Δ y_{t} = γ Δ y_{t - 1} + u_{t} \end{matrix}

$\Delta y_t = \gamma \Delta y_{t-1} + u_t \tag{6}$

ve bir tahmin . Farklı modelimiz yazılabilir $\hat \gamma$

\begin{matrix} (7) & y_{t} = y_{t - 1} + γ (y_{t - 1} - y_{t - 2}) + u_{t} \end{matrix}

$y_t = y_{t-1} + \gamma (y_{t-1}-y_{t-2}) + u_t \tag{7}$

yani sürecin seviyesini tahmin etmek

{\hat{y}}_{T + 1} = y_{T} + \hat{γ} (y_{T} - y_{T - 1})

$\hat y_{T+1} = y_{T} + \hat \gamma (y_{T}-y_{T-1})$

gerçekte, gerçek DGP verilen

\begin{matrix} (8) & {\hat{y}}_{T + 1} = y_{T} + \hat{γ} u_{T} \end{matrix}

$\hat y_{T+1} = y_{T} + \hat \gamma u_T \tag {8}$

Modelin, sonra doğrulamak kolaydır , $B$

{\hat{y}}_{T + k} = y_{T} + (\hat{γ} + {\hat{γ}}^{2} + . . . + {\hat{γ}}^{k}) u_{T}

$\hat y_{T+k} = y_{T} + \big(\hat \gamma + \hat \gamma^2+...+\hat \gamma^k)u_T$

Şimdi, herhangi bir "test edilmiş ve denenmiş" tahmin prosedürü verildiğinde , çok az veriye sahip olmamız veya çok "kötü" bir durumda olmamız haricinde , gerçek değeri olduğundan . Yani çoğu durumda sahip olacağımızı söyleyebiliriz. $|\hat \gamma|<1$ $0$

\begin{matrix} (9) & {\hat{y}}_{T + k} = y_{T} + \frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}} u_{T} \end{matrix}

$\hat y_{T+k} = y_{T} + \frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}u_T \tag{9}$

ve bu yüzden

\begin{matrix} (10) & M S E_{B} [{\hat{y}}_{T + k}] = E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} u_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$MSE_B[\hat y_{T+k}] = E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] + k\sigma^2_u \tag{10}$

rahatlık için tekrarlıyorum

\begin{matrix} (5) & M S E_{bir} [{\hat{y}}_{T + k}] = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$MSE_A[\hat y_{T+k} ] = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

Dolayısıyla, farklılaşan modelin MSE öngörüsü açısından daha iyi performans göstermesi için, istediğimiz

M S E_{B} [{\hat{y}}_{T + k}] \leq M S E_{bir} [{\hat{y}}_{T + k}]

$MSE_B[\hat y_{T+k}] \leq MSE_A[\hat y_{T+k}]$

\Rightarrow E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} u_{T}^{2}] \leq E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}]

$\Rightarrow E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[(\hat\beta^k-1)^2 y_T^2\big]$

modelindeki tahmin edicide olduğu gibi , aynı nezaketini modelindeki tahmin ediciye uzatıyoruz : makul bir şekilde "birliğe yakın" olacağını umuyoruz. $B$ $A$ $\hat \beta$

Eğer böyle olursa, ise, eşitsizliğin sağ tarafındaki miktarın, gibi bir sınırlama olmaksızın artma eğiliminde olacağı , ileriye yönelik adımların sayısının artacağı açıktır . Öte yandan, istenen eşitsizliğin sol tarafındaki miktar, arttıkça artabilir, ancak bir üst sınırı vardır . Bu nedenle, bu senaryoda, farklılaştırılmış modelinin MSE öngörüsü açısından modeline kıyasla daha iyi olmasını bekliyoruz . $\hat \beta >1$ $k$ $k$ $B$ $A$

Ancak , modeline göre daha avantajlı olduğunu varsayalım . Sonra sağ taraftaki miktarın da bir sınırı vardır. Sonra olarak incelememiz gerekip gerekmediğini incelememiz gerekir. $A$ $\hat \beta <1$ $k \rightarrow \infty$

E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2} u_{T}^{2}] \leq E [y_{T}^{2}] = T σ_{u}^{2} ? ?

$E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[y_T^2\big]= T\sigma^2_u\;\; ??$

( bir kolaylıktır - gerçekte her iki büyüklük de zaten küçük değerleri için supremalarına yakın olacaktır ). $k \rightarrow \infty$ $k$

Not bu terim "çok yakın" bağlı olduğu tahmin edilmektedir modeli, yani , bu açıdan bir avantajı vardır. $\left(\frac {\hat \gamma }{1-\hat \gamma}\right)^2$ $0$ $B$

Kalan beklenen değeri çünkü tahminci , bağımsız değildir . Ancak eşitsizliği şuna dönüştürebiliriz: $\hat \gamma$ $u_T$

Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, u_{T}^{2}] + E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}] \cdot σ_{u}^{2} \leq T σ_{u}^{2} ? ?

$\operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] + E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\cdot \sigma^2_u \leq T\sigma^2_u\;\; ??$

\Rightarrow Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, u_{T}^{2}] \leq (T - E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}]) \cdot σ_{u}^{2} ? ?

$\Rightarrow \operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] \leq \left (T-E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\right)\cdot \sigma^2_u \;\; ??$

Şimdi, sol taraftaki kovaryansın küçük olması beklenir, çünkü tahminci tüm hatalarına bağlıdır . Eşitsizliğin diğer tarafında, sabit bir veri kümesinden gelir ve bu nedenle yukarıdaki işlevin beklenen değerinin , örnek boyutundan çok daha düşük olması beklenir (çünkü bu işlev daha fazla değişecektir. içerisinde ). $\hat \gamma$ $T$ $\hat \gamma$ $(0,1)$

Sonuç olarak, belirli bir tahmin yöntemini tartışmadan, farklılaşan modelin MSE öngörüsü açısından daha iyi performans göstermesi beklendiğini gayrı resmi olarak gösterebildiğimize inanıyorum.

— Alecos Papadopoulos
kaynak

Bu iyi bir soru.

Farkında olduğum gibi, sadece pacf'i düşündün, ama bu yeterli değil. ACF ve PACF, en iyi modeli seçmek için hem de gereklidir.

Öte yandan, durağan testler zayıf ve hassastır ve test edilmek için çok fazla gecikmeye ihtiyaç vardır.

Ayrıca, herhangi bir modeli uygulamadan önce zaman serilerinin durağan hale getirilmesi tercih edilir. Kabaca konuşursak, ARIMA modelleri sadece durağan olmama özel bir durum düşünür (tercihen trendde).

Sorularınız hakkında, auto.arima işlevinden emin değilim, ancak örneğinizdeki veri noktalarının sayısının az olduğundan eminim. Çok sayıda veri noktası kullanarak modeli simüle etmek sorularınızı iyi cevaplar. Ayrıca, zaman serilerindeki ACF'yi ve PACF'yi düşünmenizi tavsiye ederim. Model seçimi hakkında temel kural en basit modeli seçmektir (zaman serisini durağan hale getirdikten sonra en basit modelin olduğuna dikkat edin).

Seni bu referansa havale ediyorum . Bu kitap tüm sorularınıza cevap vermiyor, ancak size bazı ipuçları veriyor.

----- tamamlayıcı bölüm ------- @nsw verilerinizdeki bir eğilimi göz önünde bulundurarak. Durağan bir model düşünürseniz, yukarı / aşağı doğru bir tahminle sonuçlanır, ancak aslında ARMA modelleri düz verileri tahmin etmek için tasarlanmıştır. Bu farkı yansıtacak şekilde kodunuzu değiştirdim:

( 'Tahmini') gerektirir

( 'Tseries') gerektirir

controlData <- arima.sim (liste (sipariş = c (1,1,1), ar = .5, ma = .5), n = 1000 )

ACF (controlData)

ts.plot (controlData)

naiveFit <- arima (controlData, order = c (2,0,1))

trueFit <- arima (controlData, order = c (1,1,1))

PrnaiveFit <-forecast.Arima (naiveFit, 10)

PrtrueFit <- tahmini.Arima (trueFit, 10)

matplot (cbind (PrnaiveFit $ ortalığı , PrtrueFit $ ortası ), type = 'b', col = c ('kırmızı', 'yeşil'), ylab = c ('iyonu tahmin et)', pch = c ('n', '' t))

— TPArrow
kaynak

Soru, neden “zaman serilerini sabit hale getirmenin” tercih edildiğini soruyor . Bu gerçekten bu soruya cevap vermiyor.

— shadowtalker

@ssdecontrol Genel olarak haklısınız. Yanlış tanımlama sonrasında yapılan tahminlerin ima edilen sonuçları hakkında gerçekten çok endişeliyim. Ama ben Hamed.HM'de çok fazla dövmek istemiyorum. "Bu bir model seçmek için doğru yol mu?" Ama sadece yinelemek için, buradaki endişemin en küçüğü.

— Clark Henry,