Modelo autorregresivo de media móbil

En estatística, modelos autorregresivos de media móbil (AutoRegressive Moving Average models, ARMA en inglés), as veces chamados modelos Box-Jenkins por George Box e F. M. Jenkins, son tipicamente aplicados a series temporais de datos.

Dada unha serie temporal de datos X_t, entón, o modelo ARMA é unha ferramenta para entender e, ó millor, predicir futuros valores da serie. O modelo está formado por duas partes, unha parte autoregresiva (AR) e outra de media móbil (MA). O modelo é normalmente referenciado como un modelo ARMA(p,q), onde p é a orde da parte autoregresiva, e q é a orde da parte de media móvil.

Modelo autorregresivo

A notación AR(p) refírese a un modelo autorregresivo de orde p. Un modelo AR(p) pode escribirse como

$X_{t}=c+\sum _{i=1}^{p}\phi _{i}X_{t-i}+\epsilon _{t}.\,$

onde $\phi _{1},\ldots \phi _{p}$ son os parámetros do modelo, $c$ é unha constante e $\epsilon _{t}$ é un termo de error. O termo constante é omitido por moitos autores por motivos de simplificación.

Un modelo autorregresivo é esencialmente un filtro IIR (infinite impulse response filter), cunha certa interpretación adicional.

Débese ter en conta que é necesario impor certas restriccións aos valores dos parámetros deste modelo para que funcione correctamente estacionario. Por exemplo, nun modelo AR(1), se |φ₁| > 1 o modelo non terá un bo comportamento.

Exemplo: Un proceso AR(1)

An AR(1)-Process is given by

$X_{t}=c+\phi X_{t-1}+\epsilon _{t},\,$

onde $\epsilon _{t}$ é un proceso de ruido branco con media cero e varianza $\sigma ^{2}$. (Nota: O subíndice en $\phi _{1}$ foi omitido.) O proceso é de covariaza estacionaria se $|\phi |<1$. Se $\phi =1$ entón $X_{t}$ ten unha raiz unitaria. O cálculo da esperanza de $X_{t}$ é directo. Asumindo a covarianza estacionaria temos

${\mbox{E}}(X_{t})={\mbox{E}}(c)+\phi {\mbox{E}}(X_{t-1})+{\mbox{E}}(\epsilon _{t})\Rightarrow \mu =c+\phi \mu +0$.

entón:

$\mu ={\frac {c}{1-\phi }},$

onde $\mu$ é a media. A varianza é:

${\textrm {var}}(X_{t})=E(X_{t}^{2})-\mu ^{2}={\frac {\sigma ^{2}}{1-\phi ^{2}}}$

A función de autocorrelación ven dada por:

$B_{n}=E(X_{t+n}X_{t})-\mu ^{2}={\frac {\sigma ^{2}}{1-\phi ^{2}}}\,\,\phi ^{|n|}$

Pódese ver que a función de autocorrelación decrece cun intervalo de decrecemento de $\tau =-1/\ln(\phi )$. A función de densidade espectral é a transformada de Fourier da función de autocorrelación. En termos discretos esta sería a transformada de Fourier de tempo discreto:

$\Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma ^{2}}{1+\phi ^{2}-2\phi \cos(\omega )}}\right)$

Esta expresión contén aliasing debido á natureza discreta de $X_{j}$. Se asumimos que o intervalo de mostraxe é moito menor que o intervalo de decrecemento ($\tau \ll 1$), entón podemos utilizar unha aproximación continua a $B_{n}$:

$B(t)\approx {\frac {\sigma ^{2}}{1-\phi ^{2}}}\,\,\phi ^{|t|}$

que dá un perfil Lorentzian para a densidade espectral:

$\Phi (\omega )=={\frac {1}{\sqrt {2\pi }}}\,{\frac {\sigma ^{2}}{1-\phi ^{2}}}\,{\frac {\gamma }{\pi (\gamma ^{2}+\omega ^{2})}}$

onde $\gamma =1/\tau$ é a frecuencia angular asociada co intervalo de decrecemento $\tau$.

Unha expresión alternativa para $X_{t}$ pódese obter substituíndo primeiro $c+\phi X_{t-2}+\epsilon _{t-1}$ por $X_{t-1}$ na ecuación de definición. Continuando este proceso N veces obtemos:

$X_{t}=c\sum _{k=0}^{N-1}\phi ^{k}+\phi ^{N}X_{t-N}+\sum _{k=0}^{N-1}\phi ^{k}\epsilon _{t-k}$

Cando N tende a infinito, $\phi ^{N}$ tende a cero e:

$X_{t}={\frac {c}{1-\phi }}+\sum _{k=0}^{\infty }\phi ^{k}\epsilon _{t-k}$

Vese que $X_{t}$ é ruido branco convolucionado con $\phi ^{k}$ máis a constante da media. Polo teorema do límite central, $X_{t}$ será distribuido normalmente como calquera mostra de $X_{t}$ que é máis grande que o intervalo de decrecemento da función de autocorrelación.

Modelo de medias móbiles

A notación MA(q) refírese a un modelo de media móbil de orde q.

$X_{t}=\varepsilon _{t}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}\,$

onde θ₁, ..., θ_q son os parametros do modelo e ε_t, ε_t-1,... son, de novo, os termos de error. Un modelo de medias móbiles é ensencialmente un filtro FIR (finite impulse response filter), con certa interpretación adicional.

Modelo autorregresivo de media móbil

A notación ARMA(p, q) refírese a un modelo con p termos autorregresivos e q termos de media móbil. Este modelo combina os modelos AR e MA,

$X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\phi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,$

Nota sobre os termos de error

Os termos de error ε_t asúmese normalmente que son variables iid (variables aleatorias independentes identicamente-distribuidas) mostreadas dunha distribución normal con media cero: ε_t ~ N(0,σ²) onde σ² é a varianza. Estas suposicións poden ser fráxiles e se non se cumplen ponden cambiar as propiedades do modelo. De feito, un cambio na suposición da independencia e distribución idéntica podería dar lugar a unha substancial diferencia.

Especificación en termos do operador retardo (lag operator)

Nalgúns textos os modelos son especificados en termos do operador retardo L. Nestes termos, o modelo AR(p) ven dado por

$\varepsilon _{t}=\left(1-\sum _{i=1}^{p}\phi _{i}L^{i}\right)X_{t}=\phi X_{t}\,$

onde φ representa o polinomio

$\phi =1-\sum _{i=1}^{p}\phi _{i}L^{i}.\,$

Un modelo MA(q) ven dado por

$X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta \varepsilon _{t}\,$

onde θ representa o polinomio

$\theta =1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,$

Por último, o modelo combinatorio ARMA ven dado por

$\left(1-\sum _{i=1}^{p}\phi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,$

ou de xeito máis conciso,

$\phi X_{t}=\theta \varepsilon _{t}.\,$

Modelos de axuste (Fitting models)

Os modelos ARMA en xeral poden, tras escoller p e q, ser axustados mediante regresión de mínimos cadrados parar encontrar os valores dos parámetros que minimizan o termo de error. Considérase xeralmente unha boa práctica encontrar os valores menores de p e q que proporcionan un ajuste aceptable aos datos. Para un modelo puro AR débense utilizar as ecuacións Yule-Walker para proporcionar un axuste.

Xeralizacións

A dependencia de X_t en valores pasados e nos termos de error ε_t asúmese que é lineal salvo que se especifique o contrario. Se a dependencia non é lineal, o modelo é especificamente chamado modelo de media móbil non lineal (NMA), autorregresivo non lineal (NAR), ou autoregresivo de media móbil non lineal (NARMA).

Os modelos autorregresivos de media móbil poden xeralizarse doutros xeitos. Véxase tamén os modelos ARCH (modelos de heterocedasticidade condicional autorregresivos) e os modelos ARIMA (modelos autorregresivos integrados de medias móbiles). Se temos que axustar múltiples series temporales, entón pódese axustar un modelo vectorial ARIMA (VARIMA). Se as series temporales en cuestión mostran unha longa memoria, entón é apropiado un modelo ARIMA fraccional (FARIMA, ou ás veces chamado ARFIMA). De pensar que os datos teñen certa estacionalidade, entón débese usar un modelo SARIMA.

Referencias

• George E.P. Box and F.M. Jenkins. Time Series Analysis: Forecasting and Control, second edition. Oakland, CA: Holden-Day, 1976.