7.3 使用ARMA模型进行预测

7.3 ARMA模型的预测

接下来我们介绍用ARMA模型进行预测的经典理论。这一领域已被充分理解，因此我们只提供一些关键结果和公式，这些将在后续分析中证明是有用的。然后，我们将讨论使用估计参数的AR模型进行预测的性质、直接法与迭代法在生成多期预测中的比较，以及具有单位根的变量的预测。

7.3.1 ARMA模型预测的经典理论

使用ARMA模型生成未来结果的预测存在简单且被充分理解的程序。对于纯自回归、$\mathrm{AR}(p)$模型，即不含移动平均项的模型，预测尤其简单：

$$y_{t+1}={\varphi }_1{y}_t+\cdots +{\varphi }_p{y}_{t-p+1}+{\epsilon }_{t+1},{\epsilon }_{t+1}\sim \mathrm{WN}(0,{\sigma }^2).\text{\hspace{1em}(7.17)}$$

为了介绍ARMA预测的生成机制，我们最初将参数视为已知的，从而忽略估计误差。利用$P[{\epsilon }_{t+1}|Z_t]=0$以及$\{y_{t-p+1},\dots ,y_t\}\in Z_t$，给定$Z_t$下$y_{t+1}$的线性预测变为

$$f_{t+1|t}(Z_t,\beta )={\varphi }_1{y}_t+\cdots +{\varphi }_p{y}_{t-p+1},\text{\hspace{1em}(7.18)}$$

其中$\beta =({\varphi }_1,\dots ,{\varphi }_p)$，$Z_t=\{y_1,\dots ,y_t\}$。在生成多步预测时，未知$y_{t+i}(i\ge 1)$的值可以用其预测$f_{t+i|t}$来代替，建立一个递归系统：

$$\begin{array}{rl}& f_{t+2|t}(z_t,\beta )={\varphi }_1{f}_{t+1|t}(z_t,\beta )+{\varphi }_2{y}_t+\cdots +{\varphi }_p{y}_{t-p+2},\\ & f_{t+3|t}(z_t,\beta )={\varphi }_1{f}_{t+2|t}(z_t,\beta )+{\varphi }_2{f}_{t+1|t}(z_t,\beta )+{\varphi }_3{y}_t+\cdots +{\varphi }_p{y}_{t-p+3},\\ & ⋮\\ & f_{t+p+1|t}(z_t,\beta )={\varphi }_1{f}_{t+p|t}(z_t,\beta )+{\varphi }_2{f}_{t+p-1|t}(z_t,\beta )+{\varphi }_3{f}_{t+p-2|t}+\cdots \\ & +{\varphi }_p{f}_{t+1|t},\end{array}\text{\hspace{1em}(7.19)}$$

以此类推，直到$f_{t+h}$。这种"链式法则"提供了一种计算上简便的方法，等价于将未知的未来值$y_{t+i}$递归地表示为${\dot{y}}_t$及其过去值的函数。y的已知值影响直到$t+p$期的预测，而更远期的预测则依赖于更短期的预测值。

例7.3.1（$\mathrm{AR}(1)$模型生成的预测）。对于$AR(1)$模型$y_{t+1}={\varphi }_1{y}_t+{\epsilon }_{t+1}$，链式法则预测为

$$\begin{array}{r}{f}_{t+1|t}(y_t,{\varphi }_1)={\varphi }_1{y}_t,\\ f_{t+2|t}(y_t,{\varphi }_1)={\varphi }_1^2{y}_t,\\ ⋮\\ f_{t+h|t}(y_t,{\varphi }_1)={\varphi }_1^h{y}_t.\end{array}$$

接下来，考虑$\mathrm{MA}(q)$模型，

$$y_{t+1}={\epsilon }_{t+1}+{\theta }_1{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+1}.\text{\hspace{1em}(7.20)}$$

再次假设${\theta }_1,\dots ,{\theta }_q$已知，且$Z_t=({\epsilon }_t,{\epsilon }_{t-1},\dots ,{\epsilon }_0)$，则一步向前预测变为

$$\begin{array}{rl}& f_{t+1|t}(z,\beta )={\theta }_1{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+1},\\ & f_{t+2|t}(z,\beta )={\theta }_2{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+2},\\ & ⋮\\ & f_{t+q|t}(z,\beta )={\theta }_q{\epsilon }_t,\\ & f_{t+q|t}(z,\beta )=0.\end{array}$$

$\mathrm{MA}(q)$模型具有有限的记忆：$\mathrm{MA}(q)$过程超过$q$期的未来值是不可预测的。相比之下，对于平稳的$\mathrm{AR}(p)$过程，可预测性最终会衰减，但不存在这种明显的预测能力骤降。

虽然冲击序列$\{{\epsilon }_t\}$不能直接观测到，但可以在给定模型的情况下递归计算出来。或者，根据估计方法的不同，可以在给定${\epsilon }_t,t=0,\dots ,q-1$初始值的假设下进行估计。

例7.3.2（MA(1)模型生成的预测）。对于$MA(1)$模型，我们可以使用${\epsilon }_0=0$并建立递归

$$\begin{array}{rl}& {\epsilon }_1=y_1,\\ & {\epsilon }_2=y_2-{\theta }_1{\epsilon }_1=y_2-{\theta }_1{y}_1,\\ & {\epsilon }_3=y_3-{\theta }_1{\epsilon }_2=y_3-{\theta }_1(y_2-\theta y_1),\end{array}$$

以此类推。未观测到的冲击可以完全写成参数值 ${\theta }_{1:}$ 以及 $y$ 的当前值和过去值的函数。也可以使用过去预测的简单递推来更新预测。这是因为 ${\epsilon }_t=y_t-P[y_t|Z_{t-1}]=y_t-f_{t|t-1}$。对于 $MA(1)$ 模型，我们有

$$f_{t+1|t}={\theta }_1{\epsilon }_t={\theta }_1(y_t-f_{t|t-1}).\text{\hspace{1em}(7.21)}$$

对于一般的 $MA(q)$ 过程，其更新公式同样仅涉及 $y$ 的过去观测值和过去预测值。

接下来，考虑无穷阶 MA 过程。利用 Wold 表示定理中 MA 系数具有时不变性的性质，对于 $h\ge 1$，$y_{t+h}$ 的无穷阶 MA

模型为

$$\begin{array}{rl}{y}_{t+h}& =\sum _{i=0}^{\infty }{\theta }_i{\epsilon }_{t+h-i}\\ & =(\underset{\text{未来冲击}}{\underbrace{{\epsilon }_{t+h}+{\theta }_1{\epsilon }_{t+h-1}+\cdots +{\theta }_{h-1}{\epsilon }_{t+1}}}+\underset{\text{当前和过去冲击}}{\underbrace{{\theta }_h{\epsilon }_t+{\theta }_{h+1}{\epsilon }_{t-1}+\cdots }}),\end{array}$$

其中最后一行假设 $h\ge 1$。利用 $\epsilon$ 不存在自相关的性质，这允许我们将 $y_{t+h}$ 分解为可预测部分和不可预测部分。因此，如果 ${\epsilon }_t$ 可观测，则预测为

$$\begin{array}{rl}{f}_{t+h|t}(z_t,\beta )& ={\theta }_h{\epsilon }_t+{\theta }_{h+1}{\epsilon }_{t-1}+\cdots \\ & =\sum _{j=h}^{\infty }{\theta }_j{\epsilon }_{t+h-j}.\end{array}\text{\hspace{1em}(7.22)}$$

例 7.3.3（Wiener–Kolmogorov 预测公式）。对于具有 MA 表示 $y_t=\theta (L){\epsilon }_t$ 的过程，线性投影 $P(y_{t+h}|Z_t)$ 的 Wiener–Kolmogorov 预测公式形式为

$$P(y_{t+h}|Z_t)={\left[\frac{\theta (L)}{L^h}\right]}_{+}\frac{y_t}{\theta (L)},\text{\hspace{1em}(7.23)}$$

其中 $[\cdot {]}_{+}$ 算子排除滞后算子 $L$ 的负指数。例如，对于 (7.8) 中的可逆 $AR(1)$ 模型，$\theta (L)=(1-{\varphi }_{1}L{)}^{-1}$，因此 (7.23) 给出

$$\begin{array}{rl}P(y_{t+h}|Z_t)& =\frac{{\varphi }_1^h}{1-{\varphi }_{1}L}(1-{\varphi }_{1}L)y_t\\ & ={\varphi }_1^h{y}_t.\end{array}$$

类似地，对于 (7.20) 中的 $MA(q)$ 过程，

$${\left[\frac{1+{\theta }_{1}L+{\theta }_2{L}^2+\cdots +{\theta }_q{L}^q}{L^h}\right]}_{+}=\{\begin{array}{ll}{\sum }_{j=h}^q{\theta }_j{L}^{q-h}& \text{若 }h\le q,\\ 0& \text{若 }h>q,\end{array}$$

因此 $h$ 步向前线性预测变为

$$P(y_{t+h}|Z_t)=\{\begin{array}{ll}{\sum }_{j=h}^q{\theta }_j{L}^{q-h}{\epsilon }_t& \text{若 }h\le q,\\ 0& \text{若 }h>q.\end{array}$$

对于混合的 $\mathrm{ARMA}(p,q)$ 模型

$$y_{t+1}={\varphi }_1{y}_t+{\varphi }_2{y}_{t-1}+\cdots +{\varphi }_p{y}_{t-p+1}+{\epsilon }_{t+1}+{\theta }_1{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+1},\text{\hspace{1em}(7.24)}$$

可以将 AR 和 MA 的预测步骤合并，方法是通过递归地将 $y_{t+i}$ 的未来值替换为其预测值，并令 $E[{\epsilon }_{t+j}|Z_t]=0$（其中 $j\ge 1$）。具体过程如下：

$$\begin{array}{rl}{f}_{t+1|t}& ={\varphi }_1{y}_t+{\varphi }_2{y}_{t-1}+\cdots +{\varphi }_p{y}_{t-p+1}+{\theta }_1{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+1},\\ f_{t+2|t}& ={\varphi }_1{f}_{t+1|t}+{\varphi }_2{y}_t+\cdots +{\varphi }_p{y}_{t-p+2}+{\theta }_2{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+2},\\ & ⋮\\ f_{t+h|t}& ={\varphi }_1{f}_{t+h-1|t}+{\varphi }_2{f}_{t+h-2|t}+\cdots +{\varphi }_p{f}_{t-p+h|t}+{\theta }_h{\epsilon }_t+\cdots +{\theta }_q{\epsilon }_{t-q+h},\end{array}\text{\hspace{1em}(7.25)}$$

其中当 $j\ge h$ 时 $f_{t-j+h|t}=y_{t-j+h}$，且当 $h>q$ 时 ${\theta }_h=0$。

在刻画了预测之后，我们接下来讨论预测误差。由 Wold 表示定理，每个平稳的 ARMA 过程都可以写成一个 MA 过程（可能是无穷阶）。由 (7.22)，该过程的预测误差为

$$y_{t+h}-f_{t+h|t}(z_t,\beta )={\epsilon }_{t+h}+{\theta }_1{\epsilon }_{t+h-1}+\cdots +{\theta }_{h-1}{\epsilon }_{t+1},$$

因此均方预测误差为

$$\begin{array}{rl}E[(y_{t+h}-f_{t+h|t}(z_t,\beta ){)}^2]& =E[{\epsilon }_{t+h}+{\theta }_1{\epsilon }_{t+h-1}+\cdots +{\theta }_{h-1}{\epsilon }_{t+1}{]}^2\\ & ={\sigma }^2(1+{\theta }_1+\cdots +{\theta }_{h-1}{)}^2.\end{array}\text{\hspace{1em}(7.26)}$$

这可以针对各种 $\mathrm{ARMA}(p,q)$ 模型进行计算。主要困难源于 MA 系数是 $(7.26)$ 中原始 $\mathrm{ARMA}(p,q)$ 系数的非线性函数。

例 7.3.4（AR(1) 过程的 MSE）。对于 $AR(1)$ 模型，${\theta }_i={\varphi }_1^i$，因此

$$\begin{array}{l}E[(y_{t+h}-f_{t+h|t}(z_t,\beta ){)}^2]={\sigma }^2(1+{\theta }_1+\cdots +{\theta }_{h-1}{)}^2\\ \\ ={\sigma }^2\sum _{j=0}^{h-1}{\varphi }_1^j\\ \\ =\frac{{\sigma }^2(1-{\varphi }_1^{2h})}{1-{\varphi }_1^2}.\end{array}\text{\hspace{1em}(7.27)}$$

这个结果同样可以方便地利用 $(7.9)$ 中的向后递推得到：

$$f_{t+h|t}={\varphi }_1^h{y}_t+\sum _{s=0}^{h-1}{\varphi }_1^s{\epsilon }_{t+h-s}.$$

预测值为 $f_{t+h|t}(z_t,\beta )={\varphi }_1^h{y}_t$，MSE 同样为 ${\sigma }^2{\sum }_{j=0}^{h-1}{\varphi }_1^j={\sigma }^2(1-{\varphi }_1^{2h})/(1-{\varphi }_1^2)$。当 $h\to \infty$ 时，它收敛于 ${\sigma }^2/(1-{\varphi }_1^2)$，这正是该过程的无条件方差。这是合理的，因为对于平稳 AR 过程，在非常长的预测期下，其预测值就是过程的无条件均值。