8.5 用非线性单变量模型进行预测

8.5 使用非线性单变量模型进行预测

从前述关于非线性模型的讨论中可以清楚地看出，使用单变量非线性模型进行预测通常依赖于数值方法——至少在多步向前预测值得关注的情况下是如此。为了理解这一点，考虑带可加新息的非线性一般模型：

$$y_{t+1}=f(y_t)+{\epsilon }_{t+1},{\epsilon }_{t+1}\sim (0,{\sigma }_{\epsilon }^2).$$

y 的多步向前值依赖于 ${\epsilon }_{t+1},{\epsilon }_{t+2},\dots ,{\epsilon }_{t+h};$

$$\begin{array}{rl}& y_{t+2}=f(f(y_t)+{\epsilon }_{t+1})+{\epsilon }_{t+2},\\ & y_{t+3}=f(f(f(y_t)+{\epsilon }_{t+1})+{\epsilon }_{t+2})+{\epsilon }_{t+3},\\ & y_{t+h}=f(f(y_{t+h-1})+{\epsilon }_{t+h-1})+{\epsilon }_{t+h}.\end{array}\text{\hspace{1em}(8.26)}$$

如果 $f$ 是一个非线性函数，那么通常情况下 $E\left[y_{t+h}|Z_t\right]\ne E\left[f^h(y_t)\right]$，即使 $E\left[{\epsilon }_{t+j}|Z_t\right]=0$。这意味着即使在 MSE 损失下，关注重点是计算 $y_{t+h}$ 的期望，ε 的完整密度也是重要的。Brown 和 Mariano (1989) 讨论了非线性动态模型中预测量的性质。

有三种策略可以处理这个问题。第一种方法是，如果 ε 的密度是已知的或可以被估计，那么我们可以使用蒙特卡洛模拟来抽取未来值 $\{{\epsilon }_{t+1},\dots ,{\epsilon }_{t+h}\}$ 并迭代计算 $y_{t+h}$。令 $b=1,\dots ,B$，我们可以计算

$$\begin{array}{c}{y}_{t+1}^b=f(y_t)+{\epsilon }_{t+1}^b,\\ \\ ⋮\\ y_{t+h}^b=f(f(y_{t+h-1}^b)+{\epsilon }_{t+h-1}^b)+{\epsilon }_{t+h}^b.\end{array}\text{\hspace{1em}(8.27)}$$

最后，预测可以基于 $y_{t+h}$ 的模拟密度。例如，在 MSE 损失下，预测将是条件均值

$$f_{t+h|t}=\frac{1}{B}\sum _{b=1}^B{\gamma }_{t+h}^b,$$

而在 lin-lin 损失下，预测将是 $y_{t+h}$ 模拟分布的一个分位数。

第二种方法是使用非参数自助法（bootstrap），而不是对 ε 假设某种参数分布。自助法从拟合模型的 ε 的经验 c.d.f. 中有放回地反复抽取 $({\hat{\epsilon }}_{t+1},{\hat{\epsilon }}_{t+2},\dots ,{\hat{\epsilon }}_{t+h})$，对 $b=1,\dots ,B$：

$$\begin{array}{rl}& y_{t+1}^b=f(y_t)+{\hat{\epsilon }}_{t+1}^b,\\ & \\ & ⋮\\ & \\ & y_{t+h}^b=f(f(y_{t+h-1}^b)+{\hat{\epsilon }}_{t+h-1}^b)+{\hat{\epsilon }}_{t+h}^b.\end{array}\text{\hspace{1em}(8.28)}$$

至于蒙特卡洛模拟方法，这些抽取可以用于计算期望损失。这里可以使用多种不同的自助法，包括块自助法（block bootstrap）、平稳自助法（stationary bootstrap），甚至是允许残差二阶矩动态性的半参数自助法。

第三种也是最后一种方法是使用直接预测法，直接将 $y_{t+h}$ 建模为 ${\gamma }_t$ 的函数：

$$y_{t+h}=f_h(y_t)+{\epsilon }_{t+h}.\text{\hspace{1em}(8.29)}$$

在该方法下，我们使用非线性模型将 $y_{t+h}$ 直接与 ${\gamma }_t$ 联系起来，因此无需对预测进行迭代以获得多步向前预测值。相反，每个预测区间都需要其各自的预测模型 $f_h$，并且不试图确保多步向前预测在不同区间之间的一致性。这一点很重要，因为从 (8.26) 中的迭代可以很容易地验证，非线性模型的函数形式在多步向前区间上通常不被保留。

同样，在以下两种方法之间将存在权衡：一种是使用与模型一致的方法，即对拟合到数据最高频率的模型进行迭代以获得多步向前预测；另一种是使用直接预测法，后者对模型误设定的敏感度可能较低。

马尔可夫区制转换模型可用于说明使用非线性预测相对于线性预测的潜在收益，我们接下来通过 Hamilton (1989) 的一个例子来展示。

例 8.5.1（线性模型与非线性模型预测的比较）。 按照 Hamilton (1989) 的方法，考虑一个简单版本的马尔可夫区制转换模型：

$$y_t=s_t+{\epsilon }_t,\text{\hspace{1em}(8.30)}$$

其中 ${\epsilon }_t\sim iid(0,{\sigma }^2)$，$s_t$ 是一个服从一阶马尔可夫过程的两状态二元变量：

$$\begin{array}{rl}& \mathrm{Pr}(s_t=0|s_{t-1}=0)=p_0,\\ & \\ & \mathrm{Pr}(s_t=1|s_{t-1}=1)=p_1.\end{array}\text{\hspace{1em}(8.31)}$$

尽管这是一个非线性过程，但可以通过一个具有特殊误差分布的 $AR(1)$ 模型来表示：

$$\begin{array}{l}{s}_t=(1-p_0)+\lambda s_{t-1}-v_t,\\ \\ \lambda =p_0+p_1-1,\end{array}\text{\hspace{1em}(8.32)}$$

其中新息项 $v_t$ 条件服从二项分布。在 $s_{t-1}=0$ 的条件下，$v_t$ 服从如下分布

$$v_t=\{\begin{array}{ll}1-p_0& \text{概率为 }{p}_0,\\ -p_0& \text{概率为 }1-p_0,\end{array}$$

而当 $s_{t-1}=1$ 时，

$$v_t=\{\begin{array}{ll}-(1-p_1)& \text{概率为 }{p}_1,\\ p_1& \text{概率为 }1-p_1.\end{array}$$

这些性质意味着，在给定 $s_{t-1}$ 的条件下，$v_t$ 是一个鞅差序列，因此在两种状态下其条件均值都为零：

$$\begin{array}{rl}& E\left[v_t|s_{t-1}=0\right]=p_0(1-p_0)-p_0(1-p_0)=0,\\ & E\left[v_t|s_{t-1}=1\right]=-p_1(1-p_1)+p_1(1-p_1)=0.\end{array}\text{\hspace{1em}(8.33)}$$

然而，$v_t$ 显然与 ${\mathbf{f}}_{{\mathbf{S}}_{t-1}}$ 不独立。例如，其条件方差为

$$E\left[v_t^2|s_{t-1}=0\right]=p_0(1-p_0{)}^2+p_0^2(1-p_0)=p_0(1-p_0),$$

$$E\left[v_t^2|s_{t-1}=1\right]=p_1(1-p_1{)}^2+p_1^2(1-p_1)=p_1(1-p_1).$$

利用 (8.30) 和 (8.32)，注意

$$\begin{array}{rl}& y_t-\lambda y_{t-1}=s_t-\lambda s_{t-1}+{\epsilon }_t-\lambda {\epsilon }_{t-1}\\ & \\ & =(1-p_0)-v_t+{\epsilon }_t-\lambda {\epsilon }_{t-1}.\end{array}$$

正如 Hamilton 所示，该方程右边的误差项服从 MA(1) 过程：

$$-v_t+{\epsilon }_t-\lambda {\epsilon }_{t-1}=u_t-\theta u_{t-1},$$

其中 $u_t\sim \mathrm{WN}(0,{\sigma }_u^2)$，$\theta$ 和 ${\sigma }_u^2$ 是由以下方程确定的参数

$$(1+{\theta }^2){\sigma }_u^2=(1+{\lambda }^2){\sigma }_{\epsilon }^2+{\sigma }_v^2,$$

$$\theta {\sigma }_u^2=\lambda {\sigma }_{\epsilon }^2,$$

且

$${\sigma }_v^2=(1-\pi )p_0(1-p_0)+\pi p_1(1-p_1)$$

是 $v_t$ 的无条件方差。其中 $\pi =(1-p_0)/(2-p_0-p_1)$ 是状态 1 的稳态（无条件）概率。这表明可以使用 ARMA(1,1) 线性模型

$$y_{t+1}=\lambda y_t+(1-p_0)+u_{t+1}-\theta u_t,$$

来预测 $y_{t+1}$，或者更一般地，预测 $y_{t+h}$。然而，这样的预测方案并不是最优的：尽管 $u_t$ 与 $u_{t-1},u_{t-2},\dots$ 不相关，但 $it$ 并不与早期值独立分布。最优预测实际上是

$$E\left[y_{t+h}|y_t,y_{t-1},...\right]=\pi +{\lambda }^h(\mathrm{Pr}(S_t=1|y_t,y_{t-1},...)-\pi ).\text{\hspace{1em}(8.34)}$$

状态概率 $\mathrm{Pr}(S_t=1|y_t,y_{t-1},...)$ 是 ${\gamma }_t$ 的一个高度非线性函数，这使得最优预测成为 $y$ 的当前值和过去值的非线性函数。详见 Hamilton (1989)。