11.2.4 投影寻踪回归

11.2.4 投影寻踪回归

当预测变量的维度变得中等偏大时，逼近模型的集合也会变得非常大。这就是众所周知的"维数灾难"问题。在这种情况下，模型之间的选择变得很困难，许多方法的实施也存在同样的问题。投影寻踪回归由 Friedman 和 Stuetzle（1981）提出，是一种简化的方法，旨在通过允许估计一个灵活的函数来获得收益，而不会遇到由维数灾难引发的问题。他们考虑的近似形式为：

$$y_{t+1}={\beta }_0+\sum _{i=1}^m{g}_i({\beta }_i^{\prime }{z}_t)+u_{t+1},\text{\hspace{1em}(11.11)}$$

其中 $g_i$ 是线性指标 ${\beta }_i^{\prime }{z}_t$ 的非线性函数，对于每一项"权重" ${\beta }_i$ 取不同的值。通常首先对被预测变量 $\{y_{t+1}\}$ 进行去均值化处理，从而得到 ${\beta }_0$ 的估计。建模采用迭代方法，从一项开始，逐步添加项，直到新增项带来的收益小于用户设定的样本内均方误差最小改善量的阈值为止。

为了构建第一项，首先对 ${\beta }_1$ 做出一个初始猜测，并利用该猜测构造 $w_t={\beta }_1^{\prime }{z}_t$。接着，拟合一个非参数模型，用 $w_t$ 来解释 $(y_{t+1}-{\hat{\beta }}_0)$。在给定该模型的情况下，通过最小化残差平方和 ${\sum }_{t=1}^{T-1}{\left(y_{t+1}-{\hat{\beta }}_0-{\hat{g}}_1({\beta }_1^{\prime }{z}_t)\right)}^2$ 来估计 ${\beta }_1$。然后重复该过程以得到第二项，此时用 $y_{t+1}-{\hat{\beta }}_0-{\hat{g}}_1({\hat{\beta }}_1^{\prime }{z}_t)$ 代替 $y_{t+1}-{\hat{\beta }}_0$。计算上的优势在于，无论 $z_t$ 的维度如何，非参数过程仅是一个单变量序列的函数。与大多数此类经验性方法一样，该方法存在大量的变体，且用于构造 $\hat{g}$ 估计的实际非参数方法因应用而异。

图 11.1：在三种不同带宽选择下，通胀（上）和股票收益（下）的核预测。