11.2 筛模型的估计

11.2 筛模型的估计

筛估计由Grenander（1981）提出，旨在通过数据函数的组合来近似未知函数。应用于非参数预测时，其思想是构建如下形式的预测模型：

$$f(z_T)={\beta }_0^{\prime }{z}_T+\sum _{j=1}^{J_T}{\beta }_{j}g(z_T,{\gamma }_j),\text{\hspace{1em}(11.4)}$$

其中 $J_T$ 是标量非线性项的数量，每一项记为 $g(z_T,{\gamma }_j)$，${\beta }_j$ 是这些项的权重。$g$ 函数选择的变化反映了不同的非线性近似方法。需要注意的是，我们可以设 ${\beta }_0=0$，尽管在实践中通常让该系数被估计更好。包含线性引导项 ${\beta }_0^{\prime }{z}_T$ 是因为线性模型在经验上往往表现良好，而且许多 $g$ 函数的选择除非 $J_T$ 非常大，否则无法很好地近似线性模型。"筛"的形象在这里很有用——可以将更多的项想象成网眼更细的筛子；对于较大的 $J_T$ 值，筛子"捕捉"到的函数数量更多，因为它能够更好地近似更广泛的可能函数集合。项数较少的筛子捕捉到的函数形式更少。

一旦（11.4）中的函数确定，估计就涉及基于损失函数的极值问题求解。具体而言，自由参数 $\{{\beta }_0,{\beta }_j,{\gamma }_j\}$，以及可能的网眼精细度 ${\mathbf{J}}_T$，是通过最小化平均样本损失来选取的，

$${\bar{L}}_T=(T-1{)}^{-1}\sum _{t=0}^{T-1}L(f(z_t),y_{t+1}).\text{\hspace{1em}(11.5)}$$

最常用的损失标准是均方误差（MSE），因此筛估计量将近似 $y_{t+h}$ 在给定 $z_t$ 下的条件均值。在这种情况下，可以使用非线性回归来构建预测模型的估计量。

理论结果表明，对于正确的 $g$ 函数选择，$E\left[(f^{\ast }(z_t)-f(z_t){)}^2\right]$ 可以随着 $J_T$ 变大而变得任意小，对于给定的模型族中的任何成员都成立。这表明，当 $J_T\to \infty$ 时，预测模型对某组非线性模型 $\mathcal{M}$ 中的任何模型的近似越来越好。这种对非常广泛的模型族都是良好近似的特性，常被用来证明非参数方法的使用是合理的。然而，任何经验应用都必须使用有限项数进行近似，从而同时引入近似误差和估计误差。

（11.4）中项数 $J_T$ 以样本量 $T$ 为下标，因为近似性质是通过让项数随样本量增加而渐近建立的。从实际角度看，$J_T$ 需要相对于样本量较小，以确保参数 $({\beta }_j,{\gamma }_j)$ 的估计不会因过于不精确而压倒从获得对最优预测模型更好近似中得到的任何收益。如果 $J_T$ 选择过小，即使模型在较大的 $J_T$ 值下具有吸引人的性质，模型仍可能对真实条件均值的近似较差。

在估计 ${\gamma }_j$ 时可能会出现一些复杂情况，${\gamma }_j$ 取决于所选函数形式，可能以非线性方式进入模型设定，因此需要使用搜索方法。值得注意的是，对于给定的 ${\gamma }_j$ 值，模型关于 ${\beta }_j$ 是线性的，因此这些参数可以通过OLS或第6章中讨论的任何收缩方法进行估计。

筛方法有很多种，它们在 $g$ 函数形式的设定上有所不同。这些函数具有这样的性质：当 $J_T$ 变大时，模型在某个集合 $\mathcal{M}$ 中是稠密的。并非所有函数选择在这方面都具有有用的性质。对良好近似性质的需求直接导致将基函数用作 $g$ 的设定。基函数可以是相互正交的，也可以是相关的。下面我们提供一个可使用函数的部分列表。

11.2.1 多项式

当预测模型的形式 $g_{:}$ 未知时，一个看似合理的方法是对函数进行泰勒级数近似。对于单变量预测变量 $z_t$，这表明使用如下预测模型：

$$y_{t+1}=\sum _{i=0}^m{\beta }_i{z}_t^i+u_{t+1}.\text{\hspace{1em}(11.6)}$$

尽管该估计量可能具有有用的近似性质——特别是当真实函数非常平滑时——但在大多数情况下，它实际上是一种局部近似。当参数 ${\beta }_i$ 在一定数据范围内被估计时，估计得到的权重并非任何特定点的局部参数，而是它们的平均值。在实践中，该方法因此可能证明是一个糟糕的预测器。为了弥补参数估计是跨许多点获得的数据加权平均这一不足，可以通过将（11.3）中的局部线性回归扩展为包含多项式项，使估计聚焦于单个点。这种方法是经验研究中最常见的应用形式。