14.1 最优预测组合：理论

14.1 最优预测组合：理论

关于预测最优组合的结果与第3章中讨论的构建最优预测的结果类似，其关键区别在于条件信息通常仅限于对结果的一组预测，因此如果我们有m个预测要组合，则 $z=\{f_1,\dots ,f_m\}$。最优预测组合 $f^{c\ast }$ 是预测的函数，它求解

$$\underset{f^c}{\min }E\left[L(f^c(f_1,f_2,\dots ,f_m),y)\right].\text{\hspace{1em}(14.2)}$$

重要的是，由式(14.2)定义的组合预测的最优性是相对于观察到预测 $\{f_1,f_2,\dots ,f_m\}$ 而非用于构建这些预测的底层信息集而言的。当 $f(\cdot )$ 是线性指标时，该组合是带有权重 ${\omega }_1,\dots ,{\omega }_m$ 的线性组合。更一般地，我们可以考虑各预测的任意函数，尽管在实践中这并不经常被采用。

对组合方案的搜索通常还会施加额外的约束。一个典型的假设是预测是无偏的，这通过将权重约束为加和等于1来缩小线性组合模型的空间。此外，由于底层的"数据"是预测，它们可以被期望获得非负且加和为一的权重，即对 $i=1,\dots ,m$，有 $0\le {\omega }_i\le 1$。这些考量可用于以排除多种方法的方式缩小组合权重的相关参数空间，并可能提供一个更有吸引力的风险函数。

一般来说，没有必要将信息集限制为仅包含观测到的预测集 $\{f_1,\dots ,f_m\}$。该向量可以扩展为包含其他观测变量 x，从而将式(14.2)扩展为：

$$\underset{f^c}{\min }E\left[L(f^c(f_1,f_2,\dots ,f_m,x),y)\right].\text{\hspace{1em}(14.3)}$$

将预测视为数据使得预测组合等价于本书中通篇描述的预测问题。

类似于第4章中的结果，应该认识到该解仅在式(14.2)或式(14.3)被最小化的意义上是"最优"的。然而，当函数需要基于数据进行估计时，我们还必须考虑估计误差的影响。基于最优组合但使用次优估计技术的方法未必能返回最佳的预测组合或具有任何最优性性质。不同的估计量会产生不同的风险函数，这些风险函数依赖于底层的数据生成过程，并且通常没有单一的最优方法能在所有可能的参数值上具有一致优于所有其他方法的风险函数。取而代之的是，不同类别的预测方法通常在参数空间的不同部分具有不同的风险性质。这一点将在下一节中通过讨论用于构建预测组合的估计方法得到印证。