14.1.1 均方误差损失下的最优组合

14.1.1 均方误差损失下的最优组合

预测组合文献中的大多数结果都假设采用均方误差损失。为了建立对均方误差损失下预测组合所带来收益的直观理解，考虑两个个体预测 $f_1,f_2$，其相应的预测误差为 $e_1=y-f_1$，$e_2=y-f_2$。假设两个预测都是无偏的，则有 $E[e_i]=0$。记预测误差的方差为 ${\sigma }_i^2,i=1,2$，协方差为 ${\sigma }_{12}$。

由于个体预测是无偏的，如果组合权重之和为 1，则组合预测也是无偏的。因此，考虑使用权重 $(\omega ,1-\omega )$ 对两个预测进行组合：

$$f^c=\omega f_1+(1-\omega )f_2.\text{\hspace{1em}(14.4)}$$

相应的预测误差是个体预测误差的加权和：

$$e(\omega )=y-\omega f_1-(1-\omega )f_2=\omega e_1+(1-\omega )e_2.\text{\hspace{1em}(14.5)}$$

利用 $E[e(\omega )]=0$，均方误差损失变为

$$\mathrm{MSE}(e(\omega ))={\omega }^2{\sigma }_1^2+(1-\omega {)}^2{\sigma }_2^2+2\omega (1-\omega ){\sigma }_{12}.\text{\hspace{1em}(14.6)}$$

因此，(14.6) 中的均方误差损失是方差-协方差矩阵中各元素的加权和。求解最优组合权重，得到

$${\omega }^{\ast }=\frac{{\sigma }_2^2-{\sigma }_{12}}{{\sigma }_1^2+{\sigma }_2^2-2{\sigma }_{12}}.\text{\hspace{1em}(14.7)}$$

由 (14.7) 可知，如果预测误差具有相等的方差 ${\sigma }_1^2={\sigma }_2^2$，即两个预测中没有一个占优于另一个，那么对预测赋予相等的权重是最优的，无论它们之间的相关性如何。

直观上，通常会为更精确的模型（即 ${\sigma }_i^2$ 最小的模型）赋予更大的权重。如果预测误差之间的相关性较弱（${\sigma }_{12}\approx 0$），则最佳组合使用加权和来对个体预测进行加权，权重与其均方误差值的倒数成正比：

$${\omega }^{\ast }\approx \frac{{\sigma }_2^2}{{\sigma }_1^2+{\sigma }_2^2}=\frac{{\sigma }_1^{-2}}{{\sigma }_1^{-2}+{\sigma }_2^{-2}}.$$

注意，在 (14.7) 中，如果 ${\sigma }_{12}>{\sigma }_1^2$ 或 ${\sigma }_{12}>{\sigma }_2^2$，组合权重可能为负。事实上，如果预测之间高度相关且方差差异足够大，两个权重都不会落在 0 和 1 之间，例如 ${\omega }^{\ast }>1,1-{\omega }^{\ast }<0$。对某个预测使用负权重并不意味着该预测对预测者没有价值。这意味着该预测可以用来抵消其他模型的预测误差。

接下来，考虑更一般情形下 $m$ 个预测的最优预测组合权重。假设预测误差向量 $e={\iota }_{m}y-f$（其中 ${\iota }_m$ 是 $(m\times 1)$ 的全 1 向量）的联合分布具有零均值（无偏预测），且方差-协方差矩阵为 ${\Sigma }_e=E[e{e}^{\prime }]$。在权重之和为 1 的约束下最小化均方误差等价于求解

$${\mathbf{\omega }}^{\ast }=\arg \underset{\mathbf{\omega }}{\min }\left\{{\mathbf{\omega }}^{\prime }{\mathbf{\Sigma }}_e\mathbf{\omega }\right\},\text{s.t.}{\mathbf{\omega }}^{\prime }{\mathbf{\iota }}_m=1.\text{\hspace{1em}(14.8)}$$

所得到的最优组合权重为

$${\mathbf{\omega }}^{\ast }=({\mathbf{\iota }}_m^{\prime }{\mathbf{\Sigma }}_e^{-1}{\mathbf{\iota }}_m{)}^{-1}{\mathbf{\Sigma }}_e^{-1}{\mathbf{\iota }}_m;\text{\hspace{1em}(14.9)}$$

参见 Bates 和 Granger (1969)。相应的期望损失为 ${\mathbf{\omega }}^{\ast \prime }{\mathbf{\Sigma }}_e{\mathbf{\omega }}^{\ast }=({\mathbf{\iota }}_m^{\prime }{\mathbf{\Sigma }}_e^{-1}{\mathbf{\iota }}_m{)}^{-1}$。Elliott 和 Timmermann (2005) 表明，只要误差来自椭圆对称分布，这些权重的最优性对更广泛类别的损失函数成立，包括非对称损失。

等权重在预测组合文献中扮演着特殊的角色。等式 (14.9) 允许我们分析在总体中等权重何时是最优的。当个体预测误差具有相同方差 ${\sigma }^2$ 和相同的两两相关系数 $\rho$ 时，会出现一个有趣的情形。此时

$$\begin{array}{rl}{\mathbf{\Sigma }}_e^{-1}{\mathbf{\iota }}_m& =\frac{{\mathbf{\iota }}_m}{{\sigma }^2(1+(m-1)\rho )},\\ ({\mathbf{\iota }}_m^{\prime }{\mathbf{\Sigma }}_e^{-1}{\mathbf{\iota }}_m{)}^{-1}& =\frac{{\sigma }^2(1+(m-1)\rho )}{m},\end{array}$$

因此等权重是最优的：

$${\mathbf{\omega }}^{\ast }=\frac{1}{m}{\mathbf{\iota }}_m.$$

当所有预测模型都基于相似的数据并因此产生精度大致相同的预测时，这种情形可以近似成立。更一般地，当单位向量位于 ${\Sigma }_e$ 的特征空间中时，最优组合权重等同于对预测的简单平均。为了说明这一点，注意当 ${\Sigma }_e{\mathbf{\iota }}_m=\lambda {\mathbf{\iota }}_m$（$\lambda$ 为标量）时，有 ${\Sigma }_e^{-1}{\mathbf{\iota }}_m={\lambda }^{-1}{\mathbf{\iota }}_m$，并且

$$\begin{array}{l}{\omega }^{\ast }=({\iota }_m^{\prime }{\Sigma }_e^{-1}{\iota }_m{)}^{-1}{\Sigma }_e^{-1}{\iota }_m\\ =({\lambda }^{-1}{\iota }_m^{\prime }{\iota }_m{)}^{-1}{\lambda }^{-1}{\iota }_m\\ =m^{-1}{\iota }_m.\end{array}$$

单位向量位于 ${\Sigma }_e$ 的特征空间中，这既是等权重为最优解的充分条件，也是必要条件。要理解这一点，请注意，要使最优权重 ${\omega }^{\ast }$ 为特征向量，我们要求 ${\Sigma }_e{\omega }^{\ast }=\lambda {\omega }^{\ast }$ 对某个标量 $\lambda$ 成立。然而，${\Sigma }_e{\omega }^{\ast }=({\iota }_m^{\prime }{\Sigma }_e^{-1}{\iota }_m{)}^{-1}{\bar{\Sigma }}_e{\Sigma }_e^{-1}{\iota }_m=({\iota }_m^{\prime }{\hat{\Sigma }}_{\epsilon }^{-1}{\iota }_m{)}^{-1}{\iota }_m$，而 $\lambda {\omega }^{\ast }=\lambda ({\iota }_m{\Sigma }_e^{-1}{\iota }_m{)}^{-1}{\Sigma }_e^{-1}{\iota }_m.$ 将两式联立，并在两边同时除以 $\lambda ({\iota }_m{\Sigma }_e^{-1}{\iota }_m{)}^{-1}$，我们得到 ${\lambda }^{-1}{\iota }_m={\Sigma }_e^{-1}{\iota }_m,$，因此，要使 ${\omega }^{\ast }$ 为特征向量，${\iota }_m$ 必须是特征向量。在预测误差方差相同且两两相关系数也相同的情形下，由于 ${\Sigma }_e$ 各行的行和彼此相等，单位向量显然位于 ${\Sigma }_e$ 的特征空间中。然而，等权重为最优的方差-协方差空间远不止这一特殊情形。${\Sigma }_e$ 各行的方差和协方差无需彼此相同；只要求各行的行和相等即可。