10.4.3 缺失观测值

10.4.3 缺失观测值

不完整数据和缺失观测值是经济预测者面临的重要实际问题。在实践中遇到的典型数据集远非一个包含 $T\times N$ 个观测值的平衡面板，而是涉及样本长度不同、甚至可能以不同频率测量的变量。为了解决这个问题，Stock 和 Watson (2002b) 提出使用一种简单的期望最大化 (EM) 算法来填补缺失观测值。考虑目标函数

$$V(F^P,\Lambda )=\sum _{i=1}^N\sum _{t=1}^T{1}_{it}(X_{it}-{\lambda }_i^{\prime }{F}_t{)}^2,\text{\hspace{1em}(10.27)}$$

其中 ${\lambda }_i$ 是 $\Lambda$ 的第 $i$ 行，$1_{it}$ 是一个指示函数，定义如下：

$$1_{it}=\{\begin{array}{ll}1& \mathrm{若}{x}_{it}\mathrm{被观测},\\ 0& \mathrm{若}{x}_{it}缺失。\end{array}$$

Stock 和 Watson 提出了一种迭代程序，用于获得一组初始估计 ${\hat{\lambda }}_i$ 以及相应的因子 ${\hat{F}}_t$。然后用这些估计来填补缺失值，即 ${\hat{X}}_{it}=1_{it}{X}_{it}+(1-1_{it}){\hat{\lambda }}_i^{\prime }{\hat{F}}_t$。使用重新平衡后的数据集，从样本协方差矩阵 $N^{-1}{\sum }_{i=1}^N{\hat{X}}_i{\hat{X}}_i^{\prime }$ 的最大特征值中提取一组新的因子估计 ${\hat{F}}_t$，其中 ${\hat{X}}_i=({\hat{X}}_{i1},\dots ,{\hat{X}}_{iT}{)}^{\prime }$。这些因子估计又通过对 $\hat{X}$ 关于更新后的因子估计进行回归来获得 ${\hat{\lambda }}_i$ 的新估计，并更新缺失观测值。该过程持续进行直至收敛。详见 Stock 和 Watson (2002b, 附录 A)。

除了缺失数据点之外，离群值在处理大型数据集时也可能是一个真正的问题，因为与仅使用少量序列时相比，无法保证每个序列都具有相同的质量。在这种情况下，可以采用用估计值替换离群值的过滤器。

10.4.4 偏最小二乘

主成分方法在构造 $N$ 个预测变量 $X$ 的线性组合时忽略了结果变量 $y$ 的信息。偏最小二乘 (PLS) 方法在构造预测变量的线性组合时考虑了这种相关性。该方法首先将每个 $x$ 变量标准化为均值为零、方差为一，即 ${\tilde{x}}_i=(x_i-{\bar{x}}_i)/{\hat{\sigma }}_i$，其中 ${\bar{x}}_i$ 和 ${\hat{\sigma }}_i$ 分别是 $x_i$ 的样本均值和样本标准差。然后该方法通过以下算法进行迭代，如 Hastie、Tibshirani 和 Friedman (2009, 第 81 页) 所述。首先，通过设置 $f^0=\bar{y}{\iota }_T$ 来初始化算法，其中 $\bar{y}=T^{-1}{\sum }_{t=1}^T{y}_t$ 且 ${\tilde{x}}_i^0={\tilde{x}}_i$。然后，对于 $m=1,\dots ,\bar{m}\le N$，重复以下步骤：(i) 形成 $x$ 变量的线性组合 $z_m={\sum }_{j=1}^N{\hat{\beta }}_{jm}{\tilde{x}}_j^{m-1}$，其中 ${\hat{\beta }}_{jm}=\mathrm{Cov}({\tilde{x}}_j^{m-1},y)$；(ii) 将预测更新为 $f^m=f^{m-1}+{\hat{\theta }}_m{z}_m$，其中 ${\hat{\theta }}_m=\widehat{\mathrm{Cov}}(z^m,y)/\widehat{\mathrm{Var}}(z^m)$；(iii) 通过设置 ${\tilde{x}}_j^m={\tilde{x}}_j^{m-1}-{\hat{\gamma }}_j^m{z}_m$ 使 ${\tilde{x}}_j^{m-1}$ 关于 $z_m$ 正交化，其中 ${\hat{\gamma }}_j^m=\widehat{\mathrm{Cov}}(z_m,x_i^{m-1})/\widehat{\mathrm{Var}}(z_m)$。然后重复步骤 (i)。

此处 $z_m$ 是 $\tilde{x}$ 变量的线性组合，通常称为方向。注意偏最小二乘方法如何根据各个 $\tilde{x}$ 变量与结果的（单变量）相关性强度对其进行加权。如果算法持续到 $m=N$，则变得类似于对全部原始预测变量进行的 OLS 回归。

尽管偏最小二乘方法明确考虑了结果与 $x$ 变量线性组合之间的相关性，但在实践中，PLS 方法通常表现得类似于岭回归和主成分方法；进一步讨论参见 Hastie、Tibshirani 和 Friedman (2009)。