4.2.2 基于非损失函数的估计

4.2.2 基于损失函数之外函数的估计

基于损失函数的估计的一种替代方法是使用从各种常用估计方法推导出的代入估计量。最主要的情况或许是使用极大似然方法来估计模型参数，然后将这些参数代入预测模型。或者，在涉及非常不同的损失函数的预测问题中，经常使用由最小二乘回归得到的估计。

在预测中，$\theta$ 或 $\beta$ 的极大似然估计被广泛使用。极大似然方法通常需要为数据构造一个似然函数，尽管在模型较为复杂或认为某些预测变量可以视为外生时，可能会采用有限信息极大似然方法。然后我们可以从模型 $f(z_T,{\hat{\beta }}_{\mathrm{MLE}})$ 构造预测，其中 ${\hat{\beta }}_{\mathrm{MLE}}$ 通常可以从 ${\hat{\theta }}_{\mathrm{MLE}}$ 容易地导出，并且通常仅是后者的一个子集。

例 4.2.2（二元结果变量的预测）。 假设 $Y$ 是一个取值为 0 或 1 的二元变量，那么最优预测是"成功"概率的函数，$P[Y=1|Z]=E[Y|Z]$。为了生成 $Y$ 的预测，我们可以使用线性指数模型，$P(Y=1|Z)=F(z^{\prime }\beta )$，其中 $F$ 是某个累积分布函数。常用的选择是概率单位（probit）和对数几率（logit）模型，其极大似然估计 ${\hat{\beta }}_{\mathrm{MLE}}$ 可用于诸如 $1(F(z^{\prime }{\hat{\beta }}_{\mathrm{MLE}})>c)$ 的决策规则中，该规则在预测概率超过某个阈值 $c$ 时预测 $y=1$，否则预测 $y=0$。

使用极大似然估计来构造预测模型需要了解 $p_Y(y|z)$ 和 $p_Z(z)$ 的形式。当似然函数被正确设定——即预测者所假定的 $Y$ 和 $Z$ 的整个联合密度即为真实的数据生成过程——时，在相当一般的条件下，参数 ${\hat{\theta }}_{\mathrm{MLE}}$ 的极大似然估计量对于数据生成过程的真实参数 $\theta$ 将是一致的。假设数据所抽取的随机变量具有绝对连续分布，并且期望似然存在且关于 $\theta$ 连续，只要满足以下条件，一致性结果成立：(i) 模型是可识别的（即对于数据生成过程，期望似然在真实 $\theta$ 处有唯一最大值）；(ii) 适当标度后的对数似然

$$\log \left\{\prod _{t=0}^{T-1}{\hat{p}}_Y(y_{t+1}|z_t,z_{t-1},\dots ,\theta ){\hat{p}}_Z(z_t|z_{t-1},z_{t-2},\dots ,\theta )\right\}$$

满足一致大数律。该结果源自 White (1996, 定理 4.2)。

实际上，似然函数被正确设定的假设不太可能成立，我们可以将估计量视为拟极大似然估计量（QMLE）。如 White (1996) 所讨论的，QMLE 仍可能具有良好的性质，尽管其性质必须相对于预测者的损失函数来确立。当似然函数的核与预测者的损失函数一致时，上述结果成立。

例 4.2.3（正态分布的拟极大似然估计）。 假设正态性的模型的伪极大似然估计等价于使均方误差最小化的预测。为了说明这一点，设 $\theta =(\beta ,{\sigma }^2)$，则

$${\hat{\theta }}_{\mathrm{MLE}}=\arg \underset{\theta \in \Theta }{\max }\left(\ln ({\sigma }^2{)}^{-T/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{t=0}^{T-1}(y_{t+1}-f(z_t,\beta ){)}^2\right\}\right),$$

且

$$\hat{\beta }=\arg \min \sum _{t=0}^{T-1}(y_{t+1}-f(z_t,\beta ){)}^2.$$

这里预测模型 $f(z_t,\hat{\beta }({\hat{\theta }}_{\mathrm{MLE}}))=f(z_t,\hat{\beta })$ 的估计量，因此即使密度被错误设定，基于极大似然值的预测也可能是合理的。

例 4.2.4（厚尾指数族的拟极大似然估计）。 例 4.1.2 表明，在 lin-lin 损失下，相关分位数的 M 估计量提供了预测模型的估计量。Komunjer (2005) 研究了厚尾指数族的 QMLE，其伪密度形式为

$$p_t^{\alpha }(y,\eta )=\exp \left[-(1-\alpha )(b(y)-a(\eta ))1(y\le \eta )+\alpha (b(y)-a(\eta ))1(y>\eta )\right],$$

其中 $\eta$ 是条件分位数的模型。当厚尾指数是偏态拉普拉斯（双指数）密度时，厚尾指数族 QMLE 与传统的分位数回归估计量一致。令 $b(y)=y$ 且 $a(\eta )=\eta ={\beta }^{\prime }z$，则得到一个似然函数，该似然函数是基于对数函数的 M 估计量的保序变换。由 Komunjer 的结果可知，QMLE 在线性模型中提供了最佳预测。

像前面例子中的等价性结果并不能更普遍地成立。相反，基于最大似然估计的预测与最小化损失函数的预测会有所不同。在合理条件下，基于正确损失函数的预测具有如下性质——至少在足够大的样本中——给定损失函数和预测模型，它们产生的损失近似为可能达到的最小值。因此，我们通常预期基于正确损失函数的预测要优于基于最大似然估计的预测。在小样本中，效率问题可能更为突出，并且基于效用或损失的估计量可能比基于最大似然估计的估计量对异常值更为敏感，从而可能导致更差的有限样本表现。这一问题需要在每个具体情况下分别加以评估。

另一种在预测者损失函数以外的目标函数下估计参数的情况是：尽管预测者具有不同的损失函数（例如平均绝对误差损失），或者可能对预测数据的转折点感兴趣，但仍采用了标准的计量经济学方法（如最小二乘估计）。事实上，关于转折点预测的大量文献常在 logit 或 probit 模型的框架下考察预测；参见，例如，Chauvet 和 Potter（2005）。由 ${\beta }^{\ast }$ 对不同损失函数有所不同这一事实（参见第 3 章中的例子）可直接推出：这种方法很容易导致预测模型无法实现收敛到给定 ${\beta }^{\ast }$ 下的平均期望损失的平均损失。进一步的讨论和例子，请参见 Weiss（1996）。

例 4.2.5（绝对误差损失下的最小二乘估计）。 假设在绝对误差损失函数下采用最小二乘估计来生成预测：

$$(T-1{)}^{-1}\sum _{t=1}^{T-1}|y_{t+1}-{\hat{\beta }}_{\mathrm{ols}}^{\prime }{x}_t{|}^{p}E[|Y-f(Z,{\beta }_{\mathrm{ols}}^{\ast })|]\ge E[|Y-f(Z,{\beta }^{\ast })|],\text{\hspace{1em}(4.9)}$$

其中 ${\beta }^{\ast }=\arg {\min }_{\beta }$ $E_Y[|Y-f(Z,\beta )|]$。当条件均值与条件中位数相等时，例如当 $Y$ 在给定 $X$ 条件下的分布为对称分布时，(4.9) 中的等号成立。然而，对于偏态或非对称分布，期望损失的相等性未必成立。