12.2 二元结果的密度预测

12.2 二元结果的密度预测

如前所述，二元结果的分布完全由其均值描述，因此密度估计和均值估计实际上是同一个估计问题。因此，对于0–1结果，最常见的预测形式是对Y = 1的条件概率的估计，即 $p(z)=E[Y|Z=z]$。

使用均方误差(MSE)损失的预测者也可能关注通过选取 $f(Z)$ 构造的Y = 1的条件概率：

$$p^{\ast }(Z)=\arg \underset{p(Z)}{\min }E[(Y-p(Z){)}^2|Z],$$

其解为条件均值 $p^{\ast }(Z)=E[Y|Z]$。这只是第3章关于伯努利分布结果的一个特例。对于0–1情形，密度预测与条件均值预测完全相同。

12.2.1 参数化密度预测模型

Y的条件均值的参数化模型非常流行，因为只要它们是数据的非线性函数，就可以构造出概率落在0–1区间内的模型。最常用的方法是probit模型和logit模型。截断在0和1之间的线性模型也可以使用。

条件分布模型的参数估计需要某种形式的损失函数。通常我们选择第2章中回顾的严格恰当的评分规则。回顾一下，评分规则的形式为 $S(y,p)$，其中 $E[S(y,p)]$ 是有限的，并且当 $p$ 等于生成y的真实条件概率时取最大值。样本类比为：

$$Q_T(\beta )=\sum _{t=0}^{T-1}S(p(z_t,\beta ),y_{t+1}).$$

参数的样本估计 $\hat{\beta }$ 由下式给出：

$${\hat{\beta }}_T=\arg \underset{\beta \in B}{\max }\sum _{t=0}^{T-1}S(p(z_t,\beta ),y_{t+1}).$$

Logit和probit模型通常使用指数模型通过最大似然（对数评分规则）方法进行估计。给定Y = 1概率的参数化函数 $p(z_t^{\prime }\beta )$ 以及一步前向预测模型，该方法通过选择 $\beta$ 来最大化：

$$Q_T(\beta )=\frac{1}{T}\sum _{t=0}^{T-1}\left(y_{t+1}\ln p(z_t^{\prime }\beta )+(1-y_{t+1})\ln (1-p(z_t^{\prime }\beta ))\right).\text{\hspace{1em}(12.9)}$$

线性指数模型的probit设定为：

$$p(z_t^{\prime }\beta )=\Phi (z_t^{\prime }\beta ),\text{\hspace{1em}(12.10)}$$

其中 $\Phi (\cdot )$ 是正态分布的累积分布函数；logit模型设定为：

$$p(z_t^{\prime }\beta )=\frac{\exp (z_t^{\prime }\beta )}{1+\exp (z_t^{\prime }\beta )}.\text{\hspace{1em}(12.11)}$$

这些设定之间的选择通常源于某个背景模型 $y_{t+1}^{\ast }=z_t^{\prime }\beta +{\epsilon }_{t+1}$，其中 $y_{t+1}^{\ast }$ 不可观测，而指示变量 $y_{t+1}=1(y_{t+1}^{\ast }>0)$ 可观测。probit或logit模型（或其他设定）随后源于对 ${\epsilon }_{t+1}$ 的分布假设；参见Maddala (1986) 的综述。

在数据生成过程的假设下，可以为使用不同模型和评分规则对条件概率(12.7)的估计建立一般性质。如果数据严格平稳且行为足够良好，则 $\hat{\beta }\to {\beta }^{\ast }=\arg {\max }_{\beta \in B}E[S(y_{t+1},p(z_t,\beta ))]$。这些结果依赖于大数定律的不同证明，Elliott、Ghanem和Krüger (2014) 给出了一个例子。如果数据是协方差平稳而非严格平稳的，估计量仍可能收敛到最小化平均期望损失的值 $\hat{\beta }\to {\beta }^{\ast }=\arg {\max }_{\beta \in B}{\sum }_{t=0}^{T-1}E[S(y_{t+1},p(z_t,\beta ))]$。使用严格恰当的评分规则是保证识别性的必要条件。de Jong和Woutersen (2011) 给出了加入y（为二元变量）滞后值的probit模型的一致性结果。

对于所有严格恰当的评分规则，只要模型被正确设定，$p(z_t,{\beta }^{\ast })$ 就是真实条件概率。无论使用何种评分规则，可知在足够大的样本中预测结果应该是相似的。因此，只要评分规则是严格恰当的，就没有太多理由在它们之间进行选择。然而，对数评分规则能产生 $\beta$ 的有效估计，因为它本身就是最大似然目标函数，因此在有限样本中将是首选的评分规则。

正确设定条件概率是一个强假设，除非有良好的经济理论指导模型选择，否则难以令人信服。如果模型未能正确设定，${\beta }^{\ast }$ 将依赖于所选择的评分规则。12.1节研究了评分规则如何通过对不同效用函数加权推导而来。随着加权平均效用函数的变化，最大化它们的近似模型也会随之变化。因此，评分规则的选择取决于这些效用函数的加权方案中哪一种与当前问题最为相关。

二元变量的多步预测与第7章讨论的一样，在构建预测时需要选择直接法或迭代法。直接方法使用如下似然函数：

$$Q_T(\beta )=\frac{1}{T-h}\sum _{t=0}^{T-h}(y_{t+h}\ln p(z_t^{\prime }\beta )+(1-y_{t+h})\ln (1-p(z_t^{\prime }\beta ))),\text{\hspace{1em}(12.12)}$$

因此预测计算较为直接。迭代预测则需要对 $y_{t+1},\dots ,y_{t+h}$ 的多条路径取期望。Kauppi 和 Saikkonen（2008）指出，由于 $\mathbf{y}$ 具有二元性质，这类计算比一般情形更为简单，并给出了构建迭代预测的（特定模型的）公式。正如第9章所述，当模型存在误设时，直接方法更有可能产生更好的预测。

在使用 probit 或 logit 等参数设定来对条件概率建模时，通常选择极大似然（对数评分）作为目标函数。例如 Estrella 和 Mishkin（1998）以及 Wright（2006）使用 probit 模型结合各种金融变量来预测衰退。