不基于期望损失的损失函数

2.1.4 非基于期望损失的损失函数

到目前为止,我们已经针对单变量结果刻画了损失函数 $L(f,Y)$ 的特征,并参照"一次性"问题定义了它的性质。当预测被置于决策论或效用最大化的框架中时,这种做法是合理的。从最初建立问题到定义期望损失、进行模型估计和预测评估,这种预测方法在内部是一致的。

实践中使用的一些损失函数直接基于样本统计量,而没有将样本损失与总体损失函数联系起来。在总体损失函数存在且满足合理性质的情况下,这不会产生任何问题。然而,直接基于损失样本来构建损失函数有时会产生在总体上或在完全指定的决策问题中没有意义的损失函数。无法映射回决策问题的损失函数往往具有不良的、非预期的性质。下面我们考虑一个这样的例子。

例 2.1.2 (二元结果的 Kuipers 评分)。设 $f=\{1,-1\}$ 是二元变量 $y=\{1,-1\}$ 的预测,设 $n_{j,k},j,k\in \{-1,1\}$ 是预测等于 $j$ 且结果等于 $k$ 的观测次数。Kuipers 评分由下式给出:

$$\frac{n_{1,1}}{n_{1,1}+n_{-1,1}}-\frac{n_{1,-1}}{n_{1,-1}+n_{-1,-1}}.\text{\hspace{1em}(2.9)}$$

这是正命中率,即正确预测 $\gamma =1$ 的比例,减去"假正例率",即错误预测 $\gamma =1$ 的比例。这也可以等价地表示为

$$\mathrm{KuS}=\frac{n_{1,1}}{n_{1,1}+n_{-1,1}}+\frac{n_{-1,-1}}{n_{1,-1}+n_{-1,-1}}-1,\text{\hspace{1em}(2.10)}$$

即 $y=1$ 的命中率加上 $y=-1$ 的命中率再减去一个值为 1 的中心化常数。当正命中率和负命中率之和超过 1 时,Kuipers 评分为正。对于只有一个观测的样本,这个定义没有意义,因为式 (2.10) 中有一个分母为 0:要么 $n_{1,1}+n_{-1,1}=0$,要么 $n_{1,-1}+n_{-1,-1}=0$。

对于单个观测,这个样本统计量并不来源于任何明显的损失函数。式 (2.10) 中的第一项是 $P[f=1|Y=1]$ 的样本类比,第二项是 $P[f=-1|Y=-1]$ 的样本类比。然而,它们并不组合成具有此样本类比的损失函数。无法将损失函数嵌入期望损失框架导致该目标函数具有奇特的性质。例如,式 (2.9) 中 KuS 的定义意味着,一次额外"命中"(即一次正确判断)的边际价值取决于命中的样本比例。为了看清这一点,考虑通过增加一个成功预测的观测 $y=1,f=1$ 所带来的 KuS 改善。

命中率的相应改善为

$$\begin{array}{r}\Delta \mathrm{KuS}=\frac{n_{1,1}+1}{n_{1,1}+1+n_{-1,1}}-\frac{n_{1,1}}{n_{1,1}+n_{-1,1}}\\ =\frac{n_{-1,1}}{(n_{1,1}+n_{-1,1})(n_{1,1}+1+n_{-1,1})}.\end{array}$$

因此,一次正确判断的边际价值取决于观测的总数以及新观测之前的漏判比例。Kuipers 评分的这些不良性质源于其设置缺乏对总体问题的合理性论证。

2.2 具体的损失函数

接下来我们回顾预测文献中提出的各种损失函数族。绝大多数关于预测的实证工作假定损失函数仅依赖于预测误差 $e=Y-f$,即结果与预测之差。在这种情况下,我们可以写成 $L(f,Y,Z)=L(e)$。一般来说,损失函数可以是结果和预测的更复杂的函数,形式为 $L(f,Y)$ 或 $L(f,Y,Z)$。

2.2.1 仅依赖于预测误差的损失

最常用的损失函数,包括平方误差损失和绝对误差损失,仅依赖于预测误差。对于这样的损失函数,$L(f,Y,Z)=L(e)$,所以损失函数具有特别简单的形式。

2.2.1.1 平方误差损失

迄今为止,实证研究中最流行的损失函数是平方误差损失,也称为二次损失或均方误差 (MSE) 损失:

$$L(e)=a{e}^2,a>0.\text{\hspace{1em}(2.11)}$$

该损失函数显然满足式 (2.3) 中列出的三个 Granger 性质。当被视为损失函数族(对应于标量 $a$ 的不同取值)时,平方误差损失构成一个同质类。${}^{[7]}$ 它是对称的、碗形的,且处处可微,并由于其关于 $|e|$ 的凸性而以递增的速率惩罚较大的预测误差。该损失函数在数值上是无上界的。因此,在该损失函数下,较大的预测误差或"异常值"代价非常高。