正在学习

16.3.1 平方误差损失下 West 的结果

16.3.1 平方误差损失下的 West 结果

West 定理中的条件 (1)–(5) 可能看起来比较抽象,难以验证。为了使该结果更易于理解,我们接下来讨论在平方误差损失下、基于线性回归模型的单变量预测这一常见情形中的 West 定理,即 ,其参数通过递推 OLS 进行估计。West 定理中的假设 (1) 涉及损失函数和构造预测的方法。在平方误差损失下,并假设

于是

这表明损失是二次可微的。

转向 West 定理中的第二个假设,在扩展窗口下得到的参数估计量 具有如下形式:

该情形由假设 (2) 涵盖,其中 的方差—协方差矩阵的逆矩阵,因此在对 的相对温和条件下收敛于极限 。剩下需要定义 ,其中对 的依赖是显式的。我们将 定义为 的线性投影,因此根据构造 。如果回归变量是非平稳的, 将不会收敛到 ,因此假设 (2) 排除了这种情形。

West 定理中的假设 (3) 是一个平滑性条件。在本例中,二阶导数不依赖于参数,因此在对回归变量的假设下,该假设直接成立。假设 (4) 对回归变量和预测误差施加了有限的相依性和矩限制,这在 DGP 的弱假设下同样成立。例如,在 为协方差平稳的非常常见的情形下,这些条件成立,定理适用。

West 定理表明,在 的特殊情形下,样本均值的协方差矩阵可以用通常的谱密度估计来近似,在构造估计量时忽略抽样变异。当用于构造预测的训练(估计)样本 远超样本外预测期 ,从而 时,就会出现这样一种特殊情形。直观上,参数估计误差在这种情况下不重要,这说得通。

第二种特殊情形则不那么明显。在平方误差损失下,预测的生成使得预测误差与预测变量不相关,因此

于是通常的渐近结果适用。均方误差损失与基于线性回归模型的预测这一组合在应用研究中非常流行。对于这种配对,即使在实践中并不常见,计算期望损失的标准误也是直接了当的。只需将平方误差损失的时间序列视为原始数据,按通常方式计算均值和零频率处的谱密度(例如应用 Newey and West (1987) 或 Andrews (1991) 的方法),并报告相应的标准误即可。

在其他情形下,必须考虑参数估计中的抽样误差。事实上,当 (16.15) 中的第二项和第三项不为零时,通常的方差估计量是不一致的,因为它遗漏了结果中额外的两项。对于这些情形,West (1996) 提出了估计这些附加项的估计量。

我们接下来给出一个简单的例子,用以说明 West 定理中的各项。

例 16.3.1(在平方误差损失下用均值预测单变量 i.i.d. 变量)。设 ,并假设一步向前预测模型基于样本均值,

其中 。在平方误差损失下,。模型在这种情况下是正确设定的,因此 。在平方误差损失下,均值展开是精确的。利用

因此 (16.15) 中的三项为

个样本外观测值求平均,我们得到

其中第一项是不存在关于 的不确定性时的平均损失。参数不确定性的贡献来自剩余各项,并且会渐近地消失。

West 的结果排除了一些有趣的情形,这些情形中定理的假设不再成立。其中一种情形出现在以下情况中:考虑一个预测向量集,一个预测模型嵌套了其他模型,并且 。假设用于参数估计的训练样本很大,因此渐近近似将用于生成预测 的模型中的系数设定为其伪真实值 。对于小模型为真实模型的嵌套模型而言,这些参数值是相同的,因此两组预测相同,协方差矩阵将是奇异的。这被 West 定理中的假设 (4) 所排除,因为假设 是非奇异的。在评估单一预测时这种情况无关紧要,但在下一章描述的多个预测的比较中变得重要。

在某些情况下,损失函数不是二阶可微的。不满足此性质的损失函数例子包括 MAE、lin-lin 和非对称二次损失函数,它们在单一点处不可微。在某种程度上,这一要求反映了 West (1996) 中的证明,该证明假设损失函数二阶连续可微,以便应用二阶均值定理。事实上,还有其他证明方法可用。McCracken (2000) 用一个平滑性条件放宽了可微性条件,该条件要求期望损失(或损失之差)在参数估计的概率极限附近连续可微,同时保持与 West (1996) 中类似的其他条件。其他损失函数,例如二元预测损失函数(参见第 2 章)以及依赖离散行动的利润函数,无法以这种方式处理,需要采用单独的方法来建立期望损失的一致性、其收敛速度,以及期望损失渐近正态的条件。

练习题

在平方误差损失下,损失函数关于的一阶导数是什么?

A.
B.
C.
D.

在扩展窗口下得到的参数估计 的形式是什么?

A.
B.
C.
D.

关于韦斯特定理中的,以下哪些说法是正确的?

A.
B. 的方差-协方差矩阵
C. 满足温和条件时收敛于
D. 的方差-协方差矩阵的逆

的定义为,并且根据构造

韦斯特定理中的假设(3)要求损失函数不可微。

在平方误差损失下,损失函数关于的二阶导数为___。

的特殊情况下,样本均值的协方差矩阵可由___近似。

解释为什么在平方误差损失下,预测误差与预测变量不相关。

以下哪些是韦斯特定理中的假设?

A. 损失函数二阶可导。
B. 参数估计可写为满秩矩型估计量。
C. 二阶导数有界。
D. 预测误差总是为正。

当训练样本远超样本外期间()时,这一特殊情况有何影响?

在平方误差损失下的韦斯特定理背景下,关于在扩展窗口下得到的参数估计 ,以下哪个陈述是正确的?

A.
B.
C.
D.

在考虑平方误差损失和具有递归普通最小二乘法(OLS)参数估计的线性回归模型时,以下哪些是韦斯特定理中相关的假设?

A. 损失函数附近的一个邻域内是二阶可微的
B. 估计量可以写成满秩矩估计量
C. 回归变量是非平稳的
D. 二阶导数是有界的
E. 在处求值的导数满足某些混合性、矩和平稳性条件

在平方误差损失下,如果预测的生成方式使得预测误差与预测变量不相关,则

在韦斯特定理中,当时,一种特殊情况是用于构建预测的训练(估计)样本远大于样本外期间,因此___。

登录后解锁笔记、知识点解析、AI 问答

立即登录