6.10 结论

6.10 结论

应用于预测问题时，模型选择程序应被视为更为复杂的估计量，而非预测模型构建中的独立步骤。模型选择只是扩大了在其中搜索最佳预测模型的函数集合。

这一观点与预测文献中对模型选择方法的常见描述形成对比。在许多情况下，可能会选择某组特定模型作为提供"最佳"预测的模型，并引入模型选择方法，仿佛它对原始分析没有影响。这种方法源于一致模型选择的概念，即可以忽略模型选择步骤，因为渐近地会以概率1选择正确的模型。然而，这种论点可能非常具有误导性。首先，它依赖于逐点论证，并不一致成立，即对于接近主导模型的未知"真实"参数值并不成立。其次，这些结果依赖于一个通常无效的假设，即在模型设定搜索所覆盖的集合中包含一个正确的真实或伪真实模型。

模型选择对风险函数的影响通常与参数估计的影响同阶。然而，风险函数通常很难通过解析方法加以考察。作为估计量来看，风险函数通常是底层数据非常复杂的函数，并且由于存在依赖于数据的指示函数，通常是非光滑的。

我们使用蒙特卡洛方法来考察模型选择对风险函数的一般影响。当某个模型明显优于其他模型时，它几乎总会被选中，因此模型选择方法的风险函数等同于该优势模型的风险函数，仿佛已知该模型是有效的。这解释了模型选择方法在应用工作中流行的原因。然而，天下没有免费的午餐——当没有单个模型明显优于所有其他模型时，模型选择方法所产生的风险函数是所有模型上概率加权的平均值。在这种情况下，在参数空间中通常存在一个区域，其中基于模型选择程序预测所相关的风险大于接近最优模型的任何模型的风险。这种情况通常具有很高的实证相关性，因为采用模型选择的统计技术正是因为模型难以区分，而非因为某个模型明显优于其他模型。

6.11 附录：信息准则的推导

本附录提供了对施瓦茨信息准则和赤池信息准则的推导。