5.1.1 经验贝叶斯方法

5.1.1 经验贝叶斯方法

预测或预测分布通常依赖于所谓的超参数，这些超参数必须由预测者来选择。这一点在上述例子中的点预测中可以很容易看出。例如，对于正态回归预测，我们必须选择超参数 ${\beta }_0$ 和 ${\Sigma }_0$ 来构建预测 ${\tilde{\beta }}^{\prime }{x}_T$。在经验贝叶斯方法中，超参数以与模型一致的方式从数据中估计出来，而不是由预测者强行设定。

典型的经验贝叶斯方法是使用通过积分先验密度得到的（观测）数据的边际密度，即 $m(z)=$ $\int pz(z|\theta )\pi (\theta )d\theta$。由于这是 $\pi (\theta )$ 中超参数的函数，因此它将生成观测数据 $z_t$ 的分布与超参数联系起来。因此，对于许多问题，超参数可以以一种简单直观的方式从观测数据中估计出来。

经济学或金融学中使用所谓 g-先验的经验应用，通常涉及基于数据估计超参数和先验，然后确定先验的"强度"，将其作为当前数据样本中可用信息的某个比例。关于具有许多预测变量的预测模型背景下参数和非参数经验贝叶斯方法的讨论，请参见 Stock 和 Watson (2006)。

5.1.2 预测分布的贝叶斯建模

预测分布 $p_Y(y_{T+1}|Z_T)$ 的构建，即我们希望预测的变量仅在当前数据 $Z_t=\{Y_t,X_t\},t=1,...,T.$ 条件下的后验分布，是贝叶斯预测中的主要研究对象。在为 $\theta ,\pi (\theta |Z_T)$ 构建后验密度之后，预测密度是积分掉未知参数后 y 的平均密度。形式上，我们有

$$p_y^p(y_{T+1}|Z_T)=\int p_y(y_{T+1}|\theta ,Z_T)\pi (\theta |Z_T)d\theta .$$

对此的一个说明是例 5.1.1 中的结果，其中对于 i.i.d. 正态情形，预测密度是一个正态分布，其均值等于后验均值，方差等于 ${\gamma }_t$ 的方差加上均值后验方差之和。

正如在经典情形中一样，模型参数的不确定性会导致更大的风险和对预测位置的更低确定性。在前面的例子中，这表现为方差严格大于均值已知时的方差。

预测的构建方式取决于 (5.7) 中积分计算的难度以及后验构建本身的难度（后验构建本身也需要计算积分）。在有意义的预测问题中，封闭形式的解很少出现，因此预测分布是使用可针对具体问题定制的数值方法计算的。