9.3.1 贝叶斯估计

9.3.1 贝叶斯估计

假设 $u_t\sim$ ind $\mathrm{N}(0,\Sigma )$，则 $y_t$ 具有密度 $f(y_t|Y_{t-1},\theta )=N(y_t;z_{t-1}^{\prime }\beta ,\Sigma )$，其中 $\beta =(c,A_1,\dots ,A_p{)}^{\prime }$，$z_{t-1}=(1,y_{t-1}^{\prime },\dots ,y_{t-p}^{\prime }{)}^{\prime }$，$Y_{t-1}=\{y_{\tau }\}$，$\tau =1,\dots ,t-1$。Y 的似然函数可以写为

$$\mathcal{L}(Y|\beta ,\Sigma )=\frac{1}{(2\pi {)}^{nT/2}}|\Sigma {|}^{-T/2}\exp \left(\frac{-1}{2}\mathrm{tr}\left[{\Sigma }^{-1}(Y-Z\beta {)}^{\prime }(Y-Z\beta )\right]\right),$$

其中 Y 和 $Z$ 在上文中定义。假设 $\beta$ 具有均匀先验、$\Sigma$ 具有无信息（弥散）Jeffrey 先验，则

$$p(\beta ,\Sigma )\propto |\Sigma {|}^{-(n+1)/2}.$$

在给定截至时间 T 的数据条件下，

$$\Sigma |Y_T\sim {\mathrm{iW}}_n(S,T-np-1),$$

其中 ${\mathrm{iW}}_n$ 表示逆 Wishart 分布，$S=(Y-Z\hat{\beta }{)}^{\prime }(Y-Z\hat{\beta })$，$\hat{\beta }=(Z^{\prime }Z{)}^{-1}{Z}^{\prime }Y$ 是 OLS 估计量。

在给定 $\Sigma$ 和 $Y_T$ 的条件下，$\beta$ 服从正态分布，

$$\begin{array}{r}\mathrm{vec}(\beta )|Y_T,\Sigma \sim \mathrm{N}(\hat{\beta },\Sigma \otimes (Z^{\prime }Z{)}^{-1}).\end{array}$$

将上述先验与似然函数相结合，后验分布 $\beta |Y_T$ 服从 t 分布，其均值为 $\mathrm{vec}(\hat{\beta })$，方差正比于 $S\otimes (Z^{\prime }Z{)}^{-1}$，自由度为 $T-np-1$。因此，仅在数据条件下 $\beta$ 的边际后验服从 t 分布。

这些结果对预测分布有何含义？在单期预测步长 $h=1$ 时，有

$$y_{T+1}=c+A_1{y}_T+A_2{y}_{T-1}+\cdots +A_p{y}_{T-p+1}+u_{T+1},$$

该式同样服从 t 分布。对于 $h=2$，有

$$\begin{array}{l}{y}_{T+2}=(A_1^2+A_2)y_T+(A_2{A}_1+A_3)y_{T-1}+\cdots +(A_{p-1}{A}_1+A_p)y_{T-p+2}\\ +A_p{A}_1{y}_{T-p+1}+A_{1}c+c+A_1{u}_{T+1}+u_{T+2}.\end{array}$$

这是参数的非线性函数，因此当 $h\ge 2$ 时，$y_{T+h}$ 的密度没有闭式表达式。幸运的是，该模型很容易生成样本外预测。遵循（Karlsson, 2013, 算法 1），其过程如下。为了进行第 j 次抽样，首先使用逆 Wishart 分布从 ${\Sigma }^j|Y_T$ 生成一个值。其次，在给定 $Y_T$ 和 ${\Sigma }^j$ 的条件下，从正态分布中抽取 ${\beta }^j$。第三，从独立分布 $u_{t+i}^j\sim \mathrm{N}(0,{\Sigma }^j)$ 中抽取 $u_{T+1}^j,\dots ,u_{T+h}^j$。然后将这些抽样值与参数抽样值 ${\Sigma }^j$、${\beta }^j$ 一起用于迭代生成 $y$ 的样本外值的一次抽样，

$$y_{T+h}^j=c^j+\sum _{i=1}^p{A}_i^j{y}_{T+h-i}^j+u_{T+h}^j,$$

其中当 $i\ge h$ 时，$y_{T+h-i}^j=y_{T+h-i}$。重复上述步骤 J 次，可以得到后验预测分布的抽样集合 $\{y_{T+1}^j,\dots ,y_{T+h}^j\}$，$j=1,\dots ,J$。这些抽样值可进一步用于计算诸如均值预测等统计量，

$${\bar{y}}_{T+h}=J^{-1}\sum _{j=1}^J{y}_{T+h}^j,$$

该式最小化二次损失函数。使用这种方法，我们还可以构建后验预测分布的统计量，例如后验预测方差或 $(1-\alpha )\%$ 区间预测。