A.1.1 基本设定

A.1.1 基本设定

基本构建模块被称为状态空间形式的模型。这假设模型可以写成关于状态的一阶向量自回归，以及一个将观测数据（y）与状态（ξ）相关联的方程。回顾7.2.1节，基本模型包含一个状态方程，

$${\xi }_t=F{\xi }_{t-1}+v_t,\text{\hspace{1em}(A.1)}$$

和一个观测方程，

$$y_t=H{\xi }_t+w_t,\text{\hspace{1em}(A.2)}$$

其中误差项彼此之间无序列相关且相互不相关：

$$E\left[\left(\begin{array}{l}{v}_t\\ w_t\end{array}\right)\left(\begin{array}{ll}{v}_t^{\prime }& w_t^{\prime }\end{array}\right)\right]=\left(\begin{array}{ll}Q& 0\\ 0& R\end{array}\right).\text{\hspace{1em}(A.3)}$$

这里 $y_t$ 表示观测值，而状态 ${\xi }_t$ 既可以是可观测的，也可以是不可观测的。基本设定可以推广为允许模型参数 F、H、Q 和 R 随时间变化。

状态空间形式是书写许多模型的一种灵活方式。例如，AR(1) 模型，

$$y_t=\rho y_{t-1}+{\epsilon }_t,\text{\hspace{1em}(A.4)}$$

可以写成状态空间形式：

$$\begin{array}{l}{\xi }_t=\rho {\xi }_{t-1}+{\epsilon }_t,\\ {\gamma }_t={\xi }_t,\end{array}$$

其中 $F=\rho$ , $H=1$ , $Q={\sigma }_{\epsilon }^2$ , $R=0$ 。类似地，AR(2) 模型，

$$y_t={\rho }_1{y}_{t-1}+{\rho }_2{y}_{t-2}+{\epsilon }_t\text{\hspace{1em}(A.5)}$$

可以写成状态空间形式：

$$\begin{array}{rlr}{\left({\xi }_{1t}\right)}_L=\left(\begin{array}{cc}{\rho }_1& {\rho }_2\\ 1& 0\end{array}\right)\left(\begin{array}{c}{\xi }_{1t-1}\\ {\xi }_{2t-1}\end{array}\right)+\left(\begin{array}{c}1\\ 0\end{array}\right){\epsilon }_t,& & \\ y_t={\xi }_{1t},& & \end{array}$$

参数的选择显而易见。由于 ${\xi }_{2t}={\xi }_{1t-1}=y_{t-1}$ ，因此 ${\xi }_{2t-1}=y_{t-2}$ 。

作为第三个例子，MA(1) 模型，

$$y_t={\epsilon }_t+\theta {\epsilon }_{t-1},\text{\hspace{1em}(A.6)}$$

可以写成状态空间形式：

$$\begin{array}{rl}\left(\begin{array}{l}{\xi }_{1t}\\ {\xi }_{2t}\end{array}\right)=\left(\begin{array}{ll}0& 0\\ 1& 0\end{array}\right)\left(\begin{array}{l}{\xi }_{1t-1}\\ {\xi }_{2t-1}\end{array}\right)+\left(\begin{array}{l}1\\ 0\end{array}\right){\epsilon }_t,& \\ y_t=\left(\begin{array}{ll}1& \theta \end{array}\right)\left(\begin{array}{l}{\xi }_{1t}\\ {\xi }_{2t}\end{array}\right).& \end{array}$$

在这种情况下，状态（${\epsilon }_t$）通常是不可观测的。某些模型可以有多种表示形式，但它们在差一个归一化的意义上是相同的。

作为多元模型的一个例子，考虑 VAR(2)，

$$y_t=A_1{y}_{t-1}+A_2{y}_{t-2}+{\epsilon }_t,\text{\hspace{1em}(A.7)}$$

其中 $y_t$ 和 ${\epsilon }_t$ 是 $(n\times 1)$ 向量，$A_i$ 是 $(n\times n)$ 矩阵，$i=1,2$ 。使用伴随形式或状态空间形式，我们可以将其重写为一阶矩阵自回归模型：

$$\begin{array}{rl}& \left(\begin{array}{c}{\xi }_{1t}\\ {\xi }_{2t}\end{array}\right)=\left(\begin{array}{cc}{A}_1& A_2\\ I_n& 0\end{array}\right)\left(\begin{array}{c}{\xi }_{1t-1}\\ {\xi }_{2t-1}\end{array}\right)+\left(\begin{array}{c}{I}_n\\ 0\end{array}\right){\epsilon }_t,\\ & {\gamma }_t={\xi }_{1t}.\end{array}$$

作为最后一个例子，不可观测成分模型，

$${\xi }_t={\xi }_{t-1}+v_t,\text{\hspace{1em}(A.8)}$$

$$y_t={\xi }_t+w_t,$$

已经处于状态空间形式。在这个例子中，状态同样是不可观测的。

卡尔曼滤波的流行和有用性可由两个原因解释。首先，状态方程 (A.1) 呈 AR(1) 形式，便于向前迭代。具体而言，状态的 h 步向前预测由下式给出：

$$E_t[{\xi }_{t+h}]=F^h{\xi }_t.\text{\hspace{1em}(A.9)}$$

从计算的角度来看，这极大地简化了问题。

其次，通过新到达的信息更新卡尔曼滤波很容易，且仅依赖于前两阶矩，本质上归结为最小二乘（投影）方法。为了建立这种类比，考虑二元正态分布，

$$\left(x_1\right)\sim \mathrm{N}\left[\left(\begin{array}{l}{\mu }_1\\ {\mu }_2\end{array}\right),\left(\begin{array}{ll}{\Sigma }_{11}& {\Sigma }_{12}\\ {\Sigma }_{21}& {\Sigma }_{22}\end{array}\right)\right].\text{\hspace{1em}(A.10)}$$

对变量进行旋转，我们得到等价的表示，

$$\left(\genfrac{}{}{0ex}{}{x_1-{\mu }_1}{x_2-{\mu }_2}\right)\sim \mathrm{N}\left[\left(\begin{array}{c}0\\ {\Sigma }_{12}^{\prime }{\Sigma }_{11}^{-1}\left(x_1-{\mu }_1\right)\end{array}\right),\left(\begin{array}{cc}{\Sigma }_{11}& 0\\ 0& {\Sigma }_{22}-{\Sigma }_{21}{\Sigma }_{11}^{-1}{\Sigma }_{21}\end{array}\right)\right].\text{\hspace{1em}(A.11)}$$

利用这种表示，很容易看出第二个变量的最优预测为

这既是条件均值，也是 OLS 回归的公式。去掉正态性假设后，(A.12) 变为最优线性预测器。