状态空间时间序列模型

形式陈述

状态空间时间序列模型用隐藏状态过程 $(\alpha_t)$ 生成观测 $(Y_t)$ 。在标准 Borel 状态与观测空间上，给定初始分布 $\pi_0$ 、转移条件核 $K_t(\alpha_{t-1},d\alpha_t)$ 与观测核 $G_t(\alpha_t,dy_t)$ 。状态满足 Markov 递推，且给定当前状态后， $Y_t$ 与其他状态和观测条件独立。联合律由迭代核积给出

\pi_0(d\alpha_0)\prod_{t=1}^n K_t(\alpha_{t-1},d\alpha_t)G_t(\alpha_t,dy_t).

若这些核具有相应的密度或离散质量函数，可写成

p(\alpha_{0:n},y_{1:n}) =p(\alpha_0)\prod_{t=1}^n p(\alpha_t\mid\alpha_{t-1})p(y_t\mid\alpha_t).

一个常用的可计算子类以联合高斯初态与扰动构成线性高斯模型。矩阵 $T_t$ 推进状态， $Z_t$ 把状态转换为可观测量； $c_t,d_t$ 是已知偏移， $R_t$ 决定过程扰动进入哪些状态坐标。其形式为

\alpha_t=T_t\alpha_{t-1}+c_t+R_t\eta_t, \qquad Y_t=Z_t\alpha_t+d_t+\varepsilon_t,

其中过程扰动 $\eta_t\sim N(0,Q_t)$ 、观测扰动 $\varepsilon_t\sim N(0,H_t)$ 跨期且彼此独立， $\alpha_0\sim N(a_0,P_0)$ 并与全部扰动独立。当 $Q_t,H_t$ 不随时间改变时，两列扰动是向量版白噪声过程；一般时变情形则是独立但异方差的高斯扰动序列，不能按恒定方差的白噪声定义称呼。一般状态空间模型可以非线性、非高斯，只有上述子类拥有标准 Kalman 递推的精确有限维高斯闭包。

直觉

状态是对预测未来而言足够的动态摘要。过去的全部影响先压入 $\alpha_t$ ，观测再以噪声方式读取它；于是长程观测依赖通过低维 Markov 状态传递。状态可以是不可直接观测的水平、趋势、季节分量或物理位置，而不必与 $Y_t$ 同维、同单位，也不必具有单独可解释性。

同一观测过程可以有多种状态表示。例如给状态添加一个既不影响其他坐标、也不进入观测方程的坐标，观测似然完全不变。在线性定常系统中，可观测性考察不同初始状态是否能由已知输入下的无噪声输出区分；可控性或可达性考察输入能否激发各状态方向。所链接两页给出连续时间常系数模型的秩与 Gramian 证明；本页的离散随机模型须使用自己的转移矩阵、噪声与采样条件，不能直接套用连续时间积分。它们用于分析表示是否有冗余，但不等同于未知参数能否由观测分布唯一确定的统计识别问题。

这些性质也不是写出状态空间模型的先决条件。模型即使含不可观测方向，仍可定义联合分布和做条件推断，只是数据不会消除那些方向的不确定性。“把所有历史塞进状态”同样可行，却失去压缩的价值。过滤、预测和平滑是在给定模型上求不同条件分布的任务。

例子与边界

标量局部水平模型取

\alpha_t=\alpha_{t-1}+\eta_t, \qquad Y_t=\alpha_t+\varepsilon_t,

其中 $\alpha_0\sim N(10,4)$ 、 $\operatorname{Var}(\eta_t)=1$ 、 $\operatorname{Var}(\varepsilon_t)=4$ 。因此先验下 $\operatorname{Var}(\alpha_1)=5$ 、 $\operatorname{Var}(\alpha_2)=6$ ，而

\operatorname{Var}(Y_1)=5+4=9, \quad \operatorname{Var}(Y_2)=6+4=10, \quad \operatorname{Cov}(Y_1,Y_2)=\operatorname{Var}(\alpha_1)=5.

共同的隐藏水平使观测相关，观测噪声只增加各自主对角方差。看到 $Y_1=12$ 后，Kalman 滤波器先比较预测误差 $12-10=2$ 与两种噪声的尺度：状态预测方差为 $5$ ，观测预测方差为 $9$ ，所以增益为 $K_1=5/9$ 。更新得到

E(\alpha_1\mid Y_1=12)=10+\frac59(12-10)=\frac{100}{9}, \qquad \operatorname{Var}(\alpha_1\mid Y_1)=5-\frac{25}{9}=\frac{20}{9}.

下一期预测均值仍为 $100/9$ ，状态方差增加过程噪声后成为 $29/9$ 。测量让我们更确定当前水平，状态演化又带来新的不确定性；这两个步骤不能互相替代。

过程方差 $Q=0$ 时，状态按已知递推演化，所有不确定性来自初值和测量；观测方差 $H=0$ 时，若 $Z$ 可逆则状态被无噪声读出。两者都为零可能导致奇异预测协方差，普通密度公式失效。短序列中较大的 $Q$ 与较大的 $H$ 可能产生相似粗糙度，却含义相反；模型错设或弱识别不能靠滤波递推本身修复。

推论与应用

过滤求 $p(\alpha_t\mid y_{1:t})$ ，一步预测求 $p(\alpha_{t+1}\mid y_{1:t})$ ，平滑则利用未来观测求 $p(\alpha_t\mid y_{1:n})$ 。线性高斯情形由 Kalman 滤波与平滑精确递推，并可累积预测误差密度计算似然。非线性或非高斯模型可用扩展/无迹近似、网格或粒子方法，但这些算法引入各自近似条件，不改变原模型的条件独立结构。

ARMA、结构时间序列、动态回归和缺失观测可放进统一状态表示；要建立状态空间表示与某个 ARMA 表示之间的对应，还须指定维数与最小性、初始化以及噪声假设。初始化尤其关键：稳定状态可用平稳协方差，随机游走水平需弥散或显式先验。错误地用固定小方差初始化，会让早期滤波过度自信并扭曲似然。

参考资料

Aditya Guntuboyina, STAT 248 — Analysis of Time Series: Full Lecture Notes, UC Berkeley，2022，§§1.1、5.2、6.2，状态空间定义与 Kalman 递推。
James Durbin and Siem Jan Koopman, Time Series Analysis by State Space Methods, 2nd ed., Oxford University Press, 2012，Chs. 2–3，state-space formulation and linear Gaussian models。
Robert H. Shumway and David S. Stoffer, Time Series Analysis and Its Applications, 4th ed., Springer, 2017，Ch. 6，state-space models and dynamic linear models。
Andrew C. Harvey, Forecasting, Structural Time Series Models and the Kalman Filter, Cambridge University Press, 1989，Chs. 2–3，structural state-space modeling。

形式陈述 ​

反向链接

形式陈述