Kalman 滤波器 | Codeboy's Blog

形式陈述

\alpha_t=T_t\alpha_{t-1}+c_t+R_t\eta_t, \qquad y_t=Z_t\alpha_t+d_t+\epsilon_t.

状态 $\alpha_t\in\mathbb R^k$ 不直接观测， $y_t\in\mathbb R^r$ 是测量值； $T_t$ 传播状态， $Z_t$ 把状态映射为观测， $c_t,d_t$ 是已知偏移。设 $\eta_t\sim N(0,Q_t)$ 、 $\epsilon_t\sim N(0,H_t)$ 跨期且彼此独立，并独立于 $\alpha_0\sim N(m_0,C_0)$ ； $R_t$ 将过程噪声映射到状态坐标。矩阵及初值是算法输入，遍历有限序列 $y_{1:n}$ 后输出每期过滤均值和协方差。

设上一步过滤分布为 $\alpha_{t-1}\mid y_{1:t-1}\sim N(m_{t-1},C_{t-1})$ 。预测步骤为

a_t=T_tm_{t-1}+c_t, \qquad P_t=T_tC_{t-1}T_t^{\mathsf T}+R_tQ_tR_t^{\mathsf T}.

观测到 $y_t$ 后，创新、创新协方差与 Kalman 增益为

v_t=y_t-d_t-Z_ta_t, \quad F_t=Z_tP_tZ_t^{\mathsf T}+H_t, \quad K_t=P_tZ_t^{\mathsf T}F_t^{-1}.

若 $F_t$ 可逆，更新为

m_t=a_t+K_tv_t, \qquad C_t=P_t-K_tF_tK_t^{\mathsf T}.

在高斯假设下，这些量精确给出 $p(\alpha_t\mid y_{1:t})$ ；条件于 $y_{1:t-1}$ ，创新服从 $N(0,F_t)$ 。因此 $r$ 维完整观测的对数似然为

\ell=-\frac12\sum_{t=1}^n\left[r\log(2\pi)+\log\det F_t+v_t^{\mathsf T}F_t^{-1}v_t\right].

这来自联合密度的链式分解，而非把彼此相关的原始观测当作独立样本。仅有二阶矩和线性模型时，同一递推仍给最佳线性均方估计，但一般不等于完整条件期望，也不产生精确高斯后验。

直觉

增益公式可从条件协方差直接看出：预测下 $\operatorname{Cov}(\alpha_t,y_t\mid y_{1:t-1})=P_tZ_t^{\mathsf T}$ ，而 $\operatorname{Var}(y_t\mid y_{1:t-1})=F_t$ 。交叉协方差右乘观测协方差的逆，得到把观测残差线性回归到状态误差的系数；联合高斯性让这个线性回归恰好等于条件期望。

预测先让上一期不确定性随动力学传播，并加上新过程噪声；更新再比较实际观测与预测观测的差 $v_t$ 。 $K_t$ 按状态预测不确定性相对于测量噪声的大小分配信任：状态很不确定、测量精确时增益大，反之增益小。更新后的协方差不依赖本次观测数值，只依赖模型矩阵和先前协方差。

这不是简单固定权重平滑。增益每期可随缺失数据、时变噪声和累计信息改变，矩阵情形还会把一个观测沿状态坐标间的协方差传播。过滤只用现在及过去；使用未来观测改善历史状态叫平滑。把滤波输出称作平滑估计会混淆可用信息集和不确定性。

例子与边界

沿用局部水平模型： $m_0=10,C_0=4$ ，过程方差 $Q=1$ ，观测方差 $H=4$ ，且 $T=Z=R=1$ 。第一期预测

a_1=10,\qquad P_1=4+1=5.

观测 $y_1=12$ 后， $v_1=2,F_1=9,K_1=5/9$ ，故

m_1=10+\frac59\cdot2=\frac{100}{9}\approx11.1111, \qquad C_1=5-\frac{25}{9}=\frac{20}{9}\approx2.2222.

第二期观测 $y_2=11$ 。先预测 $a_2=100/9,P_2=20/9+1=29/9$ ；再得 $v_2=-1/9,F_2=65/9,K_2=29/65$ ，于是

m_2=\frac{719}{65}\approx11.0615, \qquad C_2=(1-\tfrac{29}{65})\tfrac{29}{9} =\frac{116}{65}\approx1.7846.

两个更新都可用标量高斯精度加权复算；后验方差下降，但下一次预测会再加过程方差。

若初始 $C_0$ 错设得极小，前几期增益会过小，滤波器顽固追随错误初值；弥散状态不能随意用零方差初始化。 $F_t$ 奇异意味着某些观测组合在模型下无随机误差，需消除冗余或用奇异滤波处理，不能盲目求逆。非线性、重尾或离群观测下，标准递推可能过度自信；扩展 Kalman 只是一阶近似，不因名字相近而继承精确性。

推论与应用

Kalman 滤波把每期计算限制在固定维度的矩阵运算，使很长序列的过滤和高斯似然保持线性时间复杂度。缺失整期观测时可跳过更新、保留预测；部分缺失时删去对应观测行和协方差块。结合 Rauch–Tung–Striebel 向后递推可得到平滑分布，预测误差似然还可置于数值优化或 EM 的外层来估参数；参数估计是利用滤波输出的另一层任务，并非过滤递推本身。

数值实现应避免显式矩阵逆，改用 Cholesky 求解；协方差更新可用 Joseph 形式

C_t=(I-K_tZ_t)P_t(I-K_tZ_t)^{\mathsf T}+K_tH_tK_t^{\mathsf T}

或平方根滤波保持对称正半定。理论递推正确不代表模型正确：持续偏置的创新、标准化创新重尾或相关、估计参数漂移都提示错设。应联合报告创新诊断、初始化、噪声协方差和数值稳定策略。

参考资料

Simo Särkkä, Bayesian Filtering and Smoothing, §4.3，Theorem 4.2，pp. 56–58，线性高斯滤波与条件分布推导。
Thomas J. Sargent and John Stachurski, Intermediate Quantitative Economics with Python, A First Look at the Kalman Filter，§The basic idea，观测更新、状态预测与递推。

形式陈述 ​

反向链接

形式陈述