ARMA 过程 | Codeboy's Blog

形式陈述

ARMA( $p,q$ ) 过程满足

\phi(B)(X_t-\mu)=\theta(B)\varepsilon_t,

输入取方差 $\sigma^2>0$ 的白噪声过程 $(\varepsilon_t)$ 。模型把后移算子的两组有限多项式分别放在观测端与冲击端：

\phi(z)=1-\phi_1z-\cdots-\phi_pz^p, \qquad \theta(z)=1+\theta_1z+\cdots+\theta_qz^q.

通常要求 $\phi_p\ne0,\theta_q\ne0$ 且两多项式没有共同零点，以取得最小阶表示。 $\phi$ 的零点全在单位圆外给出因果平稳解 $X_t-\mu=\psi(B)\varepsilon_t$ ，其中 $\psi(z)=\theta(z)/\phi(z)$ 的幂级数系数绝对可和； $\theta$ 的零点全在单位圆外给出可逆表示 $\varepsilon_t=\pi(B)(X_t-\mu)$ 。因果性和可逆性分别约束生成方向与创新恢复方向，不能互相替代。

AR 过程是 $q=0$ 的特例，MA 过程是 $p=0$ 的特例；ARMA 又是ARIMA 模型在差分阶数 $d=0$ 时的特例。这里的分类只陈述参数限制，不表示所有带趋势或单位根的 ARIMA 水平序列都平稳。

直觉

AR 部分让过去观测反馈，决定冲击怎样长期衰减；MA 部分让最近几期创新直接叠加，塑造短滞后。两部分组合常用较低阶数模拟单独高阶 AR 或 MA 才能表达的相关形状。分母 $\phi$ 决定系统极点，分子 $\theta$ 决定零点；一个控制稳定记忆，一个控制哪些频率或滞后被削弱。

最低阶数很重要。如果分子分母有共同因子，它们在传递函数中相消，表面参数并不对应可识别动力。增加一对几乎相消的根也许提高样本似然，却会让参数极不稳定而预测几乎不变。简约性不是审美偏好，而是让创新、阶数和参数具有唯一统计含义的条件。

例子与边界

取因果可逆 ARMA(1,1)

X_t=0.6X_{t-1}+\varepsilon_t+0.5\varepsilon_{t-1}, \qquad \operatorname{Var}(\varepsilon_t)=1.

AR 根为 $1/0.6=5/3$ ，MA 根为 $-2$ ，均在单位圆外。脉冲响应为 $\psi_0=1$ 、 $\psi_j=(0.6+0.5)0.6^{j-1}$ （ $j\ge1$ ），所以

\gamma(0)=1+\frac{1.1^2}{1-0.6^2} =\frac{185}{64}=2.890625.

再由 $\gamma(1)=0.6\gamma(0)+0.5$ 得

\gamma(1)=\frac{143}{64}=2.234375, \qquad \rho(1)=\frac{143}{185}\approx0.77297,

而 $h\ge2$ 时 $\gamma(h)=0.6\gamma(h-1)$ 。因此 ACF 不截尾，而是在第一步受 MA 项调整后按 AR 根拖尾。

若 $\phi(z)=1-0.5z$ 且 $\theta(z)=1-0.5z$ ，方程两边共同因子相消后只是 $X_t=\varepsilon_t$ 。把它标成 ARMA(1,1) 会制造无法识别的冗余参数；最小表示是 ARMA(0,0)。若 $\phi$ 有单位圆根，水平过程不平稳；若只有 $\theta$ 根在圆内，过程仍可因果平稳但不可逆。有限样本中接近相消、近单位根和真正相消或单位根很难区分，不能靠舍入后的根是否等于 $1$ 作结论。

推论与应用

ARMA 的自协方差在滞后大于 $q$ 后满足 AR 递推，线性预测可通过创新算法或状态空间递推高效计算。高斯假设下，均值与协方差确定完整似然；非高斯情形仍可用二阶预测，但“最优”通常只指最佳线性预测。阶数选择应结合 ACF/PACF、信息准则、滚动预测和残差白噪声检查，单一图形规则只是候选生成器。

模型错设的具体信号包括残差 ACF 留有结构、平方残差相关、参数根贴近单位圆以及样本分段后系数漂移。提高 $p,q$ 可以吸收相关，却不能修复趋势、结构突变或条件异方差的错误假设。若数据经差分后才近似平稳，应明确使用 ARIMA 并把积分阶数计入预测不确定性，不能把差分序列的 ARMA 结论直接套回水平序列。

参考资料

Peter J. Brockwell and Richard A. Davis, Time Series: Theory and Methods, 2nd ed., Springer, 1991，Ch. 3，causal and invertible ARMA processes。
James D. Hamilton, Time Series Analysis, Princeton University Press, 1994，Ch. 3，stationary ARMA models and forecasting。
George E. P. Box, Gwilym M. Jenkins, Gregory C. Reinsel, and Greta M. Ljung, Time Series Analysis: Forecasting and Control, 5th ed., Wiley, 2015，Ch. 3 and Chs. 5–8，ARMA models, forecasting, identification, estimation, and diagnostics。

形式陈述 ​

反向链接

形式陈述