ARMA 过程 | Codeboy's Blog

形式陈述

ARMA( $p,q$ ) 用有限阶自回归项和移动平均项共同描述过程。其线性方程为

\phi(B)(X_t-\mu)=\theta(B)\varepsilon_t,

输入取方差 $\sigma^2>0$ 的白噪声过程 $(\varepsilon_t)$ 。模型把后移算子的两组有限多项式分别放在观测端与冲击端：

\phi(z)=1-\phi_1z-\cdots-\phi_pz^p, \qquad \theta(z)=1+\theta_1z+\cdots+\theta_qz^q.

当相应阶数非零时，要求 $\phi_p\ne0,\theta_q\ne0$ 且两多项式没有共同零点，以取得最小阶表示。 $\phi$ 的零点全在单位圆外给出因果平稳解 $X_t-\mu=\psi(B)\varepsilon_t$ ，其中 $\psi(z)=\theta(z)/\phi(z)$ 的幂级数系数绝对可和； $\theta$ 的零点全在单位圆外给出可逆表示 $\varepsilon_t=\pi(B)(X_t-\mu)$ 。因果性和可逆性分别约束生成方向与创新恢复方向，不能互相替代。同时满足两条根条件时，得到预测中常用的因果可逆规范表示；一般 ARMA 方程本身并不把这两条条件合成一个定义要求。

平稳性还可以在不满足因果性的情形成立：约简后 $\phi$ 在单位圆上无根便可有双边平稳解，根全在圆外才保证它只依赖当前和过去白噪声。例如 $X_t=2X_{t-1}+\varepsilon_t$ 的解 $X_t=-\sum_{j\ge1}2^{-j}\varepsilon_{t+j}$ 方差为 $\sigma^2/3$ ，却使用未来噪声。因此“有平稳解”比“因果平稳生成”更弱。后面的数值例子采用因果可逆情形，边界讨论则保留其他表示。

AR 过程是 $q=0$ 的特例，MA 过程是 $p=0$ 的特例。本库的ARIMA 模型另外采用因果可逆的规范条件，所以只有满足这些条件的 ARMA 表示才直接对应其 $d=0$ 情形。一般 ARMA 方程不能无条件作为该规范模型的特例；带趋势或单位根的 ARIMA 水平序列也不因此变成平稳过程。

直觉

AR 部分让过去观测反馈，决定冲击怎样长期衰减；MA 部分让最近几期创新直接叠加，塑造短滞后。两部分组合常用较低阶数模拟单独高阶 AR 或 MA 才能表达的相关形状。分母 $\phi$ 决定系统极点，分子 $\theta$ 决定零点；一个控制稳定记忆，一个控制哪些频率或滞后被削弱。

最低阶数很重要。在已经指定的平稳滤波表示中，如果分子分母有共同因子，它们在传递函数中相消，表面参数并不对应可识别动力。增加一对几乎相消的根也许提高样本似然，却会让参数极不稳定而预测几乎不变。简约性不是审美偏好，而是让创新、阶数和参数具有唯一统计含义的条件。

例子与边界

取因果可逆 ARMA(1,1)

X_t=0.6X_{t-1}+\varepsilon_t+0.5\varepsilon_{t-1}, \qquad \operatorname{Var}(\varepsilon_t)=1.

AR 根为 $1/0.6=5/3$ ，MA 根为 $-2$ ，均在单位圆外。把 $X_t=\sum_{j\ge0}\psi_j\varepsilon_{t-j}$ 代回方程，逐个比较创新系数：当前项给 $\psi_0=1$ ，上一期给 $\psi_1=0.6\psi_0+0.5=1.1$ ，更早各期给 $\psi_j=0.6\psi_{j-1}$ 。因此脉冲响应为 $\psi_0=1$ 、 $\psi_j=(0.6+0.5)0.6^{j-1}$ （ $j\ge1$ ），所以

\gamma(0)=1+\frac{1.1^2}{1-0.6^2} =\frac{185}{64}=2.890625.

再由 $\gamma(1)=0.6\gamma(0)+0.5$ 得

\gamma(1)=\frac{143}{64}=2.234375, \qquad \rho(1)=\frac{143}{185}\approx0.77297,

而 $h\ge2$ 时 $\gamma(h)=0.6\gamma(h-1)$ 。因此 ACF 不截尾，而是在第一步受 MA 项调整后按 AR 根拖尾。

若 $\phi(z)=1-0.5z$ 且 $\theta(z)=1-0.5z$ ，在弱平稳解类中，消去这个可逆的共同因子后只是 $X_t=\varepsilon_t$ 。若不要求弱平稳，原方程还允许 $X_t-\varepsilon_t=C(0.5)^t$ 这样的齐次项；约简传递函数不能代替对解类与初值的说明。把它标成 ARMA(1,1) 会制造无法识别的冗余参数；最小表示是 ARMA(0,0)。在两多项式已约简且驱动噪声方差正的前提下，若 $\phi$ 有单位圆根，不存在上述弱平稳解；若只有 $\theta$ 根在圆内，过程仍可因果平稳但不可逆。有限样本中接近相消、近单位根和真正相消或单位根很难区分，不能靠舍入后的根是否等于 $1$ 作结论。

推论与应用

因果平稳 ARMA 解的自协方差在滞后大于 $q$ 后满足 AR 递推，线性预测可通过创新算法或状态空间递推高效计算。高斯假设下，均值与协方差确定完整似然；非高斯情形仍可用二阶预测，但“最优”通常只指最佳线性预测。阶数选择应结合 ACF/PACF、信息准则、滚动预测和残差白噪声检查，单一图形规则只是候选生成器。

模型错设的具体信号包括残差 ACF 留有结构、平方残差相关、参数根贴近单位圆以及样本分段后系数漂移。提高 $p,q$ 可以吸收相关，却不能修复趋势、结构突变或条件异方差的错误假设。若数据经差分后才近似平稳，应明确使用 ARIMA 并把积分阶数计入预测不确定性，不能把差分序列的 ARMA 结论直接套回水平序列。

参考资料

Eric Aldrich, Advanced Quantitative Methods, 在线课程讲义，Causality and Invertibility，平稳解、因果表示与可逆表示的根条件（访问于 2026 年）。
Peter J. Brockwell and Richard A. Davis, Time Series: Theory and Methods, 2nd ed., Springer, 1991，Ch. 3，causal and invertible ARMA processes。
James D. Hamilton, Time Series Analysis, Princeton University Press, 1994，Ch. 3，stationary ARMA models and forecasting。
George E. P. Box, Gwilym M. Jenkins, Gregory C. Reinsel, and Greta M. Ljung, Time Series Analysis: Forecasting and Control, 5th ed., Wiley, 2015，Ch. 3 and Chs. 5–8，ARMA models, forecasting, identification, estimation, and diagnostics。

形式陈述 ​

反向链接

形式陈述