自回归过程

AR 模型把持续性放在观测自身的反馈中：一次创新先改变 $X_t$，以后又通过 ${\varphi }_1,\dots ,{\varphi }_p$ 反复回流。根条件检查这种反馈是否最终衰减。零点越靠近单位圆，冲击消退越慢；落在单位圆上，某个方向的冲击不再衰减，方差随时间累积；跨到圆内，按过去递推会爆炸，虽然从双边无限序列反向使用未来冲击可制造数学上的平稳解。

阶数并不是“相关到第 $p$ 期便消失”。在因果平稳情形，给定最近 $p$ 个值后，更早过去不再改善线性一步预测；其 ACF 通常无限拖尾。特征根为实数时常给指数衰减，为共轭复数时产生阻尼振荡。把 ACF 的非零滞后数直接当 AR 阶数，会混淆反馈结构与边际相关范围。

取 AR(2)

多项式 $1-\frac{1}{2}z-\frac{1}{5}{z}^2$ 的两个根是

模都大于 $1$，故因果平稳。由协方差方程，${\rho }_1={\varphi }_1/(1-{\varphi }_2)=5/8$，${\rho }_2={\varphi }_1{\rho }_1+{\varphi }_2=41/80$，且

所以 $\gamma (0)=200/117\approx 1.7094$、$\gamma (1)=125/117$、$\gamma (2)=205/234$。把三者代回原方程即可逐项复核；这也是Yule–Walker 方程理路Yule–Walker 方程Yule–Walker equations · Yule-Walker equations将平稳自回归系数与自协方差联系起来的 Toeplitz 线性方程组。的具体解。

AR(1) $X_t=\varphi X_{t-1}+{\epsilon }_t$ 更清楚展示边界：$|\varphi |<1$ 时因果平稳且 $\mathrm{Var}(X_t)={\sigma }^2/(1-{\varphi }^2)$；$\varphi =1$ 是随机游走；$\varphi =0.99$ 仍平稳，却有方差约 $50.25{\sigma }^2$，有限样本很难与单位根区分；$\varphi =1.1$ 的过去递推不平稳，但双边解 $X_t=-\sum _{j=1}^{\mathrm{\infty }}{1.1}^{-j}{\epsilon }_{t+j}$ 平稳而非因果。预测语境不能把最后一种当作通常 AR 生成机制。

对因果平稳 AR($p$)，驱动白噪声与观测过去正交，将模型同 $X_{t-k}$ 取协方差得到 $\gamma (k)=\sum _{j=1}^p{\varphi }_j\gamma (k-j)$（$k\ge 1$，在 $k\le p$ 时利用 $\gamma (-h)=\gamma (h)$），形成 Yule–Walker 系统。非因果平稳解不能照搬这组系数等式：若 $X_t=2X_{t-1}+{\epsilon }_t$ 取未来向平稳解，则 $\gamma (0)={\sigma }^2/3$、$\gamma (1)={\sigma }^2/6$，并不满足 $\gamma (1)=2\gamma (0)$；遗漏的是 $\mathrm{Cov}({\epsilon }_t,X_{t-1})=-{\sigma }^2/2$。其偏自相关函数理路偏自相关函数Partial autocorrelation function · PACF在剔除中间滞后最佳线性解释后衡量两个相隔时点剩余相关的函数。在 $p$ 阶后为零，为阶数诊断提供总体图样，但估计 PACF 不会在有限样本中精确归零。

拟合 AR 时，根检查应针对估计多项式本身，而非只看系数各自是否小于一；AR(2) 以上不存在逐系数的简单充分必要界。趋势、季节均值或结构突变会制造持久的伪自回归。用于预测时还要报告参数估计不确定性；用估计系数递推得到的是插件线性预测；要解释为条件均值，还需未来创新相对于过去信息具有零条件均值。创新相关、均值结构错设或根随时间变化时，经典误差区间也会失准。