前向误差与后向误差

前向分析站在原题旁边量答案的距离；后向分析则问，计算结果究竟精确解了哪一道邻近题。后者往往更容易，因为算法执行留下的残差能直接构造一个输入扰动，也更能解释稳定算法为何可信：它至少没有把原题改成一题很远的新题。

后向误差不是把舍入步骤倒序执行。它考察问题输入的允许扰动距离：一份好的解释既要说扰动有多小，也要说移动了哪些数据、保留了哪些结构。

对线性系统 $Ax=b$，给定近似解 $\hat{x}$，令残差 $r=b-A\hat{x}$。保持 $A$ 不变并把右端改成 $\tilde{b}=b-r=A\hat{x}$，则 $\hat{x}$ 是邻近系统 $A\hat{x}=\tilde{b}$ 的精确解。因此当 $b\ne 0$ 时，右端相对后向误差为 $\Vert r\Vert /\Vert b\Vert$。若允许矩阵和右端都按同一相对预算 $\eta$ 扰动，即

则对向量 $2$-范数及其诱导的矩阵 $2$-范数，在分母非零时，范数型后向误差恰为

这个分母可以从扰动方程看出来：$(A+\mathrm{\Delta }A)\hat{x}=b+\mathrm{\Delta }b$ 等价于 $r=\mathrm{\Delta }A\hat{x}-\mathrm{\Delta }b$，所以三角不等式给出 $\Vert r\Vert \le \eta (\Vert A\Vert \Vert \hat{x}\Vert +\Vert b\Vert )$。在上述无结构 $2$-范数模型中，可沿残差方向分配两种扰动以达到此界；若要求扰动保留对称性或零元素，就不能直接沿用这个等式。

病态矩阵可能把极小的右端扰动放大成很大的解变化。以 $A=\mathrm{diag}(1,{10}^{-8})$、$b=(1,{10}^{-8}{)}^{\mathsf{T}}$ 和 $\hat{x}=(1,0{)}^{\mathsf{T}}$ 为例，精确解为 $x=(1,1{)}^{\mathsf{T}}$，残差为 $r=(0,{10}^{-8}{)}^{\mathsf{T}}$。因此右端相对后向误差为 ${10}^{-8}/\sqrt{1+{10}^{-16}}\approx {10}^{-8}$，相对前向误差却是 $\Vert (0,-1){\Vert }_2/\Vert (1,1){\Vert }_2=1/\sqrt{2}$。矩阵的 $2$-范数条件数为 ${10}^8$，正好指出第二方向上的扰动会被强烈放大。这不推翻后向分析，反而准确揭示了误差由问题敏感性放大。

允许扰动什么，甚至会决定后向误差是否有限。例如把 $F(t)=t^2$ 看作实数输入问题，在 $t=0$ 处得到 $\hat{y}=-{10}^{-16}$：绝对前向误差很小，但没有任何实数 $\tilde{t}$ 满足 ${\tilde{t}}^2=\hat{y}$，所以后向误差为 $+\mathrm{\infty }$。若改成允许扰动函数的常数项，那已是另一种输入模型。所谓“稳定”必须与扰动模型配对。

数值稳定性理路数值稳定性Numerical stability以允许的小输入扰动刻画算法的有限精度行为，并与问题条件性及其他稳定性概念分开。经常以小后向误差作为算法标准，而残差与误差估计理路残差、误差估计与停止准则Residual and error estimation · Stopping criterion区分可计算残差与未知真误差，并说明把缺陷转成误差界和停止证书所需的条件。研究如何从可计算缺陷得到后向或前向证书。后续矩阵分解会分别说明其因子满足哪个邻近矩阵的精确关系，避免把所有稳定性压成一句“结果很准”。

实验中若真解已知，应同时报告前向误差和可计算的后向量；若真解未知，后向误差与条件估计比单独残差更有解释力。两种视角互补，不是谁替代谁。

对时间积分，邻近问题可以是一条修正微分方程。修正方程与后向误差分析理路修正方程与后向误差分析Modified equation · Backward error analysis of integrators逐阶构造邻近动力学，明确形式修正级数、有限截断与特殊精确嵌入之间的区别。逐阶改变向量场来解释离散轨迹，并明确形式级数、截断误差界与特殊精确嵌入之间的区别。