矩阵范数与诱导算子范数

形式陈述

矩阵空间上的范数首先满足正定性、绝对齐次性与三角不等式。若还对可乘矩阵满足

\|AB\|\le \|A\|\,\|B\|,

则称它次乘；若给定输入、输出向量范数后满足 $\|Ax\|_Y\le\|A\|\|x\|_X$ ，则称它与这组向量范数相容。选择定义域范数 $\|\cdot\|_X$ 与值域范数 $\|\cdot\|_Y$ 后，由矩阵代表的线性映射自然得到诱导范数

\|A\|_{X\to Y} =\sup_{x\ne0}\frac{\|Ax\|_Y}{\|x\|_X} =\sup_{\|x\|_X=1}\|Ax\|_Y.

它正是抽象算子范数在有限维坐标中的形式，表示单位输入可能遭受的最大放大。若矩阵串接 $A:X\to Y$ 与 $B:Z\to X$ ，相应尺度给出 $\|AB\|_{Z\to Y}\le\|A\|_{X\to Y}\|B\|_{Z\to X}$ ；省略空间下标只在首尾范数约定清楚时安全。

对 $A=(a_{ij})\in\mathbb F^{m\times n}$ ，最常用的三种诱导范数为

\|A\|_1=\max_{1\le j\le n}\sum_{i=1}^m|a_{ij}|, \qquad \|A\|_\infty=\max_{1\le i\le m}\sum_{j=1}^n|a_{ij}|,

以及

\|A\|_2=\sigma_{\max}(A).

前两式分别是最大绝对列和与最大绝对行和，可以直接计算； $2$ -范数由最大奇异值给出。Frobenius 范数

\|A\|_F =\left(\sum_{i,j}|a_{ij}|^2\right)^{1/2} =\left(\sum_i\sigma_i^2\right)^{1/2}

也次乘，并满足 $\|Ax\|_2\le\|A\|_F\|x\|_2$ ，但在维数大于一时不是某个同空间向量范数的诱导矩阵范数：任何这样的诱导范数都有 $\|I\|=1$ ，而 $\|I_n\|_F=\sqrt n$ 。奇异值还给出

\|A\|_2\le\|A\|_F \le\sqrt{\operatorname{rank}(A)}\,\|A\|_2,

所以二者可以互相估计，维数因子却不能无声省略。

直觉

向量范数规定输入和输出各自怎样量尺寸，诱导矩阵范数就在这套尺子下寻找最容易被放大的方向。变量若带不同物理单位，先选缩放再量范数尤其重要；否则“最大增益”可能只是单位换算的产物。换一种向量范数或坐标尺度，同一矩阵的数值大小都会改变。

Frobenius 范数采用另一幅图像：它把矩阵的全部元素，等价地全部奇异值，当作一个长向量计算总能量。它容易求、对酉变换不变，却不直接回答某个单位输入最多会被放大多少。把两类范数都统称为 operator norm，会抹掉这个区别。

例子与边界

取

A=\begin{pmatrix}1&-2\\3&0\end{pmatrix}.

最大列和与最大行和分别给出

\|A\|_1=4,\qquad \|A\|_\infty=3,

而 $\|A\|_F=\sqrt{14}$ 。同时 $\|A^*\|_1=\|A\|_\infty$ ，这项恒等式允许用转置在行和、列和之间切换。由于

A^*A=\begin{pmatrix}10&-2\\-2&4\end{pmatrix}

的最大特征值为 $7+\sqrt{13}$ ，所以 $\|A\|_2=\sqrt{7+\sqrt{13}}\approx3.2566$ 。这些数都正确，只是在回答不同的尺度问题，不能省略下标后直接比较。

对方阵，谱半径 $\rho(A)=\max_i|\lambda_i|$ 不超过任意诱导范数，但通常不等于它。非正规矩阵

B_M=\begin{pmatrix}1&M\\0&1\end{pmatrix}

的谱半径恒为 $1$ ，而 $\|B_M\|_2$ 随 $|M|$ 增大。这说明特征值只描述不变方向上的渐近伸缩，矩阵范数还会看见非正交方向之间的瞬时放大。

推论与应用

矩阵范数为线性系统条件数、残差到前向误差的转换、分解的后向误差与迭代收敛界提供共同尺度。次乘性允许把一串算子作用的误差逐层控制，而诱导范数的相容性保证矩阵界确实能约束向量误差。逐分量不等式 $|\Delta A|\le E$ 比单个 normwise 数字保留更多结构；需要时应先分析分量界，再按目标范数汇总。

奇异值分解解释 $2$ -范数和 Frobenius 范数的谱表达；选择 $1$ -范数或无穷范数时，则可使用矩阵元素直接计算或估计。工程报告必须写明使用的范数，因为“条件数大”或“扰动小”在没有下标时并不是完整结论。

参考资料

Lloyd N. Trefethen and David Bau III, Numerical Linear Algebra, SIAM, 1997, Lectures 3 and 4.
Nicholas J. Higham, Accuracy and Stability of Numerical Algorithms, 2nd ed., SIAM, 2002, Ch. 6.
LAPACK Users’ Guide, 3rd ed., SIAM, 1999, Basic Linear Algebra Subprograms.

形式陈述 ​

反向链接

形式陈述