不变子空间

把 $T$ 想成向量空间上的一个动力系统，不变子空间就是其中自成一体的封闭子世界：向量一旦落入，再怎么反复施加 $T$ 也不会被甩出去。它的价值在于分而治之：$T{|}_U$ 与商算子都比 $T$ 小，块上三角矩阵正是"先各自研究对角块、再处理耦合项"的代数表达；若能进一步把 $V$ 写成不变子空间的直和公理库直和Direct sum · Internal direct sum用有限支撑元组构造外部直和，并以唯一分解刻画子空间的内部直和。，矩阵便块对角化，问题彻底局部化。一维不变子空间恰是特征向量张成的直线，所以特征值理论本质上是在搜寻最小的不变子空间，而可对角化就是"$V$ 分解为一维不变子空间的直和"这一理想情形。定义里还有一处容易低估：$T(U)\subseteq U$ 只要求"出不去"，不要求 $T(U)=U$——$U$ 内的向量可以被压进更小的子空间，甚至被压成零。

先看一个能算尽的例子：剪切算子 $T(x,y)=(x+y,y)$，矩阵 $\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$。直线 $U=\mathrm{span}\{e_1\}$ 不变，因为 $T{e}_1=e_1$。它还是唯一的一维不变子空间：直线 $\mathrm{span}\{(x,y)\}$ 不变要求 $(x+y,y)$ 与 $(x,y)$ 平行，即 $xy-y(x+y)=-y^2=0$，故 $y=0$。由此 $U$ 没有不变的补空间——任何补空间都是另一条直线，而其他直线都不是不变子空间。不变补的缺失正是这个矩阵不可对角化的几何原因。

不变子空间的存废还依赖基域。平面九十度旋转的矩阵为 $\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$：一维不变子空间要求 $(-y,x)$ 与 $(x,y)$ 平行，即 $x^2+y^2=0$，在 $\mathbb{R}$ 上只有零解，故它在 ${\mathbb{R}}^2$ 上除平凡者外没有任何不变子空间；复化后特征值 $\pm i$ 现身，$\mathrm{span}\{(1,-i)\}$ 与 $\mathrm{span}\{(1,i)\}$ 成为不变的特征直线。

不变子空间有几台标准的"生产机器"。$\ker T$ 与 $\mathrm{im}T$ 总是不变的；更一般地，对任意多项式 $p$，$\ker p(T)$ 与 $\mathrm{im}p(T)$ 都 $T$-不变，理由只有一行：$T$ 与 $p(T)$ 交换，故 $p(T)u=0$ 时 $p(T)(Tu)=Tp(T)u=0$。特征空间 $\ker (T-\lambda I)$ 是其特例。包含给定向量 $v$ 的最小不变子空间是循环子空间 $\mathrm{span}\{v,Tv,T^{2}v,\dots \}$；不变子空间族对求和与取交封闭。边界的另一端在无穷维：可分复 Hilbert 空间上的有界算子是否必有非平凡闭不变子空间，是著名的不变子空间问题，至今悬而未决；在一般 Banach 空间上，Enflo 与 Read 已构造出无非平凡闭不变子空间的算子。

不变子空间是全部标准形理论的组织核心。特征值与特征向量公理库特征值与特征向量Eigenvalue and eigenvector满足 Tv=λv 且 v 非零的标量 λ 与向量 v。提供一维不变子空间；当线性算子的极小多项式公理库线性算子的极小多项式Minimal polynomial of an operator首一且次数最低、代入算子后为零的非零多项式。分解为两两互素的因子 $m=\prod _i{p}_i^{e_i}$ 时，准素分解给出不变子空间的直和 $V=\underset{i}{⨁}\ker p_i(T{)}^{e_i}$。在复数域上取 $p_i=x-{\lambda }_i$，各块就是广义特征空间公理库广义特征空间Generalized eigenspace · Root space由某个 $(T-\lambda I)^k$ 消去的全部向量组成的最大特征根空间。，把每块内部的幂零部分整理到底便得到 Jordan 标准形公理库Jordan 标准形Jordan canonical form · Jordan normal form在特征多项式分裂时，把有限维算子表示成 Jordan 块直和。。同一主题在别的结构里反复上演：群表示公理库群表示Group representation把群同态地映入向量空间可逆线性变换群的结构。中对所有 $\rho (g)$ 同时不变的子空间就是子表示，不可约性、Maschke 定理由此展开；内积空间中自伴算子的不变子空间自动带正交的不变补，这是谱定理能把空间拆成特征空间正交直和的原因。