形式陈述
设 为实或复 Hilbert 空间, 是紧算子理路紧算子Compact operator · 紧线性算子要求单位球的像具有紧闭包,利用序列、有限网与范数极限把有限维现象延伸到无限维。。内积第一变量共轭线性、第二变量线性; 表示Hilbert 伴随理路Hilbert 空间伴随算子Adjoint of a bounded operator on Hilbert spaces · Hilbert space adjointHilbert 空间间有界线性算子的唯一有界伴随,以及无界算子情形必须显式携带的定义域。。不要求 ,也不要求 自伴。记
存在按重数排列的正数 ,以及分别为 完备正交规范基的 ,使
三元组 称为 的奇异系统。指标集可能为空、有限,或为正整数;无限时 。对任意 ,有范数收敛的展开
这里的基覆盖两个闭包空间;不能把 写成可能不闭的 。正奇异值是 非零特征值的平方根,由 唯一确定,但基向量仍有相位及重值子空间中的选择自由。
令 ,只对实际存在的指标求和,并允许 。若还有未保留项,则
所有正奇异方向都保留后误差为零。特别地,非零 满足 。 时两组基为空、,全部和式取零,不对空列表取最大值。
直觉
有限维 SVD理路奇异值分解Singular value decomposition · SVD任意有限维线性映射都可在正交规范基下表示为非负对角伸缩。给输入和输出分别选坐标,这个想法在这里仍然有效。难点变成:无穷多次选方向后有没有漏掉一块空间?无穷和是在什么范数下收敛?只有把这两点证明,才可以用系数处理积分方程。
一个方向被 压得很短,并不表示它会保持原来的方向。奇异系统只要求右向量 被送到左向量 。因此即使 完全没有普通特征向量,这套双侧坐标仍可能完整存在。
先把问题放到输入端的正算子上
令 。有界算子与紧算子复合仍紧,所以 紧;伴随规则给 ,且
紧自伴谱定理理路紧自伴算子谱定理Compact self-adjoint spectral theorem · 紧自伴离散谱定理从达到最大绝对Rayleigh值开始构造正交特征向量,证明非零谱离散、趋于零及核以外的完备展开。于是给出 的完整正交规范基 ,满足 、。令 、,则
这证明了配对关系和左侧正交性。谱定理也已经处理有限重数、排序与趋零,无需重新证明一遍。
左侧为什么也完整
由右侧基的完备性和正交分解理路Hilbert 空间投影定理Hilbert projection theorem · Projection theoremHilbert 空间中每个闭线性子空间都给出唯一的正交分解与最近点投影。,有限部分和 收敛到 。 有界且消去 ,故
于是每个实际输出都在 内。反方向,每个 都是真正的输出,因而这两个空间的闭包相等。左侧族正好覆盖 ;再加上 ,才得到整个 。
的展开也可直接核验。它的输出正交于 ,且第 个右系数为
所以按 展开就是陈述中的级数。所有系数均写作“基向量在第一变量”,与本页复内积约定一致。
从逐点展开走到统一截断误差
正交性给
取 达到等号,所以这是单位球上的准确误差。无限秩时 ,得到算子范数收敛,而不只是每个固定输入分别收敛。
即使环境空间不可分,非零奇异方向仍至多可数。上面的谱构造已经证明 可分;可能不可分的部分留在 或 中。把这些零作用方向硬编号为同一条可数基,会失去完整性。
例子与边界
Volterra:没有普通特征基,仍有完整左右基
在 上取
平方可积核算子理路平方可积核积分算子Square-integrable kernel operator · Hilbert–Schmidt integral operator · 平方可积积分核从核的平方积分建立有界与紧性,通过共轭转置核判定自伴,并区分积分核、算子零空间与逐点评价。已经证明它紧、不自伴,且没有非零特征值。现在求它的奇异系统,所解的是 的特征方程,而非 的特征方程。
令 。因为 ,积分有绝对连续代表,并且
几乎处处同时 。若 、,先由积分表示知 有连续代表,再由 得它是经典二阶解。因此端点和微分都已有正则性依据。
设 ,常系数方程理路线性常微分方程组Linear system of ordinary differential equations形如 x′=A(t)x+b(t) 的向量值一阶线性方程组。给
使 ; 与 使 。全部候选因此是
这里用 暂记左侧候选,以免仅凭候选公式就宣布完成。两个方向的积分分别给
所以 确实同时满足两个奇异关系。由积化和差,异指标的正弦或余弦乘积积分为零;同指标的平方积分为 ,故 的归一化也正确。
还剩“有没有其他方向”。 使其绝对连续代表恒为零,求导得 ;同理 得 。于是 。前面的混合边界方程已经穷尽 的所有正特征对,紧自伴谱定理再排除残余方向。因此余弦族 和正弦族 各自都是整个 的完备基。这个完备性结论不是从几条已算出的积分关系凭空补出的。
由此直接读出
例如保留前三个奇异方向,最坏误差恰为 ,由单位输入 达到。 属于输入端二阶问题, 属于输出端;不能把两组边界混成 Green 算子的两端 Dirichlet 条件。
有核、余核和有限秩时应留下什么
令 ,,其中 。正奇异方向在 分量,输入最后一个坐标属于 ,输出最后一个坐标属于 。它们都不进入正奇异值列表,但分别决定不可识别参数和无法精确拟合的数据。
若改成 、其余 ,正奇异系统只有一项。剩余空间仍需用核和余核描述,不能把后面的零奇异值放进含 的公式。无限维恒等算子则没有趋零的奇异值,也没有算子范数有限秩逼近;紧性在此承担实质工作。
推论与应用
有限矩阵中,正左奇异向量生成整个值域;无限秩紧算子中,它们的有限线性组合先落在值域,完整级数通常只保证落在值域闭包。要判定 真有解,还要检查除以 后的系数能否平方求和。Picard 判据理路Picard 判据与紧算子的最小范数逆Picard criterion · Picard solvability condition · Moore–Penrose inverse of a compact operator以余核正交和加权平方和同时判定精确可解性,给出最小二乘逆的真正定义域,并算出 Green 数据的 q>5/2 阈值。正是这一步,并同时处理余核和最小范数选择。
Volterra 的例子说明了这种区别为什么有用。普通特征值分析只能报告“没有非零特征值”,左右系统却给出每个频率的压缩量、完整输入输出坐标,以及有限秩近似的精确误差。随后恢复输入时,倒数 会放大高频噪声;确定性谱正则化理路紧逆问题的确定性谱正则化Deterministic spectral regularization · TSVD and Tikhonov for compact inverse problems · 紧算子逆问题的截断与 Tikhonov 正则化对任意确定性噪声证明截断 SVD 与 Tikhonov 的偏差噪声界、同步参数收敛和一个明确源条件下的恢复速率。将用这些方向证明带噪恢复,而不把无噪声展开自动当成稳定算法。
已有左侧基还能直接描述另一个算子:Brownian 协方差的迹与截断误差理路正核的谱质量、迹与截断误差Positive kernel spectral trace · Mercer theorem · Mercer 定理 · 连续正核的迹公式从连续正半定核的逐点再生表示证明 Mercer 展开与正迹公式,再计算 Brownian 协方差的三种截断误差及奇异加权损失的成败。通过 复用这里的 和 ,得到连续核 的完整特征系统,并由对角积分算出总谱质量。这里的 与那里使用的 各保留自身的混合端点,不能把左右方向交换。
参考资料