形式陈述
设 K : X → Y 为实或复 Hilbert 空间间的紧算子,( σ n , u n , v n ) 是其正奇异系统 理路 紧算子的奇异系统 Singular system of a compact operator · Compact operator SVD · 紧算子左右奇异展开 为一般紧算子构造两端的完整奇异方向,证明范数收敛与截断误差,并求完 Volterra 算子的混合边界奇异系统。 ,内积第一变量共轭线性。给定 y ∈ Y ,记 y n = ⟨ u n , y ⟩ 。第一类方程 K x = y 有解,当且仅当两个条件同时成立:
(1) y ⊥ ker K ∗ , ∑ n | y n | 2 σ n 2 < ∞ . 第一个条件把数据放进 ran K ― ,第二个才保证它落入真正的 ran K 。第二个条件通常称为 Picard 条件。在已有闭包假设的表述中只需写第二项;对任意 y ∈ Y 使用时,两项都不能漏。
可解时,唯一的最小范数精确解为
(2) x † = ∑ n y n σ n v n ∈ ( ker K ) ⊥ , 级数在 X 范数下收敛,全部精确解为 x † + ker K 。
若允许最小二乘,考虑 inf x ∈ X ‖ K x − y ‖ 。这个下确界有达到它的输入,当且仅当
(3) y ∈ D ( K † ) := ran K ⊕ ( ran K ) ⊥ = { y ∈ Y : ∑ n | y n | 2 σ n 2 < ∞ } . 这里 K † 在该定义域上仍由式(2)定义,称为最小范数逆或 Moore–Penrose 逆。它选择所有最小二乘解中范数最小的一个;当 y 有非零余核分量时,这个解并不精确拟合 y 。式(3)中的 ran K 没有闭包,直和也不预先声称是闭子空间。
直觉
一个输出系数 y n 产生于输入系数乘以 σ n 。逐项倒回去得到 y n / σ n ,但一串数只有平方和有限时才表示 Hilbert 空间中的向量。于是每一个有限截断都能解,并不意味着把所有截断接起来还会得到有限能量的输入。
余核检查承担另一件事。ker K ∗ 中的数据方向与所有可能输出正交,任何输入都无法产生它;这项障碍不出现在正奇异坐标里。因此必须先问数据是否具有无法产生的分量,再问可见分量的倒数系数是否可和。
必要性:一个真解必须支付全部输入能量
若 K x = y ,对任意 h ∈ ker K ∗ 有
⟨ h , y ⟩ = ⟨ K ∗ h , x ⟩ = 0. 又由奇异关系,
y n = ⟨ u n , K x ⟩ = ⟨ K ∗ u n , x ⟩ = σ n ⟨ v n , x ⟩ . Bessel 不等式于是给
∑ n | y n | 2 σ n 2 = ∑ n | ⟨ v n , x ⟩ | 2 ≤ ‖ x ‖ 2 . 这同时解释了为什么加权平方和必须有限,以及它为什么等于最小输入能量。
充分性:把系数构造成真正的向量
假设式(1)成立。令 x N = ∑ n ≤ N ( y n / σ n ) v n ,则
‖ x M − x N ‖ 2 = ∑ N < n ≤ M | y n | 2 σ n 2 ⟶ 0. 完备性给 x N → x † ∈ X ,且每个部分和都在闭子空间 ( ker K ) ⊥ 中,故极限也在其中。K 有界,所以
K x † = lim N K x N = lim N ∑ n ≤ N y n u n = y . 最后一个等号使用 y ⊥ ker K ∗ 和左奇异族对值域闭包的完备性。若没有第一个条件,该极限只是 y 到值域闭包的投影。
两个解之差属于 ker K 。因此每个解唯一写成 x † + z 、z ∈ ker K ,而
‖ x † + z ‖ 2 = ‖ x † ‖ 2 + ‖ z ‖ 2 . 这证明最小范数的存在与唯一,也说明不可识别的核分量为何应单独保留。
最小二乘存在性为什么也需要定义域
令 Y 0 = ran K ― 。闭子空间投影定理 理路 Hilbert 空间投影定理 Hilbert projection theorem · Projection theorem Hilbert 空间中每个闭线性子空间都给出唯一的正交分解与最近点投影。 给
y = y 0 + y ⊥ , y 0 = P Y 0 y , y ⊥ ∈ Y 0 ⊥ = ker K ∗ . 因为 K x − y 0 ∈ Y 0 ,勾股关系给
(4) ‖ K x − y ‖ 2 = ‖ K x − y 0 ‖ 2 + ‖ y ⊥ ‖ 2 . ran K 在 Y 0 中稠密,所以第一项的下确界为零。它达到零,恰当且仅当 y 0 ∈ ran K ,这正是式(3)的直和条件。对 y 0 应用已证的 Picard 判据,又得到式(3)的级数表述;余核分量不贡献任何 y n 。
若条件成立,全部最小二乘解满足 K x = y 0 ,所以仍是 K † y + ker K 。若条件失败,则最优残差只有下确界 ‖ y ⊥ ‖ ,没有任何输入取得它。特别当 y ∈ Y 0 ∖ ran K 时,下确界为零却无最小二乘解。把 P Y 0 y 当成已经有原像的输出,正是容易漏掉的一步。
例子与边界
Green 数据:从平方可积走到 q>5/2
沿用区间 Dirichlet Green 算子 理路 区间 Dirichlet Green 算子 Dirichlet Green operator on an interval · 区间零边界Green积分算子 用正核min(x,t)−xt构造−d²/dx²的零边界逆,证明正则性与全谱,并把共振积分方程准确转为边值问题。
T f ( x ) = ∫ 0 1 { min ( x , t ) − x t } f ( t ) d t , e n ( x ) = 2 sin ( n π x ) , T e n = 1 π 2 n 2 e n . 它单射且自伴,所以余核为零;左右奇异向量都取 e n ,奇异值为 σ n = 1 / ( π 2 n 2 ) 。给定实数 q > 1 / 2 ,数据
g q = ∑ n = 1 ∞ n − q e n 确实属于 L 2 ,因为 ∑ n − 2 q < ∞ 。现在求 T f = g q ,式(1)要求
∑ n n − 2 q ( π − 2 n − 2 ) 2 = π 4 ∑ n n 4 − 2 q < ∞ . p 级数收敛恰当且仅当指数 4 − 2 q < − 1 ,即
(5) q > 5 2 . 可解时,唯一解为 f q = π 2 ∑ n n 2 − q e n 。例如 q = 3 给解系数 π 2 / n ,平方可和;q = 2 正是 Green 页已有的常数系数 π 2 反例。
临界 q = 5 / 2 的输入系数为 π 2 / n ,能量是发散的调和级数 π 4 ∑ 1 / n ,所以等号不能纳入可解区间。每个截断数据 g q , N 仍有原像 f q , N ,且
‖ g q − g q , N ‖ 2 = ∑ n > N n − 2 q ⟶ 0 , ‖ f q , N ‖ 2 = π 4 ∑ n ≤ N n 4 − 2 q . 当 1 / 2 < q ≤ 5 / 2 ,右端输入能量趋于无穷。这在同一族数据里区分了“可以逼近”“真正有原像”和“截断输入是否有界”。
级数有限,仍可能被余核挡住
在 L 2 ( 0 , 1 ) ⊕ C 上定义 K ( f , a ) = ( T f , 0 ) ,取 y = ( g 3 , 1 ) 。正左奇异向量为 ( e n , 0 ) ,所以加权平方和是 π 4 ∑ n − 2 < ∞ 。但 ( 0 , 1 ) ∈ ker K ∗ ,且 ⟨ ( 0 , 1 ) , y ⟩ = 1 ,故无精确解。
最小二乘则存在:K † y = ( f 3 , 0 ) ,最小残差为一;全部最小二乘解是 ( f 3 , a ) ,a ∈ C 。最后一个输入坐标属于原核,最后一个输出坐标属于余核。它们在这个例子中位置相似,承担的任务却不同。
Volterra 的端点也藏在 Picard 条件里
对 V f ( x ) = ∫ 0 x f ( t ) d t ,上页已证明左右核为零,并求得 u n = 2 sin ( ω n x ) 、σ n = 1 / ω n ,其中 ω n = ( n − 1 / 2 ) π 。取平滑数据 y = 1 ,有
⟨ u n , 1 ⟩ = 2 ( 1 − cos ω n ) ω n = 2 ω n , | ⟨ u n , 1 ⟩ | 2 σ n 2 = 2. 级数发散,因此 V f = 1 没有 L 2 解。直接看积分也一致:V f 有连续代表,且在零端点取零,不能几乎处处等于常数一。这里不是说 L 2 等价类自带端点值,而是说如果它有这样的积分原像,就必须有满足该端点的连续代表。
相比之下,y = x 有原像 f = 1 。其左系数为 2 sin ω n / ω n 2 ,除以 σ n 后为 2 ( − 1 ) n − 1 / ω n ,平方可和。数据是否光滑与是否满足积分算子的边界结构,是两个都要检查的问题。
推论与应用
有限秩与无限秩的稳定性分界
若 K 的正奇异值只有 r ≥ 1 个,则其值域有限维而闭,式(3)覆盖整个 Y ,并且
‖ K † y ‖ 2 ≤ σ r − 2 ∑ n ≤ r | y n | 2 ≤ σ r − 2 ‖ y ‖ 2 . 取 y = u r 达到等号,故 ‖ K † ‖ = 1 / σ r 。K = 0 时 ran K = { 0 } ,定义域仍是 Y ,最小范数逆恒为零,精确方程仅对 y = 0 可解。
若 K 无限秩,数据 y ( n ) = σ n u n ∈ ran K 趋于零,却有 K † y ( n ) = v n 、范数恒为一。因此逆即使限制在自身定义域上,按 Y 的范数也不连续。
此时值域还必定不闭,可以直接构造见证。选子序列 n j 使 σ n j ≤ 2 − j ,令 y = ∑ j σ n j u n j 。数据能量至多 ∑ j 4 − j ,各有限部分和均在值域;但除以奇异值后的系数全为一,不平方可和。因此 y ∈ ran K ― ∖ ran K 。结合有限秩分支,紧算子具有闭值域当且仅当其秩有限。
第一类方程不能借用第二类的充分条件
Fredholm 择一 理路 紧算子的 Fredholm 择一 Fredholm alternative for compact operators · Fredholm择一定理 · 紧扰动恒等算子的兼容条件 证明恒等算子的紧扰动具有闭值域和指标零,用伴随齐次解准确判定有解、唯一与共振。 研究 I − λ K ,其恒等部分保证值域闭,因而伴随核正交已经足以判定可解。这里研究的是 K 本身;无限秩时正交条件只给可逼近性,还须检查 Picard 加权和。Green 的 g 2 已与整个余核正交,却仍无原像,正好说明两个命题的差别。
无限秩时,式(3)也说明带噪时不能默认先计算 K † y δ :即使真数据 y ∈ ran K ,一个任意小的 Y 范数扰动也可能把它移出逆的定义域。谱正则化 理路 紧逆问题的确定性谱正则化 Deterministic spectral regularization · TSVD and Tikhonov for compact inverse problems · 紧算子逆问题的截断与 Tikhonov 正则化 对任意确定性噪声证明截断 SVD 与 Tikhonov 的偏差噪声界、同步参数收敛和一个明确源条件下的恢复速率。 为每个观测 y δ ∈ Y 定义有界恢复算子,再让参数随噪声一起变化,这才是接下来的稳定求解问题。
参考资料
Christian Clason,Regularization of Inverse Problems , arXiv:2001.00617v2 ,2021-02-08 提交、封面日期 2021-02-09;Definition 3.2、Theorems 3.3–3.7,印刷页17–21:最小二乘解、最小范数逆与定义域;Theorem 3.10,印刷页23–24:Picard 判据。讲义限于实 Hilbert 空间;本文的复数版本用第一变量共轭线性逐步证明。
同一讲义 Example 3.11,印刷页25–26:积分与微分的奇异系统。本文的常数数据失败例、Green 的完整 q 阈值及带余核直和例均由正文系数计算给出。