Skip to content

定理Theorem

Picard 判据与紧算子的最小范数逆

Picard criterion · Picard solvability condition · Moore–Penrose inverse of a compact operator

以余核正交和加权平方和同时判定精确可解性,给出最小二乘逆的真正定义域,并算出 Green 数据的 q>5/2 阈值。

形式陈述 ​

设 K:X→Y 为实或复 Hilbert 空间间的紧算子,(σn,un,vn) 是其正奇异系统,内积第一变量共轭线性。给定 y∈Y,记 yn=⟨un,y⟩。第一类方程 Kx=y 有解,当且仅当两个条件同时成立:

(1)y⊥ker⁡K∗,∑n|yn|2σn2<∞.

第一个条件把数据放进 ranK―,第二个才保证它落入真正的 ranK。第二个条件通常称为 Picard 条件。在已有闭包假设的表述中只需写第二项;对任意 y∈Y 使用时,两项都不能漏。

可解时,唯一的最小范数精确解为

(2)x†=∑nynσnvn∈(ker⁡K)⊥,

级数在 X 范数下收敛,全部精确解为 x†+ker⁡K。

若允许最小二乘,考虑 infx∈X‖Kx−y‖。这个下确界有达到它的输入,当且仅当

(3)y∈D(K†):=ranK⊕(ranK)⊥={y∈Y:∑n|yn|2σn2<∞}.

这里 K† 在该定义域上仍由式(2)定义,称为最小范数逆或 Moore–Penrose 逆。它选择所有最小二乘解中范数最小的一个;当 y 有非零余核分量时,这个解并不精确拟合 y。式(3)中的 ranK 没有闭包,直和也不预先声称是闭子空间。

直觉

一个输出系数 yn 产生于输入系数乘以 σn。逐项倒回去得到 yn/σn,但一串数只有平方和有限时才表示 Hilbert 空间中的向量。于是每一个有限截断都能解,并不意味着把所有截断接起来还会得到有限能量的输入。

余核检查承担另一件事。ker⁡K∗ 中的数据方向与所有可能输出正交,任何输入都无法产生它;这项障碍不出现在正奇异坐标里。因此必须先问数据是否具有无法产生的分量,再问可见分量的倒数系数是否可和。

必要性:一个真解必须支付全部输入能量 ​

若 Kx=y,对任意 h∈ker⁡K∗ 有

⟨h,y⟩=⟨K∗h,x⟩=0.

又由奇异关系,

yn=⟨un,Kx⟩=⟨K∗un,x⟩=σn⟨vn,x⟩.

Bessel 不等式于是给

∑n|yn|2σn2=∑n|⟨vn,x⟩|2≤‖x‖2.

这同时解释了为什么加权平方和必须有限,以及它为什么等于最小输入能量。

充分性:把系数构造成真正的向量 ​

假设式(1)成立。令 xN=∑n≤N(yn/σn)vn,则

‖xM−xN‖2=∑N<n≤M|yn|2σn2⟶0.

完备性给 xN→x†∈X,且每个部分和都在闭子空间 (ker⁡K)⊥ 中,故极限也在其中。K 有界,所以

Kx†=limNKxN=limN∑n≤Nynun=y.

最后一个等号使用 y⊥ker⁡K∗ 和左奇异族对值域闭包的完备性。若没有第一个条件,该极限只是 y 到值域闭包的投影。

两个解之差属于 ker⁡K。因此每个解唯一写成 x†+z、z∈ker⁡K,而

‖x†+z‖2=‖x†‖2+‖z‖2.

这证明最小范数的存在与唯一,也说明不可识别的核分量为何应单独保留。

最小二乘存在性为什么也需要定义域 ​

令 Y0=ranK―。闭子空间投影定理给

y=y0+y⊥,y0=PY0y,y⊥∈Y0⊥=ker⁡K∗.

因为 Kx−y0∈Y0,勾股关系给

(4)‖Kx−y‖2=‖Kx−y0‖2+‖y⊥‖2.

ranK 在 Y0 中稠密,所以第一项的下确界为零。它达到零,恰当且仅当 y0∈ranK,这正是式(3)的直和条件。对 y0 应用已证的 Picard 判据,又得到式(3)的级数表述;余核分量不贡献任何 yn。

若条件成立,全部最小二乘解满足 Kx=y0,所以仍是 K†y+ker⁡K。若条件失败,则最优残差只有下确界 ‖y⊥‖,没有任何输入取得它。特别当 y∈Y0∖ranK 时,下确界为零却无最小二乘解。把 PY0y 当成已经有原像的输出,正是容易漏掉的一步。

例子与边界

Green 数据:从平方可积走到 q>5/2 ​

沿用区间 Dirichlet Green 算子

Tf(x)=∫01{min(x,t)−xt}f(t)dt,en(x)=2sin⁡(nπx),Ten=1π2n2en.

它单射且自伴,所以余核为零;左右奇异向量都取 en,奇异值为 σn=1/(π2n2)。给定实数 q>1/2,数据

gq=∑n=1∞n−qen

确实属于 L2,因为 ∑n−2q<∞。现在求 Tf=gq,式(1)要求

∑nn−2q(π−2n−2)2=π4∑nn4−2q<∞.

p 级数收敛恰当且仅当指数 4−2q<−1,即

(5)q>52.

可解时,唯一解为 fq=π2∑nn2−qen。例如 q=3 给解系数 π2/n,平方可和;q=2 正是 Green 页已有的常数系数 π2 反例。

临界 q=5/2 的输入系数为 π2/n,能量是发散的调和级数 π4∑1/n,所以等号不能纳入可解区间。每个截断数据 gq,N 仍有原像 fq,N,且

‖gq−gq,N‖2=∑n>Nn−2q⟶0,‖fq,N‖2=π4∑n≤Nn4−2q.

当 1/2<q≤5/2,右端输入能量趋于无穷。这在同一族数据里区分了“可以逼近”“真正有原像”和“截断输入是否有界”。

级数有限,仍可能被余核挡住 ​

在 L2(0,1)⊕C 上定义 K(f,a)=(Tf,0),取 y=(g3,1)。正左奇异向量为 (en,0),所以加权平方和是 π4∑n−2<∞。但 (0,1)∈ker⁡K∗,且 ⟨(0,1),y⟩=1,故无精确解。

最小二乘则存在:K†y=(f3,0),最小残差为一;全部最小二乘解是 (f3,a),a∈C。最后一个输入坐标属于原核,最后一个输出坐标属于余核。它们在这个例子中位置相似,承担的任务却不同。

Volterra 的端点也藏在 Picard 条件里 ​

对 Vf(x)=∫0xf(t)dt,上页已证明左右核为零,并求得 un=2sin⁡(ωnx)、σn=1/ωn,其中 ωn=(n−1/2)π。取平滑数据 y=1,有

⟨un,1⟩=2(1−cos⁡ωn)ωn=2ωn,|⟨un,1⟩|2σn2=2.

级数发散,因此 Vf=1 没有 L2 解。直接看积分也一致:Vf 有连续代表,且在零端点取零,不能几乎处处等于常数一。这里不是说 L2 等价类自带端点值,而是说如果它有这样的积分原像,就必须有满足该端点的连续代表。

相比之下,y=x 有原像 f=1。其左系数为 2sin⁡ωn/ωn2,除以 σn 后为 2(−1)n−1/ωn,平方可和。数据是否光滑与是否满足积分算子的边界结构,是两个都要检查的问题。

推论与应用

有限秩与无限秩的稳定性分界 ​

若 K 的正奇异值只有 r≥1 个,则其值域有限维而闭,式(3)覆盖整个 Y,并且

‖K†y‖2≤σr−2∑n≤r|yn|2≤σr−2‖y‖2.

取 y=ur 达到等号,故 ‖K†‖=1/σr。K=0 时 ranK={0},定义域仍是 Y,最小范数逆恒为零,精确方程仅对 y=0 可解。

若 K 无限秩,数据 y(n)=σnun∈ranK 趋于零,却有 K†y(n)=vn、范数恒为一。因此逆即使限制在自身定义域上,按 Y 的范数也不连续。

此时值域还必定不闭,可以直接构造见证。选子序列 nj 使 σnj≤2−j,令 y=∑jσnjunj。数据能量至多 ∑j4−j,各有限部分和均在值域;但除以奇异值后的系数全为一,不平方可和。因此 y∈ranK―∖ranK。结合有限秩分支,紧算子具有闭值域当且仅当其秩有限。

第一类方程不能借用第二类的充分条件 ​

Fredholm 择一研究 I−λK,其恒等部分保证值域闭,因而伴随核正交已经足以判定可解。这里研究的是 K 本身;无限秩时正交条件只给可逼近性,还须检查 Picard 加权和。Green 的 g2 已与整个余核正交,却仍无原像,正好说明两个命题的差别。

无限秩时,式(3)也说明带噪时不能默认先计算 K†yδ:即使真数据 y∈ranK,一个任意小的 Y 范数扰动也可能把它移出逆的定义域。谱正则化为每个观测 yδ∈Y 定义有界恢复算子,再让参数随噪声一起变化,这才是接下来的稳定求解问题。

参考资料
  • Christian Clason,Regularization of Inverse Problems, arXiv:2001.00617v2,2021-02-08 提交、封面日期 2021-02-09;Definition 3.2、Theorems 3.3–3.7,印刷页17–21:最小二乘解、最小范数逆与定义域;Theorem 3.10,印刷页23–24:Picard 判据。讲义限于实 Hilbert 空间;本文的复数版本用第一变量共轭线性逐步证明。
  • 同一讲义 Example 3.11,印刷页25–26:积分与微分的奇异系统。本文的常数数据失败例、Green 的完整 q 阈值及带余核直和例均由正文系数计算给出。
关系图谱10 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系