Skip to content

从自然插值到样条平滑与形状证书 ​

入口与交卷目标 ​

短主线只经过自然三次插值与三次平滑样条:从三条观测算出真正的函数最小点、节点值、曲率积分、未惩罚方向和调参分数。原有插值公式作为表示工具保留,泛化风险与GCV的基本解释复用核岭回归的线性平滑器账本。

两条独立选读分支不必串成前置:需要多个解释变量时读加性样条回拟合,需要全区间形状控制时从节点插入进入全非负配点与变号缩减。

可下载仅用Python标准库的精确复算程序与分数形式的预期输出。程序以有理数检查两套平滑表示、三点平坦CV、全部小矩阵子式、差分惩罚反例和回拟合轨迹;它不以有限测试代替正文的任意输入证明。

核心任务:三点数据究竟平滑成什么 ​

观测为 (0,0),(1,1),(2,0)。目标固定为残差平方和加 λ∫02(f″)2,取 λ=1/9。请交出以下四份互相核对的答案。

一、由曲率矩阵解节点值 ​

自然样条的内部二阶导数只有一个坐标。令 v=(1,−2,1)T,则

Q=v,R=2/3,A=QR−1QT=(3/2)vvT.

仿射值向量组成二维零空间,v是特征值9的曲率方向。y在仿射方向的投影为 (1/3,1/3,1/3),剩下 −v/3被收缩一半。因此

z^=(1/6,2/3,1/6),m=(R+λQTQ)−1QTy=−3/2.

由 z^=y−λQm再核对一次。R+λQTQ=4/3>0,这是本例的一阶正定带状系统。

二、交出整条曲线与目标值 ​

以拟合值作自然插值得

f^(x)=1/6+3x/4−x3/4(0≤x≤1),f^(x)=f^(2−x)(1≤x≤2).

在1处值、斜率、二阶导数分别为 2/3,0,−3/2,左右相同;两外端二阶导数为零。残差平方和是 1/6,曲率积分是 3/2,总目标为 1/3。

不要用“足够平滑”替代最优性。对任何允许扰动 g,完整证明最终应得到

J(f^+g)−J(f^)=∑ig(xi)2+λ∫(g″)2.

等号要求 g仿射且在两个互异输入为零,因此 g=0。这才说明拟合曲线是唯一函数最小点。

三、用积分核核验零空间处理 ​

锚定核为 k(x,z)=min(x,z)2[3max(x,z)−min(x,z)]/6。系数

c=(−3/2,3,−3/2),β=(1/6,3/4)

满足 ∑ici=∑icixi=0,并给出同一个 f^=β0+β1x+∑icik(x,xi)。若删去仿射项,核在0处恒零会强迫 f^(0)=0,与正确值 1/6不同。能指出这一具体错解,才说明没有把半范数当作全函数范数。

四、分清自由度、风险与选择信息 ​

收缩因子为 (1,1,1/2),EDF为 5/2,方差迹为 9/4。固定设计和惩罚、均值为 (0,1,0)、零均值同方差不相关噪声下,均值预测MSE为 1/18+3σ2/4。这是原设计的重复采样风险,不是任意新输入风险或95%覆盖保证。

每次留一只余两点,其直线预测产生残差 (−2,1,−2),所以CV为3。GCV用平均杠杆,得到2。这两个数都与任何正 λ无关:三点数据在这套评分下不能选出唯一的曲率强度。两分数不相等也不矛盾,逐点杠杆与平均杠杆本来就不同。

迁移验收。 将横坐标乘二,取 λnew=8/9可保留同一组拟合值。给响应加 2−3x,拟合也加同一直线。λ→∞得到仿射最小二乘,不是零函数;λ=0的原无限维问题不再唯一。

选读一:两个组件必须一起解释响应 ​

第一坐标 (0,1,2)、第二坐标 (0,2,1)。基函数分别为 3(t−1)2−2及其相反数,训练列为 u=(1,−2,1)、v=(−1,−1,2)。两列中心化,曲率积分各72,取惩罚系数各 1/12、响应 y=u+2v。

联合方程、正确系数与目标为

(123312)(ab)=(1215),(a,b)=(11/15,16/15),J∗=86/5.

从零按第一、第二组件更新,第一轮 (1,1)、目标18;第二轮 (3/4,17/16)、目标 1101/64。第二组件误差每轮乘 1/16。第一轮的联合残差为 (3,0),即使每块刚完成一次精确拟合,整个系统仍未解完。

识别验收。 设两个输入坐标相同且非恒定,例如都取 (0,1,2),而两组件都允许未惩罚的中心化直线。则沿 (z,−z)改变组件不改变拟合或罚项,中心化仍不能给唯一解释。真正条件是 ker⁡B∩ker⁡P={0};改变访问顺序可以改变组件分配,却不改变总预测。

模型边界。 两个独立Rademacher输入上的 x1x2具有纯交互。最佳加性平方损失预测为零、风险为1。求解器收敛并不意味着模型可以表达缺失交互。

选读二:从系数变号到全区间证书 ​

次数二、节点 (0,0,0,1,2,2,2)、系数 (1,−2,2,−1)。请先写出五个查询 (0,1/2,1,3/2,2)的B样条矩阵,再核验

s(xr)=(1,−3/4,0,3/4,−1),S−(c)=S−(s(xr))=3.

完整两段为 1−6x+5x2和 4(x−1)−5(x−1)2,三次零穿越在 1/5,1,9/5。证明任意更多查询也不会超过三次,需要插结矩阵的有序相邻支撑:所有子式非负;每次凸混合插入及随后保序取子序列都不能增加强变号。

Greville位置为 (0,1/2,3/2,2)。对任意直线 ℓ=α+βx,把系数改成 ci−α−βξi再数变号,就得到相对于这条直线的证书。连续性保证真正穿线;允许跳变时只说强变号,跳过零不必取到零。

失败验收。 非负且和为一的两函数 (1±cos⁡4πx)/2配系数 (1,−1),能产生四次样本变号,表明凸包性质本身不够。二次函数 (x−1/2)2则有二重零点却无变号,表明这里不数代数重数。

最终检查:惩罚、表示与数据不要混账 ​

在次数二、节点 (0,0,0,1,3,3,3)的基中,直线的系数是 (0,1/2,2,3)。真实曲率罚为零,普通二阶系数差分平方和却为 5/4;索引等差的系数 (0,1,2,3)反而差分罚为零、曲率积分为 11/6。据此说明为何不能在不均匀节点上把P-spline差分罚直接叫作同一个连续曲率目标。

交卷时必须保留三层对象:观测响应、拟合节点值、某个样条基中的控制系数。变号缩减约束最后两者之间的表示映射,不会自动约束从原始数据反解出的系数。需要单调拟合时,还要在求解阶段明确施加形状条件。

资料与完整推导见三个链接的知识页。主线交卷无需完成两条选读分支,也无需引入非Gaussian广义加性模型、自动选节点或自适应置信带。