Tseng 前向—后向—前向分裂

校正点等于沿一个真实包含残差前进 ​

一轮中记 $x,p,x^{+}$。由预解关系，

因此

算法先在预测位置 $p$拼出一个属于真实平衡关系的残差，再把这份残差用于原主点 $x$。这里 $r_p$不在 $Ax+Bx$中；位置下标不能省略。

下降估计为什么只需Lipschitz ​

若 $z$是零点，$A$与$B$各自单调，故它们的和也单调，并有 $⟨p-z,r_p⟩\ge 0$。将式(3)展开，得到恒等式

Lipschitz性随即给出

这一步不需要声称整个更新映射对任意两点非扩张；式(4)只比较更新点与真实解。步长使余量严格为正，求和便得到式(2)、有界轨道及 $x_k-p_k\to 0$。又有 $\Vert x_{k+1}-p_k\Vert \le \gamma L\Vert x_k-p_k\Vert \to 0$。

有限维有界序列的聚点理路Bolzano–Weierstrass 定理Bolzano–Weierstrass theorem实数空间中的每个有界序列都存在收敛子列。存在。取 $x_{k_j}\to \overline{x}$，则 $p_{k_j}\to \overline{x}$；由 $B$和预解连续，$\overline{x}=J_{\gamma A}(\overline{x}-\gamma B\overline{x})$，故它是零点。到这个零点的距离由式(4)非增，并有子列趋零，因而整列收敛。

全空间旋转与外梯度的重合 ​

令 $A=0$、$B=J$，其中 $J(x_1,x_2)=(-x_2,x_1)$。$J_{\gamma A}=I$，所以

这恰好是全空间的外梯度更新理路外梯度法Extragradient method · Korpelevich method在同一原锚点上先预测再校正，用两次场求值和投影处理单调旋转，证明有限维点收敛及平均预测点的有界域间隙率。。其主点平方长度每轮乘 $1-{\gamma }^2+{\gamma }^4$，在 $0<\gamma <1$时收缩。此处相同是因为预解为恒等映射，不能据此把一般两种算法认作同一个方法。

预测可行，校正可能不可行 ​

取 $C=[0,\mathrm{\infty }{)}^2$、$A=N_C$，则 $J_{\gamma A}=P_C$为逐坐标取正部。令

这是常向量加顺时针旋转，单调且 $L=1$。$z=(0,0)$为VI解，因为 $Bz=(1,2)$在每个可行方向上的内积非负。

从 $x=(1,0)$取 $\gamma =1/2$，有

主点已离开 $C$，预测点仍在 $C$。同一数据的两投影外梯度第二步为 $P_C(x-\frac{1}{2}Bp)=(1/2,0)$，与Tseng校正不同。因为本页的 $B$在全空间有定义，下一轮仍可合法执行；如果场只能在可行集上查询，这种实现便超出模型。

一轮预算可以实算：$\Vert x{\Vert }^2=1$，$\Vert x-p{\Vert }^2=1/4$，式(4)给 $\Vert x^{+}{\Vert }^2\le 13/16$；实际为 $5/16$。界不必每次取等，仍提供稳定保证。

少一次预解不等于没有代价 ​

两种方法每轮都需要两次场求值；Tseng只需一次预解，外梯度对约束VI需要两次投影。如果应用要求每个主点都可行，不能仅按调用次数选择Tseng；可以报告可行的 $p_k$，但相应误差证书也必须定位在 $p_k$。

在旋转例的端点 $\gamma =1/L=1$，主点依然四周期，说明严格步长条件不能一般删除。没有零点或改用非单调场时，式(4)的关键内积也未必非负。随机噪声与近似预解产生的误差并未包含在当前证明中。

从最小预测位移到可复核残差 ​

由式(3)及Lipschitz性，

若保存前 $N$轮中最小预测位移对应的 $(x_k,p_k)$，便能给这一个预测点的明确残差及式(2)的上界。只用最后一轮，或者只输出没有除以步长的主点位移，都不是同一份有限轮证书。

预测位移为零时，$p=x$立即给 $0\in Ax+Bx$。反过来，若主点恰好不动 $x^{+}=x$，由式(1)可得 $\Vert x-p\Vert \le \gamma L\Vert x-p\Vert$；严格步长迫使 $p=x$，因此也认证零点。这项判据同样用到了正确步长。

每轮有一次 $J_{\gamma A}$、两次 $B$以及 $O(d)$向量运算和工作存储。保留最小残差候选只多存一份点对。若 $A$是凸次微分，预解可由凸近端理路近端算子Proximal operator · Proximity operator在降低凸函数值与保持靠近输入点之间取得精确平衡的单值算子。实现；若为法锥，则用投影。单独调用这些工具都很便宜，不代表一般包含关系自动有目标值或可计算的原对偶gap。