“强凸正则器通过凸共轭把累计梯度映到稳定决策,并产生“初始正则代价加累计对偶梯度平方”的 regret 分解。平衡学习率即可恢复 $O(\sqrt T)$ 界。”
“纯 FTL 每轮最小化历史损失,微小的新损失也可能让最优解在可行集两端跳动。强凸 $R$ 让累计目标具有曲率,相邻两轮 minimizer 的移动可由新梯度控制。对线性损失 $f t(x)=…”
Convex conjugate · Fenchel conjugate · Fenchel–Young inequality
以线性函数的最佳配对代价定义共轭,并导出原变量与对偶变量间的基本不等式。
为避免无限维拓扑中的闭性与对偶歧义,本页设
对任意
若
等价地
固定对偶方向
令
上确界在
闭性不能从双共轭结论中删去。例如在
等号条件把本页与次微分双向连接,并把求解最优性改写为原—对偶配对。Lagrange 对偶可借共轭消去原变量,Fenchel 对偶则直接比较若干函数的共轭;许多经典不等式也可视为 Fenchel–Young 的特例。共轭还控制近端算子的对偶关系,例如 Moreau 分解把一个闭凸函数及其共轭的 prox 组合成恒等映射。
正在载入交互图谱…