“已知熵正则最优计划形如 $P=\operatorname{diag}(u)K\operatorname{diag}(v)$,怎样找出两组正缩放系数?”
形式陈述
线性输运问题可能有多个最优计划。能否通过一个平滑惩罚得到唯一解,并让矩阵计算更容易?熵正则化可以做到,但它会改变优化目标。
设正概率向量
采用自然对数和
可行集紧且非空,连续目标由极值定理取得最小值,严格凸性使最优计划
直觉
纯搬运成本偏爱便宜路线,熵项则惩罚过度集中的依赖结构。
严格正性可由零点处的熵导数看出:若计划某处为零,朝完全正的独立计划移动很小一步,新增项的
反过来,任意严格正且满足边缘的缩放矩阵
等号仅在
例子与边界
取相同边缘
原始最优计划只走对角线,成本为零;正则计划却有总量
应区分三个数:原始最优成本
证明将
本例两侧分布相同,正则目标和正则计划搬运成本仍可为正,所以不能把它们直接当作满足“自身距离为零”的 Wasserstein 度量。若某些边缘为零,先删去对应行列;若成本无穷导致
推论与应用
在本页有限成本、严格正边缘和固定
参考资料
- Gabriel Peyré and Marco Cuturi, 2019,§4.1, Entropic Regularization。
- Marco Cuturi, 2013,§3–4, Sinkhorn Distances。