熵正则化最优输运

纯搬运成本偏爱便宜路线，熵项则惩罚过度集中的依赖结构。$\epsilon$ 越大，独立耦合的影响越强；它不是让原问题的答案“更精确”，而是在两个目标之间取舍。

严格正性可由零点处的熵导数看出：若计划某处为零，朝完全正的独立计划移动很小一步，新增项的 $t\log t$ 改善会压过线性成本的一阶变化。最优点因而在内部。删去最后一条列和等式后，其余 $m+n-1$ 个边缘约束梯度线性无关，且最优点位于所有元素为正的开集。于是可用Lagrange 乘子条件公理库拉格朗日乘子法Lagrange multiplier method约束极值处目标梯度位于约束梯度张成空间中的必要条件。；驻点方程给出 $\log P_{ij}$ 等于行项、列项与 $-C_{ij}/\epsilon$ 之和，指数化便得到缩放结构。

反过来，任意严格正且满足边缘的缩放矩阵 $Q=\mathrm{diag}(u)K\mathrm{diag}(v)$ 都有一个直接的全局证书。记正则目标为 $F_{\epsilon }$，对任意可行 $P$，行列势项因边缘相同而抵消，留下

等号仅在 $P=Q$ 成立，所以可行缩放矩阵恰是唯一最优计划。

取相同边缘 $a=b=(1/2,1/2)$，成本矩阵为 $C=\left(\begin{array}{cc}0& d\\ d& 0\end{array}\right)$，$d>0$。令 $k=e^{-d/\epsilon }$。对称性与边缘约束给出

原始最优计划只走对角线，成本为零；正则计划却有总量 $k/(1+k)$ 走交叉路线，因此其未正则搬运成本为 $dk/(1+k)>0$。当 $\epsilon \downarrow 0$，交叉量趋零；当 $\epsilon \to \mathrm{\infty }$，计划趋于所有元素为 $1/4$ 的独立耦合。

应区分三个数：原始最优成本 $C^{\ast }$、正则计划的搬运成本 $⟨C,P_{\epsilon }⟩$、以及包含熵项的目标 $V_{\epsilon }$。若 $P^{\ast }$ 是原问题最优计划，则

证明将 $P^{\ast }$ 代入正则目标作上界，再利用相对熵非负。它同时说明小 $\epsilon$ 下的偏差控制，但没有告诉数值算法已经收敛。

本例两侧分布相同，正则目标和正则计划搬运成本仍可为正，所以不能把它们直接当作满足“自身距离为零”的 Wasserstein 度量。若某些边缘为零，先删去对应行列；若成本无穷导致 $K$ 有零，严格正矩阵下的结论需要重新核验。

在本页有限成本、严格正边缘和固定 $\epsilon >0$ 的范围内，Sinkhorn 算法公理库Sinkhorn 矩阵缩放算法Sinkhorn algorithm · Iterative proportional fitting for transport交替修正正矩阵的行列边缘，用残差检验可行性，并在小正则参数下改用对数域。通过行列缩放收敛到唯一的正则最优计划。减小 $\epsilon$ 会降低模型偏差，却可能加重数值下溢和迭代困难；边缘误差、正则化偏差与原始最优性误差需要分开报告。