Sinkhorn Divergences for Unbalanced Optimal Transport
CNRS(法国国家科学研究中心);ENS(巴黎高等师范学院);ENS Paris-Saclay(巴黎萨克雷高等师范学院);Université Paris-Est Marne-la-Vallée(巴黎东-马恩拉瓦莱大学)
最优输运在概率分布之间引入了地球移动器(Wasserstein)距离,这是一种与广泛问题相关的几何发散。在过去的十年中,最优输运的两个松弛已被深入研究:不平衡输运,这是鲁棒的离群值的存在,并可以使用时,分布不具有相同的总质量;熵正则化的运输,这是鲁棒的采样噪声,并适合于使用Sinkhorn算法的快速计算。本文结合了这两条线的工作,把坚实的地面上强大的最优输运。我们的主要贡献是一个概括的Sinkhorn算法不平衡的运输:我们的方法交替之间的标准Sinkhorn更新和逐点应用的收缩函数。这意味着网格图像、点云和采样分布上的熵输运求解器都可以很容易地进行修改以支持不平衡输运,并证明在所有设置中都具有线性收敛。然后,我们展示了如何使用这种方法来定义伪距离的积极措施,满足关键的几何公理:(不平衡)Sinkhorn分歧是可微的,积极的,明确的,凸的,统计上的强大,并避免任何“熵偏差”对收缩的措施的支持。
2023-01-16 cs.LG math.OC stat.ML
Toric Geometry of Entropic Regularization
熵正则化是求解大规模线性规划的一种方法。从几何学上讲,人们从伯奇点开始跟踪可行多面体与缩放复曲面变体的相交。我们比较这对数障碍的方法,与倒易线性空间,开始在分析中心。我们重新熵正则化不平衡的最优输运,我们开发使用的最佳圆锥耦合。我们计算相关复曲面簇的度,并探索像迭代缩放这样的算法。
2023-02-10 cs.LG math.AG math.OC
On Unbalanced Optimal Transport: An Analysis of Sinkhorn Algorithm
我们提供了一个计算复杂性分析的Sinkhorn算法,解决了熵正则不平衡最优运输(UOT)问题之间的两个措施可能不同的群众与最多$n$组件。我们发现,寻找一个$\varepsilon$近似的解决方案的UOT问题的Sinkhorn算法的复杂性是为了$\widetilde{\mathcal{O}}(n^2/ \varepsilon)$,这是近线性时间。据我们所知,这种复杂性优于求解最优运输(OT)问题的Sinkhorn算法的复杂性,其顺序为$\widetilde{\mathcal{O}}(n^2/\varepsilon^2)$。我们的证明技术是基于几何收敛的Sinkhorn更新的熵正则化UOT问题的最佳对偶解和一些性质的原始解。这也是不同的证明的复杂性的Sinkhorn算法近似OT问题,因为UOT解决方案不需要满足边际约束。
2020-11-19 cs.CC cs.DS math.OC
Unbalanced Optimal Transport, from Theory to Numerics
PSL University(巴黎文理研究大学);ENS(巴黎高等师范学院);CNRS(法国国家科学研究中心);UPEM(巴黎东马恩河谷大学)
最优传输(OT)最近已成为数据科学中的核心工具,以几何上忠实的方式比较点云和更一般的概率分布。然而,OT在现有数据分析和机器学习管道中的广泛采用受到几个缺点的困扰。这包括它缺乏对离群值的鲁棒性,它的高计算成本,需要大量的高维样本以及难以处理不同空间中的数据。在这篇评论中,我们详细介绍了最近提出的几种方法来缓解这些问题。我们特别坚持不平衡的OT,它比较任意的积极措施,不限于概率分布(即它们的总质量可以变化)。OT的这种推广使其对离群值和缺失数据具有鲁棒性。现代计算OT的第二个主力是熵正则化,这导致了可扩展的算法,同时降低了高维样本的复杂性。本文提出的最后一点是Gromov-Wasserstein(GW)距离,它扩展了OT以处理属于不同度量空间的分布。这篇综述的主要动机是解释不平衡OT、熵正则化和GW如何携手合作,将OT转化为数据科学的有效几何损失函数。
2023-01-16 cs.LG math.OC stat.ML
Dual Block Gradient Ascent for Entropically Regularised Quantum Optimal Transport
针对熵正则化量子最优输运问题,提出一种类似已有研究的块梯度上升方法,基于对偶泛函强凹性证明其线性收敛速率,并给出对应实现的数值实验结果。
2025-03-22 cs.NA math-ph math.MP
Entropy-Transport distances between unbalanced metric measure spaces
受最近的熵输运问题理论和Sturm在规范化度量测度空间上的$\mathbf{D}$距离的启发,我们定义了一类新的度量测度空间之间的完全可分距离,它们的总质量可能不同.我们提供了几个明确的例子,这样的距离,其中一个突出的作用是由一个测地度量的基础上的Hellinger-Kantorovich距离。此外,我们讨论了该理论的一些极限情况,恢复了“纯输运”$\mathbf{D}$距离,并引入了一类新的“纯熵”距离。我们还详细地研究了由这种熵-输运度量引起的拓扑,给出了在综合意义下满足里奇曲率下界的度量测度空间的紧性和稳定性结果.
2022-07-24 math.MG math.OC
The Unbalanced Gromov Wasserstein Distance: Conic Formulation and Relaxation
比较度量测度空间(即具有概率分布的度量空间)是许多机器学习问题的核心。这种度量测度空间之间最流行的距离是Gromov-Wasserstein(GW)距离,它是二次指派问题的解。然而,GW距离限于被赋予概率分布的度量测度空间的比较。为了解决这个问题,我们引入了两个非平衡Gromov-Wasserstein公式:距离和更易处理的上界松弛,它们都允许比较度量空间配备了任意正测度,直到等距。第一个配方是一个积极的和明确的分歧的基础上放松的质量守恒约束,使用一种新型的二次齐次发散。这种发散与熵正则化方法携手工作,熵正则化方法是解决大规模最优输运问题的流行方法。我们表明,基本的非凸优化问题可以有效地解决使用高度并行化和GPU友好的迭代计划。第二个公式是基于圆锥提升的直到等距的mm空间之间的距离。最后,我们提供了数值实验合成的例子和域适应数据与积极的未标记的学习任务,突出的不平衡的分歧及其在ML中的潜在应用的显着特点。
2023-01-16 math.OC stat.ML
Entropic regularised optimal transport in a noncommutative setting
本综述探讨非交换熵最优输运问题及其与量子系统基态能量的关联,回顾交换与非交换设置下的原始-对偶公式,并证明量子Sinkhorn算法收敛性,同时涵盖玻色子和费米子系统。
2023-10-16 math-ph math.MP math.OC
Unbalanced Low-rank Optimal Transport Solvers
Microsoft Research(微软研究院);Apple(苹果公司);Helmholtz Center Munich(慕尼黑亥姆霍兹中心)
本文融合非平衡最优传输与低秩求解器两条路线,提出线性时间且对离群点更鲁棒的定制算法,并推广到 Fused-Gromov-Wasserstein 情形,在空间转录组学匹配任务中验证其有效性。
2023-05-31 cs.LG math.OC
Mirror Descent for Stochastic Control Problems with Measure-valued Controls
针对带测度值控制的有限时间随机控制问题,本文基于Bregman散度分析镜像下降算法收敛性,证明τ=0时线性收敛、τ>0时指数收敛,验证正则化加速梯度法的有效性。
2025-08-20 cs.NA math.NA math.OC
Fast and Large-Scale Unbalanced Optimal Transport via its Semi-Dual and Adaptive Gradient Methods
Sorbonne Université(索邦大学)
本文提出了一种基于半对偶和自适应梯度方法的快速大规模不平衡最优传输算法,通过分析局部曲率特性,实现了高效的收敛率和可扩展性。
2026-02-11 math.OC stat.ML
Regularized unbalanced optimal transport as entropy minimization with respect to branching Brownian motion
考虑了在初始时刻和最终时刻,在密度约束下,关于分支布朗运动定律的熵最小化问题。我们把这个问题称为分支薛定谔问题,通过类比薛定谔问题,其中参考过程是布朗运动。而薛定谔问题与正则化(也称为正则化)有关。熵)最优输运,我们调查这里的分支薛定谔问题与正则化不平衡最优输运的联系。这种联系表现在两个层面上。首先,依赖于对偶的论点,这两个问题的值的变分是联系在一起的,在这个意义上,正规化的不平衡最优输运的值(被视为初始和最终措施的函数)是分支薛定谔问题的值的下半连续松弛。其次,我们还明确了这两个问题的竞争对手之间的对应关系,并为此目的,我们提供了一个很好的描述法律具有有限熵的参考分支布朗运动。我们调查的小噪声限制,当噪声强度的分支布朗运动去$0$:在这种情况下,我们表明,在水平的最优输运模型,有收敛到部分最优输运。我们还提供了正式的论点,为什么看分支布朗运动,而不是在其他测量值分支马尔可夫过程,如超过程,产生的问题最接近最优输运。最后,我们解释这个问题如何可以解决数值:正则化不平衡最优输运的动力学公式可以离散化,并通过凸优化解决。
2021-12-13 math.AP math.OC math.PR
Debiasing optimal transport: classical and entropic
CERMICS, CNRS, ENPC, Institut Polytechnique de Paris(巴黎高等测量学院,法国国家科学研究中心,巴黎理工学院);INRIA, PARMA team-project(法国国家信息与自动化研究所)
本文研究了最优传输中成本函数的去偏性,探讨了熵正则化在不同正则化参数下的表现,提出新的分解公式。
2026-10-30 math.FA math.OC
A synthetic approach to comparison principles for variational problems, with applications to optimal transport
本文提出了一种基于子模性和替代性的合成方法,用于在无限维空间中推导最优传输问题的比较原理,无需依赖极小解的正则性假设。
2025-11-27 math.OC
Computation of Robust Option Prices via Structured Multi-Marginal Martingale Optimal Transport
该研究提出一种结合熵正则化、利用序列鞅结构的高效计算框架,求解含大量边际的多边际鞅最优输运问题,可快速计算回望、亚式等期权的稳健价格区间。
2025-03-20 math.OC math.PR q-fin.CP
Computational Methods for Martingale Optimal Transport problems
我们建立了数值方法求解鞅最优输运问题(MOT)-一个版本的经典最优输运与额外的鞅约束运输的动态。我们证明了MOT值可以近似使用线性规划(LP)问题,这导致从离散化的边缘分布结合适当的放松鞅约束。专门为一维,我们提供了上述计划的收敛速度的界限。我们还证明了在边缘分布的部分指定下的稳定性结果。最后,我们专注于一个特定的离散计划,保持凸序,不需要鞅松弛。我们介绍了相应的LP问题的熵正则化,并详细介绍了相应的迭代Bregman投影。我们还重写其对偶问题作为一个最小化问题,没有约束,并解决它通过计算凹包络的分散数据。
2019-04-05 math.OC math.PR q-fin.CP
On Multimarginal Partial Optimal Transport: Equivalent Forms and Computational Complexity
University of Texas, Austin(德克萨斯大学奥斯汀分校);VinAI Research(VinAI研究院)
研究了最多支持$n$的$m$离散(不平衡)测度之间的多边际部分最优传输(POT)问题。我们首先证明,我们可以得到两个等价形式的多边际POT问题的多边际最优运输问题通过新的扩展成本张量。第一个等价形式是在假设每个测度的总质量足够接近的情况下导出的,而第二个等价形式不需要对这些质量有任何条件,但代价是更复杂的扩展成本张量。我们获得这些等价形式的证明技术依赖于图论中移动质量的新程序,将运输计划推到适当的区域。最后,基于等价形式,我们开发的优化算法,命名为ApproxMPOT算法,建立在Sinkhorn算法求解熵正则化多边际最优运输。我们证明了ApproxMPOT算法可以逼近多边缘POT问题的最优值,其计算复杂度上界为$\tilde{\mathcal{O}}(m^3(n+1)^{m}/ \varepsilon^2)$阶,其中$\varepsilon > 0$代表期望的公差。
2022-02-24 cs.DS cs.LG math.OC