An Homogeneous Unbalanced Regularized Optimal Transport model with applications to Optimal Transport with Boundary
本文研究了在不平衡最优输运(OT)模型中引入熵正则项后,如何改变模型的输入测度的均匀性。我们观察到,在常见的设置(包括平衡OT和不平衡OT与Kullback-Leibler分歧的边缘),虽然最优输运成本本身是不均匀的,最优输运计划和所谓的Sinkhorn分歧确实是均匀的。然而,在更一般的不平衡正则化最优输运(UROT)模型中,例如那些使用全变差作为边缘发散的模型,同质性并不成立。我们建议修改熵正则化项来检索均匀的UROT模型,同时保留标准UROT模型的大多数属性。我们展示了使用我们的齐次UROT(HUROT)模型的重要性,当它涉及到正则化最优输运与边界,运输模型涉及空间变化的分歧的边缘,标准(非齐次)UROT模型将产生不适当的行为。
2022-01-06 math.OC stat.ML
Well-Posed KL-Regularized Control via Wasserstein and Kalman-Wasserstein KL Divergences
Department of Mathematics, Technical University of Munich \& Munich Center for Machine Learning, Germany. The majority of the work was conducted while at the Institute of Mathematics at the Technical University of Berlin, Germany \& the Berlin Mathematical School.;Institute for Data Science Foundations, Hamburg University of Technology, Germany;Santa Fe Institute, USA
针对KL散度在支持不匹配和低噪声下失效的问题,提出基于传输几何的KL变体,消除线性时不变系统中的奇异性,实现适定控制并提升闭环性能。
2026-06-01 cs.LG math.OC
Regularized unbalanced optimal transport as entropy minimization with respect to branching Brownian motion
考虑了在初始时刻和最终时刻,在密度约束下,关于分支布朗运动定律的熵最小化问题。我们把这个问题称为分支薛定谔问题,通过类比薛定谔问题,其中参考过程是布朗运动。而薛定谔问题与正则化(也称为正则化)有关。熵)最优输运,我们调查这里的分支薛定谔问题与正则化不平衡最优输运的联系。这种联系表现在两个层面上。首先,依赖于对偶的论点,这两个问题的值的变分是联系在一起的,在这个意义上,正规化的不平衡最优输运的值(被视为初始和最终措施的函数)是分支薛定谔问题的值的下半连续松弛。其次,我们还明确了这两个问题的竞争对手之间的对应关系,并为此目的,我们提供了一个很好的描述法律具有有限熵的参考分支布朗运动。我们调查的小噪声限制,当噪声强度的分支布朗运动去$0$:在这种情况下,我们表明,在水平的最优输运模型,有收敛到部分最优输运。我们还提供了正式的论点,为什么看分支布朗运动,而不是在其他测量值分支马尔可夫过程,如超过程,产生的问题最接近最优输运。最后,我们解释这个问题如何可以解决数值:正则化不平衡最优输运的动力学公式可以离散化,并通过凸优化解决。
2021-12-13 math.AP math.OC math.PR
Convergence rate of Tsallis entropic regularized optimal transport
该研究针对连续场景下的Tsallis熵正则化最优传输问题,证明其Γ收敛于Monge--Kantorovich问题,推导了带显式常数的收敛速率,并证实KL正则化在Tsallis框架下收敛速率最快。
2024-10-07 math.FA math.OC math.PR
Sharp Asymptotics for Regularized Optimal Transport
Columbia University(哥伦比亚大学)
研究\(1 < p < \infty\)时\(L^p\)正则化及熵正则化最优传输的小正则化极限,通过新方法推导渐近性,推广现有结果并建立联系,明确了一阶和二阶渐近性。
2026-07-21 math.AP math.OC math.PR
A geometric perspective on regularized optimal transport
我们提出了新的几何直观的动力学版本的正则化最优输运。我们介绍了两个家庭的变分问题的黎曼流形包含类似的薛定谔桥问题和Yasue问题。我们还提出了一个类似的霍普夫-科尔变换的几何设置。
2017-04-21 math.AP math.OC
Quantitative Stability of Regularized Optimal Transport and Convergence of Sinkhorn's Algorithm
研究了熵正则化最优输运关于边界的稳定性。在包含二次代价和无界边缘的一般条件下,得到了$p$ -Wasserstein距离中的值的Lipschitz连续性和最优耦合的Hölder连续性.结果的值扩展到正则化的任意发散。作为一个应用,我们证明了Sinkhorn算法在Wasserstein意义下的收敛性,包括对二次成本的收敛性.提出了两种技术:第一个比较了最佳耦合与其所谓的阴影,耦合诱导其他边际显式建设。第二种方法通过改变坐标来变换一组边缘值,从而将不同边缘值的比较简化为相同边缘值下不同费用函数的比较。
2022-07-05 math.AP math.OC math.PR
$C^{1,α}$-regularity for Schrödinger potentials of Shannon-entropy regularized Optimal Transport
本文研究熵正则化最优传输中Schrödinger位势的光滑性,在边际支撑有界凸且密度有上下界的条件下,建立其$C^{1,α}$正则性的稳定性。
2025-06-11 math.AP math.OC
From Tsallis to KL: Convergence and Error Estimates for Tsallis-Regularized Optimal Transport
本文研究Tsallis正则化最优传输到KL极限的收敛性,通过变分重构和Γ-收敛证明,给出O(q-1)误差估计,阐明熵正则化与信息投影的关系。
2026-09-09 cs.IT math.FA math.IT
Convergence rates for regularized unbalanced optimal transport: the discrete case
本文针对离散情形下两类狄拉克质量加权和测度,研究正则化非平衡最优传输的代价与计划向原始解收敛的速率,该方法可用于机器学习中处理异常值鲁棒性问题。
2025-10-03 cs.NA math.NA math.OC
Statistical and Geometrical properties of regularized Kernel Kullback-Leibler divergence
CREST, ENSAE, IP Paris(CREST、ENSAE、巴黎IP大学)
本文针对原始核 KL 散度无法处理支撑集不相交分布的问题,提出正则化 KKL 变体,推导偏差与有限样本界、闭式表达式及 Wasserstein 梯度下降方案,并实验验证其传输性质。
2025-03-11 cs.LG math.FA math.OC
A Unified Convergence Analysis of the Multiplicative Update Algorithm for Regularized Nonnegative Matrix Factorization
乘性更新(MU)算法已被广泛地用于估计各种发散和正则化下的非负矩阵分解(NMF)问题中的基矩阵和系数矩阵。然而,理论上的收敛性保证只得到了一些特殊的分歧,没有正规化。在这项工作中,我们提供了一个概念上简单的,自包含的,和统一的证明适用于NMF的MU算法的收敛性与广泛的分歧和正则化。我们的主要结果显示了迭代序列(即,由MU算法产生的基和系数矩阵对)收敛到非凸NMF最优化问题的稳定点集合。我们的证明策略有可能为分析机器学习和信号处理中的类似问题开辟新的途径。
2017-06-07 cs.IT math.IT math.OC
A McKean-Pontrygin maximum principle for entropic-regularized optimal transport
Institut für Mathematik, Universität Potsdam(波茨坦大学)
本文提出基于麦克肯-庞特里亚金最大原理的均场方法,解决动态最优传输问题,避免随机路径采样,构建约束哈密顿方程,并统一处理确定性和随机性最优传输。
2026-03-31 cs.NA math.NA math.OC
Regularized Coupling Maps on Matrix Polytopes: From Assignment to Graph Matching and Optimal Transport
Beijing Normal University(北京师范大学);BNU-HKBU United International College(北师港浸大)
本文研究矩阵多面体上的正则化耦合映射,涵盖两类正则化,为图匹配与最优传输提供互补算法工具,正则项决定几何结构,外部任务决定精度标准。
2026-09-01 math.OC
Convex Histogram-Based Joint Image Segmentation with Regularized Optimal Transport Cost
Université de Bordeaux(波尔多大学);Normandie Univ(诺曼底大学);UNICAEN(卡昂大学);ENSICAEN(卡昂高等工程师学院);CNRS(法国国家科学研究中心)
在这项工作中,我们研究了一个多功能的凸框架多图像分割,依靠正则化的最佳质量传输理论。在这种设置中,几个运输成本函数被认为是和用于匹配的统计分布的功能。在实践中,从分割的图像区域估计全局多维直方图,并将其与先验给定的固定直方图或在非监督情况下直接推断的参考模型进行比较。不同的凸问题研究有效地解决使用原始-对偶算法。所提出的方法是通用的,使多阶段分割以及多个图像的共同分割。
2016-10-05 cs.CV math.OC
Quantitative Convergence of Quadratically Regularized Linear Programs
本研究量化了二次正则化线性规划解的收敛性,给出了正则化参数的精确阈值及阈值前后的次优性界限,并应用于最优输运,揭示了与数据点数的依赖关系。
2025-04-22 math.AP math.OC math.PR
Convergence Rates of the Regularized Optimal Transport : Disentangling Suboptimality and Entropy
该研究分析了正则化最优传输中运输计划和成本的收敛速率,揭示了次优性和熵之间的分离关系。
2025-12-04 math.OC
Stability of Quadratically Regularized Optimal Transport
Columbia University(哥伦比亚大学)
本文针对二次正则化最优输运问题,在边际分布、输运代价函数和正则化参数扰动下,建立了定量稳定性理论,核心是得到了对偶势的L∞稳定性结果,并首次证明了最优耦合支撑集在Hausdorff距离下的局部Lipschitz连续性。
2026-05-27 math.AP math.FA math.OC
Convergence of Batch Greenkhorn for Regularized Multimarginal Optimal Transport
Istituto Italiano di Tecnologia(意大利技术研究院);University of Novi Sad(诺维萨德大学);University College London(伦敦大学学院)
在这项工作中,我们提出了一个批量版本的Greenkhorn算法的多边缘正则化最优运输问题。我们的框架是一般的,足以涵盖,作为特殊情况下,一些现有的算法,如Sinkhorn和Greenkhorn算法的双边缘设置,和(贪婪)MultiSinkhorn多边缘最优运输。我们提供了一个完整的收敛性分析,这是基于贪婪控制的迭代Bregman投影(IBP)方法的属性。得到了全局线性收敛速度和迭代复杂度的显式界。当专门针对上述算法时,我们的结果提供了新的见解和/或改进了现有的见解。
2021-12-03 cs.LG math.OC stat.ML
Quadratically regularized optimal transport
我们研究的问题,最优输运在所谓的Kantorovich形式,即给定两个Radon措施的两个紧集,我们寻求一个最优输运计划,这是另一个Radon措施的产品集,有这两个措施作为边际,并最小化一定的费用函数。我们考虑二次正则化的问题,这迫使最优输运计划是一个平方可积〔的〕,而不是一个氡措施。我们得到了对偶问题,并证明了正则化问题的强对偶性和原始解和对偶解的存在性。然后,我们推导出两个算法来解决正则化问题的对偶问题:高斯-赛德尔方法和半光滑拟牛顿法,并研究这两种方法的数值。我们的实验表明,即使是小的正则化参数的方法表现良好。二次正则化是令人感兴趣的,因为所得到的最优输运计划是稀疏的,即它们具有小的支持(这不是经常使用的熵正则化的情况,其中最优输运计划总是具有全度量)。
2019-09-09 cs.NA math.NA math.OC
Quadratically-Regularized Optimal Transport on Graphs
最优传输提供了一种将几何域上的点之间的距离提升为该域上的信号之间的距离的方法,该距离表示为概率分布。在图上,运输问题可以用来表达具有挑战性的任务,包括以最小的运输费用将供应与需求相匹配;在离散语言中,这些成为最小成本网络流问题。通常需要正则化来确保线性地面距离情况的唯一性并提高优化收敛性;最先进的技术在运输矩阵上采用熵正则化。在本文中,我们探讨了一个二次替代熵正则化的运输图。我们从理论上分析了二次正则化图传输的行为,描述了正则化如何影响小但非零正则化区域的流结构。我们进一步利用优雅的二阶结构在这个问题的对偶推导出一个易于实现的牛顿型优化算法。
2018-03-23 cs.NA math.NA math.OC
Optimal transport problems regularized by generic convex functions: A geometric and algorithmic approach
为了规避数值求解离散最优输运问题(其中最小化线性目标函数$P\mapsto\langle C,P\rangle:=\sum_{i,j}C_{ij}P_{ij}$)的困难,Cuturi引入了该问题的一个变体,其中目标函数被凸函数改变为$Φ(P)=\langle C,P\rangle-λ\mathcal{H}(P)$,其中$\mathcal{H}$是香农熵,而$λ$是正常数。本文将其公式推广到形式为$Φ(P)=\langle C,P\rangle+λf(P)$的目标函数,其中$f$是一般的严格凸光滑函数。我们还提出了一种迭代方法,找到一个数值解,并澄清,所提出的方法是特别有效的时,$f(P)=\frac{1}{2}\|P\|^2$。
2020-11-27 math.OC
Sparsity of Quadratically Regularized Optimal Transport: Scalar Case
Columbia University(哥伦比亚大学)
该研究首次精确描述了二次正则化最优传输问题在标量情况下的稀疏性,证明支撑收缩速率与ε^{1/3}相关,并分析了对偶势函数的性质。
2026-02-23 math.OC
MMD-Regularized Unbalanced Optimal Transport
IIT Hyderabad(印度理工学院海得拉巴分校);Microsoft(微软)
本文研究MMD正则化的非平衡最优传输问题,推导其特定对偶形式,提出仅依赖样本的传输计划估计器并证明误差为O(1/√m),实验表明其优于KL正则化UOT和MMD等基线。
2026-09-20 cs.LG math.OC
Domain decomposition for entropy regularized optimal transport
研究了熵正则化下求解最优输运问题的Benamou区域分解算法。关键的观察是,正则化的变体收敛到全局最优解非常温和的假设下。我们证明了该算法的线性收敛的Kullback-Leibler发散和说明(可能非常慢)的速度与数值例子。对于具有足够几何结构的问题(例如图像之间的Wasserstein距离),我们期望更快的收敛。然后,我们讨论了重要方面的计算效率的实现,如自适应稀疏,粗到细的计划和并行化,铺平了道路,数值求解大规模的最优输运问题。我们表现出高效的数值性能计算的Wasserstein-2之间的距离的2D图像和观察,即使没有并行化,区域分解比较有利地应用一个单一的高效实现的Sinkhorn算法的运行时间,内存和解决方案的质量。
2021-11-22 cs.NA math.NA math.OC
Proximal optimal transport divergences
我们提出近端最优传输散度,一种插值信息散度与最优传输距离的新差异度量,为生成建模提供近端优化基础,并建立动态平均场博弈公式,推广现有方法。
2025-08-07 math.OC math.PR stat.ME
A regularized Interior Point Method for sparse Optimal Transport on Graphs
本文提出一种利用原-对偶正则化的定制内点法,通过稀疏化正规牛顿方程高效求解稀疏图上的大规模最优传输问题,并证明了内层算法的多项式收敛性,数值实验显示其优于网络单纯形求解器。
2023-07-11 math.OC
Overrelaxed Sinkhorn-Knopp Algorithm for Regularized Optimal Transport
本文描述了一组快速计算正则化最优输运问题的解的方法。它推广和改进了广泛使用的迭代Bregman投影算法(或Sinkhorn-Knopp算法)。我们首先建议依赖于正则化的非线性加速方案。在实践中,这种方法导致快速算法,但不能确保其整体收敛。因此,我们接下来提出了一个新的算法与收敛保证。这个想法是过度放松布雷格曼投影算子,允许更快的收敛。我们提出了一个简单的方法,建立整体收敛,确保减少的李雅普诺夫函数在每一步。构造了一种基于李雅普诺夫函数的超松弛参数自适应选择方法。我们还提出了一个启发式选择一个合适的渐近超松弛参数,基于局部收敛分析。我们的数值实验表明,在某些制度的数量级的收敛速度的增益。
2021-03-31 cs.NA math.NA math.OC
Ordinary differential equations for regularized variational problems involving semi-discrete optimal transport
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Inria Saclay(法国国家信息与自动化研究所萨克莱分中心);Institut Universitaire de France (IUF)(法兰西学院);University of Alberta(阿尔伯塔大学)
本文研究了正则化半离散变分问题,通过常微分方程描述解的特性,并证明了其在正则化参数下的连续性,展示了数值求解方法的鲁棒性。
2026-04-04 cs.NA math.NA math.OC
Geometry and Convergence of Quadratically Regularized Optimal Transport I
Columbia University(哥伦比亚大学)
本文研究二次正则化最优传输在小正则化参数下的收敛速率,刻画支撑的稀疏几何,证明对偶势的一致 Hessian 界及收敛速率,并确定收敛失效的阈值。
2026-10-05 math.AP math.OC
Linear Convergence of Gradient Descent for Quadratically Regularized Optimal Transport
Columbia University(哥伦比亚大学)
本文研究了二次正则化最优传输中梯度下降法的收敛性,证明了在连续情况下,梯度下降算法在$ L^2 $空间中的线性收敛性。
2026-05-19 math.AP math.FA math.OC
Debiaser Beware: Pitfalls of Centering Regularized Transport Maps
估计最优输运(OT)地图(也称为Monge映射)是一个充满计算和统计挑战的问题。一个有前途的方法是使用双势函数时,解决样本$P_n$和$Q_n$之间的熵正则化OT问题,它可以用来恢复一个近似最优的地图。然而,该方案中的负熵惩罚引入了随着正则化强度而增长的估计偏差。一个众所周知的消除这种估计偏差的方法,在正则化优选论的实践者中得到了广泛的欢迎,就是通过减去涉及$P_n$和它本身以及$Q_n$和它本身的辅助问题来使它们居中。我们证明,在有利的条件下,$P$和$Q$,去偏可以产生更好的近似蒙赫地图。然而,也许令人惊讶的是,我们提出了一些情况下,去偏置是证明有害的统计意义上,特别是当正则化强度是大的或样本的样本个数是小的。这些主张在合成和真实数据集上得到了实验验证,并且应该重新开启关于使用熵最优输运时是否需要去偏的辩论。
2022-06-16 math.OC math.ST stat.TH
Regularized Discrete Optimal Transport
CEREMADE, Université Paris-Dauphine(CEREMADE,巴黎第九大学);IMB, UMR 5251, Université Bordeaux 1(IMB,波尔多第一大学);Institut Universitaire de France(法国大学研究院)
本文介绍了一个推广的离散最佳运输,与彩色图像处理的应用。这种新的提法包括放松的质量守恒约束和正则化项。这两个特征对于图像处理任务是至关重要的,这需要考虑多模态直方图的族,在模式之间具有大的质量变化。相应的松弛和正则化运输问题是凸优化问题的解。取决于所使用的正则化,可以使用标准线性规划方法或一阶近似分裂方案来求解该最小化。所得到的运输计划可以用作颜色转移图,其对于图像调色板之间的质量变化是鲁棒的。此外,运输计划的正则化有助于去除由于噪声放大而导致的着色伪影。我们还将这个框架扩展到分布重心的计算。重心是优化问题的解,其相对于重心和运输计划是单独凸的,但不是联合凸的。块坐标下降法收敛于能量的一个稳定点。我们表明,由此产生的算法可以用于跨几个图像的颜色归一化。放松和正则化的重心为这些图像定义了一个共同的调色板。向该平均调色板应用颜色转移执行输入图像的颜色归一化。
2013-07-21 cs.CV cs.DM math.OC
Entropy-Regularized Optimal Transport for Time-Varying Multi-Agent Coverage Control
Scuola Superiore Meridionale(南方高等学院);University of Naples Federico II(那不勒斯费德里科二世大学)
本文提出熵正则化半离散最优传输方法,用于多智能体时变覆盖控制,通过反馈-前馈控制器跟踪演化目标密度,实现指数收敛,并在中等正则化下优于沃罗诺伊基线。
2026-09-21 cs.SY eess.SY math.OC
Structured Transforms Across Spaces with Cost-Regularized Optimal Transport
ENS(巴黎高等师范学院);CNRS(法国国家科学研究中心);ENSAE(巴黎高等经济商业统计学院);Apple(苹果公司)
该研究提出利用成本正则化最优传输解决跨空间测度匹配问题,通过引入结构诱导正则化器和近端算法从不对齐数据中提取线性变换,并成功应用于单细胞组学匹配任务。
2023-11-23 cs.LG math.OC stat.ML
The planning problem in Mean Field Games as regularized mass transport
本文利用变分方法研究了平均场对策理论中的一阶规划问题。我们证明了在无穷远处具有任意超线性增长阶和局部耦合函数的一类Hamilton算子的情况下,问题的弱解的存在性和唯一性.我们要求初始和最终的度量值仅仅是可求和的。在同一时间(依赖于最近开发的技术由Graber和Mészáros),在较强的单调性和凸性条件下的数据,我们获得Sobolev估计的空间和时间导数的规划问题的解决方案。
2019-05-18 math.AP math.OC
Semi-dual Regularized Optimal Transport
CREST(Crest 研究中心);ENSAE(法国国家统计与经济管理学院);CNRS(法国国家科学研究中心);École Normale Supérieure(巴黎高等师范学院)
涉及Wasserstein距离和更普遍的最优运输(OT)理论的变分问题在数据科学中发挥着越来越重要的作用。这样的问题可以用来形成一个示例措施的各种概率措施,如在瓦瑟斯坦重心问题,或进行参数推断和密度拟合,其中的损失是衡量的最佳运输成本的措施的意见。尽管概念上很简单,但这些问题在计算上具有挑战性,因为它们涉及到最小化本身难以计算的量(Wasserstein距离)。最近出现的熵正则化作为一个有效的工具来近似解这样的变分Wasserstein问题。在本文中,我们给出了这些正则化技术的一个彻底的对偶之旅。特别是,我们展示了如何从经典OT的重要概念,如c-变换和半离散的方法转化为类似的想法在正则化设置。这些对偶公式导致光滑变分问题,这些问题可以使用光滑、可微和凸优化问题来解决,这些问题比它们的非正则化对应问题更容易实现并且在数值上更稳定。我们说明了这种方法的多功能性,将其应用到Wasserstein重心和梯度流的空间正则化泛函的计算。
2018-11-13 cs.AI cs.LG math.OC
Convergence rate of entropy-regularized multi-marginal optimal transport costs
本文研究了当噪声参数趋于0时,Boltzmann-Shannon熵正则化的多重边际最优传输代价的收敛速度,建立了形式为 $C\varepsilon\log(1/\varepsilon)+O(\varepsilon)$ 的上下界,并推广了已有结果。
2024-04-09 math.AP math.FA math.OC
Polyak-Lojasiewicz Inequality for Quadratically Regularized Optimal Transport
Columbia University(哥伦比亚大学)
针对二次正则化最优传输对偶问题,在温和假设下证明了局部误差界和Polyak-Lojasiewicz不等式,并推导出梯度上升等算法的线性收敛速率。
2026-05-26 math.AP math.FA math.OC
On the Convergence and Robustness of Training GANs with Regularized Optimal Transport
University of Southern California(南加州大学);University of Toronto(多伦多大学)
生成对抗网络(GANs)是学习数据分布的最实用的方法之一。流行的GAN公式是基于使用Wasserstein距离作为概率分布之间的度量。不幸的是,最小化数据分布和生成模型分布之间的Wasserstein距离是一个计算上具有挑战性的问题,因为其目标是非凸的,非光滑的,甚至难以计算。在这项工作中,我们表明,获得梯度信息的平滑Wasserstein GAN制定,这是基于正则化的最优运输(OT),是计算上毫不费力,因此可以应用一阶优化方法,以尽量减少这一目标。因此,我们建立了理论上的收敛保证平稳的一类建议的GAN优化算法。与原来的非光滑配方,我们的算法只需要解决的最优近似。我们应用我们的方法学习MNIST数字以及CIFAR-10图像。我们的实验表明,我们的方法是计算效率和生成图像的最先进的算法给出相同的架构和计算能力。
2018-05-22 cs.LG math.OC stat.ML
Entropy-Regularized Optimal Transport in Information Design
本研究聚焦信息设计中发送方通过选择信息策略最大化效用的问题,基于幂图划分相关的信息策略,采用熵正则化最优传输开发高效寻优算法,通过数值实验揭示最优配置特性,并拓展至多产品垄断者的信息策略推导场景。
2024-12-12 cs.GT cs.NA math.NA
An ADMM-Based Approach to Quadratically-Regularized Distributed Optimal Transport on Graphs
本文提出一种基于ADMM的分布式算法,用于在有向强连通图上求解带二次正则化的最优传输问题,并证明其在有无正则化情况下均收敛,实验验证了正则化对收敛性和稀疏性的影响及算法对拓扑变化的鲁棒性。
2025-07-06 cs.NA math.NA math.OC
Stabilized Sparse Scaling Algorithms for Entropy Regularized Transport Problems
本文提出了一种稳定的稀疏缩放算法,用于解决熵正则传输问题,通过结合对数域稳定公式、epsilon缩放启发式方法、内核的自适应截断和粗到细方案,提高了算法在小正则化和大规模问题中的效率和稳定性。
2019-02-11 cs.CE cs.NA math.NA
Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods
Chinese University of Hong Kong(香港中文大学);Princeton University(普林斯顿大学);University of Pennsylvania(宾夕法尼亚大学);Carnegie Mellon University(卡内基梅隆大学)
该研究提出基于熵正则化外梯度的一阶优化方法,将最优传输问题转为双线性极小极大问题,实现了$\tilde{O}(n^2/\beta)$的运行时间,数值性能优于Sinkhorn等经典算法。
2024-06-20 cs.DS cs.IT cs.LG
Optimal transport with $f$-divergence regularization and generalized Sinkhorn algorithm
Alfréd Rényi Institute of Mathematics(阿尔弗雷德·雷尼数学研究所)
熵正则化提供了原来的最优输运问题的推广。它引入了由Kullback-Leibler散度定义的惩罚项,通过著名的Sinkhorn算法使问题更容易处理。用一般的$f$ -发散代替Kullback-Leibler发散,得到自然的推广。由超线性函数定义的发散的情况最近由Di Marino和Gerolin研究。利用凸分析,我们推广了迄今为止发展的理论,使之包括了所有由Legendre型函数定义的$f$ -发散,并证明了在一些温和的条件下,强对偶成立,原问题和对偶问题都能达到最优,$c$ -变换的推广是定义良好的,我们给出了广义Sinkhorn算法收敛到最优解的充分条件.我们提出了一个实用的算法计算的近似解的最优输运问题的$f$ -发散正则化通过广义Sinkhorn算法。最后,我们提出了实验结果的合成2维数据,展示了使用不同的$f$ -发散正则化,影响收敛速度,数值稳定性和稀疏的最佳耦合的效果。
2023-01-03 cs.IT cs.LG math.FA