Variational Wasserstein Barycenters with c-Cyclical Monotonicity
College of Computer Science and Technology, Jilin University（吉林大学计算机科学与技术学院）；Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education（教育部符号计算与知识工程重点实验室）
Wasserstein重心建立在最优传输理论的基础上，提供了一个强大的框架来聚合概率分布，并且它越来越引起机器学习社区的极大关注。然而，它遭受严重的计算负担，特别是对于高维和连续设置。为此，我们开发了一种新的连续近似方法的Wasserstein重心问题的样本访问输入分布。其基本思想是引入一个变分分布作为真实连续重心的近似，从而将重心计算问题框架为一个优化问题，其中变分分布的参数调整代理分布以使其与重心相似。利用变分分布，我们构造了一个易于处理的对偶公式的正则化Wasserstein重心问题的c-循环单调性，可以有效地解决随机优化。我们提供了收敛性的理论分析，并证明了我们的方法的实际应用的子集后验聚合和合成数据的有效性。
2022-12-17 cs.LG stat.ML
Projection Robust Wasserstein Barycenters
University of California, Davis（加利福尼亚大学戴维斯分校）
从多个概率度量或直方图中收集和聚合信息是机器学习中的基本任务。这个任务的一个流行的解决方法是计算Wasserstein度量下的概率测度的重心。然而，由于维数灾难，近似Wasserstein重心在数值上是具有挑战性的。本文提出了投影鲁棒Wasserstein重心（PRWB），有可能减轻维数灾难。由于PRWB在数值上非常具有挑战性，因此我们进一步提出了一种更易于处理的松弛PRWB（RPRWB）模型。RPRWB项目的概率措施到一个低维子空间，最大限度地提高了Wasserstein重心目标。由此产生的问题是一个最大最小的问题在Stiefel流形。结合迭代Bregman投影算法和黎曼优化，我们提出了两个新的算法来计算RPRWB。分析了所提出的算法获得$ε$ -平稳解的算术运算的复杂性。我们将RPRWB引入到离散分布聚类算法中，在真实文本数据集上的数值结果证实了我们的RPRWB模型有助于显着提高聚类性能。
2021-09-27 cs.LG stat.ML
Differentially Private Wasserstein Barycenters
UT Austin（德克萨斯大学奥斯汀分校）；Boston University（波士顿大学）；MIT-IBM Watson AI Lab（麻省理工-IBM Watson AI实验室；IBM研究）；IBM Research
针对由敏感数据构建的概率测度，本文提出首批差分隐私 Wasserstein 重心计算算法，并在合成数据、MNIST 和大规模美国人口数据集上验证其高质量与良好的准确性—隐私权衡。
2025-10-03 cs.LG stat.ML
Continuous Wasserstein-2 Barycenter Estimation without Minimax Optimization
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Massachusetts Institute of Technology（麻省理工学院）
Wasserstein重心提供了基于最优运输的概率度量的加权平均的几何概念。在本文中，我们提出了一个可扩展的算法来计算Wasserstein-2重心给定的样本访问的输入措施，这是不限于离散。虽然过去的方法依赖于熵或二次正则化，我们采用输入凸神经网络和循环一致性正则化，以避免引入偏见。因此，我们的方法不诉诸于极大极小优化。我们提供了理论分析的误差范围，以及所提出的方法在低维定性场景和高维定量实验的有效性的经验证据。
2021-02-02 cs.LG stat.ML
Computing Optimal Transport Maps and Wasserstein Barycenters Using Conditional Normalizing Flows
ETH Zurich（苏黎世联邦理工学院）
本文提出一种利用条件归一化流高效计算高维最优传输映射和Wasserstein重心的新方法，通过基于梯度的传输成本最小化直接求解原始问题，突破了以往方法难以处理数百个输入分布的计算瓶颈。
2025-05-28 cs.LG stat.ML
Computational Guarantees for Doubly Entropic Wasserstein Barycenters via Damped Sinkhorn Iterations
EPFL（洛桑联邦理工学院）
本文提出一种基于阻尼Sinkhorn迭代的算法，用于计算双重正则化Wasserstein重心，保证任意参数下收敛，并首次为非精确变体提供离散点云间逼近的非渐近收敛保证。
2023-07-25 cs.LG math.OC stat.ML
Towards Universal Wasserstein Barycenters through Flow Matching
Sigma Nova
提出BaryFM流匹配模型，实现Wasserstein单纯形中任意重心的通用逼近，在域适应等4个任务上验证，平均排名优于15种方法。
2026-10-01 cs.AI cs.LG stat.ML
Learning to Predict Graphs with Fused Gromov-Wasserstein Barycenters
Télécom Paris（巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）；Ecole Polytechnique（巴黎综合理工学院）；Université de Toulouse（图卢兹大学）；INRAE（法国国家农业食品与环境研究院）；Aalto University（阿尔托大学）
本文介绍了一种新颖的通用框架，通过利用最优传输工具来解决监督标记图预测的旗舰任务。我们制定的问题与融合Gromov-Wasserstein（FGW）的损失回归，并提出了一个预测模型依赖于FGW重心的权重取决于输入。首先，我们介绍了一种基于核岭回归的非参数估计，证明了其相合性和超额风险界等理论结果。接下来，我们提出了一个可解释的参数模型，其中的重心权重建模与神经网络和FGW的重心计算的图形，另外学习。数值实验表明，该方法的强度和它的能力，在标记的图形空间内插模拟数据和一个困难的代谢识别问题，它可以达到非常好的性能，很少的工程。
2022-06-24 cs.LG stat.ML
Stochastic Wasserstein Barycenters
Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个随机算法来计算重心的一组概率分布下的Wasserstein度量从最佳运输。与以前的方法不同，我们的方法扩展到连续的输入分布，并允许在每次迭代中调整重心的支持。我们在没有正则化的情况下解决了这个问题，使我们能够恢复一个尖锐的输出，其支持包含在真正的重心的支持之内。我们给出的例子，我们的算法恢复比以前的工作更有意义的重心。我们的方法是通用的，可以扩展到应用程序，如从一个给定的分布生成超级样本和恢复蓝噪声近似。
2018-06-07 cs.LG math.OC stat.ML
Bayesian Learning with Wasserstein Barycenters
University of Vienna（维也纳大学）；Universidad de Chile（智利大学）；NoiseGrasp SpA（NoiseGrasp公司）
我们介绍和研究一种新的模型选择策略贝叶斯学习，最佳运输的基础上，随着其相关的预测后验法：Wasserstein人口重心的后验法模型。我们首先展示了这个估计，称为贝叶斯Wasserstein重心（BWB），自然产生的一般，无参数贝叶斯模型选择框架，当考虑贝叶斯风险是瓦瑟斯坦距离。给出了一些例子，说明如何BWB扩展一些经典的参数和非参数选择策略。此外，我们还提供了明确的条件授予存在和统计一致性的BWB，并讨论了它的一些一般和具体的属性，提供洞察其优势相比，通常的选择，如模型平均估计。最后，我们说明了如何使用随机梯度下降（SGD）算法在Wasserstein空间中计算此估计量，该算法在配套论文arXiv：2201.04232v2 [math.OC]中介绍，并提供了一个数值例子，实验验证所提出的方法。
2022-11-09 cs.LG stat.ML
Scalable Computations of Wasserstein Barycenter via Input Convex Neural Networks
Georgia Institute of Technology（佐治亚理工学院）；University of California, Irvine（加利福尼亚大学尔湾分校）
Wasserstein Barycenter是一种原则性的方法来表示给定的一组概率分布的加权平均值，利用由最佳运输引起的几何形状。针对机器学习中的高维应用，提出了一种新的可扩展的Wasserstein重心近似算法。我们提出的算法是基于Kantorovich对偶公式的Wasserstein-2距离以及最近的神经网络架构，输入凸神经网络，这是已知的参数化凸函数。我们的方法的显着特点是：i）它只需要来自边缘分布的样本; ii）与现有方法不同，它用生成模型表示重心，因此可以从重心生成无限个样本，而无需查询边缘分布; iii）它在一个边缘情况下类似于生成对抗模型。我们证明了我们的算法的有效性，通过比较它与国家的最先进的方法在多个实验。
2021-11-27 cs.LG math.OC stat.ML
A Particle-Flow Algorithm for Free-Support Wasserstein Barycenters
Department of Mathematics, Baruch College（数学系，巴彻学院）
本文提出一种自由支撑的Wasserstein重心粒子流算法，通过几何感知的粒子更新保留尖锐特征，理论证明其收敛性与稳定性，实验验证了准确性和可扩展性，是有原则的线性规划与正则化求解替代方案。
2025-09-16 cs.LG stat.CO stat.ML
Learning Graphons via Structured Gromov-Wasserstein Barycenters
Georgia Institute of Technology（佐治亚理工学院）
我们提出了一种新的和原则性的方法来学习一个非参数图模型称为graphon，这是定义在一个无限维的空间，并表示任意大小的图。基于图子理论中的弱正则引理，我们利用阶跃函数来逼近图子。我们证明了石墨烯的切割距离可以放宽到阶跃函数的Gromov-Wasserstein距离。因此，给定一组由底层graphon生成的图，我们学习相应的阶跃函数作为给定图的Gromov-Wasserstein重心。此外，我们开发了几个增强和扩展的基本算法，$e.g.$，平滑的Gromov-Wasserstein重心，以保证学习的graphons的连续性和混合的Gromov-Wasserstein重心学习多个结构化的graphons。所提出的方法克服了现有的最先进的方法的缺点，并优于他们的合成和真实世界的数据。该代码可在https://github.com/HongtengXu/SGWB-Graphon上获得。
2020-12-17 cs.LG cs.SI stat.ML
Fixed Support Tree-Sliced Wasserstein Barycenter
Kyoto University（京都大学）；RIKEN AIP（理化学研究所先进智能项目中心）；Facebook AI Research（脸书人工智能研究院）；SliceX AI（SliceX人工智能）
Wasserstein重心在包括自然语言处理和计算机视觉在内的各个领域都得到了广泛的研究。然而，它需要一个高的计算成本，以解决Wasserstein重心问题，因为计算的Wasserstein距离需要一个平方的时间相对于支持的数量。相比之下，树上的Wasserstein距离，称为树-Wasserstein距离，可以在线性时间内计算，并允许快速比较大量的分布。在这项研究中，我们提出了一个重心下的树Wasserstein距离，称为固定支持树Wasserstein重心（FS-TWB）和它的扩展，称为固定支持树切片Wasserstein重心（FS-TSWB）。更具体地说，我们首先表明，FS-TWB和FS-TSWB问题是凸优化问题，可以通过使用投影次梯度下降来解决。此外，我们提出了一个更有效的算法来计算次梯度和目标函数值，利用树Wasserstein重心问题的性质。通过真实世界的实验，我们表明，通过使用所提出的算法，FS-TWB和FS-TSWB可以解决两个数量级的速度比原来的Wasserstein重心。
2022-02-11 cs.AI cs.LG
Dynamical Wasserstein Barycenters for Time-series Modeling
Tufts University（塔夫茨大学）
许多时间序列可以建模为表示高级离散状态的一系列片段，例如人类活动应用程序中的跑步和步行。灵活的模型应该描述系统的状态和观察在固定的“纯状态”时期以及相邻段之间的过渡时期，如跑步和步行之间的逐渐减速。然而，大多数先前的工作假设纯离散状态之间的瞬时跃迁。我们提出了一个动态Wasserstein重心（DWB）模型，估计系统状态随着时间的推移，以及纯状态的数据生成分布在一个无监督的方式。我们的模型假设每个纯态从多元正态分布生成数据，并通过Wasserstein重心指定的位移插值来表征状态之间的转换。系统状态由一个重心权重向量表示，该权重向量通过单纯形上的随机游走随时间演化。参数学习利用了Wasserstein距离下高斯分布的自然黎曼几何，从而提高了收敛速度。在多个人类活动数据集上的实验表明，与常用的线性插值混合模型相比，该DWB模型能够准确地学习纯状态的生成分布，同时改善了过渡期的状态估计.
2022-11-01 cs.LG stat.ML
Optimal Transport Barycenter via Nonconvex-Concave Minimax Optimization
University of Notre Dame（圣母大学）；University of British Columbia（不列颠哥伦比亚大学）
本文提出WDHA算法，一种近线性时间与线性空间的原始-对偶方法，通过交替Wasserstein和Sobolev几何求解最优传输重心，并在高维离散分布上实现高效精确计算。
2025-05-25 cs.LG stat.ML
node2coords: Graph Representation Learning with Wasserstein Barycenters
Swiss Data Science Center (SDSC), EPFL/ETHZ（瑞士数据科学中心（SDSC），洛桑联邦理工学院/苏黎世联邦理工学院）；Signal Processing Laboratory (LTS4), EPFL（信号处理实验室（LTS4），洛桑联邦理工学院）
为了执行网络分析任务，需要在图结构中捕获最相关信息的表示。然而，现有的方法不学习可以以简单的方式解释并且对图结构的扰动具有鲁棒性的表示。在这项工作中，我们解决这两个限制，提出node2coords，一个表示学习算法的图形，同时学习低维空间和坐标的节点在该空间。跨越低维空间的模式揭示了图中最重要的结构信息。节点的坐标揭示了它们的局部结构与图结构模式的接近程度。为了通过考虑底层图来测量这种接近度，我们建议使用Wasserstein距离。我们介绍了一个自动编码器，采用线性层的编码器和一个新的Wasserstein重心层的解码器。捕捉节点的局部结构的节点连接描述符通过编码器来学习图结构模式的小集合。在解码器中，节点连接描述符被重构为图结构模式的Wasserstein重心。节点的连通性描述符的重心表示的最佳权重对应于该节点在低维空间中的坐标。实验结果表明，用node2coords学习的表示是可解释的，导致节点嵌入对图结构的扰动是稳定的，并且与最先进的节点分类方法相比，实现了竞争力或优越的结果。
2021-01-03 cs.LG stat.ML
Wasserstein Distributionally Robust Optimization with Wasserstein Barycenters
Northwestern University（西北大学）
在统计学和机器学习的许多应用中，来自多个可能异构的源的数据样本的可用性已经变得越来越普遍。另一方面，在分布鲁棒优化，我们寻求数据驱动的决策，以及在最不利的分布从名义分布构造的数据样本在一定的差异的概率分布。然而，目前还不清楚如何实现这种分布鲁棒性模型学习和估计时，数据样本来自多个来源。在这项工作中，我们建议通过Wasserstein重心作为来自多个来源的数据样本的聚合的概念，构建基于最佳运输的分布鲁棒优化问题的标称分布。在特定的损失函数的选择下，所提出的公式承认一个易于处理的重新制定作为一个有限的凸规划，具有强大的有限样本和渐近保证。作为一个说明性的例子，我们证明了分布鲁棒稀疏逆协方差阵估计的零均值高斯随机向量的问题，我们提出的方案优于其他广泛使用的估计在低维和高维制度。
2022-05-30 cs.LG math.OC stat.ML
An in depth look at the Procrustes-Wasserstein distance: properties and barycenters
Universit\'e C\ ote d'Azur, UMR 7264 CEPAM, CNRS, Nice, France；Universit\'e C\ ote d'Azur, Inria, CNRS, Laboratoire J.A. Dieudonn\'e, Maasai team, Nice, France；Universit\'e Lumi\'ere Lyon II, UMR 5133 Arch\'eorient CNRS, Lyon, France
本文系统研究了Procrustes-Wasserstein距离的数学性质，证明其在离散概率测度空间上确为距离，并提出PW重心概念及估计算法，用于从点云集合中提取代表性形状，在精确对齐和形状保持任务上优于现有最优传输方法。
2025-07-01 cs.LG stat.ML
Debiased Sinkhorn barycenters
CREST-ENSAE；Inria Saclay（法国国家信息与自动化研究所萨克莱分院）；Google Research（谷歌研究院）
最优传输（OT）中的熵正则化是最近机器学习中Wasserstein度量和重心的许多兴趣的驱动力。它允许保持非正则化瓦瑟斯坦距离的吸引人的几何特性，同时由于Sinkhorn的算法而具有显著较低的复杂度。然而，熵带来一些固有的平滑偏差，例如导致模糊的重心。这种副作用促使社区越来越倾向于采用较慢的算法，例如对数域稳定的Sinkhorn，它打破了可以在GPU上利用的并行结构，甚至回到非正则化OT。在这里，我们展示了这种偏见是如何紧密联系在一起的参考措施，定义的熵正则化，并提出debiased Wasserstein重心，保持最好的两个世界：快速Sinkhorn样迭代没有熵平滑。从理论上证明了一元高斯分布的熵OT重心是高斯分布，并量化了其方差偏差。这个结果是通过将熵OT的可微性和凸性推广到具有无界支撑的次高斯测度而得到的。从经验上讲，我们说明了减少模糊和各种应用程序的计算优势。
2020-06-03 cs.LG stat.ML
Wasserstein Gradient Flows for Scalable and Regularized Barycenter Computation
Sigma Nova Paris（Sigma Nova巴黎）
本文提出基于Wasserstein梯度流的可扩展且正则化的barycenter计算方法，通过小批量最优传输和任务感知正则化实现高效的监督信息整合，提升跨领域适应性能。
2026-07-27 cs.AI cs.LG stat.ML
The GenCol algorithm for high-dimensional optimal transport: general formulation and application to barycenters and Wasserstein splines
Technische Universität München（慕尼黑工业大学）
本文将高维多边际最优传输的遗传列生成算法从对称问题扩展至一般问题，并应用于计算精确的无网格Wasserstein重心和三次Wasserstein样条。
2022-09-19 cs.LG cs.NA math.NA
Towards Marginal Fairness Sliced Wasserstein Barycenter
University of Texas at Austin（德克萨斯大学奥斯汀分校）；VinAI Research（VinAI研究院）；Hanoi University of Science and Technology（河内理工大学）
本文首次定义边际公平切片Wasserstein重心问题，并提出三种无需超参数的替代优化方法，通过改进切片分布选择提升效率，在点云平均、颜色协调和公平表示学习等任务中验证了有效性。
2025-02-03 cs.GR cs.LG stat.ML
Linearized Wasserstein Barycenters: Synthesis, Analysis, Representational Capacity, and Applications
Tufts University（塔夫茨大学）
本文提出线性重心编码模型（LBCM），利用线性最优传输度量合成与分析概率测度，给出闭式解和有限样本保证，并展示其在协方差估计与数据插补中的应用。
2025-04-08 cs.LG stat.ML
Fast Discrete Distribution Clustering Using Wasserstein Barycenter with Sparse Support
The Pennsylvania State University（宾夕法尼亚州立大学）；University of California, Riverside（加州大学河滨分校）
在各种研究领域中，加权矢量袋和直方图是广泛使用的复杂对象的描述符。两者都可以表示为离散分布。D2-聚类追求服从Kantorovich-Wasserstein度量的一组离散分布的最小总簇内变异。D2聚类有一个严重的可扩展性问题，瓶颈是计算质心分布，称为Wasserstein重心，最小化其到集群成员的平方距离之和。在本文中，我们开发了一个修改的Bregman ADMM方法计算近似离散Wasserstein重心的大型集群。在支持点的重心是未知的，并具有低基数的情况下，我们的方法实现了高精度的经验，大大降低了计算成本。我们的方法和它的替代品的优点和缺点，通过实验进行检查，我们建议他们各自的使用方案。此外，我们开发的串行和并行版本的算法。通过对大规模数据的实验，我们证明了新方法的计算效率，并研究了它们的收敛性和数值稳定性。在不同领域的多个数据集上得到的聚类结果与相应领域中广泛使用的一些方法相比具有很强的竞争力。
2017-01-09 cs.LG stat.CO stat.ML
Stochastic Approximation versus Sample Average Approximation for population Wasserstein barycenters
Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机研究所）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Institute for Information Transmission Problems（信息传输问题研究所）
在机器学习和优化领域，凸风险最小化问题主要有两种方法，即随机逼近（SA）和样本平均逼近（SAA）。就oracle复杂性（所需的随机梯度评估次数）而言，这两种方法被认为是平均等效的（直到对数因子）。总的复杂性取决于具体的问题，但是，从工作开始\cite{nemirovski2009robust}它被普遍接受的SA是优于SAA。然而，在大规模问题的情况下，SA可能会耗尽内存，因为在一台机器上存储所有数据并在没有与其他机器通信的情况下组织在线访问是不可能的。SAA与SA不同，允许并行/分布式计算。我们表明，对于Wasserstein重心问题，这种优势可以被逆转。我们提供了一个详细的比较，说明SA和SAA实现计算重心相对于最优输运距离和熵正则化最优输运距离的复杂性界限。作为一个副产品，我们还构建了置信区间的重心定义相对于熵正则化的最优输运距离的$\ell_2$规范。对由期望给出的一般凸优化问题，给出了初步结果，以便在Wasserstein重心问题之外有其它应用。
2021-10-25 cs.LG math.OC stat.ML
Parallel Streaming Wasserstein Barycenters
Massachusetts Institute of Technology（麻省理工学院）
有效地聚合来自不同来源的数据是一个具有挑战性的问题，特别是当来自每个来源的样本分布不同时。这些差异可能是推理任务所固有的，也可能是由于其他原因而存在的：传感器网络中的传感器可能被放置得很远，从而影响它们各自的测量结果。相反，在计算上将贝叶斯推理任务划分为数据子集是有利的，但是数据不需要在子集之间相同地分布。融合概率分布的一个原则性方法是通过最优传输的透镜：Wasserstein重心是一个单一的分布，它总结了一系列输入测量，同时尊重它们的几何形状。然而，计算重心的规模差，需要离散化的所有输入分布和重心本身。改进这种情况下，我们提出了一个可扩展的，通信效率高，并行算法计算任意分布的Wasserstein重心。我们的算法可以直接对连续输入分布进行操作，并针对流数据进行了优化。我们的方法甚至是强大的非平稳输入分布，并产生一个重心估计，跟踪随着时间的推移的输入措施。该算法是半离散的，只需要离散重心估计。据我们所知，我们还提供了第一界的质量近似重心的离散化变得更精细。最后，我们证明了我们的方法的实际有效性，无论是在跟踪移动的分布在一个球体上，以及在一个大规模的贝叶斯推理任务。
2017-11-14 cs.LG math.OC stat.CO
Averaging Atmospheric Gas Concentration Data using Wasserstein Barycenters
INRIA（法国国家信息与自动化研究所）；Ecole Normale Supérieure（高等师范学校）；PSL Research University（巴黎文理研究大学）；Kayrros SAS（凯罗斯公司）；CNRS（法国国家科学研究中心）
高光谱卫星图像每天报告全球温室气体浓度。虽然对这些图像随时间的变化进行简单的平均可以粗略估计相对排放率，但大气迁移意味着简单的平均无法查明这些排放的来源。我们建议使用Wasserstein重心加上天气数据平均气体浓度数据集，更好地集中质量周围的重要来源。
2020-10-06 cs.LG math.OC
Weighted Wasserstein Barycenter of Gaussian Processes for exotic Bayesian Optimization tasks
本文提出基于高斯过程加权Wasserstein均值的框架，统一了多种exotic贝叶斯优化任务，并展示了其在计算效率和方法解释上的优势。
2026-02-09 cs.LG
Fast Algorithms for Computational Optimal Transport and Wasserstein Barycenter
UC Berkeley（加州大学伯克利分校）
我们提供了理论复杂性分析的新算法来计算两个离散的概率分布之间的最佳运输（OT）的距离，并证明其良好的实际性能比国家的最先进的原始-对偶算法和他们的能力，在解决其他问题的大规模，如Wasserstein重心问题的多个概率分布。首先，我们介绍了计算OT距离的\emph{accelerated primal-dual randomized coordinate descent}（APDRCD）算法。我们提供了它的复杂性上界$\bigOtil(\frac{n^{5/2}}{\varepsilon})$，其中$n$代表这些概率测度的原子数，$\varepsilon > 0$是所需的精度。这个复杂性界匹配OT问题的原始-对偶算法的最佳已知复杂性，包括自适应原始-对偶加速梯度下降（APDGD）和自适应原始-对偶加速镜像下降（APDAMD）算法。然后，通过大量的实验研究，证明了APDRCD算法优于APDAGD和APDAMD算法，并提出了一种贪婪算法\emph{accelerated primal-dual greedy coordinate descent}（APDGCD），进一步提高了算法的实际性能.最后，我们将APDRCD和APDGCD算法推广到分布式算法，用于计算多个概率分布的Wasserstein重心。
2020-06-15 cs.DS cs.LG stat.ML
Wasserstein barycenters are NP-hard to compute
Massachusetts Institute of Technology（麻省理工学院）
计算Wasserstein重心（a.k.a.最优输运重心）是几何学中的一个基本问题，由于在数据科学中的许多应用，最近引起了相当大的关注。虽然在任何固定的维度上都存在多项式时间算法，但所有已知的运行时间在维度上都呈指数级下降。这是一个开放的问题，是否这种指数依赖性是改进的多项式依赖。本文证明，除非P=NP，答案是否定的。这揭示了一个“维数灾难”的Wasserstein重心计算不会发生的最优输运计算。此外，我们的硬度计算Wasserstein重心的结果扩展到近似计算，看似简单的情况下的问题，并平均概率分布在其他最优输运指标。
2021-12-03 cs.CC cs.DS cs.LG
Doubly Regularized Entropic Wasserstein Barycenters
Institut de Mathématiques, École polytechnique fédérale de Lausanne (EPFL)（洛桑联邦理工学院数学研究所）
本文提出双正则化 $(λ,τ)$-熵 Wasserstein 重心，证明其去偏逼近、光滑稳定、$n^{-1/2}$ 估计速率，并给出指数收敛的无网格噪声粒子梯度下降算法。
2025-07-25 cs.LG math.OC stat.ML
Stochastic Saddle-Point Optimization for Wasserstein Barycenters
HSE University（俄罗斯高等经济大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Institute for Information Transmission Problems（信息传输问题研究所）；Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机研究所）
我们考虑人口Wasserstein重心问题的随机概率测度支持上的有限集的点和在线数据流产生的。这导致了一个复杂的随机最优化问题，其中的目标是作为一个随机最优化问题的解决方案给出的函数的期望。我们采用的结构的问题，并获得一个凹凸随机鞍点重新制定这个问题。在随机概率测度分布为离散分布的情况下，提出了一种随机最优化算法，并估计了算法的复杂度。第二个结果，基于核方法，将前一个结果推广到任意分布的随机概率测度。此外，在许多情况下，这种新算法的总复杂度优于随机逼近方法与Sinkhorn算法相结合。我们还说明了我们的发展由一系列的数值实验。
2021-12-02 cs.LG math.OC stat.ML
Unsupervised Multilingual Alignment using Wasserstein Barycenter
University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Borealis AI（博瑞利斯人工智能公司）
我们研究了无监督的多语言对齐，即在不使用任何并行数据的情况下找到多种语言之间的逐字翻译的问题。一种流行的策略是通过选择一种输入语言作为我们转换的关键语言，将多语言对齐减少到简化的双语设置。然而，众所周知的是，通过一个选择不佳的枢纽语言（如英语）过渡可能会严重降低翻译质量，因为假设的所有语言对之间的传递关系可能不会在训练过程中被强制执行。我们建议使用Wasserstein重心作为一种信息量更大的“平均”语言，而不是通过一种相当任意选择的枢轴语言：它封装了所有语言的信息，并最大限度地减少了所有成对的运输成本。我们在标准基准上评估我们的方法，并展示最先进的性能。
2020-07-28 cs.CL cs.LG stat.ML
Fairness in Multi-Task Learning via Wasserstein Barycenters
Université de Montréal（蒙特利尔大学）；Université du Québec à Montréal（魁北克大学蒙特利尔分校）
本文利用多边际Wasserstein重心将强人口统计均等扩展到多任务学习，给出回归与二分类场景下最优公平预测器的闭式解，并通过实验验证后处理方法在公平决策中的实用价值。
2023-07-06 cs.CY cs.LG stat.ML
Wasserstein barycenters can be computed in polynomial time in fixed dimension
Laboratory for Information and Decision Systems (LIDS), Massachusetts Institute of Technology（麻省理工学院信息与决策系统实验室）
计算Wasserstein重心是一个基本的几何问题，在机器学习、统计学和计算机图形学中有着广泛的应用。然而，不知道Wasserstein重心是否可以在多项式时间内精确地或高精度地计算（即，具有$\textrm{polylog}(1/\varepsilon)$运行时依赖性）。本文对这些问题作了肯定的回答。我们的方法是解决一个指数大小的线性规划制定有效地实现相应的分离甲骨文使用计算几何技术。
2020-12-09 cs.CG cs.DS cs.LG
An Asynchronous Decentralized Algorithm for Wasserstein Barycenter Problem
Zhejiang University（浙江大学）
针对去中心化Wasserstein重心问题，提出首个异步去中心化算法A$^2$DWB，通过随机块坐标下降优化熵正则对偶并利用陈旧邻居信息减少等待，实验证明其时间效率优于最新同步方法。
2023-04-23 cs.LG
Wasserstein Barycenter-based Model Fusion and Linear Mode Connectivity of Neural Networks
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Google（谷歌）
基于Wasserstein重心（WB）和Gromov-Wasserstein重心（GWB）的概念，提出了一个神经网络（NN）模型融合的统一数学框架，并利用它揭示了SGD解的线性模式连通性的新见解.在我们的框架中，融合以逐层的方式发生，并建立在网络中节点作为其前一层的函数的解释上。我们的数学框架的多功能性使我们能够讨论广泛类别的NN的模型融合和线性模式连接，包括全连接NN，CNN，ResNet，RNN和LSTM，在每种情况下都利用网络架构的特定结构。我们提出了广泛的数值实验：1）说明我们的方法相对于其他模型融合方法的优势; 2）从某种角度来看，为最近的研究提供了新的经验证据，这些研究表明，在对其中一个模型进行适当的权重排列后，基于梯度的方法发现的两个局部极小值最终位于损失景观的同一流域。
2022-10-13 cs.LG
Wasserstein Barycenter Gaussian Process based Bayesian Optimization
Department of Economics Management and Statistics, University of Milano-Bicocca（经济管理统计系，米兰-比科卡大学）；Department of Computer Science Systems and Communication, University of Milano-Bicocca（计算机科学系统与通信系，米兰-比科卡大学）
针对标准高斯过程贝叶斯优化中超参数拟合存在缺陷的问题，提出通过预设多组超参数拟合并用Wasserstein重心组合的WBGP-BO方法，在棘手测试问题上仍能收敛到最优解。
2025-05-18 cs.LG math.OC stat.ML
Mitigating Discrimination in Insurance with Wasserstein Barycenters
Université de Montréal（蒙特利尔大学）；Université du Québec à Montréal（魁北克大学蒙特利尔分校）
本文针对保险定价中的歧视问题，提出利用Wasserstein重心替代简单缩放来减轻基于敏感特征的历史数据偏差，并在真实数据上验证了其有效性。
2023-06-22 cs.CY cs.LG stat.ML
Synthesis and Analysis of Data as Probability Measures with Entropy-Regularized Optimal Transport
Tufts University（塔夫茨大学）
该研究基于熵正则化Wasserstein-2代价与Sinkhorn散度开展概率测度的合成与分析，推导了重心的不动点刻画与凸二次规划求解方法，证明了系数的维度无关收敛性与扰动稳定性，在小样本点云分类任务中效率优于神经网络基线。
2025-03-23 cs.LG stat.ML
Dimensionality Reduction for Wasserstein Barycenter
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
Wasserstein重心是一种几何构造，它捕获了概率分布之间的中心性概念，并且在机器学习中有许多应用。然而，大多数算法，甚至找到一个近似的重心遭受指数依赖的维度$d$的底层空间的分布。为了应对这种“维数灾难”，我们研究了Wasserstein重心问题的降维技术。当重心被限制为支持的大小$n$，我们表明，随机降维可以用来映射到一个空间的尺寸$O(\log n)$独立的$d$和$k$的问题，和\emph{any}解决方案中发现的减少的维度将其成本保存到任意小的错误在原始空间。我们提供了匹配的上界和下界的大小减少的维度，表明我们的方法是最佳的常数因子。我们还提供了一个coreset建设的Wasserstein重心问题，显着减少了输入分布的数量。核心集可以与随机投影结合使用，从而进一步提高计算时间。最后，我们的实验结果验证了降维提供的加速，同时保持解决方案的质量。
2021-10-19 cs.DS cs.LG math.PR
Tree-Based Diffusion Schrödinger Bridge with Applications to Wasserstein Barycenters
École polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎综合理工学院联盟）；ENS（巴黎高等师范学校）；PSL University（巴黎文理研究大学）；University of Oxford（牛津大学）
本文提出TreeDSB算法，将扩散薛定谔桥推广到树结构熵正则化多边际最优传输，并将其应用于高维Wasserstein重心计算，在图像插值和贝叶斯融合中验证了有效性。
2023-10-28 cs.LG math.PR stat.ML
Continual Learning of Generative Models with Limited Data: From Wasserstein-1 Barycenter to Adaptive Coalescence
Arizona State University（亚利桑那州立大学）
对于数据和计算能力有限的网络边缘节点来说，学习生成模型具有挑战性。由于类似环境中的任务具有模型相似性，因此可以利用来自云或其他边缘节点的预训练生成模型。呼吁最佳运输理论适合Wasserstein-1生成对抗网络（WGAN），这项研究的目的是开发一个框架，系统地优化生成模型的持续学习使用本地数据在边缘节点，同时利用预训练生成模型的自适应合并。具体而言，通过将来自其他节点的知识转移视为以其预训练模型为中心的Wasserstein球，生成模型的持续学习被转换为约束优化问题，该问题被进一步简化为Wasserstein-1重心问题。提出了一种两阶段的方法：1）离线计算预训练模型的重心，并以位移插值为理论基础，通过“递归”WGAN结构寻找自适应重心; 2）离线计算的重心作为Meta，模型初始化用于持续学习，然后执行快速自适应以使用目标边缘节点处的局部样本来找到生成模型。最后，提出了一种基于权值和量化阈值联合优化的权值三值化方法，进一步压缩生成模型。
2021-01-22 cs.LG eess.IV
Binding Multiple Modalities via Multimodal Wasserstein Barycenter
提出BaryBind方法，通过将特定模态传输至多模态Wasserstein重心并利用重心单纯形体积进行全局对齐，实现了多模态统一语义空间，在检索、分类等任务中表现优异且具鲁棒性和可扩展性。
2026-09-29 cs.LG
Approximative Algorithms for Multi-Marginal Optimal Transport and Free-Support Wasserstein Barycenters
Technische Universität Berlin（柏林工业大学）
计算求解多边际最优输运（MOT）的平方欧几里德成本的$N$离散概率测度最近引起了相当大的关注，部分原因是它的解决方案与Wasserstein- $2$重心，这在数据科学中有许多应用。一般来说，这个问题是NP难的，需要实用的近似算法。虽然熵正则化已经成功地应用于近似Wasserstein重心，但这失去了最优解的稀疏性，使得由于维数灾难而难以在实践中直接解决MOT问题。因此，为了获得重心，人们通常诉诸于对网格的固定支撑限制，然而，这在更高的环境维度$d$中是禁止的。本文在分析了MOT与重心的关系后，提出了两种直接逼近MOT的算法，该算法只需$N-1$标准的两边缘OT计算。因此，它们速度快，内存效率高，易于实现，可以作为黑盒与任何稀疏OT求解器一起使用。此外，他们产生稀疏的解决方案，并显示有前途的数值结果。我们从理论上分析了这些算法，证明了相对逼近误差的上界和下界。
2022-02-02 cs.LG cs.NA math.NA
Heterogeneous Federated Reinforcement Learning Using Wasserstein Barycenters
Knight Foundation School of Computing and Information Sciences（骑士基金会计算与信息科学学院）；Florida International University（佛罗里达国际大学）
本文提出FedWB算法，利用Wasserstein重心进行模型融合，并扩展至异构联邦强化学习，通过CartPole实验验证了全局DQN在多环境中的有效性。
2025-06-18 cs.LG
Topological Continual Learning with Wasserstein Distance and Barycenter
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；Google（谷歌）
神经网络中的持续学习存在一种称为灾难性遗忘的现象，即网络很快就会忘记在前一个任务中学到的东西。然而，人类的大脑能够在一生中不断学习新的任务并积累知识。神经科学的研究结果表明，人类大脑中持续学习的成功可能与其模块化结构和记忆巩固机制有关。在本文中，我们提出了一种新的拓扑正则化，惩罚周期结构的神经网络在训练过程中使用的原则性理论，从持久的同源性和最佳运输。惩罚鼓励网络在训练期间学习模块化结构。惩罚是基于封闭形式的表达的Wasserstein距离和重心的拓扑特征的1-骨架表示的网络。我们的拓扑持续学习方法将所提出的正则化与微小的情景记忆相结合，以减轻遗忘。我们证明了我们的方法在多个图像分类数据集的浅层和深层网络架构中都是有效的。
2022-10-06 cs.LG
Stability of Entropic Wasserstein Barycenters and application to random geometric graphs
CNRS（法国国家科学研究中心）；GIPSA-lab（GIPSA实验室）；UGA（格勒诺布尔阿尔卑斯大学）；IRISA（法国国家信息与自动化研究所雷恩分所）；Univ. Rennes 1（雷恩第一大学）
随着近年来对图形数据的兴趣的增长，各种几何工具的计算变得至关重要。在网格处理等领域中，往往依赖于离散流形上测地线和最短路径的计算。这种工具的一个最近的例子是计算瓦瑟斯坦重心（WB），一个非常普遍的概念重心来自最优运输理论，和他们的熵正则化的变体。在本文中，我们研究如何在离散网格WB涉及到的几何基础流形。我们首先提供了一个通用的稳定性结果相对于输入成本矩阵。然后，我们将这一结果应用到随机几何图形的流形上，其最短路径收敛到测地线，从而证明了离散形状上计算的WB的一致性。
2023-03-27 cs.CG cs.LG stat.OT
Fair Regression with Wasserstein Barycenters
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Université Gustave Eiffel（古斯塔夫·埃菲尔大学）；University of Genoa（热那亚大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；University College London（伦敦大学学院）
我们研究学习一个实值函数，满足人口奇偶约束的问题。它要求预测输出的分布与敏感属性无关。我们考虑的情况下，敏感属性是可用于预测。我们建立了公平回归和最优传输理论之间的联系，基于此，我们推导出一个封闭的形式表达的最佳公平预测。具体来说，我们表明，这个最佳的分布是Wasserstein重心的分布引起的标准回归函数的敏感群体。这个结果提供了一个直观的解释最佳的公平预测，并建议一个简单的后处理算法，以实现公平。我们为这一程序建立了无风险和无分配的公平保证。数值实验表明，我们的方法是非常有效的学习公平的模型，错误率的相对增加是劣于公平性的相对增益。
2020-06-23 cs.LG math.ST stat.ML
Wasserstein Barycenter Soft Actor-Critic
WBSAC 通过结合悲观和乐观策略的 Wasserstein 聚合，提升连续控制任务中的样本效率。
2026-02-24 cs.LG cs.SY eess.SY
Personalized Bayesian Federated Learning with Wasserstein Barycenter Aggregation
School of Statistics, Renmin University of China（中国人民大学统计学院）；Guanghua School of Management, Peking University（北京大学光华管理学院）；School of Mathematics Science, Dalian University of Technology（大连理工大学数学科学学院）；Center for Applied Statistics and School of Statistics, Renmin University of China（中国人民大学统计学院）；Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（北京未来区块链与隐私计算高级创新中心）
针对个性化贝叶斯联邦学习在客户端参数化推断和服务器简单平均聚合上的局限，提出FedWBA方法，采用基于粒子的变分推断和Wasserstein重心聚合，并提供了理论收敛保证，实验证明其在精度、校准和收敛上优于基线。
2025-10-13 cs.LG
On clustering uncertain and structured data with Wasserstein barycenters and a geodesic criterion for the number of clusters
Hellenic Naval Academy（希腊海军学院）；Athens University of Economics & Business（雅典经济与商业大学）；University of Sussex（萨塞克斯大学）；University of the Aegean（爱琴海大学）
本文提出基于Wasserstein重心和测地线准则的不确定与结构化数据聚类方案，利用最优传输理论处理概率测度空间几何，并在模拟和欧元区债券、卫星遥感等实际应用中验证了其有效性。
2022-09-13 cs.LG stat.AP stat.ML
Nonparametric and Regularized Dynamical Wasserstein Barycenters for Sequential Observations
Tufts University（塔夫茨大学）
本文针对序列观测中状态间连续转变建模问题，提出非参数化纯状态分布并引入时间平滑正则化的动态Wasserstein重心方法，通过分位数近似与循环下降求解，在模拟和真实人类活动时间序列分割中验证了有效性。
2023-09-21 cs.LG eess.SP
