Bayesian Learning with Wasserstein Barycenters
University of Vienna(维也纳大学);Universidad de Chile(智利大学);NoiseGrasp SpA(NoiseGrasp公司)
我们介绍和研究一种新的模型选择策略贝叶斯学习,最佳运输的基础上,随着其相关的预测后验法:Wasserstein人口重心的后验法模型。我们首先展示了这个估计,称为贝叶斯Wasserstein重心(BWB),自然产生的一般,无参数贝叶斯模型选择框架,当考虑贝叶斯风险是瓦瑟斯坦距离。给出了一些例子,说明如何BWB扩展一些经典的参数和非参数选择策略。此外,我们还提供了明确的条件授予存在和统计一致性的BWB,并讨论了它的一些一般和具体的属性,提供洞察其优势相比,通常的选择,如模型平均估计。最后,我们说明了如何使用随机梯度下降(SGD)算法在Wasserstein空间中计算此估计量,该算法在配套论文arXiv:2201.04232v2 [math.OC]中介绍,并提供了一个数值例子,实验验证所提出的方法。
2022-11-09 cs.LG stat.ML
Scalable Computations of Wasserstein Barycenter via Input Convex Neural Networks
Georgia Institute of Technology(佐治亚理工学院);University of California, Irvine(加利福尼亚大学尔湾分校)
Wasserstein Barycenter是一种原则性的方法来表示给定的一组概率分布的加权平均值,利用由最佳运输引起的几何形状。针对机器学习中的高维应用,提出了一种新的可扩展的Wasserstein重心近似算法。我们提出的算法是基于Kantorovich对偶公式的Wasserstein-2距离以及最近的神经网络架构,输入凸神经网络,这是已知的参数化凸函数。我们的方法的显着特点是:i)它只需要来自边缘分布的样本; ii)与现有方法不同,它用生成模型表示重心,因此可以从重心生成无限个样本,而无需查询边缘分布; iii)它在一个边缘情况下类似于生成对抗模型。我们证明了我们的算法的有效性,通过比较它与国家的最先进的方法在多个实验。
2021-11-27 cs.LG math.OC stat.ML
A Particle-Flow Algorithm for Free-Support Wasserstein Barycenters
Department of Mathematics, Baruch College(数学系,巴彻学院)
本文提出一种自由支撑的Wasserstein重心粒子流算法,通过几何感知的粒子更新保留尖锐特征,理论证明其收敛性与稳定性,实验验证了准确性和可扩展性,是有原则的线性规划与正则化求解替代方案。
2025-09-16 cs.LG stat.CO stat.ML
Fixed Support Tree-Sliced Wasserstein Barycenter
Kyoto University(京都大学);RIKEN AIP(理化学研究所先进智能项目中心);Facebook AI Research(脸书人工智能研究院);SliceX AI(SliceX人工智能)
Wasserstein重心在包括自然语言处理和计算机视觉在内的各个领域都得到了广泛的研究。然而,它需要一个高的计算成本,以解决Wasserstein重心问题,因为计算的Wasserstein距离需要一个平方的时间相对于支持的数量。相比之下,树上的Wasserstein距离,称为树-Wasserstein距离,可以在线性时间内计算,并允许快速比较大量的分布。在这项研究中,我们提出了一个重心下的树Wasserstein距离,称为固定支持树Wasserstein重心(FS-TWB)和它的扩展,称为固定支持树切片Wasserstein重心(FS-TSWB)。更具体地说,我们首先表明,FS-TWB和FS-TSWB问题是凸优化问题,可以通过使用投影次梯度下降来解决。此外,我们提出了一个更有效的算法来计算次梯度和目标函数值,利用树Wasserstein重心问题的性质。通过真实世界的实验,我们表明,通过使用所提出的算法,FS-TWB和FS-TSWB可以解决两个数量级的速度比原来的Wasserstein重心。
2022-02-11 cs.AI cs.LG
Optimal Transport Barycenter via Nonconvex-Concave Minimax Optimization
University of Notre Dame(圣母大学);University of British Columbia(不列颠哥伦比亚大学)
本文提出WDHA算法,一种近线性时间与线性空间的原始-对偶方法,通过交替Wasserstein和Sobolev几何求解最优传输重心,并在高维离散分布上实现高效精确计算。
2025-05-25 cs.LG stat.ML
Wasserstein Distributionally Robust Optimization with Wasserstein Barycenters
Northwestern University(西北大学)
在统计学和机器学习的许多应用中,来自多个可能异构的源的数据样本的可用性已经变得越来越普遍。另一方面,在分布鲁棒优化,我们寻求数据驱动的决策,以及在最不利的分布从名义分布构造的数据样本在一定的差异的概率分布。然而,目前还不清楚如何实现这种分布鲁棒性模型学习和估计时,数据样本来自多个来源。在这项工作中,我们建议通过Wasserstein重心作为来自多个来源的数据样本的聚合的概念,构建基于最佳运输的分布鲁棒优化问题的标称分布。在特定的损失函数的选择下,所提出的公式承认一个易于处理的重新制定作为一个有限的凸规划,具有强大的有限样本和渐近保证。作为一个说明性的例子,我们证明了分布鲁棒稀疏逆协方差阵估计的零均值高斯随机向量的问题,我们提出的方案优于其他广泛使用的估计在低维和高维制度。
2022-05-30 cs.LG math.OC stat.ML
An in depth look at the Procrustes-Wasserstein distance: properties and barycenters
Universit\'e C\ ote d'Azur, UMR 7264 CEPAM, CNRS, Nice, France;Universit\'e C\ ote d'Azur, Inria, CNRS, Laboratoire J.A. Dieudonn\'e, Maasai team, Nice, France;Universit\'e Lumi\'ere Lyon II, UMR 5133 Arch\'eorient CNRS, Lyon, France
本文系统研究了Procrustes-Wasserstein距离的数学性质,证明其在离散概率测度空间上确为距离,并提出PW重心概念及估计算法,用于从点云集合中提取代表性形状,在精确对齐和形状保持任务上优于现有最优传输方法。
2025-07-01 cs.LG stat.ML
Debiased Sinkhorn barycenters
CREST-ENSAE;Inria Saclay(法国国家信息与自动化研究所萨克莱分院);Google Research(谷歌研究院)
最优传输(OT)中的熵正则化是最近机器学习中Wasserstein度量和重心的许多兴趣的驱动力。它允许保持非正则化瓦瑟斯坦距离的吸引人的几何特性,同时由于Sinkhorn的算法而具有显著较低的复杂度。然而,熵带来一些固有的平滑偏差,例如导致模糊的重心。这种副作用促使社区越来越倾向于采用较慢的算法,例如对数域稳定的Sinkhorn,它打破了可以在GPU上利用的并行结构,甚至回到非正则化OT。在这里,我们展示了这种偏见是如何紧密联系在一起的参考措施,定义的熵正则化,并提出debiased Wasserstein重心,保持最好的两个世界:快速Sinkhorn样迭代没有熵平滑。从理论上证明了一元高斯分布的熵OT重心是高斯分布,并量化了其方差偏差。这个结果是通过将熵OT的可微性和凸性推广到具有无界支撑的次高斯测度而得到的。从经验上讲,我们说明了减少模糊和各种应用程序的计算优势。
2020-06-03 cs.LG stat.ML
Wasserstein Gradient Flows for Scalable and Regularized Barycenter Computation
Sigma Nova Paris(Sigma Nova巴黎)
本文提出基于Wasserstein梯度流的可扩展且正则化的barycenter计算方法,通过小批量最优传输和任务感知正则化实现高效的监督信息整合,提升跨领域适应性能。
2026-07-27 cs.AI cs.LG stat.ML
The GenCol algorithm for high-dimensional optimal transport: general formulation and application to barycenters and Wasserstein splines
Technische Universität München(慕尼黑工业大学)
本文将高维多边际最优传输的遗传列生成算法从对称问题扩展至一般问题,并应用于计算精确的无网格Wasserstein重心和三次Wasserstein样条。
2022-09-19 cs.LG cs.NA math.NA
Linearized Wasserstein Barycenters: Synthesis, Analysis, Representational Capacity, and Applications
Tufts University(塔夫茨大学)
本文提出线性重心编码模型(LBCM),利用线性最优传输度量合成与分析概率测度,给出闭式解和有限样本保证,并展示其在协方差估计与数据插补中的应用。
2025-04-08 cs.LG stat.ML
Stochastic Approximation versus Sample Average Approximation for population Wasserstein barycenters
Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机研究所);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems(信息传输问题研究所)
在机器学习和优化领域,凸风险最小化问题主要有两种方法,即随机逼近(SA)和样本平均逼近(SAA)。就oracle复杂性(所需的随机梯度评估次数)而言,这两种方法被认为是平均等效的(直到对数因子)。总的复杂性取决于具体的问题,但是,从工作开始\cite{nemirovski2009robust}它被普遍接受的SA是优于SAA。然而,在大规模问题的情况下,SA可能会耗尽内存,因为在一台机器上存储所有数据并在没有与其他机器通信的情况下组织在线访问是不可能的。SAA与SA不同,允许并行/分布式计算。我们表明,对于Wasserstein重心问题,这种优势可以被逆转。我们提供了一个详细的比较,说明SA和SAA实现计算重心相对于最优输运距离和熵正则化最优输运距离的复杂性界限。作为一个副产品,我们还构建了置信区间的重心定义相对于熵正则化的最优输运距离的$\ell_2$规范。对由期望给出的一般凸优化问题,给出了初步结果,以便在Wasserstein重心问题之外有其它应用。
2021-10-25 cs.LG math.OC stat.ML
Parallel Streaming Wasserstein Barycenters
Massachusetts Institute of Technology(麻省理工学院)
有效地聚合来自不同来源的数据是一个具有挑战性的问题,特别是当来自每个来源的样本分布不同时。这些差异可能是推理任务所固有的,也可能是由于其他原因而存在的:传感器网络中的传感器可能被放置得很远,从而影响它们各自的测量结果。相反,在计算上将贝叶斯推理任务划分为数据子集是有利的,但是数据不需要在子集之间相同地分布。融合概率分布的一个原则性方法是通过最优传输的透镜:Wasserstein重心是一个单一的分布,它总结了一系列输入测量,同时尊重它们的几何形状。然而,计算重心的规模差,需要离散化的所有输入分布和重心本身。改进这种情况下,我们提出了一个可扩展的,通信效率高,并行算法计算任意分布的Wasserstein重心。我们的算法可以直接对连续输入分布进行操作,并针对流数据进行了优化。我们的方法甚至是强大的非平稳输入分布,并产生一个重心估计,跟踪随着时间的推移的输入措施。该算法是半离散的,只需要离散重心估计。据我们所知,我们还提供了第一界的质量近似重心的离散化变得更精细。最后,我们证明了我们的方法的实际有效性,无论是在跟踪移动的分布在一个球体上,以及在一个大规模的贝叶斯推理任务。
2017-11-14 cs.LG math.OC stat.CO
Fast Algorithms for Computational Optimal Transport and Wasserstein Barycenter
UC Berkeley(加州大学伯克利分校)
我们提供了理论复杂性分析的新算法来计算两个离散的概率分布之间的最佳运输(OT)的距离,并证明其良好的实际性能比国家的最先进的原始-对偶算法和他们的能力,在解决其他问题的大规模,如Wasserstein重心问题的多个概率分布。首先,我们介绍了计算OT距离的\emph{accelerated primal-dual randomized coordinate descent}(APDRCD)算法。我们提供了它的复杂性上界$\bigOtil(\frac{n^{5/2}}{\varepsilon})$,其中$n$代表这些概率测度的原子数,$\varepsilon > 0$是所需的精度。这个复杂性界匹配OT问题的原始-对偶算法的最佳已知复杂性,包括自适应原始-对偶加速梯度下降(APDGD)和自适应原始-对偶加速镜像下降(APDAMD)算法。然后,通过大量的实验研究,证明了APDRCD算法优于APDAGD和APDAMD算法,并提出了一种贪婪算法\emph{accelerated primal-dual greedy coordinate descent}(APDGCD),进一步提高了算法的实际性能.最后,我们将APDRCD和APDGCD算法推广到分布式算法,用于计算多个概率分布的Wasserstein重心。
2020-06-15 cs.DS cs.LG stat.ML
Wasserstein barycenters are NP-hard to compute
Massachusetts Institute of Technology(麻省理工学院)
计算Wasserstein重心(a.k.a.最优输运重心)是几何学中的一个基本问题,由于在数据科学中的许多应用,最近引起了相当大的关注。虽然在任何固定的维度上都存在多项式时间算法,但所有已知的运行时间在维度上都呈指数级下降。这是一个开放的问题,是否这种指数依赖性是改进的多项式依赖。本文证明,除非P=NP,答案是否定的。这揭示了一个“维数灾难”的Wasserstein重心计算不会发生的最优输运计算。此外,我们的硬度计算Wasserstein重心的结果扩展到近似计算,看似简单的情况下的问题,并平均概率分布在其他最优输运指标。
2021-12-03 cs.CC cs.DS cs.LG
Doubly Regularized Entropic Wasserstein Barycenters
Institut de Mathématiques, École polytechnique fédérale de Lausanne (EPFL)(洛桑联邦理工学院数学研究所)
本文提出双正则化 $(λ,τ)$-熵 Wasserstein 重心,证明其去偏逼近、光滑稳定、$n^{-1/2}$ 估计速率,并给出指数收敛的无网格噪声粒子梯度下降算法。
2025-07-25 cs.LG math.OC stat.ML
A novel notion of barycenter for probability distributions based on optimal weak mass transport
IRIT, Université de Toulouse, CNRS(法国国家科学研究中心、图卢兹大学信息与电信研究所);IDIA & CMM, Universidad de Chile(智利大学数据与人工智能研究所、智利大学数学建模中心);CMM, Universidad de Chile(智利大学数学建模中心)
基于Gozlanet al.(2017)和Backhoff-Veraguas et al.(2020)最近提出的最优弱质量输运概念,我们引入了一个概率分布族的弱重心。我们提供了一个理论分析,并讨论了它的解释,根据凸序之间的概率测度。特别是,我们表明,而不是平均的输入分布的几何方式(如Wasserstein重心的基础上经典的最佳运输)弱重心提取共同的几何信息共享的所有输入分布,编码为一个潜在的随机变量,所有这些。我们还提供了一个迭代算法来计算一个有限的家庭的输入分布的弱重心,和随机算法,计算他们的任意人口的法律。后一种方法特别适合于流设置,即,当按顺序观察分布时。弱重心的概念和我们的方法来计算它说明合成的例子,验证2D真实世界的数据和标准的Wasserstein重心。
2023-03-10 cs.LG stat.ML
Wasserstein Barycenter-based Model Fusion and Linear Mode Connectivity of Neural Networks
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Google(谷歌)
基于Wasserstein重心(WB)和Gromov-Wasserstein重心(GWB)的概念,提出了一个神经网络(NN)模型融合的统一数学框架,并利用它揭示了SGD解的线性模式连通性的新见解.在我们的框架中,融合以逐层的方式发生,并建立在网络中节点作为其前一层的函数的解释上。我们的数学框架的多功能性使我们能够讨论广泛类别的NN的模型融合和线性模式连接,包括全连接NN,CNN,ResNet,RNN和LSTM,在每种情况下都利用网络架构的特定结构。我们提出了广泛的数值实验:1)说明我们的方法相对于其他模型融合方法的优势; 2)从某种角度来看,为最近的研究提供了新的经验证据,这些研究表明,在对其中一个模型进行适当的权重排列后,基于梯度的方法发现的两个局部极小值最终位于损失景观的同一流域。
2022-10-13 cs.LG
Synthesis and Analysis of Data as Probability Measures with Entropy-Regularized Optimal Transport
Tufts University(塔夫茨大学)
该研究基于熵正则化Wasserstein-2代价与Sinkhorn散度开展概率测度的合成与分析,推导了重心的不动点刻画与凸二次规划求解方法,证明了系数的维度无关收敛性与扰动稳定性,在小样本点云分类任务中效率优于神经网络基线。
2025-03-23 cs.LG stat.ML
Tree-Based Diffusion Schrödinger Bridge with Applications to Wasserstein Barycenters
École polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎综合理工学院联盟);ENS(巴黎高等师范学校);PSL University(巴黎文理研究大学);University of Oxford(牛津大学)
本文提出TreeDSB算法,将扩散薛定谔桥推广到树结构熵正则化多边际最优传输,并将其应用于高维Wasserstein重心计算,在图像插值和贝叶斯融合中验证了有效性。
2023-10-28 cs.LG math.PR stat.ML
Approximative Algorithms for Multi-Marginal Optimal Transport and Free-Support Wasserstein Barycenters
Technische Universität Berlin(柏林工业大学)
计算求解多边际最优输运(MOT)的平方欧几里德成本的$N$离散概率测度最近引起了相当大的关注,部分原因是它的解决方案与Wasserstein- $2$重心,这在数据科学中有许多应用。一般来说,这个问题是NP难的,需要实用的近似算法。虽然熵正则化已经成功地应用于近似Wasserstein重心,但这失去了最优解的稀疏性,使得由于维数灾难而难以在实践中直接解决MOT问题。因此,为了获得重心,人们通常诉诸于对网格的固定支撑限制,然而,这在更高的环境维度$d$中是禁止的。本文在分析了MOT与重心的关系后,提出了两种直接逼近MOT的算法,该算法只需$N-1$标准的两边缘OT计算。因此,它们速度快,内存效率高,易于实现,可以作为黑盒与任何稀疏OT求解器一起使用。此外,他们产生稀疏的解决方案,并显示有前途的数值结果。我们从理论上分析了这些算法,证明了相对逼近误差的上界和下界。
2022-02-02 cs.LG cs.NA math.NA
Stability of Entropic Wasserstein Barycenters and application to random geometric graphs
CNRS(法国国家科学研究中心);GIPSA-lab(GIPSA实验室);UGA(格勒诺布尔阿尔卑斯大学);IRISA(法国国家信息与自动化研究所雷恩分所);Univ. Rennes 1(雷恩第一大学)
随着近年来对图形数据的兴趣的增长,各种几何工具的计算变得至关重要。在网格处理等领域中,往往依赖于离散流形上测地线和最短路径的计算。这种工具的一个最近的例子是计算瓦瑟斯坦重心(WB),一个非常普遍的概念重心来自最优运输理论,和他们的熵正则化的变体。在本文中,我们研究如何在离散网格WB涉及到的几何基础流形。我们首先提供了一个通用的稳定性结果相对于输入成本矩阵。然后,我们将这一结果应用到随机几何图形的流形上,其最短路径收敛到测地线,从而证明了离散形状上计算的WB的一致性。
2023-03-27 cs.CG cs.LG stat.OT
Fair Regression with Wasserstein Barycenters
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Université Gustave Eiffel(古斯塔夫·埃菲尔大学);University of Genoa(热那亚大学);Istituto Italiano di Tecnologia(意大利技术研究院);University College London(伦敦大学学院)
我们研究学习一个实值函数,满足人口奇偶约束的问题。它要求预测输出的分布与敏感属性无关。我们考虑的情况下,敏感属性是可用于预测。我们建立了公平回归和最优传输理论之间的联系,基于此,我们推导出一个封闭的形式表达的最佳公平预测。具体来说,我们表明,这个最佳的分布是Wasserstein重心的分布引起的标准回归函数的敏感群体。这个结果提供了一个直观的解释最佳的公平预测,并建议一个简单的后处理算法,以实现公平。我们为这一程序建立了无风险和无分配的公平保证。数值实验表明,我们的方法是非常有效的学习公平的模型,错误率的相对增加是劣于公平性的相对增益。
2020-06-23 cs.LG math.ST stat.ML
On clustering uncertain and structured data with Wasserstein barycenters and a geodesic criterion for the number of clusters
Hellenic Naval Academy(希腊海军学院);Athens University of Economics & Business(雅典经济与商业大学);University of Sussex(萨塞克斯大学);University of the Aegean(爱琴海大学)
本文提出基于Wasserstein重心和测地线准则的不确定与结构化数据聚类方案,利用最优传输理论处理概率测度空间几何,并在模拟和欧元区债券、卫星遥感等实际应用中验证了其有效性。
2022-09-13 cs.LG stat.AP stat.ML
Wasserstein Style Transfer
IBM Research(IBM研究院);IBM T.J Watson Research Center(IBM托马斯·J·沃森研究中心)
我们提出了高斯最优传输的图像风格传输的编码器/解码器框架。高斯测度的最优运输具有从源分布到目标分布的封闭形式Monge映射。此外,在内容图像和样式图像之间的插值可以被看作是沃瑟斯坦几何中的测地线。使用这种见解,我们展示了如何混合不同的目标风格,使用Wasserstein重心高斯措施。由于高斯函数在Wasserstein重心下是封闭的,这允许我们进行简单的风格转换和风格混合和插值。此外,我们展示了如何混合不同的风格,可以实现使用高斯之间的其他测地线度量,如Fisher Rao度量,而运输的内容,以新的插值风格仍然与高斯OT地图。我们简单的方法允许生成新的风格化内容,在许多艺术风格之间进行插值。插值中使用的度量导致不同的风格化。
2019-05-30 cs.CV cs.LG stat.ML
Fair learning with Wasserstein barycenters for non-decomposable performance measures
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Laboratoire de mathématiques d’Orsay(奥赛数学实验室);Università di Genova(热那亚大学)
这项工作提供了几个基本特征的最佳分类功能下的人口均等约束。在意识框架中,类似于经典的无约束分类的情况下,我们表明,在这种公平性约束下,最大限度地提高精度相当于解决相应的回归问题,然后在$1/2$级阈值。我们将这一结果扩展到线性分数分类度量(例如,${\rm F}$ -评分、AM测量、平衡准确度等),强调回归问题在这一框架中所起的基本作用。我们的研究结果利用最近开发的人口均等约束和多边际最优运输配方之间的联系。非正式地,我们的结果表明,无约束问题和公平的一个之间的过渡是通过替换的条件期望的标签的公平回归问题的解决方案。最后,利用我们的分析,我们证明了在两个敏感群体的情况下,意识和无意识的设置之间的等价性。
2022-09-01 cs.CY cs.LG math.ST
Collaborative Bayesian Optimization via Wasserstein Barycenters
Columbia University(哥伦比亚大学);University of California at Berkeley(加州大学伯克利分校)
针对黑箱优化与数据隐私挑战,提出基于Wasserstein重心的协同贝叶斯优化框架,智能体共享高斯过程代理模型构建中心模型,通过协同采集函数平衡探索利用,算法渐近一致且数值准确,实验表现优于基线协同框架,与非隐私集中式方法竞争力相当。
2025-04-15 cs.LG math.OC
OTLesMix: Wasserstein Barycenter and Optimal Transport Map for Synthetic Lesion Generation with Diverse Shapes and Locations
Univ. Lyon(里昂大学);INSA Lyon(里昂国立应用科学学院);UCBL(里昂第一大学);CNRS(法国国家科学研究中心);Inserm(法国国家健康与医学研究院);CREATIS
本研究提出OTLesMix方法,利用Wasserstein重心与最优传输映射生成多样化合成病灶,在三项脑病灶分割任务上使Dice分数提升2.9至6.6个百分点,性能优于现有混合类方法。
2026-08-07 cs.CV cs.LG eess.IV
Spectral Clustering for Discrete Distributions
School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院);Shenzhen Research Institute of Big Data(深圳大数据研究院)
针对传统离散分布聚类依赖Wasserstein重心假设不成立、扩展性差的问题,提出结合分布亲和度量的谱聚类方法,用线性最优传输提升扩展性,有理论保证且实验优于基线。
2024-08-16 cs.AI cs.LG stat.ML
Relax and Merge: A Simple Yet Effective Framework for Solving Fair $k$-Means and $k$-sparse Wasserstein Barycenter Problems
University of Science and Technology of China(中国科学技术大学)
针对带组比例公平约束的$k$-均值聚类难题,提出“松弛与合并”框架,取得更优近似比,还可拓展至$k$-稀疏Wasserstein重心问题,实验效果优于基线。
2024-12-07 cs.DS cs.LG stat.ML
Estimating Barycenters of Distributions with Neural Optimal Transport
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);ETH Zürich(苏黎世联邦理工学院);Artificial Intelligence Research Institute(人工智能研究所)
本文提出一种基于Neural OT求解器的双层对抗学习方法,用于可扩展地求解一般代价函数下的Wasserstein重心问题,并给出理论误差界及图像数据上的实验验证。
2024-06-06 cs.LG
Robust Barycenters of Persistence Diagrams
本文提出了一种计算持久图鲁棒Wasserstein重心的方法,适用于q∈(1,2)的运输成本,用于持久图聚类和词典编码。
2026-01-21 cs.CG cs.LG
On Barycenter Computation: Semi-Unbalanced Optimal Transport-based Method on Gaussians
The University of Texas, Austin(德克萨斯大学奥斯汀分校);VinAI Research(VinAI研究院)
本文针对高斯分布提出基于半不平衡最优传输的鲁棒重心方法,在 Bures-Wasserstein 流形上开发了两种梯度下降优化算法,证明了其理论收敛性,并通过实验验证了优于常规 Wasserstein 重心的表现。
2024-10-10 cs.LG
Sampling From the Wasserstein Barycenter
Aix-Marseille Univ., CNRS, I2M, UMR7373, Centrale Marseille(艾克斯-马赛大学,法国国家科学研究中心,I2M,UMR7373,马赛中央理工学院);Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种从绝对连续测度的Wasserstein重心采样的算法。我们的方法是基于Wasserstein重心的多边缘制定的梯度流,与添加剂惩罚占的边际约束。我们证明了这种惩罚的多边缘制定的最小值是实现了一个耦合,是接近Wasserstein重心。该算法的性能展示在几个设置。
2021-05-04 cs.LG stat.ML
Tree-Wasserstein Barycenter for Large-Scale Multilevel Clustering and Scalable Bayes
RIKEN AIP(理化学研究所先进工业科学与技术研究所);Monash University(莫纳什大学);UC Berkeley(加州大学伯克利分校);Kyoto University(京都大学)
本文研究了Wasserstein重心问题的一个变种,我们称之为树-Wasserstein重心,利用一类特定的地面度量,即树度量,用于瓦瑟斯坦距离。借鉴树结构,我们提出了一个有效的算法方法来解决树Wasserstein重心及其变种。该方法不仅计算速度快,而且内存使用效率高。利用树Wasserstein重心及其变体,我们扩大了多级聚类和可扩展的贝叶斯,特别是对于大规模的应用程序中的支持数量在概率测度是大的。从经验上讲,我们在大规模合成和真实数据集上对我们提出的方法进行了测试。
2020-02-27 cs.LG stat.ML
Variational Wasserstein Barycenters for Geometric Clustering
Arizona State University(亚利桑那州立大学)
本文提出用变分原理求解Monge映射来计算Wasserstein重心。我们讨论了WB的度量属性,并探讨了它们的连接,特别是Monge WB,K-means聚类和联合聚类的连接。我们还讨论了Monge WB在非平衡测度和球面域上的可行性。我们提出了两个新的问题-正则化的K-均值和Wasserstein重心压缩。我们证明了使用VWB在解决这些集群相关的问题。
2023-03-30 cs.LG stat.ML
Projected Riemannian Gradient Descent for the Bures-Wasserstein Barycenter: Dimension-Independent Linear Convergence at Unit Step Size
National University of Singapore(新加坡国立大学)
该研究针对Bures-Wasserstein重心计算的二分性问题,提出投影黎曼梯度下降算法,在单位步长下实现与维度无关的线性收敛,多项式改进了迭代复杂度,还将该保证扩展到了不变矩阵投影场景。
2026-09-04 cs.LG math.OC quant-ph
Projection Robust Wasserstein Barycenters
University of California, Davis(加利福尼亚大学戴维斯分校)
从多个概率度量或直方图中收集和聚合信息是机器学习中的基本任务。这个任务的一个流行的解决方法是计算Wasserstein度量下的概率测度的重心。然而,由于维数灾难,近似Wasserstein重心在数值上是具有挑战性的。本文提出了投影鲁棒Wasserstein重心(PRWB),有可能减轻维数灾难。由于PRWB在数值上非常具有挑战性,因此我们进一步提出了一种更易于处理的松弛PRWB(RPRWB)模型。RPRWB项目的概率措施到一个低维子空间,最大限度地提高了Wasserstein重心目标。由此产生的问题是一个最大最小的问题在Stiefel流形。结合迭代Bregman投影算法和黎曼优化,我们提出了两个新的算法来计算RPRWB。分析了所提出的算法获得$ε$ -平稳解的算术运算的复杂性。我们将RPRWB引入到离散分布聚类算法中,在真实文本数据集上的数值结果证实了我们的RPRWB模型有助于显着提高聚类性能。
2021-09-27 cs.LG stat.ML
Differentially Private Wasserstein Barycenters
UT Austin(德克萨斯大学奥斯汀分校);Boston University(波士顿大学);MIT-IBM Watson AI Lab(麻省理工-IBM Watson AI实验室;IBM研究);IBM Research
针对由敏感数据构建的概率测度,本文提出首批差分隐私 Wasserstein 重心计算算法,并在合成数据、MNIST 和大规模美国人口数据集上验证其高质量与良好的准确性—隐私权衡。
2025-10-03 cs.LG stat.ML
Wasserstein Iterative Networks for Barycenter Estimation
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Artificial Intelligence Research Institute(人工智能研究院);Massachusetts Institute of Technology(麻省理工学院)
Wasserstein重心已经变得流行,因为它们能够以几何意义的方式表示概率度量的平均值。在本文中,我们提出了一个算法来近似的Wasserstein-2重心的连续措施,通过生成模型。以前的方法依赖于正则化(熵/二次),这会引入偏差,或者依赖于输入凸神经网络,这对于大规模任务来说不够表达。相比之下,我们的算法不引入偏见,并允许使用任意的神经网络。此外,基于名人面孔数据集,我们构建了Ave,celeba!数据集,可用于通过使用生成模型(如FID)的标准度量对重心算法进行定量评估。
2023-01-09 cs.LG stat.ML
Computing Optimal Transport Maps and Wasserstein Barycenters Using Conditional Normalizing Flows
ETH Zurich(苏黎世联邦理工学院)
本文提出一种利用条件归一化流高效计算高维最优传输映射和Wasserstein重心的新方法,通过基于梯度的传输成本最小化直接求解原始问题,突破了以往方法难以处理数百个输入分布的计算瓶颈。
2025-05-28 cs.LG stat.ML
Computational Guarantees for Doubly Entropic Wasserstein Barycenters via Damped Sinkhorn Iterations
EPFL(洛桑联邦理工学院)
本文提出一种基于阻尼Sinkhorn迭代的算法,用于计算双重正则化Wasserstein重心,保证任意参数下收敛,并首次为非精确变体提供离散点云间逼近的非渐近收敛保证。
2023-07-25 cs.LG math.OC stat.ML
Towards Universal Wasserstein Barycenters through Flow Matching
Sigma Nova
提出BaryFM流匹配模型,实现Wasserstein单纯形中任意重心的通用逼近,在域适应等4个任务上验证,平均排名优于15种方法。
2026-10-01 cs.AI cs.LG stat.ML
Learning Graphons via Structured Gromov-Wasserstein Barycenters
Georgia Institute of Technology(佐治亚理工学院)
我们提出了一种新的和原则性的方法来学习一个非参数图模型称为graphon,这是定义在一个无限维的空间,并表示任意大小的图。基于图子理论中的弱正则引理,我们利用阶跃函数来逼近图子。我们证明了石墨烯的切割距离可以放宽到阶跃函数的Gromov-Wasserstein距离。因此,给定一组由底层graphon生成的图,我们学习相应的阶跃函数作为给定图的Gromov-Wasserstein重心。此外,我们开发了几个增强和扩展的基本算法,$e.g.$,平滑的Gromov-Wasserstein重心,以保证学习的graphons的连续性和混合的Gromov-Wasserstein重心学习多个结构化的graphons。所提出的方法克服了现有的最先进的方法的缺点,并优于他们的合成和真实世界的数据。该代码可在https://github.com/HongtengXu/SGWB-Graphon上获得。
2020-12-17 cs.LG cs.SI stat.ML
Dynamical Wasserstein Barycenters for Time-series Modeling
Tufts University(塔夫茨大学)
许多时间序列可以建模为表示高级离散状态的一系列片段,例如人类活动应用程序中的跑步和步行。灵活的模型应该描述系统的状态和观察在固定的“纯状态”时期以及相邻段之间的过渡时期,如跑步和步行之间的逐渐减速。然而,大多数先前的工作假设纯离散状态之间的瞬时跃迁。我们提出了一个动态Wasserstein重心(DWB)模型,估计系统状态随着时间的推移,以及纯状态的数据生成分布在一个无监督的方式。我们的模型假设每个纯态从多元正态分布生成数据,并通过Wasserstein重心指定的位移插值来表征状态之间的转换。系统状态由一个重心权重向量表示,该权重向量通过单纯形上的随机游走随时间演化。参数学习利用了Wasserstein距离下高斯分布的自然黎曼几何,从而提高了收敛速度。在多个人类活动数据集上的实验表明,与常用的线性插值混合模型相比,该DWB模型能够准确地学习纯状态的生成分布,同时改善了过渡期的状态估计.
2022-11-01 cs.LG stat.ML
node2coords: Graph Representation Learning with Wasserstein Barycenters
Swiss Data Science Center (SDSC), EPFL/ETHZ(瑞士数据科学中心(SDSC),洛桑联邦理工学院/苏黎世联邦理工学院);Signal Processing Laboratory (LTS4), EPFL(信号处理实验室(LTS4),洛桑联邦理工学院)
为了执行网络分析任务,需要在图结构中捕获最相关信息的表示。然而,现有的方法不学习可以以简单的方式解释并且对图结构的扰动具有鲁棒性的表示。在这项工作中,我们解决这两个限制,提出node2coords,一个表示学习算法的图形,同时学习低维空间和坐标的节点在该空间。跨越低维空间的模式揭示了图中最重要的结构信息。节点的坐标揭示了它们的局部结构与图结构模式的接近程度。为了通过考虑底层图来测量这种接近度,我们建议使用Wasserstein距离。我们介绍了一个自动编码器,采用线性层的编码器和一个新的Wasserstein重心层的解码器。捕捉节点的局部结构的节点连接描述符通过编码器来学习图结构模式的小集合。在解码器中,节点连接描述符被重构为图结构模式的Wasserstein重心。节点的连通性描述符的重心表示的最佳权重对应于该节点在低维空间中的坐标。实验结果表明,用node2coords学习的表示是可解释的,导致节点嵌入对图结构的扰动是稳定的,并且与最先进的节点分类方法相比,实现了竞争力或优越的结果。
2021-01-03 cs.LG stat.ML
Towards Marginal Fairness Sliced Wasserstein Barycenter
University of Texas at Austin(德克萨斯大学奥斯汀分校);VinAI Research(VinAI研究院);Hanoi University of Science and Technology(河内理工大学)
本文首次定义边际公平切片Wasserstein重心问题,并提出三种无需超参数的替代优化方法,通过改进切片分布选择提升效率,在点云平均、颜色协调和公平表示学习等任务中验证了有效性。
2025-02-03 cs.GR cs.LG stat.ML
Fast Discrete Distribution Clustering Using Wasserstein Barycenter with Sparse Support
The Pennsylvania State University(宾夕法尼亚州立大学);University of California, Riverside(加州大学河滨分校)
在各种研究领域中,加权矢量袋和直方图是广泛使用的复杂对象的描述符。两者都可以表示为离散分布。D2-聚类追求服从Kantorovich-Wasserstein度量的一组离散分布的最小总簇内变异。D2聚类有一个严重的可扩展性问题,瓶颈是计算质心分布,称为Wasserstein重心,最小化其到集群成员的平方距离之和。在本文中,我们开发了一个修改的Bregman ADMM方法计算近似离散Wasserstein重心的大型集群。在支持点的重心是未知的,并具有低基数的情况下,我们的方法实现了高精度的经验,大大降低了计算成本。我们的方法和它的替代品的优点和缺点,通过实验进行检查,我们建议他们各自的使用方案。此外,我们开发的串行和并行版本的算法。通过对大规模数据的实验,我们证明了新方法的计算效率,并研究了它们的收敛性和数值稳定性。在不同领域的多个数据集上得到的聚类结果与相应领域中广泛使用的一些方法相比具有很强的竞争力。
2017-01-09 cs.LG stat.CO stat.ML
Averaging Atmospheric Gas Concentration Data using Wasserstein Barycenters
INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(高等师范学校);PSL Research University(巴黎文理研究大学);Kayrros SAS(凯罗斯公司);CNRS(法国国家科学研究中心)
高光谱卫星图像每天报告全球温室气体浓度。虽然对这些图像随时间的变化进行简单的平均可以粗略估计相对排放率,但大气迁移意味着简单的平均无法查明这些排放的来源。我们建议使用Wasserstein重心加上天气数据平均气体浓度数据集,更好地集中质量周围的重要来源。
2020-10-06 cs.LG math.OC
Weighted Wasserstein Barycenter of Gaussian Processes for exotic Bayesian Optimization tasks
本文提出基于高斯过程加权Wasserstein均值的框架,统一了多种exotic贝叶斯优化任务,并展示了其在计算效率和方法解释上的优势。
2026-02-09 cs.LG
Stochastic Saddle-Point Optimization for Wasserstein Barycenters
HSE University(俄罗斯高等经济大学);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems(信息传输问题研究所);Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机研究所)
我们考虑人口Wasserstein重心问题的随机概率测度支持上的有限集的点和在线数据流产生的。这导致了一个复杂的随机最优化问题,其中的目标是作为一个随机最优化问题的解决方案给出的函数的期望。我们采用的结构的问题,并获得一个凹凸随机鞍点重新制定这个问题。在随机概率测度分布为离散分布的情况下,提出了一种随机最优化算法,并估计了算法的复杂度。第二个结果,基于核方法,将前一个结果推广到任意分布的随机概率测度。此外,在许多情况下,这种新算法的总复杂度优于随机逼近方法与Sinkhorn算法相结合。我们还说明了我们的发展由一系列的数值实验。
2021-12-02 cs.LG math.OC stat.ML
Unsupervised Multilingual Alignment using Wasserstein Barycenter
University of Waterloo(滑铁卢大学);Vector Institute(向量研究所);Borealis AI(博瑞利斯人工智能公司)
我们研究了无监督的多语言对齐,即在不使用任何并行数据的情况下找到多种语言之间的逐字翻译的问题。一种流行的策略是通过选择一种输入语言作为我们转换的关键语言,将多语言对齐减少到简化的双语设置。然而,众所周知的是,通过一个选择不佳的枢纽语言(如英语)过渡可能会严重降低翻译质量,因为假设的所有语言对之间的传递关系可能不会在训练过程中被强制执行。我们建议使用Wasserstein重心作为一种信息量更大的“平均”语言,而不是通过一种相当任意选择的枢轴语言:它封装了所有语言的信息,并最大限度地减少了所有成对的运输成本。我们在标准基准上评估我们的方法,并展示最先进的性能。
2020-07-28 cs.CL cs.LG stat.ML
Fairness in Multi-Task Learning via Wasserstein Barycenters
Université de Montréal(蒙特利尔大学);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
本文利用多边际Wasserstein重心将强人口统计均等扩展到多任务学习,给出回归与二分类场景下最优公平预测器的闭式解,并通过实验验证后处理方法在公平决策中的实用价值。
2023-07-06 cs.CY cs.LG stat.ML
Wasserstein barycenters can be computed in polynomial time in fixed dimension
Laboratory for Information and Decision Systems (LIDS), Massachusetts Institute of Technology(麻省理工学院信息与决策系统实验室)
计算Wasserstein重心是一个基本的几何问题,在机器学习、统计学和计算机图形学中有着广泛的应用。然而,不知道Wasserstein重心是否可以在多项式时间内精确地或高精度地计算(即,具有$\textrm{polylog}(1/\varepsilon)$运行时依赖性)。本文对这些问题作了肯定的回答。我们的方法是解决一个指数大小的线性规划制定有效地实现相应的分离甲骨文使用计算几何技术。
2020-12-09 cs.CG cs.DS cs.LG