Generalized Spectral Clustering via Gromov-Wasserstein Learning
Stanford University（斯坦福大学）；Florida State University（佛罗里达州立大学）
我们建立了一个谱聚类和Gromov-Wasserstein学习（GWL），最近的最佳运输为基础的方法图分区之间的桥梁。这种联系既解释了GWL的最新性能，又改进了GWL的最新性能。Gromov-Wasserstein框架通过节点匹配问题的二次规划松弛来提供源图和目标图的节点之间的概率对应。我们的研究结果利用和连接的观察，GW的几何结构仍然有效的任何秩2张量，特别是邻接，距离，和各种核矩阵的图形，和热核优于邻接矩阵产生稳定和信息节点对应。在GWL框架中使用热核提供了新的多尺度图比较，而不损害理论保证，同时立即产生改进的经验结果。GWL框架对图划分的一个关键见解是计算从源图到具有孤立的自连接节点的模板图的GW对应。我们表明，当比较两个节点的模板图使用热核在无限的时间限制，所得到的分区同意与分区产生的费德勒向量。这反过来又产生了一个新的见解，通过镜头的最佳运输的k-割图分割问题。我们在一系列真实网络上的实验取得了与GWL相当的结果，并且在许多情况下表现优于GWL。
2021-03-03 cs.LG math.MG stat.ML
THESAURUS: Contrastive Graph Clustering by Swapping Fused Gromov-Wasserstein Couplings
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；School of Systems Science and Engineering, Sun Yat-sen University（中山大学系统科学与工程学院）
针对自监督图聚类依赖 K-means 导致簇可分性低的问题，提出 THESAURUS，用语义原型、跨视图预测和动量更新的 GW-OT 原型图提升聚类性能。
2025-02-14 cs.LG
Random Coordinate Descent on the Wasserstein Space of Probability Measures
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文提出随机坐标下降框架，针对Wasserstein流形优化问题，提出RWCD和RWCP方法，适用于复合目标，理论分析显示其在非凸、Polyak-Łojasiewicz及仿射凸条件下具有收敛性，实验表明在病态能量下比传统全梯度方法更高效。
2026-04-02 cs.LG math.OC stat.ML
Wasserstein Measure Coresets
Massachusetts Institute of Technology（麻省理工学院）
大数据集和贝叶斯推断技术的激增激发了对更好的数据稀疏化的需求。核心集提供了一种原则性的方法，通过一个较小的数据集来总结一个大型数据集，该数据集保证在特定问题上与完整数据集的性能相匹配。然而，经典的核心集忽略了底层的数据分布，这往往是连续的。我们通过引入Wasserstein测度coresets来解决这一疏忽，这是coresets的一个扩展，根据定义，它考虑到了泛化。我们制定的问题，这基本上是在最小化的瓦瑟斯坦距离，是通过随机梯度下降可解的。这就产生了一个算法，它只需要样本访问数据分布，并能够处理大型数据流的在线方式。我们验证我们的建设推理和聚类。
2020-03-02 cs.LG stat.ML
Spectral Clustering for Discrete Distributions
School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）；Shenzhen Research Institute of Big Data（深圳大数据研究院）
针对传统离散分布聚类依赖Wasserstein重心假设不成立、扩展性差的问题，提出结合分布亲和度量的谱聚类方法，用线性最优传输提升扩展性，有理论保证且实验优于基线。
2024-08-16 cs.AI cs.LG stat.ML
Learning Embeddings into Entropic Wasserstein Spaces
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
数据的欧几里德嵌入在捕捉潜在语义结构的能力方面受到根本限制，这些结构不需要符合欧几里德空间假设。在这里，我们考虑一种替代方案，它嵌入数据作为离散的概率分布在Wasserstein空间，赋予一个最佳的运输度量。沃瑟斯坦空间比欧几里得空间大得多，也更灵活，因为它们可以成功地嵌入更广泛的度量结构。我们利用这种灵活性，通过学习嵌入，捕捉嵌入分布之间的Wasserstein距离的语义信息。我们经验性地研究了我们学到的Wasserstein嵌入的代表能力，表明它们可以嵌入各种各样的度量结构，其失真比等效的欧几里得嵌入更小。我们还研究了词嵌入的应用，展示了Wasserstein嵌入的独特优势：我们可以直接可视化高维嵌入，因为它是低维空间上的概率分布。这就避免了像t-SNE这样的降维技术用于可视化的需要。
2019-05-08 cs.LG stat.ML
Scalable Gromov-Wasserstein Learning for Graph Partitioning and Matching
Infinia ML Inc.（Infinia ML公司）；Duke University（杜克大学）
我们提出了一个可扩展的Gromov-Wasserstein学习（S-GWL）方法，并建立了一个新的和理论支持的大规模图分析的范例。所提出的方法是基于Gromov-Wasserstein差异是一个伪度量的事实。给定两个图，与它们的Gromov-Wasserstein差异相关联的最优传输提供了它们的节点之间的对应关系，并实现了图匹配。当其中一个图具有孤立但自连接的节点（$i.e.$，不连通图）时，最优传输指示另一个图的聚类结构并实现图划分。使用这个概念，我们通过学习多个观察图的Gromov-Wasserstein重心图，将我们的方法扩展到多图分区和匹配;重心图扮演断开图的角色，因为它是学习的，所以聚类也是。我们的方法结合了递归的$K$划分机制和正则化的邻近梯度算法，对于具有$E$和$V$节点的图，其时间复杂度为$\mathcal{O}(K(E+V)\log_K V)$.据我们所知，我们的方法是第一次尝试，使Gromov-Wasserstein差异适用于大规模的图分析和统一的图分割和匹配到同一个框架。它优于最先进的图划分和匹配方法，实现了准确性和效率之间的平衡。
2019-10-09 cs.LG cs.SI stat.ML
Heterogeneous Wasserstein Discrepancy for Incomparable Distributions
Université de Technologie de Compiègne（贡比涅技术大学）；INSA-Rouen（鲁昂国立应用科学学院）；Université de Rouen Normandie（鲁昂诺曼底大学）；Criteo AI Lab（Criteo人工智能实验室）
最优传输（OT）度量允许定义两个概率度量之间的差异。Wasserstein距离是在文献中经常使用的著名的OT距离，它寻求在$\textit{same}$度量空间上支持的概率分布。由于其高计算复杂性，已经提出了几个近似的Wasserstein距离的熵正则化或切片的基础上，一维Wasserstein计算。在本文中，我们提出了一种新的扩展Wasserstein距离比较两个不可比的分布，这取决于$\textit{distributional slicing}$的想法，嵌入，并计算封闭形式的Wasserstein距离之间的切片分布。我们提供了一个新的分歧，称为$\textit{heterogeneous Wasserstein discrepancy (HWD)}$的理论分析，我们表明，它保留了几个有趣的属性，包括旋转不变性。我们表明，嵌入HWD中涉及的可以有效地学习。最后，我们提供了大量的实验来说明HWD在生成建模和查询框架中的行为。
2021-10-12 cs.LG stat.ML
Understanding Private Evolution as Learning-Augmented Clustering
Apple（苹果公司）；Yale University（耶鲁大学）
本文重新诠释私有进化算法为生成模型增强的Wasserstein学习，理论证明其性能界限可依赖内在维度，并提出几何感知版本以解决标准变体在良好聚类实例上的收敛问题，实验表明新算法具有竞争力且能提高召回率。
2026-09-30 cs.CR cs.LG stat.ML
Fast Algorithms for Computational Optimal Transport and Wasserstein Barycenter
UC Berkeley（加州大学伯克利分校）
我们提供了理论复杂性分析的新算法来计算两个离散的概率分布之间的最佳运输（OT）的距离，并证明其良好的实际性能比国家的最先进的原始-对偶算法和他们的能力，在解决其他问题的大规模，如Wasserstein重心问题的多个概率分布。首先，我们介绍了计算OT距离的\emph{accelerated primal-dual randomized coordinate descent}（APDRCD）算法。我们提供了它的复杂性上界$\bigOtil(\frac{n^{5/2}}{\varepsilon})$，其中$n$代表这些概率测度的原子数，$\varepsilon > 0$是所需的精度。这个复杂性界匹配OT问题的原始-对偶算法的最佳已知复杂性，包括自适应原始-对偶加速梯度下降（APDGD）和自适应原始-对偶加速镜像下降（APDAMD）算法。然后，通过大量的实验研究，证明了APDRCD算法优于APDAGD和APDAMD算法，并提出了一种贪婪算法\emph{accelerated primal-dual greedy coordinate descent}（APDGCD），进一步提高了算法的实际性能.最后，我们将APDRCD和APDGCD算法推广到分布式算法，用于计算多个概率分布的Wasserstein重心。
2020-06-15 cs.DS cs.LG stat.ML
Relax and Merge: A Simple Yet Effective Framework for Solving Fair $k$-Means and $k$-sparse Wasserstein Barycenter Problems
University of Science and Technology of China（中国科学技术大学）
针对带组比例公平约束的$k$-均值聚类难题，提出“松弛与合并”框架，取得更优近似比，还可拓展至$k$-稀疏Wasserstein重心问题，实验效果优于基线。
2024-12-07 cs.DS cs.LG stat.ML
Another Look at Log-PCA for Probability Measures: A Dynamical Formulation and Statistical Convergence
Department of Statistics University of Illinois Urbana-Champaign（统计学系伊利诺伊大学厄巴纳-香槟分校）；Department of ACMS University of Notre Dame（ACMS系诺丁汉大学）；Department of Mathematics University of British Columbia（数学系不列颠哥伦比亚大学）；Department of Mathematics Thomas Lord Department of Computer Science University of Southern California（数学系托马斯·劳德计算机科学系南加州大学）
本文在Wasserstein几何下提出一种动力学公式解释log-PCA，称为Wasserstein切向PCA（WT-PCA），并推导了经验WT-PCA相对于总体测度的统计收敛速率。
2026-06-17 cs.LG stat.ME stat.ML
A Particle-Flow Algorithm for Free-Support Wasserstein Barycenters
Department of Mathematics, Baruch College（数学系，巴彻学院）
本文提出一种自由支撑的Wasserstein重心粒子流算法，通过几何感知的粒子更新保留尖锐特征，理论证明其收敛性与稳定性，实验验证了准确性和可扩展性，是有原则的线性规划与正则化求解替代方案。
2025-09-16 cs.LG stat.CO stat.ML
Optimal Transport Based Change Point Detection and Time Series Segment Clustering
Tufts Center for Applied Brain and Cognitive Sciences (CABCS)（塔夫茨应用脑与认知科学中心）
时间序列分析中的两个常见问题是将数据流分解为不相交的片段，每个片段在某种意义上都是“同质的”-一个被称为变点检测（CPD）的问题-以及将相似的不相邻片段分组，我们称之为时间序列片段聚类（TSSC）。基于最近的理论进展，表征了Wasserstein双样本测试的限制性无分布行为（Ramdas et al. 2015），我们提出了一种新的无监督，无分布CPD算法，该算法适用于离线和在线设置。我们还介绍了一种方法，以减轻CPD中的误报，并通过使用检测到的片段之间的Wasserstein距离来建立一个亲和矩阵，我们应用谱聚类来解决TSSC。合成和真实数据集上的结果显示了该方法的优点。
2020-02-20 cs.LG eess.SP
Variational Wasserstein Barycenters for Geometric Clustering
Arizona State University（亚利桑那州立大学）
本文提出用变分原理求解Monge映射来计算Wasserstein重心。我们讨论了WB的度量属性，并探讨了它们的连接，特别是Monge WB，K-means聚类和联合聚类的连接。我们还讨论了Monge WB在非平衡测度和球面域上的可行性。我们提出了两个新的问题-正则化的K-均值和Wasserstein重心压缩。我们证明了使用VWB在解决这些集群相关的问题。
2023-03-30 cs.LG stat.ML
Unbalanced Optimal Transport Dictionary Learning for Unsupervised Hyperspectral Image Clustering
本文提出利用不平衡最优传输字典学习方法，通过低维表示和光谱聚类实现超光谱图像的无监督聚类。
2026-03-10 cs.CV cs.LG math.ST
Quantitative stability of optimal transport maps and linearization of the 2-Wasserstein space
Laboratoire de Mathématiques d’Orsay（奥赛数学实验室）；Univ. Paris-Sud（巴黎第十一大学）；CNRS（法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）；Inria Saclay - Ile-de-France（法国国家信息与自动化研究所萨克雷-法兰西岛分部）
这项工作研究了一个明确的嵌入到Hilbert空间的一组概率测度，使用最佳的运输地图从参考概率密度定义。这种嵌入在一定程度上线性化了2-Wasserstein空间，并允许在测量数据上直接使用通用的监督和无监督学习算法。我们的主要结果是，嵌入是（双）Hölder连续的，当参考密度是均匀的凸集上，并可以等价地表述为一个维数无关的Hölder稳定性结果的最佳运输映射。
2019-10-14 cs.LG cs.NA math.MG
Tree-Wasserstein Barycenter for Large-Scale Multilevel Clustering and Scalable Bayes
RIKEN AIP（理化学研究所先进工业科学与技术研究所）；Monash University（莫纳什大学）；UC Berkeley（加州大学伯克利分校）；Kyoto University（京都大学）
本文研究了Wasserstein重心问题的一个变种，我们称之为树-Wasserstein重心，利用一类特定的地面度量，即树度量，用于瓦瑟斯坦距离。借鉴树结构，我们提出了一个有效的算法方法来解决树Wasserstein重心及其变种。该方法不仅计算速度快，而且内存使用效率高。利用树Wasserstein重心及其变体，我们扩大了多级聚类和可扩展的贝叶斯，特别是对于大规模的应用程序中的支持数量在概率测度是大的。从经验上讲，我们在大规模合成和真实数据集上对我们提出的方法进行了测试。
2020-02-27 cs.LG stat.ML
On Efficient Multilevel Clustering via Wasserstein Distances
Monash University（莫纳什大学）；University of California, Berkeley（加州大学伯克利分校）；University of Michigan（密歇根大学）；IBM Research（IBM研究院）；VinAI Research（VinAI研究院）
我们提出了一种新的方法来解决多级聚类的问题，其目的是同时划分每个组中的数据，并在一个潜在的大层次结构的数据语料库中发现组之间的分组模式。我们的方法涉及到一个联合优化制定了几个空间的离散概率测度，这是赋予瓦瑟斯坦距离度量。我们提出了这个问题的几个变种，承认快速优化算法，通过利用连接的问题，找到Wasserstein重心。建立了局部和全局聚类估计的一致性性质。最后，合成和真实数据的实验结果表明所提出的方法的灵活性和可扩展性。
2021-05-25 cs.LG stat.ML
Gromov-Wasserstein Methods for Multi-View Relational Embedding and Clustering
Instituto Federal de Educação, Ciência e Tecnologia do Ceará（塞阿拉联邦教育、科学和技术 institute）；Federal University of Ceara（塞阿拉联邦大学）；Sigma Nova
本文提出Bary-GWMDS和Mean-GWMDS-C方法，通过直接操作距离矩阵学习共识嵌入，保留共享关系结构，并在合成和现实数据集上验证了稳定且几何意义显著的嵌入效果。
2026-04-26 cs.LG stat.ML
Gromov-Wasserstein Factorization Models for Graph Clustering
Infinia ML Inc.（英飞尼亚机器学习公司）
我们提出了一个新的非线性因子分解模型的图的拓扑结构，并可选地，节点属性。这个模型是基于一个伪度量称为Gromov-Wasserstein（GW）的差异，比较关系的方式图。它将观察到的图估计为由一组具有不同权重的原子构造的GW重心。通过最小化每个观察到的图与其基于GW重心的估计之间的GW差异，我们学习与观察到的图相关联的原子及其权重。该模型实现了一种新的灵活的因子分解机制，在GW差异下，观察到的图和可学习的原子可以是不对齐的，并具有不同的大小。我们设计了一个有效的近似算法来学习这个Gromov-Wasserstein分解（GWF）模型，将循环计算展开为堆叠模块并使用反向传播计算梯度。堆叠的模块可以具有两种不同的架构，其分别对应于邻近点算法（PPA）和Bregman交替方向乘法器方法（BADMM）。实验表明，我们的模型在聚类图上获得了令人鼓舞的结果。
2019-11-19 cs.LG stat.ML
Automated regime classification in multidimensional time series data using sliced Wasserstein k-means clustering
Citigroup, London, UK（伦敦英国摩根大通公司）；Data Science Institute, London School of Economics, London, UK（伦敦经济学院数据科学研究所）
提出切片Wasserstein k-means聚类方法，通过近似多维Wasserstein距离，实现多维时间序列数据的自动制度分类，并在合成数据和真实外汇数据中验证有效性。
2026-05-24 cs.LG q-fin.CP q-fin.MF
Fast Discrete Distribution Clustering Using Wasserstein Barycenter with Sparse Support
The Pennsylvania State University（宾夕法尼亚州立大学）；University of California, Riverside（加州大学河滨分校）
在各种研究领域中，加权矢量袋和直方图是广泛使用的复杂对象的描述符。两者都可以表示为离散分布。D2-聚类追求服从Kantorovich-Wasserstein度量的一组离散分布的最小总簇内变异。D2聚类有一个严重的可扩展性问题，瓶颈是计算质心分布，称为Wasserstein重心，最小化其到集群成员的平方距离之和。在本文中，我们开发了一个修改的Bregman ADMM方法计算近似离散Wasserstein重心的大型集群。在支持点的重心是未知的，并具有低基数的情况下，我们的方法实现了高精度的经验，大大降低了计算成本。我们的方法和它的替代品的优点和缺点，通过实验进行检查，我们建议他们各自的使用方案。此外，我们开发的串行和并行版本的算法。通过对大规模数据的实验，我们证明了新方法的计算效率，并研究了它们的收敛性和数值稳定性。在不同领域的多个数据集上得到的聚类结果与相应领域中广泛使用的一些方法相比具有很强的竞争力。
2017-01-09 cs.LG stat.CO stat.ML
Normalized Wasserstein Distance for Mixture Distributions with Applications in Adversarial Learning and Domain Adaptation
University of Maryland（马里兰大学）
了解适当的分布之间的距离措施是在几个学习任务，如生成模型，领域自适应，聚类等的核心在这项工作中，我们专注于混合分布，自然出现在几个应用领域的数据包含不同的子群。对于混合分布，已建立的距离度量（如Wasserstein距离）不考虑不平衡的混合比例。因此，即使两个混合分布具有相同的混合成分但不同的混合比例，它们之间的Wasserstein距离也会很大。这通常会导致混合分布的基于距离的学习方法中出现不期望的结果。本文通过引入归一化Wasserstein测度来解决这个问题。关键思想是引入混合比例作为优化变量，有效地规范化Wasserstein公式中的混合比例。使用建议的归一化Wasserstein测量导致显着的性能增益与不平衡的混合比例的混合物分布相比，香草Wasserstein距离。我们证明了所提出的措施的有效性，在GANs，领域自适应和对抗聚类在几个基准数据集。
2019-10-29 cs.LG stat.ML
Fuzzy clustering of distribution-valued data using adaptive L2 Wasserstein distances
分布（或分布值）数据是一种新类型的数据，来自多个来源，被认为是分布变量的实现。提出了一种新的模糊c-均值算法。该算法使用分布之间的$L2$瓦瑟斯坦距离作为相异性度量。除了扩展的模糊c-均值算法的分布数据，并考虑到分解的平方$L2$瓦瑟斯坦距离，我们提出了一套算法，使用不同的自动方式来计算与变量以及与它们的组件，全球或集群明智的权重。在聚类过程中引入产品对一的约束，计算相关权重。相关性权重引入自适应距离，表达聚类过程中每个变量或每个分量的重要性，也可以作为聚类中的变量选择方法。我们已经测试了人工和真实世界的数据所提出的算法。结果证实，所提出的方法是能够更好地考虑到相对于标准的模糊c-均值，与非自适应距离的数据的聚类结构。
2016-05-02 stat.ML
Projection Robust Wasserstein Barycenters
University of California, Davis（加利福尼亚大学戴维斯分校）
从多个概率度量或直方图中收集和聚合信息是机器学习中的基本任务。这个任务的一个流行的解决方法是计算Wasserstein度量下的概率测度的重心。然而，由于维数灾难，近似Wasserstein重心在数值上是具有挑战性的。本文提出了投影鲁棒Wasserstein重心（PRWB），有可能减轻维数灾难。由于PRWB在数值上非常具有挑战性，因此我们进一步提出了一种更易于处理的松弛PRWB（RPRWB）模型。RPRWB项目的概率措施到一个低维子空间，最大限度地提高了Wasserstein重心目标。由此产生的问题是一个最大最小的问题在Stiefel流形。结合迭代Bregman投影算法和黎曼优化，我们提出了两个新的算法来计算RPRWB。分析了所提出的算法获得$ε$ -平稳解的算术运算的复杂性。我们将RPRWB引入到离散分布聚类算法中，在真实文本数据集上的数值结果证实了我们的RPRWB模型有助于显着提高聚类性能。
2021-09-27 cs.LG stat.ML
Orthogonalization of data via Gromov-Wasserstein type feedback for clustering and visualization
Vironova AB（Vironova公司）；KTH Royal Institute of Technology（瑞典皇家理工学院）
在本文中，我们提出了一种自适应的方法，通过正交化过程的数据聚类和可视化。从使用扩散映射框架由马尔可夫过程表示的数据点开始，该方法通过应用受Gromov-瓦瑟斯坦距离启发的反馈机制来自适应地增加聚类的正交性。该机制迭代地增加谱间隙并细化数据的正交性以实现具有高特异性的聚类。通过使用扩散图框架并使用转移概率表示数据点之间的关系，该方法对于潜在距离、数据中的噪声和随机初始化都是鲁棒的。我们证明了该方法全局收敛到一个唯一的不动点，某些参数值。我们还提出了一个相关的方法，在马尔可夫过程中的转移概率需要是双重随机的，在这种情况下，该方法产生一个非凸优化问题的极小。我们将该方法应用于来自生物制药制造的冷冻电子显微镜图像数据，在那里我们可以确认与治疗效果相关的生物学相关见解。我们认为一个例子与基因包装的形态变化，并确认该方法产生生物学上有意义的聚类结果与人类专家分类一致。
2022-07-25 cs.LG math.OC stat.ML
Multilevel Clustering via Wasserstein Means
我们提出了一种新的方法来解决多级聚类的问题，其目的是同时划分每个组中的数据，并在一个潜在的大层次结构的数据语料库中发现组之间的分组模式。我们的方法涉及到一个联合优化制定了几个空间的离散概率测度，这是赋予瓦瑟斯坦距离度量。我们提出了一些变种这个问题，承认快速优化算法，通过利用连接的问题，找到Wasserstein重心。建立了局部和全局聚类估计的一致性性质。最后，仿真和真实数据的实验结果表明，所提出的方法的灵活性和可扩展性。
2017-06-13 stat.CO stat.ME stat.ML
An Agglomerative Clustering of Simulation Output Distributions Using Regularized Wasserstein Distance
Texas A&M University（德州农工大学）
提出一种利用正则化Wasserstein距离对多元经验分布进行凝聚聚类的新算法，用于识别模拟系统性能模式，并应用于呼叫中心模型的异常检测、预优化和在线监控。
2024-11-03 stat.AP stat.ME stat.ML
Gaussian Process regression over discrete probability measures: on the non-stationarity relation between Euclidean and Wasserstein Squared Exponential Kernels
University of Milano-Bicocca（米兰比可卡大学）；OAKS srl（OAKS有限责任公司）
高斯过程回归是一种在实际应用中被成功采用的核心方法。最近，有一个越来越大的兴趣，将这种方法扩展到非欧几里德输入空间，如本文所考虑的，由概率测度。虽然可以通过使用合适的距离（Wasserstein距离）来定义正定核，但学习高斯过程模型的常见过程可能会由于数值问题而失败，这些问题比欧几里得输入空间的情况更早更频繁地出现，并且如本文所示，这无法通过添加人工噪声（块金效应）来避免。本文揭示了产生这些问题的主要原因，即基于Wasserstein的平方指数核与基于欧氏的平方指数核之间的非平稳性关系。作为一个相关的结果，高斯过程模型是通过假设输入空间为欧几里德学习，然后使用代数变换，基于未覆盖的关系，将其转换为非平稳和基于Wasserstein的高斯过程模型的概率测量。这种代数变换是简单的对数-exp映射的情况下使用的数据属于黎曼流形，最近扩展到考虑伪黎曼结构的输入空间配备了瓦瑟斯坦距离。
2022-12-02 cs.LG stat.ML
Ambiguity set and learning via Bregman and Wasserstein
鲁棒优化中模糊集的构造依赖于概率分布之间的分歧的选择。在分布学习中，根据观测数据选择合适的概率分布对于逼近真实分布至关重要。为了提高机器学习模型的性能，最近人们对基于Lp-瓦瑟斯坦距离而不是经典的Kullback-Leibler（KL）散度来设计目标函数感兴趣。在本文中，我们得到的浓度和渐近结果使用Bregman分歧。我们提出了一种新的非对称的统计分歧称为Wasserstein-Bregman分歧作为L2-瓦瑟斯坦距离的推广。我们讨论了如何将这些结果应用于鲁棒优化中的模糊集的构造。
2017-05-23 cs.LG stat.ML
The Cramer Distance as a Solution to Biased Wasserstein Gradients
Google DeepMind（谷歌DeepMind）；CoMPLEX, Computer Science, UCL（伦敦大学学院计算生命科学中心，计算机科学系）；Google（谷歌）
Wasserstein概率度量受到了机器学习社区的广泛关注。与严格测量概率变化的Kullback-Leibler分歧不同，Wasserstein度量反映了结果之间的潜在几何关系。对这种几何结构敏感的价值已经在有序回归和生成建模中得到证明。在本文中，我们描述了概率发散的三个自然属性，这些属性反映了机器学习的要求：和不变性，尺度敏感性和无偏样本梯度。沃瑟斯坦度量具有前两个性质，但不像Kullback-Leibler分歧，不具有第三个。我们提供的经验证据表明，这是一个严重的问题，在实践中。利用概率预测的见解，我们提出了一种替代Wasserstein度量的Cramér距离。我们表明，Cramér距离具有所有三个所需的属性，结合最好的Wasserstein和Kullback-Leibler分歧。为了说明Cramér距离在实践中的相关性，我们设计了一种新的算法，Cramér生成对抗网络（GAN），并表明它的性能明显优于相关的Wasserstein GAN。
2017-05-30 cs.LG stat.ML
Approximating Probability Distributions by using Wasserstein Generative Adversarial Networks
The University of Hong Kong（香港大学）
本文研究了以GroupSort神经网络为判别器的WGANs，建立了生成分布与目标分布间Wasserstein距离的量化泛化界限，揭示了判别器容量不足时高容量生成器反而表现更差的现象，并通过Swiss roll和MNIST数据集验证了理论。
2023-06-30 cs.LG stat.ML
Controlling Wasserstein Distances by Kernel Norms with Application to Compressive Statistical Learning
Univ Lyon（里昂大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；ENS de Lyon（里昂高等师范学校）；UCB Lyon 1（里昂第一大学）
本文研究如何用MMD范数控制Wasserstein距离，并引入Hölder下限制等距性质和Wasserstein正则性概念，为压缩统计学习提供理论保证。
2023-05-31 cs.LG stat.ML
On the Wasserstein Geodesic Principal Component Analysis of probability measures
CREST-ENSAE, IP Paris（CREST-ENSAE，IP巴黎）；CNRS, IRIT, Université de Toulouse（CNRS，IRIT，图卢兹大学）；Université Paris 1 Panthéon Sorbonne（巴黎第一大学巴黎政治学院）；ENAC, IMT, Université de Toulouse（ENAC，IMT，图卢兹大学）
本文利用Otto-Wasserstein几何，对概率分布集合进行测地主成分分析，通过识别概率测度空间中的测地线来捕捉数据变化模式，并针对高斯分布和绝对连续概率测度提出计算方法。
2026-06-08 cs.LG stat.ME stat.ML
Flowing Datasets with Wasserstein over Wasserstein Gradient Flows
Université Paris-Saclay, Laboratoire de Mathématique d'Orsay（巴黎-萨克雷大学，奥赛数学实验室）
本文将带标签数据集建模为分布上的分布，提出 WoW 距离及其梯度流，并用于迁移学习和数据集蒸馏。
2025-06-09 cs.LG math.OC stat.ML
Permutation invariant networks to learn Wasserstein metrics
Yale University（耶鲁大学）
理解度量空间上的概率测度空间是数学分析中的基本问题之一。Wasserstein度量在机器学习社区中受到了很多关注，特别是因为它比较分布的原则性方法。在这项工作中，我们使用一个置换不变的网络映射到一个低维空间的样本从概率措施，使编码的样本之间的欧氏距离反映概率措施之间的Wasserstein距离。我们表明，我们的网络可以推广到正确计算看不见的密度之间的距离。我们还证明了这些网络可以学习概率分布的一阶矩和二阶矩。
2021-02-26 cs.LG math.PR stat.ML
On the Minimax Optimality of Estimating the Wasserstein Metric
University of Chicago, Booth School of Business（芝加哥大学布斯商学院）
研究了基于$n$ i.i.d.的两个未知概率测度之间的Wasserstein- $1$度量的极小极大最优估计率.从他们的经验样本。我们发现，估计Wasserstein度量本身之间的概率测度，并不显着容易比估计的概率测度下的Wasserstein度量。我们证明了这两个问题的最小最大最优速率是乘法等价的，直到一个$\log \log (n)/\log (n)$因子。
2019-08-27 cs.LG math.ST stat.ML
Revisiting Sliced Wasserstein on Images: From Vectorization to Convolution
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
传统的切片Wasserstein定义在两个概率测度之间，这两个概率测度具有作为向量的实现。当比较图像上的两个概率度量时，从业者首先需要将图像矢量化，然后通过使用样本矩阵和投影矩阵之间的矩阵乘法将它们投影到一维空间。之后，通过平均两个相应的一维投影概率测度来评估切片Wasserstein。然而，这种方法有两个局限性。第一个限制是矢量化步骤不能有效地捕获图像的空间结构;因此，后期切片过程变得难以收集差异信息。第二个限制是内存效率低下，因为每个切片方向是一个向量，具有相同的尺寸的图像。为了解决这些限制，我们提出了新的切片方法切片Wasserstein之间的概率测量图像的卷积运算符的基础上。通过在卷积算子中引入步长、伸缩和非线性激活函数，推导出卷积切片Wasserstein（CSW）及其变体。我们调查CSW的度量以及它的样本复杂性，它的计算复杂性，和它的连接到传统的切片Wasserstein距离。最后，我们证明了CSW在比较图像上的概率度量和训练图像上的深度生成建模方面优于传统的切片Wasserstein。
2022-09-23 cs.CV cs.LG stat.ML
The geometry of financial institutions -- Wasserstein clustering of financial data
本文提出基于广义Wasserstein重心的Lloyd算法变体，对概率分布进行聚类，将金融监管中的细粒度数据压缩为可理解的度量空间表示，并验证其在处理缺失值和特征聚类中的有效性。
2025-07-03 cs.LG math.OC math.PR
Minimax Distribution Estimation in Wasserstein Distance
Carnegie Mellon University（卡内基梅隆大学）
Wasserstein度量是概率分布之间距离的重要度量，在机器学习、统计学、概率论和数据分析中有应用。本文仅使用样本空间的度量性质（如覆盖数和堆积数）和对概率分布的弱矩假设，给出了估计Wasserstein损失下概率分布的统计极大极小率的上界和下界.
2019-11-07 cs.IT cs.LG math.IT
An Empirical Study of Self-supervised Learning with Wasserstein Distance
Okinawa Institute of Science and Technology（冲绳科学技术大学院大学）；RIKEN AIP（理化学研究所人工智能项目）；Kyoto University（京都大学）；Ecole Normale Superieure（巴黎高等师范学院）；University College London（伦敦大学学院）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carnegie Mellon University（卡内基梅隆大学）
本研究实证探究了基于树Wasserstein距离的自监督学习，提出Jeffrey散度正则化稳定训练，并发现合适的TWD与概率模型组合优于余弦相似度方法。
2024-02-05 cs.LG stat.ML
Convergence Analysis for General Probability Flow ODEs of Diffusion Models in Wasserstein Distances
本文首次在精确分数估计和对数凹分布假设下，利用同步耦合分析技术，证明了一般概率流ODE采样器在2-Wasserstein距离下的非渐近收敛性及迭代复杂度。
2025-02-15 cs.LG math.PR stat.ML
Slicing the Gaussian Mixture Wasserstein Distance
Technische Universität Berlin（柏林工业大学）
针对高斯混合Wasserstein距离计算成本高的问题，提出多种基于切片的近似方法，显著降低复杂度并保持最优传输性质，通过理论等价性证明和数值实验验证了其在聚类、图像比较等任务中的有效性。
2025-08-04 cs.LG cs.NA math.NA
Wasserstein Gradient Boosting: A Framework for Distribution-Valued Supervised Learning
The University of Edinburgh（爱丁堡大学）
本文提出Wasserstein梯度提升框架，将梯度提升扩展到分布值监督学习，通过拟合Wasserstein梯度伪残差实现基于树的证据学习，并在概率预测上优于现有不确定性量化方法。
2024-08-29 cs.LG stat.ME stat.ML
Information Newton's flow: second-order optimization method in probability space
Stanford University（斯坦福大学）；University of California（加利福尼亚大学）
我们介绍了一个框架，牛顿流在概率空间与信息度量，命名为信息牛顿流。这里考虑两个信息度量，包括Fisher-Rao度量和Wasserstein-2度量。一个已知的事实是，过阻尼Langevin动力学对应于Kullback-Leibler（KL）发散的Wasserstein梯度流。将这一事实推广到瓦瑟斯坦牛顿流，我们得到牛顿的朗之万动力学。我们提供的例子牛顿的朗之万动力学在一维空间和高斯家庭。在数值实现方面，我们设计了仿射模型和再生核希尔伯特空间（RKHS）中的采样有效变分方法来逼近Wasserstein牛顿方向。我们还建立了所提出的信息牛顿法与近似方向的收敛结果。贝叶斯抽样问题的几个数值例子证明了所提出的方法的有效性。
2020-08-05 cs.LG math.OC stat.ML
Schema matching using Gaussian mixture models with Wasserstein distance
University of Warsaw（华沙大学）；QED Software（QED软件公司）
高斯混合模型作为一种强大的工具，主要是在聚类问题中，但在特征提取，模式识别，图像分割和一般的机器学习中也有适当的准备。当面临模式匹配问题时，在不同数据块上计算的不同混合模型可以保持关于数据集结构的关键信息。为了测量或比较混合模型的结果，Wasserstein距离可能非常有用，但对于混合分布来说，它并不容易计算。本文导出了高斯混合模型间Wasserstein距离的一种可能的近似，并将其化为线性问题。此外，有关现实世界的数据的应用实例。
2022-03-31 cs.DB cs.LG stat.ML
Towards Universal Wasserstein Barycenters through Flow Matching
Sigma Nova
提出BaryFM流匹配模型，实现Wasserstein单纯形中任意重心的通用逼近，在域适应等4个任务上验证，平均排名优于15种方法。
2026-10-01 cs.AI cs.LG stat.ML
Learning with a Wasserstein Loss
Center for Brains, Minds and Machines（脑、心智与机器中心）；Massachusetts Institute of Technology（麻省理工学院）；Shell International E & P, Inc.（壳牌国际勘探与生产公司）
学习预测多标签输出具有挑战性，但在许多问题中，输出上有一个自然的度量，可用于改进预测。在本文中，我们开发了一个损失函数的多标签学习，基于Wasserstein距离。Wasserstein距离为概率度量提供了一个自然的相异性概念。虽然相对于精确的Wasserstein距离进行优化是昂贵的，但最近的工作描述了一种有效计算的正则化近似。我们描述了一个有效的学习算法的基础上，这种正规化，以及一个新的扩展的Wasserstein距离从概率措施的非规范化措施。我们还描述了一个统计学习的损失。Wasserstein损失可以鼓励关于输出空间上的所选度量的预测的平滑性。我们证明了这个属性的一个真实的数据标签预测问题，使用雅虎Flickr创作共用数据集，优于基线，不使用的指标。
2015-12-30 cs.CV cs.LG stat.ML
Stochastic Saddle-Point Optimization for Wasserstein Barycenters
HSE University（俄罗斯高等经济大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Institute for Information Transmission Problems（信息传输问题研究所）；Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机研究所）
我们考虑人口Wasserstein重心问题的随机概率测度支持上的有限集的点和在线数据流产生的。这导致了一个复杂的随机最优化问题，其中的目标是作为一个随机最优化问题的解决方案给出的函数的期望。我们采用的结构的问题，并获得一个凹凸随机鞍点重新制定这个问题。在随机概率测度分布为离散分布的情况下，提出了一种随机最优化算法，并估计了算法的复杂度。第二个结果，基于核方法，将前一个结果推广到任意分布的随机概率测度。此外，在许多情况下，这种新算法的总复杂度优于随机逼近方法与Sinkhorn算法相结合。我们还说明了我们的发展由一系列的数值实验。
2021-12-02 cs.LG math.OC stat.ML
Sliced Inner Product Gromov-Wasserstein Distances
Center for Applied Mathematics, Cornell University（康奈尔大学应用数学中心）；Department of Mathematics, Imperial College London（伦敦帝国理工学院数学系）；School of Electrical and Computer Engineering, Cornell University（康奈尔大学电气与计算机工程学院）
本文提出切片内积Gromov-Wasserstein距离，解决高维问题的统计和计算扩展性问题，通过旋转不变性性质进行结构和计算性质研究，并在文本聚类和语言模型比较中验证。
2026-05-08 cs.LG math.OC stat.ML
Fast Computation of Wasserstein Barycenters
我们提出了新的算法来计算一组经验概率测度的最佳运输度量下的平均值。这个平均值被称为瓦瑟斯坦重心，是使其到该集合中每个元素的瓦瑟斯坦距离之和最小化的度量。我们提出了两个原始算法来计算Wasserstein重心，建立在次梯度法。然而，这些算法的直接实现成本太高，因为它需要重复解决大型原始和对偶最优运输问题来计算次梯度。扩展Cuturi（2013）的工作，我们建议使用熵正则化器平滑Wasserstein重心定义中使用的瓦瑟斯坦距离，并在这样做时恢复严格凸目标，其梯度可以使用矩阵缩放算法以相当便宜的计算成本计算。我们使用这些算法来可视化一个大家庭的图像，并解决了约束聚类问题。
2014-06-17 stat.ML
The Equivalence of Fourier-based and Wasserstein Metrics on Imaging Problems
我们研究一类基于傅立叶的概率距离的一些扩展的性质，最初引入研究收敛到平衡的空间齐次玻尔兹曼方程的解决方案。在与原来的不同，新的基于傅立叶的度量也定义良好的概率分布与不同的质量中心，和离散的概率测度支持一个规则的网格。在其他属性中，它示出，在离散设置中，这些新的基于傅立叶的度量是等价的欧几里得-Wasserstein距离$W_2$，或Kantorovich-Wasserstein距离$W_1$，具有明确的常数的等价。数值结果表明，在图像处理的基准问题，傅立叶度量提供了更好的运行时间相对于Wasserstein的。
2020-05-13 math-ph math.MP math.OC
Relative Wasserstein Spatial Depth for Cluster Number Selection in Distributional Data
Columbia University（哥伦比亚大学）
本文提出相对Wasserstein空间深度（RWSD）作为分布数据聚类中簇数选择的标准，与Wasserstein K-means或K-medians结合，理论保证一致性，模拟和实际数据中优于轮廓分数和Davies-Bouldin指数。
2026-10-08 stat.ME stat.ML
