Inferential Wasserstein Generative Adversarial Networks
Purdue University（普渡大学）
生成式对抗网络（GANs）对许多问题和应用都有影响，但存在训练不稳定的问题。Wasserstein GAN（WGAN）利用瓦瑟斯坦距离来避免GANs的最小最大两人训练中的警告，但具有其他缺陷，例如模式崩溃和缺乏检测收敛的度量。我们介绍了一种新的推理Wasserstein GAN（iW GAN）模型，这是一个原则性的框架融合自动编码器和WGAN。iWGAN模型通过迭代原始对偶优化过程联合学习编码器网络和生成器网络。编码器网络将观察到的样本映射到潜在空间，生成器网络将样本从潜在空间映射到数据空间。我们建立的推广误差界的iWGAN理论证明其性能。在极大似然估计的框架下，我们进一步提供了一个严格的概率解释我们的模型。iWGAN具有明确的停止标准，与其他自动编码器GANs相比具有许多优势。实验结果表明，该方法大大减轻了模式崩溃的症状，加快了收敛速度，并能对每个样本进行质量检验。我们通过获得基准数据集的竞争力和稳定的性能来说明iWGAN的能力。
2021-09-13 cs.LG stat.ML
Missing Features Reconstruction Using a Wasserstein Generative Adversarial Imputation Network
Czech Technical University in Prague（布拉格捷克理工大学）
缺失数据是最常见的预处理问题之一。在本文中，我们实验研究使用生成和非生成模型的特征重建。变分任意条件自动编码器（VAEAC）和生成对抗插补网络（GAIN）作为生成模型的代表进行了研究，而去噪自动编码器（DAE）则代表了非生成模型。该模型的性能进行了比较，传统的方法k-最近邻（k-NN）和多重插补链式方程（MICE）。此外，我们引入WGAIN作为GAIN的Wasserstein修正，当缺失度小于或等于30%时，WGAIN是最佳的插补模型。在真实世界和人工数据集上进行了实验，这些数据集具有连续特征，其中不同百分比的特征（从10%到50%不等）缺失。通过测量先前在未损坏的数据集上训练的分类模型的准确性来进行算法的评估。结果表明，GAIN，特别是WGAIN是最好的插补，无论条件。一般来说，它们的表现优于MICE，k-NN，DAE和VAEAC。
2020-06-21 cs.LG stat.ML
Rethinking Multidimensional Discriminator Output for Generative Adversarial Networks
Salesforce（赛富时）；Amazon（亚马逊）；Florida State University（佛罗里达州立大学）
生成对抗网络的多维批评（critic）输出的研究在文献中尚未充分探索。在本文中，我们推广了Wasserstein GAN框架，利用多维评论家输出，并探讨其性质。我们还引入了一个平方根速度变换（SRVT）块，有利于在多维设置中进行训练。性质的证明基于我们提出的最大p-中心差异，其由p-瓦瑟斯坦距离限制，并且适合具有多维评论家输出n的Wasserstein GAN框架。特别是当n = 1和p = 1时，所提出的差异等于1-瓦瑟斯坦距离。理论分析和实证结果表明，高维批评输出在区分真假分布方面具有优势，有利于结果的快速收敛和多样性。
2022-07-14 cs.LG stat.ML
Primal-Dual Wasserstein GAN
我们介绍了原始-对偶Wasserstein GAN，一种新的学习算法，用于建立基于原始和对偶公式的最优运输（OT）问题的数据分布的潜变量模型。我们利用原始公式来学习灵活的推理机制，并在数据分布和生成模型之间创建最佳近似耦合。为了学习生成模型，我们使用的对偶制定和训练的解码器通过一个批评网络，这是正则化的近似耦合从原始的。与以前的方法，违反各种属性的最佳评论家，我们正规化的标准和方向的梯度的评论家功能。我们的模型在模式覆盖和潜在结构方面共享了自动编码模型的许多理想属性，同时避免了它们不理想的平均属性，例如在对真实图像建模时无法捕获清晰的视觉特征。我们比较我们的算法与其他几个生成建模技术，利用瓦瑟斯坦距离的弗雷歇初始距离（FID）和初始分数（IS）。
2018-05-24 cs.LG stat.ML
Learning to Optimize via Wasserstein Deep Inverse Optimal Control
Georgia Institute of Technology（佐治亚理工学院）
我们研究社会科学中的逆最优控制问题：我们的目标是从观察到的时间行为中学习用户的真实成本函数。与传统的现象学工作，旨在学习一个生成模型，以适应行为数据，我们提出了一种新的变分原理和对待用户作为一个强化学习算法，其作用是通过优化他的成本函数。我们首先提出了一个统一的KL框架，推广现有的最大熵逆最优控制方法。我们进一步提出了一个两步Wasserstein逆最优控制框架。在第一步中，我们用一个新的质量输运方程计算最佳测量。在第二步中，我们将学习问题表述为生成对抗网络。在两个现实世界的实验-推荐系统和社交网络，我们表明，我们的框架获得显着的性能增益现有的逆最优控制方法和点过程为基础的生成模型。
2018-05-22 cs.LG stat.ML
(q,p)-Wasserstein GANs: Comparing Ground Metrics for Wasserstein GANs
University of Copenhagen（哥本哈根大学）；IT University of Copenhagen（哥本哈根信息技术大学）
生成对抗网络（GANs）作为生成模型在计算机视觉和机器学习中产生了重大影响。Wasserstein GANs（WGANs）通过最小化模型和数据分布之间的$1$ -Wasserstein距离作为目标函数，将最优传输（OT）理论引入到GANs中。从那时起，WGAN由于其稳定性和理论框架而获得了相当大的兴趣。我们通过引入$(q,p)$ -Wasserstein GANs家族来贡献WGAN文献，该家族允许在GAN学习过程中使用更通用的$p$ -Wasserstein度量用于$p\geq 1$。虽然该方法能够将任何成本函数作为地面度量，我们专注于研究$q\geq 1$的$l^q$指标。这是一个值得注意的概括，因为在WGAN文献中，OT距离通常基于$l^2$地面度量。我们证明了不同的$p$ -Wasserstein距离的效果在两个玩具的例子。此外，我们通过比较MNIST和CIFAR-10数据集上不同的$(q,p)$对，表明地面度量确实有差异。我们的实验表明，改变地面度量和$p$可以显着改善常见的$(q,p) = (2,1)$情况。
2019-02-10 cs.LG stat.ML
Wasserstein Generative Adversarial Networks for Online Test Generation for Cyber Physical Systems
Åbo Akademi University（奥博学术大学）
提出了一种基于Wasserstein生成对抗网络的在线测试生成算法WOGAN。WOGAN是一个通用的黑盒测试生成器，适用于任何具有用于确定失败测试的适应度函数的被测系统。作为概念证明，我们通过生成道路来评估WOGAN，使得汽车的车道辅助系统不能停留在指定车道上。我们发现，我们的算法具有竞争力的性能方面，以前公布的算法。
2022-05-23 cs.LG cs.SE
How Well Do WGANs Estimate the Wasserstein Metric?
University of Copenhagen（哥本哈根大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学科学研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
生成式建模通常被视为最小化数据分布和模型分布之间的相似性度量。最近，一个流行的选择的相似性度量一直是Wasserstein度量，它可以表示在Kantorovich对偶公式的最佳差异下的实际数据分布和模型假设的潜在功能的期望值。在实践中，该电位用神经网络来近似，并被称为神经网络。对偶约束的函数类的的近似执行，并从样本的期望估计。这给出了至少三个误差来源：近似的期望值和约束，期望值的估计，以及找到最优势所需的优化。在这项工作中，我们研究了如何以及方法，用于生成对抗网络近似Wasserstein度量，执行。我们认为，特别是，$c$ -变换公式，它消除了需要执行明确的约束。我们证明，$c$ -变换允许更准确地估计样本的真实Wasserstein度量，但令人惊讶的是，在生成设置中没有执行最佳。
2019-10-09 cs.LG stat.ML
Global Optimisation of Black-Box Functions with Generative Models in the Wasserstein Space
HSE University（高等经济大学）
本研究提出一种基于Wasserstein距离的不确定性估计器，结合深度生成代理模型用于黑盒模拟器的无梯度优化，经测试其鲁棒性优于当前最优方法。
2024-11-03 cs.LG hep-ex physics.data-an
The Cramer Distance as a Solution to Biased Wasserstein Gradients
Google DeepMind（谷歌DeepMind）；CoMPLEX, Computer Science, UCL（伦敦大学学院计算生命科学中心，计算机科学系）；Google（谷歌）
Wasserstein概率度量受到了机器学习社区的广泛关注。与严格测量概率变化的Kullback-Leibler分歧不同，Wasserstein度量反映了结果之间的潜在几何关系。对这种几何结构敏感的价值已经在有序回归和生成建模中得到证明。在本文中，我们描述了概率发散的三个自然属性，这些属性反映了机器学习的要求：和不变性，尺度敏感性和无偏样本梯度。沃瑟斯坦度量具有前两个性质，但不像Kullback-Leibler分歧，不具有第三个。我们提供的经验证据表明，这是一个严重的问题，在实践中。利用概率预测的见解，我们提出了一种替代Wasserstein度量的Cramér距离。我们表明，Cramér距离具有所有三个所需的属性，结合最好的Wasserstein和Kullback-Leibler分歧。为了说明Cramér距离在实践中的相关性，我们设计了一种新的算法，Cramér生成对抗网络（GAN），并表明它的性能明显优于相关的Wasserstein GAN。
2017-05-30 cs.LG stat.ML
A Unifying View of Variational Generative Wasserstein Flows
CMAP, CNRS, École Polytechnique, Institut Polytechnique de Paris, Palaiseau, France（CMAP、法国国家科学研究中心、巴黎高等理工学院、巴黎理工 institute、Palaiseau，法国）
本文提出生成式Wasserstein流（GWF）的统一理论框架，将多种现有生成模型视为f-散度目标的参数化JKO方案实例，并扩展至积分概率度量与最大均值差异，推导新算法并阐明与GAN的联系。
2026-05-29 cs.CV cs.LG
Wasserstein GANs Work Because They Fail (to Approximate the Wasserstein Distance)
Cambridge Image Analysis Group, Department of Applied Mathematics and Theoretical Physics, University of Cambridge（剑桥大学应用数学与理论物理系剑桥图像分析组）；Department of Mathematical Sciences, University of Bath（巴斯大学数学科学系）；University of Cambridge（剑桥大学）；University of Bath（巴斯大学）
Wasserstein GANs基于最小化真实分布和生成分布之间的瓦瑟斯坦距离的想法。我们对训练Wasserstein GANs的理论设置和现实之间的差异进行了深入的数学分析。在这项工作中，我们收集的理论和经验证据表明，WGAN的损失是没有意义的近似的瓦瑟斯坦距离。此外，我们认为Wasserstein距离甚至不是深度生成模型的理想损失函数，并得出结论，Wasserstein GANs的成功实际上可以归因于未能近似瓦瑟斯坦距离。
2021-10-05 cs.LG stat.ML
Improved Training of Wasserstein GANs
Montreal Institute for Learning Algorithms（蒙特利尔学习算法研究所）；Courant Institute of Mathematical Sciences（库朗数学科学研究所）；Google Brain（谷歌大脑）
生成对抗网络（GANs）是强大的生成模型，但存在训练不稳定的问题。最近提出的Wasserstein GAN（WGAN）在GANs的稳定训练方面取得了进展，但有时仍然只能生成低质量的样本或无法收敛。我们发现，这些问题往往是由于在WGAN中使用权重裁剪来对评论家实施Lipschitz约束，这可能导致不期望的行为。我们提出了一种替代裁剪权重：惩罚相对于其输入的评论家的梯度范数。我们提出的方法比标准的WGAN性能更好，并且能够稳定地训练各种各样的GAN架构，几乎没有超参数调整，包括101层ResNet和离散数据上的语言模型。我们还在CIFAR-10和LSUN卧室上实现了高质量的世代。
2017-12-25 cs.LG stat.ML
Wasserstein Flow Matching: Generative modeling over families of distributions
Weill Cornell（威尔康奈尔医学院）；Center for Data Science, New York University（纽约大学数据科学中心）；Howard Hughes Medical Institute（霍华德·休斯医学研究所）；Meta AI
针对标准流匹配忽略样本作为分布的固有几何结构的问题，提出Wasserstein流匹配（WFM），利用Wasserstein几何在分布族上实现高维分布生成，经理论验证有效，在多场景展现通用性并成功生成多种数据。
2025-05-17 cs.LG
Tessellated Wasserstein Auto-Encoders
非对抗生成模型，如变分自动编码器（VAE），Wasserstein自动编码器与最大平均差异（WAE-MMD），切片Wasserstein自动编码器（SWAE）是相对容易训练，并具有较少的模式崩溃相比，Wasserstein自动编码器与生成对抗网络（WAE-GAN）。然而，它们在近似潜在空间中的目标分布方面不是很准确，因为它们没有一个用于检测真假之间的微小差异的滤波器。为此，我们开发了一种称为Tessellated Wasserstein Auto-encoders（TWAE）的新型非对抗性框架，通过质心Voronoi细分（CVT）技术将目标分布的支持细分为给定数量的区域，并根据细分设计批量数据，而不是随机洗牌，以准确计算差异。理论上，我们证明了当镶嵌的样本数$n$和区域数$m$分别以$\mathcal{O}(\frac{1}{\sqrt{n}})$和$\mathcal{O}(\frac{1}{\sqrt{m}})$的速率变大时，对差异的估计误差减小。给定固定的$n$和$m$，使测量误差的上界最小化的必要条件是镶嵌是由CVT确定的镶嵌。TWAE对不同的非对抗性指标非常灵活，并且与VAE，WAE-MMD，SWAE相比，可以大大提高其在Fréchet起始距离（FID）方面的生成性能。此外，数值结果确实表明TWAE与对抗模型WAE-GAN竞争，证明了其强大的生成能力。
2021-03-04 cs.LG math.OC stat.ML
Quantum Wasserstein Generative Adversarial Networks
University of Maryland（马里兰大学）；University of Electronic Science and Technology of China（电子科技大学）
量子生成模型的研究动机很好，不仅因为它在量子机器学习和量子化学中的重要性，还因为它在近期量子机器上实现的前景。受先前对经典和量子生成模型的对抗训练研究的启发，我们提出了量子Wasserstein生成对抗网络（WGAN）的第一个设计，该设计已被证明可以提高量子生成模型对抗训练的鲁棒性和可扩展性，即使在有噪声的量子硬件上。具体来说，我们提出了量子数据之间的Wasserstein半度量的定义，它继承了经典对应物的一些关键理论优点。我们还演示了如何将量子Wasserstein半度量转化为可以在量子机器上有效实现的量子WGAN的具体设计。我们的数值研究，通过量子系统的经典模拟，显示了我们的量子WGAN比其他量子GAN提案更强大和可扩展的数值性能。作为一个令人惊讶的应用，我们的量子WGAN已被用来生成一个3量子位量子线路的~50门，很好地近似3量子位一维哈密顿模拟电路，需要超过10 k门使用标准技术。
2019-10-31 cs.LG quant-ph
A Bayesian Non-parametric Approach to Generative Models: Integrating Variational Autoencoder and Generative Adversarial Networks using Wasserstein and Maximum Mean Discrepancy
Department of Statistics and Actuarial Science University of Hong Kong（统计与精算科学系香港大学）
本文提出一种基于贝叶斯非参数框架的生成模型，整合VAE、GAN及CGAN，采用Wasserstein距离和最大均值差异损失，以解决过拟合和噪声样本问题，提升训练稳定性并生成高质量多样样本。
2025-06-22 cs.LG stat.AP stat.CO
Adversarial network training using higher-order moments in a modified Wasserstein distance
A-Alpha Bio（A-Alpha Bio公司）
生成对抗网络（GANs）已被用于在压缩的潜在空间中产生与示例数据非常相似的数据，该压缩的潜在空间接近于足以在原始向量空间中进行重构。Wasserstein度量已被用作二进制交叉熵的替代方案，产生具有更大模式覆盖行为的更稳定的GANs。在这里，一个泛化的瓦瑟斯坦距离，使用高阶矩比平均值，推导出。训练一个GAN与此高阶Wasserstein度量表现出优越的性能，即使在调整略高的计算成本。这示出了生成合成抗体序列。
2022-10-07 cs.LG stat.ML
Causality Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde（思克莱德大学）
由于组合搜索空间，从数据中学习因果结构的传统方法面临重大挑战。最近，这个问题已经被制定成一个连续的优化框架与无环约束学习有向无环图（DAG）。这样的框架允许利用深度生成模型进行因果结构学习，以更好地捕捉数据样本分布和DAG之间的关系。然而，到目前为止，还没有研究在因果结构学习的背景下使用Wasserstein距离进行实验。我们的模型名为DAG-WGAN结合了Wasserstein的对抗损失与自动编码器架构中的非循环约束。它同时学习因果结构，同时提高其数据生成能力。我们比较了DAG-WGAN与其他不涉及Wasserstein度量的模型的性能，以确定其对因果结构学习的贡献。根据我们的实验，我们的模型在高基数数据下表现得更好。
2022-06-03 cs.AI cs.LG stat.ME
Parameter-Transferred Wasserstein Generative Adversarial Network (PT-WGAN) for Low-Dose PET Image Denoising
Northeastern University（东北大学）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
由于正电子发射断层扫描（PET）在临床实践中的广泛使用，需要最大限度地降低PET相关辐射剂量对患者的潜在风险。然而，随着辐射剂量的减少，所得到的图像可能遭受损害诊断性能的噪声和伪影。在本文中，我们提出了一个参数转移Wasserstein生成对抗网络（PT-WGAN）的低剂量PET图像去噪。本文的贡献是双重的：i）PT-WGAN框架被设计成在不损害结构细节的情况下对低剂量PET图像进行去噪，以及ii）基于迁移学习的任务特定初始化被开发成使用从预训练模型转移的可训练参数来训练PT-WGAN，这显著地提高了PT-WGAN的训练效率。临床数据的实验结果表明，该网络可以更有效地抑制图像噪声，同时保持更好的图像保真度比最近发表的国家的最先进的方法。我们在https://github.com/90n9-yu/PT-WGAN上提供我们的代码。
2020-08-26 cs.LG eess.IV stat.ML
Modeling EEG data distribution with a Wasserstein Generative Adversarial Network to predict RSVP Events
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
由于复杂的实验设置和长时间佩戴的舒适度降低，难以获得脑电图（EEG）数据。这对利用有限的EEG数据训练强大的深度学习模型提出了挑战。能够通过计算生成EEG数据可以解决这一限制。我们提出了一种新的Wasserstein生成对抗网络与梯度惩罚（WGAN-GP）合成EEG数据。该网络解决了模拟时间序列EEG数据的几个建模挑战，包括频率伪影和训练不稳定性。我们进一步将该网络扩展到一个类条件变体，该变体还包括一个分类分支来执行事件相关分类。我们训练所提出的网络生成一个和64个通道的数据，类似于在快速串行视觉呈现（RSVP）实验中经常看到的EEG信号，并证明了所生成的样本的有效性。我们还测试了主题内跨会话分类性能，用于分类RSVP目标事件，并表明类条件WGAN-GP可以在EEGNet上实现更好的事件分类性能。
2020-07-01 cs.LG eess.IV stat.AP
Statistical Regeneration Guarantees of the Wasserstein Autoencoder with Latent Space Consistency
Indian Statistical Institute, Kolkata（印度统计研究所（加尔各答））
变分自编码器（VAE）的引入被认为是表示学习模型历史上的一个突破。除了拥有自己的几项荣誉外，VAE还成功地以其直接继承者的形式推出了一系列发明。Wasserstein Autoencoder（WAE）是该领域的继承者，它具有所有的优点和增强的生成承诺，甚至与生成对抗网络（GANs）相匹配。不用说，近年来GANs的统计分析出现了显著的复苏。然而，尽管自动编码器具有不同的适用性和显着的经验表现，但仍然基本上没有类似的检查。为了缩小这一差距，在本文中，我们调查的统计特性的WAE。首先，我们提供的统计保证，WAE实现的目标分布在潜在的空间，利用Vapnik Chervonenkis（VC）理论。主要结果，从而确保再生的输入分布，利用Wasserstein度量下的措施的最优运输提供的潜力。这项研究，反过来，暗示在一类分布WAE可以重建后，遭受压缩的形式的一个潜在的法律。
2021-10-08 cs.LG stat.ML
Robustness and Structure Preservation in Flow-Based Generative Models via Wasserstein Path-Space Divergences
Department of Mathematics and Statistics（数学与统计学系）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Division of Applied Mathematics（应用数学系）；Brown University（布朗大学）
本文首次理论分析了分数基于生成模型在学习具有对称性的分布时的性能保障，并比较了数据增强与添加等价诱导偏差的效果。
2026-06-28 cs.LG math.PR stat.ML
Face Super-Resolution Through Wasserstein GANs
University of California, Berkeley（加州大学伯克利分校）
生成对抗网络（GANs）在过去几年中受到了极大的关注，并激发了解决各种问题的应用。尽管GANs潜力巨大，但训练难度很大。最近，一系列论文（Arjovsky & Bottou，2017 a; Arjovsky et al. 2017 b;和Gulrajani et al. 2017）提出使用Wasserstein距离作为训练目标，并承诺跨架构进行简单，稳定的GAN训练，只需最小的超参数调整。在本文中，我们比较了Wasserstein距离与其他训练目标的性能在各种GAN架构的背景下，单图像超分辨率。我们的研究结果表明，Wasserstein GAN与梯度惩罚（WGAN-GP）提供了稳定和收敛的GAN训练和Wasserstein距离是一个有效的度量来衡量训练进度。
2017-05-06 cs.LG stat.ML
Score-based Generative Modeling Secretly Minimizes the Wasserstein Distance
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
基于得分的生成模型在图像生成和音频合成等各种应用中表现出显著的经验性能。然而，基于分数的扩散模型的理论理解仍然是不完整的。最近，Song等人表明，基于得分的生成模型的训练目标相当于最小化生成分布与数据分布的Kullback-Leibler散度。在这项工作中，我们表明，基于分数的模型也最小化它们之间的Wasserstein距离在适当的假设下的模型。具体地说，我们证明了Wasserstein距离的上界由目标函数的平方根乘法常数和一个固定的常数偏移。我们的证明是基于最优运输理论的一个新的应用，它可以独立的社会利益。我们的数值实验支持我们的研究结果。通过分析我们的上界，我们提供了一些技术，以获得更严格的上界。
2022-12-13 cs.AI cs.LG cs.NA
When Riemann flows with Wasserstein: Generative Modeling of Probability Distributions on Manifolds
Genentech Inc.（基因泰克公司）；Yale University（耶鲁大学）
针对非欧几里得域上的元分布生成问题，提出RWEFM框架，在黎曼流形的Wasserstein空间上利用最优传输速度回归训练，可生成单细胞和蛋白质构象，且适用于一般三角网格。
2026-09-23 cs.LG
Adaptive Learning of the Latent Space of Wasserstein Generative Adversarial Networks
School of Statistics and Management, Shanghai University of Finance and Economics（上海财经大学统计与管理学院）；Purdue University（普渡大学）
提出LWGAN框架融合Wasserstein自编码器与GAN，自适应学习数据流形内在维数，理论证明估计一致性并给出泛化误差上界，实验验证其能准确识别维数并生成高质量合成数据。
2024-09-27 cs.AI cs.LG stat.ME
Fine-Tuning Generative Models for Extreme Events via CVaR-Penalized Wasserstein Gradient Flows
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
该研究提出CVaR-GPA算法，通过CVaR惩罚的Wasserstein梯度流微调生成模型，无需先验尾部知识，在多类重尾分布及真实数据集上显著提升了生成模型的全局与尾部精度。
2026-10-05 cs.LG stat.ML
A Differential Equation Approach for Wasserstein GANs and Beyond
Department of Applied Mathematics, University of Colorado, Boulder, CO 80309, United States
本文通过 Wasserstein-1 损失的梯度流常微分方程提出 W1-FE 生成模型，证明其前向欧拉离散化收敛，并在持续训练下优于 WGAN，同时说明朴素引入持续训练会损害效果。
2025-02-04 cs.LG stat.ML
Conditional Lagrangian Wasserstein Flow for Time Series Imputation
Soochow University（苏州大学）；Aalborg University（奥尔堡大学）
本文提出条件拉格朗日Wasserstein流（CLWF）用于时间序列插补，通过最小化动能学习速度，并利用去噪自编码器估计势函数梯度以降低采样方差，性能优于现有扩散模型方法。
2025-05-07 cs.LG stat.ML
Intrinsic Dimension Estimation Using Wasserstein Distances
MIT（麻省理工学院）
长期以来，人们一直认为在许多实际机器学习任务中遇到的高维数据具有低维结构，即，多重假设成立。因此，一个自然的问题是从有限样本中估计给定总体分布的内在维数。我们引入了一个新的估计的内在尺寸，并提供有限样本，非渐近保证。然后，我们应用我们的技术来获得生成对抗网络（GANs）的新样本复杂度界限，仅取决于数据的内在维度。
2022-05-31 cs.LG stat.ML
Generative Path-Finding Method for Wasserstein Gradient Flow
City University of Hong Kong（香港城市大学）
本文提出GenWGP框架，通过生成流计算Wasserstein梯度流路径，利用几何动作功能和归一化流实现稳定训练，有效捕捉复杂动态。
2026-04-13 cs.LG math-ph math.MP
Wasserstein Introspective Neural Networks
University of California San Diego（加利福尼亚大学圣地亚哥分校）
我们提出了Wasserstein内省神经网络（WINN），这是一个发电机和一个单一的模型内的神经网络。WINN通过增强INN的生成建模能力，对最近的内省神经网络（INN）方法进行了重大改进。WINN有三个有趣的性质：（1）INN算法的公式和Wasserstein生成对抗网络（WGAN）之间的数学联系。(2)在INN中明确采用Wasserstein距离导致了对INN的大幅增强，即使使用单个分类器也可以实现令人信服的结果-例如，为无监督生成式建模提供了比INN模型大小减少近20倍的模型。(3)当应用于监督分类时，WINN在减少错误方面也提高了对对抗性示例的鲁棒性。在实验中，我们报告了令人鼓舞的结果无监督学习问题，包括纹理，人脸和对象建模，以及监督分类任务对对抗攻击。
2018-04-07 cs.CV cs.LG
Relaxed Wasserstein with Applications to GANs
University of California, Berkeley（加州大学伯克利分校）
Wasserstein生成对抗网络（WGANs）提供了一类通用的模型，在各种应用中引起了极大的关注。然而，该框架有两个主要缺点：（i）Wasserstein-1（或Earth-Mover）距离是限制性的，使得WGAN不能总是很好地适应数据几何形状;（ii）难以实现WGAN的快速训练。本文通过推广Wasserstein-1距离和Bregman代价函数，提出了一类新的\textit{Relaxed Wasserstein}（RW）距离.我们表明，RW距离实现良好的统计特性，同时不牺牲计算的易处理性。结合GANs框架，我们开发了Relaxed WGANs（RWGANs），它不仅在统计上灵活，而且可以使用启发式方法有效地近似。在真实图像上的实验表明，具有Kullback-Leibler（KL）代价函数的RWGAN优于其他竞争方法，例如，WGAN，即使有梯度惩罚。
2021-07-17 cs.LG stat.ML
Generating Spatial Synthetic Populations Using Wasserstein Generative Adversarial Network: A Case Study with EU-SILC Data for Helsinki and Thessaloniki
NORCE Norwegian Research Center AS（挪威NORCE研究中心）；Centre for Modelling Social Systems（社会系统建模中心）
本研究利用 Wasserstein 生成对抗网络结合 EU-SILC 数据，为赫尔辛基和塞萨洛尼基生成空间合成人口，发现平衡数据与边缘特征表征不足是当前深度生成方法面临的主要挑战，可能导致模拟歧视。
2025-01-27 cs.LG cs.MA
Y-Diagonal Couplings: Approximating Posteriors with Conditional Wasserstein Distances
针对Wasserstein距离无法控制后验距离的问题，提出带有受限耦合的条件Wasserstein距离，推导其对偶以严格论证条件Wasserstein GANs的损失，并证明其在后验采样中的优势。
2023-10-20 cs.LG math.ST stat.ML
Learning Deep-Latent Hierarchies by Stacking Wasserstein Autoencoders
University College London（伦敦大学学院）；Faculty（学院）
具有分层潜在变量结构的概率模型在非自回归、无监督的基于密度的模型中提供了最先进的结果。然而，基于变分自编码器（VAE）训练此类模型的最常见方法通常无法利用深层层次结构;成功的方法需要复杂的推理和优化方案。最优运输是一种替代的，非基于似然的框架，用于训练具有吸引人的理论属性的生成模型，原则上允许分布之间更容易的训练收敛。在这项工作中，我们提出了一种新的方法来训练模型的基础上最优运输的深层层次结构，而不需要高度定制的模型和推理网络。我们表明，我们的方法使生成模型能够充分利用其深层的潜在层次结构，避免了VAE的众所周知的“潜在变量崩溃”问题;因此，提供了质量更好的样本生成以及比原始Wasserstein Autoencoder更具可解释性的潜在表示。
2020-10-07 cs.CV cs.LG stat.ML
Stable Parallel Training of Wasserstein Conditional Generative Adversarial Neural Networks
Oak Ridge National Laboratory（橡树岭国家实验室）
我们提出了一个稳定的，并行的方法来训练Wasserstein条件生成对抗神经网络（W-CGANs）的约束下，一个固定的计算预算。与以前的分布式GANs训练技术不同，我们的方法避免了进程间通信，降低了模式坍塌的风险，并通过使用多个生成器来增强可扩展性，每个生成器都同时在单个数据标签上进行训练。Wasserstein度量的使用还通过稳定每个生成器的训练来降低骑自行车的风险。我们在CIFAR 10，CIFAR 100和ImageNet 1 k数据集上说明了该方法，这三个标准的基准图像数据集保持了每个数据集图像的原始分辨率。在有限的固定计算时间和计算资源内的可扩展性和最终精度方面评估性能。为了测量准确性，我们使用初始分数，Frechet初始距离和图像质量。与通过在深度卷积条件生成对抗神经网络（DC-CGAN）上执行并行方法获得的先前结果相比，初始分数和Frechet初始距离有所改善，以及通过GANs方法创建的新图像的图像质量有所改善。在OLCF超级计算机Summit上使用多达2，000个NVIDIA V100 GPU在两个数据集上实现弱缩放。
2022-07-25 cs.AI cs.CV cs.DC
Wasserstein Proximal of GANs
University of California, Los Angeles（加州大学洛杉矶分校）；University of South Carolina（南卡罗来纳大学）；Max Planck Institute for Mathematics in Sciences（马克斯·普朗克数学科学研究所）
我们介绍了一种新的方法来训练生成对抗网络，通过应用Wasserstein-2度量邻近的发电机。该方法是基于Wasserstein信息几何。它通过将最佳传输结构从概率空间拉回到参数空间来定义参数化不变自然梯度。我们获得了易于实现的迭代正则化隐式深度生成模型的参数更新。实验结果表明，该方法在挂钟时间和Fréchet起始距离方面提高了训练的速度和稳定性。
2021-02-13 cs.AI cs.LG cs.NA
Robust Estimation under the Wasserstein Distance
Cornell University（康奈尔大学）；Columbia University（哥伦比亚大学）
针对含对抗性破坏样本的Wasserstein鲁棒分布估计问题，本文结合部分最优传输与最小距离估计，证明了其极小极大最优性，推导出带sup范数惩罚的POT对偶形式，并据此改进WGAN以实现抗污染的大规模生成建模。
2024-09-24 cs.LG math.ST stat.ML
Generalized Wasserstein Flow Matching: Nested Couplings for Point Cloud Generation
Institut für Mathematik, Technische Universität Berlin, Germany（数学研究所，柏林技术大学，德国）
本文提出广义Wasserstein流匹配方法，通过耦合外层和内层运输计划扩展流匹配框架，结合切线和线性Wasserstein距离降低计算成本，实现概率测度空间中的生成建模。
2026-10-27 cs.LG math.OC math.PR
Wasserstein Bounds for generative diffusion models with Gaussian tail targets
Division of Mathematical Sciences, School of Physical and Mathematical Sciences, Nanyang Technological University, Singapore（数学科学系，物理与数学科学学院，南洋理工大学，新加坡）
该研究针对基于分数的生成模型，在数据分布高斯尾假设与$ε$级分数近似精度下，推导了数据分布与生成结果间Wasserstein距离的采样复杂度界为$\u2715(\u221ad)$，并明确其与前向过程不变分布协方差算子迹的关联。
2025-10-03 cs.LG cs.NA math.AP
Semi-Supervised Multitask Learning on Multispectral Satellite Images Using Wasserstein Generative Adversarial Networks (GANs) for Predicting Poverty
Stanford University（斯坦福大学）
要获得可靠的数据，详细描述当地的贫困指标，为决策者提供信息，就需要进行昂贵和后勤困难的调查，特别是在发展中国家。毫不奇怪，贫困地区也很可能成为战区，基础设施薄弱，有时政府不与国际资助的发展努力合作。我们对CNN进行训练，利用Landsat 7提供的非洲大陆免费和公开的日间卫星图像，建立一个预测当地经济生计的模型。只有5%的卫星图像可以与标签（从DHS调查中获得）相关联，因此使用GAN的半监督方法（类似于Salimans等人的方法（2016）），尽管使用了更稳定的GANs训练风格，称为Wasserstein GAN，使用梯度惩罚正则化（Gulrajani等人（2017））。采用多任务学习的方法来规范网络，并创建用于预测多个贫困指标的端到端模型。
2019-04-25 cs.CV cs.LG
Quantum Wasserstein GANs for State Preparation at Unseen Points of a Phase Diagram
Technical University of Munich（慕尼黑工业大学）；Technical University of Munich, Institute for Advanced Study（慕尼黑工业大学高等研究院）
本文提出一种基于量子Wasserstein GANs的混合经典-量子方法，可学习态测量期望的底层函数，并生成相图中未见点的新量子态。
2023-09-18 cs.LG quant-ph
EEG-GAN: Generative adversarial networks for electroencephalograhic (EEG) brain signals
University of Freiburg（弗莱堡大学）
生成对抗网络（GANs）最近在涉及图像的生成应用中非常成功，并开始应用于时间序列数据。在这里，我们将EEG-GAN描述为生成脑电图（EEG）大脑信号的框架。我们对Wasserstein GANs的改进训练进行了修改，以稳定训练并研究一系列对时间序列生成至关重要的架构选择（最明显的是上采样和下采样）。为了进行评估，我们考虑并比较了不同的指标，如Inception评分，Frechet inception距离和切片Wasserstein距离，共同表明我们的EEG-GAN框架生成了自然的EEG示例。因此，它在神经科学和神经学背景下开辟了一系列新的生成应用场景，例如脑机接口任务中的数据增强，EEG超采样或损坏数据段的恢复。产生特定类别和/或具有特定属性的信号的可能性也可能为研究大脑信号的潜在结构开辟新的途径。
2018-06-05 cs.LG eess.SP q-bio.NC
Understanding the Effectiveness of Lipschitz-Continuity in Generative Adversarial Nets
Shanghai Jiao Tong University（上海交通大学）；Stanford University（斯坦福大学）；Peking University（北京大学）
在本文中，我们研究了导致GANs训练失败和成功的潜在因素。我们研究了最佳判别函数的性质，并表明在许多GANs中，最佳判别函数的梯度是不可靠的，这是GANs训练失败的根本原因。我们进一步证明了一个定义良好的距离度量并不一定保证GANs的收敛。最后，证明了Lipschitz连续性条件是使最优判别函数的梯度可靠的通解，并刻画了Lipschitz连续性保证收敛的必要条件，从而得到了一类在Lipschitz连续性条件下有效的GAN目标，其中Wasserstein距离是一个特例.我们实验了几个新的目标，这是健全的，根据我们的定理，我们发现，与Wasserstein距离相比，输出的新目标是更稳定的，生成的样本的最终质量也始终高于Wasserstein距离。
2018-12-23 cs.AI cs.CV cs.LG
Are We Really Learning the Score Function? Reinterpreting Diffusion Models Through Wasserstein Gradient Flow Matching
Oregon State University（俄勒冈州立大学）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
该研究发现训练后的扩散网络学习的向量场并非保守的得分函数，提出用Wasserstein梯度流匹配视角解释扩散模型的成功，指出非保守误差不一定损害密度输运，为理解扩散生成模型提供了新的理论框架。
2025-08-30 cs.LG
Minimizing Trajectory Curvature of ODE-based Generative Models
Soongsil University（崇实大学）；KAIST（韩国科学技术院）
本文提出通过训练前向过程最小化生成轨迹曲率的方法，在无需ODE/SDE模拟的情况下降低采样成本并保持性能。
2023-05-25 cs.AI cs.CV cs.LG
Towards Diverse Paraphrase Generation Using Multi-Class Wasserstein GAN
Tsinghua University（清华大学）；Department of Electronic Engineering, Tsinghua University（清华大学电子工程系）；Xiamen University（厦门大学）；Department of Communication Engineering, Xiamen University（厦门大学通信工程系）；Key Laboratory of Digital Fujian on IoT Communication, Architecture and Security Technology, Xiamen University（厦门大学福建省数字物联网通信、架构与安全技术重点实验室）
释义生成是自然语言处理中一项重要而又具有挑战性的任务。在这项工作中，我们提出了一个深度生成模型来生成具有多样性的释义。我们的模型是基于一个编码器-解码器架构。一个额外的代码转换器被用来将一个句子转换成它的释义潜码。转码器以一个显式的模式嵌入变量为条件，通过对模式嵌入变量进行采样，可以生成不同的释义。我们使用Wasserstein GAN来对齐真实和生成的释义样本的分布。我们对Wasserstein GAN提出了一个多类扩展，它允许我们的生成模型从正样本和负样本中学习。在Wasserstein距离中，所生成的释义分布被强制向正实分布靠拢，并被推离负分布。我们在两个数据集中测试了我们的模型，包括自动度量和人工评估。结果表明，我们的模型可以生成流畅和可靠的释义样本，优于最先进的结果，同时也提供了合理的可变性和多样性。
2019-09-30 cs.CL cs.LG
Conditional Wasserstein Distances with Applications in Bayesian OT Flow Matching
Technical University of Berlin（柏林技术大学）
本文提出条件Wasserstein距离，推导其理论性质与流常微分方程，并通过松弛该距离扩展OT流匹配方法，用于求解贝叶斯逆问题，在逆问题和类别条件图像生成中验证了数值优势。
2025-08-27 cs.LG math.OC
Liouville PDE-based sliced-Wasserstein flow
Department of Mathematics（数学系）；Morgan State University（摩根州立大学）
本文将切片Wasserstein流转化为基于Liouville偏微分方程的形式，通过改进密度估计和Wasserstein barycenter计算，提升了训练和测试性能，并在公平回归中展示了改进公平性的优势。
2026-05-09 cs.LG math.PR math.ST
Improving EEG Signal Classification Accuracy Using Wasserstein Generative Adversarial Networks
The University of British Columbia（不列颠哥伦比亚大学）
提出基于 WGAN 的 EEG 信号生成方法，在 BCI2000 数据集上训练并通过分类器验证，有效提升分类准确率与泛化能力，解决 BCI 数据匮乏问题。
2024-02-05 cs.AI cs.LG eess.SP
3D Wasserstein generative adversarial network with dense U-Net based discriminator for preclinical fMRI denoising
School of Information Technology, Carleton University（卡尔顿大学信息技术学院）；Northeastern University（东北大学）；Tessellis Ltd.（泰塞利斯有限公司）
针对临床前fMRI数据去噪的挑战，提出基于3D密集U-Net判别器的3D Wasserstein生成对抗网络3D U-WGAN，通过4D配置处理时空噪声，引入对抗损失和特征空间距离优化，在模拟和真实数据上优于现有方法。
2024-11-28 cs.CV cs.LG eess.IV
A new pathway to generative artificial intelligence by minimizing the maximum entropy
Center for Life Nanoscience, Istituto Italiano di Tecnologia（生命纳米科学中心、意大利技术研究院）；Department of Physics, Sapienza University（物理系、萨皮恩扎大学）
本文提出一种通过对抗训练同时最小化和最大化熵的物理驱动生成模型，以数据高效且灵活的方式实现可控生成，并在基准测试中优于变分自编码器。
2025-06-05 cond-mat.stat-mech cs.IT cs.LG
