Autoencoding Generative Adversarial Networks
Flatland Data Solutions（Flatland数据解决方案公司）
自从Goodfellow等人引入生成对抗网络（GANs）以来，生成模型应用的广度和质量都出现了爆炸式增长。尽管做了这些工作，但GANs在主流采用之前还有很长的路要走，这主要是因为它们臭名昭著的训练不稳定性。在这里，我提出了自动编码生成对抗网络（AEGAN），这是一个四网络模型，它通过对生成的图像和生成的潜在向量应用对抗损失和重建损失来学习指定潜在空间和给定样本空间之间的双射映射。AEGAN技术对典型的GAN训练提供了若干改进，包括训练稳定性、模式崩溃预防以及允许在真实样本之间直接插值。该技术的有效性说明使用动漫人脸数据集。
2020-04-11 cs.LG stat.ML
Composite Functional Gradient Learning of Generative Adversarial Models
RJ Research Consulting（RJ研究咨询公司）；Tencent AI Lab（腾讯人工智能实验室）
本文首先提出了一种不依赖于传统极大极小公式的生成对抗方法理论。它表明，利用强的梯度，可以学习好的生成器，使得真实数据和生成数据的分布之间的库尔贝克-莱布勒散度在每个函数梯度步骤之后改善，直到它收敛到零。在此基础上，提出了一种新的稳定的生成式对抗方法。从这个新的角度对原始的GAN也提供了一个理论上的见解。图像生成实验表明了该方法的有效性。
2018-06-08 cs.LG stat.ML
Generative Adversarial Parallelization
AIFounded Inc.（AIFounded公司）；University of Guelph（圭尔夫大学）
生成对抗网络由于其直观的表述方式，已经成为无监督学习研究最多的框架之一。它们也被证明能够在有限的领域（如低分辨率图像）中生成令人信服的示例。然而，他们仍然证明很难在实践中训练，并往往忽视数据生成分布的模式。量化捕获效果，如模式覆盖率和更一般的生成模型的质量仍然难以捉摸。我们提出了生成式对抗神经元化，这是一个框架，在这个框架中，许多GANs或它们的变体同时被训练，交换它们的判别器。这消除了发生器和振荡器之间的紧密耦合，从而改善了收敛性和模式覆盖范围。我们还提出了最近提出的生成对抗度量的改进变体，并展示了它如何在GAP模型下对单个GANs或其集合进行评分。
2016-12-13 cs.LG stat.ML
Unsupervised Learning of Global Factors in Deep Generative Models
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
我们提出了一种新的基于非独立同分布的深度生成模型。变分自编码器以完全无监督的方式捕获观测之间的全局依赖性。与最近在深度生成模型中进行全局建模的半监督替代方案相比，我们的方法结合了局部或数据依赖空间中的混合模型和全局高斯潜变量，这使我们获得了三个特定的见解。首先，诱导的潜在全局空间捕获可解释的解纠缠表示，在证据下限中没有用户定义的正则化（如$β$ -VAE及其推广）。其次，我们表明，该模型执行域对齐，以找到相关性和不同的数据库之间的插值。最后，我们研究了全局空间区分具有非平凡底层结构的观测组的能力，例如具有共享属性的人脸图像或定义的数字图像序列。
2020-12-16 cs.LG stat.ML
Labeled Graph Generative Adversarial Networks
Virginia Tech（弗吉尼亚理工大学）；Tufts University（塔夫茨大学）
\emph{generative adversarial networks}（GANs）作为一种新的生成模型训练方法，在图像生成方面取得了巨大的成功。这个框架最近也被应用于具有图形结构的数据。我们提出了标记图生成对抗网络（LGGAN）来训练具有节点标签的图结构数据的深度生成模型。我们在各种类型的图形数据集上测试了该方法，例如引文网络和蛋白质图的集合。实验结果表明，该模型能够生成与训练数据结构特征相匹配的标记图，在质量和通用性上优于其他方法。为了进一步评估生成的图的质量，我们将它们用于图分类的下游任务，结果表明LGGAN可以忠实地捕获图结构的重要方面。
2021-02-25 cs.LG stat.ML
Generative Adversarial Trainer: Defense to Adversarial Perturbations with GAN
Seoul National University（首尔国立大学）
本文提出利用生成对抗网络交替训练生成器和分类器，以增强神经网络对对抗扰动的鲁棒性，并在CIFAR数据集上显著降低泛化误差，优于Dropout等正则化方法。
2023-07-04 cs.LG stat.ML
A Non-generative Framework and Convex Relaxations for Unsupervised Learning
我们给了一个新的正式的理论框架无监督学习有两个鲜明的特点。首先，它不假设任何生成模型，并基于最坏情况下的性能指标。第二，它是比较性的，即绩效是相对于给定的假设类来衡量的。这允许避免已知的计算硬度结果和基于凸松弛的不适当算法。我们展示了几个家庭的无监督学习模型，这是以前只分析概率假设下，否则证明是棘手的，可以有效地学习在我们的框架凸优化。
2016-12-27 cs.DS cs.LG stat.ML
Unsupervised MRI Reconstruction with Generative Adversarial Networks
Stanford University（斯坦福大学）
基于深度学习的图像重建方法在多种MRI应用中取得了令人鼓舞的结果。然而，大多数方法需要大规模的完全采样的地面真实数据进行监督训练。获取完全采样的数据通常是困难的或不可能的，特别是对于动态对比增强（DCE）、3D心脏电影和4D血流。我们提出了一个深度学习框架，用于MRI重建，而无需使用生成对抗网络的任何完全采样数据。我们在两种情况下测试所提出的方法：回顾性欠采样快速自旋回波膝关节检查和前瞻性欠采样腹部DCE。与传统方法相比，该方法恢复更多的解剖结构。
2020-08-29 cs.LG eess.IV stat.ML
Unsupervised Anomaly Detection and Localization with Generative Adversarial Networks
Nokia Bell Labs（诺基亚贝尔实验室）；Nokia（诺基亚）
本文提出一种基于生成对抗网络和SOP频谱图的无监督异常检测方法，在海底和陆地光纤链路数据集上实现超过97%的准确率，无需标记数据。
2024-09-05 cs.LG eess.SP
GANVO: Unsupervised Deep Monocular Visual Odometry and Depth Estimation with Generative Adversarial Networks
Computer Science Department, The University of Oxford（牛津大学计算机科学系）
在过去的十年中，监督式深度学习方法已被广泛用于视觉里程计（VO）应用中，这在标记数据不丰富的环境中是不可行的。另一方面，无监督的深度学习方法在未知环境中从未标记的数据进行定位和映射，在VO研究中受到的关注相对较少。在这项研究中，我们提出了一个生成式无监督学习框架，该框架使用深度卷积生成对抗网络（GANs）从未标记的RGB图像序列预测场景的6-DoF姿势相机运动和单眼深度图。我们通过扭曲视图序列并将重投影最小化分配给多视图姿态估计和单视图深度生成网络中采用的目标损失函数来创建监督信号。在KITTI和Cityscapes数据集上对所提出的框架进行了详细的定量和定性评估，结果表明，所提出的方法优于现有的传统和无监督深度VO方法，为姿态估计和深度恢复提供了更好的结果。
2019-03-05 cs.CV cs.LG stat.ML
Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks
indico Research（indico研究公司）；Facebook AI Research（脸书人工智能研究院）
近年来，使用卷积网络（CNN）的监督学习在计算机视觉应用中得到了广泛采用。相比之下，使用CNN的无监督学习受到的关注较少。在这项工作中，我们希望帮助弥合CNN在监督学习和无监督学习中的成功之间的差距。我们介绍了一类称为深度卷积生成对抗网络（DCGAN）的CNN，它们具有一定的架构约束，并证明它们是无监督学习的强有力候选者。在各种图像数据集上进行训练，我们展示了令人信服的证据，证明我们的深度卷积对抗对在生成器和生成器中学习了从对象部分到场景的表示层次。此外，我们将学习到的功能用于新的任务-证明它们作为一般图像表示的适用性。
2016-01-07 cs.CV cs.LG
Linking Generative Adversarial Learning and Binary Classification
在这篇文章中，我们指出了生成对抗（GA）训练和二进制分类之间的基本联系-任何强大的分类器本质上都会计算真实样本和生成样本之间的（f-）分歧。在决策理论中反复重新推导的结果对GA网络（GANs）具有影响，通过设计模糊损失函数，为训练f-GANs提供了另一种视角。
2017-09-05 cs.AI cs.LG stat.ML
Unsupervised Projection Networks for Generative Adversarial Networks
UC Berkeley（加州大学伯克利分校）
我们建议使用无监督学习来训练投影网络，投影到已经训练好的生成器的潜在空间上。我们将我们的方法应用于经过训练的StyleGAN，并使用我们的投影网络来执行图像超分辨率和图像聚类到语义可识别的组中。
2019-10-06 cs.CV cs.LG eess.IV
Latent Dirichlet Allocation in Generative Adversarial Networks
University of Electronic Science and Technology of China（电子科技大学）
我们研究了基于生成对抗网络（GANs）的图像多模态生成建模问题。尽管现有的方法取得了成功，但它们往往忽略了视觉数据的底层结构或其多模态生成特性。为了解决这个问题，我们引入狄利克雷先验的多模态图像生成，这导致了一个新的潜在狄利克雷分配的GAN（LDAGAN）。详细地，对于生成过程建模，LDAGAN为每个样本定义生成模式，确定其属于哪个生成子过程。对于对抗训练，LDAGAN推导出一种变分期望最大化（VEM）算法来估计模型参数。在真实数据集上的实验结果表明，LDAGAN的性能优于其他现有的GANs。
2019-11-06 cs.CV cs.LG stat.ML
Generative Adversarial Networks: recent developments
Wrocław University of Science and Technology（弗罗茨瓦夫科技大学）；Tooploox Ltd.（图普洛克斯有限公司）
在传统的生成式建模中，良好的数据表示通常是良好的机器学习模型的基础。它可以链接到编码更多隐藏在原始数据中的解释性因素的良好表示。随着生成对抗网络（GANs）的发明，生成模型的一个子类，能够以无监督和半监督的方式学习表示，我们现在能够从简单的先验分布到目标数据分布的良好映射。本文概述了GANs的最新发展，重点是学习潜在空间表示。
2019-03-16 cs.CV cs.LG stat.ML
Learning to navigate image manifolds induced by generative adversarial networks for unsupervised video generation
Institut national de la recherche scientifique (INRS-EMT)（国家科学研究院（INRS-EMT））
在这项工作中，我们介绍了一个两步的框架生成建模的时态数据。具体而言，生成对抗网络（GANs）设置用于生成移动对象的合成场景。为此，我们提出了一个两步训练方案，其中：首先训练静态帧的生成器。然后，训练一个递归模型，目标是为先前训练的帧生成器提供一系列输入，从而产生看起来自然的场景。在这两个训练步骤中都采用了对抗性设置。然而，为了避免GANs中已知的训练不稳定性，使用多重训练方法来训练这两个模型。在研究的视频数据集的结果表明，通过采用这种方法，经常性的部分是能够学习如何连贯地导航由帧生成器引起的图像流形，从而产生更自然的场景。
2019-01-23 cs.CV cs.LG stat.ML
Graphical Generative Adversarial Networks
Tsinghua University（清华大学）；University of Amsterdam（阿姆斯特丹大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
我们提出了图形生成对抗网络（Graphical-GAN）来建模结构化数据。Graphical-GAN结合了贝叶斯网络在复杂表示随机变量之间的依赖结构方面的能力和生成对抗网络在学习表达依赖函数方面的能力。我们引入了一个结构化的识别模型来推断潜变量的后验分布的观察。我们推广的期望传播（EP）算法学习的生成模型和识别模型联合。最后，我们提出了两个重要的图形-GAN的实例，即高斯混合GAN（GM GAN）和状态空间GAN（SS GAN），它们可以成功地学习离散和时间结构的视觉数据集，分别。
2018-12-12 cs.CV cs.LG stat.ML
Evolutionary Generative Adversarial Networks
University of Technology Sydney（悉尼科技大学）；The University of Sydney（悉尼大学）；Southern University of Science and Technology（南方科技大学）；University of Birmingham（伯明翰大学）
生成对抗网络（GAN）对于学习真实世界数据的生成模型是有效的。然而，现有的GANs（GAN及其变体）往往会遭受训练问题，例如不稳定性和模式坍塌。在本文中，我们提出了一种新的GAN框架，称为进化生成对抗网络（E-GAN），用于稳定的GAN训练和改进的生成性能。与现有的GANs不同，GANs采用预定义的对抗目标函数交替训练生成器和训练器，我们利用不同的对抗训练目标作为变异操作，并进化生成器群体以适应环境（即，的）。我们还利用评估机制来衡量生成的样本的质量和多样性，以便只保留性能良好的生成器并用于进一步的训练。通过这种方式，E-GAN克服了个体对抗训练目标的局限性，并始终保留最佳后代，有助于GANs的进步和成功。在多个数据集上的实验表明，E-GAN实现了令人信服的生成性能，并减少了现有GANs中固有的训练问题。
2018-03-01 cs.LG cs.NE stat.ML
Preserving Semantic Consistency in Unsupervised Domain Adaptation Using Generative Adversarial Networks
Queensland University of Technology（昆士兰科技大学）
无监督领域自适应是在给定源域的标记样本和目标域的未标记样本的情况下，寻求缓解源域和目标域之间的分布差异。生成对抗网络（GANs）通过生成特定于训练领域的图像，在领域自适应方面表现出了显着的改进。然而，大多数现有的基于GAN的无监督领域自适应技术在领域匹配过程中不考虑语义信息，因此当源和目标领域数据在语义上不同时，这些方法降低了性能。在本文中，我们提出了一个端到端的新的语义一致的生成对抗网络（SCGAN）。该网络可以通过在特征级捕获语义信息并从源域和目标域生成用于无监督领域自适应的图像来实现源域到目标域的匹配。我们证明了我们提出的方法的鲁棒性，它超过了国家的最先进的性能，在无监督的领域自适应设置进行数字和对象分类任务的实验。
2021-04-28 cs.AI cs.CV cs.LG
Unsupervised Medical Image Segmentation with Adversarial Networks: From Edge Diagrams to Segmentation Maps
Vector Institute（向量研究所）；McMaster University（麦克马斯特大学）
我们开发和接近无监督语义医学图像分割，扩展了以前的工作与生成对抗网络。我们使用现有的边缘检测方法来构建简单的边缘图，训练生成模型将其转换为合成医学图像，并使用提取的边缘图上的变化构建具有已知分割的合成图像的数据集。然后使用该合成数据集来训练监督图像分割模型。我们在肾脏超声图像的临床数据集和基准ISIC 2018皮肤病变数据集上测试了我们的方法。我们证明了我们的无监督方法比以前的无监督方法更准确，并且与监督图像分割模型相比表现合理。所有代码和训练模型都可以在https://github.com/kiretd/Unsupervised-MIseg上找到。
2019-11-12 cs.AI cs.CV cs.LG
Modeling documents with Generative Adversarial Networks
Aylien Ltd.（Aylien有限公司）
本文描述了一种使用生成对抗网络来学习自然语言文档的分布式表示的方法。我们提出了一个模型，该模型是基于最近提出的基于能量的GAN，而是使用一个去噪自动编码器作为网络。文档表示提取的隐藏层中的隐藏层和定量和定性的评价。
2016-12-29 cs.LG
NIPS 2016 Tutorial: Generative Adversarial Networks
OpenAI
本报告总结了作者在NIPS 2016上介绍的关于生成对抗网络（GANs）的教程。该教程介绍：（1）为什么生成建模是一个值得研究的话题，（2）生成模型如何工作，以及GANs与其他生成模型的比较，（3）GANs如何工作的细节，（4）GANs的研究前沿，以及（5）将GANs与其他方法相结合的最先进的图像模型。最后，本教程包含三个练习供读者完成，以及这些练习的解决方案。
2017-04-03 cs.LG
Adversarial Machine Learning And Speech Emotion Recognition: Utilizing Generative Adversarial Networks For Robustness
Information Technology University (ITU)-Punjab（旁遮普信息技术大学）；University of Southern Queensland（南昆士兰大学）
深度学习无疑为最先进的语音情感识别（SER）系统的性能提供了巨大的改进。然而，最近对对抗性示例的研究对SER系统的鲁棒性提出了巨大的挑战，因为它们只依赖于小而不可感知的扰动，因此显示了深度神经网络对对抗性示例的敏感性。在这项研究中，我们评估了如何对抗的例子可以用来攻击SER系统，并提出了第一个黑盒对抗攻击SER系统。我们还探索了潜在的防御措施，包括对抗训练和生成对抗网络（GAN），以增强鲁棒性。实验评估表明，有效利用对抗性示例的各个有趣方面有助于实现SER系统的鲁棒性，为研究人员在这一领域进一步创新提供了机会。
2018-12-30 cs.CR cs.LG eess.SP
Generative Adversarial Source Separation
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Adobe Systems（Adobe系统公司）
生成式声源分离方法，如非负矩阵分解（NMF）或自动编码器，依赖于输出概率密度的假设。生成对抗网络（GANs）可以学习数据分布，而无需对输出密度进行参数假设。我们在语音声源分离实验中表明，用Wasserstein-GAN公式训练的多层感知器在源失真比方面优于NMF，用最大似然训练的自动编码器和变分自动编码器。
2017-10-30 cs.LG cs.NE cs.SD
Unsupervised Adversarial Image Inpainting
Sorbonne Universités（索邦大学）；Criteo AI Lab（Criteo人工智能实验室）
我们考虑在无监督设置中进行修复，其中既不能访问配对的也不能访问未配对的训练数据。唯一可用的信息是由不完整的观察和修复过程统计信息提供的。在这种情况下，观察应该产生几个合理的重建，这相当于学习在重建图像的空间上的分布。我们建模的重建过程中使用的条件GAN的随机组件，引入一个明确的依赖关系，这个组件和生成的输出之间的约束。这允许我们从潜在成分中进行采样，以生成与观察相关联的图像分布。我们在几个图像数据集上展示了我们的模型的能力：面部（CelebA），食物图像（Recipe-1 M）和卧室（LSUN Bedrooms），具有不同类型的插补掩码。该方法产生了与使用额外监督训练的模型变体相当的性能。
2019-12-18 cs.CV cs.LG eess.IV
Quantum generative adversarial networks
Xanadu
量子机器学习有望成为近期量子设备的首批潜在通用应用之一。经典机器学习最近的一个重大突破是生成对抗训练的概念，其中一个训练模型的梯度被用来训练一个单独的生成模型。在这项工作和一篇配套论文中，我们将对抗训练扩展到量子领域，并展示了如何使用量子线路构建生成对抗网络。此外，我们还展示了如何使用另一个量子线路计算梯度-生成对抗网络训练中的关键要素。我们给出了一个简单的实用电路模型的例子来参数化量子机器学习模型，并进行了一个简单的数值实验来证明量子生成对抗网络可以成功训练。
2018-04-30 cs.LG quant-ph
Flow-GAN: Combining Maximum Likelihood and Adversarial Learning in Generative Models
Stanford University（斯坦福大学）
概率模型的对抗学习最近已经成为最大似然的一种有前途的替代方案。与通过最大似然训练的显式模型相比，生成对抗网络（GAN）等隐式模型通常会生成更好的样本。然而，GANs回避了显式密度的表征，这使得定量评估具有挑战性。为了弥合这一差距，我们提出了Flow-GAN，这是一种生成对抗网络，我们可以对其进行精确的似然评估，从而支持对抗和最大似然训练。当进行逆向训练时，Flow-GAN生成高质量的样本，但获得极差的对数似然分数，甚至不如记忆训练数据的混合模型;当通过最大似然训练时，情况正好相反。MNIST和CIFAR-10上的结果表明，混合训练可以获得高的保持概率，同时保持生成的样本的视觉保真度。
2018-01-03 cs.AI cs.LG cs.NE
Adversarial Variational Bayes: Unifying Variational Autoencoders and Generative Adversarial Networks
MPI Tübingen（图宾根马普研究所）；Microsoft Research Cambridge（微软剑桥研究院）；ETH Zürich（苏黎世联邦理工学院）
变分自编码器（VAE）是一种表达性的潜变量模型，可用于从训练数据中学习复杂的概率分布。然而，最终模型的质量主要依赖于推理模型的表达能力。我们介绍了对抗变分贝叶斯（AVB），一种用于训练具有任意表达推理模型的变分自编码器的技术。我们通过引入一个辅助判别网络来实现这一目标，该网络允许将最大似然问题重新表述为两人游戏，从而在VAE和生成对抗网络（GANs）之间建立原则性联系。我们表明，在非参数限制，我们的方法产生一个确切的最大似然分配的生成模型的参数，以及确切的后验分布的潜变量给定的观察。与将VAE与GANs相结合的竞争方法相反，我们的方法具有明确的理论依据，保留了标准变分自编码器的大多数优点，并且易于实现。
2018-06-11 cs.LG
Unsupervised Image-to-Image Translation with Generative Adversarial Networks
Imperial College London（帝国理工学院）；Indian Institute of Technology（印度理工学院）
自动将图像从其原始形式转换为某种合成形式（样式，部分内容等）非常有用，同时保持原始结构或语义。我们将这一要求定义为“图像到图像的转换”问题，并提出了一种基于深度卷积和条件生成对抗网络（GANs）的通用方法来实现它，自2014年以来，该网络在从噪声输入中学习映射图像方面取得了惊人的成功。在这项工作中，我们开发了一种两步（无监督）学习方法，通过使用未标记的图像在不同的域之间转换图像，而不指定它们之间的任何对应关系，从而避免了获取标记数据的成本。与以往的工作相比，我们证明了我们的模型的通用性，通过这种能力，翻译的方差可以由一个单一类型的模型进行。这种能力在双向翻译等应用中是理想的
2017-01-10 cs.CV cs.LG
Unsupervised Detection of Lung Nodules in Chest Radiography Using Generative Adversarial Networks
University of Waterloo（滑铁卢大学）
肺结节在胸片中常被漏诊。我们提出并评估P-AnoGAN，一种用于X光片中肺结节的无监督异常检测方法。P-Ano GAN通过利用渐进式GAN和卷积编码器-解码器-编码器流水线来修改快速异常检测生成对抗网络（f-Ano GAN）。模型训练仅使用从印第安纳大学胸部X射线收集中提取的未标记的健康肺部补丁。使用分别从ChestX-ray 14和日本放射技术学会数据集提取的健康和不健康补丁进行外部验证和测试。我们的模型在外部验证和测试数据中鲁棒地识别了包含肺结节的斑块，ROC-AUC分别为91.17%和87.89%。这些结果表明，无监督的方法可能是有用的，在具有挑战性的任务，如肺结节检测X光片。
2021-08-04 cs.CV cs.LG eess.IV
Constructing Unrestricted Adversarial Examples with Generative Models
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
对抗性示例通常通过在小矩阵范数内扰动现有数据点来构建，当前的防御方法主要集中在防范这种类型的攻击。在本文中，我们提出了无限制的对抗性示例，这是一种新的威胁模型，其中攻击者不限于小的范数有界扰动。与基于扰动的攻击不同，我们建议使用条件生成模型完全从头开始合成不受限制的对抗性示例。具体来说，我们首先训练一个辅助分类器生成对抗网络（AC-GAN）来对数据样本上的类条件分布进行建模。然后，以所需类别为条件，我们在AC-GAN潜在空间中搜索，以找到可能在生成模型下并且被目标分类器错误分类的图像。我们通过人工评估证明，以这种方式生成的不受限制的对抗性示例是合法的，并且属于所需的类。我们在MNIST、SVHN和CelebA数据集上的实证结果表明，不受限制的对抗性示例可以绕过针对传统对抗攻击设计的强对抗性训练和认证防御方法。
2018-12-02 cs.AI cs.CR cs.CV
Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
我们提出了一个数据驱动的框架，称为生成对抗隐私（GAP）。受生成对抗网络（GANs）最新进展的启发，GAP允许数据持有者直接从数据中学习私有化机制。在GAP下，找到最佳的隐私机制制定为私有化者和对手之间的约束极大极小博弈。我们表明，适当选择的对抗性损失函数，GAP提供隐私保证，对强大的信息理论的对手。我们还评估了GAP的性能上的GENKI人脸数据库。
2019-06-26 cs.CR cs.GT cs.IT
Generative Adversarial Networks for Automatic Polyp Segmentation
University of Oslo（奥斯陆大学）
本文旨在使用生成对抗网络框架对自动息肉分割问题进行基准测试。将问题视为图像到图像的翻译任务，利用条件生成对抗网络来生成由图像作为输入的条件掩码。生成器和卷积神经网络都是基于卷积神经网络的。模型的Jaccard指数为0.4382，F2得分为0.611。
2020-12-12 cs.CV cs.LG eess.IV
O-GAN: Extremely Concise Approach for Auto-Encoding Generative Adversarial Networks
本文提出了正交生成对抗网络（O-GANs）。我们将编码器的网络进行正交分解，并在普通GANs的目标中添加额外的损失，这可以使编码器成为一个有效的编码器。同样的额外损失可以嵌入到任何类型的GANs中，并且几乎没有增加计算量。此外，我们讨论了我们的方法的原则，这是相对于充分利用剩余的自由度的时间。正如我们所知，我们的解决方案是训练一个具有自动编码能力的生成对抗网络的最简单方法。
2019-03-05 cs.CV cs.LG
Unsupervised Anomaly Detection with Generative Adversarial Networks to Guide Marker Discovery
Medical University Vienna（维也纳医科大学）
获得捕获与疾病进展和治疗监测相关的成像标志物的模型具有挑战性。模型通常基于大量的数据，并带有旨在自动检测的已知标记的注释示例。高注释工作量和对已知标记的词汇表的限制限制了这种方法的能力。在这里，我们执行无监督学习，以识别异常的图像数据作为候选标记。我们提出了AnoGAN，这是一种深度卷积生成对抗网络，用于学习正常解剖变异性的流形，并基于从图像空间到潜在空间的映射，提出了一种新的异常评分方案。应用于新数据，该模型标记异常，并对图像块进行评分，以表明它们是否适合学习的分布。对视网膜的光学相干断层扫描图像的结果表明，该方法正确地识别异常图像，例如包含视网膜液体或过度反射焦点的图像。
2017-03-17 cs.CV cs.LG
Generative Adversarial Networks with Conditional Neural Movement Primitives for An Interactive Generative Drawing Tool
Bogazici University（博阿齐奇大学）
素描是视觉感知和视觉空间建构的抽象表现。在这项工作中，我们提出了一个新的框架，生成对抗网络与条件神经运动原语（GAN-CNMP），它结合了一种新的对抗损失CNMP，以提高草图的平滑性和一致性。通过实验，我们证明了该模型可以用较少的未标记样本进行训练，可以在潜在空间中自动构造分布，并且在形状一致性和平滑性方面比基本模型产生更好的结果。
2021-12-21 cs.AI cs.CV cs.GR
Unsupervised Image-to-Image Translation with Generative Prior
Nanyang Technological University（南洋理工大学）
无监督图像到图像翻译旨在学习两个视觉域之间的翻译，而无需配对数据。尽管最近在图像翻译模型方面取得了进展，但在具有剧烈视觉差异的复杂域之间建立映射仍然具有挑战性。在这项工作中，我们提出了一个新的框架，生成先验指导的无监督图像到图像翻译（GP-UNIT），以提高翻译算法的整体质量和适用性。我们的关键见解是利用来自预训练的类条件GANs的生成先验（例如，BigGAN）来学习跨各个领域的丰富内容对应关系。我们提出了一种新的粗到细的方案：我们首先提取生成之前捕获一个强大的粗层次的内容表示，可以在抽象的语义层次上链接对象，在此基础上，细层次的内容特征自适应学习更准确的多级内容对应。大量的实验证明了我们的多功能框架在强大，高质量和多样化的翻译方面优于最先进的方法，即使是具有挑战性和遥远的领域。
2022-04-07 cs.CV cs.LG
Unsupervised Text Embedding Space Generation Using Generative Adversarial Networks for Text Synthesis
Korea Advanced Institute of Science Technology（韩国科学技术院）；I-BRICKS
本文提出TESGAN，通过GAN生成连续文本嵌入空间并进行无监督学习，解决文本生成中的梯度反向传播与训练数据记忆问题。
2023-10-17 cs.CL cs.LG
Interpreting Latent Spaces of Generative Models for Medical Images using Unsupervised Methods
University of Copenhagen（哥本哈根大学）；Rigshospitalet（哥本哈根大学国立医院）
生成对抗网络（GANs）和变分自编码器（VAE）等生成模型在医学图像分析中发挥着越来越重要的作用。这些模型的潜在空间通常显示与人类可解释的图像变换相对应的语义上有意义的方向。然而，到目前为止，由于监督数据的要求，他们对医学图像的探索受到了限制。在GAN潜在空间中无监督发现可解释方向的几种方法在自然图像上显示出有趣的结果。这项工作探讨了将这些技术应用于医学图像的潜力，通过在胸部CT扫描上训练GAN和VAE，并使用无监督的方法来发现由此产生的潜在空间中的可解释方向。我们发现几个方向对应于非平凡的图像变换，如旋转或乳房大小。此外，这些方向表明，生成模型捕捉3D结构，尽管只呈现2D数据。结果表明，在GANs中发现可解释方向的无监督方法可推广到VAE，并可应用于医学图像。这打开了一个广泛的未来的工作，使用这些方法在医学图像分析。
2022-07-20 cs.CV cs.LG eess.IV
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater（威斯康星大学白水分校）
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题，我们可以更好地理解生成的作品所需的参数，这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
SDYN-GANs: Adversarial Learning Methods for Multistep Generative Models for General Order Stochastic Dynamics
Pacific Northwest National Laboratory（太平洋西北国家实验室）；Massachusetts Institute of Technology（麻省理工学院）；University of California Santa Barbara（加州大学圣巴巴拉分校）
我们引入对抗学习方法，用于$n^{th}$阶随机系统动态的数据驱动生成建模。我们的方法建立在生成对抗网络（GANs）上，生成模型类基于稳定的$m$步随机数值积分器。我们介绍了不同的配方和训练方法的基础上观察轨迹样本的随机动力学学习模型。我们开发了基于最大平均离散度（MMD）的鉴别器，使用条件分布和边缘分布的训练协议以及在不同时间尺度上学习动态响应的方法。我们展示了如何使用我们的方法来建模物理系统，学习力的法律，阻尼系数和噪声相关的参数。对抗性学习方法提供了为动态任务获得稳定生成模型的方法，包括长期预测和为随机系统开发模拟。
2023-02-07 cs.LG cs.NA math.DS
Comparision Of Adversarial And Non-Adversarial LSTM Music Generative Models
University Of Pretoria（比勒陀利亚大学）
音乐创作是一种在最少或没有人为干预的情况下创作音乐作品的方式。虽然递归神经网络传统上被应用于许多序列到序列的预测任务，包括音乐创作的成功实现，但其基于输入到输出映射的标准监督学习方法导致缺乏音符多样性。因此，这些模型可能被视为不适合诸如音乐生成之类的任务。生成对抗网络学习数据的生成分布，并产生不同的样本。这项工作实现并比较了递归神经网络音乐作曲家在数据库上的对抗性和非对抗性训练。由此产生的音乐样本由人类听众评估，他们的偏好被记录下来。评估表明，对抗性训练产生更美观的音乐。
2022-11-01 cs.LG cs.SC cs.SD
On the Performance of Generative Adversarial Network (GAN) Variants: A Clinical Data Study
Korea University（高丽大学）；Georgia Institute of Technology（佐治亚理工学院）；Case Western Reserve University（凯斯西储大学）；University of Central Florida（中佛罗里达大学）
生成对抗网络（GAN）是一种有用的神经网络类型，用于各种类型的应用，包括生成模型和特征提取。各种类型的GANs正在以不同的见解进行研究，从而产生了各种各样的GANs家族，每一代都有更好的性能。本文重点介绍了各种GANs的共同特征分类。
2020-09-21 cs.AI cs.LG cs.NE
Regularized Generative Adversarial Network
Princeton University（普林斯顿大学）；Columbia University（哥伦比亚大学）
我们提出了一个框架，用于从不同于训练集的概率分布的概率分布生成样本。我们使用一个对抗过程，同时训练三个网络，一个生成器和两个判别器。我们将这种新模型称为正则化生成对抗网络（RegGAN）。我们在由灰度图像组成的合成数据集上评估RegGAN，并进一步表明它可以用于学习拓扑中的一些预先指定的概念（基本拓扑属性）。这项工作的动机是在艺术世界中使用生成方法时遇到的实际问题。
2021-02-09 cs.AI cs.CV cs.LG
Generative Adversarial Networks and Other Generative Models
Fraunhofer Institute for Digital Medicine MEVIS（弗劳恩霍夫数字医学MEVIS研究所）
与CNN相比，生成网络在分类、分割或目标检测方面的目标和方法有着根本的不同。它们最初并不是一种图像分析工具，而是用来生成看起来自然的图像。对抗性训练范式已经被提出来稳定生成方法，并且已经被证明是非常成功的-尽管从第一次尝试开始就不是这样。本章对生成对抗网络（GANs）的动机进行了基本介绍，并通过抽象基本任务和工作机制，以及推导早期实用方法的困难，追溯了它们的成功之路。将显示更稳定的训练方法，以及收敛性差的典型迹象及其原因。虽然本章重点介绍用于图像生成和图像分析的GANs，但对抗训练范式本身并不特定于图像，也适用于图像分析中的任务。在将GANs与最近进入场景的进一步生成建模方法进行对比之前，图像语义分割和异常检测的架构示例将受到好评。这将允许对GANs的限制和好处进行上下文化的查看。
2022-07-08 cs.CV cs.LG eess.IV
Generative Adversarial Networks for text using word2vec intermediaries
University of Toronto（多伦多大学）；Vector Institute（向量研究院）；St Michael’s Hospital（圣迈克尔医院）
生成对抗网络（GANs）已经取得了相当大的成功，特别是在真实图像的生成方面。在这项工作中，我们采用类似的技术来生成文本。我们提出了一种新的方法来处理文本的离散性，在训练过程中，使用词嵌入。我们的方法是不可知的词汇量的大小，并取得了竞争力的结果相对于各种离散梯度估计的方法。
2019-04-04 cs.AI cs.CL cs.LG
Generating Images Part by Part with Composite Generative Adversarial Networks
Seoul National University（首尔大学）
图像生成仍然是一般人工智能和具体深度学习中的基本问题。生成对抗网络（GAN）成功生成了高质量的自然图像样本。我们提出了一个称为复合生成对抗网络的模型，它揭示了具有多个生成器的图像的复杂结构，其中每个生成器生成图像的某个部分。这些部分通过alpha混合过程组合以创建新的单个图像。例如，它可以在人脸数据集上训练后，使用两个生成器依次生成背景和人脸。训练是以无监督的方式进行的，没有任何关于每个生成器应该生成什么的标签。我们发现学习的可能性，通过使用这种生成模型经验的结构。
2016-11-14 cs.AI cs.CV cs.LG
A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks
Polytechnic University of Bari（巴里理工大学）
基于协同过滤（CF）的潜在因子模型（LFM），如矩阵分解（MF）和深度协同过滤（deep CF）方法，由于其优异的性能和推荐准确性，被广泛应用于现代推荐系统（RS）中。然而，成功伴随着一个新的重大挑战：许多机器学习（ML）应用本质上是对抗性的。近年来，已经表明这些方法容易受到对抗性示例的影响，即，微妙但非随机的扰动，旨在迫使推荐模型产生错误的输出。这项调查的目标有两个方面：（i）介绍对抗性机器学习（AML）在RS安全性方面的最新进展（即，攻击和防御推荐模型），（ii）展示AML在生成对抗网络（GANs）中的另一个成功应用，这要归功于它们学习（高维）数据分布的能力。在这项调查中，我们提供了一个详尽的文献综述74篇文章发表在主要的RS和ML期刊和会议。这篇评论可作为RS社区的参考，研究RS的安全性或使用GANs来提高其质量的生成模型。
2020-11-10 cs.CR cs.IR cs.LG
Adversarial confidence and smoothness regularizations for scalable unsupervised discriminative learning
Nanyang Technological University（南洋理工大学）
在本文中，我们认为一个通用的概率判别学习器从功能的观点，并认为，要使它学习好，有必要限制其假设空间的一组非平凡的分段常数函数。为了实现这一目标，我们提出了一个可扩展的无监督正则化框架。在理论方面，我们证明了这个框架有助于建立一个事实上自信和平滑的判别模型，并将其与对抗性禁忌游戏、谱聚类和虚拟对抗性训练联系起来。在实验中，我们将深度神经网络作为我们的学习者，并证明，当在无监督环境中在我们的框架下训练时，它们不仅可以实现最先进的聚类结果，而且可以很好地推广合成和真实数据。
2018-06-04 cs.LG stat.ML
Generative Modelling for Unsupervised Score Calibration
AGNITIO Research（AGNITIO研究院）；Johns Hopkins University（约翰斯·霍普金斯大学）
分数校准使自动说话人识别器能够做出具有成本效益的接受/拒绝决定。传统的校准需要监督数据，这是一种昂贵的资源。我们提出了一个2分量GMM无监督校准，并表现出良好的性能相对于NIST SRE'10和SRE'12的监督基线。贝叶斯分析表明，与无监督校准参数估计值相关的不确定性是令人惊讶的小。
2014-02-14 cs.LG stat.ML
Unsupervised Contextual Anomaly Detection using Joint Deep Variational Generative Models
提出了一种用于无监督上下文异常检测的方法，该方法使用交叉链接的变分自动编码器对来为观察分配正态性分数。该方法能够将上下文属性与行为属性区分开，并且对于异常或新颖的上下文属性的存在是鲁棒的。该方法可以用包含异常的数据集进行训练，而无需任何特殊的预处理。
2019-04-01 cs.LG stat.ML
Unsupervised Adversarial Invariance
USC Information Sciences Institute（南加州大学信息科学研究所）
包含关于目标变量的所有信息但不受干扰因素影响的数据表示有利于监督学习算法，因为它可以防止监督学习算法学习这些因素与目标之间的关联，从而减少过拟合。我们提出了一种新的无监督的不变性归纳框架神经网络，通过预测任务和重建任务之间的竞争性训练，再加上解纠缠，学习分裂表示的数据，而不需要任何标记的有害因素或领域知识的信息。我们描述了这个框架的对抗实例，并提供其工作分析。我们的无监督模型优于最先进的方法，这是监督，在诱导不变性的固有滋扰因素，有效地使用合成数据增强学习不变性，和领域自适应。我们的方法可以应用于任何预测任务，例如，二进制/多类分类或回归，不失一般性。
2018-09-26 cs.LG stat.ML
Revisiting Adversarial Autoencoder for Unsupervised Word Translation with Cycle Consistency and Improved Training
Nanyang Technological University（南洋理工大学）；Salesforce Research Asia（赛富时亚洲研究院）
对抗训练在学习双语词典方面取得了令人印象深刻的成功，没有任何并行数据，通过将单语嵌入映射到共享空间。然而，最近的研究表明，非对抗性方法在更具挑战性的语言对中表现出更好的性能。在这项工作中，我们重新审视了用于无监督单词翻译的对抗自动编码器，并提出了两个新的扩展，以产生更稳定的训练和改进的结果。我们的方法包括正则化条款，以加强循环一致性和输入重建，并把目标编码器作为对手对相应的编码器。对欧洲、非欧洲和低资源语言的广泛实验表明，我们的方法比最近提出的对抗性和非对抗性方法更鲁棒，性能更好。
2019-04-04 cs.CL cs.LG stat.ML
Adversarial Robustness of Flow-Based Generative Models
University of Maryland, College Park（马里兰大学帕克分校）
基于流的生成模型利用可逆生成器函数来使用最大似然将分布拟合到训练数据。尽管它们在几个应用领域中使用，但这些模型对对抗攻击的鲁棒性几乎没有被探索。在本文中，我们从理论上（对于一些简单的模型）和经验上（对于更复杂的模型）研究了基于流的生成模型的对抗鲁棒性。首先，我们考虑一个基于线性流的生成模型，并计算最佳的样本特定和通用对抗扰动，最大限度地降低似然分数。利用这一结果，我们研究了著名的对抗训练过程的鲁棒性，其中我们描述了模型鲁棒性和准确性之间的基本权衡。接下来，我们实证研究了两个突出的深度，非线性，基于流的生成模型的鲁棒性，即GLOW和RealNVP。我们设计了两种类型的对抗攻击;一种是最小化分布内样本的似然得分，而另一种是最大化分布外样本的似然得分。我们发现GLOW和RealNVP对这两种类型的攻击都非常敏感。最后，使用混合对抗训练过程，我们显着提高了这些生成模型的鲁棒性。
2019-11-20 cs.LG stat.ML
