Bidirectional Generative Modeling Using Adversarial Gradient Estimation
The Hong Kong University of Science and Technology(香港科技大学)
本文考虑了双向生成建模的一般$f$ -发散公式,其中包括VAE和BiGAN作为特例。我们提出了一种新的优化方法,这种配方,其中的梯度计算使用一个adversarially学习的神经网络。在我们的框架中,我们表明,不同的分歧诱导类似的算法在梯度评估,除了不同的缩放。因此,本文给出了一个一般配方的一类原则性的$f$ -发散的生成式建模方法。理论的理由和广泛的实证研究,证明我们的方法比现有的方法的优势。
2020-06-30 cs.CV cs.LG stat.ML
Generative Adversarial Source Separation
UIUC(伊利诺伊大学厄巴纳-香槟分校);Adobe Systems(Adobe系统公司)
生成式声源分离方法,如非负矩阵分解(NMF)或自动编码器,依赖于输出概率密度的假设。生成对抗网络(GANs)可以学习数据分布,而无需对输出密度进行参数假设。我们在语音声源分离实验中表明,用Wasserstein-GAN公式训练的多层感知器在源失真比方面优于NMF,用最大似然训练的自动编码器和变分自动编码器。
2017-10-30 cs.LG cs.NE cs.SD
Precise Recovery of Latent Vectors from Generative Adversarial Networks
University of California, San Diego(加州大学圣地亚哥分校)
生成对抗网络(GANs)将潜在向量转换为视觉上合理的图像。通常认为,原始的GAN公式没有给出开箱即用的方法来反转映射,将图像投影回潜在空间。我们介绍一个简单的,基于梯度的技术称为随机裁剪。在实验中,对于由GAN生成的图像,我们100%准确地恢复了它们的潜在向量前图像。实验结果表明,该方法对噪声具有较好的鲁棒性.最后,我们表明,即使是看不见的图像,我们的方法似乎恢复独特的编码。
2017-02-17 cs.LG cs.NE stat.ML
Synthesizing Tabular Data using Generative Adversarial Networks
MIT(麻省理工学院)
生成对抗网络(GANs)隐式地学习数据集的概率分布,并可以从分布中提取样本。本文提出了表格式GAN(TGAN),这是一种生成对抗网络,可以生成医疗或教育记录等表格数据。利用深度神经网络的强大功能,TGAN生成高质量的全合成表,同时生成离散和连续变量。当我们在三个数据集上评估我们的模型时,我们发现TGAN在捕获列之间的相关性和扩大大型数据集方面都优于传统的统计生成模型。
2018-11-27 cs.LG stat.ML
CapsuleGAN: Generative Adversarial Capsule Network
USC Information Sciences Institute(南加州大学信息科学研究所)
我们提出了生成对抗胶囊网络(Capsule GAN),这是一个框架,它使用胶囊网络(CapsNets)而不是标准卷积神经网络(CNN)作为生成对抗网络(GAN)设置中的鉴别器,同时对图像数据进行建模。我们提供了设计CapsNet鉴别器和更新的GAN目标函数的指南,该目标函数包含CapsNet边际损失,用于训练Capsule GAN模型。我们表明,CapsuleGAN在MNIST和CIFAR-10数据集上建模图像数据分布方面优于卷积GAN,在生成对抗度量和半监督图像分类方面进行了评估。
2018-10-02 cs.LG stat.ML
Flow-GAN: Combining Maximum Likelihood and Adversarial Learning in Generative Models
Stanford University(斯坦福大学)
概率模型的对抗学习最近已经成为最大似然的一种有前途的替代方案。与通过最大似然训练的显式模型相比,生成对抗网络(GAN)等隐式模型通常会生成更好的样本。然而,GANs回避了显式密度的表征,这使得定量评估具有挑战性。为了弥合这一差距,我们提出了Flow-GAN,这是一种生成对抗网络,我们可以对其进行精确的似然评估,从而支持对抗和最大似然训练。当进行逆向训练时,Flow-GAN生成高质量的样本,但获得极差的对数似然分数,甚至不如记忆训练数据的混合模型;当通过最大似然训练时,情况正好相反。MNIST和CIFAR-10上的结果表明,混合训练可以获得高的保持概率,同时保持生成的样本的视觉保真度。
2018-01-03 cs.AI cs.LG cs.NE
Generating Adversarial Examples With Conditional Generative Adversarial Net
近年来,深度神经网络在各个领域都取得了重大进展和成功应用,但发现它们容易受到攻击实例的攻击,例如,敌对的例子。现有的攻击方法可以通过向源图像添加小的扰动来生成攻击图像。这些攻击图像可以欺骗分类器,但对人的影响很小。因此,这样的攻击实例难以通过搜索特征空间来生成。如何设计一种有效的、鲁棒的生成方法已成为研究的热点。受对抗实例的启发,本文提出了两种新的生成模型,采用条件生成对抗网络,设计了不同的训练策略,直接生成自适应攻击实例。与常用的方法如快速梯度符号法相比,该模型可以降低生成成本,提高鲁棒性,并且生成攻击实例的运行时间约为五分之一。
2019-03-18 cs.LG stat.ML
Synthesizing Unrestricted False Positive Adversarial Objects Using Generative Models
ETH Zurich(苏黎世联邦理工学院);ABB Future Labs(ABB未来实验室)
对抗性示例是被神经网络错误分类的数据点。最初,对抗性示例仅限于向给定图像添加小扰动。最近的工作引入了无限制对抗示例的广义概念,对添加的扰动没有限制。在本文中,我们介绍了一种新的攻击类别,它可以为目标检测创建不受限制的对抗性示例。我们的关键思想是生成与目标对象检测器识别的类无关的对抗对象。与以前的攻击不同,我们使用现成的生成对抗网络(GAN),不需要任何进一步的训练或修改。我们的方法包括搜索潜在的正常空间的GAN的敌对对象被错误地识别的目标对象检测器。我们在常用的Faster R-CNN ResNet-101,Inception v2和SSD Mobilenet v1对象检测器上使用在CIFAR-10上训练的徽标生成iWGAN-LC和SNGAN来评估这种方法。实验结果表明,生成的对抗对象与GANs生成的非对抗对象无法区分,在对象检测器之间可转移,并且在物理世界中具有鲁棒性。这是第一次研究用于目标检测的无限制假阳性对抗示例。
2020-05-19 cs.CR cs.CV cs.LG
Constructing Unrestricted Adversarial Examples with Generative Models
Stanford University(斯坦福大学);Microsoft Research(微软研究院)
对抗性示例通常通过在小矩阵范数内扰动现有数据点来构建,当前的防御方法主要集中在防范这种类型的攻击。在本文中,我们提出了无限制的对抗性示例,这是一种新的威胁模型,其中攻击者不限于小的范数有界扰动。与基于扰动的攻击不同,我们建议使用条件生成模型完全从头开始合成不受限制的对抗性示例。具体来说,我们首先训练一个辅助分类器生成对抗网络(AC-GAN)来对数据样本上的类条件分布进行建模。然后,以所需类别为条件,我们在AC-GAN潜在空间中搜索,以找到可能在生成模型下并且被目标分类器错误分类的图像。我们通过人工评估证明,以这种方式生成的不受限制的对抗性示例是合法的,并且属于所需的类。我们在MNIST、SVHN和CelebA数据集上的实证结果表明,不受限制的对抗性示例可以绕过针对传统对抗攻击设计的强对抗性训练和认证防御方法。
2018-12-02 cs.AI cs.CR cs.CV
O-GAN: Extremely Concise Approach for Auto-Encoding Generative Adversarial Networks
本文提出了正交生成对抗网络(O-GANs)。我们将编码器的网络进行正交分解,并在普通GANs的目标中添加额外的损失,这可以使编码器成为一个有效的编码器。同样的额外损失可以嵌入到任何类型的GANs中,并且几乎没有增加计算量。此外,我们讨论了我们的方法的原则,这是相对于充分利用剩余的自由度的时间。正如我们所知,我们的解决方案是训练一个具有自动编码能力的生成对抗网络的最简单方法。
2019-03-05 cs.CV cs.LG
Generative Adversarial Networks for Automatic Polyp Segmentation
University of Oslo(奥斯陆大学)
本文旨在使用生成对抗网络框架对自动息肉分割问题进行基准测试。将问题视为图像到图像的翻译任务,利用条件生成对抗网络来生成由图像作为输入的条件掩码。生成器和卷积神经网络都是基于卷积神经网络的。模型的Jaccard指数为0.4382,F2得分为0.611。
2020-12-12 cs.CV cs.LG eess.IV
Autoencoding Generative Adversarial Networks
Flatland Data Solutions(Flatland数据解决方案公司)
自从Goodfellow等人引入生成对抗网络(GANs)以来,生成模型应用的广度和质量都出现了爆炸式增长。尽管做了这些工作,但GANs在主流采用之前还有很长的路要走,这主要是因为它们臭名昭著的训练不稳定性。在这里,我提出了自动编码生成对抗网络(AEGAN),这是一个四网络模型,它通过对生成的图像和生成的潜在向量应用对抗损失和重建损失来学习指定潜在空间和给定样本空间之间的双射映射。AEGAN技术对典型的GAN训练提供了若干改进,包括训练稳定性、模式崩溃预防以及允许在真实样本之间直接插值。该技术的有效性说明使用动漫人脸数据集。
2020-04-11 cs.LG stat.ML
Towards Understanding the Generative Capability of Adversarially Robust Classifiers
Zhejiang University(浙江大学)
最近,一些工作发现了一个有趣的现象,对抗鲁棒分类器可以生成与生成模型相当的好图像。我们从能量的角度研究这一现象,并提供了一个新的解释。我们重新制定了对抗性示例生成,对抗性训练和图像生成的能量函数。我们发现,对抗性训练有助于获得一个平坦的能量函数,并且在真实数据周围具有较低的能量,这是生成能力的关键。基于我们的新理解,我们进一步提出了一种更好的对抗训练方法,联合能量对抗训练(JEAT),它可以生成高质量的图像,并在广泛的攻击下实现新的最先进的鲁棒性。JEAT生成的图像的初始得分(CIFAR-10)为8.80,远远优于原始的鲁棒分类器(7.50)。
2021-09-14 cs.CV cs.LG
Linking Generative Adversarial Learning and Binary Classification
在这篇文章中,我们指出了生成对抗(GA)训练和二进制分类之间的基本联系-任何强大的分类器本质上都会计算真实样本和生成样本之间的(f-)分歧。在决策理论中反复重新推导的结果对GA网络(GANs)具有影响,通过设计模糊损失函数,为训练f-GANs提供了另一种视角。
2017-09-05 cs.AI cs.LG stat.ML
Composite Functional Gradient Learning of Generative Adversarial Models
RJ Research Consulting(RJ研究咨询公司);Tencent AI Lab(腾讯人工智能实验室)
本文首先提出了一种不依赖于传统极大极小公式的生成对抗方法理论。它表明,利用强的梯度,可以学习好的生成器,使得真实数据和生成数据的分布之间的库尔贝克-莱布勒散度在每个函数梯度步骤之后改善,直到它收敛到零。在此基础上,提出了一种新的稳定的生成式对抗方法。从这个新的角度对原始的GAN也提供了一个理论上的见解。图像生成实验表明了该方法的有效性。
2018-06-08 cs.LG stat.ML
Generative Adversarial Parallelization
AIFounded Inc.(AIFounded公司);University of Guelph(圭尔夫大学)
生成对抗网络由于其直观的表述方式,已经成为无监督学习研究最多的框架之一。它们也被证明能够在有限的领域(如低分辨率图像)中生成令人信服的示例。然而,他们仍然证明很难在实践中训练,并往往忽视数据生成分布的模式。量化捕获效果,如模式覆盖率和更一般的生成模型的质量仍然难以捉摸。我们提出了生成式对抗神经元化,这是一个框架,在这个框架中,许多GANs或它们的变体同时被训练,交换它们的判别器。这消除了发生器和振荡器之间的紧密耦合,从而改善了收敛性和模式覆盖范围。我们还提出了最近提出的生成对抗度量的改进变体,并展示了它如何在GAP模型下对单个GANs或其集合进行评分。
2016-12-13 cs.LG stat.ML
Learning to Repair Software Vulnerabilities with Generative Adversarial Networks
Draper(德雷珀实验室);Boston University(波士顿大学);Lightmatter(光物质公司)
出于自动修复软件漏洞的问题,我们提出了一个对抗性的学习方法,从一个离散的源域映射到另一个目标域,而不需要成对的标记的例子或源和目标域是双射。我们证明了所提出的对抗性学习方法是修复软件漏洞的有效技术,其性能接近需要标记对的seq2seq方法。所提出的生成对抗网络方法是应用不可知的,因为它可以应用于类似于代码修复的其他问题,例如语法校正或情感翻译。
2018-10-28 cs.CL cs.LG cs.NE
Generative Adversarial Networks and Adversarial Autoencoders: Tutorial and Survey
University of Waterloo(滑铁卢大学)
这是一篇关于生成对抗网络(GAN)、对抗自动编码器及其变体的教程和调查论文。我们从解释对抗学习和普通GAN开始。然后,我们解释了条件GAN和DCGAN。介绍了模式崩溃问题,介绍了解决模式崩溃问题的各种方法,包括minibatch GAN、unrolled GAN、BourGAN、mixture GAN、D2 GAN和Wasserstein GAN。然后,解释了GAN中的最大似然估计以及f-GAN、对抗变分贝叶斯和贝叶斯GAN。然后,我们涵盖了GAN,InfoGAN,GRAN,LSGAN,基于能量的GAN,Cat GAN、MMD GAN、LapGAN、渐进式GAN、三重GAN、LAG、GMAN、Ada GAN、CoGAN、逆GAN、双GAN、ALI,SA GAN、Few-Shot GAN、SinGAN、以及GAN的插值和评价。然后,我们介绍了GAN的一些应用,如图像到图像的翻译(包括PatchGAN,CycleGAN,DeepFaceDrawing,模拟GAN,交互式GAN),文本到图像的翻译(包括StackGAN),以及混合图像特征(包括FineGAN和MixNMatch)。最后,我们解释了基于对抗学习的自动编码器,包括对抗自动编码器,PixelGAN和隐式自动编码器。
2021-11-26 cs.CV cs.LG eess.IV
Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
University of Freiburg(弗赖堡大学)
在本文中,我们提出了一种方法来学习一个判别分类器从未标记或部分标记的数据。我们的方法基于一个目标函数,该目标函数权衡了观察到的示例及其预测的分类类分布之间的互信息,以及分类器对对抗生成模型的鲁棒性。由此产生的算法可以被解释为生成对抗网络(GAN)框架的自然推广,或者作为正则化信息最大化(RIM)框架的扩展,以针对最佳对手进行鲁棒分类。我们根据经验评估了我们的方法-我们称之为分类生成对抗网络(或CatGAN)-在合成数据以及具有挑战性的图像分类任务上,证明了学习分类器的鲁棒性。我们进一步定性地评估了与判别分类器一起学习的对抗生成器生成的样本的保真度,并确定了CatGAN目标和判别聚类算法(如RIM)之间的联系。
2016-04-30 cs.LG stat.ML
Labeled Graph Generative Adversarial Networks
Virginia Tech(弗吉尼亚理工大学);Tufts University(塔夫茨大学)
\emph{generative adversarial networks}(GANs)作为一种新的生成模型训练方法,在图像生成方面取得了巨大的成功。这个框架最近也被应用于具有图形结构的数据。我们提出了标记图生成对抗网络(LGGAN)来训练具有节点标签的图结构数据的深度生成模型。我们在各种类型的图形数据集上测试了该方法,例如引文网络和蛋白质图的集合。实验结果表明,该模型能够生成与训练数据结构特征相匹配的标记图,在质量和通用性上优于其他方法。为了进一步评估生成的图的质量,我们将它们用于图分类的下游任务,结果表明LGGAN可以忠实地捕获图结构的重要方面。
2021-02-25 cs.LG stat.ML
Generative Adversarial Trainer: Defense to Adversarial Perturbations with GAN
Seoul National University(首尔国立大学)
本文提出利用生成对抗网络交替训练生成器和分类器,以增强神经网络对对抗扰动的鲁棒性,并在CIFAR数据集上显著降低泛化误差,优于Dropout等正则化方法。
2023-07-04 cs.LG stat.ML
Generative Adversarial Network for Handwritten Text
Zhejiang University(浙江大学);Microsoft Cloud & AI(微软云与AI)
生成对抗网络(GANs)在图像处理的各种应用中已经证明是非常成功的。然而,由于卷积神经网络(CNN)难以处理连续的手写数据,手写生成对抗网络相对较少。在本文中,我们提出了一个手写生成对抗网络框架(HWGANs)合成手写笔画数据。新框架的主要特征包括:(i)一个由集成的CNN-长短期记忆(LSTM)为基础的特征提取与路径签名特征(PSF)作为输入和前馈神经网络(FNN)为基础的二进制分类器组成的分类器;(ii)一个循环潜在变量模型作为生成器,用于合成顺序手写数据。数值试验表明了新模型的有效性。与单一手写体生成器相比,HWGAN生成的手写体文本更加自然逼真。
2020-02-27 cs.CV cs.LG
Investigating Under and Overfitting in Wasserstein Generative Adversarial Networks
Google Research(谷歌研究院)
我们研究生成对抗网络(GANs)中的欠拟合和过拟合,使用生成器看不到的鉴别器来测量泛化。我们发现,模型的容量的控制器有一个显着的影响,对发电机的模型质量,和发电机的性能差相吻合的控制器欠拟合。与我们的预期相反,我们发现,相对于CIFAR10,CIFAR100和CelebA,具有大模型容量的发电机没有表现出过拟合的证据。
2019-10-30 cs.LG stat.ML
Generative Adversarial Stacked Autoencoders
Coventry University(考文垂大学);LatinX in AI
生成对抗网络(GANs)已成为图像生成任务的主导。他们的成功归功于训练制度,它采用了两种模式:一个发电机G和CNOD,在一个极小极大零和游戏的竞争。尽管如此,GANs由于其对超参数和参数初始化的敏感性而难以训练,这通常会导致梯度消失、不收敛或模式坍塌,其中生成器无法创建具有不同变化的样本。在这项工作中,我们提出了一种新的生成对抗堆叠卷积自动编码器(GASCA)模型和生成对抗逐步贪婪逐层学习算法设计训练对抗自动编码器在一个有效的和增量的方式。我们的训练方法产生的图像的重建误差比vanilla联合训练要低得多。
2020-11-22 cs.CV cs.LG
IVE-GAN: Invariant Encoding Generative Adversarial Networks
Bayer AG(拜耳公司)
生成对抗网络(GANs)是生成任务的强大框架。然而,它们难以训练,并且往往会错过真实数据生成过程的模式。虽然GANs可以在其潜在空间中学习数据的覆盖模式的丰富表示,但该框架错过了从数据到该潜在空间的逆映射。我们提出了不变编码生成对抗网络(IVE-GANs),这是一种新的GAN框架,它通过利用数据中对某些变换不变的特征,为数据中的单个样本引入了这种映射。由于模型将单个样本映射到潜在空间,因此它自然会鼓励生成器覆盖所有模式。我们证明了我们的方法在生成性能和学习丰富的表示几个数据集,包括常见的基准图像生成任务方面的有效性。
2017-11-23 cs.LG stat.ML
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater(威斯康星大学白水分校)
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题,我们可以更好地理解生成的作品所需的参数,这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
Ambient Hidden Space of Generative Adversarial Networks
Huawei Technologies Noah’s Ark Lab(华为技术诺亚方舟实验室);National University of Singapore(新加坡国立大学)
生成对抗模型是为各种任务在复杂分布中建模结构的强大工具。用于学习生成模型的当前技术需要访问具有高质量的样本,并且高级生成模型被应用于通过环境模块从噪声训练数据生成样本。然而,这些模仅对生成器的输出空间是实用的,它们在隐空间中的应用还没有得到很好的研究。本文将环境模块扩展到生成器的隐空间,并给出了对抗训练过程中环境隐生成器的唯一性条件和相应的策略。我们报告所提出的方法在基准数据集上的实用性。
2018-07-02 cs.AI cs.CV cs.LG
Towards Principled Methods for Training Generative Adversarial Networks
Courant Institute of Mathematical Sciences(库朗数学科学研究所);Facebook AI Research(Facebook人工智能研究院)
本文的目标不是介绍一种算法或方法,而是为全面理解生成对抗网络的训练动态提供理论基础。为了证实我们的理论分析,我们进行了有针对性的实验,以验证我们的假设,说明我们的主张,并量化的现象。本文共分为三个部分。第一部分介绍了当前的问题。第二部分致力于研究和严格证明生成对抗网络训练时出现的问题,包括不稳定性和饱和度。第三部分探讨了解决这些问题的实际和理论基础的方向,同时引入新的工具来研究它们。
2017-01-17 cs.LG stat.ML
Scalable Unbalanced Optimal Transport using Generative Adversarial Networks
Massachusetts Institute of Technology(麻省理工学院)
生成对抗网络(GANs)是一类表现力很强的神经生成模型,在建模高维连续度量方面取得了巨大成功。在本文中,我们提出了一个可扩展的方法,不平衡的最佳运输(OT)的基础上生成的对抗框架。我们制定不平衡OT作为一个问题,同时学习的运输地图和缩放因子,推动源措施的目标措施,以成本最优的方式。此外,我们提出了一种基于随机交替梯度更新的算法来解决这个问题,在实践中类似于GANs。我们还为这种公式提供了理论依据,表明它与Liero等人(2018)的现有静态公式密切相关,并进行了数值实验,证明了这种方法如何应用于人口建模。
2019-08-04 cs.LG stat.ML
Generative adversarial networks for generation and classification of physical rehabilitation movement episodes
University of Idaho(爱达荷大学)
本文提出了一种方法,通过使用人工神经网络的物理治疗过程中进行的患者运动情节相关的人体运动的数学建模。采用生成对抗网络结构,由此以对抗方式同时训练判别模型和生成模型。不同的网络架构进行了检查,与歧视性和生成模型结构的深层子网络的隐藏层组成的卷积或循环计算单元。该模型进行了验证的数据集上的人体运动记录与光学运动跟踪器。结果表明,新的运动实例的分类的网络的能力,并生成类似于所记录的运动序列的运动示例。
2018-12-15 cs.LG stat.ML
Lung image segmentation by generative adversarial networks
School of Applied Mathematics, Xiamen University of Technology(厦门理工学院应用数学学院)
肺部图像分割在肺部疾病的计算机辅助诊断和治疗中起着重要的作用。提出了一种基于生成对抗网络的肺部图像分割方法。我们采用了各种生成对抗网络,并利用其图像翻译能力来执行图像分割。采用生成对抗网络将原始肺部图像转换为分割图像。基于生成对抗网络的分割方法在真实肺部图像数据集上进行了测试。实验结果表明,该方法是有效的,优于最先进的方法。
2019-07-30 cs.CV eess.IV
Evolutionary Generative Adversarial Networks with Crossover Based Knowledge Distillation
Jilin University(吉林大学)
生成对抗网络(GAN)是一种对抗模型,它已被证明是有效的各种生成任务。然而,GAN及其变体也遭受许多训练问题,例如模式坍塌和梯度消失。在本文中,我们首先提出了一个通用的交叉算子,它可以广泛应用于GANs使用进化策略。在此基础上设计了一个进化GAN框架C-GAN,并将交叉算子与进化生成对抗网络(EGAN)相结合,实现了带交叉的进化生成对抗网络(CE-GAN)。在使用多种损失函数作为变异算子生成变异个体的前提下,对生成的样本进行评价,并允许变异个体以知识蒸馏的方式从输出中学习经验,模仿最佳输出结果,产生更好的后代。然后,我们选择了最好的后代作为父母,为后续的训练,使用神经网络作为评估器。在真实数据集上的实验证明了CE-GAN的有效性,并表明我们的方法在生成的图像质量和时间效率方面具有竞争力。
2021-07-19 cs.LG cs.NE
Generative adversarial networks and adversarial methods in biomedical image analysis
Image Sciences Institute, University Medical Center Utrecht(乌得勒支大学医学中心影像科学研究所);Imperial College London(帝国理工学院);Imagen Technologies(Imagen科技公司)
生成对抗网络(GANs)和其他对抗方法基于博弈论的观点,将两个神经网络作为游戏中的参与者进行联合优化。对抗技术已被广泛用于合成和分析生物医学图像。我们介绍了GANs和对抗方法,概述了受益于这些方法的生物医学图像分析任务。最后,我们讨论了对抗方法在生物医学图像分析中的优势和局限性,并提出了未来潜在的研究方向。
2018-10-24 cs.CV
Generalized Latent Variable Recovery for Generative Adversarial Networks
Massachusetts Institute of Technology(麻省理工学院)
生成对抗网络(GAN)的生成器经过训练,可以将从先验分布中提取的潜在向量转换为逼真的照片。这些潜在向量已经被证明可以对关于其对应图像的内容的信息进行编码。将输入图像投影到GAN的潜在空间上是不平凡的,但是以前的工作已经成功地执行了具有均匀先验的潜在空间的任务。我们将这些技术扩展到高斯先验的潜在空间,并证明了我们的技术的有效性。
2018-10-09 cs.LG stat.ML
On the Performance of Generative Adversarial Network (GAN) Variants: A Clinical Data Study
Korea University(高丽大学);Georgia Institute of Technology(佐治亚理工学院);Case Western Reserve University(凯斯西储大学);University of Central Florida(中佛罗里达大学)
生成对抗网络(GAN)是一种有用的神经网络类型,用于各种类型的应用,包括生成模型和特征提取。各种类型的GANs正在以不同的见解进行研究,从而产生了各种各样的GANs家族,每一代都有更好的性能。本文重点介绍了各种GANs的共同特征分类。
2020-09-21 cs.AI cs.LG cs.NE
Semi-Supervised Learning with Generative Adversarial Networks
我们将生成对抗网络(GANs)扩展到半监督上下文,迫使生成对抗网络输出类标签。我们训练一个生成模型G和一个具有属于N个类之一的输入的数据集上的一个生成模型D。在训练时,D被用来预测输入属于N+1个类中的哪一个,其中添加额外的类以对应于G的输出。我们表明,这种方法可以用来创建一个更有效的数据分类器,它允许生成更高质量的样本比常规的GAN。
2016-10-22 cs.LG stat.ML
Intervention Generative Adversarial Networks
Center for Data Science, Peking University(北京大学数据科学中心);School of Mathematical Sciences, Peking University(北京大学数学科学学院)
在本文中,我们提出了一种新的方法来稳定生成对抗网络的训练过程,以及减轻模式崩溃问题。主要想法是在目标中引入一个正则化项,我们称之为干预损失。我们将由此产生的生成模型称为干预生成对抗网络(IVGAN)。通过用高斯不变干预扰动从辅助编码器网络获得的真实图像的潜在表示并惩罚所产生的生成图像的分布的不相似性,干预损失为生成器提供了更多的信息梯度,显著提高了GAN的训练稳定性。我们证明了我们的方法的有效性和效率,通过坚实的理论分析和标准的真实世界的数据集,以及堆栈MNIST数据集上的全面评估。
2020-08-09 cs.LG stat.ML
Regularized Generative Adversarial Network
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
我们提出了一个框架,用于从不同于训练集的概率分布的概率分布生成样本。我们使用一个对抗过程,同时训练三个网络,一个生成器和两个判别器。我们将这种新模型称为正则化生成对抗网络(RegGAN)。我们在由灰度图像组成的合成数据集上评估RegGAN,并进一步表明它可以用于学习拓扑中的一些预先指定的概念(基本拓扑属性)。这项工作的动机是在艺术世界中使用生成方法时遇到的实际问题。
2021-02-09 cs.AI cs.CV cs.LG
Adversarial examples for generative models
National University of Singapore(新加坡国立大学);Google Research(谷歌研究院);University of California, Berkeley(加州大学伯克利分校)
我们探索了在深度生成模型(如变分自动编码器(VAE)和VAE-GAN)上生成对抗性示例的方法。众所周知,深度学习架构容易受到对抗性示例的影响,但以前的工作主要集中在对抗性示例在分类任务中的应用上。深度生成模型最近变得流行,因为它们能够对输入数据分布进行建模,并从这些分布中生成真实的示例。我们提出了三类对VAE和VAE-GAN架构的攻击,并针对在MNIST,SVHN和CelebA上训练的网络进行了演示。我们的第一次攻击通过将分类器附加到目标生成模型的训练编码器来利用基于分类的对手,然后可以使用该编码器间接操纵潜在表示。我们的第二次攻击直接使用VAE损失函数从对抗性示例中生成目标重建图像。我们的第三种攻击超越了依赖于梯度的分类或标准损失,并直接针对源和目标潜在表示的差异进行优化。我们还激发了为什么攻击者可能对针对目标生成网络部署此类技术感兴趣。
2017-02-22 cs.LG stat.ML
Generative Adversarial Networks and Other Generative Models
Fraunhofer Institute for Digital Medicine MEVIS(弗劳恩霍夫数字医学MEVIS研究所)
与CNN相比,生成网络在分类、分割或目标检测方面的目标和方法有着根本的不同。它们最初并不是一种图像分析工具,而是用来生成看起来自然的图像。对抗性训练范式已经被提出来稳定生成方法,并且已经被证明是非常成功的-尽管从第一次尝试开始就不是这样。本章对生成对抗网络(GANs)的动机进行了基本介绍,并通过抽象基本任务和工作机制,以及推导早期实用方法的困难,追溯了它们的成功之路。将显示更稳定的训练方法,以及收敛性差的典型迹象及其原因。虽然本章重点介绍用于图像生成和图像分析的GANs,但对抗训练范式本身并不特定于图像,也适用于图像分析中的任务。在将GANs与最近进入场景的进一步生成建模方法进行对比之前,图像语义分割和异常检测的架构示例将受到好评。这将允许对GANs的限制和好处进行上下文化的查看。
2022-07-08 cs.CV cs.LG eess.IV
Variational Approaches for Auto-Encoding Generative Adversarial Networks
DeepMind
自动编码生成对抗网络(GANs)结合了标准的GAN算法,该算法区分真实和模型生成的数据,并由自动编码器给出重建损失。这些模型旨在通过确保学习生成模型基于所有可用的训练数据来防止学习生成模型中的模式崩溃。在本文中,我们开发了一种原理,通过利用生成模型的分层结构,可以将自动编码器与生成对抗网络相结合。其基本原理表明,变分推断可以用作学习的基本工具,但不可处理的似然被合成似然代替,未知的后验分布被隐式分布代替;合成似然和隐式后验分布都可以使用鉴别器来学习。这使我们能够开发变分自动编码器和生成对抗网络的自然融合,结合这两种方法的优点。我们描述了一个统一的优化目标,讨论了指导学习所需的约束条件,连接到广泛的现有工作,并使用一系列测试来系统地和定量地评估我们的方法的性能。
2017-10-21 cs.LG stat.ML
Adversarial Machine Learning And Speech Emotion Recognition: Utilizing Generative Adversarial Networks For Robustness
Information Technology University (ITU)-Punjab(旁遮普信息技术大学);University of Southern Queensland(南昆士兰大学)
深度学习无疑为最先进的语音情感识别(SER)系统的性能提供了巨大的改进。然而,最近对对抗性示例的研究对SER系统的鲁棒性提出了巨大的挑战,因为它们只依赖于小而不可感知的扰动,因此显示了深度神经网络对对抗性示例的敏感性。在这项研究中,我们评估了如何对抗的例子可以用来攻击SER系统,并提出了第一个黑盒对抗攻击SER系统。我们还探索了潜在的防御措施,包括对抗训练和生成对抗网络(GAN),以增强鲁棒性。实验评估表明,有效利用对抗性示例的各个有趣方面有助于实现SER系统的鲁棒性,为研究人员在这一领域进一步创新提供了机会。
2018-12-30 cs.CR cs.LG eess.SP
New Losses for Generative Adversarial Learning
生成对抗网络(Goodfellow等人,2014年),在生成建模领域的一个重大突破,学习一个估计目标和候选分布之间的距离。本文探讨了在这种情况下,生成模型的梯度计算方式的数学问题,特别是如何考虑到如何将梯度本身取决于发电机参数。提出了一种统一的方法来定义生成模型的数学上合理的训练目标,以稳健的方式考虑这种依赖性,包括GAN,VAE和一些GAN变体作为特定情况。
2018-07-26 cs.LG stat.ML
Image Quality Assessment Techniques Show Improved Training and Evaluation of Autoencoder Generative Adversarial Networks
Carleton University(卡尔顿大学)
我们提出了一种自动编码器生成对抗网络(GANs)的训练和评估方法,特别是边界平衡生成对抗网络(BEGAN),基于图像质量评估文献中的方法。我们的方法探讨了一个多维的评价标准,利用三个距离函数:一个$l_1$分数,梯度幅度相似性平均值(GMSM)分数,和色度分数。我们发现,每个不同的距离函数捕捉图像空间中的一组略有不同的属性,因此,需要自己的评估标准,以正确评估相关属性是否已经充分学习。我们证明了使用新距离函数的模型能够以预测的方式产生比原始BEGAN模型更好的图像。
2017-08-06 cs.CV cs.LG
Generative Adversarial Active Learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Boston College(波士顿学院)
提出了一种基于生成对抗网络(GAN)的查询综合主动学习方法。与常规的主动学习不同,该算法自适应地合成训练实例进行查询,以提高学习速度。我们根据不确定性原则生成查询,但我们的想法可以与其他主动学习原则。我们报告的结果,从各种数值实验,以证明所提出的方法的有效性。在某些情况下,该算法优于传统的基于池的方法。据我们所知,这是第一个使用GAN的主动学习工作。
2017-11-15 cs.LG stat.ML
Quantum generative adversarial networks
Xanadu
量子机器学习有望成为近期量子设备的首批潜在通用应用之一。经典机器学习最近的一个重大突破是生成对抗训练的概念,其中一个训练模型的梯度被用来训练一个单独的生成模型。在这项工作和一篇配套论文中,我们将对抗训练扩展到量子领域,并展示了如何使用量子线路构建生成对抗网络。此外,我们还展示了如何使用另一个量子线路计算梯度-生成对抗网络训练中的关键要素。我们给出了一个简单的实用电路模型的例子来参数化量子机器学习模型,并进行了一个简单的数值实验来证明量子生成对抗网络可以成功训练。
2018-04-30 cs.LG quant-ph
Generating Images Part by Part with Composite Generative Adversarial Networks
Seoul National University(首尔大学)
图像生成仍然是一般人工智能和具体深度学习中的基本问题。生成对抗网络(GAN)成功生成了高质量的自然图像样本。我们提出了一个称为复合生成对抗网络的模型,它揭示了具有多个生成器的图像的复杂结构,其中每个生成器生成图像的某个部分。这些部分通过alpha混合过程组合以创建新的单个图像。例如,它可以在人脸数据集上训练后,使用两个生成器依次生成背景和人脸。训练是以无监督的方式进行的,没有任何关于每个生成器应该生成什么的标签。我们发现学习的可能性,通过使用这种生成模型经验的结构。
2016-11-14 cs.AI cs.CV cs.LG
BEGAN: Boundary Equilibrium Generative Adversarial Networks
Google(谷歌)
我们提出了一种新的均衡执行方法,结合Wasserstein距离的损失,用于训练基于自动编码器的生成对抗网络。该方法在训练期间平衡发生器和振荡器。此外,它提供了一种新的近似收敛措施,快速和稳定的训练和高视觉质量。我们还得到了一种控制图像多样性和视觉质量之间的权衡的方法。我们专注于图像生成任务,即使在更高的分辨率下,也能在视觉质量方面树立新的里程碑。这是在使用相对简单的模型架构和标准训练过程的同时实现的。
2017-05-31 cs.LG stat.ML
OptiGAN: Generative Adversarial Networks for Goal Optimized Sequence Generation
Monash University(莫纳什大学);The University of Melbourne(墨尔本大学)
序列生成任务中的一个挑战性问题是具有特定期望目标的序列的优化生成。当前的序列生成模型主要生成序列以紧密地模仿训练数据,而没有直接优化特定于任务的期望目标或属性。我们引入了OptiGAN,这是一种生成模型,它结合了生成对抗网络(GAN)和强化学习(RL),使用策略梯度来优化所需的目标得分。我们将我们的模型应用于文本和实值序列生成,其中我们的模型能够获得比GAN和RL基线更高的期望分数,同时不牺牲输出样本多样性。
2021-01-14 cs.LG stat.ML
Generative Adversarial Forests for Better Conditioned Adversarial Learning
Monash University(莫纳什大学);ARC Centre of Excellence for Robotic Vision(澳大利亚研究理事会机器人视觉卓越中心)
近年来,各种视觉相关任务的许多突破都围绕着改进深度模型的学习;这些方法从网络架构改进(如残差网络)到各种形式的正则化(如批量归一化)。从本质上讲,这些技术中的许多都围绕着更好的条件反射,允许成功地学习越来越深的模型。在本文中,我们期待在无监督学习环境中更好地调节生成对抗网络(GANs)。我们的方法嵌入到GAN的神经网络的决策森林的强大的鉴别能力。这导致了一个更好的条件模型,它以非常稳定的方式学习。我们展示了实证结果,这些结果显示了我们方法有效性的明确定性和定量证据,在Oxford Flowers和Aligned Celebrity Faces数据集上,与几种流行的基于GAN的方法相比,获得了显着的性能改进。
2018-05-14 cs.LG stat.ML
Generative Multi-Adversarial Networks
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
生成对抗网络(GANs)是一种通过两人极大极小博弈生成生成模型的框架。在本文中,我们提出了\emph{Generative Multi-Adversarial Network}(GMAN),这是一个将GANs扩展到多个鉴别器的框架。在以前的工作中,GANs的成功训练需要修改极大极小目标以加速早期训练。相比之下,GMAN可以使用原始的未篡改目标进行可靠的训练。我们探索了一些设计的角度与角色,从强大的对手到宽容的老师。图像生成任务将所提出的框架与标准GANs进行比较,表明GMAN在通过成对GAM类型度量进行测量时,在一小部分迭代中产生更高质量的样本。
2017-03-02 cs.LG cs.MA cs.NE
Adversarial Attack Against Images Classification based on Generative Adversarial Networks
George Washington University(乔治华盛顿大学)
针对图像分类系统的安全问题,本文受生成对抗网络启发,提出一种新颖的对抗攻击方法,通过对抗学习生成小扰动对抗样本,在经典数据集上成功欺骗多种先进分类器并保持样本自然性,有效揭示了系统弱点以提升抗攻击能力。
2024-12-24 cs.AI cs.CV
Label-Removed Generative Adversarial Networks Incorporating with K-Means
Nankai University(南开大学);Tianjin University(天津大学);Hunan University(湖南大学)
生成对抗网络(GANs)在生成逼真图像方面取得了巨大成功。其中大多数是条件模型,尽管在实践中获取类标签是昂贵和耗时的。为了减少对标记数据的依赖,我们提出了一种无条件生成对抗模型,称为K-Means-GAN(KM-GAN),它将K-Means中更新中心的思想融入到GANs中。具体来说,我们通过对从网络中提取的特征应用K-Means来重新设计GANs的框架。利用从K-Means获得的标签,我们从深度度量学习(DML)的角度提出了新的目标函数。与以往的工作不同,在KM-GAN中,将样本作为特征提取器而不是分类器,同时利用K-Means使样本的特征更具代表性。在MNIST,Fashion-10,CIFAR-10和CelebA等数据集上进行了实验,结果表明KM-GAN生成的样本质量与一些条件生成对抗模型相当。
2019-02-19 cs.LG stat.ML
FairGAN: Fairness-aware Generative Adversarial Networks
University of Arkansas(阿肯色大学)
公平感知学习在数据采掘中越来越重要。歧视预防的目的是在训练数据用于进行预测分析之前,防止在训练数据中出现歧视。在本文中,我们专注于公平的数据生成,确保生成的数据是无歧视的。受生成对抗网络(GAN)的启发,我们提出了一种公平感知的生成对抗网络,称为公平GAN,它能够学习生成公平数据的生成器,并保持良好的数据效用。与朴素的公平数据生成模型相比,FairGAN进一步保证了在生成数据上训练的分类器可以在真实数据上实现公平分类。在真实数据集上的实验表明了FairGAN的有效性。
2018-05-28 cs.CY cs.LG stat.ML