A Survey on Generative Adversarial Networks: Variants, Applications, and Training
College of Computer Science, Zhejiang University(浙江大学计算机学院)
生成模型通过一种新的实用框架生成对抗网络(GAN)在无监督学习领域获得了相当大的关注,因为它具有出色的数据生成能力。GAN的许多模型已经被提出,并且在计算机视觉和机器学习的各个领域中出现了一些实际应用。尽管GAN取得了优异的成绩,但稳定训练仍存在障碍。这些问题是由于纳什均衡,内部协变量偏移,模式坍塌,消失的梯度,缺乏适当的评估指标。因此,稳定的训练是GAN在不同应用中成功的关键问题。在这里,我们调查了不同研究人员提出的几种训练解决方案,以稳定GAN训练。本文综述了GAN的基本模型及其改进的经典版本,详细分析了GAN在不同领域的应用,详细研究了GAN的训练障碍以及训练解决方案。最后,我们讨论了几个新的问题以及研究纲要的主题。
2020-06-09 cs.CV cs.LG eess.IV
A review of Generative Adversarial Networks (GANs) and its applications in a wide variety of disciplines -- From Medical to Remote Sensing
New Jersey Institute of Technology(新泽西理工学院)
我们研究了生成对抗网络(GAN),它在许多领域的流行变体和应用。GANs结合了两个使用零和博弈理论相互竞争的神经网络,使它们能够创建许多关键和离散的输出。GANs可用于执行图像处理、视频生成和预测以及其他计算机视觉应用。GANs还可用于各种科学相关活动,包括蛋白质工程、天文数据处理、遥感图像去雾和晶体结构合成。GANs取得进展的其他值得注意的领域包括金融、营销、时装设计、体育和音乐。因此,在本文中,我们将全面概述GANs在各种学科中的应用。我们首先介绍支持GAN的理论、GAN变体以及评估GANs的指标。然后,我们介绍了GAN及其变体如何应用于12个领域,从STEM领域,如天文学和生物学,到商业领域,如市场营销和金融,以及艺术,如音乐。因此,其他领域的研究人员可以掌握GANs的工作原理,并将其应用于自己的研究。据我们所知,本文提供了最全面的调查GAN的应用在不同领域。
2021-10-01 cs.AI cs.CV cs.LG
Generative Adversarial Networks
Tel Aviv University(特拉维夫大学)
生成对抗网络(GANs)是用于生成高质量数据的非常流行的框架,并且在许多领域的学术界和工业界都得到了广泛的应用。可以说,它们最大的影响是在计算机视觉领域,在那里它们实现了最先进的图像生成。本章介绍了GANs,讨论了它们的原理机制,并提出了它们在训练和评估过程中的一些固有问题。我们集中在这三个问题:(1)模式坍塌,(2)消失的梯度,(3)低质量的图像的生成。然后,我们列出了一些架构变体和丢失变体GANs,它们可以解决上述挑战。最后,我们给出了GANs在实际应用中的两个应用示例:数据增强和人脸图像生成。
2022-03-01 cs.CV cs.LG
Generative Adversarial Parallelization
AIFounded Inc.(AIFounded公司);University of Guelph(圭尔夫大学)
生成对抗网络由于其直观的表述方式,已经成为无监督学习研究最多的框架之一。它们也被证明能够在有限的领域(如低分辨率图像)中生成令人信服的示例。然而,他们仍然证明很难在实践中训练,并往往忽视数据生成分布的模式。量化捕获效果,如模式覆盖率和更一般的生成模型的质量仍然难以捉摸。我们提出了生成式对抗神经元化,这是一个框架,在这个框架中,许多GANs或它们的变体同时被训练,交换它们的判别器。这消除了发生器和振荡器之间的紧密耦合,从而改善了收敛性和模式覆盖范围。我们还提出了最近提出的生成对抗度量的改进变体,并展示了它如何在GAP模型下对单个GANs或其集合进行评分。
2016-12-13 cs.LG stat.ML
DomainGAN: Generating Adversarial Examples to Attack Domain Generation Algorithm Classifiers
Booz Allen Hamilton(博思艾伦汉密尔顿公司)
域生成算法(DGAs)经常用于生成由僵尸网络使用的多个域。这些域通常被用作恶意软件命令和控制的服务器的会合点。存在许多用于生成域的算法,然而这些算法中的许多算法过于简单并且容易被传统的机器学习技术检测到。在本文中,生成对抗网络(GANs)的三种变体被优化以生成具有良性域相似特征的域,从而产生极大地避开几种最先进的基于深度学习的DGA分类器的域。此外,我们还提供了一个详细的分析到攻击性的可用性为每个变种方面的重复和现有的域冲突。最后,我们通过将GAN生成的样本添加到其原始训练数据集中来微调最先进的DGA分类器,并分析性能的变化。我们的研究结果得出结论,GAN为基础的DGA是优越的躲避DGA分类相比,传统的DGA,和变种,Wasserstein GAN与梯度惩罚(WGANGP)是最高性能的DGA用于进攻和防守。
2020-02-14 cs.CR cs.LG eess.SP
Yes, we GAN: Applying Adversarial Techniques for Autonomous Driving
Valeo DVS Prague(法雷奥DVS布拉格);Valeo CDV AI Cairo(法雷奥CDV人工智能开罗);Valeo Vision Systems(法雷奥视觉系统)
生成对抗网络(GAN)从2014年推出到现在已经受到了广泛的欢迎。对GAN的研究正在迅速增长,并且有许多原始GAN的变体,专注于深度学习的各个方面。GAN被认为是过去十年中机器学习最具影响力的方向。本文重点介绍了GAN在自动驾驶中的应用,包括高级数据增强、损失函数学习、半监督学习等主题。我们对对抗技术的关键应用进行了形式化和回顾,并讨论了面临的挑战和有待解决的问题。
2020-02-02 cs.AI cs.CV cs.LG
Flexible Android Malware Detection Model based on Generative Adversarial Networks with Code Tensor
Alibaba Group(阿里巴巴集团);Huazhong University of Science and Technology(华中科技大学);Xi’an International Studies University(西安外国语大学)
恶意软件威胁的行为正在逐渐增加,提高了对恶意软件检测的需求。然而,现有的恶意软件检测方法仅针对已有的恶意样本,对新的恶意代码和恶意代码变种的检测能力有限。在本文中,我们提出了一种新的方案,检测恶意软件及其变种有效。基于生成对抗网络(GANs)的思想,获取符合真实恶意软件特征的“真实”样本分布,利用它们欺骗恶意软件,从而实现对恶意代码攻击的防御,提高恶意软件检测能力。首先,提出了一种新的Android恶意软件APK对图像纹理特征提取的分割方法--分段自生长纹理分割算法。其次,基于低秩的张量奇异值分解(tSVD)将不同大小的恶意特征统一转换为固定的三阶张量,输入神经网络进行训练学习。最后,提出了一种基于带代码张量的GANs(MTFD-GANs)的Android恶意软件检测模型。实验结果表明,该模型总体上优于传统的恶意软件检测模型,最高效率提高了41.6%.同时,GANs生成器新生成的样本极大地丰富了样本多样性。对恶意软件检测器进行再训练,可以有效提高传统模型的检测效率和鲁棒性。
2022-10-25 cs.AI cs.CR cs.LG
Tensorizing Generative Adversarial Nets
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Saitama Institute of Technology(埼玉工业大学)
生成对抗网络(GAN)及其变体在生成模型中表现出最先进的性能。为了捕获更高维的分布,通常的学习过程需要高的计算复杂性和大量的参数。当将其部署在具有有限计算能力的平台(例如移动电话)上时,会出现采用这种大型框架的问题。在本文中,我们提出了一种新的生成对抗框架,将每一层表示为通过多线性运算连接的张量结构,旨在将模型参数的数量减少一个很大的因素,同时保持生成性能和样本质量。为了学习模型,我们采用了一种有效的算法,交替优化的发电机和发电机。实验结果表明,我们的模型可以实现高压缩率的模型参数$35$倍相比,原始GAN的MNIST数据集。
2018-03-30 cs.AI cs.LG stat.ML
Generating protein sequences from antibiotic resistance genes data using Generative Adversarial Networks
SRM Institute of Science and Technology(SRM科学技术学院)
我们介绍了一种方法,以产生合成的蛋白质序列,预测是耐某些抗生素。我们使用6,023个基因,这些基因被预测在人类肠道的肠道区域对抗生素具有耐药性,并作为Wasserstein生成对抗网络(W-GAN)的输入对原始生成对抗模型的变体进行建模,该模型在模仿真实数据的分布时被认为是有效的,以便生成风格类似于作为训练数据输入的原始数据
2019-04-28 cs.LG q-bio.GN
Towards Principled Methods for Training Generative Adversarial Networks
Courant Institute of Mathematical Sciences(库朗数学科学研究所);Facebook AI Research(Facebook人工智能研究院)
本文的目标不是介绍一种算法或方法,而是为全面理解生成对抗网络的训练动态提供理论基础。为了证实我们的理论分析,我们进行了有针对性的实验,以验证我们的假设,说明我们的主张,并量化的现象。本文共分为三个部分。第一部分介绍了当前的问题。第二部分致力于研究和严格证明生成对抗网络训练时出现的问题,包括不稳定性和饱和度。第三部分探讨了解决这些问题的实际和理论基础的方向,同时引入新的工具来研究它们。
2017-01-17 cs.LG stat.ML
Ten Years of Generative Adversarial Nets (GANs): A survey of the state-of-the-art
Sorbonne University Abu Dhabi(索邦大学阿布扎比分校)
本文综述GANs十年来的主流变体、理论、训练问题与应用,并讨论其与Transformer、PINN、LLM和扩散模型的融合及未来方向。
2023-08-30 cs.CV cs.LG
Learning to Fuse Music Genres with Generative Adversarial Dual Learning
Virginia Tech(弗吉尼亚理工学院);Georgia Institute of Technology(佐治亚理工学院)
FusionGAN是一个用于音乐生成的新型流派融合框架,它集成了生成对抗网络和双重学习的优势。特别是,所提出的方法提供了一个双重的学习扩展,可以有效地整合给定领域的风格。为了有效地量化不同域之间的差异并避免消失梯度问题,FusionGAN提供了一个基于Wasserstein的度量来近似目标域和现有域之间的距离。采用Wasserstein距离,通过使用对抗学习组合现有域的模式来创建新域。在公共音乐数据集上的实验结果表明,该方法可以有效地合并两种类型。
2017-12-05 cs.AI cs.LG cs.MM
Hybrid Adversarial Spectral Loss Conditional Generative Adversarial Networks for Signal Data Augmentation in Ultra-precision Machining Surface Roughness Prediction
The Hong Kong Polytechnic University(香港理工大学)
本文提出HAS-CGAN,通过混合对抗谱损失和傅里叶域优化生成高质量一维力信号,结合加工参数将表面粗糙度预测误差从31.4%降至约9%,有效缓解超精密加工中小数据集带来的数据稀缺问题。
2025-07-07 cs.LG
Generative Adversarial Networks in Computer Vision: A Survey and Taxonomy
Trinity College Dublin(都柏林圣三一学院);ByteDance AI Lab(字节跳动人工智能实验室);Dublin City University(都柏林城市大学)
生成对抗网络(GANs)在过去几年中得到了广泛的研究。可以说,它们最显著的影响是在计算机视觉领域,在该领域中,在诸如可信图像生成、图像到图像翻译、面部属性操纵和类似领域的挑战中取得了巨大进步。尽管迄今为止取得了重大成功,但将GANs应用于现实世界的问题仍然面临着重大挑战,我们在这里重点讨论其中的三个挑战。这些是:(1)高质量图像的生成,(2)图像生成的多样性,以及(3)稳定的训练。重点关注流行的GAN技术在应对这些挑战方面取得的进展,我们在已发表的科学文献中详细回顾了GAN相关研究的最新进展。我们通过一个方便的分类法,我们采用了基于GAN架构和损失函数的变化,进一步结构化这一审查。虽然到目前为止已经提出了GANs的几项评论,但没有一项评论根据其在解决与计算机视觉相关的实际挑战方面的进展来考虑该领域的现状。因此,我们回顾并批判性地讨论了最流行的架构变体和损耗变体GANs,以应对这些挑战。我们的目标是提供一个概述,以及对GAN研究的重要计算机视觉应用需求的相关进展方面的状态进行批判性分析。在此过程中,我们还讨论了计算机视觉中最引人注目的应用,其中GANs已经取得了相当大的成功,并对未来的研究方向提出了一些建议。与本工作中研究的GAN变体相关的代码总结在https://github.com/sheqi/GAN_Review上。
2020-12-29 cs.CV cs.LG
Likelihood Landscapes: A Unifying Principle Behind Many Adversarial Defenses
Georgia Institute of Technology(佐治亚理工学院)
卷积神经网络已被证明容易受到对抗性示例的影响,这些示例位于靠近正常数据所在的子空间中,但不是自然发生的,并且概率很低。在这项工作中,我们研究了防御技术对训练模型下输入图像的似然性景观的几何形状的潜在影响。我们首先提出了一种利用基于能量的模型解释判别分类器来可视化可能性景观的方法。然后,我们引入一个措施来量化的平坦性的可能性景观。我们观察到,对抗性防御技术的一个子集导致了类似的平坦化可能性景观的效果。我们进一步探索直接正则化到一个平坦的景观对抗鲁棒性。
2020-08-25 cs.CV cs.LG
Noise Robust Generative Adversarial Networks
The University of Tokyo(东京大学);RIKEN(理化学研究所)
生成对抗网络(GANs)是通过对抗训练来学习数据分布的神经网络。在深入的研究中,最近的GANs在再现训练图像方面显示出了有希望的结果。然而,尽管有噪音,它们还是逼真地再现了图像。作为替代方案,我们提出了一种新的GANs家族,称为噪声鲁棒GANs(NR-GAN),即使训练图像有噪声,它也可以学习干净的图像生成器。特别地,NR-GAN可以在没有完整噪声信息的情况下解决这个问题(例如,噪声分布类型、噪声量或信噪比关系)。为了实现这一点,我们引入了一个噪声发生器和训练它与一个干净的图像发生器。然而,在没有任何约束的情况下,没有动机单独生成图像和噪声。因此,我们提出了分布和变换约束,鼓励噪声发生器只捕捉噪声特定的组件。特别是,考虑到不同假设下的这些约束,我们设计了两种用于信号无关噪声的NR-GAN变体和三种用于信号相关噪声的NR-GAN变体。在三个基准数据集上,我们证明了NR-GAN在噪声鲁棒图像生成中的有效性。此外,我们展示了NR-GAN在图像去噪中的适用性。我们的代码可在https://github.com/takuhirok/NR-GAN/上获得。
2020-03-31 cs.CV cs.LG eess.IV
Adversarial Lipschitz Regularization
Robert Bosch Kft.(罗伯特·博世匈牙利有限公司)
生成对抗网络(GANs)是训练生成模型时最受欢迎的方法之一,其中Wasserstein GANs的变体在学习稳定性和样本质量方面被认为优于标准GAN公式。然而,Wasserstein GANs要求临界点是1-Lipschitz,这通常通过惩罚其梯度的范数或通过权重归一化技术全局限制其Lipschitz常数来隐含地强制执行。用正则化项惩罚违反Lipschitz约束的行为,而不是通过梯度的范数进行训练,在大多数情况下实际上是不可行的。受虚拟对抗训练的启发,我们提出了一种称为对抗性Lipschitz正则化的方法,并证明使用显式Lipschitz惩罚确实是可行的,并且在应用于Wasserstein GANs时会导致竞争性性能,突出了Lipschitz正则化和对抗性训练之间的重要联系。
2020-01-03 cs.CV cs.LG stat.ML
Gaussian Mixture Generative Adversarial Networks for Diverse Datasets, and the Unsupervised Clustering of Images
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
生成对抗网络(GANs)已被证明可以生成逼真的合成图像,并取得了显着的成功,但当训练集高度多样化时,它们的性能似乎不那么令人印象深刻。当数据集包含许多不同的类时,为了更好地拟合目标数据分布,我们提出了一种基本GAN模型的变体,称为高斯混合GAN(GM-GAN),其中潜在空间上的概率分布是高斯的混合。我们还提出了一个有监督的变体,它能够有条件的样本合成。为了评估模型的性能,我们提出了一种新的评分方法,它分别考虑到两个(通常是冲突的)措施-多样性与质量的生成数据。通过一系列的实证实验,使用合成和真实世界的数据集,我们定量地表明,GM-GAN在使用常用的Inception Score进行评估时,以及使用我们自己的替代评分方法进行评估时,都优于基线。此外,我们定性地演示了如何的\textit{unsupervised}变体的GM-GAN倾向于映射从不同的高斯在潜在空间中的样本的数据空间中的不同类别的样本的潜在向量。我们展示了如何利用这种现象进行无监督聚类的任务,并提供定量评价,显示我们的方法的图像数据集的无监督聚类的优越性。最后,我们展示了一个功能,它进一步将我们的模型与其他GAN模型区分开来:通过改变潜在空间的概率分布来控制质量多样性权衡的选项。这允许人们根据自己的需要对更高质量和更低多样性的样本进行采样,反之亦然。
2018-08-30 cs.CV cs.LG stat.ML
Bayesian Inference with Generative Adversarial Network Priors
University of Southern California(南加州大学)
贝叶斯推断被广泛地用于从相关场的测量中推断和量化感兴趣场中的不确定性,当两者通过物理模型相关联时。尽管有许多应用,贝叶斯推断面临的挑战时,推断领域,具有大尺寸的离散表示,和/或具有先验分布,是难以表示数学。在本文中,我们考虑使用生成对抗网络(GANs)来应对这些挑战。GAN是一种深度神经网络,具有学习给定字段的多个样本所隐含的分布的能力。一旦在这些样本上训练,GAN的生成器组件将低维潜在向量的iid分量映射到感兴趣场的分布的近似值。在这项工作中,我们演示了如何将这种近似分布作为贝叶斯更新的先验,以及它如何解决与表征复杂的先验分布和推断字段的大维度相关的挑战。我们证明了这种方法的有效性,通过将其应用到从噪声测量的温度在以后的时间在热传导问题的初始温度场的推断和量化的不确定性的问题。
2019-07-22 cs.LG eess.IV physics.comp-ph
Multi-Adversarial Variational Autoencoder Networks
University of California, Los Angeles(加州大学洛杉矶分校)
GANs和VAE的无监督训练使它们能够生成模仿真实世界分布的逼真图像,并执行基于图像的无监督聚类或半监督分类。结合这两种生成模型的功能,我们引入了多对抗变分自编码器网络(MAVEN),这是一种新型的网络架构,在VAE-GAN网络中集成了一系列鉴别器,同时具有对抗学习和变分推理。我们应用MAVENs的合成图像的生成,并提出了一个新的分布措施来量化生成的图像的质量。我们的实验结果使用来自计算机视觉和医学成像领域的数据集--街景门牌号,CIFAR-10和胸部X射线数据集-在图像生成和分类任务中表现出与最先进的半监督模型相比的竞争力。
2019-06-14 cs.CV cs.LG stat.ML
New Losses for Generative Adversarial Learning
生成对抗网络(Goodfellow等人,2014年),在生成建模领域的一个重大突破,学习一个估计目标和候选分布之间的距离。本文探讨了在这种情况下,生成模型的梯度计算方式的数学问题,特别是如何考虑到如何将梯度本身取决于发电机参数。提出了一种统一的方法来定义生成模型的数学上合理的训练目标,以稳健的方式考虑这种依赖性,包括GAN,VAE和一些GAN变体作为特定情况。
2018-07-26 cs.LG stat.ML
Geometric GAN
ETRI(韩国电子通信研究院);KAIST(韩国科学技术院)
生成对抗网络(GANs)代表了有效生成模型的一个重要里程碑,它激发了许多看似彼此不同的变体。本文的主要贡献之一是揭示了GAN及其变体的统一几何结构。具体来说,我们证明了对抗生成模型训练可以分解为三个几何步骤:分离超平面搜索,远离分离超平面的参数更新,以及沿着分离超平面的法向量方向的生成器更新。这种几何直观揭示了现有方法的局限性,并导致我们提出了一种新的配方称为几何GAN使用SVM分离超平面,最大限度地提高利润。我们的理论分析表明,几何GAN收敛到一个纳什均衡之间的发电机和发电机。此外,大量的数值结果表明,几何GAN的优越性能。
2017-05-09 cond-mat.dis-nn cs.AI cs.CV
Generative Adversarial Networks and Adversarial Autoencoders: Tutorial and Survey
University of Waterloo(滑铁卢大学)
这是一篇关于生成对抗网络(GAN)、对抗自动编码器及其变体的教程和调查论文。我们从解释对抗学习和普通GAN开始。然后,我们解释了条件GAN和DCGAN。介绍了模式崩溃问题,介绍了解决模式崩溃问题的各种方法,包括minibatch GAN、unrolled GAN、BourGAN、mixture GAN、D2 GAN和Wasserstein GAN。然后,解释了GAN中的最大似然估计以及f-GAN、对抗变分贝叶斯和贝叶斯GAN。然后,我们涵盖了GAN,InfoGAN,GRAN,LSGAN,基于能量的GAN,Cat GAN、MMD GAN、LapGAN、渐进式GAN、三重GAN、LAG、GMAN、Ada GAN、CoGAN、逆GAN、双GAN、ALI,SA GAN、Few-Shot GAN、SinGAN、以及GAN的插值和评价。然后,我们介绍了GAN的一些应用,如图像到图像的翻译(包括PatchGAN,CycleGAN,DeepFaceDrawing,模拟GAN,交互式GAN),文本到图像的翻译(包括StackGAN),以及混合图像特征(包括FineGAN和MixNMatch)。最后,我们解释了基于对抗学习的自动编码器,包括对抗自动编码器,PixelGAN和隐式自动编码器。
2021-11-26 cs.CV cs.LG eess.IV
A Style-Based Generator Architecture for Generative Adversarial Networks
NVIDIA(英伟达)
我们提出了一种替代生成器架构的生成对抗网络,借用风格转移文献。新的体系结构导致自动学习的、无监督的高级属性分离(例如,在人脸上训练时的姿态和身份)和所生成的图像中的随机变化(例如,雀斑、头发),并且它能够实现对合成的直观的、尺度特定的控制。新的生成器改进了传统分布质量度量方面的最新技术,导致明显更好的插值特性,并且还更好地解开了潜在的变化因素。为了量化插值质量和解纠缠,我们提出了两种新的,自动化的方法,适用于任何发电机架构。最后,我们介绍了一个新的,高度多样化和高质量的人脸数据集。
2019-03-29 cs.LG cs.NE stat.ML
DefogGAN: Predicting Hidden Information in the StarCraft Fog of War with Generative Adversarial Nets
Samsung SDS(三星 SDS)
我们提出了DefogGAN,一种生成方法来推断隐藏在战争迷雾中的实时战略(RTS)游戏的状态信息。给定一个部分观察的状态,DefogGAN生成一个游戏的去雾图像作为预测信息。这些信息可以导致创建一个战略代理的游戏。Defog GAN是一种条件GAN变体,具有金字塔重建损失,可在多个特征分辨率尺度上进行优化。我们已经使用专业星际争霸重播的大型数据集对Defog GAN进行了经验验证。我们的研究结果表明,DefogGAN可以像专业玩家一样准确地预测敌人的建筑物和作战单位,并在最先进的除雾器中取得优异的性能。
2020-03-15 cs.LG stat.ML
Multi-view Representation Learning from Malware to Defend Against Adversarial Variants
University of Arizona(亚利桑那大学);University of South Florida(南佛罗里达大学);University of Georgia(佐治亚大学)
基于深度学习的对抗性恶意软件检测器在检测从未见过的恶意软件可执行文件方面取得了可喜的成果,而无需依赖昂贵的动态行为分析和沙箱。尽管这些检测器具有这些能力,但已被证明容易受到对抗性恶意软件变体的攻击-这些变体是由机器学习生成的原始恶意软件可执行文件的精心修改的功能保留版本。由于这些对抗性修改的性质,这些对抗性方法通常使用恶意软件可执行文件的\textit{single view}(即,二进制/十六进制视图)以生成对抗性恶意软件变体。这为防守者提供了一个机会(即,恶意软件检测器)通过利用恶意软件文件的多于一个视图来检测对抗性变体(例如,除了二进制视图之外,还有源代码视图)。这个想法背后的基本原理是,虽然对手专注于二进制视图,但源代码视图中恶意软件文件的某些特征仍然未被触及,这导致检测到对抗性恶意软件变体。为了利用这个机会,我们提出了对抗性鲁棒多视图恶意软件防御(ARMD),这是一种新型的多视图学习框架,用于提高基于DL的恶意软件检测器对对抗性变体的鲁棒性。我们在三个著名的基于开源深度学习的恶意软件检测器上进行的实验表明,ARMD能够将这些恶意软件检测器的对抗鲁棒性提高多达七倍。
2022-10-25 cs.AI cs.CR cs.LG
Epistemic Generative Adversarial Networks
School of Engineering, Computing and Mathematics(工程、计算与数学学院);Oxford Brookes University(奥xford布鲁克斯大学)
本文基于Dempster-Shafer证据理论改进GAN损失函数,提出生成器预测像素质心函数的架构,提升生成多样性与不确定性建模能力。
2026-03-18 cs.CV cs.LG
Deep Snow: Synthesizing Remote Sensing Imagery with Generative Adversarial Nets
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Descartes Labs, Inc(笛卡尔实验室公司)
在这项工作中,我们证明了生成对抗网络(GANs)可以用于在遥感图像中生成逼真的普遍变化,即使在不成对的训练环境中。我们研究了一些基于生成图像和真实图像的深度嵌入的变换质量度量,这些图像能够可视化和理解GAN的训练动态,并且可以在量化生成图像与真实图像的区别方面提供有用的度量。我们还识别了由GAN在生成的图像中引入的一些伪影,这些伪影可能会导致深度嵌入特征空间中真实样本和生成样本之间的差异,即使在真实样本和生成样本在感知上相似的情况下也是如此。
2020-05-18 cs.CV cs.LG eess.IV
HoechstGAN: Virtual Lymphocyte Staining Using Generative Adversarial Networks
University of St Andrews(圣安德鲁斯大学);Lothian NHS University Hospitals(洛锡安NHS大学医院)
特定类型免疫细胞的存在和密度对于了解患者对癌症的免疫反应非常重要。然而,识别T细胞亚型所需的免疫荧光染色是昂贵的,耗时的,并且很少在临床环境中进行。我们提出了一个框架,虚拟染色Hoechst图像(这是廉价和广泛的)与CD3和CD8,以确定T细胞亚型在透明细胞肾细胞癌使用生成对抗网络。我们提出的方法联合学习两个染色任务,激励网络从每个任务中整合互利的信息。我们设计了一种新的度量来量化虚拟染色质量,并使用它来评估我们的方法。
2022-10-17 cs.CV cs.LG q-bio.QM
Training Generative Adversarial Networks via stochastic Nash games
TU Delft(代尔夫特理工大学)
生成对抗网络(GANs)是一类具有两个对抗性神经网络的生成模型:生成器和神经网络。这两个神经网络通过对抗过程相互竞争,该过程可以建模为随机纳什均衡问题。由于相关的训练过程具有挑战性,因此设计可靠的算法来计算均衡是至关重要的。在本文中,我们提出了一个随机放松的前向-后向(SRFB)算法的GANs,我们证明了收敛到一个精确的解决方案时,越来越多的数据是可用的。我们还表明收敛的平均变体的SRFB算法的解决方案的邻域时,只有很少的样本。在这两种情况下,当博弈的伪梯度映射是单调的时,收敛性是有保证的。这一假设是文献中已知的最弱假设之一。此外,我们应用我们的算法的图像生成问题。
2021-05-21 cs.GT cs.LG math.OC
Generative Adversarial Network Architectures For Image Synthesis Using Capsule Networks
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
在本文中,我们提出了生成对抗网络(GAN)架构,使用胶囊网络进行图像合成。基于特征的位置等方差原理,胶囊网络对图像特征之间的空间关系进行编码的能力有助于它成为比当前图像合成架构中使用的卷积神经网络(CNN)更强大的批评者。我们提出的GAN架构学习数据流形的速度要快得多,因此,与使用CNN的GANs及其变体相比,可以在更少的训练样本和训练时间内合成视觉上准确的图像。除了分析不同架构生成的图像对应的定量结果外,我们还探索了使用CNN批评的GAN架构所探索的覆盖率和多样性较低的原因。
2018-11-20 cs.CV cs.LG cs.NE
Single-Shot Black-Box Adversarial Attacks Against Malware Detectors: A Causal Language Model Approach
University of Arizona(亚利桑那大学);University of South Florida(南佛罗里达大学)
基于深度学习(DL)的恶意软件检测器越来越多地被用于网络安全中恶意行为的早期检测。然而,它们对对抗性恶意软件变体的敏感性引发了巨大的安全问题。防御者生成这种对抗性变体对于提高基于DL的恶意软件检测器对它们的抵抗力至关重要。这种必要性已经引起了机器学习研究的新兴流,对抗性恶意软件示例生成(AMG),其旨在生成保留给定恶意软件的恶意功能的规避性对抗性恶意软件变体。在AMG研究中,黑盒方法比白盒方法得到了更多的关注。然而,大多数黑盒AMG方法需要与恶意软件检测器进行多次交互,以生成对抗性恶意软件示例。鉴于大多数恶意软件检测器强制执行查询限制,这可能会导致生成不现实的对抗性示例,由于缺乏隐身性,这些示例在实践中可能会被检测到。在这项研究中,我们证明了一种新的基于DL的因果语言模型能够实现单发逃避(即,只有一个对恶意软件检测器的查询),这是通过将恶意软件可执行文件的内容作为字节序列处理并训练生成预训练Transformer(GPT)来实现的。我们提出的方法,MalGPT,显着优于领先的基准方法从VirusTotal获得的真实世界的恶意软件数据集,达到超过24.51%的规避率。MalGPT使网络安全研究人员能够通过模拟大规模的真实AMG来开发先进的防御能力。
2021-12-03 cs.AI cs.CR
Brain Tumor Classifiers Under Attack: Robustness of ResNet Variants Against Transferable FGSM and PGD Attacks
Department of Computer Science(计算机科学系);Computer Science and Software Engineering(计算机科学与软件工程)
本文研究了ResNet变体在FGSM和PGD攻击下的鲁棒性,发现BrainNeXt在对抗攻击中表现最稳健,但生成的可迁移对抗样本较弱,而BrainNet和DilationNet在特定攻击条件下更易受攻击。
2026-02-12 cs.AI cs.CV
Quantifying How Training Gradient Sparsity Affect Spiking Neural Network Accuracy And Robustness
College of Information and Communication Technology, Can Tho University, Vietnam(越南金瓯大学信息与通信技术学院);College of Engineering and Computer Science, VinUniversity, Hanoi, Vietnam(越南河内Vin大学工程与计算机科学学院);Center of Digital Transformation and Communication, Can Tho University, Vietnam(越南金瓯大学数字转型与通信中心);Department of Computer Science and Engineering, The University of Aizu, Japan(日本立命馆大学计算机科学与工程系)
本研究发现特定架构下SNNs自然具有梯度稀疏性,无需正则化即可实现对抗防御性能,揭示了梯度稀疏性在鲁棒性与泛化能力间的权衡关系。
2026-09-29 cs.AI cs.CV cs.NE
$f$-GAIL: Learning $f$-Divergence for Generative Adversarial Imitation Learning
Worcester Polytechnic Institute(伍斯特理工学院);University of Minnesota(明尼苏达大学)
模仿学习(IL)的目的是从专家示范中学习一种策略,最大限度地减少学习者和专家行为之间的差异。已经提出了各种模仿学习算法,其具有不同的预定分歧以量化差异。这自然产生了以下问题:给定一组专家演示,哪种分歧可以更准确地恢复专家策略,并具有更高的数据效率?在这项工作中,我们提出了$f$ -GAIL,一个新的生成对抗模仿学习(GAIL)模型,自动学习的差异措施,从$f$分歧家庭以及能够产生专家般的行为的政策。与具有各种预定义偏差度量的IL基线相比,$f$ -GAIL在六个基于物理的控制任务中学习到更好的策略和更高的数据效率。
2020-11-19 cs.AI cs.LG stat.ML
Durable Evaluation Framework: Adversarial Arbitration for Sycophancy Reduction in Large Language Models
Novel Systems Engineering LLC(新型系统工程有限公司)
提出原则性智能体辩论(PAD)多智能体架构,通过仲裁两个对立倾向的模型并盲评其论点,在SycophancyEval上显著降低谄媚偏差,最佳变体准确率达48.5%。
2026-06-09 cs.AI cs.CL