MacroGuide: Topological Guidance for Macrocycle Generation
University of Oxford(牛津大学)
MacroGuide通过持久同调引导预训练扩散模型生成宏环,显著提高生成效率并提升质量指标
2026-02-16 cs.LG
Fluid Grey 2: How Well Does Generative Adversarial Network Learn Deeper Topology Structure in Architecture That Matches Images?
Bartlett School of Architecture, University College London(伦敦大学学院巴特莱特建筑学院)
本文提出通过添加grasshopper模块检测pix2pix学习拓扑关系的能力,证明其在建筑设计中的应用潜力。
2025-11-20 cs.AI cs.CV cs.LG
Capturing the Topological Phase Transition and Thermodynamics of the 2D XY Model via Manifold-Aware Score-Based Generative Modeling
Bengaluru, India(印度班加罗尔)
本文提出流形感知的分数生成模型,用于捕捉二维XY模型的拓扑相变与热力学特性,实现了高精度的分数估计和零样本泛化。
2026-02-07 cond-mat.stat-mech cs.LG
Labeled Graph Generative Adversarial Networks
Virginia Tech(弗吉尼亚理工大学);Tufts University(塔夫茨大学)
\emph{generative adversarial networks}(GANs)作为一种新的生成模型训练方法,在图像生成方面取得了巨大的成功。这个框架最近也被应用于具有图形结构的数据。我们提出了标记图生成对抗网络(LGGAN)来训练具有节点标签的图结构数据的深度生成模型。我们在各种类型的图形数据集上测试了该方法,例如引文网络和蛋白质图的集合。实验结果表明,该模型能够生成与训练数据结构特征相匹配的标记图,在质量和通用性上优于其他方法。为了进一步评估生成的图的质量,我们将它们用于图分类的下游任务,结果表明LGGAN可以忠实地捕获图结构的重要方面。
2021-02-25 cs.LG stat.ML
Topology-Aware Generative Adversarial Network for Joint Prediction of Multiple Brain Graphs from a Single Brain Graph
Istanbul Technical University(伊斯坦布尔技术大学);Université de Sousse(苏塞大学)
最近已经提出了基于生成对抗网络(GAN)的几项工作,以从单个模态(例如,从T1 MRI的FLAIR MRI)预测一组医学图像。然而,这样的框架主要被设计为对图像进行操作,限制了它们对非欧几里德几何数据(如脑图)的通用性。虽然越来越多的连接组学研究已经证明了包括用于诊断神经系统疾病的脑图的前景,但没有几何深度学习工作被设计用于从源脑图预测多个目标脑图。尽管图形生成领域在过去两年中取得了很大的发展势头,但现有的作品有两个关键的缺点。首先,大部分这样的工作旨在为每个目标域学习一个模型,以从源域生成。因此,它们在联合预测多个目标域时具有有限的可扩展性。其次,它们仅仅考虑图的全局拓扑规模(即,图连通性结构)并忽略图的节点尺度上的局部拓扑(例如,节点在图中的中心程度)。为了应对这些挑战,我们引入了MultiGraphGAN架构,该架构不仅可以从单个脑图预测多个脑图,还可以保留每个目标图的拓扑结构进行预测。其三个核心贡献在于:(i)设计一个图对抗自动编码器,用于从单个脑图联合预测脑图;(ii)通过对编码的源图进行聚类并提出一个特定于聚类的解码器来处理GAN的模式坍塌问题;(iii)引入拓扑损失来强制重建拓扑上合理的目标脑图。我们的MultiGraphGAN显著优于其变体,从而显示出其在从单个图形生成多视图大脑图形方面的巨大潜力。
2020-09-23 cs.LG stat.ML
Generative adversarial networks for generation and classification of physical rehabilitation movement episodes
University of Idaho(爱达荷大学)
本文提出了一种方法,通过使用人工神经网络的物理治疗过程中进行的患者运动情节相关的人体运动的数学建模。采用生成对抗网络结构,由此以对抗方式同时训练判别模型和生成模型。不同的网络架构进行了检查,与歧视性和生成模型结构的深层子网络的隐藏层组成的卷积或循环计算单元。该模型进行了验证的数据集上的人体运动记录与光学运动跟踪器。结果表明,新的运动实例的分类的网络的能力,并生成类似于所记录的运动序列的运动示例。
2018-12-15 cs.LG stat.ML
Autoencoding Generative Adversarial Networks
Flatland Data Solutions(Flatland数据解决方案公司)
自从Goodfellow等人引入生成对抗网络(GANs)以来,生成模型应用的广度和质量都出现了爆炸式增长。尽管做了这些工作,但GANs在主流采用之前还有很长的路要走,这主要是因为它们臭名昭著的训练不稳定性。在这里,我提出了自动编码生成对抗网络(AEGAN),这是一个四网络模型,它通过对生成的图像和生成的潜在向量应用对抗损失和重建损失来学习指定潜在空间和给定样本空间之间的双射映射。AEGAN技术对典型的GAN训练提供了若干改进,包括训练稳定性、模式崩溃预防以及允许在真实样本之间直接插值。该技术的有效性说明使用动漫人脸数据集。
2020-04-11 cs.LG stat.ML
DOOM Level Generation using Generative Adversarial Networks
Dipartimento di Elettronica, Informazione e Bioinformatica(电子信息与生物信息学院)
本文利用GANs从人类设计的DOOM关卡中学习模型,通过提取拓扑特征和图像数据生成新关卡,并验证结合拓扑特征的GAN能生成更接近人类设计的关卡。
2018-04-24 cs.HC cs.LG stat.ML
Comparative Study on Generative Adversarial Networks
University of Waterloo(滑铁卢大学)
近年来,机器学习领域取得了巨大的进步。这些进步是通过学术和工业研究取得的。近年来,在计算机视觉和图像分类领域,大量的研究致力于生成模型的使用。这些生成模型已经通过一个名为生成对抗网络的新框架得到推广。此外,在过去两年中,对这一框架提出了许多修改版本。我们研究了Goodfellow等人提出的原始模型以及对原始模型的修改,并对这些模型进行了比较分析。
2018-01-12 cs.AI cs.LG
Semi-Supervised Learning with Generative Adversarial Networks
我们将生成对抗网络(GANs)扩展到半监督上下文,迫使生成对抗网络输出类标签。我们训练一个生成模型G和一个具有属于N个类之一的输入的数据集上的一个生成模型D。在训练时,D被用来预测输入属于N+1个类中的哪一个,其中添加额外的类以对应于G的输出。我们表明,这种方法可以用来创建一个更有效的数据分类器,它允许生成更高质量的样本比常规的GAN。
2016-10-22 cs.LG stat.ML
IVE-GAN: Invariant Encoding Generative Adversarial Networks
Bayer AG(拜耳公司)
生成对抗网络(GANs)是生成任务的强大框架。然而,它们难以训练,并且往往会错过真实数据生成过程的模式。虽然GANs可以在其潜在空间中学习数据的覆盖模式的丰富表示,但该框架错过了从数据到该潜在空间的逆映射。我们提出了不变编码生成对抗网络(IVE-GANs),这是一种新的GAN框架,它通过利用数据中对某些变换不变的特征,为数据中的单个样本引入了这种映射。由于模型将单个样本映射到潜在空间,因此它自然会鼓励生成器覆盖所有模式。我们证明了我们的方法在生成性能和学习丰富的表示几个数据集,包括常见的基准图像生成任务方面的有效性。
2017-11-23 cs.LG stat.ML
Intervention Generative Adversarial Networks
Center for Data Science, Peking University(北京大学数据科学中心);School of Mathematical Sciences, Peking University(北京大学数学科学学院)
在本文中,我们提出了一种新的方法来稳定生成对抗网络的训练过程,以及减轻模式崩溃问题。主要想法是在目标中引入一个正则化项,我们称之为干预损失。我们将由此产生的生成模型称为干预生成对抗网络(IVGAN)。通过用高斯不变干预扰动从辅助编码器网络获得的真实图像的潜在表示并惩罚所产生的生成图像的分布的不相似性,干预损失为生成器提供了更多的信息梯度,显著提高了GAN的训练稳定性。我们证明了我们的方法的有效性和效率,通过坚实的理论分析和标准的真实世界的数据集,以及堆栈MNIST数据集上的全面评估。
2020-08-09 cs.LG stat.ML
Investigating Under and Overfitting in Wasserstein Generative Adversarial Networks
Google Research(谷歌研究院)
我们研究生成对抗网络(GANs)中的欠拟合和过拟合,使用生成器看不到的鉴别器来测量泛化。我们发现,模型的容量的控制器有一个显着的影响,对发电机的模型质量,和发电机的性能差相吻合的控制器欠拟合。与我们的预期相反,我们发现,相对于CIFAR10,CIFAR100和CelebA,具有大模型容量的发电机没有表现出过拟合的证据。
2019-10-30 cs.LG stat.ML
Towards Principled Methods for Training Generative Adversarial Networks
Courant Institute of Mathematical Sciences(库朗数学科学研究所);Facebook AI Research(Facebook人工智能研究院)
本文的目标不是介绍一种算法或方法,而是为全面理解生成对抗网络的训练动态提供理论基础。为了证实我们的理论分析,我们进行了有针对性的实验,以验证我们的假设,说明我们的主张,并量化的现象。本文共分为三个部分。第一部分介绍了当前的问题。第二部分致力于研究和严格证明生成对抗网络训练时出现的问题,包括不稳定性和饱和度。第三部分探讨了解决这些问题的实际和理论基础的方向,同时引入新的工具来研究它们。
2017-01-17 cs.LG stat.ML
Variational Approaches for Auto-Encoding Generative Adversarial Networks
DeepMind
自动编码生成对抗网络(GANs)结合了标准的GAN算法,该算法区分真实和模型生成的数据,并由自动编码器给出重建损失。这些模型旨在通过确保学习生成模型基于所有可用的训练数据来防止学习生成模型中的模式崩溃。在本文中,我们开发了一种原理,通过利用生成模型的分层结构,可以将自动编码器与生成对抗网络相结合。其基本原理表明,变分推断可以用作学习的基本工具,但不可处理的似然被合成似然代替,未知的后验分布被隐式分布代替;合成似然和隐式后验分布都可以使用鉴别器来学习。这使我们能够开发变分自动编码器和生成对抗网络的自然融合,结合这两种方法的优点。我们描述了一个统一的优化目标,讨论了指导学习所需的约束条件,连接到广泛的现有工作,并使用一系列测试来系统地和定量地评估我们的方法的性能。
2017-10-21 cs.LG stat.ML
OptiGAN: Generative Adversarial Networks for Goal Optimized Sequence Generation
Monash University(莫纳什大学);The University of Melbourne(墨尔本大学)
序列生成任务中的一个挑战性问题是具有特定期望目标的序列的优化生成。当前的序列生成模型主要生成序列以紧密地模仿训练数据,而没有直接优化特定于任务的期望目标或属性。我们引入了OptiGAN,这是一种生成模型,它结合了生成对抗网络(GAN)和强化学习(RL),使用策略梯度来优化所需的目标得分。我们将我们的模型应用于文本和实值序列生成,其中我们的模型能够获得比GAN和RL基线更高的期望分数,同时不牺牲输出样本多样性。
2021-01-14 cs.LG stat.ML
Generalized Latent Variable Recovery for Generative Adversarial Networks
Massachusetts Institute of Technology(麻省理工学院)
生成对抗网络(GAN)的生成器经过训练,可以将从先验分布中提取的潜在向量转换为逼真的照片。这些潜在向量已经被证明可以对关于其对应图像的内容的信息进行编码。将输入图像投影到GAN的潜在空间上是不平凡的,但是以前的工作已经成功地执行了具有均匀先验的潜在空间的任务。我们将这些技术扩展到高斯先验的潜在空间,并证明了我们的技术的有效性。
2018-10-09 cs.LG stat.ML
Scalable Unbalanced Optimal Transport using Generative Adversarial Networks
Massachusetts Institute of Technology(麻省理工学院)
生成对抗网络(GANs)是一类表现力很强的神经生成模型,在建模高维连续度量方面取得了巨大成功。在本文中,我们提出了一个可扩展的方法,不平衡的最佳运输(OT)的基础上生成的对抗框架。我们制定不平衡OT作为一个问题,同时学习的运输地图和缩放因子,推动源措施的目标措施,以成本最优的方式。此外,我们提出了一种基于随机交替梯度更新的算法来解决这个问题,在实践中类似于GANs。我们还为这种公式提供了理论依据,表明它与Liero等人(2018)的现有静态公式密切相关,并进行了数值实验,证明了这种方法如何应用于人口建模。
2019-08-04 cs.LG stat.ML
On the Performance of Generative Adversarial Network (GAN) Variants: A Clinical Data Study
Korea University(高丽大学);Georgia Institute of Technology(佐治亚理工学院);Case Western Reserve University(凯斯西储大学);University of Central Florida(中佛罗里达大学)
生成对抗网络(GAN)是一种有用的神经网络类型,用于各种类型的应用,包括生成模型和特征提取。各种类型的GANs正在以不同的见解进行研究,从而产生了各种各样的GANs家族,每一代都有更好的性能。本文重点介绍了各种GANs的共同特征分类。
2020-09-21 cs.AI cs.LG cs.NE
Graphical Generative Adversarial Networks
Tsinghua University(清华大学);University of Amsterdam(阿姆斯特丹大学);Canadian Institute for Advanced Research(加拿大高等研究院)
我们提出了图形生成对抗网络(Graphical-GAN)来建模结构化数据。Graphical-GAN结合了贝叶斯网络在复杂表示随机变量之间的依赖结构方面的能力和生成对抗网络在学习表达依赖函数方面的能力。我们引入了一个结构化的识别模型来推断潜变量的后验分布的观察。我们推广的期望传播(EP)算法学习的生成模型和识别模型联合。最后,我们提出了两个重要的图形-GAN的实例,即高斯混合GAN(GM GAN)和状态空间GAN(SS GAN),它们可以成功地学习离散和时间结构的视觉数据集,分别。
2018-12-12 cs.CV cs.LG stat.ML
Latent Dirichlet Allocation in Generative Adversarial Networks
University of Electronic Science and Technology of China(电子科技大学)
我们研究了基于生成对抗网络(GANs)的图像多模态生成建模问题。尽管现有的方法取得了成功,但它们往往忽略了视觉数据的底层结构或其多模态生成特性。为了解决这个问题,我们引入狄利克雷先验的多模态图像生成,这导致了一个新的潜在狄利克雷分配的GAN(LDAGAN)。详细地,对于生成过程建模,LDAGAN为每个样本定义生成模式,确定其属于哪个生成子过程。对于对抗训练,LDAGAN推导出一种变分期望最大化(VEM)算法来估计模型参数。在真实数据集上的实验结果表明,LDAGAN的性能优于其他现有的GANs。
2019-11-06 cs.CV cs.LG stat.ML
Alias-Free Generative Adversarial Networks
NVIDIA(英伟达);Aalto University(阿尔托大学)
我们观察到,尽管它们具有分层卷积的性质,但典型的生成对抗网络的合成过程以一种不健康的方式依赖于绝对像素坐标。这表现为,例如,细节看起来粘在图像坐标上,而不是所描绘对象的表面上。我们追踪根本原因是粗心的信号处理导致了发生器网络中的混叠。将网络中的所有信号解释为连续的,我们得到普遍适用的,小的架构变化,保证不需要的信息不能泄漏到分层合成过程。由此产生的网络与StyleGAN2的FID相匹配,但在内部表示上有很大的不同,即使在子像素尺度上,它们也完全等变于平移和旋转。我们的研究结果为更适合视频和动画的生成模型铺平了道路。
2021-10-18 cs.AI cs.CV cs.LG
Regularized Generative Adversarial Network
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
我们提出了一个框架,用于从不同于训练集的概率分布的概率分布生成样本。我们使用一个对抗过程,同时训练三个网络,一个生成器和两个判别器。我们将这种新模型称为正则化生成对抗网络(RegGAN)。我们在由灰度图像组成的合成数据集上评估RegGAN,并进一步表明它可以用于学习拓扑中的一些预先指定的概念(基本拓扑属性)。这项工作的动机是在艺术世界中使用生成方法时遇到的实际问题。
2021-02-09 cs.AI cs.CV cs.LG
Generative Adversarial Networks: recent developments
Wrocław University of Science and Technology(弗罗茨瓦夫科技大学);Tooploox Ltd.(图普洛克斯有限公司)
在传统的生成式建模中,良好的数据表示通常是良好的机器学习模型的基础。它可以链接到编码更多隐藏在原始数据中的解释性因素的良好表示。随着生成对抗网络(GANs)的发明,生成模型的一个子类,能够以无监督和半监督的方式学习表示,我们现在能够从简单的先验分布到目标数据分布的良好映射。本文概述了GANs的最新发展,重点是学习潜在空间表示。
2019-03-16 cs.CV cs.LG stat.ML
Generating Images Part by Part with Composite Generative Adversarial Networks
Seoul National University(首尔大学)
图像生成仍然是一般人工智能和具体深度学习中的基本问题。生成对抗网络(GAN)成功生成了高质量的自然图像样本。我们提出了一个称为复合生成对抗网络的模型,它揭示了具有多个生成器的图像的复杂结构,其中每个生成器生成图像的某个部分。这些部分通过alpha混合过程组合以创建新的单个图像。例如,它可以在人脸数据集上训练后,使用两个生成器依次生成背景和人脸。训练是以无监督的方式进行的,没有任何关于每个生成器应该生成什么的标签。我们发现学习的可能性,通过使用这种生成模型经验的结构。
2016-11-14 cs.AI cs.CV cs.LG
Generative Adversarial Networks with Conditional Neural Movement Primitives for An Interactive Generative Drawing Tool
Bogazici University(博阿齐奇大学)
素描是视觉感知和视觉空间建构的抽象表现。在这项工作中,我们提出了一个新的框架,生成对抗网络与条件神经运动原语(GAN-CNMP),它结合了一种新的对抗损失CNMP,以提高草图的平滑性和一致性。通过实验,我们证明了该模型可以用较少的未标记样本进行训练,可以在潜在空间中自动构造分布,并且在形状一致性和平滑性方面比基本模型产生更好的结果。
2021-12-21 cs.AI cs.CV cs.GR
Generative Adversarial Networks for text using word2vec intermediaries
University of Toronto(多伦多大学);Vector Institute(向量研究院);St Michael’s Hospital(圣迈克尔医院)
生成对抗网络(GANs)已经取得了相当大的成功,特别是在真实图像的生成方面。在这项工作中,我们采用类似的技术来生成文本。我们提出了一种新的方法来处理文本的离散性,在训练过程中,使用词嵌入。我们的方法是不可知的词汇量的大小,并取得了竞争力的结果相对于各种离散梯度估计的方法。
2019-04-04 cs.AI cs.CL cs.LG
FairGAN: Fairness-aware Generative Adversarial Networks
University of Arkansas(阿肯色大学)
公平感知学习在数据采掘中越来越重要。歧视预防的目的是在训练数据用于进行预测分析之前,防止在训练数据中出现歧视。在本文中,我们专注于公平的数据生成,确保生成的数据是无歧视的。受生成对抗网络(GAN)的启发,我们提出了一种公平感知的生成对抗网络,称为公平GAN,它能够学习生成公平数据的生成器,并保持良好的数据效用。与朴素的公平数据生成模型相比,FairGAN进一步保证了在生成数据上训练的分类器可以在真实数据上实现公平分类。在真实数据集上的实验表明了FairGAN的有效性。
2018-05-28 cs.CY cs.LG stat.ML
An attempt to generate new bridge types from latent space of generative adversarial network
Wanshi Antecedence Digital Intelligence Traffic Technology Co., Ltd(万世先见数智交通科技有限公司)
本研究利用生成对抗网络,基于Python、TensorFlow和Keras框架及四种对称结构桥梁图像数据集,通过低维潜在空间采样生成具有不对称结构的新桥型,展现了生成式AI的原创能力与启发潜力。
2024-01-01 cs.AI cs.CV cs.LG
Modeling documents with Generative Adversarial Networks
Aylien Ltd.(Aylien有限公司)
本文描述了一种使用生成对抗网络来学习自然语言文档的分布式表示的方法。我们提出了一个模型,该模型是基于最近提出的基于能量的GAN,而是使用一个去噪自动编码器作为网络。文档表示提取的隐藏层中的隐藏层和定量和定性的评价。
2016-12-29 cs.LG
Pioneer Networks: Progressively Growing Generative Autoencoder
Aalto University(阿尔托大学);GenMind Ltd(GenMind有限公司)
我们引入了一种新的生成式自动编码器网络模型,该模型学习以高质量和高分辨率编码和重建图像,并支持从编码器的潜在空间中进行平滑随机采样。生成对抗网络(GANs)以其模拟随机高质量图像的能力而闻名,但它们无法重建现有图像。以前的工作试图扩展GANs来支持这种推理,但到目前为止,还没有提供令人满意的高质量结果。相反,我们提出了渐进式增长生成自动编码器(PIONEER)网络,它实现了高质量的重建与$128{\times}128$图像,而不需要一个GAN编码器。我们将最近的技术与最近引入的对抗编码器生成器网络相结合,逐步构建网络的各个部分。重建输入图像的能力在许多现实世界的应用中至关重要,并允许对现有图像进行精确的智能操作。我们在图像合成和推理方面取得了可喜的成果,在CelebA推理任务中取得了最先进的成果。
2018-10-09 cs.CV cs.LG stat.ML
NIPS 2016 Tutorial: Generative Adversarial Networks
OpenAI
本报告总结了作者在NIPS 2016上介绍的关于生成对抗网络(GANs)的教程。该教程介绍:(1)为什么生成建模是一个值得研究的话题,(2)生成模型如何工作,以及GANs与其他生成模型的比较,(3)GANs如何工作的细节,(4)GANs的研究前沿,以及(5)将GANs与其他方法相结合的最先进的图像模型。最后,本教程包含三个练习供读者完成,以及这些练习的解决方案。
2017-04-03 cs.LG
Versatile Auxiliary Classifier with Generative Adversarial Network (VAC+GAN), Multi Class Scenarios
National University of Ireland Galway(爱尔兰国立大学戈尔韦分校)
条件生成器学习多类场景中每个类的数据分布,并在给定潜在空间的正确输入的情况下为特定类生成样本。在这项工作中,被称为“多功能辅助分类器与生成对抗网络“的多类场景的方法。在这种技术中,生成对抗网络(GAN)的生成器通过将多类分类器与PNN网络并行放置并通过生成器反向传播分类错误而变成条件生成器。这种技术是通用的,足以应用于任何GAN实现。在两个数据库上的结果以及与其他方法的比较。
2018-06-19 cs.LG eess.IV stat.ML
Freeform Diffractive Metagrating Design Based on Generative Adversarial Networks
Stanford University(斯坦福大学);Google AI Applied Science(谷歌AI应用科学部)
元表面设计中的一个关键挑战是开发能够有效且高效地生产高性能器件的算法。基于迭代优化的设计方法可以推动元表面的性能极限,但它们需要大量的计算资源,这将它们的实现限制在少量的微尺度器件上。我们发现,生成神经网络可以训练周期性的,拓扑优化的metagratings的图像,以产生高效率,拓扑复杂的设备在广泛的偏转角和波长。这些设计的进一步迭代优化产生具有增强的鲁棒性和效率的设备,并且这些设备可以用作用于网络细化的附加训练数据。以这种方式,生成网络可以被训练,一次性计算成本,并用作设计工具,以促进接近最佳的,拓扑复杂的器件设计的生产。我们设想,这种数据驱动的设计方法可以适用于其他物理科学领域,需要设计的功能元件在一个广泛的参数空间。
2019-06-19 cs.LG physics.optics
Sampling Generative Networks
Victoria University of Wellington(惠灵顿维多利亚大学)
我们介绍了几种技术的采样和可视化生成模型的潜在空间。用球面线性插值替换线性插值可防止偏离模型的先验分布,并生成更清晰的样本。J-Diagrams和MINE grids被引入作为由类比和最近邻创建的流形的可视化。我们展示了两种新的技术,用于获得属性向量:偏差校正向量与数据复制和合成向量与数据增强。使用属性向量的二进制分类作为一种技术,支持定量分析的潜在空间。大多数技术旨在独立于模型类型,并且在变分自编码器和生成对抗网络上都显示了示例。
2016-12-06 cs.LG cs.NE stat.ML
Logic Tensor Network-Enhanced Generative Adversarial Network
The University of Edinburgh(爱丁堡大学)
LTN-GAN结合逻辑张量网络与GAN,通过强制逻辑约束提升生成样本的多样性和一致性。
2026-01-07 cs.AI cs.LG cs.LO
Training Generative Adversarial Networks Via Turing Test
School of Mathematics(数学学院);Sun Yat-sen University(中山大学)
在这篇文章中,我们介绍了一种用于训练生成对抗网络(GANs)的新模式。我们不是最小化证据分布$\tilde{p}(x)$和生成分布$q(x)$的距离,而是最小化$\tilde{p}(x_r)q(x_f)$和$\tilde{p}(x_f)q(x_r)$的距离。这种对抗模式可以被解释为GANs中的图灵测试。它允许我们在训练生成器的过程中使用真实样本的信息,加快了整个训练过程。我们甚至发现,只要按比例增加矩阵和生成器的大小,它就可以在256x256分辨率上成功,而无需仔细调整超参数。
2018-10-27 cs.CV cs.LG stat.ML
Quantum generative adversarial networks
Xanadu
量子机器学习有望成为近期量子设备的首批潜在通用应用之一。经典机器学习最近的一个重大突破是生成对抗训练的概念,其中一个训练模型的梯度被用来训练一个单独的生成模型。在这项工作和一篇配套论文中,我们将对抗训练扩展到量子领域,并展示了如何使用量子线路构建生成对抗网络。此外,我们还展示了如何使用另一个量子线路计算梯度-生成对抗网络训练中的关键要素。我们给出了一个简单的实用电路模型的例子来参数化量子机器学习模型,并进行了一个简单的数值实验来证明量子生成对抗网络可以成功训练。
2018-04-30 cs.LG quant-ph
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater(威斯康星大学白水分校)
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题,我们可以更好地理解生成的作品所需的参数,这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
Generative Adversarial Networks for Automatic Polyp Segmentation
University of Oslo(奥斯陆大学)
本文旨在使用生成对抗网络框架对自动息肉分割问题进行基准测试。将问题视为图像到图像的翻译任务,利用条件生成对抗网络来生成由图像作为输入的条件掩码。生成器和卷积神经网络都是基于卷积神经网络的。模型的Jaccard指数为0.4382,F2得分为0.611。
2020-12-12 cs.CV cs.LG eess.IV
Generative Adversarial Network Architectures For Image Synthesis Using Capsule Networks
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
在本文中,我们提出了生成对抗网络(GAN)架构,使用胶囊网络进行图像合成。基于特征的位置等方差原理,胶囊网络对图像特征之间的空间关系进行编码的能力有助于它成为比当前图像合成架构中使用的卷积神经网络(CNN)更强大的批评者。我们提出的GAN架构学习数据流形的速度要快得多,因此,与使用CNN的GANs及其变体相比,可以在更少的训练样本和训练时间内合成视觉上准确的图像。除了分析不同架构生成的图像对应的定量结果外,我们还探索了使用CNN批评的GAN架构所探索的覆盖率和多样性较低的原因。
2018-11-20 cs.CV cs.LG cs.NE
O-GAN: Extremely Concise Approach for Auto-Encoding Generative Adversarial Networks
本文提出了正交生成对抗网络(O-GANs)。我们将编码器的网络进行正交分解,并在普通GANs的目标中添加额外的损失,这可以使编码器成为一个有效的编码器。同样的额外损失可以嵌入到任何类型的GANs中,并且几乎没有增加计算量。此外,我们讨论了我们的方法的原则,这是相对于充分利用剩余的自由度的时间。正如我们所知,我们的解决方案是训练一个具有自动编码能力的生成对抗网络的最简单方法。
2019-03-05 cs.CV cs.LG
Reducing the Computational Cost of Deep Generative Models with Binary Neural Networks
University College London(伦敦大学学院)
深度生成模型提供了一套强大的工具来理解真实世界的数据。但随着这些模型的改进,它们的大小和复杂性也会增加,因此它们在内存和执行时间上的计算成本也会增加。在神经网络中使用二进制权重是一种有望降低这种成本的方法。然而,二进制神经网络是否可以用于生成模型是一个悬而未决的问题。在这项工作中,我们表明,第一次,我们可以成功地训练生成模型,利用二进制神经网络。这大大降低了模型的计算成本。我们开发了一类新的二进制权重归一化,并为这些二进制生成模型的架构设计提供了见解。我们证明了两个最先进的深度生成模型,ResNet VAE和Flow++模型,可以使用这些技术有效地二进制化。我们训练二进制模型,使其损失值接近常规模型的损失值,但大小要小90%-94%,并且还允许显著加快执行时间。
2021-05-03 cs.LG
Permutation Equivariant Generative Adversarial Networks for Graphs
University of Geneva(日内瓦大学)
图生成建模中讨论最多的问题之一是表示的排序。一种解决方案包括使用等变生成函数,这确保了排序不变性。在讨论了这些函数的一些性质之后,我们提出了3G-GAN,一个依赖于GANs和等变函数的3阶段模型。该模型仍在开发中。然而,我们提出了一些令人鼓舞的探索性实验,并讨论了仍有待解决的问题。
2021-12-07 cs.LG
Generative Adversarial Network for Handwritten Text
Zhejiang University(浙江大学);Microsoft Cloud & AI(微软云与AI)
生成对抗网络(GANs)在图像处理的各种应用中已经证明是非常成功的。然而,由于卷积神经网络(CNN)难以处理连续的手写数据,手写生成对抗网络相对较少。在本文中,我们提出了一个手写生成对抗网络框架(HWGANs)合成手写笔画数据。新框架的主要特征包括:(i)一个由集成的CNN-长短期记忆(LSTM)为基础的特征提取与路径签名特征(PSF)作为输入和前馈神经网络(FNN)为基础的二进制分类器组成的分类器;(ii)一个循环潜在变量模型作为生成器,用于合成顺序手写数据。数值试验表明了新模型的有效性。与单一手写体生成器相比,HWGAN生成的手写体文本更加自然逼真。
2020-02-27 cs.CV cs.LG
Unsupervised Projection Networks for Generative Adversarial Networks
UC Berkeley(加州大学伯克利分校)
我们建议使用无监督学习来训练投影网络,投影到已经训练好的生成器的潜在空间上。我们将我们的方法应用于经过训练的StyleGAN,并使用我们的投影网络来执行图像超分辨率和图像聚类到语义可识别的组中。
2019-10-06 cs.CV cs.LG eess.IV
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Modeling urbanization patterns with generative adversarial networks
Massachusetts Institute of Technology(麻省理工学院);Lawrence Berkeley National Laboratory (LBNL)(劳伦斯伯克利国家实验室);German Aerospace Center (DLR)(德国航空航天中心);Philips Research U.S.A.(飞利浦美国研究院);University of California, Berkeley(加州大学伯克利分校)
在这项研究中,我们提出了一种新的方法来模拟超现实的城市模式,使用生成对抗网络训练与全球城市土地利用清单。我们生成了一个合成的城市“宇宙”,它在质量上再现了在全球城市模式中观察到的复杂空间组织,同时能够定量地恢复某些关键的高层次城市空间指标。
2018-01-08 cs.LG
Unsupervised Anomaly Detection and Localization with Generative Adversarial Networks
Nokia Bell Labs(诺基亚贝尔实验室);Nokia(诺基亚)
本文提出一种基于生成对抗网络和SOP频谱图的无监督异常检测方法,在海底和陆地光纤链路数据集上实现超过97%的准确率,无需标记数据。
2024-09-05 cs.LG eess.SP
Integrating Generative AI with Network Digital Twins for Enhanced Network Operations
本研究提出融合GANs、VAEs等生成式AI与网络数字孪生的新型架构框架,经仿真验证可提升网络数字孪生的准确性与效率,增强场景预测、异常检测能力,助力构建更智能自适应的网络管理系统。
2025-08-01 cs.GR cs.LG cs.NI
Latent Space Refinement for Deep Generative Models
Heidelberg University(海德堡大学);Université catholique de Louvain(鲁汶天主教大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);University of California, Berkeley(加州大学伯克利分校)
深度生成模型正在科学和工业中广泛用于各种目的。一个常见的挑战是实现数据概率密度的精确隐式或显式表示。最近的提案建议使用分类器权重来改进深度生成模型的学习密度。我们将这一想法扩展到所有类型的生成模型,并展示如何通过迭代生成建模进行潜在空间细化来规避拓扑障碍并提高精度。这种方法也适用于目标模型是不可微的,并且具有许多内部潜在维度的情况,这些维度必须在细化之前被边缘化。我们在各种示例上展示了我们的潜在空间细化(LaSeR)协议,重点是规范化流和生成对抗网络的组合。
2021-11-03 cs.LG hep-ex hep-ph
Generative Adversarial Mapping Networks
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院)
生成对抗网络(GANs)在生成照片般逼真的图像方面表现出令人印象深刻的性能。它们通过最小化真实图像分布与生成数据分布之间的一定距离度量来拟合生成模型。已有多种距离度量方法,如Jensen-Shannon散度、$f$ -散度和Wasserstein距离,选择合适的距离度量方法对生成网络的训练非常重要。在本文中,我们选择使用最大平均差异(MMD)作为距离度量,这有几个很好的理论保证。事实上,生成矩匹配网络(GMMN)(Li,Swersky,and Zemel 2015)是这样一种生成模型,其仅包含一个生成器网络$G$,该生成器网络通过直接最小化真实分布和生成分布之间的MMD来训练。然而,它无法在具有挑战性的基准数据集(如CIFAR-10和LSUN)上生成有意义的样本。为了改进GMMN,我们建议增加一个额外的网络$F$,称为映射器。$F$将真实数据分布和生成数据分布从原始数据空间映射到特征表示空间$\mathcal{R}$,并且它被训练以最大化$\mathcal{R}$中的两个映射分布之间的MMD,而生成器$G$试图最小化MMD。我们称这种新模型为生成对抗映射网络(GAMN)。我们证明了对抗映射器$F$可以帮助$G$更好地捕获底层数据分布。我们还表明,GAMN显着优于GMMN,也优于或与其他国家的最先进的GAN基于MNIST,CIFAR-10和LSUN-Bedrooms数据集的方法。
2017-09-28 cs.LG
Generative Adversarial Networks and Other Generative Models
Fraunhofer Institute for Digital Medicine MEVIS(弗劳恩霍夫数字医学MEVIS研究所)
与CNN相比,生成网络在分类、分割或目标检测方面的目标和方法有着根本的不同。它们最初并不是一种图像分析工具,而是用来生成看起来自然的图像。对抗性训练范式已经被提出来稳定生成方法,并且已经被证明是非常成功的-尽管从第一次尝试开始就不是这样。本章对生成对抗网络(GANs)的动机进行了基本介绍,并通过抽象基本任务和工作机制,以及推导早期实用方法的困难,追溯了它们的成功之路。将显示更稳定的训练方法,以及收敛性差的典型迹象及其原因。虽然本章重点介绍用于图像生成和图像分析的GANs,但对抗训练范式本身并不特定于图像,也适用于图像分析中的任务。在将GANs与最近进入场景的进一步生成建模方法进行对比之前,图像语义分割和异常检测的架构示例将受到好评。这将允许对GANs的限制和好处进行上下文化的查看。
2022-07-08 cs.CV cs.LG eess.IV
Text2Action: Generative Adversarial Synthesis from Language to Action
Seoul National University(首尔大学)
在本文中,我们提出了一个生成模型,学习语言和人类行为之间的关系,以产生一个人类的动作序列给定的一个句子描述人类的行为。所提出的生成模型是一个生成对抗网络(GAN),它是基于序列到序列(SEQ 2SEQ)模型。使用建议的生成网络,我们可以合成各种行动的机器人或虚拟代理使用文本编码器递归神经网络(RNN)和动作解码器RNN。所提出的生成网络是从大规模视频数据集MSR-Video-to-Text(MSR-VTT)中提取的29,770对动作和句子注释进行训练的。我们证明了该网络可以生成类似人类的动作,这些动作可以转移到Baxter机器人上,这样机器人就可以根据所提供的句子执行动作。实验结果表明,所提出的生成网络正确地模拟了语言和动作之间的关系,可以从同一个句子中生成不同的动作集。
2017-10-24 cs.CL cs.LG cs.RO