Towards Accurate Generative Models of Video: A New Metric & Challenges
Johannes Kepler University（约翰内斯开普勒大学）；IDSIA, SUPSI, USI（IDSIA、苏普西大学、瑞士意大利语区大学）；Google Brain（谷歌大脑）
深度生成模型的最新进展在合成高质量图像方面取得了显着进展。继它们在图像处理和表示学习中的成功应用之后，下一个重要的步骤是考虑视频。学习视频的生成模型是一项更困难的任务，除了对象的视觉呈现之外，还需要模型捕获场景的时间动态。虽然最近在制定视频生成模型方面的尝试取得了一些成功，但目前的进展受到以下因素的阻碍：（1）缺乏考虑视觉质量，时间一致性和样本多样性的定性指标，以及（2）纯合成视频数据集和具有挑战性的真实世界数据集之间的巨大差距。在这个程度上，我们提出了Fréchet视频距离（FVD），一个新的度量生成模型的视频，和星际争霸2视频（SCV），一个基准的游戏玩从自定义星际争霸2的场景，挑战当前的能力生成模型的视频。我们贡献了一个大规模的人类研究，这证实了FVD与生成的视频的定性人类判断相关，并提供了SCV的初步基准结果。
2019-03-27 cs.AI cs.CV cs.LG
Graph Generative Model for Benchmarking Graph Neural Networks
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
针对GNN领域基准图数据集少且隐私受限的问题，提出隐私可控的图生成模型CGT，可生成与源图性能表现相近的大规模基准图，经实验验证效果优于现有同类模型。
2023-06-09 cs.AI cs.CR cs.LG
Generative Graph Pattern Machine
University of Notre Dame（诺丁汉大学）；University of Connecticut（康涅狄格大学）
生成图模式机通过生成Transformer预训练框架，实现图学习的可扩展性，优于现有方法，在多种任务中表现优异。
2025-12-12 cs.AI cs.LG cs.SI
Leveraging Auto-Distillation and Generative Self-Supervised Learning in Residual Graph Transformers for Enhanced Recommender Systems
Declic AI Research（Declic人工智能研究院）；CESI LINEACT Laboratory（CESI LINEACT实验室）；Université Paris-Est（巴黎东部大学）；UPEC（巴黎第十二大学）
本文提出一种集成生成式自监督学习（SSL）与残差图Transformer的前沿方法，通过理性感知SSL自动化数据增强、拓扑感知Transformer捕捉全局上下文及自动蒸馏优化信号，在多数据集上持续优于基线方法，增强推荐系统性能。
2025-04-08 cs.AI cs.IR cs.LG
GIN-Graph: A Generative Interpretation Network for Model-Level Explanation of Graph Neural Networks
本文提出GIN-Graph生成式解释网络，利用免似然生成对抗网络和动态损失权重方案生成可靠且高质量的图神经网络模型级解释图，解决了现有方法生成无效解释图及缺乏可靠性的问题。
2025-09-18 cs.LG
Will More Expressive Graph Neural Networks do Better on Generative Tasks?
Imperial College London（帝国理工学院）；University of Cambridge（剑桥大学）
本文通过将图生成模型中的底层GNN替换为更具表达力的GNN，在ZINC-250k上系统评估六种GNN在自回归与一次性生成框架下的表现，证明更强GNN可提升分子生成性能并取得领先结果，但表达能力并非优秀生成模型的必要条件。
2024-02-20 cs.AI cs.LG q-bio.BM
Fine-tuning Graph Neural Networks by Preserving Graph Generative Patterns
Zhejiang University（浙江大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；FinVolution Group（信也科技）
针对预训练与下游图结构差异导致微调效果受限的问题，提出G-Tuning方法，通过保留下游图生成模式（图on基近似）微调GNN，在域内和域外迁移实验中分别平均提升0.5%和2.6%。
2023-12-21 cs.AI cs.LG stat.ML
Permutation Invariant Graph Generation via Score-Based Generative Modeling
Tsinghua University（清华大学）；Stanford University（斯坦福大学）
学习图结构数据的生成模型是具有挑战性的，因为图是离散的、组合的，并且底层数据分布对节点的排序是不变的。然而，大多数现有的生成模型的图是不恒定的选择的顺序，这可能会导致一个不希望的偏差，在学习的分布。为了解决这个困难，我们提出了一个置换不变的方法来建模图，使用最近的框架，基于分数的生成建模。特别地，我们设计了一个置换等变的多通道图神经网络来对输入图处的数据分布的梯度进行建模（也称为，功能）。这种置换等变梯度模型隐含地定义了图的置换不变分布。我们用分数匹配训练这个图神经网络，并用退火的Langevin动力学对其进行采样。在我们的实验中，我们首先证明了这种新的架构在学习离散图算法的能力。对于图生成，我们发现我们的学习方法在基准数据集上取得了比现有模型更好或相当的结果。
2020-03-02 cs.LG stat.ML
Learning Deep Generative Models of Graphs
DeepMind（深度思维）
图是基本的数据结构，它简明地捕捉了许多重要的现实世界领域中的关系结构，例如知识图谱、物理和社会交互、语言和化学。在这里，我们介绍了一种强大的新方法，用于在图上学习生成模型，它可以捕获它们的结构和属性。我们的方法使用图神经网络来表达图的节点和边之间的概率依赖关系，并且原则上可以学习任何任意图上的分布。在一系列的实验中，我们的结果表明，一旦经过训练，我们的模型可以无条件地和以数据为条件地生成合成图和真实分子图的高质量样本。与不使用图结构表示的基线相比，我们的模型通常表现得更好。我们还探讨了学习图形生成模型的关键挑战，例如如何在图形生成过程中处理元素的对称性和排序，并提供可能的解决方案。我们的工作是第一个也是最普遍的方法学习生成模型在任意图形，并打开了新的方向，从向量和序列的限制一样的知识表示，向更有表现力和灵活的关系数据结构。
2018-03-08 cs.LG stat.ML
GraphGAN: Graph Representation Learning with Generative Adversarial Nets
Shanghai Jiao Tong University（上海交通大学）；Microsoft Research Asia（微软亚洲研究院）；The Hong Kong Polytechnic University（香港理工大学）；Huazhong University of Science and Technology（华中科技大学）
图表示学习的目标是将图中的每个顶点嵌入到低维向量空间中。现有的图表示学习方法可以分为两类：学习图中底层连接分布的生成模型和预测一对顶点之间边存在概率的判别模型。在本文中，我们提出了GraphGAN，一个创新的图表示学习框架统一上述两类方法，其中生成模型和判别模型发挥博弈论的极大极小博弈。具体来说，对于给定的顶点，生成模型试图在所有其他顶点上拟合其潜在的真实连接分布，并产生“假”样本来欺骗判别模型，而判别模型试图检测采样的顶点是来自地面实况还是由生成模型生成。随着这两种模型之间的竞争，它们都可以交替迭代地提高它们的性能。此外，在考虑生成模型的实现时，我们提出了一种新的图softmax来克服传统softmax函数的局限性，可以证明它满足规范化，图结构意识和计算效率的理想特性。通过对真实世界数据集的广泛实验，我们证明了GraphGAN在各种应用中取得了实质性的进步，包括链接预测，节点分类和推荐，超过了最先进的基线。
2017-11-22 cs.LG stat.ML
Discovering Graph Generation Algorithms
ETH Zurich（苏黎世联邦理工学院）
本文提出用进化搜索配合随机初始化图神经网络作为适应度函数，自动发现可解释为 Python 函数的图生成算法，并证明其可媲美甚至超越深度生成模型。
2023-04-25 cs.LG cs.NE
Geometric Generative Modeling with Noise-Conditioned Graph Networks
stanford_cs（斯坦福大学计算机科学系）；ucsd（加州大学圣迭戈分校计算机科学系）；stanford_genetics（斯坦福大学遗传学系）
针对现有图生成模型架构独立于噪声水平限制表达力的问题，提出根据噪声动态调整架构的噪声条件化图网络（NCGNs）及其实例化动态消息传递（DMP），在3D点云等多领域均显著优于噪声无关架构。
2025-07-12 cs.LG
Generative Flow Networks for Precise Reward-Oriented Active Learning on Graphs
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Tianjin University（天津大学）；National University of Singapore（新加坡国立大学）
提出 GFlowGNN，将图主动学习建模为生成流过程，通过流节点、流特征和奖励驱动的策略网络实现与奖励成比例的采样，提升探索与迁移性能。
2023-04-24 cs.LG
Mutual Information Divergence: A Unified Metric for Multimodal Generative Models
NAVER AI Lab（NAVER人工智能实验室）；CLOVA；SNU AIIS（首尔大学人工智能研究所）；KAIST AI（韩国科学技术院人工智能研究生院）
文本到图像生成和图像描述是最近出现的一种新的实验范式，以评估机器智能。他们预测连续的数量伴随着他们的抽样技术在一代，使评估复杂和棘手的边缘分布。基于多模态生成评估利用视觉和语言预训练模型的最新趋势，我们提出了使用CLIP特征作为统一度量的负高斯交叉互信息，由互信息发散度（MID）创造。为了验证，我们广泛地比较它与竞争的指标，使用精心生成的或人类注释的判断，在文本到图像生成和图像描述任务。建议MID显着优于竞争力的方法，具有跨基准的一致性，样本简约性，并对利用CLIP模型的鲁棒性。我们期待着看到高斯交叉互信息在多模态表示学习中的代表性不足的影响，以及基于这一新命题的未来工作。
2022-05-25 cs.AI cs.CL cs.CV
Evaluating Graph Generative Models with Contrastively Learned Features
UBC（不列颠哥伦比亚大学）；Autodesk（欧特克公司）；Amii（阿尔伯塔机器智能研究所）
已经提出了各种各样的模型的图生成模型，需要有效的方法来评估其质量。到目前为止，大多数技术要么使用基于子图计数的传统度量，要么使用随机初始化的图神经网络（GNN）的表示。我们建议使用来自对比训练的GNN的表示，而不是随机GNN，并表明这提供了更可靠的评估指标。然而，传统方法和基于GNN的方法都不占主导地位：我们给出了每种方法都无法区分的图的例子。我们证明了图子结构网络（GSN），它在某种程度上结合了这两种方法，更好地区分图数据集之间的距离。
2022-06-13 cs.LG stat.ML
Graphite: Iterative Generative Modeling of Graphs
Stanford University（斯坦福大学）
图是关系数据建模的基本抽象。然而，图本质上是离散的和组合的，并且适合于机器学习任务的学习表示提出了统计和计算挑战。在这项工作中，我们提出了Graphite，这是一种使用深度潜变量生成模型对大型图中的节点表示进行无监督学习的算法框架。我们的模型参数化变分自编码器（VAE）与图神经网络，并使用一种新的迭代图细化策略启发低秩近似解码。在各种各样的合成和基准数据集上，Graphite在密度估计、链接预测和节点分类等任务上优于竞争方法。最后，我们推导出图神经网络中的消息传递和平均场变分推断之间的理论联系。
2019-05-15 cs.LG cs.NE cs.SI
Stable Filters for Generative Modeling of Graph Signals
University of Rochester（罗切斯特大学）
本文分析图感知连续时间生成模型的结构稳定性，推导Wasserstein稳定性界，并提出保持热扩散平滑行为的稳定图滤波器设计框架，实验证明其增强鲁棒性且生成质量不逊于基线。
2026-09-17 cs.LG eess.SP stat.ML
Transport Novelty Distance: A Distributional Metric for Evaluating Material Generative Models
Bundesanstalt für Materialforschung und -prüfung (BAM)（联邦材料研究所（BAM））；Friedrich-Schiller-Universität Jena（耶拿弗里德里希-施特劳斯大学）
本文提出传输新颖度距离（TNovD）作为评估材料生成模型质量与新颖性的分布度量，通过最优传输理论和对比学习实现，适用于材料发现及其他领域。
2025-12-10 cond-mat.mtrl-sci cs.LG
Graph-based Deep Generative Modelling for Document Layout Generation
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）；Indian Statistical Institute（印度统计研究所）
任何深度学习方法的主要先决条件之一是大规模训练数据的可用性。当在现实世界中处理扫描的文档图像时，其内容的主要信息存储在布局本身中。在这项工作中，我们提出了一个自动化的深度生成模型，使用图神经网络（GNNs）来生成具有高度可变和合理的文档布局的合成数据，这些文档布局可用于训练文档解释系统，在这种情况下，特别是在数字邮件收发室应用中。这也是第一个基于图形的方法，用于在管理文档图像（在本例中为发票）上进行的文档布局生成任务。
2021-07-09 cs.CV cs.LG
A Flexible Generative Framework for Graph-based Semi-supervised Learning
University of Michigan（密歇根大学）
我们考虑一系列问题，这些问题涉及基于一小部分标记样本对大多数未标记的图结构数据样本进行预测。数据样本之间的关系信息，通常编码在图/网络结构中，被证明是有助于这些半监督学习任务。然而，传统的基于图的正则化方法和最近的图神经网络没有充分利用特征、图和标签之间的相互关系。在这项工作中，我们提出了一个灵活的生成框架，基于图的半监督学习，它接近的节点特征，标签和图结构的联合分布。借用网络科学文献中随机图模型的见解，这种联合分布可以使用各种分布族来实例化。对于缺失标签的推理，我们利用最新进展的可扩展变分推理技术来近似贝叶斯后验。我们对基于图的半监督学习的基准数据集进行了深入的实验。结果表明，所提出的方法优于国家的最先进的模型在大多数情况下。
2019-11-02 cs.LG stat.ML
Preference and Concurrence Aware Bayesian Graph Neural Networks for Recommender Systems
Huawei Technologies Canada（华为技术加拿大）
针对交互图存在漏链和虚假正向交互的问题，提出融合用户偏好、物品共现与图结构信息的贝叶斯图生成模型，并在四个基准数据集上验证其推荐有效性。
2024-01-22 cs.IR cs.LG
Approximate Bayesian Image Interpretation using Generative Probabilistic Graphics Programs
MIT（麻省理工学院）；Siberian Federal University（西伯利亚联邦大学）
计算机视觉作为计算机图形学的贝叶斯逆问题的想法有着悠久的历史和吸引人的优雅，但它已被证明难以直接实现。相反，大多数视觉任务是通过复杂的自下而上的处理管道来完成的。在这里，我们表明，它是可以编写简短，简单的概率图形程序，定义灵活的生成模型，并自动反转它们来解释现实世界的图像。生成概率图形程序包括一个随机场景生成器，基于图形软件的渲染器，连接渲染器的输出和数据的随机似然模型，以及调整渲染器的保真度和似然模型的容限的潜变量。计算机图形学的表示和算法最初是为了产生高质量的图像而设计的，现在被用作高度近似和随机生成模型的确定性支柱。该公式结合了概率编程、计算机图形学和近似贝叶斯计算，并且仅依赖于通用的自动推理技术。我们描述两个应用程序：读取退化和不利模糊的字母数字字符序列，并从车载摄像机图像推断3D道路模型。我们提出的每一个概率图形程序都依赖于不到20行的概率代码，并支持对模糊的真实世界图像进行准确的近似贝叶斯推断。
2013-06-29 cs.AI cs.CV stat.ML
GPT-GNN: Generative Pre-Training of Graph Neural Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Microsoft Research（微软研究院）
图神经网络（GNN）已被证明是强大的建模图结构的数据。然而，训练GNN通常需要大量特定于任务的标记数据，而获得这些数据通常非常昂贵。减少标记工作的一种有效方法是在具有自我监督的未标记数据上预训练表达性GNN模型，然后将学习到的模型转移到只有几个标签的下游任务。在本文中，我们提出了GPT-GNN框架，通过生成预训练来初始化GNN。GPT-GNN引入了一个自监督的属性图生成任务来预训练GNN，以便它可以捕获图的结构和语义属性。我们将图生成的可能性分解为两个部分：1）属性生成和2）边生成。通过对这两个组件进行建模，GPT-GNN在生成过程中捕获了节点属性和图结构之间的固有依赖关系。在十亿规模的开放学术图谱和亚马逊推荐数据上进行的综合实验表明，GPT-GNN在各种下游任务中的性能明显优于没有预训练的最先进的GNN模型，最高可达9.1%。
2020-06-27 cs.LG cs.SI stat.ML
Computing Expected Motif Counts for Exchangeable Graph Generative Models
Simon Fraser University（西蒙弗雷泽大学）
针对图模型推理中期望模体计数估计的需求，提出一种可扩展的估计方法，该方法适用于图数据相关神经与贝叶斯方法所用的生成混合模型。
2023-05-01 cs.AI cs.LG
Building LEGO Using Deep Generative Models of Graphs
University of Guelph（圭尔夫大学）；Vector Institute（向量研究所）
生成模型现在用于创建各种高质量的数字工件。然而，它们在设计物理对象中的应用却很少受到关注。在本文中，我们主张建设玩具，乐高，作为一个平台，开发生成模型的顺序组装。我们开发了一个基于图结构神经网络的生成模型，它可以从人类建造的结构中学习，并产生视觉上引人注目的设计。我们的代码发布于：https://github.com/uoguelph-mlrg/GenerativeLEGO。
2020-12-21 cs.AI cs.LG
Goodness-of-Fit of Attributed Probabilistic Graph Generative Models
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）
本文以均方列联系数定义随机二元网络的拟合优度，提出高概率最小偏差的评估流程，并用于验证带属性概率图生成模型的表示能力。
2023-07-28 cs.AI cs.LG
Learning Discriminative Metrics via Generative Models and Kernel Learning
University of Southern California（南加州大学）；University of Pennsylvania（宾夕法尼亚大学）
指定数据点之间的距离的距离可以以区别性方式或从生成模型中学习。在本文中，我们展示了如何通过一个内核学习框架来统一度量的生成学习和判别学习。具体来说，我们学习从参数生成模型优化的局部度量。然后，这些被用作基本内核，以构建一个全局内核，最大限度地减少一个歧视性的训练标准。我们考虑局部度量核的线性和非线性组合。我们的实证结果表明，这些组合显着提高分类任务的性能。所提出的学习算法也是非常有效的，实现了数量级的训练时间相比，以前的判别基线方法的加速。
2011-09-19 cs.AI cs.LG stat.ME
GSHOT: Few-shot Generative Modeling of Labeled Graphs
Indian Institute of Technology Delhi（印度理工学院德里分校）
针对深度图生成建模需要大量训练样本的问题，提出基于元学习的少样本带标签图生成框架GSHOT，通过迁移辅助数据集元知识和自步微调适配新数据集，在有限样本场景下生成图的保真度优于现有基线。
2023-12-14 cs.AI cs.LG
Graph Generative Pre-trained Transformer
Tufts University（塔夫茨大学）；Northeastern University（东北大学）；Cornell University（康奈尔大学）
本文提出图生成预训练Transformer（G2PT），将图表示为节点集和边集序列，通过自回归下一token预测学习图结构，并在通用图和分子生成及下游任务中展现出优越性能和适应性。
2025-06-03 cs.AI cs.LG
Benchmarking Deep Graph Generative Models for Optimizing New Drug Molecules for COVID-19
Argonne National Laboratory（阿贡国家实验室）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
具有目标性质的新药化合物设计是生成式建模的一个关键研究领域。我们提出了一个基于图生成模型的小药物分子设计管道，并对两种用于设计COVID-19靶向候选药物的最先进的图生成模型进行了比较研究：1）基于变分自编码器的方法（VAE），该方法使用已被证明对早期冠状病毒治疗有效的分子的先验知识，以及2）深度Q学习方法（DQN）产生优化的分子而没有任何邻近限制。我们通过验证候选分子与药物-蛋白质结合亲和力模型来评估自动分子生成方法的新颖性。VAE方法产生了两种与抗逆转录病毒蛋白酶抑制剂Indinavir具有相似结构的新分子，其显示出对SARS-CoV-2蛋白靶向3-糜蛋白酶样蛋白酶（3CL-蛋白酶）的潜在结合亲和力。
2021-02-09 cs.AI cs.LG
Diffusion-based Graph Generative Methods
Research Center for Graph Computing（图计算研究中心）；School of Data Science and Engineering, East China Normal University（华东师范大学数据科学与工程学院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；ZJU-Hangzhou Global Scientific and Technological Innovation Center（浙江大学杭州国际科创中心）；Antai College of Economics and Management, Shanghai Jiao Tong University（上海交通大学安泰经济与管理学院）
本文系统综述基于扩散的图生成方法，涵盖三种主流范式（去噪扩散概率模型、基于分数的生成模型和随机微分方程），分类介绍最新应用，并指出局限与未来方向。
2024-07-16 cs.AI cs.LG
Inference Attacks Against Graph Generative Diffusion Models
Hong Kong Baptist University（香港 Baptist 大学）；Peking University（北京大学）
本文针对图生成扩散模型提出三种推断攻击，并设计防御机制以减少信息泄露风险。
2026-01-07 cs.AI cs.LG
Position: All Current Generative Fidelity and Diversity Metrics are Flawed
University of Helsinki（赫尔辛基大学）；University of Cambridge（剑桥大学）
本文指出当前所有生成式保真度与多样性度量指标均存在缺陷，通过提出期望特性清单与健全性检查实验揭示其失败模式，呼吁研究界转向开发度量指标，并为从业者提供使用指南。
2025-05-28 cs.LG
Evaluating Generative Models for Tabular Data: Novel Metrics and Benchmarking
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；RPTU Kaiserslautern-Landau（卡尔斯鲁厄大学 of Applied Sciences（RPTU））
针对表格数据生成模型评估的挑战，本文提出FAED、FPCAD和RFIS三个新指标，在三个网络入侵检测数据集上与现有方法对比，发现FAED能捕捉被忽视的建模问题，构建了稳健的评估框架。
2025-04-29 cs.LG
Beyond Statistical Similarity: Rethinking Metrics for Deep Generative Models in Engineering Design
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）
本文针对工程设计场景下深度生成模型传统统计评估指标的适配性缺陷，梳理经典指标局限，整理设计专属评估指标集，通过两类工程设计案例验证指标有效性并公开相关代码。
2025-11-17 cs.LG
Generative Diffusion Models on Graphs: Methods and Applications
The Hong Kong Polytechnic University（香港理工大学）；Michigan State University（密歇根州立大学）
本文是图生成式扩散模型的综述，梳理SMLD、DDPM、SGM三类代表性算法，总结其在分子与蛋白质建模等领域的应用，探讨未来研究方向，并搭建了相关资源的GitHub项目网站。
2023-08-25 cs.AI cs.LG cs.SI
Dendrogram distance: an evaluation metric for generative networks using hierarchical clustering
本文提出树状图距离指标，利用层次聚类比较真实与生成样本分布，重点检测生成网络中的模式坍塌，并通过受控验证证明其性能与现有先进方法相当。
2023-11-28 cs.CV cs.LG
Toward a Generalization Metric for Deep Generative Models
Deakin University（迪肯大学）
由于维数灾难，测量深度生成模型（DGMs）的泛化能力是困难的。DGMs的评估指标，如初始分数，Fréchet初始距离，精确召回和神经网络发散，试图使用多项式样本数估计生成的分布和目标分布之间的距离。这些指标是研究人员在设计新模型时的目标。尽管有这些说法，但仍然不清楚他们能在多大程度上衡量生成模型的泛化能力。在本文中，我们调查的能力，这些指标在衡量泛化能力。我们介绍了一个框架，比较评估指标的鲁棒性。我们表明，在这些指标更好的分数并不意味着更好的泛化。它们很容易被记住训练集的一小部分的生成器欺骗。我们建议修复NND度量，使其对生成的数据中的噪声更具鲁棒性。为了建立一个强大的度量泛化，我们建议将最小描述长度原则应用于评估DGMs的问题。我们开发了一种有效的方法来估计生成潜变量模型（GLVMs）的复杂性。实验结果表明，该度量可以有效地检测训练集记忆，区分不同泛化能力的GLVM。源代码可在https://github.com/htt210/GeneralizationMetricGAN上获得。
2021-05-24 cs.LG
(Deep) Generative Geodesics
Kim Jaechul Graduate School of AI, KAIST（KAIST金在哲人工智能研究生院）；South Dakota State University（南达科他州立大学）；KU Leuven（鲁汶大学）
本文提出一种与参数化无关的黎曼度量来评估数据点相似性，定义生成距离与测地线，并展示其在聚类、可视化和插值中的应用，以理解生成模型的全局几何性质。
2024-07-15 cs.LG
Metric Learning-based Generative Adversarial Network
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
生成对抗网络（GANs）作为一种通过对抗过程估计生成模型的框架，已经引起了人们的极大关注，并已被证明在各种任务中具有强大的功能。然而，众所周知，训练GANs是微妙和不稳定的，部分原因是其sigmoid交叉熵损失函数。为了克服这一问题，许多研究者将注意力集中在测量模型分布与真实分布接近程度的各种方法上，并采用不同的度量作为目标函数。在本文中，我们提出了一种新的框架，训练GANs的基础上距离度量学习，我们称之为基于度量学习的生成对抗网络（MLGAN）。MLGAN的鉴别器可以动态学习适当的度量，而不是静态度量，以测量生成的样本与真实样本之间的距离。然后，MLGAN根据新学习的度量更新生成器。我们在几个有代表性的数据集上评估了我们的方法，实验结果表明，与现有的几种最先进的方法相比，MLGAN可以实现更优越的性能。我们还通过经验表明，MLGANs可以提高训练GANs的稳定性。
2017-11-08 cs.LG
Design Target Achievement Index: A Differentiable Metric to Enhance Deep Generative Models in Multi-Objective Inverse Design
Massachusetts Institute of Technology（麻省理工学院）
深度生成机器学习模型在设计界越来越受欢迎，这要归功于它们学习和模拟复杂数据分布的能力。虽然早期的工作是有希望的，进一步的进步将取决于解决几个关键的考虑因素，如设计质量，可行性，新颖性和有针对性的逆向设计。我们提出了设计目标实现指数（DTAI），一个可区分的，可调的指标，得分设计的能力，实现设计师指定的最低性能目标。我们证明了DTAI在直接用作深度生成模型中的训练损失时可以大大提高生成设计的性能。我们将DTAI损失应用于性能增强的多样性GAN（PaD GAN），并与一组基线深度生成模型（包括多目标PaD GAN和专用表格生成算法，如条件表格GAN（CT GAN））相比，表现出卓越的生成性能。我们进一步增强PaDGAN与辅助可行性分类器，以鼓励可行的设计。为了评估方法，我们提出了一套全面的评估指标的生成方法，专注于可行性，多样性和满意度的设计性能目标。方法进行测试的一个具有挑战性的基准问题：FRAMED自行车车架设计数据集具有混合数据类型的参数数据，严重偏斜和多模态分布，和十个竞争的性能目标。
2022-05-06 cs.LG
Supplemental Material: Lifelong Generative Modelling Using Dynamic Expansion Graph Model
University of York（约克大学）
在这篇文章中，我们提供了使用动态扩展图模型的终身生成建模的附录。本附录包括其他视觉结果以及挑战性数据集的数值结果。此外，我们还提供了详细的证明所提出的理论分析框架。源代码可以在https://github.com/dtuzi123/Expansion-Graph-Model上找到。
2022-03-25 cs.LG
Generative AI in Vision: A Survey on Models, Metrics and Applications
University of Maryland（马里兰大学）
本文综述了视觉生成式人工智能中的扩散模型与传统模型，涵盖其理论基础、关键技术和在文本到图像、图像修复、超分辨率等任务中的应用，旨在为研究者提供全面理解并启发未来创新。
2024-02-26 cs.AI cs.CV cs.LG
Contextual Graph Markov Model: A Deep and Generative Approach to Graph Processing
University of Pisa（比萨大学）
我们介绍了上下文图马尔可夫模型，一种结合生成模型和神经网络的思想来处理图形数据的方法。它建立在一个建设性的方法，以建立一个深层次的架构，包括层的概率模型，学习以增量的方式编码的结构化信息。上下文以高效和可扩展的方式在图的顶点和边之间扩散。所得到的图形编码与判别模型结合使用，以解决结构分类基准。
2019-11-25 cs.AI cs.LG cs.NE
MetricGAN: Generative Adversarial Networks based Black-box Metric Scores Optimization for Speech Enhancement
National Taiwan University（台湾大学）；Academia Sinica（中央研究院）
条件生成对抗网络（GAN）中的对抗性损失并不被设计为直接优化目标任务的评估度量，因此可能并不总是引导GAN中的生成器生成具有改进的度量分数的数据。为了克服这个问题，我们提出了一种新的MetricGAN方法，旨在优化生成器的一个或多个评估指标。此外，基于MetricGAN，生成数据的度量分数也可以由用户任意指定。我们在语音增强任务上测试了所提出的MetricGAN，这特别适合于验证所提出的方法，因为存在测量语音信号的不同方面的多个度量。此外，这些指标通常是复杂的，并且不能通过Lp或传统的对抗性损失来完全优化。
2019-05-13 cs.LG cs.SD eess.AS
AlignGraph: A Group of Generative Models for Graphs
Northeastern University（东北大学）
由于缺乏置换不变性，生成模型学习图上的分布是具有挑战性的：节点可以在图上任意排序，标准图对齐是组合的，并且众所周知昂贵。我们提出了AlignGraph，一组生成模型，将快速有效的图对齐方法与一系列对节点排列不变的深度生成模型相结合。实验结果表明，该框架能够成功地学习图分布，在相关性能分数上比竞争对手高出25%-560%。
2023-01-26 cs.LG cs.SI
Generative Adversarial Network Rooms in Generative Graph Grammar Dungeons for The Legend of Zelda
Southwestern University（西南大学）
生成对抗网络（GANs）已经证明了它们能够学习数据中的模式，并产生与包括视频游戏在内的多个领域的训练集相似但不同的新样本。然而，GANs有一个固定的输出大小，因此为地牢爬行游戏创建任意大小的关卡是困难的。GANs也很难对语义需求进行编码，从而使关卡变得有趣和可玩。本文结合了一个GAN的方法来生成单独的房间与图形语法的方法来组合成一个地牢的房间。GAN捕获各个房间的设计原则，但是图形语法将房间组织成具有由设计者确定的一系列障碍物的全局布局。来自塞尔达传说的房间数据用于训练GAN。用户研究验证了这种方法，表明GAN地下城与原始游戏中的关卡一样令人愉快，并且仅使用图形语法生成关卡。然而，GAN地下城的房间被认为更复杂，而普通图形语法的地下城被认为是最不复杂和最具挑战性的。只有GAN方法创建了布局和房间的广泛供应，其中房间跨越了培训集中看到的那些房间的范围，以融合来自多个房间的设计原则的新创作。
2020-04-19 cs.AI cs.LG cs.NE
Labeled Graph Generative Adversarial Networks
Virginia Tech（弗吉尼亚理工大学）；Tufts University（塔夫茨大学）
\emph{generative adversarial networks}（GANs）作为一种新的生成模型训练方法，在图像生成方面取得了巨大的成功。这个框架最近也被应用于具有图形结构的数据。我们提出了标记图生成对抗网络（LGGAN）来训练具有节点标签的图结构数据的深度生成模型。我们在各种类型的图形数据集上测试了该方法，例如引文网络和蛋白质图的集合。实验结果表明，该模型能够生成与训练数据结构特征相匹配的标记图，在质量和通用性上优于其他方法。为了进一步评估生成的图的质量，我们将它们用于图分类的下游任务，结果表明LGGAN可以忠实地捕获图结构的重要方面。
2021-02-25 cs.LG stat.ML
Latent graph encoding of multimodal neuroimaging features with generative AI architectures
Center for Translational Research in Neuroimaging and Data Science (TReNDS)（转化神经影像与数据科学研究中心）
研究旨在设计多模态生成框架用于神经影像特征分析，通过评估多种策略和模型，利用GMV和sFNC特征分析多个生成框架，提出的gMMVAE在多指标上超替代变体，有潜力用于稳健的多模态神经影像分析。
2026-07-09 cs.AI cs.CV cs.LG
Permutation Equivariant Generative Adversarial Networks for Graphs
University of Geneva（日内瓦大学）
图生成建模中讨论最多的问题之一是表示的排序。一种解决方案包括使用等变生成函数，这确保了排序不变性。在讨论了这些函数的一些性质之后，我们提出了3G-GAN，一个依赖于GANs和等变函数的3阶段模型。该模型仍在开发中。然而，我们提出了一些令人鼓舞的探索性实验，并讨论了仍有待解决的问题。
2021-12-07 cs.LG
LIC-GAN: Language Information Conditioned Graph Generative GAN Model
Carnegie Mellon University（卡内基梅隆大学）
本研究提出语言信息条件化的图生成GAN模型LIC-GAN，以自然语言查询为输入生成匹配图，结合奖励网络优化属性，性能与ChatGPT相当且具备一定鲁棒性。
2023-06-02 cs.AI cs.CL cs.LG
Measuring Fairness in Generative Models
Singapore University of Technology and Design（新加坡科技设计大学）
深度生成模型在提高训练稳定性和生成数据质量方面取得了很大进展。最近，人们对深层生成数据的公平性越来越感兴趣。公平在许多应用中很重要，例如执法，因为偏见会影响效率。公平数据生成的核心是用于评估和评价不同生成模型的公平性度量。在本文中，我们首先回顾公平性指标提出了在以前的作品，并突出潜在的弱点。然后，我们讨论了性能基准框架以及替代指标的评估。
2021-07-16 cs.LG
Latent Space Cartography: Generalised Metric-Inspired Measures and Measure-Based Transformations for Generative Models
Cogent Labs（科进实验室）
深度生成模型是通过映射到低维潜在空间来学习高维数据空间上的数据分布的通用工具。我们提供了一个研究潜在的空间几何形状和扩展和建立在以前的结果黎曼度量。我们展示了一类启发式措施如何在寻找有意义的，特定于问题的距离方面提供更大的灵活性，以及它如何应用于不同的生成器类型，例如语言和其他序列建模中常用的自回归生成器。我们进一步演示了如何使用之前在制图学中研究的扩散启发的变换来平滑潜在空间，并根据所选的度量来拉伸它们。除了直接在潜在空间中提供更有意义的距离外，这还为新型数据可视化提供了独特的工具。我们相信，所提出的方法可以成为一个有价值的工具，用于研究潜在空间的结构和生成模型的学习数据分布。
2019-02-06 cs.AI cs.CL cs.LG
Multi-Metric Preference Alignment for Generative Speech Restoration
针对生成式语音修复训练目标与人类感知偏好不对齐的问题，提出多度量偏好对齐策略，构建GenSR-Pref数据集结合DPO优化，在多类生成模型上取得显著性能提升，还可在数据稀缺场景生成伪标签。
2025-11-15 cs.AI cs.LG cs.SD
