DiffBP: Generative Diffusion of 3D Molecules for Target Protein Binding
Zhejiang University（浙江大学）；Texas A&M University（德克萨斯农工大学）；Jingdong（京东）
针对现有自回归分子生成方法违背物理规则、生成分子性质差的问题，提出非自回归的DiffBP扩散模型，以靶蛋白为约束、用等变网络同时去噪全原子的类型与坐标，在亲和力、分子尺寸和类药性上性能具竞争力。
2024-07-14 cs.LG q-bio.BM
Anomaly scores for generative models
Czech Technical University in Prague（布拉格捷克理工大学）；Cisco Systems, Inc.（思科系统公司）
重建误差是一种普遍的分数，用于在数据由生成模型（例如（变分）自动编码器或生成对抗网络）建模时识别异常样本。该分数依赖于正常样本位于流形上并且所有异常样本位于流形外的假设。由于流形只能在训练数据所在的地方学习，因此无法保证重建误差在其他地方的表现，因此得分似乎是不明确的。这项工作定义了一个理论上与生成模型兼容的异常分数，并且对于（变分）自动编码器来说非常自然，因为它们似乎很普遍。新的分数还可以用于选择超参数和模型。最后，我们解释了为什么重建误差提供了良好的实验结果，尽管薄弱的理论依据。
2019-05-28 cs.LG stat.ML
Hamiltonian Score Matching and Generative Flows
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；NVIDIA（英伟达）
本文提出哈密顿速度预测器，并据此构建HSM分数匹配方法与HGFs生成模型，将扩散和流匹配统一为零力场特例，实验证明其竞争力。
2024-10-27 cs.LG stat.ML
All-atom Diffusion Transformers: Unified generative modelling of molecules and materials
Fundamental AI Research (FAIR) at Meta（Meta 基础人工智能研究）；University of Cambridge（剑桥大学）；MIT（麻省理工学院）
本文提出全原子扩散Transformer（ADiT），一个统一潜扩散框架，用同一模型联合生成分子和材料，在多个数据集上达到最先进性能，并支持大规模扩展。
2025-05-22 cs.AI cs.LG
Diff4VS: HIV-inhibiting Molecules Generation with Classifier Guidance Diffusion for Virtual Screening
Information Science and Technology College, Dalian Maritime University（大连海事大学信息科学技术学院）；School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；School of Innovation and Entrepreneurship, Dalian University of Technology（大连理工大学创新创业学院）
本文提出Diff4VS模型，首次结合分类器引导扩散与基于配体的虚拟筛选生成HIV抑制分子，并引入DrugIndex评估指标及发现分子生成退化现象，为药物设计提供新方法。
2024-07-20 cs.AI cs.LG q-bio.QM
A novel molecule generative model of VAE combined with Transformer for unseen structure generation
The University of Tokyo（东京大学）
提出一种通过结构与参数优化融合VAE和Transformer的分子生成模型，在保持生成性能的同时显著提升未见结构分子生成能力，并验证了约32维潜在表示的性质预测与压缩潜力。
2024-04-05 cs.LG physics.chem-ph q-bio.BM
Generative molecule evolution using 3D pharmacophore for efficient Structure-Based Drug Design
ByteDance Seed（字节跳动种子）
本文提出MEVO进化框架，通过VQ-VAE、药效团引导扩散模型和口袋感知进化策略扩充SBDD训练数据，并经FEP验证可高效生成高亲和力配体及KRAS$^{\ extrm{G12D}}$抑制剂。
2026-10-19 cs.LG q-bio.BM
Improved Techniques for Training Score-Based Generative Models
Stanford University（斯坦福大学）
基于得分的生成模型可以产生与GANs相当的高质量图像样本，而不需要对抗性优化。然而，现有的训练程序仅限于低分辨率（通常低于32x32）的图像，并且在某些设置下可能不稳定。我们提供了一个新的理论分析，从高维空间中的得分模型中学习和采样，解释现有的故障模式，并激发新的解决方案，在数据集上推广。为了增强稳定性，我们还建议保持模型权重的指数移动平均值。通过这些改进，我们可以毫不费力地将基于得分的生成模型扩展到具有前所未有的分辨率（从64x64到256x256）的图像。我们基于分数的模型可以生成高保真样本，在各种图像数据集上与同类最佳GANs相媲美，包括CelebA，FFHQ和多个LSUN类别。
2020-10-23 cs.CV cs.LG stat.ML
Score-based Generative Models for Calorimeter Shower Simulation
National Energy Research Scientific Computing Center（国家能源研究科学计算中心）；Berkeley Lab（伯克利实验室）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Berkeley Institute for Data Science（伯克利数据科学研究所）；University of California, Berkeley（加州大学伯克利分校）
基于分数的生成模型是一类新的生成算法，即使在高维空间中也能生成逼真的图像，目前在不同的基准类别和应用中超过了其他最先进的模型。在这项工作中，我们介绍CaloScore，一个基于分数的生成模型适用于碰撞物理量热计簇生成。使用快速量热仪模拟挑战2022数据集研究了三种不同的扩散模型。CaloScore是基于分数的生成模型在对撞机物理学中的第一个应用，能够为所有数据集生成高保真的热量计图像，为热量计淋浴模拟提供了另一种范例。
2022-10-19 cs.LG hep-ex hep-ph
Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation
Harvard University（哈佛大学）
本研究提出一种基于BSDE的新型扩散模型，通过适配现有分数函数确定目标分布的初始条件，证明了理论保证与Lipschitz网络的优势，可应用于扩散反演等多领域，为生成学习提供新方向。
2023-04-26 cs.AI cs.LG
Conditional GraphGANFed: Optimizing Graph-Structured Molecule Generation in Federated Generative Adversarial Networks
本文针对GraphGANFed无法按用户定义指标生成分子的问题，提出cGraphGANFed模型，引入评判网络整合评估结果优化生成器，经实验证实其在多指标优化、QED提升及抗非IID数据干扰上表现更优。
2026-08-26 cs.DC cs.LG
Speech Enhancement with Score-Based Generative Models in the Complex STFT Domain
Universität Hamburg（汉堡大学）；DESY（德国电子同步加速器研究所）
基于分数的生成模型（SGM）最近在困难的生成任务（例如自然图像和音频信号的无条件和有条件生成）方面取得了令人印象深刻的结果。在这项工作中，我们将这些模型扩展到复杂的短时傅里叶变换（STFT）域，提出了一种新的训练任务，使用复值深度神经网络进行语音增强。我们推导出随机微分方程（SDES）的形式主义内的训练任务，从而使预测校正采样器的使用。我们提供了替代配方的启发，以前的出版物上使用生成扩散模型的语音增强，避免需要任何先验假设的噪声分布和训练任务纯粹的生成，因为我们表明，在提高增强性能的结果。
2022-07-07 cs.LG cs.SD eess.AS
Score-based Generative Modeling for Conditional Independence Testing
Fudan University（复旦大学）；Alibaba Group（阿里巴巴集团）；SIAT, Chinese Academy of Sciences（中国科学院软件研究所）；Tongji University（同济大学）
针对现有基于生成模型的条件独立性测试在条件分布建模和训练稳定性上的不足，提出基于分数的生成建模方法，通过切片条件分数匹配和Langevin动力学采样实现精确的第一类错误控制与强测试功效，实验证明其显著优于现有方法。
2025-05-29 cs.AI cs.LG
Score-based Generative Modeling in Latent Space
NVIDIA（英伟达）
基于分数的生成模型（SGM）最近在样本质量和分布覆盖率方面表现出令人印象深刻的结果。然而，它们通常直接应用于数据空间，并且通常需要数千个网络评估来进行采样。在这里，我们提出了基于潜在分数的生成模型（LSGM），这是一种在潜在空间中训练SGM的新方法，依赖于变分自动编码器框架。从数据转移到潜在空间，使我们能够训练更具表现力的生成模型，将SGM应用于非连续数据，并在更小的空间中学习更平滑的SGM，从而减少网络评估和更快的采样。为了能够以可扩展和稳定的方式训练LSGM端到端，我们（i）引入适合LSGM设置的新的分数匹配目标，（ii）提出一种新的得分函数参数化，使SGM能够专注于目标分布相对于简单正态分布的不匹配，以及（iii）分析推导出用于训练目标方差减小的多种技术。LSGM在CIFAR-10上获得了2.10的最新FID分数，优于该数据集上所有现有的生成结果。在CelebA-HQ-256上，LSGM在采样质量上与之前的SGM相当，而在采样时间上则超过它们两个数量级。在对二值图像建模时，LSGM在二值化的OMNIGLOT数据集上实现了最先进的似然性。我们的项目页面和代码可以在https://nvlabs.github.io/LSGM上找到。
2021-12-02 cs.LG stat.ML
Score-Guided Generative Adversarial Networks
College of Engineering（工程学院）；Korea University（高丽大学）；School of Electrical Engineering（电气工程学院）
我们提出了一种生成对抗网络（GAN），它使用预先训练的网络引入了评估器模块。所提出的模型，称为分数引导的GAN（ScoreGAN），是用GANs的评估度量来训练的，即，Inception评分，作为训练生成器的粗略指南。通过使用另一个预先训练的网络而不是Inception网络，ScoreGAN规避了Inception网络的过拟合，以便生成的样本不对应于Inception网络的对抗性示例。此外，为了防止过拟合，评价指标仅作为辅助作用，而主要使用GANs的常规目标。使用CIFAR-10数据集进行评估，ScoreGAN的Inception评分为10.36 $\pm$ 0.15，这相当于最先进的性能。此外，为了概括ScoreGAN的有效性，使用另一个数据集进一步评估了该模型，即，CIFAR-100;因此，ScoreGAN优于其他现有方法，其中Fréchet Inception Distance（FID）为13.98。
2020-05-27 cs.CV cs.LG eess.IV
Audio-Visual Speech Enhancement with Score-Based Generative Models
Universität Hamburg（汉堡大学）
提出一种以视觉信息为条件、融合自监督视听嵌入与扩散模型的语音增强系统，实验证明其可提升语音质量、减少伪影并显著降低低信噪比下的ASR词错误率。
2023-06-02 cs.LG eess.AS
A Survey on Graph Diffusion Models: Generative AI in Science for Molecule, Protein and Material
KAIST（韩国科学技术院）；Kyung Hee University（庆熙大学）
本文综述了图扩散模型在科学AIGC领域的应用，涵盖其机制及在分子、蛋白质和材料设计中的生成方法，并讨论了评估与挑战。
2023-04-04 cs.CV cs.LG
Unified Generative Modeling of 3D Molecules via Bayesian Flow Networks
Institute of AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Shanghai Institute of Materia Medica, Chinese Academy of Sciences（中国科学院上海药物研究所）
本工作提出几何贝叶斯流网络（GeoBFN），通过在分布参数空间进行等变建模并统一多模态概率建模，解决了3D分子几何生成的多模态与噪声敏感问题，在QM9和GEOM-DRUG基准上达到SOTA性能，并支持任意步数采样以实现效率与质量的最优折中。
2024-03-17 cs.AI cs.LG physics.chem-ph
Analysis of training and seed bias in small molecules generated with a conditional graph-based variational autoencoder -- Insights for practical AI-driven molecule generation
IBM Thomas J. Watson Research（IBM托马斯·J·沃森研究中心）
深度学习在生成性分子设计中的应用已经显示出加速铅系列开发的早期前景。然而，关于训练、数据集和种子偏差等因素如何影响该技术对医学和计算化学家的效用，仍然存在问题。在这项工作中，我们分析了种子和训练偏差对基于活动条件图的变分自编码器（VAE）输出的影响。利用与多巴胺D2受体相对应的大量标记数据集，我们的基于图形的生成模型在生成分子中产生所需的条件活性和有利的非条件物理性质方面表现出色。我们实现了一种活动交换方法，该方法允许激活、停用或保留分子种子的活动，并且我们应用独立的深度学习分类器来验证生成结果。总的来说，我们揭示了噪声、分子种子和训练集选择之间在一系列潜在空间采样过程中的关系，为实际的人工智能驱动的分子生成提供了重要的见解。
2021-09-03 cs.LG physics.bio-ph q-bio.BM
Classification Accuracy Score for Conditional Generative Models
DeepMind（深度思维）
图像的深度生成模型（DGMs）现在已经足够成熟，它们可以生成近乎真实感的样本，并获得类似于Frechet Inception Distance（FID）等几何学数据分布的分数。这些结果，特别是在ImageNet这样的大规模数据集上，表明DGM正在感知有意义的空间中学习数据分布，并可用于下游任务。为了测试后一个假设，我们使用来自许多模型类的类条件生成模型-变分自编码器，自回归模型和生成对抗网络（GANs）-来推断真实数据的类标签。我们通过仅使用合成数据训练图像分类器并使用分类器来预测真实数据上的标签来执行此推断。这项任务的性能，我们称之为分类准确度得分（CAS），揭示了一些传统指标无法识别的令人惊讶的结果，并构成了我们的贡献。首先，当使用最先进的GAN（BigGAN-deep）时，与原始数据相比，Top-1和Top-5的准确度分别下降了27.9%和41.6%;来自其他模型类的条件生成模型，如矢量量化变分自编码器（VQ-VAE-2）和分层自回归模型（HAM），在此基准测试中的表现大大优于GANs。其次，CAS自动表面生成模型未能捕获数据分布的特定类，并且以前在文献中是未知的。第三，我们发现传统的GAN指标，如初始得分（IS）和FID既不能预测CAS，也不能用于评估非GAN模型。此外，为了便于更好地诊断生成模型，我们开源了所提出的度量。
2019-10-28 cs.LG stat.ML
Bridging the Gap between Learning and Inference for Diffusion-Based Molecule Generation
Sichuan University（四川大学）
本文提出DiffGap框架，通过自适应采样和伪分子估计，弥合生成与推断之间的差距，提升分子生成的准确性与稳定性。
2026-04-16 cs.LG
Score-based Generative Modeling Secretly Minimizes the Wasserstein Distance
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
基于得分的生成模型在图像生成和音频合成等各种应用中表现出显著的经验性能。然而，基于分数的扩散模型的理论理解仍然是不完整的。最近，Song等人表明，基于得分的生成模型的训练目标相当于最小化生成分布与数据分布的Kullback-Leibler散度。在这项工作中，我们表明，基于分数的模型也最小化它们之间的Wasserstein距离在适当的假设下的模型。具体地说，我们证明了Wasserstein距离的上界由目标函数的平方根乘法常数和一个固定的常数偏移。我们的证明是基于最优运输理论的一个新的应用，它可以独立的社会利益。我们的数值实验支持我们的研究结果。通过分析我们的上界，我们提供了一些技术，以获得更严格的上界。
2022-12-13 cs.AI cs.LG cs.NA
Hybrid quantum cycle generative adversarial network for small molecule generation
Terra Quantum AG（泰拉量子公司）
本研究将参数化量子电路集成到分子生成对抗网络中，提出量子循环架构，在QM9和PC9数据集上使药物相似性定量估计提升高达30%，助力快速准确的药物发现。
2024-09-19 cs.ET cs.LG physics.bio-ph
Leverage Score Sampling for Complete Mode Coverage in Generative Adversarial Networks
KU Leuven（鲁汶大学）；Univ. Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
通常，机器学习模型最小化经验期望。因此，经过训练的模型通常对大多数数据表现良好，但在数据集的密度较低的区域中性能可能会恶化。这个问题也出现在生成建模中。生成模型可能会忽略在经验数据分布中不太频繁的代表性不足的模式。这个问题被称为完全模式覆盖。我们提出了一种基于岭杠杆分数的采样过程，与标准方法相比，该方法显着提高了模式覆盖率，并且可以很容易地与任何GAN相结合。脊杠杆分数通过使用与GAN神经网络或预训练网络的倒数第二层相关联的显式特征图，或者通过使用与高斯核相对应的隐式特征图来计算。对最近的方法的完整模式覆盖的多个评价显示了明显的改善时，使用建议的采样策略。
2021-07-21 cs.LG stat.ML
Score-Based Generative Modeling with Critically-Damped Langevin Diffusion
NVIDIA（英伟达）；University of Waterloo（滑铁卢大学）；Vector Institute（矢量研究所）
基于分数的生成模型（SGM）已经证明了显着的合成质量。SGM依赖于扩散过程，该过程逐渐将数据扰动到易于处理的分布，而生成模型则学习去噪。除了数据分布本身之外，这种去噪任务的复杂性唯一地由扩散过程决定。我们认为，目前的SGM采用过于简单的扩散，导致不必要的复杂的去噪过程，这限制了生成建模性能。基于统计力学的连接，我们提出了一种新的临界阻尼朗之万扩散（CLD），并表明基于CLD的SGMs实现优越的性能。CLD可以被解释为在扩展空间中运行联合扩散，其中辅助变量可以被认为是耦合到数据变量的“速度”，如在哈密顿动力学中。我们推导出一个新的分数匹配CLD的目标，并表明该模型只需要学习的条件分布的速度给定的数据，一个更容易的任务比学习分数的数据直接的得分函数。我们还得到了一个新的采样方案，有效的合成CLD为基础的扩散模型。我们发现，CLD优于以前的SGM在合成质量相似的网络架构和采样计算预算。我们表明，我们的新型采样器CLD显着优于求解器，如欧拉-丸山。我们的框架为基于分数的去噪扩散模型提供了新的见解，并且可以很容易地用于高分辨率图像合成。项目页面和代码：https://nv-tlabs.github.io/CLD-SGM.
2022-03-25 cs.LG stat.ML
Score-of-Mixture Training: Training One-Step Generative Models Made Simple via Score Estimation of Mixture Distributions
Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology (MIT), Cambridge, Massachusetts, USA（电气工程与计算机科学系，麻省理工学院（MIT），剑桥，马萨诸塞州，美国）
提出Score-of-Mixture Training (SMT)框架，通过最小化$α$-skew Jensen-Shannon散度并估计混合分布得分来训练单步生成模型，支持从零开始训练与预训练扩散模型蒸馏，实验证明其在CIFAR-10和ImageNet 64x64上表现优异。
2025-07-14 cs.AI cs.LG stat.ML
Zatom-1: Towards a Multimodal Foundation Model for 3D Molecules and Materials
LBNL（劳伦斯伯克利国家实验室）；ICSI（国际计算机科学研究所）；University of Cambridge（剑桥大学）；Yale University（耶鲁大学）；MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
Zatom-1是一种跨领域、通用的模型架构，统一了3D分子和材料的生成与预测学习，通过多模态流匹配目标实现高效的预训练和稳定采样，提升了生成推理速度和跨领域预测性能。
2026-05-13 cond-mat.mtrl-sci cs.AI cs.LG
GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models
The Chinese University of Hong Kong（香港中文大学）；IBM Research（IBM研究院）
本文提出 GREAT Score 框架，利用生成模型估计数据分布上的平均认证抗扰动水平，实现高效、可扩展且支持黑盒远程审计的全局对抗鲁棒性评估。
2024-10-28 cs.AI cs.LG
A Hyperfinite Framework for Score-Based Generative Modeling
Kerala School of Mathematics（喀拉拉数学学院）
本文在非标准分析框架下构建了基于得分的生成建模的超有限框架，推导了相关恒等式、公式并分析了二阶一致性，建立了离散网格动力学与生成建模核心环节的关联。
2026-08-05 cs.AI cs.LG math.PR
Nearest Neighbour Score Estimators for Diffusion Generative Models
University of British Columbia（不列颠哥伦比亚大学）；Inverted AI
本文提出一种基于最近邻的得分估计器，利用训练集多个样本降低方差，显著提升一致性模型的收敛速度与样本质量，并可替代扩散模型中学习网络进行概率流ODE积分。
2024-07-16 cs.CV cs.LG stat.ML
Diffusion Models for Molecules: A Survey of Methods and Tasks
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Northwestern Polytechnical University（西北工业大学）；National University of Singapore（新加坡国立大学）；Alibaba DAMO Academy（阿里巴巴达摩院）
针对分子生成任务缺乏系统综述的问题，本文从方法公式、数据模态和任务类型角度全面综述基于扩散模型的分子生成方法，提出新颖分类法，助力领域理解与发展。
2025-02-13 cs.AI cs.CE cs.LG
MetricGAN: Generative Adversarial Networks based Black-box Metric Scores Optimization for Speech Enhancement
National Taiwan University（台湾大学）；Academia Sinica（中央研究院）
条件生成对抗网络（GAN）中的对抗性损失并不被设计为直接优化目标任务的评估度量，因此可能并不总是引导GAN中的生成器生成具有改进的度量分数的数据。为了克服这个问题，我们提出了一种新的MetricGAN方法，旨在优化生成器的一个或多个评估指标。此外，基于MetricGAN，生成数据的度量分数也可以由用户任意指定。我们在语音增强任务上测试了所提出的MetricGAN，这特别适合于验证所提出的方法，因为存在测量语音信号的不同方面的多个度量。此外，这些指标通常是复杂的，并且不能通过Lp或传统的对抗性损失来完全优化。
2019-05-13 cs.LG cs.SD eess.AS
Score-Based Generative Models for Robust Channel Estimation
University of Texas at Austin（德克萨斯大学奥斯汀分校）
信道估计是数字通信中的一项关键任务，它对端到端系统的性能有很大影响。在这项工作中，我们介绍了一种新的方法，多输入多输出（MIMO）信道估计使用基于分数的生成模型。我们的方法使用了一个深度神经网络，该网络经过训练可以估计高维空间中任何点处无线信道的对数先验梯度，并利用该模型通过后验采样来解决信道估计。我们训练一个基于分数的模型，从CDL-D模型的两个天线间距的信道实现，并表明，该方法导致竞争力的分布性能相比，生成对抗网络（GAN）和压缩感知（CS）的方法。当在CDL-D信道上测试时，与$λ/2$天线间隔处的分布中的GAN方法相比，该方法导致信道估计误差的至少$5$ dB的增益。当在训练或微调期间从未见过的CDL-C信道上测试时，与CS方法相比，该方法导致高达$3$ dB的端到端编码性能增益，并且与理想信道知识相比，仅损失$0.5$ dB。
2022-02-15 cs.LG eess.SP
Molecular Generative Model Based On Adversarially Regularized Autoencoder
KAIST（韩国科学技术院）
深度生成模型作为一种新的有前途的分子设计方法正引起人们的极大关注。到目前为止，所有报告的模型都是基于变分自编码器（VAE）或生成对抗网络（GAN）。在这里，我们提出了一个新的类型模型的基础上的adversarially正则化自动编码器（ARAE）。它基本上使用像VAE这样的潜变量，但潜变量的分布是通过像GAN中的对抗训练获得的。后者旨在避免VAE中后验分布的不适当近似和GAN中处理离散变量的困难。我们的基准研究表明，ARAE在有效性、独特性和每个生成分子的新颖性方面确实优于传统模型。我们还证明了成功的条件下产生的药物样分子与ARAE的单一和多个属性控制的情况下。作为一个潜在的现实世界的应用，我们可以产生EGFR抑制剂共享已知的活性分子的支架，同时满足药物样的条件。
2019-11-13 cs.LG physics.chem-ph stat.ML
Guided Multi-objective Generative AI to Enhance Structure-based Drug Design
SandboxAQ；University of Florida（佛罗里达大学）
IDOLpro结合扩散模型与多目标优化，通过可微评分函数引导潜变量探索化学空间，生成结合亲和力和可合成性优于现有方法的配体，加速药物发现流程。
2025-04-28 cs.LG physics.chem-ph q-bio.BM
Geometry Score: A Method For Comparing Generative Adversarial Networks
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Institute of Numerical Mathematics RAS（俄罗斯科学院数值数学研究所）
生成对抗网络（GANs）研究中的最大挑战之一是评估生成样本的质量并检测各种级别的模式坍塌。在这项工作中，我们构建了一个新的衡量性能的GAN的基础数据流形和生成的，这提供了定性和定量的评价手段的几何属性进行比较。我们的算法可以应用于任意性质的数据集，并不限于视觉数据。我们在各种现实模型和数据集上测试了所获得的度量，并证明我们的方法为GANs的属性提供了新的见解。
2018-06-09 cs.CG cs.LG stat.ML
Unifying GANs and Score-Based Diffusion as Generative Particle Models
Criteo AI Lab（Criteo人工智能实验室）；LIGM（LIGM实验室）；Ecole des Ponts（巴黎路桥学院）；Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；ETH Zürich（苏黎世联邦理工学院）
本文提出统一粒子与对抗生成模型的框架，将生成器训练视为粒子模型的推广，并验证了在扩散模型中集成生成器及无生成器训练GAN的可行性。
2023-12-21 cs.CV cs.LG cs.NE
Auxiliary Discrminator Sequence Generative Adversarial Networks (ADSeqGAN) for Few Sample Molecule Generation
School of Pharmacy, University of Pittsburgh, Pittsburgh, Pennsylvania 15261, United States；School of Software \& Microelectronics, Peking University, Beijing, 100871, China
ADSeqGAN通过引入辅助随机森林判别器并融合预训练与Wasserstein距离，在小样本条件下提升分子生成质量与类别特异性，在核酸结合剂、CNS药物及CB1配体设计中均优于基线模型。
2025-09-11 cs.AI cs.LG q-bio.BM
ScoreFusion: Fusing Score-based Generative Models via Kullback-Leibler Barycenters
Stanford University（斯坦福大学）；HKUST（香港科技大学）
提出ScoreFusion方法，通过KL重心融合多预训练扩散模型，重铸为去噪扩散分数匹配以计算最优权重，在手写数字学习中验证样本效率，适配Stable Diffusion提升人像生成的群体异质性。
2025-04-17 cs.LG math.ST stat.ML
Capturing the Topological Phase Transition and Thermodynamics of the 2D XY Model via Manifold-Aware Score-Based Generative Modeling
Bengaluru, India（印度班加罗尔）
本文提出流形感知的分数生成模型，用于捕捉二维XY模型的拓扑相变与热力学特性，实现了高精度的分数估计和零样本泛化。
2026-02-07 cond-mat.stat-mech cs.LG
Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization
Stanford University（斯坦福大学）
本研究通过将分数匹配和去噪分数匹配转化为凸优化，为基于两层神经网络的扩散模型建立了理论框架，证明了浅层网络训练可归结为单个凸程序，并在有限数据下精确刻画了预测分数函数与收敛性。
2024-05-22 cs.LG math.OC
A Score-Based Density Formula, with Applications in Diffusion Generative Models
The Chinese University of Hong Kong（香港中文大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文通过建立连续时间扩散过程的密度公式，揭示了目标密度与分数函数的关系，并证明ELBO优化目标与真实目标的最小化点几乎一致，为DDPM等扩散生成模型的训练提供了理论基础。
2024-08-29 cs.AI cs.LG math.PR
SOS: Score-based Oversampling for Tabular Data
Yonsei University（延世大学）；Samsung SDS（三星SDS）
基于得分的生成模型（SGM）是生成假图像的最新突破。已知SGM优于其他生成模型，例如，生成对抗网络（GANs）和变分自编码器（VAE）。受到他们巨大成功的启发，在这项工作中，我们完全定制了他们来生成虚假的表格数据。特别是，我们对过采样子类感兴趣，因为不平衡的类经常导致次优的训练结果。据我们所知，我们是第一个提出了基于分数的表格数据过采样方法。首先，我们重新设计了我们自己的评分网络，因为我们必须处理表格数据。其次，我们提出了两种选择，我们的生成方法：前者是相当于一个表格数据的风格转移，后者使用标准的生成策略的SGM。最后，我们定义了一种微调方法，进一步提高了过采样质量。在我们使用6个数据集和10个基线的实验中，我们的方法在所有情况下都优于其他过采样方法。
2022-06-17 cs.AI cs.LG
Score-Based Multimodal Autoencoder
University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对多模态 VAE 随模态增多而生成质量下降的问题，本文用 SBM 联合建模独立单模态 VAE 的潜空间，在保持生成质量的同时实现跨模态一致整合。
2024-12-10 cs.CV cs.LG
Training-Free Generative Sampling via Moment-Matched Score Smoothing
College of Computing and Data Science（计算与数据科学学院）；Nanyang Technological University（南洋理工大学）
本文提出无需训练的动量匹配分数平滑过阻尼兰格-恩斯坦动力学（MM-SOLD），通过在采样轨迹中强制目标动量，实现高效的训练自由采样，实验显示其在CPU上能快速稳健地生成高质量样本。
2026-05-14 cs.LG stat.ML
Convergence of score-based generative modeling for general data distributions
Johns Hopkins University（约翰斯·霍普金斯大学）；Duke University（杜克大学）
基于分数的生成建模（SGM）已经发展成为一种非常成功的方法，用于学习从复杂的数据分布（如图像和音频）中生成样本。它是基于进化一个将白噪声转换为来自学习分布的样本，使用评分函数或梯度log-pdf的估计值。以前的收敛性分析，这些方法都遭受了强假设的数据分布或指数依赖关系，因此无法提供有效的保证，在实践中出现的多峰和非光滑分布，并观察到良好的经验性能。我们考虑一种流行的SGM -去噪扩散模型-并给出一般数据分布的多项式收敛保证，没有与函数不等式或光滑性相关的假设。假设$L^2$ -准确的分数估计，我们得到Wasserstein距离保证任何分布的有界支持或充分衰减的尾巴，以及电视保证分布进一步平滑的假设。
2022-10-03 cs.LG math.PR math.ST
CRASH: Raw Audio Score-based Generative Modeling for Controllable High-resolution Drum Sound Synthesis
Sony CSL（索尼计算机科学实验室）；CentraleSupélec（巴黎中央理工-高等电力学院）
在本文中，我们提出了一种新的无条件原始音频合成的分数为基础的生成模型。我们的建议建立在扩散过程建模与随机微分方程的最新发展，这已经证明了有前途的结果图像生成。我们激励新的扩散过程更适合音频生成的选择，并考虑使用一个有条件的U-网近似的分数函数。虽然以前的方法对音频的扩散模型主要是设计为语音声码器在中等分辨率，我们的方法被称为CRASH（可控的原始音频合成与高分辨率）允许我们以可控的方式产生短的44.1kHz的混响声音。通过大量的实验，我们展示了鼓的声音生成任务的众多采样方案提供了我们的方法（无条件生成，确定性生成，修复，插值，变化，类条件采样），并提出了类混合采样，一种新的方式来生成“混合”的声音。我们提出的方法缩小了与基于GAN的方法在原始音频上的差距，同时提供了更灵活的生成功能，具有更轻和更小的训练模型。
2021-06-14 cs.LG cs.SD eess.AS
Open-Source Molecular Processing Pipeline for Generating Molecules
BITS Pilani Goa Campus（BITS Pilani果阿校区）；Deep Forest Sciences（深林科学公司）
针对分子生成模型非专家难用的问题，该研究将开源基础设施引入DeepChem库，提供MolGAN和Normalizing Flows的高质量PyTorch实现，构建稳健可复用的分子生成流水线，性能与以往工作相当。
2024-11-28 cs.AI cs.LG q-bio.BM
DiffFlow: A Unified SDE Framework for Score-Based Diffusion Models and Generative Adversarial Networks
HKUST（香港科技大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
本文提出统一SDE框架DiffFlow，将SDMs和GANs的学习动力学纳入同一随机微分方程，通过调节分数权重实现两类模型平滑过渡，并给出具有精确似然推断的新算法。
2023-07-05 cs.CV cs.LG math.AP
Learning to design drug-like molecules in three-dimensional space using deep generative models
Peking University（北京大学）
近年来，分子图的深度生成模型在药物设计领域受到越来越多的关注。目前已经开发了多种模型来生成类药物分子的拓扑结构，但在生成三维结构方面的探索仍然有限。现有的方法要么专注于低分子量化合物，而不考虑药物相似性，要么间接使用原子密度图生成3D结构。在这项工作中，我们介绍了配体神经网络（L-Net），一种新的图形生成模型，用于设计具有高质量三维结构的药物样分子。L-Net直接输出分子（包括氢原子）的拓扑和3D结构，无需额外的原子位置或键序推断算法。L-Net的架构专门针对药物样分子进行了优化，并组装了一组指标来全面评估其性能。结果表明，L-Net能够生成化学正确、构象有效和高度药物样的分子。最后，为了证明其在基于结构的分子设计中的潜力，我们将L-Net与MCTS结合，并测试其产生针对ABL 1激酶的潜在抑制剂的能力。
2021-04-17 cs.LG q-bio.QM
Improving Molecule Generation and Drug Discovery with a Knowledge-enhanced Generative Model
Institute of Cancer Research, Purdue University（普渡大学癌症研究所）
针对生成模型未充分利用生物医学知识图谱的问题，提出知识增强生成框架KARL，通过可扩展方法扩展知识图谱并结合扩散模型，在分子生成任务上性能超越现有最优模型。
2024-10-07 cs.LG q-bio.QM
Fréchet ChemNet Distance: A metric for generative models for molecules in drug discovery
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
机器学习中成功的生成模型的新浪潮增加了对深度学习驱动的从头药物设计的兴趣。然而，评估这种生成模型的性能是非常困难的。通常用于评估这种生成模型的性能的参数是化学上有效的分子的百分比或在特定描述符方面与真实分子的相似性，例如分配系数（logP）或药物相似性。然而，方法比较是困难的，因为不一致的使用评估指标，多个指标的必要性，以及事实上，这些措施中的一些可以很容易地欺骗简单的基于规则的系统。我们提出了一种新的两组分子之间的距离度量，称为Fréchet ChemNet距离（FCD），可用作生成模型的评估指标。FCD类似于最近建立的用于比较图像生成方法的性能指标Fréchet Inception Distance（FID）。FID使用InceptionNet的一个隐藏层，而FCD使用称为ChemNet的深层神经网络的倒数第二层，该网络经过训练以预测药物活性。因此，FCD度量考虑了关于分子的化学和生物学相关信息，并且还通过生成的分子的分布来测量集合的多样性。FCD优于先前度量的优点在于，它可以检测所生成的分子是否a）多样并且具有与真实分子相似的b）化学和c）生物特性。我们还提供了一个易于使用的实现，只需要生成的分子的SMILES表示作为输入来计算FCD。可在以下网址获得实现：https://www.github.com/bioinf-jku/FCD
2018-08-01 cs.LG q-bio.QM stat.ML
A generative model for molecule generation based on chemical reaction trees
The University of Tokyo（东京大学）
深度生成模型在通过字符串、树或图形等表示生成具有所需化学性质的新型分子方面表现出强大的功能。然而，这些模型在实际中对所产生的分子的合成路线的推荐方面是有限的。我们提出了一个生成模型，通过多步化学反应树生成分子。具体来说，我们的模型首先提出一个化学反应树与预测的反应模板和商业上可获得的分子（起始分子），然后执行正向合成步骤，以获得产品分子。实验结果表明，该模型能够产生具有所需化学性质的化学反应。并提供了这些产物分子的完整合成路线。
2021-06-07 cs.AI cs.LG cs.NE
Probabilistic Generative Transformer Language models for Generative Design of Molecules
University of South Carolina（南卡罗来纳大学）
近年来，自监督神经语言模型在有机分子和蛋白质序列的生成设计以及下游结构分类和功能预测的表示学习中得到了广泛的应用。然而，大多数现有的用于分子设计的深度学习模型通常需要一个大数据集，并且具有黑盒架构，这使得难以解释其设计逻辑。在这里，我们提出了生成分子Transformer（GM Transformer），一个概率神经网络模型的分子生成设计。我们的模型建立在最初为文本处理开发的空白填充语言模型上，该模型在学习具有高质量生成、可解释性和数据效率的“分子语法”方面表现出独特的优势。以MOSES数据集为基准，与其他基线相比，我们的模型具有很高的新颖性和Scaf。概率生成步骤具有修补分子设计的潜力，因为它们能够推荐如何通过解释来修改现有分子，并由所学习的隐式分子化学指导。源代码和数据集可以在https://github.com/usccolumbia/GMTransformer上免费访问
2022-09-20 cond-mat.mtrl-sci cs.LG physics.chem-ph
