Input-Adaptive Generative Dynamics in Diffusion Models
本研究提出了一种输入自适应的扩散模型生成方法,通过调整生成动态以适应不同输入需求,从而提升生成质量和效率。
2026-03-07 cs.AI cs.CV cs.LG
DiffusionBERT: Improving Generative Masked Language Models with Diffusion Models
Fudan University(复旦大学)
提出了一种基于离散扩散模型的生成式掩蔽语言模型DiffusionBERT。扩散模型和许多预先训练的语言模型具有共享的训练目标,即,去噪,使其能够结合两个强大的模型,享受两全其美。一方面,扩散模型提供了一种有前途的训练策略,有助于提高生成质量。另一方面,预先训练的去噪语言模型(例如,BERT)可以用作加速收敛的良好初始化。我们探索训练BERT学习的反向过程的离散扩散过程的吸收状态和阐明几个设计,以改善it. First,我们提出了一个新的噪声时间表的前向扩散过程中,控制的程度,在每一步的基础上,每个令牌的信息添加的噪声。其次,我们研究了几种将时间步长纳入BERT的设计。对无条件文本生成的实验表明,DiffusionBERT比现有的文本扩散模型(例如,D3 PM和Diffusion-LM)和先前的生成掩蔽语言模型在困惑度和BLEU得分方面的性能。
2022-11-30 cs.AI cs.CL cs.LG
Theoretical research on generative diffusion models: an overview
Yıldız Technical University(伊兹迪兹技术大学)
本文综述生成扩散模型的理论进展,将其方法分为训练与采样两类,为未来研究提供清晰分类框架。
2024-04-13 cs.AI cs.CV cs.LG
Diffusion-C: Unveiling the Generative Challenges of Diffusion Models through Corrupted Data
Inha University(仁荷大学);POSTECH(浦项科技大学);Semyung University(世明大学)
本研究提出Diffusion-C方法论,通过多类型多强度损坏数据分析扩散模型生成限制,发现DDPM性能最优、雾与分形损坏削弱鲁棒性、模型脆弱性受拓扑及统计相似性影响,为生成模型研究提供基础。
2023-12-14 cs.AI cs.CV cs.LG
Continual Learning of Diffusion Models with Generative Distillation
Master in Computer Vision (Barcelona)(巴塞罗那计算机视觉硕士项目);Apple(苹果公司);KU Leuven(鲁汶大学)
本文提出生成式蒸馏方法,通过蒸馏扩散模型整个逆向过程,解决了标准生成式回放在扩散模型持续学习中导致去噪能力灾难性丧失的问题,在计算成本略增的情况下显著提升了持续学习性能。
2024-05-20 cs.AI cs.CV cs.LG
The Information Dynamics of Generative Diffusion
Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所);Radboud University(拉德堡德大学)
本文从信息论、动力学和热力学角度探讨生成扩散模型,揭示生成带宽由分数函数发散率决定,通过轨迹分支和生成分岔现象,建立受控噪声诱导对称破缺过程。
2026-03-26 cs.AI cs.LG stat.ML
All-atom Diffusion Transformers: Unified generative modelling of molecules and materials
Fundamental AI Research (FAIR) at Meta(Meta 基础人工智能研究);University of Cambridge(剑桥大学);MIT(麻省理工学院)
本文提出全原子扩散Transformer(ADiT),一个统一潜扩散框架,用同一模型联合生成分子和材料,在多个数据集上达到最先进性能,并支持大规模扩展。
2025-05-22 cs.AI cs.LG
Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation
Harvard University(哈佛大学)
本研究提出一种基于BSDE的新型扩散模型,通过适配现有分数函数确定目标分布的初始条件,证明了理论保证与Lipschitz网络的优势,可应用于扩散反演等多领域,为生成学习提供新方向。
2023-04-26 cs.AI cs.LG
Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework
Imperial College London(帝国理工学院);University of Coimbra(科英布拉大学)
该研究提出谱引导的质量-多样性扩散框架,将质量-多样性优化与扩散模型结合,通过h空间谱变异算子提升输出多样性,在文本到图像生成任务上的FID分数优于12个基线方法,实现了图像质量与多样性的良好平衡。
2026-10-14 cs.AI cs.LG
Diffusion Models for Generative Artificial Intelligence: An Introduction for Applied Mathematicians
University of Glasgow(格拉斯哥大学);University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学)
本文面向应用数学家和统计学家,介绍扩散模型的基本原理、数学推导及其与偏微分方程的联系,并提供了计算示例和代码,旨在帮助高年级本科生和研究生理解这一生成式AI的核心技术。
2023-12-21 cs.AI cs.LG
Notes on generative modeling: flow matching, diffusion, optimal transport and Schr{ö}dinger bridge
Inria(法国国家信息与自动化研究所)
本文梳理生成建模中不同技术的高层数学原理,揭示最优传输与薛定谔桥、流匹配等标准方法之间的联系。
2026-06-29 cs.LG stat.ML
Advancements in Generative AI: A Comprehensive Review of GANs, GPT, Autoencoders, Diffusion Model, and Transformers
Bowie State University(鲍伊州立大学);Morgan State University(摩根州立大学);University of the District of Columbia(哥伦比亚特区大学)
本文系统综述了以ChatGPT为代表的生成式AI进展,涵盖GAN、GPT、自编码器、扩散模型和Transformer等核心模型,分析其多样化任务能力、面临的挑战及未来前景。
2023-11-21 cs.AI cs.LG
Fourier Transformers for Latent Crystallographic Diffusion and Generative Modeling
CRIL UMR 8188, Universit\'e d'Artois, CNRS, France
本文提出一种基于傅里叶变换的生成模型,用于高效生成具有周期性和对称性的晶体结构,通过潜在扩散模型在压缩空间中实现高精度重建和生成。
2026-02-12 cs.AI cs.LG
A Variational Perspective on Diffusion-Based Generative Models and Score Matching
University of Montreal(蒙特利尔大学);Mila(米拉)
基于离散时间扩散的生成模型和分数匹配方法在高维图像数据建模方面显示出了良好的效果。最近,Song等人(2021)表明,将数据转换为噪声的扩散过程可以通过学习得分函数(即扰动数据的对数密度的梯度)来逆转。他们建议将学习的得分函数插入到逆公式中,以定义生成扩散过程。尽管在经验上取得了成功,但这一程序仍然缺乏理论基础。在这项工作中,我们直接接近(连续时间)生成扩散,并推导出一个变分框架的似然估计,其中包括连续时间规范化流作为一个特殊情况下,可以看作是一个无限深的变分自编码器。在这个框架下,我们证明了最小化分数匹配损失相当于最大化Song等人(2021)提出的插入式反向搜索的可能性下限,弥合了理论差距。
2021-09-30 cs.LG
Image Embedding for Denoising Generative Models
University of Bologna(博洛尼亚大学)
去噪扩散模型在生成式建模领域越来越受欢迎,原因有几个,包括简单稳定的训练,优秀的生成质量和坚实的概率基础。在这篇文章中,我们解决的问题{ \em嵌入}的潜在空间的图像去噪扩散模型,即找到一个合适的“噪声”的图像,其去噪的结果在原始图像。我们特别关注去噪扩散隐式模型,由于其反向扩散过程的确定性。作为我们的调查的一个副作用,我们获得了更深入的了解扩散模型的潜在空间的结构,打开有趣的视角,其探索,语义轨迹的定义,和编辑目的的编码的操纵/调节。我们的研究强调了一个特别有趣的属性,这也是这类生成模型的特征,是潜在表示与实现反向扩散过程的网络的独立性。换句话说,一个共同的种子传递到不同的网络(每个网络都在同一个数据集上训练),最终会产生相同的图像。
2022-12-30 cs.AI cs.CV cs.LG
Generative Dataset Distillation Based on Diffusion Model
Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学);Hokkaido University(北海道大学);Fraunhofer IVI(弗劳恩霍夫应用研究促进协会交通与基础设施系统研究所);Technical University of Munich(慕尼黑工业大学)
针对ECCV 2024数据集蒸馏挑战赛生成赛道的限时生成要求,提出基于SDXL-Turbo的生成式数据集蒸馏方法,用类别信息作提示词加后增强,提升每类生成图像数,获赛道第三名。
2024-08-16 cs.AI cs.CV cs.LG
Generative Modeling with Diffusion
Arizona State University(亚利桑那州立大学)
本文概述扩散模型的生成原理,定义加噪去噪过程并介绍其训练与生成算法,同时探索该模型在提升不平衡数据分类器性能上的潜在应用。
2025-06-11 cs.LG math.PR stat.ML
A diffusion-based generative model for financial time series via geometric Brownian motion
Department of Mathematics, POSTECH(POSTECH数学系);Department of Financial Mathematics, Gachon University(高丽大学金融数学系);Department of Applied Artificial Intelligence, SeoulTech(首尔科技大学应用人工智能系)
针对金融时间序列的异方差特性,提出将几何布朗运动融入扩散前向过程的生成框架,并用CSDI式Transformer训练反向生成,更真实地再现多种金融程式化事实。
2025-07-25 cs.AI cs.LG cs.NA
Generative AI in Vision: A Survey on Models, Metrics and Applications
University of Maryland(马里兰大学)
本文综述了视觉生成式人工智能中的扩散模型与传统模型,涵盖其理论基础、关键技术和在文本到图像、图像修复、超分辨率等任务中的应用,旨在为研究者提供全面理解并启发未来创新。
2024-02-26 cs.AI cs.CV cs.LG
Generative Diffusion From An Action Principle
Kavli Institute for Cosmological Physics(卡夫利宇宙物理研究所);University of Chicago(芝加哥大学)
本文从作用量原理推导得分匹配,将逆向扩散视为最优控制问题,揭示不同扩散模型间的联系。
2023-10-06 cs.LG physics.class-ph
Conditional sampling within generative diffusion models
Linköping University(林雪平大学);Uppsala University(乌普萨拉大学)
本文综述生成式扩散模型中的条件采样计算方法,梳理利用联合分布或带显式似然的预训练边缘分布构建条件采样器的关键技术。
2025-02-19 cs.LG stat.ML
Diversity-Driven Generative Dataset Distillation Based on Diffusion Model with Self-Adaptive Memory
Hokkaido University(北海道大学);The University of Tokyo(东京大学)
本文提出一种基于扩散模型与自适应记忆的多样性驱动生成式数据集蒸馏方法,通过对齐蒸馏与真实数据分布并评估代表性,引导生成更多样化数据集,在多数情况下优于现有最先进方法。
2025-05-26 cs.AI cs.CV cs.LG
Shedding Light on Large Generative Networks: Estimating Epistemic Uncertainty in Diffusion Models
Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC-CNS)(巴塞罗那超级计算中心)
本文提出DECU框架,通过结合预训练参数高效训练条件扩散模型集成,并采用成对距离估计器评估互信息,准确估计大规模扩散模型的认知不确定性。
2024-06-05 cs.AI cs.CV cs.LG
Diffusion-based Generative Prior for Low-Complexity MIMO Channel Estimation
Lehrstuhl für Methoden der Signalverarbeitung, Technische Universität München(慕尼黑工业大学信号处理方法研究所)
本研究提出基于扩散模型的低复杂度MIMO信道估计器,通过稀疏角域信道分布学习、带SNR位置嵌入的轻量CNN及优化的扩散估计策略,实现了优于现有生成先验类顶尖信道估计器的性能。
2024-03-06 cs.LG eess.SP
Generative diffusion posterior sampling for informative likelihoods
Division of Statistics and Machine Learning(统计与机器学习系)
本文提出一种新的扩散后验SMC采样器,通过构建与扩散模型相关的观测路径来提升异常值和高信息量似然条件下的采样统计效率。
2025-08-22 cs.LG cs.SY eess.SY
Generative Trajectory Stitching through Diffusion Composition
Georgia Tech(佐治亚理工学院);Harvard University(哈佛大学)
本文提出CompDiffuser,通过单个双向扩散模型学习重叠轨迹块间的条件关系,实现面向新任务的长时程轨迹组合式拼接,并在多种基准任务上显著超越现有方法。
2025-05-05 cs.AI cs.LG cs.RO
A Survey on Audio Diffusion Models: Text To Speech Synthesis and Enhancement in Generative AI
KAIST(韩国科学技术院);Kyung Hee University(庆熙大学);Beijing Institute of Technology(北京理工大学)
本综述系统梳理了音频扩散模型在文本到语音合成与语音增强任务中的最新进展,按扩散模型应用阶段对TTS方法分类,并按信号增减对语音增强任务分类,同时比较了实验结果。
2023-04-02 cs.AI cs.LG cs.MM
TAUDiff: Highly efficient kilometer-scale downscaling using generative diffusion models
Verisk Analytics(维易科分析公司)
本文提出 TAUDiff,通过确定性时空模型结合轻量扩散校正恢复精细随机特征,实现高效且动力学一致的大气风速场公里尺度降尺度。
2025-03-13 cs.LG
Noise Estimation for Generative Diffusion Models
Tel-Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
生成扩散模型已经成为语音和图像生成中的主要模型。然而,为了用少量的去噪步骤来良好地执行,需要对噪声参数集进行昂贵的调谐。在这项工作中,我们提出了一个简单而通用的学习方案,可以逐步调整这些噪声参数,对于任何给定的步骤数,而以前的工作需要分别为每个数字重新调整。此外,在不修改扩散模型的权重的情况下,我们能够显著地改善合成结果,对于少量的步骤。我们的方法来在一个可以忽略不计的计算成本。
2021-09-12 cs.CV cs.LG
Generative Frontiers: Why Evaluation Matters for Diffusion Language Models
Purdue University(普渡大学)
本文探讨了扩散语言模型评估方法的局限性,提出生成前沿作为评估生成质量的原理性方法,分析了生成困惑度和熵在KL散度中的作用。
2026-04-03 cs.CL cs.LG
Accelerating Diffusion Models for Generative AI Applications with Silicon Photonics
Colorado State University(科罗拉多州立大学)
本文提出一种基于硅光子学的扩散模型加速器,显著提升能效和吞吐量,用于生成式人工智能应用。
2026-03-08 cs.AR cs.LG
Constrained Generative Modeling with Manually Bridged Diffusion Models
University of British Columbia(不列颠哥伦比亚大学);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所(Amii));InvertedAI
本文提出手动桥接扩散模型框架,支持多重约束组合与数据分布适配,理论验证有效,并应用于自动驾驶轨迹初始化建模。
2025-02-27 cs.LG
The statistical thermodynamics of generative diffusion models: Phase transitions, symmetry breaking and critical instability
Radboud University(拉德堡德大学);Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所)
本研究用平衡统计力学工具重构生成扩散模型,发现其存在属于平均场普适类的二阶对称性破缺相变,临界不稳定性是生成能力核心,且生成动力学方程为维持热平衡并最小化自由能的随机绝热变换。
2024-06-20 cs.LG stat.ML
Diffused Responsibility: Analyzing the Energy Consumption of Generative Text-to-Audio Diffusion Models
Université de Lorraine, CNRS, Inria, Loria(洛林大学、法国国家科学研究中心、法国国家信息与自动化技术研究院、Loria)
本文分析了7个最先进的基于扩散的文本到音频生成模型的能耗,评估生成参数对推理能耗的影响,并通过Pareto最优解寻求音频质量与能耗的最佳平衡,为开发更高效的模型提供见解。
2025-07-16 cs.AI cs.LG cs.SD
A Survey on Graph Diffusion Models: Generative AI in Science for Molecule, Protein and Material
KAIST(韩国科学技术院);Kyung Hee University(庆熙大学)
本文综述了图扩散模型在科学AIGC领域的应用,涵盖其机制及在分子、蛋白质和材料设计中的生成方法,并讨论了评估与挑战。
2023-04-04 cs.CV cs.LG
Nonequilbrium physics of generative diffusion models
Sun Yat-sen University(中山大学)
本文用随机热力学与路径积分分析扩散模型,将反向生成视为统计推断,引入涨落定理、熵产生和 Franz–Parisi 势解释其动力学与相变。
2024-12-02 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Latent Abstractions in Generative Diffusion Models
EURECOM(欧洲电信研究院);CNRS(法国国家科学研究中心);SAP Labs(思爱普实验室)
本文提出扩展NLF的理论框架,将扩散模型刻画为由潜在抽象引导的非线性滤波SDE系统,并通过实证研究验证潜在抽象在生成过程中的涌现。
2024-10-04 cs.LG stat.ML
Phoenix: A Federated Generative Diffusion Model
University of Washington Bothell(华盛顿大学博塞尔分校)
针对生成模型中心化训练的隐私问题,提出联邦生成扩散模型Phoenix,可在非独立同分布数据下提升生成样本多样性,在联邦场景中效果优于默认扩散模型,兼顾隐私保护与生成质量。
2023-06-07 cs.CV cs.LG
Quantum-Noise-Driven Generative Diffusion Models
University of Florence(佛罗伦萨大学);LENS - European Laboratory for Non-Linear Spectroscopy, University of Florence(佛罗伦萨大学欧洲非线性光谱实验室(LENS))
提出三种量子噪声驱动的生成扩散模型,利用量子相干、纠缠与噪声的相互作用克服经典扩散模型的计算负担,生成更复杂分布,并包含混合模型数值模拟示例。
2024-06-12 cond-mat.dis-nn cs.AI cs.LG
A Score-Based Density Formula, with Applications in Diffusion Generative Models
The Chinese University of Hong Kong(香港中文大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文通过建立连续时间扩散过程的密度公式,揭示了目标密度与分数函数的关系,并证明ELBO优化目标与真实目标的最小化点几乎一致,为DDPM等扩散生成模型的训练提供了理论基础。
2024-08-29 cs.AI cs.LG math.PR
Diffusion Generative Models in Infinite Dimensions
University of California, Irvine(加州大学欧文分校)
扩散生成模型最近已被应用于可用数据可以被视为底层函数(例如音频信号或时间序列)的离散化的领域。然而,这些模型直接对离散化数据进行操作,并且在建模过程中没有将观察到的数据与底层函数形式相关联的语义。我们推广扩散模型直接在函数空间中操作,通过发展这种模型的基本理论,在希尔伯特空间上的高斯措施。我们的函数空间的观点的一个显着好处是,它允许我们显式地指定我们正在工作的函数的空间,使我们能够开发在Sobolev空间中的扩散生成建模方法。我们的方法允许我们执行无条件和有条件生成函数值数据。我们证明了我们的方法在几个合成和现实世界的基准。
2023-02-24 cs.LG stat.ML
Learning to Approximate Particle Smoothing Trajectories via Diffusion Generative Models
Aalto University(阿尔托大学)
提出一种结合条件粒子滤波、祖先采样与扩散模型的方法,用于从稀疏观测中生成高质量平滑轨迹,并高效近似粒子平滑分布,应用于车辆跟踪与单细胞RNA测序等任务。
2024-06-01 cs.LG
DiffusionPDE: Generative PDE-Solving Under Partial Observation
University of Michigan(密歇根大学);Stanford University(斯坦福大学)
针对部分观测下现有偏微分方程求解方法表现不佳的问题,提出DiffusionPDE框架,通过建模解与系数的联合分布,同时补全信息并求解,性能显著优于现有方法。
2024-11-01 cs.AI cs.CV cs.LG
Tackling the Generative Learning Trilemma with Denoising Diffusion GANs
The University of Chicago(芝加哥大学);NVIDIA(英伟达)
在过去的十年中,已经开发了各种各样的深度生成模型。然而,这些模型通常难以同时满足三个关键要求,包括:高样本质量、模式覆盖和快速采样。我们将这些需求所带来的挑战称为生成学习三难困境,因为现有的模型经常会用其中的一些来交换其他的。特别是,去噪扩散模型已经显示出令人印象深刻的样本质量和多样性,但其昂贵的采样还不允许它们应用于许多现实世界的应用。在本文中,我们认为,这些模型中的慢采样从根本上归因于高斯假设的去噪步骤,这是合理的,只有小步长。为了实现大步骤的去噪,从而减少去噪步骤的总数,我们建议使用复杂的多峰分布来建模去噪分布。我们介绍了去噪扩散生成对抗网络(去噪扩散GANs),它使用多模态条件GAN对每个去噪步骤进行建模。通过广泛的评估,我们表明去噪扩散GANs获得了与原始扩散模型竞争的样本质量和多样性,同时在CIFAR-10数据集上快了2000 $\times$。与传统的GANs相比,我们的模型具有更好的模式覆盖率和样本多样性。据我们所知,去噪扩散GAN是第一个将扩散模型中的采样成本降低到允许它们廉价地应用于现实世界应用的程度的模型。项目页面和代码可以在https://nvlabs.github.io/denoising-diffusion-gan上找到
2022-04-04 cs.LG stat.ML
From Independent to Correlated Diffusion: Generalized Generative Modeling with Probabilistic Computers
Department of Electrical and Computer Engineering, University of California, Santa Barbara(加州大学圣塔芭芭拉分校电气与计算机工程系)
本文提出一种基于概率计算机的通用生成建模方法,通过引入马尔可夫链蒙特卡洛动态替代独立噪声注入,利用Ising耦合结构实现更符合目标系统的空间相关性建模。
2026-08-11 cs.ET cs.LG
Generative AI Meets 6G and Beyond: Diffusion Models for Semantic Communications
Beijing University of Posts and Telecommunications(北京邮电大学);Shanghai Jiao Tong University(上海交通大学);East China Normal University(华东师范大学);Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学)
本文探讨生成AI与6G通信的结合,介绍扩散模型在语义通信中的应用,分析其在可控生成、高效推理和跨域适应中的核心方法及贡献。
2026-05-07 cs.IT cs.LG cs.MM
Score-Based Generative Modeling with Critically-Damped Langevin Diffusion
NVIDIA(英伟达);University of Waterloo(滑铁卢大学);Vector Institute(矢量研究所)
基于分数的生成模型(SGM)已经证明了显着的合成质量。SGM依赖于扩散过程,该过程逐渐将数据扰动到易于处理的分布,而生成模型则学习去噪。除了数据分布本身之外,这种去噪任务的复杂性唯一地由扩散过程决定。我们认为,目前的SGM采用过于简单的扩散,导致不必要的复杂的去噪过程,这限制了生成建模性能。基于统计力学的连接,我们提出了一种新的临界阻尼朗之万扩散(CLD),并表明基于CLD的SGMs实现优越的性能。CLD可以被解释为在扩展空间中运行联合扩散,其中辅助变量可以被认为是耦合到数据变量的“速度”,如在哈密顿动力学中。我们推导出一个新的分数匹配CLD的目标,并表明该模型只需要学习的条件分布的速度给定的数据,一个更容易的任务比学习分数的数据直接的得分函数。我们还得到了一个新的采样方案,有效的合成CLD为基础的扩散模型。我们发现,CLD优于以前的SGM在合成质量相似的网络架构和采样计算预算。我们表明,我们的新型采样器CLD显着优于求解器,如欧拉-丸山。我们的框架为基于分数的去噪扩散模型提供了新的见解,并且可以很容易地用于高分辨率图像合成。项目页面和代码:https://nv-tlabs.github.io/CLD-SGM.
2022-03-25 cs.LG stat.ML
Trans-Dimensional Generative Modeling via Jump Diffusion Models
University of Oxford(牛津大学);University of British Columbia(不列颠哥伦比亚大学);CNRS ENS Ulm(法国国家科学研究中心巴黎高等师范学院)
本文提出基于跳跃扩散过程的生成模型,通过联合建模状态与维度来处理维度可变数据,并在分子和视频数据集上验证了其在插补和插值任务中的优势。
2023-10-30 cs.CV cs.LG stat.ML
Infinite-dimensional generative diffusions via Doob's h-transform
College of Computing and Data Science, Nanyang Technological University, Singapore(计算与数据科学学院,南洋理工大学,新加坡)
本文通过Doob的h变换在无限维中构建生成扩散模型,通过测度变换推动扩散过程,实现了更灵活的模型构建,并在合成和真实数据上验证了方法有效性。
2026-08-24 cs.LG stat.ML
Composing diffusion priors with explicit physical context via generative Gibbs sampling
Department of Chemistry(化学系);Courant Institute of Mathematical Sciences(数学科学学院);University of Chicago(芝加哥大学);New York University(纽约大学)
本文提出GG-PA框架,通过生成性Gibbs采样结合显式物理上下文,实现扩散先验与物理上下文的联合分布推断,验证了在有限扩散时间下精确性,并通过实验展示其在双井系统、ϕ⁴晶格模型和原子肽系统中的有效性。
2026-05-11 cond-mat.stat-mech cs.LG
Let us Build Bridges: Understanding and Extending Diffusion Generative Models
University of Texas at Austin(德克萨斯大学奥斯汀分校)
基于扩散的生成模型最近取得了可喜的成果,但提出了一系列的开放性问题,在概念理解,理论分析,算法改进和扩展到离散的,结构化的,非欧几里德域。这项工作试图重新检查的整体框架,以获得更好的理论理解和开发算法扩展的数据从任意域。通过将扩散模型看作是具有不可观测扩散轨迹的隐变量模型,并应用隐轨迹由辅助分布估算的极大似然估计(MLE),我们证明了无论是模型的构造还是隐轨迹的估算,都相当于构造了在终点具有确定性值和约束的扩散桥过程,并为此提供了系统的研究和一套工具.利用我们的框架,我们提出了1)学习扩散生成模型的第一个理论误差分析,以及2)一个简单而统一的方法来学习来自不同离散和约束域的数据。实验表明,我们的方法在生成图像,语义段和三维点云上表现出色。
2022-08-31 cs.CV cs.LG
SiT: Exploring Flow and Diffusion-based Generative Models with Scalable Interpolant Transformers
New York University(纽约大学)
本文提出SiT生成模型,基于DiT骨干网络,利用灵活的插值框架模块化研究动态传输生成模型的设计选择,在相同结构和参数下于ImageNet基准上全面超越DiT。
2024-09-23 cs.CV cs.LG
Beyond Blur: A Fluid Perspective on Generative Diffusion Models
提出基于平流-扩散过程的新型PDE驱动腐败过程,通过GPU加速格子玻尔兹曼求解器实现,结合随机速度场诱导湍流,泛化现有PDE方法,提升生成图像多样性与质量,桥接流体动力学与深度生成建模。
2025-08-23 cs.CV cs.GR cs.LG
Unified framework for diffusion generative models in SO(3): applications in computer vision and astrophysics
Carnegie Mellon University(卡内基梅隆大学);CEA(法国原子能和替代能源委员会);CNRS(法国国家科学研究中心);Universite Paris-Saclay(巴黎萨克雷大学);Universite Paris Cite(巴黎西岱大学)
针对标准扩散模型无法直接处理流形值数据的问题,研究将SGMs与DDPMs拓展至三维旋转李群SO(3),实现高效训练,在合成密度任务上达SOTA,且可用于姿态估计与星系取向预测。
2023-12-18 cs.CV cs.LG