Image Embedding for Denoising Generative Models
University of Bologna(博洛尼亚大学)
去噪扩散模型在生成式建模领域越来越受欢迎,原因有几个,包括简单稳定的训练,优秀的生成质量和坚实的概率基础。在这篇文章中,我们解决的问题{ \em嵌入}的潜在空间的图像去噪扩散模型,即找到一个合适的“噪声”的图像,其去噪的结果在原始图像。我们特别关注去噪扩散隐式模型,由于其反向扩散过程的确定性。作为我们的调查的一个副作用,我们获得了更深入的了解扩散模型的潜在空间的结构,打开有趣的视角,其探索,语义轨迹的定义,和编辑目的的编码的操纵/调节。我们的研究强调了一个特别有趣的属性,这也是这类生成模型的特征,是潜在表示与实现反向扩散过程的网络的独立性。换句话说,一个共同的种子传递到不同的网络(每个网络都在同一个数据集上训练),最终会产生相同的图像。
2022-12-30 cs.AI cs.CV cs.LG
Generative Dataset Distillation Based on Diffusion Model
Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学);Hokkaido University(北海道大学);Fraunhofer IVI(弗劳恩霍夫应用研究促进协会交通与基础设施系统研究所);Technical University of Munich(慕尼黑工业大学)
针对ECCV 2024数据集蒸馏挑战赛生成赛道的限时生成要求,提出基于SDXL-Turbo的生成式数据集蒸馏方法,用类别信息作提示词加后增强,提升每类生成图像数,获赛道第三名。
2024-08-16 cs.AI cs.CV cs.LG
Analyzing Multimodal Objectives Through the Lens of Generative Diffusion Guidance
Seoul National University(首尔国立大学)
近年来,多模态表示学习领域取得了惊人的进展,其中对比学习是重大突破的基石。最新的作品通过将不同的目标(如掩码建模和字幕)纳入框架中,提供了进一步的改进,但我们对这些目标如何促进学习的理解仍然非常不完整。在本文中,我们利用分类器引导的扩散模型生成反映分类器提供的语义信号的图像来研究多模态学习目标的特征。具体来说,我们比较对比,匹配和字幕损失方面的语义信号,并引入一个简单的基线,不仅支持我们的分析,但也提高了生成指导的质量在一个简单的方式。
2023-02-10 cs.AI cs.CV cs.LG
Review of Disentanglement Approaches for Medical Applications -- Towards Solving the Gordian Knot of Generative Models in Healthcare
Institute for AI in Medicine (IKIM), University Medicine Essen(埃森大学医学人工智能研究所(IKIM));Computer Vision and Learning Lab (CVL), Heidelberg University(海德堡大学计算机视觉与学习实验室(CVL))
深度神经网络通常用于医学目的,例如图像生成、分割或分类。除此之外,它们经常被批评为黑箱,因为它们的决策过程通常不是人类可以解释的。鼓励生成模型的潜在表征被解开,提供了控制和可解释性的新视角。了解数据生成过程可以帮助创建人工医疗数据集,而不会侵犯患者隐私,合成不同的数据模态或发现数据生成特征。这些特征可能会揭示与遗传特征或患者结局相关的新关系。在本文中,我们对流行的生成模型进行了全面的概述,如生成对抗网络(GANs),变分自编码器(VAE)和基于流的模型。此外,我们总结了不同的概念去纠缠,审查方法去纠缠潜在的空间表示和度量来评估的程度去纠缠。在介绍了理论框架之后,我们概述了最近的医学应用,并讨论了解纠缠方法对医学应用的影响和重要性。
2022-03-21 cs.AI cs.CV cs.LG
Generative AI in Vision: A Survey on Models, Metrics and Applications
University of Maryland(马里兰大学)
本文综述了视觉生成式人工智能中的扩散模型与传统模型,涵盖其理论基础、关键技术和在文本到图像、图像修复、超分辨率等任务中的应用,旨在为研究者提供全面理解并启发未来创新。
2024-02-26 cs.AI cs.CV cs.LG
Diversity-Driven Generative Dataset Distillation Based on Diffusion Model with Self-Adaptive Memory
Hokkaido University(北海道大学);The University of Tokyo(东京大学)
本文提出一种基于扩散模型与自适应记忆的多样性驱动生成式数据集蒸馏方法,通过对齐蒸馏与真实数据分布并评估代表性,引导生成更多样化数据集,在多数情况下优于现有最先进方法。
2025-05-26 cs.AI cs.CV cs.LG
Shedding Light on Large Generative Networks: Estimating Epistemic Uncertainty in Diffusion Models
Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC-CNS)(巴塞罗那超级计算中心)
本文提出DECU框架,通过结合预训练参数高效训练条件扩散模型集成,并采用成对距离估计器评估互信息,准确估计大规模扩散模型的认知不确定性。
2024-06-05 cs.AI cs.CV cs.LG
Generative Diffusion Modeling: A Practical Handbook
本手册提供扩散模型的统一视角,涵盖多种相关方法,通过统一符号与代码实现对齐弥合“论文到代码”差距,并系统介绍基础、预训练及后训练技术,旨在为生成式建模提供实用指南。
2024-12-22 cs.CV cs.LG
Regularization Methods for Generative Adversarial Networks: An Overview of Recent Studies
Korea University(高丽大学);Research Institute for Information and Communication Technology, Korea University(高丽大学信息与通信技术研究院)
尽管其历史很短,但生成对抗网络(GAN)已被广泛研究并用于各种任务,包括其原始目的,即,合成样品生成。然而,将GAN应用于具有不同神经网络架构的不同数据类型受到其训练局限性的阻碍,其中模型很容易出现分歧。这种臭名昭著的GANs训练是众所周知的,并已在许多研究中得到解决。因此,为了使GAN的训练稳定,近年来已经提出了许多正则化方法。本文回顾了最近引入的正则化方法,其中大部分是在过去三年中发表的。具体来说,我们专注于无论神经网络架构如何都可以常用的一般方法。为了探讨GANs正则化方法的最新研究动态,根据正则化方法的工作原理将其分为几类,并分析了它们之间的差异。此外,为了提供使用这些方法的实用知识,我们研究了在最先进的GANs中经常使用的流行方法。此外,我们讨论了现有方法的局限性,并提出了未来的研究方向。
2020-05-19 cs.CV cs.LG cs.NE
Diffusion-based Graph Generative Methods
Research Center for Graph Computing(图计算研究中心);School of Data Science and Engineering, East China Normal University(华东师范大学数据科学与工程学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);ZJU-Hangzhou Global Scientific and Technological Innovation Center(浙江大学杭州国际科创中心);Antai College of Economics and Management, Shanghai Jiao Tong University(上海交通大学安泰经济与管理学院)
本文系统综述基于扩散的图生成方法,涵盖三种主流范式(去噪扩散概率模型、基于分数的生成模型和随机微分方程),分类介绍最新应用,并指出局限与未来方向。
2024-07-16 cs.AI cs.LG
How Generative Adversarial Networks and Their Variants Work: An Overview
Seoul National University(首尔国立大学)
生成对抗网络(GAN)因其在学习高维、复杂的真实数据分布方面的潜力,在机器学习领域受到广泛关注。具体来说,它们不依赖于任何关于分布的假设,并且可以以简单的方式从潜在空间生成类似真实的样本。这种强大的特性使得GAN被广泛应用于图像合成、图像属性编辑、图像翻译、领域自适应等学术领域。在本文中,我们的目的是讨论GAN的细节,为那些读者谁熟悉,但没有深入了解GAN或谁希望看到GAN从不同的角度。此外,我们解释了GAN如何运作,以及最近提出的各种目标函数的基本含义。然后,我们专注于如何将GAN与自动编码器框架相结合。最后,我们列举了适用于各种任务和其他领域的GAN变体,供那些有兴趣利用GAN进行研究的人使用。
2019-02-28 cs.LG
Noise Estimation for Generative Diffusion Models
Tel-Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
生成扩散模型已经成为语音和图像生成中的主要模型。然而,为了用少量的去噪步骤来良好地执行,需要对噪声参数集进行昂贵的调谐。在这项工作中,我们提出了一个简单而通用的学习方案,可以逐步调整这些噪声参数,对于任何给定的步骤数,而以前的工作需要分别为每个数字重新调整。此外,在不修改扩散模型的权重的情况下,我们能够显著地改善合成结果,对于少量的步骤。我们的方法来在一个可以忽略不计的计算成本。
2021-09-12 cs.CV cs.LG
A Survey on Graph Diffusion Models: Generative AI in Science for Molecule, Protein and Material
KAIST(韩国科学技术院);Kyung Hee University(庆熙大学)
本文综述了图扩散模型在科学AIGC领域的应用,涵盖其机制及在分子、蛋白质和材料设计中的生成方法,并讨论了评估与挑战。
2023-04-04 cs.CV cs.LG
Phoenix: A Federated Generative Diffusion Model
University of Washington Bothell(华盛顿大学博塞尔分校)
针对生成模型中心化训练的隐私问题,提出联邦生成扩散模型Phoenix,可在非独立同分布数据下提升生成样本多样性,在联邦场景中效果优于默认扩散模型,兼顾隐私保护与生成质量。
2023-06-07 cs.CV cs.LG
Explainability in Generative Medical Diffusion Models: A Faithfulness-Based Analysis on MRI Synthesis
Rajiv Gandhi institute of petroleum technology(拉吉夫·甘地石油技术学院)
研究探讨生成扩散模型在医学影像中的可解释性,聚焦MRI合成,通过分析原型方法评估生成与训练特征的关系,实验表明EPPNet在忠实度上表现最佳,提升生成过程的透明度和可信度。
2026-04-22 cs.AI cs.LG
Generative Diffusion Models on Graphs: Methods and Applications
The Hong Kong Polytechnic University(香港理工大学);Michigan State University(密歇根州立大学)
本文是图生成式扩散模型的综述,梳理SMLD、DDPM、SGM三类代表性算法,总结其在分子与蛋白质建模等领域的应用,探讨未来研究方向,并搭建了相关资源的GitHub项目网站。
2023-08-25 cs.AI cs.LG cs.SI
CCD: Continual Consistency Diffusion for Lifelong Generative Modeling
针对扩散模型在持续学习中的生成灾难性遗忘问题,本文提出持续一致性扩散框架CCD,通过三项一致性原则和分层损失函数,在多个基准上取得SOTA性能。
2025-08-22 cs.AI cs.LG
Generative Uncertainty in Diffusion Models
UvA-Bosch Delta Lab, University of Amsterdam(阿姆斯特丹大学)
针对扩散模型单个样本质量难检测的问题,提出基于贝叶斯框架的生成不确定性估计方法,结合语义似然应对高维挑战,可事后应用于预训练模型且能有效识别低质量样本。
2025-06-12 cs.AI cs.LG
Diffusion-TTA: Test-time Adaptation of Discriminative Models via Generative Feedback
Carnegie Mellon University(卡内基梅隆大学)
本文提出 Diffusion-TTA,利用扩散模型的生成反馈在测试时自适应判别模型,通过最大化图像似然反向传播梯度,显著提升分类、分割和深度预测等任务的准确率,优于 TTT-MAE 和 TENT 等现有方法。
2023-11-29 cs.AI cs.CV cs.LG
A Comprehensive Survey on Generative Diffusion Models for Structured Data
University College London(伦敦大学学院);Carnegie Mellon University(卡内基梅隆大学)
本文系统综述了面向表格和时间序列等结构化数据的生成式扩散模型,梳理其理论基础与代表性工作,分析现有局限并展望未来研究方向。
2023-07-08 cs.AI cs.LG
An Overview of Diffusion Models: Applications, Guided Generation, Statistical Rates and Optimization
Princeton University(普林斯顿大学);UC Berkeley(加州大学伯克利分校)
本文综述扩散模型的新兴应用、各类控制下的生成机制、现有统计与采样理论,以及其在高维结构化优化中的新应用,探讨未来方向,为相关前瞻性理论方法研究提供参考。
2024-04-11 cs.LG math.ST stat.ML
DiffusionBERT: Improving Generative Masked Language Models with Diffusion Models
Fudan University(复旦大学)
提出了一种基于离散扩散模型的生成式掩蔽语言模型DiffusionBERT。扩散模型和许多预先训练的语言模型具有共享的训练目标,即,去噪,使其能够结合两个强大的模型,享受两全其美。一方面,扩散模型提供了一种有前途的训练策略,有助于提高生成质量。另一方面,预先训练的去噪语言模型(例如,BERT)可以用作加速收敛的良好初始化。我们探索训练BERT学习的反向过程的离散扩散过程的吸收状态和阐明几个设计,以改善it. First,我们提出了一个新的噪声时间表的前向扩散过程中,控制的程度,在每一步的基础上,每个令牌的信息添加的噪声。其次,我们研究了几种将时间步长纳入BERT的设计。对无条件文本生成的实验表明,DiffusionBERT比现有的文本扩散模型(例如,D3 PM和Diffusion-LM)和先前的生成掩蔽语言模型在困惑度和BLEU得分方面的性能。
2022-11-30 cs.AI cs.CL cs.LG
Let us Build Bridges: Understanding and Extending Diffusion Generative Models
University of Texas at Austin(德克萨斯大学奥斯汀分校)
基于扩散的生成模型最近取得了可喜的成果,但提出了一系列的开放性问题,在概念理解,理论分析,算法改进和扩展到离散的,结构化的,非欧几里德域。这项工作试图重新检查的整体框架,以获得更好的理论理解和开发算法扩展的数据从任意域。通过将扩散模型看作是具有不可观测扩散轨迹的隐变量模型,并应用隐轨迹由辅助分布估算的极大似然估计(MLE),我们证明了无论是模型的构造还是隐轨迹的估算,都相当于构造了在终点具有确定性值和约束的扩散桥过程,并为此提供了系统的研究和一套工具.利用我们的框架,我们提出了1)学习扩散生成模型的第一个理论误差分析,以及2)一个简单而统一的方法来学习来自不同离散和约束域的数据。实验表明,我们的方法在生成图像,语义段和三维点云上表现出色。
2022-08-31 cs.CV cs.LG
SiT: Exploring Flow and Diffusion-based Generative Models with Scalable Interpolant Transformers
New York University(纽约大学)
本文提出SiT生成模型,基于DiT骨干网络,利用灵活的插值框架模块化研究动态传输生成模型的设计选择,在相同结构和参数下于ImageNet基准上全面超越DiT。
2024-09-23 cs.CV cs.LG
Unified framework for diffusion generative models in SO(3): applications in computer vision and astrophysics
Carnegie Mellon University(卡内基梅隆大学);CEA(法国原子能和替代能源委员会);CNRS(法国国家科学研究中心);Universite Paris-Saclay(巴黎萨克雷大学);Universite Paris Cite(巴黎西岱大学)
针对标准扩散模型无法直接处理流形值数据的问题,研究将SGMs与DDPMs拓展至三维旋转李群SO(3),实现高效训练,在合成密度任务上达SOTA,且可用于姿态估计与星系取向预测。
2023-12-18 cs.CV cs.LG
PADS: Plug-and-Play 3D Human Pose Analysis via Diffusion Generative Modeling
The Australian National University(澳大利亚国立大学)
PADS通过扩散生成建模提出了一种即插即用的3D人体姿态分析框架,能够在无需任务特定监督的情况下适应多种姿态分析任务。
2025-12-14 cs.AI cs.CV
All-atom Diffusion Transformers: Unified generative modelling of molecules and materials
Fundamental AI Research (FAIR) at Meta(Meta 基础人工智能研究);University of Cambridge(剑桥大学);MIT(麻省理工学院)
本文提出全原子扩散Transformer(ADiT),一个统一潜扩散框架,用同一模型联合生成分子和材料,在多个数据集上达到最先进性能,并支持大规模扩展。
2025-05-22 cs.AI cs.LG
The Information Dynamics of Generative Diffusion
Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所);Radboud University(拉德堡德大学)
本文从信息论、动力学和热力学角度探讨生成扩散模型,揭示生成带宽由分数函数发散率决定,通过轨迹分支和生成分岔现象,建立受控噪声诱导对称破缺过程。
2026-03-26 cs.AI cs.LG stat.ML
Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Oak Ridge National Laboratory(橡树岭国家实验室)
本文提出Blackout Diffusion框架,利用精确分析为任意离散状态马尔可夫过程建立前向扩散理论,并从空白图像生成样本,在多个数据集上验证了可行性,为解释扩散模型提供新视角。
2023-05-18 cs.CV cs.LG
Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation
Harvard University(哈佛大学)
本研究提出一种基于BSDE的新型扩散模型,通过适配现有分数函数确定目标分布的初始条件,证明了理论保证与Lipschitz网络的优势,可应用于扩散反演等多领域,为生成学习提供新方向。
2023-04-26 cs.AI cs.LG
Generative Pre-trained Autoregressive Diffusion Transformer
University of Science and Technology of China(中国科学技术大学);StepFun, China(StepFun)
本文提出GPDiT,一种在连续潜在空间内结合扩散与自回归的生成式预训练Transformer,通过扩散损失预测未来帧,实现高质量长程视频合成,并提升表示与少样本学习能力。
2025-10-08 cs.AI cs.CV
Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework
Imperial College London(帝国理工学院);University of Coimbra(科英布拉大学)
该研究提出谱引导的质量-多样性扩散框架,将质量-多样性优化与扩散模型结合,通过h空间谱变异算子提升输出多样性,在文本到图像生成任务上的FID分数优于12个基线方法,实现了图像质量与多样性的良好平衡。
2026-10-14 cs.AI cs.LG
Diffusion Models for Generative Artificial Intelligence: An Introduction for Applied Mathematicians
University of Glasgow(格拉斯哥大学);University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学)
本文面向应用数学家和统计学家,介绍扩散模型的基本原理、数学推导及其与偏微分方程的联系,并提供了计算示例和代码,旨在帮助高年级本科生和研究生理解这一生成式AI的核心技术。
2023-12-21 cs.AI cs.LG
Improving Diffusion-Based Generative Models via Approximated Optimal Transport
Seoul National University(首尔大学);Yonsei University(延世大学)
本研究提出近似最优传输(AOT)训练技术,将最优传输近似整合到扩散模型训练中以降低轨迹曲率与采样误差,在仅27-29次NFEs下刷新了无条件和条件生成的FID最优成绩。
2024-03-08 cs.CV cs.LG
Generative Latent Diffusion for Efficient Spatiotemporal Data Reduction
University of Florida(佛罗里达大学)
本文提出一种结合变分自编码器与条件扩散模型的潜在扩散框架,仅压缩少量关键帧并通过生成式插值重建其余帧,在多个数据集上实现比SZ3高10倍的压缩比和比领先学习方法高63%的性能。
2025-07-02 cs.CV cs.LG
Trans-Dimensional Generative Modeling via Jump Diffusion Models
University of Oxford(牛津大学);University of British Columbia(不列颠哥伦比亚大学);CNRS ENS Ulm(法国国家科学研究中心巴黎高等师范学院)
本文提出基于跳跃扩散过程的生成模型,通过联合建模状态与维度来处理维度可变数据,并在分子和视频数据集上验证了其在插补和插值任务中的优势。
2023-10-30 cs.CV cs.LG stat.ML
DiffusionPDE: Generative PDE-Solving Under Partial Observation
University of Michigan(密歇根大学);Stanford University(斯坦福大学)
针对部分观测下现有偏微分方程求解方法表现不佳的问题,提出DiffusionPDE框架,通过建模解与系数的联合分布,同时补全信息并求解,性能显著优于现有方法。
2024-11-01 cs.AI cs.CV cs.LG
Advancements in Generative AI: A Comprehensive Review of GANs, GPT, Autoencoders, Diffusion Model, and Transformers
Bowie State University(鲍伊州立大学);Morgan State University(摩根州立大学);University of the District of Columbia(哥伦比亚特区大学)
本文系统综述了以ChatGPT为代表的生成式AI进展,涵盖GAN、GPT、自编码器、扩散模型和Transformer等核心模型,分析其多样化任务能力、面临的挑战及未来前景。
2023-11-21 cs.AI cs.LG
Beyond Blur: A Fluid Perspective on Generative Diffusion Models
提出基于平流-扩散过程的新型PDE驱动腐败过程,通过GPU加速格子玻尔兹曼求解器实现,结合随机速度场诱导湍流,泛化现有PDE方法,提升生成图像多样性与质量,桥接流体动力学与深度生成建模。
2025-08-23 cs.CV cs.GR cs.LG
Notes on generative modeling: flow matching, diffusion, optimal transport and Schr{ö}dinger bridge
Inria(法国国家信息与自动化研究所)
本文梳理生成建模中不同技术的高层数学原理,揭示最优传输与薛定谔桥、流匹配等标准方法之间的联系。
2026-06-29 cs.LG stat.ML
Generative Geostatistical Modeling from Incomplete Well and Imaged Seismic Observations with Diffusion Models
Georgia Institute of Technology(佐治亚理工学院)
本文提出利用扩散生成模型,仅基于不完整井和地震观测合成高保真地下速度模型,无需完整训练数据,并能提供不确定性估计,为全波形反演提供支持。
2024-05-16 cs.AI cs.CV physics.geo-ph
Your ViT is Secretly a Hybrid Discriminative-Generative Diffusion Model
Georgia State University(佐治亚州立大学);Etsy Inc.(Etsy公司)
扩散去噪概率模型(DDPM)和视觉Transformer(ViT)分别在生成任务和判别任务中表现出了显著的进展,到目前为止,这些模型在各自的领域中得到了很大的发展。在本文中,我们建立了一个直接的连接DDPM和ViT集成到DDPM的ViT架构,并引入了一个新的生成模型,称为生成ViT(GenViT)。ViT的建模灵活性使我们能够进一步扩展GenViT到混合判别生成建模,并引入混合ViT(HybViT)。我们的工作是第一次探索一个单一的ViT图像生成和分类联合。我们进行了一系列的实验来分析所提出的模型的性能,并证明他们的优越性比以前的国家的最先进的生成和判别任务。我们的代码和预训练模型可以在https://github.com/sndnyang/Diffusion_ViT中找到。
2022-08-16 cs.CV
VFusion3D: Learning Scalable 3D Generative Models from Video Diffusion Models
GenAI, Meta(Meta GenAI部门);University of Oxford(牛津大学)
本文提出VFusion3D,利用预训练视频扩散模型生成大规模合成多视图数据,训练前馈3D生成模型,实现单图秒级生成3D资产,性能超越现有最先进模型。
2024-07-18 cs.CV cs.GR cs.LG
Diffusion-Stego: Training-free Diffusion Generative Steganography via Message Projection
Seoul National University(首尔国立大学)
本文提出Diffusion-Stego,一种基于扩散模型的无训练生成式隐写方法,通过消息投影将秘密消息隐藏到潜在噪声中,在保持高图像质量的同时实现高容量和高提取准确率。
2023-05-30 cs.CV
Diffusion-Weighted Magnetic Resonance Brain Images Generation with Generative Adversarial Networks and Variational Autoencoders: A Comparison Study
ETH Zurich(苏黎世联邦理工学院);University of Zurich(苏黎世大学);Stanford University(斯坦福大学);Stanford Stroke Center(斯坦福中风中心);Institute for Biomedical Engineering(生物医学工程研究所)
我们表明,高质量,多样化和逼真的扩散加权磁共振图像可以使用深生成模型合成。基于专业神经放射学家的评价和不同的指标,就所生成的合成脑图像的质量和多样性,我们提出了两个网络,内省变分自编码器和基于样式的GAN,有资格在医疗领域的数据增强,其中信息被保存在一个调度和不均匀的方式和访问它是在许多方面受到限制。
2020-06-24 cs.CV cs.LG eess.IV
A Variational Perspective on Diffusion-Based Generative Models and Score Matching
University of Montreal(蒙特利尔大学);Mila(米拉)
基于离散时间扩散的生成模型和分数匹配方法在高维图像数据建模方面显示出了良好的效果。最近,Song等人(2021)表明,将数据转换为噪声的扩散过程可以通过学习得分函数(即扰动数据的对数密度的梯度)来逆转。他们建议将学习的得分函数插入到逆公式中,以定义生成扩散过程。尽管在经验上取得了成功,但这一程序仍然缺乏理论基础。在这项工作中,我们直接接近(连续时间)生成扩散,并推导出一个变分框架的似然估计,其中包括连续时间规范化流作为一个特殊情况下,可以看作是一个无限深的变分自编码器。在这个框架下,我们证明了最小化分数匹配损失相当于最大化Song等人(2021)提出的插入式反向搜索的可能性下限,弥合了理论差距。
2021-09-30 cs.LG
A diffusion-based generative model for financial time series via geometric Brownian motion
Department of Mathematics, POSTECH(POSTECH数学系);Department of Financial Mathematics, Gachon University(高丽大学金融数学系);Department of Applied Artificial Intelligence, SeoulTech(首尔科技大学应用人工智能系)
针对金融时间序列的异方差特性,提出将几何布朗运动融入扩散前向过程的生成框架,并用CSDI式Transformer训练反向生成,更真实地再现多种金融程式化事实。
2025-07-25 cs.AI cs.LG cs.NA
Generating Diffusion MRI scalar maps from T1 weighted images using generative adversarial networks
Linköping University(林雪平大学);Center for Medical Image Science and Visualization (CMIV)(医学影像科学与可视化中心(CMIV));Lund University(隆德大学)
扩散磁共振成像(扩散MRI)是一种非侵入性的微观结构评估技术。量化微结构组织性质的标量测量,诸如FA(分数各向异性)和MD(平均扩散率),可以使用扩散模型和数据处理流水线来获得。然而,收集高质量的扩散数据是昂贵且耗时的。因此,在这里,我们演示了如何使用生成对抗网络(GANs)在单个优化步骤中从结构T1加权图像生成合成扩散标量度量。具体来说,我们训练流行的CycleGAN模型来学习将T1图像映射到FA或MD,反之亦然。作为一个应用程序,我们表明,合成FA图像可以用作非线性配准的目标,以纠正扩散MRI中常见的几何失真。
2019-04-09 cs.CV
Diffusion Models For Multi-Modal Generative Modeling
University at Buffalo(布法罗大学);Amazon(亚马逊公司)
本文提出一种在公共扩散空间构建统一多模态扩散模型的原则性方法,通过共享主干网络与特定模态解码器实现多模态数据生成,并在ImageNet上验证了其有效性。
2024-09-24 cs.CV
Generative Modeling with Diffusion
Arizona State University(亚利桑那州立大学)
本文概述扩散模型的生成原理,定义加噪去噪过程并介绍其训练与生成算法,同时探索该模型在提升不平衡数据分类器性能上的潜在应用。
2025-06-11 cs.LG math.PR stat.ML
Generative Diffusion From An Action Principle
Kavli Institute for Cosmological Physics(卡夫利宇宙物理研究所);University of Chicago(芝加哥大学)
本文从作用量原理推导得分匹配,将逆向扩散视为最优控制问题,揭示不同扩散模型间的联系。
2023-10-06 cs.LG physics.class-ph
Conditional sampling within generative diffusion models
Linköping University(林雪平大学);Uppsala University(乌普萨拉大学)
本文综述生成式扩散模型中的条件采样计算方法,梳理利用联合分布或带显式似然的预训练边缘分布构建条件采样器的关键技术。
2025-02-19 cs.LG stat.ML
Generative Modelling With Inverse Heat Dissipation
Aalto University(阿尔托大学)
本文提出一种通过随机逆转热方程生成图像的新模型,利用图像多尺度结构实现由粗到细的生成,并展现出颜色与形状解耦等优于标准扩散模型的特性。
2023-04-12 cs.CV cs.LG stat.ML
Diffusion-based Generative Image Outpainting for Recovery of FOV-Truncated CT Images
Technical University of Munich(慕尼黑工业大学);Massachusetts General Hospital(麻省总医院);Imperial College London(伦敦帝国学院);Harvard Medical School(哈佛医学院)
本文提出一种基于扩散模型的生成式图像外绘方法,用于恢复视野截断的胸部CT切片,在训练数据减少87%的情况下,可靠恢复解剖结构并优于现有最先进方法,助力身体成分分析与疾病预后。
2024-09-26 cs.CV cs.LG eess.IV