Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出Blackout Diffusion框架，利用精确分析为任意离散状态马尔可夫过程建立前向扩散理论，并从空白图像生成样本，在多个数据集上验证了可行性，为解释扩散模型提供新视角。
2023-05-18 cs.CV cs.LG
Improving Diffusion-Based Generative Models via Approximated Optimal Transport
Seoul National University（首尔大学）；Yonsei University（延世大学）
本研究提出近似最优传输（AOT）训练技术，将最优传输近似整合到扩散模型训练中以降低轨迹曲率与采样误差，在仅27-29次NFEs下刷新了无条件和条件生成的FID最优成绩。
2024-03-08 cs.CV cs.LG
Generative Latent Diffusion for Efficient Spatiotemporal Data Reduction
University of Florida（佛罗里达大学）
本文提出一种结合变分自编码器与条件扩散模型的潜在扩散框架，仅压缩少量关键帧并通过生成式插值重建其余帧，在多个数据集上实现比SZ3高10倍的压缩比和比领先学习方法高63%的性能。
2025-07-02 cs.CV cs.LG
Input-Adaptive Generative Dynamics in Diffusion Models
本研究提出了一种输入自适应的扩散模型生成方法，通过调整生成动态以适应不同输入需求，从而提升生成质量和效率。
2026-03-07 cs.AI cs.CV cs.LG
Theoretical research on generative diffusion models: an overview
Yıldız Technical University（伊兹迪兹技术大学）
本文综述生成扩散模型的理论进展，将其方法分为训练与采样两类，为未来研究提供清晰分类框架。
2024-04-13 cs.AI cs.CV cs.LG
Diffusion-C: Unveiling the Generative Challenges of Diffusion Models through Corrupted Data
Inha University（仁荷大学）；POSTECH（浦项科技大学）；Semyung University（世明大学）
本研究提出Diffusion-C方法论，通过多类型多强度损坏数据分析扩散模型生成限制，发现DDPM性能最优、雾与分形损坏削弱鲁棒性、模型脆弱性受拓扑及统计相似性影响，为生成模型研究提供基础。
2023-12-14 cs.AI cs.CV cs.LG
Continual Learning of Diffusion Models with Generative Distillation
Master in Computer Vision (Barcelona)（巴塞罗那计算机视觉硕士项目）；Apple（苹果公司）；KU Leuven（鲁汶大学）
本文提出生成式蒸馏方法，通过蒸馏扩散模型整个逆向过程，解决了标准生成式回放在扩散模型持续学习中导致去噪能力灾难性丧失的问题，在计算成本略增的情况下显著提升了持续学习性能。
2024-05-20 cs.AI cs.CV cs.LG
Trans-Dimensional Generative Modeling via Jump Diffusion Models
University of Oxford（牛津大学）；University of British Columbia（不列颠哥伦比亚大学）；CNRS ENS Ulm（法国国家科学研究中心巴黎高等师范学院）
本文提出基于跳跃扩散过程的生成模型，通过联合建模状态与维度来处理维度可变数据，并在分子和视频数据集上验证了其在插补和插值任务中的优势。
2023-10-30 cs.CV cs.LG stat.ML
Your ViT is Secretly a Hybrid Discriminative-Generative Diffusion Model
Georgia State University（佐治亚州立大学）；Etsy Inc.（Etsy公司）
扩散去噪概率模型（DDPM）和视觉Transformer（ViT）分别在生成任务和判别任务中表现出了显著的进展，到目前为止，这些模型在各自的领域中得到了很大的发展。在本文中，我们建立了一个直接的连接DDPM和ViT集成到DDPM的ViT架构，并引入了一个新的生成模型，称为生成ViT（GenViT）。ViT的建模灵活性使我们能够进一步扩展GenViT到混合判别生成建模，并引入混合ViT（HybViT）。我们的工作是第一次探索一个单一的ViT图像生成和分类联合。我们进行了一系列的实验来分析所提出的模型的性能，并证明他们的优越性比以前的国家的最先进的生成和判别任务。我们的代码和预训练模型可以在https://github.com/sndnyang/Diffusion_ViT中找到。
2022-08-16 cs.CV
Beyond Blur: A Fluid Perspective on Generative Diffusion Models
提出基于平流-扩散过程的新型PDE驱动腐败过程，通过GPU加速格子玻尔兹曼求解器实现，结合随机速度场诱导湍流，泛化现有PDE方法，提升生成图像多样性与质量，桥接流体动力学与深度生成建模。
2025-08-23 cs.CV cs.GR cs.LG
Diffusion-Stego: Training-free Diffusion Generative Steganography via Message Projection
Seoul National University（首尔国立大学）
本文提出Diffusion-Stego，一种基于扩散模型的无训练生成式隐写方法，通过消息投影将秘密消息隐藏到潜在噪声中，在保持高图像质量的同时实现高容量和高提取准确率。
2023-05-30 cs.CV
VFusion3D: Learning Scalable 3D Generative Models from Video Diffusion Models
GenAI, Meta（Meta GenAI部门）；University of Oxford（牛津大学）
本文提出VFusion3D，利用预训练视频扩散模型生成大规模合成多视图数据，训练前馈3D生成模型，实现单图秒级生成3D资产，性能超越现有最先进模型。
2024-07-18 cs.CV cs.GR cs.LG
A Variational Perspective on Diffusion-Based Generative Models and Score Matching
University of Montreal（蒙特利尔大学）；Mila（米拉）
基于离散时间扩散的生成模型和分数匹配方法在高维图像数据建模方面显示出了良好的效果。最近，Song等人（2021）表明，将数据转换为噪声的扩散过程可以通过学习得分函数（即扰动数据的对数密度的梯度）来逆转。他们建议将学习的得分函数插入到逆公式中，以定义生成扩散过程。尽管在经验上取得了成功，但这一程序仍然缺乏理论基础。在这项工作中，我们直接接近（连续时间）生成扩散，并推导出一个变分框架的似然估计，其中包括连续时间规范化流作为一个特殊情况下，可以看作是一个无限深的变分自编码器。在这个框架下，我们证明了最小化分数匹配损失相当于最大化Song等人（2021）提出的插入式反向搜索的可能性下限，弥合了理论差距。
2021-09-30 cs.LG
Image Embedding for Denoising Generative Models
University of Bologna（博洛尼亚大学）
去噪扩散模型在生成式建模领域越来越受欢迎，原因有几个，包括简单稳定的训练，优秀的生成质量和坚实的概率基础。在这篇文章中，我们解决的问题{ \em嵌入}的潜在空间的图像去噪扩散模型，即找到一个合适的“噪声”的图像，其去噪的结果在原始图像。我们特别关注去噪扩散隐式模型，由于其反向扩散过程的确定性。作为我们的调查的一个副作用，我们获得了更深入的了解扩散模型的潜在空间的结构，打开有趣的视角，其探索，语义轨迹的定义，和编辑目的的编码的操纵/调节。我们的研究强调了一个特别有趣的属性，这也是这类生成模型的特征，是潜在表示与实现反向扩散过程的网络的独立性。换句话说，一个共同的种子传递到不同的网络（每个网络都在同一个数据集上训练），最终会产生相同的图像。
2022-12-30 cs.AI cs.CV cs.LG
Generative Dataset Distillation Based on Diffusion Model
Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）；Hokkaido University（北海道大学）；Fraunhofer IVI（弗劳恩霍夫应用研究促进协会交通与基础设施系统研究所）；Technical University of Munich（慕尼黑工业大学）
针对ECCV 2024数据集蒸馏挑战赛生成赛道的限时生成要求，提出基于SDXL-Turbo的生成式数据集蒸馏方法，用类别信息作提示词加后增强，提升每类生成图像数，获赛道第三名。
2024-08-16 cs.AI cs.CV cs.LG
Diffusion-Weighted Magnetic Resonance Brain Images Generation with Generative Adversarial Networks and Variational Autoencoders: A Comparison Study
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；Stanford University（斯坦福大学）；Stanford Stroke Center（斯坦福中风中心）；Institute for Biomedical Engineering（生物医学工程研究所）
我们表明，高质量，多样化和逼真的扩散加权磁共振图像可以使用深生成模型合成。基于专业神经放射学家的评价和不同的指标，就所生成的合成脑图像的质量和多样性，我们提出了两个网络，内省变分自编码器和基于样式的GAN，有资格在医疗领域的数据增强，其中信息被保存在一个调度和不均匀的方式和访问它是在许多方面受到限制。
2020-06-24 cs.CV cs.LG eess.IV
Analyzing Multimodal Objectives Through the Lens of Generative Diffusion Guidance
Seoul National University（首尔国立大学）
近年来，多模态表示学习领域取得了惊人的进展，其中对比学习是重大突破的基石。最新的作品通过将不同的目标（如掩码建模和字幕）纳入框架中，提供了进一步的改进，但我们对这些目标如何促进学习的理解仍然非常不完整。在本文中，我们利用分类器引导的扩散模型生成反映分类器提供的语义信号的图像来研究多模态学习目标的特征。具体来说，我们比较对比，匹配和字幕损失方面的语义信号，并引入一个简单的基线，不仅支持我们的分析，但也提高了生成指导的质量在一个简单的方式。
2023-02-10 cs.AI cs.CV cs.LG
Notes on generative modeling: flow matching, diffusion, optimal transport and Schr{ö}dinger bridge
Inria（法国国家信息与自动化研究所）
本文梳理生成建模中不同技术的高层数学原理，揭示最优传输与薛定谔桥、流匹配等标准方法之间的联系。
2026-06-29 cs.LG stat.ML
Generating Diffusion MRI scalar maps from T1 weighted images using generative adversarial networks
Linköping University（林雪平大学）；Center for Medical Image Science and Visualization (CMIV)（医学影像科学与可视化中心（CMIV））；Lund University（隆德大学）
扩散磁共振成像（扩散MRI）是一种非侵入性的微观结构评估技术。量化微结构组织性质的标量测量，诸如FA（分数各向异性）和MD（平均扩散率），可以使用扩散模型和数据处理流水线来获得。然而，收集高质量的扩散数据是昂贵且耗时的。因此，在这里，我们演示了如何使用生成对抗网络（GANs）在单个优化步骤中从结构T1加权图像生成合成扩散标量度量。具体来说，我们训练流行的CycleGAN模型来学习将T1图像映射到FA或MD，反之亦然。作为一个应用程序，我们表明，合成FA图像可以用作非线性配准的目标，以纠正扩散MRI中常见的几何失真。
2019-04-09 cs.CV
Diffusion Models For Multi-Modal Generative Modeling
University at Buffalo（布法罗大学）；Amazon（亚马逊公司）
本文提出一种在公共扩散空间构建统一多模态扩散模型的原则性方法，通过共享主干网络与特定模态解码器实现多模态数据生成，并在ImageNet上验证了其有效性。
2024-09-24 cs.CV
Generative AI in Vision: A Survey on Models, Metrics and Applications
University of Maryland（马里兰大学）
本文综述了视觉生成式人工智能中的扩散模型与传统模型，涵盖其理论基础、关键技术和在文本到图像、图像修复、超分辨率等任务中的应用，旨在为研究者提供全面理解并启发未来创新。
2024-02-26 cs.AI cs.CV cs.LG
Diversity-Driven Generative Dataset Distillation Based on Diffusion Model with Self-Adaptive Memory
Hokkaido University（北海道大学）；The University of Tokyo（东京大学）
本文提出一种基于扩散模型与自适应记忆的多样性驱动生成式数据集蒸馏方法，通过对齐蒸馏与真实数据分布并评估代表性，引导生成更多样化数据集，在多数情况下优于现有最先进方法。
2025-05-26 cs.AI cs.CV cs.LG
Shedding Light on Large Generative Networks: Estimating Epistemic Uncertainty in Diffusion Models
Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC-CNS)（巴塞罗那超级计算中心）
本文提出DECU框架，通过结合预训练参数高效训练条件扩散模型集成，并采用成对距离估计器评估互信息，准确估计大规模扩散模型的认知不确定性。
2024-06-05 cs.AI cs.CV cs.LG
An overview of diffusion models for generative artificial intelligence
University of Münster（明斯特大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；ETH Zurich（苏黎世联邦理工学院）；Risklab（风险实验室）
本文系统综述生成式AI中的扩散模型，给出DDPM的严谨数学框架、训练与生成原理，并梳理改进型DDPM、DDIM、无分类器引导和潜扩散等重要扩展。
2024-12-02 cs.AI cs.LG
Generative Modelling With Inverse Heat Dissipation
Aalto University（阿尔托大学）
本文提出一种通过随机逆转热方程生成图像的新模型，利用图像多尺度结构实现由粗到细的生成，并展现出颜色与形状解耦等优于标准扩散模型的特性。
2023-04-12 cs.CV cs.LG stat.ML
Diffusion-based Generative Image Outpainting for Recovery of FOV-Truncated CT Images
Technical University of Munich（慕尼黑工业大学）；Massachusetts General Hospital（麻省总医院）；Imperial College London（伦敦帝国学院）；Harvard Medical School（哈佛医学院）
本文提出一种基于扩散模型的生成式图像外绘方法，用于恢复视野截断的胸部CT切片，在训练数据减少87%的情况下，可靠恢复解剖结构并优于现有最先进方法，助力身体成分分析与疾病预后。
2024-09-26 cs.CV cs.LG eess.IV
Aligning Generative Denoising with Discriminative Objectives Unleashes Diffusion for Visual Perception
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对生成式扩散模型用于判别式任务时的中间误差问题，本文分析并增强了生成去噪过程与感知任务的对齐，提出定制学习目标和扩散定制数据增强，在深度估计等任务上实现了SOTA性能。
2025-04-15 cs.CV
TAUDiff: Highly efficient kilometer-scale downscaling using generative diffusion models
Verisk Analytics（维易科分析公司）
本文提出 TAUDiff，通过确定性时空模型结合轻量扩散校正恢复精细随机特征，实现高效且动力学一致的大气风速场公里尺度降尺度。
2025-03-13 cs.LG
IRBridge: Solving Image Restoration Bridge with Pre-trained Generative Diffusion Models
本文提出IRBridge框架，通过转移方程连接两个扩散过程，直接利用预训练生成模型的先验知识解决图像恢复桥中的状态分布不匹配问题，在六项任务上提升了鲁棒性和泛化性能。
2025-05-30 cs.CV
TreeDiffusion: Hierarchical Generative Clustering for Conditional Diffusion
ETH Zurich（苏黎世联邦理工学院）
本文提出TreeDiffusion，结合VAE分层聚类与扩散模型，生成高质量且特定于聚类的图像，解决VAE生成质量差的问题，提升生成聚类性能。
2025-10-14 cs.CV
Nearest Neighbour Score Estimators for Diffusion Generative Models
University of British Columbia（不列颠哥伦比亚大学）；Inverted AI
本文提出一种基于最近邻的得分估计器，利用训练集多个样本降低方差，显著提升一致性模型的收敛速度与样本质量，并可替代扩散模型中学习网络进行概率流ODE积分。
2024-07-16 cs.CV cs.LG stat.ML
Constrained Generative Modeling with Manually Bridged Diffusion Models
University of British Columbia（不列颠哥伦比亚大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所（Amii））；InvertedAI
本文提出手动桥接扩散模型框架，支持多重约束组合与数据分布适配，理论验证有效，并应用于自动驾驶轨迹初始化建模。
2025-02-27 cs.LG
Generative Diffusion From An Action Principle
Kavli Institute for Cosmological Physics（卡夫利宇宙物理研究所）；University of Chicago（芝加哥大学）
本文从作用量原理推导得分匹配，将逆向扩散视为最优控制问题，揭示不同扩散模型间的联系。
2023-10-06 cs.LG physics.class-ph
Bidirectional Generative Modeling Using Adversarial Gradient Estimation
The Hong Kong University of Science and Technology（香港科技大学）
本文考虑了双向生成建模的一般$f$ -发散公式，其中包括VAE和BiGAN作为特例。我们提出了一种新的优化方法，这种配方，其中的梯度计算使用一个adversarially学习的神经网络。在我们的框架中，我们表明，不同的分歧诱导类似的算法在梯度评估，除了不同的缩放。因此，本文给出了一个一般配方的一类原则性的$f$ -发散的生成式建模方法。理论的理由和广泛的实证研究，证明我们的方法比现有的方法的优势。
2020-06-30 cs.CV cs.LG stat.ML
Conditional sampling within generative diffusion models
Linköping University（林雪平大学）；Uppsala University（乌普萨拉大学）
本文综述生成式扩散模型中的条件采样计算方法，梳理利用联合分布或带显式似然的预训练边缘分布构建条件采样器的关键技术。
2025-02-19 cs.LG stat.ML
Generative Diffusion Models on Graphs: Methods and Applications
The Hong Kong Polytechnic University（香港理工大学）；Michigan State University（密歇根州立大学）
本文是图生成式扩散模型的综述，梳理SMLD、DDPM、SGM三类代表性算法，总结其在分子与蛋白质建模等领域的应用，探讨未来研究方向，并搭建了相关资源的GitHub项目网站。
2023-08-25 cs.AI cs.LG cs.SI
Generative Modeling with Diffusion
Arizona State University（亚利桑那州立大学）
本文概述扩散模型的生成原理，定义加噪去噪过程并介绍其训练与生成算法，同时探索该模型在提升不平衡数据分类器性能上的潜在应用。
2025-06-11 cs.LG math.PR stat.ML
Diffusion-SDF: Conditional Generative Modeling of Signed Distance Functions
Princeton University（普林斯顿大学）
概率扩散模型在图像合成、图像修补和文本到图像任务中取得了最先进的结果。然而，它们仍处于生成复杂3D形状的早期阶段。本文提出了一种用于形状完成、单视图重建和实时扫描点云重建的生成模型Diffusion-SDF。我们使用神经符号距离函数（SDF）作为我们的3D表示来参数化各种信号的几何形状（例如，点云、2D图像）通过神经网络。神经SDF是隐式函数，扩散它们相当于学习它们的神经网络权重的反转，我们使用自定义调制模块来解决这个问题。大量的实验表明，我们的方法是能够从部分输入的现实无条件生成和条件生成。这项工作扩展了扩散模型的领域，从学习2D，显式表示，到3D，隐式表示。
2023-03-16 cs.CV
Diffusion-based Graph Generative Methods
Research Center for Graph Computing（图计算研究中心）；School of Data Science and Engineering, East China Normal University（华东师范大学数据科学与工程学院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；ZJU-Hangzhou Global Scientific and Technological Innovation Center（浙江大学杭州国际科创中心）；Antai College of Economics and Management, Shanghai Jiao Tong University（上海交通大学安泰经济与管理学院）
本文系统综述基于扩散的图生成方法，涵盖三种主流范式（去噪扩散概率模型、基于分数的生成模型和随机微分方程），分类介绍最新应用，并指出局限与未来方向。
2024-07-16 cs.AI cs.LG
When Diffusion MRI Meets Diffusion Model: A Novel Deep Generative Model for Diffusion MRI Generation
University of Electronic Science and Technology of China（电子科技大学）；Harvard Medical School（哈佛医学院）；Brigham and Women’s Hospital（布莱根妇女医院）
本研究提出一种基于深度扩散模型的新型生成方法，用于生成保留梯度信息和脑结构的高维高分辨率扩散MRI数据，并在3T到7T图像映射任务中展现出优于现有SOTA方法的性能，显著提升了dMRI图像质量。
2024-08-23 cs.CV eess.IV
Diffusion-based Generative Prior for Low-Complexity MIMO Channel Estimation
Lehrstuhl für Methoden der Signalverarbeitung, Technische Universität München（慕尼黑工业大学信号处理方法研究所）
本研究提出基于扩散模型的低复杂度MIMO信道估计器，通过稀疏角域信道分布学习、带SNR位置嵌入的轻量CNN及优化的扩散估计策略，实现了优于现有生成先验类顶尖信道估计器的性能。
2024-03-06 cs.LG eess.SP
Can Generative Geospatial Diffusion Models Excel as Discriminative Geospatial Foundation Models?
KU Leuven（鲁汶大学）；KTH（皇家理工学院）；European Space Agency（欧洲航天局）；Shanghai AI Lab（上海人工智能实验室）；SJTU（上海交通大学）
研究提出SatDiFuser框架，将基于扩散的生成式地理空间基础模型转化为判别式遥感预训练工具，通过三种融合策略利用多阶段扩散特征，在分割和分类任务上超越现有GFMs。
2025-09-12 cs.CV
Diffusion-TTA: Test-time Adaptation of Discriminative Models via Generative Feedback
Carnegie Mellon University（卡内基梅隆大学）
本文提出 Diffusion-TTA，利用扩散模型的生成反馈在测试时自适应判别模型，通过最大化图像似然反向传播梯度，显著提升分类、分割和深度预测等任务的准确率，优于 TTT-MAE 和 TENT 等现有方法。
2023-11-29 cs.AI cs.CV cs.LG
Comparative Analysis of Generative Models: Enhancing Image Synthesis with VAEs, GANs, and Stable Diffusion
Huddersfield University（哈德斯菲尔德大学）
本文对比分析VAEs、GANs、Stable Diffusion三类生成模型的优劣，探索结合Grounding DINO与Grounded SAM优化Stable Diffusion的图像精度，为场景选型和后续研究提供参考。
2024-08-16 cs.CV eess.IV
Bi-Noising Diffusion: Towards Conditional Diffusion Models with Generative Restoration Priors
Johns Hopkins University（约翰斯·霍普金斯大学）
条件扩散概率模型可以模拟自然图像的分布，并可以根据给定的条件生成多样化和真实的样本。然而，通常他们的结果可能是不现实的，具有可观察到的颜色变化和纹理。我们认为，这个问题是由模型学习的概率分布与自然图像分布之间的分歧造成的。微妙的条件逐渐扩大的分歧，在每个采样时间步长。为了解决这个问题，我们引入了一种新的方法，使预测样本的训练数据流形使用预训练的无条件扩散模型。无条件模型充当正则化器，并减少条件模型在每个采样步骤中引入的发散。我们进行了全面的实验，以证明我们的方法在超分辨率，彩色化，湍流消除和图像去伪任务的有效性。通过我们的方法得到的改进表明，先验可以被纳入作为一个通用的插件，用于改善条件扩散模型。
2022-12-14 cs.CV
Unifying GANs and Score-Based Diffusion as Generative Particle Models
Criteo AI Lab（Criteo人工智能实验室）；LIGM（LIGM实验室）；Ecole des Ponts（巴黎路桥学院）；Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；ETH Zürich（苏黎世联邦理工学院）
本文提出统一粒子与对抗生成模型的框架，将生成器训练视为粒子模型的推广，并验证了在扩散模型中集成生成器及无生成器训练GAN的可行性。
2023-12-21 cs.CV cs.LG cs.NE
Learning to Approximate Particle Smoothing Trajectories via Diffusion Generative Models
Aalto University（阿尔托大学）
提出一种结合条件粒子滤波、祖先采样与扩散模型的方法，用于从稀疏观测中生成高质量平滑轨迹，并高效近似粒子平滑分布，应用于车辆跟踪与单细胞RNA测序等任务。
2024-06-01 cs.LG
DiffGAR: Model-Agnostic Restoration from Generative Artifacts Using Image-to-Image Diffusion Models
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Alibaba Group（阿里巴巴集团）；CAS Center for Excellence in Brain Science and Intelligence Technology（中国科学院脑科学与智能技术卓越创新中心）
最近的生成模型显示了令人印象深刻的结果，在照片般逼真的图像生成。然而，在生成的结果中经常不可避免地出现伪像，导致降级的用户体验和下游任务的性能降低。本工作旨在为不同的生成模型开发一个插件后处理模块，它可以忠实地从不同的生成工件恢复图像。这是一个挑战，因为：（1）与传统的退化模式不同，生成伪影是非线性的，并且变换函数非常复杂。(2)没有现成的伪影图像对。(3)与特定于模型的反工件方法不同，与模型无关的框架将生成器视为黑盒机器，并且无法访问架构细节。在这项工作中，我们首先设计了一组机制来模拟流行生成器的生成伪像（即，GANs、自回归模型和扩散模型）。其次，我们实现了模型无关的反伪影框架作为图像到图像的扩散模型，由于其在生成质量和容量方面的优势。最后，我们设计了一个条件方案的扩散模型，使盲和非盲图像复原。还引入了一个指导参数，以允许恢复精度和图像质量之间的权衡。大量的实验表明，我们的方法显着优于以前的方法建议的数据集和现实世界的伪影图像。
2022-10-16 cs.CV
DiffusionBERT: Improving Generative Masked Language Models with Diffusion Models
Fudan University（复旦大学）
提出了一种基于离散扩散模型的生成式掩蔽语言模型DiffusionBERT。扩散模型和许多预先训练的语言模型具有共享的训练目标，即，去噪，使其能够结合两个强大的模型，享受两全其美。一方面，扩散模型提供了一种有前途的训练策略，有助于提高生成质量。另一方面，预先训练的去噪语言模型（例如，BERT）可以用作加速收敛的良好初始化。我们探索训练BERT学习的反向过程的离散扩散过程的吸收状态和阐明几个设计，以改善it. First，我们提出了一个新的噪声时间表的前向扩散过程中，控制的程度，在每一步的基础上，每个令牌的信息添加的噪声。其次，我们研究了几种将时间步长纳入BERT的设计。对无条件文本生成的实验表明，DiffusionBERT比现有的文本扩散模型（例如，D3 PM和Diffusion-LM）和先前的生成掩蔽语言模型在困惑度和BLEU得分方面的性能。
2022-11-30 cs.AI cs.CL cs.LG
Generative Dataset Distillation using Min-Max Diffusion Model
School of Electrical and Electronic Engineering（电气与电子工程学院）；School of Mechanical and Aerospace Engineering（机械与航空航天工程学院）；Nanyang Technological University（南洋理工大学）
针对生成式数据集蒸馏问题，提出基于最小-最大损失的扩散模型方法，通过扩散步数缩减平衡样本数量与图像质量，在ECCV2024数据集蒸馏挑战赛生成赛道获第二名。
2025-03-24 cs.CV
Generative Frontiers: Why Evaluation Matters for Diffusion Language Models
Purdue University（普渡大学）
本文探讨了扩散语言模型评估方法的局限性，提出生成前沿作为评估生成质量的原理性方法，分析了生成困惑度和熵在KL散度中的作用。
2026-04-03 cs.CL cs.LG
Exploring Vision Transformers as Diffusion Learners
International Digital Economy Academy (IDEA)（国际数字经济研究院（IDEA））；The Hong Kong University of Science and Technology（香港科技大学）
基于分数的扩散模型已经引起了广泛的关注，并资助了最近的视觉生成任务的快速进展。本文主要研究了以前被忽视的扩散模型主干。我们系统地探讨了视觉Transformer作为扩散学习器的各种生成任务。通过我们的改进，基于vanilla ViT的骨干网（IU-ViT）的性能被提升到与传统的基于U-Net的方法相当。我们进一步提供了一个假设的含义解开生成骨干作为编码器-解码器结构，并显示验证的概念验证实验的有效性，一个更强大的编码器生成任务与AsymmetriC编码器解码器（ASCEND）。我们的改进在CIFAR-10、CelebA、LSUN、CUB Bird和大分辨率文本到图像任务上取得了有竞争力的结果。据我们所知，我们是第一个成功地训练一个单一的扩散模型的文本到图像的任务超过64 x64分辨率。我们希望这将激励人们重新思考基于扩散的生成模型的建模选择和训练管道。
2022-12-28 cs.CV
Accelerating Diffusion Models for Generative AI Applications with Silicon Photonics
Colorado State University（科罗拉多州立大学）
本文提出一种基于硅光子学的扩散模型加速器，显著提升能效和吞吐量，用于生成式人工智能应用。
2026-03-08 cs.AR cs.LG
The statistical thermodynamics of generative diffusion models: Phase transitions, symmetry breaking and critical instability
Radboud University（拉德堡德大学）；Donders Institute for Brain, Cognition and Behaviour（唐德斯脑、认知与行为研究所）
本研究用平衡统计力学工具重构生成扩散模型，发现其存在属于平均场普适类的二阶对称性破缺相变，临界不稳定性是生成能力核心，且生成动力学方程为维持热平衡并最小化自由能的随机绝热变换。
2024-06-20 cs.LG stat.ML
