One-step Diffusion Models with $f$-Divergence Distribution Matching
NVIDIA(英伟达)
本文提出f-distill框架,通过推广f-散度最小化来改进扩散模型的一步蒸馏,证明前向KL和Jensen-Shannon散度优于反向KL,并在ImageNet64和MS-COCO上取得领先的一步生成性能。
2025-03-09 cs.AI cs.CV cs.LG
Rethinking the Diffusion Model from a Langevin Perspective
Department of Mathematics, The Hong Kong University of Science and Technology(香港科技大学数学系)
本文从兰格罕视角系统整理扩散模型,提供更直观的解释,探讨ODE和SDE模型统一框架及扩散模型优于VAE的理论依据。
2026-04-12 cs.AI cs.CV cs.LG
A Noise is Worth Diffusion Guidance
Korea University(高丽大学);KAIST(韩国科学技术院);Sookmyung Women’s University(淑明女子大学);Hugging Face
针对扩散模型需引导生成可靠图像的问题,提出NoiseRefine方法,通过优化初始噪声为无引导噪声,利用小幅度低频分量增强去噪,无需引导即可提升推理效率和图像质量,仅需50K数据即可实现高效学习。
2024-12-05 cs.AI cs.CV cs.LG
Terrain Diffusion: A Diffusion-Based Successor to Perlin Noise in Infinite, Real-Time Terrain Generation
Independent Researcher(独立研究者)
Terrain Diffusion通过结合扩散模型的保真度与程序化噪声的特性,实现了高效且逼真的无限实时地形生成。
2026-01-11 cs.AI cs.CV cs.GR
Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout
HKUST(GZ)(香港科技大学(广州));HKUST(香港科技大学);LIGHTSPEED;UCSD(加利福尼亚大学圣地亚哥分校);CUHK(SZ)(香港中文大学(深圳));NUS(新加坡国立大学)
针对自回归视频扩散蒸馏中的模式坍缩问题,提出双噪声掩码展开策略,通过随机掩码注入干净信号扰动学生自展开,提升多种蒸馏方法的视觉质量。
2026-09-09 cs.CV
Connective Viewpoints of Signal-to-Noise Diffusion Models
VinAI Research(VinAI研究院);Monash University(莫纳什大学)
本文从信噪比与信息理论关联的视角系统研究信噪比扩散模型中的噪声调度器,并提出广义反向方程以提升推理性能。
2024-08-08 cs.AI cs.CV cs.LG
Spectrally-Guided Diffusion Noise Schedules
Google Research(谷歌研究)
本文提出基于图像光谱特性设计实例特定噪声调度的方法,通过理论界限优化噪声级别,提升单阶段像素扩散模型生成质量,尤其在低步数情况下表现更佳。
2026-05-09 cs.CV cs.LG
Mode Seeking Generative Adversarial Networks for Diverse Image Synthesis
Peking University(北京大学);University of California, Merced(加州大学默塞德分校);Peng Cheng Laboratory(鹏城实验室);Google Cloud(谷歌云)
大多数条件生成任务在给定一个条件上下文的情况下期望不同的输出。然而,条件生成对抗网络(cGAN)往往专注于先验条件信息,而忽略了导致输出变化的输入噪声向量。最近尝试解决cGAN的模式坍塌问题通常是特定于任务的,并且计算成本很高。在这项工作中,我们提出了一个简单而有效的正则化项来解决cGAN的模式坍塌问题。所提出的方法显式地最大化生成的图像之间的距离相对于相应的潜在代码的比率,从而鼓励生成器在训练期间探索更多的次要模式。这种寻求模式的正则化项很容易适用于各种条件生成任务,而无需施加训练开销或修改原始网络结构。我们验证了所提出的算法上的三个条件图像合成任务,包括分类生成,图像到图像的翻译,和文本到图像的合成与不同的基线模型。定性和定量的结果表明,所提出的正则化方法的有效性,提高多样性,而不损失质量。
2019-05-04 cs.CV
Noise is All You Need: Solving Linear Inverse Problems by Noise Combination Sampling with Diffusion Models
Waseda University(早稻田大学)
针对预训练扩散模型求解零样本线性逆问题时观测信息整合的固有困境,提出噪声组合采样方法,从噪声子空间合成最优噪声近似测量得分,无需逐步调参,在生成步数少的场景下以低开销提升性能、鲁棒性与稳定性。
2025-10-24 cs.AI cs.CV cs.LG
A Comprehensive Review on Noise Control of Diffusion Model
University of Pittsburgh(匹兹堡大学);Northeastern University(东北大学);Columbia University(哥伦比亚大学);Northwestern University(西北大学);University of California, Berkeley(加州大学伯克利分校)
本文综述了扩散模型中噪声调度的设计,系统分析了不同噪声调度方案的特征及其对采样和训练质量的影响。
2025-02-07 cs.AI cs.LG
Edge-preserving noise for diffusion models
Max Planck Institute for Informatics(马克斯·普朗克信息研究所);Advanced Micro Devices(先进微器件)
本文提出一种边缘保留的扩散过程,通过混合噪声方案在边缘感知调度器中平滑过渡,提升结构细节捕捉能力,同时保持全局性能,并在图像生成和结构引导任务中取得改进。
2026-04-16 cs.AI cs.CV cs.GR
Boundary-Seeking GAN-Augmented TabTransformer for Adversarially Robust Intrusion Detection
Department of Computer Science, Universitas Ary Ginanjar(阿里甘jar大学计算机科学系)
研究针对机器学习入侵检测系统的问题,提出用BGAN增强的表格变换器框架,通过生成合成样本缓解不平衡并评估鲁棒性,实验表明该框架提升了宏F1分数、增强了鲁棒性且保持低误触发率,为对抗网络环境提供有效入侵检测方案。
2026-07-21 cs.AI cs.CR cs.LG
Cold Diffusion: Inverting Arbitrary Image Transforms Without Noise
University of Maryland(马里兰大学);New York University(纽约大学)
标准扩散模型涉及图像变换--添加高斯噪声--和反转这种退化的图像复原算子。我们观察到,生成行为的扩散模型是不是强烈依赖于图像退化的选择,事实上,整个家庭的生成模型可以通过改变这种选择。即使在使用完全确定性降级(例如,模糊、掩蔽等),作为扩散模型基础的训练和测试时更新规则可以容易地推广以创建生成模型。这些完全确定性模型的成功,质疑社会的理解扩散模型,它依赖于噪声的梯度朗之万动力学或变分推理,并铺平了道路广义扩散模型,反转任意过程。我们的代码可在https://github.com/arpitbansal297/Cold-Diffusion-Models上获得
2022-08-19 cs.CV cs.LG
Noise Aggregation Analysis Driven by Small-Noise Injection: Efficient Membership Inference for Diffusion Models
South China University of Technology(华南理工大学)
本文提出基于噪声聚合分析的成员推断方法,通过单步低强度噪声注入策略增强成员与非成员样本差异,降低模型查询需求并提升推断效率与准确性。
2026-04-17 cs.AI cs.CR cs.CV
Noise Estimation for Generative Diffusion Models
Tel-Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
生成扩散模型已经成为语音和图像生成中的主要模型。然而,为了用少量的去噪步骤来良好地执行,需要对噪声参数集进行昂贵的调谐。在这项工作中,我们提出了一个简单而通用的学习方案,可以逐步调整这些噪声参数,对于任何给定的步骤数,而以前的工作需要分别为每个数字重新调整。此外,在不修改扩散模型的权重的情况下,我们能够显著地改善合成结果,对于少量的步骤。我们的方法来在一个可以忽略不计的计算成本。
2021-09-12 cs.CV cs.LG
Non Gaussian Denoising Diffusion Models
Tel-Aviv University(特拉维夫大学);Facebook AI Research(脸书人工智能研究院);École Normale Supérieure Paris-Saclay(巴黎-萨克雷高等师范学院)
生成扩散过程是一种新兴的有效的图像和语音生成工具。在现有的方法中,扩散过程的下划线噪声分布是高斯噪声。然而,具有更多自由度的拟合分布可以帮助这种生成模型的性能。在这项工作中,我们调查其他类型的噪声分布的扩散过程。具体来说,我们表明,从伽马分布的噪声提供了改进的结果,图像和语音生成。此外,我们表明,在扩散过程中使用高斯噪声变量的混合物,提高了基于单一分布的扩散过程的性能。我们的方法保留了在训练扩散过程中有效采样状态的能力,同时使用Gamma噪声和噪声的混合。
2021-06-14 cs.CV cs.LG cs.SD
Not All Noises Are Created Equally:Diffusion Noise Selection and Optimization
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Microsoft(微软)
本文发现扩散模型的生成质量依赖于噪声反演稳定性,据此提出噪声选择与优化方法,无需微调即可显著提升SDXL等模型的生成质量及人类偏好胜率。
2024-07-27 cs.CV
Graph Diffusion Counterfactual Explanation
Machine Learning Group(机器学习组);TU Berlin(柏林技术大学);BASLEARN-TU Berlin/BASF Joint Laboratory(柏林技术大学/巴斯夫联合实验室)
本文提出图扩散反事实解释框架,结合离散扩散模型和分类器无关引导,有效生成图数据的反事实解释。
2025-11-20 cs.LG
Energy-Conditioned Noise Schedule and Whitening for Spectral Diffusion
University of Nis, Faculty of Electronic Engineering(尼什大学电子工程学院);University MB, Information Technology department(MB大学信息技术学院);University of Arizona, Electrical & Computer Engineering (ECE) department(亚利桑那大学电气与计算机工程系)
本文提出能量条件噪声调度与谱白化策略,使前向扩散噪声适应谱能量分布,在CIFAR-10上将FID从142.48降至100.45。
2026-10-07 cs.AI cs.CV cs.ET
Blue noise for diffusion models
MPI Informatics(MPI信息学研究所);VIA Center(VIA中心);Google DeepMind(谷歌DeepMind);Google Research(Google研究院);University of Cambridge(剑桥大学)
本文提出在确定性扩散模型中引入蓝噪声及相关噪声掩码,考虑图像内和图像间的噪声相关性,以改善训练梯度流并提升生成质量,在多个数据集上以FID指标验证了优于仅用高斯白噪声的方法。
2024-05-02 cs.CV cs.GR cs.LG
Warm Diffusion: Recipe for Blur-Noise Mixture Diffusion Models
Department of Computer Science, National Yang Ming Chiao Tung University, Hsinchu, Taiwan(计算机科学系,National Yang Ming Chiao Tung大学,Hsinchu,台湾)
Warm Diffusion通过融合模糊与噪声的混合模型,解决传统热扩散和冷扩散的不足,提升图像生成效果。
2025-11-21 cs.CV
Stabilizing, Scaling & Enhancing MeanFlow for Large-scale Diffusion Distillation
State Key Laboratory of Integrated Services Networks(信息服务网络国家重点实验室);Xidian University(西安电子科技大学);Tencent Hunyuan(腾讯文英)
本文提出了一种稳定MeanFlow的方法,通过引入暖启动技术并结合轨迹分布对齐,提高了大规模工业模型蒸馏的性能和泛化能力。
2026-05-18 cs.CV
Diffusion models with location-scale noise
Samsung - SAIT AI Lab, Montreal(三星SAIT人工智能实验室(蒙特利尔));Mila(米拉人工智能研究所);McGill University(麦吉尔大学);Simon Fraser University(西蒙菲莎大学);Radboud University(拉德堡德大学)
本文构建了支持非高斯位置-尺度噪声的扩散模型逆转框架,并证明高斯噪声在拉普拉斯、均匀、t及广义高斯等分布中生成效果最佳。
2023-04-12 cs.AI cs.LG cs.NA
Immiscible Diffusion: Accelerating Diffusion Training with Noise Assignment
University of California, Berkeley(加利福尼亚大学伯克利分校);Tsinghua University(清华大学)
针对扩散模型因噪声-数据映射随机混合导致训练缓慢的问题,提出Immiscible Diffusion方法,通过先分配目标噪声再扩散的策略,仅需一行代码即可在多数据集、多模型及不同训练场景下实现最高3倍训练加速,同时提升生成保真度。
2024-10-30 cs.CV
Noise scheduling and linear dynamics in diffusion models on Lie groups
Institute for Theoretical Physics, ETH Zurich, 8093 Zurich, Switzerland(理论物理研究所,苏黎世联邦理工学院,瑞士苏黎世,8093)
本文研究了在李群上扩散过程中噪声调度的作用,特别关注其在格点规范理论中的应用。研究发现特定的噪声调度可使Wilson作用量的期望值随扩散时间线性衰减,与欧几里得扩散模型相比,这种行为在李群设置中自然产生,而后者需要显式设计漂移项。
2026-05-17 cs.LG hep-lat
Noise-Level Diffusion Guidance: Well Begun is Half Done
Vision, Learning, and Control (VLC) Research Group(视觉、学习与控制研究组)
针对扩散模型初始随机噪声影响输出质量的问题,提出无需额外训练或反向传播的噪声级引导方法(NLG),通过优化初始噪声提升图像质量与条件遵循度,在五个基准上验证了其高效性与可扩展性。
2025-09-17 cs.CV
NoiseCutMix: A Novel Data Augmentation Approach by Mixing Estimated Noise in Diffusion Models
Kyushu University(九州大学)
本研究提出NoiseCutMix数据增强方法,将CutMix概念引入扩散模型,通过混合两类估计噪声生成自然的高分辨率融合特征图像,实验验证其效果优于传统多类增强及Stable Diffusion随机生成等方法。
2025-08-30 cs.CV
Noise Crystallization and Liquid Noise: Zero-shot Video Generation using Image Diffusion Models
Imperial College London(伦敦帝国学院)
针对扩散模型生成一致可控视频难度大、成本高的问题,本文提出噪声结晶与液体噪声两种零样本方法,修改图像扩散模型的输入噪声生成视频,还拓展了相关应用并得出VAE嵌入的理论见解。
2024-10-05 cs.CV
Diffusion-Based Image-to-Image Translation by Noise Correction via Prompt Interpolation
Seoul National University(首尔大学)
本研究提出一种免训练的扩散图像翻译方法,通过提示插值构造噪声校正项修正预训练扩散模型的噪声预测,可轻松集成到现有方法中,在低延迟下实现优异性能并提升现有框架效果。
2024-09-12 cs.CV
Deepfake Detection Generalization with Diffusion Noise
Zhejiang University(浙江大学)
本文提出利用扩散噪声特征提升深度伪造检测的泛化能力,通过引入注意力引导的噪声学习框架,增强模型对真实与合成图像差异的捕捉,实验表明在多个基准上取得最佳性能。
2026-04-16 cs.CV
CleanDIFT: Diffusion Features without Noise
CleanDIFT通过无监督微调方法,实现无噪声的高质量扩散特征,显著提升多种任务的性能。
2025-12-15 cs.CV
Noise, Denoise, Correct: MCMC Posterior Sampling with Diffusion Priors in Three Steps
PhysicsX
针对非线性不可微逆问题,提出扩散华尔兹MCMC方法,用SDEdit加噪去噪作提议并经MH校正实现精确后验采样,在Navier-Stokes任务上优于基线。
2026-10-08 cs.LG
SVNR: Spatially-variant Noise Removal with Denoising Diffusion
Google Research(谷歌研究院);University of Haifa(海法大学);Tel Aviv University(特拉维夫大学);The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
提出SVNR去噪扩散新方法,采用空间变化噪声模型,支持像素级时间嵌入和噪声图像作为起始点,优于现有基线。
2023-06-28 cs.CV
Noise in Diffusion Models Is a Learnable Input
School of Mathematics, Harbin Institute of Technology(哈尔滨工业大学数学学院);Software College, Northeastern University(东北大学软件学院)
该研究发现扩散模型的伪随机流是可学习输入,会影响生成质量,相关指标与生成退化相关,伪随机源兼具分布选择与结构化输入属性。
2026-09-09 cs.LG stat.ML
Noise-aware Speech Enhancement using Diffusion Probabilistic Model
Nanyang Technological University(南洋理工大学);University of Aberdeen(阿伯丁大学);University of Science and Technology of China(中国科学技术大学)
提出噪声感知语音增强方法NASE,通过设计噪声分类模型提取噪声特定信息作为条件器,并结合多任务学习方案联合优化,有效指导扩散模型的逆向去噪过程,显著提升多种主流扩散SE模型在未见噪声上的表现。
2024-06-04 cs.LG cs.SD eess.AS
A Probabilistic Formulation of Offset Noise in Diffusion Models
本文提出一种新的扩散模型,通过概率框架自然引入额外噪声,解决极端亮度值生成问题,实验表明在高维场景中性能更优。
2026-04-09 cs.LG stat.ML
Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise
Southeast University(东南大学);The University of Queensland(昆士兰大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
本文提出利用扩散模型初始噪声中的残余语义信息进行成员推断攻击,揭示了微调模型在隐私保护方面的脆弱性。
2026-08-14 cs.CR cs.LG
Guided Diffusion Model for Adversarial Purification from Random Noise
Yuanpei College(元培学院);Peking University(北京大学)
在本文中,我们提出了一种新的引导扩散净化方法,以提供一个强大的防御对抗攻击。在CIFAR-10数据集上,我们的模型在PGD-L_inf攻击(eps = 8/255)下达到了89.62%的鲁棒准确率。我们首先探讨无指导的扩散模型和随机平滑之间的基本相关性,使我们能够将模型应用于认证的鲁棒性。实验结果表明,当认证的L2半径r大于0.5时,我们的模型优于随机平滑5%。
2022-06-22 cs.CR cs.LG
NSANet: Noise Seeking Attention Network
LiDAR(光探测和测距)技术在捕捉自然和建筑环境中的许多应用中仍然很受欢迎。电光工程的最新技术进步有助于以更高的脉冲重复频率(PRF)获得激光回波,这大大增加了3D点云的密度。具有较低PRF的常规技术具有单个空气中脉冲(SPIA)区,其足够大以避免接收器处的脉冲对之间的失配。新的多脉冲空中(MPIA)技术保证了单一航线的各种操作范围窗口和无盲区。该技术的缺点是,大气回波的投影更接近可能与感兴趣的物体相交的相邻地形点的相同空气脉冲区。这些噪声特性损害了场景的感知质量,并鼓励开发新的噪声过滤神经网络,因为现有的过滤器是非常无效的。我们提出了一种新的双注意噪声过滤神经网络称为噪声寻求注意网络(NSANet),使用物理先验和本地空间注意过滤噪声。本研究以特征整合和注意投入两个心理学理论为基础,证明注意在计算机视觉编码和解码阶段的作用。NSANet的结果表明,与最先进的噪声过滤深度卷积神经网络相比,NSANet倾向于注意力参与理论和性能提升。
2023-02-26 cs.CV eess.IV
Kernel Density Steering: Inference-Time Scaling via Mode Seeking for Image Restoration
Google(谷歌);Washington University in St. Louis(圣路易斯华盛顿大学)
针对扩散模型图像恢复中的保真度不一致与伪影问题,提出核密度引导(KDS)推理时框架,利用多粒子集成局部模式寻求,无需重训即可提升超分辨率与修复的定量和定性性能。
2025-10-25 cs.CV eess.IV
A Noise Constrained Diffusion (NC-Diffusion) Framework for High Fidelity Image Compression
Shandong University(山东大学);University of Electronic Science and Technology of China(电子科技大学)
本文提出噪声约束扩散框架,通过将量化噪声作为扩散过程中的噪声,提升压缩效率和图像保真度,同时引入自适应频域滤波模块和零样本引导增强方法,实验证明其优于现有方法。
2026-04-08 cs.CV eess.IV
Denoising Diffusion Gamma Models
Tel-Aviv University(特拉维夫大学);Facebook AI Research(脸书人工智能研究);École Normale Supérieure Paris-Saclay(巴黎-萨克兰高等师范学院)
生成扩散过程是一种新兴的有效的图像和语音生成工具。在现有的方法中,扩散过程的潜在噪声分布是高斯噪声。然而,具有更多自由度的拟合分布可以提高这种生成模型的性能。在这项工作中,我们调查其他类型的噪声分布的扩散过程。具体来说,我们介绍了去噪扩散伽玛模型(DDGM),并表明,伽玛分布的噪声提供了改进的结果,图像和语音生成。我们的方法保留了在训练扩散过程中有效采样状态的能力,同时使用Gamma噪声。
2021-10-10 cs.AI cs.CV cs.GR
NFCDS: A Plug-and-Play Noise Frequency-Controlled Diffusion Sampling Strategy for Image Restoration
Nanjing University of Science and Technology(南京理工大学)
NFCDS通过控制噪声频率提升图像修复的保真度与感知质量,无需额外训练。
2026-01-29 cs.CV
Dark Noise Diffusion: Noise Synthesis for Low-Light Image Denoising
School of Computer and Communication Sciences, École Polytechnique Fédérale de Lausanne(计算机与通信科学学院,瑞士联邦理工学院洛桑分校)
本文提出基于扩散模型的低光噪声合成方法,通过双分支架构、位置信息建模和定制噪声调度三项改进,生成高质量训练数据,使低光去噪网络达到最先进性能。
2025-07-05 cs.CV eess.IV