Interpreting diffusion score matching using normalizing flow
University of Cambridge（剑桥大学）；Imperial College London（帝国理工学院）
评分匹配（SM）及其相关的Stein差异（SD）在模型训练和评估方面取得了巨大的成功。然而，最近的研究表明，它们在处理某些类型的分布时存在局限性。一种可能的解决方案是将原始分数匹配（或Stein差异）与扩散矩阵合并，这被称为扩散分数匹配（DSM）（或扩散Stein差异（DSD））。然而，缺乏对扩散的解释限制了其在简单分布和手动选择矩阵中的使用。在这项工作中，我们计划通过使用归一化流解释扩散矩阵来填补这一空白。具体来说，我们从理论上证明，DSM（或DSD）是等价于原始的分数匹配（或斯坦差异）的归一化流，其中的扩散矩阵是流的雅可比矩阵的逆定义的变换空间中评估。此外，我们还建立了它与黎曼流形的联系，并进一步将其推广到连续流，其中DSM的变化由一个常微分方程表征。
2021-07-21 cs.LG stat.ML
Minimax Optimality of Score-Entropy Discrete Diffusion
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Cornell University（康奈尔大学）
本文研究得分-熵离散扩散（SEDD）的统计极限，针对均匀和掩码离散扩散模型建立极小极大下界，提出匹配下界的MLE阈值估计器，证明SEDD经合适设置可达到接近最优的极小极大样本复杂度。
2026-08-24 cs.LG stat.ML
Score-Based Generative Modeling with Critically-Damped Langevin Diffusion
NVIDIA（英伟达）；University of Waterloo（滑铁卢大学）；Vector Institute（矢量研究所）
基于分数的生成模型（SGM）已经证明了显着的合成质量。SGM依赖于扩散过程，该过程逐渐将数据扰动到易于处理的分布，而生成模型则学习去噪。除了数据分布本身之外，这种去噪任务的复杂性唯一地由扩散过程决定。我们认为，目前的SGM采用过于简单的扩散，导致不必要的复杂的去噪过程，这限制了生成建模性能。基于统计力学的连接，我们提出了一种新的临界阻尼朗之万扩散（CLD），并表明基于CLD的SGMs实现优越的性能。CLD可以被解释为在扩展空间中运行联合扩散，其中辅助变量可以被认为是耦合到数据变量的“速度”，如在哈密顿动力学中。我们推导出一个新的分数匹配CLD的目标，并表明该模型只需要学习的条件分布的速度给定的数据，一个更容易的任务比学习分数的数据直接的得分函数。我们还得到了一个新的采样方案，有效的合成CLD为基础的扩散模型。我们发现，CLD优于以前的SGM在合成质量相似的网络架构和采样计算预算。我们表明，我们的新型采样器CLD显着优于求解器，如欧拉-丸山。我们的框架为基于分数的去噪扩散模型提供了新的见解，并且可以很容易地用于高分辨率图像合成。项目页面和代码：https://nv-tlabs.github.io/CLD-SGM.
2022-03-25 cs.LG stat.ML
CSDI: Conditional Score-based Diffusion Models for Probabilistic Time Series Imputation
Stanford University（斯坦福大学）；Mitsubishi UFJ Trust Investment Technology Institute（三菱日联信托投资技术研究所）；Japan Digital Design（日本数字设计公司）
时间序列中缺失值的插补在医疗保健和金融领域有许多应用。虽然自回归模型是时间序列插补的自然候选者，但基于分数的扩散模型最近在许多任务（例如图像生成和音频合成）中优于包括自回归模型在内的现有对应模型，并且将有希望用于时间序列插补。在本文中，我们提出了基于条件分数的扩散模型插补（CSDI），一种新的时间序列插补方法，利用基于观测数据的条件分数的扩散模型。与现有的基于分数的方法不同，条件扩散模型被明确地训练用于插补，并且可以利用观察值之间的相关性。在医疗保健和环境数据上，CSDI比现有的流行性能指标的概率估算方法提高了40-65%。此外，与最先进的确定性插补方法相比，CSDI的确定性插补将误差降低了5-20%。此外，CSDI还可以应用于时间序列插值和概率预测，与现有的基线相比具有竞争力。该代码可在https://github.com/ermongroup/CSDI上获得。
2021-10-27 cs.LG stat.ML
Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models
Lancaster University（兰开斯特大学）；University of Bristol（布里斯托尔大学）
提出序贯神经后验分数估计（SNPSE）方法，利用条件分数扩散模型直接估计后验分数生成样本，通过序贯训练指导模拟以降低成本，在数值实验中表现优于或可比SNPE等现有方法。
2024-06-03 cs.LG stat.ML
Asymptotic Learning Curves for Diffusion Models with Random Features Score and Manifold Data
研究扩散模型中去噪得分匹配的理论行为，当数据分布支持在低维流形上且得分用随机特征神经网络参数化时，推导高维极限下测试、训练和得分误差的渐近精确表达式，发现线性流形样本复杂度与内在维度线性相关，而非线性流形则削弱低维结构优势。
2026-06-25 cs.LG stat.ML
From Score Approximation to Distribution Approximation in Score-Based Diffusion Models
研究基于得分的扩散模型中得分近似与分布近似的关系，利用经典神经网络近似理论等，通过推导显式上界，建立两者定量联系，给出从得分函数近似到反向扩散模型概率分布近似的简单明确保证。
2026-07-27 cs.IT cs.LG math.IT
FP-Diffusion: Improving Score-based Diffusion Models by Enforcing the Underlying Score Fokker-Planck Equation
Sony AI（索尼人工智能研究所）；Sony Group Corporation（索尼集团公司）；Stanford University（斯坦福大学）
本研究发现基于去噪得分匹配的扩散模型学到的得分不满足得分福克-普朗克方程，提出对目标函数正则化以强制满足该方程，提升了模型的似然与保守性。
2023-06-14 cs.AI cs.LG
Variance-Reduced Diffusion Sampling via Target Score Identity
The Oden Institute for Computational Engineering and Sciences, The University of Texas at Austin（德克萨斯大学奥斯汀分校奥登计算工程与科学研究所）
本文提出通过目标分数身份实现扩散采样中的方差缩减，结合非参数重要性采样和状态依赖的混合规则，提升样本质量。
2026-01-22 cs.LG stat.ML
Operator-Informed Score Matching for Markov Diffusion Models
Newcastle University（新castle大学）；King’s College London（伦敦国王学院）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出算子信息得分匹配方法，利用马尔可夫加噪过程的谱分解，仅用数据样本均值同时估计所有边际分布的得分函数，为低维生成提供独立方法，并改进高维神经得分估计器。
2025-05-24 cs.LG stat.ML
Tightening the Score Matching Gap for Diffusion Models
针对扩散模型的得分匹配间隙问题，该研究利用得分估计器正则性与反向过程收缩性，推导三类指标的更紧边界，揭示低噪声尺度下得分近似质量对缩窄间隙的关键作用。
2026-07-07 cs.LG stat.ML
A Stochastic Analysis Perspective on Diffusion Models
本文从随机分析视角研究基于分数的生成模型，结合经典采样理论等思想，关联朗之万采样与分数匹配，提出扩散时间反转的路径空间处理，连接理想反向扩散与实际生成算法。
2026-10-14 cs.LG math.PR stat.ML
Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis
Fudan University（复旦大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
针对离散状态扩散模型收敛性研究不足的问题，本文在CTMC框架下提出一般状态空间[S]^d的离散时间采样算法，推导KL散度和TV距离的收敛界，其维度d近乎线性，为离散时间采样提供理论支撑。
2025-04-12 cs.LG stat.ML
Exploiting the Exact Denoising Posterior Score in Training-Free Guidance of Diffusion Models
PhysicsX Ltd.（PhysicsX有限公司）
本研究提出纯去噪任务下精确后验分数的可求解新表达式，分析DPS分数的时间相关误差并动态计算步长最小化误差，该方法性能比肩SOTA且采样步数少于DPS，步长可迁移至多种图像逆问题。
2025-06-16 cs.CV cs.LG stat.ML
A Variational Perspective on Diffusion-Based Generative Models and Score Matching
University of Montreal（蒙特利尔大学）；Mila（米拉）
基于离散时间扩散的生成模型和分数匹配方法在高维图像数据建模方面显示出了良好的效果。最近，Song等人（2021）表明，将数据转换为噪声的扩散过程可以通过学习得分函数（即扰动数据的对数密度的梯度）来逆转。他们建议将学习的得分函数插入到逆公式中，以定义生成扩散过程。尽管在经验上取得了成功，但这一程序仍然缺乏理论基础。在这项工作中，我们直接接近（连续时间）生成扩散，并推导出一个变分框架的似然估计，其中包括连续时间规范化流作为一个特殊情况下，可以看作是一个无限深的变分自编码器。在这个框架下，我们证明了最小化分数匹配损失相当于最大化Song等人（2021）提出的插入式反向搜索的可能性下限，弥合了理论差距。
2021-09-30 cs.LG
Score Jacobian Chaining: Lifting Pretrained 2D Diffusion Models for 3D Generation
Purdue University（普渡大学）；TTI-Chicago（丰田工业大学芝加哥分校）
扩散模型学习预测梯度的矢量场。我们建议在学习的梯度上应用链式规则，并通过可微分渲染器的雅可比矩阵反向传播扩散模型的分数，我们将其实例化为体素辐射场。此设置将多个相机视点处的2D分数聚合为3D分数，并将预训练的2D模型重新用于3D数据生成。我们确定了这个应用中出现的分布不匹配的技术挑战，并提出了一种新的估计机制来解决它。我们在几个现成的扩散图像生成模型上运行我们的算法，包括最近发布的在大规模LAION数据集上训练的稳定扩散。
2022-12-01 cs.CV cs.LG
Score Augmentation for Diffusion Models
针对扩散模型在数据受限时的过拟合问题，提出新型数据增强框架 ScoreAug，通过对含噪数据进行变换并设定等变学习目标，有效缓解过拟合并提升性能。
2025-08-11 cs.LG
Probability flow ODEs in score-based and reflected diffusion models
University of Oxford（牛津大学）
本文为基于分数和反射扩散模型的概率流常微分方程采样器提供理论分析，确定流存在条件，揭示稳定性与速度误差的关系，并给出设计原则，通过数值实验验证。
2026-10-06 cs.LG math.PR stat.ML
Nearest Neighbour Score Estimators for Diffusion Generative Models
University of British Columbia（不列颠哥伦比亚大学）；Inverted AI
本文提出一种基于最近邻的得分估计器，利用训练集多个样本降低方差，显著提升一致性模型的收敛速度与样本质量，并可替代扩散模型中学习网络进行概率流ODE积分。
2024-07-16 cs.CV cs.LG stat.ML
To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models
University of Oxford（牛津大学）；University of Cambridge（剑桥大学）
本文研究去噪扩散模型的得分匹配，利用与Föllmer drift相关的随机控制联系，将神经网络近似结果扩展到扩散模型和采样器。
2024-06-26 cs.LG stat.ML
How Much is Enough? A Study on Diffusion Times in Score-based Generative Models
EURECOM（欧洲通信学院）；Huawei Technologies（华为技术有限公司）
本文研究基于分数扩散模型中扩散时间 T 的权衡，提出用辅助模型弥补短时间前向动力学与理想噪声分布间的差距，从而提升训练与采样效率并保持图像生成质量。
2022-06-10 cs.LG stat.ML
Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization
Stanford University（斯坦福大学）
本研究通过将分数匹配和去噪分数匹配转化为凸优化，为基于两层神经网络的扩散模型建立了理论框架，证明了浅层网络训练可归结为单个凸程序，并在有限数据下精确刻画了预测分数函数与收敛性。
2024-05-22 cs.LG math.OC
Score-based Diffusion Models via Stochastic Differential Equations -- a Technical Tutorial
Department of Industrial Engineering and Operations Research, Columbia University（工业工程与运筹学系，哥伦比亚大学）
本文是一篇技术教程，系统介绍基于随机微分方程的得分扩散模型，重点阐述采样与得分匹配两大核心方法，并讨论一致性模型和强化学习等相关技术。
2025-07-05 cs.LG math.HO
Diffusion Model for Manifold Data: Score Decomposition, Curvature, and Statistical Complexity
Georgia Tech（佐治亚理工学院）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）
本文研究扩散模型如何学习流形数据，通过分析分数函数的分解和曲率影响，提出高效的神经网络近似方法，并推导出基于数据内在维度和曲率的统计学习率。
2026-04-28 cs.LG
Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers
The Ohio State University（俄亥俄州立大学）；University of Kentucky（肯塔基大学）
本文首次为分数不匹配扩散采样器提供显式维度依赖的性能保证，揭示渐近偏差与累积不匹配成正比，并据此设计偏差最优零样本条件采样器，适用于线性条件模型及多种目标分布。
2025-03-26 cs.LG stat.ML
Laplacian Score Sharpening for Mitigating Hallucination in Diffusion Models
Indian Institute of Technology, Roorkee（印度理工学院罗尔基分校）；National University of Singapore（新加坡国立大学）
针对扩散模型因模式插值和分数平滑导致的幻觉问题，提出基于分数拉普拉斯（锐度）的后处理调整方法，通过高效拉普拉斯近似减少1D、2D及高维图像数据中的幻觉样本率，并分析拉普拉斯与分数不确定性的关系。
2025-11-10 cs.AI cs.CV cs.LG
Assessing the Quality of Denoising Diffusion Models in Wasserstein Distance: Noisy Score and Optimal Bounds
CREST, ENSAE, IP Paris（法国巴黎综合理工学院国立统计与经济管理学院统计与经济研究中心）
该研究针对去噪扩散概率模型（DDPMs），先通过实验验证其对得分评估中恒定方差噪声的鲁棒性，再建立Wasserstein-2距离下的有限样本保证，实现更快的最优收敛速度并量化鲁棒性。
2025-06-11 cs.LG math.ST stat.ML
Soft Diffusion: Score Matching for General Corruptions
Google Research（谷歌研究院）；UT Austin（得克萨斯大学奥斯汀分校）
我们定义了一个更广泛的家庭腐败过程，概括了以前已知的扩散模型。为了扭转这些一般的扩散，我们提出了一个新的目标，称为软分数匹配，可证明学习任何线性腐败过程的分数函数，并为CelebA产生最先进的结果。软分数匹配结合了网络中的退化过程。我们的新损失训练模型预测一个干净的图像，\textit{that after corruption}，匹配扩散观察。我们表明，我们的目标学习梯度的可能性在适当的规律性条件下的一个家庭的腐败过程。我们进一步开发了一种原则性的方法来选择一般扩散过程的腐败水平和一种新的采样方法，我们称之为动量采样器。我们的实验表明，我们的框架适用于一般的线性腐败过程，如高斯模糊和掩蔽。我们在CelebA-64上实现了最先进的FID评分$1.85$，优于所有先前的线性扩散模型。与香草去噪扩散相比，我们还显示出显着的计算优势。
2022-10-05 cs.AI cs.CV cs.LG
Score-based Continuous-time Discrete Diffusion Models
Georgia Tech（佐治亚理工学院）；Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）；University of Alberta（阿尔伯塔大学）
基于分数的随机微分方程（SDEs）建模为扩散模型提供了一个新的视角，并在连续数据上表现出优越的性能。然而，对数似然函数的梯度，即，分数函数对于离散空间没有适当地定义。这使得使\textcolor{\cdiff}{the score-based modeling}适应分类数据变得非常重要。在本文中，我们通过引入一个随机跳过程，其中逆过程通过连续时间马尔可夫链去噪，将扩散模型推广到离散变量。该公式允许在向后采样期间进行分析模拟。为了学习相反的过程，我们将分数匹配扩展到一般的分类数据，并表明通过简单的条件边缘分布匹配可以获得无偏估计。我们证明了所提出的方法的有效性，一组合成和现实世界的音乐和图像基准。
2023-03-06 cs.LG
Two-Stage Score Estimation for Group-Specific Diffusion Models
University of California, Los Angeles（加州大学洛杉矶分校）
该研究针对目标分布观测有限的生成建模问题，提出两阶段扩散迁移统计框架，推导收敛速率并通过模拟与图像基准验证其有效性。
2026-10-16 cs.LG math.ST stat.ML
The Effect of Stochasticity in Score-Based Diffusion Sampling: a KL Divergence Analysis
Instituto de Matemática, Universidade Federal do Rio de Janeiro（数学研究所，里约热内卢联邦大学）
研究基于分数的扩散采样中随机性对生成过程的影响，通过KL散度演变分析，得出对精确和近似分数函数的不同影响，经实验验证理论，还给出解析示例及最优随机性函数表征。
2026-07-17 cs.LG
Score-based diffusion models for severely ill-posed problems in diffuse optical tomography
LUT University（拉彭兰塔-拉赫蒂理工大学）；TU Wien（维也纳工业大学）；University of Oulu（奥卢大学）
本文提出基于分数的扩散模型用于扩散光学断层扫描，通过混合分数正则化方法提升病态问题的后验抽样性能。
2026-09-18 cs.LG stat.AP stat.ML
Improving Compositional Generation with Diffusion Models Using Lift Scores
提出基于提升分数的重采样准则，无需额外训练即可改进扩散模型的组合生成，在多个任务上显著提升条件对齐。
2025-05-25 cs.AI cs.CV cs.LG
On the Interpolation Effect of Score Smoothing in Diffusion Models
Google Research（谷歌研究）
研究分数平滑如何通过去噪动态在一维子空间内插值训练数据，并通过理论和实验验证神经网络学习分数函数的自然效果。
2026-07-21 cs.LG math.OC stat.ML
The Score Hamiltonian: Mapping Diffusion Models to Adiabatic Transport
Computer Science Department, Princeton University（普林斯顿大学计算机科学系）；ORFE Department, Princeton University（普林斯顿大学ORFE系）
本文通过构建得分哈密顿量，建立了基于得分的扩散模型采样与薛定谔算子基态绝热输运之间的精确对应关系，并利用绝热定理推导了密度重建误差界和退火调度方案。
2026-07-30 cs.AI cs.LG math-ph
Score-CDM: Score-Weighted Convolutional Diffusion Model for Multivariate Time Series Imputation
Central South University（中南大学）；Aalborg University（奥尔堡大学）；The Hong Kong Polytechnic University（香港理工大学）；National University of Defense Technology（国防科技大学）
针对多元时间序列插补中局部与全局时间特征难以自适应权衡的问题，提出分数加权卷积扩散模型Score-CDM，通过分数图与自适应感受野模块平衡特征，在三个真实数据集上验证了有效性。
2024-05-21 cs.LG
A Score-Based Density Formula, with Applications in Diffusion Generative Models
The Chinese University of Hong Kong（香港中文大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文通过建立连续时间扩散过程的密度公式，揭示了目标密度与分数函数的关系，并证明ELBO优化目标与真实目标的最小化点几乎一致，为DDPM等扩散生成模型的训练提供了理论基础。
2024-08-29 cs.AI cs.LG math.PR
Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation
Harvard University（哈佛大学）
本研究提出一种基于BSDE的新型扩散模型，通过适配现有分数函数确定目标分布的初始条件，证明了理论保证与Lipschitz网络的优势，可应用于扩散反演等多领域，为生成学习提供新方向。
2023-04-26 cs.AI cs.LG
Selective Underfitting in Diffusion Models
MIT（麻省理工学院）；Harvard（哈佛大学）
本研究提出扩散模型“选择性欠拟合”的概念，指出其在输入空间部分区域精准逼近分数、部分区域欠拟合，通过表征区域和实验验证，为理解扩散模型的泛化与生成性能提供新的可验证见解。
2025-10-01 cs.LG
A Score-based Diffusion Model Approach for Adaptive Learning of Stochastic Partial Differential Equation Solutions
Toan Huynh（独立研究者）；Ruth Lopez Fajardo（独立研究者）；Guannan Zhang（独立研究者）；Lili Ju（独立研究者）；Feng Bao（独立研究者）
提出基于分数的扩散模型框架，在递归贝叶斯推断下通过物理编码与似然校正自适应学习随机偏微分方程解，并引入集成分数滤波器提升高维计算效率，在稀疏噪声观测下表现准确鲁棒。
2025-08-09 cs.LG math.DS math.PR
Beyond Scores: Proximal Diffusion Models
Mathematical Institute for Data Science, Johns Hopkins University（数据科学数学研究所，约翰霍普金斯大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
本文提出近端扩散模型，通过近端映射替代分数，实现理论和实践上的改进，显著提升收敛速度。
2025-11-26 cs.LG math.ST stat.ML
Deterministic Dynamics of Sampling Processes in Score-Based Diffusion Models with Multiplicative Noise Conditioning
Department of Mathematical Data Science, Hanyang University, ERICA Campus（数学数据科学系，翰阳大学ERICA校区）
本文研究了基于乘性噪声条件的分数扩散模型采样过程的确定性动力学，揭示了模型在有限能力下仍能有效生成样本的理论原因。
2026-01-19 cs.LG
Diffusion Models with Heavy-Tailed Targets: Score Estimation and Sampling Guarantees
Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Department of Data Science, City University of Hong Kong（香港城市大学数据科学系）
本文研究了厚尾目标下基于分数的扩散模型，推导了分数估计的最小最大速率，并提供了采样保证，揭示了轻尾与多项式尾情况下不同的收敛特性。
2026-01-10 cs.LG math.PR math.ST
Control Variate Score Matching for Diffusion Models
Google DeepMind（谷歌DeepMind）；BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院）；Machine Learning Group, Technische Universität Berlin（柏林技术大学机器学习组）；Department of Artificial Intelligence, Korea University（韩国大学人工智能系）；Max-Planck Institute for Informatics（马克斯·普朗克信息研究所）
本文提出CVSI方法，通过控制变量子框架统一DSI和TSI，降低方差并提升扩散模型的样本效率。
2026-09-02 cs.LG
Diffusion Attribution Score: Evaluating Training Data Influence in Diffusion Models
The University of Sydney（悉尼大学）；City University of Hong Kong（香港城市大学）
针对现有扩散模型数据归因方法依赖扩散损失、无法准确衡量训练样本贡献的问题，提出Diffusion Attribution Score（DAS），通过直接比较预测分布分析样本重要性，经理论验证与加速优化，在多基准测试中取得SOTA性能。
2025-03-21 cs.AI cs.LG
Score Approximation for Diffusion Models on Arbitrary Low-Dimensional Structures
Shanghai Institute for Mathematics and Interdisciplinary Sciences（上海数学与交叉科学研究院）；Huawei Technologies Co., Ltd.（华为技术有限公司）
针对任意紧支撑分布，提出一种基于离散混合的分数近似方法，证明ReLU网络复杂度仅随上Minkowski维数d指数增长，打破环境维数诅咒，解释扩散模型在非光滑数据上的有效性。
2026-10-06 cs.LG
Measurement Score-Based Diffusion Model
Washington University in St. Louis（华盛顿大学圣路易斯分校）
本文提出MSM框架，仅利用含噪欠采样测量学习部分测量分数，并通过随机采样与后验采样实现无干净训练数据的图像生成和逆问题求解。
2025-05-17 cs.LG eess.IV
Thermodynamic Performance Limits for Score-Based Diffusion Models
Case Western Reserve University（凯斯西储大学）
本研究建立基于分数的扩散模型与非平衡热力学间的联系，推导出基于熵率的性能极限，给出数据负对数似然的下界，并在合成数据上验证其紧致性，为生成模型性能提供热力学新见解。
2025-10-07 cond-mat.stat-mech cs.LG
ScoreMix: Synthetic Data Generation by Score Composition in Diffusion Models Improves Recognition
EPFL（苏黎世联邦理工学院）；Idiap（日内瓦智能感知研究院）
ScoreMix是一种无需外部资源的自包含合成数据生成方法，通过混合扩散模型的类条件分数生成样本，在8个人脸识别基准上无需超参数搜索即可将准确率提升多达7个百分点。
2026-09-04 cs.AI cs.CV cs.LG
Query Lower Bounds for Diffusion Sampling
UT Austin（德克萨斯大学奥斯汀分校）
本文研究了扩散采样中查询次数的下限，证明了在多维分布下，任何采样算法需要至少O(√d)次适应性查询，解释了多尺度噪声调度的必要性。
2026-09-30 cs.AI cs.DS cs.LG
From Score Learning to Discretized Sampling: An End-to-End Generalization Analysis of Diffusion Models
School of Mathematical Sciences, Nankai University（南开大学数学科学学院）
研究基于实际残差网络架构的得分扩散模型，建立统一收敛和泛化框架，分析从得分函数学习到采样过程的特性，将生成误差分解为四个分量，定量刻画训练样本大小等因素对扩散模型样本保真度的控制。
2026-07-28 cs.LG math.ST stat.TH
gDDIM: Generalized denoising diffusion implicit models
Georgia Institute of Technology（佐治亚理工学院）
我们的目标是将去噪扩散隐式模型（DDIM）推广到各向同性扩散以外的一般扩散模型~（DM）。而不是在原来的DDIM构建一个非马尔可夫噪声过程中，我们从数值的角度研究DDIM的机制。我们发现，DDIM可以通过使用一些特定的近似的分数时，解决相应的随机微分方程。我们提出了一个解释DDIM的加速效应，也解释了一个确定性的采样方案的优势，快速采样的随机之一。在此基础上，我们将DDIM扩展到一般DM，即广义DDIM（gDDIM），在参数化评分网络时进行了一个小而微妙的修改。我们在两个非各向同性DM中验证了gDDIM：模糊扩散模型（BDM）和临界阻尼Langevin扩散模型（CLD）。我们在BDM中观察到超过20倍的加速度。在CLD中，一个扩散模型，通过增加扩散过程的速度，我们的算法实现了FID分数为2.26，在CIFAR 10上，只有50个分数函数评估~（NFE）和FID分数为2.86，只有27个NFE。代码可在https://github.com/qsh-zh/gDDIM上获得
2023-03-23 cs.LG
How to use score-based diffusion in earth system science: A satellite nowcasting example
Cooperative Institute for Research in the Atmosphere, Colorado State University, Fort Collins, CO（大气研究合作研究所，科罗拉多州立大学，福尔科尔斯）
本文通过卫星现在预报示例，展示基于分数的扩散模型在地球科学中的应用，验证了CorrDiff方法在云生成与衰减方面的优越性。
2025-12-18 cs.LG physics.ao-ph
Target Concrete Score Matching: A Holistic Framework for Discrete Diffusion
Apple（苹果公司）
本文提出目标具体分数匹配（TCSM），一种统一的离散扩散训练与微调目标函数，通过估计干净数据空间中的目标分布分数，支持预训练、奖励微调和知识蒸馏，在语言建模任务上匹配或超越现有方法。
2025-04-23 cs.LG
