Soft Truncation: A Universal Training Technique of Score-based Diffusion Model for High Precision Score Estimation
KAIST(韩国科学技术院);University of Seoul(首尔市立大学)
扩散模型的最新进展为图像生成任务带来了最先进的性能。然而,从以前的研究经验结果在扩散模型意味着密度估计和样本生成性能之间的逆相关性。本文研究了充分的经验证据,这种逆相关性的发生,因为密度估计是显着贡献的小扩散时间,而样本生成主要取决于大的扩散时间。然而,在整个扩散时间内很好地训练得分网络是非常困难的,因为损失规模在每个扩散时间都是显著不平衡的。因此,为了成功训练,我们引入了软截断,这是一种普遍适用于扩散模型的训练技术,它将固定和静态截断超参数软化为随机变量。在实验中,Soft Truncation在CIFAR-10、CelebA、CelebA-HQ 256 x256和STL-10数据集上实现了最先进的性能。
2022-06-11 cs.AI cs.LG stat.ML
DiffusionBlocks: Block-wise Neural Network Training via Diffusion Interpretation
Sakana AI;The University of Tokyo(东京大学)
提出DiffusionBlocks框架,利用残差连接与动力系统的对应关系,将网络转换为去噪过程,通过分数匹配目标实现独立分块训练,在多种Transformer架构上达到与端到端训练相当的性能,同时降低内存需求。
2026-06-15 cs.AI cs.LG stat.ML
Notes on generative modeling: flow matching, diffusion, optimal transport and Schr{ö}dinger bridge
Inria(法国国家信息与自动化研究所)
本文梳理生成建模中不同技术的高层数学原理,揭示最优传输与薛定谔桥、流匹配等标准方法之间的联系。
2026-06-29 cs.LG stat.ML
Enhancing Diffusion Language Models with Autoregressive Post-Training Weights
EPFL(洛桑联邦理工学院)
提出A2D框架,无需训练即可将自回归模型的后训练权重更新应用于扩散语言模型,通过组合AR与扩散后训练更新,提升指令遵循、数学推理和编码能力。
2026-10-07 cs.LG
The Cosine Schedule is Fisher-Rao-Optimal for Masked Discrete Diffusion Models
University of Oxford(牛津大学);University of British Columbia(不列颠哥伦比亚大学)
本文从信息几何角度研究掩码离散扩散模型的采样调度,证明Fisher-Rao几何下的最优调度即常用的余弦调度。
2025-10-05 cs.LG stat.ML
Adaptive Training Meets Progressive Scaling: Elevating Efficiency in Diffusion Models
University of Sydney(悉尼大学);Nanjing Forestry University(南京林业大学);Sensetime Research(商汤科技研究院);Central South University(中南大学)
本文提出 TDC Training 两阶段分而治之策略,按时间步分组并定制去噪模型,结合基于代理的剪枝方法,在 ImageNet64 上以节省约 20% 计算资源实现 FID 改善 1.5。
2024-12-25 cs.AI cs.CV cs.LG
Diffusion Models are Minimax Optimal Distribution Estimators
the University of Tokyo(东京大学);RIKEN(理化学研究所)
虽然有效的分布学习无疑是扩散建模取得突破性成功的原因,但其理论保证相当有限。在本文中,我们提供了第一个严格的分析的逼近和推广能力的扩散模型的知名函数空间。当真密度函数属于Besov空间且经验得分匹配损失适当最小化时,生成的数据分布在全变差距离和一阶瓦瑟斯坦距离上均达到近似极小极大最优估计率.此外,我们扩展我们的理论,以证明如何扩散模型适应低维数据分布。我们希望这些结果推进扩散模型的理论理解和它的能力,以产生verisimilized输出。
2023-03-03 cs.LG stat.ML
Adaptive Block Diffusion: Resolving Training-Inference Mismatch in Diffusion Language Models
Microsoft AI(微软人工智能)
提出自适应块扩散(ABD),通过将配置视为随机变量,在完整配置空间上训练单一模型,解决扩散语言模型中固定上下文结构导致的训练与推理不匹配问题,保证覆盖配置下的去噪最优性。
2026-06-28 cs.LG
Inference-Time Scaling of Discrete Diffusion Models via Importance Weighting and Optimal Proposal Design
本文提出基于SMC框架的重要加权和最优提案设计方法,提升离散扩散模型在推理时的可控制性和样本质量,适用于多个领域任务。
2026-03-15 cs.LG
Expanding the Role of Diffusion Models for Robust Classifier Training
National Taiwan University(国立台湾大学)
本研究通过扩展扩散模型在对抗训练中的作用,发现其内部表示能提升鲁棒分类器的训练效果,并验证了扩散表示与合成数据的互补作用。
2026-11-13 cs.CV cs.LG
Improving Probabilistic Diffusion Models With Optimal Diagonal Covariance Matching
Imperial College London(伦敦帝国学院);University College London(伦敦大学学院);University of Manchester(曼彻斯特大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tubingen(蒂宾根大学);IMPRS-IS(马克斯·普朗克智能系统研究所国际马克斯·普朗克研究学院)
针对扩散模型协方差预测近似误差大的问题,提出基于无偏目标最优协方差匹配(OCM)的对角协方差学习方法,直接回归最优解析对角协方差,有效提升常用扩散模型的采样效率、召回率与似然。
2025-02-19 cs.LG
Stochastic Optimal Control for Diffusion Bridges in Function Spaces
KAIST(韩国科学技术院);Korea University(高丽大学);LG AI Research(LG AI研究院)
本文提出无限维函数空间中的随机最优控制理论,将Doob's h-变换推广至无限维,证明其与扩散生成模型学习的等价性,并应用于分布间桥构建及采样生成,有效处理图像、时间序列等连续函数数据。
2025-02-28 cs.LG
Modular Diffusion Policy Training: Decoupling and Recombining Guidance and Diffusion for Offline RL
Iowa State University(爱荷华州立大学)
本文提出模块化训练方法,将引导模块与扩散模型解耦,先独立训练引导模块再冻结指导扩散,实现跨算法复用,在Bullet D4RL上提升样本效率并显著降低分数方差。
2025-05-19 cs.LG
Diffusion-Based Multiple-Shooting Indirect Optimal Control for Fuel-Optimal Spacecraft Trajectory Generation
Auburn University(奥本大学);Princeton University(普林斯顿大学)
提出一种扩散模型与间接法结合的多重打靶控制方法,用于生成燃料最优航天器轨迹,在地球-火星转移问题上展现出比随机初始化间接法更高的收敛鲁棒性。
2026-09-15 cs.LG cs.SY eess.SY
Training-Free Imitation Learning with Closed-Form Diffusion Policies
Australian Center for Robotics, ARIAM Hub, and School of Aerospace, Mechanical and Mechatronic Engineering University of Sydney(澳大利亚机器人中心、ARIAM中心和悉尼大学航空航天、机械与机电工程学院)
提出一种基于演示数据集闭式得分的无训练扩散策略(CFDP),实现毫秒级实时模仿学习,性能媲美需数小时训练的神经基线,并支持推理时策略编辑与演示增强。
2026-05-31 cs.LG cs.RO
Extracting Training Data from Diffusion Models
Google DeepMind(谷歌DeepMind);ETHZ(苏黎世联邦理工学院);Princeton(普林斯顿大学);UC Berkeley(加州大学伯克利分校)
图像扩散模型如DALL-E 2、Imagen和Stable Diffusion由于其生成高质量合成图像的能力而引起了极大的关注。在这项工作中,我们证明了扩散模型从它们的训练数据中记忆单个图像,并在生成时发射它们。通过生成和过滤管道,我们从最先进的模型中提取了超过一千个训练样本,从个人照片到公司商标。我们还训练了数百个不同环境下的扩散模型,以分析不同的建模和数据决策如何影响隐私。总的来说,我们的研究结果表明,扩散模型比GANs等先前的生成模型更不私密,并且减轻这些漏洞可能需要在隐私保护训练方面取得新的进展。
2023-01-30 cs.CR cs.CV cs.LG
Improving Diffusion-Based Generative Models via Approximated Optimal Transport
Seoul National University(首尔大学);Yonsei University(延世大学)
本研究提出近似最优传输(AOT)训练技术,将最优传输近似整合到扩散模型训练中以降低轨迹曲率与采样误差,在仅27-29次NFEs下刷新了无条件和条件生成的FID最优成绩。
2024-03-08 cs.CV cs.LG
PQD: Post-training Quantization for Efficient Diffusion Models
University of Oxford(牛津大学);Zhejiang Lab(浙江大学实验室)
本文提出PQD训练后量化框架,通过时间感知校准将扩散模型量化为8位或4位,在无需训练且保持性能的同时显著提升推理效率。
2024-12-30 cs.CV cs.LG
Patch Diffusion: Faster and More Data-Efficient Training of Diffusion Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Azure AI(微软Azure人工智能部门)
提出 Patch Diffusion 补丁级训练框架,通过引入补丁级条件得分函数并随机化补丁大小,实现两倍以上训练加速并提升小数据集训练效率,在多个基准上取得杰出 FID 分数。
2023-10-18 cs.CV cs.LG
Some remarks on the connection between generative diffusion and optimal transport
Laboratoire de Physique de l’Ecole Normale Supérieure, ENS, Université PSL, CNRS,Sorbonne Université, Université Paris-Diderot, Sorbonne Paris Cité(巴黎高等师范学院物理实验室,法兰西公学院,巴黎文理研究大学,法国国家科学研究中心,索邦大学,巴黎第七大学,巴黎西岱);Department of Computing Sciences, Bocconi University(博科尼大学计算科学系)
本文揭示生成式扩散与最优传输间的三种联系,包括联合分布对应熵正则化最优传输解、模式分离的动力学特性及反向过程的变分原理。
2026-10-21 cond-mat.dis-nn cs.LG stat.ML
Optimization Benchmark for Diffusion Models on Dynamical Systems
Inria(法国国家信息与自动化技术研究所);École Normale Supérieure(巴黎高等师范大学);PSL Research University(巴黎综合理工学院)
该研究构建了面向动力系统扩散模型训练的优化基准,测试发现Muon和SOAP比AdamW最终损失低18%,还重新探讨了学习率调度影响、Adam与SGD性能差等现象。
2025-10-22 cs.LG math.OC
An optimal control perspective on diffusion-based generative modeling
Caltech(加州理工学院);Zuse Institute Berlin(柏林祖斯研究所);dida Datenschmiede GmbH(迪达数据 Schmiede 有限公司);Meta AI
本文从随机最优控制视角研究基于SDE的扩散生成模型,推导出控制对数密度演化的HJB方程,证明证据下界是验证定理的推论,并提出性能更优的时间反转扩散采样器(DIS)。
2024-03-26 cs.LG math.OC stat.ML
Discrete Diffusion Models are Minimax Optimal Under Sparsity
INRIA - École Normale Supérieure - PSL Research University - CNRS(法国国家信息与自动化研究所 - 巴黎高等师范学院 - 巴黎文理研究大学 - 法国国家科学研究中心);École Polytechnique - CMAP - IP Paris(巴黎综合理工学院 - 数学与应用中心 - 巴黎理工学院)
本研究针对离散扩散模型,在稀疏性假设下分析其统计速率,建立了稀疏 regime 下的极小极大最优速率,证明其可内在适配稀疏性,为离散扩散模型提供了理论支撑。
2026-10-15 cs.LG stat.ML
Solving Diffusion ODEs with Optimal Boundary Conditions for Better Image Super-Resolution
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Microsoft Research(微软研究院);Pengcheng Laboratory(鹏城实验室)
本文提出通过求解具有最优边界条件的扩散常微分方程,从预训练扩散超分辨率模型中稳定采样高质量图像,以更少步数实现无需额外训练的性能提升。
2024-04-01 cs.CV cs.LG eess.IV
Speed-accuracy relations for diffusion models: Wisdom from nonequilibrium thermodynamics and optimal transport
Department of Mathematical Engineering and Information Physics, School of Engineering, The University of Tokyo(数学工程与信息物理系,工学院,东京大学);Department of Earth and Planetary Physics, School of Science, The University of Tokyo(地球与行星物理系,理学院,东京大学);Preferred Networks Inc.(Preferred Networks公司);Universal Biology Institute, Graduate School of Science, The University of Tokyo(生物科学研究所,研究生院,东京大学)
本研究借助随机热力学技术推导扩散模型的速度-精度关系,结合最优输运理论的2-瓦瑟斯坦测地线提出最优学习方案,并通过数值实验验证了关系的有效性与方案的实际应用价值。
2026-10-26 cond-mat.stat-mech cs.LG stat.ML
Constrained Diffusion Models via Dual Training
University of Pennsylvania(宾夕法尼亚大学)
本文提出约束扩散模型,将需求约束下的训练建模为约束分布优化问题,并设计对偶训练算法,在公平采样和微调防过拟合任务中实现目标与约束的最优权衡。
2024-11-22 cs.CV cs.LG math.OC