Stochastic Runge-Kutta Accelerates Langevin Monte Carlo and Beyond
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Microsoft Research（微软研究院）
使用马尔可夫链蒙特卡罗方法进行采样通常相当于使用数值积分对某些连续时间动态进行离散化。在本文中，我们建立了采样算法的收敛速度的离散光滑伊藤扩散表现出快速Wasserstein- $2$收缩的基础上，局部偏差性质的集成计划。特别地，我们研究了一种采样算法，该算法是用随机龙格-库塔方法离散过阻尼Langevin扩散而构造的。对于光滑到一定阶的强凸势，其迭代在$\tilde{\mathcal{O}}(dε^{-2/3})$迭代中收敛到瓦瑟斯坦距离的目标分布.这改进了基于过阻尼Langevin方程的强对数凹采样的最佳速率，仅使用梯度预言而不进行调整。此外，我们扩展我们的分析随机龙格-库塔方法的均匀耗散扩散可能非凸的潜力，并表明他们实现更好的速率相比，欧拉-丸山计划的依赖性公差$ε$。数值研究表明，这些算法具有更好的稳定性和更小的渐近误差。
2020-02-01 cs.LG stat.ML
Langevin Monte Carlo Beyond Lipschitz Gradient Continuity
Brno University of Technology（布尔诺理工大学）；University of Warsaw（华沙大学）；Norwegian University of Science and Technology (NTNU)（挪威科技大学（NTNU））
本研究提出非精确近端朗之万算法IPLA，突破LMC的传统L-光滑性假设，将其适用范围拓展至多项式增长、超二次势函数，实现更优收敛速率并给出马尔可夫链矩的界，提升分析鲁棒性且控制计算成本。
2024-12-12 cs.LG stat.ML
Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
随机梯度Langevin动力学是解决采样问题和非凸优化问题的最基本算法之一，出现在机器学习的许多应用中。特别是，其方差减少的版本，现在已经获得了特别的关注。在本文中，我们研究这类的两个变种，即随机方差约化梯度Langevin动力学和随机递归梯度Langevin动力学。我们证明了他们的收敛到目标分布的KL-发散光滑性和Log-Sobolev不等式的唯一假设下，这些算法比以前的作品中使用的条件较弱。将批次大小和内环长度设置为$\sqrt{n}$时，实现$ε$精度的梯度复杂度为$\tilde{O}((n+dn^{1/2}ε^{-1})γ^2 L^2α^{-2})$，这是对之前任何分析的改进。我们还展示了我们的结果在非凸优化中的一些重要应用。
2022-11-19 cs.LG math.PR stat.ML
Global Convergence of Langevin Dynamics Based Algorithms for Nonconvex Optimization
UCLA（加州大学洛杉矶分校）；University of Virginia（弗吉尼亚大学）
本文给出了一个统一的框架来分析基于Langevin动力学的非凸有限和优化算法的全局收敛性，该算法具有$n$分量函数。在我们的分析的核心是一个直接的分析的遍历性的数值近似朗之万动力学，这导致更快的收敛速度。具体地说，我们证明了梯度Langevin动力学（GLD）和随机梯度Langevin动力学（SGLD）收敛到几乎最小$\tilde O\big(nd/(λε) \big)$和$\tilde O\big(d^7/(λ^5ε^5) \big)$随机梯度评估，其中$d$是问题的维数，和$λ$是由GLD产生的马尔可夫链的谱间隙。这两个结果都改进了最著名的梯度复杂度结果（Raginsky等人，2017年）。此外，我们第一次证明了方差约化随机梯度Langevin动力学（SVRG-LD）的全局收敛保证几乎最小的$\tilde O\big(\sqrt{n}d^5/(λ^4ε^{5/2})\big)$随机梯度评估，这优于GLD和SGLD的梯度复杂性在一个广泛的制度。我们的理论分析揭示了一些光使用Langevin动力学为基础的算法的非凸优化与可证明的保证。
2020-10-19 cs.LG math.OC stat.ML
Adaptive Non-reversible Stochastic Gradient Langevin Dynamics
Cornell University（康奈尔大学）；University of Connecticut（康涅狄格大学）
众所周知，在朗之万动力学算法的梯度中加入任何反对称矩阵都会导致不可逆扩散，从而提高收敛速度。本文提出了一种自适应优化选择反对称矩阵的梯度算法。所得到的算法涉及一个不可逆的扩散算法交叉耦合的随机梯度算法，适应的斜对称矩阵。该算法使用与经典Langevin算法相同的数据。给出了反对称矩阵选择的最优性的弱收敛性证明。在贝叶斯学习和跟踪的例子中，该算法的收敛速度得到了改善。
2020-09-26 cs.LG cs.SY eess.SY
Langevin algorithms for Markovian Neural Networks and Deep Stochastic control
Sorbonne Université（索邦大学）
随机梯度下降朗之万动力学（SGLD）算法，它添加噪声到经典的梯度下降，是已知的，以改善神经网络的训练，在某些情况下，神经网络是非常深的。在本文中，我们研究了训练加速的可能性，通过梯度下降的数值分辨率的随机控制问题，其中控制参数化的神经网络。如果在许多离散化时间应用控制，则解决随机控制问题减少到最小化非常深的神经网络的损失。我们数值计算表明，朗之万算法提高了训练的各种随机控制问题，如对冲和资源管理，并为不同的选择梯度下降方法。
2023-01-13 cs.LG math.OC q-fin.CP
Adaptively Preconditioned Stochastic Gradient Langevin Dynamics
Columbia University（哥伦比亚大学）
随机梯度朗之万动力学将各向同性梯度噪声注入SGD，以帮助在深度网络的损失景观中导航病理曲率。噪声的各向同性性质导致较差的缩放，并且已经提出了基于高阶曲率信息的自适应方法（诸如Fisher Scoring）来预处理噪声以实现更好的收敛。在本文中，我们描述了一种自适应方法来估计噪声的参数，并进行实验，在著名的模型架构，自适应预处理SGLD方法实现收敛的速度与自适应一阶方法，如亚当，AdaGrad等。
2019-06-12 cs.CV cs.LG stat.ML
Stochastic Approximate Gradient Descent via the Langevin Algorithm
Department of Statistics and Data Science, Carnegie Mellon University（卡内基梅隆大学统计与数据科学系）；Department of Statistics, Purdue University（普渡大学统计系）
我们引入了一种新的和有效的算法称为随机近似梯度下降（SAGD），作为替代的随机梯度下降的情况下，无偏随机梯度不能平凡地获得。传统的方法，这样的问题依赖于通用的采样技术，如马尔可夫链蒙特卡罗，这通常需要手动干预调整参数，并没有有效地在实践中工作。相反，SAGD利用Langevin算法来构造随机梯度，这些随机梯度在有限步中有偏，但渐近精确，使我们能够从理论上建立SAGD的收敛保证。在理论分析的启发下，我们也为它的实际实施提供了有用的指导。最后，我们表明，SAGD在流行的统计和机器学习问题，如期望最大化算法和变分自编码器实验表现良好。
2020-02-13 cs.LG stat.CO stat.ML
A Hitting Time Analysis of Stochastic Gradient Langevin Dynamics
Stanford University（斯坦福大学）
研究了求解非凸优化问题的随机梯度朗之万动力学（SGLD）算法。该算法执行随机梯度下降，其中在每个步骤中，它将适当缩放的高斯噪声注入到更新中。我们分析了算法对参数空间任意子集的命中时间。两个结果遵循我们的一般理论：首先，我们证明了经验风险最小化，如果经验风险是逐点接近（光滑）的人口风险，然后该算法实现了一个近似的局部最小的人口风险在多项式时间，逃避次优的局部最小值，只存在于经验风险。第二，我们表明，SGLD提高了一个最有名的学习线性分类器的零-一损失下的可学习性结果。
2018-04-09 cs.LG math.OC stat.ML
Stochastic Proximal Langevin Algorithm: Potential Splitting and Nonasymptotic Rates
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）
提出了一种新的对数凹分布抽样算法--随机邻近朗之万算法（SPLA）。我们的方法是一个推广的Langevin算法的潜力表示为一个随机光滑项和多个随机非光滑项的总和。在每次迭代中，我们的分裂技术只需要访问一个随机梯度的光滑项和一个随机邻近算子的每个非光滑项。我们建立了光滑项的凸性和强凸性下的非渐近次线性和线性收敛速度，分别用库尔贝克-莱布勒散度和瓦瑟斯坦距离表示。我们说明了我们的抽样技术的效率，通过数值模拟贝叶斯学习任务。
2020-06-16 cs.LG math.OC math.ST
Non-Convex Optimization via Non-Reversible Stochastic Gradient Langevin Dynamics
随机梯度朗之万动力学（SGLD）是一种用于优化非凸目标的强大算法，其中将受控且适当缩放的高斯噪声添加到随机梯度以将迭代转向全局极小值。SGLD基于过阻尼Langevin扩散，其在时间上是可逆的。通过在过阻尼Langevin扩散的漂移项上增加一个反对称矩阵，得到了一个不可逆扩散，该扩散以更快的收敛速度收敛到相同的平稳分布。本文研究了基于不可逆Langevin扩散离散化的不可逆随机梯度Langevin动力学（NSGLD）。对于求解随机非凸优化问题，我们给出了NSGLD的整体收敛的有限时间性能界。我们的研究结果导致人口和经验风险最小化问题的非渐近保证。贝叶斯独立成分分析和神经网络模型的数值实验表明，NSGLD可以优于SGLD适当选择的反对称矩阵。
2020-06-02 math.OC stat.ML
Dimension-free convergence rates for gradient Langevin dynamics in RKHS
CREST, ENSAE, IP Paris（巴黎理工学院国立统计与经济管理学院经济与统计研究中心）；The University of Tokyo（东京大学）；INRIA, Université Paris-Saclay（巴黎萨克雷大学法国国家信息与自动化研究所）；Riken AIP（理化学研究所先进智能项目中心）
梯度朗之万动力学（GLD）和随机GLD（SGLD）最近引起了相当大的关注，作为一种在非凸设置中提供收敛保证的方式。然而，已知的速率随着空间的维度呈指数增长。在这项工作中，我们提供了一个收敛性分析GLD和SGLD的优化空间是一个无限维的希尔伯特空间。更准确地说，我们推导出非渐近的，无量纲的收敛速度GLD/SGLD进行正则化的非凸优化在再生核希尔伯特空间。其中，收敛性分析依赖于一个随机微分方程，其离散时间Galerkin近似和相关的马尔可夫链的几何遍历性的属性。
2020-03-26 cs.LG math.PR stat.ML
Faster Convergence of Stochastic Gradient Langevin Dynamics for Non-Log-Concave Sampling
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
我们提供了一个新的收敛性分析随机梯度Langevin动力学（SGLD）的抽样从一类分布，可以是非对数凹的。在我们的方法的核心是一个新的电导分析SGLD使用辅助时间可逆马尔可夫链。在一定条件下的目标分布，我们证明了$\tilde O(d^4ε^{-2})$随机梯度评价足以保证$ε$ -抽样误差的总变异距离，其中$d$是问题的尺寸。这改进了SGLD收敛速度的现有结果（Raginsky等人，2017年; Xu等人，2018年）。我们进一步表明，提供了一个额外的Hessian Lipschitz条件的对数密度函数，SGLD保证实现$ε$ -采样误差内$\tilde O(d^{15/4}ε^{-3/2})$随机梯度评价。我们的证明技术提供了一种新的方法来研究基于Langevin算法的收敛性，并揭示了一些基于随机梯度的快速采样算法的设计。
2021-02-23 cs.LG math.ST stat.ML
Scalable Natural Gradient Langevin Dynamics in Practice
Department of Biomedical Engineering, Columbia University（哥伦比亚大学生物医学工程系）
随机梯度朗之万动力学（SGLD）是一种适用于大型数据集和模型的贝叶斯建模抽样方案。SGLD依赖于在随机梯度下降（SGD）更新的每一步注入高斯噪声。在该方案中，噪声向量中的每个分量都是独立的，并且具有相同的尺度，而我们试图估计的参数在尺度和显著的相关结构中表现出强烈的变化，导致收敛性差和混合时间。我们比较了不同的预处理方法对噪声向量的归一化，并根据以下标准对这些方法进行了基准测试：1）多变量参数向量的混合时间，2）对容易过拟合的小数据集的正则化效果，3）协变量偏移检测和4）抵抗对抗性示例。
2018-06-07 cs.AI cs.LG cs.NE
Differential Privacy Dynamics of Langevin Diffusion and Noisy Gradient Descent
National University of Singapore（新加坡国立大学）
当迭代随机学习算法的内部状态为\emph{private}时，算法关于训练数据的信息泄漏是什么？每个特定的训练时期对通过发布模型的信息泄漏的贡献有多大？我们研究了这个问题的噪声梯度下降算法，并在整个训练过程中建模的Rényi差分隐私损失的\emph{dynamics}。我们的分析追踪了一个可证明的\emph{tight}边界，该边界位于在相邻数据集上训练的模型参数上的一对概率分布之间的Rényi发散上。我们证明了隐私损失指数收敛速度快，光滑和强凸损失函数，这是一个显着的改进组合定理（高估了隐私损失的上限，其总价值超过所有中间梯度计算）。对于Lipschitz，光滑，强凸损失函数，我们证明了噪声梯度下降算法的最佳效用与一个小的梯度复杂性。
2022-09-09 cs.CR cs.LG stat.ML
Constrained Ensemble Langevin Monte Carlo
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文提出Constrained Ensemble Langevin Monte Carlo算法，通过约束方式使用集成近似替代梯度计算，在保持类似经典LMC稳定性的同时大幅降低数值成本。
2021-10-29 cs.LG cs.NA math.NA
Non-convex learning via Stochastic Gradient Langevin Dynamics: a nonasymptotic analysis
University of Illinois（伊利诺伊大学）；University of Pennsylvania（宾夕法尼亚大学）；Simons Institute（西蒙斯研究所）
随机梯度朗之万动力学（SGLD）是随机梯度下降的一个流行变体，其中适当缩放的各向同性高斯噪声被添加到每次迭代的梯度的无偏估计中。这种适度的变化允许SGLD逃避局部极小值，并足以保证渐近收敛到足够规则的非凸目标的全局极小值（Gelfand和Mitter，1991）。目前的工作提供了一个非渐近分析的背景下，非凸学习问题，给有限的时间保证SGLD找到近似最小的经验和人口的风险。在渐近设置中，我们的分析将离散时间SGLD马尔可夫链与连续时间扩散过程联系起来。一个新的工具，驱动的结果是使用加权运输成本不等式，以量化的收敛速度的SGLD到一个平稳的分布在欧几里德$2$ -Wasserstein距离。
2017-06-04 cs.LG math.OC math.PR
Sampling via Stochastic Interpolants by Langevin-based Velocity and Initialization Estimation in Flow ODEs
本文提出了一种基于Langevin采样器和概率流ODE的方法，用于高效采样复杂分布并提升贝叶斯推断性能。
2026-08-10 cs.LG cs.NA math.NA
Fisher information dissipation for time inhomogeneous stochastic differential equations
Florida State University（佛罗里达州立大学）；University of California, Los Angeles（加州大学洛杉矶分校）；University of South Carolina（南卡罗来纳大学）
该研究针对时间非齐次变系数随机微分方程开展Lyapunov收敛分析，通过修正梯度流表述、选取时间依赖相对Fisher信息泛函并提出Hessian矩阵条件，证明了三类典型Langevin动力学的收敛性并通过数值算例验证。
2024-02-01 cs.LG math.PR stat.ML
On Random Subset Generalization Error Bounds and the Stochastic Gradient Langevin Dynamics Algorithm
在这项工作中，我们统一了几个预期的泛化误差边界的基础上随机子集使用的框架开发的Hellström和Durisi [1]。首先，我们根据Bu等人[2]的个体样本互信息和Negrea等人[3]的数据集的随机子集恢复边界。然后，我们在Steinke和Zakynthinou [4]的随机子样本设置中引入了他们新的类似界限，并确定了框架的一些限制。最后，我们将Haghifam等人[5]对Langevin动力学的界扩展到随机梯度Langevin动力学，并对具有潜在大梯度范数的损失函数进行了改进。
2021-01-16 cs.IT math.IT stat.ML
On stochastic gradient Langevin dynamics with dependent data streams: the fully non-convex case
我们在Raginsky等人（2017）提出的经验风险最小化和随机最优化的背景下考虑从目标分布（\emph {不一定是对数凹的}）中采样的问题。在$L^1$ -Wasserstein距离中建立了随机梯度Langevin动力学（SGLD）算法的非渐近分析结果。我们允许即使在存在\emph{dependent}数据流的情况下也执行梯度的估计。我们的收敛估计是尖锐的，\emph{uniform}的迭代次数，在以前的研究相比。
2021-02-02 math.PR math.ST stat.ML
Taming neural networks with TUSLA: Non-convex learning via adaptive stochastic gradient Langevin algorithms
Alfréd Rényi Institute of Mathematics（阿尔弗雷德·雷尼数学研究所）；The University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）；National Technical University of Athens（雅典国立技术大学）
人工神经网络（ANN）通常是高度非线性的系统，其经由其相关联的非凸损失函数的优化而被精细地调谐。在许多情况下，任何这样的损失函数的梯度具有超线性增长，使得基于欧拉数值方案的广泛接受的（随机）梯度下降方法的使用成为问题。我们提供了一个新的学习算法的基础上适当构造的流行的随机梯度Langevin动力学（SGLD），这是所谓的驯服的未调整的随机Langevin算法（TUSLA）的变体。我们还提供了一个非渐近分析的新算法的收敛特性的背景下，非凸学习问题的使用人工神经网络。因此，我们提供有限的时间保证TUSLA找到经验和人口风险的近似最小化。TUSLA算法的根源是基于\citet{tamed-euler, SabanisAoAP}中开发的超线性系数扩散过程的驯服技术和\citet{tula}中的MCMC算法。数值实验证实了理论研究结果，并说明需要使用的新算法相比，香草SGLD的框架内的人工神经网络。
2023-01-15 cs.LG math.OC math.PR
Sampling as optimization in the space of measures: The Langevin dynamics as a composite optimization problem
Department of Electrical & Computer Engineering University of Wisconsin – Madison（威斯康星大学麦迪逊分校电气与计算机工程系）
我们研究的措施空间中的最优化抽样。我们专注于梯度流为基础的优化与朗之万动力学作为案例研究。本文研究了离散时间下的非调整Langevin算法（NGA）的偏差来源，并考虑了如何消除或减小偏差。我们指出，困难在于热流是精确可解的，但它的前向和后向方法一般都是不可实现的，除了高斯数据。我们提出了对称化的Langevin算法（SLA），它应该有一个较小的偏差比ESTA，在空间上实现一个近端梯度步骤的价格。我们发现SLA实际上是一致的高斯目标的措施，而不一致。我们还说明了各种算法显式高斯目标测量，包括梯度下降，近端梯度，和Forward-Backward，并表明他们都是一致的。
2018-06-06 cs.IT cs.LG math.IT
Projected Stochastic Gradient Langevin Algorithms for Constrained Sampling and Non-Convex Learning
Langevin算法是具有加性噪声的梯度下降方法。它们已经在马尔可夫链蒙特卡罗（MCMC）采样，优化和学习中使用了几十年。它们在无约束非凸优化和学习问题中的收敛性在过去几年中得到了广泛的研究。其他工作研究了投影Langevin算法的抽样从对数凹分布限制凸紧集。对于学习和优化，对数凹分布对应于凸损失。在本文中，我们分析了非凸损失的情况下，紧凸约束集和IID外部数据变量。我们将此方法称为投影随机梯度Langevin算法（PSGLA）。我们表明，该算法实现了$O(T^{-1/4}(\log T)^{1/2})$从其目标分布在1-Wasserstein距离的偏差。对于优化和学习，我们表明，该算法实现$ε$ -次优的解决方案，平均而言，只要它运行的时间是多项式在$ε^{-1}$和稍微超指数的问题维度。
2020-12-22 cs.LG math.OC math.PR
Generalization Bounds for Stochastic Gradient Langevin Dynamics: A Unified View via Information Leakage Analysis
Tencent AI Lab（腾讯人工智能实验室）；HongKong University of Science and Technology（香港科技大学）；Zhejiang University（浙江大学）
最近，非凸经验风险最小化范式的推广界随机梯度朗之万动力学（SGLD）已被广泛研究。从不同的角度对这一问题进行了研究，如信息论和稳定性等。在本文中，我们提出了一个统一的观点，从隐私泄漏分析调查的推广范围的SGLD，以及一个理论框架，重新推导以前的结果，在一个简洁的方式。除了理论研究结果，我们进行了各种数值研究，以实证评估SGLD的信息泄漏问题。此外，我们的理论和实证结果提供了解释先前的作品，研究SGLD的会员隐私。
2021-12-14 cs.AI cs.LG
Convergence of Stochastic Gradient Langevin Dynamics in the Lazy Training Regime
本文研究了在懒惰训练 regime 中随机梯度 Langevin 动力学的收敛性，证明了其在非退化核和最优性差距上的收敛性，并通过实验验证了理论结果。
2026-01-29 cs.LG math.OC
Random Reshuffling for Stochastic Gradient Langevin Dynamics
Universitat Jaume I（豪梅一世大学）
本文提出通过随机重排策略改进随机梯度 Langevin 动力学算法的性能，通过理论和实验证明其在采样任务中的有效性。
2025-12-14 cs.NA math.NA math.PR
History-Conditioned Inference of Memory and Stochastic Forcing in Generalized Langevin Equations under Lévy Noise
Huazhong University of Science and Technology（华中科技大学）；China University of Geosciences (Wuhan)（中国地质大学（武汉））
本文针对Lévy噪声下广义Langevin方程，利用Markov嵌入和条件矩统计量估计记忆核与随机强迫，并给出误差界与数值验证。
2026-10-07 math.ST stat.TH
SGLB: Stochastic Gradient Langevin Boosting
Yandex；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；HSE University（俄罗斯国立高等经济学院）
本文介绍了随机梯度朗之万提升（SGLB）-一个强大而有效的机器学习框架，可以处理各种各样的损失函数，并具有可证明的泛化保证。该方法基于专门为梯度提升设计的郎之万扩散方程的特殊形式。这使得我们能够在理论上保证全局收敛，即使是多模态损失函数，而标准的梯度提升算法只能保证局部最优。我们还实证表明，SGLB优于经典的梯度提升时，适用于0-1损失函数，这是已知的多模态的分类任务。
2022-01-16 cs.LG stat.ML
Interacting Contour Stochastic Gradient Langevin Dynamics
Purdue University（普渡大学）；Morgan Stanley（摩根士丹利）；DeepMind（深度思维）
我们提出了一个相互作用的轮廓随机梯度Langevin动力学（ICSGLD）采样器，一个并行的多链轮廓随机梯度Langevin动力学（CSGLD）采样器与有效的相互作用。我们表明，ICSGLD理论上可以比具有等效计算预算的单链CSGLD更有效。我们还提出了一种新的随机场函数，这有助于在大数据中估计自适应参数，并获得自由模式探索。经验上，我们比较流行的基准方法后验抽样所提出的算法。数值结果表明，大规模的不确定性估计任务的ICSGLD的巨大潜力。
2022-02-20 cs.LG stat.ML
Federated Stochastic Gradient Langevin Dynamics
Helsinki Institute for Information Technology（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）；F-Secure（芬安全公司）；University of Manchester（曼彻斯特大学）
随机梯度MCMC方法，如随机梯度朗之万动力学（SGLD），采用快速但有噪声的梯度估计，以实现大规模的后验采样。尽管我们可以很容易地将SGLD扩展到分布式设置，但是当应用于联邦非IID数据时，它会遇到两个问题。首先，这些估计值的方差显著增加。第二，即使对于非常简单的模型，延迟通信也会导致马尔可夫链偏离真实的后验。为了缓解这两个问题，我们提出了有益的梯度，一个简单的机制，结合局部似然近似校正梯度更新。值得注意的是，传导梯度很容易计算，而且由于我们只计算一次近似值，因此它们产生的开销可以忽略不计。我们适用于分布式随机梯度朗之万动力学（DSGLD）的有益梯度，并呼吁联邦随机梯度朗之万动力学（FSGLD）的方法。我们证明，我们的方法可以处理延迟的通信轮，收敛到目标后DSGLD失败的情况下。我们还表明，FSGLD优于DSGLD的非IID联邦数据与实验的度量学习和神经网络。
2021-06-14 cs.LG stat.ML
Differential Privacy Guarantees for Stochastic Gradient Langevin Dynamics
INRIA（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL University（巴黎文理研究大学）
我们分析噪声随机梯度下降的隐私泄漏建模雷尼发散动力学与朗之万扩散。最近的非随机算法的工作的启发，我们得到类似的理想性质的随机设置。特别是，我们证明了隐私损失指数收敛速度快的平滑和强凸目标下恒定的步长，这是一个显着的改进，比以前的DP-SGD分析。我们还将我们的分析扩展到任意序列的不同步长，并推导出新的效用界。最后，我们提出了一个实现和我们的实验表明，我们的方法相比，经典的DP-SGD库的实际效用。
2022-02-05 cs.LG stat.ML
Exact Langevin Dynamics with Stochastic Gradients
University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）
随机梯度马尔可夫链蒙特卡罗算法是一种常用的近似推理抽样方法，但它们通常存在偏差。我们发现，这些方法的许多最新版本（例如Chen et al.（2014））无法使用Metropolis-Hastings拒绝抽样进行校正，因为它们的接受概率始终为零。我们可以通过使用具有可实现的向后轨迹的采样器来解决这个问题，例如服从引导蒙特卡罗（Horowitz，1991），它概括了随机梯度朗之万动力学（Welling和Teh，2011）和哈密顿蒙特卡罗。我们表明，这个采样器可以使用随机梯度，产生非零的接受概率，甚至可以跨多个步骤计算。
2021-02-02 cs.LG stat.ML
Stochastic Gradient Langevin Dynamics Algorithms with Adaptive Drifts
Purdue University（普渡大学）
贝叶斯深度学习提供了一种解决人工智能（AI）安全性问题的原则性方法，例如模型不确定性，模型可解释性和预测偏差。然而，由于缺乏从深度神经网络（DNN）的后验中采样的有效蒙特卡罗算法，贝叶斯深度学习尚未为我们的AI系统提供动力。提出了一类自适应随机梯度马尔可夫链蒙特卡罗（SGMCMC）算法，该算法对漂移函数进行偏置以增强对鞍点的逃逸，并根据过去样本的梯度自适应地调整偏置.我们建立了所提出的算法在温和的条件下的收敛性，并通过数值例子表明，所提出的算法可以显着优于现有的SGMCMC算法，如随机梯度朗之万动力学（SGLD），随机梯度哈密顿蒙特卡罗（SGHMC）和预处理SGLD，在模拟和优化任务。
2020-09-20 cs.LG stat.ML
Aggregated Gradient Langevin Dynamics
Zhejiang University（浙江大学）；Tencent（腾讯）；University of Pennsylvania（宾夕法尼亚大学）
在本文中，我们探讨了一般的聚合梯度朗之万动力学框架（AGLD）的马尔可夫链蒙特卡罗（MCMC）采样。我们研究了AGLD的非渐近收敛性与不同的数据访问（如随机访问，循环访问和随机重排）和快照更新策略，分别在凸和非凸设置的统一分析。这是第一次在MCMC文献中建立了循环访问和随机重排等I/O友好策略的界限。理论结果还表明，AGLD方法具有每次迭代计算复杂性低和混合时间短的优点。实证研究表明，我们的框架允许衍生新的计划，以产生高质量的样本，大规模的贝叶斯后验学习任务。
2019-10-21 cs.LG stat.ML
A Contour Stochastic Gradient Langevin Dynamics Algorithm for Simulations of Multi-modal Distributions
Purdue University（普渡大学）
我们提出了一种自适应加权随机梯度Langevin动态算法（SGLD），即所谓的轮廓随机梯度Langevin动态（CSGLD），用于大数据统计中的贝叶斯学习。该算法本质上是一个\emph{scalable dynamic importance sampler}，它自动\emph{flattens}的目标分布，这样的多模态分布的模拟可以大大方便。在理论上，我们证明了一个稳定性条件，并建立了自适应参数渐近收敛于{ \it唯一不动点}，而不考虑原能量函数的非凸性;我们还给出了加权平均估计的误差分析。经验上，CSGLD算法在包括CIFAR 10和CIFAR 100在内的多个基准数据集上进行了测试。数值实验结果表明，该算法在避免深度神经网络训练中的局部陷阱问题方面具有优越性。
2022-05-23 cs.LG stat.CO stat.ML
On Stationary-Point Hitting Time and Ergodicity of Stochastic Gradient Langevin Dynamics
New York University（纽约大学）；Institute for Advanced Study（高等研究院）；National University of Singapore（新加坡国立大学）
随机梯度朗之万动力学（SGLD）是随机最优化中的一个基本算法。Zhang等人最近的工作。[2017]提出了一阶和二阶平稳点的SGLD命中时间的分析。Zhang et al. [2017]中的证明是一个通过界定Cheeger常数的两阶段过程，这是相当复杂的，并导致松散的界限。本文利用随机微分方程的直觉，直接分析了SGLD到达一阶和二阶平稳点的击中时间。我们的分析很简单。它只依赖于基本的线性代数和概率论工具。与Zhang等人[2017]相比，我们的直接分析也导致了更严格的界限，并显示了命中时间对不同因素的显式依赖性，包括维数，平滑度，噪声强度和步长效应。在适当的条件下，我们证明了SGLD到一阶稳定点的击中时间可以是维数无关的。此外，我们应用我们的分析研究机器学习中的几个重要的在线估计问题，包括线性回归，矩阵分解，和在线PCA。
2020-03-15 cs.LG stat.ML
A sharp uniform-in-time error estimate for Stochastic Gradient Langevin Dynamics
Shanghai Jiao Tong University（上海交通大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本研究针对采样算法SGLD，在温和假设下推导得到其迭代与朗之万扩散间KL散度的O(η²)时间一致误差界，进一步得到不变测度距离的O(η)界，显著优于现有分析结果。
2025-03-19 cs.LG math.PR stat.ML
Discrete Langevin Sampler via Wasserstein Gradient Flow
Georgia Tech（佐治亚理工学院）；Google Research（谷歌研究院）；University of Alberta（阿尔伯塔大学）
已知连续空间的基于梯度的MCMC采样器，例如朗之万蒙特卡罗（LMC），可以导出为梯度流的粒子版本，其最小化Wasserstein流形上的KL发散。这种采样器的优越效率激发了最近几次尝试将LMC推广到离散空间。然而，朗之万动力学的一个完整的原则性扩展到离散空间尚未实现，由于缺乏定义良好的梯度在样本空间。在这项工作中，我们展示了如何Wasserstein梯度流可以自然地推广到离散空间。鉴于所提出的配方，我们演示了如何离散模拟朗之万动力学可以随后开发。有了这个新的理解，我们揭示了最近的基于梯度的采样器在离散空间中可以通过选择特定的离散化作为特殊情况。更重要的是，该框架还允许推导新的算法，其中之一，\textit{Discrete Langevin Monte Carlo}（DLMC），是通过一个因式分解的估计的过渡矩阵。DLMC方法允许一个方便的并行实现和时间均匀采样，实现更大的跳跃距离。我们证明了DLMC在各种二进制和分类分布上的优势。
2023-02-22 cs.LG
Subsampling Error in Stochastic Gradient Langevin Diffusions
Princeton University（普林斯顿大学）；Delft University of Technology（代尔夫特理工大学）；University of Manchester（曼彻斯特大学）
针对SGLD中数据子采样引入的误差，本文提出连续时间马尔可夫过程SGLDiff以分析纯子采样误差，证明其指数遍历性并给出后验与极限分布间Wasserstein距离的上界。
2024-04-26 cs.LG stat.CO stat.ML
Langevin Dynamics for Adaptive Inverse Reinforcement Learning of Stochastic Gradient Algorithms
Cornell University（康奈尔大学）；University of Connecticut（康涅狄格大学）
逆强化学习（IRL）旨在通过观察优化代理的响应（估计或动作）来估计优化代理的奖励函数。本文考虑IRL时，观察到多个随机梯度代理产生的奖励函数的梯度的噪声估计。我们提出了一个广义的Langevin动力学算法来估计奖励函数$R(θ)$，具体地说，由此产生的Langevin算法渐近生成样本的分布成比例的$\exp(R(θ))$。建议的IRL算法使用基于内核的被动学习计划。我们还构造了适用于高维数据的IRL的多核被动Langevin算法。所提出的IRL算法的性能示出的例子在自适应贝叶斯学习，逻辑回归（高维问题）和约束马尔可夫决策过程。我们证明了弱收敛的IRL算法使用鞅平均方法。我们还分析了IRL算法在非平稳环境中的跟踪性能，其中效用函数$R(θ)$跳跃随着时间的推移而变化，作为一个缓慢的马尔可夫链。
2021-01-18 cs.LG cs.SY eess.SY
Learning non-stationary Langevin dynamics from stochastic observations of latent trajectories
Cold Spring Harbor Laboratory（冷泉港实验室）；University of Michigan（密歇根大学）
许多复杂的系统在远离平衡点的情况下运行，表现出可以用朗之万方程描述的随机动力学。从数据中推断朗之万方程可以揭示这些系统的瞬态动力学如何产生它们的功能。然而，动态通常无法直接访问，只能通过随机观察过程收集，这使得推理具有挑战性。在这里，我们提出了一个非参数的框架推断的朗之万方程，明确建模的随机观测过程和非平稳的潜在动力学。该框架考虑了观测系统的非平衡初始和最终状态，以及系统动态定义观测持续时间的可能性。忽略这些非平稳分量中的任何一个都会导致不正确的推断，其中由于非平稳数据分布而在动态中出现错误的特征。我们说明了框架使用模型的神经动力学决策在大脑中。
2020-12-29 cond-mat.stat-mech cs.LG physics.bio-ph
Stochastic Gradient Langevin Dynamics with Variance Reduction
Michigan State University（密歇根州立大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本文研究带方差缩减的随机梯度朗之万动力学，证明其对非凸目标局部极小值的改进收敛性及遍历性，揭示其寻找全局极小值的潜力。
2021-02-12 cs.LG math.OC
Decentralized Proximal Stochastic Gradient Langevin Dynamics
本文提出去中心化近端随机梯度兰格朗日动力学算法，用于在凸域内采样对数凹概率分布。通过共享的近端正则化约束，保证更新一致性。算法在2-瓦瑟斯坦距离下具有非渐近收敛性，并在合成和真实数据集上验证了其有效性。
2026-05-01 cs.LG math.PR stat.ML
CoolMomentum: A Method for Stochastic Optimization by Langevin Dynamics with Simulated Annealing
National Science Center "Kharkiv Institute of Physics and Technology"（哈尔科夫物理技术研究所国家科学中心）；Università della Svizzera italiana（瑞士意大利语区大学）
深度学习应用需要对非凸目标函数进行全局优化，这些目标函数具有多个局部最小值。同样的问题经常在物理模拟中发现，并且可以通过具有模拟退火的朗之万动力学方法来解决，这是一种用于最小化多粒子势的成熟方法。这种类比为机器学习中的非凸随机最优化提供了有用的见解。在这里，我们发现，积分的离散朗之万方程给出了一个坐标更新规则相当于著名的动量优化算法。作为一个主要的结果，我们表明，逐步减少的动量系数从初始值接近1，直到零相当于模拟退火或缓慢冷却，在物理方面。利用这种新的方法，我们提出了CoolMomentum --一种新的随机最优化方法。将Coolmomentum应用于Cifar-10数据集上的Resnet-20和Imagenet上的Efficientnet-B 0的优化，我们证明了它能够实现高精度。
2021-05-21 cs.LG stat.CO stat.ML
Primal Dual Interpretation of the Proximal Stochastic Gradient Langevin Algorithm
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
我们考虑对数凹概率分布的抽样任务。假设目标分布的势是复合的，\textit{i.e.}，写为光滑凸项和可能取无穷大值的非光滑凸项的和。目标分布可以被看作是在Wasserstein空间（\textit{i.e.}，概率测度的空间）上定义的库尔贝克-莱布勒散度的最小化。在本文的第一部分中，我们建立了这个极小化问题的一个强对偶结果。在本文的第二部分中，我们利用第一部分中提出的对偶间隙来研究近似随机梯度Langevin算法（PSGLA）的复杂性，PSGLA可以看作是投影Langevin算法的推广。我们的方法依赖于将PSGLA视为原始对偶算法，并涵盖了许多目标分布不完全支持的情况。特别是，我们表明，如果潜在的是强凸的，PSGLA的复杂性是$O(1/\varepsilon^2)$的2-瓦瑟斯坦距离。相比之下，投影朗之万算法的复杂性是$O(1/\varepsilon^{12})$的总变分时，潜在的凸。
2021-02-22 cs.LG math.OC stat.ML
Stochastic Gradient Hamiltonian Monte Carlo with Variance Reduction for Bayesian Inference
Tsinghua University（清华大学）
基于随机性的Monte Carlo抽样算法，如Langevin动力学和Hamilton Monte Carlo，是贝叶斯推理的重要方法。在大规模环境中，全梯度是负担不起的，因此在小批量上评估的随机梯度被用作替代。为了降低噪声随机梯度的高方差，Dubey等人[2016]将标准方差降低技术应用于随机梯度Langevin动力学，并获得了理论和实验上的改进。在本文中，我们将方差缩减技巧应用于哈密顿蒙特卡罗，并取得了更好的理论收敛结果相比，方差缩减的朗之万动力学。此外，我们将对称分裂格式应用到方差缩减的哈密顿蒙特卡罗算法中，进一步改进了理论结果。实验结果也与理论结果一致。正如我们的实验所示，在真实世界数据集上的贝叶斯回归和分类任务中，方差缩减的哈密顿蒙特卡罗比方差缩减的朗之万动力学表现出更好的性能。
2019-06-21 cs.DS cs.LG stat.ML
Variance Reduction for Stochastic Gradient Generalized Non-reversible Langevin Monte Carlo Algorithms
FinTech Thrust, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）金融科技方向）；School of Mathematical Science, Fudan University（复旦大学数学学院）；Department of Mathematics, Florida State University（佛罗里达州立大学数学系）
研究随机梯度欧拉-丸山估计器在广义非可逆朗之万动力学中的前导阶波动，证明在消失步长下中心极限定理，并给出非对称扰动严格降低波动常数的充分条件。
2026-06-27 cs.LG math.PR stat.ML
Neural Langevin Dynamics: towards interpretable Neural Stochastic Differential Equations
神经随机微分方程（NNDs）已被训练为变分自编码器和GANs。然而，由于漂移和扩散场的一般性质，所产生的随机微分方程可能难以解释或分析。通过限制我们的NSDES的形式的朗之万动力学，并训练它作为一个VAE，我们获得NSDES，借给自己更精细的分析和更广泛的可视化技术比一个通用的NSDES。更具体地说，我们得到的能量景观，其中的最小值是在一对一的对应关系与潜在的状态下使用的数据。这不仅使我们能够以无监督的方式检测数据动态的状态，而且还可以根据学习的时间来推断每个状态所花费的时间分布。更一般地说，将Nynomial限制为Langevin动力学使得能够使用来自计算分子动力学的大量工具来分析所获得的结果。
2022-11-17 cs.LG
Constrained Exploration via Reflected Replica Exchange Stochastic Gradient Langevin Dynamics
Purdue University（普渡大学）；Vanderbilt University（范德堡大学）；Florida State University（佛罗里达州立大学）；Morgan Stanley（摩根士丹利）
针对reSGLD在非凸学习中高温链深入分布尾部导致的停滞问题，提出r2SGLD算法，通过有界域内反射步骤实现受限探索，理论上提升混合速率，实验验证了其提高模拟效率的关键作用。
2024-06-03 cs.AI cs.LG stat.ML
Can Stochastic Gradient Langevin Dynamics Provide Differential Privacy for Deep Learning?
University of Bar-Ilan（巴伊兰大学）
贝叶斯学习通过随机梯度朗之万动力学（SGLD）已被建议用于差分私人学习。虽然以前的研究提供了差分隐私边界SGLD在算法的初始步骤或接近收敛时，之间的差分隐私保证的问题仍然没有答案。这个过渡区域非常重要，特别是对于贝叶斯神经网络，因为它很难保证收敛到后验。本文表明，使用SGLD可能会导致这个过渡区域的无限隐私损失，即使从后验采样是所需的差异隐私。
2023-02-05 cs.CR cs.LG
Functional Central Limit Theorem and Strong Law of Large Numbers for Stochastic Gradient Langevin Dynamics
本文研究了固定步长SGLD在非独立数据流下的混合性质，将其建模为随机环境中的马尔可夫链，并为其推导了强大数定律和泛函中心极限定理。
2023-07-29 cs.LG math.OC math.PR
Langevin Unlearning: A New Perspective of Noisy Gradient Descent for Machine Unlearning
Department of Electrical and Computer Engineering（电气与计算机工程系）；Georgia Institute of Technology（佐治亚理工学院）；Department of Mathematics（数学系）；Massachusetts Institute of Technology（麻省理工学院）
针对机器遗忘，提出基于噪声梯度下降的 Langevin 遗忘框架，统一 DP 学习与隐私认证遗忘，支持非凸问题、节省复杂度并实现顺序和批量遗忘。
2025-09-24 cs.LG
Enhanced SMC$^2$: Leveraging Gradient Information from Differentiable Particle Filters Within Langevin Proposals
University of Liverpool（利物浦大学）
本研究提出在SMC$^2$的Langevin提议中利用CRN-PF的一阶梯度信息，有效解决了高维参数空间下随机游走提议的挑战，提高了参数估计准确性和有效样本量，并通过MPI并行化实现了51倍加速。
2024-07-24 cs.LG stat.AP stat.ML
