Ergodicity and asymptotic limits for Langevin interacting systems with singular forces and multiplicative noises
School of Mathematics, University of Birmingham（伯明翰大学数学学院）；Department of Mathematics, University of Tennessee（田纳西大学数学系）
本文研究了具有奇异力和乘法噪声的兰格vin相互作用系统，证明了经典和相对论模型的遍历性，并分析了其渐进行为及极限情况。
2026-02-26 math-ph math.DS math.MP
On the stability of the stochastic gradient Langevin algorithm with dependent data stream
我们证明，在温和的条件下，随机梯度朗之万动力学收敛到一个限制法律的时间趋于无穷大，即使在驾驶数据序列是依赖的情况下。
2021-05-04 math.OC math.PR math.ST
Symplectic techniques for stochastic differential equations on reductive Lie groups with applications to Langevin diffusions
本文提出在约化李群上利用辛技术显式构造黎曼布朗运动，以研究具有保结构和耗散噪声的随机哈密顿系统背景下的 Langevin 扩散。
2025-09-12 math.PR
Weighted $L^2$-contractivity of Langevin dynamics with singular potentials
在考虑奇异性的位势$U$上，研究了欠阻尼Langevin动力学的平衡收敛性.通过对F. Hérau和Dolbeault，Mouhot和Schmeiser提出的方法，证明了拓扑$L^2(dμ)$和$L^2(W^* dμ)$中的动力学指数快速收敛到平衡点，其中$μ$表示不变概率测度，$W^*$是合适的李雅普诺夫权.在这两个规范中，我们精确的指数收敛速度取决于摩擦参数$γ$在朗之万动力学，通过提供一个下限标度为$\min(γ, γ^{-1})$。这些结果适用于通常的多项式型势以及具有奇异性的势，例如粒子之间的成对Lennard-Jones相互作用所产生的势。
2021-12-10 math-ph math.AP math.MP
Stochastic optimal transport for the Langevin dynamics and its zero-mass limit
Tsuda University（津田塾大学）
本文为Langevin动力学引入随机最优输运，仅固定粒子位置分布，研究零质量极限下极小化子的紧性条件及其与标准随机最优输运的联系。
2026-11-09 math.OC math.PR
A variational characterization of Langevin$\boldsymbol{-}$Smoluchowski diffusions
我们证明了Langevin $-$ Smoluchowski测度在时间反演下是不变的，然后用一种新的熵型准则对漂移进行随机控制。重复应用这些向前向后的步骤导致一系列的随机控制问题，其初始/终端分布收敛到扩散的吉布斯概率测度，其值沿Langevin $-$ Smoluchowski流相对于该吉布斯测度的相对熵减小到零。
2020-11-06 math.PR
Laws of large numbers and Langevin approximations for stochastic neural field equations
在这项研究中，我们考虑神经场的微观随机模型的极限定理。我们表明，威尔逊-考恩方程可以得到的概率在紧凑的一系列微观模型时，分布在空间中的神经元种群的数量和每个人口的神经元的数量趋于无穷大。虽然后一种分歧是不必要的。这一结果还允许获得定性不同的随机收敛概念的限制，例如，平均值的收敛。此外，我们提出了一个中心极限定理的鞅部分的微观模型，适当地重新缩放，收敛到一个中心高斯独立增量过程。这两个结果提供了提出神经场朗之万方程的基础，这是一个在希尔伯特空间取值的随机微分方程，它是化学朗之万方程在本设置中的无限维模拟。在技术层面上，我们应用最近开发的大数定律和中心极限定理分段确定性过程的值在希尔伯特空间的随机神经网络模型的主方程制定。这些定理对于在希尔伯特空间中取值的过程是有效的，并且由此能够将基础模型的空间结构结合起来。
2012-06-27 math.PR
Self-normalized Cramér-type Moderate Deviation of Stochastic Gradient Langevin Dynamics
Newcastle University（纽卡斯尔大学）；Northeastern University at Qinhuangdao（东北大学秦皇岛分校）；University of Essex（埃塞克斯大学）
本文研究了随机梯度Langevin动力学的经验测度的自归一化Cramér型中等偏差，并推导了其Berry-Esseen界，采用Stein方法进行分析。
2024-10-29 math.PR math.ST stat.TH
Functional Central Limit Theorem and Strong Law of Large Numbers for Stochastic Gradient Langevin Dynamics
本文研究了固定步长SGLD在非独立数据流下的混合性质，将其建模为随机环境中的马尔可夫链，并为其推导了强大数定律和泛函中心极限定理。
2023-07-29 cs.LG math.OC math.PR
Lévy Langevin Monte Carlo
与著名的Langevin蒙特卡罗方法类似，本文通过模拟一个随机微分方程的解，提供了一种从目标分布\(π\)采样的方法。因此，随机微分方程由一般的Lévy过程驱动，该Lévy过程-除了Langevin Monte Carlo的情况之外-允许非光滑目标。我们的方法将充分探讨在特定的设置中的目标分布支持的半线\((0,\infty)\)和复合泊松驱动噪声。几个说明性的例子结束了文章。
2023-03-14 math.PR
Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
随机梯度Langevin动力学是解决采样问题和非凸优化问题的最基本算法之一，出现在机器学习的许多应用中。特别是，其方差减少的版本，现在已经获得了特别的关注。在本文中，我们研究这类的两个变种，即随机方差约化梯度Langevin动力学和随机递归梯度Langevin动力学。我们证明了他们的收敛到目标分布的KL-发散光滑性和Log-Sobolev不等式的唯一假设下，这些算法比以前的作品中使用的条件较弱。将批次大小和内环长度设置为$\sqrt{n}$时，实现$ε$精度的梯度复杂度为$\tilde{O}((n+dn^{1/2}ε^{-1})γ^2 L^2α^{-2})$，这是对之前任何分析的改进。我们还展示了我们的结果在非凸优化中的一些重要应用。
2022-11-19 cs.LG math.PR stat.ML
Geometric Langevin equations on submanifolds and applications to the stochastic melt-spinning process of nonwovens and biology
在这篇文章中，我们开发的几何版本的经典朗之万方程的正则子流形在欧几里得空间在一个简单的，自然的方式，并结合它们与一堆应用。方程被表示为流形上的Stratonovich随机微分方程。几何朗之万方程的第一个版本之前已经被Lelièvre，Stoltz和Stoltz用不同的推导方法发现。我们提出了一个额外的扩展模型，几何朗之万方程的速度恒定绝对值。后者似乎是新的，并提供了一个星系的新的，美丽的和强大的数学模型。据作者所知，没有多少数学论文可处理几何朗之万过程。通过证明几何Langevin方程的生成元与Soloveitchik，Jorgensen和Kolokoltsov提出的广义Langevin算子一致，将几何Langevin方程的第一种形式联系起来.我们所有的研究都是由非织造布生产过程中纤维铺放动力学建模的工业应用所激发的。我们照亮了这些模型中发生的几何形状，并显示了与几何朗之万过程的球速度版本的连接。此外，作为一个重点，我们构建了新的光滑的工业相关的三维纤维铺设模型，涉及球形朗之万过程。最后，给出了一类具有栖息力的自推进相互作用粒子系统的关系，并给出了几何Langevin方程的进一步应用。
2012-04-25 math.DG math.PR
On stochastic gradient Langevin dynamics with dependent data streams: the fully non-convex case
我们在Raginsky等人（2017）提出的经验风险最小化和随机最优化的背景下考虑从目标分布（\emph {不一定是对数凹的}）中采样的问题。在$L^1$ -Wasserstein距离中建立了随机梯度Langevin动力学（SGLD）算法的非渐近分析结果。我们允许即使在存在\emph{dependent}数据流的情况下也执行梯度的估计。我们的收敛估计是尖锐的，\emph{uniform}的迭代次数，在以前的研究相比。
2021-02-02 math.PR math.ST stat.ML
Asymptotic analysis for the generalized Langevin equation with singular potentials
本文研究奇异势下广义朗之万方程的多粒子系统，通过Mori-Zwanzig方法转化为马尔可夫动力学，证明其指数收敛于唯一吉布斯不变测度，并验证小质量近似的有效性。
2024-03-13 math-ph math.MP math.PR
A sharp uniform-in-time error estimate for Stochastic Gradient Langevin Dynamics
Shanghai Jiao Tong University（上海交通大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本研究针对采样算法SGLD，在温和假设下推导得到其迭代与朗之万扩散间KL散度的O(η²)时间一致误差界，进一步得到不变测度距离的O(η)界，显著优于现有分析结果。
2025-03-19 cs.LG math.PR stat.ML
Tuning of MCMC with Langevin, Hamiltonian, and other stochastic autoregressive proposals
通过离散化朗之万扩散或哈密顿动力学推导出的Metropolis-Hastings MCMC提案是随机自回归提案的例子，这些提案形成了具有等效可计算性的自然更广泛的提案类别。我们分析大都会黑斯廷斯MCMC与随机自回归建议适用于目标分布是绝对连续的一些高斯分布，以获得预期的接受概率和预期的跳跃大小，以及计算成本的措施，在高维度的限制表达式。因此，我们能够统一现有的分析，这些类的建议，并扩展的理论结果，提供有用的指导方针，调整的建议，最佳的计算效率。对于简化的Langevin算法，我们发现，它是最佳的，以采取至少三个步骤的建议之前的Metropolis-Hastings接受-拒绝步骤，和汉密尔顿/混合蒙特卡罗，我们提供了新的指导方针的最佳数量的集成步骤和标准选择最佳的质量矩阵。
2016-10-03 math.PR stat.CO
Cayley Splitting for Second-Order Langevin Stochastic Partial Differential Equations
本文提出准确且 ergodic 的数值方法用于半线性二阶 Langevin 随机偏微分方程，同时为无限维哈密顿量对应物提供良好的几何数值方法，适用于 Hilbert 空间上的 Hamiltonian Monte Carlo 没有预处理。
2017-07-18 cs.NA math.NA math.PR
Projected Stochastic Gradient Langevin Algorithms for Constrained Sampling and Non-Convex Learning
Langevin算法是具有加性噪声的梯度下降方法。它们已经在马尔可夫链蒙特卡罗（MCMC）采样，优化和学习中使用了几十年。它们在无约束非凸优化和学习问题中的收敛性在过去几年中得到了广泛的研究。其他工作研究了投影Langevin算法的抽样从对数凹分布限制凸紧集。对于学习和优化，对数凹分布对应于凸损失。在本文中，我们分析了非凸损失的情况下，紧凸约束集和IID外部数据变量。我们将此方法称为投影随机梯度Langevin算法（PSGLA）。我们表明，该算法实现了$O(T^{-1/4}(\log T)^{1/2})$从其目标分布在1-Wasserstein距离的偏差。对于优化和学习，我们表明，该算法实现$ε$ -次优的解决方案，平均而言，只要它运行的时间是多项式在$ε^{-1}$和稍微超指数的问题维度。
2020-12-22 cs.LG math.OC math.PR
Random Reshuffling for Stochastic Gradient Langevin Dynamics
Universitat Jaume I（豪梅一世大学）
本文提出通过随机重排策略改进随机梯度 Langevin 动力学算法的性能，通过理论和实验证明其在采样任务中的有效性。
2025-12-14 cs.NA math.NA math.PR
Sampling via Stochastic Interpolants by Langevin-based Velocity and Initialization Estimation in Flow ODEs
本文提出了一种基于Langevin采样器和概率流ODE的方法，用于高效采样复杂分布并提升贝叶斯推断性能。
2026-08-10 cs.LG cs.NA math.NA
Lévy Langevin Monte Carlo for sampling from heavy-tailed target distributions
Technische Universität Dresden（德累斯顿工业大学）
研究如何从重尾目标分布采样，扩展Lévy朗之万蒙特卡罗方法，利用由复合泊松过程驱动的随机微分方程，可从非光滑目标和分离模式分布中采样，指数收敛到不变分布，且因复合泊松噪声项易于实现。
2026-07-14 math.PR
Mean Field Limits for Stochastic, Underdamped Reactive Langevin Dynamics Models
本文严格推导了基于粒子的反应朗之万动力学模型在大种群下的有效平均场动力学，证明了位置-速度相空间上的测度值随机过程收敛到确定性平均场极限，得到了一类新的非局部动力学反应扩散偏积分微分方程组。
2026-06-02 math-ph math.MP math.PR
Theoretical guarantees for stochastic gradient Langevin dynamics
College of Computing and Data Science Nanyang Technological University（南洋理工大学计算与数据科学学院）；Department of Statistics University of Warwick（华威大学统计学系）
本文证明随机梯度Langevin动力学在Wasserstein距离下的渐近偏差界，强凸与Lipschitz条件下，四阶矩得$h$阶界，二阶矩仅得$h^{1/2}$阶，并指出二阶矩不足以保证均匀$h$阶界。
2026-10-02 cs.NA math.NA math.PR
Martingale drift of Langevin dynamics and classical canonical spin statistics
本文研究Langevin动力学中平均漂移构成鞅时的结构，证明其振幅为Langevin函数，且长时间渐近统计对应经典Heisenberg自旋系综。
2023-08-06 cond-mat.stat-mech math.PR
Numerical computation of effective thermal equilibrium in Stochastically Switching Langevin Systems
本文针对力按连续时间马尔可夫链切换的过阻尼朗之万系统推导准势以刻画有效热平衡，并结合弦方法计算最概然转变路径，通过算法改进克服新出现的数值挑战并验证了准势垒与蒙特卡洛转变时间的一致性。
2021-09-16 cond-mat.stat-mech math.PR
Exact Small Time Equivalent for the density of the Circular Langevin Diffusion
一个小的时间等效的密度得到的圆形模拟的朗之万扩散，这是严格的亚椭圆（和非高斯），因此不同的性质作为已知的子黎曼的情况下。奇异的情况下，类似的情况下，共轭点（切轨迹问题）在次黎曼框架，是完全处理过，虽然更困难。
2015-10-14 math.PR
Gamma calculus beyond Villani and explicit convergence estimates for Langevin dynamics with singular potentials
研究了二阶Langevin动力系统在势函数上一般增长条件下的平衡收敛性。虽然我们的动机主要是由情况下，当潜在的是奇异的，例如，当动力学有排斥力和/或相互作用，本文提出的结果持有更普遍。特别是，我们的主要结果是，给定（非常）基本的结构和增长条件的潜力，动力学松弛到平衡指数快速明确可测量的方式。这个结果的"明确性”直接来自于生长条件中出现的常数，这些常数都可以很容易地估计出来，以及不变测度$μ$的局部庞加莱常数。这个结果被应用到一个奇异的相互作用和多项式限制的具体情况下，以及提供显式估计的指数收敛速度$e^{-σ}$的数量$N \geqslant 1$的粒子在系统中。我们将看到$σ\geqslant c/(ρ\vee N^p)$，其中$ρ>0$是$μ$的局部庞加莱常数，而$c>0, p\geqslant 1$是独立于$N$的常数。
2021-06-09 math-ph math.MP math.PR
Non-convex learning via Stochastic Gradient Langevin Dynamics: a nonasymptotic analysis
University of Illinois（伊利诺伊大学）；University of Pennsylvania（宾夕法尼亚大学）；Simons Institute（西蒙斯研究所）
随机梯度朗之万动力学（SGLD）是随机梯度下降的一个流行变体，其中适当缩放的各向同性高斯噪声被添加到每次迭代的梯度的无偏估计中。这种适度的变化允许SGLD逃避局部极小值，并足以保证渐近收敛到足够规则的非凸目标的全局极小值（Gelfand和Mitter，1991）。目前的工作提供了一个非渐近分析的背景下，非凸学习问题，给有限的时间保证SGLD找到近似最小的经验和人口的风险。在渐近设置中，我们的分析将离散时间SGLD马尔可夫链与连续时间扩散过程联系起来。一个新的工具，驱动的结果是使用加权运输成本不等式，以量化的收敛速度的SGLD到一个平稳的分布在欧几里德$2$ -Wasserstein距离。
2017-06-04 cs.LG math.OC math.PR
Decentralized Proximal Stochastic Gradient Langevin Dynamics
本文提出去中心化近端随机梯度兰格朗日动力学算法，用于在凸域内采样对数凹概率分布。通过共享的近端正则化约束，保证更新一致性。算法在2-瓦瑟斯坦距离下具有非渐近收敛性，并在合成和真实数据集上验证了其有效性。
2026-05-01 cs.LG math.PR stat.ML
On stochastic gradient Langevin dynamics with dependent data streams in the logconcave case
我们研究了从概率分布$π$上$\rset^d$的采样问题，$π$具有密度\wrt \Lebesgue测量已知的归一化因子$x \mapsto \rme^{-U(x)} / \int_{\rset^d} \rme^{-U(y)} \rmd y$。在假定位势$U$连续可微、$\nabla U$为Lipschitz、$U$为强凹的条件下，分析了基于Langevin随机微分方程Euler离散的采样方法.我们专注于的情况下，对数密度的梯度不能直接计算，但无偏估计的梯度从可能依赖的观察。这种设置可以被看作是一个组合的随机逼近（这里随机梯度）型算法与离散朗之万动力学。我们得到的Wasserstein-2距离的上界之间的法律的迭代算法和目标分布$π$与常数显式依赖于Lipschitz和强凸常数的潜力和空间的维数。最后，在对$U$及其梯度较弱的假设下，但在独立观测存在的情况下，我们得到了Wasserstein-2距离的类似结果.
2019-09-15 math.PR math.ST stat.ML
Statistical Error of Numerical Integrators for Underdamped Langevin Dynamics with Deterministic And Stochastic Gradients
提出基于离散 Poisson 方程的统计误差分析框架，刻画确定性及随机梯度欠阻尼 Langevin 数值积分器在有限迭代下的均方误差阶数，并放宽时间步长约束。
2024-05-11 cs.NA math.NA math.PR
Convergence of Reflected Langevin Diffusion for Constrained Sampling
本文研究了反射拉格朗日扩散在约束采样中的收敛性，通过惩罚随机微分方程和时间离散化方案，证明了其在Wasserstein-2距离下的收敛性及多项式速率。
2026-01-21 math.PR math.ST stat.TH
Nonasymptotic estimates for Stochastic Gradient Langevin Dynamics under local conditions in nonconvex optimization
Nanyang Technological University（南洋理工大学）；Imperial College London（伦敦帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）；The University of Warwick（华威大学）；The University of Edinburgh（爱丁堡大学）；National Technical University of Athens（雅典国立技术大学）
本文研究了非凸优化问题中抽样算法的非渐近性。特别是，我们获得非渐近估计Wasserstein-1和Wasserstein-2距离的一类流行的算法称为随机梯度Langevin动力学（SGLD）。此外，上述Wasserstein-2收敛结果可以应用于建立预期超额风险的非渐近误差界。最重要的是，这些结果是在局部利普希茨条件和局部耗散性条件下得到的，在该条件下，我们去除了数据流中的一致依赖性。我们通过变分推理和指数跟踪优化的例子说明了这种放松的重要性。
2022-10-14 cs.LG math.PR math.ST
Taming neural networks with TUSLA: Non-convex learning via adaptive stochastic gradient Langevin algorithms
Alfréd Rényi Institute of Mathematics（阿尔弗雷德·雷尼数学研究所）；The University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）；National Technical University of Athens（雅典国立技术大学）
人工神经网络（ANN）通常是高度非线性的系统，其经由其相关联的非凸损失函数的优化而被精细地调谐。在许多情况下，任何这样的损失函数的梯度具有超线性增长，使得基于欧拉数值方案的广泛接受的（随机）梯度下降方法的使用成为问题。我们提供了一个新的学习算法的基础上适当构造的流行的随机梯度Langevin动力学（SGLD），这是所谓的驯服的未调整的随机Langevin算法（TUSLA）的变体。我们还提供了一个非渐近分析的新算法的收敛特性的背景下，非凸学习问题的使用人工神经网络。因此，我们提供有限的时间保证TUSLA找到经验和人口风险的近似最小化。TUSLA算法的根源是基于\citet{tamed-euler, SabanisAoAP}中开发的超线性系数扩散过程的驯服技术和\citet{tula}中的MCMC算法。数值实验证实了理论研究结果，并说明需要使用的新算法相比，香草SGLD的框架内的人工神经网络。
2023-01-15 cs.LG math.OC math.PR
Convergence in Density of Splitting AVF Scheme for Stochastic Langevin Equation
本文研究随机Langevin方程分裂AVF格式数值解的密度函数，证明其存在性与光滑性，并利用Malliavin微积分得出密度收敛阶等于最优强收敛阶。
2019-06-08 cs.NA math.NA math.PR
Kinetic energy of the Langevin particle
我们使用不同的方法计算朗之万粒子的动能。我们建立随机微分方程，描述这个物理量的基础上伊藤和Stratonovich随机积分。它表明，伊藤方程具有唯一的解决方案，而Stratonovich一个拥有无穷多个，但都缺乏物理意义。我们将讨论这一事实如何与现有的讨论伊藤与斯特拉托诺维奇的困境和对斯特拉托诺维奇的解释在物理文献中的明显偏好相匹配。
2020-12-07 cond-mat.stat-mech math-ph math.MP
Analysis of kinetic Langevin Monte Carlo under the stochastic exponential Euler discretization from underdamped all the way to overdamped
University of Pennsylvania（宾夕法尼亚大学）；Centre Borelli, ENS Paris-Saclay（巴黎萨克雷高等师范学校博尔利中心）；Prescient Design, Genentech（罗氏基因泰克公司先锋设计部门）；CMAP, CNRS, École Polytechnique（法国国家科学研究中心综合理工学院数学与应用数学中心）
本文研究了基于随机指数欧拉离散化的动能朗之万蒙特卡洛方法，分析了在不同参数选择下算法的稳定性与收敛性，得出了在过阻尼情况下算法仍能稳定运行的结论。
2026-07-21 cs.NA math.NA math.PR
Fisher information dissipation for time inhomogeneous stochastic differential equations
Florida State University（佛罗里达州立大学）；University of California, Los Angeles（加州大学洛杉矶分校）；University of South Carolina（南卡罗来纳大学）
该研究针对时间非齐次变系数随机微分方程开展Lyapunov收敛分析，通过修正梯度流表述、选取时间依赖相对Fisher信息泛函并提出Hessian矩阵条件，证明了三类典型Langevin动力学的收敛性并通过数值算例验证。
2024-02-01 cs.LG math.PR stat.ML
A new class of splitting methods that preserve ergodicity and exponential integrability for stochastic Langevin equation
针对随机 Langevin 方程，本文通过提取严格耗散随机子系统构造新型分裂方法，证明其保持遍历性、指数可积性及强弱一阶收敛，并展示其向共形辛和高阶格式的推广。
2024-10-28 cs.NA math.NA math.PR
Deterministic Denominator Design for Localized Tamed Stochastic Gradient Langevin Dynamics
School of Mathematics and Statistics, Yunnan University（云南大学数学与统计学院）
针对驯化随机梯度朗之万动力学中分母设计问题，提出基于代理分数和分位数的确定性分母方法，避免随机分母的均值偏移，实验表明其性能接近理想情况。
2026-07-07 math.PR stat.ME stat.ML
Variance Reduction for Stochastic Gradient Generalized Non-reversible Langevin Monte Carlo Algorithms
FinTech Thrust, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）金融科技方向）；School of Mathematical Science, Fudan University（复旦大学数学学院）；Department of Mathematics, Florida State University（佛罗里达州立大学数学系）
研究随机梯度欧拉-丸山估计器在广义非可逆朗之万动力学中的前导阶波动，证明在消失步长下中心极限定理，并给出非对称扰动严格降低波动常数的充分条件。
2026-06-27 cs.LG math.PR stat.ML
Stochastic Langevin Monte Carlo for (weakly) log-concave posterior distributions
ISAE-SUPAERO, Université de Toulouse（图卢兹大学ISAE-高等航空与空间学院）；Toulouse School of Economics (CNRS UMR 5314), Université Toulouse I Capitole（图卢兹第一大学图卢兹经济学院（法国国家科学研究中心 UMR 5314））；Institut Universitaire de France（法国大学研究院）
在本文中，我们研究了一个连续时间版本的随机Langevin蒙特卡罗方法，在[WT 11]中介绍，其中包括一个随机采样步骤内的传统过阻尼Langevin扩散。该方法是机器学习中常用的后验分布采样方法。在我们的工作中，我们将特别关注$n$（产生后验分布的观测数）和$d$（感兴趣的参数存在的环境空间的维数）方面的计算成本。我们推导出我们的分析弱凸框架，这是参数化的帮助下的Kurdyka-Eschojasiewicz（KL）不等式，允许处理消失的曲率设置，这是远远没有那么严格相比，简单的强凸的情况下。我们建立的模拟，以获得一个$\varepsilon$近似（在熵方面）的最后地平线是顺序$( d \log(n)^2 )^{(1+r)^2} [\log^2(\varepsilon^{-1}) + n^2 d^{2(1+r)} \log^{4(1+r)}(n) ]$与泊松亚采样参数$\left(n ( d \log^2(n))^{1+r}\right)^{-1}$，其中参数$r$涉及KL不等式和$0$（强凸的情况下）和$1$（限制拉普拉斯情况）之间变化。
2023-01-08 cs.LG math.PR stat.CO
Error estimates between SGD with momentum and underdamped Langevin diffusion
Laboratoire de Mathematiques Blaise Pascal, CNRS-UMR 6620, Universite Clermont-Auvergne（克莱蒙奥弗涅大学）；University of Macau（澳门大学）；UM Zhuhai Research Institute（澳门大学珠海研究院）；School of Mathematical Sciences, Peking University（北京大学数学科学学院）；Beijing International Center for Mathematical Research (BICMR), Peking University（北京大学北京国际数学研究中心）
针对带动量的 SGD 与欠阻尼 Langevin 扩散的关系，本文在 1-Wasserstein 和全变差距离下建立了二者的定量误差估计。
2024-10-22 cs.LG math.PR stat.ML
Rules of calculus in the path integral representation of white noise Langevin equations: the Onsager-Machlup approach
具有乘性白噪声的朗之万方程的定义和操作需要特别注意（必须指定时间离散化，并且必须使用随机链规则来执行变量的变化）。虽然可以安全地对朗之万方程进行离散方案变换和变量的非线性变化，但这些相同的变换会导致其路径积分表示的不一致。我们确定他们的起源，我们展示了如何扩展著名的伊藤处方（$dB^2=dt$）的方式，定义了一个修改后的随机演算内使用的过程的路径积分表示，在其Onsager-Machlup形式。
2017-06-29 cond-mat.stat-mech math-ph math.MP
Langevin dynamics based algorithm e-TH$\varepsilon$O POULA for stochastic optimization problems with discontinuous stochastic gradient
UNIST（蔚山科学技术院）；Nanyang Technological University（南洋理工大学）；The University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（阿兰·图灵研究所）；National Technical University of Athens（雅典国家技术大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出基于Langevin动力学的e-TH$\varepsilon$O POULA算法，用于求解具有不连续随机梯度的优化问题，建立了非渐近误差界和期望超额风险估计，并在金融保险领域的三个应用中验证了其优于SGLD、TUSLA、ADAM和AMSGrad的性能。
2024-06-30 cs.LG cs.NA math.NA
