Convergence Analysis of the Upwind Difference Methods for Hamilton-Jacobi-Bellman Equations
Toyota Central R&D Labs., Inc.(丰田中央研究所);Graduate School of Mathematical Sciences, The University of Tokyo(东京大学大学院数理科学研究科)
本文分析了Hamilton-Jacobi-Bellman方程迎风差分方法的收敛性,证明了数值解以一阶时间步长收敛,并探讨了最优控制输入的收敛性,通过实验验证了理论结果。
2026-02-04 cs.NA math.AP math.NA
On finite-difference approximations for normalized Bellman equations
针对含最优停止的随机最优控制问题,采用Krylov方法研究归一化Bellman方程的数值解,并估计最优报酬函数的有限差分逼近收敛速度。
2014-12-17 cs.NA math.NA math.OC
Finite Element Approximation of Hamilton-Jacobi-Bellman equations with nonlinear mixed boundary conditions
我们证明了单调P1有限元法在非结构网格上对具有混合边界条件的各向同性抛物型Hamilton-Jacobi-Bellman方程的黏性解和可能退化的扩散的强一致收敛性。边界算子通常在面边界和类型变化上是不连续的。罗宾型边界条件通过一个较低的Dini导数离散。在时间上Bellman方程近似通过IMEX计划。通过霍华德算法可以得到数值解的存在性和唯一性。关键词:有限元法,Hamilton-Jacobi-Bellman方程,混合边界条件,完全非线性方程,黏性解
2021-05-20 cs.NA math.NA math.OC
A convergence theorem for Crandall-Lions viscosity solutions to path-dependent Hamilton-Jacobi-Bellman PDEs
本文针对路径依赖Hamilton-Jacobi-Bellman偏微分方程,建立了Crandall-Lions粘性解的收敛定理,其证明依赖于新的动态次线性期望收敛定理和粘性解的值函数随机表示。
2023-04-18 math.AP math.OC math.PR
Hamilton-Jacobi-Bellman Equation for Control Systems with Friction
本文提出了一种新的框架来建模控制系统,其中的动态摩擦发生。该模型包含一个控制微分包含,其右端为不连续的,对于每个给定的输入函数$u(t)$,该包含仍然保持解的存在性和唯一性.在一般的假设下,我们能够导出相应的自由时间最优控制问题的Hamilton-Jacobi-Bellman方程,并将其值函数表示为唯一的局部Lipschitz连续的黏性解.
2020-12-01 math.DS math.OC
A Semi-Lagrangian scheme for Hamilton-Jacobi-Bellman equations with Dirichlet boundary conditions
针对有界域内带Dirichlet边界条件的HJB方程,提出一种在非结构化网格上、近边界特殊处理的半拉格朗日格式,保证单调性与相容性,并证明其收敛性,含退化与一阶情形。
2025-03-26 cs.NA math.NA math.OC
Policy iteration for Hamilton-Jacobi-Bellman equations with control constraints
策略迭代是求解Hamilton Jacobi Bellman(HJB)方程的一种广泛使用的技术,它源于非线性最优反馈控制理论。在无约束条件下,其收敛性分析引起了人们的广泛关注。在这里,我们分析的情况下,控制约束的HJB方程中出现的确定性和随机控制的情况下。每步迭代中的线性方程采用隐式迎风格式求解。数值例子进行求解HJB方程的控制约束和比较显示与无约束的情况。
2020-05-18 cs.NA math.NA math.OC
Global Sobolev Convergence of Howard Iteration for Finite-Horizon Controlled Diffusions
Nankai University(南开大学)
本文证明带受控扩散的抛物型Bellman方程在一般条件下Howard策略迭代的全局Sobolev收敛,并推广至多维及熵正则化模型,关键是通过残差测度收敛构造唯一强解。
2026-10-21 math.AP math.OC
On nouniqueness of solutions of Hamilton-Jacobi-Bellman equations
给出了具有奇正则哈密顿量的Hamilton-Jacobi-Bellman(HJB)方程Cauchy问题的一个非唯一解的例子。哈密顿量H(t,x,p)是关于所有变量的局部Lipschitz连续的,在p中是凸的,并且关于p和x线性增长。HJB方程有两个不同的下连续解,且具有相同的最终条件,其中一个解是相应Bolza问题的值函数。下连续解的定义是由Barron-Jensen(1990)和Frankowska(1993)提出的。通过算例分析和比较了HJB方程的一些唯一性结果中的假设条件。
2021-08-15 math.OC
Tensor Decomposition Methods for High-dimensional Hamilton-Jacobi-Bellman Equations
本文提出了一种张量分解方法,用于求解非线性动力学最优反馈控制中的高维完全非线性Hamilton-Jacobi-Bellman方程。该方法结合了张量训练近似值函数与牛顿样的迭代法的解决方案所产生的非线性系统。张量近似导致关于维度的多项式缩放,部分地规避了维度灾难。线性二次的情况下的收敛性分析。对于非线性动力学,在Allen-Cahn和Fokker-Planck方程的最优反馈镇定问题中,验证了高维控制综合方法的有效性.
2021-03-15 cs.NA math.NA math.OC
Weak epigraphical solutions to Hamilton-Jacobi-Bellman equations on infinite horizon
本文对一类在无穷远处为零的下连续函数,给出了无穷水平上Hamilton-Jacobi-Bellman(HJB)方程弱epigraphic解的唯一性结果。具有时间可测数据和纤维凸的HJB方程的弱epigraphic解在经典意义下是黏性解,只要它们是局部Lipschitz连续的.本文将局部绝对连续管的概念推广到具有局部有界变差的连续上图的集值映射。这一新的概念适合于缺乏统一的下界的Fenchel变换的哈密尔顿关于纤维。可控性假设被认为是。
2022-08-18 math.AP math.OC
Regularity Properties of Viscosity Solutions of Integro-Partial Differential Equations of Hamilton-Jacobi-Bellman Type
研究了具有终端条件的Hamilton-Jocobi-Bellman型积分-偏微分方程的正则性,该方程可以通过一个由前向和后向随机微分方程组成的随机控制系统来解释,前向和后向随机微分方程都由布朗运动和补偿Poisson随机测度驱动.更精确地说,我们证明,在适当的假设下,这样的方程的黏性解是联合Lipschitz和联合Lipschitz洞穴$(t,x)\inΔ\times\R^d$,所有紧凑的时间间隔$Δ$不包括终端时间。我们的方法是基于时变的布朗运动和库利克变换的泊松随机措施。
2011-10-07 math.AP math.OC math.PR
Representation of Weak Solutions of Convex Hamilton-Jacobi-Bellman Equations on Infinite Horizon
本文给出了一类发展Hamilton-Jacobi-Bellman方程在无穷水平上的弱解的一个表示结果,其中Hamiltonian在时间上是可测的,且是纤维凸的.这样的哈密顿与一个忠实的表示,即涉及两个功能可测量的时间和当地Lipschitz的状态和控制。我们的研究结果涉及恢复的表示凸哈密顿下放松假设的Fenchel变换的哈密顿相对于纤维。应用它们研究了一类含时Hamilton-Jacobi-Bellman方程在无穷远处消失的弱解的唯一性。假设上述Fenchel变换域上的生存条件,这些弱解被视为状态约束下的无限时域控制问题的适当值函数。
2022-08-18 math.OC
Policy iteration for Hamilton-Jacobi-Isaacs equations with control constraints and comparison with Hamilton-Jacobi-Bellman equations
Rajiv Gandhi Institute of Petroleum Technology(拉吉夫·甘地石油技术学院);University of Graz(格拉茨大学);Radon Institute for Computational and Applied Mathematics (RICAM)(雷登计算与应用数学研究所)
本文分析带控制约束的HJI方程双层策略迭代的收敛性,并比较一阶与二阶HJB方程在有无约束控制下的数值解。
2026-09-28 cs.NA math.NA math.OC
Hamilton-Jacobi-Bellman Equations for Q-Learning in Continuous Time
Seoul National University(首尔国立大学)
本文在具有Lipschitz连续控制的连续时间最优控制问题中引入了Q函数的Hamilton-Jacobi-Bellman(HJB)方程。强化学习中使用的标准Q函数被证明是HJB方程的唯一黏性解。利用黏性解的框架,给出了最优性的充要条件。利用HJB方程,我们发展了一种连续时间动力系统的Q-学习方法。一个DQN类算法也提出了高维状态和控制空间。所提出的Q-学习算法的性能证明使用1,10和20维动力系统。
2020-05-02 cs.LG cs.SY eess.SY
A comparison principle for semilinear Hamilton-Jacobi-Bellman equations in the Wasserstein space
本文在概率测度空间证明半线性 Hamilton-Jacobi-Bellman 方程粘性解的比较原理,通过熵惩罚利用 Wasserstein 距离可微性,实现唯一性与稳定性,并适用于非凸情形。
2023-08-29 math.AP math.OC
A Policy Iteration Scheme for Semilinear Stochastic Hamilton-Jacobi-Bellman Equations with Exponential Convergence
Department of Mathematics & Statistics, University of Calgary(卡尔加里大学数学与统计系)
针对非马尔可夫随机最优控制问题中的半线性SHJB方程,提出基于逐次线性化的策略迭代算法,证明其近似序列以指数速率单调收敛到值函数。
2026-08-03 math.OC q-fin.MF
Convergence of the Deep BSDE method for FBSDEs with non-Lipschitz coefficients
本文致力于数值求解具有非Lipschitz扩散系数的高维耦合全倒向随机微分方程。在温和的条件下,我们提供了一个后验估计的数值解,保持任何时间。该后验估计验证了最近提出的Deep Boundary方法的收敛性。此外,我们开发了一个数值格式的基础上的深BELLING方法和金融市场的数值例子来证明高性能。
2021-12-23 cs.NA math.NA math.OC
Some non monotone schemes for time dependent Hamilton-Jacobi-Bellman equations in stochastic control
本文介绍了线性和完全非线性Bellman-Isaacs型扩散方程的几种逼近格式。虽然它们不是单调的,但可以证明它们收敛于问题的黏性解。这些计划的有效实施进行了讨论,并进行了广泛的测试。
2015-01-21 math.OC
Some non monotone schemes for Hamilton-Jacobi-Bellman equations
我们扩展了Barles Jakobsen的理论,发展了Hamilton Jacobi Bellman方程的数值格式。我们表明,该计划的单调性可以放松,仍然导致收敛到黏性解的方程。我们给出了一些这样的数值方案的例子,并表明,开发的框架所获得的界限是不紧的。最后对一些数值格式进行了检验。
2018-09-03 math.OC
Optimal control problems of fully coupled FBSDEs and viscosity solutions of Hamilton-Jacobi-Bellman equations
本文研究了完全耦合正倒向随机微分方程的随机最优控制问题。递归的成本泛函被定义为受控的全耦合FBSDES。我们研究了两种情况下的扩散系数$σ$的FSDES。我们用一种新的方法证明了值函数是确定的,满足动态规划原理(DPP),并且是相应的广义Hamilton-Jacobi-Bellman(HJB)方程的黏性解.当$σ$依赖于控制系统解$(Y, Z)$的第二分量而不依赖于控制系统时,相应的广义HJB方程与代数方程有关.为此,我们采用了Peng的Besides方法,特别是[16]中的随机向后半群的概念。我们强调,事实上,$σ$也依赖于$Z$使随机控制更加复杂,其结果是,相关的HJB方程与一个代数方程相结合,这是由吴和余[19]启发的。利用延拓方法结合不动点定理证明了该代数方程存在唯一解,并给出了该解的表示.另一方面,我们证明了一些新的基本估计的单调假设下,完全耦合FBSDES。特别是,我们证明了在Lipschitz和线性增长条件下,完全耦合FBSDES有一个唯一的解决方案的小时间间隔,如果Lipschitz常数$σ$ \相对于$z$是足够小的。我们还建立了这样的全耦合FBSDES的广义比较定理。
2013-02-05 math.OC math.PR
Is Bellman Equation Enough for Learning Control?
Yale University(耶鲁大学);Microsoft Research(微软研究院)
本文证明Bellman方程在连续状态空间中存在多个解且仅有一个对应稳定最优策略,揭示了基于值的方法因解的指数级不平衡而收敛到不稳定解的失败模式,并提出一种正定神经网络架构以在构造上保证收敛到稳定解。
2025-03-06 cs.LG math.OC
Dynamic programming principle for delayed stochastic recursive optimal control problem and HJB equation with non-Lipschitz generator
本文针对带非Lipschitz生成元的延迟随机递归最优控制问题,证明了动态规划原理,并通过广义比较定理和粘性解稳定性建立值函数与HJB方程粘性解的联系,应用于延迟Epstein-Zin效用下的消费-投资问题。
2023-12-23 math.OC
Convergence of the momentum method for semialgebraic functions with locally Lipschitz gradients
本文提出新的长度公式,证明动量法在极小化具有局部Lipschitz梯度的半代数函数时的局部与全局收敛性,无需全局Lipschitz等条件,并首次给出从任意初始点应用于主成分分析等问题的收敛保证。
2024-01-07 math.OC
Policy Iteration for Exploratory Hamilton--Jacobi--Bellman Equations
本文研究大折扣率下熵正则化随机控制问题的策略迭代算法,分别在有界系数(扩散项控制满足小性条件)和无界系数(无扩散控制)两种场景下,通过建立值序列的$\mathcal{C}^{2,α}$和$\mathcal{C}^{1,α}$估计证明其收敛性。
2025-05-27 math.AP math.OC
A least-squares Galerkin approach to gradient recovery for Hamilton-Jacobi-Bellman equation with Cordes coefficients
本文提出一种协调有限元方法,结合半光滑牛顿线性化与最小二乘梯度恢复,求解带Cordes系数的Hamilton-Jacobi-Bellman方程,给出最优阶误差界并用于自适应细化,实验验证了理论结果。
2024-05-26 cs.NA math.AP math.NA
Convergence of the Gradient Sampling Algorithm on Directionally Lipschitz Functions
将梯度采样算法的收敛性理论推广到方向Lipschitz函数。虽然方向性Lipschitz函数不一定是局部Lipschitz函数,但它们几乎处处可微,并且很好地近似于梯度,因此是梯度采样算法应用的自然候选者。这种扩展的主要障碍是潜在的无界性或空的克拉克次微分的兴趣点。我们提出的收敛性分析提供了一种解决这些问题的途径。特别是,我们恢复通常的收敛理论时,功能是局部Lipschitz。此外,如果算法不将临界性的某个度量驱动到零,则迭代必须收敛到一个点,在该点处,克拉克次微分为空,或者最速下降的方向退化,在这个意义上,它确实位于正则次导数的域的内部。
2021-07-10 math.OC
Unbounded Hamilton-Jacobi-Bellman Equations with one co-dimensional discontinuities
针对全N维欧氏空间中带超平面间断、与无界最优控制相关的Hamilton-Jacobi方程,研究Ishii粘性解的定义、存在性与唯一性,用Bellman方法构造出最小、最大解及连接二者的连续解族。
2024-05-10 math.AP math.OC
Convergence of ADAM for Lipschitz Objective Functions
本文证明了在Lipschitz连续且梯度可控的不可微目标函数下,Adam算法具有局部和全局指数收敛性,并给出了满足条件的函数示例。
2024-03-13 math.CA math.DS math.OC
Convergence Analysis of the Proximal Gradient Method in the Presence of the Kurdyka-Łojasiewicz Property without Global Lipschitz Assumptions
针对复合优化问题中近端梯度法收敛分析依赖强全局Lipschitz假设的局限,本文证明仅需局部Lipschitz假设结合Kurdyka-Łojasiewicz性质,即可得到全局收敛与收敛速率结果,放宽了算法收敛的前提条件。
2023-04-28 math.OC
Convergence Analysis of the Self-Adaptive Projection Method for Variational Inequalities with Non-Lipschitz Continuous Operators
针对非 Lipschitz 连续拟单调算子的变分不等式,提出带自适应步长的 Tseng 超梯度方法,证明温和条件下的收敛性,并通过数值实验验证其有效性与优越性。
2025-06-09 math.OC
Universal Approximation Theorem for Deep Q-Learning via FBSDE System
School of Computer Science, Peking University(计算机学院,北京大学)
本文利用 FBSDE/BSDE 正则性理论与有限时域动态规划,证明模拟 Bellman 迭代细化的深度残差 Q 网络具有结构相关的通用逼近性质。
2025-05-09 cs.AI cs.LG math.OC
Coupling by reflection for controlled diffusion processes: turnpike property and large time behavior of Hamilton Jacobi Bellman equations
研究了弱耗散半线性Hamilton-Jacobi-Bellman(HJB)方程的长时间行为及其相应的随机控制问题的收费公路性质.为此,我们开发了一种概率方法的基础上的一个变种的耦合反射适应控制扩散过程的研究。证明了遍历Hamilton-Jacobi-Bellman方程解的存在唯一性,以及在值函数、最优控制和最优过程水平上的各种定量指数收敛结果.此外,我们对独立感兴趣的HJB方程的解提供了统一的时间梯度和Hessian估计。
2023-03-16 math.OC math.PR
Lipschitz-Free Mirror Descent Methods for Non-Smooth Optimization Problems
本文修正了镜像下降方法中自适应时变步长规则的收敛率分析,并提出一种在无Lipschitz假设下实现弱遍历收敛的无Lipschitz镜像下降方法。
2025-06-02 math.OC
Reducing the Lipschitz Constant in Tseng Algorithm and the Convergence Analysis
Ton Duc Thang University(胡志明市铁城大学)
本文放宽了 Tseng 算法对算子单调性的要求,证明其弱收敛和线性收敛,从而降低 Lipschitz 常数,提高分解效率,适用于大数据场景,并提供数值验证。
2026-09-25 math.OC
Convergence Rates for Deterministic and Stochastic Subgradient Methods Without Lipschitz Continuity
Cornell University(康奈尔大学);Simons Institute for the Theory of Computing(西蒙斯理论计算研究所);DIMACS/Simons Collaboration on Bridging Continuous and Discrete Optimization(DIMACS/西蒙斯连续与离散优化桥接合作项目)
我们将经典的次梯度法的收敛速度理论推广到非Lipschitz函数。对于确定性投影次梯度法,我们对任何局部Lipschitz的凸函数给出了全局$O(1/\sqrt{T})$收敛速度.这种方法是基于Shor的经典次梯度分析,并意味着推广的标准收敛速度的梯度下降函数与Lipschitz或Hölder连续梯度。进一步证明了随机投影次梯度法在至多二次增长的凸函数上的$O(1/\sqrt{T})$收敛速度,在强凸性或弱二次下界条件下,该收敛速度提高到$O(1/T)$.
2018-02-26 cs.LG math.OC
Lipschitz-free Projected Subgradient Method with Time-varying Step-size
本文提出一类用于经典投影次梯度法的新时变步长,在无需目标函数Lipschitz假设的条件下实现了最优遍历收敛,将收敛结果推广至非Lipschitz情形。
2025-09-15 math.OC
Perturbed Iterate SGD for Lipschitz Continuous Loss Functions
本文给出了Lipschitz连续损失函数最小化的随机梯度下降法的一个推广。我们的动机是用于非光滑非凸随机最优化问题,这是经常遇到的应用程序,如机器学习。利用Clarke $ε$ -次微分,证明了该方法在期望下非渐近收敛到一个近似稳定点.从这个结果出发,得到了一个高概率非渐近收敛的方法,以及一个几乎必然渐近收敛到Clarke平稳点的方法.我们的结果保持在假设随机损失函数是Carathéodory函数,几乎处处Lipschitz连续的决策变量。据我们所知,这是第一个非渐近收敛分析下,这些最小的假设。
2022-10-04 math.OC
Sparse Training with Lipschitz Continuous Loss Functions and a Weighted Group L0-norm Constraint
本文的动机是深度神经网络训练的结构化稀疏性。研究了一类加权群L0-范数约束,给出了这类约束的投影和法锥。使用随机平滑,我们开发的零阶和一阶算法,最小化Lipschitz连续函数约束的任何闭集,可以投影到。非渐近收敛的保证被证明在预期的两个相关的收敛标准,可以被认为是近似平稳点的算法。使用所提出的算法给出了两个进一步的方法:一个具有非渐近收敛保证的高概率,和其他渐近保证几乎必然的一个平稳点。我们特别相信,这些是第一个这样的非渐近收敛的结果,约束Lipschitz连续损失函数。
2022-12-20 math.OC
Convergence Analysis of the Restarted Moving-Anchored Extra-Gradient Method in the Absence of Local Lipschitz Continuity
The Hong Kong Polytechnic University(香港理工大学);Tsinghua University(清华大学)
研究求解单调包含问题的MAEG方法,在有Lipschitz连续性时具有\(\mathcal{O}(1/k)\)非渐近迭代复杂度及\(o(1/k)\)渐近速率,通过利用锚点行为提出重启策略,能在缺乏局部Lipschitz连续性时确保收敛并保持复杂度保证。
2026-07-09 math.OC
State-constrained optimal control of the continuity equation and infinite-dimensional viscosity solutions
University of Trento(特伦托大学)
研究连续方程在有限时间最优控制问题中,考虑固定集外质量的加权积分状态约束,证明值函数在Hilbert框架中Lipschitz连续并满足粘性意义下的约束Hamilton-Jacobi-Bellman方程,最终证明比较原理和Lipschitz类中的唯一性。
2026-10-30 math.OC
Convergence of Nonmonotone Proximal Gradient Methods under the Kurdyka-Lojasiewicz Property without a Global Lipschitz Assumption
本文首次证明在Kurdyka-Łojasiewicz性质下,无需全局Lipschitz假设和迭代有界性先验知识,非单调近端梯度方法具有与单调方法相同的全局收敛性与收敛速率。
2024-11-19 math.OC
Forward and Backward Bellman equations improve the efficiency of EM algorithm for DEC-POMDP
The University of Tokyo(东京大学)
分散部分可观察马尔可夫决策过程(DEC-POMDP)模型由一组代理的顺序决策问题。由于DEC-POMDP的规划可以解释为隐变量模型的最大似然估计,因此DEC-POMDP可以通过EM算法求解。然而,在EM的DEC-POMDP,向前-向后算法需要计算到无限的水平,这影响了计算效率。本文通过在EM中引入前向和后向Bellman方程,提出了Bellman EM算法(BEM)和改进的Bellman EM算法(MBEM)。BEM比EM更有效,因为BEM计算向前和向后Bellman方程,而不是向前-向后算法直到无限水平。然而,当问题的规模很大时,BEM并不总是比EM更有效,因为BEM计算逆矩阵。我们绕过这个缺点MBEM计算向前和向后贝尔曼方程没有逆矩阵。数值实验表明,MBEM的收敛速度比EM快。
2021-05-06 cs.LG cs.MA math.OC
Controllability implies mixing II. Convergence in the dual-Lipschitz metric
本文继续研究随机动力系统的能控性与混合性之间的联系。我们开始与一个抽象的结果表明,一个点的近似可控性和局部稳定属性意味着一个固定的措施和指数混合的双Lipschitz度量的唯一性。然后将此结果应用于由通过边界作用的随机力驱动的2D Navier-Stokes系统。我们的分析的副产品是局部指数稳定的边界驱动的Navier-Stokes系统的正则边界控制。
2018-03-05 math.AP math.OC math.PR
Proximal Gradient Algorithms under Local Lipschitz Gradient Continuity: A Convergence and Robustness Analysis of PANOC
复合优化为各种应用提供了一个强大的建模工具,并且通常通过近端梯度法来数值求解。本文考虑了目标函数的光滑部分仅在局部Lipschitz梯度连续条件下的完全非凸复合问题。我们研究了PANOC类型方法的自适应方案(Stella等人,在IEEE第56届CDC会议论文集,1939- 1944,2017),即只需要简单的近似梯度预言的加速线性搜索算法。虽然包括经典的近端梯度法,我们的理论结果涵盖了更广泛的一类算法,并提供收敛保证加速方法可能不精确计算的近端映射。这些发现也有显着的实际影响,因为它们扩大了现有的范围和性能,并可能在未来,通用优化软件调用PANOC作为内部求解器。
2022-04-18 math.OC
Beyond the Bellman Fixed Point: Geometry and Fast Policy Identification in Value Iteration
Department of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(电气工程系,韩国科学技术院(KAIST))
本文研究了折扣Q值迭代作为切换系统的行为,揭示了在有限时间内达到最优动作类的几何机制,并给出了严格小于γ的谱半径条件。
2026-04-27 cs.AI cs.SY eess.SY
Convergence analysis of nonmonotone proximal gradient methods under local Lipschitz continuity and Kurdyka--Łojasiewicz property
本文研究了在局部Lipschitz连续性和KL性质下,结合平均与最大线搜索的非单调近端梯度方法,通过索引划分在不要求迭代有界的情况下证明了其全局收敛性及收敛速率,并得出该收敛性独立于索引划分选择的结论。
2025-05-01 math.OC
Convergence and Robustness Bounds for Distributed Asynchronous Shortest-Path
University of Stuttgart(斯图加特大学);ETH Zürich(苏黎世联邦理工学院)
本文针对异步分布式最短路径计算,基于Lyapunov方法推导自适应Bellman-Ford算法的有限时间收敛性与鲁棒性界,并扩展至最可能路径算法。
2026-09-14 cs.SY eess.SY math.OC
Revisiting Convergence: Shuffling Complexity Beyond Lipschitz Smoothness
Department of Computer Science, University of Maryland, College Park.(计算机科学系,马里兰大学 College Park 分校);Department of Computer Science(计算机科学系);Engineering, University of Texas Arlington(工程学院,德克萨斯大学阿灵顿分校)
针对常见机器学习模型不满足Lipschitz平滑性的问题,本文在不假设该条件下重新审视了Shuffling型梯度方法的收敛率,提出步长策略使其在较弱假设下匹配当前最佳收敛率,并在多种凸性条件下证明了收敛性,数值实验验证了其有效性。
2025-07-11 cs.LG math.OC stat.ML
Global linear convergence of Newton's method without strong-convexity or Lipschitz gradients
EPFL(洛桑联邦理工学院)
我们表明,牛顿的方法全局收敛的目标函数的Hessian是稳定的线性速率。这类问题包括许多不是强凸的函数,例如逻辑回归。我们的线性收敛结果是(i)仿射不变的,并且即使(ii)使用近似Hessian,并且如果子问题(iii)仅近似求解,也保持不变。因此,我们从理论上证明了牛顿的方法优于一阶方法,这将只实现一个次线性$O(1/t^2)$率在类似的条件下。
2018-06-01 cs.LG math.OC stat.ML
Stability and Convergence of Stochastic Gradient Clipping: Beyond Lipschitz Continuity and Smoothness
KTH Royal Institute of Technology(瑞典皇家理工学院)
随机梯度算法在应用于不具有Lipschitz连续和/或有界梯度的函数时通常是不稳定的。梯度裁剪是一种简单而有效的技术,可以稳定训练过程,解决容易出现梯度爆炸问题的问题。尽管它的广泛流行,梯度裁剪启发式算法的收敛特性知之甚少,特别是对于随机问题。建立了次梯度快速增长的非光滑凸函数的剪裁随机(次)梯度法(SCD)的定性和定量收敛结果。我们的分析表明,裁剪增强了SGD的稳定性,裁剪SGD算法在许多情况下具有有限的收敛速度。在标准假设下,我们还研究了带动量的剪切方法的收敛性,其中包括剪切SGD作为特殊情况。与一个新的李雅普诺夫分析,我们表明,所提出的方法达到了最好的已知率所考虑的一类问题,证明了有效性的裁剪方法也在这一制度。数值结果证实了我们的理论发展。
2021-06-10 cs.LG math.OC
On the Convergence of Differentially Private Federated Learning on Non-Lipschitz Objectives, and with Normalized Client Updates
University of Texas at Austin(德克萨斯大学奥斯汀分校);Purdue University(普渡大学)
对于具有非Lipschitz目标函数的差分私有联邦学习(FL)(即,当梯度范数没有界时)。其主要原因是裁剪操作(即,投影到固定半径的$\ell_2$球上,称为剪切阈值),用于限制平均更新对每个客户端更新的灵敏度,这引入了偏差,这取决于剪切阈值和FL中的局部步骤的数量,并且分析这一点并不容易。对于Lipschitz函数,Lipschitz常数用作具有零偏差的平凡限幅阈值。然而,Lipschitz性在许多实际情况下并不成立;此外,验证它和计算Lipschitz常数是困难的。因此,限幅阈值的选择是重要的,并且在实践中需要大量的调谐。在本文中,我们提供了第一个收敛结果,私人FL光滑\textit{convex}目标\textit{for a general clipping threshold} - \textit{without assuming Lipschitzness}。我们还研究了一种更简单的裁剪(用于边界敏感性)替代方案,即\textit{normalization} --在这种情况下,我们只使用客户端更新中的单位向量的缩放版本,完全丢弃幅度信息。{The理论上证明了基于归一化的私有FL算法在光滑凸函数上比基于裁剪的算法具有更好的收敛性。我们证实了我们的理论与合成实验以及基准数据集上的实验。
2022-04-16 cs.DC cs.LG eess.SP
Policy Evaluation in Continuous MDPs with Efficient Kernelized Gradient Temporal Difference
我们考虑无限空间的无限时域折扣马尔可夫判定问题(MDP)的政策评估。我们重新制定这个任务的组合随机规划的函数值的决策变量,属于再生核希尔伯特空间(RKHS)。我们通过一个新的随机准梯度法操作与随机稀疏子空间投影的功能推广来解决这个问题。其结果是梯度时间差分学习的扩展,产生非线性参数化的Bellman评估方程的解的值函数估计。我们的主要贡献是一个内存有效的非参数随机方法,保证准确收敛到Bellman不动点的概率$1$与衰减步长。此外,在步长不变的情况下,我们得到了平均收敛到一个邻域,并且值函数估计具有有限的复杂性。在山车域中,我们观察到更快的收敛到更低的贝尔曼错误的解决方案比现有的方法所需的内存的一小部分。
2020-05-17 math.OC
Lipschitz Interpolation: Non-parametric Convergence under Bounded Stochastic Noise
本文研究有界随机噪声下Lipschitz插值的渐近收敛性,给出均匀收敛速率上界与一致性保证,并扩展至在线学习及闭环稳定性,同时通过LACKI框架移除Lipschitz常数先验假设。
2023-10-10 math.OC math.ST stat.TH