A Lyapunov-type approach to convergence of the Douglas-Rachford algorithm
Douglas-Rachford投影算法是一种迭代法,用于在封闭约束集的交集中找到一个点。该算法已被实验观察到解决各种非凸可行性问题,目前的理论不能充分解释。在本文中,我们证明了道格拉斯-Rachford算法的收敛性在一个潜在的非凸设置。我们的分析依赖于存在的一个Lyapunov型功能,其凸性的性质是不等于凸的原始约束集。此外,我们提供了各种非凸的例子中,我们的框架证明了算法的整体收敛。
2017-06-15 math.OC
Gradient algorithms for finding common Lyapunov functions
本文研究了一类稳定线性系的二次公共李雅普诺夫函数的求法问题。我们提出了梯度迭代算法,它给出了有限系统族的确定性收敛和无限族的概率收敛。
2002-06-18 math.OC
A Unified Convergence Analysis of First Order Convex Optimization Methods via Strong Lyapunov Functions
利用强李雅普诺夫条件的概念,给出了一阶凸优化方法的统一收敛性分析。结合适当的时间尺度因子,我们能够处理凸和强凸的情况下,并建立许多现有的常微分方程模型的李雅普诺夫函数的收缩性质。然后,我们推导出流行的一阶优化算法,如近似梯度法,重球方法(也称为动量方法),Nesterov加速梯度法,加速近似梯度法从相应的动力系统的数值离散。我们还应用强李雅普诺夫条件的离散水平,并提供了一个更系统的分析框架。另一个贡献是一个新的二阶动力系统称为Hessian驱动Nesterov加速梯度流,可用于设计和分析光滑和非光滑凸优化的加速一阶方法。
2021-07-31 math.OC
A Lyapunov analysis of Korpelevich's extragradient method with fast and flexible extensions
Lund University(隆德大学);IMT School for Advanced Studies Lucca(卢卡高等研究院)
本文提出基于Lyapunov分析的Korpelevich外梯度法改进方法,通过自适应混合外梯度步骤与用户指定方向,实现更快的收敛速度和更灵活的扩展。
2026-01-19 math.OC
Lyapunov Approach to Consensus Problems
本文研究了无约束和有约束一致性问题的加权平均动态。通过使用适当定义的伴随动态,二次李雅普诺夫比较函数构造的加权平均动态的行为进行分析。结果,获得了新的收敛速度结果,其以新颖的方式捕获图形结构。特别地,建立了指数收敛速度与$1-O(1/(m\log_2m))$的顺序的指数的无约束共识。同时,建立了约束一致性的指数收敛速度,推广了现有的结果仅限于使用双随机权矩阵。
2014-07-28 math.OC
(Adaptive) Scaled gradient methods beyond locally Holder smoothness: Lyapunov analysis, convergence rate and complexity
KU Leuven(荷语鲁汶大学);University of Antwerp(安特卫普大学)
本文针对梯度局部Hölder连续的光滑凸函数无约束最小化问题,分析SGA的收敛性与复杂度,提出可自动调参的自适应变体AdaSGA并证明其收敛性质。
2025-11-13 math.OC
Optimal control of Markov-modulated multiclass many-server queues
研究了到达率、服务率和放弃率均由有限状态马尔可夫过程调制的多类多服务台排队系统。我们假设系统运行在“平均”Halfin-Whitt制度,这意味着它是临界加载的平均意义上,虽然不一定在每个状态的马尔可夫过程。我们证明了在任何静态优先策略下,马尔可夫调制扩散标度排队过程是几何遍历的。这是通过采用相关的泊松方程的解决方案,以构建一个合适的李雅普诺夫函数。建立了扩散尺度排队过程的泛函中心极限定理,证明了该极限过程是具有分段线性漂移和常数协方差阵的受控扩散过程.我们解决无限时域贴现和长期平均(遍历)最优控制问题,并建立渐近最优性。
2018-08-13 math.OC math.PR
Toward a Systematic Understanding and Interactive Search of Lyapunov-Style Proofs in Optimization
Johns Hopkins University(约翰斯·霍普金斯大学);Rice University(莱斯大学);Google Inc.(谷歌公司)
提出系统框架将优化算法的紧致解析收敛证明转化为Lyapunov函数证明,结合PEP工具箱与线性代数实现交互式搜索,发现四个新Lyapunov风格证明。
2026-06-25 math.OC
Forecast-Enhanced Lyapunov Optimization for Real-Time EV Charging Scheduling
The Chinese University of Hong Kong(香港中文大学);California Institute of Technology(加州理工学院)
本文提出一种基于预测的Lyapunov优化方法,通过引入虚拟队列和递推控制框架,结合短期预测以减少优化偏差,实现更优的电动汽车充电调度。
2026-10-09 math.OC
A Lyapunov function construction for a non-convex Douglas-Rachford iteration
虽然Douglas-Rachford迭代的整体收敛在实际应用中经常被观察到,但证明它仍然局限于凸和少数特殊情况。差分包含的李雅普诺夫函数不仅提供了全局或局部收敛的证明,而且还意味着鲁棒稳定性,这意味着在存在持续干扰的情况下仍然保证收敛。在这项工作中,一个全球性的李雅普诺夫函数构造通过结合已知的局部李雅普诺夫函数的简单,局部的子问题,通过一个明确的公式,取决于问题的参数。具体来说,我们考虑的情况下,一个集合由两条线的并集,另一个集合是一条线,使两个集合相交于两个不同的点。局部地,在每个交点附近,问题简化为仅两条线的相交,但全局地,几何是非凸的,并且Douglas-Rachford算子是多值的。我们的方法的目的是解决道格拉斯-Rachford迭代在更复杂的几何形状,可以近似多边形集通过本地,简单的李雅普诺夫函数的组合的收敛性分析的原型。
2018-10-16 math.OC
A unified Euler--Lagrange system for analyzing continuous-time accelerated gradient methods
本文构建统一 Euler–Lagrange 系统与 Lyapunov 分析框架,涵盖多种连续时间加速梯度 ODE,并推导参数条件、改进收敛速率及不可微情形证明。
2024-04-04 math.OC
Lyapunov Stability Analysis for Invariant States of Quantum Systems
在这篇文章中,我们提出了一个李雅普诺夫稳定性的方法来分析量子系统的密度算子的收敛性。与以前研究的许多使用弱收敛的不变密度算子的收敛性分析方法不同,本文将密度算子集看作巴拿赫空间的一个子集来分析密度算子的收敛性.我们证明了不变密度算子集是闭的和凸的,这意味着不可能有多个孤立的不变密度算子。然后,我们将展示如何通过一个候选的李雅普诺夫算子分析这一套的稳定性。
2018-01-26 math.OC quant-ph
Convergence analysis of dynamical systems for optimization by an improved Lyapunov framework
Graduate School of Information Science and Technology, The University of Tokyo(东京大学信息理工学系研究科);Department of Mathematical and Computing Science, School of Computing, Institute of Science Tokyo(东京科学大学理工学院数学与计算科学系)
本文基于改进的李雅普诺夫框架,研究连续时间动力系统在强凸函数优化中的收敛性分析,提出新的方法以获得更优的收敛速率。
2026-10-07 cs.NA math.NA math.OC
Convergence of Potential Mean-Field Games via Lyapunov Methods
Princeton University(普林斯顿大学)
本文研究了无折扣无限时间潜在均场博弈的收敛性,通过Lyapunov函数证明了时间趋于无穷时弱极限点为 stationary equilibria,且在 stationary 解唯一时均衡收敛,并给出了新的唯一性准则。
2026-04-19 math.AP math.OC
Lyapunov Event-triggered Stabilization with a Known Convergence Rate
控制李雅普诺夫函数(CLF)方法作为非线性控制系统设计的一种构造性工具,在连续、离散和混杂系统的镇定问题中得到了广泛的应用。在本文中,我们解决的基本问题:给定一个CLF,对应于连续时间控制器与一些预定义的(如指数)收敛速度,可以提供相同的收敛速度由事件触发控制器?在一定的假设下,我们对这个问题给出了肯定的回答,并表明相应的基于事件的控制器提供了连续事件之间的正驻留时间。此外,我们证明了自触发和周期事件触发控制器的存在,以已知的收敛速度提供稳定性。
2020-07-14 cs.SY eess.SY math.DS
Robust Control Barrier and Control Lyapunov Functions with Fixed-Time Convergence Guarantees
本文研究一类非线性控制仿射动力系统在加性干扰和状态估计误差下的控制综合问题。我们强制执行静态和动态安全集的前向不变性,并在用户定义的时间内收敛到一个给定的目标集的输入约束的存在。我们使用控制障碍函数(CBF)和固定时间控制李雅普诺夫函数(FxT-CLF)的强大的变种,将一类添加剂的干扰系统动态,状态估计误差。为了解决潜在的约束控制问题,我们制定了一个二次规划,并使用所提出的鲁棒CBF-FxT-CLF条件来计算控制输入。我们展示了所提出的方法的数值案例研究,涉及多个欠驱动海洋车辆的有效性。
2021-04-13 cs.SY eess.SY math.OC
Lyapunov-like Conditions of Forward Invariance and Boundedness for a Class of Unstable Systems
给出了一类具有不稳定不变集的系统非平凡解的有界性和收敛性的类李雅普诺夫刻画。结果可能适用的系统的例子包括稳定的子系统与一维不稳定动力学或临界稳定动力学的互连。这种类型的系统出现在非线性输出调节、参数估计和适应控制的问题中。除了提供有界性和收敛准则的结果允许导出域的初始条件对应的解决方案离开一个给定的邻域的起源至少一次。与其他解决不稳定系统中收敛问题的工作相比,我们的结果既不需要稳定部分的输入输出特征,也不需要收敛速度的估计。文中给出了一些算例,包括非均匀耦合神经振子的相位同步分析。
2013-06-11 math.DS math.OC
Global stability of day-to-day dynamics for schedule-based Markovian transit assignment with boarding queues
本研究探讨了带排队的时刻表型马尔可夫公交分配的理论性质,在显式容量约束和不可分路段成本下构建均衡问题,利用 Lyapunov 函数证明了均衡的存在性、唯一性与全局稳定性。
2023-04-05 cs.GT math.OC
Understanding Accelerated Gradient Methods: Lyapunov Analyses and Hamiltonian Assisted Interpretations
本文构建两类通用一阶算法,通过离散Lyapunov分析给出匹配Nesterov方法的加速条件,分析极限ODE收敛差距,并提出基于Hamiltonian函数的Hamiltonian辅助梯度法以统一解释加速机制。
2023-04-20 math.OC stat.ML
Score-Aware Policy-Gradient and Performance Guarantees using Local Lyapunov Stability
LAAS–CNRS, Université de Toulouse, CNRS(LAAS–CNRS,图卢兹大学,CNRS);Eindhoven University of Technology(埃因霍温理工大学);LAAS-CNRS, IRIT, and Université de Toulouse(LAAS-CNRS,IRIT,图卢兹大学)
本文提出了适用于基于模型的强化学习的分数感知梯度估计器SAGE,无需值函数估计即可估计策略梯度,证明了其局部收敛性与遗憾界,实验显示其比actor-critic方法更快找到近优策略。
2025-10-29 cs.LG cs.PF math.OC
A Concise Lyapunov Analysis of Nesterov's Accelerated Gradient Method
Department of Applied Mathematics University of Waterloo Waterloo, Ontario N2L 3G1, Canada(应用数学系 温哥华大学 温哥华,安大略省 N2L 3G1,加拿大)
本文针对Nesterov加速梯度法,利用Lyapunov分析方法给出了其在一般凸和强凸情形下收敛速率的简明直接证明。
2025-07-07 cs.LG cs.SY eess.SY
Adversarial Network Optimization under Bandit Feedback: Maximizing Utility in Non-Stationary Multi-Hop Networks
MIT(麻省理工学院)
针对非平稳多跳网络在bandit反馈下的对抗网络优化问题,提出UMO2算法,通过将在线学习与Lyapunov分析相结合,同时实现了网络稳定性与多项式衰减差距的效用最大化保证。
2024-08-29 cs.LG cs.PF cs.SY
Convergence of the Expectation-Maximization Algorithm Through Discrete-Time Lyapunov Stability Theory
本文从动态系统视角重新审视期望-最大化算法,将其视为非线性状态空间动态系统,并利用离散时间李雅普诺夫稳定性理论证明其收敛性。
2018-10-04 cs.LG cs.SY eess.SY
Inexact projected preconditioned gradient methods with variable metrics: a Lyapunov convergence theory (extended version)
School of Mathematics, Sichuan University(四川大学数学学院);Department of Mathematics, The Chinese University of Hong Kong(香港中文大学数学系)
本文针对不精确预条件投影梯度下降(IPPGD)方法的理论空白,提出不精确投影算子构造策略,结合李雅普诺夫分析证明其收敛性,经数值实验验证了方法的鲁棒性与计算效率。
2026-07-31 cs.NA math.NA math.OC
Automated Lyapunov Analysis of Primal-Dual Optimization Algorithms: An Interpolation Approach
本文针对线性约束凸优化中的一阶原始-对偶算法,提出基于插值和线性矩阵不等式的自动李雅普诺夫分析方法,可证明比文献结果更快的指数收敛速率。
2023-09-20 cs.SY eess.SY math.OC
Age of Information in a Decentralized Network of Parallel Queues with Routing and Packets Losses
本文讨论了具有缓冲能力的多源并行队列网络中的信息时代(AoI),服务中的抢占和服务分组的丢失。队列彼此之间不通信,并且根据预定义的概率路由通过队列分派分组。通过使用随机混合系统(SHS)的方法,我们提供了一个系统的两个并行队列(有和没有缓冲能力)的平均AoI的推导,并比较结果与一个单一的队列。我们发现,已知的结果,包延迟的理论不适用于AoI。不幸的是,使用SHS方法计算平均AoI的复杂性随着队列数量的增加而增加。因此,我们提供了一个上界的平均AoI在一个系统中的任意数量的M/M/1/(N+1)队列,并显示其在各种制度的紧密性。该上限允许以非常低的复杂度提供平均AoI的紧密近似。然后,我们提供了一个游戏框架,允许每个源确定其最佳概率路由决策。通过使用平均场博弈,我们提供了一个路由博弈框架的分析,提出了一个有效的迭代法找到每个源的路由决策,并证明其收敛到所需的均衡。
2020-12-01 cs.PF math.OC
An Abstract Lyapunov Control Optimizer: Local Stabilization and Global Convergence
本文将自适应步长优化器视为连续动力系统的离散化,利用连续选择理论证明其在任意超参数下的李雅普诺夫稳定性与收敛性,并给出Momentum/Heavy-Ball和p-GD算法的新结果。
2024-07-01 cs.NA math.NA math.OC
Near-optimal Closed-loop Method via Lyapunov Damping for Convex Optimization
University of Tübingen(蒂宾根大学);Saarland University(萨尔大学)
针对凸优化中最优收敛速率多依赖开环阻尼非自治方法的问题,提出带闭环阻尼的自治系统,借Lyapunov函数耦合阻尼与收敛速率实现近最优速率,离散化得到算法并经数值实验验证。
2024-04-15 cs.LG math.DS math.OC
A Lyapunov Theory for Finite-Sample Guarantees of Asynchronous Q-Learning and TD-Learning Variants
The University of Texas at Austin(德克萨斯大学奥斯汀分校);IBM Research(IBM研究院);Georgia Institute of Technology(佐治亚理工学院)
本文提出统一框架,将异步RL算法转化为马尔可夫随机逼近,通过Lyapunov分析推导有限样本均方收敛界,并揭示自举的偏差-方差权衡。
2023-09-04 cs.LG math.OC stat.ML
Computer-Assisted Search for Differential Equations Corresponding to Optimization Methods and Their Convergence Rates
The University of Tokyo(东京大学);Institute of Science Tokyo(东京科学大学)
本文提出了一种系统性框架,利用计算机代数系统进行符号计算,以优化连续动态系统中李雅普诺夫函数的设计,从而发现新的收敛速率。
2025-12-10 cs.NA math.CA math.DS