DID: Distributed Incremental Block Coordinate Descent for Nonnegative Matrix Factorization
Iowa State University（爱荷华州立大学）
非负矩阵分解（NMF）作为一种降维方法在过去的十年中引起了人们的广泛关注。由于数据量的爆炸性增长，自然地，样本被收集并分布存储在本地计算节点中。因此，越来越需要在分布式存储器架构中开发算法。我们提出了一种新的分布式算法，称为\textit{distributed incremental block coordinate descent}（DID），来解决这个问题。通过调整块坐标下降框架，获得封闭形式的更新规则在DID。此外，DID基于最近更新的残差矩阵递增地执行更新。因此，每次迭代只需要一个沟通步骤。一系列的数值实验验证了算法的正确性、高效性和可扩展性。
2018-02-25 cs.AI cs.LG math.OC
Robust Lyapunov Functions for Reaction Networks: An Uncertain System Framework
我们提出了一个框架，找到一个李雅普诺夫函数的化学反应网络（CRN）在浓度坐标与任意单调动力学的问题，找到一个共同的李雅普诺夫函数的线性参数变化系统的反应坐标。替代制剂的建议李雅普诺夫函数。这是适用于重新解释以前的结果，作者分段线性率李雅普诺夫函数，并建立一个链接与收缩分析。讨论了平衡点的持久性和唯一性。
2017-10-29 math.DS math.OC q-bio.MN
Intrinsic Construction of Lyapunov Functions on Riemannian Manifold
对于黎曼流形上的演化系统，我们提出了渐近稳定性和指数稳定性的逆李雅普诺夫定理。所提出的方法的新颖之处在于，它不依赖于当地的欧几里德坐标，因此是有效的更广泛的域比所考虑的平衡的紧邻。我们还展示了如何建设可以是有用的鲁棒性分析。
2020-02-26 cs.SY eess.SY math.OC
Lyapunov-based Low-thrust Optimal Orbit Transfer: An approach in Cartesian coordinates
本文提出了一种利用直角坐标系统求解两个椭圆轨道之间的小推力最优燃料和最优时间转移问题的简单方法。在这种情况下，轨道由其特定的角动量和具有自由注入点的拉普拉斯矢量来描述。轨迹优化与伪谱方法和非线性规划支持的初始猜测产生的Chang-Chichka-Marsden基于李亚普诺夫转移控制器。这种方法成功地解决了几个小推力优化问题。数值结果表明，基于李雅普诺夫的初始猜测克服了直角坐标系统中变量强烈振荡给优化带来的困难。结果表明，利用直角坐标通过多项式逼近得到最优转移解比利用轨道根数得到最优转移解容易，因为轨道根数通常会产生强非线性运动方程。本文不考虑地球扁率和阴影效应。
2013-10-15 cs.CE math.OC physics.class-ph
Linear Convergence of the Proximal Incremental Aggregated Gradient Method under Quadratic Growth Condition
College of Science, National University of Defense Technology（国防科技大学理学院）
本文在二次增长条件下研究了近端增量聚合梯度法的全局线性收敛性，通过构造Lyapunov函数证明了方法在函数值和迭代点误差上的线性收敛性。
2017-02-27 cs.NA math.NA math.OC
Incremental Learning in Diagonal Linear Networks
EPFL（洛桑联邦理工学院）
本文研究对角线性网络在极小初始化下的梯度流轨迹，证明其执行增量学习，坐标依次激活，且稀疏隐式正则化随时间减弱，研究限于欠参数化与反相关特征情形。
2023-11-13 cs.LG math.OC
On the Convergence Rate of Incremental Aggregated Gradient Algorithms
受网络分布式优化和机器学习中大规模数据处理应用的启发，我们分析了确定性增量聚合梯度法，用于最小化光滑函数的有限和，其中和是强凸的。该方法以确定性顺序一次处理一个函数，并结合了先前梯度值的记忆以加速收敛。从经验上讲，它在实践中表现良好，然而，没有明确的利率结果的理论分析，以前在文献中给出我们的知识，特别是最近的努力集中在随机版本。本文证明了这种确定性算法具有全局线性收敛性，并给出了算法的收敛速度。我们还考虑了一个带动量项的聚集方法，并证明了它的线性收敛。我们的证明依赖于一个精心选择的李雅普诺夫函数，提供洞察算法的行为，大大简化了证明。
2015-06-05 math.OC
Derivation of Coordinate Descent Algorithms from Optimal Control Theory
Naval Postgraduate School（海军研究生院）
本文进一步推进了优化算法可由最优控制理论统一的主张，展示了如何利用极大值原理与作为“控制”Lyapunov 函数的 max 函数推导出坐标下降算法，并将其收敛性与Lyapunov函数的受控耗散相联系。
2023-09-07 cs.LG math.OC
Block-coordinate and incremental aggregated proximal gradient methods for nonsmooth nonconvex problems
本文针对非光滑非凸优化问题，基于前向后向包络（FBE）分析块坐标近似梯度方法，在Kurdyka-Łojasiewicz性质下建立全局与线性收敛结果，还推导了Finito/MISO算法在非凸非光滑场景下的新收敛结论。
2019-11-26 math.OC
Proximal-Like Incremental Aggregated Gradient Method with Linear Convergence under Bregman Distance Growth Conditions
我们引入了一个统一的算法框架，称为近似增量聚合梯度（PLIAG）方法，用于最小化一个凸函数的和，该函数由可加的相对光滑的凸分量和适当的下半连续凸正则化函数组成，在一个抽象的可行集，其几何形状可以通过使用Legendre函数的域来捕获。PLIAG方法包括文献中的许多现有算法作为特例，例如近端梯度法、Bregman近端梯度法（也称为NoLips算法）、增量聚合梯度法、增量聚合近端法和近端增量聚合梯度法。它还包括一些新的有趣的迭代方案。首先，我们证明了PLIAG方法是全局次线性收敛的，而不需要一个增长条件，这扩展了次线性收敛结果的近似梯度算法的增量聚集型一阶方法。然后，通过在下降引理中嵌入Bregman距离增长条件，构造一个特殊的Lyapunov函数，证明了PLIAG方法在步长不大于某个正常数的条件下，在函数值和Bregman距离两方面都是全局线性收敛的.本文导出的这些收敛结果都是在文献中的标准假设之外建立的（即，而不需要目标的光滑部分的强凸性和Lipschitz梯度连续性）。当专门针对许多现有的算法，我们的结果恢复或补充其收敛结果严格较弱的条件下。
2019-08-09 math.OC
Accelerated First-Order Methods: Differential Equations and Lyapunov Functions
我们从微分方程和李雅普诺夫函数的观点发展了一个加速一阶优化理论。在前人工作的基础上，我们考虑了微分方程模型的加速梯度下降的行为。我们的主要贡献是提供了一个一般的框架离散的微分方程产生加速的方法，并提供物理直观，这有助于解释最佳阻尼率。一个重要的新颖性是我们的方法的一般性，这导致了各种各样的方法，包括版本的Nesterov的加速梯度下降，FISTA，加速坐标下降的统一推导。
2021-04-01 math.OC
Bregman storage functions for microgrid control
University of Groningen（格罗宁根大学）；ENTEg
本文提出了一种理论框架，通过引入包含动能和无功功率存储的能量函数，以及可调电压依赖项，构建了满足耗散不等式的增量存储函数，实现了微电网的大信号分析。
2016-08-04 cs.SY eess.SY math.OC
On Lyapunov functions and gradient flow structures in linear consensus systems
二次型李雅普诺夫函数在线性一致系统的稳定性分析中很常见。本文证明了不可约一致系统的不同坐标下的凸函数的加权和是李雅普诺夫函数。我们引入了一类特殊的添加剂凸李雅普诺夫函数，其中包括作为特殊情况下，在RC电路，Kullback-Leiber的信息散度之间的两个概率测度，和吉布斯自由能在化学反应网络中存储的电能。在此基础上，我们建立了一个一般的梯度形式主义，允许表示线性对称共识动力学的梯度下降动力学的任何添加剂凸李雅普诺夫函数，适当选择当地的标量产品。这一结果推广了著名的欧几里得梯度结构的共识一般黎曼。我们还发现自然的非线性共识动力学不同的线性由不同的黎曼结构，共享相同的李雅普诺夫函数。我们还看到如何信息理论的李雅普诺夫函数，常见的马尔可夫链理论，通过适当的梯度下降产生线性共识。从这个统一的角度来看，我们希望开辟途径的线性和非线性的共识收敛的研究。
2015-01-07 math.OC
Defining Lyapunov functions as the solution of a performance estimation saddle point problem
本文将二次Lyapunov函数重新表述为性能估计鞍点问题，结合PEPit建模与DSP-CVXPY求解，实现收敛性的自动数值验证，并支持复杂函数类与算法研究。
2024-11-19 math.OC
Global Exponential Stabilization of a 3D Nonholonomic Vehicle in Spherical Coordinates
UC San Diego（加州大学圣地亚哥分校）
针对受布罗克特条件限制的三维非完整车辆，提出基于球坐标奇异性的反步连续时不变反馈律，实现全局限定指数镇定，并构造严格控制李雅普诺夫函数保证指数稳定性。
2026-09-22 cs.SY eess.SY math.OC
Another approach to build Lyapunov functions for the first order methods in the quadratic case
本文提出利用 Schur 分解将迭代矩阵上三角化，通过状态向量末坐标构造适用于二次函数一阶方法的通用 Lyapunov 函数，并证明其适用于 Heavy Ball 等多种方法。
2024-01-11 math.OC
Inverse Optimal Feedback Stabilization of 3D Nonholonomic Vehicles in Spherical Coordinates
Department of Mechanical and Aerospace Engineering, UC San Diego（加州大学圣地亚哥分校机械与航空航天工程系）
本文基于球坐标下三维非完整车辆的严格CLFs，提出一种通用逆最优镇定控制器，采用阻尼$L_gV$反馈，通过两种罚函数选择展示灵活性，并验证了性能与约束影响。
2026-09-30 cs.SY eess.SY math.OC
A hybrid dynamical system approach to the impulsive control of spacecraft rendezvous (extended version)
本文针对Hill-Clohessy-Wiltshire模型下的航天器交会脉冲控制问题，提出基于分离面内/面外动力学、适配Lyapunov函数的混合动力系统反馈控制方法，可处理推力器饱和与最小脉冲位宽，经数值仿真验证有效，为同名ECC24论文的扩展版。
2024-03-06 cs.SY eess.SY math.OC
Computer-Assisted Search for Differential Equations Corresponding to Optimization Methods and Their Convergence Rates
The University of Tokyo（东京大学）；Institute of Science Tokyo（东京科学大学）
本文提出了一种系统性框架，利用计算机代数系统进行符号计算，以优化连续动态系统中李雅普诺夫函数的设计，从而发现新的收敛速率。
2025-12-10 cs.NA math.CA math.DS
Sparse control in microscopic and mean-field leader-follower models
本文研究领导者–跟随者多智能体系统的稀疏控制稳定问题，分别在微观模型与平均场–微观混合模型下给出 Lyapunov 指数衰减及系统收敛到目标状态的充分条件。
2025-03-18 math.OC
Bounding extrema over global attractors using polynomial optimisation
我们描述了一个框架，用于界定的数量上的全局吸引子的极值微分动力系统。全局吸引子是吸引所有有界集的最小集;它包含所有向前时间极限点。我们的方法使用（广义）李雅普诺夫函数找到吸引集，其中必须包含全局吸引子，和李雅普诺夫函数的选择是优化的基础上的数量，其极值之一的目的是绑定。我们还提出了一个非全局框架的最小集，吸引在指定区域的状态空间的边界极值。如果动力学由常微分方程控制，并且感兴趣的方程和量是多项式的，则我们的方法可以使用多项式优化在计算上实现。特别是，我们强制执行非负性的某些多项式表达式，要求他们被表示为平方和，导致一个凸优化问题，可以作为一个半定规划和计算解决。这种计算机辅助可以构造复杂的多项式李雅普诺夫函数。使用三个示例说明计算。第一种是混沌Lorenz系统，在这里我们将坐标的各个单项式的极值限制在全局吸引子上。在第二个例子中，我们绑定极值在一个九模式截断的流体动力学显示长寿命的混沌瞬态。第三个例子有两个局部稳定极限环，每个都有自己的吸引区域，我们应用我们的非全局框架来构建一个不适用于其他盆地的边界。对于每一个例子，我们计算李雅普诺夫函数的多项式次数至少为8。在我们可以判断边界清晰度的情况下，当多项式次数至少为4或6时，它们至少清晰到三位数。
2020-05-20 math.DS math.OC nlin.CD
Moving constraints as stabilizing controls in classical mechanics
本文分析了一个拉格朗日系统，它是通过直接指定的一些坐标作为时间的函数，通过无摩擦约束控制。在自然坐标系中，运动方程包含控制函数的线性或二次时间导数项。在回顾了基本方程之后，我们解释了与给定叶理正交的测地线相关的二次项的意义。然后，我们研究的问题，稳定的系统到一个给定的点，通过振荡控制。首先将该问题归结为一个相关凸值微分包含的弱稳定性问题，然后利用李雅普诺夫函数方法研究了该问题。在最后一节中，我们通过各种力学实例来说明结果。
2008-04-02 math-ph math.MP math.OC
Stability of Planar Switched Systems: the Nondiagonalizable Case
考虑平面线性切换系统$\dot x(t)=u(t)Ax(t)+(1-u(t))Bx(t),$，其中$A$和$B$是两个$2\times2$实矩阵$x \in \R^2$，$u(.):[0,\infty[\to\{0,1\}$是一个可测函数.本文研究了对任意开关函数$u(.)$，在$A$和$B$上找到系统渐近稳定的（坐标不变）充要条件的问题.在之前的工作中，在假设$A$和$B$都是可对角化的情况下解决了这个问题。在本文中，我们总结这项研究，通过提供一个充要条件的情况下，其中$A$和/或$B$是不可对角化的渐近稳定性。为此，我们建立合适的规范形式的$A$和$B$含有坐标不变参数。一个充要条件，然后发现没有寻找一个共同的李雅普诺夫函数，但使用“最坏故障”型参数。
2006-10-12 math.OC
