Fully Coupled Nonlinear Forward-Backward Stochastic Difference Equations: Spectral Contraction and Infinite-Horizon Maximum Principle
Fudan University（复旦大学）；Shandong University（山东大学）
本文提出显式谱压缩方法，研究无穷时域全耦合非线性正倒向随机差分方程，推导随机最大值原理及验证定理，并用投资组合示例展示应用。
2026-09-11 math.OC
Contraction analysis of nonlinear random dynamical systems
为了使收缩分析到非常富有成效的和专题领域的随机和贝叶斯系统，我们在这里扩展的理论描述在\cite{Lohmiller98}随机微分方程。我们提出了新的定义的收缩（几乎必然收缩和收缩均方），它允许掌握一个随机系统的演变以两种方式。第一个保证了几乎所有的绘制系统的最终指数收敛，而另一个保证了$L_2$中的指数收敛到唯一的轨迹。然后，我们说明了这种扩展的相对简单性，通过分析常见的确定性属性存在的噪声。具体而言，我们分析了随机梯度下降，噪声对振荡器同步的影响和扩展的组合属性的合同系统的随机情况。这是将收缩系统的有趣和简化性质与概率方法相结合的第一步。
2013-09-26 math.OC
Wasserstein Contraction of Stochastic Nonlinear Systems
我们建议确定性系统的收缩分析工具可以应用于研究随机动力系统在Wasserstein度量下的收敛行为。特别是，我们认为伊藤扩散相同的动力学，但不同的初始条件分布的情况下。如果漂移项的扩散收缩，那么我们表明，任何两个解决方案的法律之间的Wasserstein距离可以有界的初始条件分布之间的Wasserstein距离。对初始条件的依赖性在时间上以无噪声动力学的收缩率所支配的速率指数衰减。选择Wasserstein度量提供了几个优点：它捕获了空间的基本几何形状，可以有效地从样本中估计，并提出了一个观点，开始弥合文献中不同领域之间的差距。
2019-02-28 math.OC
Input-to-State Stability Implications in Contraction Theory
Graduate School of Advanced Science and Engineering, Hiroshima University（广岛大学先进理工学研究科）；Department of Mechanical Engineering and the Center for Control, Dynamical Systems, and Computation, University of California, Santa Barbara（加州大学圣塔芭芭拉分校机械工程系及控制、动力学系统与计算中心）
研究赋范向量空间中非线性控制系统的增量输入到状态稳定性，通过变分系统证明相关性质等价，建立无穷小收缩条件与增量李雅普诺夫条件等价性，给出ISS界条件，在向量场连续可微时证明并举例说明。
2026-07-10 cs.SY eess.SY math.OC
Asynchronous Incremental Stochastic Dual Descent Algorithm for Network Resource Allocation
随机网络最优化问题需要找到平均最优的资源分配策略，但必须以在线方式设计。这样的问题在通信网络中普遍存在，其中诸如能量和带宽的资源在节点之间被划分以满足某些长期目标。本文提出了一种异步增量双下降资源分配算法，利用延迟随机{梯度}进行更新。所提出的算法非常适合异构网络，因为它允许计算上的挑战或能源匮乏的节点，有时，推迟更新。该算法的渐近分析进行，建立双重收敛下，恒定和递减步长。它还表明，与恒定的步长，建议的资源分配政策是渐近近最优的。一个涉及多小区协调波束形成的应用程序进行了详细说明，所提出的算法的实用性。
2017-12-10 math.OC
Non-Euclidean Contraction Theory for Robust Nonlinear Stability
本文研究了动力系统关于非欧范数的收缩稳定性和增量稳定性的充要条件。首先，我们引入弱对作为一个框架来研究关于任意范数的压缩性，并刻画了它们的性质。我们介绍和研究的符号和最大配对的$\ell_1$和$\ell_\infty$规范，分别。利用弱对，我们建立了压缩的五个等价刻画，包括向量场的单边利普希茨条件以及相应Jacobian的矩阵测度和Demidovich条件.第三，我们扩展我们的收缩框架在两个方向：我们证明了连续向量场的收缩等价，我们正式的平衡收缩，这确保指数收敛到一个平衡的较弱的概念。最后，作为应用，我们提供了（i）增量输入状态稳定性和有限输入状态增益性质的收缩系统，和（ii）的Lipschitz互连收缩系统的一般定理，其中的Hurwitzness的增益矩阵意味着收缩性的关联系统。
2022-08-01 cs.SY eess.SY math.OC
A geometric approach to differential Hamiltonian systems and differential Riccati equations
受收缩分析和增量稳定性/可稳定性研究的启发，“微分性质”的研究最近引起了越来越多的关注。以前升降机的功能和向量场的切丛的状态空间流形已被用于几何方法的微分被动性和耗散性。同样，本文的目的是在一个几何基础和阐明最近的工作“控制收缩度量”和“广义微分Riccati方程”。
2015-04-09 math.OC
Non-Euclidean Contraction Theory for Monotone and Positive Systems
本文利用非欧范数研究单调系统的收缩性和正系统的指数收敛性。我们首先引入锥矩阵测度的概念作为研究单调正系统稳定性的框架。本文研究了锥矩阵测度的性质，并研究了它们与弱对和标准矩阵测度的关系。利用锥矩阵测度和弱对刻画了单调系统关于非欧范数的压缩性和增量稳定性。此外，我们还利用锥矩阵测度给出了正系统指数收敛到其平衡点的充分条件。我们表明，我们的框架导致新的结果（i）兴奋性Hopfield神经网络的收缩性，和（ii）关联系统使用非单调正比较系统的稳定性。
2022-08-21 math.OC
Subgradient Algorithm, Stochastic Subgradient Algorithm, Incremental Subgradient Algorithm, and Set Location Problems
近年来，凸优化方法和技术在选址科学、工程、计算统计和计算机科学等领域的应用取得了重要进展。本文提出了一些简单的算法来求解一些新的设施选址模型，这些模型推广了经典的Fermat-Torricelli问题和最小封闭圆问题。模型的一般不可微性使我们无法应用梯度型算法，因此我们的方法是使用次梯度型算法。本文提出的算法易于实现，适用范围广，也适合于凸优化的教学和学习。
2013-12-20 math.OC
Analysis of Discrete and Hybrid Stochastic Systems by Nonlinear Contraction Theory
研究离散和混合随机非线性动力系统的稳定性。更确切地说，我们扩展的随机收缩定理（这是制定连续系统）的情况下，离散和混合重置系统。特别是，我们表明，任何两个轨迹之间的离散（或混合重置）收缩随机系统的均方距离的上限由一个常数后，指数瞬变。利用这些结果，我们研究了由离散噪声相互作用耦合的噪声非线性振子的同步。
2008-04-06 math.OC math.PR
Backstepping Design for Incremental Stability of Stochastic Hamiltonian Systems with Jumps
Technical University of Munich（慕尼黑工业大学）
本文提出随机控制系统的增量稳定性概念，通过反步控制设计使具有跳跃的随机哈密顿系统增量稳定，并通过弹簧摆系统验证有效性。
2017-05-05 cs.SY eess.SY math.OC
Incremental Stochastic Subgradient Algorithms for Convex Optimization
本文研究了随机误差对两种约束增量次梯度算法的影响。我们认为，增量次梯度算法作为分散的网络优化算法，应用于最小化的功能和，当每个组件功能是已知的，只有一个特定的代理的分布式网络。我们首先研究了标准的循环增量次梯度算法，其中的代理形成一个环结构，并通过在一个循环中的迭代。我们考虑的方法与随机误差的次梯度评估，并提供了充分条件的随机误差的时刻，保证几乎必然收敛时，使用一个递减的步长。我们还获得了几乎必然的边界上的算法的性能时，使用一个恒定的步长。然后，我们考虑\ram{the}马尔可夫随机增量次梯度方法，这是一个非循环版本的增量算法，其中的计算代理的序列被建模为时间非齐次马尔可夫链。这种模型适用于移动网络，因为这些网络中的网络拓扑随时间而变化。我们建立了收敛结果和误差界的马尔可夫随机化方法存在的随机误差，分别为递减和恒定的步长。
2008-06-06 math.DS math.OC
A Stochastic Composite Gradient Method with Incremental Variance Reduction
考虑光滑（非凸）函数与光滑向量映射的最小化组合问题，其中内部映射的形式为对某个随机变量的期望或有限和.我们提出了一个随机复合梯度法，采用增量方差减少估计的内部向量映射和雅可比矩阵。我们表明，这种方法实现了相同的顺序的复杂性，最好的已知的一阶方法最小化期望值和有限和非凸函数，尽管额外的外部组成，使复合梯度估计有偏。这一发现使机器学习中更广泛的应用能够受益于增量方差缩减方法的低复杂性。
2019-06-24 math.OC stat.ML
Perov's Contraction Principle and Dynamic Programming with Stochastic Discounting
本文证明了Perov收缩原理的实用性，它将Banach收缩原理推广到向量值度量，用于研究折扣因子可以是随机的动态规划问题。贴现条件$β<1$由$ρ(B)<1$代替，其中$B$是适当的非负矩阵，$ρ$表示谱半径。Blackwell的充分条件也推广到了这种情况。资产定价和最优储蓄的应用进行了讨论。
2021-09-07 econ.TH math.FA math.OC
Incremental constraint projection methods for monotone stochastic variational inequalities
研究了一类随机变分不等式，其中单调算子定义为随机算子的期望值。我们假设可行集是一个大的凸集族的交集。我们提出了一种方法，结合随机逼近与增量约束投影意味着，在每次迭代，一个步骤类似于确定性投影方法的一些变体后，随机算子进行采样，并随机选择一个组件的交集定义的可行集。这种顺序方案非常适合于涉及大数据集、在线优化和分布式学习的应用。首先，我们假设该变分不等式是弱尖的。我们提供的渐近收敛性，$O(1/k)$的可行性速度的可行集的均方距离和可解性速度的$O(1/\sqrt{k})$（一阶对数项）的平均距离有界或无界的可行集的解决方案。然后，我们假设只是单调的运营商，并引入一个明确的迭代Tykhonov正则化的方法。我们考虑笛卡尔变分不等式，以涵盖有限协调下的随机纳什博弈或多智能体最优化问题的分布式解决方案。我们提供的渐近收敛，$O(1/k)$的可行性速度方面的均方距离的可行集，并在一个紧凑的集的情况下，我们提供了一个接近最优的可解性收敛速度$O\left(\frac{k^δ\ln k}{\sqrt{k}}\right)$方面的平均对偶间隙函数的SVI任意小$δ>0$。
2017-03-02 math.OC
Stochastic state estimation via incremental iterative sparse polynomial chaos based Bayesian-Gauss-Newton-Markov-Kalman filter
本文提出了一种新的增量迭代Gauss-Newton-Markov-Kalman滤波方法，用于噪声测量下动态模型的状态估计。建议的过滤器的数学公式是基于一个最佳的非线性映射之间的可观察和参数（状态）空间的建设通过一个收敛序列的线性映射获得连续线性化的观测算子在高斯-牛顿的形式。为了允许稀疏形式的动力系统的自动线性化，平滑器被设计成分层设置，使得在给定预测数据集的情况下，以贝叶斯方式估计正向映射及其线性化对应物。为了提高算法的收敛性，平滑器被进一步重新制定在其增量形式，其中的当前和中间状态被同化之前的初始状态，并采取相应的后验估计作为伪测量。由于后者是随机变量，不再是确定的，新的随机迭代滤波器的设计考虑到这一点。为了校正后验结果中的偏差，该过程以预测-校正形式构建，其中预测相位用于同化噪声测量数据，而校正相位用于校正平均偏差。由此产生的过滤器进一步离散化通过时间适应稀疏多项式混沌扩展获得通过修改的Gram-Schmidt正交化或通过精心选择的非线性映射，这两者都是估计在贝叶斯的方式，通过促进稀疏的结果。通过适当选择的等概率变换，非高斯参数的时间自适应基进一步映射到多项式混沌基。最后，在一个混沌非线性Lorenz 1984系统上对所提出的方法进行了验证.
2019-09-12 math.OC
Contraction Analysis of Discrete-time Stochastic Systems
在本文中，我们发展了一个新的收缩框架的稳定性分析的离散时间非线性系统的参数随机过程。对于一般随机过程，首先给出了关于黎曼度量的一阶矩一致增量指数稳定的充分条件。然后，重点研究了欧氏距离，给出了二阶矩下UIES的一个充要条件。通过研究一般的随机过程，我们可以很容易地推导出特殊类型过程的UIES条件，例如，i.i.d.过程和马尔可夫过程，这是证明我们的结果的选择应用。
2021-06-10 cs.SY eess.SY math.OC
Neural network based control of unknown nonlinear systems via contraction analysis
本文提出基于收缩分析的神经网络控制器设计方法，通过构造神经ODE系统并施加凸LMI条件确保收缩性，使未知非线性系统轨迹收敛至平衡点邻域，并用两个示例验证有效性。
2025-05-22 cs.SY eess.SY math.OC
Stability and Robustness Analysis of Nonlinear Systems via Contraction Metrics and SOS Programming
收缩分析是非线性系统的稳定性理论，其中稳定性在两个任意轨迹之间增量定义。它提供了一个替代框架，在其中研究不确定的互连或系统与外部输入，它提供了几个显着的优势，与传统的李雅普诺夫分析相比。基于收缩的方法对于分析具有不确定参数的系统和证明非线性振子的同步性质特别有用。对于给定的系统，收缩度量的存在性是系统轨迹全局指数收敛的充要条件。对于具有多项式或有理动态的系统，通过使用凸优化和平方和（SOS）编程，可以使对收缩度量的搜索完全算法化。通过放松矩阵的确定性约束，其可行性表明存在一个收缩度量，到SOS约束多项式矩阵的搜索过程是计算上容易处理的。我们通过文献中的例子来说明结果，强调收缩方法和传统的李雅普诺夫技术之间的优势和对比的差异。
2006-03-13 math.DS math.OC
Neural Stochastic Contraction Metrics for Learning-based Control and Estimation
California Institute of Technology（加州理工学院）；Massachusetts Institute of Technology（麻省理工学院）
针对一类随机非线性系统，提出了一种新的可证明稳定的鲁棒控制与估计设计框架--神经随机收缩神经网络（NSCM）。它使用频谱归一化深度神经网络来构建收缩度量，通过随机设置中的简化凸优化进行采样。谱归一化约束的度量的状态导数是Lipschitz连续的，从而确保指数有界的随机干扰下的系统轨迹的均方距离。NSCM框架允许自主智能体实时逼近最优稳定控制和估计策略，并优于现有的非线性控制和估计技术，包括状态相关的Riccati方程，迭代LQR，EKF和确定性神经收缩度量，如仿真结果所示。
2021-01-03 cs.AI cs.LG cs.RO
Periodic solutions of nonlinear control systems with switching: a Lie-algebraic and contraction approach
Max Planck Institute for Dynamics of Complex Technical Systems（马普复杂技术系统动力学研究所）；Institute of Applied Mathematics and Mechanics, National Academy of Sciences of Ukraine（乌克兰国家科学院应用数学力学研究所）
本文通过李代数和收缩方法，将非线性控制仿射系统在bang-bang控制下的周期解问题转化为寻找指数映射复合的不动点，并利用BCHD公式和增量稳定性简化问题，最终应用于化学反应的性能优化。
2026-06-08 math.OC
IQN: An Incremental Quasi-Newton Method with Local Superlinear Convergence Rate
University of Pennsylvania（宾夕法尼亚大学）
考虑了极小化一个目标函数的问题，该目标函数可表示为一组$n$光滑强凸函数之和。本文提出的增量拟牛顿（IQN）方法属于随机增量方法族，其每次迭代的成本与$n$无关。IQN迭代是BFGS迭代的随机版本，它使用内存来减少随机逼近的方差。IQN的收敛性质弥补了确定性和随机拟牛顿法之间的差距。确定性拟牛顿法利用了使用目标梯度差来近似牛顿步骤的可能性。他们是有吸引力的，因为他们有一个较小的计算成本，每次迭代相对于牛顿的方法，并实现了超线性收敛速率下，通常的规律性假设。随机拟牛顿法利用随机梯度差代替实际梯度差。这使得它们每次迭代的计算成本与目标函数$n$的数量无关。然而，现有的随机拟牛顿法至多具有次线性或线性收敛。IQN是第一个随机拟牛顿法证明超线性收敛的最优解的局部邻域。IQN在三个方面不同于最先进的增量拟牛顿法：（i）使用变量、梯度和拟牛顿海森近似矩阵的聚合信息来减少梯度和海森近似的噪声。(ii)用泰勒展开式对每个函数进行的近似，其中线性项和二次项都是相对于同一根线计算的。(iii)使用循环方案来更新函数以代替随机选择例程。我们利用IQN的这些基本性质来建立它的局部超线性收敛速率。
2017-03-27 cs.LG math.OC
Concentration of Stochastic System Trajectories with Time-varying Contraction Conditions
Georgia Institute of Technology（佐治亚理工学院）；PlusAI
本文基于时间变化收缩条件，利用平均矩生成函数建立两个随机系统集中不等式，通过增量稳定性分析和鞅方法改进轨迹集中不等式，给出概率水平下轨迹偏差的紧界。
2026-04-01 cs.SY eess.SY math.OC
Wasserstein Contraction of Stochastic Systems on Manifolds: A Differential Approach
本文提出一种微分方法，通过均方微分构造随机变分动力学，实现流形上随机系统的Wasserstein收缩，并引入正交微分耦合，应用于随机控制以克服确定性全局稳定障碍。
2026-10-05 cs.SY eess.SY math.OC
Linear Convergence of Cyclic SAGA
在这项工作中，我们提出并分析了C-SAGA，这是SAGA的（确定性）循环变体。C-SAGA是一种增量梯度法，通过循环访问其梯度来最小化可微凸函数的和。尽管随机算法的理论比循环算法的理论更成熟，但实践者通常更喜欢循环算法。我们证明了C-SAGA线性收敛的标准假设下。然后，我们比较了收敛速率与全梯度法，（随机）SAGA，增量聚合梯度（IAG），理论和实验。
2020-01-09 math.OC
Incremental Input-to-State Stability and Equilibrium Tracking for Stochastic Contracting Dynamics
Hiroshima University（广岛大学）；Rice University（莱斯大学）；University of California at Santa Barbara（加州大学圣塔芭芭拉分校）
本文研究了随机收缩动力学的增量输入到状态稳定性，通过分析SDE的向量场和输入特性，提出在噪声影响下的时间变化平衡跟踪误差估计方法。
2026-02-20 cs.SY eess.SY math.OC
On incremental and semi-global exponential stability of gradient flows satisfying generalized Łojasiewicz inequalities
ECE Department at Northeastern University（东北大学电气与计算机工程系）
本文基于收缩理论，研究满足广义Łojasiewicz不等式的梯度系统，证明在目标函数有唯一强凸极小值时，系统具有半全局指数稳定性，并给出非凸梯度流的全局增量性指数稳定条件。
2026-03-26 cs.SY eess.SY math.OC
A Contraction Framework for Stochastic Operators with Bootstrapping: Application to TD Learning
Delft University of Technology（代尔夫特理工大学）；Rey Juan Carlos University（胡安卡洛斯国王大学）
本文提出一个通用收缩框架，将带自举的随机更新建模为随机算子，在无需梯度结构且允许采样误差增长的情况下，推导出TD学习等算法的有限时间收敛界，并统一了现有确定性及随机梯度型结果。
2026-09-25 cs.LG eess.SP math.OC
Stochastic Optimal Feedforward-Feedback Control for Partially Observable Sensorimotor Systems
Université Paris-Saclay（巴黎萨克雷大学）；Inria（法国国家数字与信息系统研究院）；CIAMS（数学交叉研究中心）；ENSTA（国立高等先进技术学院）；Institut Polytechnique de Paris（巴黎理工学院）
本文提出了一种随机最优前馈-反馈控制框架，用于部分可观测的本体感觉运动系统，通过统计线性化将随机问题转化为确定性优化，揭示肌肉协同收缩的最优适应机制。
2026-03-05 math.OC
Incremental Nonlinear Stability Analysis of Stochastic Systems Perturbed by Lévy Noise
提出了一个刻画受复合Poisson散粒噪声和有限测度Lévy噪声扰动的非线性随机系统增量稳定性的理论框架。对于每一种噪声类型，我们比较的轨迹的扰动系统与不同的噪声样本路径对标称，未扰动系统的轨迹。我们表明，对于有限数量的跳跃所产生的噪声过程中，轨迹之间的均方误差指数收敛到一个有界误差球在一个有限的时间间隔下实际有界性假设。散粒噪声系统的收敛速率与指数稳定的标称系统相同，但在散粒噪声过程的参数和误差球的大小之间进行了权衡。Lévy噪声系统的收敛速度和误差球分别是散粒噪声和白噪声系统各自量的近似直和，这一结果类似于Lévy-Khintchine定理。我们证明了我们的结果，使用几个数值案例研究。
2022-06-10 cs.SY eess.SY math.OC
On the Contraction Coefficient of the Schrödinger Bridge for Stochastic Linear Systems
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Georgia Institute of Technology（佐治亚理工学院）；Iowa State University（爱荷华州立大学）
本文研究了随机线性系统 Schrödinger 桥问题中收缩系数的先验估计，为其提供了新的几何与控制理论解释，并指出通过对端点支撑集进行预处理可改进最坏情况收缩系数的计算。
2023-09-12 cs.LG cs.SY eess.SY
An Incremental Sampling-based Algorithm for Stochastic Optimal Control
Massachusetts Institute of Technology（麻省理工学院）
针对连续时间连续空间随机最优控制问题，提出增量马尔可夫决策过程（iMDP）算法，通过随机采样状态空间生成离散化序列并异步值迭代，以任意精度逼近最优策略。
2012-02-24 cs.RO cs.SY eess.SY
Stochastic and incremental subgradient methods for convex optimization on Hadamard spaces
Cornell University（康奈尔大学）；University of Seville（塞维利亚大学）；Babeş-Bolyai University（博拜什-博约伊大学）
本文提出了一种基于Busemann函数的子梯度方法，用于在Hadamard空间上解决凸优化问题，包括p-均值问题和BHV树空间中的中位数计算。
2026-03-10 cs.CG cs.DS cs.NA
Certifying Incremental Quadratic Constraints for Neural Networks via Convex Optimization
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Johns Hopkins University（约翰斯·霍普金斯大学）
对神经网络的输入和输出进行约束抽象，可以用于神经网络分类器的分析，并导出基于优化的算法，以验证包含神经网络的反馈系统的稳定性和鲁棒性。在本文中，我们提出了一个凸规划，在线性矩阵不等式（LMI）的形式，以证明增量二次约束的神经网络在感兴趣的区域上的地图。这些证明可以捕获几个有用的性质，例如（局部）Lipschitz连续性，单侧Lipschitz连续性，可逆性和收缩性。我们说明了我们的方法在两个不同的设置中的效用。首先，我们开发了一个半定的程序来计算神经网络的局部Lipschitz常数的保证和尖锐的上界，并说明了随机网络以及MNIST训练的网络上的结果。其次，我们考虑一个线性时不变系统的反馈与近似模型预测控制器参数的神经网络。然后，我们把稳定性分析成一个半定的可行性方案，并估计一个椭球不变集的闭环系统。
2021-04-30 cs.LG math.OC
Incremental Gauss-Newton Descent for Machine Learning
IMT School for Advanced Studies Lucca（利卡学院高级研究学院）
针对标量输出损失逐样本评估的场景，提出增量高斯-牛顿下降法（IGND），通过闭式标量归一化随机梯度实现无需存储或求解曲率矩阵的高效更新，并证明其收敛性。
2026-05-26 cs.LG math.OC stat.ML
Stochastic Stability of Nonlinear MPPI via Contraction Theory and Control Lyapunov Functions
Tennessee Technological University（田纳西理工大学）；Mercer University（默瑟大学）
研究非线性MPPI的随机稳定性，通过稳定性继承论证，在特定假设下，证明有限样本MPPI能继承标称收缩，给出近似误差分解，在小增益条件下满足稳定性界，并提供相关重述及设计程序。
2026-07-09 cs.SY eess.SY math.OC
A Theoretical Overview of Neural Contraction Metrics for Learning-based Control with Guaranteed Stability
Graduate Aerospace Laboratories, Caltech（加州理工学院研究生航空航天实验室）；Nonlinear Systems Laboratory, MIT（麻省理工学院非线性系统实验室）；Reliable Autonomous System Laboratory, MIT（麻省理工学院可靠自主系统实验室）
本文介绍了神经收缩度量（NCM）的理论概述：一个最优收缩度量和相应的微分李雅普诺夫函数的神经网络模型，它的存在是非自治非线性系统轨迹增量指数稳定的充分必要条件。其创新之处在于为基于学习的控制框架提供形式化的鲁棒性保证，利用收缩理论作为分析工具，通过凸优化研究学习系统的非线性稳定性。特别是，我们严格表明，在本文中，通过把建模误差的学习计划作为外部干扰，NCM控制能够获得显式的约束之间的距离随时间变化的目标轨迹和扰动的解决方案的轨迹，指数随时间的推移而下降，即使在确定性和随机扰动的存在下。这些有用的功能允许同时合成的收缩度量和相关的控制律的神经网络，从而使实时可计算的和可能鲁棒的学习为基础的控制一般控制仿射非线性系统。
2021-10-02 cs.LG cs.RO cs.SY
Robust Controller Design for Stochastic Nonlinear Systems via Convex Optimization
California Institute of Technology（加州理工学院）
针对一类Ito随机非线性系统和拉格朗日系统，提出了一种基于凸优化的随机稳态跟踪误差最小化（CV-STEM）控制方法.它的创新之处在于计算的控制输入的最佳收缩度量，这grenestly最小化系统轨迹的稳态均方跟踪误差的上界。虽然问题的最小化的界限是非凸的，它的等价的凸公式提出利用状态相关的系数参数化的非线性系统方程。它示出使用随机增量收缩分析，CV-STEM提供了一个足够的保证指数有界的误差的所有时间与L2-鲁棒性。为了它的采样为基础的实施，我们提出了离散时间随机收缩分析的状态和时间相关的度量以及其明确的连接到连续时间的情况下。我们验证了CV-STEM的优越性，PID，H ∞和基线非线性控制器的航天器姿态控制和同步问题。
2020-11-19 cs.RO cs.SY eess.SY
Improved asynchronous parallel optimization analysis for stochastic incremental methods
INRIA（法国国家信息与自动化研究所）；École Normale Supérieure, Paris（巴黎高等师范学院）；Université de Montréal（蒙特利尔大学）
随着数据集规模的不断增加和多核计算机体系结构的发展，异步并行优化算法对机器学习领域变得越来越重要。不幸的是，进行理论分析异步方法是困难的，特别是由于引入延迟和不一致的固有顺序算法。处理这些问题往往需要诉诸简化但不切实际的假设。通过一个新的视角，我们重新审视并澄清了一个微妙但重要的技术问题，这个问题存在于最近异步并行优化算法的大部分收敛速度证明中，并提出了一个简化的“扰动迭代”框架来解决这个问题。我们通过分析三个不同的异步并行增量优化算法来证明我们的新框架的有用性：Hogwild（异步SGD）、KROMAGNON（异步SVRG）和ASAGA，增量梯度算法SAGA的一种新型异步并行版本，具有快速的线性收敛速率。我们能够消除有问题的假设，并获得更好的理论结果。值得注意的是，我们证明了ASAGA和KROMAGNON可以获得理论上的线性加速多核系统，即使没有稀疏性假设。我们提出了一个40核架构上的实现结果，说明了实际的加速比以及硬件开销。最后，我们调查的重叠常数，一个不好理解的，但中心量的异步并行算法的理论分析。我们发现，它包含了更多的复杂性比以前的工作中提出的，往往是数量级大于传统上认为的。
2019-03-21 cs.LG math.OC stat.ML
Some Limit Properties of Markov Chains Induced by Stochastic Recursive Algorithms
Electrical and Computer Engineering Department, The Ohio State University（俄亥俄州立大学电气与计算机工程系）；Microsoft Corp（微软公司）
本文研究了由随机递归算法诱导的马尔可夫链的极限性质，通过分析迭代随机算子的收敛性，证明了随机序列的分布弱收敛于收缩算子生成的轨迹，并进一步展示了随机序列的时间平均收敛于不变分布的空间均值。
2020-07-23 cs.LG cs.SY eess.SY
SGD for robot motion? The effectiveness of stochastic optimization on a new benchmark for biped locomotion tasks
Waseda University（早稻田大学）；Waseda Institute for Advanced Study（早稻田高等研究所）；Humanoid Robotics Institute（人形机器人研究所）
轨迹优化和位姿生成是机器人运动中的难题，它可能是非凸的，存在多个局部最优解。由于难以对不同的解决办法进行比较，缺乏公开的基准进一步阻碍了在这些问题上取得进展。在本文中，我们介绍了一个新的基准轨迹优化和姿态生成的足式机器人，使用预定义的情况下，机器人和约束条件，以及评估标准。我们评估了最先进的轨迹优化算法的基准序列二次规划（SQP）的基础上，以及新的随机和增量优化方法借用大规模机器学习文献。有趣的是，我们发现，这些随机和增量的方法，这是基于随机梯度下降（SGD），实现更高的成功率比SQP在艰难的初始化。受此观察的启发，我们还提出了一个新的增量变量的SQP更新的成本和约束的随机子集在每次迭代。该算法在成功率和收敛速度方面都是最好的，在两个标准上都比SQP提高了30%。基准测试的资源和解决方案评估脚本是公开的。
2017-10-09 cs.LG cs.RO math.OC
Finite-Time Bounds for Two-Time-Scale Stochastic Approximation with Arbitrary Norm Contractions and Markovian Noise
Department of Electrical Engineering, Stanford University（斯坦福大学电气工程系）；Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程系）
本文研究带任意范数压缩与马尔可夫噪声的非线性双时间尺度随机逼近，利用广义Moreau包络和Poisson方程给出有限时间均方界，并应用于Q-Learning与GNE学习。
2025-09-28 cs.LG cs.SY eess.SY
An LMI Framework for Contraction-based Nonlinear Control Design by Derivatives of Gaussian Process Regression
收缩理论用雅可比矩阵来描述非线性系统的分析。虽然这提供了开发用于非线性控制设计的线性矩阵不等式（LMI）框架的可能性，但是条件不是施加在控制器上而是施加在它们的偏导数上，这使得控制设计具有挑战性。在本文中，我们说明这个所谓的可积性问题可以解决的非标准使用高斯过程回归（GPR）参数化控制器，然后建立一个线性矩阵不等式框架的非线性离散时间系统的基于收缩的控制设计，作为一个易于实现的工具。随后，我们考虑的情况下，漂移矢量场是未知的，并采用GPR函数拟合作为其标准使用。GPR描述学习错误的概率，因此，我们进一步讨论如何将随机学习错误的建议LMI框架。
2023-01-20 cs.SY eess.SY math.OC
Contraction Theory for Nonlinear Stability Analysis and Learning-based Control: A Tutorial Overview
Division of Engineering and Applied Science, California Institute of Technology, Pasadena, CA, USA（加州理工学院工程与应用科学系）；Jet Propulsion Laboratory, California Institute of Technology, Pasadena, CA, USA（加州理工学院喷气推进实验室）；Nonlinear Systems Laboratory, Massachusetts Institute of Technology, Cambridge MA, USA（麻省理工学院非线性系统实验室）
本文综述了收缩理论在非线性确定性和随机系统稳定性分析中的应用，重点在于通过凸优化系统构建收缩度量以获得鲁棒性和稳定性保证。
2026-03-17 cs.LG cs.RO cs.SY
A Constraint-Tightening Approach to Nonlinear Stochastic Model Predictive Control for Systems under General Disturbances
本文提出了一种随机系统的非线性模型预测控制策略，该系统具有一般的（状态和输入相关的）扰动和机会约束。我们的方法使用一个在线计算的随机管，以确保在随机不确定性的存在下的稳定性，约束满足和递归的可行性。管的形状和约束回退是基于离线计算的增量李雅普诺夫函数。
2019-12-04 cs.SY eess.SY math.OC
SAN: Stochastic Average Newton Algorithm for Minimizing Finite Sums
本文提出一种基于重写平稳性和子采样牛顿-拉夫森法的随机平均牛顿（SAN）算法，用于有限和优化，每次迭代仅需一个数据点，无需调参，且与SAG、SVRG等方法相比具有竞争力。
2022-03-14 cs.NA math.NA math.OC
