Convergence Rate Analysis of Continuous- and Discrete-Time Smoothing Gradient Algorithms
本文针对不可微目标函数最小化，分析采用递减平滑参数的连续与离散时间平滑梯度算法，并借助统一 Lyapunov 函数证明二者收敛速率等价。
2023-12-07 math.OC
On the Quality of First-Order Approximation of Functions with Hölder Continuous Gradient
证明了梯度的Hölder连续性不仅是一阶Taylor逼近误差存在整体上界的充分条件，而且是一阶Taylor逼近误差存在整体上界的必要条件.我们还将这个全局上界与梯度的Hölder常数联系起来。这个关系表示为一个区间，取决于霍德尔常数，在这个区间内，一阶泰勒近似的误差保证为。我们表明，对于Lipschitz连续的情况下，间隔不能减少。提出了二次型范数的一个应用，它使我们能够得到一个新的特征的欧几里德范数。
2020-01-22 math.OC
Stochastic Composition Optimization of Functions without Lipschitz Continuous Gradient
本文研究了无Lipschitz连续梯度的两层复合函数的随机最优化问题。光滑性是广义的相对光滑性的概念，它激发了Bregman梯度法。我们提出了三个随机组成Bregman梯度算法的三种可能的相对平滑的成分的情况下，并提供其样本的复杂性，以实现一个$ε$ -近似稳定点。对于相对光滑的组合，第一个算法要求$O(ε^{-2})$调用内部函数值和梯度以及外部函数梯度的随机预言机。当两个函数都相对光滑时，第二个算法要求$O(ε^{-3})$调用内部函数值随机预言机，$O(ε^{-2})$调用内部和外部函数梯度随机预言机。我们进一步改进了第二个算法的方差减少的设置，只有内部函数是光滑的。所得到的算法需要$O(ε^{-5/2})$调用内部函数值随机预言机，$O(ε^{-3/2})$调用内部函数梯度和$O(ε^{-2})$调用外部函数梯度随机预言机。最后，我们数值评估这三种算法在两个不同的例子的性能。
2023-02-23 math.OC
Stable gradient-adjusted root mean square propagation on least squares problem
针对线性最小二乘问题，本文提出小批量 SGA-RMSProp，证明相容情形 R-线性收敛、不相容情形收敛至受批量大小控制的邻域，并通过实验给出自适应切换到 SGD 的策略。
2025-07-25 math.OC
The Continuous Stochastic Gradient Method: Part II -- Application and Numerics
在这篇文章中，我们提出了一个数值分析的连续随机梯度（CSG）方法，包括应用拓扑优化和收敛速度。与标准的随机梯度优化方案相比，CSG不丢弃来自先前迭代的旧梯度样本。相反，计算设计相关的积分权重以形成线性组合作为对当前设计处的真实梯度的近似。由于近似误差在迭代过程中消失，CSG代表了一种混合方法，开始时像一个纯粹的随机方法，并表现得像一个完整的梯度计划的限制。在这项工作中，CSG的效率证明了拓扑优化的实际相关应用。这些设置的特点是，大量的优化变量\textit{and}的目标函数，其评估需要数值计算的多重积分级联在一个非线性的方式。以往任何一种现有的最优化方法都无法解决这类问题。最后，关于收敛速度，第一估计提供和确认的帮助下，数值实验。
2023-03-22 math.OC
Model-free Reinforcement Learning for Continuous Time and State: A Stochastic Maximum Principle Approach
Xidian University（西安电子科技大学）；The Hong Kong Polytechnic University（香港理工大学）；University of Science and Technology of China（中国科学技术大学）
本文提出一种基于随机最大值原理的无模型强化学习算法，用于连续时间随机控制问题，通过直接学习哈密顿梯度实现策略梯度优化，并证明其收敛性及与现有方法的等价性。
2026-10-12 math.OC
Distributed Gradient Descent: Nonconvergence to Saddle Points and the Stable-Manifold Theorem
本文研究了一个分布式梯度下降（DGD）过程，并认为在非凸最优化问题，DGD通常收敛到局部极小点，而不是鞍点的问题。本文考虑光滑目标函数的无约束极小化问题。在集中式的设置中，证明梯度下降（和变体）的鞍点不收敛的问题通常通过经典动力系统理论的稳定流形定理来处理。然而，经典的稳定流形定理是不适用于分布式设置。本文发展了一个适当的稳定流形定理DGD表明，收敛到鞍点可能只发生在一个低维稳定流形。在适当的假设下（例如，但是，这个结果意味着DGD通常收敛到局部最小值而不是鞍点。
2019-10-23 cs.MA math.OC
Complexity of Projected Gradient Methods for Strongly Convex Optimization with Hölder Continuous Gradient Terms
The Hong Kong Polytechnic University（香港理工大学）；North Carolina State University（北卡罗来纳州立大学）
本文研究了强凸优化中投影梯度法的复杂性，针对具有Hölder连续梯度项的问题，提出改进的复杂性界并提供数值示例。
2026-11-11 math.OC
A Gradient Descent-Ascent Method for Continuous-Time Risk-Averse Optimal Control
本文提出一种针对连续时间随机最优控制问题的梯度下降-上升算法，利用一致性风险度量的对偶性进行光滑极小-极大重构，证明收敛性并通过轨迹跟踪数值模拟展示其优于经典期望的效果。
2023-06-22 math.OC
Constrained, Global Optimization of Functions with Lipschitz Continuous Gradients
我们提出了两个一阶序列优化算法来解决约束最优化问题。我们考虑一个黑盒设置与先验未知的，非凸的目标和约束函数，具有Lipschitz连续梯度。所提出的算法平衡的先验未知的可行空间的探索与追求的全局最优性在一个预先指定的有限数量的一阶预言调用。第一个算法适应一个不可行的开始，并提供一个接近最优的全局解决方案或建立不可行性。然而，该算法可能会产生不可行的迭代过程中的搜索。对于一个强凸约束函数和一个可行的初始解猜测，第二个算法返回一个接近最优的全局解，没有任何约束违反。与现有的方法相比，这两种算法在每次迭代中都计算全局次优界。我们还表明，该算法可以满足用户指定的公差在计算的解决方案与接近最佳的复杂性，在甲骨文要求的一大类最优化问题。我们提出了易于处理的算法实现，利用Lipschitz连续梯度属性提供的结构。
2020-11-17 math.OC
Gradient Descent in the Absence of Global Lipschitz Continuity of the Gradients
针对梯度仅局部Lipschitz连续的非凸函数，提出递减步长梯度下降的全局收敛性分析，推广已知结果并揭示发散机制中的行为。
2023-06-24 math.OC
PiTSBiCG: Parallel in Time Stable Bi-Conjugate Gradient Algorithm
提出了一种新的时间并行（PiT）数值模拟方法，用于求解不定常的偏/常微分方程。我们提出了一个可靠的替代方案，众所周知的parareal在时间算法，通过制定在时间上的并行代数问题，并解决它使用适应双共轭梯度稳定的方法。所提出的并行时间稳定双共轭算法（PiTSBiCG）在稳定各种问题的并行解决方面具有很大的潜力。在这项工作中，我们描述了新算法的数学方法，并提供了数值证据，表明其优越性的标准parareal方法。
2022-03-18 cs.NA math.NA math.OC
Synchronizing continuous-time neutrally stable linear systems via partial-state coupling
研究了一般情况下耦合连续线性系的同步问题。对于输出可检测的中立稳定线性系，证明了在所有固定（有向）连通网络拓扑下，存在线性输出反馈律，使得耦合系统全局渐近同步.提供了一种算法来计算一个这样的反馈规律的基础上，个别系统参数。对偶的情况下，其中个别系统是中立稳定和稳定的，从他们的输入，也被认为是平行的结果建立。
2008-01-21 math.DS math.OC
Deterministic Policy Gradient for Reinforcement Learning with Continuous Time and State
本文提出连续时间强化学习的确定性策略梯度方法，通过理论推导和算法设计，实现稳定学习和快速收敛，优于传统随机策略方法。
2026-03-16 cs.AI cs.LG math.OC
Convergence of continuous-time stochastic gradient descent with applications to deep neural networks
Universitat Pompeu Fabra and Barcelona School of Economics Department of Economics and Business（巴塞罗那经济学院和巴塞罗那大学）
本文研究了学习问题中最小化总体期望损失的连续时间随机梯度下降近似，确立了收敛的一般充分条件，扩展了Chatterjee（2022）的非随机结果，并应用于过参数化神经网络训练。
2025-10-31 cs.LG math.OC stat.ML
Adversarial Training for Gradient Descent: Analysis Through its Continuous-time Approximation
UC Berkeley（加州大学伯克利分校）
本文为对抗训练的极小极大博弈建立连续时间近似，借此精确比较随机梯度下降与对抗训练，从梯度流视角证实了对抗训练的鲁棒性。
2023-05-24 cs.LG math.OC math.PR
Continuous-time Lower Bounds for Gradient-based Algorithms
本文推导了连续时间梯度优化算法的收敛速度的下界。该算法受到时间归一化约束，避免了重新参数化的时间，以使连续时间的收敛速度的讨论有意义。我们减少了多维的问题，一个单一的维度，恢复众所周知的下界从离散时间设置，并提供洞察为什么这些下界发生。我们提出的算法，实现建议的下界，即使考虑的函数类包括某些非凸函数。
2020-08-03 cs.SY eess.SY math.OC
Energy stable gradient flow schemes for shape and topology optimization in Navier-Stokes flows
针对不可压缩 Navier-Stokes 流中的形状与拓扑优化，提出相场梯度流的稳定化半隐式格式，证明其连续与离散无条件能量稳定性，并通过二维和三维 CFD 实验验证有效性与鲁棒性。
2024-05-08 cs.NA math.NA math.OC
Gradient descent GAN optimization is locally stable
Carnegie-Mellon University（卡内基梅隆大学）
尽管生成对抗网络（GANs）日益突出，但GANs中的优化仍然是一个知之甚少的话题。在本文中，我们分析了GAN优化的“梯度下降“形式，即，在自然设置中，我们同时在生成器和卷积器参数中采取小的梯度步骤。我们表明，即使GAN优化不对应于一个凹凸游戏（即使是简单的参数化），在适当的条件下，这个优化过程的平衡点仍然是\emph{locally asymptotically stable}为传统的GAN制定。另一方面，我们证明了最近提出的Wasserstein GAN在平衡点附近可以有非收敛极限环。受此稳定性分析的启发，我们提出了一个额外的正则化项的梯度下降GAN更新，\emph{is}能够保证局部稳定的WGAN和传统的GAN，也显示了实际的承诺，在加快收敛和解决模式坍塌。
2018-01-13 cs.AI cs.LG math.OC
Deterministic Policy Gradient Primal-Dual Methods for Continuous-Space Constrained MDPs
King Juan Carlos University（胡安·卡洛斯国王大学）；University of Pennsylvania（宾夕法尼亚大学）
针对连续空间约束MDPs计算确定性最优策略的难题，提出具有非渐近收敛性的D-PGPD算法，通过二次正则化原始-对偶更新求解，并在机器人导航和流体控制实验中验证有效性。
2025-04-04 cs.AI math.OC
Full error analysis of policy gradient learning algorithms for exploratory linear quadratic mean-field control problem in continuous time with common noise
针对带共同噪声的连续时间LQ平均场控制，本文分析PG强化学习算法，证明基于模型的收敛性及无模型两点梯度估计的全局线性收敛与样本复杂度，并用数值实验验证。
2024-08-05 math.OC stat.ML
A More Stable Accelerated Gradient Method Inspired by Continuous-Time Perspective
Nesterov的加速梯度法（NAG）被广泛用于具有包括深度学习的机器学习背景的问题，并且对应于连续时间微分方程。从这一关系出发，可以研究微分方程的性质及其数值逼近，从而改进加速梯度法。在这项工作中，我们提出了一个新的改进NAG的稳定性的启发数值分析。我们给出了NAG的精确阶，作为其连续时间极限的数值逼近，然后提出了一种新的高阶方法。我们从理论上表明，我们的新方法是更稳定的比NAG大步长。矩阵补全和手写数字识别实验表明，该方法具有较好的稳定性。此外，在实验中，更好的稳定性导致更高的计算速度。
2022-04-02 cs.LG cs.NA math.NA
Perturbed Gradient Descent Algorithms are Small-Disturbance Input-to-State Stable
University of New Mexico（新墨西哥大学）；New York University（纽约大学）；Northeastern University（东北大学）；Massachusetts Institute of Technology（麻省理工学院）
本文引入小扰动输入到状态稳定性概念，将线性PL条件推广为非线性版本，证明满足该条件的梯度下降算法及LQR策略梯度、自然策略梯度、Gauss-Newton方法均具有小扰动ISS鲁棒性。
2026-10-28 cs.SY eess.SY math.OC
Frank-Wolfe Works for Non-Lipschitz Continuous Gradient Objectives: Scalable Poisson Phase Retrieval
研究了泊松噪声模型中的相位恢复问题。受PhaseLift方法的启发，我们通过求解具有核范数约束的凸规划来近似最大似然估计。而Frank-Wolfe算法，连同Lanczos方法，可以有效地处理核范数约束，我们的目标函数不具有Lipschitz连续梯度，因此现有的收敛保证Frank-Wolfe算法不适用。在本文中，我们证明了Frank-Wolfe算法适用于泊松相位恢复问题，并且具有O（1/t）的整体收敛速度，其中t是迭代计数器。我们提供了严格的理论保证和说明数值结果。
2016-02-01 math.OC stat.AP
Online Optimization of Switched LTI Systems Using Continuous-Time and Hybrid Accelerated Gradient Flows
本文研究了控制线性时不变切换动力系统的反馈控制器设计问题，使系统趋向于时变凸优化问题的解轨道。我们提出了两种类型的控制器：（i）一个连续的控制器的启发，在线梯度下降法，和（ii）一个混合控制器，可以被解释为一个在线版本的Nesterov的加速梯度法与重新启动的状态变量。通过设计，控制器连续地将系统转向时变优化器，而不需要影响系统的外部干扰的知识。对于光滑的费用函数和满足Polyak-Jasojasiewicz不等式，证明了当系统和控制器的时间尺度充分分离且系统的切换信号平均变化缓慢时，在线梯度流控制器可保证一致全局指数稳定.对于强凸的费用函数，我们证明了混合加速控制器优于连续梯度下降法。当费用函数不是强凸时，我们证明了混合加速方法保证了全局实用渐近稳定性。
2022-02-19 cs.SY eess.SY math.OC
Gradient Dominance in the Linear Quadratic Regulator: A Unified Analysis for Continuous-Time and Discrete-Time Systems
University of California San Diego（加州大学圣地亚哥分校）
本文提出了一种统一的梯度主导性性质，适用于连续时间和离散时间LQR系统，在温和的稳定性和可检测性假设下，揭示了两种动态之间的结构对称性。
2026-02-26 cs.SY eess.SY math.OC
Gradient Methods for Submodular Maximization
University of Pennsylvania（宾夕法尼亚大学）；University of Southern California（南加州大学）；Yale University（耶鲁大学）
在本文中，我们研究的问题，最大化的连续次模函数，自然出现在许多学习应用，如涉及效用函数的主动学习和传感，矩阵逼近和网络推理。尽管这些函数明显缺乏凸性，但我们证明了随机投影梯度方法可以为凸约束的连续次模函数最大化提供强逼近保证。更具体地说，我们证明了单调连续DR-次模函数，所有不动点的投影梯度上升提供了一个因素$1/2$近似的全球最大值。我们还研究了随机梯度和镜像方法，并表明，$\mathcal{O}(1/ε^2)$迭代后，这些方法达到的解决方案，达到预期的目标值超过$(\frac{\text{OPT}}{2}-ε)$。我们的结果的一个直接应用是最大化的次模函数，定义随机，即次模函数被定义为一个家庭的次模函数与未知的分布的期望。我们将展示如何随机梯度方法自然非常适合这种设置，导致一个因素$1/2$近似时，函数是单调的。特别是，它使我们能够近似最大化离散的，单调的子模块优化问题，通过投影梯度下降的连续松弛，直接连接的离散和连续域。最后，对真实数据的实验表明，与其他连续基线相比，我们的投影梯度方法始终实现最佳效用，同时在计算工作量方面保持竞争力。
2017-08-15 cs.LG math.OC
Stochastic Gradient Descent in Continuous Time
连续时间随机梯度下降（SGDCT）为连续时间模型的统计学习提供了一种计算效率高的方法，广泛应用于科学、工程和金融领域。SGDCT算法遵循沿着连续数据流的（有噪声的）下降方向。SGDCT在连续时间内执行在线参数更新，其中参数更新$θ_t$满足随机微分方程。我们证明了$\lim_{t \rightarrow \infty} \nabla \bar g(θ_t) = 0$，其中$\bar g$是一个自然的目标函数的连续时间动态的估计。收敛性证明通过使用适当的泊松方程来帮助描述参数在大时间内的演化，从而利用遍历性。SGDCT也可以用来解决连续时间的最优化问题，如美式期权。对于某些连续时间问题，SGDCT相比传统的随机梯度下降算法有一些有前途的优势。作为一个示例应用，SGDCT与深度神经网络相结合，为高维美式期权（最多100维）定价。
2017-10-29 math.OC math.PR math.ST
Quantum Stochastic Gradient Descent in its continuous-time limit based on the Wigner formulation of Open Quantum Systems
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
该研究提出以Wigner表述搭建经典与量子概率算法的桥梁，聚焦推导基于开放量子系统Wigner表述的连续时间极限量子随机梯度下降方案，为量子优化算法研究提供新思路。
2025-10-29 cs.NA math-ph math.MP
Global Convergence of Policy Gradient for Linear-Quadratic Mean-Field Control/Game in Continuous Time
强化学习是一种强大的工具，可以通过与环境的交互来学习可能多个代理的最优策略。当代理的数量增长到非常大时，系统可以近似为平均场问题。因此，它激发了新的研究方向的平均场控制（MFC）和平均场游戏（MFG）。本文研究了线性二次平均场控制与对策的策略梯度法，其中假设每个代理具有相同的线性状态转移和二次费用函数。虽然大多数最近的工作的政策梯度MFC和MFG是基于离散时间模型，我们专注于连续时间模型的一些分析技术可以是有趣的读者。对于MFC和MFG，我们提供了策略梯度更新，并表明它以线性速度收敛到最优解，这是通过合成模拟验证。对于MFG，我们也提供了纳什均衡存在唯一的充分条件。
2020-08-16 math.OC stat.ML
Generalized Continuous-Time Models for Nesterov's Accelerated Gradient Methods
Department of Electrical and Computer Engineering（电气与计算机工程系）；Automation and Systems Research Institute（自动化与系统研究所）；Seoul National University（首尔国立大学）
本文提出广义连续时间模型，涵盖多种Nesterov方法，分析其收敛性并设计重启方案，揭示其与梯度流的联系，通过实验验证理论结果。
2026-03-20 cs.LG math.OC
The Continuous Stochastic Gradient Method: Part I -- Convergence Theory
在这篇文章中，我们提出了一个完整的概述连续随机梯度（CSG）方法，包括收敛结果，步长规则和算法的见解。我们考虑其中目标函数需要某种形式的积分的最优化问题，例如，期望值。由于近似的积分由一个固定的积分规则可以引入人工的局部解决方案的问题，同时提高了计算工作量，随机最优化计划已变得越来越流行，在这样的背景下。然而，已知的随机梯度型方法通常限于预期的风险函数，并且固有地需要多次迭代。如果费用函数的评估涉及求解多个状态方程，则后者尤其成问题，例如，以偏微分方程形式。为了克服这些缺点，最近的一篇文章介绍了CSG方法，该方法通过计算设计相关的积分权重来重新使用旧的梯度样本信息，以获得对全梯度的更好近似。虽然在原来的CSG文件收敛的子序列建立了一个递减的步长，在这里，我们提供了一个全收敛分析CSG恒定的步长和Armijo型线搜索。此外，还提出了新的积分权的确定方法，将CSG的应用范围扩展到高维积分和分布数据的问题。
2023-03-22 math.OC math.PR
Policy Optimization in Hybrid Discrete-Continuous Action Spaces via Mixed Gradients
Graduate School of Business Columbia University（哥伦比亚大学商学院）
本文提出混合策略优化方法HPO，通过混合梯度估计器解决高维空间中离散-连续动作的策略优化问题，实验显示其在库存控制和切换线性二次调节问题中优于PPO。
2026-05-14 cs.AI cs.LG math.OC
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing（西蒙斯理论计算研究所）
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹（也不是凸），并定义在一个期望，我们开发了一个变种的条件梯度法，称为\alg，它实现了\textit{tight}近似保证。更准确地说，对于单调和连续的DR-子模函数和受到\textit{general}凸体约束，我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证（在预期中）与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果，并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口，我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Linear convergence of a policy gradient method for some finite horizon continuous time control problems
University of Oxford（牛津大学）；London School of Economics and Political Science（伦敦政治经济学院）
尽管其在强化学习社区中很受欢迎，但用于具有非线性状态动态的连续时空控制问题的可证明收敛的策略梯度法一直难以捉摸。本文提出了有限时域随机控制问题反馈控制的近似梯度算法。状态动力学是具有仿射控制漂移的非线性扩散，费用函数在状态下是非凸的，在控制中是非光滑的。系统噪声可以退化，这允许确定性控制问题作为特殊情况。我们证明了在适当的条件下，该算法线性收敛到控制问题的一个稳定点，并通过近似梯度步骤的策略更新是稳定的。收敛结果证明了最近的强化学习算法，增加熵正则化或虚拟折扣因子的优化目标加速策略梯度法的收敛。该证明利用了向后随机微分方程的正则性估计。
2022-12-23 cs.LG math.OC math.PR
Policy Gradient-based Algorithms for Continuous-time Linear Quadratic Control
我们考虑连续时间线性二次型调节器（LQR）问题，在反馈增益集上优化实值矩阵函数。所得结果与Bu等人[1]中离散时间LTI系统的结果一致。在这个方向上，我们描述了几个分析性质（平滑度，二次增长），这是至关重要的基于梯度的算法的分析。我们还指出了连续时间设置的相似之处和独特的功能相比，其离散时间模拟。首先，我们研究了三种类型的适定性流直接政策更新的LQR：梯度流，自然梯度流和拟牛顿流。相应的代价函数的强制属性表明，这些流量承认唯一的解决方案，而梯度占主导地位的属性表明，底层的李雅普诺夫泛函衰减指数率;二次增长的另一方面，保证这些流量的轨迹是指数稳定的意义上的李雅普诺夫。然后，我们讨论了这些流的前向欧拉离散化，实现为梯度下降，自然梯度下降和拟牛顿迭代。我们提出了梯度下降和自然梯度下降的步长标准，保证这两种算法线性收敛到全局最优。还提出了拟牛顿迭代的最佳步长，保证了$Q$ -二次收敛速度-同时-恢复Kleinman-Newton迭代。最后，我们研究了LQR状态反馈综合与稀疏模式。在这种情况下，我们为投影梯度下降开发了必要的形式主义和见解，使我们能够保证收敛到一阶稳定点的次线性速度。
2020-06-12 cs.SY eess.SY math.OC
When do spectral gradient updates help in deep learning?
The Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
本文提出一个分层条件，用于预测谱梯度更新在深度学习中优于欧几里得梯度的方法，通过分析激活矩阵的稳定秩和梯度的核范数比值，揭示了谱方法在训练深度网络中的有效条件。
2026-01-14 cs.LG math.OC stat.ML
From sparse recovery to plug-and-play priors, understanding trade-offs for stable recovery with generalized projected gradient descent
Univ. Bordeaux, Bordeaux INP, CNRS, IMB（波尔多大学，波尔多理工学院，法国国家科学研究中心，数学研究所）
本文提出了一种通用投影梯度下降框架，结合深度投影先验，以提高稀疏恢复和图像逆问题中的稳定性和鲁棒性。
2025-12-08 cs.NE eess.IV math.OC
Data-Driven Discrete-time Control with Hölder-Continuous Real-time Learning
本文的工作为具有未知输入-输出动态和输出可由输入控制的离散时间系统的数据驱动控制提供了一个框架。该框架导致系统的稳定和鲁棒的实时控制，使得可以跟踪可行的输出轨迹。这是可能的快速实时稳定学习的未知动态使用Hölder连续学习计划，设计为离散时间稳定的干扰观测器。该观测器从先前的输入输出历史中学习，并且如果已知系统关于输出、输入、内部参数和状态以及时间是Lipschitz连续的，则它确保模型估计误差有限时间稳定收敛到零向量的有界邻域。结合非线性稳定控制器的设计，这使得所提出的框架非线性稳定和鲁棒性的干扰，模型的不确定性，和未知的测量噪声。观测器和控制器设计的非线性稳定性和鲁棒性分析进行了离散李雅普诺夫分析。在这个框架中的Hölder连续的瞬时稳定观测器和控制器的设计有助于证明这些计划的鲁棒性，并保证输出收敛到期望的输出轨迹的有界邻域。一个非线性二阶系统的数值实验表明，这种离散非线性无模型控制框架的性能。
2020-06-08 cs.SY eess.SY math.OC
Zero-Gradient-Sum Algorithms for Distributed Convex Optimization: The Continuous-Time Case
University of Oklahoma（俄克拉荷马大学）
针对固定拓扑无向网络上的无约束可分凸优化问题，提出基于李雅普诺夫函数的连续时间分布式零梯度求和算法，保证渐近收敛到全局最优解，并分析了指数收敛速率与网络拓扑、问题特性及算法参数的关系。
2011-09-26 cs.DC cs.SY eess.SY
Two-Timescale Stochastic Gradient Descent in Continuous Time with Applications to Joint Online Parameter Estimation and Optimal Sensor Placement
本文在一般的噪声和稳定性条件下，建立了连续时间下两时标随机梯度下降算法的几乎必然收敛，推广了离散时间下的已知结果.我们分析了加性噪声和非加性噪声的算法。在非加性的情况下，我们的分析进行的假设下，噪声是一个连续时间的马尔可夫过程，控制的算法状态。我们考虑的算法可以应用到一个广泛的类的双层优化问题。我们详细研究了这样一个问题，即联合在线参数估计和最优传感器配置的问题的部分观测扩散过程。我们演示了如何可以制定为一个双层优化问题，并提出了一个解决方案的形式，连续时间，两个时标，随机梯度下降算法。此外，在适当的条件下的潜在信号，过滤器，和过滤器的衍生物，我们建立几乎必然收敛的在线参数估计和最佳传感器放置的渐近对数似然和渐近滤波协方差的平稳点，分别。我们还提供了数值例子，说明所提出的方法的应用程序的部分观察Beneavor方程，和部分观察到的随机平流-扩散方程。
2021-09-30 math.OC math.PR math.ST
