A Policy Gradient Framework for Stochastic Optimal Control Problems with Global Convergence Guarantee
Duke University（杜克大学）
针对连续时间随机最优控制问题，提出策略梯度方法，分析其连续时间极限的梯度流，在正则性假设下证明全局收敛性并建立收敛速率，引入局部最优控制函数刻画迭代局部最优性。
2025-04-14 cs.LG cs.SY eess.SY
Deterministic Policy Gradient for Reinforcement Learning with Continuous Time and State
本文提出连续时间强化学习的确定性策略梯度方法，通过理论推导和算法设计，实现稳定学习和快速收敛，优于传统随机策略方法。
2026-03-16 cs.AI cs.LG math.OC
Continuous-Time Analysis of Accelerated Gradient Methods via Conservation Laws in Dilated Coordinate Systems
我们通过导出扩张坐标系中的守恒律来分析加速梯度法的连续时间模型。也就是说，我们不是分析$X(t)$的动力学，而是分析某些$α$和$X_c$的$W(t)=t^α(X(t)-X_c)$的动力学，并在这个膨胀的坐标系中导出类似于物理能量的守恒量。通过这种方法，我们恢复了许多已知的连续时间分析在一个流线型的方式，并获得新的连续时间分析OGM-G，一种加速机制，有效地降低梯度幅度，这是不同的Nesterov。最后，我们表明，一个半二阶辛欧拉离散在膨胀坐标系导致$\mathcal{O}(1/k^2)$率的标准设置的光滑凸最小化，没有任何进一步的假设，如无穷可微。
2022-06-24 math.OC
A New Complexity Result for Strongly Convex Optimization with Locally $α$-H{ö}lder Continuous Gradients
本文研究了梯度下降法在局部α-Hölder连续梯度条件下的强凸优化问题，证明了达到ε精度所需的复杂度界为O(log(ε^{-1}) ε^{2α-2})，推广了α=1时的经典结果。
2025-05-06 math.OC
Point Convergence Analysis of the Accelerated Gradient Method for Multiobjective Optimization: Continuous and Discrete
National Center for Applied Mathematics in Chongqing, Chongqing Normal University（重庆师范大学 重庆应用数学中心）
本文针对多目标优化加速梯度法的点收敛性公开问题，分别证明α=3时连续MAVD系统轨迹、所提离散MAG-GM方法生成序列均收敛至弱帕累托最优解。
2025-11-13 math.OC
Convergence Rate Analysis of Continuous- and Discrete-Time Smoothing Gradient Algorithms
本文针对不可微目标函数最小化，分析采用递减平滑参数的连续与离散时间平滑梯度算法，并借助统一 Lyapunov 函数证明二者收敛速率等价。
2023-12-07 math.OC
Convergence of continuous-time stochastic gradient descent with applications to deep neural networks
Universitat Pompeu Fabra and Barcelona School of Economics Department of Economics and Business（巴塞罗那经济学院和巴塞罗那大学）
本文研究了学习问题中最小化总体期望损失的连续时间随机梯度下降近似，确立了收敛的一般充分条件，扩展了Chatterjee（2022）的非随机结果，并应用于过参数化神经网络训练。
2025-10-31 cs.LG math.OC stat.ML
On the Quality of First-Order Approximation of Functions with Hölder Continuous Gradient
证明了梯度的Hölder连续性不仅是一阶Taylor逼近误差存在整体上界的充分条件，而且是一阶Taylor逼近误差存在整体上界的必要条件.我们还将这个全局上界与梯度的Hölder常数联系起来。这个关系表示为一个区间，取决于霍德尔常数，在这个区间内，一阶泰勒近似的误差保证为。我们表明，对于Lipschitz连续的情况下，间隔不能减少。提出了二次型范数的一个应用，它使我们能够得到一个新的特征的欧几里德范数。
2020-01-22 math.OC
Adversarial Training for Gradient Descent: Analysis Through its Continuous-time Approximation
UC Berkeley（加州大学伯克利分校）
本文为对抗训练的极小极大博弈建立连续时间近似，借此精确比较随机梯度下降与对抗训练，从梯度流视角证实了对抗训练的鲁棒性。
2023-05-24 cs.LG math.OC math.PR
Stochastic Composition Optimization of Functions without Lipschitz Continuous Gradient
本文研究了无Lipschitz连续梯度的两层复合函数的随机最优化问题。光滑性是广义的相对光滑性的概念，它激发了Bregman梯度法。我们提出了三个随机组成Bregman梯度算法的三种可能的相对平滑的成分的情况下，并提供其样本的复杂性，以实现一个$ε$ -近似稳定点。对于相对光滑的组合，第一个算法要求$O(ε^{-2})$调用内部函数值和梯度以及外部函数梯度的随机预言机。当两个函数都相对光滑时，第二个算法要求$O(ε^{-3})$调用内部函数值随机预言机，$O(ε^{-2})$调用内部和外部函数梯度随机预言机。我们进一步改进了第二个算法的方差减少的设置，只有内部函数是光滑的。所得到的算法需要$O(ε^{-5/2})$调用内部函数值随机预言机，$O(ε^{-3/2})$调用内部函数梯度和$O(ε^{-2})$调用外部函数梯度随机预言机。最后，我们数值评估这三种算法在两个不同的例子的性能。
2023-02-23 math.OC
Quantum Stochastic Gradient Descent in its continuous-time limit based on the Wigner formulation of Open Quantum Systems
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
该研究提出以Wigner表述搭建经典与量子概率算法的桥梁，聚焦推导基于开放量子系统Wigner表述的连续时间极限量子随机梯度下降方案，为量子优化算法研究提供新思路。
2025-10-29 cs.NA math-ph math.MP
Stochastic Gradient Descent in Continuous Time
连续时间随机梯度下降（SGDCT）为连续时间模型的统计学习提供了一种计算效率高的方法，广泛应用于科学、工程和金融领域。SGDCT算法遵循沿着连续数据流的（有噪声的）下降方向。SGDCT在连续时间内执行在线参数更新，其中参数更新$θ_t$满足随机微分方程。我们证明了$\lim_{t \rightarrow \infty} \nabla \bar g(θ_t) = 0$，其中$\bar g$是一个自然的目标函数的连续时间动态的估计。收敛性证明通过使用适当的泊松方程来帮助描述参数在大时间内的演化，从而利用遍历性。SGDCT也可以用来解决连续时间的最优化问题，如美式期权。对于某些连续时间问题，SGDCT相比传统的随机梯度下降算法有一些有前途的优势。作为一个示例应用，SGDCT与深度神经网络相结合，为高维美式期权（最多100维）定价。
2017-10-29 math.OC math.PR math.ST
The Continuous Stochastic Gradient Method: Part II -- Application and Numerics
在这篇文章中，我们提出了一个数值分析的连续随机梯度（CSG）方法，包括应用拓扑优化和收敛速度。与标准的随机梯度优化方案相比，CSG不丢弃来自先前迭代的旧梯度样本。相反，计算设计相关的积分权重以形成线性组合作为对当前设计处的真实梯度的近似。由于近似误差在迭代过程中消失，CSG代表了一种混合方法，开始时像一个纯粹的随机方法，并表现得像一个完整的梯度计划的限制。在这项工作中，CSG的效率证明了拓扑优化的实际相关应用。这些设置的特点是，大量的优化变量\textit{and}的目标函数，其评估需要数值计算的多重积分级联在一个非线性的方式。以往任何一种现有的最优化方法都无法解决这类问题。最后，关于收敛速度，第一估计提供和确认的帮助下，数值实验。
2023-03-22 math.OC
Model-free Reinforcement Learning for Continuous Time and State: A Stochastic Maximum Principle Approach
Xidian University（西安电子科技大学）；The Hong Kong Polytechnic University（香港理工大学）；University of Science and Technology of China（中国科学技术大学）
本文提出一种基于随机最大值原理的无模型强化学习算法，用于连续时间随机控制问题，通过直接学习哈密顿梯度实现策略梯度优化，并证明其收敛性及与现有方法的等价性。
2026-10-12 math.OC
Error Lower Bounds of Constant Step-size Stochastic Gradient Descent
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
随机梯度下降（SGD）在现代机器学习中起着核心作用。虽然有大量的工作，提供误差上界的SGD，不知道很多关于SGD误差下界。本文研究了定步长SGD算法的收敛性。对于具有Lipschitz梯度的潜在非凸目标函数，给出了SGD的误差下界。据我们所知，这是第一次分析SGD误差下界没有强凸性假设。我们用实验来说明我们的理论结果。
2019-10-18 cs.LG math.OC
Complexity of Projected Gradient Methods for Strongly Convex Optimization with Hölder Continuous Gradient Terms
The Hong Kong Polytechnic University（香港理工大学）；North Carolina State University（北卡罗来纳州立大学）
本文研究了强凸优化中投影梯度法的复杂性，针对具有Hölder连续梯度项的问题，提出改进的复杂性界并提供数值示例。
2026-11-11 math.OC
A Gradient Descent-Ascent Method for Continuous-Time Risk-Averse Optimal Control
本文提出一种针对连续时间随机最优控制问题的梯度下降-上升算法，利用一致性风险度量的对偶性进行光滑极小-极大重构，证明收敛性并通过轨迹跟踪数值模拟展示其优于经典期望的效果。
2023-06-22 math.OC
Lower and upper bounds of the convergence rate of gradient methods with composite noise in gradient
Moscow Independent Research Institute of Artificial Intelligence（莫斯科独立人工智能研究院）；Innopolis University（因诺波利斯大学）；Institute for Information Transmission Problems（信息传输问题研究所）
本文研究了在梯度优化中使用复合噪声的一阶方法的收敛性，提出了一种最优累积绝对误差的算法，并探讨了重启技术、正则化变换和停止准则对不同函数类的影响。
2026-03-12 math.OC
A More Stable Accelerated Gradient Method Inspired by Continuous-Time Perspective
Nesterov的加速梯度法（NAG）被广泛用于具有包括深度学习的机器学习背景的问题，并且对应于连续时间微分方程。从这一关系出发，可以研究微分方程的性质及其数值逼近，从而改进加速梯度法。在这项工作中，我们提出了一个新的改进NAG的稳定性的启发数值分析。我们给出了NAG的精确阶，作为其连续时间极限的数值逼近，然后提出了一种新的高阶方法。我们从理论上表明，我们的新方法是更稳定的比NAG大步长。矩阵补全和手写数字识别实验表明，该方法具有较好的稳定性。此外，在实验中，更好的稳定性导致更高的计算速度。
2022-04-02 cs.LG cs.NA math.NA
Constrained, Global Optimization of Functions with Lipschitz Continuous Gradients
我们提出了两个一阶序列优化算法来解决约束最优化问题。我们考虑一个黑盒设置与先验未知的，非凸的目标和约束函数，具有Lipschitz连续梯度。所提出的算法平衡的先验未知的可行空间的探索与追求的全局最优性在一个预先指定的有限数量的一阶预言调用。第一个算法适应一个不可行的开始，并提供一个接近最优的全局解决方案或建立不可行性。然而，该算法可能会产生不可行的迭代过程中的搜索。对于一个强凸约束函数和一个可行的初始解猜测，第二个算法返回一个接近最优的全局解，没有任何约束违反。与现有的方法相比，这两种算法在每次迭代中都计算全局次优界。我们还表明，该算法可以满足用户指定的公差在计算的解决方案与接近最佳的复杂性，在甲骨文要求的一大类最优化问题。我们提出了易于处理的算法实现，利用Lipschitz连续梯度属性提供的结构。
2020-11-17 math.OC
Policy Optimization in Hybrid Discrete-Continuous Action Spaces via Mixed Gradients
Graduate School of Business Columbia University（哥伦比亚大学商学院）
本文提出混合策略优化方法HPO，通过混合梯度估计器解决高维空间中离散-连续动作的策略优化问题，实验显示其在库存控制和切换线性二次调节问题中优于PPO。
2026-05-14 cs.AI cs.LG math.OC
Deterministic Policy Gradient Primal-Dual Methods for Continuous-Space Constrained MDPs
King Juan Carlos University（胡安·卡洛斯国王大学）；University of Pennsylvania（宾夕法尼亚大学）
针对连续空间约束MDPs计算确定性最优策略的难题，提出具有非渐近收敛性的D-PGPD算法，通过二次正则化原始-对偶更新求解，并在机器人导航和流体控制实验中验证有效性。
2025-04-04 cs.AI math.OC
Full error analysis of policy gradient learning algorithms for exploratory linear quadratic mean-field control problem in continuous time with common noise
针对带共同噪声的连续时间LQ平均场控制，本文分析PG强化学习算法，证明基于模型的收敛性及无模型两点梯度估计的全局线性收敛与样本复杂度，并用数值实验验证。
2024-08-05 math.OC stat.ML
Techniques for Gradient Based Bilevel Optimization with Nonsmooth Lower Level Problems
我们提出的技术近似双层最优化问题与非光滑的低级别的问题，可以有一个非唯一的解决方案。为此，我们用一个迭代算法，保证收敛到一个极小的问题的较低级别的最小化问题的极小化的表达。使用合适的非线性邻近距离函数，这种迭代算法的更新映射可以是可微的，尽管最小化问题是非光滑的。
2016-04-26 math.OC
Frank-Wolfe Works for Non-Lipschitz Continuous Gradient Objectives: Scalable Poisson Phase Retrieval
研究了泊松噪声模型中的相位恢复问题。受PhaseLift方法的启发，我们通过求解具有核范数约束的凸规划来近似最大似然估计。而Frank-Wolfe算法，连同Lanczos方法，可以有效地处理核范数约束，我们的目标函数不具有Lipschitz连续梯度，因此现有的收敛保证Frank-Wolfe算法不适用。在本文中，我们证明了Frank-Wolfe算法适用于泊松相位恢复问题，并且具有O（1/t）的整体收敛速度，其中t是迭代计数器。我们提供了严格的理论保证和说明数值结果。
2016-02-01 math.OC stat.AP
Gradient Methods for Submodular Maximization
University of Pennsylvania（宾夕法尼亚大学）；University of Southern California（南加州大学）；Yale University（耶鲁大学）
在本文中，我们研究的问题，最大化的连续次模函数，自然出现在许多学习应用，如涉及效用函数的主动学习和传感，矩阵逼近和网络推理。尽管这些函数明显缺乏凸性，但我们证明了随机投影梯度方法可以为凸约束的连续次模函数最大化提供强逼近保证。更具体地说，我们证明了单调连续DR-次模函数，所有不动点的投影梯度上升提供了一个因素$1/2$近似的全球最大值。我们还研究了随机梯度和镜像方法，并表明，$\mathcal{O}(1/ε^2)$迭代后，这些方法达到的解决方案，达到预期的目标值超过$(\frac{\text{OPT}}{2}-ε)$。我们的结果的一个直接应用是最大化的次模函数，定义随机，即次模函数被定义为一个家庭的次模函数与未知的分布的期望。我们将展示如何随机梯度方法自然非常适合这种设置，导致一个因素$1/2$近似时，函数是单调的。特别是，它使我们能够近似最大化离散的，单调的子模块优化问题，通过投影梯度下降的连续松弛，直接连接的离散和连续域。最后，对真实数据的实验表明，与其他连续基线相比，我们的投影梯度方法始终实现最佳效用，同时在计算工作量方面保持竞争力。
2017-08-15 cs.LG math.OC
Linear convergence of a policy gradient method for some finite horizon continuous time control problems
University of Oxford（牛津大学）；London School of Economics and Political Science（伦敦政治经济学院）
尽管其在强化学习社区中很受欢迎，但用于具有非线性状态动态的连续时空控制问题的可证明收敛的策略梯度法一直难以捉摸。本文提出了有限时域随机控制问题反馈控制的近似梯度算法。状态动力学是具有仿射控制漂移的非线性扩散，费用函数在状态下是非凸的，在控制中是非光滑的。系统噪声可以退化，这允许确定性控制问题作为特殊情况。我们证明了在适当的条件下，该算法线性收敛到控制问题的一个稳定点，并通过近似梯度步骤的策略更新是稳定的。收敛结果证明了最近的强化学习算法，增加熵正则化或虚拟折扣因子的优化目标加速策略梯度法的收敛。该证明利用了向后随机微分方程的正则性估计。
2022-12-23 cs.LG math.OC math.PR
Global Convergence of Policy Gradient for Linear-Quadratic Mean-Field Control/Game in Continuous Time
强化学习是一种强大的工具，可以通过与环境的交互来学习可能多个代理的最优策略。当代理的数量增长到非常大时，系统可以近似为平均场问题。因此，它激发了新的研究方向的平均场控制（MFC）和平均场游戏（MFG）。本文研究了线性二次平均场控制与对策的策略梯度法，其中假设每个代理具有相同的线性状态转移和二次费用函数。虽然大多数最近的工作的政策梯度MFC和MFG是基于离散时间模型，我们专注于连续时间模型的一些分析技术可以是有趣的读者。对于MFC和MFG，我们提供了策略梯度更新，并表明它以线性速度收敛到最优解，这是通过合成模拟验证。对于MFG，我们也提供了纳什均衡存在唯一的充分条件。
2020-08-16 math.OC stat.ML
Generalized Continuous-Time Models for Nesterov's Accelerated Gradient Methods
Department of Electrical and Computer Engineering（电气与计算机工程系）；Automation and Systems Research Institute（自动化与系统研究所）；Seoul National University（首尔国立大学）
本文提出广义连续时间模型，涵盖多种Nesterov方法，分析其收敛性并设计重启方案，揭示其与梯度流的联系，通过实验验证理论结果。
2026-03-20 cs.LG math.OC
Gradient Descent in the Absence of Global Lipschitz Continuity of the Gradients
针对梯度仅局部Lipschitz连续的非凸函数，提出递减步长梯度下降的全局收敛性分析，推广已知结果并揭示发散机制中的行为。
2023-06-24 math.OC
Policy Evaluation in Continuous MDPs with Efficient Kernelized Gradient Temporal Difference
我们考虑无限空间的无限时域折扣马尔可夫判定问题（MDP）的政策评估。我们重新制定这个任务的组合随机规划的函数值的决策变量，属于再生核希尔伯特空间（RKHS）。我们通过一个新的随机准梯度法操作与随机稀疏子空间投影的功能推广来解决这个问题。其结果是梯度时间差分学习的扩展，产生非线性参数化的Bellman评估方程的解的值函数估计。我们的主要贡献是一个内存有效的非参数随机方法，保证准确收敛到Bellman不动点的概率$1$与衰减步长。此外，在步长不变的情况下，我们得到了平均收敛到一个邻域，并且值函数估计具有有限的复杂性。在山车域中，我们观察到更快的收敛到更低的贝尔曼错误的解决方案比现有的方法所需的内存的一小部分。
2020-05-17 math.OC
Gradient Method for Optimization on Riemannian Manifolds with Lower Bounded Curvature
研究了在具有下界截面曲率的黎曼流形上极小化可微凸函数的梯度法。分析的方法提出了三种不同的有限程序确定的步长，即Lipschitz步长，自适应步长和Armijo的步长。第一个过程要求目标函数具有Lipschitz连续梯度，这是不必要的其他方法。证明了在没有任何水平集有界性假设的情况下，整个序列收敛到极小点。给出了具有Lipschitz连续梯度函数的迭代复杂性界。数值实验验证了该方法的有效性，并验证了理论结果。特别是，我们考虑的问题，找到黎曼中心的质量和所谓的Karcher的平均。我们的数值实验表明，自适应步长是一个有前途的计划，值得考虑。
2018-06-07 math.OC
The Continuous Stochastic Gradient Method: Part I -- Convergence Theory
在这篇文章中，我们提出了一个完整的概述连续随机梯度（CSG）方法，包括收敛结果，步长规则和算法的见解。我们考虑其中目标函数需要某种形式的积分的最优化问题，例如，期望值。由于近似的积分由一个固定的积分规则可以引入人工的局部解决方案的问题，同时提高了计算工作量，随机最优化计划已变得越来越流行，在这样的背景下。然而，已知的随机梯度型方法通常限于预期的风险函数，并且固有地需要多次迭代。如果费用函数的评估涉及求解多个状态方程，则后者尤其成问题，例如，以偏微分方程形式。为了克服这些缺点，最近的一篇文章介绍了CSG方法，该方法通过计算设计相关的积分权重来重新使用旧的梯度样本信息，以获得对全梯度的更好近似。虽然在原来的CSG文件收敛的子序列建立了一个递减的步长，在这里，我们提供了一个全收敛分析CSG恒定的步长和Armijo型线搜索。此外，还提出了新的积分权的确定方法，将CSG的应用范围扩展到高维积分和分布数据的问题。
2023-03-22 math.OC math.PR
Fixed-Time Stable Gradient Flows: Applications to Continuous-Time Optimization
本文提出了一种新的梯度流格式，产生收敛到最优点的凸优化问题的\textit{fixed}时间内从任何给定的初始条件无约束优化，约束优化，和最小最大问题。在梯度占优的假设下，研究了修正梯度流在无约束最优化问题中的应用。然后，提出了一种修正的牛顿法，该方法在目标函数的一些温和条件下具有固定时间收敛性。在此基础上，提出了一种求解带线性等式约束的凸优化问题的新方法，该方法能在固定时间内收敛到最优点。更具体地说，约束最优化问题制定为min-max问题，并提出了一种新的方法来计算最优解在固定时间使用拉格朗日对偶。最后，考虑了一般的极小极大问题，提出了一种修正的求解鞍点动力学固定时间最优解的方法。数值例子，比较所提出的方法对牛顿法，重标梯度法，Nesterov的加速方法的性能，包括证实的效率和适用性的修改后的梯度流在约束和无约束最优化问题。
2020-04-16 math.OC
A Continuous-Time Nesterov Accelerated Gradient Method for Centralized and Distributed Online Convex Optimization
利用在线连续时间Nesterov加速梯度法（OCT-NAG）研究了在线凸优化问题。我们表明，在线版本的布雷格曼拉格朗日产生的连续时间动态实现了恒定的静态遗憾$\frac{c}σ$独立的$T$，提供了一些有界性假设的目标函数和最优解。据作者所知，这是文献中最低的静态遗憾（低于$O(\text{log}(T))$）。我们进一步证明了在相同的假设条件下，该算法的动态遗憾是$O(T)$，这是与现有的方法相媲美。仿真结果验证了该方法的有效性。此外，仿真结果表明，该算法表现出良好的动态遗憾的一些特定的缩放条件。此外，我们考虑所提出的在线优化方法在分布式在线最优化问题中的应用，并表明所提出的算法实现了$O(\sqrt{T})$静态遗憾，这是与现有的分布式在线最优化方法。与这些方法不同的是，该方法既不需要梯度有界性假设，也不需要紧约束集假设，从而允许与文献中不同的目标函数和最优化问题。一个可比的动态后悔。仿真结果表明了分布式算法的有效性和效率。
2020-09-26 math.OC
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing（西蒙斯理论计算研究所）
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹（也不是凸），并定义在一个期望，我们开发了一个变种的条件梯度法，称为\alg，它实现了\textit{tight}近似保证。更准确地说，对于单调和连续的DR-子模函数和受到\textit{general}凸体约束，我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证（在预期中）与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果，并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口，我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Accelerated Bregman gradient methods for relatively smooth and relatively Lipschitz continuous minimization problems
本文针对相对光滑与相对Lipschitz连续优化问题，提出多种带不精确oracle的加速Bregman梯度方法及自适应中间方法，并通过Poisson逆问题数值实验验证其优势。
2024-11-23 math.OC
Two-Timescale Stochastic Gradient Descent in Continuous Time with Applications to Joint Online Parameter Estimation and Optimal Sensor Placement
本文在一般的噪声和稳定性条件下，建立了连续时间下两时标随机梯度下降算法的几乎必然收敛，推广了离散时间下的已知结果.我们分析了加性噪声和非加性噪声的算法。在非加性的情况下，我们的分析进行的假设下，噪声是一个连续时间的马尔可夫过程，控制的算法状态。我们考虑的算法可以应用到一个广泛的类的双层优化问题。我们详细研究了这样一个问题，即联合在线参数估计和最优传感器配置的问题的部分观测扩散过程。我们演示了如何可以制定为一个双层优化问题，并提出了一个解决方案的形式，连续时间，两个时标，随机梯度下降算法。此外，在适当的条件下的潜在信号，过滤器，和过滤器的衍生物，我们建立几乎必然收敛的在线参数估计和最佳传感器放置的渐近对数似然和渐近滤波协方差的平稳点，分别。我们还提供了数值例子，说明所提出的方法的应用程序的部分观察Beneavor方程，和部分观察到的随机平流-扩散方程。
2021-09-30 math.OC math.PR math.ST
Randomized block proximal method with locally Lipschitz continuous gradient
Universidad de Chile（智利大学）；University of Alicante（阿利坎特大学）
本文提出一种具有局部Lipschitz连续梯度的随机块邻近梯度算法，将随机块坐标下降法适用性扩展到更一般问题，结合增强线搜索提升性能，在非负矩阵分解实验中表现具竞争力。
2026-08-12 math.OC
Splitting Method for Support Vector Machine in Reproducing Kernel Banach Space with Lower Semi-continuous Loss Function
本文在再生核巴拿赫空间中，利用分裂方法求解具有下半连续损失函数的支持向量机。将再生核巴拿赫空间中具有较低半连续损失函数的支持向量机等价地转化为有限维张量优化问题，提出了基于乘子交替方向法的分裂方法。利用Kurdyka-Lojasiewicz不等式，证明了当损失函数为下半连续次解析函数时，该分裂方法得到的迭代序列全局收敛于一个稳定点.最后，通过数值实验验证了该方法的有效性.
2023-02-14 math.OC
Linear Model Predictive Control under Continuous Path Constraints via Parallelized Primal-Dual Hybrid Gradient Algorithm
本文针对连续时间线性系统在连续路径约束下的MPC问题，利用微分平坦性和平方和将问题转化为SDP，并提出可并行化的PDHG算法加速求解，仿真验证了其严格约束满足和计算速度优势。
2023-04-18 math.OC
A Bandit Learning Method for Continuous Games under Feedback Delays with Residual Pseudo-Gradient Estimate
针对多人博弈中一阶信息缺失、异步性和反馈延迟问题，提出结合镜像下降、残差伪梯度估计和优先级反馈利用策略的bandit学习算法，证明其在伪单调加博弈中几乎必然收敛，并通过建筑群热负荷管理验证有效性。
2023-09-06 math.OC
Alternating Gradient-Type Algorithm for Bilevel Optimization with Inexact Lower-Level Solutions via Moreau Envelope-based Reformulation
Southern University of Science and Technology（南方科技大学）；National Center for Applied Mathematics Shenzhen（深圳应用数学国家研究中心）；City University of Hong Kong（香港城市大学）
本文提出一种交替梯度型算法，用于解决下层问题为凸复合优化模型的双层优化问题，通过Moreau集合重新表述，无需精确下层解，提高计算效率，并证明其收敛性。
2026-05-12 math.OC
Inexact bilevel stochastic gradient methods for constrained and unconstrained lower-level problems
Lehigh University（理海大学）
针对大规模或带约束的随机双层优化难题，提出适配非线性非凸下层约束的双层随机梯度方法，构建覆盖多类不精确计算场景的收敛理论，并开发无需二阶导数的低秩实用方法以支撑大规模学习应用。
2023-11-06 cs.LG math.OC stat.ML
Global convergence of the gradient method for functions definable in o-minimal structures
针对实域o-极小结构中可定义且具局部Lipschitz梯度的函数，研究变步长梯度法的全局收敛性，证明轨迹有界时的收敛性、步长大于正常数时的梯度范数衰减速率，及梯度连续可微等附加条件下步长恒定时的几乎必然局部极小收敛性。
2024-11-29 math.OC
Convergence rate of the (1+1)-evolution strategy on locally strongly convex functions with lipschitz continuous gradient
本文分析 (1+1)-ES 在局部 L-强凸且梯度 U-Lipschitz 连续函数上的线性收敛速率，给出上下界，并证明无需目标函数先验性质。
2025-09-01 cs.NE math.OC
A Continuous-Time Analysis of Smoothed Matrix-Polar Spectral Gradient Flows for Muon-Type Optimization
Zhejiang University（浙江大学）；National University of Singapore（新加坡国立大学）；Huzhou Normal University（湖州师范学院）；State Key Laboratory of Industrial Control Technology, the Institute of Cyber-Systems and Control, College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院网络控制系统研究所工业控制技术国家重点实验室）；Huzhou Institute of Zhejiang University（浙江大学湖州研究院）
本文针对标准极分解映射的秩亏与病态问题，引入谱反馈律提出平滑矩阵-极谱梯度流，证明其适定性与全局收敛性，分析不同设置下的收敛速率，并对比其与标准梯度方向的局部下降速率优势。
2026-08-04 math.OC
Gradient Descent Is Optimal Under Lower Restricted Secant Inequality And Upper Error Bound
针对强凸光滑假设下条件数病态的问题，研究满足下受限割线不等式和上误差界的函数类，通过解析求解性能估计问题，证明梯度下降在该类上对所有一阶算法最优。
2022-09-28 math.OC
Universal heavy-ball method for nonconvex optimization under Hölder continuous Hessians
Graduate School of Information Science and Technology, University of Tokyo（东京大学信息理工学专攻）；Center for Advanced Intelligence Project, RIKEN（理化学研究所先进智能项目中心）
本文提出了一种适用于非凸优化问题的通用重力球方法，在Hölder连续Hessian条件下实现高效的优化性能。
2024-01-31 math.OC
A Stochastic Gradient Descent Method for Globally Minimizing Nearly Convex Functions
针对存在多个局部极小值的近凸非凸函数全局优化问题，提出带自适应高斯噪声的随机梯度下降法，证明其线性收敛性质并设计双循环机制，数值实验验证了算法有效性。
2025-08-04 math.OC
Improved Gradient Descent Lower Bounds Beyond Nesterov
MIT（麻省理工学院）
该研究在光滑凸优化中，突破经典梯度下降一阶神谕下界，得到更优的非任意时间与任意时间梯度下降下界，还明确了两种场景收敛指数的严格区分。
2026-09-04 cs.LG math.OC stat.ML
A Tight Lower Bound for Smooth Nonconvex Stochastic Optimization with Bounded Gradient Noise
该研究证明了带一致有界梯度噪声的光滑非凸随机优化的紧下界，匹配现有上界并解决了相关公开问题，且证明由AI生成、人类仅负责校验与文稿润色。
2026-08-11 cs.CC cs.LG math.OC
Unifying Nesterov's Accelerated Gradient Methods for Convex and Strongly Convex Objective Functions: From Continuous-Time Dynamics to Discrete-Time Algorithms
虽然Nesterov的加速梯度（NAG）方法已经从不同的角度进行了研究，但仍然不清楚为什么最流行的NAG形式必须分别处理凸和强凸目标函数。出于这种不一致性，我们提出了一个NAG方法，统一现有的凸和强凸的情况下。首先，我们设计了一个拉格朗日函数，连续扩展的第一布雷格曼拉格朗日的强凸设置。作为一个特定的情况下，欧拉-拉格朗日方程的拉格朗日量，我们推导出一个常微分方程（ODE）模型，我们称之为统一的NAG ODE，桥梁之间的差距ODE模型NAG凸和强凸目标函数。然后，我们设计了统一的NAG，一种新的动量方法，连续时间限制对应于统一的常微分方程。在强凸性参数$[0, +\infty)$上，统一NAG和统一ODE的系数和收敛速度是连续的。与现有的强凸目标函数的算法和常微分方程不同，对于非强凸目标函数，统一NAG和统一NAG常微分方程总是比已知的算法和常微分方程有更好的收敛性保证.当考虑具有小的$μ$的强凸目标函数时，该性质在实际观点中是有益的。此外，我们扩展我们的统一动力学和算法的高阶设置。最后，我们提出了一种新的极小化强凸目标函数梯度范数的常微分方程模型--统一NAG-G常微分方程。我们的统一拉格朗日框架是至关重要的，在这个过程中构造常微分方程。有趣的是，使用我们的新工具，称为微分核，我们观察到，统一的NAG常微分方程和统一的NAG-G常微分方程有一个反转置关系。
2023-01-09 math.OC
Stochastic Conditional Gradient Methods: From Convex Minimization to Submodular Maximization
Massachusetts Institute of Technology（麻省理工学院）；University of Pennsylvania（宾夕法尼亚大学）；Yale University（耶鲁大学）
本文考虑一类目标函数的随机最优化问题，其中包括凸的和连续的子模。随机近端梯度法已被广泛用于解决这类问题，然而，当问题维数很大，投影到一个凸集是昂贵的，他们的适用性仍然有限。相反，随机条件梯度法被提出作为一种替代解决方案，依赖于（i）通过简单的平均技术近似梯度，每次迭代需要一个单一的随机梯度评估;（ii）求解线性规划来计算下降/上升方向。平均技术降低了噪声的梯度近似随着时间的推移，并取代投影步骤在近似方法由一个线性规划降低了每次迭代的计算复杂性。我们表明，在凸性和光滑性的假设下，我们提出的方法收敛到最佳的目标函数值在一个次线性率$O(1/t^{1/3})$。此外，对于单调和连续的DR-子模函数和一般凸体约束，我们证明了我们提出的方法实现了$((1-1/e)OPT-\eps)$保证与$O(1/\eps^3)$随机梯度计算。这种保证匹配已知的硬度结果，并关闭确定性和随机连续子模最大化之间的差距。此外，对于目标函数是连续的DR-次模但非单调的，且约束集是下闭的情形，我们利用$O(1/\eps^3)$随机梯度得到了$((1/e)OPT -\eps)$保证.通过使用随机连续优化作为一个接口，我们提供了第一个$(1-1/e)$紧逼近保证最大化的单调，但随机子模集函数的拟阵约束和$(1/e)$逼近保证的非单调的情况下。
2018-11-12 cs.LG math.OC stat.ML
