Optimal Control of Markov Regime-Switching Stochastic Recursive Utilities
本文针对连续时间Markov状态切换随机递归效用模型描述的系统，建立了一个通用的随机最大值原理用于最优控制。假设控制域不是凸的，扩散项依赖于控制变量。为此，我们首先研究了一类经典的正向随机最优控制问题。然后，在已有结果的基础上，引入了两组新的一阶和二阶伴随方程。导出了相应的正倒向随机微分方程的变分方程。特别地，最大值原理中的生成元包含二阶伴随方程的解，这是新颖的。一些有趣的例子，以及总结。
2019-05-01 math.OC
Singular Optimal Controls of Stochastic Recursive Systems and Hamilton-Jacobi-Bellman Inequality
本文研究了随机递归系统的最优奇异控制，其中控制由正则控制和奇异控制两部分组成。在一定的假设下，建立了这类最优奇异控制问题的动态规划原理，并证明了在给定的有界连续函数中，值函数是相应的Hamilton-Jacobi-Bellman不等式的唯一黏性解.最后给出了一个实例。
2018-11-04 math.OC
Connection between MP and DPP for Stochastic Recursive Optimal Control Problems: Viscosity Solution Framework in Local Case
本文讨论了控制域为凸时随机递归控制问题的最大值原理与动态规划原理之间的一种非光滑联系。利用亚喷流和超喷流的概念，导出了值函数和伴随过程之间的集合包含。非凸控制域的一般情况是开放的。
2016-03-07 math.OC
Relationship between MP and DPP for stochastic recursive optimal control problem under volatility uncertainty
本文研究了由$G$ -布朗运动驱动的随机递归最优控制问题的最大值原理与动态规划原理之间的关系。在值函数光滑的假设下，我们得到了MP和DPP在参考概率$P_{t,x}^{\ast}$下的联系。在黏性解的框架下，建立了数值函数的一阶超喷流、亚喷流与伴随方程的解之间的关系。
2022-10-11 math.OC
Stochastic Optimal Linear Quadratic Controls with A Recursive Cost Functional
University of Central Florida（中佛罗里达大学）
本文提出了一种解决具有递归成本函数的随机线性二次控制问题的方法，通过反向随机微分方程和李雅普诺夫微分方程的可解性来表征开环和闭环可解性。
2026-01-29 math.OC
Relationship between General MP and DPP for the Stochastic Recursive Optimal Control Problem With Jumps: Viscosity Solution Framework
本文研究了带跳的随机递归最优控制问题中一般最大值原理与动态规划原理的关系，在值函数光滑假设和粘性解框架下证明了伴随过程、广义Hamilton函数与值函数的关系，并给出实例说明。
2024-06-03 math.OC
Mean Field Game for Linear Quadratic Stochastic Recursive Systems
研究了由正倒向随机微分方程（简称FBSDEs）描述的线性二次平均场对策问题，其中假设个体控制域是凸的.分散策略和一致性条件由一类带投影算子的耦合平均场FBSDES表示。利用单调性条件方法得到了相容性条件系统的适定性。还讨论了$ε$ -纳什均衡性质。
2019-08-14 math.OC
Reflected stochastic recursive control problems with jumps: dynamic programming and stochastic verification theorems
针对 Brown 运动与 Poisson 随机测度共同驱动的反射递归控制问题，建立动态规划原理并给出 HJB 偏积分微分方程障碍问题的粘性解概率解释，同时证明值函数正则性以推出随机验证定理。
2025-05-14 math.OC
Dynamic Programming Principle and Associated Hamilton-Jacobi-Bellman Equation for Stochastic Recursive Control Problem with Non-Lipschitz Aggregator
本文研究了随机递归控制问题，其中描述运行费用的后向随机微分方程的聚集子（或称生成元）关于第一个未知变量和控制是连续的但不一定是Lipschitz的，并且关于第一个未知变量是单调的.在此基础上，利用倒向随机微分方程的广义比较定理和黏性解的稳定性，建立了动态规划原理以及相应的Hamilton-Jacobi-Bellman方程的值函数与粘性解之间的联系.最后以非Lipschitz聚集器的连续时间Epstein-Zin效用函数的控制问题为例说明了本文研究的应用。
2015-09-12 math.OC
Dynamic programming principle for delayed stochastic recursive optimal control problem and HJB equation with non-Lipschitz generator
本文针对带非Lipschitz生成元的延迟随机递归最优控制问题，证明了动态规划原理，并通过广义比较定理和粘性解稳定性建立值函数与HJB方程粘性解的联系，应用于延迟Epstein-Zin效用下的消费-投资问题。
2023-12-23 math.OC
Connection between MP and DPP for Stochastic Recursive Optimal Control Problems: Viscosity Solution Framework in General Case
本文研究了一类随机递归最优控制问题，其中扩散系数依赖于控制变量，且控制域不一定是凸的。在不假设值足够光滑的情况下，研究了广义最大值原理与动态规划原理之间的联系，建立了值函数与一阶、二阶伴随过程的子喷流、超喷流以及广义Hamilton函数之间的集合包含.此外，通过将这些结果与Yong和Zhou [{ \em随机控制：哈密顿系统and HJB Equations，Springer-Verlag，New York，1999}]中的经典结果进行比较，可以自然地获得Hu [{ \em Direct method on stochastic最大值原理for optimization with recursive utilities，arXiv：1507.03567v1 [math.OC]，13 Jul. 2015}]的一阶和二阶伴随方程。
2016-12-20 math.OC
Recursive Feasibility of Stochastic Model Predictive Control with Mission-Wide Probabilistic Constraints
研究了机会约束有限时域最优控制问题，重点研究了随机模型预测控制（SMPC）在全任务安全概率（MWPS）下的递归可行性问题。MWPS评估整个状态轨迹位于约束集内的概率，SMPC控制器的目标是确保其不小于门限值。这不同于经典的SMPC，其中状态位于约束集中的概率在每个时刻被独立地强制执行。不像鲁棒MPC，严格的递归可行性是满足假设的不确定性是由一个紧凑的集合，所提出的概念的递归可行性MWPS是基于剩余MWPS的概念，这是保守的期望值的意义。我们展示了任务范围内的SMPC的线性SMPC的情况下，通过部署一个基于MIMO的算法的想法。
2022-09-20 math.OC
Relationship between maximum principle and dynamic programming principle for recursive optimal control problem of stochastic evolution equations
本文研究了随机发展方程递归最优控制问题中最大原理与动态规划原理的关系，证明了价值函数的正则性并探讨了其应用。
2025-12-18 math.OC
Direct Method on Stochastic Maximum Principle for Optimization with Recursive Utilities
得到了递归随机最优控制问题中倒向随机微分方程的变分方程，进而得到了新颖的最大值原理。控制域不需要是凸的，倒向随机微分方程的生成元可以包含z。
2015-07-13 math.OC math.PR
Recursive Stochastic Linear-Quadratic Control with Indefinite Weights for Jump-Diffusion Systems with Random Coefficients
针对带随机系数的跳扩散系统，研究不定权重下的递归随机LQ控制，通过测度变换和配方法推导随机Riccati方程，并给出反馈最优性与唯一性条件。
2026-10-05 math.OC
Infinite time horizon stochastic recursive control problems with jumps: dynamic programming and stochastic verification theorems
本文研究带跳的无限时间域随机递归控制问题，建立动态规划原理关联值函数与HJB型积分-偏微分方程粘性解，推导经典解与粘性解框架下的随机验证定理，指出其与有限时间域方法存在重要差异。
2024-08-14 math.OC
Dynamic Programming Principle for Backward Doubly Stochastic Recursive Optimal Control Problem and Sobolev Weak Solution of The Stochastic Hamilton-Bellman Equation
本文研究了费用函数由倒向双重随机微分方程的解描述的倒向双重随机递归最优控制问题。给出了这类最优控制问题的动态规划原理，并证明了其值函数是相应随机Hamilton-Jacobi-Bellman方程的唯一Sobolev弱解.
2020-08-12 math.OC math.PR
Maximum principle for stochastic recursive optimal control problem under model uncertainty
本文考虑模型不确定性下的随机递归最优控制问题。在这个框架中，费用函数被描述为一个家庭的向后随机微分方程的解决方案。借助于线性化技巧和弱收敛方法，我们导出了相应的随机最大值原理。此外，还研究了线性二次型鲁棒控制问题。
2020-04-15 math.OC math.PR
Optimal Stochastic Control with Recursive Cost Functionals of Stochastic Differential Systems Reflected in a Domain
本文研究了反映在区域上的随机微分系统的最优随机控制问题。代价泛函是递归的，其通过由Pardoux和Zhang [20]开发的广义向后随机微分方程来定义。该值函数是相应的Hamilton-Jacobi-Bellman方程的唯一黏性解，该方程是一个具有非线性Neumann边界条件的完全非线性抛物型偏微分方程.为此，我们还证明了一些新的估计随机微分系统反映在一个区域。
2013-08-23 math.OC math.PR
Stochastic Recursive Inclusions under Biased Perturbations: An Input-to-State Stability Perspective
IISc, Bengaluru, India（印度班加罗尔印度科学学院）
本文从输入到状态稳定性视角研究有偏扰动下的随机递归包含，提出通过微分包含理论分析零阶优化和随机逼近的收敛性。
2026-01-16 math.OC
Extended backward stochastic Volterra integral equations and their applications to time-inconsistent stochastic recursive control problems
本文研究了广义后向随机Volterra积分方程（EBSVIEs，简称EBSVIEs）。我们建立了较弱的假设下比文献的适定性，并证明了一种新的正则性性质的解决方案。作为应用，我们在开环框架下研究了时间不一致的随机递归控制问题，其中代价泛函由后向随机Volterra积分方程（BSVIE）的解定义.我们证明了相应的伴随方程成为EBSVIE，并提供了一个充要条件开环平衡控制通过变分方法。
2021-03-05 math.OC math.PR
Accelerating Stochastic Recursive and Semi-stochastic Gradient Methods with Adaptive Barzilai-Borwein Step Sizes
本文提出两种自适应变体规则RHBB和RHBB+，结合重要性采样技术生成四种新算法，在强凸情况下分析收敛性与复杂度，实验证明其在多数据集上优于现有方法且具良好可扩展性。
2023-10-23 math.OC
Mean-Field Stochastic Linear-Quadratic Optimal Controls: Roles of Expectation and Conditional Expectation Operators
本文研究状态与代价同时含期望和条件期望项的平均场线性二次最优控制问题，显式推导三类解并建立Riccati方程适定性，揭示两类算子对时间一致性的影响。
2025-07-22 math.OC
Dynamic programming principle for one kind of stochastic recursive optimal control problem and Hamilton-Jacobi-Bellman equations
本文研究了一类费用函数函数为一个反射倒向随机微分方程的解的带障碍约束的随机递归最优控制问题。我们将给出这类最优控制问题的动态规划原理，并证明其值函数是相应的Hamilton-Jacobi-Bellman方程的障碍问题的唯一黏性解。
2007-04-28 math.OC math.PR
On the Bellman equation in recursive stochastic dynamic programming with the CES aggregator
Faculty of Pure and Applied Mathematics, Wrocław University of Science and Technology（弗罗茨瓦夫科技大学纯应用数学学院）；Institute of Mathematics, University of Zielona Góra（热舒夫大学数学研究所）
研究具有CES聚合器的离散时间无限期马尔可夫决策过程，在温和条件下证明贝尔曼方程解的存在唯一性及库普曼斯方程有唯一解，表明贝尔曼方程最大值的可测选择器是最优平稳策略，方法还用于研究其他确定性等价情况。
2026-07-28 math.OC
Subgame-perfect equilibrium strategies for time-inconsistent recursive stochastic control problems
针对Bellman最优性原理失效的时间不一致递归随机控制问题，通过博弈论框架定义子博弈完美均衡，利用随机最大值原理和尖峰变分技术，基于倒向随机微分方程对刻画均衡策略，并应用于有限时域投资消费问题。
2026-06-08 math.OC
Stochastic Recursive Gradient Algorithm for Nonconvex Optimization
Lehigh University（理海大学）；University of Oxford（牛津大学）
本文研究和分析了随机递归梯度算法（SARAH）的小批量版本，它是一种利用随机递归梯度求解非凸损失情况下经验损失最小化的方法。我们提供了一个次线性收敛速度（平稳点）一般非凸函数和梯度控制函数的线性收敛速度，这两个有一些优势相比，其他现代随机梯度算法的非凸损失。
2017-05-20 cs.LG math.OC stat.ML
Maximum principle for optimal control of stochastic evolution equations with recursive utilities
针对希尔伯特空间中带递归效用的随机演化方程最优控制问题，提出了允许非凸控制域及生成元依赖$z$的一般最大值原理，并刻画了二阶伴随过程。
2024-02-04 math.OC math.PR
Infinite-Horizon Non-Autonomous Zero-Sum Stochastic Recursive Differential Games and HJBI Equations
School of Mathematics and Statistics, Northeast Normal University（东北师范大学数学与统计学院）
本文研究了无限时间非自主随机递归微分博弈，通过建立BSDE的时间依赖折扣因子和可能无界随机终端时间的well-posedness和稳定性结果，证明了价值函数为确定性并是HJBI方程的唯一粘性解。
2026-05-13 math.OC
Decentralized projected Riemannian stochastic recursive momentum method for nonconvex optimization
National University of Defense Technology（国防科技大学）；University of California, Berkeley（加州大学伯克利分校）
针对通信网络中n个节点的紧子流形非凸优化问题，提出分布式投影黎曼随机递归动量方法，其神谕复杂度优于现有方法，经主成分分析和低秩矩阵补全实验验证有效性。
2026-08-28 math.OC
Stochastic maximum principle for recursive optimal control problems with varying terminal time
本文研究终端时间随状态约束变化的递归随机最优控制问题，通过提出rho-移动变分与伴随方程建立随机最大值原理，并给出实例验证。
2023-04-14 math.OC math.PR
AI-SARAH: Adaptive and Implicit Stochastic Recursive Gradient Methods
Cranberry-Lemon University（蔓越莓柠檬大学）
我们提出了AI-SARAH，SARAH的一个实际变体。作为SARAH算法的一个变种，该算法采用随机递归梯度，但根据局部几何形状调整步长。AI-SARAH隐式计算步长，并有效地估计随机函数的局部Lipschitz光滑性。它是完全自适应的，无需调谐，实现简单，计算效率高。我们提供有关其设计和融合的技术见解和直观说明。我们进行了广泛的实证分析，并证明其强大的性能相比，其经典的同行和其他国家的最先进的一阶方法在解决凸机器学习问题。
2022-02-01 cs.LG math.OC
Proximal Stochastic Recursive Momentum Methods for Nonconvex Composite Decentralized Optimization
本文提出单循环算法DEEPSTORM，以$\mathcal{O}(1)$小批量规模首次在去中心化非凸随机复合优化中实现最优样本复杂度，并在恒定步长下获得网络无关的样本复杂度及随智能体数N的线性加速。
2023-04-13 math.OC
Maximum principle for stochastic optimal control problem under convex expectation
本文针对G-期望控制的凸期望下的随机最优控制问题，利用分离定理得到表示定理，通过弱收敛和离散化推导变分方程，建立充分的最大值原理，并应用于线性二次控制问题。
2024-08-20 math.OC
Recursive stochastic differential games with non-Lipschitzian generators and viscosity solutions of Hamilton-Jacobi-Bellman-Isaacs equation
本文研究两人零和随机微分博弈，其代价函数由带单调生成元的BSDE刻画，通过验证定理、DPP和粘性解理论建立HJBI方程的可解性，并给出三个例子包括金融应用。
2024-04-18 math.OC
Dynamic programming principle for stochastic optimal control problem under degenerate G-expectation
本文研究了退化G-期望下的随机最优控制问题。利用隐分划方法，证明了对于容许控制的近似结果仍然成立。在此基础上，证明了价值函数是确定性的，并得到了动态规划原理。进一步证明了在退化情形下，该值函数是相应的HJB方程的唯一黏性解。
2022-10-18 math.OC
Singular Optimal Controls for Stochastic Recursive Systems under Convex Control Constraint
本文研究了由正倒向随机微分方程（简称FBSDEs）所控制的系统的两类奇异最优控制（简称SOC）问题，其中控制分为正则控制和奇异控制两部分.漂移项和扩散项都可以涉及常规控制变量。正则控制域被假定为凸的。在一定的假设下，在Malliavin演算的框架下，我们得到了经典意义下随机SOC的逐点二阶必要条件。这个条件是由两个伴随过程，一个极大条件的哈密尔顿支持一个说明性的例子。得到了最优奇异控制的一个新的必要条件。此外，作为一个副产品，SOC的验证定理推导通过黏性解不涉及任何导数的价值函数。值得指出的是，该定理比限制性经典验证定理具有更广泛的适用性。最后，在不假设值函数足够光滑的情况下，讨论了最大值原理与动态规划原理之间的联系。
2020-12-21 math.OC
Riemannian stochastic recursive momentum method for non-convex optimization
University of Sydney（悉尼大学）
提出了一种求解黎曼非凸优化问题的随机递归动量方法，该方法在一个样本的情况下获得了$\tilde{\mathcal{O}}(ε^{-3})$的近似最优复杂度，从而得到了$ε$ -近似解.也就是说，我们的方法需要每次迭代的$\mathcal{O}(1)$梯度评估，并且不需要重新启动大批量梯度，这通常用于获得更快的速率。大量的实验结果证明了该算法的优越性。
2020-08-11 cs.LG math.OC stat.ML
A Modified Method of Successive Approximations for Stochastic Recursive Optimal Control Problems
基于部分耦合正倒向随机控制系统的随机最大值原理，建立了求解随机递归最优控制问题的改进逐次逼近法.由于控制域不一定是凸的，因此在增广哈密顿最小化步骤中引入了二阶伴随过程。利用有界平均振荡鞅（BMO martingales）理论，给出了改进MSA算法的误差估计的一个精确证明，并证明了改进MSA算法的收敛性.在一种特殊情况下，我们得到了对数收敛速度。当控制域是凸紧的时，对于一类线性FBSCS，给出了MSA算法返回的控制是近最优控制的充分条件。
2022-01-10 math.OC math.PR
Dynamic programming principle and Hamilton-Jacobi-Bellman equation under nonlinear expectation
本文研究了一类随机递归最优控制问题，其中值泛函由$\tilde{G}$ -期望下的倒向随机微分方程（Besides）的解定义。在标准假设下，建立了这类问题的比较定理，并给出了一种新的、简单的方法来获得动态规划原理。最后证明了该值函数是一类完全非线性HJB方程的唯一黏性解。
2021-06-05 math.OC
Data-driven Stochastic Output-Feedback Predictive Control: Recursive Feasibility through Interpolated Initial Conditions
研究了受随机干扰的线性系统的数据驱动输出反馈预测控制问题。该计划依赖于一个合适的数据驱动的随机最优控制问题（OCP），它允许向前预测和优化的输入和输出的统计分布的重新制定的递归解决方案。我们的方法避免了使用参数系统模型。相反，它是基于以前记录的数据，使用最近提出的随机变量威廉姆斯的基本引理。引理的随机变量适用于一类受高斯和非高斯随机扰动的线性动力学。为了确保递归的可行性，OCP的初始条件--由过去的输入和输出信息组成--被认为是OCP的一个额外的决策变量。我们提供了充分条件的递归可行性和闭环实际稳定的建议方案以及性能界限。最后，一个数值例子说明了所提出的计划的有效性和闭环特性。
2022-12-15 cs.SY eess.SY math.OC
Escape saddle points faster on manifolds via perturbed Riemannian stochastic recursive gradient
University of Sydney（悉尼大学）；Discipline of Business Analytics（商业分析学科）
在本文中，我们提出了一个变形的黎曼随机递归梯度法，可以实现二阶收敛保证和逃逸鞍点使用简单的扰动。其思想是在梯度较小时扰动迭代，并在切空间上进行随机递归梯度更新。这避免了利用黎曼几何的复杂性。我们表明，在有限和设置下，我们的算法需要$\widetilde{\mathcal{O}}\big( \frac{ \sqrt{n}}{ε^2} + \frac{\sqrt{n} }{δ^4} + \frac{n}{δ^3}\big)$随机梯度查询找到一个$(ε, δ)$ -二阶临界点。这严格地提高了扰动黎曼梯度下降的复杂性，并且在大样本设置下优于扰动黎曼加速梯度下降。我们还提供了一个复杂的$\widetilde{\mathcal{O}} \big( \frac{1}{ε^3} + \frac{1}{δ^3 ε^2} + \frac{1}{δ^4 ε} \big)$在线优化，这是新颖的黎曼流形的二阶收敛，仅使用一阶信息。
2020-10-28 cs.LG math.OC
Maximum principle for recursive optimal control problem of stochastic delay evolution equations
本文研究由柱面 $Q$-Wiener 过程驱动的随机时滞发展方程递归最优控制问题，通过引入预期倒向随机发展方程作为伴随方程并运用对偶分析，推导并证明了 Pontryagin 最大值原理及其充分性。
2024-01-08 math.OC math.PR
Mean field stochastic control under sublinear expectation
本文研究了Peng的$G$ -期望下平均场最优控制问题的Pontryagin随机最大值原理。受控状态过程的动力学由一个由$G$ -布朗运动驱动的随机微分方程给出，该方程的系数不仅依赖于控制、受控状态过程，而且依赖于受控状态过程在$G$ -期望下的规律.此外，相关的成本功能的平均场类型。在凸控制状态空间的假设下，我们研究了随机最大值原理，它给出了控制过程的一个必要的最优性条件。在附加的凸性假设下，证明了这个必要条件也是一个充分条件。我们在工作中要克服的主要困难在于参数化随机变量的$G$ -期望的微分。特别微妙的是，它原来处理与$G$ -期望的一个功能的控制状态过程内的运行成本的成本函数。为此，我们必须研究集值函数的可测选择定理，其值是$G$ -期望的概率测度的代表集的子集。
2022-11-09 math.OC
Stochastic recursive optimal control problem with monotonicity conditions under G-framework
Zhongtai Securities Institute for Financial Studies, Shandong University（山东大学中泰金融研究院）
本文研究了一类非利普希茨G-BSDEs解的存在性和唯一性，以及对应的随机递归最优控制问题，通过比较定理和粘性解稳定性，建立动态规划原理及价值函数与Hamilton-Jacobi-Bellman方程粘性解的联系。
2026-08-18 math.OC math.PR
On Dynamic Programming Principle for Stochastic Control under Expectation Constraints
本文研究了连续过程随机控制的可测选择方法动态规划原理。这项工作的新颖之处在于，在每个时间t，在规范空间上加入中间期望约束。一些金融应用的动机，我们表明，几种类型的动态交易约束可以重新表述为期望约束的路径上的受控状态过程。因此，我们的研究结果可以用来恢复这些最优投资问题的动态约束下，可能路径依赖，在非马尔可夫框架的动态规划原则。
2020-04-21 math.OC
SARAH: A Novel Method for Machine Learning Problems Using Stochastic Recursive Gradient
Lehigh University（里海大学）；The University of Oxford（牛津大学）
在本文中，我们提出了一个随机递归梯度算法（SARAH），以及它的实际变体SARAH+，作为一种新的方法来解决有限和极小化问题。不同于香草SGD和其他现代随机方法，如SVRG，S2 GD，SAG和SAGA，SARAH承认一个简单的递归框架来更新随机梯度估计;与SAG/SAGA相比，SARAH不需要存储过去的梯度。在强凸性假设下证明了SARAH算法的线性收敛速度。我们还证明了一个线性收敛速度（在强凸的情况下）的内部循环的SARAH，SVRG不具备的属性。数值实验证明了算法的有效性。
2017-06-03 cs.LG math.OC stat.ML
Constrained recursive kernel density/regression estimation by stochastic quasi-gradient methods
本文从随机优化视角研究非参数核密度/回归估计，利用随机拟梯度方法构造递归约束估计量，并给出精度、收敛速度及渐近最优参数，特别分析了移动密度/回归情形。
2024-06-24 math.OC math.ST stat.TH
Stochastic Recursive Optimal Control Problem with Time Delay and Applications
研究了一类具有时滞的随机递归最优控制问题，其中被控系统由随机时滞微分方程（SDDE）描述，代价泛函表示为后向SDDE（BSDDE）的解.当状态变量中只有点态时滞和分布时滞时，利用动态规划原理，得到了有限维空间中值函数的广义Hamilton-Jacobi-Bellman（HJB）方程.当系数满足一个特殊的一阶偏微分方程（PDE）组时，该广义HJB方程存在光滑解。在伴随方程为前向-后向SDDE（FBSDDE）的情况下，导出了充分最大值原理.在一定的可微性假设下，得到了值函数、伴随过程和广义Hamilton函数之间的关系。讨论了金融市场中具有递归效用的消费与投资组合最优化问题，并给出了结果的应用。在有限维空间中，由两种不同的方法得到的显式解是一致的。
2014-08-25 math.OC math.PR
Stochastic Approximation for Expectation Objective and Expectation Inequality-Constrained Nonconvex Optimization
针对目标函数与不等式约束均含噪声的非凸优化问题，提出基于 Ghost 框架、罚函数序贯凸规划和 Monte Carlo 估计的随机逼近方法，并证明几乎必然收敛。
2025-07-28 math.OC
Stochastic Augmented Lagrangian Framework with Second-Order Convergence Guarantees for Nonconvex Expectation-Constrained Optimization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出一种随机增广拉格朗日框架，用于求解非凸期望约束优化问题，通过随机二阶方法非精确求解子问题，建立了获得近似二阶稳定点的迭代与样本复杂度保证，并在两个机器学习任务上验证了性能。
2026-09-24 math.OC
Stochastic Recursive Variance Reduction for Efficient Smooth Non-Convex Compositional Optimization
Peking University（北京大学）；University of Rochester（罗切斯特大学）；Kwai Inc.（快手公司）
随机组合优化出现在许多重要的机器学习任务中，例如强化学习和投资组合管理中的价值函数评估。目标函数是随机函数的两个期望的组合，并且比普通随机最优化问题更具有挑战性。本文研究了一般光滑非凸环境下的随机合成优化问题。我们采用最近发展起来的\textit{Stochastic Recursive Gradient Descent}的思想设计了一个新的算法SARAH-Compositional，并证明了一个尖锐的增量一阶Oracle（IFO）复杂性上界：$\mathcal{O}((n+m)^{1/2} \varepsilon^{-2})$在有限和情况下和$\mathcal{O}(\varepsilon^{-3})$在线的情况下.这样的复杂性是已知的最好的一个IFO复杂性结果的非凸随机组合优化，并被认为是最优的。我们的实验验证了我们的算法的理论性能。
2020-01-25 cs.LG math.OC stat.ML
Recursive Gradient Retraction Methods for Stochastic Nonconvex Optimization on Stiefel Manifolds
School of Systems Science and Engineering, Sun Yat-sen University（中山大学系统科学与工程学院）；Faculty of Computer Science and Artificial Intelligence, Shenzhen University of Advanced Technology（深圳先进技术大学计算机科学与人工智能学院）
该研究针对施蒂费尔流形上的随机非凸优化问题，提出了RGR系列递归梯度回缩方法，含三个变体，避免了向量传输，在多个任务上收敛速度优于现有方法。
2026-10-15 math.OC
Measured-state conditioned recursive feasibility for stochastic model predictive control
针对无界扰动线性系统随机MPC的递归可行性难题，提出期望意义下测量状态条件递归可行性新定义，构建基于椭球概率可达集的闭环初始化随机MPC方案，证明其满足新定义且性能优于开环方案。
2024-06-19 cs.SY eess.SY math.OC
