Stochastic Optimization with Parametric Cost Function Approximations
一个广泛使用的启发式求解随机最优化问题是使用确定性滚动时域过程，它已被修改，以处理不确定性（如缓冲库存，进度松弛）。这种方法因其使用随机问题的确定性近似而受到批评，这是随机规划的主要动机。我们通过确定确定性和随机性方法作为解决随机基础模型（可能是模拟器或真实世界）的策略来重新定义这一争论。随机前瞻模型（随机规划）需要一系列的近似，以保持问题易于处理。相比之下，所谓的确定性模型实际上是参数修改的费用函数近似，其使用对目标函数和/或约束的参数调整。然后，这些参数在随机基础模型中进行优化，该模型不需要进行随机规划所需的任何类型的简化。我们正式提出了这种策略，并描述了一个基于梯度的随机搜索策略，以优化参数。
2017-03-14 math.OC
A Single Time-Scale Stochastic Approximation Method for Nested Stochastic Optimization
研究约束嵌套随机最优化问题，其中目标函数是两个光滑函数的组合，其精确值和导数是不可用的。我们提出了一个单时间尺度的随机近似算法，我们称之为嵌套平均随机逼近（NASA），找到一个近似的稳定点的问题。该算法有两个辅助平均序列（滤波器），估计复合目标函数的梯度和内部函数值。通过使用一个特殊的李雅普诺夫函数，我们表明，美国宇航局实现的样本复杂性的${\cal O}(1/ε^{2})$找到一个$ε$ -近似平稳点，从而优于现有的嵌套随机逼近的方法。我们的方法和分析是相同的无约束和约束问题，而不需要任何批量样本的约束非凸随机最优化。我们还提出了一个简化的变体的NASA方法求解约束单级随机最优化问题，我们证明了相同的复杂性结果为无约束和约束问题。
2019-09-06 math.OC
An Abstract Stochastic Haugazeau Method for Best Approximation
North Carolina State University（北卡罗来纳州立大学）
本文提出了一种随机Haugazeau方法，用于在随机外近似集上计算闭凸集的最佳逼近，并应用于构造任意固定点集交集的最佳逼近。
2026-03-01 math.OC
Stochastic Approximation Proximal Method of Multipliers for Convex Stochastic Programming
本文考虑了闭凸集上的凸期望函数的极小化问题，该问题带有一组不等式凸期望约束。提出了一种新的随机逼近型算法，即随机逼近邻近乘子法（PMMSopt）来求解这一凸随机最优化问题.本文分析了求解凸随机最优化问题的一种随机逼近近似乘子方法的缺点。在温和的条件下，我们表明，该算法具有${\rm O}(T^{-1/2})$收敛速率，在最优性差距和约束违反，如果在算法中的参数选择适当，当目标和约束函数一般是凸的，其中$T$表示迭代次数。此外，我们表明，至少$1-e^{-T^{1/4}}$概率，该算法有不超过${\rm O}(T^{-1/4})$客观遗憾和不超过${\rm O}(T^{-1/8})$约束违反遗憾。据我们所知，这是第一次，这样一个近似的方法求解期望约束随机最优化在文献中。
2020-09-13 math.OC
Approximations of Stochastic Hybrid Systems: A Compositional Approach
Technische Universität München（慕尼黑工业大学）；ETH Zürich（苏黎世联邦理工学院）；ETH Lausanne（洛桑联邦理工学院）
本文提出了一种组合框架，用于构建随机混合系统互联的近似。通过量化近似与原系统间的误差，为控制器设计提供替代方案。
2016-04-24 cs.SY eess.SY math.OC
Stochastic forward-backward and primal-dual approximation algorithms with application to online image restoration
随机逼近技术已经在数据科学的各种背景下使用。我们提出了一个随机版本的向前向后算法，用于最小化两个凸函数之和，其中之一不一定是光滑的。我们的框架可以处理光滑函数的梯度的随机逼近，并允许在非光滑函数的邻近算子的评价中的随机误差。在相对较弱的假设下，证明了该算法产生的迭代点几乎必然收敛到极小点。我们还提出了一个流行的原始-对偶邻近分裂算法的随机版本，建立其收敛性，并将其应用于在线图像恢复问题。
2016-02-25 math.OC
Deviation inequalities for stochastic approximation by averaging
引入了一类马尔可夫链，它包含了平均和非平均的随机逼近模型。利用鞅逼近的方法，建立了这类链上的Lipschitz函数的各种偏差不等式，并将这些不等式应用于平均和经验风险最小化的随机随机变量中.
2022-02-18 math.OC math.PR stat.ML
Optimal Control of Stochastic Partial Differential Equations with Partial Observations: Stochastic Maximum Principles and Numerical Approximation
本文针对部分观测的半线性随机偏微分方程最优控制问题，建立了非凸控制域下的一般随机最大值原理，并针对凸控制域情形提出了结合随机梯度下降、有限元逼近和分支滤波的数值算法，通过数值实验验证了方法的有效性。
2025-04-20 math.OC
Adaptive Stochastic Gradient Descents on Manifolds with an Application on Weighted Low-Rank Approximation
The George Washington University（乔治·华盛顿大学）
本文证明了流形上自适应学习率随机梯度下降的收敛性，并应用于加权低秩逼近问题。
2025-03-29 cs.AI cs.LG math.OC
Multi-cut stochastic approximation methods for solving stochastic convex composite optimization
University of Rochester（罗切斯特大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出了一种多切随机近似方法，用于高效求解随机凸组合优化问题，实现了近最优收敛速率和优于其他方法的计算性能。
2026-10-27 math.OC
Stochastic Approximation Based Confidence Regions for Stochastic Variational Inequalities
样本平均逼近（SAA）和随机逼近（SA）是求解随机变分不等式问题（SVIP）的两种常用格式。在过去的几十年里，SAA解和SA解的一致性理论已经得到了很好的研究。最近，渐近置信区域的真正解决方案SVIP已被构造时，SAA计划的实施。当采用SA方案时，开发SVIP真解的置信区域具有根本意义。本文讨论了构造SVIP真解的渐近置信区域的框架，重点讨论了随机对偶平均法。我们首先建立了SA解在遍历和非遍历意义下的渐近正态性。然后研究了正态分布协方差阵的在线估计方法。最后，给出了用数值模拟建立SVIP解的渐近置信区域的具体步骤。
2022-03-18 math.OC
Two-Timescale Stochastic Approximation for Bilevel Optimisation Problems in Continuous-Time Models
我们分析了连续时间，两时标随机逼近算法设计的随机双层优化问题的连续时间模型的渐近性质。我们以中心极限定理的形式得到了该算法的弱收敛速度。我们还演示了如何将该算法可以应用到几个连续时间的双层优化问题。
2022-07-06 math.OC stat.ML
Stochastic Learning Rate Optimization in the Stochastic Approximation and Online Learning Settings
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Nevada（内华达大学）
在这项工作中，乘性随机适用于学习率的随机最优化算法，从而产生随机学习率计划。随机梯度下降配备这种新的随机学习率计划下的随机设置，以及在线优化设置下的收敛结果的预期理论收敛结果。实证结果考虑的情况下，自适应均匀分布的乘法随机性，不仅包括随机梯度下降，但也配备了随机学习率的其他流行的算法。相对于其确定性学习率版本，它们表现出明显的优化性能增益。
2022-03-21 cs.LG math.OC
Neural Network Approximation of Optimal Controls for Stochastic Reaction-Diffusion Equations
提出一种数值算法，通过将问题转化为反馈控制并用有限基逼近反馈函数，实现了带加性噪声的随机反应扩散方程最优控制的逼近，显著降低了计算复杂度。
2023-09-14 math.OC math.PR
Exponential Concentration in Stochastic Approximation
University of Manchester（曼彻斯特大学）；Durham University（杜伦大学）
本文研究随机逼近算法在期望推进与步长成正比时的指数集中界，通过几何遍历性证明扩展Hajek的马尔可夫链结果，并应用于Projected SGD等算法，证明更快的$O(1/t)$和线性收敛速率。
2024-03-24 cs.LG math.OC stat.ML
Asymptotic and Finite Sample Analysis of Nonexpansive Stochastic Approximations with Markovian Noise
本文研究了带有马尔可夫噪声的非扩张随机逼近，提供了渐近和有限样本分析，并首次证明了平均回报时间差学习收敛到路径依赖的固定点。
2025-11-19 cs.AI cs.LG math.OC
Finite-Time Analysis of Asynchronous Stochastic Approximation and $Q$-Learning
California Institute of Technology（加州理工学院）
考虑了一个加权无穷范数压缩算子的一般异步随机逼近（SA）格式，并证明了其在单个轨迹上的有限时间收敛速度的一个界.此外，我们专门的异步$Q$学习的结果。所得到的界限匹配同步$Q$学习的最清晰的可用界限，并且改进了异步$Q$学习的先前已知界限。
2020-02-01 cs.LG math.OC
A stochastic approximation algorithm for stochastic semidefinite programming
受多天线无线网络应用的启发，我们提出了一个分布式和异步算法的随机半定规划。该算法是一个连续时间矩阵指数格式正则化的随机逼近，通过在问题的目标函数中加入类熵项来实现.我们表明，所得到的算法几乎肯定收敛到一个$\varepsilon$近似的最优解只需要一个无偏估计的梯度问题的随机目标。当应用于无线多输入多输出（MIMO）系统中的吞吐量最大化，该算法保持其收敛性能下的广泛的移动性障碍，如用户更新的灵活性，随机延迟和/或遍历变化的信道。我们的理论分析是补充广泛的数值模拟，说明了所提出的方法在现实网络条件下的鲁棒性和可扩展性。
2015-07-07 cs.GT cs.IT math.IT
Weighted Low-rank Approximation via Stochastic Gradient Descent on Manifolds
The George Washington University（乔治·华盛顿大学）
本文提出在流形上用随机梯度下降求解正则化加权低秩逼近，建立带约束收缩方法的收敛定理，并在 Netflix Prize 数据上验证其优于欧几里得空间方法。
2025-02-20 cs.AI cs.LG math.OC
