Online Stochastic Optimization with Multiple Objectives
Michigan State University(密歇根州立大学);GE Global Research(通用电气全球研究中心)
在本文中,我们提出了一个通用的框架来描述和解决多目标随机优化问题的许多现实世界的学习应用。我们首先提出了一个基于投影的算法,达到了$O(T^{-1/3})$收敛速度。然后,利用约束优化中的拉格朗日理论,设计了一种新的原始-对偶随机近似算法,该算法在一般Lipschitz连续目标下获得了$O(T^{-1/2})$的最优收敛速度.
2013-07-14 cs.LG math.OC
A Unified Convergence Theorem for Stochastic Optimization Methods
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
在这项工作中,我们提供了一个基本的统一收敛定理,用于推导预期和几乎必然收敛的结果,一系列的随机最优化方法。我们的统一定理只需要验证几个代表性的条件,而不是针对任何特定的算法。作为一个直接的应用程序,我们恢复预期和几乎必然收敛的结果的随机梯度法(SGD)和随机重排(RR)在更一般的设置。此外,我们建立了新的期望和几乎必然收敛结果的随机邻近梯度法(S-SGD)和随机模型为基础的方法(SMM)的非光滑非凸最优化问题。这些应用表明,我们的统一定理提供了一个插件型的收敛性分析和强收敛保证的广泛的一类随机最优化方法。
2022-10-19 cs.LG math.OC
Optimal Asynchronous Stochastic Nonconvex Optimization under Heavy-Tailed Noise
本文提出了一种在重尾噪声下异步非凸优化的最优算法,通过归一化随机梯度下降与动量项实现最优时间复杂度。
2026-01-27 cs.LG math.OC
A Single-Timescale Method for Stochastic Bilevel Optimization
Rensselaer Polytechnic Institute(伦斯勒理工学院);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
随机双层优化将经典的随机最优化从单个目标的最小化推广到依赖于另一个最优化问题的解的目标函数的最小化。最近,随机双层优化在新兴的机器学习应用中重新流行,例如超参数最优化和模型无关Meta学习。为了解决这类随机最优化问题,现有的方法需要双循环或两个时间尺度的更新,有时效率较低。本文对一类随机双层优化问题提出了一种新的最优化方法--单时间尺度随机双层优化方法(STABLE)。STABLE以单循环方式运行,并使用具有固定批大小的单时间刻度更新。为了实现$ε$ -二层问题的稳定点,STABLE需要${\cal O}(ε^{-2})$样本总数;并且为了在强凸情况下实现$ε$ -最优解,STABLE需要${\cal O}(ε^{-1})$样本。据我们所知,这是第一个双层优化算法实现相同的顺序的样本复杂性的随机梯度下降方法的单级随机最优化。
2022-03-31 cs.LG math.OC stat.ML
Stochastic Coordinate Minimization with Progressive Precision for Stochastic Convex Optimization
Cornell University(康奈尔大学)
提出了一种基于迭代坐标极小化(CM)的随机凸优化框架。由于目标函数的未知随机性,精确的坐标最小化是不可能的,所提出的优化算法的关键是在每次迭代中的最小化精度的最优控制。我们建立了强凸可分离非光滑函数的最优精度控制和由此得到的阶最优后悔性能。一个有趣的发现是,跨迭代的精度的最佳进展是独立的低维CM例程,这表明一个一般的框架扩展低维优化例程高维问题。该算法适合在线实现,并继承了CM的可扩展性和并行化性能的大规模优化。只需要一个次线性顺序的消息交换,它也适合于分布式计算相比,坐标梯度下降的替代方法。
2020-03-11 cs.LG math.OC stat.ML
SVGD: A Virtual Gradients Descent Method for Stochastic Optimization
Xiangtan University(湘潭大学)
受动态规划的启发,提出了随机虚拟梯度下降(SVGD)算法,其中虚拟梯度由计算图和自动微分定义。该方法计算效率高,内存需求小。我们还分析了算法的理论收敛性和实现。在多个数据集和网络模型上的实验结果表明,SVGD具有其他随机优化方法的优势。
2019-07-31 cs.LG math.OC stat.ML
Kalman Gradient Descent: Adaptive Variance Reduction in Stochastic Optimization
我们介绍卡尔曼梯度下降,一个随机最优化算法,使用卡尔曼滤波,自适应地减少梯度方差随机梯度下降的梯度估计过滤。我们提出了在非凸设置和实验结果表明,在各种机器学习领域,包括神经网络和黑箱变分推断的性能提高收敛的理论分析。我们还提出了一个分布式版本,我们的算法,使大规模的优化,我们扩展我们的算法SGD与动量和RMSProp。
2018-10-29 cs.LG math.OC stat.ML
Nonconvex Stochastic Nested Optimization via Stochastic ADMM
我们考虑随机嵌套复合优化问题的目标是两个期望值函数的组合。我们提出了随机ADMM来解决这个复杂的目标。为了找到一个$ε$平稳点,相应的增广拉格朗日次梯度的期望范数小于$ε$,我们的方法的总样本复杂度为$\mathcal{O}(ε^{-3})$的在线情况下和$\mathcal{O} \Bigl((2N_1 + N_2) + (2N_1 + N_2)^{1/2}ε^{-2}\Bigr)$的有限和的情况下。该算法的计算复杂度与\cite{zhang2019multi}中提出的近似算法一致,但在惩罚函数的近似映射不易计算的情况下,该算法可以解决更一般的问题。
2019-11-12 cs.LG math.OC stat.ML
A Stochastic Newton Algorithm for Distributed Convex Optimization
Toyota Technological Institute at Chicago(芝加哥丰田理工学院);Weizmann Institute of Science(魏茨曼科学研究所)
我们提出并分析了均匀分布的随机凸优化的随机牛顿算法,其中每台机器可以计算相同的人口目标的随机梯度,以及随机Hessian向量乘积(人口目标的Hessian的独立无偏估计与任意向量的乘积),许多这样的随机计算在两轮通信之间进行。我们表明,与现有方法相比,我们的方法可以减少所需通信轮的数量和频率,而不会损害性能,通过证明准自协调目标的收敛保证(例如,逻辑斯谛回归),以及经验证据。
2021-10-07 cs.LG math.OC stat.ML
Convergence of continuous-time stochastic gradient descent with applications to deep neural networks
Universitat Pompeu Fabra and Barcelona School of Economics Department of Economics and Business(巴塞罗那经济学院和巴塞罗那大学)
本文研究了学习问题中最小化总体期望损失的连续时间随机梯度下降近似,确立了收敛的一般充分条件,扩展了Chatterjee(2022)的非随机结果,并应用于过参数化神经网络训练。
2025-10-31 cs.LG math.OC stat.ML
Stochastic Nonconvex Optimization with Large Minibatches
Amazon Alexa(亚马逊Alexa);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
我们研究非凸损失函数的随机优化问题,这是训练神经网络的典型目标。我们提出了随机近似算法,优化了一系列的正则化,非线性损失的大minibatches的样本,只使用一阶梯度信息。我们的算法可证明收敛到一个近似的临界点的预期目标,速度比minibatch随机梯度下降,并通过允许更大的minibatch更好的并行化。
2019-03-08 cs.LG
Byzantine-Robust Decentralized Stochastic Optimization with Stochastic Gradient Noise-Independent Learning Error
Sun Yat-Sen University(中山大学);Harvard University(哈佛大学)
本文针对去中心化随机优化中的拜占庭攻击问题,提出结合SAGA和LSVRG方差缩减的BRAVO-SAGA与BRAVO-LSVRG方法,实现线性收敛速度且学习误差与随机梯度噪声无关,并通过实验验证其鲁棒性。
2023-08-10 cs.LG
Nonconvex Decentralized Stochastic Bilevel Optimization under Heavy-Tailed Noise
Temple University(特拉华大学)
针对重尾噪声下的非凸双层优化问题,提出一种无需裁剪的归一化随机方差缩减梯度下降算法,并首次给出严格收敛性证明。
2026-05-25 cs.LG
Designing over uncertain outcomes with stochastic sampling Bayesian optimization
National Institute of Standards and Technology(美国国家标准与技术研究院)
优化在科学和工程领域变得越来越普遍。通常,这些问题涉及各种程度的随机性或不确定性,在产生建议的解决方案。因此,在这些情况下的优化必须考虑这种随机性,以正确指导未来实验的设计。在这里,我们适应贝叶斯优化来处理不确定的结果,提出了一个新的框架,称为随机抽样贝叶斯优化(SSBO)。我们发现,在SSBO的置信上限搜索的预期遗憾的界限类似于早期的贝叶斯优化方法,由于随机生成的输入增加了处罚。此外,我们适应现有的批处理优化技术,以适当地限制近视决策时,可能会出现选择多个实例反馈之前。最后,我们表明,SSBO技术适当地优化了一组标准的优化问题,以及生物工程启发的应用问题。
2020-06-03 cs.LG stat.ML
Private Stochastic Convex Optimization: Efficient Algorithms for Non-smooth Objectives
Johns Hopkins University(约翰斯·霍普金斯大学)
在本文中,我们重新审视私人随机凸优化问题。我们提出了一种算法的基础上嘈杂的镜像下降,达到最佳的统计复杂度和查询次数的一阶随机预言机的制度时,隐私参数是成反比的样本数。
2020-11-17 cs.LG stat.ML
A Latent Variational Framework for Stochastic Optimization
University of Toronto(多伦多大学)
本文通过一个潜在的随机变分问题,为随机优化算法提供了一个统一的理论框架。使用随机控制技术,变分问题的解决方案是等价的一个向前向后随机微分方程(FBSTO)。通过求解这些方程,我们恢复了各种现有的自适应随机梯度下降方法。该框架建立了随机优化算法和二次贝叶斯推理问题之间的直接联系梯度,在噪声梯度观测的先验测量确定所得到的算法。
2019-10-27 cs.LG math.PR stat.CO
Accelerated Randomized Coordinate Descent Algorithms for Stochastic Optimization and Online Learning
Indian Institute of Science(印度科学学院)
我们提出了加速随机坐标下降算法的随机优化和在线学习。我们的算法有显着减少每迭代的复杂性比已知的加速梯度算法。所提出的在线学习算法具有更好的后悔性能比已知的随机在线坐标下降算法。此外,所提出的随机优化算法表现出良好的收敛速度,最有名的随机坐标下降算法。我们还展示了仿真结果来证明所提出的算法的性能。
2018-07-16 cs.LG stat.ML
Fast Stochastic Variance Reduced ADMM for Stochastic Composition Optimization
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院)
我们考虑的随机组合优化问题提出的\cite{wang2017stochastic},它的应用范围从估计到统计和机器学习。我们提出了第一个基于ADMM的算法com-SVR-ADMM,并证明了com-SVR-ADMM对强凸和Lipschitz光滑目标线性收敛,并且具有$O( \log S/S)$的收敛速度,当目标是凸和Lipschitz光滑时,它改进了\cite{wang2016accelerating}的$O(S^{-4/9})$速度.此外,当目标为凸但不具有Lipschitz光滑性时,com-SVR-ADMM具有$O(1/\sqrt{S})$的速率.我们还进行了实验,并表明它优于现有的算法。
2017-05-22 cs.LG stat.ML
Stochastic Optimization with Importance Sampling
Rutgers University(罗格斯大学)
训练数据的均匀采样通常用于传统的随机最优化算法中,例如近端随机梯度下降(Proximal Stochastic Gradient Descent,简称SGD)和近端随机双坐标上升(Proximal Stochastic Dual Coordinate Ascent,简称SDCA)。虽然均匀采样可以保证采样的随机量是相应真实量的无偏估计,但所得估计量可能具有相当高的方差,这对底层优化过程的收敛性产生负面影响。本文研究了具有重要性抽样的随机最优化问题,通过减小随机方差来提高收敛速度。具体地说,我们研究了具有重要性抽样的随机镜像下降(SGD)和具有重要性抽样的随机镜像下降(SDCA)。对于非线性随机梯度算法,该算法采用重要性抽样来最小化随机梯度的方差,而不是在整个训练过程中采用均匀抽样。对于SDCA算法,提出的重要性抽样方案的目标是在每一个对偶坐标上升步骤获得更高的期望对偶值。我们提供了广泛的理论分析表明,建议的重要性抽样方法的收敛速度可以显着提高在适当的条件下,无论是对EST-SGD和EST-SDCA。实验结果验证了理论分析的正确性。
2015-01-02 cs.LG stat.ML
Stochastic gradient descent with noise of machine learning type. Part II: Continuous time analysis
Texas A&M University(德克萨斯A&M大学)
人工神经网络的函数表示依赖于大量的非线性参数。通过最小化“损失函数”,通常通过随机梯度下降(SGD)或基于SGD的高级算法,找到这些的合适参数。在一个连续时间模型的SGD噪声,遵循“机器学习缩放”,我们表明,在一定的噪声制度,优化算法更喜欢“平坦”的最小值的目标函数在某种意义上是不同的平坦的最小值选择连续时间SGD均匀的噪声。
2021-09-15 cs.LG math.AP stat.ML
A Continuous-time Stochastic Gradient Descent Method for Continuous Data
Princeton University(普林斯顿大学);Heriot-Watt University(赫瑞-瓦特大学);Technische Universiteit Delft(代尔夫特理工大学);University of Cambridge(剑桥大学)
本文提出一种连续时间随机梯度下降方法,通过将梯度流与连续时间索引过程耦合来处理连续数据优化问题,分析了其逼近性质、长期行为和遍历性,并在多项式回归和物理信息神经网络中验证了适用性。
2021-12-07 cs.LG math.PR math.ST
humancompatible.train: Implementing Optimization Algorithms for Stochastically-Constrained Stochastic Optimization Problems
Artificial Intelligence Center, Czech Technical University in Prague(捷克技术大学布拉格分校人工智能中心)
本文提出humancompatible.train,一个基于PyTorch的可扩展Python包,用于实现随机约束随机优化算法,并通过公平性约束任务验证其有效性。
2025-09-25 cs.LG math.OC
A General Continuous-Time Formulation of Stochastic ADMM and Its Variants
University of California, Berkeley(加州大学伯克利分校)
本文提出了广义随机ADMM统一算法框架并研究其连续时间分析,证明在适当缩放下其轨迹弱收敛于小噪声随机微分方程的解,并解释了松弛参数应在0到2之间的原因。
2024-04-22 cs.LG math.OC
Third-order Smoothness Helps: Even Faster Stochastic Optimization Algorithms for Finding Local Minima
University of Virginia(弗吉尼亚大学)
我们提出了随机最优化算法,可以找到局部极小值比现有的算法更快的非凸最优化问题,利用三阶光滑逃避非退化鞍点更有效。更具体地说,所提出的算法只需要$\tilde{O}(ε^{-10/3})$随机梯度评估收敛到一个近似的局部最小值$\mathbf{x}$,它满足$\|\nabla f(\mathbf{x})\|_2\leqε$和$λ_{\min}(\nabla^2 f(\mathbf{x}))\geq -\sqrtε$在一般的随机最优化设置,其中$\tilde{O}(\cdot)$隐藏对数多项式项和常数。这将现有技术的随机局部最小值查找算法所实现的$\tilde{O}(ε^{-7/2})$梯度复杂度提高了$\tilde{O}(ε^{-1/6})$的因子。对于非凸有限和优化,我们的算法也优于最好的已知算法在一定的制度。
2017-12-18 cs.LG math.OC
Sequential Quadratic Optimization for Nonlinear Equality Constrained Stochastic Optimization
University of Michigan(密歇根大学);Lehigh University(里海大学)
提出了求解带等式约束的光滑非线性最优化问题的序列二次优化算法。主要的焦点是当约束函数是确定的,约束函数和导数值可以显式计算,但目标函数是随机的情况下,提出的算法。假设在这种情况下,虽然可以计算随机函数和梯度估计,但显式计算目标函数和导数值是困难的。作为这个随机设置的起点,提出了一种算法,用于确定性设置,该确定性设置是仿照一个国家的最先进的线搜索SQP算法,但使用的步长选择计划的基础上Lipschitz常数(或自适应估计Lipschitz常数)的线搜索。这为随机设置的所提出的算法设置了阶段,假设线搜索将是难以处理的。在合理的假设下,收敛(分别为~对于所提出的确定性(分别为~),证明了从远程起点的期望收敛随机)算法。数值实验的结果表明,我们所提出的技术的实际性能。
2020-07-20 cs.LG math.OC
Optimal Complexity in Byzantine-Robust Distributed Stochastic Optimization with Data Heterogeneity
Pengcheng Laboratory(鹏城实验室)
该研究针对数据异构的拜占庭鲁棒分布式随机优化问题,推导了强凸与非凸场景下的紧下界,结合Nesterov加速与方差缩减技术提出匹配下界的新方法,验证了下界的紧致性。
2025-03-20 cs.LG math.OC
Multi-level Monte-Carlo Gradient Methods for Stochastic Optimization with Biased Oracles
EPFL(洛桑联邦理工学院);Georgia Institute of Technology(佐治亚理工学院);ETH Zürich(苏黎世联邦理工学院)
针对有偏随机预言机的优化问题,提出多级蒙特卡洛梯度方法,权衡偏差、方差与成本,证明其优于有偏随机梯度法,并显著改进多个优化问题的复杂度。
2024-08-20 cs.LG math.OC
Adaptive Stochastic Optimization
优化是机器学习和信号处理的核心。基于随机梯度法的当代方法是非自适应的,因为它们的实现采用了需要针对每个应用进行调整的规定参数值。本文总结了最近的研究和激励未来的工作,自适应随机最优化方法,这有可能提供显着的计算节省训练大规模系统。
2020-01-18 cs.LG math.OC stat.ML
Stochastic Recursive Variance Reduction for Efficient Smooth Non-Convex Compositional Optimization
Peking University(北京大学);University of Rochester(罗切斯特大学);Kwai Inc.(快手公司)
随机组合优化出现在许多重要的机器学习任务中,例如强化学习和投资组合管理中的价值函数评估。目标函数是随机函数的两个期望的组合,并且比普通随机最优化问题更具有挑战性。本文研究了一般光滑非凸环境下的随机合成优化问题。我们采用最近发展起来的\textit{Stochastic Recursive Gradient Descent}的思想设计了一个新的算法SARAH-Compositional,并证明了一个尖锐的增量一阶Oracle(IFO)复杂性上界:$\mathcal{O}((n+m)^{1/2} \varepsilon^{-2})$在有限和情况下和$\mathcal{O}(\varepsilon^{-3})$在线的情况下.这样的复杂性是已知的最好的一个IFO复杂性结果的非凸随机组合优化,并被认为是最优的。我们的实验验证了我们的算法的理论性能。
2020-01-25 cs.LG math.OC stat.ML
Stochastic Polynomial Optimization
本文研究了带多项式的随机最优化问题。我们提出了一个具有样本平均值和扰动的最优化模型。采用Lasserre型Moment-SOS松弛法求解样本平均优化问题。研究了优化及其松弛的性质。数值实验。
2019-08-15 math.OC
Stochastic Block Mirror Descent Methods for Nonsmooth and Stochastic Optimization
本文提出了一种新的随机算法,即随机块镜像下降(SBMD)方法,用于求解大规模非光滑和随机最优化问题。该算法的基本思想是将块坐标分解和增量块平均方案结合到经典(随机)镜像下降法中,以显著降低后者的每次迭代代价。我们建立了SBMD方法的收敛速率以及解决一般非光滑和随机最优化问题的相关大偏差结果。我们还介绍了不同的变种,这种方法,并建立他们收敛速率解决强凸,光滑,复合最优化问题,以及某些非凸最优化问题。据我们所知,所有这些发展有关的SBMD方法是新的随机最优化文献。此外,我们的一些结果似乎也是新的块坐标下降法的确定性优化。
2013-09-09 math.OC
An optimal algorithm for stochastic strongly-convex optimization
我们考虑随机凸优化与强凸(但不一定光滑)的目标。我们给出了一个算法,只执行梯度更新的最佳收敛速率。
2010-06-12 math.OC
A Hybrid Stochastic Optimization Framework for Stochastic Composite Nonconvex Optimization
The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);IBM Research(IBM研究院)
针对一类随机组合且可能非凸的最优化问题,提出了一种新的随机最优化算法。其主要思想是将两个随机估计组合起来,形成一个新的混合估计。我们首先介绍我们的混合估计,然后研究其基本性质,形成算法开发的基础理论。接下来,我们应用我们的理论来开发随机梯度法的几个变种,以解决期望和有限和复合最优化问题。我们的第一个算法可以被看作是一个单一的循环的近端随机梯度法的变体,但可以实现$\mathcal{O}(σ^3\varepsilon^{-1} + σ\varepsilon^{-3})$ -oracle的复杂性界,匹配最知名的,从国家的最先进的双循环算法在文献中,其中$σ> 0$是方差和$\varepsilon$是一个理想的精度。然后,我们考虑我们的方法的两个不同的变体:自适应步长和重新启动计划,在我们的第一个算法中有类似的理论保证。我们还研究了所提出的方法的两个小批量的变种。在所有的情况下,我们都达到了标准假设下最著名的复杂性界限。我们用真实数据集在几个数值例子上测试了我们的方法,并将它们与最先进的方法进行了比较。我们的数值实验表明,新的方法是可比的,在许多情况下,优于他们的竞争对手。
2020-05-03 cs.LG math.OC stat.ML
Stochastic Modified Equations for Continuous Limit of Stochastic ADMM
School of Data Science and Department of Mathematics, City University of Hong Kong(香港城市大学数据科学学院及数学系);Peking University(北京大学);Department of EECS, UC Berkeley(加州大学伯克利分校电气工程与计算机科学系);Department of Mathematics Stanford University(斯坦福大学数学系);City University of Hong Kong(香港城市大学);UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
随机交替方向法及其变体(线性化ADMM、基于梯度的ADMM)在现代大规模机器学习问题中起着关键作用。一个例子是正则化经验风险最小化问题。在这项工作中,我们把不同的变种随机ADMM到一个统一的形式,其中包括标准的,线性化的和基于梯度的ADMM与松弛,并通过连续时间模型的方法研究他们的动态。我们采用随机修正方程(SME)的数学框架,证明了随机ADMM的动力学在弱逼近意义下可由一类带小噪声参数的随机微分方程逼近.连续时间分析将揭示对离散时间算法的行为的重要分析见解,这是不平凡的,否则获得。例如,我们可以精确地描述解路径的波动性,并确定最佳的停时,以最小化解路径的方差。
2020-03-07 cs.LG math.OC stat.ML
Dynamic Stochastic Approximation for Multi-stage Stochastic Optimization
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院H. Milton Stewart工业与系统工程学院)
本文考虑了在每一阶段都具有凸目标和锥约束的多阶段随机最优化问题。我们提出了一种新的随机一阶方法,即动态随机逼近(DSA)算法,用于解决这类随机最优化问题。我们表明,DSA可以实现一个最佳的${\cal O}(1/ε^4)$收敛速率方面所需的情况下,应用到一个三阶段的随机最优化问题的总数。我们进一步表明,这种收敛速率可以提高到${\cal O}(1/ε^2)$时,目标函数是强凸的。我们还讨论了变形的DSA解决更一般的多阶段随机最优化问题的阶段数$T > 3$。所开发的DSA算法只需要通过一次场景树,以计算多阶段随机最优化问题的$ε$ -解决方案。因此,DSA所需的存储器仅相对于级数线性增长。据我们所知,这是第一次,随机逼近型方法推广到多阶段随机最优化与$T \ge 3$。
2019-08-20 cs.CC cs.LG math.OC
A new Simheuristics procedure for stochastic combinatorial optimization
本文提出一种基于统计模型动态切换确定性/随机优化重点的新型仿真启发式方法,在解空间探索与利用间取得平衡,并在现实随机调度问题上验证了其优于标准仿真启发式策略的求解效率。
2024-07-18 math.OC
Discretization error from regularized Reinforcement Learning to continuous-time stochastic control
Ecole Polytechnique(巴黎综合理工学院);Auburn University(奥本大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文研究正则化离散时间强化学习与连续时间随机最优控制之间的离散化误差,分析其收敛速率以支撑探索性RL策略在连续时间环境中的稳定性与实现。
2026-04-23 math.OC
A Unified Approach to Adaptive Regularization in Online and Stochastic Optimization
Google Brain(谷歌大脑)
我们描述了一个框架,推导和分析在线优化算法,包括自适应,数据相关的正则化,也称为预处理。这样的算法已被证明是有用的随机优化,根据数据的几何形状重塑梯度。我们的框架捕获并统一了许多关于自适应在线方法的现有文献,包括AdaGrad和在线牛顿步算法以及它们的对角版本。因此,我们获得了新的收敛性证明,这些算法比以前的分析要简单得多。我们的框架还揭示了常见的随机优化方法中使用的不同的预处理更新的基本原理。
2017-06-20 cs.LG math.OC stat.ML
Data-driven policy iteration algorithm for continuous-time stochastic linear-quadratic optimal control problems
本文研究了无限时域连续时间随机线性二次型(SLQ)最优控制问题。提出了一种数据驱动的策略迭代算法来解决SLQ问题。该算法在不知道三个系统系数矩阵的情况下,利用采集的数据迭代逼近相应的随机代数Riccati方程(SARE)的解。仿真算例验证了算法的有效性和适用性。
2022-09-29 math.OC
Stochastic Minimum Principle for Partially Observed Systems Subject to Continuous and Jump Diffusion Processes and Driven by Relaxed Controls
本文研究了松弛控制驱动的随机微分方程的非凸控制问题。我们提出了最优控制的存在性,然后发展的最优性的必要条件。我们涵盖了连续扩散和跳跃过程。
2013-02-14 math.OC
Stochastic optimization on continuous domains with finite-time guarantees by Markov chain Monte Carlo methods
我们介绍了有限时间性能的界的马尔可夫链蒙特卡罗算法在接近全球解决方案的随机最优化问题的连续区域。与其他国家的最先进的方法有有限的时间保证解决随机规划问题的比较。
2010-01-07 math.OC
Stochastic Recursive Momentum Method for Non-Convex Compositional Optimization
我们提出了一种新的随机最优化算法,称为STORM-组合优化,最大限度地减少了两个随机函数的期望组合,后者是一个最优化问题,出现在各种重要的机器学习应用。通过在成分梯度更新中引入动量项,STORM-Compositional以指数移动平均的方式操作随机递归方差约减的成分梯度。这导致STORM-组合的$O(\varepsilon^{-3})$复杂度上界,其匹配先前宣布的组合优化算法中的最佳已知复杂度界限。同时,STORM-组合是一个单循环算法,避免了在大批量和小批量之间进行典型的交替调整,以及记录检查点梯度,这些都是方差减少的随机梯度法中持续存在的。这使得相当简单的参数调整在数值实验中,这表明了优于其他随机组合优化算法的STORM组合。
2020-06-07 math.OC
Stochastic Quasi-Newton Methods for Nonconvex Stochastic Optimization
本文研究了非凸随机最优化的随机拟牛顿法,其中我们假设只有目标函数的梯度的随机信息可以通过随机一阶预言机(SFO)得到.首先,我们提出了求解非凸随机最优化的随机拟牛顿法的一般框架。建议的框架扩展了经典的拟牛顿法在确定性设置随机设置,我们证明了其几乎必然收敛平稳点。其次,我们提出了一类随机随机拟牛顿法的一般框架,其中算法进行的迭代次数是随机变量。分析了这类方法的最坏情况SFO调用复杂度。第三,我们提出了两个具体的方法,即随机阻尼BFGS方法和随机循环Barzilai-Borwein方法。最后,我们报告的数值结果来证明所提出的方法的效率。
2014-12-04 math.OC
Adaptive Stochastic Mirror Descent for Constrained Optimization
镜像下降法是求解非光滑凸优化问题的一种著名方法。本文分析了自适应步长MD的随机变化。它的平均收敛速度比固定步长和最佳的下界。
2017-05-04 math.OC
Continuous Time Multi-stage Stochastic Reserve and Unit Commitment
本文提出了一种连续时间多阶段随机最优化方法,用于日前电力批发市场中的机组调度、机组的组合、备用容量及其连续时间发电剖面。我们的公式近似的解决方案的变分问题,其中的平衡,发电容量和斜坡的限制是在连续的时间。由于我们的斜坡事件表示的更大的准确性,这种方法提高了系统可靠性,并降低了实时成本。
2018-03-19 math.OC
Two-Timescale Stochastic Approximation for Bilevel Optimisation Problems in Continuous-Time Models
我们分析了连续时间,两时标随机逼近算法设计的随机双层优化问题的连续时间模型的渐近性质。我们以中心极限定理的形式得到了该算法的弱收敛速度。我们还演示了如何将该算法可以应用到几个连续时间的双层优化问题。
2022-07-06 math.OC stat.ML
Higher-Order Stochastic Dominance Constraints in Optimization
本文针对含不可数随机占优约束的优化问题,提出通过有限测试点缩减约束的方法,并引入期望算子和风险度量两种表述,构建优化框架,数值验证其在投资组合优化中的高效稳健性。
2025-02-26 math.OC
Martingale Characterizations of Risk-Averse Stochastic Optimization Problems
本文讨论了随机最优化问题的风险意识。嵌套风险度量在这种情况下自然出现,因为它们允许对算法治疗进行有益的重新制定。通过在问题表述中引入风险意识,提出的重构扩展了动态最优化中常见的Hamilton-Jacobi-Bellman方程。嵌套风险度量建立在风险度量之上,风险度量来源于随机过程的历史条件。我们推导出这些风险测度的鞅性质,并用它们来证明连续性。它表明,随机最优化问题,其中包括风险意识,通过嵌套的风险措施,是连续的自然距离,这些最优化问题,嵌套的距离。
2018-02-13 math.OC
A trust-region method for derivative-free nonlinear constrained stochastic optimization
在这项工作中,我们介绍了随机非线性约束无导数最优化方法(S)NOWPAC(随机非线性最优化路径增广约束)。该方法扩展了无导数优化器NOWPAC适用于不确定性下的优化。它是基于一个置信域框架,利用本地完全二次代理模型结合高斯过程代理,以减轻噪音的目标函数和约束评估。我们展示了我们的算法的性能从CUTEst基准套件的各种强大的最优化问题通过比较其他国家的最先进的最优化方法。虽然我们专注于强大的优化基准问题,以证明(S)NOWPAC的能力,优化器可以适用于广泛的应用在非线性约束随机最优化。
2022-01-21 math.OC
Consistency of sample-based stationary points for infinite-dimensional stochastic optimization
本文研究Banach空间中非光滑随机优化问题的样本近似方法,证明了样本近似Clarke平稳点的一致性,并将其应用于风险规避和风险中性的PDE约束优化。
2023-06-29 math.OC
Expectiles In Risk Averse Stochastic Programming and Dynamic Optimization
本文主要讨论动态优化和随机最优化中的期望问题。期望函数是一类风险泛函,它是最优化问题的极小化函数。由于这个原因,他们享有各种独特的稳定性,可以利用在风险规避管理,随机最优化和最优控制。本文提供了紧密联系的期望其他风险泛函,并解决其性质的回归。此外,我们将期望扩展到动态框架。因此,它们允许在连续时间动态最优化和Hamilton-Jacobi-Bellman方程的风险规避变体中并入风险规避方面。
2023-03-06 math.OC
A Single Time-Scale Stochastic Approximation Method for Nested Stochastic Optimization
研究约束嵌套随机最优化问题,其中目标函数是两个光滑函数的组合,其精确值和导数是不可用的。我们提出了一个单时间尺度的随机近似算法,我们称之为嵌套平均随机逼近(NASA),找到一个近似的稳定点的问题。该算法有两个辅助平均序列(滤波器),估计复合目标函数的梯度和内部函数值。通过使用一个特殊的李雅普诺夫函数,我们表明,美国宇航局实现的样本复杂性的${\cal O}(1/ε^{2})$找到一个$ε$ -近似平稳点,从而优于现有的嵌套随机逼近的方法。我们的方法和分析是相同的无约束和约束问题,而不需要任何批量样本的约束非凸随机最优化。我们还提出了一个简化的变体的NASA方法求解约束单级随机最优化问题,我们证明了相同的复杂性结果为无约束和约束问题。
2019-09-06 math.OC
Adaptive fast gradient method in stochastic optimization tasks
本文提出了一种基于镜像变形相似三角形方法的随机自适应快速梯度下降法。据我们所知,这是第一次尝试使用自适应随机方法。另外,还从大偏差概率的角度证明了一个主要结果.
2017-11-30 math.OC
Distributed Momentum-based Frank-Wolfe Algorithm for Stochastic Optimization
本文考虑了分布式随机最优化问题,在该问题中,多个智能体通过局部计算和与网络上的邻居进行信息交换来协作优化全局目标函数。随机最优化问题通常是通过投影随机梯度下降的变体来解决的。然而,将一个点投影到一个可行集上通常是昂贵的。Frank-Wolfe(FW)方法在处理凸约束方面具有良好的优点,但现有的随机FW算法基本上是针对集中设置开发的。在这种情况下,目前的工作提出了一个分布式随机Frank-Wolfe求解器,明智地结合Nesterov的动量和梯度跟踪技术的随机凸和非凸优化网络。结果表明,该算法对凸优化问题的收敛速度为$\mathcal{O}(k^{-\frac{1}{2}})$,对非凸优化问题的收敛速度为$\mathcal{O}(1/\mathrm{log}_2(k))$.该算法的有效性证明了数值模拟对一些竞争的替代品。
2022-08-08 math.OC