Only Pay for What Is Uncertain: Variance-Adaptive Thompson Sampling
Apple ML Research(苹果机器学习研究院);TTI, Chicago(芝加哥丰田理工学院);AWS AI Labs(亚马逊云科技人工智能实验室)
针对奖励方差未知且异构的高斯赌博机问题,提出方差自适应汤普森采样算法,利用先验知识实现更低的贝叶斯遗憾,并通过实验验证其优越性与鲁棒性。
2023-10-12 cs.LG
The Power of Adaptivity in SGD: Self-Tuning Step Sizes with Unbounded Gradients and Affine Variance
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究AdaGrad-Norm的收敛速度作为自适应随机梯度方法(SGD)的一个范例,其中步长根据观察到的随机梯度变化,以最小化非凸,光滑的目标。尽管他们的流行,自适应SGD的分析落后于非自适应方法在这种情况下。具体地说,所有先前的工作都依赖于以下假设的某个子集:(i)均匀有界的梯度范数,(ii)均匀有界的随机梯度方差(甚至噪声支持),(iii)步长和随机梯度之间的条件独立性。在这项工作中,我们表明,AdaGrad-Norm表现出$\mathcal{O}\left(\frac{\mathrm{poly}\log(T)}{\sqrt{T}}\right)$阶最优收敛速度的$T$迭代后,最优调谐非自适应SGD(无界梯度范数和仿射噪声方差缩放)相同的假设下,关键的是,不需要任何调整参数。因此,我们建立自适应梯度方法表现出更广泛的制度比以前理解的顺序最优收敛。
2022-07-25 cs.LG math.OC stat.ML
Variance Reduction and Low Sample Complexity in Stochastic Optimization via Proximal Point Method
Goergen Institute for Data Science and Artificial Intelligence (GIDS-AI)(数据科学与人工智能研究所);Department of Computer Science, University of Rochester(计算机科学系)
本文提出一种随机近点法,通过方差缩减和概率增强技术,在无需强噪声假设的情况下实现低样本复杂度的随机优化收敛。
2025-12-21 cs.LG math.OC stat.ML
Adaptive Sampling Distributed Stochastic Variance Reduced Gradient for Heterogeneous Distributed Datasets
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
我们研究分布式优化算法,最大限度地减少平均分布在几台机器上的\emph{heterogeneous}功能,重点是通信效率。在这样的设置中,天真地使用经典的随机梯度下降(SGD)或其变体(例如,SVRG)的机器的均匀采样通常会产生较差的性能。这往往导致收敛速度依赖于跨设备梯度的最大Lipschitz常数。在本文中,我们提出了一种新的\emph{adaptive}采样的机器专门迎合这些设置。我们的方法依赖于一个自适应估计的局部Lipschitz常数的基础上过去的梯度信息。我们表明,新的方法提高了收敛速度的依赖性从最大Lipschitz常数\emph{average} Lipschitz常数跨机器,从而显着加快收敛。我们的实验表明,我们的方法确实加快了标准SVRG算法在异构环境中的收敛速度。
2020-11-17 cs.LG math.OC stat.ML
TRSVR: An Adaptive Stochastic Trust-Region Method with Variance Reduction
Department of Mathematics, University of California, Berkeley, CA, USA(加州大学伯克利分校数学系);Boston University, MA, USA(波士顿大学);Department of IEOR, University of California, Berkeley, CA, USA(加州大学伯克利分校工业工程与运筹学系)
TRSVR 通过结合 SVRG 和信任区域方法,在非凸优化中实现加速收敛,并利用 Hessian 信息提升性能。
2026-01-21 cs.LG math.OC stat.ML
Decoupling Variance and Scale-Invariant Updates in Adaptive Gradient Descent for Unified Vector and Matrix Optimization
Department of Computer Science, Purdue University, West Lafayette, USA(计算机科学系,普渡大学,西拉法叶,美国);Edwardson School of Industrial Engineering, Purdue University, West Lafayette, USA(工业工程学院,普渡大学,西拉法叶,美国)
提出DeVA框架,通过解耦AdaGrad更新中的方差适应项和尺度不变项,统一向量自适应方法与矩阵谱优化,在语言建模和图像分类中优于Muon和SOAP,减少约6.6%的token使用。
2026-05-26 cs.LG
Non-Convex Optimization in Federated Learning via Variance Reduction and Adaptive Learning
University of Calabria(卡拉布里亚大学);Missouri University of Science & Technology(密苏里科技大学)
本文提出一种基于动量方差缩减与自适应学习的联邦学习算法,在异构数据非凸场景下将通信复杂度从O(ε⁻²)降至O(ε⁻¹),并在MNIST和CIFAR-10上验证了其有效性。
2024-12-16 cs.LG
MaxVA: Fast Adaptation of Step Sizes by Maximizing Observed Variance of Gradients
University of Maryland(马里兰大学);Microsoft(微软);Tsinghua University(清华大学)
自适应梯度方法如RMSProp和Adam使用平方梯度的指数移动估计来计算自适应步长,在面对噪声目标时实现比SGD更好的收敛性。然而,由于不稳定或极端的自适应学习率,Adam可能具有不期望的收敛行为。已经提出了AMSGrad和AdaBound等方法来稳定Adam在训练后期的自适应学习率,但在训练Transformers \cite{transformer}等实际任务中,它们并没有超过Adam。在本文中,我们提出了一个自适应学习率原则,其中亚当的梯度平方的运行平均值被替换为加权平均值,权重选择为最大化每个坐标的估计方差。这导致对局部梯度方差的更快适应,这导致比Adam更理想的经验收敛行为。我们证明了所提出的算法收敛非凸随机优化问题在温和的假设下,并证明了我们的自适应平均方法在机器翻译,自然语言理解和大批量预训练的BERT的改进功效。该代码可在https://github.com/zhuchen03/MaxVA上获得。
2021-07-04 cs.LG stat.ML
Best-of-Three-Worlds Linear Bandit Algorithm with Variance-Adaptive Regret Bounds
NEC Corporation(日本电气股份有限公司)
本文提出了一种线性强盗算法,是自适应的环境中的两个不同层次的层次。在更高的层次上,该算法适应各种类型的环境。更准确地说,它达到了三个世界中最好的后悔界限,即,针对对抗性环境的${O}(\sqrt{T \log T})$和针对具有对抗性破坏的随机环境的$O(\frac{\log T}{Δ_{\min}} + \sqrt{\frac{C \log T}{Δ_{\min}}})$,其中$T$、$Δ_{\min}$和$C$分别表示时间范围、最小次优间隙和破坏总量。注意,这里省略了维度中的多项式因子。在较低的层次上,在每一个对抗和随机制度,所提出的算法适应某些环境特征,从而表现得更好。该算法具有数据依赖的遗憾界,取决于所有的累积损失的最佳行动,总的二次变异,和路径长度的损失向量序列。此外,对于随机环境,该算法具有方差自适应遗憾界$O(\frac{σ^2 \log T}{Δ_{\min}})$,其中$σ^2$表示反馈损失的最大方差。该算法是基于SCRiBLe算法。通过将一种我们称之为按比例放大抽样的新技术纳入其中,我们获得了高水平的适应性,通过将乐观在线学习技术纳入其中,我们获得了低水平的适应性。
2023-02-24 cs.LG stat.ML
Single-Call Stochastic Extragradient Methods for Structured Non-monotone Variational Inequalities: Improved Analysis under Weaker Conditions
Johns Hopkins University(约翰霍普金斯大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本研究针对单次调用随机外梯度方法,在更弱条件下(无需方差有界)为两类结构化非单调变分不等式提供收敛保证,引入期望残差条件,并涵盖多种步长与采样策略。
2023-11-12 cs.GT cs.LG math.OC
Lazy Queries Can Reduce Variance in Zeroth-order Optimization
Rensselaer Polytechnic Institute(伦斯勒理工学院);Sun Yat-Sen University(中山大学)
应用零阶(ZO)方法的一个主要挑战是高查询复杂度,特别是当查询代价很高时。我们提出了一种新的梯度估计技术的ZO方法的基础上自适应懒惰的查询,我们称之为LAZO。与经典的一点或两点梯度估计方法不同,LAZO提出了两种方法来检查前几次迭代中旧查询的有用性,然后自适应地重用它们来构造低方差梯度估计。我们严格地建立,通过明智地重用旧的查询,LAZO可以减少随机梯度估计的方差,使它不仅节省每次迭代的查询,但也实现了遗憾的对称两点法。我们评估的数值性能的LAZO,并证明了低方差属性和性能增益的LAZO在遗憾和查询复杂度相对于现有的几个ZO方法。LAZO的思想是通用的,并且可以应用于ZO方法的其他变体。
2022-06-14 cs.LG math.OC stat.ML
Adaptive Importance Sampling for Finite-Sum Optimization and Sampling with Decreasing Step-Sizes
McGill University(麦吉尔大学)
已知减小梯度估计器的方差以提高基于随机梯度的优化和采样算法的收敛速度。实现方差减小的一种方法是设计重要性采样策略。最近,设计这样的方案的问题被公式化为一个在线学习问题与强盗反馈,和算法与次线性静态遗憾的设计。在这项工作中,我们建立在这个框架,并提出Avare,一个简单而有效的算法,自适应重要性采样有限和优化和采样的步长减小。在标准的技术条件下,我们表明,Avare实现$\mathcal{O}(T^{2/3})$和$\mathcal{O}(T^{5/6})$动态遗憾SGD和SGLD分别运行时,与$\mathcal{O}(1/t)$步长。我们实现这个动态的遗憾约束,利用我们的知识的动态定义的算法,并结合思想从在线学习和方差减少随机优化。我们经验验证我们的算法的性能,并确定设置中,它导致显着的改善。
2021-03-23 cs.LG math.OC stat.ML
Adaptive SGD with Polyak stepsize and Line-search: Robust Convergence and Variance Reduction
CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全中心)
针对现有随机Polyak步长和随机线搜索SGD在非插值场景下收敛性差、人为降步长会拖慢收敛的问题,提出AdaSPS和AdaSLS两种变体,结合新型方差缩减技术提升了收敛效率,且易实现分析,经实验验证有效鲁棒。
2023-08-21 cs.LG math.OC stat.ML
Balancing Rates and Variance via Adaptive Batch-Size for Stochastic Optimization Problems
University of Pennsylvania(宾夕法尼亚大学);U.S. Army Research Laboratory(美国陆军研究实验室)
随机梯度下降是解决随机优化问题的经典工具,是现代机器学习和统计学的基石。在这项工作中,我们试图平衡的事实,衰减步长是需要精确的渐近收敛的事实,恒定的步长学习速度更快,在有限的时间内的错误。要做到这一点,而不是固定的小批量和步长在一开始,我们提出了一个策略,允许参数自适应地演变。具体而言,批量大小被设置为分段常数递增序列,其中当满足合适的误差准则时发生递增。此外,步长被选择为产生最快收敛的步长。整体算法,双尺度自适应(TSA)计划,开发凸和非凸随机优化问题。它继承了随机梯度法的精确渐近收敛性。更重要的是,在理论上实现了最佳的误差减少率,以及在计算成本的整体减少。实验上,我们观察到TSA相对于标准SGD获得了有利的折衷,标准SGD固定了小批量和步长,或者简单地允许一个分别增加或减少。
2020-07-09 cs.LG eess.SP
META-STORM: Generalized Fully-Adaptive Variance Reduced SGD for Unbounded Functions
New York University(纽约大学);Stern School of Business(斯特恩商学院);Boston University(波士顿大学);Northeastern University(东北大学);Khoury College of Computer and Information Science(胡里计算机与信息科学学院)
研究了方差缩减技术在一般非凸随机优化问题中的应用。在这种情况下,最近的工作STORM [Cutkosky-Orabona '19]克服了必须计算早期VR方法所依赖的“大批量”梯度的缺点。在那里,STORM利用递归动量来实现VR效果,然后在STORM+中完全自适应[Levy等人,21],其中全自适应消除了获得某些特定于问题的参数的要求,例如目标的平滑度以及随机梯度的方差和范数的界限,以便设置步长。然而,STORM+关键依赖于函数值有界的假设,排除了一大类有用的函数。在这项工作中,我们提出了META-STORM,STORM+的一个广义框架,它消除了这个有界函数值假设,同时仍然达到非凸优化的最佳收敛速度。META-STORM不仅保持了全自适应性,消除了获取问题特定参数的需要,而且还提高了收敛速度对问题参数的依赖性。此外,META-STORM可以利用大范围的参数设置,这些参数设置包含了以前的方法,允许在更广泛的设置范围内具有更大的灵活性。最后,我们通过常见的深度学习任务的实验来证明META-STORM的有效性。我们的算法改进了以前的工作STORM+和广泛使用的算法后,增加了每坐标更新和指数移动平均算法的竞争力。
2022-09-29 cs.DS cs.LG
Finite Time Regret Bounds for Minimum Variance Control of Autoregressive Systems with Exogenous Inputs
Indian Institute of Science(印度科学学院);Texas A & M University(德克萨斯农工大学)
本文针对ARX系统自适应最小方差控制提出PIECE控制器,通过探测输入改善初始学习阶段性能,并首次给出有界噪声下$C\log T$、亚高斯噪声下$C\log^2 T$的有限时间遗憾界,仿真验证其优于现有方法。
2023-05-26 cs.LG cs.SY eess.SY
Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization
The University of Tokyo(东京大学);RIKEN(理化学研究所)
随机梯度Langevin动力学是解决采样问题和非凸优化问题的最基本算法之一,出现在机器学习的许多应用中。特别是,其方差减少的版本,现在已经获得了特别的关注。在本文中,我们研究这类的两个变种,即随机方差约化梯度Langevin动力学和随机递归梯度Langevin动力学。我们证明了他们的收敛到目标分布的KL-发散光滑性和Log-Sobolev不等式的唯一假设下,这些算法比以前的作品中使用的条件较弱。将批次大小和内环长度设置为$\sqrt{n}$时,实现$ε$精度的梯度复杂度为$\tilde{O}((n+dn^{1/2}ε^{-1})γ^2 L^2α^{-2})$,这是对之前任何分析的改进。我们还展示了我们的结果在非凸优化中的一些重要应用。
2022-11-19 cs.LG math.PR stat.ML
Refining Adaptive Zeroth-Order Optimization at Ease
Yao Shu;Qixin Zhang;Kun He;Zhongxiang Dai
本文提出 R-AdaZO,通过利用一阶矩的方差缩减效应并改进二阶矩估计,构建方差感知收敛框架,在多种零阶任务中实现更快收敛。
2025-06-07 cs.AI cs.LG
Coupling Adaptive Batch Sizes with Learning Rates
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);Body Labs Inc.(Body Labs公司)
小批量随机梯度下降及其变体已经成为大规模经验风险最小化的标准,如神经网络的训练。这些方法通常与通过简单的经验检查选择的恒定批量一起使用。但是,批量大小会显著影响随机优化算法的行为,因为它决定了梯度估计的方差。这种差异也会随着优化过程而变化;当使用恒定的批量大小时,稳定性和收敛性通常通过(手动调整的)递减学习率调度来加强。我们提出了一个实用的方法,动态批量大小的适应。它估计随机梯度的方差,并调整批量大小以与目标函数的值成比例地减小方差,从而消除了对上述学习率减小的需要。与最近的相关工作相比,我们的算法将批量大小与学习率相结合,直接反映了两者之间的已知关系。在流行的图像分类基准测试中,我们的批量大小自适应产生更快的优化收敛,同时简化了学习率调整。TensorFlow实现可用。
2017-06-28 cs.CV cs.LG stat.ML
Variance Reduction is an Antidote to Byzantines: Better Rates, Weaker Assumptions and Communication Compression as a Cherry on the Top
MBZUAI(穆罕默德·本·扎耶德人工智能大学);MIPT(莫斯科物理技术学院);Mila & UdeM(米拉研究所与蒙特利尔大学);KAUST(阿卜杜拉国王科技大学)
由于协作学习和联邦学习的兴趣日益增长,拜占庭鲁棒性已经获得了很多关注。然而,许多富有成效的方向,如使用方差减少实现鲁棒性和通信压缩,以减少通信成本,仍然在该领域的薄弱探索。这项工作解决了这个差距,并提出了Byz-VR-MARINA -一个新的拜占庭宽容的方法,减少方差和压缩。我们的论文的一个关键信息是,方差减少是更有效地打击拜占庭工人的关键。同时,通信压缩是一个额外的好处,使该过程更有效的通信。我们得到理论上的收敛保证Byz-VR-MARINA优于以前的国家的最先进的一般非凸和Polyak-Lojasiewicz损失函数。不像并发拜占庭强大的方法与方差减少和/或压缩,我们的复杂性的结果是紧密的,不依赖于限制性的假设,如有界的梯度或有限的压缩。此外,我们提供了第一次分析的拜占庭宽容的方法,支持非均匀采样的随机梯度。数值实验证实了我们的理论研究结果。
2023-03-08 cs.DC cs.LG math.OC
Adaptive Stochastic Variance Reduction for Non-convex Finite-Sum Minimization
EPFL(洛桑联邦理工学院)
我们提出了一种自适应方差缩减方法,称为AdaSpider,用于最小化具有有限和结构的$L$ -光滑非凸函数。本质上,AdaSpider结合了AdaGrad启发的[Duchi等人,2011,McMahan & Streeter,2010],但是在[Fang等人,2018年]。据我们所知,Adaspider是第一个无参数非凸方差缩减方法,因为它不需要问题相关参数的知识,例如平滑常数$L$,目标精度$ε$或梯度范数的任何界限。在这样做的时候,我们能够计算一个$ε$ -固定点与$\tilde{O}\left(n + \sqrt{n}/ε^2\right)$ oracle-calls,它匹配相应的下界的对数因子。
2022-11-03 cs.LG math.OC
Adaptive Optimization via Momentum on Variance-Normalized Gradients
MVN-Grad通过动量优化变分归一化梯度,在稳定性和性能上优于Adam等优化器,适用于图像分类和语言模型任务。
2026-08-18 cs.LG math.OC
Why Does Adaptive Batching Help LLM Pretraining? A Perspective from Unbounded Variance
Elmore Family School of Electrical and Computer Engineering(埃尔莫尔家族电气与计算机工程学院);Purdue University(普渡大学)
针对LLM预训练中批大小调度的理论缺失,提出广义BG-$a$噪声模型并推导复杂度界限,设计自适应批调度器,在OLMo2预训练中以更少迭代取得更低验证损失。
2026-10-05 cs.LG math.OC
Unified Theory of Adaptive Variance Reduction
Basic Research of Artificial Intelligence Laboratory (BRAIn Lab)(人工智能基础研究所(BRAIn Lab))
本文提出自适应方差缩减的统一理论,将有偏估计纳入统一框架,并设计无需超参数调优的自适应步长方差缩减方法,覆盖有限和、分布式与坐标优化问题。
2025-11-06 math.OC
Breaking the Stochasticity Barrier: An Adaptive Variance-Reduced Method for Variational Inequalities
本文提出VR-SDA-A算法,通过自适应步长和曲率验证机制,解决随机变分不等式中的随机性壁垒问题,实现非凸优化的最优收敛速率。
2026-10-20 cs.LG math.OC
A Proximal Stochastic Gradient Method with Adaptive Step Size and Variance Reduction for Convex Composite Optimization
School of Mathematics and Statistics, Chongqing University of Posts and Telecommunications(重庆邮电大学数学与统计学院)
本文提出一种近端随机梯度算法(PSGA),通过引入方差减少技术和自适应步长策略,解决复合优化问题。证明了在光滑凸函数Lipschitz连续时方法的强收敛性,并得到O(√(1/k))的收敛速率。
2026-04-03 math.OC
Adaptive Variance-Reduced Stochastic Sequential (Quadratic Constrained) Quadratic Programming
Department of Mathematics IIT Jodhpur(印度理工学院焦特普尔分校数学系)
本文提出AVR-SS(QC)QP方法,整合多种技术实现非线性约束优化,经理论证明其收敛性,数值实验验证了该方法在稀疏主成分分析问题上的有效性。
2026-10-14 math.OC
Structure-Adaptive, Variance-Reduced, and Accelerated Stochastic Optimization
在这项工作中,我们探讨了最先进的随机一阶算法的正则化经验风险最小化任务,其中的解决方案具有内在的低维结构(如稀疏性和低秩)的基本结构自适应性。这种结构通常由非光滑正则化或约束来强制执行。我们首先建立快速线性收敛速率的SAGA算法的非强凸目标的凸约束,通过锥限制强凸性的参数。然后,针对带有坐标可分凸正则项的复合最小化问题,提出并分析了两阶段加速坐标下降算法(Two-Stage APCG)。我们提供的收敛性分析表明,所提出的方法具有整体收敛性一般,并享有局部加速线性收敛速率的低维结构的解决方案。然后,基于这个收敛结果,我们提出了一个自适应变种的两阶段APCG方法,不需要预先预知的限制强凸性,但估计它的飞行。在数值实验中,我们比较了自适应两阶段APCG与各种最先进的方差减少的随机梯度法稀疏回归任务,并证明了我们的方法的有效性。
2017-12-12 math.OC
Stochastic Optimization with Random Search
Machine Learning and Optimization Laboratory (MLO)(机器学习与优化实验室);UM6P College of Computing(UM6P 计算学院)
本文提出了一种在随机优化中利用随机搜索的方法,通过更弱的光滑性假设和方差减少技术提升收敛速度和保证性能。
2025-12-17 cs.LG math.OC
Adaptive Stochastic Variance Reduction for Subsampled Newton Method with Cubic Regularization
Nesterov和Polyak的三次正则化牛顿法由于其能够找到具有二阶保证的近似局部解而在非凸优化中越来越受欢迎。最近的一些工作扩展了这种方法的设置,最小化N个光滑函数的平均值,通过替换精确的梯度和海森与子采样近似。它已被证明,总海森样本的复杂性可以减少到次线性N每迭代利用随机方差减少技术。本文提出了一种基于三次正则化的下采样Newton方法的自适应方差缩减方案,并证明了在一阶和二阶保证下,寻找(ε,ε^{1/2})-近似局部解的Hessian样本复杂度为O(N + N^{2/3}ε^{-3/2}).此外,我们表明,相同的Hessian样本复杂性保留固定的样本量,如果使用精确的梯度。我们的分析技术是不同的,从以前的作品中,我们不依赖于基于矩阵浓度不等式的高概率界。相反,我们推导并利用随机矩阵的平均值的3阶和4阶矩的界,它们本身是独立的。
2018-11-28 math.OC
On Unified Adaptive Black-Litterman Mean-Variance Portfolio Management
Questrom School of Business, Boston University(波士顿大学奎斯特隆商学院);National Tsing Hua University(国立清华大学)
提出一种结合因子观点生成、Black-Litterman后验估计、EWMA协方差估计和均值-方差优化的统一自适应投资组合管理框架,通过动态滑动窗口根据实现波动率调整估计周期,在十年实证中优于无BL观点的动态均值-方差优化并增强下行风险控制。
2026-05-30 math.OC q-fin.CP q-fin.PM
Fast Stochastic Ordinal Embedding with Variance Reduction and Adaptive Step Size
University of Chinese Academy of Sciences(中国科学院大学);Peng Cheng Laboratory(鹏城实验室);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Jiangxi Normal University(江西师范大学);Hong Kong University of Science and Technology(香港科技大学);Tencent AI Lab(腾讯人工智能实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
从相对相似性比较中学习表示,通常称为有序嵌入,近年来越来越受到关注。现有的方法大多是基于半定规划(\textit{SDP})的,这种方法一般耗时较长,且可扩展性较差,特别是面对大规模数据时。为了克服这一挑战,我们提出了一种称为\textit{SVRG-SBB}的随机算法,该算法具有以下特点:i)通过丢弃半正定(\textit{PSD})约束作为快速算法来实现良好的可扩展性,即,随机方差降低梯度(\textit{SVRG})方法,以及ii)通过引入称为稳定的Barzilai-Borwein(\textit{SBB})步长的新的自适应步长的自适应学习。理论上,在一些自然的假设下,我们证明了所提出的算法的$\boldsymbol{O}(\frac{1}{T})$收敛到一个稳定点的速度,其中$T$是总迭代次数。在进一步的Polyak-Jasojasiewicz假设下,我们可以证明全局线性收敛(即,指数快速收敛到全局最优)的算法。大量的仿真和实际数据实验表明,与现有方法相比,该算法具有更低的计算成本和更好的预测性能。
2019-12-01 cs.LG math.OC stat.ML
Extra-Newton: A First Approach to Noise-Adaptive Accelerated Second-Order Methods
EPFL(洛桑联邦理工学院)
本文提出了一种通用的、自适应的二阶方法来极小化二阶光滑、凸函数。当预言机反馈是随机的且方差为$σ^2$时,该算法达到了$O(σ/ \sqrt{T})$收敛,当预言机反馈是确定性的时,该算法收敛到$O( 1 / T^3)$,其中$T$是迭代次数.我们的方法还内插这些速率,而不知道的性质的预言先验,这是使一个无参数的自适应步长,是无视的知识的平滑模量,方差界和直径的约束集。据我们所知,这是第一个通用的算法,这样的全球保证在二阶优化文献。
2022-12-12 cs.LG math.OC stat.ML
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解,我们提出了一个自适应重要性抽样算法,同时提高了抽样分布的选择,同时积累了蒙特卡罗估计。利用凸性,我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
Adaptive Bayesian Inference of Markov Transition Rates
最优设计最大限度地减少了准确估计模型参数所需的实验运行(样本)数量,从而产生了有效地最小化参数估计方差的算法。受过去观测的知识支配,自适应方法在线调整采样约束,因为模型参数估计被细化,不断最大化获得的期望信息或方差减小。我们应用自适应贝叶斯推断估计的马尔可夫链,一类常见的模型,自然随机过程的转移率。与大多数以前的研究不同,我们的序贯贝叶斯最优设计随着每次观察而更新,并且可以简单地扩展到两状态模型之外的生灭过程和多状态模型。通过迭代地找到获得每个样本的最佳时间,我们的自适应算法最大限度地降低了方差,从而降低了在广泛的马尔可夫链参数化和构象的地面真实参数估计的总体误差。
2023-02-01 math.OC math.PR stat.ME
Stochastic Krasnoselskii-Mann Iterations: Convergence without Uniformly Bounded Variance
University of Oxford(牛津大学);University of Groningen(格罗宁根大学)
本文研究了随机 Krasnoselskii-Mann 迭代在实希尔伯特空间中的期望非扩张固定点问题,证明在比文献中更弱的方差假设下收敛,仅需在单一固定点处有有限方差,从而获得几乎必然弱收敛性和残差收敛率。
2026-09-14 math.OC
Dynamically optimal portfolios for monotone mean--variance preferences
Bayes Business School, City St George’s, University of London(伦敦大学城市圣乔治学院贝斯商学院)
本文研究了单调均值-方差(MMV)效用函数下的动态投资组合选择问题,提出了在独立回报资产价格模型中MMV效用的最大化问题,并给出了简单条件以确定均值-方差(MV)有效投资组合是否为MMV有效。
2026-03-06 math.OC q-fin.PM
Adaptive Sampling Strategies for Stochastic Optimization
在本文中,我们提出了一个随机最优化方法,自适应地控制用于梯度近似计算的样本量。与其他方差降低技术,要么需要额外的存储或定期计算的全梯度,所提出的方法减少方差,根据需要增加样本量。增加样本量的决定由内积检验决定,该检验确保搜索方向是具有高概率的下降方向。我们证明了内积检验改进了著名的范数检验,并且可以作为一个算法的基础,该算法在非凸函数上是全局收敛的,并且在强凸函数上具有全局线性收敛速率。对逻辑斯谛回归问题的数值实验表明了该算法的性能。
2017-10-30 math.OC stat.ML
Optimal exploration strategies for finite horizon regret minimization in some adaptive control problems
本文研究了自适应最小方差控制和线性二次型控制中的后悔最小化问题。遗憾最小化已被广泛研究的文献中的两种类型的适应控制问题。大多数这些作品给出的结果的最佳率的遗憾的渐近制度。在最小方差的情况下,后悔的最佳渐近速率是$\log(T)$,它可以达到没有任何额外的外部激励。相反,对于大多数自适应线性二次型问题,为了得到$\sqrt{T}$的最优渐近速率,需要添加一个外部激励。在本文中,我们将实际上表明,从理论研究,以及,在模拟中,当控制地平线是预先指定的一个较低的遗憾,可以得到无论是没有外部激励或一个新的勘探类型称为立即。
2022-11-15 cs.SY eess.SY math.OC