State-dependent preconditioning for the inner-loop in Variational Data Assimilation using Machine Learning
针对变分资料同化内循环中大型病态矩阵求逆收敛慢、预条件依赖稀疏或谱信息的问题,提出用深度神经网络结合奇异值分解性质学习状态依赖预条件子,并支持在线构造数据集。
2025-01-08 math.OC
Continuous Data Assimilation with Learned Surrogate Dynamics
University of Chicago(芝加哥大学)
针对动力学未知或计算昂贵的问题,提出使用学习代理模型的 nudging 算法,并建立统一有限维分析,证明其指数收敛性及误差界限。
2026-05-30 cs.NA math.DS math.NA
Integrating Recurrent Neural Networks with Data Assimilation for Scalable Data-Driven State Estimation
Cooperative Institute for Research in Environmental Sciences(环境科学合作研究所);University of Colorado Boulder(科罗拉多大学博尔德分校);Physical Sciences Laboratory(物理科学实验室);National Oceanic and Atmospheric Administration(美国国家海洋和大气管理局);University of California San Diego(加州大学圣地亚哥分校);Scripps Institution of Oceanography(斯克里普斯海洋研究所)
数据同化(DA)与机器学习相结合,以执行完全数据驱动的在线状态估计。为了实现这一目标,循环神经网络(RNN)实现代理模型,以取代数值天气预报(NWP)中的DA循环的关键组件,包括传统的数值预报模型,预报误差协方差矩阵,切线线性和伴随模型。它显示了如何使用DA方法初始化这些RNN,以直接更新隐藏/水库状态与目标系统的观察。结果表明,这些技术可以应用于估计的短期预测的重复初始化的系统的状态,即使在没有一个传统的数值预报模型。此外,还演示了这些集成的RNN-DA方法如何通过应用域本地化和并行化扩展到更高的维度,为NWP的实际应用提供了一条路径。
2021-09-25 cs.AI cs.LG math.DS
Online switching control with stability and regret guarantees
本文研究了具有有限候选控制器池、未知动力系统和未知费用函数的在线切换控制问题。候选控制器可以是不稳定策略。我们只需要至少一个候选控制器来满足某些稳定性性质,但我们不知道哪一个是稳定的。我们设计了一个在线算法,保证有限增益的稳定性,在整个执行期间。我们还提供了一个次线性的政策后悔保证相比,最优稳定候选控制器。最后,我们数值测试我们的算法上的四旋翼平面飞行,并将其与经典的切换控制算法,基于伪造的切换,和经典的多臂强盗算法,Exp3与批次。
2023-01-24 cs.SY eess.SY math.OC
Semi-definite programs for online control of nonlinear systems with stability guarantees
Tsinghua University(清华大学)
本文提出基于半定规划的在线反馈控制方法,通过状态依赖表示解决非线性系统控制问题,结合Lyapunov证书保证稳定性并满足二次性能规范。
2026-04-18 cs.SY eess.SY math.OC
Mesh-Free Interpolant Observables for Continuous Data Assimilation
本文考虑了一种基于微推的二维周期边界条件斯托克斯方程(NSE)同化方案,并研究了在所有高阶Sobolev拓扑下,该算法产生的信号与观测值对应的真实信号的同步性。这项工作补充了以前的文献中的结果,其中确定的条件下,同步是保证相对于只有$H^1$ -拓扑结构,在一般的观测量的情况下,或解析Gevrey拓扑结构,在光谱观测量的情况下。为了适应更强的拓扑结构中的同步属性,最初由Azouani,Olson和Titi引入的一般插值可观测算子的框架被扩展到更丰富的一类算子。一个显着的努力是致力于发展这个更广泛的框架,特别是,他们的基本近似属性,识别的子类,这些运营商相关的获得同步,以及详细的结构之间的关系,这些运营商和系统的syncrhonization属性。这个框架的主要特点之一是它的“无网格”方面,它允许观测数据本身决定细分的域。最后,估计的吸收球的2D NSE在所有高阶Sobolev规范的半径,从而适当地推广以前已知的界限,这样的估计是需要建立的同步性能的算法在高阶拓扑结构。
2022-08-01 math.AP math.OC
Stochastic MPC with Online-optimized Policies and Closed-loop Guarantees
ETH Zurich(苏黎世联邦理工学院)
针对受加性高斯干扰的线性系统,提出随机模型预测控制方法,在线优化干扰反馈矩阵,保证概率约束闭环满意度等,核心机制是最大允许集及预测约束重调整,以建筑温度控制示例证明其适用性。
2026-07-14 cs.SY eess.SY math.OC
Online optimization and regret guarantees for non-additive long-term constraints
University of Edinburgh(爱丁堡大学)
我们认为在线优化的1-前瞻设置,目标不分解添加在轮的在线游戏。由此产生的配方使我们能够处理非静态和/或长期的约束,这产生的,例如,在在线显示广告的问题。我们提出了一个在线的原始-对偶算法,我们获得动态累积后悔保证。它们依赖于非加性惩罚的凸性和平滑性,以及捕获非平稳和长期约束的残差在各轮中变化的平滑性的术语。我们对合成数据进行实验,以说明非加性惩罚的好处,并显示在生产中的显示广告平台收集的实时流量数据上的遗憾收敛消失。
2016-06-08 cs.LG math.OC math.ST
Combining Online Learning Guarantees
Google(谷歌公司)
我们展示了如何采取任何两个无参数的在线学习算法与不同的遗憾保证,并获得一个单一的算法,其遗憾是最小的两个基本算法。我们的方法非常简单:只需添加迭代。这个技巧可以生成同时适应许多范数的高效算法,以及提供仍然保持无量纲保证的对角风格算法。然后,我们继续展示如何在这个想法的一个变种产生一个黑盒程序生成乐观的在线学习算法。这产生了第一个乐观的遗憾保证在无约束的设置和一般增加适应性。此外,我们的乐观算法保证不差于他们的非乐观同行,无论提供给算法的乐观估计的质量。
2019-02-24 cs.LG math.OC stat.ML
Balancing Exploration for Online Receding Horizon Learning Control with Provable Regret Guarantees
我们解决的问题,同时学习和控制的在线滚动时域控制设置。考虑了具有一般费用函数和仿射约束的未知线性动力系统的控制问题。我们的目标是开发一种在线学习算法,最大限度地减少动态遗憾,这是定义为算法所产生的累积成本和最佳策略的最佳策略与系统的充分知识,费用函数和状态,并满足控制输入约束之间的差异。我们提出了一种新的方法来探索在一个在线的后退地平线设置。关键的挑战是确保滚动时域控制器产生的控制是持续激励的。我们的方法是将扰动应用到滚动时域控制器产生的控制输入,以平衡探索-开发权衡。通过探讨保证次线性后悔的条件,我们表明,所提出的控制器的性能是上界的$\tilde{\mathcal{O}}(T^{3/4})$的遗憾和累积约束违反时,控制器具有预览的费用函数的大小从一个区间到下一个翻倍的区间。
2022-11-01 cs.SY eess.SY math.OC
Subsampled online matrix factorization with convergence guarantees
Inria(法国国家信息与自动化研究所)
我们提出了一种矩阵分解算法,该算法可以扩展到两个维度都很大的输入矩阵(即,包含超过1TB的数据)。该算法在对矩阵列进行二次采样的同时对矩阵列进行流处理,从而降低了每次迭代的复杂度,并节省了合理的内存。与以前的在线矩阵分解方法相比,我们的方法依赖于过去迭代的低维统计数据来控制由子采样引入的额外方差。我们提出了一个收敛性分析,保证我们达到一个固定点的问题。与以前的在线算法相比,可以获得大的速度提升,这要归功于高维设置中经常存在的特征冗余。
2016-11-30 cs.LG math.OC stat.ML
Stochastic Regret Guarantees for Online Zeroth- and First-Order Bilevel Optimization
Amirkabir University of Technology(阿姆斯泰尔大学);University of Pennsylvania(宾夕法尼亚大学);Samsung SDS Research America(三星SDS美国研究部);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出了一种新的搜索方向,证明了利用该方向的零阶和一阶随机在线双层优化算法能够在不使用窗口平滑的情况下实现亚线性随机双层遗憾。此外,该框架通过减少超梯度估计中的oracle依赖、同时更新内层和外层变量以及使用基于零阶的Hessian、雅可比和梯度估计来提高效率。
2026-05-19 cs.LG cs.NA math.NA
Stable Online Control of Linear Time-Varying Systems
California Institute of Technology(加州理工学院)
线性时变系统由于其通用性和简单性而被广泛用于建模真实世界的动力系统。为LTV系统提供稳定性保证是控制理论的核心问题之一。然而,现有的方法,保证稳定性通常会导致显着次优的累积控制成本在线设置中,只有当前或短期的系统信息是可用的。在这项工作中,我们提出了一个有效的在线控制算法,协方差约束在线线性二次(COCO-LQ)控制,保证输入状态稳定的一大类LTV系统,同时也最小化控制成本。该方法将状态协方差约束纳入LQ最优控制器的半定规划(SDP)制定。我们经验证明的性能COCO-LQ在合成实验和电力系统频率控制的例子。
2021-04-30 cs.LG cs.SY eess.SY
Online Optimisation for Online Learning and Control -- From No-Regret to Generalised Error Convergence
本文介绍了早期的工作,旨在开发一个新的框架,在线学习的预测和控制算法的设计和分析。首先,我们考虑的任务,预测值的函数或时间序列的基础上,通过利用在线编程的输入增量到达序列。引入一个概括的标准概念的收敛,我们得到理论保证的渐近行为的预测精度时,预测模型更新的无外部遗憾算法。我们证明了广义学习保证在线回归,并提供了一个例子,这可以应用于在线学习为基础的控制。我们设计了一个模型参考自适应控制器,在先验动态不确定性的存在下,具有新的在线性能保证跟踪成功。我们的理论结果是伴随着简单的回归和控制问题的插图。
2019-03-23 math.OC
Online Robust Control of Nonlinear Systems with Large Uncertainty
鲁棒控制是一种对建模误差具有鲁棒性能保证的控制系统的核心方法,广泛应用于实际系统中。然而,目前的鲁棒控制方法只能处理小的系统不确定性,因此需要在控制器设计之前进行系统辨识。本文提出了一种在线鲁棒控制方法,在大的模型不确定性下对非线性系统进行鲁棒控制。我们的方法是基于将问题分解为两个子问题,“鲁棒控制设计”(假设小的模型不确定性)和“追逐一致的模型”,这可以解决使用现有的工具,分别从控制理论和在线学习。我们提供了一个学习的收敛性分析,产生一个有限的错误的次数不满足性能要求的限制,可以提供强有力的安全保证,通过限制最坏情况下的状态偏差。据我们所知,这是第一个在线鲁棒控制的非线性系统的学习理论和安全保证的方法。我们还展示了如何实例化这个框架一般的机器人系统,证明了我们的方法的实用性。
2021-06-04 cs.SY eess.SY math.OC
An NMPC Approach using Convex Inner Approximations for Online Motion Planning with Guaranteed Collision Avoidance
University of Freiburg(弗莱堡大学);Robert Bosch GmbH(罗伯特·博世股份有限公司)
尽管移动机器人已经存在了几十年,但轨迹优化和连续时间碰撞避免仍然是积极研究的主题。现有的方法在路径质量、计算复杂性和运动动力学可行性之间进行权衡。这项工作的方法的问题,使用非线性模型预测控制(NMPC)的框架,这是基于一种新的凸内近似的避碰约束。所提出的凸内近似(CIAO)方法发现kinodynamically可行的和连续的时间无碰撞的轨迹,在几个迭代,通常一个。对于可行的初始化,该方法保证找到可行的解决方案,即它保持可行性。我们的实验评估表明,CIAO优于最先进的基线规划效率和路径质量方面。在具有12个状态的机器人上的实验表明,它也可以扩展到高维系统。此外,真实世界的实验表明,它的能力,统一的轨迹优化和跟踪的安全运动规划在动态环境中。
2020-03-01 cs.RO cs.SY eess.SY
Online Fair Allocation with Best-of-Many-Worlds Guarantees
Columbia University(哥伦比亚大学)
针对物品依次到达的在线公平分配问题,提出无参数、仅整数分配的 PACE 算法,在平稳、随机非平稳和对抗性输入下均获得近优保证,并经真实数据集验证有效。
2026-10-07 cs.DS cs.GT math.OC
Towards Fast and Safety-Guaranteed Trajectory Planning and Tracking for Time-Varying Systems
University of Melbourne(墨尔本大学);Simon Fraser University(西蒙菲莎大学)
针对时变动力学与扰动下的自主系统,本文提出离线安全控制器结合在线轨迹重规划的跟踪方法,并将有限时域方案扩展至周期系统,通过自主水下航行器仿真验证。
2024-12-05 cs.RO cs.SY eess.SY
Adaptive Matrix Online Learning through Smoothing with Guarantees for Nonsmooth Nonconvex Optimization
Google Research(谷歌研究)
本文提出两种高效方法,通过平滑技术实现自适应矩阵在线学习,解决了传统方法中二次投影的高成本问题,并在非光滑非凸优化中提供收敛保证。
2026-02-09 cs.LG math.OC stat.ML
Optimal Hidden-Target Learning for Online Inventory Optimization on General Convex Sets
UIUC(伊利诺伊大学厄巴纳-香槟分校)
针对一般凸容量集上的在线库存优化问题,提出隐藏目标投影方法,将遗憾从逆概率依赖改进为平方根逆概率依赖,并证明匹配下界,同时首次给出强凸损失的 polylog 遗憾和动态遗憾保证。
2026-06-15 cs.LG cs.SY eess.SY
Mistake, Manipulation and Margin Guarantees in Online Strategic Classification
Tepper School of Business, Carnegie Mellon University(卡内基梅隆大学泰珀商学院);Discipline of Business Analytics, The University of Sydney(悉尼大学商业分析学科)
研究在线策略分类问题,提出两种新算法以在智能体策略操纵下恢复最大间隔分类器,并证明其具有收敛性、有限次错误和有限次操纵保证,在真实与合成数据上表现优于以往算法。
2024-03-27 cs.GT cs.LG math.OC
Cost Minimizing Online Algorithms for Energy Storage Management with Worst-case Guarantee
需求响应计划中电价的波动和可再生能源供应的不稳定性使得有必要在微电网中采用储能。然而,设计有效的实时储能管理策略是一项挑战,可以提供有保证的最优性,而不会受到波动的电价和可再生能源供应的不确定性的阻碍。本文提出了一种简单有效的在线算法的充电和放电决策的能量存储,最大限度地减少电力成本的存在下,电价波动和可再生能源供应,而不依赖于未来的价格,需求或可再生能源供应的信息。所提出的算法由近似最佳最坏情况保证(即,竞争比),与基于完全未来信息的离线最优决策相比。此外,该算法可以适于利用有限的未来信息(如果可用的话)。通过对实际数据的仿真,可以看出所提出的算法在实际应用中可以取得令人满意的效果。
2016-01-03 cs.DS math.OC
Towards robustness guarantees for feedback-based optimization
基于反馈的在线优化算法由于其简单的实现、实时抑制干扰的能力以及对模型失配的鲁棒性增强而在近年来获得了关注。虽然在仿真和实验结果中都观察到了鲁棒性,但文献中的理论分析大多限于标称条件。在这项工作中,我们提出了一个框架,系统地评估基于反馈的在线优化算法的鲁棒稳定性。我们利用单调算子理论,变分不等式和经典的鲁棒控制的工具,以获得易于处理的数值测试,保证强大的收敛性能的在线算法的反馈与物理系统,即使在存在干扰和模型的不确定性。通过一个学术例子和一个配电系统的案例研究的结果进行说明。
2019-05-17 math.OC
Universal Online Convex Optimization with Minimax Optimal Second-Order Dynamic Regret
Bilkent University(比尔肯特大学);Turkcell Teknoloji(土耳其电信技术公司);DataBoss A.S.(DataBoss公司)
我们介绍了一个在线凸优化算法,利用投影次梯度下降与最佳自适应学习率。对于一般的凸函数序列,我们的方法提供了二阶极小极大最优的动态后悔保证(即依赖于次梯度范数的平方和),这类函数序列可能不具有强凸性、光滑性、指数连续性甚至Lipschitz连续性.遗憾保证针对具有有界路径变化的任何比较器决策序列(即连续决策之间的距离之和)。通过引入实际次梯度范数,我们得到了最坏情况下二阶动态后悔的下界。我们表明,这个下界匹配我们的遗憾保证在一个常数的因素,这使得我们的算法最小最大的最优。我们还分别推导了每个决策坐标中的学习扩展。我们演示了如何最好地保持我们的遗憾保证在一个真正的在线方式,当比较器序列的路径变化的约束增长的时间或反馈关于这样的约束到达部分随着时间的推移,我们进一步建立在我们的算法,以消除需要的任何知识的比较器路径变化,并提供minimax最优二阶遗憾保证没有先验信息。我们的方法可以竞争对所有比较器序列同时(普遍)在一个最小最大的最佳方式,即每个遗憾的保证取决于各自的比较器路径变化。我们讨论修改我们的方法,解决时间,计算和内存的复杂性降低。我们进一步改善我们的结果,使遗憾的保证也依赖于比较器集的直径,除了各自的路径变化。
2022-09-13 cs.LG math.OC
Online convex optimization and no-regret learning: Algorithms, guarantees and applications
Université Paris Seine(巴黎塞纳大学);Université Cergy-Pontoise(塞吉-蓬图瓦兹大学);ENSEA(法国国立高等电子及应用学院);CNRS(法国国家科学研究中心);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);LIG(格勒诺布尔信息学实验室);ESIEE Paris(巴黎高等电子与电工技术工程师学院);Université Paris-Est(巴黎东部大学);University of Pisa(比萨大学);CentraleSupélec(法国中央理工-高等电力学院);Université Paris-Saclay(巴黎萨克雷大学)
在围绕“大数据”范式的热情的刺激下,在线优化的数学和算法工具在数据探索和利用之间的权衡起主导作用的问题中得到了广泛的使用。这种权衡对于信号处理的几个分支和应用特别重要,例如数据采掘、统计推断、多媒体索引和无线通信(仅举几例)。考虑到这一点,本教程的目的是提供一个温和的介绍在线优化和学习算法,是渐近最优的事后-即,它们接近具有无限计算能力和对未来的充分了解的虚拟算法的性能,这是一种被称为无遗憾的属性。特别注意的是专门用于识别算法的理论性能保证,并建立与经典的优化范例(静态和随机)的链接。为了更好地理解这个工具箱,我们在整个教程中提供了几个示例,从度量学习到无线资源分配问题。
2018-04-12 cs.IT cs.LG math.IT
Online learning with stability guarantees: A memory-based real-time model predictive controller
我们提出并分析了一种实时模型预测控制(MPC)方案,该方案利用存储的数据,通过在线学习值函数来提高其性能,并保证稳定性。针对线性和非线性系统,提出了一种利用费用函数的基本解析性质的学习方法,并证明了该方法可以学习MPC控制律和闭环状态轨迹极限集上的值函数。其主要思想是基于历史数据生成智能热启动,以改善未来的数据点,从而改善未来的热启动。我们表明,这些热启动是渐近准确的,收敛到MPC最优化问题的解决方案。因此,由实时要求产生的所应用的控制输入的次优性随时间消失。仿真实例表明,现有的实时预测控制方案可以通过存储数据和所提出的学习方案进行改进。
2020-09-22 math.OC
New Projection-free Algorithms for Online Convex Optimization with Adaptive Regret Guarantees
Technion - Israel Institute of Technology(以色列理工学院)
我们提出了新的有效的\textit{projection-free}算法在线凸优化(OCO),其中的投影免费,我们指的算法,避免计算正交投影到可行集,而不是依赖于不同的和潜在的更有效的预言。虽然大多数国家的最先进的无投影算法的基础上的\textit{follow-the-leader}框架,我们的算法是根本不同的,是基于\textit{online gradient descent}算法与一种新的和有效的方法来计算所谓的\textit{infeasible projections}。因此,我们获得了自然产生\textit{adaptive regret}保证的第一个无投影算法,即,遗憾的界限,持有w.r.t.序列的任何子区间。具体地说,当假设一个线性优化预言(LOO)的可行集的可用性,在一个序列的长度$T$,我们的算法保证$O(T^{3/4})$自适应遗憾和$O(T^{3/4})$自适应预期遗憾,分别为全信息和强盗设置,只使用$O(T)$调用LOO。这些界限与基于LOO的无投影OCO的当前最先进的遗憾界限匹配,该遗憾界限是\textit{not adaptive}。我们还考虑了一个新的自然环境中的可行集是通过分离预言机访问。我们提出的算法,使用整体$O(T)$调用的分离预言,保证$O(\sqrt{T})$自适应遗憾和$O(T^{3/4})$自适应预期遗憾的全部信息和强盗设置,分别。
2023-03-19 cs.LG math.OC
Online Optimization : Competing with Dynamic Comparators
University of Pennsylvania(宾夕法尼亚大学);Cornell University(康奈尔大学)
最近的在线学习的文献集中在开发自适应算法,利用观察序列的规律性,但保留最坏情况下的性能保证。一个补充方向是开发预测方法,在复杂的基准测试中表现良好。在本文中,我们一起解决这两个方向。我们提出了一个完全自适应的方法,竞争与动态基准,其中遗憾的保证规模与规则性的成本函数和比较器的序列。值得注意的是,遗憾界适应问题环境中较小的复杂性度量。最后,我们将我们的研究结果漂移零和,两个球员的游戏,双方球员实现没有遗憾的保证对最好的行动序列事后诸葛亮。
2015-01-26 cs.LG math.OC stat.ML
Robust Online Learning for Resource Allocation -- Beyond Euclidean Projection and Dynamic Fit
Technische Universität München(慕尼黑工业大学)
在线学习的文献集中在设计算法,以确保次线性增长的累积长期约束违反。这种保证的缺点是严格可行的动作可能会抵消其他时隙上的约束违反。出于这个原因,我们引入了一个新的性能指标称为$\hCFit$,其特定的实例是累积的约束违反的积极的一部分。我们提出了一类非因果关系的在线决策,保证,在缓慢变化的环境中,这个数量的次线性增长,尽管嘈杂的一阶反馈算法。此外,我们通过数值实验证明了我们的方法相对于最先进的性能增益。
2019-10-21 cs.LG math.OC
Learning-Augmented Decentralized Online Convex Optimization in Networks
UC Riverside(加州大学河滨分校);Caltech(加州理工学院)
本文提出学习增强去中心化在线优化算法LADO,在去中心化多智能体网络中结合基准策略与机器学习策略,兼顾最坏情况鲁棒性和平均性能,并证明其平均成本界及权衡关系。
2024-10-18 cs.LG math.OC
AdaSwitch: An Adaptive Switching Meta-Algorithm for Learning-Augmented Bounded-Influence Problems
Leonard N. Stern School of Business, New York University(纽约大学劳伦德·N·斯tern商学院);Qiuzhen College, Tsinghua University(清华大学邱泽学院);Yau Mathematical Sciences Center & Department of Mathematical Sciences, Tsinghua University(清华大学杨数学科学中心及数学科学系)
针对带不可靠序列预测的多周期在线决策问题,提出有界影响框架与AdaSwitch元算法,兼顾预测准确时的近优性能与预测失准下的竞争比保证,可应用于多类学习增强在线决策场景。
2026-10-09 cs.LG math.OC
Robust Distributed Online Prediction
Microsoft Research(微软研究院)
在线预测的标准模型是通过单个处理器对输入进行串行处理。然而,在大规模在线预测问题中,输入以高速率到达,越来越常见的必要性是将计算分布在多个处理器上。一个不平凡的挑战是设计分布式算法在线预测,保持良好的遗憾保证。在\cite{DMB}中,我们提出了DMB算法,这是一个通用的框架,可以将任何串行的基于梯度的在线预测算法转换为分布式算法。而且,对于光滑凸损失函数和随机输入,它的后悔保证是渐近最优的。另一方面,它对分布式环境中常见的许多类型的故障都很脆弱。在这篇配套论文中,我们提出了DMB算法的变体,它对许多类型的网络故障有弹性,并能容忍计算节点的不同性能。
2010-12-07 cs.LG math.OC
Online Line Aggregation with Deadlines: Randomized Guarantees and Learning-Augmented Tradeoffs
School of Mathematics Science, Ocean University of China(中国海洋大学数学科学学院)
研究带截止时间的在线线路聚合问题,提出最优e-竞争随机算法及学习增强算法,在鲁棒性与一致性间取得权衡,并给出离线动态规划解法。
2026-09-23 cs.DS math.OC
Anytime Online-to-Batch Conversions, Optimism, and Acceleration
Google(谷歌(公司))
在随机凸优化中获得收敛保证的一个标准方法是运行一个在线学习算法,然后输出其迭代的平均值:在线学习算法的实际迭代没有单独的保证。我们通过引入黑盒修改任何在线学习算法,其迭代收敛到随机场景中的最优值来缩小这一差距。然后,我们考虑光滑损失的情况下,并表明,我们的方法与乐观的在线学习算法相结合,立即产生一个快速的收敛速度$O(L/T^{3/2}+σ/\sqrt{T})$ $L$ -光滑的问题,$σ^2$方差的梯度。最后,我们提供了一个减少,将任何自适应在线算法转换成一个获得最佳加速率的$\tilde O(L/T^2 + σ/\sqrt{T})$,同时仍然保持$\tilde O(1/\sqrt{T})$收敛在非光滑设置。重要的是,我们的算法自动适应$L$和$σ$:它们不需要知道也可以获得这些速率。
2019-03-03 cs.LG math.OC stat.ML