$\mathcal{L}_{1}$ Adaptive Optimizer for Online Time-Varying Convex Optimization
提出 $\mathcal{L}_{1}$ 自适应优化方法，通过自适应更新律估计并补偿在线时变凸优化中预测模型的不准确性，提供误差性能界限，实现高效可靠的优化。
2025-03-01 cs.SY eess.SY math.OC
An online optimization algorithm for tracking a linearly varying optimal point with zero steady-state error
针对最优解线性变化的非凸优化问题，提出一种在线优化算法，利用圆判据保证全局收敛性，通过含双积分器的Luré型系统实现零稳态误差跟踪，应用于恒速定位问题时可零稳态误差估计源位置。
2024-11-04 cs.SY eess.SY math.OC
Stable Online Control of Linear Time-Varying Systems
California Institute of Technology（加州理工学院）
线性时变系统由于其通用性和简单性而被广泛用于建模真实世界的动力系统。为LTV系统提供稳定性保证是控制理论的核心问题之一。然而，现有的方法，保证稳定性通常会导致显着次优的累积控制成本在线设置中，只有当前或短期的系统信息是可用的。在这项工作中，我们提出了一个有效的在线控制算法，协方差约束在线线性二次（COCO-LQ）控制，保证输入状态稳定的一大类LTV系统，同时也最小化控制成本。该方法将状态协方差约束纳入LQ最优控制器的半定规划（SDP）制定。我们经验证明的性能COCO-LQ在合成实验和电力系统频率控制的例子。
2021-04-30 cs.LG cs.SY eess.SY
Communication-Efficient Distributed Online Nonconvex Optimization with Time-Varying Constraints
针对时变有向图下带时变约束的分布式在线非凸优化问题，提出两种带压缩通信的分布式 bandit 在线原对偶算法，证明其具有次线性网络遗憾和累积约束违反界，Slater 条件下约束违反界更小，并通过仿真验证。
2025-11-18 cs.SY eess.SY math.OC
Online State Estimation for Time-Varying Systems
本文研究了线性测量模型的时变系统的状态估计问题;特别是，本文考虑了可用测量数小于状态数的情况。代替一批线性最小二乘（LS）的方法-非常适合静态网络，其中可以收集足够数量的测量值，以获得满秩设计矩阵-本文提出了一种在线算法来估计可能随时间变化的状态，通过处理测量值和可用时。该算法的设计取决于一个广义LS成本与邻近点型正则化增强。利用以封闭形式可用的正则化LS问题的解，在线算法被写为线性动力系统，其中状态基于先前的估计和基于新的可用测量来更新。条件下的算法步骤实际上是一个收缩映射，并得出不同的噪声模型的估计误差的界限。数值模拟证实了分析结果。
2021-04-05 cs.SY eess.SY math.OC
Centralized and distributed online learning for sparse time-varying optimization
在过去的几年里，在线算法的发展，以跟踪时变系统引起了很多关注，特别是在在线凸优化的框架。同时，稀疏时变优化已经成为一个强大的工具，以处理广泛的应用，从动态压缩传感到简约系统辨识。在大多数关于稀疏时变问题的文献中，假设系统演化的一些先验信息是可用的。相比之下，在本文中，我们提出了一种在线学习方法，它不使用给定的模型，适用于对抗框架。具体来说，我们开发集中式和分布式算法，我们从理论上分析他们的动态遗憾，在网上学习的角度来看。此外，我们提出了数值实验，说明其实际有效性。
2020-01-31 cs.LG math.OC
Online Optimization with Unknown Time-varying Parameters
针对含不可测未知线性动态时变参数的在线优化问题，提出利用代价函数梯度测量在线辨识参数动态并求解的方法，证明温和条件下仅需有限次梯度测量，经数值算例验证有效。
2025-03-19 cs.SY eess.SY math.OC
Online Optimization with Unknown Time-Varying Parameters Using Noisy Gradient Measurements
University of California, Riverside（加州大学河滨分校）；University of California, Irvine（加州大学尔湾分校）
研究在线优化问题，其中成本函数依赖于不可测的时间变化参数，通过控制理论工具从梯度观测中重建潜在参数，使用工具变量估计参数动态，并预测参数以计算未来最小值，提供预期跟踪误差的界。
2026-09-30 cs.SY eess.SY math.OC
Augmented Lagrangian Methods for Time-varying Constrained Online Convex Optimization
本文研究了具有时变损失和约束函数的在线凸优化问题。具体地说，决策者只根据过去的信息来选择顺序决策，同时损失和约束函数随着时间的推移而显现。首先，我们开发了一类基于模型的增广拉格朗日方法（MALM）的时变功能约束OCO（无反馈延迟）。在标准假设下，我们建立了次线性后悔和次线性约束违反MALM。此外，我们扩展MALM处理时变功能约束的OCO与延迟反馈，其中的反馈信息的损失和约束功能透露给决策者的延迟。在没有额外假设的情况下，我们还建立了延迟版本的MALM的次线性后悔和次线性约束违反。最后，给出了在线网络资源分配、在线逻辑斯谛回归和在线二次约束二次规划等约束OCO问题的数值结果，验证了算法的有效性.
2022-05-19 math.OC stat.ML
Distributed Constraint-Coupled Optimization via Primal Decomposition over Random Time-Varying Graphs
本文解决了大规模的，凸优化问题，需要解决一个分布式的方式，根据一个随机时变图的代理通信。具体来说，网络的目标是最小化本地成本的总和，同时满足本地和耦合约束。代理根据时变模型进行通信，其中底层连通图的边在每次迭代时以一定的非均匀概率活跃。通过依赖于一个原始的分解方案应用到一个等价的问题重新制定，我们提出了一种新的分布式算法，其中代理商谈判的本地分配的总资源只有邻居与积极的通信链路。该算法被研究为一个次梯度方法与块式更新，其中块对应于在每次迭代中活跃的图边缘。由于这种分析方法，我们表明几乎必然收敛的最佳成本的原始问题和几乎必然渐近原始恢复，而不诉诸平均机制通常采用对偶分解方案。显式的次线性收敛速度的假设下，提供了减少和恒定的步长。最后，一个广泛的数值研究插入式电动汽车充电问题证实了理论结果。
2020-10-27 cs.SY eess.SY math.OC
Online Adaptive Policy Selection in Time-Varying Systems: No-Regret via Contractive Perturbations
针对时变系统的在线自适应策略选择问题，提出GAPS算法与通用分析框架，在收缩策略类下实现不同凸性条件下的遗憾界保证，且适应环境速度优于现有基准。
2023-06-13 math.OC
Dynamic Regret Analysis for Online Tracking of Time-varying Structural Equation Model Topologies
确定复杂系统中变量之间的依赖关系是网络科学中的一个重要问题。结构方程模型（SEM）由于具有易处理性和模型中引入了外生影响等优点，在拓扑推理中得到了广泛的应用。基于静态SEM的拓扑识别在静态环境中是有用的，然而，在许多应用中，寻求时变的底层拓扑。本文提出了一种动态环境下稀疏时变拓扑结构的在线跟踪算法，并对算法的性能保证进行了详细的分析。跟踪能力的特点是在所提出的算法的动态遗憾的约束。数值试验表明，该算法可以跟踪不同模型下的时变拓扑结构的变化。
2020-03-18 eess.SP math.OC
Online shortest paths with confidence intervals for routing in a time varying random network
世界人口的增加和生活水平的提高导致道路上车辆数量不断增加，随之而来的是交通管理的困难不断增加。通过使用称为智能运输系统（ITS）的信息和通信技术，可以明显地优化运输网络中的这种交通管理。这个管理问题通常被重新表述为在一个时变随机图中寻找最短路径。提出了一种基于随机梯度下降的在线最短路径算法。这种ITS交通管理的路由算法是基于在线弗兰克-沃尔夫方法。我们的改进，使找到一个最短路径的置信区间，通过使用随机梯度算法的近似贝叶斯推理。
2018-05-22 cs.DS math.OC
Online Primal-Dual Methods with Measurement Feedback for Time-Varying Convex Optimization
本文讨论了基于反馈的在线算法的设计和分析，控制系统或网络系统的性能目标和工程约束，可能会随着时间的推移而演变。新兴的时变凸优化形式主义是利用模型的最佳操作轨迹的系统，以及明确的本地和网络级的操作约束。与现有的批处理和前馈优化方法不同，算法的设计利用了原始-对偶投影梯度法的在线实现;然而，梯度步骤被适当地修改以适应来自系统的以测量形式的反馈-因此，术语“具有反馈的在线优化”。“凭借这种方法，所得到的算法可以处理系统状态和输出的代数表示中的模型失配，它们避免了对外源输入的普遍测量，并且它们自然地适合于分布式实现。在适当的假设下，建立了基于动态后悔的分析收敛性声明。此外，当基于反馈的在线算法的合成是基于正则化拉格朗日函数，Q-线性收敛到时变最优化问题的解决方案。
2019-03-06 math.OC
Control of Uncertain PWA Systems using Difference-of-Convex Decompositions
在这份报告中，我们分析和设计反馈策略的离散时间分段仿射（PWA）系统的仿射动力学和多面体分区的不确定性。其主要思想是利用连续PWA系统的差分凸（DC）分解，以获得二次李雅普诺夫函数作为稳定性证书和稳定的仿射策略在一个更高的维度空间。当投影回状态空间时，我们得到时变PWQ李雅普诺夫函数和时变PWA反馈策略。
2023-03-20 cs.SY eess.SY math.OC
Distributed Online Optimization in Time-Varying Unbalanced Networks without Explicit Subgradients
研究了无显式次梯度的时变不平衡有向图上的分布式在线约束最优化问题。与现有算法形成鲜明对比的是，我们设计了一种新的基于共识的分布式在线算法，该算法具有局部随机零阶预言机，然后通过构造行随机阵来重新缩放预言机，旨在解决时变有向图的不平衡性。在温和的条件下，平均动态后悔超过一个时间范围内渐近收敛于一个次线性速率提供的累积变化增长的次线性与特定的顺序。此外，该算法的对应子梯度时，也提供了其动态遗憾界，这反映了我们的算法的收敛性基本上是不受零阶预言。通过对传感器网络中的分布式目标跟踪问题和动态稀疏信号恢复问题的仿真，验证了该算法的有效性。
2022-02-23 math.OC
Distributionally Time-Varying Online Stochastic Optimization under Polyak-Łojasiewicz Condition with Application in Conditional Value-at-Risk Statistical Learning
The Australian National University（澳大利亚国立大学）；The University of Melbourne（墨尔本大学）
本文在 Polyak-Łojasiewicz 条件下研究分布时变的在线随机优化问题，利用 Wasserstein 距离度量分布漂移，建立在线随机梯度下降及近端梯度下降的动态遗憾界，并将其应用于条件风险价值统计学习问题。
2023-09-18 cs.LG math.OC
Distributed Online Economic Dispatch with Time-Varying Coupled Inequality Constraints
East China Normal University（华东师范大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Institute of Systems Science, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院系统科学研究所）；School of Mathematical Sciences, University of Chinese Academy of Sciences（中国科学院大学数学科学学院）
本文提出了一种基于对偶方法和约束跟踪的算法，用于解决具有时间变化耦合不等式约束的分布式在线经济调度问题，证明了算法在动态遗憾和约束违反方面的亚线性收敛性。
2025-12-24 math.OC stat.ME
Escaping From Saddle Points --- Online Stochastic Gradient for Tensor Decomposition
Microsoft Research New England（微软新英格兰研究院）；University of California Irvine（加州大学欧文分校）；University of California Berkeley（加州大学伯克利分校）；Cornell University（康奈尔大学）
我们分析了优化非凸函数的随机梯度下降。在许多情况下，非凸函数的目标是找到一个合理的局部最小值，主要问题是梯度更新被困在鞍点。在本文中，我们确定严格的鞍性质的非凸问题，允许有效的优化。利用这一性质，我们证明了随机梯度下降收敛到一个局部最小的多项式迭代次数。据我们所知，这是第一个工作，使全球收敛保证随机梯度下降的非凸函数指数许多局部极小值和鞍点。我们的分析可以应用于正交张量分解，它被广泛用于学习丰富的潜变量模型。针对具有严格鞍点性质的张量分解问题，提出了一种新的优化公式。从而得到了第一个具有全局收敛性保证的正交张量分解的在线算法。
2015-03-06 cs.LG math.OC stat.ML
An Incremental Approach to Online Dynamic Mode Decomposition for Time-Varying Systems with Applications to EEG Data Modeling
动态模式分解（DMD）是一种数据驱动的技术，用于识别高维数据下的低维线性时不变动力学。对于其中这种底层低维动态是时变的系统，通过标准DMD技术计算的这种动态的时不变近似可能是不合适的。我们专注于DMD技术，这样的时变系统和开发增量算法的系统没有和外源控制输入。我们在[35]中的工作基础上建立了高维数据由低维时变动力学控制的场景。我们考虑两类算法，依赖于（i）以前的观察折扣因子，和（ii）观察的滑动窗口。我们的算法利用现有的增量奇异值分解技术，使我们能够确定一个适当的减少模型在每一个时间，即使数据矩阵是奇异的。我们将自主系统的算法应用于脑电图（EEG）数据，并证明了它们在重建和预测方面的有效性。我们的非自治系统的算法说明使用随机生成的线性时变系统。
2020-04-07 eess.SP math.OC
Online Resource Allocation: Bandits feedback and Advice on Time-varying Demands
Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运筹学与分析研究院）；Department of Industrial Systems Engineering and Management, National University of Singapore（新加坡国立大学工业系统工程与管理系）
针对时变需求下带老虎机反馈的在线资源分配无建议时悔值表现差的问题，提出利用总需求在线预测的鲁棒算法，兼具理论保障与实验优势，可适配网络收益管理场景。
2023-06-12 cs.LG math.OC
Multi-agent online learning in time-varying games
Maastricht University（马斯特里赫特大学）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Criteo AI Lab（科韬人工智能实验室）
我们研究了多智能体在线学习在游戏中随时间演变的长期行为。具体来说，我们专注于广泛的一类政策的基础上镜像下降，我们表明，诱导序列的发挥（a）收敛到纳什均衡在随时间变化的游戏，从长远来看，稳定在一个严格的单调限制;和（b）它保持渐近接近的阶段游戏序列（假设它们是强单调的）的演变均衡。我们的结果适用于基于梯度和基于回报的反馈-即，“强盗反馈”的情况下，玩家只能观察他们选择的行动的收益。
2021-09-04 cs.GT cs.LG math.OC
Online optimization in dynamic environments: a regret analysis for sparse problems
时变系统在许多科学和工程领域都是一个挑战。通常，时变参数或信号的估计必须在线进行，这就要求开发响应式在线算法。在本文中，我们在稀疏优化的背景下考虑这个问题;具体来说，我们考虑弹性网络模型，它促进了简约的解决方案。根据\cite{mok16}的基本原理，我们提出了一个在线算法，我们从理论上证明了它是成功的动态后悔。然后，我们展示了一个应用程序的时变自回归模型的递归识别问题，在这种情况下，待估计的参数的数量是未知的。数值结果表明了该方法的有效性。
2018-09-07 math.OC
Efficient Online Prediction for High-Dimensional Time Series via Joint Tensor Tucker Decomposition
针对高维流式时间序列在线预测的场景需求，本文提出基于张量分解的在线预测算法TOPA及其自动自适应版本TOPA-AAW，在保证预测精度与离线方法相当的同时大幅提升了长期在线预测的速度。
2024-08-13 math.OC
Differentially Private Online Distributed Aggregative Games With Time-Varying and Non-Identical Communication and Feedback Delays
本文提出了一种在线分布式双平均算法，以处理具有时间变化和非相同通信和反馈延迟的差分隐私在线分布式聚合博弈中的隐私泄露问题，并实现了可证明的低遗憾界。
2025-12-13 cs.GT math.OC
A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
针对时变有向网络中的分布式在线优化问题，提出TV-HSGT算法，通过混合随机梯度跟踪与方差缩减机制，在无需梯度有界假设下提升动态遗憾界，并在实验中验证其有效性。
2025-08-28 cs.DC cs.LG math.OC
A Multi-View Coupled Tensor Decomposition for Lightweight Online Adaptive Traffic Prediction
School of Mathematics and Statistics, Central China Normal University（华中师范大学数学与统计学学院）；School of Mathematics and Statistics, Beijing Institute of Technology（北京理工大学数学与统计学学院）；State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院数学科学国家重点实验室）；School of Mathematical Sciences, University of Chinese Academy of Sciences（中国科学院大学数学科学学院）
针对不完善多视图观测的在线交通预测问题，提出MVCTD模型，通过耦合张量分解与组稀疏正则化提升预测精度，轻量级设计适配流部署，真实数据集实验验证其有效性。
2026-08-27 cs.LG math.OC
Online Control of Unknown Time-Varying Dynamical Systems
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌AI普林斯顿）；UC Berkeley（加州大学伯克利分校）；MIT（麻省理工学院）
研究了非随机控制模型下动态未知的时变线性系统的在线控制问题。在一个高层次上，我们证明了这种设置是\emph{qualitatively harder}比未知的时不变或已知的时变动态，并补充我们的负面结果与算法的上界制度，次线性遗憾是可能的。更具体地说，我们研究遗憾的界限方面的常见类别的政策：干扰行动（SLS），干扰响应（尤拉），和线性反馈政策。虽然这三类基本上是等价的LTI系统，我们证明了这些等价性打破时变系统。我们证明了一个下界，没有算法可以获得次线性遗憾的前两个类，除非系统的变化性的一定措施也在地平线上的次线性尺度。此外，我们表明，离线规划的状态线性反馈政策是NP-困难的，这表明硬度的在线学习问题。在积极的一面，我们给出了一个有效的算法，达到一个次线性的遗憾界对类的扰动响应政策，上述系统的变异性条款。事实上，我们的算法享有次线性\emph{adaptive}遗憾界，这是一个严格强于标准遗憾的度量，更适合于时变系统。我们素描扩展干扰行动政策和部分观察，并提出了一个低效的算法对线性状态反馈政策的遗憾。
2022-02-16 cs.LG math.OC stat.ML
Distributed Constrained Online Nonconvex Optimization with Compressed Communication
针对时变网络中的带时变不等式约束在线非凸优化，提出压缩通信的分布式原始-对偶算法，证明其遗憾与累积约束违反界，并通过仿真验证。
2025-08-29 cs.SY eess.SY math.OC
Online Trajectory Optimization Using Inexact Gradient Feedback for Time-Varying Environments
研究时变环境下的在线轨迹设计问题。我们制定了一般的轨迹最优化问题的框架内的时变约束凸优化，并提出了一种新版本的在线梯度上升算法，这样的问题。此外，梯度反馈是嘈杂的，并允许我们使用所提出的算法的一系列实际应用中，它是很难获得真正的梯度。与大多数现有的文献相比，我们提出了离线次线性遗憾的算法的最佳离线解决方案，累积梯度的路径长度变化，并在梯度变化的错误。此外，我们建立了一个下界的离线动态遗憾，它定义了任何轨迹的最优性。为了显示所提出的算法的有效性，我们考虑两个实际问题的兴趣。首先，我们考虑设备到设备（D2 D）通信设置，目标是设计用户轨迹，同时最大化其与互联网的连接。第二个问题是与在线规划的能量有效的轨迹无人水面车辆（USV）在海洋环境中的强干扰下的静态和动态的目标位置。详细的仿真结果表明，该算法的意义上的合成和真实的数据集。有关真实世界数据集的视频，请访问{https：www.youtube.com/watch? v=FcRqqWtpf\_0}
2020-01-06 math.OC
Online decentralized tracking for nonlinear time-varying optimal power flow of coupled transmission-distribution grids
输配电网协调交流最优潮流（ACOPF）已成为处理可再生能源（RESs）的高渗透率相关问题的关键。然而，由于隐私问题，获取所有系统细节并集中解决ACOPF是不可行的。间歇性的可再生能源和不可控负荷会迅速改变电网的运行状况。现有的分散最优化方法很少能跟踪时变ACOPF的最优解。在这里，我们提出了一种在线分散最优化方法来跟踪时变的ACOPF的耦合输配电网。首先，时变ACOPF问题转换为一个动态系统的基础上Karush-Kuhn-Tucker条件从控制的角度。其次，发展了一个由对时间的偏导数表示的预测项，以提高动态系统的跟踪精度。第三，一个分散的实施方案，用于解决动态系统的基础上，只有一些信息交换的边界变量。此外，该算法可以直接用于解决非线性潮流方程，而不依赖于凸松弛或线性化技术。数值试验结果表明了该算法的有效性和快速跟踪性能。
2022-08-03 cs.DC math.OC
Simultaneously Achieving Sublinear Regret and Constraint Violations for Online Convex Optimization with Time-varying Constraints
Tsinghua University（清华大学）；Peking University（北京大学）；Shanghai Qi Zhi Institute（上海期智研究院）
提出了一种新的基于虚拟队列的在线凸优化（OCO）算法，并对动态后悔和约束违反进行了性能分析.设计了一种新的对偶变量更新规则和一种新的将时变约束函数引入到对偶变量中的方法。据我们所知，我们的算法是第一个无参数算法，同时实现次线性动态遗憾和约束违反。我们提出的算法在许多方面也优于最先进的结果，例如，我们的算法不需要斯莱特条件。同时，对于一类连续约束随时间变化足够平滑的约束OCO问题，我们的算法实现了$O(1)$约束违反.此外，我们扩展我们的算法和分析的情况下，时间范围$T$是未知的。最后，数值实验进行验证我们的算法的理论保证，我们提出的框架的一些应用将被概述。
2021-11-15 cs.LG math.OC
Towards Fast and Safety-Guaranteed Trajectory Planning and Tracking for Time-Varying Systems
University of Melbourne（墨尔本大学）；Simon Fraser University（西蒙菲莎大学）
针对时变动力学与扰动下的自主系统，本文提出离线安全控制器结合在线轨迹重规划的跟踪方法，并将有限时域方案扩展至周期系统，通过自主水下航行器仿真验证。
2024-12-05 cs.RO cs.SY eess.SY
Asynchronous and Distributed Tracking of Time-Varying Fixed Points
本文提出了一个跟踪时变压缩映射不动点的算法框架。跟踪误差的分析结果建立的情况下，其中：（i）基本的收缩自映射在算法的每一步的变化;（ii）只有一个不完美的信息的地图是可用的;和，（iii）该算法是以分布式的方式实现的，与通信延迟和丢包导致异步算法更新。分析结果适用于几类问题，包括时变收缩映射出现的在线和异步实现的基于梯度的方法随时间变化的凸规划。在该领域中，所提出的框架还可以捕获基于反馈的在线算法的操作原理，其中在线梯度步骤被适当地修改以适应来自底层物理或逻辑网络的可操作反馈。提供的应用程序和说明性的数值结果的例子。
2018-09-12 math.OC
Time-Varying Feedback Optimization for Quadratic Programs with Heterogeneous Gradient Step Sizes
本文综述在线反馈优化进展，针对二次规划提出异构步长原始-对偶算法的收敛性分析，并应用于现代电力系统最优控制。
2023-09-05 math.OC
Inexact Online Proximal-gradient Method for Time-varying Convex Optimization
University of Colorado Boulder（科罗拉多大学博尔德分校）；IBM Research Ireland（IBM爱尔兰研究院）
本文考虑了一种在线逼近梯度法来跟踪随时间连续演化的复合凸函数的极小值。在线近似梯度法是不精确的，在这个意义上：（i）它依赖于成本的平滑分量的近似一阶信息;以及（ii）近似算子（相对于非平滑项）只能计算到一定精度。在适当的假设下，建立了强凸费用函数的误差迭代的收敛性。另一方面，动态后悔的成本不是强凸的情况下，额外的假设下，该问题包括可行性集是紧凑的。边界用累积误差和最优解的路径长度表示。这表明如何分配资源以在梯度计算和邻近算子中的性能和精度之间取得平衡。
2020-04-22 cs.LG math.OC
Inexact Online Proximal Mirror Descent for time-varying composite optimization
本文研究含梯度与近端算子误差的在线近端镜像下降算法，在凸光滑条件下获得了动态遗憾精确估计，消除了先前结果的$O(T)$项并将适用域扩展至全空间$\mathbb{R}^n$。
2023-04-10 math.OC
Online Convex Optimization with Time-Varying Constraints
本文研究了具有时变约束函数的在线凸优化问题。具体地说，我们有一个序列的凸目标函数$\{f_t(x)\}_{t=0}^{\infty}$和凸约束函数$\{g_{t,i}(x)\}_{t=0}^{\infty}$的$i \in \{1, ..., k\}$。随着时间的推移，功能逐渐显现。对于给定的$ε>0$，目标是在不知道该步骤上的$f_t$和$g_{t,i}$函数的情况下，在每个步骤$t$中选择点$x_t$，以实现时间平均至多$ε$比可以用后见之明选择的最佳固定决策更差，受限于约束函数的时间平均为非正。众所周知，这一目标通常是不可能实现的。本文提出了一种在线算法，解决了问题的$O(1/ε^2)$收敛时间的特殊情况下，所有的约束函数是非正的一个共同的子集$\mathbb{R}^n$。当公共子集假设被移除但约束函数被假设为根据独立且同分布（i.i.d.）的随机过程而变化时，在预期意义上示出了类似的性能。在时隙$t \in \{0, 1, 2, \ldots\}$上。最后，在约束函数和目标函数都是独立同分布的特殊情况下，在时隙$t$上，该算法被示出为相对于知道全概率分布的最佳（可能是时变的）因果策略在$ε$的最优性内。
2017-02-17 math.OC
A Fundamental Convergence Rate Bound for Gradient Based Online Optimization Algorithms with Exact Tracking
本文针对时变最优点为多项式形式的二次代价在线优化问题，利用内模原理和最优增益裕度结果，推导出线性梯度算法精确跟踪时的基本收敛速率界，并构造达到最优速率和零稳态误差的算法。
2025-09-11 cs.SY eess.SY math.OC
Constrained LQR Using Online Decomposition Techniques
提出了一种利用算子分裂法求解无穷时域约束线性二次型调节器（CLQR）问题的算法。首先，CLQR问题被重新表述为（有限时间）模型预测控制（MPC）问题没有终端约束。其次，MPC问题被分解成更小的子问题的固定尺寸独立的地平线的长度。第三，采用快速交替极小化算法求解子问题，在线估计时域长度，通过定期检查最后一个子问题的状态来确定其是否属于给定的控制不变集，从而增加或删除子问题.我们证明了估计的水平长度是有界的，并且使用该算法计算的控制序列是CLQR问题的最优解。与解决CLQR问题的最新算法相比，我们的设计在每次迭代时只解决无约束最小二乘问题和简单的梯度计算。此外，我们的技术允许地平线长度在线减少（如果地平线上的初始猜测过于保守，这是一个有用的功能）。平面系统上的数值结果显示了我们的算法的潜力。
2016-09-19 math.OC
Online Abstract Dynamic Programming with Contractive Models
本文讨论了在线场景中的抽象动态规划（DP），其中抽象DP映射是时变的，而不是静态的。在这种情况下，在不同时刻的最优成本和策略通常是不相同的，并且该问题相当于跟踪随时间变化的最优成本和策略，这对许多实际问题都很有意义。因此，有必要分析经典的值迭代（VI）和策略迭代（PI）算法在在线情况下的性能。在此过程中，本文开发并提供了几个在线算法，包括近似在线VI，在线PI，近似在线PI，在线乐观PI，近似在线乐观PI，和异步在线PI和VI算法的理论分析。证明了所有算法的跟踪误差界都依赖于任意两个连续抽象映射之间的最大差。同时，给出了实例来说明理论结果.
2021-07-03 math.OC
Distributed Online Convex Optimization with Time-Varying Coupled Inequality Constraints
KTH Royal Institute of Technology（KTH皇家理工学院）；Nanyang Technological University（南洋理工大学）
研究了具有时变耦合不等式约束的分布式在线优化问题。全局目标函数由局部凸代价函数和正则化函数组成，耦合约束函数由局部凸函数和构成。提出了一种分布式在线原始-对偶动态镜像下降算法来解决这个问题，该算法的局部代价、正则化和约束函数都是私有的，并且只在每个时隙后才显示。在不假设斯莱特的条件下，我们首先推导出后悔和约束违反边界的算法，并显示它们如何依赖于步长序列，累积的动态变化的比较器序列，代理的数量，和网络的连通性。结果表明，在某些自然递减步长序列下，如果最优序列的累积动态变化也呈次线性增长，则算法达到次线性动态后悔和约束违反.我们还证明了该算法实现次线性静态遗憾和约束违反温和的条件下。假设斯莱特的条件下，我们表明，该算法实现了更小的界限上的约束违反。此外，当目标函数是强凸的时，静态后悔的边界更小。最后，通过数值模拟验证了理论结果的有效性。
2019-06-05 cs.DC cs.LG math.OC
Distributed Online Linear Quadratic Control for Linear Time-invariant Systems
Texas A&M University（得克萨斯农工大学）
经典的线性二次（LQ）控制围绕线性时不变（LTI）系统，其中控制状态对引入时不变参数的二次成本。在线优化和控制的最新进展提供了新的工具来研究LQ问题是鲁棒的时变成本参数。受这一研究思路的启发，我们研究了相同LTI系统的分布式在线LQ问题。考虑一个多智能体网络，其中每个智能体都被建模为一个LTI系统。的LTI系统是与解耦，随时间变化的二次成本，揭示顺序。该网络的目标是使所有代理的控制序列与事后看来最好的集中式策略竞争，这是由后悔的概念捕获的。我们开发了一个分布式的在线LQ算法的变体，它运行分布式在线梯度下降与投影到一个半定规划（SDP）生成控制器。我们建立了一个遗憾界缩放的平方根的有限时间范围，这意味着代理达成共识，随着时间的增长。我们进一步提供了数值实验验证我们的理论结果。
2020-09-29 cs.LG cs.SY eess.SY
A Zeroth-order Resilient Algorithm for Distributed Online Optimization against Byzantine Edge Attacks
本文针对拜占庭边攻击下的分布式在线优化问题，提出一种仅利用函数值信息的零阶弹性算法，并给出动态遗憾上界及仿真验证。
2025-11-07 math.OC
Projection-Free Online Convex Optimization with Time-Varying Constraints
Faculty of Data and Decision Sciences, Technion - Israel Institute of Technology（以色列理工学院数据与决策科学学院）
研究带时变约束的在线凸优化问题，提出基于线性优化预言机的无投影算法，在固定约束集上实现 $T^{3/4}$ 遗憾界与 $T^{7/8}$ 约束违反界，并扩展至一阶预言机与 bandit feedback 设定。
2024-02-13 cs.LG math.OC stat.ML
tvopt: A Python Framework for Time-Varying Optimization
University of Padova（帕多瓦大学）
本文提出了tvopt，一个用于时变优化算法原型设计和基准测试的Python框架，支持集中式与分布式在线问题建模，并内置梯度法、ADMM等求解器及预测策略。
2021-09-08 cs.LG cs.MS math.OC
Distributed Bandit Online Convex Optimization with Time-Varying Coupled Inequality Constraints
研究了带时变耦合不等式约束的分布式bandit在线凸优化问题。这个问题可以被定义为一组学习者和对手之间的重复博弈。学习器试图最小化一系列的全局损失函数，同时满足一系列的耦合约束函数。全局损失和耦合约束函数分别是局部凸损失和约束函数的和，它们由对手自适应地生成。局部损失和约束函数以强盗方式揭示，即，仅将采样点处的损失和约束函数的值显示给学习器，并且所显示的函数值由每个学习器私有地保持。我们考虑两种情况下，一点和两点的强盗反馈，并提出了两个相应的分布式强盗在线学习算法。我们表明，次线性预期遗憾和约束违反这两个算法实现，如果累积变化的比较器序列也增长次线性。特别是，我们表明，$\mathcal{O}(T^{θ_1})$预期的静态遗憾和$\mathcal{O}(T^{7/4-θ_1})$约束违反实现在一点强盗反馈设置，和$\mathcal{O}(T^{\max\{κ,1-κ\}})$预期的静态遗憾和$\mathcal{O}(T^{1-κ/2})$约束违反在两点强盗反馈设置，其中$θ_1\in(3/4,5/6]$和$κ\in(0,1)$是用户定义的权衡参数。最后，通过对一个简单电网的数值模拟，说明了这些理论结果。
2019-12-08 math.OC
Distributed online constrained convex optimization with event-triggered communication
本文针对时变不等式约束下的分布式在线凸优化问题，提出一种基于事件触发通信的分布式原始-对偶算法，并建立了动态网络遗憾和累积约束违反界。
2024-05-03 cs.MA math.OC
Distributed Event-Triggered Bandit Convex Optimization with Time-Varying Constraints
针对带时变约束的分布式赌博机凸优化问题，提出带两点赌博机反馈的事件触发在线原始-对偶算法，在节省通信资源的同时取得与全信息反馈算法相当的性能界，并通过数值算例验证。
2024-06-20 math.OC
Adaptive Regret for Control of Time-Varying Dynamics
UC Berkeley（加州大学伯克利分校）；Google AI Princeton（谷歌人工智能普林斯顿）；Princeton University（普林斯顿大学）
本文研究具有时变线性动态系统的在线控制问题。这是一个一般的配方，是由使用局部线性化控制的非线性动力系统的动机。为了在不断变化的环境中陈述有意义的保证，我们将{ \it自适应后悔}的度量引入到控制领域。该度量最初在在线学习中研究，在{ \it any interval in time}上根据事后对最佳策略的后悔来测量性能，从而捕获控制器对变化的动态的适应。我们的主要贡献是一种新的有效的元算法：它将一个控制器与次线性遗憾界到一个与次线性{ \it自适应遗憾}界的设置时变线性动力系统。主要的技术创新是第一个自适应遗憾界的更一般的框架，在线凸优化与记忆。此外，我们给出了一个下界，表明我们获得的自适应遗憾界是接近紧的一般框架。
2022-02-12 cs.LG math.OC stat.ML
Online Convex Optimization with Perturbed Constraints
本文讨论在线凸优化（OCO）问题的约束有附加扰动，（i）随时间变化，（ii）不知道在作出决定的时候。扰动可能不是i.i.d.生成的，并可用于模拟一个随时间变化的预算或商品的资源分配问题。问题是设计一个策略，获得次线性遗憾，同时确保平均满足的约束。为了解决这个问题，我们提出了一个原始-对偶近端梯度算法，有$O(T^ε\vee T^{1-ε})$遗憾和$O(T^ε)$约束违反，其中$ε\in [0,1)$是一个参数的学习率。我们的研究结果匹配OCO与时变约束时，$ε= 1/2$以前的工作的界限;然而，我们（i）定义的遗憾使用时变的最佳固定决策集;（ii）可以在遗憾和违反约束之间进行平衡;（iii）使用自适应学习率，使我们能够运行算法的任何时间范围。
2019-05-31 math.OC
Distributed Generalized Nash Equilibria Learning for Online Stochastic Aggregative Games
针对含局部与时变耦合约束的在线随机聚合博弈，本文基于push-sum和原始-对偶策略设计分布式在线算法，证明其收敛性与性能界并通过仿真验证。
2025-11-17 math.OC
Non-Convex Bilevel Optimization with Time-Varying Objective Functions
The Ohio State University（俄亥俄州立大学）；University of Houston（休斯顿大学）；University at Buffalo（纽约州立大学布法罗分校）
针对现有非凸双层优化难以适配时变流式数据的在线场景问题，提出带窗口平均的单循环在线双层优化器SOBOW，通过新分析技术解耦变量、控制估计误差，实现次线性双层局部悔值，经多领域实验验证有效。
2023-11-08 cs.LG math.OC
Optimization and Learning with Information Streams: Time-varying Algorithms and Applications
在利用数据流进行优化和学习的广泛领域中，存在越来越多的跨学科努力，其应用于传统批处理优化技术由于计算和/或通信瓶颈而不能在与数据点的到达间隔时间匹配的时间尺度上产生解决方案的设置。特殊类型的在线算法可以处理这种情况，本文重点介绍这种时变优化算法，重点是机器学习和信号处理，以及数据驱动控制。时变或在线一阶最优化方法的设计方法进行了讨论，重点是算法，可以处理的梯度，可能出现的梯度估计时的错误。洞察性能指标和所附的索赔，连同证据的情况下，可证明收敛的算法在批量优化可能会表现不佳的在线制度。分布式计算的作用进行了讨论。提供了一些具有广泛兴趣的应用程序的说明性数值示例，以传达关键思想。
2020-01-16 cs.LG eess.SP math.OC
