Smoothed Online Convex Optimization Based on Discounted-Normal-Predictor
Nanjing University（南京大学）；the University of Iowa（爱荷华大学）
在本文中，我们研究了一种在线预测策略，称为贴现正态预测器（Kapralov和Panigrahy，2010），用于平滑在线凸优化（SOCO），其中学习者不仅需要最小化命中成本，还需要最小化切换成本。在专家建议的学习环境中，Daniely和Mansour（2019）证明了贴现正态预测器可以在任何时间间隔内产生接近最优的后悔界限，即使存在转换成本。受他们结果的启发，我们开发了一种简单的SOCO算法：通过贴现正态预测器将在线梯度下降（OGD）与不同的步长顺序组合。尽管它的简单性，我们证明了它是能够最小化的自适应遗憾与切换成本，即，在每一区间上都能得到具有切换成本的近似最优后悔。通过利用OGD对动态后悔的理论保证，进一步证明了该算法在每个区间内都能最小化动态后悔且具有切换代价。
2022-05-02 cs.LG math.OC
Oracle-Efficient and Parameter-Free Agnostic Smoothed Online Learning
MIT（麻省理工学院）；Columbia University（哥伦比亚大学）；Georgia Tech（佐治亚理工学院）
本文提出首个无需基测度知识、无参数且Oracle高效的不可知平滑在线学习算法，基于高斯跟随扰动领导者，实现次线性遗憾，填补了理论与实用间的空白。
2026-10-08 cs.LG stat.ML
Online simultaneous inference for quantiles via smoothed stochastic gradient descent
Department of Mathematics and Statistics（数学与统计学系）；Washington University in St.Louis（圣路易斯华盛顿大学）；Chair of Statistics（统计学教授职位）；Humboldt-Universität zu Berlin（柏林洪堡大学）；University of Chicago（芝加哥大学）
本文提出基于平滑SGD的分位数在线同时推断方法，推导了相关理论界，提出在线乘数自助法，经模拟验证可准确估计分位数，适用于条件风险价值曲线等场景。
2026-09-02 cs.LG math.ST stat.ML
Robust Learning for Smoothed Online Convex Optimization with Feedback Delay
University of California Riverside（加州大学河滨分校）；California Institute of Technology（加州理工学院）
本文针对带多步切换成本和反馈延迟的平滑在线凸优化问题，提出鲁棒性约束学习算法RCL，通过约束投影融合不可信机器学习预测与可信专家算法，首次实现可证明鲁棒性保证并提升平均性能。
2023-10-31 cs.DS cs.LG math.OC
Partially Lazy Gradient Descent for Smoothed Online Learning
Faculty of Electrical Engineering, Mathematics and Computer Science. TU Delft, Netherlands（电子工程、数学与计算机科学学院。代尔夫特理工大学，荷兰）
本文提出k-lazyGD算法，介于贪心在线梯度下降和惰性GD之间，分析了平滑在线凸优化中的动态遗憾界，证明了惰性策略不影响命中性能。
2026-05-08 cs.LG
Leveraging Predictions in Smoothed Online Convex Optimization via Gradient-based Algorithms
Harvard University（哈佛大学）
我们考虑在线凸优化与时变阶段成本和额外的切换成本。由于切换成本会在所有阶段引入耦合，因此需要结合多步（长期）预测来提高在线性能。然而，长期预测往往质量较低。因此，一个关键的问题是：如何减少长期预测误差对在线性能的影响？为了解决这个问题，我们引入了一个基于梯度的在线算法，滚动时域不精确梯度（RHIG），并分析其性能的动态遗憾的时间变化的环境和预测误差。RHIG最多只考虑$W$ -提前一步的预测，以避免被长期更差的预测误导。我们的遗憾界建议的最佳选择的$W$依赖于环境的变化和预测精度之间的权衡。此外，我们将RHIG应用于一个成熟的随机预测误差模型，并在相关的预测误差下提供了预期的后悔和集中范围。最后，我们数值测试的性能RHIG四旋翼跟踪问题。
2020-11-25 cs.LG cs.SY eess.SY
Beyond Worst-Case Online Classification: VC-Based Regret Bounds for Relaxed Benchmarks
Yale University（耶鲁大学）；MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
该研究针对在线二分类，提出与捕捉平滑最优性的松弛基准竞争的方法，算法后悔界仅依赖VC维与实例空间复杂度，对广义间隔γ呈O(log(1/γ))依赖并补充匹配下界，连接对抗鲁棒性与平滑在线学习思想。
2025-04-14 cs.LG stat.ML
Oracle-Efficient Online Learning for Beyond Worst-Case Adversaries
University of California, Berkeley（加州大学伯克利分校）
在本文中，我们研究了甲骨文有效的算法，超越最坏情况分析的在线学习。我们专注于两个设置。首先，[RST 11，HRS 22]的平滑分析设置，其中对手被约束为从密度上限为$1/σ$乘以均匀密度的分布生成样本。第二，设置$K$ -提示转换学习，其中学习者被给予每个时间步长对$K$提示的访问，所述提示被保证包括真实实例。我们给出了第一个已知的甲骨文有效的算法，这两个设置只依赖于伪（或VC）维的类和参数$σ$和$K$，捕捉对手的力量。特别是，我们实现了$ \widetilde{O} ( \sqrt{T dσ^{-1}} ) $和$ \widetilde{O} ( \sqrt{T dK} ) $学习实值函数和$ O ( \sqrt{T dσ^{-\frac{1}{2}} } )$学习二进制值函数的预言有效的遗憾界。对于平滑的分析设置，我们的结果给出了第一个具有平滑对手的在线学习的预言机有效算法[HRS 22]。这对比了[HK 16]建立的在线学习与最坏情况对手和离线学习之间的计算分离。我们的算法还实现了改进的界限，最坏情况下设置小域。特别地，我们给出了一个预言机有效的算法，遗憾的是$O ( \sqrt{T(d |\mathcal{X}|)^{1/2} })$，这是一个改进的早期$O ( \sqrt{T|\mathcal{X}|})$绑定[DS 16]。
2022-11-22 cs.DS cs.LG stat.ML
Optimal Decentralized Smoothed Online Convex Optimization
Georgia Institute of Technology（佐治亚理工学院）；California Institute of Technology（加州理工学院）
针对多智能体平滑在线凸优化问题，提出了首个可证明渐近最优的去中心化算法ACORD，仅依赖局部信息即可实现低计算复杂度，且性能优于现有LPC算法。
2025-01-30 cs.DS cs.LG math.OC
Sample-Rank: Weak Multi-Objective Recommendations Using Rejection Sampling
Swiggy（Swiggy公司）
在线食品订购市场是一个多利益相关者的系统，其中的建议会影响系统中每个参与者的体验和成长。在这种情况下，推荐系统必须封装不同利益相关者的目标和约束，以便找到推荐项目的实用性。针对该问题的基于约束优化的方法通常涉及复杂的公式，并且在涉及数百万实体的生产设置中具有高计算复杂性。简化和松弛技术（例如，标量化）有助于但会引入次优性，并且由于需要大量的调优而可能非常耗时。在本文中，我们介绍了一种方法，涉及多目标采样，然后对用户相关性进行排名（Sample-Rank），以推动市场的多目标（MO）目标的建议。该方法的新颖之处在于，它减少了MO推荐问题，从一个期望的多目标分布采样，然后使用它来建立一个生产友好的学习排名（LTR）模型。在离线实验中，我们表明，我们能够偏向于MO标准的建议与可接受的权衡指标，如AUC和NDCG。我们还展示了一个大规模在线A/B实验的结果，与基线排名方法相比，这种方法在统计学上显著提高了2.64%的平均每单收入（RPO）（目标#1），而转化率（CR）（目标#2）没有下降，同时保持了平均最后一英里的水平（目标#3）。这种方法还显著减少了MO设置中的模型开发和部署时间，并允许对更多目标和其他类型的LTR模型进行简单的扩展。
2020-08-24 cs.LG stat.ML
Online Learning: Stochastic and Constrained Adversaries
University of Pennsylvania（宾夕法尼亚大学）；TTIC（丰田理工学院芝加哥分校）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
学习理论主要集中在两个主要的学习场景。第一种是经典的统计设置，其中实例是独立同分布的。第二种情况是在线学习，完全对抗性的情况，其中对手在每个时间步都选择最差的实例提供给学习者。可以说，在现实世界中，这两个假设都是不合理的。因此，重要的是要研究问题的一系列假设的数据。不幸的是，在这方面的理论成果是稀缺的，可能是由于缺乏一般的分析工具。专注于遗憾的制定，我们定义了一个游戏的最小最大值的对手在他的动作受到限制。该框架捕捉了对数据的随机和非随机假设。建立在顺序对称化方法，我们定义了一个概念的分布依赖的拉德马赫复杂度的频谱问题，从i.i.d.最坏的情况。这些界限让我们可以立即推导出变分类型的界限。然后我们考虑i.i.d.对手，并显示等价的在线和批量学习。在监督设置中，我们考虑各种混合假设的方式，x和y变量的选择。最后，我们考虑平滑的学习问题，并表明半空间是在线学习的平滑模型。事实上，在对手的决策中加入指数级的小噪声，将这个具有无限Littlestone维数的问题变成了一个可学习的问题。
2011-04-27 cs.GT cs.LG stat.ML
Online Optimization with Memory and Competitive Control
Tsinghua University（清华大学）
针对一类新的带记忆的在线优化问题，提出了竞争算法。我们考虑的设置，学习者寻求最小化的命中成本和切换成本，取决于以前的$p$决定的总和。此设置泛化平滑在线凸优化。所提出的方法，乐观正则化在线平衡下降，实现了恒定的，无量纲的竞争比。此外，我们展示了具有记忆的在线优化与具有对抗性干扰的在线控制之间的联系。这种联系，反过来，导致一个新的恒定竞争的政策，丰富的在线控制问题。
2021-01-08 cs.LG cs.SY eess.SY
Optimal and Adaptive Algorithms for Online Boosting
Yahoo Labs（雅虎实验室）；Princeton University（普林斯顿大学）
我们研究在线提升，将任何弱在线学习者转换为强在线学习者的任务。基于一种新颖而自然的弱在线可学习性定义，我们开发了两种在线提升算法。第一种算法是多数支持的在线版本。通过证明一个匹配的下界，我们表明，该算法本质上是最优的弱学习者的数量和样本的复杂性，需要达到指定的精度。然而，该最优算法不是自适应的。使用在线损失最小化的工具，我们推导出一个自适应在线提升算法，也是无参数的，但不是最优的。这两种算法都使用可以直接处理示例重要性权重的基本学习器，以及通过助推器定义的概率拒绝采样示例。结果补充了广泛的实验研究。
2015-02-09 cs.LG
Online Optimization of Smoothed Piecewise Constant Functions
École normale supérieure（巴黎高等师范学院）；University of Oxford（牛津大学）
研究了区域[0，1）上光滑分段常数函数的在线优化问题.这是由Gupta和Roughgarden（2016）最近引入的框架中自适应选择学习算法参数的问题所激发的。大多数机器学习文献都集中在Lipschitz连续函数或有界梯度函数上。[1]这是有充分理由的-任何学习算法都遭受线性遗憾，即使是对逆选择的分段常数函数，可以说是最简单的非Lipschitz连续函数。我们考虑的平滑设置受到Spielman和Teng（2004）的开创性工作以及Gupta和Roughgarden最近工作的启发-在这种设置中，函数序列可能由对手选择，但是，在不连续的位置存在一些不确定性。我们给出的算法，实现次线性后悔在充分的信息和强盗设置。
2016-05-20 cs.LG stat.ML
Oracle-Efficient Smoothed Online Learning for Piecewise Continuous Decision Making
MIT（麻省理工学院）
本文提出广义括号数复杂度，结合对手约束与空间大小，证明跟随扰动领导者算法在分段连续决策中实现Oracle调用次数最优的低遗憾，应用于在线预测与规划。
2024-03-19 cs.LG stat.ML
Smoothed Online Learning for Prediction in Piecewise Affine Systems
MIT（麻省理工学院）
本文提出分段仿射系统中基于平滑在线学习框架的首个预测与模拟算法，在弱平滑假设下实现多项式遗憾界，并高效利用优化预言机，以Wasserstein距离度量模拟误差。
2024-03-19 cs.LG stat.ML
Smoothed Analysis of Online and Differentially Private Learning
Cornell University（康奈尔大学）；Columbia University（哥伦比亚大学）
对算法的鲁棒性和隐私性的实际和普遍需求激发了在线对抗和差异隐私学习算法的设计。在这些设置中表征可学习性的主要数量是假设类的Littlestone维度[Ben-David等人，2009年，Alon等人，2019年]。这种特征通常被解释为不可能的结果，因为线性阈值和神经网络等类具有无限的Littlestone维数。在本文中，我们应用平滑分析的框架[Spielman和Teng，2004]，其中逆向选择的输入被自然稍微扰动。我们表明，从根本上更强的遗憾和错误的保证是可能的平滑的对手比最坏情况下的对手。特别是，我们得到的遗憾和隐私的误差范围，只依赖于VC维和括号数的假设类，和扰动的大小。
2020-06-17 cs.DS cs.LG stat.ML
Discounted Online Convex Optimization: Uniform Regret Across a Continuous Interval
National Key Laboratory for Novel Software Technology, Nanjing University, China（新型软件技术国家实验室，南京大学，中国）；School of Artificial Intelligence, Nanjing University, China（人工智能学院，南京大学，中国）
本文提出平滑在线梯度下降（SOGD）算法，通过维护多个OGD实例并利用DNP预测器聚合，实现对未知折扣因子的自适应，在连续区间上同时达到统一折扣遗憾界。
2025-05-26 cs.LG stat.ML
A Smoothed Analysis of Online Lasso for the Sparse Linear Contextual Bandit Problem
University of Colorado, Boulder（科罗拉多大学博尔德分校）；University of Virginia（弗吉尼亚大学）
研究了参数$θ$为稀疏的线性上下文强盗问题.为了减轻采样效率低下，我们利用“扰动对手”的上下文产生adversarilly，但小的随机非自适应扰动。我们证明了简单的在线Lasso支持稀疏线性上下文强盗遗憾界$\mathcal{O}(\sqrt{kT\log d})$，即使当$d \gg T$，其中$k$和$d$是有效和周围的维数，分别。与Sivakumar等人（2020）最近的工作相比，我们的分析不依赖于前提条件处理，自适应扰动（自适应扰动违反i.i.d扰动设置）或误差集的截断。此外，我们的结果中的特殊结构明确地描述了扰动如何影响探测长度，指导扰动的设计和扰动方法的基本性能限制。数值实验是对理论分析的补充。
2020-07-16 cs.LG stat.ML
Efficient and Near-Optimal Smoothed Online Learning for Generalized Linear Functions
MIT（麻省理工学院）
由于顺序和批量统计学习之间的复杂性存在巨大差距，最近的工作研究了平滑的顺序学习设置，其中自然界被限制为选择密度为1/σ的上下文，相对于已知的度量μ。不幸的是，对于某些函数类，在统计上最优的后悔和可以有效实现的后悔之间存在指数差距。在本文中，我们给出了一个计算效率高的算法，是第一个享受统计最优的log（T/σ）遗憾的可实现的K-明智的线性分类。我们将我们的结果扩展到真正的分类器在上下文的过参数化多项式特征化中是线性的设置，以及假设访问适当的ERM Oracle的可实现的分段回归设置。有些令人惊讶的是，标准的基于分歧的分析不足以达到1/σ的后悔对数。相反，我们开发了一种新的表征的几何形状的不一致区域引起的广义线性分类。一路上，我们开发了许多独立感兴趣的技术工具，包括某些矩阵平均值的行列式的一般反集中界限。
2022-05-25 cs.LG stat.ML
A framework for Multi-A(rmed)/B(andit) testing with online FDR control
UC Berkeley（加州大学伯克利分校）
我们提出了一个替代框架，以现有的设置控制假警报时，多个A/B测试运行一段时间。这种设置出现在许多实际应用中，例如，当制药公司针对不同疾病的控制药丸测试新的治疗方案时，或者当互联网公司随着时间的推移测试其默认网页与各种替代方案时。我们的框架建议用一系列最佳臂MAB实例取代A/B测试序列，数据科学家可以持续监控这些实例。当MAB测试与在线错误发现率（FDR）算法交错时，我们可以获得两全其美的效果：低样本复杂度和随时在线FDR控制。我们的主要贡献是：（i）提出MAB实例的原假设的合理定义;（ii）证明如何推导出始终有效的连续p值，以允许连续监测每个MAB检验;（iii）证明使用在线FDR算法的拒绝阈值作为MAB算法的置信水平，在任何时间点都能获得样本最优性、高功效和低FDR。我们运行了大量的模拟来验证我们的说法，并报告了从《纽约客》卡通字幕比赛中收集的真实数据的结果。
2017-11-18 cs.LG stat.ME stat.ML
Smoothed Analysis with Adaptive Adversaries
University of California, Berkeley（加州大学伯克利分校）；Columbia University（哥伦比亚大学）
我们证明了新的算法保证几个在线问题的平滑分析模型。在这个模型中，每次攻击者选择一个输入分布，其密度函数以均匀分布的密度函数的$\tfrac{1}σ$倍为界;自然界然后从这个分布中采样输入。至关重要的是，我们的研究结果适用于{ \em自适应}对手，可以选择一个输入分布的基础上的决策算法和实现的输入在以前的时间步骤。本文提出了一种通用的技术，证明平滑算法的保证，对自适应对手，有效地减少设置自适应对手的简单情况下，不经意的对手。我们应用这种技术来证明三个问题的强平滑保证：-在线学习：我们考虑在线预测问题，其中的实例是从自适应序列的$σ$光滑分布和假设类VC维$d$。我们通过$\tilde{O}\big(\sqrt{T d\ln(1/σ)} + d\sqrt{\ln(T/σ)}\big)$绑定遗憾。这回答了[RST 11，Hag 18]的开放性问题。- 在线差异最小化：我们考虑在线Komlós问题，其中输入是从自适应序列的$σ$ -光滑和各向同性分布的$\ell_2$单位球。我们通过$\tilde{O}\big(\ln^2\!\big( \frac{nT}σ\big) \big)$限制差异向量的$\ell_\infty$范数。- 分散在线优化：我们考虑在线优化的分段Lipschitz函数的$\ell$不连续性的功能被选择由一个平滑的自适应对手，并表明所得到的序列是$\big( σ/{\sq…
2021-08-18 cs.DS cs.LG stat.ML
Online Sequential Monte Carlo smoother for partially observed stochastic differential equations
本文提出了一种新的算法来逼近部分可观测随机微分方程的光滑可加泛函。该方法依赖于最近的程序，该程序允许在线计算这样的近似，即，当接收到观测时，并且计算复杂度随着蒙特卡罗样本的数量线性增长。这种在线平滑器不能直接用于部分观测的随机微分方程的情况下，因为潜在数据的转移密度通常是未知的。我们证明了一个类似的算法仍然可以定义为部分观察到的连续过程，通过替换这个未知量的无偏估计量获得，例如使用一般泊松估计。我们证明了这个估计是一致的，并使用两个模型的数据说明了它的性能。
2017-03-06 stat.AP stat.ME
Decentralized Online Riemannian Optimization Beyond Hadamard Manifolds
Department of Mechanical & Industrial Engineering at Northeastern University（东北大学机械与工业工程系）
针对可能具有正曲率的流形，提出曲率感知的黎曼共识步骤，实现去中心化在线黎曼梯度下降算法，并证明O(√T)遗憾界。
2026-06-06 cs.LG cs.MA math.OC
Improved Differentially Private and Lazy Online Convex Optimization
Google Deepmind（谷歌DeepMind）；Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）
本文针对差分隐私在线凸优化，通过强对数凹密度采样改进维度因子并去除光滑性要求，获得该情形下已知最佳速率。
2023-12-20 cs.CR cs.DS cs.LG
Smoothed Bernstein Online Aggregation for Day-Ahead Electricity Demand Forecasting
House of Energy Markets and Finance（能源市场与金融研究院）；University of Duisburg-Essen（杜伊斯堡-埃森大学）
我们介绍了IEEE数据端口竞赛的获胜方法，即提前一天的电力需求预测：后COVID范式。日前负荷预测方法是基于多点预测模型的在线预测组合。它包含四个步骤：i）数据清洗和预处理，ii）假日调整程序，iii）个体预测模型的训练，iv）通过平滑Bernstein在线聚合（BOA）的预测组合。该方法灵活，可快速适应COVID-19期间和之后发生的新能源系统情况。单个预测模型的范围从相当简单的时间序列模型到复杂的模型，如广义加性模型（GAM）和lasso估计的高维线性模型。它们有效地结合了自回归、日历和天气效果。所有步骤都包含新的概念，有助于所提出的方法的出色的预测性能。这尤其适用于假日调整程序和完全自适应平滑BOA方法。
2021-07-13 cs.CE cs.LG cs.SY
Adaptive Matrix Online Learning through Smoothing with Guarantees for Nonsmooth Nonconvex Optimization
Google Research（谷歌研究）
本文提出两种高效方法，通过平滑技术实现自适应矩阵在线学习，解决了传统方法中二次投影的高成本问题，并在非光滑非凸优化中提供收敛保证。
2026-02-09 cs.LG math.OC stat.ML
An efficient particle-based online EM algorithm for general state-space models
一般状态空间模型的参数估计是许多科学和工程学科的重要课题。在本文中，我们提出了一个在线参数估计算法，通过铸造我们最近提出的基于粒子的，快速增量平滑（PaRIS）到Cappé（2011）提出的状态空间模型的在线期望最大化（EM）的框架。以前这种基于粒子的在线EM的实现通常遭受要么是众所周知的退化的系谱粒子路径或二次复杂的粒子数量。然而，通过使用计算效率和数值稳定的PaRIS算法估计平滑的期望的时间平均充分统计量的模型，我们得到了一个快速的算法，非常有限的内存需求和计算复杂性，增长只与粒子数呈线性关系。该算法的效率在仿真研究中示出。
2016-02-24 stat.CO
Smoothed Online Learning is as Easy as Statistical Learning
MIT（麻省理工学院）
大部分现代学习理论都分为两种模式：经典的离线设置，数据独立到达，在线设置，数据以对抗方式到达。虽然前一种模型通常在计算和统计上都易于处理，但后者不需要分布假设。为了实现两全其美，以前的工作提出了平滑在线设置，其中每个样本都是从一个相反选择的分布中提取的，该分布是平滑的，即，它有一个有界密度相对于一个固定的支配措施。我们提供了严格的界限上的极小极大遗憾学习的非参数函数类，与近最佳的依赖于地平线和平滑参数。此外，我们提供了第一个甲骨文高效，无悔的算法在这种情况下。特别是，我们提出了一个预言高效的不当算法，其遗憾实现最佳依赖的地平线和一个适当的算法，只需要一个单一的预言调用每轮的遗憾具有最佳的地平线依赖的分类设置，一般是次线性的。这两种算法对对手的平滑参数的依赖性指数比极大极小率差。然后，我们证明了任何适当的学习算法，它匹配的甲骨文有效的上限到多项式因子的甲骨文复杂性的下限，从而证明了在平滑的在线学习的计算差距的存在。最后，我们将我们的研究结果的上下文强盗设置表明，如果一个函数类是可学习的经典设置，然后有一个预言机的高效，没有遗憾的算法上下文强盗的情况下，上下文顺利到达。
2022-05-31 cs.LG stat.ML
Bayesian inference via rejection filtering
Microsoft Research（微软研究院）；University of Sydney（悉尼大学）
我们提供了一种近似贝叶斯推理的方法，使用拒绝抽样。我们不仅使过程高效，而且还大大减少了所需的内存相对于传统的方法相结合的拒绝采样与粒子滤波。我们还提供了一个近似形式的拒绝采样，使拒绝滤波易于处理的情况下，精确拒绝采样是没有效率的。最后，我们提出了几个数值例子的拒绝过滤，显示其跟踪时间依赖的参数在在线设置的能力，也基准测试其性能的MNIST分类问题。
2015-12-03 cs.LG quant-ph stat.ML
Online Center of Mass Estimation for a Humanoid Wheeled Inverted Pendulum Robot
本文提出了一种新颖的鲁棒控制与在线学习结合的方法，用于平衡具有n自由度的轮式反重力摆人形机器人，通过在线学习更新质量模型以获得更准确的质心估计，实验表明该方法提升了整体控制效率。
2019-05-14 cs.LG cs.RO cs.SY
Spectral Smoothing via Random Matrix Perturbations
我们考虑随机光滑的谱函数的矩阵扰动通常研究随机矩阵理论。我们表明，频谱函数保持频谱平滑时，使用酉不变的扰动分布。然后，我们推导出国家的最先进的平滑边界的最大特征值函数使用高斯正交包络（GOE）。最大特征值函数的光滑化在半定优化和在线学习中具有重要的应用。作为我们的GOE平滑结果的直接后果，我们得到了一个$O((N \log N)^{1/4} \sqrt{T})$预期的遗憾界的在线方差最小化问题使用的算法，只执行一个最大特征向量计算每一个时间步。这里，$T$是轮数，$N$是矩阵维数。我们的算法和它的分析也扩展到更一般的在线PCA问题，学习者必须输出一个秩$k$子空间。该算法每步只需要计算$k$最大特征向量，并具有$O(k (N \log N)^{1/4} \sqrt{T})$期望遗憾界.
2015-12-14 cs.LG
Decentralized Online Riemannian Optimization for Strongly Geodesically Convex Functions
Department of Mechanical & Industrial Engineering at Northeastern University（东北大学机械与工业工程系）
研究黎曼流形上强测地凸损失的分散式在线优化，通过提供时变调度的网络误差分析，为分散式在线黎曼梯度下降建立$O(\log T)$静态遗憾界，并为两点策略反馈设置证明相同界，匹配强凸欧几里得在线优化最优速率。
2026-07-23 cs.LG cs.MA math.OC
Online Optimization of Difference-of-Convex Compositions with Smooth Mappings
Management Science and Engineering, Stanford University（斯坦福大学管理科学与工程系）；The Daniel J. Epstein Department of Industrial and Systems Engineering, University of Southern California（南加州大学丹尼尔·J·埃普斯坦工业与系统工程系）
研究结构化非凸非光滑问题的在线优化，提出时间平滑近端线性算法和基于近端残差映射的局部遗憾度量，建立局部遗憾界等，推导误差界，证明残差是平稳性度量，可通过凸优化预言机计算更新。
2026-07-23 cs.LG math.OC
Smoothed Online Optimization for Target Tracking: Robust and Learning-Augmented Algorithms
University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）；Akamai Technologies（Akamai技术公司）
本文提出SOOTT框架整合跟踪、扰动和切换成本，并设计鲁棒算法BEST及学习增强变体CoRT，在预测准确时提升性能且保持鲁棒性，通过工作负载调度案例验证了有效性。
2025-09-07 cs.LG cs.SY eess.SY
Fairness-Regularized Online Optimization with Switching Costs
School of Information（信息学院）；Rochester Institute of Technology（罗切斯特技术学院）；Electrical and Computer Engineering（电气与计算机工程）；University of California, Riverside（加州大学河滨分校）；Computing & Mathematical Sciences（计算与数学科学）；California Institute of Technology（加州理工学院）
本文提出FairOBD算法，通过引入辅助变量将长期公平性成本分解为在线成本，有效减少公平性正则化成本并促进公平结果。
2025-12-11 cs.AI cs.LG
A Single-Sample Polylogarithmic Regret Bound for Nonstationary Online Linear Programming
本文提出一种新算法，在非平稳在线线性规划中实现O((log n)^2)的回归界，证明在资源充足时，即使环境变化大，也能有效分配资源。
2026-03-15 cs.DS cs.LG
Demystifying Online Clustering of Bandits: Enhanced Exploration Under Stochastic and Smoothed Adversarial Contexts
The Chinese University of Hong Kong（香港中文大学）
本文针对老虎机在线聚类中识别用户簇所需的强假设问题，提出UniCLUB和PhaseUniCLUB两种增强探索算法，并引入平滑对抗情境设置以消除i.i.d.要求，在更弱假设下取得与先前工作相当的遗憾界并提升实际性能。
2025-01-01 cs.AI cs.LG stat.ML
Agnostic Smoothed Online Regression with Adversarial Responses
University of Michigan（密歇根大学）
针对对抗性响应的平滑在线回归，提出Hedge-Cover算法，实现次线性遗憾并匹配下界，解决开放问题，并量化噪声影响。
2026-09-29 cs.LG math.ST stat.ML
On backward smoothing algorithms
在状态空间模型的上下文中，基于粒子的平滑算法依赖于向后采样步骤，该向后采样步骤默认具有$\mathcal O(N^2)$复杂度（其中$N$是粒子的数量）。现有的文献中的改进是不能令人满意的：一个流行的拒绝抽样-为基础的方法，我们将显示，可能会导致行为不佳的执行时间;另一个拒绝采样停止缺乏复杂性分析;又一个MCMC启发的算法没有稳定性保证。我们提供了几个结果，关闭这些差距。特别是，我们证明了一个新的非渐近稳定性定理，从而使平滑真正的线性复杂性和充分的理论依据。我们提出了一个通用的框架，它结合了文献中大多数的基于cadron的平滑算法，并允许同时证明其收敛性和稳定性，无论是在在线和离线的情况下。此外，我们得出，作为该框架的一个特例，一个新的耦合为基础的平滑算法适用于模型与棘手的过渡密度。我们阐述了实际的建议，并确认与数值实验。
2023-03-06 stat.CO stat.ME
Backward importance sampling for online estimation of state space models
本文提出了一种新的序贯蒙特卡罗算法进行在线估计的状态空间模型的背景下，无论是潜在状态的转移密度或条件似然观测给定的状态是棘手的。在这种情况下，获得低方差估计的期望下的后验分布的未观察到的状态的观察是一个具有挑战性的任务。根据最近的伪边缘序贯蒙特卡罗平滑的理论结果，伪边缘向后重要性抽样步骤被引入到估计这样的期望。这一新的步骤允许减少非常显着的计算时间的基础上接受拒绝程序类似的性能，现有的数值解，并扩大类合格的模型，这种方法。例如，在多变量随机微分方程的背景下，所提出的算法利用无偏估计的未知的过渡密度比标准的替代品弱得多的假设。该估计的性能进行评估的高维离散时间的潜在数据模型，递归极大似然估计的部分观测扩散过程的背景下，在一个二维的部分观测随机Lotka-Volterra模型的情况下。
2021-05-07 stat.AP stat.ME
Recursive maximum likelihood identification of jump Markov nonlinear systems
在这篇文章中，我们提出了一个在线的方法，联合状态和参数估计跳跃马尔可夫非线性系统（JMNLS）。通过使用粒子滤波器来实现状态推断，这使得该方法适用于广泛的非线性模型。为了利用JMNLS的固有结构，我们设计了一个Rao-Blackwellized粒子滤波器（RBPF）的离散模式被边缘化分析。这导致算法的有效实现并减小了估计误差方差。建议的RBPF，然后用于计算，递归的时间，平滑估计的完整数据充分统计量。与在线期望最大化算法一起，这使得未知模型参数的递归识别成为可能。该方法的性能示出在模拟和在无线网络中使用真实数据的定位问题。
2013-12-03 stat.CO
Distributionally-Constrained Adversaries in Online Learning
Columbia University（哥伦比亚大学）
本文提出分布约束对抗者框架，刻画可学习分布类，并证明对线性分类器等自然函数类，无需先验知识即可同时对抗任意可学习分布类内的对抗者。
2025-06-17 cs.LG math.ST stat.ML
Greedy Algorithm almost Dominates in Smoothed Contextual Bandits
Harvard University（哈佛大学）；Microsoft Research NYC（微软纽约研究院）；Microsoft Research, New York（微软纽约研究院）；Carnegie Mellon University（卡内基梅隆大学）
在线学习算法广泛用于网络搜索和内容优化，必须平衡探索和利用，可能会牺牲当前用户的体验，以获得信息，从而在未来做出更好的决策。虽然在最坏的情况下是必要的，但与总是通过选择当前看起来最优的动作来“利用”的贪心算法相比，显式探索具有许多缺点。我们要问的是，在什么条件下，数据的内在多样性使得明确的探索变得不必要。我们建立在最近的工作线上的线性上下文土匪模型的贪心算法的平滑分析。我们改进了以前的结果表明，贪婪的方法几乎匹配的最佳可能的贝叶斯后悔率的任何其他算法在同一问题的情况下，只要多样性条件成立，这种遗憾是最多$\tilde O(T^{1/3})$。
2021-12-27 cs.LG stat.ML
High-accuracy simulation of Picard HMC, part I: Gaussian cloud correction
Massachusetts Institute of Technology（麻省理工学院）；Yale University（耶鲁大学）；Duke University（杜克大学）
针对具有 Lipschitz 梯度和对数 Sobolev 不等式的分布采样，提出高斯云采样器，利用一阶拒绝采样校正 Picard HMC 轨迹，实现高精度采样。
2026-10-01 cs.DS cs.NA math.NA
Regret and Sample Complexity of Online Q-Learning via Concentration of Stochastic Approximation with Time-Inhomogeneous Markov Chains
MBZUAI, UAE（MBZUAI, 阿拉伯联合酋长国）；Stanford University, USA（斯坦福大学, 美国）；EPITA, France（EPITA, 法国）；Indian Institute of Technology Bombay, India（印度班加罗尔理工学院, 印度）
本文首次为无限时间折扣马尔可夫决策过程中的经典在线Q学习提供了后悔界，不依赖乐观或奖励项。通过分析退火Q学习并结合平滑ε_n-贪心探索方案，证明了近似O(N^{9/10})的后悔界，并获得样本复杂性保证。
2026-05-15 cs.LG stat.ML
High-dimensional online calibration from harmonic weights
Institute for Advanced Study（高等研究院）；Google Research（谷歌研究院）；Courant Institute of Mathematical Sciences（库朗数学科学研究所）
本文提出一种基于调和权重的简单在线校准算法，对任意凸集和范数实现高维预测的ε-校准，轮数在维度上多项式，显著改善已有界。
2026-10-07 cs.LG stat.ML
