Mirror Sinkhorn: Fast Online Optimization on Transport Polytopes
University of Cambridge（剑桥大学）；Google DeepMind（谷歌DeepMind）
本文提出Mirror Sinkhorn算法，一种基于Sinkhorn缩放和镜像下降的单循环在线优化方法，用于传输多面体上的凸目标最小化，具有噪声鲁棒性，并提供理论保证和实验验证。
2023-06-20 cs.LG stat.ML
Fast and Strong Convergence of Online Learning Algorithms
Zhejiang University（浙江大学）；Fudan University（复旦大学）
本文研究了无显式正则化项的在线学习算法。该算法实质上是再生核Hilbert空间（RKHS）中的随机梯度下降算法。每次迭代中多项式衰减的步长可以起到正则化的作用，保证在线学习算法的泛化能力。提出了一种新的基于容量的在线学习算法性能分析方法。本文的贡献是双重的。首先，我们很好的分析可以导致标准均方距离的收敛速度，这是迄今为止最好的。其次，我们建立，第一次，强收敛的最后一个多项式衰减步长在RKHS规范。我们证明了本文建立的理论分析充分利用了底层RKHS的精细结构，从而可以导致在线学习算法的尖锐的误差估计。
2017-10-10 cs.LG stat.ML
Statistical Inference for Online Decision-Making: In a Contextual Bandit Setting
North Carolina State University（北卡罗来纳州立大学）
在线决策问题要求我们根据增量信息做出一系列决策。常见的解决方案通常需要学习给定上下文信息的不同行为的奖励模型，然后最大化长期奖励。了解所提出的模型是否合理，以及模型在渐近意义下的表现如何，是很有意义的。我们在线性报酬模型的情境强盗框架下研究了这个问题。采用$\varepsilon$ -贪婪策略来解决经典的探索和利用困境。利用鞅中心极限定理，证明了模型参数的在线普通最小二乘估计是渐近正态的。当线性模型被误定时，我们提出了利用逆倾向得分加权的在线加权最小二乘估计，并建立了其渐近正态性。基于参数估计的性质，我们进一步证明了样本内逆倾向加权值估计是渐近正态的。我们说明我们的结果使用模拟和应用程序的新闻文章推荐数据集从雅虎！
2020-10-14 cs.LG stat.ML
Online Agnostic Multiclass Boosting
University of Michigan（密歇根大学）
Boosting是机器学习中的一种基本方法，具有强大的理论和实践保证。在高层次上，boosting算法巧妙地聚合弱学习器，以生成具有任意高准确度的预测。通过这种方式，boosting算法将弱学习器转换为强学习器。最近，Brukhim等人将boosting扩展到在线不可知的二进制分类设置。他们的方法中的一个关键因素是对在线凸优化的一个干净而简单的简化，它可以有效地将任意的在线凸优化器转换为不可知的在线助推器。在这项工作中，我们将这种减少多类问题，并给出了第一个提升算法在线不可知多类分类。我们的减少还可以构建统计不可知的，在线可实现的，统计可实现的多类提升算法。
2022-10-17 cs.LG stat.ML
Online conformal inference with retrospective adjustment for faster adaptation to distribution shift
Inha University（仁荷大学）
针对在线环境数据分布变化问题，提出具有回顾性调整的在线共形推理方法，利用回归方法和高效公式追溯调整预测，经实验表明该方法能在接近标称覆盖率时减少预测区间宽度约30%，提升统计效率与适应性。
2026-07-14 cs.LG stat.ML
Improving SGD convergence by online linear regression of gradients in multiple statistically relevant directions
Jagiellonian University（雅盖隆大学）
深度神经网络通常使用随机梯度下降（SGD）进行训练，该算法使用非常粗略的梯度近似来最小化目标函数，仅对实际梯度进行平均。标准的方法，如动量或ADAM只考虑一个方向，并不试图从极值模型的距离-忽略了有价值的信息，从计算的梯度序列，往往停滞在一些次优的高原。二阶方法可以利用这些错过的机会，然而，除了遭受非常大的成本和数值不稳定性之外，由于忽略曲率的符号（作为Hessian的特征值），其中许多方法会吸引到次优点，如鞍点。无鞍牛顿法是解决这个问题的一个罕见的例子-将鞍吸引力变为排斥力，并被证明可以通过这种方式对最终值提供本质的改进。然而，它忽略了噪声，而建模二阶行为，专注于Krylov子空间的数值原因，并需要昂贵的特征分解。在保持SFN优势的情况下，提出了用于利用这些机会的廉价方式。二阶行为是一阶导数的线性依赖-我们可以用最小二乘线性回归从噪声梯度序列中最佳地估计它，在这里的在线设置中：用旧梯度的弱化权重。统计相关子空间由最近的噪声梯度的PCA建议-在在线设置中，它可以通过缓慢地将所考虑的方向旋转到新的梯度，逐渐用最近的统计相关取代旧的方向来实现。特征分解也可以在线执行：定期执行QR方法的步骤，以保持对角Hessian。在二阶建模子空间之外，我们可以同时执行梯度下降。
2023-03-13 cs.LG stat.ML
Experimenting, Fast and Slow: Bayesian Optimization of Long-term Outcomes with Online Experiments
Meta
针对在线A/B测试中长期实验耗时过长的问题，提出结合快速实验或离线代理与慢速实验的方法，在短时间内对大型动作空间执行顺序贝叶斯优化。
2025-06-30 cs.LG stat.ML
Online Tensor Learning: Computational and Statistical Trade-offs, Adaptivity and Optimal Regret
University of Michigan（密歇根大学）；Hong Kong University of Science and Technology（香港科技大学）
本文提出在线黎曼梯度下降算法 oRGrad 及其自适应版本，通过在线更新和自适应步长解决大规模张量学习的高计算与存储问题，在未知时间范围下实现最优遗憾和统计最优误差率。
2024-10-22 cs.LG stat.ML
Online Convex Optimization Against Adversaries with Memory and Application to Statistical Arbitrage
Technion（以色列理工学院）
具有记忆的在线学习的框架自然地捕获具有时间约束的学习问题，并且先前针对专家设置进行了研究。在这项工作中，我们扩展的概念，学习与记忆的一般在线凸优化（OCO）的框架，并提出了两个算法，达到低遗憾。第一个算法适用于Lipschitz连续损失函数，获得凸和强凸损失的最优遗憾界。第二个算法达到最佳遗憾界，并适用于更广泛的凸损失，而不需要Lipschitz连续性，但更复杂的实现。我们补充我们的理论结果与金融统计套利的应用：我们设计算法构建均值回复投资组合。
2014-06-10 cs.LG
Online Inference in Distributional Temporal-Difference Learning
Yau Mathematical Sciences Center, Tsinghua University（清华大学丘成桐数学科学中心）；School of Statistics and Data Science, Shanghai University of Finance and Economics（上海财经大学统计与数据科学学院）
该研究针对固定策略下回报分布泛函的在线推断，通过非参数分布时序差分学习估计回报分布，证明了Polyak–Ruppert平均估计量的收敛性，为光滑泛函提供自举推断依据，并建立非光滑泛函的局部渐近理论以开展推断。
2026-10-19 cs.LG stat.ML
Faster Projection-free Online Learning
Department of Computer Science, Princeton University（普林斯顿大学计算机科学系）；Google AI（谷歌人工智能）
在许多在线学习问题中，基于梯度的方法的计算瓶颈是投影运算。由于这个原因，在许多问题中，最有效的算法是基于Frank-Wolfe方法，该方法用线性优化代替投影。然而，在一般情况下，在线无投影方法比基于投影的方法需要更多的迭代：最著名的遗憾界尺度为$T^{3/4}$。尽管在弗兰克-沃尔夫方法的各种变体上进行了大量的工作，但这个界限十年来一直保持不变。在本文中，我们给出了一个有效的无投影算法，保证$T^{2/3}$遗憾的一般在线凸优化光滑的成本函数和一个线性优化计算，每次迭代。与以前的Frank-Wolfe方法不同，我们的算法是使用跟随扰动领导者方法导出的，并使用在线原始对偶框架进行分析。
2020-02-14 cs.LG math.OC stat.ML
Regret Minimization and Statistical Inference in Online Decision Making with High-dimensional Covariates
Hong Kong University of Science and Technology（香港科技大学）；University of Pennsylvania（宾夕法尼亚大学）
本文研究高维在线决策的遗憾最小化与统计推断，结合ε-贪心算法与硬阈值估计并提出去偏推断框架，揭示探索-利用权衡，还证明无探索的纯贪心算法在特定条件下可同时实现最优遗憾与一致推断，且经实验验证有效。
2025-05-17 cs.LG stat.ML
Generalization Analysis of Online Stochastic Gradient Descent for Overparameterized Two-Layer Neural Networks
School of Mathematical Sciences, Zhejiang University（浙江大学数学科学学院）；Shanghai Key Laboratory for Contempo（上海市现代（暂未完整，按原文提取））
本文在NTK机制下分析过参数化两层神经网络在线SGD的泛化误差，提出统一框架推导最后迭代的尖锐收敛速率，并将网络宽度要求从指数降至多项式，缩小理论与实践的差距。
2026-09-29 cs.LG stat.ML
Online Forgetting Process for Linear Regression Models
Purdue University（普渡大学）
针对欧盟“被遗忘权”法规下的数据删除问题，本文提出在线遗忘算法FIFD-OLS与FIFD-Adaptive Ridge，后者通过在线正则化有效抵消删除不确定性，并在理论上给出遗憾上界，实验证明其优于固定正则化的岭回归。
2020-12-03 cs.LG stat.ML
Online Statistical Inference for Stochastic Optimization via Kiefer-Wolfowitz Methods
本文研究随机优化参数的在线统计推断，分析随机搜索方向下 AKW 估计量的渐近分布及其效率与查询复杂度权衡，并给出两种置信区间构造方法。
2023-12-10 math.ST stat.ML stat.TH
Combining Adversarial Guarantees and Stochastic Fast Rates in Online Learning
Centrum Wiskunde & Informatica（荷兰国家数学与计算机科学研究所）；Leiden University（莱顿大学）
我们考虑在线学习算法，保证最坏情况下的后悔率在对抗性的环境（因此，他们可以安全地部署，并将执行鲁棒性），但最佳地适应有利的随机环境（因此，他们将在各种实际重要性的设置表现良好）。我们通过著名的伯恩斯坦（a.k.a.广义Tsybakov边限）条件。对于最近的两个算法（眯着眼睛的对冲设置和MetaGrad的在线凸优化），我们表明，他们的数据依赖的个人序列的遗憾保证的特定形式意味着他们自动适应随机环境的伯恩斯坦参数。我们证明，这些算法在各自的设置中达到快速的速度都在预期和高概率。
2016-05-20 cs.LG
Online Statistical Inference of Constant Sample-averaged Q-Learning
University of Houston（休斯顿大学）；Texas Tech University（德克萨斯理工大学）
本文提出一种在线统计推断框架，用于改进样本均值Q学习算法，通过功能中心极限定理和随机缩放构建置信区间，实验验证了改进方法在网格世界和动态资源匹配问题中的性能。
2026-03-27 cs.AI cs.LG stat.ML
Online Statistical Inference in Decision-Making with Matrix Context
Daniels School of Business, Purdue University（普渡大学丹尼尔斯商学院）
本研究针对矩阵上下文在线决策问题，提出一种在线去偏推断方法，同时处理低秩结构偏差和自适应数据偏差，实现参数与最优策略值的渐近正态推断。
2025-04-18 cs.LG math.ST stat.ML
Statistical Inference for Online Algorithms
本文提出HulC方法，通过在线算法生成渐近有效的置信区间，无需显式估计渐近方差，适用于SGD等在线算法。
2026-03-18 cs.LG stat.CO stat.ME
Policy Optimization and Statistical Inference for Online Contextual Matrix Games
University of California, Irvine（加州大学欧文分校）；University of Michigan（密歇根大学）
针对策略收益随情境变化的在线博弈问题，提出在线上下文矩阵博弈框架与OnGameLearn算法，经模拟和酒店定价应用验证，可有效平衡探索利用并具备统计保证。
2026-08-19 cs.LG math.ST stat.ME
Hybrid Preference Optimization for Alignment: Provably Faster Convergence Rates by Combining Offline Preferences with Online Exploration
University of Washington（华盛顿大学）；Apple（苹果公司）
本文提出混合偏好优化（HPO），结合在线探索与离线偏好，放宽集中性条件并提高样本效率，首次给出混合RLHF的可证明最优理论界，证明其优于纯离线或纯在线方法。
2024-12-13 cs.LG
Principles of Statistical Inference in Online Problems
针对在线长期方差估计中统计与计算效率难以兼顾的问题，提出核权重分解及在线推断原理，构建均方误差一致更优的估计量，并推广到多种在线推断任务。
2024-09-07 math.ST stat.CO stat.ME
FOAL: Fast Online Adaptive Learning for Cardiac Motion Estimation
United Imaging Intelligence（联影智能）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Oregon（俄勒冈大学）
心脏MRI视频的运动估计对于评价人体心脏解剖和功能具有重要意义。最近的研究表明，基于深度学习的方法取得了可喜的成果。然而，在临床部署中，由于训练和测试数据集之间的分布不匹配，它们的性能会急剧下降，这在临床环境中很常见。另一方面，可以说不可能收集所有代表性数据集并在部署之前训练通用跟踪器。在这种情况下，我们提出了一种新的快速在线自适应学习（FOAL）框架：一个在线的基于梯度下降的优化器，优化的元学习器。元学习器使在线优化器能够执行快速且强大的自适应。我们通过在两个公共临床数据集上进行广泛的实验来评估我们的方法。结果表明，FOAL在准确性方面优于离线训练的跟踪方法。平均而言，FOAL只需要$0.4$秒就可以完成每个视频的在线优化。
2020-08-14 cs.AI cs.CV cs.LG
Fast and Robust Online Inference with Stochastic Gradient Descent via Random Scaling
Columbia University（哥伦比亚大学）；Rutgers University（罗格斯大学）；Seoul National University（首尔国立大学）；McMaster University（麦克马斯特大学）
我们开发了一种新的方法在线推断的参数估计的Polyak-Ruppert平均过程的随机梯度下降（SGD）算法的向量。我们利用计量经济学中时间序列回归的见解，通过随机尺度构建渐近关键统计。我们的方法是完全可操作的在线数据，并严格支持的功能中心极限定理。我们提出的推理方法与现有方法相比具有几个关键优势。首先，检验统计量以仅SGD迭代的在线方式计算，并且可以在没有任何重新排序方法的情况下获得临界值，从而允许适合于大量在线数据的高效实现。其次，没有必要估计渐近方差和我们的推理方法被证明是强大的SGD算法在模拟实验中的调整参数的变化与合成数据。
2021-10-07 cs.LG econ.EM math.ST
Generalization bounds for mixing processes via delayed online-to-PAC conversions
Universitat Pompeu Fabra（庞培法布拉大学）
本文将平稳混合过程下的泛化问题归约为延迟反馈在线学习，证明有界 regret 蕴含低泛化误差，并揭示延迟与数据依赖间的权衡及近最优速率。
2025-02-19 cs.LG
Online Tensor Inference
New York University（纽约大学）；Purdue University（普渡大学）
本文提出了一种低秩张量在线推断框架，利用随机梯度下降实现高效实时数据处理，并通过去偏差方法和谱表示工具提升统计推断性能。
2026-02-12 cs.LG stat.ME stat.ML
Distributionally Time-Varying Online Stochastic Optimization under Polyak-Łojasiewicz Condition with Application in Conditional Value-at-Risk Statistical Learning
The Australian National University（澳大利亚国立大学）；The University of Melbourne（墨尔本大学）
本文在 Polyak-Łojasiewicz 条件下研究分布时变的在线随机优化问题，利用 Wasserstein 距离度量分布漂移，建立在线随机梯度下降及近端梯度下降的动态遗憾界，并将其应用于条件风险价值统计学习问题。
2023-09-18 cs.LG math.OC
Learning From An Optimization Viewpoint
Toyota Technological Institute at Chicago（芝加哥丰田技术学院）
本文从优化的角度研究了统计学习和在线学习问题。我们首先考虑在一般学习环境中统计学习问题的可学习性问题。学习能力的问题是很好的研究和充分的特点，为二进制分类和实值监督学习问题，使用一致收敛理论。然而，我们发现，对于一般的学习设置一致收敛理论无法表征可学习性。为了填补这一空白，我们使用学习算法的稳定性，充分表征统计学习能力的一般设置。接下来我们考虑在线学习的问题。与统计学习框架不同的是，一般来说，缺乏通用工具来建立在线学习问题的可学习性和学习率。我们提供在线模拟经典的工具，从统计学习理论，如Rademacher复杂性，覆盖数等，我们进一步使用这些工具，充分表征在线监督学习问题的可学习性。二.在第二部分中，对于一般类凸学习问题，我们提供了适当的镜像下降（MD）更新，用于这些问题的在线和统计学习。此外，我们还证明了MD对于在线凸学习是接近最优的，对于大多数情况下，对于统计凸学习也是接近最优的。接下来，我们考虑凸优化问题，并表明预言复杂性可以下界的所谓脂肪粉碎维度的相关线性类。因此，我们建立了离线凸优化问题和统计学习问题之间的强连接。我们还表明，对于一大类高维优化问题，MD实际上是接近最优的，即使是凸优化。
2012-04-18 cs.GT cs.LG
Statistical Theory of Multi-stage Newton Iteration Algorithm for Online Continual Learning
School of Mathematics and Statistics, Xi’an Jiaotong University（西安交通大学数学与统计学院）；Department of Statistics, Beijing Normal University at Zhuhai（珠海市北京师范大学统计学系）
针对在线持续学习中的灾难性遗忘问题，提出引入随机效应且参数维度可趋于无穷大的统计框架，并开发多步牛顿迭代算法降低计算成本，理论上推导了估计量的渐近正态性。
2025-08-10 cs.LG stat.ME
Online Updating of Statistical Inference in the Big Data Setting
我们提出了在线分析处理中产生的大数据的统计方法，其中大量数据以流的形式到达，需要快速分析，而无需存储/访问历史数据。特别是，我们开发迭代估计算法和统计推断的线性模型和估计方程，更新新的数据到达。这些算法计算效率高，存储密集度最低，并允许由于罕见事件协变量的子集设计矩阵中可能的秩不足。在线性模型设置，建议的在线更新框架导致预测残差测试，可以用来评估的拟合优度的假设模型。我们还在估计方程设置下提出了一种新的在线更新估计器。拟合优度检验和建议的估计量的理论特性进行了详细研究。在模拟研究和实际数据的应用中，我们的估计相比，毫不逊色于竞争的方法下的估计方程设置。
2015-05-23 stat.CO stat.OT
Statistical Inference for Smoothed Support Vector Machines in High Dimensions: From Offline to Online Data
Center for Applied Statistics, Renmin University of China（中国人民大学应用统计中心）；School of Statistics, Renmin University of China（中国人民大学统计学院）
本文提出一种统一的推断框架，通过离线和在线设置中的平滑技术消除偏差，实现有效的统计推断和计算效率提升。
2026-05-15 stat.ME
Fast Rates for Online Prediction with Abstention
Universitat Pompeu Fabra（庞培法布拉大学）；Google Research（谷歌研究院）
在设置的顺序预测的个人$\{0, 1\}$序列与专家的意见，我们表明，通过允许学习者放弃预测支付的成本略小于$\frac 12$（说，$0.49$），它是可能的，以实现预期的后悔界限是独立的时间范围$T$。我们准确地描述了依赖于成本$c$和专家$N$的数量，通过提供匹配的上界和下界的顺序$\frac{\log N}{1-2c}$，这是对比$\sqrt{T\log N}$的最佳可能的速度，没有选择弃权。我们还讨论了我们的模型的各种扩展，包括一个设置，其中的序列的预防成本可以随时间任意变化，在这里我们显示后悔边界插值之间的慢和快的速度上面提到的，在一些自然的假设下的预防成本的序列。
2020-06-20 cs.LG math.ST stat.ML
Efficient online algorithms for fast-rate regret bounds under sparsity
INRIA（法国国家信息与自动化研究所）；Ecole normale supérieure（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL Research University（巴黎文理研究大学）；Sorbonne Université（索邦大学）
我们考虑在线凸优化问题。在任意序列和参数有限集的情况下，我们建立了一个新的快速分位数后悔界。然后通过离散参数空间研究了L1球的优化问题。我们的算法是投影自由的，我们提出了一个有效解通过重新启动自适应离散网格的算法。在对抗设置中，我们开发了一种算法，该算法实现了几个收敛速度，对目标的稀疏性具有不同的依赖性。在i.i.d.设置，我们建立新的风险边界，是自适应的稀疏性的问题和规则的风险（范围从1 / $\sqrt T$率一般凸风险的1 /T强凸风险）。这些结果概括了以前的稀疏在线学习的工作。它们是在一个弱的假设下获得的风险（Eschojasiewicz的假设），允许多个最优，这是至关重要的，当处理退化的情况。
2018-05-23 cs.LG math.ST stat.TH
Statistical Inference for Linear Functionals of Online SGD in High-dimensional Linear Regression
本文针对过参数化高维线性回归中的在线SGD，建立了线性泛函的高维中心极限定理，并提出了在线方差估计方法，从而实现了完全在线、数据驱动的置信区间构造，为SGD的高维算法推断提供了首个理论保证。
2025-10-23 math.OC math.PR math.ST
Statistical Inference for High-Dimensional Robust Linear Regression Models via Recursive Online-Score Estimation
本文提出将递归在线得分估计（ROSE）框架扩展至非凸惩罚M估计，用于稳健高维线性回归的估计与推断，并证明估计量的一致性与渐近正态性，模拟和实际应用验证了其优越性。
2025-04-12 math.ST stat.ME stat.TH
Online Batch Selection for Faster Training of Neural Networks
Univesity of Freiburg（弗莱堡大学）
深度神经网络通常使用随机非凸优化过程进行训练，该过程由在数据集的分数（批次）上估计的梯度信息驱动。虽然人们普遍认为批量大小是离线调优的一个重要参数，但对在线选择批量的好处仍然知之甚少。我们调查在线批量选择策略的两个国家的最先进的方法的随机梯度为基础的优化，AdaDelta和亚当。由于整个数据集要最小化的损失函数是各个数据点的损失函数的聚合，直观地说，应该更频繁地考虑（批量选择）具有最大损失的数据点。然而，这种直觉的局限性和随着时间的推移对选择压力的适当控制是一个悬而未决的问题。我们提出了一个简单的策略，所有的数据点排名w.r.t.它们的最新已知损失值和被选择的概率作为等级的函数呈指数衰减。我们在MNIST数据集上的实验结果表明，选择批次可以将AdaDelta和Adam的速度提高约5倍。
2016-04-25 cs.LG cs.NE math.OC
Online FDR Controlling procedures for statistical SIS Model and its application to COVID19 data
提出一种基于条件局部FDR的在线FDR控制方法，用于离散且具有复杂依赖性的传染病数据集，在SIS模型下通过动态贝叶斯网络实现高检测功效的FDR控制。
2026-06-16 stat.ME
Stochastic Online Convex Optimization. Application to probabilistic time series forecasting
Laboratoire de Probabilités, Statistique et Modélisation（概率、统计与建模实验室）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）
本文构建随机在线凸优化框架，证明在线牛顿步与 Bernstein online aggregation 在无界随机设定下达到已知最优遗憾速率，并用于校准非平稳次高斯时间序列的概率预测器。
2023-04-21 cs.LG math.ST stat.TH
Statistical Inference in High-dimensional Generalized Linear Models with Streaming Data
在本文中，我们开发了一个在线的统计推断方法的高维广义线性模型与流数据的实时估计和推理。我们提出了一种在线去偏套索（ODL）方法，以适应特殊的流数据结构。ODL在两个重要方面不同于离线去偏套索。首先，在计算现阶段的估计时，它只使用历史数据的汇总统计。第二，除了去偏在线套索估计，ODL校正的近似误差项所产生的非线性在线更新与流数据。我们证明了所提出的GLM的在线去偏估计是一致的和渐近正态的。这一结果为利用流数据进行实时中间统计推断提供了理论依据。大量的数值实验进行了评估所提出的ODL方法的性能。这些实验证明了我们的算法的有效性和支持的理论结果。通过对美国国家汽车抽样系统-耐撞性数据系统的数据流进行分析，说明了该方法的应用。
2021-08-10 math.ST stat.TH
Online Statistical Inference for Nonlinear Stochastic Approximation with Markovian Data
Peking University（北京大学）
针对马尔可夫数据下非线性随机近似的不确定性量化难题，提出一种采用五维多项式级数归一化器的在线推断框架，将其应用于Q学习等任务时，该方法置信区间更短、计算成本更低且覆盖率接近标称值。
2026-08-11 math.ST stat.ME stat.ML
focus and focus-cpt: Fast Online Changepoint Detection in R and Python
Lancaster University（兰开斯特大学）；Université Paris-Saclay, CNRS, INRAE, Univ Evry, Institute of Plant Sciences Paris-Saclay (IPS2)（巴黎萨克雷大学，法国国家科学研究中心，法国国家农业食品与环境研究院，埃夫里大学，巴黎萨克雷植物科学研究所）；Université Paris-Saclay, AgroParisTech, INRAE, UMR MIA Paris-Saclay（巴黎萨克雷大学，巴黎高等师范学院农业学院，法国国家农业食品与环境研究院，巴黎萨克雷UMR MIA）
该研究推出R和Python包用于单变量及多变量数据流的快速在线变点检测，实现焦点算法族，能高效计算广义似然比检验，支持多种模型，包括自然指数族及非参数和自回归数据检测器。
2026-07-23 stat.ME
Online jump and kink detection in segmented linear regression: Statistical optimality meets computational efficiency
Institute for Mathematical Stochastics, University of Göttingen（哥廷根大学数学随机学研究所）；Cluster of Excellence “Multiscale Bioimaging: from Molecular Machines to Networks of Excitable Cells” (MBExC), University of Göttingen（哥廷根大学“多尺度生物成像：从分子机器到兴奋细胞网络”卓越集群）
本文研究了在线估计分段线性回归模型中单个变化点的问题，展示了CUSUM型统计量在定位变化点时的最优率，并提出了一种在线算法以区分跳跃和拐点，具有常数计算复杂度和内存需求。
2025-08-22 math.ST stat.TH
Online Learning Algorithms for Statistical Arbitrage
Hunter College High School（亨特学院高中）
统计套利是一类利用均值回归模型的金融交易策略。相应的技术依赖于一些假设，这可能不适用于一般的非平稳随机过程。本文提出了一种基于在线学习的统计套利的替代技术，它不需要这样的假设，并受益于强大的学习保证。
2018-11-01 cs.LG stat.ML
Compressed Online Dictionary Learning for Fast fMRI Decomposition
Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；Paris-Saclay University（巴黎萨克雷大学）
我们提出了一种快速静息状态fMRI空间分解的非常大的数据集，基于减少的时间维度之前，应用字典学习连接的个人记录从组的主题。介绍了一个措施的对应关系的空间分解休息功能磁共振成像，我们证明了时间减少字典学习产生的结果可靠的非减少分解。我们还表明，这种减少显着提高计算的可扩展性。
2016-02-08 cs.LG stat.ML
Learning Fast and Slow for Online Time Series Forecasting
Singapore Management University（新加坡管理大学）；Salesforce Research Asia（赛富时亚洲研究院）
深度神经网络在非平稳环境中的快速适应能力对于在线时间序列预测至关重要。成功的解决方案需要处理对新的和重复出现的模式的更改。然而，动态训练深度神经预测器是非常具有挑战性的，因为它们适应非平稳环境的能力有限，并且会对旧知识产生灾难性遗忘。在这项工作中，受互补学习系统（CLS）理论的启发，我们提出了快速和慢速学习网络（FSNet），一个整体的框架，在线时间序列预测，同时处理突变和重复模式。特别是，FSNet通过动态平衡对最近变化的快速适应和检索类似的旧知识来改善缓慢学习的骨干。FSNet通过适配器的两个互补组件之间的交互来实现这种机制，以监视每个层对丢失的贡献，以及支持记住，更新和调用重复事件的关联存储器。在真实和合成数据集上进行的大量实验验证了FSNet对新模式和重复模式的有效性和鲁棒性。我们的代码可在\url{https://github.com/salesforce/fsnet}上获得。
2022-10-17 cs.LG stat.ML
Fast rates in Bayesian online learning with approximate posteriors
Inha University（仁荷大学）
该研究探讨贝叶斯在线学习中近似后验的快速速率，证明满足精度要求的近似后验方法可继承精确贝叶斯预测的快速遗憾界，并通过三个实例验证了相关方法的有效性。
2026-08-27 cs.LG stat.ML
Characterization of Frequent Online Shoppers using Statistical Learning with Sparsity
ArangoDB Inc（ArangoDB公司）；Chitek-i
开发让客户满意的购物体验需要企业了解客户的品味。这项工作报告了一种方法来学习经常购物者的购物偏好，以在线礼品店结合零售分析和统计学习的思想与稀疏。购物活动被表示为二分图。该图通过应用基于稀疏性的统计学习方法进行细化。这些方法是可解释的，并揭示了有关客户偏好以及产品驱动商店收入的见解。
2021-11-11 cs.LG
Smoothed Online Learning is as Easy as Statistical Learning
MIT（麻省理工学院）
大部分现代学习理论都分为两种模式：经典的离线设置，数据独立到达，在线设置，数据以对抗方式到达。虽然前一种模型通常在计算和统计上都易于处理，但后者不需要分布假设。为了实现两全其美，以前的工作提出了平滑在线设置，其中每个样本都是从一个相反选择的分布中提取的，该分布是平滑的，即，它有一个有界密度相对于一个固定的支配措施。我们提供了严格的界限上的极小极大遗憾学习的非参数函数类，与近最佳的依赖于地平线和平滑参数。此外，我们提供了第一个甲骨文高效，无悔的算法在这种情况下。特别是，我们提出了一个预言高效的不当算法，其遗憾实现最佳依赖的地平线和一个适当的算法，只需要一个单一的预言调用每轮的遗憾具有最佳的地平线依赖的分类设置，一般是次线性的。这两种算法对对手的平滑参数的依赖性指数比极大极小率差。然后，我们证明了任何适当的学习算法，它匹配的甲骨文有效的上限到多项式因子的甲骨文复杂性的下限，从而证明了在平滑的在线学习的计算差距的存在。最后，我们将我们的研究结果的上下文强盗设置表明，如果一个函数类是可学习的经典设置，然后有一个预言机的高效，没有遗憾的算法上下文强盗的情况下，上下文顺利到达。
2022-05-31 cs.LG stat.ML
Explaining Fast Improvement in Online Imitation Learning
Georgia Tech（佐治亚理工学院）；University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
在线模仿学习（IL）是一种算法框架，其利用与专家策略的交互来进行有效的策略优化。在这里，通过对一系列损失函数执行在线学习来优化策略，这些损失函数鼓励学习者模仿专家的动作，并且如果在线学习没有遗憾，则代理可以证明学习到类似专家的策略。在线IL已经在许多应用中取得了经验性的成功，有趣的是，在实践中观察到的其政策改进速度通常比现有理论表明的要快得多。在这项工作中，我们提供了一个解释这种现象。令$ξ$表示策略类偏差，并假设在线IL损失函数是凸的、平滑的和非负的。我们证明，$N$轮后的在线IL随机反馈，政策改善$\tilde{O}(1/N + \sqrt{ξ/N})$在预期和高概率。换句话说，我们表明，在在线IL中采用足够表达的策略类有两个好处：策略改进速度增加和性能偏差降低。
2021-02-22 cs.LG cs.RO stat.ML
Online Estimation and Inference for Robust Policy Evaluation in Reinforcement Learning
School of Mathematics, Shanghai University of Finance and Economics（上海财经大学数学学院）；Stern School of Business, New York University（纽约大学斯特恩商学院）；Daniels School of Business, Purdue University（普渡大学丹尼尔斯商学院）
针对强化学习中存在异常值污染和重尾奖励的问题，提出一种完全在线的鲁棒策略评估程序，建立估计量的 Bahadur 型表示并支持基于渐近分布的在线统计推断，经实验验证有效提升了在线策略评估的可靠性与通用性。
2025-03-01 cs.LG stat.ML
Fundamental Limits of Online and Distributed Algorithms for Statistical Learning and Estimation
Weizmann Institute of Science（魏茨曼科学研究所）
许多机器学习方法的特征在于它们如何与训练数据交互的信息约束。这些包括内存和顺序存取约束（例如解决随机优化问题的快速一阶方法）;通信约束（例如分布式学习）;对底层数据的部分访问（例如缺失特征和多臂强盗）等等。然而，目前我们还不了解这些信息约束如何从根本上影响我们的性能，独立于学习问题的语义。例如，是否存在这样的学习问题，即任何具有小内存占用（或可以使用每个示例中的任何有限数量的位，或具有某些通信约束）的算法将比没有这些约束的算法执行得更差？在本文中，我们描述了如何一组结果意味着积极的答案，上述几个不同的设置。
2014-10-28 cs.LG stat.ML
Online Regularization towards Always-Valid High-Dimensional Dynamic Pricing
Purdue University（普渡大学）
针对动态定价中在线不确定性适应受限的问题，提出基于在线正则化的乐观在线正则化极大似然定价（OORMLP）算法，利用非渐近鞅集中度实现始终有效的高维定价，理论确保对数遗憾，实验证明其优于现有方法。
2023-11-20 cs.LG stat.ML
Fast Algorithms for Online Stochastic Convex Programming
Microsoft Research（微软研究院）
我们介绍了在线随机凸规划（CP）问题，一个非常一般的版本的随机在线问题，允许任意凹目标和凸可行性约束。在线随机包装与覆盖、在线随机匹配等问题是在线随机CP的一个特例。我们提出了快速算法，这些问题，实现了近最佳的遗憾保证的i.i.d.以及随机输入的随机置换模型。当应用到特殊情况下的在线包装，我们的想法产生一个更简单，更快的原始-对偶算法，这个研究问题，实现了最佳的竞争比。我们的技术明确的连接原始-对偶范式和在线学习在线随机CP。
2014-10-28 cs.DS cs.LG math.OC
Fast Multi-language LSTM-based Online Handwriting Recognition
Google AI Perception（谷歌人工智能感知部门）
我们描述了一个在线手写系统，能够支持102种语言使用深度神经网络架构。这个新的系统已经完全取代了我们以前的分段和解码为基础的系统，并减少了出错率的20%-40%，相对于大多数语言。此外，我们报告了IAM-OnDB在开放和封闭数据集设置上的最新结果。该系统将序列识别方法与使用贝塞尔曲线的新输入编码相结合。与我们以前的系统相比，这导致识别时间快10倍。通过一系列的实验，我们确定了我们的模型的最佳配置，并在一些额外的公共数据集上报告了我们的设置结果。
2020-01-24 cs.CL cs.LG stat.ML
