Online Covariance Matrix Estimation in Stochastic Gradient Descent
University of Chicago（芝加哥大学）；New York University（纽约大学）
随机梯度下降（SGD）算法被广泛应用于参数估计，特别是大数据集和在线学习。虽然这种递归算法是流行的计算和内存效率，量化的可变性和随机性的解决方案很少被研究。本文旨在在线环境下对基于SGD的估计值进行统计推断。特别是，我们提出了一个完全在线估计协方差阵的平均SGD迭代（ASGD）只使用从SGD迭代。我们正式建立我们的在线估计的一致性，并表明收敛速度与离线同行。基于ASGD的经典渐近正态性结果，构造了模型参数的渐近有效置信区间。在接收到新的观测值后，我们可以快速更新协方差阵估计值和置信区间。这种方法适合在线设置，并充分利用SGD：计算和内存效率。
2021-06-22 cs.LG stat.ML
Asymptotic Analysis of Sample-averaged Q-learning
University of Houston（休斯顿大学）；Texas Tech University（德克萨斯理工大学）
本文提出样本平均Q学习（SA-QL）框架，利用泛函中心极限定理分析其渐近正态性，并开发无需额外超参数的随机缩放置信区间方法，在OpenAI Gym环境中验证了不同批次调度策略对学习效率和统计推断的影响。
2025-02-26 cs.IT cs.LG math.IT
Statistical Inference for Online Decision-Making: In a Contextual Bandit Setting
North Carolina State University（北卡罗来纳州立大学）
在线决策问题要求我们根据增量信息做出一系列决策。常见的解决方案通常需要学习给定上下文信息的不同行为的奖励模型，然后最大化长期奖励。了解所提出的模型是否合理，以及模型在渐近意义下的表现如何，是很有意义的。我们在线性报酬模型的情境强盗框架下研究了这个问题。采用$\varepsilon$ -贪婪策略来解决经典的探索和利用困境。利用鞅中心极限定理，证明了模型参数的在线普通最小二乘估计是渐近正态的。当线性模型被误定时，我们提出了利用逆倾向得分加权的在线加权最小二乘估计，并建立了其渐近正态性。基于参数估计的性质，我们进一步证明了样本内逆倾向加权值估计是渐近正态的。我们说明我们的结果使用模拟和应用程序的新闻文章推荐数据集从雅虎！
2020-10-14 cs.LG stat.ML
Online Inference for Quantile Distributional Reinforcement Learning
School of Mathematical Sciences, Peking University（北京大学数学科学学院）；Yau Mathematical Sciences Center, Tsinghua University（清华大学丘成桐数学科学中心）
本文针对分布强化学习的分位数时间差分学习，建立同步与异步QTD的函数中心极限定理，提出无需存储完整轨迹的在线推断方法，实现高效统计推断。
2026-10-19 cs.LG stat.ML
Smoothed Online Learning is as Easy as Statistical Learning
MIT（麻省理工学院）
大部分现代学习理论都分为两种模式：经典的离线设置，数据独立到达，在线设置，数据以对抗方式到达。虽然前一种模型通常在计算和统计上都易于处理，但后者不需要分布假设。为了实现两全其美，以前的工作提出了平滑在线设置，其中每个样本都是从一个相反选择的分布中提取的，该分布是平滑的，即，它有一个有界密度相对于一个固定的支配措施。我们提供了严格的界限上的极小极大遗憾学习的非参数函数类，与近最佳的依赖于地平线和平滑参数。此外，我们提供了第一个甲骨文高效，无悔的算法在这种情况下。特别是，我们提出了一个预言高效的不当算法，其遗憾实现最佳依赖的地平线和一个适当的算法，只需要一个单一的预言调用每轮的遗憾具有最佳的地平线依赖的分类设置，一般是次线性的。这两种算法对对手的平滑参数的依赖性指数比极大极小率差。然后，我们证明了任何适当的学习算法，它匹配的甲骨文有效的上限到多项式因子的甲骨文复杂性的下限，从而证明了在平滑的在线学习的计算差距的存在。最后，我们将我们的研究结果的上下文强盗设置表明，如果一个函数类是可学习的经典设置，然后有一个预言机的高效，没有遗憾的算法上下文强盗的情况下，上下文顺利到达。
2022-05-31 cs.LG stat.ML
Online Estimation and Inference for Robust Policy Evaluation in Reinforcement Learning
School of Mathematics, Shanghai University of Finance and Economics（上海财经大学数学学院）；Stern School of Business, New York University（纽约大学斯特恩商学院）；Daniels School of Business, Purdue University（普渡大学丹尼尔斯商学院）
针对强化学习中存在异常值污染和重尾奖励的问题，提出一种完全在线的鲁棒策略评估程序，建立估计量的 Bahadur 型表示并支持基于渐近分布的在线统计推断，经实验验证有效提升了在线策略评估的可靠性与通用性。
2025-03-01 cs.LG stat.ML
Fundamental Limits of Online and Distributed Algorithms for Statistical Learning and Estimation
Weizmann Institute of Science（魏茨曼科学研究所）
许多机器学习方法的特征在于它们如何与训练数据交互的信息约束。这些包括内存和顺序存取约束（例如解决随机优化问题的快速一阶方法）;通信约束（例如分布式学习）;对底层数据的部分访问（例如缺失特征和多臂强盗）等等。然而，目前我们还不了解这些信息约束如何从根本上影响我们的性能，独立于学习问题的语义。例如，是否存在这样的学习问题，即任何具有小内存占用（或可以使用每个示例中的任何有限数量的位，或具有某些通信约束）的算法将比没有这些约束的算法执行得更差？在本文中，我们描述了如何一组结果意味着积极的答案，上述几个不同的设置。
2014-10-28 cs.LG stat.ML
Online Statistical Inference for Stochastic Optimization via Kiefer-Wolfowitz Methods
本文研究随机优化参数的在线统计推断，分析随机搜索方向下 AKW 估计量的渐近分布及其效率与查询复杂度权衡，并给出两种置信区间构造方法。
2023-12-10 math.ST stat.ML stat.TH
A CMDP-within-online framework for Meta-Safe Reinforcement Learning
Virginia Tech（弗吉尼亚理工大学）；UC Berkeley（加州大学伯克利分校）
本文提出CMDP-within-online框架解决元安全强化学习问题，通过梯度元学习获得任务平均遗憾界，并设计不精确在线学习元算法，实现约束满足与奖励优化，实验验证其有效性。
2024-05-26 cs.LG
Online Inference in Distributional Temporal-Difference Learning
Yau Mathematical Sciences Center, Tsinghua University（清华大学丘成桐数学科学中心）；School of Statistics and Data Science, Shanghai University of Finance and Economics（上海财经大学统计与数据科学学院）
该研究针对固定策略下回报分布泛函的在线推断，通过非参数分布时序差分学习估计回报分布，证明了Polyak–Ruppert平均估计量的收敛性，为光滑泛函提供自举推断依据，并建立非光滑泛函的局部渐近理论以开展推断。
2026-10-19 cs.LG stat.ML
Regret Minimization and Statistical Inference in Online Decision Making with High-dimensional Covariates
Hong Kong University of Science and Technology（香港科技大学）；University of Pennsylvania（宾夕法尼亚大学）
本文研究高维在线决策的遗憾最小化与统计推断，结合ε-贪心算法与硬阈值估计并提出去偏推断框架，揭示探索-利用权衡，还证明无探索的纯贪心算法在特定条件下可同时实现最优遗憾与一致推断，且经实验验证有效。
2025-05-17 cs.LG stat.ML
Online Forgetting Process for Linear Regression Models
Purdue University（普渡大学）
针对欧盟“被遗忘权”法规下的数据删除问题，本文提出在线遗忘算法FIFD-OLS与FIFD-Adaptive Ridge，后者通过在线正则化有效抵消删除不确定性，并在理论上给出遗憾上界，实验证明其优于固定正则化的岭回归。
2020-12-03 cs.LG stat.ML
Online Statistical Inference in Decision-Making with Matrix Context
Daniels School of Business, Purdue University（普渡大学丹尼尔斯商学院）
本研究针对矩阵上下文在线决策问题，提出一种在线去偏推断方法，同时处理低秩结构偏差和自适应数据偏差，实现参数与最优策略值的渐近正态推断。
2025-04-18 cs.LG math.ST stat.ML
Fast rates in statistical and online learning
Universiteit Leiden（莱顿大学）；Centrum voor Wiskunde en Informatica（数学与计算机科学中心）；Australian National University（澳大利亚国立大学）；NICTA（澳大利亚国家信息通信技术研究院）
机器学习的一个核心问题是学习算法在处理更多数据时的收敛速度--快速收敛意味着相同性能水平所需的数据更少。在线学习和统计学习中对快速学习的追求导致了学习理论中许多条件的发现，在这些条件下，快速学习是可能的。我们表明，这些条件中的大多数是一个单一的，统一的条件，有两种形式的特殊情况：“适当的”学习算法，总是输出一个假设在给定的模型，和随机混合性的在线算法，可能会作出预测的模型之外的中心条件。我们表明，在令人惊讶的弱假设下，这两个条件在某种意义上是等价的。中心条件有一个重新解释的凸性的一组伪概率，将其与密度估计下误指定。对于有界损失，我们展示了中心条件如何直接证明快速率，并证明了它与伯恩斯坦条件的等价性，伯恩斯坦条件本身就是Tsybakov边际条件的推广，两者都在统计学习中获得快速率方面发挥了核心作用。然而，虽然伯恩斯坦条件是双边的，但中心条件是单边的，这使得它更适合处理无限损失。在其随机混合性形式中，我们的条件推广了Juditsky，Rigollet和Tsybakov确定的随机指数条件和Vovk的混合性概念。因此，我们的统一条件提供了一个实质性的一步，在统计学习中的快速速率的表征，类似于经典的混性如何在连续的预测与专家的意见设置不断的遗憾。
2015-09-01 cs.LG stat.ML
Asymptotic Time-Uniform Inference for Parameters in Averaged Stochastic Approximation
School of Mathematical Sciences, Peking University（北京大学数学科学学院）
本文研究随机逼近参数的时间一致推断，分析平均迭代的几乎必然收敛速率，构造三类渐近置信序列，并验证其覆盖保证在协方差矩阵被估计替换时仍成立。
2024-10-19 cs.LG stat.ME stat.ML
Statistical Inference for Online Algorithms
本文提出HulC方法，通过在线算法生成渐近有效的置信区间，无需显式估计渐近方差，适用于SGD等在线算法。
2026-03-18 cs.LG stat.CO stat.ME
Policy Optimization and Statistical Inference for Online Contextual Matrix Games
University of California, Irvine（加州大学欧文分校）；University of Michigan（密歇根大学）
针对策略收益随情境变化的在线博弈问题，提出在线上下文矩阵博弈框架与OnGameLearn算法，经模拟和酒店定价应用验证，可有效平衡探索利用并具备统计保证。
2026-08-19 cs.LG math.ST stat.ME
Principles of Statistical Inference in Online Problems
针对在线长期方差估计中统计与计算效率难以兼顾的问题，提出核权重分解及在线推断原理，构建均方误差一致更优的估计量，并推广到多种在线推断任务。
2024-09-07 math.ST stat.CO stat.ME
Statistical Inference of the Matthews Correlation Coefficient for Multiclass Classification
本文针对多分类问题提出基于宏平均和微平均的马修斯相关系数正式框架，并构建其渐近置信区间及配对设计中指标差异的置信区间，通过模拟和真实数据验证方法有效性。
2025-03-09 stat.ME
An efficient Averaged Stochastic Gauss-Newton algorithm for estimating parameters of non linear regressions models
非线性回归模型是对真实现象建模的标准工具，在机器学习、生态学、计量经济学等领域有多种应用..多年来，模型参数的估计已经引起了人们的广泛关注。本文主要讨论非线性回归参数估计的一种递推方法。事实上，这些方法，其中最著名的可能是随机梯度算法及其平均版本，能够有效地处理大量数据顺序到达。然而，在实践中，它们可能对我们想要最小化的泛函的Hessian的特征值处于不同尺度的情况非常敏感。为了避免这个问题，我们首先介绍了一个在线的随机高斯-牛顿算法。为了改善在初始化不好的情况下的估计行为，我们还引入了一种新的平均随机高斯-牛顿算法，并证明了它的渐近有效性。
2020-09-16 math.ST stat.TH
Online Updating of Statistical Inference in the Big Data Setting
我们提出了在线分析处理中产生的大数据的统计方法，其中大量数据以流的形式到达，需要快速分析，而无需存储/访问历史数据。特别是，我们开发迭代估计算法和统计推断的线性模型和估计方程，更新新的数据到达。这些算法计算效率高，存储密集度最低，并允许由于罕见事件协变量的子集设计矩阵中可能的秩不足。在线性模型设置，建议的在线更新框架导致预测残差测试，可以用来评估的拟合优度的假设模型。我们还在估计方程设置下提出了一种新的在线更新估计器。拟合优度检验和建议的估计量的理论特性进行了详细研究。在模拟研究和实际数据的应用中，我们的估计相比，毫不逊色于竞争的方法下的估计方程设置。
2015-05-23 stat.CO stat.OT
Statistical Inference for Smoothed Support Vector Machines in High Dimensions: From Offline to Online Data
Center for Applied Statistics, Renmin University of China（中国人民大学应用统计中心）；School of Statistics, Renmin University of China（中国人民大学统计学院）
本文提出一种统一的推断框架，通过离线和在线设置中的平滑技术消除偏差，实现有效的统计推断和计算效率提升。
2026-05-15 stat.ME
Online Tensor Inference
New York University（纽约大学）；Purdue University（普渡大学）
本文提出了一种低秩张量在线推断框架，利用随机梯度下降实现高效实时数据处理，并通过去偏差方法和谱表示工具提升统计推断性能。
2026-02-12 cs.LG stat.ME stat.ML
Statistical Theory of Multi-stage Newton Iteration Algorithm for Online Continual Learning
School of Mathematics and Statistics, Xi’an Jiaotong University（西安交通大学数学与统计学院）；Department of Statistics, Beijing Normal University at Zhuhai（珠海市北京师范大学统计学系）
针对在线持续学习中的灾难性遗忘问题，提出引入随机效应且参数维度可趋于无穷大的统计框架，并开发多步牛顿迭代算法降低计算成本，理论上推导了估计量的渐近正态性。
2025-08-10 cs.LG stat.ME
Confidence Sequences for Online Statistical Model Checking of Markov Decision Processes
Institute of Science and Technology Austria（科学与技术研究院）；Lancaster University Leipzig（莱斯特大学）；Ruhr-University Bochum（波恩鲁尔大学）；TUD Dresden University of Technology（德累斯顿技术大学）
提出针对马尔可夫决策过程的置信序列方法，用于在线统计模型检验，相比传统联合界方法平均减少50倍样本量。
2026-06-25 cs.AI
Statistical Inference for Linear Functionals of Online SGD in High-dimensional Linear Regression
本文针对过参数化高维线性回归中的在线SGD，建立了线性泛函的高维中心极限定理，并提出了在线方差估计方法，从而实现了完全在线、数据驱动的置信区间构造，为SGD的高维算法推断提供了首个理论保证。
2025-10-23 math.OC math.PR math.ST
Statistical Inference for High-Dimensional Robust Linear Regression Models via Recursive Online-Score Estimation
本文提出将递归在线得分估计（ROSE）框架扩展至非凸惩罚M估计，用于稳健高维线性回归的估计与推断，并证明估计量的一致性与渐近正态性，模拟和实际应用验证了其优越性。
2025-04-12 math.ST stat.ME stat.TH
Online Estimation via Offline Estimation: An Information-Theoretic Framework
Microsoft（微软公司）
本文提出 OEOE 框架，研究如何以黑盒方式复用离线估计器实现在线估计，并刻画其统计极小极大速率与计算复杂度，还将结果用于交互式决策。
2024-04-15 cs.LG math.ST stat.ML
Optimal training-conditional regret for online conformal prediction
University of Pennsylvania（宾夕法尼亚大学）
本文提出两种在线置信预测算法，分别针对预训练和在线训练的非一致性评分函数，通过漂移检测实现最优训练条件后悔，验证了算法在非平稳数据流中的有效性。
2026-03-05 cs.IT cs.LG math.IT
Online and Offline Robust Multivariate Linear Regression
本研究提出多元线性回归的在线与离线鲁棒估计方法，基于鲁棒马氏最小二乘准则，证明渐近正态性，并在合成数据上展示鲁棒性与计算效率优势。
2025-10-10 math.ST stat.ML stat.TH
Online FDR Controlling procedures for statistical SIS Model and its application to COVID19 data
提出一种基于条件局部FDR的在线FDR控制方法，用于离散且具有复杂依赖性的传染病数据集，在SIS模型下通过动态贝叶斯网络实现高检测功效的FDR控制。
2026-06-16 stat.ME
Reward-agnostic Fine-tuning: Provable Statistical Benefits of Hybrid Reinforcement Learning
University of Pennsylvania（宾夕法尼亚大学）；Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）
本文研究混合强化学习设置，提出一种三阶段算法，在数据收集时无需奖励信息，通过单策略部分集中性概念指导离线与在线数据结合，在样本复杂度上超越纯离线和纯在线RL。
2023-05-17 cs.IT cs.LG math.IT
Statistical Inference in High-dimensional Generalized Linear Models with Streaming Data
在本文中，我们开发了一个在线的统计推断方法的高维广义线性模型与流数据的实时估计和推理。我们提出了一种在线去偏套索（ODL）方法，以适应特殊的流数据结构。ODL在两个重要方面不同于离线去偏套索。首先，在计算现阶段的估计时，它只使用历史数据的汇总统计。第二，除了去偏在线套索估计，ODL校正的近似误差项所产生的非线性在线更新与流数据。我们证明了所提出的GLM的在线去偏估计是一致的和渐近正态的。这一结果为利用流数据进行实时中间统计推断提供了理论依据。大量的数值实验进行了评估所提出的ODL方法的性能。这些实验证明了我们的算法的有效性和支持的理论结果。通过对美国国家汽车抽样系统-耐撞性数据系统的数据流进行分析，说明了该方法的应用。
2021-08-10 math.ST stat.TH
Online Statistical Inference of Constrained Stochastic Optimization via Random Scaling
Department of Statistics, The University of Chicago（芝加哥大学统计系）；Department of Statistics, University of California, Irvine（加州大学尔湾分校统计系）；School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程学院）
针对约束随机非线性优化，提出基于草图化序列二次规划与随机缩放的在线推断方法，可构造渐近有效置信区间且无需矩阵求逆，数值实验验证其优越性。
2025-05-23 cs.LG cs.NA math.NA
Detangling robustness in high dimensions: composite versus model-averaged estimation
该研究针对高维正则化场景下鲁棒估计的认知空白，提出基于渐近均方误差最小化的最优加权l₁正则化模型平均与复合估计方法，通过模拟和音频重建实验验证了其预测性能优势。
2020-06-12 econ.EM math.ST stat.ML
Online Statistical Inference for Nonlinear Stochastic Approximation with Markovian Data
Peking University（北京大学）
针对马尔可夫数据下非线性随机近似的不确定性量化难题，提出一种采用五维多项式级数归一化器的在线推断框架，将其应用于Q学习等任务时，该方法置信区间更短、计算成本更低且覆盖率接近标称值。
2026-08-11 math.ST stat.ME stat.ML
High-Probability Risk Bounds via Sequential Predictors
Korteweg-de Vries Institute for Mathematics（科特韦赫-德弗里斯数学研究所）；University of Amsterdam（阿姆斯特丹大学）；University of California, Berkeley（加州大学伯克利分校）；Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）
本文利用在线到批量转换及损失函数的二阶校正，借助非正当在线学习算法，为多种经典统计估计问题建立近乎最优的高概率风险界。
2023-08-15 cs.IT cs.LG math.IT
Inference for Newton Methods with Accelerated Sketch-and-Project via Random Scaling
Georgia Institute of Technology（佐治亚理工学院）；Princeton University（普林斯顿大学）；University of Michigan（密歇根大学）
本研究提出一种基于广义加速草图投影求解器的在线牛顿方法，建立其平均迭代的渐近正态性与函数中心极限定理，并开发基于随机缩放的在线推断程序，数值实验验证了其优越性能。
2026-09-14 cs.LG cs.NA math.NA
Efficient and fast estimation of the geometric median in Hilbert spaces with an averaged stochastic gradient algorithm
随着测量仪器的进步和自动传感器的发展，在高维空间（如函数空间）中获取数千个观测样本的情况不再罕见。在如此大的高维数据样本中，离群曲线可能并不罕见，甚至一些个体可能破坏简单的统计指标，如平均轨迹。我们在这里集中在几何中位数的估计，这是一个直接推广的真正的中位数，并具有良好的鲁棒性。几何中值被定义为一个简单的凸泛函的最小值，当分布没有原子时，它在任何地方都是可微的，可以用在线梯度算法来估计它。这样的算法是非常快的，可以处理大样本。此外，当数据顺序到达时，它们也可以简单地更新。本文证明了随机梯度估计的几乎必然相合性和L2收敛速度，以及其平均形式的渐近正态性。我们得到该算法的平均版本的渐近分布是相同的经典估计，这是基于经验损失函数的最小化。我们的平均序贯估计的性能，无论是在计算速度和精度的估计，进行了评估与一个小的模拟研究。我们的方法也说明了一个样本的5000多个人的电视观众测量每秒超过24小时。
2011-05-20 math.PR math.ST stat.TH
Online jump and kink detection in segmented linear regression: Statistical optimality meets computational efficiency
Institute for Mathematical Stochastics, University of Göttingen（哥廷根大学数学随机学研究所）；Cluster of Excellence “Multiscale Bioimaging: from Molecular Machines to Networks of Excitable Cells” (MBExC), University of Göttingen（哥廷根大学“多尺度生物成像：从分子机器到兴奋细胞网络”卓越集群）
本文研究了在线估计分段线性回归模型中单个变化点的问题，展示了CUSUM型统计量在定位变化点时的最优率，并提出了一种在线算法以区分跳跃和拐点，具有常数计算复杂度和内存需求。
2025-08-22 math.ST stat.TH
Online differentially private inference in stochastic gradient descent
针对流式实时数据与无可信管理者场景，提出满足局部差分隐私的单遍带噪随机梯度下降算法，并建立置信区间、收敛速率和泛函中心极限定理。
2025-06-10 stat.ME
Online Learning Algorithms for Statistical Arbitrage
Hunter College High School（亨特学院高中）
统计套利是一类利用均值回归模型的金融交易策略。相应的技术依赖于一些假设，这可能不适用于一般的非平稳随机过程。本文提出了一种基于在线学习的统计套利的替代技术，它不需要这样的假设，并受益于强大的学习保证。
2018-11-01 cs.LG stat.ML
Weighted Averaged Stochastic Gradient Descent: Asymptotic Normality and Optimality
University of Chicago（芝加哥大学）；University of California, Irvine（加利福尼亚大学欧文分校）
本文针对SGD提出通用加权平均方案，建立了加权平均SGD解的渐近正态性并提供在线推断方法，同时基于线性模型非渐近MSE最优权重设计了兼具最优统计速率与非渐近收敛性的自适应平均方案。
2025-04-06 cs.LG stat.ML
Meta-Learning Adversarial Bandit Algorithms
Carnegie Mellon University（卡内基梅隆大学）；Technion - Israel Institute of Technology（以色列理工学院）
本文首次研究对抗性赌博机反馈下的在线元学习，提出元算法同时调节内层学习器初始化与超参数，在MAB和BLO两种设置下给出任务平均遗憾界，并证明两层低维超参数调节足以学习界定OMD遗憾的复杂函数。
2023-11-01 cs.AI cs.LG stat.ML
Online-to-PAC Conversions: Generalization Bounds via Regret Analysis
ICREA（加泰罗尼亚研究与高级研究所）；Universitat Pompeu Fabra（庞培法布拉大学）；Barcelona School of Economics（巴塞罗那经济学院）
提出基于在线学习的“generalization game”框架，通过有界 regret 推导统计学习算法的泛化界，并恢复多种 PAC-Bayesian 和信息论保证。
2024-10-17 cs.LG stat.ML
Online Agnostic Boosting via Regret Minimization
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌人工智能普林斯顿（Google AI Princeton））
Boosting是一种广泛使用的机器学习方法，它基于聚集弱学习规则的思想。虽然在统计学习中，许多提升方法存在于可实现和不可知的设置中，但在在线学习中，它们只存在于可实现的情况下。在这项工作中，我们提供了第一个不可知的在线提升算法，也就是说，给定一个弱学习者，只有边际优于平凡的遗憾保证，我们的算法将其提升为一个强学习者与次线性遗憾。我们的算法是基于一个抽象的（和简单的）减少在线凸优化，有效地将任意在线凸优化在线助推器。此外，这种减少扩展到统计以及在线可实现的设置，从而统一了统计/在线和不可知/可实现的提升的4种情况。
2020-03-02 cs.LG stat.ML
Online Statistical Inference for Contextual Bandits via Stochastic Gradient Descent
New York University（纽约大学）；University of Texas at Austin（得克萨斯大学奥斯汀分校）；Purdue University（普渡大学）
本文提出了一种基于随机梯度下降的在线统计推断框架，通过逆概率权重提高估计效率，并分析了自适应数据收集对收敛速度的影响。
2026-01-21 cs.LG stat.ML
Online Agnostic Multiclass Boosting
University of Michigan（密歇根大学）
Boosting是机器学习中的一种基本方法，具有强大的理论和实践保证。在高层次上，boosting算法巧妙地聚合弱学习器，以生成具有任意高准确度的预测。通过这种方式，boosting算法将弱学习器转换为强学习器。最近，Brukhim等人将boosting扩展到在线不可知的二进制分类设置。他们的方法中的一个关键因素是对在线凸优化的一个干净而简单的简化，它可以有效地将任意的在线凸优化器转换为不可知的在线助推器。在这项工作中，我们将这种减少多类问题，并给出了第一个提升算法在线不可知多类分类。我们的减少还可以构建统计不可知的，在线可实现的，统计可实现的多类提升算法。
2022-10-17 cs.LG stat.ML
Online Tensor Learning: Computational and Statistical Trade-offs, Adaptivity and Optimal Regret
University of Michigan（密歇根大学）；Hong Kong University of Science and Technology（香港科技大学）
本文提出在线黎曼梯度下降算法 oRGrad 及其自适应版本，通过在线更新和自适应步长解决大规模张量学习的高计算与存储问题，在未知时间范围下实现最优遗憾和统计最优误差率。
2024-10-22 cs.LG stat.ML
Online Regularization towards Always-Valid High-Dimensional Dynamic Pricing
Purdue University（普渡大学）
针对动态定价中在线不确定性适应受限的问题，提出基于在线正则化的乐观在线正则化极大似然定价（OORMLP）算法，利用非渐近鞅集中度实现始终有效的高维定价，理论确保对数遗憾，实验证明其优于现有方法。
2023-11-20 cs.LG stat.ML
Generalization Analysis of Online Stochastic Gradient Descent for Overparameterized Two-Layer Neural Networks
School of Mathematical Sciences, Zhejiang University（浙江大学数学科学学院）；Shanghai Key Laboratory for Contempo（上海市现代（暂未完整，按原文提取））
本文在NTK机制下分析过参数化两层神经网络在线SGD的泛化误差，提出统一框架推导最后迭代的尖锐收敛速率，并将网络宽度要求从指数降至多项式，缩小理论与实践的差距。
2026-09-29 cs.LG stat.ML
Always Valid Risk Monitoring for Online Matrix Completion
University of California, Los Angeles（加州大学洛杉矶分校）；Purdue University（普渡大学）
始终有效的集中不等式越来越多地被用作在线统计学习的性能度量，特别是在生成模型和监督学习的学习中。这种不等式通过允许随机的、自适应选择的样本量而不是离线统计学习中的固定的预先指定的大小来推进在线学习算法设计。然而，建立这样一个始终有效的类型结果的任务矩阵完成是具有挑战性的，远远没有理解的文献。由于这种类型的结果的重要性，这项工作建立和设计的在线矩阵完成问题的始终有效的风险约束过程。这种理论的进步是可能的非渐近鞅浓度和正则化低秩矩阵回归的新组合。我们的研究结果使一个更有效的样本在线算法设计，并作为一个基础，以评估在线实验策略的任务，在线矩阵完成。
2022-11-18 cs.AI cs.LG math.ST
Online Linearized LASSO
The Hong Kong University of Science and Technology（香港科技大学）；Tower Research Capital LLC（Tower研究资本有限责任公司）；University of Toronto（多伦多大学）
稀疏回归已成为一种流行的方法来执行变量选择，并提高预测精度和解释的统计模型。现有的方法主要集中在离线正则化回归，而在线的情况下，很少有研究。在本文中，我们提出了一种新的在线稀疏线性回归框架分析流数据时，数据点顺序到达。我们提出的方法是内存有效的，需要不太严格的限制强凸性假设。从理论上讲，我们表明，与适当选择的正则化参数，$\ell_2$ -范数统计误差的估计减少到零的最佳顺序的$\tilde{O}({\sqrt{s/t}})$，其中$s$是稀疏水平，$t$是流样本量，和$\tilde{O}(\cdot)$隐藏对数项。数值实验证明了算法的有效性。
2023-01-02 cs.LG stat.ML
Online ICA: Understanding Global Dynamics of Nonconvex Optimization via Diffusion Processes
Princeton University（普林斯顿大学）
解决统计学习问题通常涉及非凸优化。尽管非凸统计优化方法在经验上取得了成功，但它们的全局动态，特别是收敛到期望的局部极小值，在理论上仍然不太清楚。在本文中，我们提出了一个新的分析范式的基础上扩散过程的非凸统计优化的全局动力学特征。作为一个具体的例子，我们研究了随机梯度下降（SGD）的张量分解公式的独立成分分析。特别地，我们将SGD的不同相铸造成扩散过程，即，随机微分方程的解从一个不稳定的平衡初始化，SGD的全球动态过渡到三个连续的阶段：（i）一个不稳定的Ornstein-Uhlenbeck过程慢慢地离开初始化，（ii）一个常微分方程的解决方案，它迅速朝着理想的局部最小值，（iii）一个稳定的Ornstein-Uhlenbeck过程振荡周围的理想的局部最小值。我们的证明技术是基于Stroock和Varadhan的弱收敛的马尔可夫链扩散过程，这是独立的利益。
2018-08-29 cs.LG stat.ML
