Scalable Gaussian Process Regression for Kernels with a Non-Stationary Phase
Institute for Electrical Engineering in Medicine, Universität zu Lübeck（吕贝克大学医用电工研究所）
高斯过程（GPs）的应用，以大数据集是有限的，由于沉重的内存和计算要求。已经提出了各种方法来实现可伸缩性，其中之一是利用内核矩阵中的结构。然而，以前的方法，不能很容易地处理非平稳过程。本文提出了一个有效的GP框架，扩展结构核插值方法的GP与非平稳相位。我们特别对待混合物的非平稳过程，这是常用的分离问题的背景下，例如在生物医学信号处理。我们的方法采用多组非等距诱导点占的非平稳性和检索Toeplitz和Kronecker结构的核矩阵，允许有效的推理。核学习是通过优化边际似然来完成的，边际似然可以使用随机迹估计方法有效地近似。我们的方法证明了数值例子和大型生物医学数据集。
2019-12-25 cs.LG stat.ML
Adaptive Variational Particle Filtering in Non-stationary Environments
Cylance Inc.（Cylance公司）
在线凸优化是一种顺序预测框架，其目标是通过评估适当的凸损失函数来跟踪和适应环境。我们从这样一个框架的角度来研究有效的粒子滤波方法。我们制定了一个有效的粒子滤波方法的非平稳环境中的连接与在线镜像下降算法，这是已知的是一个通用的在线凸优化算法。作为这种连接的结果，我们提出的粒子滤波算法证明，达到最佳的粒子效率。
2018-07-19 cs.LG stat.ML
Projective Quadratic Regression for Online Learning
Tencent（腾讯）
本文考虑在线凸优化（OCO）问题-在线学习算法设计的首要框架。OCO环境中的学习任务的损失函数是基于流数据的，因此OCO是一个强大的工具来建模大规模的应用，如在线推荐系统。同时，由于现代特征工程技术，现实世界的数据通常是极高维的，因此二次回归是不切实际的。因子分解机及其变体是低秩矩阵模型捕获特征交互的有效模型，但由于它们的非凸性，它们不能满足OCO设置。本文提出了一种投影二次回归（PQR）模型。首先，它可以捕获输入的二阶特征信息。第二，它是一个凸模型，所以OCO的要求，可以实现全局最优解。此外，可以直接应用现有的现代在线优化方法，例如在线梯度下降（OGD）或跟随正则化领导者（FTRL）。此外，通过选择适当的超参数，我们证明了它具有与线性模型相同的空间和时间复杂度，从而可以处理高维数据。实验结果表明，所提出的PQR模型的准确性和效率方面的性能与国家的最先进的方法进行比较。
2019-11-25 cs.LG stat.ML
Online Infinite-Dimensional Regression: Learning Linear Operators
University of Michigan（密歇根大学）
本文研究无限维 Hilbert 空间间线性算子的在线平方损失回归，刻画 p-Schatten 范数有界类的可学习性，并证明算子范数有界类不可学及一致收敛与可学习性的分离。
2024-01-25 cs.LG stat.ML
Achieving Online Regression Performance of LSTMs with Simple RNNs
Bilkent University（比尔肯特大学）；Turkcell Technology（Turkcell技术公司）；DataBoss A.S.（DataBoss公司）
递归神经网络（RNN）由于其泛化非线性时间依赖性的能力而被广泛用于在线回归。作为RNN模型，长短期记忆网络（LSTM）在实践中通常是首选的，因为这些网络能够学习长期依赖性，同时避免消失梯度问题。然而，由于它们的大量参数，与简单RNN（SRNN）相比，训练LSTM需要相当长的训练时间。在本文中，我们实现了在线回归性能的LSTM与SRNN有效。为此，我们引入了一个一阶训练算法的线性时间复杂度的参数的数量。我们表明，当用我们的算法训练SRNN时，它们在两到三倍的训练时间内提供了与LSTM非常相似的回归性能。我们提供强有力的理论分析，以支持我们的实验结果，我们的算法的收敛速度提供遗憾的界限。通过大量的实验，我们验证了我们的理论工作，并证明了我们的算法相对于LSTM和其他最先进的学习模型的显着性能改进。
2021-05-31 cs.LG stat.ML
Low Complexity Approximate Bayesian Logistic Regression for Sparse Online Learning
Google（谷歌）；Purdue University（普渡大学）
理论结果表明，贝叶斯方法可以实现在线逻辑回归的遗憾下界。然而，在实践中，这种技术可能不可行，特别是对于非常大的特征集。对于巨大的稀疏特征集，必须使用各种近似，从而减少理论上的优势。通常，他们应用随机梯度方法，超参数必须根据一些替代损失进行调整，从而击败贝叶斯方法的理论优势。替代损失，定义为近似的混合，需要的技术，如蒙特卡罗抽样，增加每个例子的计算。我们提出了低复杂度的分析近似稀疏在线逻辑和概率回归。与变分推理和其他方法不同，我们的方法使用解析闭合形式，大大降低了计算量。与密集的解决方案不同，作为高斯混合，我们的方法允许具有巨大特征集的稀疏问题，而不会增加复杂性。使用解析闭合形式，也不需要对代理损失应用随机梯度方法，也不需要调整和平衡学习和正则化超参数。经验结果顶部的性能更涉及计算的方法。像这样的方法，我们的方法仍然揭示每个功能和每个例子的不确定性措施。
2021-01-28 cs.LG stat.ML
Online Nonparametric Regression
University of Pennsylvania（宾夕法尼亚大学）
我们建立了在线回归的最佳速率为任意类的回归函数的序贯熵（Rakhlin，Sridharan，Tewari，2010）。最佳速率显示出类似于i.i.d./统计学习案例，研究于（Rakhlin，Sridharan，Tsybakov 2013）。在序列熵和i.i.d.经验熵匹配，我们的结果指出了一个有趣的现象，统计学习平方损失和在线非参数回归的速度是相同的。除了非算法研究的极大极小遗憾，我们展示了一个通用的预测，享有既定的最佳利率。我们还提供了一个配方设计在线回归算法，可以计算效率。我们说明的技术，通过现有的和新的预测有限的专家和在线线性回归的情况下。
2014-02-11 cs.LG math.ST stat.ML
Adaptive Iterative Hard Thresholding for Online High-dimensional Quantile Regression
Washington University in St. Louis（圣路易斯华盛顿大学）
提出自适应迭代硬阈值（AIHT）框架，通过延迟阈值发现支持、后期增加投影频率稳定估计，实现在线高维分位数回归的对数遗憾。
2026-06-26 cs.LG stat.ME stat.ML
Continual Learning for non-stationary regression via Memory-Efficient Replay
atlanTTic - ICLAB - Universidade de Vigo, Escola de Enxeñaría de Telecomunicación, Campus Universitario（atlanTTic - ICLAB - 维戈大学，电信工程学院，大学校区）；Centro Tecnolóxico de Telecomunicacións de Galicia (GRADIANT)（加利西亚电信技术中心（GRADIANT））；Facultade de Informática, Universidade de Santiago de Compostela（圣地亚哥-德孔波斯特拉大学计算机学院）
本文提出了一种基于原型的生成回放框架，用于在线任务无关的持续回归，通过自适应输出空间离散化模型减少遗忘并提高稳定性。
2026-02-10 cs.LG stat.ML
Online Forgetting Process for Linear Regression Models
Purdue University（普渡大学）
针对欧盟“被遗忘权”法规下的数据删除问题，本文提出在线遗忘算法FIFD-OLS与FIFD-Adaptive Ridge，后者通过在线正则化有效抵消删除不确定性，并在理论上给出遗憾上界，实验证明其优于固定正则化的岭回归。
2020-12-03 cs.LG stat.ML
Efficient Methods for Non-stationary Online Learning
National Key Laboratory for Novel Software Technology, Nanjing University, China（国家新型软件技术重点实验室，南京大学）；School of Artificial Intelligence, Nanjing University, China（人工智能学院，南京大学）
本文针对非平稳在线学习中的动态遗憾和自适应遗憾，提出将每轮投影次数从O(log T)降至1的高效方法，并扩展至区间动态遗憾，适用于在线随机控制和主成分分析。
2025-09-09 cs.LG stat.ML
Multiscale Non-stationary Stochastic Bandits
University of California, Davis（加利福尼亚大学戴维斯分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
用于线性模型的经典上下文强盗算法（例如LinUCB）假设手臂的奖励分布由平稳线性回归建模。当线性回归模型随时间非平稳时，LinUCB的后悔可以随时间线性缩放。针对非平稳线性强盗问题，提出了一种新的多尺度变点检测方法Multiscale-LinUCB，该方法能够主动适应环境的变化.我们还对Multiscale-LinUCB算法的遗憾界进行了理论分析。实验结果表明，我们提出的多尺度LinUCB算法优于其他国家的最先进的算法在非平稳的上下文环境。
2020-02-13 cs.LG stat.ML
Latent Gaussian Process Regression
University of Bristol（布里斯托大学）；University of Bath（巴斯大学）
我们介绍了潜在的高斯过程回归，这是一个潜在的变量扩展允许非平稳多模态过程使用GP建模。该方法是建立在扩展的输入空间的回归问题的潜变量，用于调制的协方差函数的训练数据。我们展示了我们的方法可以用来模拟多模态和非平稳过程。我们在一组合成数据上验证了该方法，并提供了来自运动捕捉和地质统计学的真实数据的结果。
2017-09-16 cs.LG stat.ML
Wasserstein-Splitting Gaussian Process Regression for Heterogeneous Online Bayesian Inference
Virginia Polytechnic Institute and State University（弗吉尼亚理工学院暨州立大学）；U.S. Army Research Laboratory（美国陆军研究实验室）
高斯过程（Gaussian processes，GP）是一种著名的非参数贝叶斯推断技术，但对于大样本量，GP存在可扩展性问题，对于非平稳或空间异构数据，GP的性能会降低。在这项工作中，我们试图克服这些问题，通过（i）采用变分自由能近似的GP与在线期望传播步骤的串联操作;和（ii）引入一个本地分裂步骤，每当后验分布变化显着量化的Wasserstein度量超过后验分布，实例化一个新的GP。然后，随着时间的推移，这产生了稀疏GP的集合，其可以增量地更新，并且适应训练数据中的局部性、异质性和非平稳性。
2021-07-26 cs.LG stat.ML
Smoothed Online Optimization for Regression and Control
Caltech（加州理工学院）
我们认为在线凸优化（OCO）的设置中的成本是$m$ -强凸和在线学习者支付切换成本的轮之间改变决定。我们发现，最近提出的在线平衡下降（OBD）算法是恒定的竞争力，在这种设置中，与竞争比$3 + O(1/m)$，无论周围的尺寸。此外，我们表明，当成本函数的序列是$ε$ -光滑，OBD具有接近最佳的动态遗憾，并保持较强的每轮精度。我们证明了我们的方法的一般性，通过显示OBD框架可用于构建各种在线学习和控制问题的竞争算法，包括岭回归，逻辑回归，最大似然估计和LQR控制的在线变体。
2019-04-04 cs.DS cs.LG math.OC
Online Student-$t$ Processes with an Overall-local Scale Structure for Modelling Non-stationary Data
本文针对非平稳和重尾误差的时间数据建模问题，提出具有整体-局部协方差尺度结构的贝叶斯学生t过程混合模型，并结合序贯蒙特卡洛方法实现在线推断，在真实数据集上验证了其优于高斯过程模型。
2023-11-01 cs.LG stat.ML
Contextual Bandits with Online Neural Regression
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究针对上下文老虎机问题，通过在宽网络预测中加入随机扰动使损失满足QG条件，得到了更优的NeuCB遗憾界，并通过实验验证了算法（尤其是KL损失版本）的性能优势。
2023-12-12 cs.LG stat.ML
Online Isotonic Regression
Poznań University of Technology（波兹南理工大学）；Centrum Wiskunde & Informatica（数学与计算机科学中心）；University of California at Berkeley（加州大学伯克利分校）
我们考虑保序回归问题的在线版本。给定一组线性排序的点（例如，在实数线上），学习者必须在相反选择的位置上顺序地预测标签，并且通过与事后最好的同调（非递减）函数相比的总平方损失来评估。我们调查了几个标准的在线学习算法，并表明他们都没有达到最佳的后悔指数，事实上，他们中的大多数（包括在线梯度下降，跟随领导者和指数权重）招致线性后悔。然后，我们证明了指数权重算法在覆盖网的保序函数有一个遗憾的$O\big(T^{1/3} \log^{2/3}(T)\big)$的范围内，并提出了一个匹配的$Ω(T^{1/3})$下界遗憾。我们提供了一个计算效率的版本，这个算法。我们还分析了无噪声的情况下，其中所揭示的标签是等渗的，并表明，绑定可以提高到$O(\log T)$，甚至$O(1)$（当标签显示在等渗顺序）。最后，我们将分析扩展到平方损失之外，并给出熵损失和绝对损失的界。
2016-10-07 cs.LG stat.ML
Online Learning for Non-Stationary A/B Tests
Google AI（谷歌人工智能）；UC Berkeley（加州大学伯克利分校）
在现代应用程序中推出新版本的功能是一个手动的多阶段过程，因为该功能被发布给越来越多的用户群体，同时其性能受到仔细监控。这种A/B测试是普遍存在的，但不是最佳的，因为监控需要大量的人为干预，不能保证捕获一致的，但短期的性能波动，并且效率低下，因为更好的版本需要很长时间才能达到完整的人群。在这项工作中，我们制定了这个问题的专家学习，并给出了一个新的算法跟随最佳间隔，FTBI，工作在动态，非平稳环境。我们的方法实用、简单、高效，并对其性能有严格的保证。最后，我们对合成和真实世界的数据集进行了全面的评估，并表明我们的方法优于当前最先进的方法。
2018-05-27 cs.LG stat.ML
Implicit Target Shift in Online Learning: Characterization and Correction
Department of Physics（物理系）；Washington University in St. Louis（圣路易斯华盛顿大学）；Department of Neuroscience（神经科学系）
本文研究了在线学习中目标偏移的本质，提出通过目标修正使在线核学习与离线学习等效，并在图像分类任务中验证了其有效性。
2026-10-06 cs.LG stat.ML
Nonparametric Online Regression while Learning the Metric
EPFL（洛桑联邦理工学院）；Universitá degli Studi di Milano（米兰大学）
我们研究在线非参数回归算法，学习回归函数更平滑的方向。我们的算法学习的Mahalanobis度量的基础上的梯度外积矩阵$\boldsymbol{G}$的回归函数（自动适应此矩阵的有效秩），而同时绑定的遗憾-在相同的数据序列-在$\boldsymbol{G}$的频谱方面。在我们的分析作为一个初步的步骤，我们扩展了非参数在线学习算法哈赞和Megiddo，使其能够竞争对函数的Lipschitzness测量相对于任意Mahalanobis度量。
2017-10-23 cs.LG
Multivariate Online Linear Regression for Hierarchical Forecasting
Sorbonne University（索邦大学）；Paris Cité University（巴黎城市大学）；CNRS（法国国家科学研究中心）；LOPF；LPSM
本文提出MultiVAW方法，将Vovk-Azoury-Warmuth算法推广至多元在线线性回归，证明其对数遗憾界，并应用于在线分层预测以放宽现有算法的分析假设。
2024-02-22 cs.LG math.OC stat.ML
Online Learning of Whittle Indices for Restless Bandits with Non-Stationary Transition Kernels
Department of ECE, Purdue University（普渡大学电子工程系）
本文研究了面对未知非平稳动态的restless bandits最优资源分配问题，提出滑动窗口在线Whittle策略，在保持计算效率的同时适应时间变化的核。理论分析显示算法在动态 regret 上达到亚线性性能，且通过Bandit-over-Bandit框架处理未知变化预算情况。
2026-04-21 cs.LG stat.ML
Efficient Online Hyperparameter Optimization for Kernel Ridge Regression with Applications to Traffic Time Series Prediction
Penn State University（宾夕法尼亚州立大学）；UC Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
计算效率是在线环境中部署用于时间序列预测的机器学习模型的重要考虑因素。机器学习算法根据数据自动调整模型参数，但通常需要用户设置额外的参数，称为超参数。超参数会显著影响预测精度。通常由传感器在线收集的流量测量是串行相关的。此外，数据分布可能会逐渐变化。典型的自适应策略是周期性地重新调整模型超参数，以计算负担为代价。在这项工作中，我们提出了一个有效的和原则性的在线超参数优化算法的核岭回归应用于交通预测问题。在对真实流量测量数据的测试中，我们的方法所需的计算时间仅为其他调优方法的七分之一，同时实现了更好或类似的预测精度。
2018-11-01 cs.LG stat.ML
Ensemble Kalman Filtering for Online Gaussian Process Regression and Learning
The University of Sheffield（谢菲尔德大学）；University of Canterbury（坎特伯雷大学）；The University of Oxford（牛津大学）
高斯过程回归是一种机器学习方法，已被证明其对未知函数的估计的能力。然而，高斯过程具有高计算复杂性，因为在基本形式中，它们随着观测的数量而立方地缩放。提出了几种基于诱导点的方法来处理静态环境中的这个问题。然而，这些方法面临着实时任务的挑战，并且当数据随着时间顺序接收时。提出了一种新的稀疏高斯过程模型在线训练算法。它把高斯过程的均值和超参数分别作为集合卡尔曼滤波器的状态和参数。对新的即将到来的数据样本执行参数和状态的在线评估。该过程迭代地提高了参数估计的准确性。集合卡尔曼滤波器降低了获得具有高斯过程的预测所需的计算复杂度，从而保持这些预测的准确性水平。所提出的方法的性能证明在合成数据集和真正的大数据集的英国房价。
2018-07-09 cs.LG stat.ML
Mixture of Online and Offline Experts for Non-stationary Time Series
Sun Yat-sen University（中山大学）；Macquarie University（麦考瑞大学）；Zhejiang University（浙江大学）
针对非平稳时间序列在线区间分布可能与历史离线区间重合的场景，提出融合静态离线专家与动态在线专家的MOOE模型，并通过理论分析证明其有效性。
2024-12-13 cs.LG
Non-stationary Online Learning with Memory and Non-stochastic Control
Nanjing University（南京大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
针对带记忆在线凸优化与非随机控制中的非平稳性，提出感知切换成本的在线集成算法及基于梯度的控制器，实现最优动态策略遗憾保证。
2023-08-15 cs.LG stat.ML
Non-Stationary Functional Bilevel Optimization
Applied Mathematics and Statistics, Stony Brook University, Stony Brook, NY, USA（应用数学与统计学系，史泰文布鲁克大学）；Inria, CNRS, Grenoble INP, LJK, Université Grenoble Alpes（法国国家信息与自动化技术研究院、国家科学研究中心、格勒诺布尔INP、LJK、格勒诺布尔阿尔卑斯大学）
SmoothFBO是首个在非平稳函数双层优化中具有理论保证和实际可扩展性的算法，通过时间平滑的随机超梯度估计器提升稳定性和性能。
2026-09-04 cs.LG stat.ML
System Identification through Online Sparse Gaussian Process Regression with Input Noise
Delft University of Technology（代尔夫特理工大学）；Uppsala University（乌普萨拉大学）
本文提出一种在线稀疏高斯过程回归算法，解决高斯过程回归在计算效率、在线更新和处理噪声输入方面的不足，实验表明其在非线性黑盒系统建模中性能优异。
2017-08-15 cs.LG cs.SY eess.SY
Online Active Regression
School of Physical and Mathematical Sciences（物理与数学科学学院）；Nanyang Technological University（南洋理工大学）
主动回归考虑线性回归问题，其中学习者接收大量数据点，但只能观察少量标签。由于在线算法可以处理增量训练数据，并利用低计算成本，我们考虑的主动回归问题的在线扩展：学习者接收数据点一个接一个，并立即决定是否应该收集相应的标签。目标是用少量的标签查询预算有效地维护接收到的数据点的回归。我们提出了新的算法，这个问题下的$\ell_p$损失$p\in[1,2]$。为了实现一个$(1+ε)$近似的解决方案，我们提出的算法只需要$\tilde{\mathcal{O}}(ε^{-1} d \log(nκ))$查询的标签，其中$n$是数据点的数量和$κ$是一个数量，称为条件数，数据点。数值结果验证了我们的理论结果，并表明我们的方法具有可比的性能与离线主动回归算法。
2022-08-30 cs.DS cs.LG stat.ML
Dynamic Regret for Strongly Adaptive Methods and Optimality of Online KRR
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Amazon Research（亚马逊研究院）
我们考虑非平稳在线凸优化的框架，学习者试图控制其动态后悔对任意序列的比较。当损失函数是强凸或指数凹，我们证明，强自适应（SA）算法可以被看作是一个原则性的方式来控制动态遗憾的路径变化$V_T$的比较器序列。具体来说，我们发现SA算法享受$\tilde O(\sqrt{TV_T} \vee \log T)$和$\tilde O(\sqrt{dTV_T} \vee d\log T)$动态遗憾强凸和指数凹损失分别没有先验知识的$V_T$。的多功能性的原则性的方法进一步证明了新的结果，在设置学习对有界线性预测和在线回归高斯内核。在相关的设置下，论文的第二部分解决了Zhdanov和Kalnishkan（2010）提出的一个悬而未决的问题，该问题涉及具有平方误差损失的在线内核回归。我们得到了一个新的下界，一定的惩罚遗憾，建立了近极大极小最优的在线核岭回归（KRR）。我们的下界可以被看作是对Vovk（2001）中有限维在线线性回归下界的RKHS扩展。
2021-11-22 cs.LG stat.ML
Stochastic Online Linear Regression: the Forward Algorithm to Replace Ridge
Univ. Lille（里尔大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Centrale Lille（里尔中央理工学院）；Criteo（Criteo公司）；ENSAE（法国国立统计与经济管理学院）；ENS PARIS-SACLAY（巴黎萨克雷高等师范学院）
我们考虑随机环境下的在线线性回归问题。我们推导了在线岭回归和前向算法的高概率后悔界。这使我们能够更准确地比较在线回归算法，并消除有界观测和预测的假设。我们的研究主张使用前向算法代替岭，由于其增强的边界和鲁棒性的正则化参数。此外，我们解释了如何将其集成到算法中，涉及线性函数逼近，以消除有界性假设，而不恶化理论界。我们展示了这种修改在线性强盗设置，它产生改进的遗憾界限。最后，我们提供了数值实验来说明我们的结果和支持我们的直觉。
2021-11-02 cs.LG
Non-stationary Online Regression
Max-Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Univ. Grenoble Alpes（格勒诺布尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；Carnegie Mellon University（卡内基梅隆大学）
在线预测在不断变化的环境下已经成为一个越来越重要的问题，在许多现实世界的应用。在本文中，我们考虑的元算法中提出的\citet{zhang2017dynamic}结合不同的子程序。我们证明了对于参数序列的总变差由$C_n$约束的非平稳在线线性回归，可以得到一个期望的$\tilde{O}(n^{1/3} C_n^{2/3})$阶累积误差。本文将\cite{baby2019online}中提出的一维时间序列在线预测的结果推广到一般的$d$维非平稳线性回归。我们提高了Zhang等人2017和Besbes等人2015获得的$O(\sqrt{n C_n})$率。我们进一步扩展我们的分析，非平稳在线核回归。与非平稳在线回归情况类似，我们使用Zhang et al. 2017的元程序结合Kernel-AWV（Jezequel et al. 2020）来实现由RKHS的有效维度和序列的总变异控制的预期累积。据我们所知，这项工作是非平稳在线回归的非平稳核回归的第一次扩展。最后，我们评估我们的方法与现有的几个基准经验，并将其与本文得到的理论界。
2020-11-13 cs.LG math.ST stat.TH
Online Generalized Sparse Regression: How Does Overparametrization Help?
University of Toronto（多伦多大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文针对在线广义稀疏回归的四大挑战，提出在线广义稀疏约束回归框架，设计高效在线硬阈值算法，在适当过参数化下实现最优统计速率的全局收敛，数值实验显示其性能优于现有最优方法。
2026-08-19 cs.LG math.ST stat.ML
A Regression Approach to Learning-Augmented Online Algorithms
Duke University（杜克大学）
新兴的学习增强在线算法领域使用ML技术来预测未来的输入参数，从而提高在线算法的性能。由于这些参数通常是实值函数，因此自然的方法是使用回归技术来进行这些预测。我们在本文中介绍这种方法，并探讨它的背景下，捕捉经典的问题，如（广义）滑雪租赁，装箱，最小完工时间调度等，我们显示了近紧界样本的复杂性，这个回归问题，并将我们的结果扩展到不可知设置的一般在线搜索框架。从技术的角度来看，我们表明，关键是将在线优化基准的回归问题的损失函数的设计，从而偏离使用现成的回归工具与统计误差的标准界限。
2022-05-25 cs.DS cs.LG
Asynchronous Distributed Gaussian Process Regression for Online Learning and Dynamical Systems: Complementary Document
Technical University of Munich (TUM)（慕尼黑工业大学）；School of Computation, Information and Technology (CIT)（计算、信息与技术学院）
本文为异步分布式高斯过程回归用于在线学习与动力系统的论文提供补充说明。
2024-12-16 cs.LG cs.SY eess.SY
A Multi-Layer Regression based Predicable Function Fitting Network
Huizhou University（惠州学院）
函数在数学和许多科学分支中起着重要的作用。随着计算机技术的飞速发展，计算函数分析的研究越来越多，快速傅立叶变换、小波变换、曲线函数等是近年来提出的新方法。然而，这些方法存在两个主要问题：1）难以处理平稳与非平稳、周期与非周期、高阶与低阶的复杂函数; 2）难以将拟合函数从训练数据推广到测试数据。本文介绍了一种基于多元回归的函数拟合网络，作为一种可预测的函数拟合技术，解决了这两个主要问题。该技术构造的网络包括三个主要部分：1）静态变换层，2）特征编码层，和3）微调回归层。平稳变换层识别输入函数数据的顺序，并将非平稳函数变换为平稳函数。特征编码层将原始输入序列数据编码为一种新的线性回归特征，该特征可以捕获序列数据的结构特征和时间特征。然后，微调回归层将特征拟合到目标提前值。具有线性回归特征层和非线性回归层的拟合网络提供了高质量的拟合结果和可推广的预测。数学函数实例和实际函数实例的实验验证了该方法的有效性。
2022-09-19 cs.LG
Online Nonparametric Regression with General Loss Functions
University of Pennsylvania（宾夕法尼亚大学）；Cornell University（康奈尔大学）
本文建立了具有任意函数类和一般损失的在线回归的极大极小率。我们表明，低于一定的阈值的函数类的复杂性，极大极小率取决于曲率的损失函数和顺序的复杂性的类。在这个阈值之上，损失的曲率不影响费率。此外，对于平方损失的情况，我们的结果指出了有趣的现象：无论何时序列和i.i.d.经验熵匹配，统计和在线学习的比率是相同的。除了极大极小遗憾的研究，我们得到一个通用的预测，享有既定的最佳利率。我们还提供了设计在线预测算法的方法，这些算法对于某些问题可以在计算上高效。我们说明的技术，通过现有的和新的预测有限的专家和在线线性回归的情况下。
2015-01-26 cs.IT cs.LG math.IT
Online and Distributed Robust Regressions under Adversarial Data Corruption
Virginia Tech（弗吉尼亚理工大学）；George Mason University（乔治梅森大学）；U. S. Army Corps of Engineers（美国陆军工程兵团）
在当今的大数据时代，当考虑到数据集爆炸性增长的对抗性腐败时，鲁棒最小二乘回归成为一个更具挑战性的问题。传统的鲁棒方法可以处理噪声，但在应用于大型数据集时会遇到一些挑战，包括1）一次处理整个数据集的计算不可行性，2）存在异构分布的损坏，以及3）当数据无法完全加载时难以估计损坏。本文提出了在线和分布式鲁棒回归方法，这两种方法可以同时解决所有上述挑战。具体地说，分布式算法通过启发式硬阈值优化每个数据块的回归系数，并将所有估计值组合在分布式鲁棒合并中。此外，提出了一个在线版本的分布式算法，以增量更新现有的估计与新的传入数据。我们还证明了我们的算法受益于强大的鲁棒性保证回归系数恢复与一个恒定的上限的错误的国家的最先进的批处理方法。在人工数据集和真实数据集上的大量实验表明，我们的方法在有效性上优于现有方法，具有竞争力的效率。
2017-10-02 cs.DS cs.LG stat.ML
Streaming PAC-Bayes Gaussian process regression with a performance guarantee for online decision making
Australian Artificial Intelligence Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）
高斯过程（GP）作为一种功能强大的贝叶斯非参数化算法，在贝叶斯优化和信号处理中发挥着重要作用。全科医生也有先进的在线决策系统，因为他们的后验分布有一个封闭的形式的解决方案。然而，它的训练和推理过程需要存储所有历史数据，并从头开始训练GP模型。出于这些原因，一些在线GP算法，如O-SGPR和O-SVGP，已专门设计用于流媒体设置。在本文中，我们提出了一个新的理论框架，在线GPS的基础上在线可能近似正确（PAC）贝叶斯理论。该框架提供了广义性能和良好的准确性的保证。我们的算法不是最小化边际似然，而是优化经验风险函数和正则化项，这与参数的先验分布和后验分布之间的分歧成比例。除了理论上的吸引力，该算法在几个回归数据集上的经验表现良好。与其他在线GP算法相比，我们产生了泛化保证和非常有竞争力的准确性。
2022-10-26 cs.AI cs.LG stat.ML
Online nonparametric regression with Sobolev kernels
University of Potsdam（波茨坦大学）；Centre de Recherche INRIA de Paris（法国国家信息与自动化研究所巴黎研究中心）；IRT Saint Exupéry（圣埃克苏佩里技术研究院）；Institut de Mathématiques de Toulouse（图卢兹数学研究所）
在这项工作中，我们调查的变化，在线核岭回归算法的设置$d-$维对抗非参数回归。本文给出了索伯列夫空间类$W_{p}^β(\mathcal{X})$，$p\geq 2, β>\frac{d}{p}$的遗憾上界.最小最大遗憾分析支持的上界，这表明，在情况下$β> \frac{d}{2}$或$p=\infty$，这些利率是（基本上）最优的。最后，我们比较了核岭回归预测器的性能，已知的非参数预测器的遗憾率和计算复杂性，以及在统计（i.i.d.）非参数回归。
2021-07-13 cs.LG math.ST stat.ML
Logarithmic Regret for parameter-free Online Logistic Regression
LPSM, Sorbonne Université（巴黎索邦大学概率与随机模型实验室）
我们认为在线优化程序的逻辑回归的背景下，专注于扩展卡尔曼滤波器（EKF）。我们引入了一个接近EKF的二阶算法，称为半在线步骤（SOS），我们在对抗设置中证明了O（log（n））的遗憾，为EKF的类似结果铺平了道路。SOS的遗憾界是第一个在对抗逻辑回归中的无参数算法。我们证明了EKF在恒定的动态O（log（n））的期望和良好指定的逻辑回归模型的遗憾。
2019-02-26 cs.LG math.ST stat.TH
Sparsity regret bounds for individual sequences in online linear regression
École Normale Supérieure（巴黎高等师范学院）
考虑了任意确定性序列上的在线线性回归问题，当环境维数d可以远大于时间轮数T时。我们引入了稀疏遗憾界的概念，这是一个确定性的在线对应最近的风险界在稀疏的情况下，在随机设置。我们证明了这样的遗憾界的在线学习算法称为SeqSEW和指数加权和数据驱动的截断的基础上。在第二部分中，我们将该算法的无参数版本应用于随机设置（随机设计的回归模型）。这产生了与Dalalyan和Tsybakov（2011）相同的风险边界，但解决了其中两个悬而未决的问题。特别是我们的风险界是自适应的（对数因子）的未知方差的噪声，如果后者是高斯。我们还讨论了固定设计的回归模型。
2013-04-12 cs.LG math.ST stat.ML
Regularised Text Logistic Regression: Key Word Detection and Sentiment Classification for Online Reviews
National University of Singapore（新加坡国立大学）
对于酒店和餐饮行业的经理和高管来说，在线客户评论已经变得非常重要，他们希望全面了解客户的需求和期望。我们提出了一个正则化文本逻辑（RTL）回归模型来对非结构化文本数据进行文本分析和情感分类，该模型自动识别一组统计上显着且具有操作洞察力的单词特征，并实现了令人满意的预测分类精度。我们将RTL模型应用于TripAdvisor的两个在线评论数据集，餐厅和酒店。我们的研究结果表明，令人满意的分类性能相比，替代分类器的最高真阳性率为94.9%。此外，RTL识别了一小部分单词特征，对应于餐厅的3%和酒店的20%，这通过允许经理深入到更小的重要客户评论集合来提高工作效率。我们还发展了估计量的相合性、稀疏性和预言性。
2020-09-09 cs.CL cs.LG stat.ML
On the Relationship between Online Gaussian Process Regression and Kernel Least Mean Squares Algorithms
University of Cantabria（坎塔布里亚大学）；CIBER-BBN（西班牙生物医学、生物工程和纳米医学研究中心联盟）；University of Zaragoza（萨拉戈萨大学）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
研究了在线高斯过程（GP）回归与核最小均方（KLMS）算法之间的关系。虽然后者在在线学习过程中没有存储整个后验分布的能力，但我们发现它们的操作对应于遵循简单参数模型的固定后验协方差的假设。有趣的是，几个著名的KLMS算法对应于该模型的特定情况。概率的观点使我们能够理解他们中的每一个人如何处理不确定性，这可以解释他们的一些表现差异。
2016-09-11 cs.IT cs.LG math.IT
Online Resource Allocation with Non-Stationary Customers
Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运营研究与分析学院）
提出一种在线资源分配算法，解决非平稳客户到达与未知点击率问题，结合随机上下文老虎机与在线匹配技术，实现次线性遗憾与最优竞争比，并在多种场景下获得接近最优收入。
2024-06-02 cs.LG math.OC
Transductive and Learning-Augmented Online Regression
University of Michigan（密歇根大学）；Texas A&M University（德克萨斯农工大学）
该研究针对可获取未来样本预测的在线回归场景，刻画了直推式在线学习的最小最大期望后悔值，提出适配不完美预测的学习增强在线学习器，实现预测质量相关的性能提升，拓展了可学习类别范围。
2025-10-04 cs.DS cs.LG
Mixability made efficient: Fast online multiclass logistic regression
INRIA（法国国家信息与自动化研究所）；PSL Research University（巴黎文理研究大学）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LJK（约瑟夫·傅立叶实验室）
可混性已被证明是一个强大的工具，以获得最佳的遗憾算法。然而，所得到的方法通常遭受高计算复杂性，这降低了它们的实用性。例如，在多类逻辑回归的情况下，聚合预测器（Foster et al.（2018））实现了$O(\log(Bn))$的遗憾，而在线牛顿步骤实现了$O(e^B\log(n))$，获得了$B$的双指数增益（比较函数的范数的界限）。然而，这种高统计性能是以过高的计算复杂性$O(n^{37})$为代价的。
2021-10-08 cs.LG math.ST stat.ML
Locally Weighted Regression Pseudo-Rehearsal for Online Learning of Vehicle Dynamics
Georgia Institute of Technology（佐治亚理工学院）
我们考虑的问题，在线适应的神经网络设计代表车辆动力学。该神经网络模型旨在由MPC控制律使用以自主地控制车辆。这个问题是具有挑战性的，因为输入和目标分布都是非平稳的，和天真的方法在线适应导致灾难性遗忘，这反过来又会导致控制器故障。提出了一种新的在线学习方法，它结合了伪排练方法和局部加权投影回归。我们证明了局部加权投影回归伪排练（LW-PR $^2$）方法在模拟和1/5比例自动驾驶汽车收集的大型真实世界数据集上的有效性。
2019-05-13 cs.LG cs.RO
Adaptive Dense-to-Sparse Paradigm for Pruning Online Recommendation System with Non-Stationary Data
University of Texas, Austin（得克萨斯大学奥斯汀分校）；Facebook Inc.（脸书公司）
大规模深度学习通过采用更广泛和更深入的模型来提高内容推荐系统的质量，但这在现代数据中心中带来了巨大的基础设施成本和碳足迹。剪枝是一种有效的技术，可以减少模型推理的内存和计算需求。然而，在线推荐系统的修剪是具有挑战性的，由于连续的数据分布偏移（又名非平稳数据）。虽然完整模型上的增量训练能够适应非平稳数据，但直接将其应用于修剪模型会导致准确性损失。这是因为修剪后的稀疏模式需要调整以学习新的模式。据我们所知，这是第一项深入分析和讨论将修剪应用于具有非平稳数据分布的在线推荐系统的工作。总体而言，本文的工作主要有以下几个方面的贡献：1）提出了一种自适应的密集到稀疏的模式，并结合一种新的剪枝算法，用于对具有非平稳数据分布的大规模推荐系统进行剪枝; 2）设计了自动学习层间稀疏度的剪枝算法，避免了重复手工调整，这对于修剪用非平稳数据训练的推荐系统的异构体系结构是至关重要的。
2020-10-21 cs.LG
OLR-WA: Online Weighted Average Linear Regression in Multivariate Data Streams
University of California, San Diego（加州大学圣地亚哥分校）
本文提出OLR-WA模型，用于多变量数据流的在线线性回归，通过处理数据漂移和置信度场景，实现与批量回归相当甚至更优的性能。
2025-12-16 cs.AI cs.LG
Online and Distribution-Free Robustness: Regression and Contextual Bandits with Huber Contamination
MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
在这项工作中，我们重新审视两个经典的高维在线学习问题，即线性回归和上下文强盗，从对抗鲁棒性的角度。算法鲁棒统计中的现有工作做出强分布假设，以确保输入数据均匀分布或来自良好的生成模型。即使完全没有分布假设，我们被要求解决的任务序列是自适应和逆向选择的，是否有可能实现强鲁棒性保证？我们对线性回归和上下文强盗都肯定地回答这个问题。事实上，我们的算法在传统方法失败的地方取得了成功。特别是，我们显示出强大的下界对Huber回归和更一般的任何凸M-估计。我们的方法是基于一种新的交替最小化方案，交织普通最小二乘法与一个简单的凸规划，找到最佳的重新加权的分布下的频谱约束。我们的研究结果获得基本上最佳的依赖污染水平$η$，达到最佳的击穿点，并自然地适用于无限维的设置，其中的特征向量通过内核映射表示隐式。
2021-06-10 cs.DS cs.LG stat.ML
A Generalized Online Mirror Descent with Applications to Classification and Regression
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；The Technion（以色列理工学院）；Università degli Studi di Milano（米兰大学）
在线学习算法速度快，内存效率高，易于实现，适用于许多预测问题，包括分类，回归和排名。在过去的几十年里，提出了几种在线算法，一些基于加法更新，如Perceptron，一些基于乘法更新，如Winnow。在线镜像下降提供了在线算法的设计和分析的统一观点，这是一种通用的预测策略，大多数一阶算法可以作为特例获得。我们将在线镜像下降推广到具有通用更新的时变正则化器。与标准的镜像下降，我们更一般的配方也捕获二阶算法，复合损耗算法和自适应滤波算法。此外，我们恢复，有时改善，已知的遗憾界作为我们的分析使用特定的正则化的特殊情况。最后，我们通过推导出一个新的二阶算法的遗憾界不变量相对于任意重新缩放的个人功能，我们的方法的力量。
2014-07-14 cs.LG
Optimal Learners for Realizable Regression: PAC Learning and Online Learning
Ben-Gurion University（本-古里安大学）；Purdue University（普渡大学）；Yale University（耶鲁大学）；Google Research（谷歌研究院）
本文针对可实现回归，在PAC学习和在线学习两种设置下提出新的组合维度与极小极大实例最优学习器，分别刻画了可学习性、ERM可学习性及最优累积损失，并解决了STOC '22中的一个开放问题。
2024-10-02 cs.AI cs.LG stat.ML
