Kernel Interpolation for Scalable Online Gaussian Processes
New York University（纽约大学）；Cornell University（康奈尔大学）
高斯过程（GP）为在线设置中的性能提供了黄金标准，例如样本有效控制和黑盒优化，其中我们需要在以顺序方式获取数据时更新后验分布。然而，在已经观察到$n$点之后更新GP后验以适应甚至单个新观察至少会在精确设置中引起$O(n)$计算。我们展示了如何使用结构化内核插值来有效地回收计算恒定时间$O(1)$在线更新的点$n$的数量，同时保留精确的推理。我们展示了我们的方法在一系列在线回归和分类设置，贝叶斯优化，主动采样，以减少疟疾发病率预测的错误的承诺。代码可在https://github.com/wjmaddox/online_gp上获得。
2021-03-02 cs.LG stat.ML
Scalable inference in functional linear regression with streaming data
针对流数据下函数型线性回归推断难题，提出仅需单次遍历数据的函数型随机梯度下降算法与在线自助重采样程序，建立相关理论性质，为流数据函数型回归推断提供首个理论支撑与实用方法。
2023-10-10 stat.ME
Scalable Statistical Inference in Non-parametric Least Squares
本文提出 RKHS 非参数最小二乘的在线 SA 理论框架，利用函数型 SGD 与乘子 bootstrap 构造有效置信区间/带，并给出非渐近分析与一致性证明。
2023-10-02 math.ST stat.TH
Adaptive, Robust and Scalable Bayesian Filtering for Online Learning
School of Mathematical Sciences（数学科学学院）
该论文以贝叶斯滤波统一在线学习、序贯预测和上下文老虎机问题，提出自适应框架、鲁棒广义贝叶斯滤波器及可扩展二阶更新工具。
2025-05-12 cs.LG stat.ML
Scalable and Accurate Online Feature Selection for Big Data
Simon Fraser University（西蒙弗雷泽大学）；Hefei University of Technology（合肥工业大学）；University of Vermont（佛蒙特大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）
特征选择在许多大数据应用中非常重要。与大数据密切相关的两个关键挑战。首先，在许多大数据应用中，维度非常高，以百万计，并且还在不断增长。其次，大数据应用要求以在线方式的高度可扩展的特征选择算法，使得每个特征可以在顺序扫描中被处理。本文提出了一种可扩展的、精确的在线特征选择方法SAOLA。通过对特征间成对相关性的理论分析，SAOLA采用了新的成对比较技术，并以在线方式随时间保持一个简约模型。此外，为了处理即将到来的功能，到达组，我们扩展了SAOLA算法，然后提出了一个新的组-SAOLA算法的在线组特征选择。group-SAOLA算法能够同时在线维护一组在组和个体特征两个层次上都稀疏的特征组。使用一系列基准真实数据集的实证研究表明，我们的两个算法，SAOLA和组SAOLA，是可扩展的数据集的极高维，并具有优越的性能比国家的最先进的特征选择方法。
2016-07-28 cs.LG
Scalable Generalized Linear Bandits: Online Computation and Hashing
UW-Madison（威斯康星大学麦迪逊分校）
广义线性Bandits（GLB）是随机线性Bandits的自然扩展，近年来得到了广泛的应用。然而，现有的GLB在轮数和臂数方面的规模很差，限制了它们在实践中的实用性。本文提出了新的，可扩展的解决方案，GLB问题在两个方面。首先，不同于现有的GLB，其每时间步长的空间和时间复杂度至少随时间线性增长$t$，我们提出了一个新的算法，执行在线计算，享受恒定的空间和时间复杂度。其核心是一种新的广义线性扩展的在线置信集转换（GLOC方法），它采用\emph{any}在线学习算法，并把它变成一个GLB算法。作为一个特殊的情况下，我们应用GLOC的在线牛顿步算法，这导致在低遗憾GLB算法的时间和内存复杂度比以前的工作低得多。其次，对于手臂的数量$N$是非常大的情况下，我们提出了新的算法，其中每个下一个手臂通过内积搜索选择。这样的方法可以经由散列算法（即，“可散列处理”）并导致$N$中的时间复杂度次线性。虽然GLOC的Thompson采样扩展是散列顺从的，但其针对$d$维臂集的遗憾界与$d^{3/2}$成比例，而GLOC的遗憾界与$d$成比例。为了缩小这一差距，我们提出了一个新的哈希适合的算法，其遗憾界尺度与$d^{5/4}$。最后，我们提出了一种快速近似散列密钥计算（内积），具有比最先进的更好的精度，这可以是独立的利益。我们总结了初步的实验结果，证实了我们的方法的优点。
2017-10-21 cs.LG stat.ML
Scalable Online Recurrent Learning Using Columnar Neural Networks
University of Alberta（阿尔伯塔大学）；DeepMind（深度思维公司）
结构性信用分配的循环学习是具有挑战性的。一种名为RTRL的算法可以在线计算递归网络的梯度，但对于大型网络来说，计算难度很大。替代方案，如BPTT，不在网上。在这项工作中，我们提出了一个信用分配算法- \algoname{} -近似梯度的循环学习实时使用$O(n)$操作和内存每一步。我们的方法建立在这样的思想基础上，即对于由具有标量状态的列组成的模块化递归网络，参数只跟踪其对列状态的影响就足够了。我们的经验表明，只要列之间的连接是稀疏的，我们的方法近似的真实梯度。在列之间没有连接的特殊情况下，$O(n)$梯度估计是准确的。我们证明了实用的方法，经常性的状态学习和元学习的估计梯度的真实梯度的合成测试床进行比较。
2021-03-09 cs.LG
BSODA: A Bipartite Scalable Framework for Online Disease Diagnosis
Tsinghua University（清华大学）；University of Cambridge（剑桥大学）；Microsoft Research Cambridge（微软剑桥研究院）；Tencent Jarvis Lab（腾讯 Jarvis 实验室）
越来越多的人在网上寻求医疗建议。通常，他们根据他们正在经历的症状诊断他们的医疗状况，这也被称为自我诊断。从机器学习的角度来看，在线疾病诊断是一个顺序的特征（症状）选择和分类问题。强化学习（RL）方法是这类任务的标准方法。一般来说，当特征空间较小时，它们表现良好，但在具有大量特征的任务中，例如自诊断，它们经常变得低效。为了应对这一挑战，我们提出了一个用于在线疾病诊断的非RL二分可扩展框架，称为BSODA。BSODA由两个合作分支组成，分别处理查询和疾病诊断。询问分支通过信息论奖励来确定接下来收集哪个症状。我们采用的产品的专家编码器，以显着提高处理大量的功能的部分意见。此外，我们提出了几种近似方法，以大大减少计算成本的奖励的水平，是可以接受的在线服务。此外，我们利用诊断模型来更精确地估计奖励。对于诊断分支，我们使用知识引导的自我注意模型来执行预测。特别是，BSODA确定何时停止查询并使用查询和诊断模型输出预测。我们证明了BSODA在几个公共数据集上的性能优于最先进的方法。此外，我们提出了一种新的评估方法来测试症状检查方法从合成到现实世界的任务的可移植性。与现有的RL基线相比，BSODA更有效地扩展到大的搜索空间。
2022-01-20 cs.LG
Dropping Convexity for More Efficient and Scalable Online Multiview Learning
Georgia Tech（佐治亚理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）；Princeton University（普林斯顿大学）
多视图表示学习是潜在因素分析的一种常用方法。它自然出现在许多数据分析、机器学习和信息检索应用程序中，用于对多个数据源之间的依赖结构进行建模。为了计算方便，现有的方法通常将多视图表示学习问题转化为凸优化问题，通过一定的算法在多项式时间内获得全局最优解。然而，许多证据已经证实，启发式非凸方法也有良好的经验计算性能和收敛到全局最优值，虽然缺乏理论依据。这种理论与实践之间的差距促使我们研究多视图表示学习的非凸公式，这可以通过简单的随机梯度下降（SGD）算法有效地解决。我们首先说明了几何的非凸制定，然后，我们建立渐近全局收敛速度的全局最优值的扩散近似。数值实验支持我们的理论。
2019-09-16 cs.LG math.OC stat.ML
Adaptive and Scalable Android Malware Detection through Online Learning
Nanyang Technological University（南洋理工大学）
众所周知，恶意软件不断进化以逃避检测，这导致整个恶意软件群体是不稳定的。与此事实相反，基于机器学习的Android恶意软件检测的现有工作已经假设所观察到的恶意软件特征（即，特征）不随时间改变。在这项工作中，我们解决了恶意软件人口漂移的问题，并提出了一种新的在线机器学习为基础的框架，命名为DroidOL来处理它，并有效地检测恶意软件。为了执行准确的检测，安全敏感行为是使用最先进的图形内核以过程间控制流子图特征的形式从应用程序中捕获的。为了执行可扩展的检测，并适应在恶意软件种群的漂移和演变，一个在线的被动攻击分类器。在对87，000多个应用程序的大规模比较分析中，DroidOL实现了84.29%的准确率，在典型的批处理学习设置中比两种最先进的恶意软件技术高出20%以上，在持续重新训练时高出3%以上。我们的实验结果强烈表明，在线学习为基础的方法是非常适合现实世界的恶意软件检测。
2016-09-26 cs.CR cs.LG
Scalable Adversarial Online Continual Learning
University of New South Wales（新南威尔士大学）；University of South Australia（南澳大学）；Nanyang Technological University（南洋理工大学）
对抗性持续学习对于持续学习问题是有效的，因为特征对齐过程的存在产生对灾难性遗忘问题具有低敏感性的任务不变特征。然而，ACL方法带来了相当大的复杂性，因为它依赖于特定于任务的网络和鉴别器。它还经历了一个迭代的训练过程，这不适合在线（一个时期）持续学习的问题。提出了一种可扩展的对抗性持续学习（SCALE）方法，提出了一个参数生成器，将共同特征转化为特定任务的特征，并在对抗性博弈中引入一个参数生成器来归纳共同特征。使用三个损失函数的新组合以元学习方式进行训练过程。SCALE在准确性和执行时间方面都优于显著的基线。
2022-09-04 cs.AI cs.LG
Online scalable Gaussian processes with conformal prediction for guaranteed coverage
School of ECE University of Georgia Athens, GA 30602, USA；Dept. of ECE University of Minnesota Minneapolis, MN 55455, USA
针对在线场景下高斯过程模型易误设、共形预测的可交换性假设难满足的问题，提出结合共形预测的在线可扩展高斯过程方法，通过反馈自适应调整阈值以保障长期预测覆盖率，性能优于现有方案。
2024-10-07 cs.LG stat.ME stat.ML
Scalable Perturbation Learning for Online Self-Supervised Learning in Echo State Networks
Graduate School of Information Science and Technology, The University of Tokyo（东京大学信息科学与技术研究生院）
研究针对高维系统中智能系统自适应要求间的矛盾，聚焦回声状态网络，提出基于扰动学习成本正交分解的在线自监督学习规则，降低有效扰动维度，避免方差增长，为可扩展及硬件兼容学习提供设计原则。
2026-07-29 cs.LG cs.NE
Large-scale semi-supervised learning with online spectral graph sparsification
Inria Lille – Nord Europe（Inria里尔–北欧）
本文提出Sparse-HFS算法，通过O(n polylog(n))空间和O(m polylog(n))时间高效解决半监督学习问题。
2026-10-06 cs.LG stat.ML
A Review of Online Diffusion Policy RL Algorithms for Scalable Robotic Control
Daegu Gyeongbuk Institute of Science and Technology（大邱庆尚科学技术院）；ShanghaiTech University（上海科技大学）
本文综述了在线扩散策略强化学习算法，分析了其在可扩展机器人控制中的性能、挑战及未来发展方向。
2026-02-09 cs.AI cs.LG cs.RO
The Holy Grail of Multi-Robot Planning: Learning to Generate Online-Scalable Solutions from Offline-Optimal Experts
University of Cambridge（剑桥大学）；DEVCOM Army Research Laboratory（美国陆军作战能力发展司令部陆军研究实验室）
许多多机器人规划问题都受到维数灾难的困扰，这使得将解决方案应用于大规模问题实例的难度增加。在多机器人规划中使用基于学习的方法具有很大的希望，因为它使我们能够将昂贵但最佳的求解器的在线计算负担卸载到离线学习过程中。简单地说，这个想法是训练一个策略来复制一个小规模系统生成的最优模式，然后将该策略转移到更大的系统中，希望学习到的策略可以扩展，同时保持接近最优的性能。然而，一些问题阻碍了我们充分发挥这一想法的潜力。这份不切实际的文件阐述了仍然存在的一些关键挑战。
2021-07-26 cs.LG cs.MA cs.RO
OD-Gear: Online Decomposition and Group Sampling for Expert-Guided Adversarial Routing in Scalable Capacitated Vehicle Routing
School of Information Science（信息科学学院）；Guangdong Provincial Key Laboratory of Brain-Inspired Intelligent Computation, Department of CSE, SUSTech, Shenzhen 518055, P. R. China（脑启发智能计算广东省重点实验室、计算机科学与工程系、南方科技大学、深圳518055，中华人民共和国）
OD-DEAL通过结合混合遗传搜索和在线重心聚类分解，利用对抗学习实现高保真知识蒸馏，从而在大规模CVRP问题中实现高效、高质量的实时推断。
2026-08-11 cs.LG
Improved and Scalable Online Learning of Spatial Concepts and Language Models with Mapping
Ritsumeikan University（立命馆大学）；National Institute of Informatics（国立信息学研究所）；SOKENDAI (The Graduate University for Advanced Studies)（综合研究大学院大学）
我们提出了一种新的在线学习算法，称为SpCoSLAM 2.0，空间概念和词汇获取具有高精度和可扩展性。在此之前，我们提出SpCoSLAM作为一个在线学习算法的基础上，无监督贝叶斯概率模型，集成了多模态的地方分类，词汇获取，和SLAM。然而，我们的原始算法由于学习的早期阶段的影响而具有有限的估计精度，并且随着训练数据的增加而增加了计算复杂性。因此，我们引入了固定滞后恢复等技术来减少计算时间，同时保持比原始算法更高的精度。结果表明，在估计精度方面，所提出的算法超过了原算法，并与批学习相当。此外，所提出的算法的计算时间不依赖于训练数据的量，并成为常数的可扩展算法的每一步。我们的方法将有助于实现人类和机器人之间的长期空间语言交互。
2020-02-10 cs.AI cs.CL cs.LG
Online and Scalable Model Selection with Multi-Armed Bandits
Copilot AI；Xaxis
许多在实时流量上运行的在线应用程序都由机器学习模型提供支持，这些模型的训练、验证和超参数调整都是在历史数据上进行的。然而，在离线分析中表现出强大性能的模型在在线部署时通常会产生较差的性能。这个问题是在非平稳环境中训练历史数据的困难的结果。此外，用于模型选择的机器学习度量可能与用于确定被测试应用的成功的真实世界业务度量不充分相关。这些问题在实时竞价（RTB）领域尤为突出，其中ML模型为竞价策略提供动力，并且模型的变化可能会影响广告活动的性能。在这项工作中，我们提出了自动化模型分析（AMS），一个系统的可扩展的在线选择RTB投标策略的基础上，现实世界的性能指标。AMS采用多臂强盗（MAB）来几乎同时运行和评估多个模型对实时流量，分配最多的流量给最好的模型，同时减少流量给那些在线性能较差的模型，从而最大限度地减少劣质模型对整体活动性能的影响。避免了对离线数据的依赖，而是根据可操作的业务目标逐个进行模型选择。AMS允许新模型在开发完成后立即安全地引入到实时活动中，从而最大限度地降低整体性能的风险。在多个广告活动的实时流量测试中，AMS系统被证明在提高广告活动性能方面非常有效。
2021-01-25 cs.AI cs.LG
Adaptive Training Distributions with Scalable Online Bilevel Optimization
Apple（苹果公司）
本文提出一种基于在线双层优化的算法，通过优先计算能改善目标分布损失的梯度来调整预训练数据分布，在部分情况下优于现有领域适应策略，并提供了适用性测试方法。
2023-11-20 cs.CL cs.LG
Scalable Online Disease Diagnosis via Multi-Model-Fused Actor-Critic Reinforcement Learning
Tsinghua University（清华大学）
对于那些在线寻求医疗保健建议的人来说，基于AI的对话代理能够与患者互动以执行自动疾病诊断是一个可行的选择。这种应用需要有效地查询相关疾病症状，以便做出准确的诊断建议。这可以被公式化为连续特征（症状）选择和分类的问题，其中强化学习（RL）方法已经被提出作为自然解决方案。当特征空间很小时，也就是说，症状和可诊断疾病类别的数量有限时，它们表现良好，但它们在分配大量特征时经常失败。为了解决这一挑战，我们提出了一个多模型融合演员-评论家（MMF-AC）RL框架，该框架由生成演员网络和诊断评论家网络组成。演员结合了一个变分自编码器（VAE）的不确定性建模引起的部分观察功能，从而促进在作出适当的查询。在评价器网络中，一个用于疾病预测的监督诊断模型被涉及到精确地估计状态价值函数。此外，受鉴别诊断的医学概念的启发，我们结合了生成和诊断模型，创建一个新的奖励塑造机制，以解决大搜索空间中的稀疏奖励问题。我们对合成和真实世界的数据集进行了广泛的实验，以进行实证评估。结果表明，我们的方法在诊断准确性和交互效率方面优于最先进的方法，同时也更有效地扩展到大搜索空间。此外，我们的方法适用于分类和连续特征，使其成为在线应用的理想选择。
2022-06-08 cs.LG
RoS-Guard: Robust and Scalable Online Change Detection with Delay-Optimal Guarantees
针对现有在线变化检测（OCD）方法依赖精确系统知识且大规模场景效率低的问题，提出鲁棒可扩展的RoS-Guard算法，通过优化问题重构与神经展开实现GPU并行加速，提供延迟最优保证，在大规模系统中兼具有效性与计算效率。
2025-11-17 cs.AI cs.LG
Fast Online "Next Best Offers" using Deep Learning
TCS Research（塔塔咨询服务公司研究院）
在本文中，我们提出了iPrescribe，一个可扩展的低延迟架构，用于在在线环境中推荐“下一个最佳产品”。本文介绍了iPrescribe的设计，并比较其性能的实现使用不同的实时流技术栈。iPrescribe使用深度学习和机器学习算法的集成进行预测。我们描述了可扩展的实时流技术栈和优化的机器学习实现，以实现38毫秒的第90百分位推荐延迟。优化包括一种新的机制，可以有效地部署周期性长短期记忆（LSTM）深度学习网络。
2019-05-31 cs.DC cs.LG cs.PF
OnlineSTL: Scaling Time Series Decomposition by 100x
Splunk（Splunk公司）；Pinecone（Pinecone公司）
将复杂的时间序列分解为趋势、季节性和剩余分量是一个重要的原语，它有助于时间序列异常检测、变点检测和预测。虽然已知许多批处理算法用于时间序列分解，但是没有一个在高吞吐量和实时响应至关重要的在线可扩展设置中运行良好。在本文中，我们提出了OnlineSTL，一种新的在线算法的时间序列分解，这是高度可扩展的，部署在高分辨率，高摄取率的数据的实时指标监测。在不同的合成和真实世界的时间序列数据集上的实验表明，OnlineSTL在保持分解质量的同时实现了数量级的加速（100倍）。
2022-08-04 cs.DB cs.LG
Towards Efficient and Scalable Acceleration of Online Decision Tree Learning on FPGA
Hong Kong University of Science and Technology（香港科技大学）；Indian Institute of Technology (IIT) Goa（印度理工学院果阿分校）
决策树是各种应用场景中常用的机器学习模型。在大数据时代，传统的决策树归纳算法由于对数据存储的严格要求而不适合学习大规模数据集。在线决策树学习算法已被设计来解决这个问题，同时训练与传入的样本，并提供推理结果。然而，即使是最新的在线树学习算法仍然遭受高内存使用或高计算强度与依赖性和长延迟，使它们具有挑战性的硬件实现。为了克服这些困难，我们引入了一个新的基于分位数的算法，以改善归纳的Hoeffding树，一个国家的最先进的在线学习模型。所提出的算法是轻量级的内存和计算需求，同时仍然保持较高的泛化能力。从硬件的角度研究了一系列针对该算法的优化技术，包括粗粒度和细粒度并行、动态和基于内存的资源共享、带数据转发的流水线等。我们进一步提出了一个高性能，硬件高效和可扩展的在线决策树学习系统的现场可编程门阵列（FPGA）与系统级优化技术。实验结果表明，我们提出的算法优于国家的最先进的Hoeffding树学习方法，导致0.05%至12.3%的提高推理精度。完整学习系统在FPGA上的实际实现表明，与最先进的设计相比，执行时间加快了384倍至1581倍。
2020-09-03 cs.DC cs.LG
Scalable Audience Reach Estimation in Real-time Online Advertising
Turn Inc（Turn公司）
近年来，在线广告已被引入作为最有效的广告方法之一。然而，广告商关心他们的在线广告活动的效率，并且因此想要将他们的广告印象限制到某些网站和/或某些受众群体。这些限制称为目标标准，限制了更好性能的可达性。可达性和性能之间的这种权衡说明了对可以快速预测/估计（具有良好准确性）这种权衡的预测系统的需要。设计这样一个系统是具有挑战性的，因为（a）需要处理大量的数据，以及（b）需要快速和准确的估计。在本文中，我们提出了一个分布式容错系统，可以快速生成这样的估计具有良好的精度。其主要思想是在多台机器的内存中保留一个小的代表性样本，并将预测问题制定为对样本的查询。关键的挑战是在过去的数据中找到最好的分层，执行多变量分层抽样，同时确保模糊回退以覆盖少数群体。我们的研究结果表明，一个显着的改善，目前广泛使用的行业中的均匀和简单的分层抽样策略。
2013-05-14 cs.DB cs.LG
Context-aware, Adaptive and Scalable Android Malware Detection through Online Learning (extended version)
Nanyang Technological University（南洋理工大学）
众所周知，Android恶意软件不断发展，以逃避检测。这导致整个恶意软件群体是不稳定的。与此事实相反，大多数基于机器学习的Android恶意软件检测的现有工作都假设所观察到的恶意软件特征的分布（即，特征）不随时间改变。在这项工作中，我们解决的问题，恶意软件的人口漂移，并提出了一种新的在线学习为基础的框架来检测恶意软件，CASANDIX（Contextaware，自适应和可扩展的ANDRoid mAlware检测器）。为了执行准确的检测，提出了一种新的图内核，便于捕获应用程序的安全敏感行为以及它们的上下文信息从依赖图。除了准确性和可扩展性之外，CASANTR还具有特定的优势：i）适应恶意软件功能随时间的演变，ii）解释导致应用程序分类为恶意或良性的重要功能。在一个大规模的比较分析中，CASANTOWN在基准数据集上的表现优于两种最先进的技术，达到99.23%的F-测量。当使用在野外收集的87，000多个应用程序进行评估时，CASANTOWN实现了89.92%的准确率，在典型的批处理学习设置中比现有技术高出25%以上，在持续保留时高出7%以上，同时保持了相当的效率。
2017-07-06 cs.CR cs.LG cs.SE
Scalable Online Exploration via Coverability
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出探索目标框架及新目标 $L_1$-Coverage，通过 $L_1$-Coverability 控制内在复杂度并兼容标准策略优化，为低可覆盖性 MDP 提供了首批高效在线强化学习算法，有效驱动状态空间探索。
2024-06-04 cs.LG math.OC stat.ML
Profit over Proxies: A Scalable Bayesian Decision Framework for Optimizing Multi-Variant Online Experiments
Manipal Academy of Higher Education（马尼帕尔高等教育学院）
针对A/B/n实验中p值窥视和代理指标误导利润的问题，提出融合转化与交易价值建模、期望损失停止规则的可扩展贝叶斯决策框架。
2025-09-16 cs.LG stat.AP stat.ML
SRTFD: Scalable Real-Time Fault Diagnosis through Online Continual Learning
Chongqing University（重庆大学）；Nanyang Technological University（南洋理工大学）；University of Sri Jayewardenepura（斯里兰卡贾夫纳大学）；Shanghai Jiao Tong University（上海交通大学）
针对现有深度学习故障诊断方法难适配工业新故障、动态工况等需求，以及在线持续学习存在的数据冗余、不平衡、标注少的问题，提出含三项增强机制的SRTFD可扩展实时故障诊断框架，经多数据集验证其有效且具备工业应用潜力。
2024-08-11 cs.AI cs.LG
Scalable Bayesian Optimization via Focalized Sparse Gaussian Processes
Tsinghua University（清华大学）；Google DeepMind（谷歌DeepMind）
本文提出聚焦GP和FocalBO方法，通过稀疏高斯过程提升贝叶斯优化效率，实现对高维问题的高效优化。
2025-12-17 cs.LG stat.ML
Online and Stochastic Gradient Methods for Non-decomposable Loss Functions
Microsoft Research（微软研究院）；Indian Institute of Science（印度科学学院）
在敏感领域的现代应用，如生物识别和医学经常需要使用不可分解的损失函数，如精度@k，F-测量等相比，点损失函数，如铰链损失，这些提供了更细粒度的控制预测，但在同一时间提出了新的挑战，在算法设计和分析。在这项工作中，我们发起了在线学习技术的研究，这样的不可分解的损失函数的目的是使增量学习，以及设计可扩展的批量问题求解器。为此，我们提出了一个在线学习框架，这样的损失函数。我们的模型享有几个很好的属性，其中主要是存在有效的在线学习算法与次线性遗憾和在线批量转换的界限。我们的模型是现有的点损失函数在线学习模型的可证明扩展。我们实例化两个流行的损失，prec@k和pAUC，在我们的模型中，并证明了他们两个的次线性遗憾界。我们的证明需要一个新的结构引理排名名单可能是独立的利益。然后，我们开发了可扩展的随机梯度下降求解不可分解的损失函数。我们证明了，对于满足一定的一致收敛性质（包括prec@k，pAUC和F-测度）的损失函数的大家庭，我们的方法可证明收敛到经验风险最小化。这种一致收敛的结果是不知道这些损失，我们建立这些使用新的证明技术。然后，我们在现实生活和基准数据集上进行了广泛的实验，以确定我们的方法可以比最近提出的切割平面方法快几个数量级。
2014-10-24 cs.LG stat.ML
Fully scalable online-preprocessing algorithm for short oligonucleotide microarray atlases
University of Helsinki（赫尔辛基大学）；Wageningen University（瓦赫宁根大学）；European Bioinformatics Institute（欧洲生物信息学研究所）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；University of Turku（图尔库大学）；Turku Centre for Biotechnology（图尔库生物技术中心）
标准化数据收集的积累为基因组功能的整体表征开辟了新的机会。然而，目前的预处理技术的可扩展性有限，形成了一个瓶颈，充分利用当代微阵列集合。虽然短寡核苷酸阵列构成了全基因组分析数据的主要来源，但可扩展的探针级预处理算法仅可用于基于来自受限参考训练集的预先计算的模型参数的少数测量平台。为了克服这些关键的限制，我们引入了一个完全可扩展的在线学习算法，提供工具来处理大型微阵列图谱，包括数以万计的阵列。与替代方案不同，所提出的算法相对于样本大小在线性时间内扩展，并且容易适用于所有短寡核苷酸平台。这是唯一可用的预处理算法，可以学习探针级参数的基础上连续的超参数更新小，连续批次的数据，从而规避了标准方法的广泛的内存要求，并开辟了新的机会，充分利用当代微阵列数据收集。此外，使用最全面的数据收集来估计探针水平效应可以帮助确定受各种偏差影响的单个探针，并提供新的工具来指导阵列设计和质量控制。该实现可在R/Bioconductor中免费获得，网址为http://www.bioconductor.org/packages/devel/bioc/html/RPA.html
2012-12-27 cs.CE cs.LG q-bio.GN
Scalable Decision Focused Learning via Online Trainable Surrogates
University of Bologna（博洛尼亚大学）
本文提出了一种基于在线可训练替代者的决策聚焦学习方法，通过减少昂贵的损失函数评估来提升可扩展性，同时保持解决方案质量。
2025-12-03 cs.AI cs.LG
Large-scale Online Feature Selection for Ultra-high Dimensional Sparse Data
Singapore Management University（新加坡管理大学）；Microsoft Research（微软研究院）
大规模高维数据的特征选择在机器学习和数据采掘中具有重要的意义和挑战性。在线特征选择是一种比批处理特征分割方法更有效、更可扩展的新方法，但现有的在线特征选择方法与批处理方法相比往往效率较低。在本文中，我们提出了一种新的二阶在线特征选择计划，是简单而有效的，非常快速和极具可扩展性，以处理大规模的超高维稀疏数据流。其基本思想是改进现有的一阶在线特征选择方法，利用二阶信息选择具有高置信度权重的重要特征子集。然而，不像许多二阶学习方法，往往遭受额外的高计算成本，我们设计了一种新的智能算法二阶在线特征选择使用基于MaxHeap的方法，这不仅是更有效的比现有的一阶方法，但也显着更有效和可扩展的大规模特征选择与超高维稀疏数据，从我们广泛的实验验证。令人印象深刻的是，在一个十亿规模的合成数据集（10亿个维度，10亿个非零特征和100万个样本）上，我们的新算法在一台PC上只花了8分钟，比传统的批处理方法快了几个数量级。\url{http://arxiv.org/abs/1409.7794}
2015-11-19 cs.CV cs.LG
Online Graph-Adaptive Learning with Scalability and Privacy
University of Minnesota（明尼苏达大学）；Delft University of Technology（代尔夫特理工大学）
图被广泛用于复杂系统的建模，包括金融、生物和社交网络。网络中的节点通常需要属性，例如社交网络中用户的年龄或性别。然而，现实世界的网络可以具有非常大的尺寸，并且节点属性对于多个节点可能是不可用的，例如，因为隐私问题。此外，随着时间的推移，可能会出现新的节点，这可能需要对其节点属性进行实时评估。在这种情况下，本文处理的节点属性的可扩展学习估计的节点函数的基础上，在一个子集的节点的噪声观测。一个基于多核的方法是可扩展的大型网络。与大多数现有的方法，重新解决所有现有的节点，每当一个新的节点加入网络的函数估计问题，新的方法是能够提供新加入的节点上的函数值的实时评估，而不诉诸于一个批处理求解器。有趣的是，新方案只依赖于每个节点的连接的加密版本，以学习节点的属性，这促进了隐私。在合成数据集和真实数据集上的实验证实了所提方法的有效性。
2018-12-03 cs.LG stat.ML
Bandit Convex Optimization for Scalable and Dynamic IoT Management
University of Minnesota（明尼苏达大学）
本文研究了同时具有时变损失函数和时变约束的在线凸优化问题。损失函数对学习者来说是不完全可访问的，相反，只有函数值（也称为“损失函数”）是可访问的。Bandit反馈）在查询点处被揭示。这些约束在决策后会被揭示出来，可能会在瞬间被违反，但从长远来看，它们必须得到满足。这种设置非常适合新兴的在线网络任务，例如物联网（IoT）中的雾计算，其中在线决策必须灵活地适应不断变化的用户偏好（损失函数）以及资源的时间不可预测的可用性（约束）。针对损失函数难以建模的人在回路系统，提出了一种基于损失函数的（可能是多个）Bandit反馈和环境变化自适应调整在线操作的Bandit在线鞍点（BanSaP）算法.这里的性能评估：i）动态遗憾，概括了广泛使用的静态遗憾;和，ii）适合捕获的限制违反的累积量。具体而言，BanSaP被证明同时产生次线性动态遗憾和适合，提供的最佳动态解决方案随时间缓慢变化。雾计算卸载任务中的数值测试证实，我们提出的BanSaP方法相对于现有的基于梯度反馈的方法提供了有竞争力的性能。
2017-07-27 cs.LG cs.NI
Online Change Point Detection in Molecular Dynamics With Optical Random Features
LightOn
蛋白质是由不断波动的原子组成的，但偶尔会发生大规模的变化。这种转变具有生物学意义，将蛋白质的结构与其在细胞中的功能联系起来。原子级模拟，如分子动力学（MD），被用来研究这些事件。然而，分子动力学模拟产生具有多个可观测量的时间序列，而变化通常只影响其中的一小部分。因此，检测构象变化已被证明是具有挑战性的大多数变化点检测算法。在这项工作中，我们专注于识别这样的事件给出了许多嘈杂的观测。特别是，我们表明，无先验知识指数加权移动平均（NEWMA）算法可以用于沿光学硬件，以成功地识别这些变化的实时性。我们的方法不需要区分蛋白质的背景和蛋白质本身。对于更大的模拟，它比使用传统的硅硬件更快，并且具有更低的内存占用。该技术可以增强分子构象空间的采样。它也可以用于检测其他具有大量特征的连续数据中的变点。
2020-06-17 cs.LG physics.comp-ph
Scalable Decentralized Algorithms for Online Personalized Mean Estimation
Politecnico di Torino（都灵理工大学）；INRIA（法国国家信息与自动化研究所）
针对在线个性化均值估计中现有去中心化算法复杂度随智能体数量二次增长的问题，提出基于自组织图的两种可扩展协作算法，并证明其渐近最优性。
2025-02-19 cs.DC cs.LG
A scalable noisy speech dataset and online subjective test framework
Microsoft Corp.（微软公司）
背景噪声是互联网协议语音（VoIP）和公共交换电话网（PSTN）呼叫中质量损害的主要来源。最近的工作显示了深度学习对噪声抑制的功效，但与其他领域（例如，ImageNet）和相关的评估更加集中。为了更好地促进语音增强中的深度学习研究，我们提出了一个带噪语音数据集（MS-SNSD），该数据集可以根据扬声器的数量、噪声类型和所需的语音噪声比（SNR）水平扩展到任意大小。我们表明，增加数据集的大小增加了噪声抑制性能的预期。此外，我们提供了一个开源的评估方法，使用众包对结果进行主观评估，并使用参考算法对结果进行标准化。为了证明数据集和评估框架，我们将其应用于几个噪声抑制器，并将主观平均意见得分（MOS）与客观质量指标（如SNR，PESQ，POLQA和VISQOL）进行比较，并说明为什么仍然需要MOS。我们的主观MOS评估是我们所知道的第一次对语音增强算法进行大规模评估。
2019-09-17 cs.LG cs.SD eess.AS
Scalable Maximum Entropy Reinforcement Learning for Diffusion Policies via Adjoint Matching
Autonomous Learning Robots, Karlsruhe Institute of Technology（自主学习机器人，卡尔斯鲁厄理工学院）
提出伴随匹配方法，实现无需模拟训练的扩散策略优化，降低计算开销，使扩散策略适用于在线强化学习。
2026-06-23 cs.LG
Scalable 3D Reconstruction From Single Particle X-Ray Diffraction Images Based on Online Machine Learning
Stanford University（斯坦福大学）；SLAC National Accelerator Laboratory（SLAC国家加速器实验室）
本文提出X-RAI在线重建框架，结合卷积编码器与基于物理的隐式神经表示解码器，实现大规模单粒子X射线衍射图像的高质量三维重建，支持百万级数据集处理。
2023-12-22 cs.CV cs.LG q-bio.BM
Estimating Bidirectional Causal Effects with Large Scale Online Kernel Learning
Japan Society for the Promotion of Science（日本学术振兴会）
提出一种可扩展的在线核学习框架，结合异方差识别和拟极大似然估计，用于估计存在相互依赖和异方差系统中的双向因果效应，并通过随机傅里叶特征和自适应在线梯度下降实现高效计算。
2026-06-02 cs.LG stat.ME stat.ML
ESSA: Evolutionary Strategies for Scalable Alignment
T-Tech
ESSA通过进化策略实现大规模LLM对齐，无需梯度优化，提升模型准确率并减少计算开销。
2026-09-10 cs.LG
A Scalable Deep Reinforcement Learning Model for Online Scheduling Coflows of Multi-Stage Jobs for High Performance Computing
Sun Yat-sen University（中山大学）
Rolllow是最近提出的网络抽象，以帮助提高数据并行计算作业的通信性能。在多阶段作业中，每个作业由多个同流组成，并由有向无环图（DAG）表示。有效地调度同向流是提高数据中心数据并行计算性能的关键。与手工调整的调度策略相比，现有的工作DeepWeave [1]利用强化学习（RL）框架自动生成高效的coflow调度策略。它采用图神经网络（GNN）编码的嵌入向量的集合中的作业信息，并提供一个平面嵌入向量包含整个作业信息的策略网络。然而，这种方法具有较差的可扩展性，因为它不能处理由任意大小和形状的DAG表示的作业，这需要大的策略网络来处理难以训练的高维嵌入向量。在本文中，我们首先利用一个有向无环图神经网络（DAGNN）处理输入，并提出了一种新的流水线DAGNN，它可以有效地加快DAGNN的特征提取过程。然后，将由可分解的共流组成的嵌入序列作为策略网络的嵌入序列，输出优先级序列，使得策略网络的大小仅取决于特征的维数，而不取决于维数与作业DAG中节点数的乘积。我们将自注意力机制结合到深度RL模型中，以捕获嵌入序列的不同部分之间的交互，从而使输出优先级分数相关。在此模型的基础上，我们提出了一个在线多阶段作业的同流调度算法。
2021-12-21 cs.DC cs.LG
A Scalable Recommendation Engine for New Users and Items
Duke University（杜克大学）；University College London（伦敦大学学院）
在许多数字环境中，诸如在线新闻和具有许多新用户和项目的电子零售，推荐系统面临若干挑战：冷启动问题），ii）如何学习用户对项目的偏好（测试和学习），以及iii）如何在具有无数人口统计和属性的许多用户和项目之间进行缩放。虽然许多推荐系统适应这些挑战的各个方面，但几乎没有解决所有问题的系统。本文介绍了一个协同过滤（CF）多臂强盗（B）与属性（A）推荐系统（CFB-A），以共同适应所有这些考虑。包括对MovieLens数据的离线测试、合成数据模拟和在线杂货店实验的经验应用表明，CFB-A导致累积平均奖励（例如，花费的总金钱或时间、点击次数、购买数量、平均评分等）相对于现存最强大的基线方法。
2023-02-27 cs.IR cs.LG
Scalable Machine Learning Training Infrastructure for Online Ads Recommendation and Auction Scoring Modeling at Google
Google LLC（谷歌有限责任公司）
本文针对Google广告推荐与拍卖评分模型训练中的输入生成、嵌入表及中断处理三大挑战，提出共享输入生成、分区流水线及抢占通知等机制，实现116%性能提升和18%成本降低。
2025-01-17 cs.AI cs.DC cs.LG
Dirichlet-Survival Process: Scalable Inference of Topic-Dependent Diffusion Networks
Université de Lyon（里昂大学）；ERIC UR 3083（埃里克研究单位3083）
网络上的信息传播可以通过考虑三个特征来有效地建模：文档的内容，相对于其他出版物的出版时间，以及传播者在网络中的位置。大多数以前的作品模型，其中两个联合，或依赖于严重的参数化方法。基于最近的Dirichlet点过程文献，我们引入了Houston（隐藏在线用户主题网络）模型，该模型在非参数无监督框架中共同考虑了所有这些特征。它推断动态主题相关的基础扩散网络在连续时间设置以及所述主题。它是无监督的;它将形状为\textit{(time of publication, information's content, spreading entity)}的未标记三元组流视为输入数据。在线推理使用顺序蒙特卡罗算法进行，该算法随数据集的大小线性缩放。我们的方法产生相应的改进，在现有的基线上的集群恢复和子网推理任务。
2022-12-12 cs.IR cs.LG cs.SI
A Scalable Hybrid Training Approach for Recurrent Spiking Neural Networks
Institute of Machine Learning and Neural Computation, Graz University of Technology, Austria（机器学习与神经计算研究所，格拉茨技术大学）
针对循环脉冲神经网络现有训练方法的局限，提出结合并行化与近似在线前向学习的HYPR方法，实现高吞吐量在线学习与恒定内存消耗，大幅缩小与BPTT的性能差距。
2025-06-17 cs.AI cs.LG cs.NE
Online Matching: A Real-time Bandit System for Large-scale Recommendations
Google Deepmind（谷歌DeepMind）；Google Inc（谷歌公司）
本文提出Online Matching，一个可扩展的闭环Bandit系统，通过混合“离线+在线”方法和Diag-LinUCB算法实现实时分布式参数更新，在YouTube实验中有效提升了新内容发现与物品探索能力。
2023-07-29 cs.LG
Decentralized Online Ensembles of Gaussian Processes for Multi-Agent Systems
Stony Brook University（石溪大学）
针对多智能体系统中贝叶斯去中心化学习方案有限的问题，提出完全去中心化、渐近精确的高斯过程随机特征近似方法，并结合基于在线贝叶斯模型平均的集成方案解决超参数选择，在数据集上与贝叶斯及频率主义方法测试对比。
2025-02-07 cs.LG cs.MA eess.SP
Scalable Multi-view Clustering via Explicit Kernel Features Maps
CDC Informatique（信息科技公司）
本文提出一种可扩展的多视图聚类方法，通过显式核特征映射和非迭代优化策略，提升大规模数据集的聚类效率和准确性。
2026-01-22 cs.LG
ActPC-Geom: Towards Scalable Online Neural-Symbolic Learning via Accelerating Active Predictive Coding with Information Geometry & Diverse Cognitive Mechanisms
SingularityNET（奇点网络）；TrueAGI（真智能）
本文提出 ActPC-Geom，用 Wasserstein 度量、神经近似、kPCA 与超向量/FCA 格机制加速 ActPC，实现可扩展的实时在线神经-符号学习与少样本审慎推理。
2025-01-08 cs.AI cs.LG cs.NE
Scalable Real-Time Recurrent Learning Using Columnar-Constructive Networks
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所（Amii））
提出两种约束条件使RTRL随参数数量线性扩展，通过分解网络或分阶段学习避免梯度噪声与偏差，在预测基准和Atari 2600策略评估中优于Truncated-BPTT。
2023-11-21 cs.AI cs.LG
