Derivative Delay Embedding: Online Modeling of Streaming Time Series
University of Tenneessee(田纳西大学)
来自现实世界的惊人数量的流时间序列需要更高效和有效的在线建模解决方案。对于时间序列建模,大多数现有的工作做了一些不切实际的假设,如输入数据是固定的长度或对齐,这需要额外的努力分割或规范化的原始流数据。虽然一些文献声称他们的方法是不变的数据长度和错位,他们太耗时的流时间序列建模在线的方式。我们提出了一种新的和更实用的在线建模和分类方案,DDE-MGM,它不对时间序列做任何假设,同时保持高效率和最先进的性能。微分延迟嵌入(DDE)的发展,以增量方式将时间序列的嵌入空间,其中的数据的固有特性被保存为递归模式,而不管流的长度和错位。然后,提出了一种非参数马尔可夫地理模型(MGM)的模型和分类的模式在网上的方式。实验结果表明,所提出的DDE-MGM的有效性和优越的分类精度在在线设置相比,国家的最先进的。
2016-09-24 cs.LG
Collaborative Streaming Anomaly Detection with Interactive Explanations and Ensemble Consensus
GECAD, ISEP, Polytechnic of Porto(波尔图理工学院,ISEP,GECAD);SISTRADE Software Consulting(SISTRADE软件咨询公司)
该系统通过异构检测器加权共识与替代模型解释,将人类分析师纳入决策循环,在工业数据流上实现稳健异常检测与可操作交互。
2026-09-22 cs.LG
LOFS: Library of Online Streaming Feature Selection
University of South Australia(南澳大学);University of Massachusetts Boston(马萨诸塞大学波士顿分校);University of Vermont(佛蒙特大学)
作为一个新兴的研究方向,在线流特征选择处理的是在一个特征空间中连续增加的维度,而数据实例的数量是固定的。在线流特征选择提供了一种新的、互补的算法方法来丰富在线特征选择,特别是针对大数据分析中的高维度。本文介绍了第一个在MATLAB中使用的全面的开源库,它实现了在线流特征选择的最新算法。该库旨在促进这一令人兴奋的研究方向的新算法的开发,并在新方法和现有方法之间进行比较。
2016-03-02 cs.LG stat.ML
Don't Think It Twice: Exploit Shift Invariance for Efficient Online Streaming Inference of CNNs
EPFL(洛桑联邦理工学院);Embedded Systems Laboratory (ESL)(嵌入式系统实验室(ESL))
本文提出 StreamiNNC 策略,通过利用卷积平移不变性并解决零填充与池化对齐问题,实现重叠窗口 CNN 在线流式推理的线性加速,并在生物医学信号任务中验证了低偏差效果。
2024-08-06 cs.LG
Act Now: A Novel Online Forecasting Framework for Large-Scale Streaming Data
School of Information Science and Engineering, Shandong University(山东大学信息科学与工程学院);School of Control Science and Engineering, Shandong University(山东大学控制科学与工程学院);Ocean College, Jiangsu University of Science and Technology(江苏科技大学海洋学院);School of Qilu Transportation, Shandong University(山东大学齐鲁交通学院);Shandong Key Laboratory of Intelligent Communication and Sensing-Computing Integration(山东省智能通信与感知计算集成重点实验室)
针对现有在线预测方法存在信息泄露、概念漂移加剧、验证集缺失及GPU支持不足等问题,提出Act-Now框架,通过RSS算法、FSB/SSB双缓冲区更新、Lade模型及验证集在线更新,在大规模流数据上性能平均提升28.4%和19.5%。
2024-11-28 cs.LG
ROSFD: Robust Online Streaming Fraud Detection with Resilience to Concept Drift in Data Streams
National Institute of Technology(印度国家理工学院)
针对传统批处理难以捕捉流数据中欺诈模式快速演变的问题,提出ROSFD框架,通过离线模型初始化解决冷启动问题,结合实时漂移检测实现模型自适应,在五个数据集中的四个取得最高AUC,减少重新训练次数且不影响性能。
2025-04-14 cs.LG
Online Variance Reduction for Domain Adaptation on Streaming Data
University of Southampton(南安普顿大学)
研究流数据域适应的随机方差缩减问题,提出在线SVR算法ARROW,通过维护移动平均参考和自适应重新加权小批量数据,使小批量与参考统计量对齐,实验表明该算法在运行时间、方差缩减及目标域准确性方面与离线算法相当。
2026-07-23 cs.LG
ODEStream: A Buffer-Free Online Learning Framework with ODE-based Adaptor for Streaming Time Series Forecasting
RMIT University(皇家墨尔本理工大学);University of New South Wales(新南威尔士大学)
本文提出ODEStream无缓冲持续学习框架,结合时间隔离层与神经常微分方程处理不规则流式时间序列,通过学习序列动态变化实现优于现有在线学习基线的长期准确预测。
2025-04-09 cs.LG
Online Kernel Dynamic Mode Decomposition for Streaming Time Series Forecasting with Adaptive Windowing
University of Washington(华盛顿大学)
针对流式数据实时预测中的非平稳与计算限制挑战,提出WORK-DMD方法,结合随机傅里叶特征与在线动态模式分解及滚动窗口Sherman-Morrison更新,实现单次遍历、固定成本的高精度预测,尤其擅长短期预测,为深度学习提供高效替代。
2025-10-17 cs.LG
Online Sparse Streaming Feature Selection Using Adapted Classification
Southwest University(西南大学)
传统的特征选择需要在学习之前知道特征空间,而在线流特征选择(OSFS)被提出来动态地处理流特征。现有方法在不丢失数据的情况下将特征分为相关和不相关,删除不相关特征可能导致信息丢失。基于此,本文重点研究了流特征矩阵的构造和特征相关性的划分,提出了基于自适应分类的在线稀疏流特征选择算法(OS 2FS-AC)。本研究使用潜在因素分析(LFA)来预估缺失数据。此外,我们使用自适应的方法来获得阈值,将特征分为强相关,弱相关和不相关的特征,然后再划分弱相关与更多的信息。在10个真实数据集上的实验结果表明,OS 2FS-AC的性能优于现有算法。
2023-02-25 cs.AI cs.LG
ORIS: Online Active Learning Using Reinforcement Learning-based Inclusive Sampling for Robust Streaming Analytics System
George Mason University(乔治梅森大学);Amazon(亚马逊公司)
针对流分析系统中标记数据收集的挑战,提出ORIS方法,通过基于强化学习的包容性采样进行在线主动学习,在情感识别任务中其人类标记性能和模型性能均优于传统基线。
2024-11-27 cs.LG
Streaming data preprocessing via online tensor recovery for large environmental sensor networks
Vanderbilt University(范德堡大学)
现在,通过低成本的城市环境传感器网络,可以在细粒度的范围内测量建筑和自然环境。然而,细粒度的城市规模的数据分析是复杂的繁琐的数据清理,包括删除离群值和填补缺失数据。虽然有许多方法可以自动纠正异常情况和估算缺失条目,但在大时空尺度和变化模式的数据方面仍然存在挑战。为了应对这些挑战,我们提出了一种在线鲁棒张量恢复(OLRTR)方法来预处理流高维城市环境数据集。一个小规模的字典,捕捉数据的基础模式进行计算,并不断更新新的数据。OLRTR能够为提供连续数据流的大规模传感器网络实现在线恢复,与离线批处理相比,其计算内存使用量更低。此外,我们制定的目标函数,使OLRTR可以检测结构化的离群值,如错误的读数在很长一段时间。我们验证OLRTR的综合退化的国家海洋和大气管理局温度数据集,恢复误差为0.05,并将其应用到物联网的城市规模的传感器网络在芝加哥,IL的阵列,显示优越的结果相比,几个建立在线和批量为基础的低秩分解方法。
2021-09-01 cs.LG
Pitfalls of Unlabeled Disagreement-Based Drift Detection in Streaming Tree Ensembles
GECAD, ISEP, Polytechnic of Porto(GECAD,ISEP,波尔图理工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究探讨了在高速数据流中使用未标记数据进行漂移检测的挑战,发现基于不一致的不确定性方法在集成增量决策树中表现欠佳,归因于IDTs的固有刚性。
2026-05-12 cs.LG
Scheduling to Learn In An Unsupervised Online Streaming Model
TIFR, Mumbai(孟买塔塔基础研究院);IIT-Bombay(印度理工学院孟买分校)
一个无监督的在线流模型被认为是在$T$插槽的样本到达在线的方式。存在$M$分类器,其混淆矩阵先验未知。在每个槽中,最多一个样本可以由任何分类器标记。样本的准确性是从各种分类器中为其获得的标签集的函数。样本的效用是其精度减去响应时间(离开时隙和到达时隙的差)的标量倍数,其中离开时隙也由算法决定。由于每个分类器每个时隙最多可以标记一个样本,因此在为特定样本获得更大的标签集合以提高其准确性与其响应时间之间存在折衷。最大化所有样本的效用之和的问题被认为是,学习混淆矩阵,样本分类器匹配分配,和样本离开槽决定相互依赖。该算法首先学习混淆矩阵,然后使用贪心算法进行样本分类器匹配。一旦样本的增量效用变为非正,样本就会离开。我们证明了该算法的竞争比是$\frac{1}{2}-{\mathcal O}\left(\frac{\log T}{T}\right)$。
2021-12-02 cs.LG
Online Deep Learning from Doubly-Streaming Data
Old Dominion University(奥多明尼昂大学);University of Pennsylvania(宾夕法尼亚大学)
本文研究了一个新的在线学习问题与双流数据,其中的数据流描述的特征空间,不断演变,新的功能出现和旧的功能消失。这个问题的挑战有两个方面:1)随着时间的推移,不断流入的数据样本可能会携带变化的模式,需要学习者进行更新,从而适应动态。2)新出现的特征由很少的样本描述,导致弱学习者倾向于做出错误预测。克服这些挑战的一个合理的想法是建立前后演化特征空间之间的关系,以便在线学习者可以利用从旧特征中学到的知识来改善新特征的学习性能。不幸的是,这个想法不能扩展到具有复杂特征相互作用的高维媒体流,这在在线性(偏向浅学习者)和表达性(需要深度学习者)之间进行权衡。基于此,我们提出了一种新的OLD^3S范式,在该范式中,发现了一个共享的潜在子空间来总结新旧特征空间的信息,建立中间特征映射关系。OLD^3S的一个关键特性是将模型容量视为可学习的语义,根据输入数据流的复杂性和非线性,以在线方式联合产生最佳模型深度和参数。理论分析和实证研究证实了我们的建议的可行性和有效性。
2022-09-14 cs.LG
Multi-Modal Machine Learning for Assessing Gaming Skills in Online Streaming: A Case Study with CS:GO
本研究针对在线直播游戏技能评估需求,清理数据集缺陷后提出多模态端到端模型变体学习联合表示,验证了有效性同时发现模型易识别用户而非学习有效表示,指明后续研究方向。
2023-07-23 cs.CV cs.LG
Online Cluster Validity Indices for Streaming Data
School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院)
聚类分析被广泛应用于探索未标记数据集的结构。聚类分析的一个重要部分是验证计算获得的聚类的质量。已经开发了大量不同的内部指数,用于在离线设置中进行验证。然而,这一概念尚未扩展到在线环境。一个关键的挑战是找到一个有效的增量制定的索引,可以捕获的凝聚力和分离的集群在潜在的无限数据流。在本文中,我们开发了两个在线版本(有和没有遗忘因子)的谢-贝尼和戴维斯-博尔丁内部有效性指标,并分析其特点,使用两个流聚类算法(SK-均值和在线椭球聚类),并说明其用于监测不断变化的集群流数据。我们还表明,增量集群有效性指数能够发送一个遇险信号,在线监视器时,不断发展的集群出错。数值算例表明,带遗忘因子的增量Xie-Beni指数优于其他三个指数。
2018-01-08 cs.LG stat.ML
Streaming Gibbs Sampling for LDA Model
University of California Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
流变分贝叶斯(SVB)是成功的学习LDA模型在线的方式。然而,以前的尝试发展在线蒙特卡罗方法LDA几乎没有成功,往往有更糟糕的困惑比他们的批处理同行。我们提出了一个流吉布斯采样(SGS)的方法,一个在线扩展的崩溃吉布斯采样(CGS)。我们的实证研究表明,SGS可以达到与CGS相似的困惑,远远优于SVB。我们的分布式SGS版本DSGS比SVB更具可伸缩性,主要是因为更新的通信复杂性很小。
2016-01-06 cs.LG stat.ML
Particle swarm optimization for online sparse streaming feature selection under uncertainty
Chongqing University of Posts and Telecommunications(重庆邮电大学);Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences(中国科学院重庆绿色智能技术研究院)
针对在线稀疏流式特征选择中特征-标签关系不确定和数据不完整问题,提出融合粒子群优化与三支决策的POS2FS框架,在六个真实数据集上验证其优于现有OSFS和OS2FS方法。
2025-08-24 cs.AI cs.LG cs.NE
Online Structural Change-point Detection of High-dimensional Streaming Data via Dynamic Sparse Subspace Learning
Peking University(北京大学);Virginia Tech(弗吉尼亚理工大学);Shanghai Jiao Tong University(上海交通大学)
高维流数据在许多领域变得越来越普遍。它们通常位于多个低维子空间中,并且由于模式转移或异常的发生,流形结构可能在时间尺度上突然改变。然而,以实时方式检测结构变化的问题还没有得到很好的研究。为了填补这一空白,我们提出了一种动态稀疏子空间学习方法在线检测高维流数据的结构变化点。提出了一种新的多结构变点模型,并研究了估计量的渐近性质。提出了一种基于贝叶斯信息准则和变点检测精度的惩罚系数整定方法。提出了一种有效的基于剪枝精确线性时间的在线优化和变点检测算法。通过几个仿真研究和一个真实的案例研究手势数据的运动跟踪所提出的方法的有效性证明。
2022-04-12 cs.LG stat.ML
Online and Streaming Algorithms for Constrained $k$-Submodular Maximization
Boston University(波士顿大学);Northeastern University(东北大学)
本文针对基数约束和背包约束下的单调与非单调 k-子模最大化问题,提出了具有常数因子近似保证的单遍流式和在线组合算法,在近似比、空间和运行时间上均达到最优,并在广告分配等应用中验证了其高效性和可扩展性。
2023-05-25 cs.DS cs.LG
Streaming Normalization: Towards Simpler and More Biologically-plausible Normalizations for Online and Recurrent Learning
McGovern Institute(麦戈文研究所);MIT(麻省理工学院)
我们系统地探索了一系列与批量归一化(BN)相关的归一化算法,并提出了一个通用的公式,同时解决了BN的两个主要限制:(1)在线学习和(2)递归学习。我们的建议更简单,在生物学上更合理。与以前的方法不同,我们的技术可以开箱即用地应用于所有学习场景(例如,在线学习、批量学习、全连接、卷积、前馈、递归和混合-递归和卷积),并且与现有方法相比毫不逊色。我们还提出了Lp Normalization,用于通过不同阶的统计矩进行归一化。特别是,L1归一化性能良好,易于实现,计算速度快,生物学上更合理,因此非常适合GPU或硬件实现。
2016-10-19 cs.LG cs.NE
Online Enhanced Semantic Hashing: Towards Effective and Efficient Retrieval for Streaming Multi-Modal Data
Shandong University(山东大学)
随着多媒体设备和应用的蓬勃发展,大规模多模态数据的高效检索已成为一个热门的研究课题。其中,哈希算法由于其检索效率高、存储成本低而成为一种普遍的选择。虽然多模式哈希算法近年来引起了人们的广泛关注,但仍存在一些问题。第一点是,现有的方法主要是在批处理模式下设计的,不能有效地处理流多模态数据。第二点是,所有现有的在线多模式哈希方法都无法有效地处理与流数据块连续出现的看不见的新类。在本文中,我们提出了一个新的模型,称为在线增强语义haShing(OASIS)。我们设计了新的语义增强的数据表示,这可以帮助处理新的未来类,从而构建增强的语义目标函数。进一步提出了一种高效的离散在线优化算法。大量的实验表明,我们的方法可以超过国家的最先进的模型。为了良好的可重复性和造福社区,我们的代码和数据已经在补充材料中提供,并将公开提供。
2022-03-24 cs.LG cs.MM
Streaming Binary Sketching based on Subspace Tracking and Diagonal Uniformization
CEA(法国原子能和替代能源委员会);CNRS(法国国家科学研究中心)
在本文中,我们解决的问题,学习紧凑的相似性保持嵌入大量的高维数据流,以执行有效的相似性搜索。我们提出了一种新的在线方法来计算高维真实特征向量的二进制压缩表示(草图)。给定一个期望的代码长度$c$和高维输入数据点,我们的算法提供了一个$c$位的二进制代码,以保持从原始高维空间的点之间的距离。我们的算法既不需要存储整个数据集,也不需要存储块,因此它完全适应流媒体设置。它还提供低时间复杂度和收敛保证。我们证明了我们的二进制草图的质量,通过对真实数据的最近邻搜索任务在网上设置的实验。
2018-02-08 cs.LG
Burn After Reading: Online Adaptation for Cross-domain Streaming Data
University of Maryland(马里兰大学);Salesforce Research(Salesforce 研究院)
在在线隐私的背景下,许多方法提出了复杂的隐私和安全保护措施来保护敏感数据。在本文中,我们认为:不存储任何敏感数据是最好的安全形式。因此,我们提出了一个“阅后即焚”的在线框架,即每个在线样本在处理后立即删除。同时,我们解决了不可避免的分布偏移之间的标记的公共数据和未标记的私人数据作为无监督的领域自适应的问题。具体来说,我们提出了一种新的算法,旨在在线自适应设置的最根本的挑战-缺乏不同的源-目标数据对。因此,我们设计了一个跨域自举的方法,称为CroDoBo,以增加跨域的组合多样性。此外,为了充分利用不同组合之间的有价值的差异,我们采用了多个学习者与共同监督的培训策略。CroDoBo在四个领域自适应基准上实现了最先进的在线性能。
2021-12-08 cs.CV cs.LG
Adaptive Deep Forest for Online Learning from Drifting Data Streams
Virginia Commonwealth University(弗吉尼亚联邦大学)
从数据流中学习是当代数据采掘最重要的领域之一。对来自这些潜在无限数据源的信息进行在线分析,可以设计出能够适应连续数据流的反应式最新模型。虽然已经提出了大量的浅层方法来解决更简单的低维流问题,但几乎没有一个方法解决了从复杂的上下文数据(如图像或文本)中学习的问题。前者主要由自适应决策树表示,其已被证明在流场景中非常有效。后者主要通过离线深度学习来解决。在这项工作中,我们试图弥合这两个世界之间的差距,并提出自适应深森林(ADF)-一个成功的基于树的流分类器与深森林的自然结合,这代表了一个有趣的替代想法,从上下文数据学习。实验结果表明,深度森林方法可以有效地转化为在线算法,形成一个性能优于所有最先进的浅层自适应分类器的模型,特别是对于高维复杂流。
2020-10-14 cs.LG
Gibbs Sampling Strategies for Semantic Perception of Streaming Video Data
Woods Hole Oceanographic Institution(伍兹霍尔海洋研究所);McGill University(麦吉尔大学)
流传感器数据的主题建模可用于移动机器人对环境的高水平感知。在本文中,我们比较各种吉布斯采样策略的主题建模流时空数据,如视频捕获的移动机器人。与以往的在线主题建模,如o-LDA和增量LDA的工作相比,我们表明,所提出的技术的结果在较低的在线和最终的困惑,给定的实时约束。
2015-09-10 cs.LG cs.RO
Robust Streaming, Sampling, and a Perspective on Online Learning
Princeton University(普林斯顿大学)
本文概述统计学习与鲁棒流处理技术,并在统一框架下证明二者之间的深层关系,以启发在线学习及相关领域的新研究方向。
2023-12-04 cs.GT cs.LG stat.ML
Online Learning of Portfolio Ensembles with Sector Exposure Regularization
Technion – Israel Institute of Technology(以色列理工学院)
我们考虑投资组合选择算法的集合的在线学习,并旨在通过鼓励相对于预定义的风险驱动的股票分组的多样化来规范风险。我们的程序使用在线凸优化来控制资本分配到基础投资算法,同时鼓励在给定的分组非稀疏。我们证明了这个过程中的最佳事后合奏的对数遗憾。我们应用的程序与已知的均值回归投资组合选择算法,使用标准的GICS行业部门分组。实证实验结果表明,风险调整后的回报率(夏普比率)的增加令人印象深刻。
2016-04-12 cs.LG
Active Learning for Online Recognition of Human Activities from Streaming Videos
从流媒体视频中识别人类活动对学习算法提出了独特的挑战:预测模型需要可扩展,可增量训练,并且即使在数据流任意长的情况下也必须保持大小有限。此外,由于参数调整在流设置中是有问题的,因此合适的方法应该是无参数的,并且不对流中可能出现什么类标签做出假设。我们在这里提出了一种从流数据中识别人类动作的方法,它满足所有这些要求:(1)增量学习一个模型,该模型自适应地覆盖具有简单局部分类器的特征空间;(2)采用主动学习策略来减少注释请求;(3)在固定模型大小内实现有希望的准确性。在标准基准上的大量实验表明,我们的方法与最先进的非增量方法相比具有竞争力,并且优于现有的主动增量基线。
2016-04-11 cs.CV cs.LG stat.ML
Squeezing More from the Stream : Learning Representation Online for Streaming Reinforcement Learning
Chandar Research Lab(昌达研究实验室);Mila - Quebec AI Institute(魁北克人工智能研究所);Royal Military College of Canada(加拿大皇家军事学院);Canada CIFAR AI Chair(加拿大CIFAR人工智能席位)
本文提出了一种改进的流式强化学习方法,通过自预测表示提升表示学习效率,有效解决采样效率低的问题,并在多个基准测试中表现出色。
2026-02-10 cs.AI cs.LG
Enhancing Bandit Algorithms with LLMs for Time-varying User Preferences in Streaming Recommendations
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学耿丽学校);School of Artificial Intelligence and Data Science, University of International Business and Economics(国际商务经济大学人工智能与数据科学学院)
HyperBandit+通过整合时间感知超网络和LLM预热机制,提升流媒体推荐中对随时间变化用户偏好的适应能力。
2026-02-08 cs.LG
Using real-time cluster configurations of streaming asynchronous features as online state descriptors in financial markets
School of Computer Science and Applied Mathematics, University of the Witwatersrand(金山大学计算机科学与应用数学学院);Machine Learning Research Group, Oxford-Man Institute of Quantitative Finance, University of Oxford(牛津大学牛津-曼量化金融研究所机器学习研究组)
我们提出了一个计划,在线,无监督的状态发现和检测流,多功能,异步数据在高频金融市场。使用无偏无损傅立叶估计器计算在线特征相关性。一个高速的最大似然聚类算法,然后使用找到最好的解释结构的相关矩阵的特征集群配置。我们推测,这个功能配置是一个候选人的描述系统的时间状态。使用一个简单的集群配置相似性度量,我们能够枚举的状态空间的基础上占主导地位的功能配置。所提出的状态表示消除了对用于状态属性规范的人为驱动的数据预处理的需要,允许学习代理在流数据中找到结构,辨别系统中的变化,枚举其感知的状态空间并学习合适的动作选择策略。
2017-05-04 cs.LG q-fin.CP q-fin.TR
Near-Optimal Online Deployment and Routing for Streaming LLMs
Stony Brook University(史泰森布鲁克大学)
StageRoute算法通过优化部署和路由策略,在流式LLM管理中实现近最优的并发和成本控制。
2026-01-29 cs.AI cs.LG
Online anomaly detection using statistical leverage for streaming business process events
Ulsan National Institute of Science and Technology (UNIST)(蔚山国家科学技术研究所)
虽然最近在文献中出现了几种用于在离线设置中检测事件日志中的跟踪级异常的技术,但目前缺乏在线设置的这种技术。在线设置中的事件日志异常检测对于发现流程执行中的异常至关重要,一旦异常发生,就可以立即采取早期纠正措施。本文介绍了一种新的方法,事件日志异常检测的事件流,使用统计杠杆。杠杆作用已被广泛用于统计,以制定措施,以确定离群值,它已在本文中的事件流数据的特定场景。所提出的方法已在人工和真实事件流上进行了评估。
2021-03-01 cs.LG stat.CO
Streaming PAC-Bayes Gaussian process regression with a performance guarantee for online decision making
Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学)
高斯过程(GP)作为一种功能强大的贝叶斯非参数化算法,在贝叶斯优化和信号处理中发挥着重要作用。全科医生也有先进的在线决策系统,因为他们的后验分布有一个封闭的形式的解决方案。然而,它的训练和推理过程需要存储所有历史数据,并从头开始训练GP模型。出于这些原因,一些在线GP算法,如O-SGPR和O-SVGP,已专门设计用于流媒体设置。在本文中,我们提出了一个新的理论框架,在线GPS的基础上在线可能近似正确(PAC)贝叶斯理论。该框架提供了广义性能和良好的准确性的保证。我们的算法不是最小化边际似然,而是优化经验风险函数和正则化项,这与参数的先验分布和后验分布之间的分歧成比例。除了理论上的吸引力,该算法在几个回归数据集上的经验表现良好。与其他在线GP算法相比,我们产生了泛化保证和非常有竞争力的准确性。
2022-10-26 cs.AI cs.LG stat.ML
Streaming Active Deep Forest for Evolving Data Stream Classification
Griffith University(格里菲斯大学);Robert Gordon University(罗伯特戈登大学)
近年来,深度神经网络(DNN)在机器学习的许多领域都取得了进展。DNN的逐层过程激发了许多深度模型的开发,包括深度集成。最值得注意的基于深度集成的模型是Deep Forest,它可以实现极具竞争力的性能,同时与DNN相比具有更少的超参数。尽管Deep Forest在批量学习环境中取得了巨大的成功,但它并没有努力适应不断变化的数据流。在这项工作中,我们介绍了流深森林(SDF)算法,一个高性能的深度集成方法,专门适用于流分类。我们还提出了增强变量不确定性(AVU)的主动学习策略,以减少标记成本的流上下文。我们比较所提出的方法,以国家的最先进的流算法在广泛的数据集。实验结果表明,采用AVU主动学习策略,SDF在标注预算仅为70%的情况下,其性能明显优于其他方法。
2020-02-26 cs.LG stat.ML
What Streaming Anomaly Detection Finds (and Misses) in Industrial Time Series
EDF R&D(法国电力集团研发部);Inria, ENS, CNRS, PSL(法国国家信息与自动化研究所、巴黎高等师范学院、法国国家科学研究中心、巴黎文理研究大学)
本研究比较了流式方法与在线TSAD模型在真实核电站数据上的异常检测性能,发现在线TSAD一致性更高,集成策略鲁棒性强。
2026-10-01 cs.AI cs.LG
Online Proximal ADMM for Graph Learning from Streaming Smooth Signals
Pontificia Universidad Católica del Perú(秘鲁天主教大学);University of Rochester(罗切斯特大学)
本文提出一种基于近端ADMM的在线图学习算法,用于从流式平滑信号中高效学习动态图结构,具有低内存消耗和次线性遗憾,并在实验中优于现有基线。
2024-09-19 cs.LG eess.SP
Class Incremental Online Streaming Learning
IIT Kanpur(印度理工学院坎普尔分校);Duke University(杜克大学);Verisk Analytics(威斯科分析公司);University of Bath(巴斯大学)
已经开发了各种各样的方法来实现传统深度神经网络中的终身学习。然而,为了取得成功,这些方法需要在训练期间多次访问一批样本。虽然这在静态设置中工作得很好,但在数据到达\emph{online streaming manner}的更现实的情况下,这些方法继续受到影响。我们凭经验证明,如果输入是作为具有以下限制的数据流获得的,则当前方法的性能会降低:$(i)$每个实例每次出现一个并且只能看到一次,并且$(ii)$输入数据违反i.i.d假设,即,可以存在基于类的相关性。我们提出了一种新的方法(CIOSL)的类增量学习的\emph{online streaming setting},以解决这些挑战。该方法利用隐式和显式双权重正则化和经验重放。隐式正则化通过知识蒸馏来利用,而显式正则化通过学习缓冲区重放和当前样本的联合分布来合并用于参数正则化的新方法。此外,我们提出了一个有效的在线内存重放和替换缓冲区的策略,显着提高模型的性能。大量的实验和具有挑战性的数据集上的消融表明所提出的方法的有效性。
2021-10-20 cs.AI cs.CV cs.LG
Low-rank extended Kalman filtering for online learning of neural networks from streaming data
U. Chicago(芝加哥大学);Queen Mary Univ.(玛丽女王大学);U. Colorado, Boulder(科罗拉多大学博尔德分校);Google DeepMind(谷歌DeepMind)
提出基于EKF的低秩加对角分解在线贝叶斯推理算法,实现线性计算成本与无需步长调整的确定性学习,在适应分布变化和累积奖励上表现更优。
2023-06-28 cs.LG stat.ML
Federated Online Learning for Heterogeneous Multisource Streaming Data
Yale School of Public Health(耶鲁大学公共卫生学院);Tsinghua University(清华大学);Xiamen University(厦门大学)
针对多源流数据,提出联邦在线学习方法,通过个性化模型与子群假设结合惩罚可更新估计,在保障隐私与降低存储的同时实现最优统计效率与优越预测性能。
2025-08-08 cs.LG stat.ML
Ensemble of Sparse Gaussian Process Experts for Implicit Surface Mapping with Streaming Data
Örebro University(厄勒布鲁大学)
创建地图是机器人技术中的一项重要任务,为有效的规划和导航提供了基础。在本文中,我们学习一个紧凑的和连续的隐式表面地图的环境从一个流的范围数据与已知的姿态。为此,我们创建并逐步调整近似高斯过程(GP)专家的集合,每个专家负责地图的不同部分。而不是将所有到达的数据插入到GP模型中,我们在模型复杂度和预测误差之间进行了很好的权衡。因此,我们的算法在具有很少几何特征的区域上使用更少的资源,而在环境丰富多样的区域上使用更多的资源。我们在合成和真实世界的数据集上评估我们的方法,并分析对参数和测量噪声的敏感性。结果表明,我们可以学习紧凑和准确的隐式曲面模型在不同的条件下,性能相当或优于精确GP回归与子采样数据。
2020-02-12 cs.LG cs.RO stat.ML
Enhash: A Fast Streaming Algorithm For Concept Drift Detection
Indian Institute of Technology Delhi(印度理工学院德里分校);Indraprastha Institute of Information Technology, Delhi(德里英德拉普拉斯塔信息技术学院)
我们提出了Enhash,一个快速集成学习器,检测数据流中的\textit{concept drift}。流可以由突然的、渐进的、虚拟的或重复的事件组成,或者由各种类型的漂移的混合物组成。Enhash使用投影哈希来插入传入的样本。我们的经验表明,该方法具有竞争力的性能,现有的集成学习器在更短的时间。此外,Enhash有适度的资源需求。在6个人工数据集和4个由各种类型漂移组成的真实数据集上进行了性能比较相关的实验。
2020-11-07 cs.LG stat.ML
Online Learning with Recency: Algorithms for Sliding-window Streaming Multi-armed Bandits
Johns Hopkins University(约翰霍普金斯大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Texas A&M University(德克萨斯农工大学)
针对在线学习中的近因效应,研究单遍滑动窗口流式多臂老虎机问题,提出纯探索和遗憾最小化算法,并给出记忆-遗憾权衡。
2026-06-08 cs.DS cs.LG
A novel online multi-label classifier for high-speed streaming data applications
提出了一种基于极限学习机的高速在线神经网络多标签分类器。在多标签分类中,每个输入数据样本属于一个或多个目标标签。传统的二值分类和多类分类是多标签分类的子集,其中每个样本只属于一个目标类。多标签分类问题比二进制和多类分类问题复杂得多,因为目标标签的数量和对应于每个输入样本的每个目标标签都要被识别。所提出的工作利用极端学习机的高速特性来实现流数据的实时多标签分类。针对高速流数据多标签分类问题,提出了一种新的基于阈值的在线序贯学习算法。所提出的方法进行了实验,从不同的应用领域,如多媒体,文本和生物学的六个不同的数据集。汉明损失,准确性,训练时间和测试时间的建议的技术进行了比较与9个不同的国家的最先进的方法。实验结果表明,该方法在性能和速度方面优于现有的多标签分类器。
2016-09-01 cs.AI cs.LG cs.NE
Streaming Generated Gaussian Process Experts for Online Learning and Control: Extended Version
针对精确高斯过程处理流式数据时计算与内存复杂度高的问题,本文提出流式渐进生成高斯过程专家框架SkyGP及两个针对性变体,经实验验证其性能优于现有最优方法。
2025-11-14 cs.LG cs.SY eess.SY
Coupling streaming AI and HPC ensembles to achieve 100-1000x faster biomolecular simulations
Argonne National Laboratory(阿贡国家实验室);University of Chicago(芝加哥大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Rutgers University(罗格斯大学);Brookhaven National Laboratory(布鲁克海文国家实验室)
基于机器学习(ML)的转向可以通过允许在线选择更具科学意义的计算来提高基于集成的模拟的性能。我们提出了DeepDriveMD,这是一个ML驱动的科学模拟转向框架,我们已经使用该框架通过在大型并行计算机上有效耦合ML和HPC来实现分子动力学(MD)性能的数量级改进。我们讨论了DeepDriveMD的设计并表征了其性能。我们证明,DeepDriveMD相对于其他方法可以实现100- 1000倍的蛋白质折叠模拟加速,如所执行的模拟时间量所测量的,同时覆盖模拟期间采样的状态所量化的相同构象景观。实验在多达1020个节点的领导级平台上进行。结果将DeepDriveMD确立为ML驱动的HPC模拟场景的高性能框架,支持各种MD模拟和ML后端,并通过改进当前计算能力可访问的长度和时间尺度来实现新的科学见解。
2022-07-12 cs.DC cs.LG
A Framework for Streaming Event-Log Prediction in Business Processes
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);ENS Paris-Saclay(巴黎萨克雷高等师范学校);Institut Universitaire de France(法国大学研究院)
提出基于Python的流式事件日志预测框架,支持集成n-grams和LSTMs等模型,发现在流式模式下基础模型比LSTMs更具早期预测优势。
2024-12-20 cs.AI cs.LG
Learning from time-dependent streaming data with online stochastic algorithms
Sorbonne Université(索邦大学)
该研究针对带时间相关有偏梯度的流式随机优化问题,分析多种一阶SGD方法及其Polyak-Ruppert平均,通过非渐近分析得到加速收敛的启发式规则,并通过模拟与真实数据实验验证理论结论。
2023-07-18 cs.LG math.OC stat.ML
Effectiveness of Tree-based Ensembles for Anomaly Discovery: Insights, Batch and Streaming Active Learning
Washington State University(华盛顿州立大学)
该研究针对异常检测中需人工配置以减少误报的问题,基于树集成方法提出批量与流式主动学习算法及漂移检测方案,通过实验验证其在异常发现数量、多样性及流式场景下的优异性能。
2024-05-14 cs.LG stat.ML
A Geometric Approach to Online Streaming Feature Selection
University of Maine(缅因大学);University of Michigan(密歇根大学)
在线流特征选择(OSFS)是一个顺序学习问题,其中所有样本中的各个特征以流的方式提供给算法。在这项工作中,首先,我们断言,OSFS的主要假设,在运行时提供的所有样本的数据是不现实的,并介绍了一个新的设置,功能和样本流并发称为OSFS与流样本(OSFS-SS)。其次,主要的OSFS方法,SAOLA利用一个无界的互信息措施,并需要存储和传入的功能集之间的多个比较步骤,以评估一个功能的重要性。我们介绍几何在线自适应,一种算法,需要相对较少的功能比较步骤,并使用有界的条件几何依赖措施。我们的算法在各种数据集上的性能优于包括SAOLA在内的几个OSFS基线。我们还将SAOLA扩展到OSFS-SS设置中,并表明GOA继续取得最佳效果。第三,目前的OSFS算法比较范式存在缺陷。算法是通过比较使用的特征数量和学习者获得的准确性来衡量的,这两个属性从根本上相互矛盾。如果不对这些属性中的任何一个进行限制,则通过不同算法获得的特征的质量是不可比拟的。我们试图纠正这种不一致,固定的最大数量的功能提供给学习者和比较算法的准确性。此外,我们还描述了SAOLA和GOA在来自流行的深度卷积特征化器的特征集上的行为。
2020-03-16 cs.CV cs.LG stat.ML
Efficient Principal Subspace Projection of Streaming Data Through Fast Similarity Matching
Flatiron Institute(弗莱提伦研究所);NYU Langone Medical Center(纽约大学朗格尼医学中心)
大数据问题通常需要以流方式处理数据集,因为所有数据都可以同时使用,但总体上大于可用内存,或者因为数据本质上一次到达一个数据点,必须在线处理。在这里,我们介绍了一个计算效率高的版本的相似性匹配,在线降维的框架,增量估计流数据的顶部K维主子空间,同时在内存中只保留最后一个样本和当前样本。为了评估我们的方法的性能,我们构建并公开了一个测试套件,其中包含一个合成数据生成器和基础设施,用于在真实数据集上测试在线降维算法,以及我们的算法和具有类似目标的竞争算法的性能实现。在考虑的算法中,我们发现我们的方法是有竞争力的,在合成和真实数据上都是最好的。
2018-08-06 cs.LG stat.CO
Online Sparse Feature Selection in Data Streams via Differential Evolution
Chongqing University of Posts and Telecommunications(重庆邮电大学);Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences(中国科学院重庆绿色智能技术研究院)
本文提出了一种基于微分进化的在线稀疏特征选择方法,通过潜在因子分析插补缺失数据并评估特征重要性,以提升数据流中特征选择的性能。
2025-11-24 cs.AI cs.LG