OnlineSTL: Scaling Time Series Decomposition by 100x
Splunk(Splunk公司);Pinecone(Pinecone公司)
将复杂的时间序列分解为趋势、季节性和剩余分量是一个重要的原语,它有助于时间序列异常检测、变点检测和预测。虽然已知许多批处理算法用于时间序列分解,但是没有一个在高吞吐量和实时响应至关重要的在线可扩展设置中运行良好。在本文中,我们提出了OnlineSTL,一种新的在线算法的时间序列分解,这是高度可扩展的,部署在高分辨率,高摄取率的数据的实时指标监测。在不同的合成和真实世界的时间序列数据集上的实验表明,OnlineSTL在保持分解质量的同时实现了数量级的加速(100倍)。
2022-08-04 cs.DB cs.LG
Impact of Deep Learning Libraries on Online Adaptive Lightweight Time Series Anomaly Detection
Hogskulen pa Vestlandet (HVL)(西挪威大学学院);Norwegian University of Science and Technology(挪威科技大学)
本文研究深度学习库对在线自适应轻量级时间序列异常检测的影响,通过两种先进方法在三个库中的实现与四个真实数据集上的实验,为选择合适库提供参考。
2023-05-10 cs.LG
Online Time Series Forecasting with Theoretical Guarantees
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Guangdong University of Technology(广东技术大学);Johns Hopkins University(约翰霍普金斯大学);University of California San Diego(加州大学圣地亚哥分校)
提出具有理论保证的在线时间序列预测框架 TOT,通过可辨识潜在变量收紧 Bayes 风险,并给出模型无关的时序解码与噪声估计蓝图,实验验证其理论与实际有效性。
2025-10-21 cs.LG
Online time series prediction using feature adjustment
本文提出ADAPT-Z方法,通过调整特征表示来提升在线时间序列预测的性能,有效应对分布偏移和延迟反馈问题。
2026-02-26 cs.LG
Learning the Context of Errors: Black-Box Online Adaptation of Time Series Foundation Models
Ant International(蚂蚁国际);The Chinese University of Hong Kong(香港中文大学)
针对黑盒时间序列基础模型在线自适应问题,提出ORCA方法,通过学习基础模型预测误差的上下文(输入和输出)进行自适应,在5个模型和8个数据集上验证有效性。
2026-10-06 cs.LG
RoLA: A Real-Time Online Lightweight Anomaly Detection System for Multivariate Time Series
Hogskulen pa Vestlandet (HVL)(西挪威大学学院);Norwegian University of Science and Technology(挪威科技大学)
本文提出RoLA系统,通过分治策略、并行处理和多数表决规则,利用多个轻量级检测器实时在线检测多变量时间序列异常,并在公开数据集上验证了其检测精度与轻量级性能。
2023-05-25 cs.LG
OATS: Online Data Augmentation for Time Series Foundation Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Research(微软研究院);Griffith University(格里菲斯大学);Datadog AI Research(Datadog AI研究院)
OATS通过动态生成合成数据提升时间序列基础模型的性能,采用探索-利用机制和扩散框架,在多个数据集上优于传统方法。
2026-08-11 cs.LG
A Novel Hyperdimensional Computing Framework for Online Time Series Forecasting on the Edge
School of Electrical And Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
本文提出TSF-HD框架,将在线非线性时间序列预测转化为线性超维度预测,通过协同训练适应分布变化,实现快速、轻量且低延迟的在线预测,性能优于现有方法。
2024-02-03 cs.AI cs.LG
POLA: Online Time Series Prediction by Adaptive Learning Rates
Institute for Infocomm Research(资讯通信研究院)
流时间序列数据的在线预测对于许多实际应用具有实际用途,其中下游决策取决于对未来的准确预测。动态环境中的部署要求模型快速适应不断变化的数据分布,而不会过度拟合。我们提出了POLA(通过学习率适应在线预测)来自动调节递归神经网络模型的学习率,以适应随时间变化的时间序列模式。POLA通过吸收用于在线预测的先决或先测试后训练评估方案来元学习随机梯度下降(SGD)算法的学习率。我们在三个常用的递归神经网络模型的两个真实数据集上评估POLA。POLA表现出与其他在线预测方法相比具有可比或更好的预测性能。
2021-02-17 cs.LG stat.ML
MELODY: Robust Semi-Supervised Hybrid Model for Entity-Level Online Anomaly Detection with Multivariate Time Series
AWS AI Labs(亚马逊人工智能实验室)
针对软件部署实体级异常检测中异构性、低延迟、定义模糊和标注有限等挑战,本文提出半监督混合模型MELODY,通过在线特征提取与深度单类模型实现异常检测,在真实云数据上F1相对提升7.6%至56.5%。
2024-06-06 cs.LG
COMET: Codebook-based Online-adaptive Multi-scale Embedding for Time-series Anomaly Detection
Department of Industrial Engineering, Seoul National University, Gwanak-ro 1, Gwanak-gu, Seoul, Republic of Korea;Department of Industrial \& Management Engineering, Korea University, 126-16 Anam-dong 5-ga, Seongbuk-gu, Seoul, Republic of Korea
COMET通过多尺度片段编码、向量量化核心集和在线代码本适应,有效提升时间序列异常检测的性能。
2026-11-10 cs.LG
NonSTOP: A NonSTationary Online Prediction Method for Time Series
University of Washington(华盛顿大学);Microsoft(微软)
我们提出了在线预测方法的时间序列,让我们明确地处理非平稳的文物(如趋势和季节性)存在于最真实的时间序列。具体来说,我们表明,应用适当的变换,这样的时间序列预测之前,可以导致改进的理论和经验预测性能。此外,由于这些转换通常是未知的,我们采用学习与专家设置开发一个完全在线的方法(NonSTOP-NonSTationary Online Prediction)预测非平稳时间序列。该框架考虑了单变量时间序列中的季节性和/或其他趋势以及多变量时间序列中的协整。我们的算法和遗憾分析继承了最近的相关工作,同时显着扩展了这些方法的适用性。对于所有的方法,我们提供了次线性遗憾界使用宽松的假设。理论上的保证并没有完全捕捉到转换的好处,因此我们提供了一个数据依赖的分析,跟随领导者算法,提供了洞察使用这种转换的成功。我们支持我们所有的模拟和真实数据的实验结果。
2018-08-26 cs.LG stat.ML
Dynamic Multi-period Experts for Online Time Series Forecasting
Pohang University of Science and Technology(浦项科学技术大学);Kyungpook National University(庆北国立大学)
DynaME通过动态多时期专家框架有效应对时间序列预测中的重复和新兴漂移,显著优于现有方法。
2026-03-10 cs.LG
Online Convex Optimization Using Predictions
利用预测是在线算法的一个关键领域,但尚未得到充分开发。本文研究了一类在线优化问题,我们有外部噪声预测。我们提出了一个随机预测误差模型,该模型概括了学习和随机控制社区中的先验模型,结合了预测误差之间的相关性,并捕捉到预测随着时间的推移而改善的事实。我们证明,实现次线性的遗憾和恒定的竞争比在线算法需要使用一个无界的预测窗口在对抗设置,但在更现实的随机预测误差模型下,可以使用平均固定地平线控制(AFHC),同时实现次线性的遗憾和恒定的竞争比在预期中使用一个恒定大小的预测窗口。此外,我们表明,AFHC的性能是紧密集中在其平均值。
2015-04-25 cs.LG
Online high-precision prediction method for injection molding product weight by integrating time series/non-time series mixed features and feature attention mechanism
Xiamen University(厦门大学);Xi’an Modern Chemistry Research Institute(西安近代化学研究所);Huazhong University of Science and Technology(华中科技大学)
针对注塑质量异常检测不及时与监控滞后问题,提出混合特征注意力-人工神经网络(MFA-ANN)模型,通过解耦时间序列与非时间序列数据并嵌入自注意力机制进行特征融合,实现产品重量高精度在线预测,显著优于传统基准模型。
2025-06-23 cs.LG
An Unsupervised Time Series Anomaly Detection Approach for Efficient Online Process Monitoring of Additive Manufacturing
College of Engineering and Computer Science, University of Texas Rio Grande Valley(工程与计算机科学学院,德克萨斯理工大学Rio Grande Valley分校);School of Industrial Engineering and Management, Oklahoma State University(工业工程与管理学院,俄克拉荷马州立大学)
针对增材制造在线监测中难以识别细微语义偏离异常的问题,提出一种基于matrix profile的无监督异常检测算法,通过捕捉制造周期相似性与语义分割精确定位缺陷起始点,实验验证了其有效性。
2025-10-11 cs.LG
Online Localized Conformal Prediction
University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
本文提出OLCP方法,结合在线适应与协变量依赖的局部化,以更好地反映异质性,并通过模拟和实验证明其在长期覆盖性上的有效性。
2026-05-08 cs.LG
Online Algorithm for Aggregating Experts' Predictions with Unbounded Quadratic Loss
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院)
针对带无界二次损失的专家预测在线聚合问题,提出一种基于专家损失指数重加权、无需预先知道损失上界的在线聚合算法。
2025-01-11 cs.LG
Continuous Evolution Pool: Taming Recurring Concept Drift in Online Time Series Forecasting
University of Electronic Science and Technology of China(电子科技大学);Griffith University(格里菲斯大学);Peking University(北京大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
CEP通过动态维护专门预测器池,有效解决在线时间序列预测中反复出现的概念漂移问题,减少预测误差20%以上。
2026-08-19 cs.LG
Model-Agnostic Online Certificate-Driven Calibration for Time Series Forecasting Under Distribution Shift
提出模型无关的在线鞅概率近似正确贝叶斯框架,利用证书作为正则化器校准预测器,在分布漂移下提升时间序列预测的稳定性和准确性。
2026-10-06 cs.LG
ODEStream: A Buffer-Free Online Learning Framework with ODE-based Adaptor for Streaming Time Series Forecasting
RMIT University(皇家墨尔本理工大学);University of New South Wales(新南威尔士大学)
本文提出ODEStream无缓冲持续学习框架,结合时间隔离层与神经常微分方程处理不规则流式时间序列,通过学习序列动态变化实现优于现有在线学习基线的长期准确预测。
2025-04-09 cs.LG
Online Kernel Dynamic Mode Decomposition for Streaming Time Series Forecasting with Adaptive Windowing
University of Washington(华盛顿大学)
针对流式数据实时预测中的非平稳与计算限制挑战,提出WORK-DMD方法,结合随机傅里叶特征与在线动态模式分解及滚动窗口Sherman-Morrison更新,实现单次遍历、固定成本的高精度预测,尤其擅长短期预测,为深度学习提供高效替代。
2025-10-17 cs.LG
Online Time Series Anomaly Detection with State Space Gaussian Processes
ETH Zurich(苏黎世联邦理工学院);Amazon Research(亚马逊研究院)
我们提出了r-ssGPFA,一个无监督的在线异常检测模型的单变量和多变量的时间序列建立在有效的状态空间公式的高斯过程。对于高维时间序列,我们提出了高斯过程因子分析的扩展,以识别时间序列的共同潜在过程,使我们能够以可解释的方式有效地检测异常。我们获得的解释,同时加快计算施加正交约束的映射从潜在的观察。我们的模型的鲁棒性提高了使用一个简单的启发式跳过卡尔曼更新时,遇到异常观测。我们研究了我们的模型在合成数据上的行为,并在标准基准数据集上显示,我们的方法与最先进的方法相比具有竞争力,同时计算成本更低。
2022-01-18 cs.LG stat.ML
OneNet: Enhancing Time Series Forecasting Models under Concept Drift by Online Ensembling
Institute of Automation(自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团);Meta
OneNet通过强化学习动态集成时间依赖模型与跨变量依赖模型,解决在线时间序列预测中的概念漂移问题,将预测误差降低50%以上。
2023-09-22 cs.DS cs.LG
Online Forecasting Matrix Factorization
本文研究了高维时间序列的预测问题。这样的时间序列可以被建模为矩阵,其中每列表示测量。此外,当存在缺失值时,低秩矩阵分解方法适用于预测未来值。本文正式定义并分析了在线环境中的预测问题,即数据作为流到达并且只允许单次通过。我们提出并分析了新的矩阵分解技术,可以有效地学习低维嵌入在线的方式。基于这些嵌入的递归最小均方误差估计器,它学习的自回归模型,他们。两个真实数据集的实验与数千万的测量显示所提出的方法的好处。
2017-12-23 cs.LG
Learning-Augmented Algorithms for Online Steiner Tree
College of Computer Science, Zhejiang University(浙江大学计算机科学学院);Tepper School of Business, Carnegie Mellon University(卡内基梅隆大学泰珀商学院)
本文考虑了最近流行的超越最坏情况算法分析模型,该模型将机器学习预测与在线算法设计相结合。我们认为在这个模型中的有向和无向图的在线Steiner树问题。Steiner树在在线环境中具有很强的下界,任何算法的最坏情况保证都是不可取的。本文考虑预测哪个终端到达在线的算法。预测可能是不正确的,并且算法的性能由不正确预测的终端的数量参数化。这些保证确保算法突破在线下限,具有良好的预测,并且随着预测误差的增加,竞争比优雅地下降。然后,我们观察到,该理论是预测什么将发生的经验。我们在图上显示,终端是从分布中绘制的,新的在线算法即使在适度正确的预测下也具有很强的性能。
2023-03-18 cs.LG
Online Evolutionary Neural Architecture Search for Multivariate Non-Stationary Time Series Forecasting
Rochester Institute of Technology(罗切斯特理工学院)
时间序列预测(TSF)是数据科学中最重要的任务之一,因为准确的时间序列(TS)预测模型在包括金融、交通、医疗保健和电力系统在内的各种领域中发挥着重要作用。机器学习(ML)的实际应用通常涉及在收集的历史数据上(预)训练模型,然后将它们应用于看不见的数据点。然而,在现实世界的应用中,时间序列数据流通常是非平稳的,随着时间的推移,训练的ML模型通常会面临数据或概念漂移的问题。为了解决这个问题,模型必须定期重新训练或重新设计,这需要大量的人力和计算资源。此外,历史数据甚至可能不存在以用于重新训练或重新设计模型。因此,非常希望以在线方式设计和训练模型。这项工作提出了基于在线神经进化的神经结构搜索(ONE-NAS)算法,这是一种新的神经结构搜索方法,能够自动设计和动态训练递归神经网络(RNN)的在线预测任务。在没有任何预训练的情况下,ONE-NAS利用RNN群体,这些RNN群体不断更新新的网络结构和权重,以响应新的多元输入数据。ONE-NAS在真实世界的大规模多变量风力涡轮机数据以及单变量道琼斯工业平均指数(DJIA)数据集上进行了测试。结果表明,ONE-NAS优于传统的统计时间序列预测方法,包括在线线性回归,固定长短期记忆(LSTM)和在线训练的门控递归单元(GRU)模型,以及最先进的在线ARIMA策略。
2023-02-20 cs.LG cs.NE
Multi-model Online Conformal Prediction with Graph-Structured Feedback
Department of Electrical Engineering and Computer Science University of California, Irvine(电气工程与计算机科学系 加州大学伊尔市分校)
提出基于二部图反馈的多模型在线保形预测算法,动态筛选有效模型子集以降低计算复杂度并减小预测集,同时利用预测集大小和模型损失作为反馈,在保证覆盖率和次线性遗憾的前提下显著提升效率。
2025-10-10 cs.LG
Structure Parameter Optimized Kernel Based Online Prediction with a Generalized Optimization Strategy for Nonstationary Time Series
Fujian Institute of Research on the Structure of Matter, Chinese Academy of Sciences(中国科学院福建物质结构研究所);Tsinghua University(清华大学)
本文研究了再生核Hilbert空间中非平稳时间序列的稀疏化辅助在线预测算法。通常的在线预测算法包括核结构参数的选择和核权向量的更新。对于结构参数,采用稀疏化技术和在线选择性建模准则选择核字典,并根据协方差矩阵自适应进化策略(CMA-ES)间歇优化核协方差矩阵。对实对称协方差矩阵进行优化,不仅可以利用输入变量的互相关性提高核结构的灵活性,而且可以部分缓解非平稳时间序列核字典选择带来的预测不确定性。为了充分捕捉预测误差时间序列的潜在动态特征,设计了一种广义优化策略,在多核连接模式下依次构造核字典.广义优化策略提供了一种更独立的方式来构建整个内核连接,这增强了自适应跟踪动态特性变化的能力。数值模拟表明,该方法对非平稳时间序列具有较好的预测性能。
2021-08-18 cs.LG eess.SP
Discovering patterns of online popularity from time series
Arizona State University(亚利桑那州立大学);University of Southern California(南加州大学)
如何在网上获得人气?成功是否与在网络平台上迅速成为病毒式传播者密切相关,或者是否有可能以稳定和有纪律的方式获得人气?还有哪些时间特征可以揭示在线内容的受欢迎程度?为了回答这些问题,我们利用流行的在线内容的演变多方面的时间分析。在这里,我们提出了dipm-SC:一个多维的形状为基础的时间序列聚类算法的启发式找到最佳的集群数量。首先,我们验证了我们的算法的准确性基准时间序列模型生成的合成数据集。其次,我们表明,dipm-SC可以发现有意义的集群的流行行为在现实世界的Twitter数据集。通过对内容流行度的多维时间序列以及其他特定于领域的维度进行聚类,我们发现了流行度的两种主要模式:突发性和稳定的时间行为。此外,我们发现,随着时间的推移,获得流行的方式对最终的累积流行没有显着的影响。
2019-04-10 cs.LG cs.SI stat.ML
ONE-NAS: An Online NeuroEvolution based Neural Architecture Search for Time Series Forecasting
Rochester Institute of Technology(罗切斯特理工学院)
时间序列预测(TSF)是数据科学中最重要的任务之一,因为准确的时间序列(TS)预测可以推动和推进包括金融、交通、医疗保健和电力系统在内的各种领域。然而,TSF的机器学习(ML)模型的实际应用受到影响,因为预训练的模型能够学习和适应不可预测的模式,因为以前看不见的数据在更长的时间尺度上到达。为了解决这个问题,必须定期保留或重新设计模型,这需要大量的人力和计算资源。这项工作提出了基于在线神经进化的神经结构搜索(ONE-NAS)算法,据作者所知,这是第一个能够在在线环境中自动设计和训练新的递归神经网络(RNN)的神经结构搜索算法。在没有任何预训练的情况下,ONE-NAS利用RNN的种群,这些种群不断更新新的网络结构和权重,以响应新的多元输入数据。ONE-NAS在真实世界的大规模多变量风力涡轮机数据以及单变量道琼斯工业平均指数(DJIA)数据集上进行了测试,并显示优于传统的统计时间序列预测,包括朴素,移动平均和指数平滑方法,以及最先进的在线ARIMA策略。
2022-02-27 cs.LG cs.NE
Counterfactual Online Conformal Prediction Under Adaptive Logging
Shanghai Jiao Tong University(上海交通大学);Alibaba Group(阿里巴巴集团)
本文提出倾向加权在线共形预测(PW-OCP)及其双稳健变体(DR-OCP),以解决自适应日志下反事实覆盖失效问题,实验证明其提升反事实覆盖并降低遗憾。
2026-11-03 cs.LG
Stochastic Online Convex Optimization. Application to probabilistic time series forecasting
Laboratoire de Probabilités, Statistique et Modélisation(概率、统计与建模实验室);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心)
本文构建随机在线凸优化框架,证明在线牛顿步与 Bernstein online aggregation 在无界随机设定下达到已知最优遗憾速率,并用于校准非平稳次高斯时间序列的概率预测器。
2023-04-21 cs.LG math.ST stat.TH
A Graph-based Framework for Online Time Series Anomaly Detection Using Model Ensemble
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Nanjing Normal University(南京师范大学)
本文提出GDME框架,通过动态图结构和模型集成实现在线时间序列异常检测,实验显示其在检测性能和计算效率上均优于现有方法。
2026-01-04 cs.AI cs.LG
OML-AD: Online Machine Learning for Anomaly Detection in Time Series Data
Technische Universität Darmstadt(达姆施塔特工业大学);FH Aachen - University of Applied Sciences(亚琛应用科学大学)
针对现有异常检测方法不适用于非平稳时间序列的问题,提出基于在线机器学习的OML-AD方法,在River库实现且准确率与计算效率均优于现有最优基线。
2024-09-15 cs.LG stat.ML
Neighborhood Contrastive Learning Applied to Online Patient Monitoring
ETH Zürich(苏黎世联邦理工学院);Amazon(亚马逊);MPI-IS(马克斯·普朗克智能系统研究所)
重症监护病房(ICU)越来越多地寻求机器学习的方法来提供对重症患者的在线监测。在机器学习中,在线监测通常被公式化为监督学习问题。最近,相对于竞争性监督基准,对比学习方法已经表现出有希望的改进。这些方法依赖于为不适用于在线监测的图像数据开发的众所周知的数据增强技术。在这项工作中,我们克服了这一限制,补充时间序列数据增强技术与一个新的对比学习目标,我们称之为邻域对比学习(NCL)。我们的目标明确地将每个患者的连续时间段分组在一起,同时保持特定于状态的信息。我们的实验表明,将对比方法应用于医疗时间序列比现有工作有显着改进。
2021-06-09 cs.LG
PDE approach to the problem of online prediction with expert advice: a construction of potential-based strategies
Southern Federal University(南联邦大学)
我们考虑一系列重复的预测游戏,并正式通过到极限。所得的非线性抛物型偏微分方程的上解在N的意义下与势函数密切相关。Cesa-Bianci,G. Lugosi(2003年)。任何这样的超解给出了一个上限预测的遗憾,并建议基于潜力的预测策略,满足Blackwell条件。一个传统的上限最坏情况下的遗憾是合理的一个简单的验证参数。
2017-05-02 cs.LG
PBODL : Parallel Bayesian Online Deep Learning for Click-Through Rate Prediction in Tencent Advertising System
Tencent(腾讯)
我们描述了一个用于预测当前腾讯广告系统中点击率(CTR)的并行baidu在线深度学习框架(PBODL),它可以快速准确地学习用户偏好。我们首先用一个深度概率回归模型来解释这个框架,这个模型是在假设的高斯密度过滤模式下用概率反向传播来训练的。然后,我们将模型家族扩展到各种具有越来越多的特征嵌入能力的baker-online模型,如Sparse-MLP,FM-MLP和FFM-MLP。最后,我们实现了一个基于流计算基础设施和参数服务器的并行训练系统。在公开数据集和腾讯行业数据集上的实验表明,我们框架内的模型性能优于几种常见的在线模型,如AdPredictor,FTRL-Proximal和MatchBox。在腾讯广告系统中的在线A/B测试进一步证明了我们的框架可以通过更快更准确的学习来实现CTR和CPM的提升。
2017-07-09 cs.LG
Self-Evolving Time-Series Forecasting Agents with Episodic Memory and Online Policy Learning
针对现有预测智能体忽视历史反馈的问题,提出FASE,结合情景记忆与在线策略学习,利用已完成实例反馈自我进化,在29个配置上MAE降低9.1%。
2026-09-29 cs.LG
Lightweight Online Adaption for Time Series Foundation Model Forecasts
intern(实习生);Huawei SIR Lab, Edinburgh Research Centre, UK(华为SIR实验室,爱丁堡研究中心,英国);School of Informatics, University of Edinburgh, UK(信息学院,爱丁堡大学,英国)
针对部署后固定的时间序列基础模型无法利用在线反馈适配新数据的问题,提出由预测器和加权器组成的轻量级机制ELF,通过融合基础模型与适配当前分布的预测结果提升性能,在多模型多数据集实验中均有效。
2025-07-30 cs.LG stat.ML
Online Algorithms with Multiple Predictions
Duke University(杜克大学);IIT Delhi(德里印度理工学院)
本文研究了在线算法与多个机器学习预测增强。虽然近年来已经广泛地研究了用单个预测增强的在线算法,但是用于多个预测设置的文献是稀疏的。在本文中,我们给出了一个通用的算法框架,在线覆盖问题的多个预测,获得一个在线的解决方案,是对最佳预测的性能竞争。我们的算法结合了使用的预测在经典的潜在的在线算法的分析。我们应用我们的算法框架来解决经典的问题,如在线集覆盖,(加权)缓存,在线设施的位置在多个预测设置。我们的算法也可以是鲁棒的,即,可以同时使该算法与最佳预测和最佳在线算法(没有预测)的性能竞争。
2022-07-13 cs.DS cs.LG
Learning Fast and Slow for Online Time Series Forecasting
Singapore Management University(新加坡管理大学);Salesforce Research Asia(赛富时亚洲研究院)
深度神经网络在非平稳环境中的快速适应能力对于在线时间序列预测至关重要。成功的解决方案需要处理对新的和重复出现的模式的更改。然而,动态训练深度神经预测器是非常具有挑战性的,因为它们适应非平稳环境的能力有限,并且会对旧知识产生灾难性遗忘。在这项工作中,受互补学习系统(CLS)理论的启发,我们提出了快速和慢速学习网络(FSNet),一个整体的框架,在线时间序列预测,同时处理突变和重复模式。特别是,FSNet通过动态平衡对最近变化的快速适应和检索类似的旧知识来改善缓慢学习的骨干。FSNet通过适配器的两个互补组件之间的交互来实现这种机制,以监视每个层对丢失的贡献,以及支持记住,更新和调用重复事件的关联存储器。在真实和合成数据集上进行的大量实验验证了FSNet对新模式和重复模式的有效性和鲁棒性。我们的代码可在\url{https://github.com/salesforce/fsnet}上获得。
2022-10-17 cs.LG stat.ML
Online learning of windmill time series using Long Short-term Cognitive Networks
Hasselt University(哈塞尔特大学);Tilburg University(蒂尔堡大学);Warsaw University of Technology(华沙理工大学);Universidad de Talca(塔尔卡大学)
预测风车时间序列通常是其他过程的基础,如异常检测,健康监测或维护调度。风车农场产生的大量数据使在线学习成为最可行的策略。这样的设置需要在每次有新的一批数据可用时重新训练模型。然而,使用传统的递归神经网络(RNN)来更新模型的新信息通常非常昂贵。在本文中,我们使用长短期认知网络(LSTCN)预测风车时间序列在线设置。这些最近引入的神经系统由链式短期认知网络块组成,每个块处理一个时间数据块。这些块的学习算法基于非常快速的确定性学习规则,使得LSTCN适合于在线学习任务。使用四个风车的案例研究的数值模拟表明,我们的方法相对于简单的RNN,长短期记忆,门控递归单元和隐马尔可夫模型的预测误差最低。也许更重要的是,LSTCN方法比这些最先进的模型快得多。
2021-09-16 cs.AI cs.LG
Cluster-Aware Causal Mixer for Online Anomaly Detection in Multivariate Time Series
University of California, Berkeley(加州大学伯克利分校)
本文提出了一种基于聚类的因果混合器,用于多变量时间序列的在线异常检测,通过聚类处理通道间的相关性,结合因果混合器保持时间因果性,并开发了序列异常评分方法以提高检测准确性。
2026-06-04 cs.LG stat.ML
Online false discovery rate control for anomaly detection in time series
EPFL(洛桑联邦理工学院);Amazon Research(亚马逊研究院)
本文提出了新的规则,错误发现率控制(FDRC)面向在线异常检测时间序列。在线FDRC规则允许控制一系列统计测试的属性。在异常检测的上下文中,原假设是观察结果是正常的,而替代假设是观察结果是异常的。FDRC规则允许用户在无监督设置中设定精度下限。本文提出的方法克服了以往FDRC规则在异常检测方面的不足,特别是确保功率保持较高,即使当替代方案非常罕见(异常检测中的典型)和测试统计量是连续依赖的(时间序列中的典型)。我们在理论和实验中证明了这些规则的合理性。
2021-12-06 cs.LG math.ST stat.ML
Personalized Online Machine Learning
University of California, Berkeley(加利福尼亚大学伯克利分校);University of California San Francisco(加利福尼亚大学旧金山分校);Université de Paris(巴黎大学);MAP5 (UMR CNRS 8145)(MAP5(法国国家科学研究中心联合研究单位8145))
在这项工作中,我们介绍了个性化的在线超级学习者(POSL)-在线集成算法的流数据的优化过程,可适应不同程度的个性化。也就是说,POSL优化了关于基线协变量的预测,因此个性化可以从完全个性化(即,关于基线协变量受试者ID的优化)到许多个体(即,关于共同基线协变量的优化)。作为在线算法,POSL是实时学习的。POSL可以利用多种候选算法,包括具有不同训练和更新时间的在线算法,在程序期间从不更新的固定算法,从许多个体的时间序列中学习的池化算法,以及从单个时间序列中学习的个性化算法。POSL的这种混合的基础学习策略的集合取决于收集的数据量,时间序列的平稳性,以及一组时间序列的相互特征。从本质上讲,POSL根据数据中的底层(未知)结构决定是否跨样本学习,通过时间学习,或者两者兼而有之。对于反映现实预测场景的各种模拟,以及在医疗数据应用中,我们研究了POSL相对于其他当前集成和在线学习方法的性能。我们表明,POSL是能够提供可靠的预测时间序列数据,并调整不断变化的数据生成环境。我们进一步培养POSL的实用性,通过将其扩展到时间序列在时间顺序上动态进入/退出的设置。
2021-09-21 cs.LG stat.ML
Optimizing Convergence for Iterative Learning of ARIMA for Stationary Time Series
TU Berlin(柏林工业大学)
由于物联网和5G的最新发展,连续系统中的时间序列预测变得越来越重要。流行的预测模型ARIMA几十年来被应用于各种各样的应用。ARIMA的在线变体应用在线牛顿步骤来学习时间序列的基本过程。这种优化方法在计算复杂性和收敛性方面存在缺陷。因此,这项工作的重点是计算成本较低的在线梯度下降优化方法,这成为流行的学习神经网络在最近几年。对于此类模型的迭代训练,我们提出了一种新的方法,结合不同的在线梯度下降学习器(如Adam,AMSGrad,Adagrad,Nesterov),以实现快速收敛。对合成数据和实验数据集的评价表明,该方法优于现有的方法,从而导致整体较低的预测误差。
2021-01-25 cs.LG stat.ML
Efficient Online Hyperparameter Optimization for Kernel Ridge Regression with Applications to Traffic Time Series Prediction
Penn State University(宾夕法尼亚州立大学);UC Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
计算效率是在线环境中部署用于时间序列预测的机器学习模型的重要考虑因素。机器学习算法根据数据自动调整模型参数,但通常需要用户设置额外的参数,称为超参数。超参数会显著影响预测精度。通常由传感器在线收集的流量测量是串行相关的。此外,数据分布可能会逐渐变化。典型的自适应策略是周期性地重新调整模型超参数,以计算负担为代价。在这项工作中,我们提出了一个有效的和原则性的在线超参数优化算法的核岭回归应用于交通预测问题。在对真实流量测量数据的测试中,我们的方法所需的计算时间仅为其他调优方法的七分之一,同时实现了更好或类似的预测精度。
2018-11-01 cs.LG stat.ML
Autoregressive-Model-Based Methods for Online Time Series Prediction with Missing Values: an Experimental Evaluation
由于在实际应用中很难获得完整的数据,因此含缺失值的时间序列预测是时间序列分析中的一个重要问题。自回归(AR)模型是时间序列生成的一种基本模型,它假设时间序列中的每个观测值都是前几个观测值的噪声线性组合,并伴随着一个常值偏移。为了解决缺失值的预测问题,提出了许多基于不同数据模型的方法。对于实际应用场景,这些方法如何在不同类型的时间序列上执行不同程度的数据丢失仍有待研究。在本文中,我们专注于基于AR模型的时间序列预测的缺失值的在线方法。我们采用了五种主流方法来适应这种情况。本文对每一种方法进行了详细的讨论,介绍了它们估计AR系数的核心思想和处理缺失值的不同策略。为了更好地理解,我们还提出了算法实现。为了对这些方法进行综合评价和比较,我们对合成数据和真实数据进行了各种相关参数配置的实验。从实验结果中,我们得出了几个值得注意的结论,并表明插补是一个简单但可靠的策略,以处理在线预测任务中的缺失值。
2019-08-27 cs.DB cs.LG stat.ML
OFTER: An Online Pipeline for Time Series Forecasting
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所)
OFTER是一种专为中等规模多元时间序列设计的在线预测流程,结合k近邻、广义回归神经网络与降维技术,在低信噪比金融数据上优于基线且具可扩展性与可解释性。
2023-04-08 cs.LG q-fin.ST stat.ME
Brain-Inspired Spiking Neural Network for Online Unsupervised Time Series Prediction
Georgia Institute of Technology(佐治亚理工学院)
本文提出CLURSNN模型,结合STDP、随机延迟嵌入和基于Wasserstein距离的拓扑数据分析,实现能量与数据高效的在线无监督时间序列预测,并在Lorenz63系统上优于现有DNN方法。
2023-05-31 cs.AI cs.LG cs.NE
Improving Online Algorithms via ML Predictions
Google(谷歌公司)
研究利用机器学习预测改进在线算法性能,针对滑雪租赁和未知先验作业调度问题提出新算法,其性能随预测质量提升而改善,且对较差预测具有鲁棒性。
2024-07-25 cs.DS cs.LG
Delta-XAI: A Unified Framework for Explaining Prediction Changes in Online Time Series Monitoring
AITRICS;KAIST(韩国科学技术院);Sungkyunkwan University(全北大学)
本文提出Delta-XAI框架,通过封装函数适配14种XAI方法,并引入在线环境下的评估套件,解决时间序列模型解释中的时间依赖性和在线动态挑战,实验显示SWING方法在多种指标上表现优异。
2026-04-25 cs.AI cs.LG
Online Conformal Prediction: Enforcing monotonicity via Online Optimization
University of Michigan(密歇根大学)
本文提出两种新的在线置信预测方法,生成不同置信水平下的嵌套预测集,实现整个风险范围的不确定性量化。方法通过在线优化控制后悔,提高统计效率。
2026-05-12 cs.LG stat.ML