Time-FFM: Towards LM-Empowered Federated Foundation Model for Time Series Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));National University of Singapore(新加坡国立大学);Salesforce AI Research(Salesforce AI研究部);Squirrel AI(松鼠AI)
针对时序预测基础模型面临的数据稀缺、跨域知识共享难及隐私问题,提出基于预训练语言模型的联邦基础模型Time-FFM,通过时序转文本、动态提示适配与个性化联邦训练实现更优性能及少/零样本预测能力。
2024-10-08 cs.LG
Tackling Data Heterogeneity in Federated Time Series Forecasting
The University of Queensland(昆士兰大学);Beijing University of Posts and Telecommunications(北京邮电大学);City University of Hong Kong(香港城市大学);Griffith University(格里菲斯大学);Institute of Science Tokyo(东京科学大学)
针对联邦时间序列预测中的数据异质性问题,提出Fed-TREND框架,通过生成两类合成数据增强客户端训练一致性并优化全局模型,兼容主流模型且在多数据集实验中证明有效。
2024-11-24 cs.CR cs.IR cs.LG
Federated Deep Learning in Electricity Forecasting: An MCDM Approach
SKEMA Business School, Université Côte d’Azur(SKEMA商学院,蔚蓝海岸大学);University of Milan-Bicocca(米兰比可卡大学);Siemens S.p.a.(西门子公司);Abu Dhabi School of Management(阿布扎比管理学院)
随着数据在我们的社会中激增,大规模数据分析正以指数级速度增长。这种丰富的数据具有允许决策者在以前禁止的场景中实现复杂模型的优势。与此同时,如此大量的数据需要分布式思维方法。事实上,深度学习模型需要大量的资源,并且需要分布式训练。本文提出了一种分布式学习的多准则方法。我们的方法使用加权目标规划的方法在其切比雪夫制定建立一个合奏的决策规则,优化先验定义的性能指标。这样的公式是有益的,因为它是模型和度量不可知的,并为决策者提供了一个可解释的输出。我们通过在电力需求预测中的实际应用来测试我们的方法。我们的研究结果表明,当我们允许数据集分割重叠时,我们的方法的性能始终高于在整个数据集上训练的基线模型。
2022-01-09 cs.AI cs.LG math.OC
Transformers with Attentive Federated Aggregation for Time Series Stock Forecasting
Kyung Hee University(庆熙大学)
针对Transformer用于时间序列股票预测时传统训练存在的过拟合、数据稀缺与隐私问题,提出带注意力的联邦Transformer方案,在Yahoo! Finance股票数据上验证了其应对相关挑战及数据异质性的有效性,同时可保护参与企业隐私。
2024-01-22 cs.AI cs.CE cs.DC
Respecting Time Series Properties Makes Deep Time Series Forecasting Perfect
Beihang University(北京航空航天大学)
如何处理时间特征是任何时间序列预测模型的核心问题。具有讽刺意味的是,它经常被基于深度学习的模型忽视或误解,即使是那些最先进的基线。这种行为使得它们效率低下,站不住脚和不稳定。本文从时间序列特性的角度出发,严格分析了三种流行的但存在缺陷/不足的深度时间序列预测机制或方法,包括归一化方法、多变量预测和输入序列长度。从经验和理论两方面给出了相应的推论和解决办法。因此,我们提出了一种新的时间序列预测网络,即RTNet,在上述分析的基础上。它足够通用,可以与监督和自监督预测格式相结合。由于尊重时间序列属性的核心思想,无论采用哪种预测格式,RTNet在三个真实世界的基准数据集上与其他数十种SOTA时间序列预测基线相比,都显示出明显优越的预测性能。总的来说,它甚至占用更少的时间复杂度和内存使用,同时获得更好的预测精度。源代码可在https://github.com/OrigamiSL/RTNet上获得。
2022-07-22 cs.AI cs.LG
Series Saliency: Temporal Interpretation for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
时间序列预测是一项重要而又具有挑战性的任务。虽然最近开发了深度学习方法来提供更好的预测结果,但提高时间序列模型的可解释性至关重要。以往的解释方法,包括一般的神经网络方法和基于注意力的方法,主要考虑特征维度的解释,而忽略了关键的时间维度。本文提出了多元时间序列预测时间解释的序列显著性框架,该框架考虑了特征和时间两个维度的预测解释。通过从时间序列的滑动窗口中提取“序列图像”,我们应用显著图分割遵循最小破坏区域的原则。序列显着性框架可以用于任何定义良好的深度学习模型,并作为数据增强来获得更准确的预测。几个真实数据集上的实验结果表明,我们的框架产生的时间序列预测任务的时间解释,同时产生准确的时间序列预测。
2020-12-16 cs.AI cs.LG
Federated Anomaly Detection and Mitigation for EV Charging Forecasting Under Cyberattacks
ICT Convergence Research Center(信息通信融合研究中心);Kumoh National Institute of Technology(Kumoh国立技术学院);IT-Convergence Engineering(信息融合工程)
本文提出一种联邦学习框架,用于在遭受网络攻击时实现电动汽车充电预测中的异常检测与缓解,通过保护隐私、检测攻击并提升预测准确性。
2025-11-22 cs.CR cs.LG
Inter-Series Transformer: Attending to Products in Time Series Forecasting
MIT(麻省理工学院);IBM Research(IBM研究院)
本文提出Inter-Series Transformer,通过跨时间序列注意力和共享多任务网络捕捉产品间交互并缓解稀疏性,在医疗设备供应链案例及公开数据集上提升需求预测性能。
2024-08-07 cs.AI cs.LG
A Novel Hyperdimensional Computing Framework for Online Time Series Forecasting on the Edge
School of Electrical And Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
本文提出TSF-HD框架,将在线非线性时间序列预测转化为线性超维度预测,通过协同训练适应分布变化,实现快速、轻量且低延迟的在线预测,性能优于现有方法。
2024-02-03 cs.AI cs.LG
Towards Automatic Forecasting: Evaluation of Time-Series Forecasting Models for Chickenpox Cases Estimation in Hungary
Telekom Innovation Laboratories(德国电信创新实验室);Eötvös Loránd University(厄特沃什·罗兰大学)
时间序列预测是一个强大的数据建模学科,它分析历史观测结果以预测时间序列的未来值。它已被用于许多应用,包括但不限于经济学,气象学和健康。在本文中,我们使用时间序列预测技术来建模和预测未来的水痘发病率。为了实现这一目标,我们在匈牙利收集的数据集上实现并模拟了多个模型和数据预处理技术。我们证明了LSTM模型在绝大多数县级预测实验中的表现优于所有其他模型,而SARIMAX模型在国家一级的表现最好。我们还证明了传统的数据预处理方法的性能不如我们提出的数据预处理方法。
2022-10-04 cs.AI cs.LG
DVS: Deep Visibility Series and its Application in Construction Cost Index Forecasting
Southwest University(西南大学);Chongqing University(重庆大学)
时间序列预测是近年来的研究热点。可见性图(VG)算法在以往的研究中被用于时间序列预测,但预测效果不如基于人工神经网络(ANN)、卷积神经网络(CNN)和长短期记忆网络(LSTM)的方法等深度学习预测方法。特定时间序列生成的可见性图包含丰富的网络信息,但以往的预测方法没有有效地利用网络信息进行预测,导致预测误差比较大。为了优化基于VG的预测方法,本文通过VG的仿生设计和对以往研究的扩展,提出了深度可见性系列(DVS)模块。通过将生物视觉的仿生设计应用于VG,DVS获得了较高的预测精度。同时,本文将DVS预测方法应用于工程造价指标预测,具有实际意义。
2022-05-14 cs.AI cs.LG
Combating Distribution Shift for Accurate Time Series Forecasting via Hypernetworks
Nanchang University(南昌大学);ETH Zurich(苏黎世联邦理工学院);The Hong Kong Polytechnic University(香港理工大学)
时间序列预测在城市生活中有着广泛的应用,从空气质量监测到交通分析。然而,准确的时间序列预测是具有挑战性的,因为现实世界的时间序列遭受的分布偏移的问题,其中它们的统计特性随时间而变化。尽管广泛的解决方案,分布偏移领域自适应或推广,他们无法有效地在未知的,不断变化的分布偏移,这是常见的时间序列。在本文中,我们提出了超时间序列预测(HTSF),一个基于超网络的准确预测框架下的分布偏移的时间序列。HTSF以端到端的方式联合学习时变分布和相应的预测模型。具体而言,HTSF利用超层来学习分布偏移的最佳表征,生成主层的模型参数以进行准确的预测。我们将HTSF实现为一个可扩展的框架,可以合并不同的时间序列预测模型,如RNN和Transformers。在9个基准上的大量实验表明,HTSF达到了最先进的性能。
2022-07-14 cs.AI cs.LG
Adaptive Information Routing for Multimodal Time Series Forecasting
LG AI Research(LG人工智能研究)
本文提出自适应信息路由框架,通过动态利用文本信息优化时间序列模型,提升多模态预测的准确性。
2025-12-23 cs.AI cs.LG
Probabilistic Time Series Forecasting with Implicit Quantile Networks
Zalando SE(扎兰多股份公司)
在这里,我们提出了一个一般性的概率时间序列预测方法。我们将自回归递归神经网络与隐式分位数网络相结合来模拟时间动态,以学习时间序列目标上的一大类分布。当与真实和模拟数据的其他概率神经预测模型相比时,我们的方法在逐点预测精度以及估计潜在的时间分布方面是有利的。
2021-07-08 cs.AI cs.LG
Empowering Time Series Forecasting with LLM-Agents
Visa Research(Visa研究)
DCATS通过提升数据质量而非模型架构,为时间序列预测的AutoML提供了新的方法,实现了平均6%的误差减少。
2025-11-26 cs.AI cs.LG
Retrieval Augmented Time Series Forecasting
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
本文提出检索增强预测框架RAF,用于提升时间序列预测的准确性,尤其在大规模模型中效果更显著。
2026-04-06 cs.AI cs.LG
Time series Forecasting to detect anomalous behaviours in Multiphase Flow Meters
Università degli Studi di Padova(帕多瓦大学);Pietro Fiorentini(彼得罗·菲奥伦蒂尼公司)
针对多相流量计(MPFM),开发了一种自诊断异常检测系统。该系统依赖于机器学习算法进行时间序列预测,历史数据已用于训练模型并预测传感器的行为,从而检测异常。
2022-12-30 cs.AI cs.LG
TripCast: Pre-training of Masked 2D Transformers for Trip Time Series Forecasting
Trip.com Group(携程集团)
针对旅游业具有前置时间特性的二维出行时间序列,提出 TripCast 建模范式,通过掩码与重建进行二维 Transformer 预训练,在域内和域外预测中取得优异性能。
2024-10-24 cs.AI cs.LG
Multivariate Time Series Anomaly Detection via Dynamic Graph Forecasting
University Of Waterloo(滑铁卢大学)
单变量时间序列中的异常通常指异常值以及与大多数历史观测的时间模式的偏差。在多元时间序列中,异常也指序列间关系(如相关性)随时间的异常变化。现有的研究已经能够通过图神经网络来建模这种系列间的关系。然而,大多数工作解决了学习静态图全局或在上下文窗口内,以帮助时间序列预测任务或重建任务,其目标是不适合显式检测异常关系。其他一些作品基于重建或预测系列间图的列表来检测异常,由于图的离散性,这无意中削弱了它们捕获数据内的时间模式的能力。在这项研究中,我们提出了DyGraphAD,一个多变量的时间序列异常检测框架的基础上的动态系列间图的列表。其核心思想是通过利用图形的演化性质,基于序列间关系和序列内时间模式从正常状态到异常状态的偏差来检测异常,以便同时帮助图形预测任务和时间序列预测任务。我们在真实世界数据集上的数值实验表明,DyGraphAD具有优于基线异常检测方法的性能。
2023-02-04 cs.AI cs.LG
Retrieval Based Time Series Forecasting
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Meta;IBM Research(IBM研究院)
时间序列数据出现在智能交通和环境监测等各种应用中。时间序列分析的基本问题之一是时间序列预测。尽管最近的深度时间序列预测方法取得了成功,但它们需要对历史值进行充分的观察才能做出准确的预测。换句话说,输出长度(或预测范围)与输入和输出长度之和的比率应该足够低(例如,0.3)。随着比率的增加(例如,到0.8),预测精度的不确定性显著增加。在本文中,我们从理论和经验表明,可以有效地减少不确定性检索相关的时间序列作为参考。在理论分析中,我们首先量化的不确定性,并显示其连接到均方误差(MSE)。然后,我们证明了模型的参考是更容易学习比模型没有参考,因为检索的参考可以减少不确定性。为了实证证明基于检索的时间序列预测模型的有效性,我们引入了一个简单而有效的两阶段方法,称为ReTime,包括关系检索和内容合成。我们还表明,ReTime可以很容易地适应时空时间序列和时间序列插补设置。最后,我们在真实世界的数据集上评估了ReTime,以证明其有效性。
2022-09-27 cs.AI cs.LG
Instance-wise Graph-based Framework for Multivariate Time Series Forecasting
Microsoft Research Asia(微软亚洲研究院)
多元时间序列预测由于其在金融、交通、气象等领域的重要作用而受到越来越多的关注。近年来,人们对多变量时间序列的预测进行了大量的研究。尽管之前的一些工作考虑了同一时间戳中不同变量之间的相互依赖性,但现有工作忽视了不同时间戳的不同变量之间的相互联系。在本文中,我们提出了一个简单而有效的基于实例的图形框架,利用不同时间戳的不同变量的相互依赖性进行多变量时间序列预测。我们框架的核心思想是将不同变量的历史时间序列中的信息聚合到我们需要预测的当前时间序列中。我们在交通、电力和汇率多变量时间序列数据集上进行实验。结果表明,我们提出的模型优于国家的最先进的基线方法。
2021-09-14 cs.AI cs.LG
Scaling Law for Time Series Forecasting
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Zhili College, Tsinghua University(清华大学致理书院);University of Copenhagen(哥本哈根大学);University of Washington(华盛顿大学)
本文提出时间序列预测的缩放定律理论,综合考虑数据集大小、模型复杂度及未被探索的回溯范围,解释了模型能力与输入范围对性能的异常影响,并通过多数据集实证验证了该理论框架。
2024-11-09 cs.AI cs.LG
A Comprehensive Survey of Regression Based Loss Functions for Time Series Forecasting
San José State University(圣何塞州立大学);Juniper Networks Inc(瞻博网络公司)
时间序列预测由于其在网络使用预测、资源分配、异常检测和预测性维护等方面的广泛应用而成为一个活跃的研究领域。在过去的五年中,许多出版物提出了不同的目标损失函数,以解决的情况下,如有偏数据,长期预测,多重共线性功能,在本文中,我们总结了14个著名的回归损失函数通常用于时间序列预测,并列出了他们的应用程序可以帮助更快,更好的模型收敛的情况。我们还展示了某些类别的损失函数如何在所有数据集上表现良好,并且可以在数据分布未知的情况下被视为基线目标函数。我们的代码可以在GitHub上找到:https://github.com/aryan-jadon/Regression-Loss-Functions-in-Time-Series-Forecasting-Tensorflow。
2022-11-05 cs.AI cs.LG
Are Language Models Actually Useful for Time Series Forecasting?
University of Virginia(弗吉尼亚大学);University of Washington(华盛顿大学)
通过对三种流行 LLM 时间序列预测方法做消融,本文发现移除或替换 LLM 不降低甚至提升性能,质疑 LLM 在该任务中的实际价值。
2024-10-26 cs.AI cs.LG
FrAug: Frequency Domain Augmentation for Time Series Forecasting
The Chinese University of Hong Kong(香港中文大学);International Digital Economy Academy(国际数字经济研究院)
数据增强(DA)已经成为为深度学习扩展训练数据大小的事实上的解决方案。随着用于时间序列分析的深度模型的激增,在文献中提出了各种时间序列DA技术,例如,基于裁剪、扭曲、翻转和混合的方法。然而,这些增强方法主要适用于时间序列分类和异常检测任务。在时间序列预测(TSF)中,我们需要对时间序列段内的细粒度时间关系进行建模,以便在回看窗口中给定数据时生成准确的预测结果。时域中现有的DA解决方案会打破这种关系,导致预测精度差。为了解决这个问题,本文提出了简单而有效的频域增强技术,以确保增强的数据标签对预测的语义一致性,命名为FrAug。我们在八个广泛使用的基准测试中进行了大量的实验,其中包括几个最先进的TSF深度模型。我们的研究结果表明,在大多数情况下,FrAug可以提高TSF模型的预测精度。此外,我们表明,FrAug使1\%的原始训练数据训练的模型,以达到类似的性能训练的完整训练数据,这是特别有吸引力的冷启动预测。最后,我们表明,使用FrAug进行测试时训练可以大大提高具有显著分布偏移的时间序列的预测精度,这在现实生活中的TSF应用中经常发生。我们的代码可在https://anonymous.4open.science/r/Fraug-more-results-1785上获得。
2023-02-18 cs.AI cs.LG
Fine-Tuning Foundation Models with Federated Learning for Privacy Preserving Medical Time Series Forecasting
University of Central Florida(中佛罗里达大学);KnowledgeVis, LLC(诺维吉斯有限责任公司);University of Michigan(密歇根大学);University of California, Davis(加州大学戴维斯分校);U.S. Army Institute of Surgical Research(美国陆军外科研究所);University of Central Florida College of Medicine(中佛罗里达大学医学院)
本文研究用联邦学习在 ECG 与 ICG 医疗数据上微调时间序列基础模型,分析不同数据异质性场景,表明其有效但收益依赖客户端数据分布。
2025-02-13 cs.CR cs.LG
FedTADBench: Federated Time-Series Anomaly Detection Benchmark
Sichuan University(四川大学);University of Electronic Science and Technology of China(电子科技大学)
时间序列异常检测致力于从时间数据中发现潜在的异常行为和模式,在各种应用场景中具有重要意义。构建一个有效的检测模型通常需要足够的训练数据以集中的方式存储,然而,这一要求有时不能满足在现实场景中。作为解决上述问题的一种流行方法,联邦学习已经证明了其与分布式数据合作的能力,同时保护数据提供者的隐私。然而,目前还不清楚现有的时间序列异常检测算法如何通过联邦学习与分散的数据存储和隐私保护一起执行。为了研究这一点,我们进行了一个联邦时间序列异常检测基准测试,名为FedTADBench,其中涉及五个代表性的时间序列异常检测算法和四个流行的联邦学习方法。我们想回答以下问题:(1)当遇到联邦学习时,时间序列异常检测算法的性能如何?(2)哪种联邦学习方法最适合于时间序列异常检测?(3)联邦时间序列异常检测方法如何在客户端的不同数据分区上执行?大量的结果以及相应的分析提供了从广泛的实验与各种设置。我们的基准测试的源代码可以在https://github.com/fanxingliu2020/FedTADBench上公开获得。
2022-12-19 cs.LG
Challenges and approaches to time-series forecasting in data center telemetry: A Survey
Juniper Networks Inc(瞻博网络公司)
时间序列预测一直是一个重要的研究领域。它的应用包括心电图预测,销售预测,天气状况,甚至COVID-19传播预测。这些应用促使许多研究人员找出一个最佳的预测方法,但建模方法也随着应用领域的变化而变化。这项工作的重点是审查在数据中心收集的遥测数据预测的不同预测方法。遥测数据的预测是网络和数据中心管理产品的关键功能。然而,预测方法有多种选择,从简单的线性统计模型到高容量的深度学习架构。在本文中,我们试图总结和评价的性能,众所周知的时间序列预测技术。我们希望这次评估提供了一个全面的总结,创新的遥测数据的预测方法。
2021-02-11 cs.AI cs.LG cs.NI
A decoder-only foundation model for time-series forecasting
Google Research(谷歌研究院)
受NLP大模型启发,提出一种仅解码器的时间序列基础模型,通过在大规模语料上预训练补丁解码器注意力模型,实现零样本预测性能接近各数据集上的监督模型,且适应多种预测长度与粒度。
2024-04-17 cs.AI cs.CL cs.LG
The DeepCAR Method: Forecasting Time-Series Data That Have Change Points
Ruhr-University Bochum(波鸿鲁尔大学)
时间序列预测的许多方法在经典统计学中是已知的,例如自回归,移动平均和指数平滑。DeepAR框架是一种基于深度学习的新型时间序列预测方法。DeepAR已经显示出非常有希望的结果。然而,时间序列通常有变化点,这会大大降低DeepAR的预测性能。本文通过检测和包含这些变化点来扩展DeepAR框架。我们表明,当没有变化点时,我们的方法的性能与标准DeepAR一样好,当有变化点时,性能要好得多。更一般地说,我们表明批量大小提供了一种有效且令人惊讶的简单方法来处理DeepAR,Transformers和其他现代预测模型中的变化点。
2023-02-22 cs.AI cs.LG stat.ME
Meta-Forecasting by combining Global Deep Representations with Local Adaptation
IIT(意大利理工学院);UCL(伦敦大学学院);Amazon Web Services(亚马逊云服务)
虽然经典的时间序列预测孤立地考虑单个时间序列,但基于深度学习的最新进展表明,从大量相关时间序列中联合学习可以提高预测准确性。然而,当对样本外时间序列建模时,这些方法的准确性会受到很大影响,与经典预测方法相比,显着限制了它们的适用性。为了弥合这一差距,我们采用元学习的时间序列预测问题的观点。我们引入了一种新的预测方法,称为Meta全局-局部自回归(Meta-GLAR),它通过学习从递归神经网络(RNN)产生的表示到一步预测的封闭形式的映射来适应每个时间序列。至关重要的是,RNN的参数是通过封闭形式的自适应机制通过反向传播在多个时间序列中学习的。在我们广泛的实证评估中,我们表明,我们的方法是有竞争力的国家的最先进的样本预测精度在早期的工作。
2021-11-12 cs.AI cs.LG stat.ML
Cross-Frequency Time Series Meta-Forecasting
Stanford University(斯坦福大学);AWS AI Labs(AWS人工智能实验室)
元预测是元学习与时间序列预测相结合的一个新兴领域。元预测的目标是对源时间序列的集合进行训练,并一次一个地推广到新的时间序列。以前的元预测方法实现了竞争性的性能,但限制了为每个采样频率训练单独的模型。在这项工作中,我们研究了不同采样频率下的元预测,并引入了一个新的模型,连续频率适配器(CFA),专门用于学习频率不变表示。我们发现CFA在推广到不可见频率时大大提高了性能,为在更大的多频率数据集上进行预测迈出了第一步。
2023-02-04 cs.LG
Boosted Embeddings for Time Series Forecasting
PALO ALTO NETWORKS(帕洛阿尔托网络公司);ADVANCED APPLIED AI RESEARCH(高级应用人工智能研究院)
时间序列预测是各种数据驱动应用中出现的一项基本任务。许多先进的自回归方法,如ARIMA被用来建立预测模型。最近,基于深度学习的方法,如DeepAr,NeuralProphet,Seq2Seq已经被探索用于时间序列预测问题。本文提出了一种新的时间序列预测模型DeepGB。我们制定并实现了梯度提升的变体,其中弱学习者是DNN,其权重在迭代中以贪婪的方式递增。特别是,我们开发了一种新的嵌入架构,使用梯度提升变体提高了许多深度学习模型在时间序列上的性能。我们证明,我们的模型优于现有的可比国家的最先进的模型,使用真实世界的传感器数据和公共数据集。
2021-07-11 cs.AI cs.LG stat.ML
Optimizing Time Series Forecasting Architectures: A Hierarchical Neural Architecture Search Approach
Institute of Artificial Intelligence(人工智能研究所);Leibniz University Hannover(汉诺威莱布尼茨大学);L3S Research Center(L3S研究中心)
本文提出一种层次化神经架构搜索方法,通过设计层次化搜索空间高效组合多种预测模块,在长期时间序列预测任务上搜索出轻量级高性能架构。
2025-10-23 cs.LG
Temporal Latent Auto-Encoder: A Method for Probabilistic Multivariate Time Series Forecasting
IBM Research(IBM研究院)
高维多变量时间序列的概率预测是一个众所周知的具有挑战性的任务,无论是在计算负担和分布建模。大多数以前的工作要么做简单的分布假设或放弃建模交叉系列的相关性。一个有前途的工作线利用可扩展矩阵分解进行潜在空间预测,但仅限于线性嵌入,无法建模分布,并且在使用深度学习预测时无法进行端到端的训练。我们介绍了一种新的时间潜在自动编码器方法,该方法能够对多变量时间序列进行非线性因式分解,并使用时间深度学习潜在空间预测模型进行端到端学习。通过施加概率潜在空间模型,输入序列的复杂分布通过解码器建模。大量的实验表明,我们的模型在许多流行的多变量数据集上实现了最先进的性能,对于几个标准指标,增益有时高达$50\%$。
2021-01-25 cs.AI cs.LG cs.NE
Cross-LKTCN: Modern Convolution Utilizing Cross-Variable Dependency for Multivariate Time Series Forecasting Dependency for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
针对多变量时间序列预测中跨变量依赖建模不足的问题,提出纯卷积结构 Cross-LKTCN,通过大核卷积与分组逐点卷积联合建模跨时间和跨变量依赖,在基准上达到最先进性能。
2023-06-04 cs.LG
Forecasting Method for Grouped Time Series with the Use of k-Means Algorithm
Ryazan State Radio Engineering University(梁赞国立无线电工程学院);Moscow Technological Institute(莫斯科技术学院);National Research University Higher School of Economics (HSE)(俄罗斯国家研究型高等经济大学)
研究了利用聚类分析算法对时间序列群进行预测的方法。提出了$K$ -均值算法作为聚类的基本算法。聚类中心的坐标与聚类的质心对应。时间序列的描述,聚类的质心,实现与预测模型的使用。它们是基于严格的二叉树和一个修改的克隆选择算法。借助于这种预测模型,形成分析相关性的可能性。建议对聚类中的私有(个体)时间序列,采用聚类质心时间序列的公共预测模型进行预测。所提出的分组时间序列预测方法的应用前景被证明。
2015-09-15 cs.LG
Deep Learning for Energy Time-Series Analysis and Forecasting
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
本文探讨了旨在提升能源时间序列预测任务性能的各种深度学习方法,重点关注希腊能源市场,并为读者提供实践应用所需知识。
2023-06-29 cs.LG
Signals, Concepts, and Laws: Toward Universal, Explainable Time-Series Forecasting
The University of Sydney(悉尼大学)
DORIC通过五个自监督概念和物理约束实现通用、可解释的时间序列预测
2025-12-01 cs.LG
Unveiling the Potential of Text in High-Dimensional Time Series Forecasting
Monash University(莫纳什大学);Southeast University(东南大学);University of Granada(格拉纳达大学)
针对传统时间序列预测忽略文本信息的问题,提出结合时间序列模型与大语言模型的双塔融合框架,经线性层生成预测,实验证明其可提升高维时间序列预测性能,为相关研究奠定基础。
2025-01-13 cs.AI
Can time series forecasting be automated? A benchmark and analysis
Technical University of Eindhoven(埃因霍温理工大学)
针对时间序列预测方法选择困难的问题,提出综合基准评估AutoGluon-Timeseries和sktime框架,揭示其适用性并促进最优预测方法选择。
2024-07-25 cs.LG
Long-term series forecasting with Query Selector -- efficient model of sparse attention
MORAI;Nicholas Copernicus University(尼古拉斯·哥白尼大学)
近年来,各种变形的变压Transformer被用来解决时间序列预测问题。我们提出了一个有效的,确定性算法稀疏注意矩阵的查询树。在ETT、Helpdesk和BPI'12数据集上的实验结果表明,该方法取得了较好的效果。
2021-08-17 cs.LG
Boosted Ensemble Learning based on Randomized NNs for Time Series Forecasting
Częstochowa University of Technology(琴斯托霍瓦工业大学);Facebook(脸书)
时间序列预测是一个具有挑战性的问题,特别是当一个时间序列表示多个季节性,非线性趋势和变化的方差。在这项工作中,预测复杂的时间序列,我们提出了集成学习,这是基于随机神经网络,并提高了三种方式。这些包括基于残差、校正目标和相对响应的集成学习。后两种方法用于确保所有集合成员解决类似的预报任务,这证明在集合的所有阶段使用完全相同的基础模型是合理的。统一所有成员的任务简化了集成学习,并提高了预测精度。这一点在一项涉及预测具有三重季节性的时间序列的实验研究中得到了证实,在该研究中,我们比较了我们的三种集成增强变体。基于RandNN的建议集成的优点是非常快速的训练和基于模式的时间序列表示,从时间序列中提取相关信息。
2022-03-02 cs.LG
Hyperparameter Tuning MLPs for Probabilistic Time Series Forecasting
University Of Hildesheim(希尔德斯海姆大学);VWFS Data Analytics Research Center(大众汽车金融服务数据分析研究中心)
本研究探究上下文长度、验证策略等时间序列相关超参数对最优MLP预测性能的影响,构建了含97200次评估的最大时间序列预测元数据集TSBench,并验证其在多保真度超参数优化中的效用。
2024-03-07 cs.LG
Forecasting large collections of time series: feature-based methods
University of Science & Technology Beijing(北京科技大学);Central University of Finance and Economics(中央财经大学);Beihang University(北京航空航天大学)
本章综述面向大规模时间序列集合预测的两类基于特征的方法——模型选择与模型组合,并结合开源实现介绍相关最新进展。
2023-09-25 cs.LG
Forecasting Weakly Correlated Time Series in Tasks of Electronic Commerce
Kharkiv National University of Radioelectronics(哈尔科夫国立无线电电子大学)
本文以某电子商店的转化率序列为例,利用指数平滑、神经网络和决策树等方法对转化率的弱相关时间序列进行预测。每种方法的优点和缺点被认为是。
2019-04-16 cs.LG
A review and comparison of strategies for multi-step ahead time series forecasting based on the NN5 forecasting competition
Université Libre de Bruxelles(布鲁塞尔自由大学);Cairo University(开罗大学)
多步预测仍然是时间序列预测中的一个公开挑战。处理这个复杂问题的几种方法已经在文献中提出,但大量的任务上的广泛比较仍然缺失。本文旨在通过回顾现有的多步预测策略,并在理论和实践方面进行比较,以填补这一空白。为了实现这样的目标,我们使用大型实验基准(即NN5预测竞赛的111系列)对这些不同的策略进行了大规模比较。此外,我们考虑了去季节化,输入变量的选择和预测组合对这些策略和多步提前预测的影响。以下三个发现似乎是一致的实验结果支持:多输出策略是最好的表现方法,去季节化导致统一提高预测精度,输入选择是更有效的,当与去季节化一起执行。
2011-08-16 cs.AI cs.LG stat.AP
Tackling Time-Series Forecasting Generalization via Mitigating Concept Drift
Georgia Institute of Technology(佐治亚理工学院)
本文提出ShifTS框架,通过统一处理时间序列中的时间漂移和概念漂移,提升预测准确性。
2026-03-25 cs.LG
Learning from Multiple Time Series: A Deep Disentangled Approach to Diversified Time Series Forecasting
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
时间序列预测在许多应用中是一个重要的问题,例如,财务预测和业务优化。现代数据集可以有多个相关的时间序列,它们通常是由全局(共享)动态和局部(特定)动态生成的。在本文中,我们试图用DeepDGL来解决这些预测问题,DeepDGL是一种深度预测模型,它将动态分解为全局和局部时间模式。DeepDGL采用编码器-解码器架构,由两个编码器组成,分别学习全局和局部时间模式,以及一个解码器进行多步预测。具体地说,为了对复杂的全局模式进行建模,引入了矢量量化(VQ)模块,允许全局特征编码器在所有时间序列中学习共享码本。为了模拟多样化和异质性的局部模式,提出了一种基于对比多水平编码(CMC)的自适应参数生成模块,用于为每个时间序列生成局部特征编码器的参数,最大化序列特定上下文变量与相应时间序列的长/短期表示之间的互信息.我们在几个真实世界数据集上的实验表明,DeepDGL优于现有的最先进的模型。
2021-11-09 cs.LG
ETSformer: Exponential Smoothing Transformers for Time-series Forecasting
Salesforce Research Asia(Salesforce亚洲研究院);Singapore Management University(新加坡管理大学)
近年来,Transformers在时间序列预测中得到了积极的研究。虽然在各种情况下经常显示出有希望的结果,但是传统的Transformers并没有被设计为充分利用时间序列数据的特性,因此受到一些基本限制,例如,它们通常缺乏分解能力和可解释性,对于长期预测来说既不有效也没有效率。在本文中,我们提出了ETSFormer,一个新的时间序列Transformer架构,它利用指数平滑的原则,改善Transformers的时间序列预测。特别是,受时间序列预测中经典指数平滑方法的启发,本文提出了新的指数平滑注意(ESA)和频率注意(FA)机制来取代传统Transformers中的自注意机制,从而提高了预测精度和效率。在此基础上,我们重新设计了Transformer的架构与模块化分解块,使它可以学习分解的时间序列数据到可解释的时间序列组件,如水平,增长和季节性。在各种时间序列基准上的大量实验验证了该方法的有效性和优势。代码可在https://github.com/salesforce/ETSformer上获得。
2022-06-20 cs.LG
Position: Beyond Model-Centric Prediction -- Agentic Time Series Forecasting
本文提出代理时间序列预测框架,强调通过代理流程实现动态适应与持续学习,推动时间序列预测方法的革新。
2026-03-11 cs.LG
Deep Learning-Based Financial Time Series Forecasting via Sliding Window and Variational Mode Decomposition
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出滑动窗口结合VMD的深度学习金融预测模型,将非平稳序列分解为平滑子分量后输入LSTM,实验表明其预测性能与稳定性优于原始序列方法。
2025-08-21 cs.LG
Counterfactual Explanations for Time Series Forecasting
Stockholm University(斯德哥尔摩大学)
本文提出ForecastCF算法,通过梯度扰动和预测值约束生成时间序列预测的反事实解释,实验证明其在有效性和数据流形接近度上优于基线。
2023-10-12 cs.LG
Not All Frequencies Are Created Equal:Towards a Dynamic Fusion of Frequencies in Time-Series Forecasting
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对时间序列预测中频率处理问题,提出FreDF方法,通过动态融合各频率分量,适应不同场景,并证明其具有更优泛化能力,实验验证有效。
2024-11-05 cs.LG