SSDNet: State Space Decomposition Neural Network for Time Series Forecasting
The University of Sydney(悉尼大学)
在本文中,我们提出了SSDNet,这是一种用于时间序列预测的新型深度学习方法。SSDNet将Transformer架构与状态空间模型相结合,以提供概率和可解释的预测,包括趋势和季节性组件以及对预测重要的先前时间步长。Transformer架构用于直接有效地学习时间模式并估计状态空间模型的参数,而不需要卡尔曼滤波器。我们在五个数据集上全面评估了SSDNet的性能,表明SSDNet在准确性和速度方面是一种有效的方法,优于最先进的深度学习和统计方法,并且能够提供有意义的趋势和季节性成分。
2021-12-19 cs.LG
Short-term daily precipitation forecasting with seasonally-integrated autoencoder
Chiang Mai University(清迈大学);Data Science Research Center(数据科学研究中心)
短期降水预报对于从个人规划、城市管理到防洪等多尺度的人类活动规划至关重要。然而,短期大气动力学是高度非线性的,它不能很容易地捕捉到经典的时间序列模型。另一方面,深度学习模型擅长学习非线性相互作用,但它们并不是为了处理时间序列中的季节性而设计的。在这项研究中,我们的目标是开发一个预测模型,既可以处理的非线性和检测隐藏在每日降水数据的季节性。为此,我们提出了一个季节性集成自动编码器(SSAE),由两个长短期记忆(LSTM)自动编码器组成:一个用于学习短期动态,另一个用于学习时间序列中的季节性。我们的实验结果表明,无论气候类型如何,SSAE不仅优于各种时间序列模型,而且与其他深度学习模型相比,它的输出方差也较低。结果还表明,SSAE的季节性成分有助于改善预测和实际值之间的相关性,从水平1的4%提高到水平3的37%。
2021-01-23 cs.LG
How Much Can A Retailer Sell? Sales Forecasting on Tmall
Ant Financial Services Group(蚂蚁金融服务集团)
时间序列预测是学术界和工业界的一项重要研究课题,它可以用来解决许多实际的预测问题,如股票,供水和销售预测。本文研究了零售商在天猫上的销售预测案例|全球领先的在线B2C平台。通过分析数据,我们有两个主要的观察结果,即,在我们将不同的零售商分组后,销售季节性和在我们转换销售(目标到预测)后的Tweedie分布。根据我们的观察,我们设计了两种销售预测机制,即,季节性提取和分布变换。首先,我们采用傅立叶分解自动提取的季节性为不同类别的零售商,这可以进一步被用作任何既定的回归算法的附加功能。其次,我们建议优化对数变换后的Tweedie销售损失。我们将这两种机制应用于经典的回归模型,即,神经网络和梯度提升决策树,并在天猫数据集上进行实验,结果表明两种机制都能显著提高预测结果。
2020-02-27 cs.LG stat.AP stat.ML
Deep Particulate Matter Forecasting Model Using Correntropy-Induced Loss
Yonsei University(延世大学)
韩国的颗粒物(PM)浓度对人类生活产生了强烈的负面影响,因此对其进行预测已成为当务之急。在大多数统计或机器学习方法中,假设独立和相同分布的数据,例如高斯分布;然而,空气污染和天气数据等时间序列不满足此假设。本研究应用最大相关熵回归损失准则(MCCR)分析大气污染与天气资料的统计特性。由于空气污染和天气数据具有复杂的季节性模式,而且即使在去季节化之后数据仍具有重尾分布,因此对它们进行了严格的季节性调整。MCCR损失被应用于多个模型,包括传统的统计模型和最先进的机器学习模型。结果表明,MCCR损失比传统的均方误差损失更适合于预测极值。
2021-08-30 cs.LG stat.AP stat.ML
Boosted Ensemble Learning based on Randomized NNs for Time Series Forecasting
Częstochowa University of Technology(琴斯托霍瓦工业大学);Facebook(脸书)
时间序列预测是一个具有挑战性的问题,特别是当一个时间序列表示多个季节性,非线性趋势和变化的方差。在这项工作中,预测复杂的时间序列,我们提出了集成学习,这是基于随机神经网络,并提高了三种方式。这些包括基于残差、校正目标和相对响应的集成学习。后两种方法用于确保所有集合成员解决类似的预报任务,这证明在集合的所有阶段使用完全相同的基础模型是合理的。统一所有成员的任务简化了集成学习,并提高了预测精度。这一点在一项涉及预测具有三重季节性的时间序列的实验研究中得到了证实,在该研究中,我们比较了我们的三种集成增强变体。基于RandNN的建议集成的优点是非常快速的训练和基于模式的时间序列表示,从时间序列中提取相关信息。
2022-03-02 cs.LG
DBLoss: Decomposition-based Loss Function for Time Series Forecasting
East China Normal University(东华师范大学)
针对现有MSE损失难以准确捕捉预测区间内季节性与趋势的问题,提出基于分解的DBLoss损失函数,通过指数移动平均分解分量并分别加权计算损失,可适配各类预测模型,显著提升了现有最优模型在多数据集上的性能。
2025-10-27 cs.LG
Probabilistic Forecasting with Temporal Convolutional Neural Network
Bigo Inc.(Bigo公司);Beihang University(北京航空航天大学);IBM China CIC(IBM中国创新中心);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
提出了一种基于卷积神经网络的概率预测框架,用于多个相关时间序列的预测。该框架可以应用于估计参数和非参数设置下的概率密度。更具体地说,基于扩张的因果卷积网的堆叠的残差块被构造成捕获序列的时间依赖性。结合表征学习,我们的方法能够学习复杂的模式,如季节性,系列内和跨系列的假日效应,并利用这些模式进行更准确的预测,特别是当历史数据稀疏或不可用时。在几个真实世界的数据集上进行了广泛的实证研究,包括来自中国最大的在线零售商JD.com的数据集。结果表明,我们的框架优于其他国家的最先进的方法在准确性和效率。
2020-03-16 cs.LG stat.ML
TS2Vec-Ensemble: An Enhanced Self-Supervised Framework for Time Series Forecasting
Department of Computer Science and Engineering(计算机科学与工程系);University of Moratuwa(莫塔瓦大学)
TS2Vec-Ensemble通过融合预训练动态与显式时间特征,提升长跨度时间序列预测性能。
2025-11-27 cs.LG
Demand Forecasting from Spatiotemporal Data with Graph Networks and Temporal-Guided Embedding
POSTECH(浦项科技大学);Statice GmbH(Statice有限公司);Kakao Brain;Kakao Mobility
短期需求预测模型通常结合卷积层和递归层来提取数据中复杂的时空模式。长期历史也被用来考虑作为时间序列数据的周期性和季节性模式。在本研究中,我们提出了一种高效的架构,即时间引导网络(TGNet),它利用图网络和时间引导嵌入。图网络将不变特征提取到相邻区域的排列中,而不是卷积层。时间引导的嵌入从训练数据中显式地学习时间上下文,并替换来自数天/数周前的长期历史的输入。TGNet学习自回归模型,该模型以时间引导嵌入的预测目标的时间背景为条件。最后,我们的模型在来自现实世界的三个时空需求数据集上实现了与其他基线竞争的性能,但可训练参数的数量比最先进的基线小约20倍。我们还表明,时间引导嵌入学习时间上下文的预期和TGNet具有强大的预测性能,即使是非典型事件的情况。
2019-10-07 cs.LG stat.ML
ES-dRNN: A Hybrid Exponential Smoothing and Dilated Recurrent Neural Network Model for Short-Term Load Forecasting
Facebook;Czestochowa University of Technology(琴斯托霍瓦技术大学)
短期负荷预测是一个具有挑战性的问题,因为时间序列具有三种季节性模式和非线性趋势。本文提出了一种新的混合层次深度学习模型,该模型处理多个季节性,并产生点预测和预测区间(PI)。它结合了指数平滑(ES)和循环神经网络(RNN)。ES动态地提取每个单独TS的主要成分,并启用动态去季节化,这在相对较小的数据集上操作时特别有用。多层RNN配备了一种新型的扩张递归单元,旨在有效地对TS中的短期和长期依赖性进行建模。为了改进内部TS表示,从而提高模型的性能,RNN同时学习ES参数和将输入转换为预测的主映射函数。我们比较我们的方法与几个基线方法,包括经典的统计方法和机器学习(ML)的方法,对35个欧洲国家的STLF问题。实证研究清楚地表明,该模型具有较高的表达能力,解决非线性随机预测问题的TS包括多个季节性和显着的随机波动。事实上,它在准确性方面优于统计和最先进的ML模型。
2021-12-05 cs.LG cs.NE
Industrial Forecasting with Exponentially Smoothed Recurrent Neural Networks
Illinois Institute of Technology(伊利诺伊理工学院)
时间序列建模已经进入了一个数据规模和复杂性空前增长的时代,这需要新的建模方法。虽然出现了许多新的通用机器学习方法,但它们仍然难以理解,并且与更传统的统计建模方法不可调和。我们提出了一类指数平滑循环神经网络(RNN),非常适合于建模非平稳动态系统中出现的工业应用。特别是,我们分析他们的能力,以表征非线性偏自相关结构的时间序列,并直接捕捉动态的影响,如季节性和趋势。指数平滑RNN预测电力负荷,天气数据和股票价格的应用突出了指数平滑隐藏状态的多步时间序列预测的有效性。研究结果还表明,流行的,但更复杂的神经网络架构最初是为语音处理设计的,如LSTM和GRU,可能被过度设计用于工业预测和轻量级指数平滑架构,在一小部分时间内训练,捕捉显著特征,同时比简单的RNN和ARIMA模型更优越,更强大。此外,不确定性量化的指数平滑循环神经网络,贝叶斯估计,提供了更好的覆盖。
2020-10-30 cs.LG stat.ML
ForecastGAN: A Decomposition-Based Adversarial Framework for Multi-Horizon Time Series Forecasting
Department of Mechanical, Automotive and Materials Engineering(机械、汽车和材料工程系)
本文提出ForecastGAN框架,通过分解模块、模型选择模块和条件生成对抗训练模块,有效融合数值与类别特征,在十一个多元时间序列数据集上实现短期预测优于Transformer模型且长期预测具有竞争力的效果。
2025-11-06 cs.LG stat.ML
RobustSTL: A Robust Seasonal-Trend Decomposition Algorithm for Long Time Series
Alibaba Group(阿里巴巴集团)
将复杂的时间序列分解为趋势、季节和剩余分量是促进时间序列异常检测和预测的重要任务。尽管已经提出了许多方法,但仍然有许多时间序列特征表现在现实世界的数据中没有得到适当的解决,包括:1)处理季节性波动和偏移的能力,以及趋势和提醒的突变; 2)对异常数据的鲁棒性; 3)对长季节性周期时间序列的适用性。在本文中,我们提出了一种新的和通用的时间序列分解算法来解决这些挑战。具体来说,我们提取的趋势分量鲁棒地解决回归问题,使用最小绝对偏差损失与稀疏正则化。在提取趋势的基础上,应用非局部季节性滤波提取季节性成分。重复该过程,直到获得准确的分解。不同的合成和真实世界的时间序列数据集上的实验表明,我们的方法优于现有的解决方案。
2018-12-05 cs.LG eess.SP stat.AP
Short- and long-term forecasting of electricity prices using embedding of calendar information in neural networks
电价在很大程度上取决于不同时间尺度的季节性,因此任何电价预测都必须考虑到这一点。神经网络在短期电价预测方面已被证明是成功的,但LSTM等复杂架构被用于整合季节性行为。本文表明,简单的神经网络架构,如DNN与季节性信息的嵌入层可以生成一个有竞争力的预测。日历信息的基于嵌入的处理还为神经网络在电力交易中开辟了新的应用,例如生成价格远期曲线。除了理论基础,本文还提供了德国电力市场的实证多年的研究,这两个应用程序,并从嵌入层得出经济见解。研究表明,在短期价格预测中,具有嵌入层的拟议神经网络的平均绝对误差优于LSTM和时间序列基准模型,甚至略优于我们的最佳基准模型,具有复杂的超参数优化。结果得到了使用Friedman和Holm检验的统计分析的支持。
2022-02-02 stat.AP
Learning to Difference: Adaptive Reversible Differencing (AdaRDiff) for Time Series Forecasting
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LIG(信息与信号处理实验室);Savoye(萨沃伊公司)
该研究提出自适应可逆差分(AdaRDiff)即插即用模块,通过可学习权重的加权差分稳定残差,实现长程时间序列预测精度提升,可改进多种骨干网络且加速明显。
2026-08-31 cs.LG
EasyTime: Time Series Forecasting Made Easy
School of Data Science and Engineering, East China Normal University(华东师范大学数据科学与工程学院);Department of Computer Science, Aalborg University(奥尔堡大学计算机科学系)
EasyTime系统通过一键评估、自动集成模块和基于大语言模型的自然语言问答模块,简化了时间序列预测方法的使用,并支持新预测方法的开发。
2024-12-23 cs.LG stat.ML
Recurrent Neural Networks for Time Series Forecasting: Current Status and Future Directions
Monash University(莫纳什大学)
循环神经网络(RNN)已经成为有竞争力的预测方法,最值得注意的是最近的M4竞赛的获胜方法。然而,ETS和ARIMA等已建立的统计模型不仅因其高准确性而受到欢迎,而且还因其强大,高效和自动化而适用于非专家用户。在这些领域,RNN还有很长的路要走。我们提出了一个广泛的实证研究和现有的RNN预测架构的开源软件框架,使我们能够制定指导方针和最佳实践。例如,我们得出结论,如果数据集中的序列具有均匀的季节模式,则RNN能够直接对季节性进行建模,否则我们建议进行去季节化步骤。与ETS和ARIMA的比较表明,实现的(半)自动RNN模型不是银弹,但在许多情况下它们是有竞争力的替代品。
2020-12-23 cs.LG cs.NE stat.ML
GEFCOM 2014 - Probabilistic Electricity Price Forecasting
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
能源价格预测是多步时间序列预测领域中的一个重要而又困难的课题。在本文中,我们比较了一个众所周知的和既定的方法,ARMA与一个相对较新的技术梯度提升回归的外生变量。该方法在2014年全球能源预测竞赛的数据上进行了测试,并进行了为期一年的滚动窗口预测。实验结果表明,多模型方法在误差度量方面表现得更好。梯度提升可以处理季节性和自相关的开箱即用,并在真实世界数据上实现较低的归一化平均绝对误差率。
2015-06-23 cs.CE cs.LG stat.AP
Zero-shot Forecasting by Simulation Alone
Amazon(亚马逊公司);UC Berkeley(加州大学伯克利分校);New York University(纽约大学);University of Washington(华盛顿大学)
SarSim0通过SARIMA模型生成模拟数据,实现高效的零样本时间序列预测,超越现有统计模型和基线方法。
2026-01-02 cs.LG
Deep Learning in Multiple Multistep Time Series Prediction
该项目旨在研究在多步时间序列预测中结合深度学习,特别是长短记忆(LSTM)和基本统计。LSTM可以深入到所有页面,并在大范围内学习变化的一般趋势,而每个页面的精心选择的中位数可以保持不同页面的特殊季节性,以便未来趋势不会与现实波动太大。最近的Kaggle竞赛145K Web流量时间序列预测[1]被用来彻底说明和测试这个想法。
2017-10-12 cs.LG stat.ML
Pattern Similarity-based Machine Learning Methods for Mid-term Load Forecasting: A Comparative Study
Częstochowa University of Technology(琴希托霍瓦工业大学)
基于模式相似性的方法被广泛应用于分类和回归问题。在季节性时间序列中观察到的重复的、形状相似的周期鼓励人们应用这些方法进行预测。在本文中,我们使用模式相似性为基础的方法来预测月度电力需求表示年度季节性。模型的一个组成部分是使用时间序列模式的时间序列表示。模式表示通过趋势滤波和方差均衡保证了输入和输出数据的统一。因此,模式表示简化了预测问题,并允许我们使用基于模式相似性的模型。我们考虑了四个这样的模型:最近邻模型,模糊邻域模型,核回归模型和一般回归神经网络。通过聚合输出模式构建回归函数,其中权重取决于输入模式之间的相似性。所提出的模型的优点是:清晰的操作原理,少量的参数调整,快速优化过程,良好的泛化能力,工作在最新的数据没有再训练,鲁棒性丢失的输入变量,并生成一个向量作为输出。在实验部分的工作,所提出的模型被用来预测35个欧洲国家的月度需求。将模型性能与ARIMA、指数平滑等经典模型以及多层感知器、神经模糊系统、长短期记忆模型进行了比较。结果表明,所提出的模型的高性能优于比较模型的准确性,简单性和易于优化。
2020-03-03 cs.LG stat.ML
Performance evaluation of deep neural networks for forecasting time-series with multiple structural breaks and high volatility
Birla Institute of Technology and Science Pilani(比拉理工学院与科学大学皮拉尼分校)
时间序列数据的自动和准确预测问题一直是机器学习和预测社区的一个有趣的挑战。现实世界中的大多数时间序列问题具有非平稳特性,这使得对趋势和季节性的理解变得困难。我们在这篇论文中的兴趣是研究流行的深度神经网络(DNN)作为非平稳TSF的函数逼近器的适用性。我们评估了以下DNN模型:多层感知器(MLP),卷积神经网络(CNN),具有长短期记忆的RNN(LSTM-RNN)和具有门控递归单元的RNN(GRU-RNN)。这些DNN方法已经在10个流行的印度金融股票数据中进行了评估。此外,这些DNN的性能评估已经在两种预测设置的多个独立运行中进行:(1)单步预测,和(2)多步预测。这些DNN方法在单步预测(提前一天预测)方面表现出令人信服的性能。对于多步预测(多天前预测),我们评估了不同预测期的方法。这些方法的性能表明,较长的预测期对性能有不利影响。
2020-07-25 cs.LG cs.NE stat.ML
Neural Network Middle-Term Probabilistic Forecasting of Daily Power Consumption
中期(数月至一年)的电力消耗预测是能源行业的主要挑战,特别是在考虑概率预测时。我们提出了一种新的建模方法,将趋势,季节性和天气条件,解释变量在一个浅神经网络与自回归功能。我们获得了良好的结果,密度预测的一年的测试集,将其应用于美国新英格兰地区的每日用电量。所实现的电力消耗概率预测的质量已得到验证,一方面,将结果与其他标准模型进行密度预测,另一方面,考虑到能源部门经常使用的措施,如弹球损失和CI回测。
2022-01-02 eess.SP stat.ME stat.ML
Multimodal Neural Network For Demand Forecasting
Zenlabs, Zensar Technologies Ltd.(Zensar科技有限公司Zenlabs)
需求预测应用程序极大地受益于用于时间序列预测的最先进的深度学习方法。传统的单模态模型主要是季节性驱动的,它试图将需求建模为历史销售以及假期和促销活动信息的函数。然而,准确和稳健的销售预测需要适应多种其他因素,如自然灾害,流行病,选举等,影响了对产品和产品类别的总体需求。我们提出了一个多模态的销售预测网络,它结合了新闻文章中的真实事件和传统数据,如历史销售和假日信息。此外,我们还融合了Google趋势发布的一般产品趋势的信息。实证结果显示,SMAPE误差指标在统计上有显著改善,与现实世界超市数据集上现有的最先进的销售预测技术相比,平均改善了7.37%。
2022-10-20 cs.AI cs.LG
A Comprehensive Forecasting Framework based on Multi-Stage Hierarchical Forecasting Reconciliation and Adjustment
Walmart Global Tech(沃尔玛全球技术部门)
针对分层时间序列预测中传统协调方法牺牲准确性且难以捕捉季节性的问题,提出Multi-Stage HiFoReAd框架,通过多阶段协调与调整实现准确且一致的预测,并在Walmart内部及公开数据集上显著降低误差,已成功部署。
2024-12-19 cs.DC cs.LG
N-BEATS-MOE: N-BEATS with a Mixture-of-Experts Layer for Heterogeneous Time Series Forecasting
Faculdade de Engenharia da Universidade do Porto, Porto, Portugal(葡萄牙波尔图大学工程学院);Laboratory for Artificial Intelligence and Computer Science (LIACC)(人工智能与计算机科学实验室)
本文提出 N-BEATS-MOE,通过引入专家混合层和动态块加权策略,使模型更好地适应异构时间序列特征,在多个基准数据集上提升了预测性能并增强了可解释性。
2025-08-10 cs.LG stat.ML
Enhancing Retail Sales Forecasting with Optimized Machine Learning Models
HANWHA Qcells America(韩华Qcells美国公司);Pace University(佩斯大学)
针对零售销量预测中传统方法难以应对复杂季节性和多品类数据的问题,本研究通过随机搜索交叉验证优化随机森林模型,在精度上优于传统方法及多种前沿机器学习模型,为零售预测分析提供更可靠的方案。
2024-12-07 cs.LG
Deep Autoregressive Models with Spectral Attention
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Health Research Institute Gregorio Marañón(格雷戈里奥·马拉尼翁健康研究所);CIBERSAM, ISCIII(西班牙生物医学研究网络中心(卡洛斯三世健康研究所))
时间序列预测是一个跨领域的重要问题,在许多实际应用中发挥着至关重要的作用。在本文中,我们提出了一种预测架构,将深度自回归模型与频谱注意力(SA)模块相结合,该模块在模型的嵌入空间中合并了全局和局部频域信息。通过在谱域中将时间序列的嵌入表征为随机过程的发生,我们的方法可以识别全局趋势和季节性模式。两个频谱注意力模型,全球和本地的时间序列,集成此信息的预测和执行频谱滤波,以消除时间序列的噪声。所提出的架构有一些有用的属性:它可以有效地纳入众所周知的预测架构,需要少量的参数,并产生可解释的结果,提高预测精度。我们在几个众所周知的预测数据集上测试了光谱注意力自回归模型(SAAM),一致表明我们的模型与最先进的方法相比是有利的。
2021-12-26 cs.LG stat.ML
Hybrid Variational Autoencoder for Time Series Forecasting
Deakin University(迪肯大学);University of New South Wales(新南威尔士大学);Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东省科学院))
提出混合变分自编码器(HyVAE),通过变分推断联合学习时间序列的局部模式与时间动态,在四个真实数据集上优于对比方法和仅学习单一方面的变体。
2023-03-13 cs.LG
ETSformer: Exponential Smoothing Transformers for Time-series Forecasting
Salesforce Research Asia(Salesforce亚洲研究院);Singapore Management University(新加坡管理大学)
近年来,Transformers在时间序列预测中得到了积极的研究。虽然在各种情况下经常显示出有希望的结果,但是传统的Transformers并没有被设计为充分利用时间序列数据的特性,因此受到一些基本限制,例如,它们通常缺乏分解能力和可解释性,对于长期预测来说既不有效也没有效率。在本文中,我们提出了ETSFormer,一个新的时间序列Transformer架构,它利用指数平滑的原则,改善Transformers的时间序列预测。特别是,受时间序列预测中经典指数平滑方法的启发,本文提出了新的指数平滑注意(ESA)和频率注意(FA)机制来取代传统Transformers中的自注意机制,从而提高了预测精度和效率。在此基础上,我们重新设计了Transformer的架构与模块化分解块,使它可以学习分解的时间序列数据到可解释的时间序列组件,如水平,增长和季节性。在各种时间序列基准上的大量实验验证了该方法的有效性和优势。代码可在https://github.com/salesforce/ETSformer上获得。
2022-06-20 cs.LG
Neural Networks with LSTM and GRU in Modeling Active Fires in the Amazon
Universidade Estadual da Paraíba(帕拉伊巴州立大学)
本研究针对巴西亚马逊地区AQUA_M-T卫星探测的活跃火点时间序列,提出结合LSTM和GRU的混合RNN预测模型,经双种子交叉验证验证其能有效捕捉季节性并实现优异预测性能,为环境监测及自然现象预测的深度学习应用提供新方向。
2024-11-01 cs.AI cs.LG stat.AP
Recurrent Neural Networks for Forecasting Time Series with Multiple Seasonality: A Comparative Study
Czestochowa University of Technology(琴斯托霍瓦工业大学)
本文比较了具有不同类型门控单元的循环神经网络(RNN)对具有多个季节性的时间序列的预测。我们比较的细胞包括经典的长短期记忆(LSTM),门控递归单元(GRU),具有膨胀的修改的LSTM,以及我们最近提出的两个新细胞,它们配备了膨胀和注意力机制。为了对不同尺度的时间依赖性进行建模,我们的RNN架构具有多个膨胀的递归层,这些层堆叠有分层膨胀。建议的RNN产生点预测和预测区间(PI)。一项关于35个欧洲国家短期电力负荷预测的实证研究证实,具有扩张和注意力的新门控细胞表现最好。
2022-03-17 cs.LG
DSAT-HD: Dual-Stream Adaptive Transformer with Hybrid Decomposition for Multivariate Time Series Forecasting
Computer Science and Technology(计算机科学与技术);Harbin Engineering University(哈尔滨工程大学);Traditional Chinese Medicine Data Center(传统中医数据中心);China Academy of Chinese Medical Sciences(中国中医科学院)
针对多尺度特征捕捉与固定季节分解的局限,本文提出 DSAT-HD,通过混合分解、自适应多尺度路径和双流残差学习提升预测性能与跨场景泛化能力。
2025-09-29 cs.AI cs.LG
Analyzing Customer-Facing Vendor Experiences with Time Series Forecasting and Monte Carlo Techniques
eBay Inc.(eBay公司)
针对eBay供应商宕机导致的客户流失问题,提出一种结合乘法季节性模型、Monte Carlo模拟和线性模型的数据驱动方案,通过预测和对比客户行为,确定禁用问题供应商的最佳时机。
2024-07-30 cs.LG stat.CO stat.ML
A Novel Hybrid Approach for Time Series Forecasting: Period Estimation and Climate Data Analysis Using Unsupervised Learning and Spline Interpolation
本文提出一种结合两个成熟时间序列模型的新型混合预测方法,利用无监督学习和样条插值新算法估计周期,在金奈气候数据上实现优化预测,推进预测技术并洞察气候数据。
2025-07-10 cs.NA math.NA stat.AP
A Decomposable Forward Process in Diffusion Models for Time-Series Forecasting
Department of Informatics, NOVA University of Lisbon, Caparica, Portugal(信息学院,里斯本NOVA大学,葡萄牙卡帕里卡)
本文提出了一种可分解的前向扩散过程,通过频谱分解提升时间序列预测的准确性,且计算开销低。
2026-02-16 cs.AI cs.LG stat.ML
A Multi-Horizon Quantile Recurrent Forecaster
我们提出了一个一般的概率多步时间序列回归的框架。具体来说,我们利用序列到序列神经网络的表达能力和时间性质(例如,递归和卷积结构),分位数回归的非参数性质和直接多地平线预测的效率。为了提高序列网的稳定性和性能,设计了一种新的训练方案,*forking-sequences*。我们表明,该方法可以同时容纳时间和静态协变量,跨多个相关系列学习,改变季节性,未来计划的事件峰值和现实生活中的大规模预测冷启动。该框架的性能证明在一个应用程序中预测的未来需求的项目在Amazon.com上出售,并在公共概率预测竞争预测电价和负荷。
2018-06-28 stat.ML
An Asymmetric Loss with Anomaly Detection LSTM Framework for Power Consumption Prediction
American University of Beirut(贝鲁特美国大学)
建立一个准确的负荷预测模型,预测不足最小是至关重要的,以防止任何不必要的停电,由于电力生产不足。然而,住宅部门的电力消耗模式包含波动和异常,使其难以预测。在本文中,我们提出了多个具有不同非对称损失函数的长短期记忆(LSTM)框架,以对预测不足施加更高的惩罚。我们还采用了基于密度的空间聚类的应用程序与噪声(DBSCAN)异常检测方法,在负荷预测任务之前,删除任何现有的oultiers。考虑到天气和社会因素的影响,季节性分裂是在法国,德国和匈牙利的三个考虑的数据集上进行的,这些数据集包含每小时的电力消耗,天气和日历功能。均方根误差(RMSE)的结果表明,去除异常有效地减少了低估和高估的错误,在所有的季节数据集。此外,非对称损失函数和季节性分裂有效地最小化低估,尽管在一定程度上增加了高估误差。减少对电力消耗的低估对于防止可能对社区造成损害的停电至关重要。
2023-02-05 cs.AI cs.LG
AdaCast: Conditional Parameter Generation for Adaptive Time Series Forecasting
Auburn University(奥本大学)
针对现有时间序列预测适配方法无法适配输入时间序列动态的局限,提出AdaCast框架,通过生成器生成特定输入的低秩参数更新,在6个基准测试中优于静态基线并提升零样本泛化能力。
2026-10-09 cs.AI cs.LG
Probabilistic AutoRegressive Neural Networks for Accurate Long-range Forecasting
International Institute of Information Technology Bangalore(班加罗尔国际信息技术学院);Sorbonne University Abu Dhabi(索邦大学阿布扎比分校)
本文提出概率自回归神经网络 PARNN,通过引入 ARIMA 反馈误差改进 ARNN,并结合预测区间实现不确定性量化,在多个真实数据集上超越 Transformers、NBeats 和 DeepAR 等模型,实现精确长期预测。
2023-06-27 cs.LG stat.ML
Probabilistic Decomposition Transformer for Time Series Forecasting
Southeast University(东南大学)
时间序列预测在灾害预警、天气预报、能源消耗等许多领域都具有重要意义。基于Transformer的模型被认为是序列建模领域的革命。然而,时间序列的复杂时间模式阻碍了模型挖掘可靠的时间依赖。此外,Transformer的自回归形式在推理步骤中引入了累积误差。在本文中,我们提出了概率分解Transformer模型,结合了Transformer与条件生成模型,它提供了复杂的时间序列的层次和可解释的概率预测。Transformer用于学习时间模式并实现初级概率预测,而条件生成模型用于通过引入潜在空间特征表示来实现非自回归分层概率预测。此外,条件生成模型从潜在空间中的概率分布重建序列的典型特征,例如季节性和趋势项,以实现复杂的模式分离并提供可解释的预测。在多个数据集上进行的大量实验证明了该模型的有效性和鲁棒性,表明该模型与现有技术相比具有优势。
2022-10-31 cs.LG
Inter Time Series Sales Forecasting
在大多数时间序列中,不同模型的组合预测表现出比单一预测更好的效果。为了提高预测质量,可以进行组合预测。我们研究了将一个序列分解为多个组成部分并分别对每个组成部分进行预测的效果。原始序列被分解为趋势,季节性和每个序列的不规则分量。利用ARIMA、Holt-Winter等统计方法对这些分量进行了预测。在本文中,我们专注于如何一个系列的最佳模型可以应用到相似的频率模式序列预测使用关联挖掘。与Holt Winter方法的预测值进行了比较,结果表明该方法的预测效果优于Holt Winter方法
2013-03-01 stat.AP
Low-Rank Autoregressive Tensor Completion for Multivariate Time Series Forecasting
McGill University(麦吉尔大学)
时间序列预测是一个长期的研究课题,在许多领域都有重要的应用。从传感器网络收集的现代时间序列(例如,能量消耗和交通流量)通常是大规模的和不完整的,具有相当大的破坏和缺失值,使得难以执行准确的预测。在本文中,我们提出了一个低秩自回归张量完成(LATC)框架来建模多元时间序列数据。LATC的关键是将原始多变量时间序列矩阵(例如,传感器$\times$时间点)到三阶张量结构(例如,传感器$\times$一天中的时间$\times$一天),这允许我们将时间序列的固有节奏和季节性建模为全局模式。利用张量结构,我们可以将时间序列预测和缺失数据填补问题转化为一个通用的低秩张量补全问题。除了最小化张量秩,我们还集成了一个新的自回归范数的原始矩阵表示到目标函数。这两个组成部分发挥不同的作用。低秩结构使我们能够有效地捕捉所有三个维度的全球一致性和趋势(即,传感器之间的相似性、不同日期的相似性以及当前时间与历史上的同一天)。自回归范数可以更好地模拟局部时间趋势。我们在三个真实数据集上的数值实验表明,在缺失数据插补和滚动预测任务中,LATC中全局和局部趋势的集成具有优越性。
2020-06-18 cs.LG stat.ML
Two-Stage Framework for Seasonal Time Series Forecasting
MIT Operations Research Center(麻省理工学院运筹学研究中心);MIT Laboratory for Financial Engineering(麻省理工学院金融工程实验室);Machine Intelligence Technology, Alibaba Group(阿里巴巴集团机器智能技术部)
季节性时间序列的预测仍然是一个具有挑战性的问题,由于长期依赖于季节性。在本文中,我们提出了一个两阶段的框架来预测单变量季节性时间序列。第一阶段明确地学习超出预测范围的时间窗口中的长期时间序列结构。通过结合学习的长期结构,第二阶段可以提高预测范围内的预测精度。在这两个阶段中,我们将自回归模型与神经网络相结合,以捕捉时间序列中的线性和非线性特征。我们的框架在M4竞赛小时数据集上实现了最先进的性能。特别是,我们表明,将第一阶段产生的中间结果,现有的预测模型,可以有效地提高其预测性能。
2021-03-03 cs.AI cs.LG stat.AP
SPINEX-TimeSeries: Similarity-based Predictions with Explainable Neighbors Exploration for Time Series and Forecasting Problems
University of Manitoba(曼尼托巴大学);Clemson University(克莱姆森大学);Artificial Intelligence Research Institute for Science and Engineering (AIRISE), Clemson University(克莱姆森大学科学与工程人工智能研究院(AIRISE))
该研究提出面向时间序列预测的SPINEX新算法,利用多尺度相似性与高阶时间交互提升性能,在49个数据集上对比18种算法,精度稳居前5且具备可解释性与中等复杂度,为预测分析提供新方向。
2024-08-04 cs.LG stat.CO stat.ME
Short-term CO2 emissions forecasting: insight from the Italian electricity market
University of Padua(帕多瓦大学)
本文通过评估多种模型和组合方法,探讨了意大利电力市场中短期碳排放预测的准确性,发现GAM在白天表现最佳,组合方法整体优于单个模型。
2025-12-17 stat.AP
Efficient Test-Time Scaling for LLM-based Time Series Forecasting
The University of Melbourne(墨尔本大学);Monash University(莫纳什大学)
本研究提出 SCALER 框架,通过轻量 Transformer 预测未来粗粒度形状引导 LLM 迭代精调,在多类预测任务中优于基线且降低推理成本。
2026-08-11 cs.LG
LoMEF: A Framework to Produce Local Explanations for Global Model Time Series Forecasts
Monash University(莫纳什大学)
与单变量预测方法相比,在一组多个时间序列中训练的全局预测模型(GFM)在许多预测竞赛和现实世界的应用中显示出优越的结果。ETS和ARIMA等统计预测模型的流行性的一个方面是它们相对简单和可解释性(在相关滞后,趋势,季节性等方面),而GFM通常缺乏可解释性,特别是对特定的时间序列。这降低了利益相关者在无法理解预测的情况下根据预测做出决策时的信任和信心。为了缓解这个问题,在这项工作中,我们提出了一种新的本地模型不可知的可解释性方法来解释GFM的预测。我们训练更简单的单变量代理模型,它们被认为是可解释的(例如,ETS)对GFM对邻域内样本的预测,我们通过自举或直接作为需要解释的时间序列的一步全球黑箱模型预测获得。之后,我们从定性和定量两个方面评估了全球模型预测的解释,如准确性,保真度,稳定性和可理解性,并能够显示我们的方法的好处。
2021-11-13 cs.AI cs.LG stat.ML
A Robust and Efficient Multi-Scale Seasonal-Trend Decomposition
Alibaba Group(阿里巴巴集团)
许多现实世界的时间序列表现出不同长度的多重季节性。去除季节性成分在时间序列的许多应用中是至关重要的,包括预报和异常检测。然而,许多季节趋势分解算法的计算成本高,需要大量的数据时,多个季节成分存在,特别是当周期长度很长。本文针对具有多重季节性的时间序列,提出了一种通用而有效的多尺度季节趋势分解算法。我们首先将原始时间序列降采样到较低的分辨率,然后将其转换为具有单一季节性的时间序列。因此,现有的季节趋势分解算法可以直接用于获得趋势的粗略估计和对应于较长周期长度的季节分量。通过考虑不同分辨率之间的关系,我们制定了不同的组件的恢复高分辨率作为一个优化问题,这是有效地解决了我们的交替方向乘子法(ADMM)为基础的算法。我们的实验结果表明,准确的分解结果与显着提高效率。
2021-09-18 cs.LG eess.SP stat.AP
First De-Trend then Attend: Rethinking Attention for Time-Series Forecasting
UC San Diego(加州大学圣地亚哥分校);AWS AI Labs(亚马逊云科技人工智能实验室);AWS(亚马逊云科技)
近年来,基于变换的模型在长期时间序列预测中得到了广泛的应用,并显示出良好的效果。除了在时域中学习注意力之外,最近的工作还探索了在频域中学习注意力(例如,傅立叶域、小波域),因为在这些域中可以更好地捕获季节模式。在这项工作中,我们试图了解在不同的时间和频率域的注意力模型之间的关系。理论上,我们证明了不同领域的注意力模型在线性条件下是等价的(即,注意力分数的线性内核)。在实证方面,我们分析了不同领域的注意力模型如何表现出不同的行为,通过各种合成实验与季节性,趋势和噪音,重点是softmax操作中的作用。这些理论和实证分析促使我们提出了一种新的方法:TDformer(趋势分解Transformer),首先应用季节趋势分解,然后添加组合的MLP预测的趋势分量与傅立叶注意预测的季节分量,以获得最终的预测。在基准时间序列预测数据集上的大量实验表明,TDformer相对于现有的基于注意力的模型实现了最先进的性能。
2022-12-15 cs.LG
How (Not) to Hybridize Neural and Mechanistic Models for Epidemiological Forecasting
Virginia Tech(弗吉尼亚理工大学)
针对流行病预测中神经-机制混合模型在部分可观测和非平稳动态下失效的问题,提出通过显式分解感染序列的多尺度结构作为控制信号,驱动受控神经ODE与流行病模型耦合,实现最优预测和时变参数推断。
2026-08-19 cs.LG
Day-ahead time series forecasting: application to capacity planning
Orange Labs(奥兰治实验室);Univ. Rennes(雷恩大学);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);IRISA(雷恩信息与自动化系统研究所);AGROCAMPUS-OUEST(西部农学院);INSA Rennes(雷恩国立应用科学学院)
在容量规划的背景下,预测信息服务器使用的演变使公司能够更好地管理其计算资源。我们通过收集关键指标时间序列来解决这个问题,并建议提前一天预测它们的演变。我们的方法假设数据是由每天的季节性结构化的,但也有一天内的指标的典型演变。然后,它使用聚类算法和马尔可夫模型的组合来产生日前的预测。我们在真实数据集上的实验表明,数据满足我们的假设,并且在案例研究中,我们的方法优于经典方法(AR,Holt-Winters)。
2018-11-06 cs.AI stat.AP
Progressive Growing of Neural ODEs
University of California, San Diego(加州大学圣地亚哥分校);SRI International(SRI国际)
神经常微分方程(NODE)已被证明是一个强大的建模工具,用于近似(内插)和预测(外推)不规则采样的时间序列数据。然而,当应用于真实世界的数据时,它们的性能大幅下降,特别是具有复杂行为的长期数据(例如,跨年的长期趋势、跨月的中期季节性和跨天的短期局部变化)。为了解决这种复杂的数据在不同的频率(时间跨度)不同的行为建模,我们提出了一种新的渐进学习范式的NODE的长期时间序列预测。具体来说,我们遵循课程学习的原则,随着训练的进行,逐步增加数据的复杂度和网络容量。我们的实验与合成数据和真实的交通数据(PeMS湾区交通数据)表明,我们的训练方法一致提高了超过64%的香草节点的性能。
2020-03-08 cs.LG cs.NE stat.ML
Downscaling Epidemiological Time Series Data for Improving Forecasting Accuracy: An Algorithmic Approach
针对流行病学汇总数据稀缺、不连续导致ARIMA、SARIMA和TBATS预测效果不佳的问题,本文提出基于底层分布的时间序列降尺度合成算法,使合成数据保持趋势、季节性和残差一致并显著提升预测准确性。
2023-03-26 stat.OT