Enhancing Transformer-Based Foundation Models for Time Series Forecasting via Bagging, Boosting and Statistical Ensembles
School of Computing and Augmented Intelligence, Arizona State University（计算与增强智能学院，亚利桑那州立大学）
本文针对时间序列基础模型在真实数据上的方差、偏差和不确定性量化不足问题，提出装袋、堆叠、残差建模等统计集成增强方法，并在比利时电力负荷数据上验证其能显著提升预测准确性、可靠性和可解释性。
2025-08-18 cs.LG stat.ML
DeepBooTS: Dual-Stream Residual Boosting for Drift-Resilient Time-Series Forecasting
DeepBooTS通过双流残差提升方法，提升时间序列预测的抗漂移鲁棒性，实验表明在多种数据集上性能提升显著。
2026-01-28 cs.AI cs.LG
Probabilistic water demand forecasting using quantile regression algorithms
University of Patras（帕特雷大学）；Roma Tre University（罗马第三大学）；National Technical University of Athens（雅典国立技术大学）
机器和统计学习算法可以可靠地自动化并大规模应用。因此，它们可以成为设计实用预测系统的重要资产，例如与城市用水需求有关的预测系统。分位数回归算法是一种统计和机器学习算法，可以以简单的方式提供概率预测，迄今为止尚未应用于城市需水量预测。在这项工作中，我们的目标是填补这一空白，自动化和广泛比较几个基于分位数回归的实用系统的概率提前一天的城市用水量预测。为了设计实际的系统，我们使用五个单独的算法（即，分位数回归、线性提升、广义随机森林、梯度提升机和分位数回归神经网络算法），它们的均值组合器和中值组合器。比较是通过利用一个大型的城市水流量数据集，以及几种类型的水文气象时间序列（被认为是预测设置中的外生预测变量）。结果大多有利于使用线性升压算法设计的实际系统，可能是由于城市水流量时间序列中存在的趋势。平均值和中位数组合的预测也被发现是熟练的一般条款。
2021-04-16 cs.LG stat.ME stat.ML
Boosted Embeddings for Time Series Forecasting
PALO ALTO NETWORKS（帕洛阿尔托网络公司）；ADVANCED APPLIED AI RESEARCH（高级应用人工智能研究院）
时间序列预测是各种数据驱动应用中出现的一项基本任务。许多先进的自回归方法，如ARIMA被用来建立预测模型。最近，基于深度学习的方法，如DeepAr，NeuralProphet，Seq2Seq已经被探索用于时间序列预测问题。本文提出了一种新的时间序列预测模型DeepGB。我们制定并实现了梯度提升的变体，其中弱学习者是DNN，其权重在迭代中以贪婪的方式递增。特别是，我们开发了一种新的嵌入架构，使用梯度提升变体提高了许多深度学习模型在时间序列上的性能。我们证明，我们的模型优于现有的可比国家的最先进的模型，使用真实世界的传感器数据和公共数据集。
2021-07-11 cs.AI cs.LG stat.ML
GEFCOM 2014 - Probabilistic Electricity Price Forecasting
Budapest University of Technology and Economics（布达佩斯技术与经济大学）
能源价格预测是多步时间序列预测领域中的一个重要而又困难的课题。在本文中，我们比较了一个众所周知的和既定的方法，ARMA与一个相对较新的技术梯度提升回归的外生变量。该方法在2014年全球能源预测竞赛的数据上进行了测试，并进行了为期一年的滚动窗口预测。实验结果表明，多模型方法在误差度量方面表现得更好。梯度提升可以处理季节性和自相关的开箱即用，并在真实世界数据上实现较低的归一化平均绝对误差率。
2015-06-23 cs.CE cs.LG stat.AP
Boosting long-term forecasting performance for continuous-time dynamic graph networks via data augmentation
本研究提出UmmU模块，通过不确定性估计与掩码混合增强CTDGNs嵌入，提升长期预测性能，实验验证有效。
2024-05-26 cs.AI cs.LG
Boosting MLPs with a Coarsening Strategy for Long-Term Time Series Forecasting
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；School of Biology & Basic Medical Science, Soochow University（苏州大学生物与基础医学院）；School of Physics and Information Technology, Shaanxi Normal University（陕西师范大学物理与信息技术学院）
针对长期时间序列预测中MLP逐点映射的上下文依赖不足等问题，提出基于粗化策略的CP-Net，通过两阶段多尺度信息粒建模提升预测精度，同时保持线性计算复杂度，在7个基准上优于SOTA方法4.1%。
2024-05-20 cs.LG
CoRA: Boosting Time Series Foundation Models for Multivariate Forecasting through Correlation-aware Adapter
East China Normal University（东华师范大学）；Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出CoRA，一种轻量级插件式方法，通过捕捉不同类型的相关性提升多变量时间序列预测性能，采用低秩时间变化和时间不变成分分解相关矩阵，并引入双对比学习方法。
2026-03-23 cs.AI cs.LG
When Does Online Adaptation Pay on the Edge? A Leakage-Free Evaluation of Warmup, Learning-Rate Selection, and Resource Trade-offs for Time-Series Forecasting
Keio University（庆应义塾大学）
该研究针对边缘时间序列预测，通过无泄漏评估明确了预热预算、优化器学习率选择等因素对在线自适应收益的影响，提出仅验证的调试流程，为边缘场景的时间序列预测自适应提供了关键指导。
2026-09-02 cs.LG
TimeExpert: Boosting Long Time Series Forecasting with Temporal Mix of Experts
Zhejiang University（浙江大学）；Shanghai Jiao Tong University（上海交通大学）；Zhongke Wenge Technology（中科创世科技）；Northeastern University（东北大学）
本文提出注意力级 TMOE 机制，通过局部专家自适应筛选时间戳并结合全局专家，改进 PatchTST 与 Timer，在七个长期预测基准上达到最优性能。
2025-09-27 cs.LG
Stacked Boosters Network Architecture for Short Term Load Forecasting in Buildings
VTT Technical Research Centre of Finland（芬兰VTT技术研究中心）
本文提出了一种新的深度学习架构，用于建筑物能源负荷的短期负荷预测。该架构基于一个简单的基础学习器和多个增强系统，这些系统被建模为单个深度神经网络。该架构将原始的多变量时间序列转换为多个级联的单变量时间序列。结合稀疏交互、参数共享和等变表示，这种方法可以对抗过拟合，同时仍然可以通过深度网络架构实现良好的表示能力。该架构进行了评估，在几个短期负荷预测任务的能源数据从办公楼在芬兰。所提出的架构优于国家的最先进的负荷预测模型在所有的任务。
2020-04-16 cs.LG stat.ML
Discrete Tokenization Unlocks Transformers for Calibrated Tabular Forecasting
该研究通过离散分词和高斯平滑技术，在表格预测中实现了优于传统梯度提升的性能，同时通过消融分析验证了架构对校准效果的重要性。
2026-03-08 cs.LG
A Unified Framework for Long Range and Cold Start Forecasting of Seasonal Profiles in Time Series
University of Washington（华盛顿大学）
提供长期预测是时间序列建模中的一个基本挑战，而在以前从未观察到时间序列的情况下必须形成这种预测的挑战更是雪上加霜。后一个挑战是在推荐系统中看到的冷启动问题的时间序列版本，据我们所知，在以前的工作中还没有得到解决。类似的问题发生在只观测到少量时间点后需要进行长期预报时-热启动预报。考虑到这些目标，我们专注于预测季节性配置文件--或基线需求--在三种情况下，一年的顺序：长期的情况下，多个以前观察到的季节性配置文件，冷启动的情况下，没有以前观察到的季节性配置文件，和热启动的情况下，只有一个单一的部分观察到的配置文件。经典的时间序列方法基于先前的观测结果执行迭代的步进式预测，难以提供准确的长期预测;在几乎没有观测数据的情况下，这种方法根本不适用。相反，我们提出了一个简单的框架，它结合了高维回归和矩阵分解的思想，精心构建的数据矩阵。我们的公式和结果性能的关键是利用（1）在固定时间段内和跨系列的重复模式，以及（2）与单个系列相关的元数据;如果没有这些额外的数据，冷启动/热启动问题几乎不可能解决。我们证明了我们的框架可以准确地预测多个大规模数据集上的一系列季节性配置文件。
2018-08-26 cs.LG stat.ML
Probabilistic Load Forecasting via Point Forecast Feature Integration
GEIRI North America（北美电力科学研究院）；State Grid Jiangsu Electric Power Company Ltd.（国网江苏省电力有限公司）
短期负荷预测是电力系统能量管理系统的重要组成部分。近年来，概率负荷预测（PLF）由于其提供不确定性信息的能力，有助于提高系统运行性能的可靠性和经济性而受到越来越多的关注。本文提出了一个两阶段的概率负荷预测框架，将点预测作为一个关键的概率预测功能集成到PLF。在第一阶段，所有相关的特征被用来训练一个点预测模型，并获得特征的重要性。在第二阶段中，考虑点预测特征以及所选择的特征子集来训练预测模型。在预测模型的测试阶段，利用最终的概率负荷预测结果进行点预测和概率预测。采用ISO新英格兰负荷数据进行的算例表明，该方法在小时前负荷预测中是有效的，点预测采用梯度提升回归，概率预测采用分位数回归神经网络.
2019-03-26 cs.LG stat.ML
Data-driven Day Ahead Market Prices Forecasting: A Focus on Short Training Set Windows
School of Electrical and Computer Engineering, National Technical University of Athens (NTUA), Athens 15780 Greece（电气与计算机工程学院，国家技术大学（NTUA），雅典15780希腊）
本研究针对短训练窗口下的电力日前市场电价预测问题，对比四种机器学习模型在三个欧洲市场的表现，发现LightGBM在45/60天窗口下精度与鲁棒性最优，可有效支持数据稀缺波动环境的电价预测。
2025-06-12 cs.LG
CRISIS ALERT:Forecasting Stock Market Crisis Events Using Machine Learning Methods
本文利用随机森林和极端梯度提升等机器学习方法，基于75个日频市场变量预测美国股市危机事件，并通过分类指标比较发现极端梯度提升表现最佳。
2024-01-06 cs.LG q-fin.ST
Power System Parameters Forecasting Using Hilbert-Huang Transform and Machine Learning
Energy Systems Institute, Siberian Branch of Russian Academy of Sciences（俄罗斯科学院西伯利亚分院能源系统研究所）；Institute of Mathematics, Economics and Informatics, Irkutsk State University（伊尔库茨克国立大学数学、经济与信息学研究所）
为了提高非平稳时间序列短期预测研究的效率，提出了一种新的混合数据驱动的电力系统参数预测方法。该方法是基于模式分解和初始回顾数据的特征分析，使用希尔伯特-黄变换和机器学习算法。随机森林和梯度提升树学习技术进行了检查。运用决策树技术对预测模型中变量的重要性进行排序。平均下降基尼指数被用作杂质函数。混合预测模型采用径向基函数神经网络和支持向量回归。除了引言和参考文献外，本文的结构如下。第二部分介绍了电力系统参数短期预测的背景和几种方法的回顾。第三部分提出了一种基于希尔伯特-黄变换的混合机器学习算法用于电力系统参数的短期预测。第四部分介绍了决策树学习算法用于变量重要性问题的研究。最后在第六节中给出了该方法在电力系统中的应用实例：有功潮流预测、电价预测和风速风向预测。
2014-04-09 cs.LG stat.ML
Multivariate Online Linear Regression for Hierarchical Forecasting
Sorbonne University（索邦大学）；Paris Cité University（巴黎城市大学）；CNRS（法国国家科学研究中心）；LOPF；LPSM
本文提出MultiVAW方法，将Vovk-Azoury-Warmuth算法推广至多元在线线性回归，证明其对数遗憾界，并应用于在线分层预测以放宽现有算法的分析假设。
2024-02-22 cs.LG math.OC stat.ML
Post-Training Corrections for Improved Time-Series Forecasting
SAMOVAR Télécom SudParis Institut Polytechnique de Paris（Telecom SudParis高等研究院）；Noah Ark Lab（Noah Ark实验室）；Independent Researcher（独立研究员）
提出一种无需重训练或修改架构的轻量级后训练自适应优化框架，通过强化学习、上下文赌博机或遗传算法自动学习表达性变换来校正模型输出，并支持人类专家通过自然语言引导校正，从而在多个基准上以最小计算开销持续提升预测精度。
2026-06-03 cs.LG stat.ML
How Much Can A Retailer Sell? Sales Forecasting on Tmall
Ant Financial Services Group（蚂蚁金融服务集团）
时间序列预测是学术界和工业界的一项重要研究课题，它可以用来解决许多实际的预测问题，如股票，供水和销售预测。本文研究了零售商在天猫上的销售预测案例|全球领先的在线B2C平台。通过分析数据，我们有两个主要的观察结果，即，在我们将不同的零售商分组后，销售季节性和在我们转换销售（目标到预测）后的Tweedie分布。根据我们的观察，我们设计了两种销售预测机制，即，季节性提取和分布变换。首先，我们采用傅立叶分解自动提取的季节性为不同类别的零售商，这可以进一步被用作任何既定的回归算法的附加功能。其次，我们建议优化对数变换后的Tweedie销售损失。我们将这两种机制应用于经典的回归模型，即，神经网络和梯度提升决策树，并在天猫数据集上进行实验，结果表明两种机制都能显著提高预测结果。
2020-02-27 cs.LG stat.AP stat.ML
Boosted Ensemble Learning based on Randomized NNs for Time Series Forecasting
Częstochowa University of Technology（琴斯托霍瓦工业大学）；Facebook（脸书）
时间序列预测是一个具有挑战性的问题，特别是当一个时间序列表示多个季节性，非线性趋势和变化的方差。在这项工作中，预测复杂的时间序列，我们提出了集成学习，这是基于随机神经网络，并提高了三种方式。这些包括基于残差、校正目标和相对响应的集成学习。后两种方法用于确保所有集合成员解决类似的预报任务，这证明在集合的所有阶段使用完全相同的基础模型是合理的。统一所有成员的任务简化了集成学习，并提高了预测精度。这一点在一项涉及预测具有三重季节性的时间序列的实验研究中得到了证实，在该研究中，我们比较了我们的三种集成增强变体。基于RandNN的建议集成的优点是非常快速的训练和基于模式的时间序列表示，从时间序列中提取相关信息。
2022-03-02 cs.LG
On-Device Training of PV Power Forecasting Models in a Smart Meter for Grid Edge Intelligence
Sun Yat-sen University（中山大学）；Beijing SmartChip Microelectronics Technology Co., Ltd.（北京智芯微电子科技有限公司）
本文研究在资源受限的智能电表上实现设备端训练，通过梯度提升树和循环神经网络模型及混合/降低精度方案，验证了经济实现电网边缘智能的可行性。
2025-07-09 cs.LG eess.SP
Machine learning applications in time series hierarchical forecasting
Monash University（莫纳什大学）；University of Sydney（悉尼大学）
供应链中的许多情况下都需要层次预测，因为管理者通常需要对供应链不同层次的预测进行决策。自上而下（TD）、自下而上（BU）和最优组合（COM）是常见的HF模型。这些方法是静态的，往往忽视了动态的系列，而分解它们。因此，他们可能无法很好地执行，如果调查组的时间序列受到大的变化，如在促销期间。我们解决HF问题的预测现实世界的销售时间序列的高度影响的促销。我们使用三种机器学习（ML）模型来捕捉销售随时间的变化。人工神经网络（ANN），极端梯度提升（XGboost），和支持向量回归（SVR）算法被用来估计低级别的时间序列从上层的比例。我们对61组具有不同波动率的时间序列进行了深入分析，结果表明ML模型具有竞争力，并且优于文献中一些成熟的模型。
2019-12-01 cs.LG stat.ML
Demand Forecasting of Individual Probability Density Functions with Machine Learning
Blue Yonder GmbH（蓝越有限公司）；IU Internationale Hochschule（IU国际大学）；Blue Yonder India Private Limited（蓝越印度私人有限公司）
需求预测是零售商补货流程的核心组成部分，因为它为订购流程等后续决策提供了关键输入。与点估计（如基础概率分布的条件均值或置信区间）相比，预测完整的概率密度函数允许调查对运营指标的影响，这对于定义整个预期需求范围内的业务策略非常重要。而度量评估点估计被广泛使用，用于评估预测分布的准确性的方法是罕见的，这项工作提出了新的技术，定性和定量的评估方法。使用监督机器学习方法“循环提升”，可以预测完整的个体概率密度函数，使得每个预测都是完全可解释的。这对从业者来说特别重要，因为它可以避免“黑箱”模型，并了解每个预测的影响因素。需求预测方法的可解释性和可推广性方面的另一个关键方面是时间混杂的影响的限制，这在大多数最先进的方法中是普遍存在的。
2021-07-22 cs.LG stat.ML
On Identifying Why and When Foundation Models Perform Well on Time-Series Forecasting Using Automated Explanations and Rating
本文结合传统XAI与RDE评估ARIMA、Gradient Boosting、Chronos及Llama在四类异构时间序列数据集上的表现，揭示基础模型与特征工程模型各自适用的情境及可解释性差异。
2025-08-28 cs.AI cs.LG
Global Models for Time Series Forecasting: A Simulation Study
Monash University（莫纳什大学）；University of Melbourne（墨尔本大学）
在当前的大数据背景下，许多预测问题的性质已经从预测孤立的时间序列转变为预测来自类似来源的多个时间序列。这为开发同时从许多时间序列中学习的有竞争力的全球预测模型提供了机会。但是，全球预测模型何时能够超越单变量基准仍然不清楚，特别是沿着序列的同质性/异质性，序列中模式的复杂性，预测模型的复杂性以及序列的长度/数量的维度。我们的研究试图通过研究这些因素的影响来解决这个问题，通过模拟一些具有可控时间序列特征的数据集。具体来说，我们模拟时间序列从简单的数据生成过程（DGP），如自回归（AR）和季节性AR，复杂的DGP，如混沌Logistic映射，自激励阈值自回归，和麦基-格拉斯方程。通过将从多个DGP生成的时间序列混合到单个数据集中来引入数据异质性。数据集中的序列长度和数量在不同的情况下会有所不同。我们使用全局预测模型对这些数据集进行实验，包括递归神经网络（RNN），前馈神经网络，池化回归（PR）模型和光梯度提升模型（LGBM），并将其性能与标准的统计单变量预测技术进行比较。我们的实验表明，当被训练为全局预测模型时，具有复杂非线性建模能力的RNN和LGBM等技术在具有挑战性的预测场景下通常是有竞争力的方法，例如长度较短的序列，具有异构序列的数据集以及对序列模式的先验知识最少。
2021-03-22 cs.LG stat.ML
Deep Learning for Virus-Spreading Forecasting: a Brief Survey
University of Bologna（博洛尼亚大学）；Alma Mater Research Institute for Human-Centered Artificial Intelligence（Alma Mater 以人为本人工智能研究院）
冠状病毒大流行的到来引发了人们对能够预测病毒传播的预测模型的兴趣，特别是用于促进和支持决策过程。在本文中，我们将概述主要的深度学习方法，旨在预测疾病在空间和时间上的传播。其目的是展示这一研究领域的新趋势，并就处理这一问题的可能战略提供一个总体视角。在此过程中，我们将主要关注两个宏观类别：经典深度学习方法和混合模型。最后，我们将讨论不同模型的主要优点和缺点，并强调最有前途的发展方向，以改善这些方法。
2021-03-03 cs.LG
Exploring the Interpretability of Forecasting Models for Energy Balancing Market
Department of Informatics, University of Oslo（信息学院，奥斯陆大学）；Department of Electric Energy, Norwegian University of Science and Technology（电力能源系，挪威科学与技术大学）
本文研究了能源平衡市场中预测mFRR价格的可解释性，发现EBM在精度和可解释性上优于XGBoost。
2026-01-19 cs.LG q-fin.GN q-fin.ST
Interactive Generalized Additive Model and Its Applications in Electric Load Forecasting
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
本文提出一种结合领域知识的交互式广义可加模型，通过提升算法和分段线性函数提升可解释性与性能，在电力负荷预测中优于现有方法并已集成至eForecaster平台。
2023-10-24 cs.LG
Actuarial Learning for Pension Fund Mortality Forecasting
UERJ - Univ. do Estado do Rio de Janeiro（里约热内卢州立大学）
本文引入精算学习，利用多种机器学习与人工智能模型预测养老金基金参与者死亡率，并与经典Lee-Carter模型比较，发现部分算法在样本外表现具有竞争力，可为养老金负债评估与风险管理提供有效替代方案。
2025-04-08 cs.LG stat.ML
KDD CUP 2022 Wind Power Forecasting Team 88VIP Solution
Alibaba Group（阿里巴巴集团）
KDD CUP 2022提出了一个空间动态风电数据集的时间序列预测任务，要求参与者在给定历史背景因素的情况下预测未来的发电量。评估指标包括RMSE和MAE。本文描述了Team 88 VIP的解决方案，该方案主要包括两种模型：用于记忆基本数据模式的梯度提升决策树和用于捕获深层和潜在概率转移的递归神经网络。集成这些模型有助于解决风电功率的波动问题，训练子模型的目标是在从几分钟到几天的不同时间尺度的预测中的突出特性。此外，还详细介绍了特征工程、插补技术和离线评价的设计。所提出的解决方案在阶段3中实现了-45.213的总体在线分数。
2022-08-18 cs.AI cs.LG
TSPP: A Unified Benchmarking Tool for Time-series Forecasting
NVIDIA（英伟达）
针对时间序列预测中因设置多样导致方法难以比较的问题，提出统一基准测试框架TSPP，促进模型与数据集无缝集成，并证明深度学习模型能以极少努力媲美需大量特征工程的梯度提升决策树。
2024-01-08 cs.LG
Do We Really Need Deep Learning Models for Time Series Forecasting?
University of Hildesheim（希尔德斯海姆大学）
时间序列预测是机器学习中的关键任务，因为它具有广泛的应用，包括但不限于预测电力消耗、交通和空气质量。传统的预测模型依赖于滚动平均、向量自回归和自回归综合移动平均。另一方面，最近提出了深度学习和矩阵分解模型，以解决具有更有竞争力的性能的相同问题。然而，这种模型的一个主要缺点是，与传统技术相比，它们往往过于复杂。在本文中，我们报告了著名的深度学习模型相对于众所周知的机器学习基线（梯度提升回归树（GBRT）模型）的结果。类似于深度神经网络（DNN）模型，我们将时间序列预测任务转换为基于窗口的回归问题。此外，我们对GBRT模型的输入和输出结构进行了特征设计，这样，对于每个训练窗口，目标值都与外部特征连接在一起，然后扁平化以形成多输出GBRT模型的一个输入实例。我们对过去几年在顶级会议上提出的八种最先进的深度学习模型的九个数据集进行了比较研究。结果表明，基于窗口的输入变换将简单GBRT模型的性能提升到优于本文评估的所有最先进DNN模型的水平。
2021-10-20 cs.LG stat.ML
An Error Correction Mid-term Electricity Load Forecasting Model Based on Seasonal Decomposition
Southwest University（西南大学）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）
针对中期电力负荷预测中误差累积问题，提出基于季节性分解和堆叠集成的误差修正模型ECLF，结合LSTM与XGBoost，在中国两城市数据上表现优于基准模型。
2023-06-19 cs.LG eess.SP
Foundation models for time series forecasting: Application in conformal prediction
Ekimetrics；École Polytechnique（巴黎高等学院）
本研究在保形预测设置下对比了时间序列基础模型与传统方法，发现TSFMs在数据有限时能提供更可靠的预测区间和更稳定的校准过程，凸显其在数据受限场景下的优势。
2025-07-09 cs.AI cs.LG stat.ML
Short-Term Traffic Forecasting Using High-Resolution Traffic Data
New York University Abu Dhabi（纽约大学阿布扎比分校）；New York University（纽约大学）
本文开发了一个数据驱动的工具包，用于使用高分辨率（a.k.a.基于事件的）交通数据。这是从城市道路中的固定传感器获得的原始数据。这种原始数据的时间序列从一个时间步到下一个时间步（通常在0.1-1秒的量级上）表现出严重的波动。交通状况的短期预测（未来10-30秒）对于交通运营应用（例如，自适应信号控制）。但是文献中的交通预测工具主要处理3-5分钟的聚合数据，其中典型的信号周期为2分钟的量级。这使得这种预测在业务一级毫无用处。为此，我们将流量预测问题建模为矩阵完成问题，其中预测输入使用内核映射到高维空间。该公式使我们能够捕获预测输入和输出之间的非线性依赖关系，也使我们能够捕获输入之间的依赖关系。这些依赖性对应于网络中不同位置之间的相关性。我们进一步采用自适应提升来提高训练准确性并捕获数据中的历史模式。所提出的方法的性能进行了验证，使用高分辨率的数据从现实世界中的交通网络在阿布扎比，阿联酋。我们的实验结果表明，该方法优于其他国家的最先进的算法。
2020-06-22 cs.LG eess.SP math.OC
Enhancing Retail Sales Forecasting with Optimized Machine Learning Models
HANWHA Qcells America（韩华Qcells美国公司）；Pace University（佩斯大学）
针对零售销量预测中传统方法难以应对复杂季节性和多品类数据的问题，本研究通过随机搜索交叉验证优化随机森林模型，在精度上优于传统方法及多种前沿机器学习模型，为零售预测分析提供更可靠的方案。
2024-12-07 cs.LG
Forecasting electricity consumption by aggregating specialized experts
Ecole Normale Supérieure（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；EDF R&D（法国电力集团研发部）；HEC Paris（巴黎高等商学院）
我们考虑设置的顺序预测的任意序列的基础上，专门的专家。我们首先回顾了相关文献，并提出了两个理论贡献：Freund等人（1997）的专家聚集规则的一般分析和Herbster和Warrant（1998）在此设置中的固定份额规则的适应。然后，我们将这些规则应用于连续的短期（提前一天）预测的电力消耗量，这样做，我们考虑两个数据集，一个Escherakian的和法国的，分别与每小时和半小时的预测。我们遵循一个一般的方法来执行所述的实证研究，并详细介绍了学习参数的调整问题。引入的聚合规则表明，在手头的数据集的准确性提高，改进在于减少均方误差，但也在一个更强大的行为相对于大的偶然错误。
2012-07-09 cs.LG stat.AP stat.ML
Solar Irradiation Forecasting using Genetic Algorithms
Circana；AKHAN Semiconductor Inc（AKHAN半导体公司）；VzRAM Tech LLC（VzRAM科技有限公司）；GattyInstruments AB（GattyInstruments公司）
本研究利用线性回归、XGBoost及遗传算法优化预测太阳辐照度，基于美国SURFRAD网络数据，通过优化XGBoost提升预测精度。
2025-10-06 cs.LG cs.NE
Boosting the interpretability of clinical risk scores with intervention predictions
Google Research（谷歌研究院）；University of Pittsburgh（匹兹堡大学）
机器学习系统显示出通过风险评分预测患者不良事件的重要前景。然而，这些风险评分基于训练数据中存在的干预策略隐含地编码了关于患者可能接受的未来干预的假设。如果没有这个重要的背景，来自这些系统的预测对于临床医生来说就不那么可解释了。我们提出了一个联合模型的干预政策和不良事件风险作为一种手段，明确沟通模型的假设，未来的干预措施。我们在MIMIC-III（一个真实世界的去识别ICU数据集）上开发了这样一个干预政策模型，并讨论了一些突出这种方法实用性的用例。我们展示了如何结合典型的风险评分，如死亡的可能性，与未来的干预概率评分导致更多的可解释的临床预测。
2022-07-06 cs.AI cs.LG
Foundation Models for Demand Forecasting via Dual-Strategy Ensembling
University of Southern California（南加州大学）；AWS Supply Chain（AWS供应链）
针对需求预测中基础模型架构僵化、分布变化下鲁棒性差的问题，提出结合层级集成与架构集成的统一框架，在多数据集上验证其能提升预测准确率与泛化性。
2025-07-29 cs.AI cs.LG
Sub-Seasonal Climate Forecasting via Machine Learning: Challenges, Analysis, and Advances
University of Minnesota, Twin Cities（明尼苏达大学双城分校）；George Mason University（乔治梅森大学）；Carnegie Mellon University（卡内基梅隆大学）
亚季节气候预测（SSF）侧重于预测关键气候变量，如2周至2个月时间尺度内的温度和降水。熟练的SSF将在农业生产力、水资源管理、交通和航空系统以及极端天气事件应急规划等领域具有巨大的社会价值。然而，SSF被认为比天气预测甚至季节预测更具挑战性。在本文中，我们仔细研究了各种机器学习（ML）方法的SSF在美国大陆。虽然大气-陆地-海洋耦合和有限的高质量数据使得很难天真地应用黑盒ML，但我们表明，通过精心构建的特征表示，即使是线性回归模型，例如，Lasso，可以做得很好。在所考虑的10种ML方法中，梯度提升表现最好，而深度学习（DL）方法通过仔细的架构选择显示出一些希望。总体而言，合适的ML方法能够优于气候基线，即，根据给定地点和时间的30年平均值进行预测。此外，基于研究特征的重要性，海洋（特别是基于厄尔尼诺等气候振荡的指数）和土地（土壤湿度）协变量被认为是预测性的，而大气协变量被认为是没有帮助的。
2020-06-24 cs.LG stat.ML
Attention as Robust Representation for Time Series Forecasting
Alibaba Group（阿里巴巴集团）；Meta Platforms, Inc（元平台公司）
本研究提出将注意力权重作为时间序列的主要表示，利用全局地标和局部窗口构建稳健核表示，在不改变核心架构的情况下将多变量预测MSE降低3.6%，并可作为通用组件替换现有分块嵌入方案。
2024-02-08 cs.AI cs.LG
A Comparative Study of Machine Learning Algorithms for Electricity Price Forecasting with LIME-Based Interpretability
Gezhi Future Research Institute（智未来研究院）
本文比较了八种机器学习模型在电力价格预测中的性能，发现KNN表现最佳，并通过LIME分析揭示了气象因素和供需指标对价格波动的非线性影响。
2025-12-01 cs.LG
Comparing Machine Learning-Centered Approaches for Forecasting Language Patterns During Frustration in Early Childhood
Phillips Academy Andover（菲利普斯学院安多弗）；Pennsylvania State University（宾夕法尼亚州立大学）
当面临自我调节的挑战时，儿童会使用他们的语言来抑制他们的情绪和行为。然而，到目前为止，关于儿童在这些挫折时刻使用什么样的语言模式，还缺乏关键的证据。在本文中，极端梯度提升，随机森林，长短期记忆递归神经网络，弹性网络回归，都被用来预测这些语言模式的儿童。基于这些方法之间的比较分析的结果，研究表明，在处理高维和密集的数据，非常不规则和异常的分布，如在儿童的自我调节模式的情况下，基于决策树的算法能够优于传统的回归和神经网络方法的缺点。
2021-10-29 cs.CL cs.LG
Addressing Deep Learning Model Uncertainty in Long-Range Climate Forecasting with Late Fusion
IBM Research（IBM研究院）
全球变暖导致极端气候事件的频率和强度增加，造成巨大的生命和财产损失。准确的长期气候预测可以为此类极端事件的准备和灾害风险管理提供更多的时间。虽然机器学习方法在长期气候预测中显示出有希望的结果，但相关的模型不确定性可能会降低其可靠性。为了解决这个问题，我们提出了一种后期融合方法，系统地结合多个模型的预测，以减少融合结果的预期误差。我们还提出了一个网络架构与新的去规范化层，以获得数据规范化的好处，而实际上没有规范化的数据。对2m气温长期预报的试验结果表明，该框架的预报效果优于30年气候平均值，且预报精度可以通过增加模式数量来提高。
2021-12-10 cs.LG
A Comparative Study of Machine Learning Models for Hourly Forecasting of Air Temperature and Relative Humidity
Macao Polytechnic University（澳门理工学院）
本文比较了七种机器学习模型在小时尺度空气温度和相对湿度预报中的性能，发现XGBoost在准确性和鲁棒性上表现最佳，为山区城市智能气象预报提供指导。
2026-03-24 cs.AI cs.LG
SETAR-Tree: A Novel and Accurate Tree Algorithm for Global Time Series Forecasting
Monash University（莫纳什大学）
门限自回归（TAR）模型由于其简单性和数学性质，在过去的几十年中被统计学家广泛用于非线性时间序列预测。另一方面，在预测社区，通用的基于树的回归算法（森林，梯度提升）最近由于其易用性和准确性而变得流行。在本文中，我们探讨了TAR模型和回归树之间的密切联系。这些使我们能够使用TAR模型文献中丰富的方法来定义分层TAR模型，作为一个在整个系列中进行全局训练的回归树，我们称之为SETAR-Tree。与不主要关注预测并在叶节点计算平均值的通用基于树的模型相比，我们引入了一种新的预测特定树算法，该算法在叶中训练全局Pooled Regression（PR）模型，允许模型学习交叉序列信息，并使用一些特定于时间序列的分裂和停止程序。树的深度是通过进行TAR模型中常用的统计线性测试来控制的，以及测量每个节点分割处的误差减少百分比。因此，所提出的树模型需要最小的外部超参数调整，并在其默认配置下提供有竞争力的结果。我们还使用这种树算法来开发一个森林，在预测过程中，由不同的SETAR树的集合提供的预测相结合。在我们对八个公开数据集的评估中，所提出的树和森林模型能够在四个评估指标上实现比一组最先进的基于树的算法和预测基准更高的准确性。
2022-11-16 cs.LG math.ST stat.ML
auto-sktime: Automated Time Series Forecasting
USU GmbH（USU有限公司）；University of Stuttgart（斯图加特大学）；Leibniz University Hannover（汉诺威莱布尼茨大学）；Fraunhofer IPA（弗劳恩霍夫IPA研究所）
本文提出auto-sktime框架，利用贝叶斯优化、流程模板、热启动和多保真度优化自动构建统计、机器学习与深度神经网络预测流程，在64个真实数据集上以极少人工干预超越传统方法。
2024-04-30 cs.LG
Predictors and Orchestrators: Parsimonious Machine Learning within an Agentic AI Harness for Multi-Horizon Karst Aquifer Forecasting
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；Jodhpur Institute of Engineering and Technology（焦特布尔工程技术学院）；Edwards Aquifer Authority（爱德华兹含水层管理局）
本研究提出一个智能体AI框架，利用简约机器学习模型（以极端梯度提升为最优）对岩溶含水层进行1-12周预测，实现高精度和可审计的自动化操作。
2026-09-22 cs.AI cs.LG cs.MA
Ensemble Complexity in Photovoltaic Forecasting
Huaibei Normal University（淮北师范大学）
本研究通过匹配比较和消融实验评估光伏预测中集成组件的贡献，发现静态融合可降低误差但收益有限，天气门控无增量优势，并强调组件级评估与测试集重用限制的重要性。
2026-09-15 cs.AI cs.LG
Statistical benchmarking of transformer models in low signal-to-noise time-series forecasting
Cyril Garcia；Guillaume Remy
本文提出了一种在低信噪比时间序列预测中表现更优的双向注意力变换器，并引入了动态稀疏化方法以提升模型在噪声环境下的性能。
2026-02-10 cs.LG
Gradient Boosting Decision Tree with LSTM for Investment Prediction
Northeastern University（东北大学）；Yale University（耶鲁大学）；Virginia Tech（弗吉尼亚理工大学）；Illinois Institute of Technology（伊利诺伊理工学院）；University of TSA（TSA大学）；The University of Chicago（芝加哥大学）
本文提出一种结合LSTM与LightGBM和CatBoost的混合集成框架用于股票价格预测，相比单一模型准确率提升10%至15%，有效降低了市场波动期的误差。
2025-05-29 cs.LG
Geographic Transferability of Machine Learning Models for Short-Term Airport Fog Forecasting
本研究通过无坐标特征工程和XGBoost模型，实现了机场雾预报的地理可迁移性，在跨距离达11,650公里的零样本测试中取得0.923-0.947的AUC，表明模型学习了可迁移的物理关系。
2025-10-21 cs.LG physics.ao-ph
