Panel semiparametric quantile regression neural network for electricity consumption forecasting
Institute of Statistics and Data Science, Nanjing Audit University(南京审计大学统计与数据科学学院)
在长期深化改革开放的过程中,我国电力工业取得了巨大成就。然而,由于我国区域经济、社会和自然条件复杂,电力资源分布不均,造成我国部分地区缺电。因此,需要建立一个可靠的电力预测模型。在此基础上,本文将人工神经网络与半参数分位数回归相结合,提出了一种面板半参数分位数回归神经网络(PSQRNN)。PSQRNN可以探索变量之间潜在的线性和非线性关系,解释未观察到的省级异质性,同时保持参数模型的可解释性。将惩罚分位数回归与LASSO、岭回归和反向传播算法相结合训练PSQRNN。为了评估预测精度,基于3种情景对1999 - 2018年中国各省用电量进行了实证分析。结果表明,PSQRNN模型在考虑经济和气候因素的情况下,能够更好地预测电力消费量。最后,通过预测,给出了未来$5$年(2019-2023年)中国各省用电量。
2021-03-01 cs.LG econ.EM stat.ML
Medium-Term Load Forecasting Using Support Vector Regression, Feature Selection, and Symbiotic Organism Search Optimization
Niroo Research Institute(尼罗研究所);State University of New York, Binghamton University(纽约州立大学宾汉姆顿大学)
准确的负荷预测一直是电力系统运行规划中不可缺少的重要组成部分。短期负荷预测(STLF)和长期负荷预测(LTLF)分别具有预测精度高和预测概率大的优点,而中期负荷预测(MTLF)由于其在电力系统运行和规划中的重要作用,如机组优化调度、用户服务规划和经济供电等方面的重要作用,受到了越来越多的关注。在这项研究中,一个混合的方法,支持向量回归(SVR)和共生生物体搜索优化(SOSO)的方法,提出了MTLF。在该模型中,支持向量回归机是预测算法的主体部分,SOSO算法被嵌入其中以优化支持向量回归机的参数。此外,在输入数据的预处理中,采用了最小冗余-最大相关特征选择算法。在EUNITE竞赛数据集上对该方法进行了测试,以证明其正确的性能。此外,它与以前的一些作品进行比较,以显示我们的方法的合格性。
2019-06-11 cs.LG cs.NE stat.ML
Multivariate Online Linear Regression for Hierarchical Forecasting
Sorbonne University(索邦大学);Paris Cité University(巴黎城市大学);CNRS(法国国家科学研究中心);LOPF;LPSM
本文提出MultiVAW方法,将Vovk-Azoury-Warmuth算法推广至多元在线线性回归,证明其对数遗憾界,并应用于在线分层预测以放宽现有算法的分析假设。
2024-02-22 cs.LG math.OC stat.ML
Topology-based Clusterwise Regression for User Segmentation and Demand Forecasting
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Alibaba Cloud Intelligence Business Group(阿里云智能事业群)
拓扑数据分析(TDA)是一种从数据集的拓扑结构的角度来分析数据集的新方法。它对时间序列数据的使用受到限制。在这项工作中,介绍了为领先的云计算提供商开发的一个结合用户细分和需求预测的系统。它包括一个基于TDA的聚类方法的时间序列的灵感来自一个流行的管理框架,客户细分和扩展到聚类回归的情况下,使用矩阵分解方法来预测需求。提高客户忠诚度和准确预测仍然是研究人员和管理人员讨论的热门话题。使用一个公共的和一个新的专有数据集的商业数据,这项研究表明,所提出的系统使分析师能够聚类他们的用户群和计划的需求在一个粒度级别显着更高的准确性比最先进的基线。因此,这项工作旨在引入TDA为基础的聚类的时间序列和集群回归矩阵分解方法作为可行的工具,从业者。
2020-09-08 cs.LG stat.ML
On the benefits of maximum likelihood estimation for Regression and Forecasting
Google Research(谷歌研究院)
我们提倡一种实用的极大似然估计(MLE)方法来设计回归和预测的损失函数,作为对特定目标指标直接经验风险最小化的典型方法的替代方案。MLE方法更适合于捕获归纳偏差,例如数据集中的先验领域知识,并且可以在推理时输出可以优化不同类型的目标度量的事后估计。我们目前的理论结果表明,我们的方法是有竞争力的任何估计的目标度量在一些一般条件下。在两个例子的实际设置,泊松和帕累托回归,我们表明,我们的竞争结果可以用来证明,MLE方法有更好的超额风险界限比直接最小化的目标度量。我们还通过经验证明,我们的方法使用设计良好的通用混合似然家族实例化,可以在具有不同数据分布的时间序列预测和回归数据集的各种任务中获得卓越的性能。
2021-10-09 cs.AI cs.LG stat.ML
Forecasting Stock Market with Support Vector Regression and Butterfly Optimization Algorithm
Sharif University of Technology(谢里夫理工大学);Khatam University(哈塔姆大学);RiskLab Toronto(多伦多风险实验室)
支持向量回归机(SVR)在预测随机系统的未来行为方面取得了很好的效果。然而,SVR模型的性能在很大程度上取决于SVR参数的适当选择。提出了一种基于蝴蝶优化算法的BOA-SVR模型。所提出的模型的性能进行了比较,与其他11个元启发式算法的一些股票从纳斯达克。结果表明,本文提出的模型能够很好地优化支持向量回归机的参数,从预测精度和时间消耗两方面来看,确实是最好的模型之一。
2019-05-27 cs.LG cs.NE stat.ML
VEST: Automatic Feature Engineering for Forecasting
INESC TEC;University of Porto(波尔图大学);Fraunhofer AICOS Portugal(弗劳恩霍夫AICOS葡萄牙研究所)
时间序列预测是一项具有挑战性的任务,在广泛的领域中有着广泛的应用。自回归是解决这些问题的最常见方法之一。因此,观测值通过使用其过去滞后作为预测变量的多元回归进行建模。我们研究的扩展自回归过程,使用统计,总结了最近过去的动态时间序列。我们的研究结果是一个新的框架称为VEST,旨在执行功能工程使用单变量和数值时间序列自动。所提出的方法分三个主要步骤进行。首先,将最近的观测映射到不同的表示。其次,每个表示由统计函数概括。最后,一个过滤器被应用于特征选择。我们发现,将VEST生成的特征与自回归相结合可以显着提高预测性能。我们使用90个高采样频率的时间序列提供证据。VEST可在网上公开获取。
2020-10-14 cs.LG stat.ML
Super ensemble learning for daily streamflow forecasting: Large-scale demonstration and comparison with multiple machine learning algorithms
National Technical University of Athens(雅典国家技术大学);Air Force Support Command, Hellenic Air Force(希腊空军支援司令部);University of Patras(帕特雷大学)
通过数据驱动的方法进行的日常径流预测传统上是使用单个机器学习算法进行的。现有的应用程序大多局限于少数案例研究的检查,不允许准确评估所涉及的算法的预测性能。在这里,我们提出了超级学习(一种集成学习),通过组合10个机器学习算法。我们应用该算法在一步提前预测模式。为了应用,我们利用了一个大的数据集,包括10年的时间序列的日径流量,降水量和温度从511个流域。超级学习器比线性回归算法的性能提高了20.06%,优于“实践中难以击败”的等权重组合器。后者比线性回归算法的性能提高了19.21%。性能最好的单个机器学习算法是神经网络,它比线性回归算法的性能提高了16.73%,其次是极度随机化的树(16.40%)、XGBoost(15.92%)、黄土(15.36%)、随机森林(12.75%)、polyMARS(12.36%)、MARS(4.74%)、lasso(0.11%)和支持向量回归(-0.45%)。基于所获得的大规模的结果,我们提出了超级学习每日径流预测。
2021-03-22 cs.LG stat.ML
Ensemble Conformalized Quantile Regression for Probabilistic Time Series Forecasting
UiT The Arctic University of Norway(挪威北极大学);Kongsberg Satellite Services(康斯伯格卫星服务公司);NORCE Norwegian Research Centre(挪威NORCE研究中心)
本文提出了一种新的概率预测方法集成整合分位数回归(EnCQR)。EnCQR构造无分布和近似边缘有效的预测区间(PI),适用于非平稳和异方差时间序列数据。EnCQR可以应用于通用预测模型之上,包括深度学习架构。EnCQR利用自举集成估计,它使使用保形预测的时间序列,消除了数据交换的要求。集成学习器被实现为执行分位数回归的通用机器学习算法,其允许PI的长度适应数据中的局部变化。在实验中,我们预测的时间序列的特点是不同数量的异方差。结果表明,EnCQR优于仅基于分位数回归或共形预测的模型,并且它提供了更清晰,更丰富和有效的PI。
2022-11-06 cs.LG
Exceedance Probability Forecasting via Regression for Significant Wave Height Prediction
Faculdade de Engenharia da Universidade do Porto(波尔图大学工程学院);LIACC;Dalhousie University(达尔豪斯大学)
针对有效波高极端值超越概率预测问题,提出基于点预测与累积分布函数的回归建模方法,并在哈利法克斯智能浮标数据上验证其优于现有方法。
2024-05-06 cs.LG stat.ML
A Multi-Variate Triple-Regression Forecasting Algorithm for Long-Term Customized Allergy Season Prediction
Boston University(波士顿大学);University of California Los Angeles(加州大学洛杉矶分校);Deakin University(迪肯大学);Massachusetts Institute of Technology(麻省理工学院)
在本文中,我们提出了一种新的多变量算法,使用三重回归方法来预测空气中的花粉过敏季节,可以为每个患者在长期定制。为了提高预测精度,我们首先进行预处理,整合花粉浓度的历史数据和其他协变量(如气象数据)的各种推断信号。然后,我们提出了一种新的算法,它包括三个阶段的回归:在第一阶段,回归模型预测的开始/结束日期的空气花粉过敏季节是从一个滚动窗口的协变量的12个时间序列提取的特征矩阵训练:在第二阶段,回归模型预测相应的不确定性的特征矩阵和预测结果的基础上,从第一阶段训练;在阶段3中,基于来自阶段1和2的预测结果建立加权线性回归模型。结果表明,第三阶段有助于提高预测精度,降低多元三重回归算法的不确定性。根据不同的过敏敏感程度,花粉的触发浓度-过敏季节的定义可以单独定制。在我们的回测中,使用该算法实现了4.7天的平均绝对误差(MAE)。我们的结论是,该算法可以适用于通用和长期的预测问题。
2020-12-11 cs.LG stat.AP stat.ML
Pattern Similarity-based Machine Learning Methods for Mid-term Load Forecasting: A Comparative Study
Częstochowa University of Technology(琴希托霍瓦工业大学)
基于模式相似性的方法被广泛应用于分类和回归问题。在季节性时间序列中观察到的重复的、形状相似的周期鼓励人们应用这些方法进行预测。在本文中,我们使用模式相似性为基础的方法来预测月度电力需求表示年度季节性。模型的一个组成部分是使用时间序列模式的时间序列表示。模式表示通过趋势滤波和方差均衡保证了输入和输出数据的统一。因此,模式表示简化了预测问题,并允许我们使用基于模式相似性的模型。我们考虑了四个这样的模型:最近邻模型,模糊邻域模型,核回归模型和一般回归神经网络。通过聚合输出模式构建回归函数,其中权重取决于输入模式之间的相似性。所提出的模型的优点是:清晰的操作原理,少量的参数调整,快速优化过程,良好的泛化能力,工作在最新的数据没有再训练,鲁棒性丢失的输入变量,并生成一个向量作为输出。在实验部分的工作,所提出的模型被用来预测35个欧洲国家的月度需求。将模型性能与ARIMA、指数平滑等经典模型以及多层感知器、神经模糊系统、长短期记忆模型进行了比较。结果表明,所提出的模型的高性能优于比较模型的准确性,简单性和易于优化。
2020-03-03 cs.LG stat.ML
Comparative Analysis of Time Series Forecasting Approaches for Household Electricity Consumption Prediction
State University of New York(纽约州立大学);Ninewatt Inc.(Ninewatt公司);University of Central Asia(中亚大学)
由于人口增长和全球化,对能源的需求大大增加。因此,准确的能耗预测已成为政府规划、减少电能浪费和能源管理系统稳定运行的必要前提。在这项工作中,我们提出了一个主要的机器学习模型的家庭能源消费的时间序列预测的比较分析。具体来说,我们使用Weka,一个数据采掘工具,首先将模型应用于Kaggle数据科学社区提供的每小时和每日家庭能源消耗数据集。应用的模型有:多层感知器,K最近邻回归,支持向量回归,线性回归和高斯过程。其次,我们还在python中实现了时间序列预测模型ARIMA和VAR,以预测选定的韩国家庭在有和没有天气数据的情况下的家庭能源消耗。研究结果表明,能源消费预测的最佳方法是支持向量回归,其次是多层感知器和高斯过程回归。
2022-07-03 cs.LG
Probabilistic Load Forecasting via Point Forecast Feature Integration
GEIRI North America(北美电力科学研究院);State Grid Jiangsu Electric Power Company Ltd.(国网江苏省电力有限公司)
短期负荷预测是电力系统能量管理系统的重要组成部分。近年来,概率负荷预测(PLF)由于其提供不确定性信息的能力,有助于提高系统运行性能的可靠性和经济性而受到越来越多的关注。本文提出了一个两阶段的概率负荷预测框架,将点预测作为一个关键的概率预测功能集成到PLF。在第一阶段,所有相关的特征被用来训练一个点预测模型,并获得特征的重要性。在第二阶段中,考虑点预测特征以及所选择的特征子集来训练预测模型。在预测模型的测试阶段,利用最终的概率负荷预测结果进行点预测和概率预测。采用ISO新英格兰负荷数据进行的算例表明,该方法在小时前负荷预测中是有效的,点预测采用梯度提升回归,概率预测采用分位数回归神经网络.
2019-03-26 cs.LG stat.ML
MOrdReD: Memory-based Ordinal Regression Deep Neural Networks for Time Series Forecasting
University of Oxford(牛津大学);Oxford-Man Institute of Quantitative Finance(牛津-曼定量金融研究所);Mind Foundry Ltd.(Mind Foundry有限公司)
时间序列预测在现代世界中无处不在。应用范围从医疗保健到天文学,包括气候建模,金融交易和关键工程设备的监测。为了在这一系列活动中提供价值,模型不仅必须提供准确的预测,而且还必须随着时间的推移量化和调整其不确定性。在这项工作中,我们直接用一种新颖的、完全端到端的深度学习方法来处理这个任务,用于时间序列预测。通过重铸时间序列预测作为一个有序回归任务,我们开发了一个原则性的方法来评估长期预测的不确定性和描述丰富的多模态,非高斯行为,这经常出现在应用环境。值得注意的是,我们的框架是一种完全通用的方法,几乎不需要用户干预。我们在一个大规模的基准测试中展示了这一关键功能,测试中使用了45个数据集,这些数据集来自广泛的现实应用领域,以及一个综合的合成地图列表。这种广泛的比较涵盖了机器学习和统计建模文献中最先进的方法,例如高斯过程。我们发现,我们的方法不仅提供了出色的预测性预测,遮蔽了真实的未来价值,而且还允许我们推断有价值的信息,例如即使在很长一段时间内,也能准确可靠地预测关键事件发生的预测分布。
2018-10-24 cs.LG stat.ML
A Comprehensive Survey of Regression Based Loss Functions for Time Series Forecasting
San José State University(圣何塞州立大学);Juniper Networks Inc(瞻博网络公司)
时间序列预测由于其在网络使用预测、资源分配、异常检测和预测性维护等方面的广泛应用而成为一个活跃的研究领域。在过去的五年中,许多出版物提出了不同的目标损失函数,以解决的情况下,如有偏数据,长期预测,多重共线性功能,在本文中,我们总结了14个著名的回归损失函数通常用于时间序列预测,并列出了他们的应用程序可以帮助更快,更好的模型收敛的情况。我们还展示了某些类别的损失函数如何在所有数据集上表现良好,并且可以在数据分布未知的情况下被视为基线目标函数。我们的代码可以在GitHub上找到:https://github.com/aryan-jadon/Regression-Loss-Functions-in-Time-Series-Forecasting-Tensorflow。
2022-11-05 cs.AI cs.LG
Automated univariate time series forecasting with regression trees
Department of Computer Science, University of Jaén(计算机科学系,杰内大学);Department of Statistics and Operations Research, University of Jaén(统计与运筹学系,杰内大学)
本文提出基于回归树及其集成方法的单变量时间序列自动预测方法,通过自回归和递归预测实现与传统统计模型相当的预测精度。
2026-01-21 cs.LG
Convolutionally Low-Rank Models with Modified Quantile Regression for Interval Time Series Forecasting
Southeast University(东南大学)
本文提出LbCNNM-MQR模型,通过整合修改的分位数回归提升区间时间序列预测的不确定性估计能力,并通过校准技术提高预测区间准确性。
2026-04-17 cs.LG
Symbolic regression for scientific discovery: an application to wind speed forecasting
Maastricht University(马斯特里赫特大学)
符号回归对应于允许从数据中揭示分析方程的技术集合。通过一个封闭的形式公式,这些技术提供了巨大的优势,如潜在的科学发现新的法律,以及可解释性,特征工程以及快速推理。类似地,基于深度学习的技术已经显示出对复杂模式建模的非凡能力。本文的目的是应用最近的端到端的符号回归技术,即方程学习器(EQL),得到一个解析方程的风速预测。我们表明,这是可能的,可以获得一个分析方程,可以实现合理的精度,短期的视野预测,只使用几个功能。
2021-10-26 cs.LG physics.ao-ph
Solar Power Forecasting Using Support Vector Regression
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
智能电网中的发电机组经济调度需要兼顾发电和负荷平衡。可变能源发电,特别是风能和太阳能发电,正在迅速增加,预计随着其渗透率达到一定水平,它们可能成为值得注意的不确定性来源。与负荷需求的情况一样,能源预测也可用于缓解资源不确定性带来的一些挑战。虽然风能预测研究被认为是成熟的,但太阳能预测正受到研究界越来越多的关注。本文提出了一种支持向量回归模型,在滚动的基础上产生太阳能发电预测提前24小时,在整个一年,模仿能源预测的实际业务。从高质量的基准数据集中考虑了12个天气变量,并提取了新的变量。在不同的季节,热指数和风速作为额外的变量模型的附加值进行了研究。将支持向量回归模型与人工神经网络和多元线性回归模型进行了比较。
2017-03-29 cs.CE cs.LG stat.AP
A Block Regression Model for Short-Term Mobile Traffic Forecasting
Tsinghua University(清华大学)
准确的移动流量预测对于有效的网络规划和运营至关重要。然而,现有的交通预测模型具有很高的复杂性,使得预测过程缓慢且成本高。本文分析了移动业务的周期性、空间相似性和短期相关性等特性。基于这些特点,我们提出了一个\emph{Block Regression}({BR})模型的移动业务预测。该模型采用季节性差异,以考虑到移动业务的时间重复性。我们的{BR}模型的关键特征之一在于其低复杂性,因为它为所有基站构建了单个模型。我们评估的准确性{BR}模型的基础上,实际的交通数据,并与现有的模型进行比较。结果表明,我们的{BR}模型提供了相同的准确性,现有的模型,但具有更低的复杂性。
2015-11-17 cs.LG cs.NI
GraphSVR: A Graph Convolutional Support Vector Regression Framework for Robust Spatiotemporal Air Pollution Forecasting
Department of Mathematics, School of Advanced Sciences, Vellore Institute of Technology(维杰雷理工学院数学系);SAFIR, Sorbonne University(索邦大学SAFIR中心);Statistics Centre Abu Dhabi(阿布扎希统计中心)
提出GraphSVR框架,结合图卷积学习空间依赖与支持向量回归建模非线性时序,降低异常值影响,在印度德里和孟买数据集上实现更准确、稳定的多步预测,并集成保形预测提供校准区间。
2026-08-25 cs.LG stat.AP stat.ML
Do We Really Need Deep Learning Models for Time Series Forecasting?
University of Hildesheim(希尔德斯海姆大学)
时间序列预测是机器学习中的关键任务,因为它具有广泛的应用,包括但不限于预测电力消耗、交通和空气质量。传统的预测模型依赖于滚动平均、向量自回归和自回归综合移动平均。另一方面,最近提出了深度学习和矩阵分解模型,以解决具有更有竞争力的性能的相同问题。然而,这种模型的一个主要缺点是,与传统技术相比,它们往往过于复杂。在本文中,我们报告了著名的深度学习模型相对于众所周知的机器学习基线(梯度提升回归树(GBRT)模型)的结果。类似于深度神经网络(DNN)模型,我们将时间序列预测任务转换为基于窗口的回归问题。此外,我们对GBRT模型的输入和输出结构进行了特征设计,这样,对于每个训练窗口,目标值都与外部特征连接在一起,然后扁平化以形成多输出GBRT模型的一个输入实例。我们对过去几年在顶级会议上提出的八种最先进的深度学习模型的九个数据集进行了比较研究。结果表明,基于窗口的输入变换将简单GBRT模型的性能提升到优于本文评估的所有最先进DNN模型的水平。
2021-10-20 cs.LG stat.ML
Mid-Long Term Daily Electricity Consumption Forecasting Based on Piecewise Linear Regression and Dilated Causal CNN
针对节假日等特殊日期用电量预测精度下降问题,提出基于分段线性回归与Dilated Causal CNN的两阶段预测方法,显著提升了中长期日用电量预测准确率。
2023-10-23 cs.LG
Ensemble Forecasting of Monthly Electricity Demand using Pattern Similarity-based Methods
Częstochowa University of Technology(琴斯托霍瓦工业大学)
本文提出了一种基于模式相似性的月电力需求集成预测方法。本研究所应用的PSFM包括$k$ -最近邻模型、模糊邻域模型、核回归模型和一般回归神经网络。PSFM的组成部分是使用时间序列序列模式的时间序列表示。模式表示通过趋势滤波和方差均衡保证了输入和输出数据的统一。创建了两种类型的集成:异构和同质。前者由不同类型的基础模型组成,而后者由单一类型的基础模型组成。五种策略用于控制同质方法中的成员多样性。使用不同的训练数据子集、不同的特征子集、随机干扰的输入和输出变量以及随机干扰的模型参数来生成多样性。实证说明适用于合奏模型以及个人PSFM比较,每月的电力需求预测为35个欧洲国家。
2020-03-29 cs.LG stat.ML
A Composite Quantile Fourier Neural Network for Multi-Step Probabilistic Forecasting of Nonstationary Univariate Time Series
单变量时间序列的点预测是一个具有挑战性的问题,人们已经做了大量的工作。然而,时间序列的非参数概率预测,如分位数或预测区间的形式,是一个更具挑战性的问题。在努力扩大可能的预测范式,我们设计和探索一个外推为基础的方法,还没有应用之前的概率预测。提出了一种新的分位数傅立叶神经网络用于单变量时间序列的非参数概率预测。多步预测以复合分位数的形式提供,使用时间作为模型的唯一输入。这实际上是应用于预测的基于外推的非线性分位数回归的一种形式。在八个真实世界的数据集上进行实验,这些数据集展示了各种周期性和非周期性模式。九个天真的和先进的方法被用作基准,包括分位数回归神经网络,支持向量分位数回归,SARIMA,指数平滑。实验结果验证了该方法的有效性,提供高质量和准确的概率预测。
2020-05-14 stat.ML
Forecasting foreign exchange rates with regression networks tuned by Bayesian optimization
University of Munich (LMU)(慕尼黑大学);Daimler AG(戴姆勒股份公司)
研究了外汇汇率的多步金融时间序列预测问题。为了解决这个问题,我们引入了一个回归网络,称为RegPred Net。汇率预测被视为一个随机过程。它被假定为遵循一个广义的布朗运动和平均回复过程称为广义Ornstein-Uhlenbeck过程,与时间相关的系数。使用输入时间序列的过去观察值,这些系数可以通过网络的前半部分(Reg)的单元在线回归。回归系数仅取决于-但非常敏感-需要设置的全局优化过程,贝叶斯优化是一个足够的启发式的一小部分超参数。由于其多层架构,回归网络的第二部分(Pred)可以为递归过程系数投影时间相关值,并生成时间序列的真实轨迹。通过对蒙特卡罗模拟获得的值进行平均,可以很容易地以预期值的形式得出预测。在100天的范围内的预测准确性进行评估的几个最重要的外汇汇率,如欧元/美元,欧元/CNY,欧元/英镑。我们的实验结果表明,RegPred Net在测量绝对误差(RMSE)和预测值与实际值之间的相关性(Pearson R,R-squared,MDA)方面明显优于ARMA,ARIMA,LSTM和Autoencoder-LSTM模型。与黑盒深度学习模型(如LSTM)相比,RegPred Net具有更好的可解释性,结构更简单,参数更少。
2022-05-11 cs.LG q-fin.ST stat.ML
Novel Regression and Least Square Support Vector Machine Learning Technique for Air Pollution Forecasting
Avinashilingam Institute of Home Science and Higher Education for Women(阿维纳什林女子家政与高等教育学院)
针对大都市空气污染检测不当易引发危害的问题,提出基于离散回归与最小二乘支持向量(DR-LSSV)的空气污染预测技术,在准确率、预测时间和假阳性率上均优于传统机器学习方法。
2023-06-11 cs.AI cs.LG
Interval Forecasting of Electricity Demand: A Novel Bivariate EMD-based Support Vector Regression Modeling Framework
在电力系统规划和运行决策中,高精度的电力需求区间预测是通过提供范围而不是点估计来成功降低风险的基础。在这项研究中,一种新的建模框架集成双变量经验模式分解(BEMD)和支持向量回归(SVR),扩展了成熟的经验模式分解(EMD)为基础的时间序列建模框架的能源需求预测文献,提出了电力需求的区间预测。本研究的新颖性来自就业BEMD,一个新的扩展经典经验模型分解(EMD)注定要处理二元时间序列作为复值时间序列,作为分解方法,而不是经典的EMD只能分解一维单值时间序列。该建模框架被赋予BEMD同时分解的下限和上限的时间序列,构建在复值时间序列的形式,电力需求每月每小时的基础上,从而捕捉潜在的相互关系的下限和上限。建议的建模框架是合理的,每月间隔值的电力需求数据每小时在宾夕法尼亚州新泽西州马里兰州互联,表明它是一个很有前途的方法,区间值的电力需求预测。
2014-06-15 cs.LG stat.AP
Forecasting Mobile Traffic with Spatiotemporal correlation using Deep Regression
University of Catania(卡塔尼亚大学)
移动性预测的概念代表了未来蜂窝网络的有效管理的关键使能因素之一,由于多种技术的聚合,未来蜂窝网络趋于逐渐变得更加精细和密集。在这封信中,我们的目标是调查在大都市地区的蜂窝流量预测的问题,并提出了一个深度回归(DR)的方法来模拟其复杂的时空动态。DR是通过解决图像到图像回归问题来捕获移动数据的多尺度和多域依赖性的工具。输入和预期输出之间的参数关系被定义,网格搜索被放置到位,以隔离和优化性能。实验结果表明,该方法实现了较低的预测误差对国家的最先进的算法。我们通过使用欧洲供应商的大型公共数据集来验证预测性能和稳定性。
2019-07-25 cs.LG cs.NI eess.SP
Regression Models Meet Foundation Models: A Hybrid-AI Approach to Practical Electricity Price Forecasting
School of Software, BNRist Tsinghua University(软件学院,北京理工大学);Suzhou Industrial Park Xingzhixun CS Co., Ltd.(苏州工业园区星讯CS公司)
本文提出FutureBoosting方法,通过整合时间序列基础模型生成的预测特征,提升回归模型在电价预测中的性能,实现MAE降低超过30%。
2026-03-06 cs.AI cs.LG
Individual Calibration with Randomized Forecasting
Stanford University(斯坦福大学)
机器学习应用通常需要校准预测,例如,90\%的可信区间应该包含90\%的真实结果。然而,典型的校准定义仅要求其保持平均值,并不保证对单个样本进行预测。因此,预测可能会在某些子组上系统地过度或不足,导致公平性和潜在漏洞的问题。我们表明,如果预测是随机的,即输出随机的可信区间,则在回归设置中可以对单个样本进行校准。随机化通过权衡偏差和方差来消除系统性偏差。我们设计了一个训练目标,以加强个人校准,并用它来训练随机回归函数。由此产生的模型对任意选择的数据子组进行了更多的校准,并且可以在针对利用错误校准预测的对手的决策中实现更高的实用性。
2020-09-09 cs.LG stat.ML
How to Learn from Others: Transfer Machine Learning with Additive Regression Models to Improve Sales Forecasting
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
在各种业务情况下,机器学习方法的引入或改进受到损害,因为这些方法无法利用现有的分析模型。然而,在许多情况下,类似的问题可能已经在其他地方解决了,但是积累的分析知识不能用来解决新问题,例如,因为隐私障碍。对于类似实体的销售预测的特定目的,我们提出了一个转移机器学习方法的基础上添加剂回归模型,让新的实体受益于现有实体的模型。我们评估了一个丰富的,多年的数据集的多个餐厅分店的方法。我们区分了简单地将模型从一个分支转移到另一个分支(“zero shot”)或转移和调整它们的选项。我们分析了几个预测基准的可行性和性能。结果表明,该方法利用集体可用的分析知识的潜力。因此,我们提供了一种超越销售预测和特定用例的可推广方法。此外,我们还展示了其在典型用例中的可行性以及提高预测质量的潜力。这些结果应该告知学术界,因为它们有助于在各个实体之间利用知识,并立即在工业中得到实际应用。
2020-05-15 cs.LG stat.AP
Multiple-output support vector regression with a firefly algorithm for interval-valued stock price index forecasting
股票价格指数的高度准确的区间预测是在做出投资决策时成功获利的基础,它提供了一系列的值,而不是一个点估计。在这项研究中,我们研究的可能性,预测一个区间值的股票价格指数序列在短期和长期的视野,使用多输出支持向量回归(MSVR)。此外,本研究提出了一种萤火虫算法(FA)为基础的方法,建立在已建立的MSVR,用于确定参数的MSVR(简称FA-MSVR)。三个全球交易的广泛的市场指数被用来比较所提出的FA-MSVR方法与选定的同行的性能。定量和全面的评估是在统计标准,经济标准和计算成本的基础上进行的。在统计准则方面,我们比较了样本外预测的预测优度的措施和测试方法。在经济标准方面,我们用一个简单的交易策略来评估相对的预测表现。在这项研究中得到的结果表明,建议FA-MSVR方法是一个很有前途的替代预测区间值金融时间序列。
2014-01-09 cs.CE cs.LG q-fin.ST
GBT: Two-stage transformer framework for non-stationary time series forecasting
Beihang University(北京航空航天大学)
针对 TSFT 解码器输入初始化不当导致的非平稳序列过拟合问题,提出两阶段 GBT 框架及误差分数修正模块,以更低复杂度取得优于多种 SOTA 模型的效果。
2023-07-17 cs.LG
Machine learning method for return direction forecasting of Exchange Traded Funds using classification and regression models
本文旨在提出并应用一种机器学习方法,利用其组成部分的历史收益数据分析交易所交易基金(ETF)的收益方向,帮助通过交易算法做出投资策略决策。在方法学方面,除了算法误差指标外,还使用了巴西和美国市场的标准数据集,采用了回归和分类模型。在研究结果方面,将它们与相同时间内的朴素预测和买入持有技术所获得的回报进行了分析和比较。在风险和回报方面,这些模型的表现大多优于控制指标,重点是线性回归模型和逻辑回归分类模型,支持向量机(使用LinearSVC模型),高斯朴素贝叶斯和K最近邻,其中在某些数据集中,回报率超过两倍,夏普比率高达买入和持有控制模型的四倍。
2022-06-13 cs.LG econ.EM q-fin.CP
Cluster-based Regression using Variational Inference and Applications in Financial Forecasting
Goldman Sachs & Co.(高盛集团);Wells Fargo & Co.(富国银行集团)
本文提出一种基于变分推断同时识别聚类并估计特定聚类回归参数的方法,可输出预测的期望值与完整分布,在金融预测等具有不同状态的市场中表现出清晰可解释性与计算效率。
2023-12-31 cs.LG q-fin.ST stat.ME
Meta-Regression Analysis of Errors in Short-Term Electricity Load Forecasting
University of Bamberg(班贝格大学)
本文通过元回归分析59项研究中421个短期电力负荷预测模型,发现电网层级、预测粒度和算法显著影响MAPE,而数据集规模等无显著影响,并指出LSTM及神经网络组合方法表现最佳。
2023-05-29 cs.LG stat.AP
Random Forest Ensemble of Support Vector Regression Models for Solar Power Forecasting
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
为了减轻可变可再生资源的不确定性,部署了两个现成的机器学习工具来预测太阳能光伏系统的太阳能功率输出。支持向量机生成的预测和随机森林作为一个集成学习方法来结合预测。风能和太阳能发电预测中常见的集合技术是混合来自几个来源的气象数据。在这项研究中,虽然,现在和过去的太阳能发电预测从几个模型,以及相关的气象数据,被纳入到随机森林结合和提高准确性的一天前的太阳能发电预测。综合模型的性能进行评估,在整个一年,并与其他结合技术进行比较。
2017-04-27 cs.CE cs.LG
SETAR-Tree: A Novel and Accurate Tree Algorithm for Global Time Series Forecasting
Monash University(莫纳什大学)
门限自回归(TAR)模型由于其简单性和数学性质,在过去的几十年中被统计学家广泛用于非线性时间序列预测。另一方面,在预测社区,通用的基于树的回归算法(森林,梯度提升)最近由于其易用性和准确性而变得流行。在本文中,我们探讨了TAR模型和回归树之间的密切联系。这些使我们能够使用TAR模型文献中丰富的方法来定义分层TAR模型,作为一个在整个系列中进行全局训练的回归树,我们称之为SETAR-Tree。与不主要关注预测并在叶节点计算平均值的通用基于树的模型相比,我们引入了一种新的预测特定树算法,该算法在叶中训练全局Pooled Regression(PR)模型,允许模型学习交叉序列信息,并使用一些特定于时间序列的分裂和停止程序。树的深度是通过进行TAR模型中常用的统计线性测试来控制的,以及测量每个节点分割处的误差减少百分比。因此,所提出的树模型需要最小的外部超参数调整,并在其默认配置下提供有竞争力的结果。我们还使用这种树算法来开发一个森林,在预测过程中,由不同的SETAR树的集合提供的预测相结合。在我们对八个公开数据集的评估中,所提出的树和森林模型能够在四个评估指标上实现比一组最先进的基于树的算法和预测基准更高的准确性。
2022-11-16 cs.LG math.ST stat.ML
Hybrid Predictive Modeling of Malaria Incidence in the Amhara Region, Ethiopia: Integrating Multi-Output Regression and Time-Series Forecasting
Department of Computer Science, Injibara University(计算机科学系,因吉巴拉大学);Department of Software Engineering, Injibara University(软件工程系,因吉巴拉大学);Department of Information Technology, Injibara University(信息技术系,因吉巴拉大学);Department of Electrical/Electronic and Computer Engineering, Afe Babalola University(电子与计算机工程系,阿费·巴巴洛拉大学)
针对埃塞俄比亚阿姆哈拉地区疟疾传播难预测的问题,研究提出融合时间序列预测、多输出回归与传统回归的混合建模框架,利用环境、病例及人口数据训练,可同时预测多类结果,精度优于单一方法,能为疟疾防控的循证决策与资源优化提供支持。
2025-10-01 cs.LG q-bio.OT
Expectile regression averaging method for probabilistic forecasting of electricity prices
本文提出一种结合点预测平均与 expectile 回归的电价概率预测新方法,应用于德国日前市场并验证其优于 quantile 方法,同时指出建模前需进行方差稳定变换。
2024-02-12 stat.AP
Probabilistic Forecasting of Sensory Data with Generative Adversarial Networks - ForGAN
University of Kaiserslautern(凯泽斯劳滕大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
时间序列预测是人类面临的挑战性问题之一。传统的均值回归模型预测方法在反映真实波动方面存在严重缺陷。虽然新的概率方法急于拯救,但它们与分位数交叉或选择先验分布等技术难题作斗争。为了融合这些领域的不同优势,同时避免它们的弱点,并推动最先进的边界,我们引入了ForGAN -一步领先的概率预测与生成对抗网络。ForGAN利用条件生成对抗网络的能力来学习数据生成分布并从中计算概率预测。我们讨论了如何评估ForGAN,以反对回归方法。为了研究ForGAN的概率预测,我们创建了一个新的数据集,并在其上展示了我们的方法能力。该数据集将公开用于比较。此外,我们在两个公开的数据集上测试了ForGAN,即Mackey-Glass数据集和互联网流量数据集(A5 M),ForGAN令人印象深刻的性能证明了其在预测未来价值方面的高能力。
2019-03-29 cs.AI cs.LG stat.ML
How Much Can A Retailer Sell? Sales Forecasting on Tmall
Ant Financial Services Group(蚂蚁金融服务集团)
时间序列预测是学术界和工业界的一项重要研究课题,它可以用来解决许多实际的预测问题,如股票,供水和销售预测。本文研究了零售商在天猫上的销售预测案例|全球领先的在线B2C平台。通过分析数据,我们有两个主要的观察结果,即,在我们将不同的零售商分组后,销售季节性和在我们转换销售(目标到预测)后的Tweedie分布。根据我们的观察,我们设计了两种销售预测机制,即,季节性提取和分布变换。首先,我们采用傅立叶分解自动提取的季节性为不同类别的零售商,这可以进一步被用作任何既定的回归算法的附加功能。其次,我们建议优化对数变换后的Tweedie销售损失。我们将这两种机制应用于经典的回归模型,即,神经网络和梯度提升决策树,并在天猫数据集上进行实验,结果表明两种机制都能显著提高预测结果。
2020-02-27 cs.LG stat.AP stat.ML
Probabilistic Forecasting for Daily Electricity Loads and Quantiles for Curve-to-Curve Regression
电力负荷曲线的概率预测对于在日益波动和竞争激烈的能源市场中进行有效的调度和决策至关重要。我们提出了一种新的方法来构建概率预测曲线(PPC),这导致了一个自然的和新的分位数的定义曲线到曲线线性回归的上下文中。PPC有三种类型:预测集、预测带和预测分位数,所有这些都是在预先指定的名义概率水平上定义的。在仿真研究中,PPC在多种数据生成机制下都能获得较好的覆盖概率。在法国日负荷曲线的一天前预测中,PPC在预测精度、覆盖率和预测带平均长度方面优于几种最先进的预测方法。预测分位数曲线提供了有见地的信息,这是高度相关的电力供应管理中的对冲风险。
2020-11-11 stat.AP stat.ME
Regression markets and application to energy forecasting
在过去的几十年里,能源预测引起了极大的关注,与使用异构数据源,概率预测,在线学习等相关的新建议出现的一个关键方面是,学习和预测可能会极大地受益于分布式数据,虽然不仅在地理意义上。也就是说,各种代理收集并拥有可能对其他人有用的数据。与最近研究分布式和隐私保护学习(无激励)的建议相反,我们在这里探索一个称为回归市场的框架。在那里,旨在改善其预测的代理发布回归任务,其他代理可以通过共享其特征的数据来做出贡献,并为此获得金钱奖励。市场设计用于回归模型,其参数是线性的,并且可能是可分离的,基于批处理或在线学习进行估计。样本内和样本外的方面都被认为是与市场拟合模型样本,然后为提高真正的预测样本外。这种回归市场依赖于机器学习方法和合作博弈论的可解释性内的最新概念,以及Shapley加法解释。除了介绍市场设计和证明其理想的属性,应用结果显示基于模拟研究(突出该建议的显着特点)和现实世界的案例研究。
2022-04-04 cs.GT cs.SY eess.SY
PeakFocus: Bridging Peak Localization and Intensity Regression via a Unified Multi-Scale Framework for Electricity Load Forecasting
School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院);Big Data Center, State Grid Corporation of China(国家电网公司大数据中心)
本文提出PeakFocus框架,通过统一的多尺度框架解决电力负荷峰值预测中的峰值定位与强度回归问题,改进多尺度表示冲突和强度平滑问题,提升预测精度。
2026-05-20 cs.LG
Probabilistic energy forecasting through quantile regression in reproducing kernel Hilbert spaces
Euler Institute, USI(瑞士意大利语区大学欧拉研究所)
针对DACH地区净零情景下的能源预测不确定性量化需求,提出基于再生核希尔伯特空间的核分位数回归方法,经负荷与电价预测基准测试验证其可靠性与锐度,且代码可复现。
2024-09-16 cs.AI cs.LG cs.SY
Masked Multi-Step Multivariate Time Series Forecasting with Future Information
GE Research(通用电气研究中心);Upstart Power, Inc.(Upstart电力公司)
在本文中,我们介绍了掩蔽多步多变量预测(MMMF),一种新的和一般的自监督学习框架的时间序列预测与已知的未来信息。在许多现实世界的预测场景中,一些未来信息是已知的,例如,在进行短期到中期电力需求预测时的天气信息,或者在进行飞机起飞预测时的油价预测。现有的机器学习预测框架可以分为(1)基于样本的方法,其中每个预测都是独立进行的,以及(2)时间序列回归方法,其中未来信息没有完全合并。为了克服现有方法的局限性,我们提出了MMMF,一个训练任何神经网络模型的框架,能够生成一系列的输出,结合了时间信息从过去和已知的信息,对未来做出更好的预测。实验在两个真实世界的数据集上进行:(1)中期电力需求预测,(2)两个月前的航班起飞预测。他们表明,所提出的MMMF框架不仅优于基于样本的方法,而且优于现有的时间序列预测模型与完全相同的基础模型。此外,一旦一个神经网络模型与MMMF训练,其推理速度是类似于与传统的回归公式训练的同一模型,从而使MMMF更好地替代现有的回归训练的时间序列预测模型,如果有一些可用的未来信息。
2022-09-28 cs.AI cs.LG
Dynamic linear regression models for forecasting time series with semi long memory errors
University of Technology Sydney(悉尼科技大学);University of New South Wales(新南威尔士大学)
本文提出一种新的动态线性回归模型,以捕捉误差的长程依赖性,提升预测能力,并通过马尔可夫链蒙特卡洛方法实现高效贝叶斯推断。
2026-04-01 stat.CO stat.ME
Soft Sensing Regression Model: from Sensor to Wafer Metrology Forecasting
Seagate Technology(希捷科技);University of Chicago(芝加哥大学)
本研究提出基于LSTM的软传感回归模型,利用传感器数据预测晶圆检测计量值,并设计两种损失函数及分段评估指标,实验证明其能准确提前预测复杂制造过程中的各类检测。
2023-02-01 cs.LG
Postprocessing of point predictions for probabilistic forecasting of day-ahead electricity prices: The benefits of using isotonic distributional regression
针对现有电价模型多仅提供点预测的问题,本文研究三种点预测转概率预测的后处理方法,发现保序分布回归对集成贡献最大,且集成方法在德西电力市场测试中性能优于前沿分布深度神经网络。
2024-10-06 q-fin.ST stat.AP stat.ML
Dynamic principal component regression for forecasting functional time series in a group structure
在制定国家和国家以下各级的社会政策和年金定价时,必须准确预测死亡率,并确保国家以下各级的预测与国家一级的预测相一致。这激发了最近的事态发展预测功能时间序列在一组结构,静态主成分分析使用。在存在中度到强烈的时间依赖性,静态主成分分析设计的独立和同分布的功能数据可能是不够的。因此,通过使用动态函数主成分分析,我们考虑了一个功能的时间序列预测方法与静态和动态主成分回归预测组结构中的每个序列。通过使用从日本死亡率数据库(2019年)获得的日本地区年龄别死亡率,我们调查了我们提议的扩展的点和区间预测精度,并随后提出建议。
2019-09-01 stat.AP stat.ME
Advanced Deep Regression Models for Forecasting Time Series Oil Production
本研究提出基于LSTM和序列卷积的深度回归模型用于时间序列石油产量预测,在Volve油田数据上优于CNN和现有方法,MAE为111.16,R2为0.98,较基线线性回归提升37%。
2023-08-30 cs.LG