Directed Time Series Regression for Control
Stanford University（斯坦福大学）
提出定向时间序列回归方法，结合最小二乘回归与经验优化的优点，用于确定性等价模型预测控制中的时间序列模型参数估计，在随机倒立摆平衡问题中显著提升控制器性能。
2012-06-26 cs.LG cs.SY eess.SY
Rethinking Remaining Useful Life Prediction with Scarce Time Series Data: Regression under Indirect Supervision
School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（电子与电气工程学院，南洋理工大学，新加坡）
本文提出参数化静态回归框架，用于在数据稀缺情况下进行剩余寿命预测，通过参数化校正过程处理间接监督下的时间依赖性，提升预测精度。
2025-04-12 cs.LG stat.ML
Monash University, UEA, UCR Time Series Extrinsic Regression Archive
Monash University（莫纳什大学）；University of East Anglia（东英吉利大学）；University of California Riverside（加州大学河滨分校）
时间序列的研究在过去的十年里引起了人们的广泛兴趣，特别是时间序列分类（TSC）和时间序列预测（TSF）。TSC的研究极大地受益于加州大学河滨分校和东安格利亚大学（UCR/UEA）的时间序列档案。另一方面，时间序列预测的进步依赖于时间序列预测竞赛，如Makridakis竞赛、NN 3和NN 5神经网络竞赛以及一些Kaggle竞赛。每年，成千上万的论文提出了新的算法TSC和TSF利用这些基准档案。这些算法是针对这些特定问题而设计的，但是对于诸如使用光电容积描记图（PPG）和加速度计数据来预测人的心率的任务可能没有用。我们将此问题称为时间序列外回归（TSER），其中我们感兴趣的是从单变量或多变量时间序列预测单个连续值的更一般的方法。该预测可以来自相同的时间序列或与预测器时间序列不直接相关，并且不一定需要是未来值或严重依赖于最近值。据我们所知，研究到TSER已经收到的关注少得多，在时间序列研究界，并没有开发一般的时间序列外在回归问题的模型。大多数模型都是针对特定问题开发的。因此，我们的目标是通过引入第一个TSER基准档案来激励和支持TSER的研究。这个档案包含来自不同领域的19个数据集，具有不同的维度数量，不等长的维度和缺失值。在本文中，我们介绍了这个档案中的数据集，并对现有模型进行了初步的基准测试。
2020-10-20 cs.LG stat.ML
Explainable boosted linear regression for time series forecasting
Ryerson University（瑞尔森大学）；University of Toronto（多伦多大学）；Bogazici University（博阿齐奇大学）
时间序列预测涉及收集和分析过去的观测结果，以开发一个模型来推断这些观测结果到未来。对未来事件的预测在许多领域中是重要的，以支持决策，因为它有助于减少未来的不确定性。本文提出了一种基于可解释提升线性回归（EBLR）的时间序列预测算法，它是一种从基本模型开始，通过回归树解释模型误差的迭代法。在每次迭代中，导致最高误差的路径作为新变量添加到基础模型中。在这方面，我们的方法可以被认为是对一般时间序列模型的改进，因为它可以通过残差解释来结合非线性特征。更重要的是，使用导致错误最多的单一规则允许可解释的结果。所提出的方法扩展到概率预测，通过生成预测区间的基础上的经验误差分布。我们进行了详细的数值研究EBLR和各种其他方法进行比较。我们观察到EBLR通过提取特征大大提高了基础模型的性能，并提供了与其他成熟方法相当的性能。EBLR模型预测的可解释性和较高的预测精度使其成为一种很有前途的时间序列预测方法。
2020-09-18 cs.LG stat.ML
Multi-Step-Ahead Time Series Prediction using Multiple-Output Support Vector Regression
对未来较长时间内的时间序列进行准确预测是一项具有挑战性的工作，对从业者和学者都有很大的兴趣。支持向量回归机（SVR）作为一种著名的智能算法，其标准形式可用于时间序列的多步预测，只需依赖迭代策略或直接策略。提出了一种新的基于多输入多输出（MIMO）预测策略的多输出支持向量回归（M-SVR）时间序列预测方法。此外，还对支持向量回归机的三种主要预测策略的排序进行了比较，为支持向量回归机作为建模技术时多步预测策略的选择提供了实际意义。所提出的方法进行了验证与模拟和真实的数据集。根据预测精度和计算成本进行定量和综合评估。结果表明：1）采用MIMO策略的M-SVR在计算量较大的情况下获得了最佳的预测精度; 2）采用直接策略的标准SVR获得了次佳的预测精度，但计算量最大; 3）采用迭代策略的标准SVR在预测精度方面最差，但计算量最小。
2014-01-11 cs.LG stat.ML
An Efficient and Generalizable Symbolic Regression Method for Time Series Analysis
Fudan University（复旦大学）；Shanghai Jiao Tong University（上海交通大学）；Chongqing University（重庆大学）
针对符号回归在时间序列非线性动力学发现中效率低、泛化弱的问题，提出融合 MCTS 与神经网络的 NEMoTS，缩小搜索空间并替代耗时模拟，实验证明其在多方面表现优越。
2024-09-06 cs.LG stat.ML
Model-based clustering with Hidden Markov Model regression for time series with regime changes
Paris Nord University（巴黎第十三大学）；IFSTTAR（法国交通与安全科学技术研究所）；Heudiasyc Lab（Heudiasyc实验室）
本文介绍了一种新的基于模型的聚类方法聚类时间序列，目前的政权变化。它由隐藏的马尔可夫链控制的多项式回归的混合物组成。每个簇的潜在隐藏过程在时间上连续激活几个多项式机制。参数估计通过专用期望最大化（EM）算法采用极大似然法进行。所提出的方法进行评估，使用模拟时间序列和现实世界的时间序列从铁路诊断应用程序发出。与现有的时间序列聚类方法，包括高斯混合的标准EM，$K$均值聚类，标准混合回归模型和混合隐马尔可夫模型的比较，证明了该方法的有效性。
2013-12-25 cs.LG stat.ME stat.ML
DMIDAS: Deep Mixed Data Sampling Regression for Long Multi-Horizon Time Series Forecasting
Carnegie Mellon University（卡内基梅隆大学）
神经预测在大规模系统的准确性方面有了显着的提高，但预测极长的时间范围仍然是一项具有挑战性的任务。两个常见的问题是预测的波动性和它们的计算复杂性;我们通过将平滑正则化和混合数据采样技术结合到性能良好的基于多层感知器的架构（NBEATS）来解决它们。我们验证了我们提出的方法，DMIDAS，在高频医疗保健和电价数据上具有较长的预测范围（约1000个时间戳），我们将预测精度提高了5%，比最先进的模型，减少了近70%的NBEATS参数数量。
2021-06-07 cs.LG stat.ML
Analysing Multi-Task Regression via Random Matrix Theory with Application to Time Series Forecasting
Paris Descartes University（巴黎笛卡尔大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））
本文利用随机矩阵理论构建高维多任务回归框架，推导线性模型闭式解并一致估计训练与测试误差，实验证明其可借助多变量信息提升单变量时间序列预测性能。
2024-06-14 cs.LG stat.ML
Discretize-Optimize vs. Optimize-Discretize for Time-Series Regression and Continuous Normalizing Flows
Emory University（埃默里大学）
我们比较了离散优化（Disc-Opt）和优化离散（Opt-Disc）方法，用于使用神经ODE的时间序列回归和连续归一化流（CNFs）。神经常微分方程是含有神经网络成分的常微分方程。训练神经常微分方程是一个最优控制问题，其中权值是控制，隐藏特征是状态。每次训练迭代都涉及向前求解一个ODE和向后求解另一个ODE，这可能需要大量的计算、时间和内存。在图像分类任务中比较Opt-Disc和Disc-Opt方法，Gholami等人（2019）认为，由于保证了梯度的准确性，Disc-Opt更可取。在本文中，我们将比较扩展到时间序列回归和CNFs的神经ODE。与分类不同，这些任务中有意义的模型还必须满足精确的最终时间输出之外的其他要求，例如，CNF的可逆性。通过我们的数值实验，我们证明了通过仔细的数值处理，Disc-Opt方法可以在大幅降低训练成本的情况下实现与Opt-Disc相似的推理性能。Disc-Opt在七个独立问题中的六个中降低了成本，培训时间减少了39%到97%，在一个案例中，Disc-Opt将培训从9天减少到不到1天。
2020-07-31 cs.LG stat.ML
Unsupervised Feature Based Algorithms for Time Series Extrinsic Regression
Department of Computer Science and Numerical Analysis, University of Cordoba（科塔达大学计算机科学与数值分析系）；School of Computing Sciences, University of East Anglia（东安格利亚大学计算科学学院）
本文扩展了时序外回归算法的数据集，引入了FreshPRINCE和DrCIF两种新算法，展示了它们在性能上显著优于其他回归器，包括标准旋转森林回归器。
2023-05-02 cs.LG stat.ML
High Dimensional Time Series Regression Models: Applications to Statistical Learning Methods
本文概述高维时间序列回归模型的估计与推断方法，涵盖高维相依数据极限理论、多协变量回归渐近理论及统计学习在时间序列分析中的应用。
2023-08-27 econ.EM stat.ML
Prediction of adverse events in Afghanistan: regression analysis of time series data grouped not by geographic dependencies
University of Central Florida（中佛罗里达大学）；University of Warsaw（华沙大学）
本研究的目的是接近一个困难的回归任务，高度不平衡的数据，在阿富汗的战区活跃。我们的重点是预测负面事件的数量，而不区分事件的确切性质，因为预先确定的400个阿富汗地区中每个地区的投资和负面事件的历史数据。与以前的研究相比，我们提出了一种方法来分析时间序列数据，受益于非传统的聚合这些领土实体。通过进行初步的探索性数据分析，我们证明，根据我们的建议划分数据，可以确定强趋势和季节性成分在选定的目标变量。利用这种方法，我们还试图估计哪些投资数据对预测性能最重要。基于我们的探索性分析和以前的研究，我们准备了5组自变量，并将其输入3个机器学习回归模型。用平均绝对误差和均方误差表示的结果表明，利用目标变量的历史数据可以获得合理的性能，但不幸的是，其他提出的自变量似乎并不能提高预测质量。
2020-02-27 cs.LG stat.ML
AER: Auto-Encoder with Regression for Time Series Anomaly Detection
MIT（麻省理工学院）；IRD（法国国家可持续发展研究所）
时间序列数据的异常检测在各种工业领域越来越普遍，这些工业领域监控指标以防止潜在的事故和经济损失。然而，标记数据的缺乏和异常的模糊定义可能会使这些工作复杂化。最近的无监督机器学习方法在使用单时间戳预测或时间序列重建来解决这个问题方面取得了显着进展。虽然传统上被认为是分开的，这些方法并不相互排斥，可以提供互补的异常检测的观点。本文首先强调了基于预测和基于重建的方法与可视化的时间序列信号和异常分数的成功和局限性。然后，我们提出了AER（带回归的自动编码器），这是一个联合模型，它结合了一个普通的自动编码器和一个LSTM回归器，以结合成功并解决每种方法的局限性。我们的模型可以产生双向预测，同时通过优化联合目标函数来重建原始时间序列。此外，我们提出了几种方法相结合的预测和重建误差，通过一系列的消融研究。最后，我们比较了两种基于预测的方法和三种基于重建的方法对来自NASA，Yahoo，Numenta和UCR的12个著名的单变量时间序列数据集的AER架构的性能。结果表明，AER在所有数据集上的平均F1得分最高（与ARIMA相比提高了23.5%），同时保持了与其vanilla自动编码器和回归器组件相似的运行时间。我们的模型可以在Orion中使用，Orion是一个用于时间序列异常检测的开源基准测试工具。
2022-12-27 cs.LG stat.ML
A consistent deterministic regression tree for non-parametric prediction of time series
EDF R&D（法国电力研发中心）；GREGHEC (HEC Paris, CNRS)（GREGHEC（巴黎高等商学院、法国国家科学研究中心））；Inria（法国国家信息与自动化研究所）
我们研究有界平稳遍历过程的在线预测。要做到这一点，我们考虑设置的预测个别序列，并建立一个确定性的回归树，执行渐近以及最好的L-Lipschitz常数预测。然后，我们证明了为什么所得到的遗憾界需要关于有界平稳遍历过程类的渐近最优性。
2014-05-08 cs.LG math.ST stat.ML
Seasonally-Adjusted Auto-Regression of Vector Time Series
Stanford University（斯坦福大学）
提出了一种简单的预测向量时间序列的算法，该算法在训练和推理中对缺失数据具有鲁棒性。它对季节性的年度、每周和每日基线以及季节性调整残差的高斯过程进行建模。我们开发了一个自定义截断特征分解，以适应低秩加块对角高斯内核。使用Schur补进行推理，使用Tikhonov正则化来防止过拟合，并使用Woodbury公式来有效地反转内核的子矩阵。推理需要在时间序列维度上线性的内存和计算量，因此模型可以扩展到非常大的数据集。我们还提出了一个简单的“贪婪”网格搜索自动超参数调整。该文件附有沙皇（即，时间序列自回归器），一个实现该算法的Python库。
2019-11-04 cs.LG math.OC stat.ML
Efficient Online Hyperparameter Optimization for Kernel Ridge Regression with Applications to Traffic Time Series Prediction
Penn State University（宾夕法尼亚州立大学）；UC Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
计算效率是在线环境中部署用于时间序列预测的机器学习模型的重要考虑因素。机器学习算法根据数据自动调整模型参数，但通常需要用户设置额外的参数，称为超参数。超参数会显著影响预测精度。通常由传感器在线收集的流量测量是串行相关的。此外，数据分布可能会逐渐变化。典型的自适应策略是周期性地重新调整模型超参数，以计算负担为代价。在这项工作中，我们提出了一个有效的和原则性的在线超参数优化算法的核岭回归应用于交通预测问题。在对真实流量测量数据的测试中，我们的方法所需的计算时间仅为其他调优方法的七分之一，同时实现了更好或类似的预测精度。
2018-11-01 cs.LG stat.ML
A regression model with a hidden logistic process for feature extraction from time series
提出了一种从时间序列中提取特征的新方法。这种方法包括一个特定的回归模型，其中包含一个离散的隐藏逻辑过程。通过专用期望最大化（EM）算法执行的极大似然方法估计模型参数。在期望最大化算法的内循环中，隐逻辑过程的参数使用多类迭代重加权最小二乘（IRLS）算法来估计。一个分段回归算法及其迭代变量也被认为是比较。使用模拟和真实数据的实验研究表明，所提出的方法具有良好的性能。
2013-12-25 cs.LG math.ST stat.ME
Time Series Analysis of the Southern Oscillation Index using Bayesian Additive Regression Trees
贝叶斯加性回归树（Bayesian additive regression trees，BART）是由Chipman等人（2008）开发的一种回归技术。它在标准回归设置中的有用性已被清楚地证明，但它尚未被应用于时间序列分析。我们讨论的困难，应用这种技术的时间序列分析，并证明其优越的预测能力的情况下，一个众所周知的时间序列：南方涛动指数。
2018-04-05 stat.AP
MOrdReD: Memory-based Ordinal Regression Deep Neural Networks for Time Series Forecasting
University of Oxford（牛津大学）；Oxford-Man Institute of Quantitative Finance（牛津-曼定量金融研究所）；Mind Foundry Ltd.（Mind Foundry有限公司）
时间序列预测在现代世界中无处不在。应用范围从医疗保健到天文学，包括气候建模，金融交易和关键工程设备的监测。为了在这一系列活动中提供价值，模型不仅必须提供准确的预测，而且还必须随着时间的推移量化和调整其不确定性。在这项工作中，我们直接用一种新颖的、完全端到端的深度学习方法来处理这个任务，用于时间序列预测。通过重铸时间序列预测作为一个有序回归任务，我们开发了一个原则性的方法来评估长期预测的不确定性和描述丰富的多模态，非高斯行为，这经常出现在应用环境。值得注意的是，我们的框架是一种完全通用的方法，几乎不需要用户干预。我们在一个大规模的基准测试中展示了这一关键功能，测试中使用了45个数据集，这些数据集来自广泛的现实应用领域，以及一个综合的合成地图列表。这种广泛的比较涵盖了机器学习和统计建模文献中最先进的方法，例如高斯过程。我们发现，我们的方法不仅提供了出色的预测性预测，遮蔽了真实的未来价值，而且还允许我们推断有价值的信息，例如即使在很长一段时间内，也能准确可靠地预测关键事件发生的预测分布。
2018-10-24 cs.LG stat.ML
Modern strategies for time series regression
本文讨论了几种现代回归分析方法，涉及时间序列数据，其中一些预测变量也按时间索引。我们讨论了经典的统计方法以及最近在机器学习文献中提出的方法。这些方法进行了比较和对比，可以看出，目前大多数可用的方法有优点和缺点。在这一领域有很大的发展方法的余地。这项工作的动机是一个应用程序，涉及预测水位作为降雨量和其他气候变量的函数在澳大利亚东部的含水层。
2020-10-29 stat.ME stat.ML
Ridge Regression on Riemannian Manifolds for Time-Series Prediction
本文提出面向时间序列预测的黎曼流形岭回归方法，结合贝塞尔曲线拟合、流形协方差与马氏距离正则化，推导梯度显式公式实现高效优化，经合成实验与飓风预报验证可有效降低预测误差。
2025-11-19 cs.NA math.DG math.NA
Time series modeling by a regression approach based on a latent process
Compiègne University of Technology（贡比涅技术大学）；French National Institute for Transport and Safety Research (INRETS)（法国国家运输与安全研究所（INRETS））
时间序列用于许多领域，包括金融、工程、经济和生物信息学，通常用于表示测量随时间的变化。然后，可以使用建模技术来给出这种数据的合成表示。提出了一种新的时间序列建模方法。它包括一个回归模型，其中包含一个离散的隐藏逻辑过程，允许平滑或突然激活不同的多项式回归模型。通过专用期望最大化（EM）算法执行的极大似然方法估计模型参数。期望最大化算法的M步使用多类迭代重加权最小二乘（IRLS）算法来估计隐藏的过程参数。为了评估所提出的方法，模拟数据和真实世界的数据进行了实验研究，使用两种替代方法：异方差分段回归模型，使用基于动态规划的全局优化算法，和隐马尔可夫回归模型，其参数估计的鲍姆-韦尔奇算法。最后，在法国铁路基础设施的组件的远程监控的背景下，更特别的开关机制，所提出的方法已被应用到建模和分类的时间序列表示在开关操作过程中获得的条件测量。
2013-12-25 cs.LG math.ST stat.ME
Ultrametric Wavelet Regression of Multivariate Time Series: Application to Colombian Conflict Analysis
我们首先追求的层次结构如何提供了一个很好的适应工具的变化分析的研究。然后，使用时间序列约束的层次聚类，我们开发了一种新的小波回归方法的实用方面。这提供了一种新的方式来链接多变量时间序列数据集与外部信号的层次关系。本报告通篇使用了1990年至2004年哥伦比亚冲突期间的暴力数据。最后，我们提出了一些建议，进一步研究社会暴力和市场力量之间的关系，即哥伦比亚冲突和美国毒品市场之间的关系。
2009-02-16 stat.AP stat.ML
Bayesian Regression Approach for Building and Stacking Predictive Models in Time Series Analytics
Ivan Franko National University of Lviv（利沃夫伊万·弗兰科国立大学）
本文介绍了使用贝叶斯回归建立时间序列模型和堆叠不同的预测模型的时间序列。分析了贝叶斯回归在非线性趋势时间序列建模中的应用。这种方法使得有可能估计时间序列预测的不确定性并计算风险值特性。本文讨论了一种基于贝叶斯回归的时间序列分层模型。在这种方法中，一组参数对于所有数据样本是相同的，其他参数对于不同组的数据样本可以是不同的。这种方法允许在指定时间序列的短历史数据的情况下使用该模型，例如在销售预测问题中的新店或新产品的情况下。在预测模型的叠加研究中，采用ARIMA、神经网络、随机森林、Extra Tree等模型进行了第一层的预测。在第二个层次上，这些模型对验证集的时间序列预测用于贝叶斯回归的叠加。这种方法给出了这些模型的回归系数的分布。这使得它有可能估计的不确定性，由每个模型叠加结果的贡献。关于这些分布的信息使我们能够选择一组最佳的堆叠模型，同时考虑到领域知识。堆叠预测模型的概率方法使我们能够对决策过程中重要的预测进行风险评估。
2022-01-06 cs.AI cs.CL cs.LG
A dynamic hybrid model based on wavelets and fuzzy regression for time series estimation
本文将模糊逻辑与小波分解相结合，提出了一种用于金融时间序列估计的逐步动态混合模型。利用模糊回归、小波分解以及新的混合模型对著名的$SP500$指数金融时间序列进行了实证检验。实证检验表明了混合模型的有效性。
2011-02-17 math.ST q-fin.ST stat.TH
Simultaneous Inference for Time Series Functional Linear Regression
Illinois State University（伊利诺伊州立大学）；University of Toronto（多伦多大学）
本文提出一种统一的乘数Bootstrap方法，用于构建时间序列标量-函数线性回归系数函数的联合置信带，该方法在粗糙度惩罚估计下具有正确的覆盖概率渐近性，并对不一致估计的标准差具有渐近鲁棒性。
2026-04-27 stat.ME
Positive Time Series Regression Models
本文讨论了取值于$(0,\infty)$的时间序列的动态ARMA型回归模型。在该模型中，条件均值由包含自回归和移动平均项、时变回归量、未知参数和链接函数的动态结构来建模。本文介绍了这类新的模型，讨论了偏极大似然估计、假设检验推断、诊断分析和预测。
2022-01-10 stat.ME
Machine Learning Time Series Regressions with an Application to Nowcasting
本文介绍了结构化机器学习回归的高维时间序列数据可能在不同的频率采样。稀疏组LASSO估计器可以利用这样的时间序列数据结构，并优于非结构化LASSO。我们建立了一个框架内，允许混合过程的稀疏组LASSO估计的甲骨文不等式，并认识到金融和宏观经济数据可能有比指数尾重。一个实证应用，以nowcasting美国的GDP增长表明，估计表现良好相比，其他替代品和文本数据可以是一个有用的除了更传统的数值数据。
2020-12-12 econ.EM stat.AP stat.ME
Self-Normalized Inference in (Quantile, Expected Shortfall) Regressions for Time Series
本文提出基于自归一化的时间序列（分位数，期望损失）回归推断方法，无需调优参数且尺寸正确，并通过模拟和两个实证应用验证其有效性。
2025-06-23 econ.EM math.ST stat.TH
Valid and Efficient Split Conformal Regression for Time Series
University of Chicago（芝加哥大学）；Illinois Institute of Technology（伊利诺伊理工学院）
本文针对时间序列分割保形回归，引入函数依赖度量替代混合条件，首次同时建立非渐近覆盖保证与区间长度准确性，并证明长记忆下校准长度收敛快于中心估计。
2026-09-29 math.ST stat.ML stat.TH
Functional Lagged Regression with Sparse Noisy Observations
函数（滞后）时间序列回归模型涉及标量响应时间序列对由一系列随机函数组成的回归量时间序列的回归。在实践中，潜在的回归曲线时间序列并不总是直接可访问的，而是仅在离散测量位置处观察（采样）的潜在过程。在本文中，我们考虑了所谓的稀疏观测场景，其中只有相对较少的测量位置已被观察到，每个曲线可能不同。测量结果可能进一步受到附加测量误差的污染。被认为是一种谱的方法来估计模型的动态。利用核平滑方法从稀疏观测值中估计回归量时间序列的谱密度以及回归量与响应时间序列之间的互谱密度。滞后回归模型的脉冲响应回归系数然后通过岭回归（Tikhonov正则化）或PCA回归（谱截断）来估计。然后通过预测恢复潜在功能时间序列，条件是所有观察到的观察数据。我们的方法的性能和实施说明通过模拟研究和气象数据的分析。
2020-03-31 stat.ME
A Bernstein-type Inequality for High Dimensional Linear Processes with Applications to Robust Estimation of Time Series Regressions
针对超高维、肥尾且序列相关的时间序列数据，本文提出新的 Bernstein 型不等式，并用于稳健时间序列回归和肥尾 VAR 估计，在温和条件下允许维数随样本量指数增长并保持一致性。
2023-04-19 math.ST stat.TH
High dimensional regression for regenerative time-series: an application to road traffic modeling
一个统计预测模型，其中一个高维时间序列再生在每天结束时被用来模拟道路交通。由于再生，预测是基于使用向量自回归模型的每日建模，该模型线性组合了当天的过去观测。由于高维，学习算法遵循回归系数的L1惩罚。在路段数随观测天数趋于无穷大的高维框架下建立了超额风险边界。考虑到浮动汽车在城市地区观察到的数据，该方法相比，国家的最先进的方法，包括神经网络。除了在预测方面具有很强的竞争力外，它还可以识别道路网络中最具决定性的路段。
2021-01-26 math.ST stat.ML stat.TH
A Large Deviation Inequality for $β$-mixing Time Series and its Applications to the Functional Kernel Regression Model
本文给出了一个新的随机变量和的大偏差不等式：$Z_k = f(X_k,X_t)$对于$k,t\in \mathbb{N}$，$t$固定，其中基本过程$X$是$β$ -混合.该不等式可用于导出浓度不等式。我们在Ferraty等人（2007）的函数核回归模型中证明了它的有用性，我们研究了动态预测的一致性。
2017-07-04 math.ST stat.TH
Simultaneous Sieve Inference for Time-Inhomogeneous Nonlinear Time Series Regression
本文研究了一般局部平稳时间序列的非时齐非线性时间序列回归问题。一方面，我们提出了时变回归函数的筛分非参数估计，它可以达到最小-最大最优速率。另一方面，我们发展了一个统一的同时推理理论，可以用来进行结构和精确形式的功能测试。我们提出的统计是强大的，即使在当地弱的替代品。我们还提出了一个乘法器自举程序的实际实施。我们的方法和理论不需要对回归函数进行任何结构假设，并且我们还允许函数在无界域中得到支持。我们还建立了无界区域上二维函数的筛逼近论和高维局部平稳时间序列的仿射型和二次型的高斯逼近结果，这些结果是独立的.数值模拟和一个真实的财务数据分析提供了支持我们的结果。
2021-12-16 math.ST stat.ME stat.TH
Confidence bands in nonparametric time series regression
研究了非线性随机回归模型中均值回归和条件方差（或波动率）函数的非参数估计。同时置信带的构建和覆盖概率是渐近正确的。强加的依赖结构允许在许多线性和非线性自回归过程中的应用。结果应用于S&P 500指数数据。
2008-08-07 math.ST stat.TH
Sparse Tree-Based Aggregation for Time Series Regressions
Maastricht University（马斯特里赫特大学）
提出StarTime方法，利用时间树分层排列滞后项，通过凸惩罚实现系数聚合与稀疏选择，降低高维时间序列回归的维度，提高估计精度。
2026-07-02 econ.EM stat.ME
Nonparametric regression for locally stationary time series
在本文中，我们研究了非参数模型，允许局部平稳回归和回归函数，随着时间的推移平滑变化。这些模型是具有时变系数的时间序列模型的自然扩张。我们引入了一种基于核的方法来估计时变回归函数，并为我们的估计提供了渐近理论。此外，我们证明了理论的主要条件是满足一个大类的非线性自回归过程的时变回归函数。最后，我们研究结构化模型，其中回归函数分裂成随时间变化的附加组件。如将看到的，在这些模型中的估计不受维数灾难的影响。
2013-02-18 math.ST stat.TH
Conditional mode regression: Application to functional time series prediction
本文考虑$α$ -混合观测值，并在给定随机变量$X$取值于半度量空间的情况下，讨论了标量响应变量$Y$的条件模的估计.给出了估计量在$L^p$范数下的收敛速度。最后给出了函数时间序列预测的一个典型应用。
2008-12-29 stat.AP
On Robust Inference in Time Series Regression
针对时间序列回归中OLS-HAC推断的四个主要缺陷，提出简单易行的DURBIN动态回归程序，通过模拟验证其能有效避免这些问题，提升推断稳健性。
2024-05-27 econ.EM stat.AP
Estimating change points in nonparametric time series regression models
在本文中，我们考虑一个回归模型，允许时间序列协变量以及异方差与回归函数，是非参数建模。我们假设回归函数在某个未知时间发生变化$\lfloor ns_0\rfloor$、$s_0\in(0,1)$，我们的目标是估计（重新缩放的）变化点$s_0$。所考虑的估计是基于一个Kolmogorov-Smirnov功能的显着经验过程的残差。我们证明了估计量的一致性，并证明了$O_P(n^{-1})$的收敛速率，在这种情况下，该收敛速度显然是最优的，因为序列中只有$n$点。此外，我们还研究了滞后相关协变量的情况，即非参数（自动）回归函数发生变化的自回归模型，并给出了一致性结果。证明的方法也允许不同种类的泛函，这样Cramér-von Mises型估计可以被类似地考虑。该方法扩展了现有文献，允许非参数模型，时间序列数据以及异方差。有限样本模拟表明，我们的估计在回归和自回归模型中具有良好的性能，一个真实的数据例子表明了它在实践中的适用性。
2019-09-16 math.ST stat.TH
Density-valued time series: Nonparametric density-on-density regression
本文提出一种基于非参数函数对函数回归的概率密度函数预测方法，解决了密度数据非线性受约束导致传统预测困难的问题，并从理论和实验上验证了其准确性与有效性。
2025-10-12 stat.AP stat.ME
Interval Forecasting of Electricity Demand: A Novel Bivariate EMD-based Support Vector Regression Modeling Framework
在电力系统规划和运行决策中，高精度的电力需求区间预测是通过提供范围而不是点估计来成功降低风险的基础。在这项研究中，一种新的建模框架集成双变量经验模式分解（BEMD）和支持向量回归（SVR），扩展了成熟的经验模式分解（EMD）为基础的时间序列建模框架的能源需求预测文献，提出了电力需求的区间预测。本研究的新颖性来自就业BEMD，一个新的扩展经典经验模型分解（EMD）注定要处理二元时间序列作为复值时间序列，作为分解方法，而不是经典的EMD只能分解一维单值时间序列。该建模框架被赋予BEMD同时分解的下限和上限的时间序列，构建在复值时间序列的形式，电力需求每月每小时的基础上，从而捕捉潜在的相互关系的下限和上限。建议的建模框架是合理的，每月间隔值的电力需求数据每小时在宾夕法尼亚州新泽西州马里兰州互联，表明它是一个很有前途的方法，区间值的电力需求预测。
2014-06-15 cs.LG stat.AP
Simultaneous Sieve Estimation and Inference for Time-Varying Nonlinear Time Series Regression
本文研究局部平稳时间序列的时变非线性回归，提出具有一致收敛性的筛非参数估计量，发展了统一的同时推断理论及乘子自助法，并开发了R包SIMle辅助实现。
2025-06-29 math.ST stat.ME stat.TH
A marginalized three-part interrupted time series regression model for proportional data
Oregon Health & Science University（俄勒冈健康与科学大学）；Kaiser Permanente Washington Health Research Institute（凯撒永久华盛顿健康研究所）；University of Washington（华盛顿大学）；King’s College London（伦敦国王学院）
本文提出一种边际化零一膨胀贝塔时间序列模型，通过Copula捕捉时间依赖性，用于分析协变量对边际均值的影响，通过模拟研究和实际案例验证其有效性。
2024-08-01 stat.AP stat.ME
A Composite Quantile Fourier Neural Network for Multi-Step Probabilistic Forecasting of Nonstationary Univariate Time Series
单变量时间序列的点预测是一个具有挑战性的问题，人们已经做了大量的工作。然而，时间序列的非参数概率预测，如分位数或预测区间的形式，是一个更具挑战性的问题。在努力扩大可能的预测范式，我们设计和探索一个外推为基础的方法，还没有应用之前的概率预测。提出了一种新的分位数傅立叶神经网络用于单变量时间序列的非参数概率预测。多步预测以复合分位数的形式提供，使用时间作为模型的唯一输入。这实际上是应用于预测的基于外推的非线性分位数回归的一种形式。在八个真实世界的数据集上进行实验，这些数据集展示了各种周期性和非周期性模式。九个天真的和先进的方法被用作基准，包括分位数回归神经网络，支持向量分位数回归，SARIMA，指数平滑。实验结果验证了该方法的有效性，提供高质量和准确的概率预测。
2020-05-14 stat.ML
A Note on Local Linear Regression for Time Series in Banach Spaces
该研究将局部线性回归推广到Banach空间值时间序列，分析了标准与减偏Jackknife估计量的渐近性质，通过模拟验证有限样本性能，并应用于EEG信号平滑及视频目标检测任务。
2025-03-19 math.ST stat.ME stat.TH
Multiscale clustering of nonparametric regression curves
在广泛的现代应用中，我们观察到大量的时间序列，而不仅仅是一个单一的。人们常常很自然地认为，在所观察到的时间序列中存在某种群结构。当每个时间序列由非参数回归方程建模时，可以特别地假设所观察到的时间序列可以被划分为少数组，这些组的成员共享相同的非参数回归函数。我们开发了一个无带宽的聚类方法来估计未知的组结构的数据。更准确地说，我们构造了未知组及其未知数的多尺度估计，这些估计不需要经典的带宽或平滑参数。在本文的理论部分，我们分析了我们的估计的统计性质。我们的理论结果是在一般条件下得出的，该条件允许数据在时间序列方向上和跨不同的时间序列都是依赖的。本文的技术分析是由模拟研究和实际数据应用的补充。
2019-03-04 math.ST stat.ME stat.TH
Beta regression for time series analysis of bounded data, with application to Canada Google${}^\circledR$ Flu Trends
在实际应用中经常会遇到由比率或比例组成的有界时间序列。本文提出了一种实用的方法来分析有界时间序列，通过贝塔回归模型。该方法允许直接解释的回归参数的原始响应规模，同时适当占异方差典型的有界变量。序列相关性由高斯Copula建模，相关矩阵对应于平稳的自回归和移动平均过程。它表明，推理，预测和控制可以直接进行，与自回归和移动平均模型的标准分析的微小修改。该方法的动机是应用于Google ${}^\circledR$ Flu Trends项目估计的流感样疾病发病率。
2014-04-14 stat.AP
Multiscale inference and long-run variance estimation in nonparametric regression with time series errors
在本文中，我们开发了新的多尺度方法来测试定性假设的回归函数m的非参数回归模型与固定的设计点和时间序列错误。在时间序列应用中，m表示非参数时间趋势。实践者通常对趋势m是否具有某些形状属性感兴趣。例如，他们想知道m是否是常数，或者它是否在某些时间区域内增加/减少。我们的多尺度方法允许测试趋势m的这种形状属性。为了执行的方法，我们需要一个估计的长期方差的误差过程。对于误差项构成AR（p）过程的情形，我们提出了一种新的基于差分的长期误差方差估计。在本文的技术部分，我们推导出了多尺度检验的渐近理论和长期误差方差的估计。该理论是补充模拟研究和气候数据的实证应用。
2019-03-04 math.ST stat.TH
Toward optimal model averaging in regression models with time series errors
考虑一个具有无穷多个参数和时间序列误差的回归模型。我们感兴趣的是选择加权平均广义最小二乘（GLS）估计从一组近似模型。然而，GLS估计，依赖于未知的逆协方差阵的误差，通常是不可行的。因此，我们构造可行的广义最小二乘（FGLS）估计使用的未知逆矩阵的一致估计。基于此逆协方差阵估计和FGLS估计，我们发展了一个可行的自协方差校正的Malows模型平均准则来选择权重，从而提供了真实回归函数的FGLS模型平均估计。证明了当权向量属于一个连续集时，我们的平均估计的广义平方误差损失渐近等价于GLS模型平均估计的最小广义平方误差损失，该连续集包括Hansen（2007）中使用的离散权向量集作为其真子集.
2015-03-22 math.ST stat.TH
Dynamic linear regression models for forecasting time series with semi long memory errors
University of Technology Sydney（悉尼科技大学）；University of New South Wales（新南威尔士大学）
本文提出一种新的动态线性回归模型，以捕捉误差的长程依赖性，提升预测能力，并通过马尔可夫链蒙特卡洛方法实现高效贝叶斯推断。
2026-04-01 stat.CO stat.ME
Methodology and Convergence Rates for Functional Time Series Regression
函数线性模型将线性回归的概念扩展到响应和协变量是无限维希尔伯特空间的iid元素的情况。待估计的未知数是一个希尔伯特-施密特算子，其逆算子根据定义是无界的，从而使推理问题不适定。在本文中，我们考虑更一般的情况下，响应/协变量对的样本形成一个弱相关的平稳过程在各自的产品希尔伯特空间：简单地说，我们有一个功能时间序列之间的回归的情况下。我们考虑一个潜在的非线性过程的一般框架，利用时间序列的谱分析的最新进展。我们的主要结果是建立相应的回归系数的估计的收敛速率，后者形成一个可加序列的空间中的Hilbert-Schmidt算子。从某种意义上说，我们的主要结果可以看作是一个推广的经典功能的线性模型率，时间序列的情况下，只依赖于累积量混合条件。虽然分析变得相当多地涉及到依赖的情况下，率是惊人的可比性的i.i.d.。的情况下，但在一个额外的因素所造成的必要性，估计谱密度算子在一个非参数率，而不是参数率的协方差算子估计。
2016-12-21 math.ST stat.TH
