Forecasting in multivariate irregularly sampled time series with missing values
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Almaden Research Center(IBM阿尔马登研究中心)
稀疏和不规则采样的多变量时间序列在临床、气候、金融和许多其他领域中很常见。最新的方法侧重于对此类数据的分类、回归或预测任务。在预测中,不仅要预测正确的值,而且要预测该值何时会出现在不规则的时间序列中。在这项工作中,我们提出了一种方法来预测不仅值,而且在他们预计将发生的时间。
2020-04-06 cs.DB cs.LG stat.ML
ARM: Refining Multivariate Forecasting with Adaptive Temporal-Contextual Learning
Georgia Institute of Technology(佐治亚理工学院);Amazon Web Services(亚马逊网络服务)
ARM通过自适应时间-上下文学习方法提升多变量长期时间序列预测的性能和效率
2026-02-05 cs.LG stat.ML
A Memory-Network Based Solution for Multivariate Time-Series Forecasting
National Taiwan University(国立台湾大学);Riken-AIP(理化学研究所人工智能研究中心)
多变量时间序列预测在金融、交通、环境等领域得到了广泛的研究,但传统的预测方法无法对真实数据中的复杂模式或依赖关系进行建模,这引起了人们的关注。为了解决这些问题,提出了各种深度学习模型,主要是基于递归神经网络(RNN)的方法。然而,在有效纳入其他变量信息的同时,捕捉极长期的模式仍然是时间序列预测的一个挑战。此外,缺乏可解释性仍然是深度神经网络模型的一个严重缺点。受记忆网络解决问答任务的启发,我们提出了一个基于深度学习的模型,名为记忆时间序列网络(MTNet),用于时间序列预测。MTNet由一个大内存组件、三个独立的编码器和一个自回归组件组成,用于联合进行训练。此外,设计的注意力机制使MTNet具有高度的可解释性。我们可以很容易地判断出历史数据的哪一部分被引用得最多。
2018-09-06 cs.LG stat.ML
AdaPTS: Adapting Univariate Foundation Models to Probabilistic Multivariate Time Series Forecasting
EURECOM(欧洲通信学院);KAUST(阿卜杜拉国王科技大学)
本文提出 AdaPTS 框架,通过可适配的特征空间变换将单变量时间序列基础模型用于概率多变量预测,并结合多种适配器与贝叶斯式优化推理策略,显著提升精度和不确定性量化。
2025-02-14 cs.LG stat.ML
Cross-LKTCN: Modern Convolution Utilizing Cross-Variable Dependency for Multivariate Time Series Forecasting Dependency for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
针对多变量时间序列预测中跨变量依赖建模不足的问题,提出纯卷积结构 Cross-LKTCN,通过大核卷积与分组逐点卷积联合建模跨时间和跨变量依赖,在基准上达到最先进性能。
2023-06-04 cs.LG
Joint Modeling of Local and Global Temporal Dynamics for Multivariate Time Series Forecasting with Missing Values
Pennsylvania State University(宾夕法尼亚州立大学);IBM T.J. Watson(IBM托马斯·J·沃森研究中心)
多变量时间序列预测在气象、交通等领域有着广泛的应用。由于数据汇集、传输和存储的限制,真实世界的MTS数据通常包含缺失值,使得现有的MTS预测模型(如线性回归和递归神经网络)不可行。虽然已经有很多的努力致力于这个问题,其中大多数仅仅依赖于局部依赖性的估算缺失值,忽略了全球的时间动态。当缺失率很高或数据具有连续缺失值时,局部依赖性/模式将变得不那么有用;而探索全局模式可以缓解此类问题。因此,联合建模本地和全球的时间动态是非常有前途的MTS预测与缺失值。然而,这方面的工作相当有限。因此,我们研究了一个新的问题MTS预测缺失值,共同探索本地和全球的时间动态。我们提出了一个新的框架LGnet,它利用记忆网络来探索全局模式,从局部角度给出估计。我们进一步引入对抗训练来增强全局时间分布的建模。在真实数据集上的实验结果表明,LGnet对缺失数据的MTS预测是有效的,并且在不同的缺失率下具有鲁棒性。
2019-11-22 cs.LG stat.ML
Evaluation of Local Explanation Methods for Multivariate Time Series Forecasting
Ryerson University(瑞尔森大学)
能够解释机器学习模型是机器学习的许多应用中的关键任务。具体来说,局部可解释性在确定模型为什么做出特定预测方面很重要。尽管最近关注人工智能的可解释性,但对于时间序列预测的局部可解释性方法缺乏研究,而存在的少数可解释性方法主要集中在时间序列分类任务上。在这项研究中,我们提出了两个新的评价指标的时间序列预测:面积超过扰动曲线回归和消融百分比阈值。这两个指标可以衡量局部解释模型的局部保真度。我们扩展的理论基础,收集两个流行的数据集,\textit{Rossmann sales}和\textit{electricity}的实验结果。这两个指标使众多的本地解释模型的全面比较,并找到哪些指标更敏感。最后,我们为这一分析提供了合理的理由。
2020-09-18 cs.LG stat.ML
Multivariate Online Linear Regression for Hierarchical Forecasting
Sorbonne University(索邦大学);Paris Cité University(巴黎城市大学);CNRS(法国国家科学研究中心);LOPF;LPSM
本文提出MultiVAW方法,将Vovk-Azoury-Warmuth算法推广至多元在线线性回归,证明其对数遗憾界,并应用于在线分层预测以放宽现有算法的分析假设。
2024-02-22 cs.LG math.OC stat.ML
CATS: Enhancing Multivariate Time Series Forecasting by Constructing Auxiliary Time Series as Exogenous Variables
Georgia Institute of Technology(佐治亚理工学院);Amazon Web Services(亚马逊网络服务)
CATS通过构建辅助时间序列作为外生变量,有效提升多变量时间序列预测的性能,实现高效且可转移的预测解决方案。
2026-02-05 cs.AI cs.LG stat.ML
Probabilistic Multivariate Time Series Forecasting with Diffusion Copulas
Department of Statistics The University of Warwick(威斯敏斯特大学统计系);School of Data Science The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院)
本文提出了一种扩散-Copula框架,通过分离边际分布学习与依赖结构学习,改进了多变量时间序列预测中对尾部风险的估计,展示了在加密货币市场中对系统性极值的预测优势。
2026-05-19 cs.LG stat.ML
DUET: Dual Clustering Enhanced Multivariate Time Series Forecasting
East China Normal University(华东师范大学);Aalborg University(奥尔堡大学)
针对多变量时间序列预测中时间模式异质、通道关联复杂的难题,提出融合时间与通道双聚类的DUET框架,在25个跨领域真实数据集上实现了最优预测性能。
2025-01-10 cs.LG stat.ML
R2N2: Residual Recurrent Neural Networks for Multivariate Time Series Forecasting
University of Minnesota, Twin Cities(明尼苏达大学双城分校);IBM Research, T. J. Watson Research Center(IBM研究院托马斯·J·沃森研究中心)
多变量时间序列建模与预测是一个具有广泛应用前景的重要问题。传统的方法,如VAR(向量自回归)模型和最近的方法,如RNN(循环神经网络)是建模时间序列数据不可或缺的工具。在许多多变量时间序列建模问题中,通常存在显著的线性依赖分量,VAR适用于该分量,以及非线性分量,RNN适用于该分量。仅使用VAR或仅使用RNN对此类时间序列进行建模可能会导致预测性能差或模型复杂,训练时间长。在这项工作中,我们提出了一种称为R2N2(残差RNN)的混合模型,它首先用简单的线性模型(如VAR)对时间序列进行建模,然后使用RNN对其残差进行建模。R2N2可以使用VAR和RNN的现有算法进行训练。通过对两个真实世界数据集(航空和气候领域)的广泛实证评估,我们表明R2N2具有竞争力,通常优于单独使用的VAR或RNN。我们还表明,与RNN相比,R2N2的训练速度更快,同时需要更少的隐藏单元。
2017-09-10 cs.LG stat.ML
Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks
University of Technology Sydney(悉尼科技大学);Monash University(莫纳什大学)
多变量时间序列建模一直是一个吸引了包括经济、金融和交通在内的各个领域的研究人员的课题。多变量时间序列预测背后的一个基本假设是,它的变量相互依赖,但仔细观察,可以说,现有的方法未能充分利用变量对之间潜在的空间依赖性。与此同时,近年来,图神经网络(GNN)在处理关系依赖关系方面表现出了很高的能力。GNN需要定义良好的图结构来进行信息传播,这意味着它们不能直接应用于依赖关系事先未知的多变量时间序列。在本文中,我们提出了一个通用的图神经网络框架,专为多变量时间序列数据。我们的方法自动提取变量之间的单向关系,通过图学习模块,外部知识,如变量属性可以很容易地集成到其中。提出了一种新的混合跳传播层和扩张的起始层,以捕获时间序列内的空间和时间依赖性。图学习、图卷积和时间卷积模块在端到端框架中联合学习。实验结果表明,我们提出的模型优于国家的最先进的基线方法在3的4个基准数据集,并实现了与其他方法在两个流量数据集,提供额外的结构信息的性能。
2020-05-24 cs.LG stat.ML
Interpretable Multivariate Time Series Forecasting Using Neural Fourier Transform
Technion - Israel Institute of Technology(以色列理工学院)
本文提出神经傅里叶变换(NFT)算法,结合多维傅里叶变换与时间卷积网络,在十四个数据集上验证了其高准确性和可解释性,为多元时间序列预测树立了新基准。
2024-05-22 cs.LG
Enhancing Multivariate Time Series Forecasting with Mutual Information-driven Cross-Variable and Temporal Modeling
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Huawei Technologies Ltd.(华为技术有限公司)
针对通道混合引入不相关信息损害多元时间序列预测的问题,提出CDAM与TAM分别建模跨变量去相关和时间互信息,显著超越现有模型。
2024-03-01 cs.LG stat.ML
Probabilistic Circuits for Irregular Multivariate Time Series Forecasting
ISMLL, University of Hildesheim, Germany(Hildesheim大学智能系统实验室);VWFS, Data Analytics Research Center(数据分析研究中心)
本文提出CircuITS概率电路架构,有效捕捉多变量时间序列复杂依赖关系,提升不规则时间序列联合分布估计精度。
2026-10-14 cs.LG
SAGDFN: A Scalable Adaptive Graph Diffusion Forecasting Network for Multivariate Time Series Forecasting
Nanyang Technological University(南洋理工大学);Harbin Institute of Technology(Shenzhen)(哈尔滨工业大学(深圳));NCS Pte Ltd(NCS私人有限公司);DAMO Academy, Alibaba group(阿里巴巴达摩院)
针对现有时空图神经网络在大规模多变量时间序列预测中可扩展性差、性能受限的问题,提出无需空间先验知识的SAGDFN,可适配数千节点数据集,在大规模数据集上性能显著优于现有最优方法。
2024-06-18 cs.LG
LAVARNET: Neural Network Modeling of Causal Variable Relationships for Multivariate Time Series Forecasting
Information Technologies Institute, Centre of Research and Technology Hellas(希腊研究与技术中心信息技术研究所)
多变量时间序列预测在许多科学学科和工业部门中具有重要意义。多变量时间序列的演化取决于其变量的动态和它们之间因果关系的连接网络。大多数现有的时间序列模型不考虑系统变量之间的因果关系,即使他们这样做,他们只是依赖于确定变量之间的因果关系网络。了解这样一个复杂网络的结构,甚至更具体地说,了解对底层过程有贡献的确切滞后变量,对于多变量时间序列预测任务至关重要。后者是一个相当未开发的信息来源。在这个方向上,这里提出了一种新的基于神经网络的架构,称为滞后变量表示网络(LAVARNET),它本质上估计滞后变量的重要性,并结合高维潜在的表示,他们预测未来的时间序列值。我们的模型与其他基线和最先进的神经网络架构的一个模拟数据集和四个真实的数据集,从气象,音乐,太阳活动和金融领域进行了比较。在大多数的实验中,所提出的架构优于竞争对手的架构。
2020-09-02 cs.LG cs.NE stat.ML
Instance-wise Graph-based Framework for Multivariate Time Series Forecasting
Microsoft Research Asia(微软亚洲研究院)
多元时间序列预测由于其在金融、交通、气象等领域的重要作用而受到越来越多的关注。近年来,人们对多变量时间序列的预测进行了大量的研究。尽管之前的一些工作考虑了同一时间戳中不同变量之间的相互依赖性,但现有工作忽视了不同时间戳的不同变量之间的相互联系。在本文中,我们提出了一个简单而有效的基于实例的图形框架,利用不同时间戳的不同变量的相互依赖性进行多变量时间序列预测。我们框架的核心思想是将不同变量的历史时间序列中的信息聚合到我们需要预测的当前时间序列中。我们在交通、电力和汇率多变量时间序列数据集上进行实验。结果表明,我们提出的模型优于国家的最先进的基线方法。
2021-09-14 cs.AI cs.LG
Temporally-Reweighted Chinese Restaurant Process Mixtures for Clustering, Imputing, and Forecasting Multivariate Time Series
Probabilistic Computing Project Massachusetts Institute of Technology(麻省理工学院概率计算项目)
本文提出了一种贝叶斯非参数方法,用于稀疏观测的多变量时间序列数据的预测、插补和聚类。该方法适用于联合建模数百个时间序列广泛变化,非平稳动态。给定$N$时间序列的集合,贝叶斯模型首先使用中国餐馆过程先验将它们划分为独立的聚类。在一个集群内,所有的时间序列建模共同使用一种新的“临时重新加权”的中国餐馆的过程混合物的扩展。使用马尔可夫链蒙特卡罗技术从后验分布中获得样本,然后将其用于形成预测推断。我们使用美国疾病控制和预防中心的季节性流感数据将该技术应用于具有挑战性的预测和估算任务,与多个广泛使用的基线相比,显示出卓越的预测准确性和具有竞争力的估算准确性。我们进一步表明,该模型发现可解释的集群数据集与数百个时间序列,使用宏观经济数据从Gapminder基金会。
2018-04-01 cs.LG stat.ME stat.ML
Channel-wise Retrieval for Multivariate Time Series Forecasting
LG AI Research(LG AI 研究院)
本文提出CRAFT框架,通过通道级检索增强预测,利用时域稀疏关系图和频域谱相似性提升效率,实验证明在七个基准数据集上优于现有方法。
2026-07-08 cs.LG
Temporal Pattern Attention for Multivariate Time Series Forecasting
National Taiwan University(台湾大学)
预测多变量时间序列数据,例如预测电力消耗,太阳能发电和复调钢琴曲,具有许多有价值的应用。然而,时间步长和序列之间复杂的非线性相互依赖性使任务复杂化。为了获得准确的预测,对时间序列数据的长期相关性进行建模是至关重要的,具有注意力机制的递归神经网络(RNN)可以在一定程度上实现这一点。典型的注意力机制在每个前一个时间步检查信息并选择相关信息以帮助生成输出,但它无法捕获跨多个时间步的时间模式。在本文中,我们提出使用一组滤波器来提取时不变的时间模式,这类似于将时间序列数据转换到其“频域”。提出了一种新的注意力机制来选择相关时间序列,并利用其“频域”信息进行预测。我们将所提出的模型应用于几个现实世界的任务,并在所有这些任务中实现了最先进的性能,只有一个例外。
2019-09-18 cs.CL cs.LG stat.ML
Spatial-Temporal Identity: A Simple yet Effective Baseline for Multivariate Time Series Forecasting
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Huazhong University of Science and Technology(华中科技大学)
多变量时间序列(MTS)预测在广泛的应用中起着至关重要的作用。最近,时空图神经网络(STGNNs)由于其最先进的性能而成为越来越受欢迎的MTS预测方法。然而,最近的作品变得越来越复杂,有限的性能改进。这一现象促使我们探索MTS预测的关键因素,并设计一个与STGNN一样强大,但更简洁有效的模型。在本文中,我们确定在空间和时间维度的样本的不可重复性作为一个关键的瓶颈,并提出了一个简单而有效的基线MTS预测附加空间和时间标识信息(STID),实现了最佳的性能和效率同时基于简单的多层感知器(MLP)。这些结果表明,我们可以设计高效和有效的模型,只要它们解决了样本的不可分辨性,而不限于STGNN。
2022-08-19 cs.LG
Only the Curve Shape Matters: Training Foundation Models for Zero-Shot Multivariate Time Series Forecasting through Next Curve Shape Prediction
Siemens Technology(西门子技术);Tsinghua University(清华大学)
提出General Time Transformer (GTT),通过将多变量时间序列预测表述为通道级下一个曲线形状预测问题进行预训练,在零样本预测中超越监督基线并验证了缩放律。
2024-02-19 cs.AI cs.LG
QiYao-I: A Manifold Based Foundation Model for Irregular Multivariate Time Series Forecasting
East China Normal University(华东师范大学);Huawei Technologies Ltd.(华为技术有限公司)
QiYao-I提出基于流形的时间注意力与频率感知动态变量交互机制,用于不规则多元时间序列预测,在基准上超越现有模型,具备强零样本和少样本泛化能力。
2026-10-14 cs.LG
Multivariate Empirical Mode Decomposition based Hybrid Model for Day-ahead Peak Load Forecasting
准确的日前高峰负荷预测不仅对电力调度至关重要,而且对投资者、能源政策制定者和政府都具有重要意义。文献表明,1%的预测误差下降可以减少1000万英镑的运营成本。因此,本研究提出了一种新的混合预测模型建立在多元经验模式分解(MEMD)和支持向量回归(SVR)的参数优化粒子群优化(PSO),这是能够捕捉精确的电力高峰负荷。本研究的新颖性主要来自于MEMD的应用,它使得多元数据分解能够在多元随时间恶化的过程中,有效地提取不同时间频率下相关变量之间的内在信息。来自澳大利亚新南威尔士州和维多利亚州的两个实际负荷数据集验证了MEMD-PSO-SVR混合模型的优越性。结果表明,MEMD-PSO-SVR方法是一种很有前途的方法,用于日前电力高峰负荷预测。
2021-10-28 cs.LG
DGCformer: Deep Graph Clustering Transformer for Multivariate Time Series Forecasting
The University of Hong Kong(香港大学);Vivo Mobile Communication Co., Ltd.(维沃移动通信有限公司)
针对多变量时间序列预测中通道依赖策略易引入无关变量致性能下降的问题,提出结合通道依赖与独立策略优势的DGCformer,经图卷积自编码器分组变量并搭配前后掩码自注意力,在8个数据集上表现优于现有最优模型。
2024-05-14 cs.LG
Winner-takes-all for Multivariate Probabilistic Time Series Forecasting
本文提出TimeMCL方法,利用多选学习(MCL)范式与赢者通吃(WTA)损失,通过多头神经网络促进预测多样性,以高效预测时间序列的多种可能未来,并在合成与真实数据上验证了其低计算成本下的出色性能。
2025-08-11 cs.AI cs.LG stat.ML
Distributed Lag Transformer based on Time-Variable-Aware Learning for Explainable Multivariate Time Series Forecasting
Changwon National University(昌原国立大学)
提出DLFormer架构,通过集成分布式滞后嵌入和时间变量感知学习机制,在十个数据集上实现了高精度且可解释的多变量时间序列预测。
2025-08-13 cs.LG
Temporal Latent Auto-Encoder: A Method for Probabilistic Multivariate Time Series Forecasting
IBM Research(IBM研究院)
高维多变量时间序列的概率预测是一个众所周知的具有挑战性的任务,无论是在计算负担和分布建模。大多数以前的工作要么做简单的分布假设或放弃建模交叉系列的相关性。一个有前途的工作线利用可扩展矩阵分解进行潜在空间预测,但仅限于线性嵌入,无法建模分布,并且在使用深度学习预测时无法进行端到端的训练。我们介绍了一种新的时间潜在自动编码器方法,该方法能够对多变量时间序列进行非线性因式分解,并使用时间深度学习潜在空间预测模型进行端到端学习。通过施加概率潜在空间模型,输入序列的复杂分布通过解码器建模。大量的实验表明,我们的模型在许多流行的多变量数据集上实现了最先进的性能,对于几个标准指标,增益有时高达$50\%$。
2021-01-25 cs.AI cs.LG cs.NE
Using Pre-trained LLMs for Multivariate Time Series Forecasting
Amazon(亚马逊)
本研究利用预训练LLMs的跨领域知识迁移能力,提出多变量分块策略将时间序列特征嵌入仅解码器预训练Transformer,用于多变量需求时间序列预测,效果达当前最优水平,并通过权重诊断验证结论。
2025-01-10 cs.CL cs.LG
CoRe: Coherence and Relational Alignment for Multivariate Time Series Forecasting
College of Computer and Information Technology, China Three Gorges University(三峡大学计算机与信息学院);City University of New York(纽约城市大学);University of California, Berkeley(加州大学伯克利分校);Emory University(埃默里大学)
CoRe提出一种模型无关的损失函数,通过频率相干性和低秩关系图约束替代逐点误差,提升多元时间序列直接预测的结构保真度,实验证明其能稳定增强多种基线模型。
2026-09-18 cs.LG
Robust Multivariate Time-Series Forecasting: Adversarial Attacks and Defense Mechanisms
AWS AI Labs(亚马逊云科技人工智能实验室);Washington State University(华盛顿州立大学)
本文研究多元时间序列预测中的对抗攻击与防御,提出稀疏对抗攻击模式,并通过随机平滑扩展和对抗训练算法提升模型鲁棒性,实验验证其攻击有效且防御优于基线。
2023-04-14 cs.CR cs.LG
Hierarchical Joint Graph Learning and Multivariate Time Series Forecasting
Hanyang University(汉阳大学)
本文提出将多元时间序列建模为图节点,结合图神经网络、注意力机制和层次化信号分解捕获多种时空依赖,在多个长期预测基准上相比现有模型平均降低23%的MSE。
2023-11-30 cs.LG
DualWeaver: Synergistic Feature Weaving Surrogates for Multivariate Forecasting with Univariate Time Series Foundation Models
School of Software, BNRist, Tsinghua University(软件学院,北京理工大学,清华大学);Tencent(腾讯)
DualWeaver通过结构对称的替代序列提升多变量预测的准确性和稳定性,利用共享特征融合模块和无参数解码实现高效预测。
2026-02-25 cs.AI cs.LG
HyperIMTS: Hypergraph Neural Network for Irregular Multivariate Time Series Forecasting
针对不规则多元时间序列中时间间隔不规则和观测未对齐的挑战,提出基于超图神经网络的HyperIMTS模型,通过时间和变量超边统一表示依赖关系,实现准确预测并降低计算成本。
2025-05-23 cs.LG
Zero-shot Multivariate Time Series Forecasting Using Tabular Prior Fitted Networks
University of Maryland(马里兰大学);Capital One(第一资本)
本文提出利用表格基础模型进行多变量时间序列预测,通过将问题转化为标量回归问题,实现零样本预测,使用TabPFN-TS验证方法并对比现有最佳表格方法。
2026-04-09 cs.AI cs.LG
MultiCast: Zero-Shot Multivariate Time Series Forecasting Using LLMs
``Athena'' Research Center Greece
MultiCast提出一种基于大语言模型的零样本多变量时间序列预测方法,通过令牌复用和量化方案降低维度并保留模式,在三个数据集上优于现有方法。
2024-05-23 cs.AI cs.LG
Multivariate Time Series Forecasting with Latent Graph Inference
University of Amsterdam(阿姆斯特丹大学);Amazon(亚马逊);Zalando(Zalando(扎兰多))
本文介绍了一种新的多变量时间序列预测方法,联合推断和利用时间序列之间的关系。它的模块化使其能够与当前的单变量方法集成。我们的方法允许权衡的准确性和计算效率逐渐通过提供一个极端的推断的一个潜在的全连通图或另一个极端的二分图。在潜在的全连接的情况下,我们考虑时间序列之间的所有成对相互作用,从而获得最佳的预测精度。相反,二分情况通过我们引入的一小组K个辅助节点来相互通信N个时间序列,从而利用依赖结构。这减少了时间和存储器复杂度w.r.t.时间复杂度为O(N^2),时间复杂度为O(NK)。我们证明了我们的模型在各种数据集中的有效性,其中它的两个变体在预测准确性和时间效率方面表现得更好或非常有竞争力。
2022-03-07 cs.LG
Series Saliency: Temporal Interpretation for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
时间序列预测是一项重要而又具有挑战性的任务。虽然最近开发了深度学习方法来提供更好的预测结果,但提高时间序列模型的可解释性至关重要。以往的解释方法,包括一般的神经网络方法和基于注意力的方法,主要考虑特征维度的解释,而忽略了关键的时间维度。本文提出了多元时间序列预测时间解释的序列显著性框架,该框架考虑了特征和时间两个维度的预测解释。通过从时间序列的滑动窗口中提取“序列图像”,我们应用显著图分割遵循最小破坏区域的原则。序列显着性框架可以用于任何定义良好的深度学习模型,并作为数据增强来获得更准确的预测。几个真实数据集上的实验结果表明,我们的框架产生的时间序列预测任务的时间解释,同时产生准确的时间序列预测。
2020-12-16 cs.AI cs.LG
A Multi-Task Learning Approach to Linear Multivariate Forecasting
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文将多变量时间序列预测建模为多任务学习,提出基于相关性聚类分组变量、按预测误差缩放梯度,并在线性 MTLinear 框架中实现性能相当或更优。
2025-03-15 cs.AI cs.LG
FilterTS: Comprehensive Frequency Filtering for Multivariate Time Series Forecasting
College of Computer Science, Nankai University(南开大学计算机科学学院);Tianjin Media Computing Center(天津媒体计算中心)
FilterTS通过动态跨变量滤波和静态全局滤波在频率域建模多元时间序列,将时域卷积转为频域乘法,在八个数据集上显著提升预测精度与计算效率。
2025-05-07 cs.LG
MMFNet: Multi-Scale Frequency Masking Neural Network for Multivariate Time Series Forecasting
Knight Foundation School of Computing and Information Sciences(奈特基金会计算与信息科学学院);Florida International University(佛罗里达国际大学)
本文提出MMFNet,通过多尺度掩码频率分解捕捉不同粒度时间模式,以可学习掩码自适应过滤无关成分,在多元长期时间序列预测中相比现有最优模型将MSE最多降低6.0%。
2024-10-02 cs.LG
CARNet Cycle-Conditioned Core Aggregation and Redistribution for Multivariate Time Series Forecasting
North South University(南北大学);Apurba Technologies(阿普尔巴科技公司)
针对多变量时间序列预测中交叉变量依赖建模难题,提出CARNet框架,通过多头核心聚合将全局循环信息融入基于核心的交互建模,实验证明其在不同预测范围优于基线,且保持线性复杂度。
2026-07-27 cs.LG
Learning Recursive Multi-Scale Representations for Irregular Multivariate Time Series Forecasting
School of Computer Science and Engineering, South China University of Technology(计算机科学与工程学院,华南理工大学)
ReIMTS通过递归多尺度建模方法,无需重采样即可提升不规则多变量时间序列预测的准确性。
2026-02-25 cs.LG
HDT: Hierarchical Discrete Transformer for Multivariate Time Series Forecasting
College of Computing and Data Science, Nanyang Technological University (NTU)(南洋理工大学计算与数据科学学院);Webank-NTU Joint Research Institute on Fintech, NTU(微众银行-南洋理工大学金融科技联合研究院);Tencent AI Lab(腾讯人工智能实验室)
针对高维多变量时间序列预测中生成模型扩展难、预测长度受限的问题,提出HDT分层离散Transformer框架,通过离散token表示和分层建模延长预测长度并提升性能,实验验证其有效性。
2025-02-12 cs.AI cs.LG
Mitigating Cold-start Forecasting using Cold Causal Demand Forecasting Model
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Google Inc.(谷歌公司)
针对深度学习多变量时间序列预测模型因果关系捕捉不足、无法应对冷启动的问题,提出融合因果推断与深度学习的CDF-cold框架,在15个谷歌数据中心流量数据集上表现优于现有最优模型。
2023-06-15 cs.LG
StationPDE: Station-Oriented Surface PDE Learning for Multi-Station Multivariate Weather Forecasting
Hunan University(湖南大学)
StationPDE通过构建地形感知连续场并分解为地表风输运与高空推断,结合数据驱动扩散分支,实现多站点多变量天气预测,在Weather2K和MeteoNet上平均MSE降低9.6%。
2026-09-25 cs.LG
Scale-Aware Neural Architecture Search for Multivariate Time Series Forecasting
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
多变量时间序列预测在许多智能应用中受到广泛关注。这不是一个简单的任务,因为我们需要考虑变量内依赖性和变量间依赖性。然而,现有的工作是针对特定的场景设计的,需要大量的领域知识和专家的努力,这是很难在不同的场景之间转移。在本文中,我们提出了一个规模感知的神经架构搜索框架MTS预测(SNAS 4MTF)。多尺度分解模块将原始时间序列分解为多尺度子序列,保持多尺度时间模式。自适应图学习模块在没有任何先验知识的情况下推断不同时间尺度下的不同变量间依赖关系。对于MTS预测,设计了一个搜索空间来捕获每个时间尺度上的变量内依赖性和变量间依赖性。多尺度分解、自适应图学习和神经架构搜索模块在端到端框架中联合学习。在两个真实数据集上的大量实验表明,与现有的方法相比,SNAS4MTF具有良好的性能。
2021-12-14 cs.LG
Dynamic Gaussian Mixture based Deep Generative Model For Robust Forecasting on Sparse Multivariate Time Series
NEC Laboratories America(美国 NEC 实验室)
稀疏多变量时间序列(MTS)预测的目的是建立模型的预测未来值的时间序列,其不完整的过去,这是非常重要的许多新兴的应用。然而,大多数现有的方法单独处理MTS,并且不利用MTS的动态分布,导致当稀疏度高时的次优结果。为了解决这一挑战,我们提出了一种新的生成模型,它跟踪潜在集群的过渡,而不是孤立的特征表示,以实现鲁棒的建模。它的特点是由一个新设计的动态高斯混合分布,它捕获的动态聚类结构,并用于发射时间序列。生成模型由神经网络参数化。一个结构化的推理网络也被设计为使归纳分析。进一步引入门控机制来动态调整高斯混合分布。大量的实验结果在各种现实生活中的数据集证明了我们的方法的有效性。
2021-03-03 cs.AI cs.LG stat.ML
Autoregressive Denoising Diffusion Models for Multivariate Probabilistic Time Series Forecasting
Zalando Research(扎兰多研究院)
在这项工作中,我们提出了\texttt{TimeGrad},一个自回归模型的多变量概率时间序列预测的样本从数据分布在每个时间步估计其梯度。为此,我们使用扩散概率模型,一类与分数匹配和基于能量的方法密切相关的潜变量模型。我们的模型通过优化数据可能性的变分界限来学习梯度,并在推理时使用Langevin采样通过马尔可夫链将白噪声转换为感兴趣的分布样本。我们的实验表明,所提出的自回归去噪扩散模型是新的国家的最先进的多元概率预测方法在现实世界的数据集与成千上万的相关维度。我们希望这种方法是一个有用的工具,为从业者在这一领域的未来研究奠定了基础。
2021-02-02 cs.AI cs.LG
Temporal Query Network for Efficient Multivariate Time Series Forecasting
South China University of Technology(华南理工大学);Pengcheng Laboratory(鹏城实验室)
提出时间查询网络(TQNet),通过周期性移位可学习向量作为注意力查询捕获全局变量相关性,仅用单层注意力和轻量MLP,在12个数据集上达到最先进精度且效率高。
2025-09-11 cs.LG
Mixing It Up: Exploring Mixer Networks for Irregular Multivariate Time Series Forecasting
Institute of Computer Science, University of Hildesheim(计算机科学学院,希尔德斯海姆大学);VWFS Data Analytics Research Center (VWFS-DARC)(VWFS数据分析研究中心(VWFS-DARC))
本文提出IMTS-Mixer网络,通过ISCAM和ConTP组件有效处理不规则多变量时间序列预测,实现高精度与低参数量的平衡。
2026-02-26 cs.LG
The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting
Nanjing University(南京大学)
本文通过实证与理论分析揭示了多元时间序列预测中通道独立策略优于通道依赖策略的原因,指出CD容量高但鲁棒性差,CI以容量换鲁棒性,并提出PRReg方法以超越CI策略。
2023-04-11 cs.LG