Channel masking for multivariate time series shapelets
Universität Hildesheim(希尔德斯海姆大学)
时间序列的形状特征是具有区分性的子序列,其与时间序列的相似性可用于时间序列分类。初始shapelet提取算法通过完全枚举所有可能的数据子序列来搜索shapelet。单变量时间序列的shapelet研究提出了一种称为shapelet学习的机制,该机制将shapelet参数化,并在优化过程中与预测模型一起学习。由于存在噪声通道,导致过拟合,将此方法简单扩展到多变量时间序列不会产生很好的结果。在本文中,我们提出了一个多变量时间序列的shapelet学习计划,其中我们引入通道掩码折扣噪声通道,并作为一个隐式正则化。
2017-11-02 cs.LG
Ymir: A Supervised Ensemble Framework for Multivariate Time Series Anomaly Detection
本文提出了一个多变量时间序列异常检测框架Ymir,它利用集成学习和监督学习技术有效地学习和适应真实世界系统应用中的异常。Ymir通过集成学习方法集成了目前广泛使用的几种无监督异常检测模型,从而可以在无监督场景下提供鲁棒的前端异常检测结果。在有监督的环境中,领域专家和系统用户讨论并提供训练数据的标签(异常或不异常),这反映了他们对特定系统的异常检测标准。Ymir使用上述无监督方法从原始多变量时间序列数据中提取丰富而有用的特征表示,然后将特征和标签与监督分类器相结合来进行异常检测。我们在来自大型监测系统的内部多变量时间序列数据集上评估了Ymir,并获得了良好的异常检测性能。
2021-12-09 cs.LG
On Multivariate Financial Time Series Classification
Université Paris-Panthéon-Assas(巴黎-Panthéon-Assas大学)
本文研究机器学习与深度学习在多元金融时间序列分类中的应用,对比小数据与大数据方法及SVM与ConvTimeNet等模型,强调深入理解大数据对金融预测的重要性。
2025-05-07 cs.LG
Cross-LKTCN: Modern Convolution Utilizing Cross-Variable Dependency for Multivariate Time Series Forecasting Dependency for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
针对多变量时间序列预测中跨变量依赖建模不足的问题,提出纯卷积结构 Cross-LKTCN,通过大核卷积与分组逐点卷积联合建模跨时间和跨变量依赖,在基准上达到最先进性能。
2023-06-04 cs.LG
HIFI: Anomaly Detection for Multivariate Time Series with High-order Feature Interactions
University of Electronic Science and Technology of China(电子科技大学);Aalborg University(奥尔堡大学)
对复杂系统的监控产生了大量的多变量时间序列数据,这些数据的异常检测对于维护系统的正常运行具有重要意义。尽管近年来出现了大量的多变量时间序列异常检测算法,但大多数算法都忽略了多变量之间的相关性建模,这往往会导致异常检测效果不佳。在这项工作中,我们提出了一种新的异常检测模型的多元时间序列与\underline{HI}高阶\underline{F}特征\underline{I}相互作用(HIFI)。具体而言,HIFI自动构建多元特征交互图,并利用图卷积神经网络实现高阶特征交互,其中,利用注意力机制对长期时间依赖性进行建模,并利用变分编码技术提高模型性能和鲁棒性。在三个公开的数据集上进行的大量实验表明,与最先进的方法相比,我们的框架具有优越性。
2021-06-11 cs.LG
Recurrent Neural Networks for Forecasting Time Series with Multiple Seasonality: A Comparative Study
Czestochowa University of Technology(琴斯托霍瓦工业大学)
本文比较了具有不同类型门控单元的循环神经网络(RNN)对具有多个季节性的时间序列的预测。我们比较的细胞包括经典的长短期记忆(LSTM),门控递归单元(GRU),具有膨胀的修改的LSTM,以及我们最近提出的两个新细胞,它们配备了膨胀和注意力机制。为了对不同尺度的时间依赖性进行建模,我们的RNN架构具有多个膨胀的递归层,这些层堆叠有分层膨胀。建议的RNN产生点预测和预测区间(PI)。一项关于35个欧洲国家短期电力负荷预测的实证研究证实,具有扩张和注意力的新门控细胞表现最好。
2022-03-17 cs.LG
GatedLinear: Adaptive Routing of Complementary Linear Bases for Time Series Forecasting
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
针对时间序列预测中多样动态难以用单一机制处理的问题,提出门控线性框架,通过三种专门机制及三因式融合门实现互补线性基的自适应路由,实验显示其在精度、可解释性和参数规模上表现出色。
2026-07-13 cs.LG
Generalized Prompt Tuning: Adapting Frozen Univariate Time Series Foundation Models for Multivariate Healthcare Time Series
Carnegie Mellon University(卡内基梅隆大学)
本文提出广义提示微调(Gen-P-Tuning),在冻结单变量时间序列基础模型的前提下,通过跨通道信息融合适配多变量医疗时间序列预测,并在MIMIC分类和流感样疾病预测任务上验证其有效性。
2024-11-19 cs.LG
Deep Gated Recurrent and Convolutional Network Hybrid Model for Univariate Time Series Classification
用于时间序列分类的混合LSTM-全卷积网络(LSTM-FCN)在单变量时间序列上产生了最先进的分类结果。我们证明,用门控递归单元(GRU)替换LSTM来创建GRU-全卷积网络混合模型(GRU-FCN)可以在许多时间序列数据集上提供更好的性能。所提出的GRU-FCN模型在许多单变量和多变量时间序列数据集上的分类性能优于最先进的分类性能。此外,由于GRU使用比LSTM更简单的架构,因此与基于LSTM的模型相比,它具有更少的训练参数,更少的训练时间和更简单的硬件实现。
2019-02-20 cs.LG stat.ML
Classification of multivariate weakly-labelled time-series with attention
Monash University(莫纳什大学)
这项研究确定了弱标记多变量时间序列分类(TSC)中的一个空白,其中最先进的TSC模型表现不佳。弱标记时间序列是包含噪声和显著冗余的时间序列。针对这一缺陷,本文提出了一种利用上下文相关性的方法,从以前的一致性,以提高分类精度。为了实现这一目标,在CNN-LSTM架构中,结合TSC的顶级CNN模型(FCN和ResNet),对最先进的Attention算法进行了实验。注意力是一种流行的上下文提取策略,在现代序列到序列任务中具有出色的性能。本文展示了如何注意力算法可以用于改进的weakenlabelledTSC通过评估模型的多变量EEG时间序列数据集上获得使用一个商业aerosptiv耳机从参与者进行各种活动,而驾驶。这些时间序列被分割成子序列,并标记为允许监督TSC。
2021-09-17 cs.LG
EdgeConvFormer: Dynamic Graph CNN and Transformer based Anomaly Detection in Multivariate Time Series
Curtin University(科廷大学)
EdgeConvFormer通过结合Time2vec、动态图CNN和Transformer,解决Transformer异常检测中数据需求大、位置编码不适用及忽视序列间依赖的问题,并在多尺度真实数据集上实现更优的异常检测性能。
2023-12-04 cs.LG
KoopAGRU: A Koopman-based Anomaly Detection in Time-Series using Gated Recurrent Units
College of Computing, Mohammed VI Polytechnic University(穆罕默德六世理工大学计算机学院)
本文提出KoopAGRU模型,结合FFT、DeepDMD与Koopman理论及GRU编码器,通过分解时变与时不变分量实现多时间尺度异常检测,在基准数据集上达到90.88%的平均F1分数。
2025-01-31 cs.LG
Algorithmic Recourse in Abnormal Multivariate Time Series
Utah State University(犹他州立大学);University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学)
本文提出RecAD框架,通过回溯反事实推理为多元时间序列异常提供算法补救,端到端训练补救函数,实验验证其有效性。
2025-08-01 cs.LG
RoLA: A Real-Time Online Lightweight Anomaly Detection System for Multivariate Time Series
Hogskulen pa Vestlandet (HVL)(西挪威大学学院);Norwegian University of Science and Technology(挪威科技大学)
本文提出RoLA系统,通过分治策略、并行处理和多数表决规则,利用多个轻量级检测器实时在线检测多变量时间序列异常,并在公开数据集上验证了其检测精度与轻量级性能。
2023-05-25 cs.LG
Interpretable Multivariate Time Series Forecasting Using Neural Fourier Transform
Technion - Israel Institute of Technology(以色列理工学院)
本文提出神经傅里叶变换(NFT)算法,结合多维傅里叶变换与时间卷积网络,在十四个数据集上验证了其高准确性和可解释性,为多元时间序列预测树立了新基准。
2024-05-22 cs.LG
Generating multivariate time series with COmmon Source CoordInated GAN (COSCI-GAN)
University of British Columbia(不列颠哥伦比亚大学)
生成多变量时间序列是在许多医疗、金融和物联网应用中共享敏感数据的一种很有前途的方法。常见类型的多变量时间序列源自单一来源,例如来自医疗患者的生物计量测量。这导致了个体时间序列之间复杂的动态模式,这些模式很难通过典型的生成模型(如GANs)来学习。这些模式中包含有价值的信息,机器学习模型可以使用这些信息来更好地分类、预测或执行其他下游任务。我们提出了一个新的框架,考虑到时间序列的共同起源,有利于通道/功能关系的保存。我们的方法的两个关键点是:1)单个时间序列是从潜在空间中的一个公共点生成的,2)中心点有利于保持通道间/特征动态。我们的经验表明,我们的方法有助于保持通道/功能的相关性,我们的合成数据执行非常好的下游任务与医疗和金融数据。
2022-12-15 cs.LG
The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting
Nanjing University(南京大学)
本文通过实证与理论分析揭示了多元时间序列预测中通道独立策略优于通道依赖策略的原因,指出CD容量高但鲁棒性差,CI以容量换鲁棒性,并提出PRReg方法以超越CI策略。
2023-04-11 cs.LG
Grouped Convolutional Neural Networks for Multivariate Time Series
Ulsan National Institute of Science and Technology(蔚山科学技术院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
分析多变量时间序列数据对于自动控制、故障诊断和异常检测等应用具有重要意义。其中一个关键挑战是从动态变化的多变量输入中自动学习潜在特征。在视觉识别任务中,卷积神经网络(CNN)已经成功地学习了具有空间域上的共享参数的广义特征提取器。然而,当给定高维多变量时间序列时,设计适当的CNN模型结构变得具有挑战性,因为内核可能需要扩展到输入体积的全维。为了解决这个问题,我们提出了两种用于深度CNN模型的结构学习算法。我们的算法利用多个时间序列的协方差结构将输入量划分为组。第一种算法通过对单个输入序列进行聚类来显式地学习组CNN结构。第二种算法从误差反向传播中隐式地学习组CNN结构。在两个真实世界数据集的实验中,我们证明了我们的CNN组优于现有的基于CNN的回归方法。
2018-05-31 cs.LG
Probabilistic Circuits for Irregular Multivariate Time Series Forecasting
ISMLL, University of Hildesheim, Germany(Hildesheim大学智能系统实验室);VWFS, Data Analytics Research Center(数据分析研究中心)
本文提出CircuITS概率电路架构,有效捕捉多变量时间序列复杂依赖关系,提升不规则时间序列联合分布估计精度。
2026-10-14 cs.LG
A Synthetic Multivariate Refrigerator Time-Series Dataset for Predictive Maintenance
Université de Sherbrooke(舍布鲁克大学)
该研究构建了一个包含27台冰箱、706万行数据的合成多元时间序列数据集,用于支持故障预测、退化分析及跨配置学习。
2026-09-22 cs.LG
dCAM: Dimension-wise Class Activation Map for Explaining Multivariate Data Series Classification
Université Paris Cité(巴黎西岱大学);EDF R&D(法国电力集团研发中心);IUF(法国大学研究院)
数据序列分类是数据科学中一个重要而又具有挑战性的问题。通过找到导致算法做出某些决策的输入的判别部分来解释分类决策在许多应用中是真正需要的。卷积神经网络在数据序列分类任务中表现良好;但是,对于多变量数据序列的特定情况,这种类型的算法提供的解释很差。解决这一重要限制是一项重大挑战。在本文中,我们提出了一种新的方法,解决了这个问题,突出了时间和维度的判别信息。我们的贡献是双重的:我们首先描述了一种卷积架构,它可以进行维度比较;然后,我们提出了一种返回dCAM的方法,dCAM是一种专门为多变量时间序列(和基于CNN的模型)设计的基于卷积的类激活图。几个合成和真实数据集的实验表明,dCAM不仅比以前的方法更准确,但唯一可行的解决方案的判别特征发现和分类解释的多元时间序列。本文发表在SIGMOD'22上。
2022-07-25 cs.LG
Multivariate time series classification with dual attention network
West Virginia University(西弗吉尼亚大学);Northeastern University(东北大学)
针对现有多变量时间序列分类方法忽略全局与局部特征融合的问题,提出由SEWA层和SSAW层组成的双注意力网络DA-Net,可挖掘关键局部片段并建立全局长程依赖。
2023-08-26 cs.LG
Correlation Based Feature Subset Selection for Multivariate Time-Series Data
University College Dublin(都柏林大学)
多变量时间序列数据流中的相关性意味着,通常情况下,给定的数据采掘任务只需要一小部分特征。在本文中,我们提出了一种技术,我们称之为时间序列数据(MSTS)的优点分数,没有特征子集选择的基础上的相关模式的单个特征分类器的输出。我们分配一个优点分数的功能子集,这是用来作为选择“好”的功能子集的基础。所提出的技术进行评估的数据集从UEA多变量时间序列档案,并对包装方法进行比较,特征子集的选择。MSTS被证明是有效的特征子集选择,是特别有效的数据减少技术。MSTS在选择合适的特征子集方面比Wrapper策略在计算上更有效,对于一些较大的数据集,速度要快100倍以上,同时还保持了良好的分类精度。
2021-11-26 cs.LG
Evaluating Explanation Methods for Multivariate Time Series Classification
University College Dublin(都柏林大学)
本文评估了针对多变量时间序列分类(MTSC)的基于显著性的解释方法(SHAP和dCAM),在合成与真实数据集上分析了ROCKET和dResNet分类器,发现通道拼接展平策略效果相当且SHAP改编表现良好,同时指出部分合成数据集不适用。
2023-09-07 cs.LG
Hierarchical Joint Graph Learning and Multivariate Time Series Forecasting
Hanyang University(汉阳大学)
本文提出将多元时间序列建模为图节点,结合图神经网络、注意力机制和层次化信号分解捕获多种时空依赖,在多个长期预测基准上相比现有模型平均降低23%的MSE。
2023-11-30 cs.LG
TOTOPO: Classifying univariate and multivariate time series with Topological Data Analysis
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院)
本文的工作致力于对时间序列分类的拓扑数据分析进行全面的分析.以前的工作有显着的缺点,如缺乏大规模的基准或缺失的国家的最先进的方法。在这项工作中,我们提出了TOTOPO从不同类型的持久性图中提取拓扑描述符。结果表明,TOTOPO在准确性方面明显优于现有基线。TOTOPO与最先进的数据集相比也具有竞争力,在20%的单变量和40%的多变量时间序列数据集上是最好的。这项工作验证了这一假设,即基于TDA的方法对数据中的小扰动是鲁棒的,并且对于周期性和形状有助于区分类别的情况是有用的。
2020-10-10 cs.LG
Robust Augmentation for Multivariate Time Series Classification
University of YYY(YYY大学);Department of XXX, University of YYY(YYY大学XXX系)
神经网络能够学习强大的数据表示,但由于参数的数量,它们容易过拟合。这在时间序列分类领域尤其具有挑战性,其中数据集可能包含少于100个训练样本。在本文中,我们展示了剪切,剪切混合,混合和窗口扭曲的简单方法,以统计上显著的方式提高了时间序列分类的卷积,递归和基于自注意力的架构的鲁棒性和整体性能。我们在东安格利亚大学多变量时间序列分类(UEA MTSC)档案的26个数据集上评估了这些方法,并分析了这些方法在不同类型的时间序列数据上的表现。我们发现,与没有增强的情况相比,增强的InceptionTime网络在18个不同的数据集中将准确率提高了1%至45%。我们还表明,增强提高了经常性和自注意力为基础的架构的准确性。
2022-01-27 cs.LG
MGCP: A Multi-Grained Correlation based Prediction Network for Multivariate Time Series
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Tencent AI Lab(腾讯人工智能实验室);Peng Cheng Laboratory(鹏城实验室);University of Connecticut(康涅狄格大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
针对多元时间序列预测中多粒度相关性难以同时学习的问题,提出MGCP网络,通过自适应傅里叶神经算子和图卷积网络提取细、中粒度特征,并利用对抗训练优化粗粒度预测,显著提升了预测性能。
2024-05-30 cs.LG
A K-variate Time Series Is Worth K Words: Evolution of the Vanilla Transformer Architecture for Long-term Multivariate Time Series Forecasting
Shanghai Jiao Tong University(上海交通大学)
多变量时间序列预测(MTSF)是许多实际应用中的一个基本问题。近年来,Transformer已成为MTSF的事实上的解决方案,特别是对于长期的情况。然而,除了一个正向操作之外,现有MTSF Transformer架构中的基本配置几乎没有经过仔细验证。在这项研究中,我们指出,目前的令牌化策略在MTSF Transformer架构忽略了令牌的均匀性感应偏置的Transformers。因此,普通MTSF Transformer难以捕获时间序列中的细节,表现出较差的性能。基于这一观察,我们对普通MTSF Transformer的基本架构进行了一系列的改进。我们改变了有缺陷的标记化策略,以及解码器结构和嵌入。令人惊讶的是,进化的简单Transformer架构是高度有效的,其成功地避免了普通MTSF Transformer中的过平滑现象,实现了更详细和准确的预测,并且甚至显著优于为MTSF精心设计的最先进的Transformers。
2022-12-06 cs.LG
Optimal Copula Transport for Clustering Multivariate Time Series
Hellebore Capital Management(Hellebore资本管理公司);Ecole Polytechnique(巴黎综合理工学院)
本文提出了一种新的方法聚类多变量时间序列利用最佳运输copula之间。Copula用于编码(i)多变量时间序列的内部依赖性,以及(ii)两个时间序列之间的相互依赖性。然后,最优copula传输允许我们定义多变量时间序列之间的两个距离:(i)一个用于测量内部依赖相异性,(ii)另一个用于测量基于新的多变量依赖系数的相互依赖相异性,该系数对噪声具有鲁棒性,确定性,并且可以针对指定的依赖关系。
2016-01-11 cs.LG stat.ML
Gaussian Gated Linear Networks
DeepMind(深度思维)
我们提出了高斯门控线性网络(G-GLN),这是最近提出的GLN系列深度神经网络的扩展。GLN不是使用反向传播来学习特征,而是具有基于优化凸目标的分布式和局部信用分配机制。这产生了许多理想的属性,包括通用性,数据有效的在线学习,平凡的可解释性和鲁棒性灾难性遗忘。我们将GLN框架从分类扩展到多元回归和密度建模,将几何混合推广到高斯密度的乘积。G-GLN在几个单变量和多变量回归基准上实现了具有竞争力或最先进的性能,并且我们证明了其对实际任务的适用性,包括在线上下文强盗和通过去噪进行密度估计。
2020-10-21 cs.LG stat.ML
Multivariate Time Series Classification using Dilated Convolutional Neural Network
Xsensor Technology Corp(Xsensor科技公司);University of Alberta(阿尔伯塔大学)
多元时间序列分类是机器学习领域的一个重要研究课题。特征提取是分类任务中的一个主要步骤。传统方法采用手工制作的特征进行分类,而卷积神经网络(CNN)能够自动提取特征。本文将扩张卷积神经网络用于多变量时间序列分类。为了部署扩张的CNN,将多变量时间序列转换为类似图像的样式,并应用扩张和跨步卷积的堆栈来同时提取时间序列中变量的特征。我们在两个人类活动识别时间序列上评估了我们的模型,发现为时间序列提取的自动特征可以像手工制作的特征一样有效。
2019-05-05 cs.LG stat.ML
Multivariate LSTM-FCNs for Time Series Classification
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
在过去的十年中,多元时间序列分类受到了极大的关注。我们建议将现有的单变量时间序列分类模型,长短期记忆全卷积网络(LSTM-FCN)和注意力LSTM-FCN(ALSTM-FCN),通过用挤压和激励块增强全卷积块来进一步提高准确性,从而将其转换为多变量时间序列分类模型。我们提出的模型优于大多数国家的最先进的模型,同时需要最少的预处理。所提出的模型有效地工作在各种复杂的多变量时间序列分类任务,如活动识别或动作识别。此外,所提出的模型是非常有效的,在测试时间和小到足以部署在内存受限的系统。
2019-07-01 cs.LG stat.ML
Instance-wise Graph-based Framework for Multivariate Time Series Forecasting
Microsoft Research Asia(微软亚洲研究院)
多元时间序列预测由于其在金融、交通、气象等领域的重要作用而受到越来越多的关注。近年来,人们对多变量时间序列的预测进行了大量的研究。尽管之前的一些工作考虑了同一时间戳中不同变量之间的相互依赖性,但现有工作忽视了不同时间戳的不同变量之间的相互联系。在本文中,我们提出了一个简单而有效的基于实例的图形框架,利用不同时间戳的不同变量的相互依赖性进行多变量时间序列预测。我们框架的核心思想是将不同变量的历史时间序列中的信息聚合到我们需要预测的当前时间序列中。我们在交通、电力和汇率多变量时间序列数据集上进行实验。结果表明,我们提出的模型优于国家的最先进的基线方法。
2021-09-14 cs.AI cs.LG
Dataset: Rare Event Classification in Multivariate Time Series
ProcessMiner, Inc.(ProcessMiner公司)
从纸浆和造纸工业提供真实世界的数据集。该数据集来自多变量时间序列过程。该数据包含行业中常见的罕见断纸事件。数据包含以规则时间间隔(x)的传感器读数和事件标签(y)。这些数据的主要目的被认为是建立一个分类模型,用于早期预测罕见事件。然而,它也可以用于多变量时间序列数据探索和建立其他监督和无监督模型。
2019-05-31 cs.LG stat.ML
Supervised Feature Subset Selection and Feature Ranking for Multivariate Time Series without Feature Extraction
NEC Laboratories America(美国NEC实验室)
我们介绍了多变量时间序列(MTS)分类的监督特征排序和特征子集选择算法。与大多数现有的监督/无监督MTS的特征选择算法,我们的技术不需要一个特征提取步骤,从时间序列生成一个一维的特征向量。相反,它是基于直接计算单个时间序列之间的相似性,并评估产生的聚类结构与标签的匹配程度。该技术适用于异构MTS数据,其中时间序列测量可能具有不同的采样分辨率,以及多模态数据。
2020-05-01 cs.LG stat.ML
Using Pre-trained LLMs for Multivariate Time Series Forecasting
Amazon(亚马逊)
本研究利用预训练LLMs的跨领域知识迁移能力,提出多变量分块策略将时间序列特征嵌入仅解码器预训练Transformer,用于多变量需求时间序列预测,效果达当前最优水平,并通过权重诊断验证结论。
2025-01-10 cs.CL cs.LG
Sparsification and Filtering for Spatial-temporal GNN in Multivariate Time-series
University College London(伦敦大学学院)
我们提出了一个端到端的架构,多变量时间序列预测,集成了时空图神经网络与矩阵过滤模块。该模块在将多变量时间序列输入到GNN之前,从多变量时间序列生成过滤(逆)相关图。与图神经网络中采用的现有稀疏化方法相比,我们的模型明确地利用时间序列滤波来克服复杂系统数据典型的低信噪比。我们提出了一组实验,我们预测未来的销售额从一个合成的时间序列销售数据集。所提出的时空图神经网络相对于基线方法显示出优越的性能,没有图形信息,完全连接,断开的图形和未过滤的图形。
2022-03-08 cs.LG q-fin.CP
Recurrent Auto-Encoder With Multi-Resolution Ensemble and Predictive Coding for Multivariate Time-Series Anomaly Detection
Korea University(高丽大学)
由于大规模的时间序列数据在实际应用中很容易被发现,因此多元时间序列异常检测在各个行业中发挥着重要作用。它可以通过基于时间序列数据预防故障和检测异常来提高生产率并降低维护成本。然而,多变量时间序列异常检测是具有挑战性的,因为真实世界的时间序列数据表现出复杂的时间依赖性。对于这项任务,关键是要学习一个丰富的表示,有效地包含正常行为的非线性时间动态。在这项研究中,我们提出了一个无监督的多变量时间序列异常检测模型RAE-MEPC学习信息正常表示的基础上,多分辨率集成和预测编码。我们引入多分辨率集成编码来捕获输入时间序列的多尺度依赖性。编码器分层地聚合从具有不同编码长度的子编码器提取的时间特征。根据这些编码特征,重构解码器基于多分辨率系综解码来重构输入时间序列,其中较低分辨率信息有助于解码具有较高分辨率输出的子解码器。预测编码被进一步引入以鼓励模型学习时间序列的时间依赖性。在真实世界基准数据集上的实验表明,该模型在多变量时间序列异常检测方面优于基准模型。
2022-02-21 cs.AI cs.LG
MultiCast: Zero-Shot Multivariate Time Series Forecasting Using LLMs
``Athena'' Research Center Greece
MultiCast提出一种基于大语言模型的零样本多变量时间序列预测方法,通过令牌复用和量化方案降低维度并保留模式,在三个数据集上优于现有方法。
2024-05-23 cs.AI cs.LG
Feature Programming for Multivariate Time Series Prediction
University of Northwestern(西北大学)
本研究提出多变量时间序列的可编程特征工程概念与框架,基于自旋气体动力学Ising模型的细粒度视角构建简约算子实现自动化特征生成,在多类含噪数据集上验证了方法有效性。
2023-06-09 cs.LG stat.ML
Entropy Causal Graphs for Multivariate Time Series Anomaly Detection
Institute of Innovation, Science and Sustainability(创新、科学与可持续性研究所);Federation University Australia, Australia and CSIRO's Data61(联邦大学澳大利亚分校和CSIRO的数据61);Federation University Australia(联邦大学澳大利亚分校);RMIT University(皇家墨尔本理工学院)
针对现有多元时间序列异常检测忽略变量间因果关系的问题,提出基于传递熵构建因果图并结合加权图卷积与因果卷积的CGAD框架,在真实数据集上平均提升9%。
2025-08-08 cs.AI cs.LG
Elastic Similarity and Distance Measures for Multivariate Time Series
Monash University(莫纳什大学);Univ. Bretagne Sud(南布列塔尼大学);IRISA(法国信息与随机系统研究所);CNRS(法国国家科学研究中心)
本文提供了七种常用的弹性相似性和距离测度的多变量版本,用于时间序列数据分析。弹性相似性和距离度量是一类可以补偿时间序列数据在时间轴上的不对齐的相似性度量。我们适应两个现有的策略中使用的多变量版本的著名的动态时间规整(DTW),即独立和依赖DTW,这七个措施。虽然这些措施可以应用于各种时间序列分析任务,我们证明了他们的效用多变量时间序列分类使用最近邻分类器。在23个著名的数据集上,我们证明了除了一个之外的每一个测量都在至少一个数据集上相对于其他测量达到了最高的准确度,这支持了开发一套多变量相似性和距离测量的价值。我们还证明,有数据集的依赖版本的所有措施是更准确的比他们的独立同行,反之亦然。此外,我们还构建了一个最近邻为基础的集成的措施,并表明它是竞争力的其他国家的最先进的单策略的多元时间序列分类器。
2023-01-17 cs.LG stat.ML
Only the Curve Shape Matters: Training Foundation Models for Zero-Shot Multivariate Time Series Forecasting through Next Curve Shape Prediction
Siemens Technology(西门子技术);Tsinghua University(清华大学)
提出General Time Transformer (GTT),通过将多变量时间序列预测表述为通道级下一个曲线形状预测问题进行预训练,在零样本预测中超越监督基线并验证了缩放律。
2024-02-19 cs.AI cs.LG
Mimic: An adaptive algorithm for multivariate time series classification
Washington State University(华盛顿州立大学)
时间序列数据是有价值的,但往往是不可理解的。在金融、医疗保健和其他关键应用程序中获得对时间序列分类器的信任可能依赖于创建可解释的模型。研究人员以前被迫在缺乏预测能力的可解释方法和缺乏透明度的深度学习方法之间做出决定。在本文中,我们提出了一种新的模仿算法,保留了最强分类器的预测精度,同时引入可解释性。Mimic反映了现有多变量时间序列分类器的学习方法,同时产生一个视觉表示,增强了用户对学习模型的理解。在26个时间序列数据集上的实验支持了Mimic视觉上和准确地模仿各种时间序列分类器的能力。
2021-11-08 cs.AI cs.LG
Enhancing Transformer Efficiency for Multivariate Time Series Classification
University of California, Santa Barbara(加州大学圣巴巴拉分校)
目前大多数多变量时间序列(MTS)分类算法的重点是提高预测精度。然而,对于大规模(高维或长序列)时间序列(TS)数据集,还有一个额外的考虑因素:设计一个有效的网络架构,以减少计算成本,如训练时间和内存占用。在这项工作中,我们提出了一种基于模块修剪和帕累托分析的方法来研究模型效率和准确性之间的关系,以及其复杂性。在MTS基准数据集上的实验结果表明了该方法的有效性。
2022-03-28 cs.AI cs.LG
RED CoMETS: An ensemble classifier for symbolically represented multivariate time series
University of Bristol(布里斯托尔大学);Awerian(阿维里安公司);School of Engineering Mathematics and Technology(工程数学与技术学院)
RED CoMETS是一种基于Co-eye扩展的集成分类器,用于符号表示的多变量时间序列分类,在UCR基准上达到竞争性精度,并在HandMovementDirection数据集上创下最高准确率,同时大幅降低计算时间。
2023-09-16 cs.LG stat.ML
Autoregressive Convolutional Recurrent Neural Network for Univariate and Multivariate Time Series Prediction
Maastricht University(马斯特里赫特大学)
时间序列预测(单变量和多变量)是一个高复杂性的问题,因为必须在输入中检测不同的模式,从高频到低频。在本文中,我们提出了一个新的模型,利用卷积层的特征提取,一个经常性的编码器和线性自回归组件的时间序列预测。我们激励模型,我们测试和比较它对广泛使用的现有架构的基线单变量和多变量时间序列。所提出的模型似乎优于基线,在几乎每一种情况下的多变量时间序列数据集,在某些情况下,甚至有50%的改善,这表明这种混合架构在复杂的时间序列的优势。
2019-03-06 cs.LG stat.ML
Context Neural Networks: A Scalable Multivariate Model for Time Series Forecasting
针对现有全局时间序列预测模型未考虑邻接序列状态、多变量模型复杂度高难以扩展的问题,提出线性复杂度的Context Neural Network,通过引入邻接序列实时信息增强预测,兼顾效果与大规模数据的计算可行性。
2024-05-12 cs.AI cs.LG
CATS: Enhancing Multivariate Time Series Forecasting by Constructing Auxiliary Time Series as Exogenous Variables
Georgia Institute of Technology(佐治亚理工学院);Amazon Web Services(亚马逊网络服务)
CATS通过构建辅助时间序列作为外生变量,有效提升多变量时间序列预测的性能,实现高效且可转移的预测解决方案。
2026-02-05 cs.AI cs.LG stat.ML
Series Saliency: Temporal Interpretation for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
时间序列预测是一项重要而又具有挑战性的任务。虽然最近开发了深度学习方法来提供更好的预测结果,但提高时间序列模型的可解释性至关重要。以往的解释方法,包括一般的神经网络方法和基于注意力的方法,主要考虑特征维度的解释,而忽略了关键的时间维度。本文提出了多元时间序列预测时间解释的序列显著性框架,该框架考虑了特征和时间两个维度的预测解释。通过从时间序列的滑动窗口中提取“序列图像”,我们应用显著图分割遵循最小破坏区域的原则。序列显着性框架可以用于任何定义良好的深度学习模型,并作为数据增强来获得更准确的预测。几个真实数据集上的实验结果表明,我们的框架产生的时间序列预测任务的时间解释,同时产生准确的时间序列预测。
2020-12-16 cs.AI cs.LG
A Transformer-based Framework for Multivariate Time Series Representation Learning
Brown University(布朗大学);IBM Research(IBM研究院)
在这项工作中,我们首次提出了一个基于transformer的框架,用于多变量时间序列的无监督表示学习。预训练模型可以用于下游任务,如回归和分类,预测和缺失值插补。通过在多个多元时间序列回归和分类的基准数据集上评估我们的模型,我们表明我们的建模方法不仅代表了迄今为止对多元时间序列进行无监督学习的最成功的方法,而且它还超过了当前最先进的监督方法的性能;即使在训练样本的数量非常有限的情况下,它也能这样做,同时提供计算效率。最后,我们证明了我们的Transformer模型的无监督预训练比完全监督学习提供了实质性的性能优势,即使没有利用额外的未标记数据,即,通过无监督目标重用相同的数据样本。
2020-12-08 cs.AI cs.LG
ChemTime: Rapid and Early Classification for Multivariate Time Series Classification of Chemical Sensors
Worcester Polytechnic Institute(伍斯特理工学院);U.S. Army DEVCOM Soldier Center(美国陆军DEVCOM士兵中心)
针对化学电阻传感器阵列的化学检测需求,该研究调研相关分类方法,提出新型ChemTime多变量时间序列分类方法,在保证轻量设备性能的同时实现快速早期分类与高精度。
2023-12-15 cs.LG q-bio.QM
Multivariate Time-series Anomaly Detection via Graph Attention Network
Microsoft(微软);Peking University(北京大学)
多元时间序列的异常检测在数据采掘研究和工业应用中具有重要意义。最近的方法在这一主题上取得了重大进展,但仍然存在局限性。一个主要的限制是,它们没有明确地捕捉不同时间序列之间的关系,导致不可避免的误报。在本文中,我们提出了一种新的自监督框架的多元时间序列异常检测来解决这个问题。我们的框架将每个单变量时间序列视为一个单独的特征,并包括两个并行的图形注意力层,以学习多变量时间序列在时间和特征维度上的复杂依赖关系。此外,我们的方法联合优化基于预测的模型和基于构造的模型,通过单时间戳预测和整个时间序列的重构相结合,获得更好的时间序列表示。我们通过大量的实验证明了我们的模型的有效性。所提出的方法优于其他国家的最先进的模型在三个真实世界的数据集。进一步的分析表明,我们的方法具有良好的解释性,是有用的异常诊断。
2020-09-04 cs.LG stat.ML