Multivariate quantile regression via Kolmogorov-Arnold Networks
University of Greenwich（格林威治大学）
本文提出一种基于Kolmogorov-Arnold网络集成的新算法，用于预测随机系统中向量值目标的联合分布，并引入新的差异度量及拟合优度检验以验证和校准该识别技术。
2026-10-14 cs.LG
A Causal-based Framework for Multimodal Multivariate Time Series Validation Enhanced by Unsupervised Deep Learning as an Enabler for Industry 4.0
Paul Wurth S.A.（保罗沃思股份公司）
多模态多变量时间序列的高级概念验证框架定义了从单变量上下文定义到自动编码器从异构数据（图像、时间序列、声音等）学习的多模态抽象上下文表示的多级上下文异常检测。与工业过程相关。框架的每一级都适用于历史数据和/或实时数据。最终层次是基于因果发现来识别观测数据中的因果关系，以排除有偏见的数据来训练机器学习模型，并为领域专家提供在数据样本所代表的底层过程中发现未知因果关系的方法。一个长短期记忆自动编码器成功地评估多变量时间序列，以验证与高炉的多个资产的抽象上下文的学习表示。确定了一个研究路线图，将因果发现和表示学习相结合，作为应用于过程工业的无监督根本原因分析的推动者。
2020-08-05 cs.LG stat.ML
MAD: Self-Supervised Masked Anomaly Detection Task for Multivariate Time Series
GE Research（通用电气研究院）
在本文中，我们介绍了掩蔽异常检测（MAD），一个通用的自监督学习任务的多元时间序列异常检测。随着来自工业系统的传感器数据的可用性的增加，能够从多变量时间序列数据流中检测异常是非常重要的。由于在现实世界中的应用异常的稀缺性，大多数文献一直专注于建模的正常性。学习的正常表示可以增强异常检测，因为模型已经学会捕获某些关键的底层数据。一个典型的公式是学习预测模型，即，使用时间序列数据窗口来预测未来的数据值。在本文中，我们提出了另一种自监督学习任务。通过随机屏蔽一部分输入并训练模型来使用剩余的输入来估计它们，MAD是对传统的从左到右的下一步预测（NSP）任务的改进。我们的实验结果表明，MAD可以实现更好的异常检测率比传统的NSP方法时，使用完全相同的神经网络（NN）的基础模型，并可以修改运行速度NSP模型在测试时间在相同的硬件，从而使其成为一个理想的升级许多现有的基于NSP的NN异常检测模型。
2022-05-04 cs.AI cs.LG cs.NE
PLanTS: Periodicity-aware Latent-state Representation Learning for Multivariate Time Series
Department of Computer Science（计算机科学系）；Indiana University（印第安纳大学）；Department of Biomedical Engineering（生物医学工程系）；Oregon Health & Science University（俄勒冈健康与科学大学）
PLanTS提出周期感知的自监督框架，通过多粒度分块和下一转移预测任务，捕捉多元时间序列的潜状态动态，提升分类、预测等下游任务性能。
2025-09-05 cs.AI cs.LG
Multivariate Time-Series Anomaly Detection based on Enhancing Graph Attention Networks with Topological Analysis
Beihang University（北京航空航天大学）；Shantou University（汕头大学）；North China Electric Power University（华北电力大学）
本文提出TopoGDN模型，通过多尺度时间卷积模块和融入图拓扑的增强图注意力网络，从细粒度视角分析多变量时间序列的时间与特征维度，在四个数据集上显著优于基线模型。
2024-08-23 cs.AI cs.LG
System Identification Using Kolmogorov-Arnold Networks: A Case Study on Buck Converters
Eindhoven University of Technology（埃因霍温理工大学）
本研究将Kolmogorov-Arnold网络（KAN）应用于buck变换器的系统辨识，通过可学习激活函数逼近状态导数、构建可解释状态空间模型，实验验证其能准确辨识动力学、验证一致性并检测参数变化。
2025-06-12 cs.LG cs.SY eess.SY
ChorusTIC: Training-Free Multivariate Time Series Classification via Chorus In-Context Learning
Guangdong University of Technology（广东工业大学）；Université Paris Cité（巴黎西岱大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Shantou University（汕头大学）
ChorusTIC是一种无需训练的多变量时间序列分类模型，通过上下文学习结合特定编码与校准方法，在UEA-30和UCR-128数据集上实现了无需目标分类器拟合的优异分类性能。
2026-10-01 cs.AI cs.LG stat.ML
Towards federated multivariate statistical process control (FedMSPC)
Software Competence Center Hagenberg（哈根贝格软件能力中心）
从线性（生产-使用-处置）向循环经济的持续过渡对当前最先进的信息和通信技术提出了重大挑战。特别是，从价值链上产生的（实时）数据中获得关于材料、工艺和产品流的综合、高层次视图具有挑战性，原因有几个。最重要的是，足够丰富的数据往往是可用的，但由于隐私问题，这使得它不可能建立集成的过程模型，捕捉输入材料之间的相互关系，过程参数和关键性能指标沿价值链，而不是跨公司边界共享。在目前的贡献，我们提出了一个隐私保护，联邦多元统计过程控制（FedMSPC）框架的基础上联邦主成分分析（PCA）和安全多方计算，以促进利益相关者沿着价值链更紧密的合作。我们在两个工业基准数据集- SECOM和ST-AWFD上测试了我们的方法。我们的实证结果表明，所提出的方法相比，标准的，单一的一方（多路）PCA优越的故障检测能力。此外，我们还展示了我们的框架为价值链中的每个数据持有者提供隐私保护故障诊断的可能性，以支持安全数据共享和联邦流程建模的好处。
2022-11-04 cs.CR cs.LG stat.ME
Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning
Centre for Applied Industrial Intelligence, University of Strathclyde（应用工业智能中心，斯特拉思克莱德大学）
针对KANs高维样条参数冗余导致的过拟合问题，提出P-KANs框架，通过熵最小化引导边函数收敛至低参数投影空间，实现高达80%参数压缩并增强可解释性。
2025-09-24 cs.AI cs.LG cs.NE
Graph Neural Networks with Trainable Adjacency Matrices for Fault Diagnosis on Multivariate Sensor Data
HSE University（高等经济大学）；AIRI（人工智能研究所）；NITU MISIS（国立研究型技术大学莫斯科国立钢铁合金学院）
及时检测化学工艺过程中的异常，以及最早检测故障原因，显著降低工业工厂的生产成本。通过大量不同的传感器接收关于工艺过程状态和生产设备运行的数据。为了更好地预测过程和设备的行为，不仅需要单独考虑每个传感器中信号的行为，还需要考虑它们之间的相关性和隐藏关系。基于图的数据表示有助于解决这一问题。图形节点可以表示为来自不同传感器的数据，并且边可以显示这些数据对彼此的影响。在这项工作中，应用图神经网络在化工过程中的故障诊断问题的可能性进行了研究。提出在图神经网络的训练过程中构造一个图。这允许在传感器之间的依赖性事先未知的情况下对数据进行训练模型。在这项工作中，几种方法获得邻接矩阵被认为是，以及他们的质量进行了研究。还提出了在一个模型中使用多个邻接矩阵。我们展示了田纳西州伊士曼过程数据集的故障诊断任务的最先进的性能。所提出的图神经网络优于递归神经网络的结果。
2022-10-20 cs.AI cs.LG
HFN: Heterogeneous Feature Network for Multivariate Time Series Anomaly Detection
National University of Defense Technology（国防科技大学）；National SuperComputing Center in Tianjin（国家超级计算天津中心）；Lancaster University（兰卡斯特大学）
对工业设备或计算机系统的网络或物理攻击可能造成巨大损失。因此，基于监测数据，特别是多变量时间序列数据的快速、准确的异常检测具有重要意义。作为MTS数据异常检测的关键步骤，不同变量之间的关系学习已经被许多方法所探索。然而，现有的方法大多没有考虑变量之间的异质性，即不同类型的变量（连续数值变量，离散分类变量或混合变量）可能具有不同的和独特的边缘分布。本文提出了一种基于异构特征网络（HFN）的MTS半监督异常检测框架，从大量未标记的时间序列数据中学习异构结构信息以提高异常检测的准确性，并利用注意力系数对检测到的异常进行解释。具体而言，首先将传感器嵌入生成的嵌入相似度子图与传感器值生成的特征值相似度子图相结合，构建时间序列异构图，充分利用变量间丰富的异构互信息。然后，预测模型包含节点和信道的关注度进行联合优化，以获得更好的时间序列表示。该方法融合了异构图结构学习（HGSL）和表示学习的最新技术。在实际应用中的4个传感器数据集上的实验表明，该方法比基线方法更准确地检测到异常，从而为异常的快速定位提供了基础。
2022-11-02 cs.AI cs.CR cs.LG
TMoE-P: Towards the Pareto Optimum for Multivariate Soft Sensors
Zhejiang University（浙江大学）；College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院）
多变量软测量寻求使用可测量的过程变量来精确估计多个质量变量，这已经成为提高工业制造质量的关键因素。目前的进展停留在多任务网络架构的一些直接应用上;然而，这些方法仍有两个基本问题有待研究：（1）负转移，其中尽管不同目标的区别表示不同，但共享表示会降低性能;（2）跷跷板现象，其中优化器以牺牲其他目标为代价专注于一个主要但简单的目标。在这项研究中，我们将多变量软测量重新表述为多目标问题，以解决这两个问题并提高最先进的性能。为了处理负迁移问题，我们首先提出了一个基于目标感知的混合专家（OMoE）模块，利用目标特定和目标共享的专家进行参数共享，同时保持目标之间的区别。为了解决这种跷跷板现象，我们提出了一个Pareto目标路由（POR）模块，动态调整学习目标的权重，以达到Pareto最优，有坚实的理论支持。我们进一步提出了一个任务感知的混合专家框架，用于实现多变量软测量中的帕累托最优（TMoE-P），该框架由堆叠的OMoE模块和POR模块组成。我们用一个开放的软测量基准测试说明了TMoE-P的有效性，其中TMoE-P有效地消除了负迁移和跷跷板问题，并优于基线模型。
2023-02-21 cs.AI stat.AP
PhaseNet++: Phase-Aware Frequency-Domain Anomaly Detection for Industrial Control Systems via Phase Coherence Graphs
Department of CSE IIITDM Kancheepuram Chennai, India（计算机科学与工程系IIITDM坎切浦拉姆钦奈印度）
本文提出PhaseNet++，通过相位一致性图网络在频域中检测工业控制系统异常，利用相位信息提升检测性能，实验表明其在SWaT基准测试中取得高F1分数和ROC-AUC值。
2026-04-30 cs.AI cs.LG
Variational Kolmogorov-Arnold Network
NEC Laboratories Europe（NEC欧洲实验室）
变分科拉莫戈罗夫-阿诺尔德网络通过学习基础函数数量消除手动指定的限制，提升模型性能。
2026-05-07 cs.LG
An Explainable GNN Framework for Component-Level Anomaly Diagnosis
该研究提出一种可解释GNN框架，将异常诊断视角从传感器级转向组件级，通过识别传感器间相互作用改变来定位故障组件，实验验证了其有效性。
2026-09-15 cs.AI
Multivariate Industrial Time Series with Cyber-Attack Simulation: Fault Detection Using an LSTM-based Predictive Data Model
Kaspersky Lab（卡巴斯基实验室）
采用基于LSTM神经网络的方法对工业多变量时间序列数据进行故障监测和检测。为了验证这种方法，我们创建了一个Modelica模型的一部分，一个真正的瓦斯油工厂。通过将hack引入Modelica模型的逻辑，我们能够生成工厂中故障行为的根源和原因。有了一个带有标记错误的自一致数据集，我们使用了一个带有预测错误阈值的LSTM架构来获得精度和召回率质量指标。被认为是阈值水平上的质量度量的依赖性。一个适当的机制，如“一个手柄”被引入过滤故障，是在工厂运营商的领域感兴趣。
2016-12-26 cs.LG stat.ML
Towards Resource-Efficient Federated Learning in Industrial IoT for Multivariate Time Series Analysis
针对工业物联网多元时间序列分析，提出一种联邦学习框架下的服务器端压缩剪枝方法，实现高压缩率（>99.7%）且性能损失极小（<1.18%），兼顾隐私与资源效率。
2024-11-06 cs.AI cs.LG eess.SP
Federated Learning for Multivariate Time Series Anomaly Detection in Industrial Automation
Josef Ressel Centre for Intelligent and Secure Industrial Automation（乔塞夫·雷斯尔智能与安全工业自动化中心）；Salzburg University of Applied Sciences（萨尔茨堡应用科学大学）；Department of Artificial Intelligence and Human Interfaces（人工智能与人机接口部门）；Paris Lodron University of Salzburg（萨尔茨堡巴黎洛登大学）
本文针对联邦学习范式下多变量时间序列异常检测的数据集挑战，引入一个具有循环动态特性的数据集，并评估了多种MTSAD方法。
2026-05-26 cs.LG
Kolmogorov Arnold Networks and Multi-Layer Perceptrons: A Paradigm Shift in Neural Modelling
School of Computer Science and Engineering（计算机科学与工程学院）；KLE Technological University（KLE技术大学）；Engineering（工程）
KAN在非线性函数逼近、时间序列预测和多变量分类任务中，以更低的计算成本实现更高的预测精度，为神经网络建模提供了新的范式。
2026-01-15 cs.LG
SigKAN: Signature-Weighted Kolmogorov-Arnold Networks for Time Series
CREST-ENSAE, Institut Polytechnique de Paris（巴黎理工大学CREST-ENSAE）；DRM, Université Paris Dauphine - PSL（巴黎第九大学-PSL大学DRM）
本研究提出SigKAN模型，通过可学习路径签名对KAN输出加权以捕捉路径几何特征，实现时序数据的灵活表示，在多类函数逼近任务中性能优于传统方法，为时间序列相关任务性能提升提供新思路。
2024-12-09 cs.LG
Hierarchical Deep Recurrent Neural Network based Method for Fault Detection and Diagnosis
University of Waterloo（滑铁卢大学）
提出了一种基于深度神经网络（DNN）的工业设备故障检测和分类算法。该算法具有故障分类的能力，特别是早期故障，难以检测和诊断与传统的阈值为基础的统计方法或传统的人工神经网络（ANN）。该算法是基于一个监督深度递归自动编码器神经网络（监督DRAE-NN），使用动态信息的过程中沿时间范围。基于该网络的层次结构，制定了分组故障的基础上，它们的相似性到故障的检测和诊断的子集。此外，一个外部的伪随机二进制信号（PRBS）的设计和注入到系统中，以识别早期故障。基于层次结构的策略提高了早期和非早期故障的检测和分类精度显着。所提出的方法进行测试的基准田纳西伊士曼过程中的显着改善分类相比，多变量线性模型为基础的战略和非层次非线性模型为基础的战略。
2020-12-07 cs.AI cs.LG
Predicting machine failures from multivariate time series: an industrial case study
Politecnico di Milano（米兰理工大学）
本研究通过工业案例，评估读取窗口和预测窗口大小对六种机器学习与深度学习模型在多元时间序列故障预测中的影响，发现预测窗口维度关键，DL擅长多样模式，ML擅长重复模式。
2024-02-27 cs.LG
KAN-Matrix: Visualizing Nonlinear Pairwise and Multivariate Contributions for Physical Insight
University of Texas, El Paso（得克萨斯大学埃尔帕索分校）；The University of Arizona（亚利桑那大学）
KAN-Matrix通过非线性成对和多变量贡献可视化，提升复杂数据集的可解释性和物理洞察力。
2025-12-12 cs.LG physics.app-ph physics.data-an
GSLAD: Prototype-Regularized Graph Structure Learning for Multivariate Time Series Anomaly Detection
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
GSLAD通过原型正则化图结构学习，利用结构偏差进行异常评分，在工业基准上验证了其有效性和诊断能力。
2026-09-15 cs.LG
Autoencoder based Anomaly Detection and Explained Fault Localization in Industrial Cooling Systems
Vienna University of Technology（维也纳工业大学）；Austrian Institute of Technology（奥地利技术研究所）；Hauser（豪瑟）；Siemens Technology（西门子科技）
由于数据维数高、传感器记录不一致以及缺乏标签，大型工业冷却系统中的异常检测非常具有挑战性。这些系统中的自动异常检测的现有技术通常依赖于专家知识和阈值。然而，数据被视为孤立和复杂的，多变量关系被忽视。在这项工作中，我们提出了一个基于自动编码器的端到端的工作流程，适用于大型工业冷却系统中的多变量时间序列数据的异常检测，包括解释故障定位和基于专家知识的根本原因分析。我们使用总重建误差（包括所有传感器信号的自动编码器重建误差）的阈值来识别系统故障。对于故障定位，我们计算单个重建误差（每个传感器信号的自动编码器重建误差），使我们能够识别对总重建误差贡献最大的信号。通过查找表提供专家知识，从而能够对受影响的子系统进行根本原因分析和分配。我们在一个冷却系统单元中展示了我们的发现，该单元包括34个传感器，使用4重交叉验证方法，并根据领域专家提供的阈值自动创建标签。使用4重交叉验证，我们的F1分数为0.56，而自动编码器结果显示出比自动创建的标签（CS为0.62）更高的一致性分数（CS为0.92）--这表明异常是以非常稳定的方式识别的。主要异常由自动编码器发现，并自动创建标签，并记录在日志文件中。此外，所解释的故障定位以非常一致的方式突出了主要异常的最受影响的组件。
2022-10-14 cs.AI cs.LG
CAAD: Causality-Aware Multivariate Time Series Anomaly Detection via Multi-Scale Alignment and Structural Causal Consistency
Stony Brook University（纽约州立大学石溪分校）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；Yale University（耶鲁大学）；Queen Mary University of London（伦敦大学玛丽皇后学院）
针对复杂工业系统异常检测中常忽略内部因果关系的问题，提出CAAD框架，通过外生变量持续验证格兰杰因果一致性，利用多尺度对齐和梯度矩阵监测因果关系，在真实工业数据集实验中实现高精度异常检测，优于多数基线方法。
2026-07-10 cs.LG
MA-VAE: Multi-head Attention-based Variational Autoencoder Approach for Anomaly Detection in Multivariate Time-series Applied to Automotive Endurance Powertrain Testing
Mercedes-Benz AG（梅赛德斯-奔驰股份公司）；Leiden University（莱顿大学）
本文提出基于多头注意力的变分自编码器MA-VAE，用于汽车动力总成测试的多变量时间序列异常检测，在无标签数据上训练即可实现低假阳性率并检测多数异常，同时解决旁路现象并实现窗口到连续时间序列的映射。
2024-09-19 cs.AI cs.LG cs.SY
Parallel Spatio-Temporal Attention-Based TCN for Multivariate Time Series Prediction
Hangzhou Dianzi University（杭州电子科技大学）
随着工业系统变得越来越复杂，从监控到我们的健康的所有监测传感器变得越来越普遍，多变量时间序列预测在我们社会的平稳运行中占据重要地位。具有注意力的递归神经网络有助于扩展预测窗口，这是这项任务的最新技术。然而，我们认为它们的消失梯度，短记忆和串行架构使RNN从根本上不适合复杂数据的长期预测。时间卷积网络（TCN）不受梯度问题的影响，并且支持并行计算，使其成为更合适的选择。此外，它们比RNN具有更长的记忆，尽管存在一些不稳定性和效率问题。因此，我们提出了一个框架，称为PSTA-TCN，它结合了一个并行的时空注意力机制，以提取动态的内部相关性与堆叠TCN骨干提取功能，从不同的窗口大小。该框架充分利用并行计算，大大减少了训练时间，同时大幅提高了准确性，稳定的预测窗口比现状长13倍。
2022-03-02 cs.AI cs.LG
ChronoGraph: A Real-World Graph-Based Multivariate Time Series Dataset
Bitdefender；University of Bucharest（布加勒斯特大学）；University of Stuttgart（斯图加特大学）；International Max Planck Research School for Intelligent Systems（智能系统国际马克斯·普朗克研究学校）
ChronoGraph是一个基于图的多变量时间序列数据集，用于研究微服务系统中的结构感知预测和事件感知评估。
2025-11-27 cs.AI cs.LG
Hierarchical Joint Graph Learning and Multivariate Time Series Forecasting
Hanyang University（汉阳大学）
本文提出将多元时间序列建模为图节点，结合图神经网络、注意力机制和层次化信号分解捕获多种时空依赖，在多个长期预测基准上相比现有模型平均降低23%的MSE。
2023-11-30 cs.LG
Periodic Graph-Enhanced Multivariate Time Series Anomaly Detector
College of Computer and Information Science（计算机与信息科学学院）；Southwest University（西南大学）
本文提出周期图增强的多变量时间序列异常检测器PGMA，通过FFT周期时隙分配构建动态图结构，并结合图神经网络与时间扩展卷积提取时空相关性，在四个真实数据集上取得优于现有模型的检测性能。
2025-09-22 cs.LG
Symbolic--KAN: Kolmogorov-Arnold Networks with Discrete Symbolic Structure for Interpretable Learning
Energy \& Intelligence Lab, Department of Chemical Engineering, University of Utah, Salt Lake City, Utah, 84112, USA；Department of Mechanical Engineering, University of Utah, Salt Lake City, Utah, 84112, USA；Imaging Institute, University of Utah, Salt Lake City, Utah, 84112, USA；Department of Biomedical Engineering, University of Utah, Salt Lake City, Utah, 84112, USA；Department of Mechanical Engineering, School of Engineering, Urmia University of Technology, Urmia, Iran
本文提出Symbolic-KAN，通过在可训练深度网络中嵌入离散符号结构，解决可解释性与可扩展学习之间的平衡问题，实现紧凑的闭式表达和可扩展的原始发现机制。
2026-03-25 cs.CE cs.LG math.AP
Multivariate Time Series Anomaly Detection via Dual-Branch Reconstruction and Autoregressive Flow-based Residual Density Estimation
Zhejiang University（浙江大学）；Zhejiang Sci-Tech University（浙江理工大学）
本文提出DBR-AF框架，通过双分支重建和自回归流模块解决多变量时间序列异常检测中的过拟合和误判问题，实验表明其在多个基准数据集上表现优异。
2026-03-29 cs.AI cs.LG
Attention Mechanism for Multivariate Time Series Recurrent Model Interpretability Applied to the Ironmaking Industry
Paul Wurth S.A.（保尔沃斯公司）；UFR Sciences et Technologie（科学与技术学院）；DataThings S.A.R.L.（DataThings有限责任公司）；Université de La Rochelle（拉罗谢尔大学）
数据驱动模型的可解释性是获得过程工程师认可的要求，以依赖数据驱动模型的预测来调节炼铁工业中的工业过程。在本文提出的研究中，我们专注于开发一个可解释的多变量时间序列预测深度学习架构，用于高炉生产的铁水温度。提出了一种基于长短期记忆（LSTM）的架构，该架构通过注意力机制和引导反向传播来增强，以适应每个输入的局部时间可解释性的预测。结果显示，这种架构应用于高炉数据的潜力很大，并提供了可解释性，正确反映了固有高炉工艺所决定的真实复杂变量关系，并且与基于递归的深度学习架构相比，预测误差更小。
2020-07-15 cs.LG
Gated Transformer Networks for Multivariate Time Series Classification
Zhengzhou University（郑州大学）；Statistical information center of Henan health commission（河南省卫生健康委员会统计信息中心）；Facebook AI（脸书人工智能研究院）
用于时间序列分类的深度学习模型（主要是卷积网络和LSTM）已被社区广泛研究，并在医疗保健，金融，工业工程和物联网等不同领域得到广泛应用。与此同时，Transformer Networks最近在各种自然语言处理和计算机视觉任务上取得了前沿性能。在这项工作中，我们探索了一个简单的扩展，目前的Transformer网络与门控，命名为门控Transformer网络（GTN）的多变量时间序列分类问题。通过合并Transformer的两个塔的门控，它们分别对通道和逐步相关性进行建模，我们展示了GTN如何自然有效地适用于多变量时间序列分类任务。我们对13个数据集进行了全面的实验，并进行了全面的消融研究。我们的研究结果表明，GTN能够实现与当前最先进的深度学习模型竞争的结果。我们还探讨了注意力地图的自然解释GTN的时间序列建模。我们的初步研究结果为Transformer网络在多变量时间序列分类任务上提供了一个强有力的基线，并为未来的研究奠定了基础。
2021-03-26 cs.LG
Multi-scale Anomaly Detection for Big Time Series of Industrial Sensors
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
给定一个多变量的大时间序列，我们能在异常发生时立即检测出来吗？许多现有的作品检测异常，学习多少时间序列偏离它应该是在重建框架。然而，大多数模型必须将大的时间序列分割成小的片段，因为优化算法无法承受如此长的序列。问题是：这样的削减污染固有的语义段，如句子中不正确的标点符号？因此，我们提出了一种基于重构的异常检测方法MissGAN，迭代学习解码和编码自然平滑的时间序列在粗段，并找出一个更精细的段从低维表示的基础上HMM。因此，通过从多尺度段中学习，MissGAN可以在对抗性正则化和额外条件状态的帮助下重建一个有意义和鲁棒的时间序列。MissGAN不需要标签或只需要普通实例的标签，适用范围广。在真实水网传感器的工业数据集上的实验表明，我们的MissGAN在可扩展性方面优于基线。此外，我们使用CMU Motion数据集上的案例研究来证明我们的模型可以很好地区分意外的手势和给定的条件运动。
2022-04-18 cs.AI cs.LG
Multivariate Time-series Anomaly Detection via Graph Attention Network
Microsoft（微软）；Peking University（北京大学）
多元时间序列的异常检测在数据采掘研究和工业应用中具有重要意义。最近的方法在这一主题上取得了重大进展，但仍然存在局限性。一个主要的限制是，它们没有明确地捕捉不同时间序列之间的关系，导致不可避免的误报。在本文中，我们提出了一种新的自监督框架的多元时间序列异常检测来解决这个问题。我们的框架将每个单变量时间序列视为一个单独的特征，并包括两个并行的图形注意力层，以学习多变量时间序列在时间和特征维度上的复杂依赖关系。此外，我们的方法联合优化基于预测的模型和基于构造的模型，通过单时间戳预测和整个时间序列的重构相结合，获得更好的时间序列表示。我们通过大量的实验证明了我们的模型的有效性。所提出的方法优于其他国家的最先进的模型在三个真实世界的数据集。进一步的分析表明，我们的方法具有良好的解释性，是有用的异常诊断。
2020-09-04 cs.LG stat.ML
LAVARNET: Neural Network Modeling of Causal Variable Relationships for Multivariate Time Series Forecasting
Information Technologies Institute, Centre of Research and Technology Hellas（希腊研究与技术中心信息技术研究所）
多变量时间序列预测在许多科学学科和工业部门中具有重要意义。多变量时间序列的演化取决于其变量的动态和它们之间因果关系的连接网络。大多数现有的时间序列模型不考虑系统变量之间的因果关系，即使他们这样做，他们只是依赖于确定变量之间的因果关系网络。了解这样一个复杂网络的结构，甚至更具体地说，了解对底层过程有贡献的确切滞后变量，对于多变量时间序列预测任务至关重要。后者是一个相当未开发的信息来源。在这个方向上，这里提出了一种新的基于神经网络的架构，称为滞后变量表示网络（LAVARNET），它本质上估计滞后变量的重要性，并结合高维潜在的表示，他们预测未来的时间序列值。我们的模型与其他基线和最先进的神经网络架构的一个模拟数据集和四个真实的数据集，从气象，音乐，太阳活动和金融领域进行了比较。在大多数的实验中，所提出的架构优于竞争对手的架构。
2020-09-02 cs.LG cs.NE stat.ML
ChemTime: Rapid and Early Classification for Multivariate Time Series Classification of Chemical Sensors
Worcester Polytechnic Institute（伍斯特理工学院）；U.S. Army DEVCOM Soldier Center（美国陆军DEVCOM士兵中心）
针对化学电阻传感器阵列的化学检测需求，该研究调研相关分类方法，提出新型ChemTime多变量时间序列分类方法，在保证轻量设备性能的同时实现快速早期分类与高精度。
2023-12-15 cs.LG q-bio.QM
Graph Spatiotemporal Process for Multivariate Time Series Anomaly Detection with Missing Values
La Trobe University（乐卓博大学）；Monash University（莫纳什大学）；Zhejiang University（浙江大学）；Griffith University（格里菲斯大学）
本文提出GST-Pro框架，通过神经受控微分方程构建图时空过程，并结合基于分布的异常评分机制，有效解决含缺失值的不规则采样多元时间序列异常检测问题，性能优于现有方法。
2024-01-11 cs.AI cs.LG
Drift-Aware Online Dynamic Learning for Nonstationary Multivariate Time Series: Application to Sintering Quality Prediction
National Frontiers Science Center for Industrial Intelligence and Systems Optimization, Northeastern University（东北大学工业智能与系统优化国家级前沿科学中心）；De Montfort University（德蒙福特大学）；Innovative Artificial Intelligence Cluster, Digital Future Institute, De Montfort University（德蒙福特大学数字未来研究所创新人工智能集群）；Key Laboratory of Data Analytics and Optimization for Smart Industry (Northeastern University), Ministry of Education（东北大学智能工业数据解析与优化教育部重点实验室）
本文提出DA-MSDL框架，通过在线自适应机制在非平稳数据流中保持鲁棒的多输出预测性能，利用多尺度双分支卷积网络分离局部波动与长期趋势，并通过最大均值差异检测漂移，实现快速分布对齐和灾难性遗忘缓解。
2026-04-10 cs.LG cs.NE
TeVAE: A Variational Autoencoder Approach for Discrete Online Anomaly Detection in Variable-state Multivariate Time-series Data
Mercedes-Benz AG（梅赛德斯-奔驰集团）；Leiden University（莱顿大学）
针对汽车测试中人工评估受限、真实多变量时间序列数据复杂的问题，提出TeVAE模型，能基于无标签数据低误报检测异常、避免绕过现象、支持窗口重映射，在工业数据集上实现6%误报率与65%异常检出率，且小数据集适用但需复杂阈值估计。
2025-11-12 cs.AI cs.CE cs.LG
Prospective Multi-Graph Cohesion for Multivariate Time Series Anomaly Detection
University of Waterloo（滑铁卢大学）
本文提出前瞻性多图凝聚框架PMGC，通过融合长期静态图与短期动态图并引入前瞻性构图策略，提升多变量时间序列异常检测性能。
2025-09-21 cs.LG
TranAD: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data
Imperial College London（帝国理工学院）；Loughborough University（拉夫堡大学）
多变量时间序列数据的有效异常检测与诊断对于现代工业应用具有重要意义。然而，建立一个能够快速准确地查明异常观测的系统是一个具有挑战性的问题。这是由于缺乏异常标签，高数据波动性和现代应用中超低推理时间的需求。尽管用于异常检测的深度学习方法最近有所发展，但只有少数方法可以解决所有这些挑战。在本文中，我们提出了TranAD，一个基于深度Transformer网络的异常检测和诊断模型，该模型使用基于注意力的序列编码器，利用数据中更广泛的时间趋势知识快速进行推理。TranAD使用基于焦点分数的自调节来实现鲁棒的多模态特征提取和对抗训练以获得稳定性。此外，与模型无关的元学习（MAML）允许我们使用有限的数据训练模型。对六个公开数据集的广泛实证研究表明，TranAD可以通过数据和时间有效的训练在检测和诊断性能方面优于最先进的基线方法。具体而言，与基线相比，TranAD将F1分数提高了17%，将训练时间减少了99%。
2022-05-14 cs.LG
MTS-CycleGAN: An Adversarial-based Deep Mapping Learning Network for Multivariate Time Series Domain Adaptation Applied to the Ironmaking Industry
Paul Wurth S.A.（保尔沃斯公司）
在当前时代，越来越多的机器学习模型被生成用于工业过程的自动化。为此，使用每个单个资产的历史数据来训练机器学习模型，从而导致基于资产的模型的开发。为了将机器学习模型提升到更高的学习能力水平，领域自适应为从组合在一起的多个资产中提取相关模式打开了大门。在这项研究中，我们专注于将特定的基于资产的历史数据（源域）转换为对应于一个参考资产（目标域）的数据，从而创建训练域不变通用机器学习模型所需的多资产全局数据集。本研究旨在将领域自适应应用于炼铁工业，特别是通过收集来自不同高炉的数据来创建领域不变数据集。高炉数据具有多变量时间序列的特征。多元时间序列数据的领域自适应在文献中尚未得到广泛的研究。我们提出了MTS-CycleGAN，基于CycleGAN的多变量时间序列数据的算法。据我们所知，这是CycleGAN首次应用于多变量时间序列数据。我们的贡献是在CycleGAN架构中集成了一个基于长短期记忆（LSTM）的自动编码器（AE），用于生成器和一个堆叠的基于LSTM的编码器，以及专用的扩展特征提取机制。MTS-CycleGAN使用两个人工数据集进行验证，嵌入反映高炉过程的变量之间的复杂时间关系。MTS-CycleGAN成功地学习了两个人工多变量时间序列数据集之间的映射，允许从源数据集到目标人工高炉数据集的有效转换。
2020-07-15 cs.LG stat.ML
Leveraging a Probabilistic PCA Model to Understand the Multivariate Statistical Network Monitoring Framework for Network Security Anomaly Detection
Universidad de Granada（格拉纳达大学）
网络异常检测是当今一个非常相关的研究领域，特别是由于其在网络安全领域的多种应用。基于变分自编码器和生成式对抗网络的新模型的推动促使人们重新评估传统的异常检测技术。然而，必须能够从多年评估网络安全数据以进行异常检测的经验的角度来理解这些新模型。在本文中，我们重新审视基于PCA的异常检测技术从概率生成模型的角度来看，并贡献一个数学模型，将它们联系起来。具体来说，我们从概率PCA模型开始，并解释其与多元统计网络监测（MSNM）框架的联系。MSNM最近被成功地提出作为将工业过程异常检测经验纳入网络领域的一种手段。我们使用两个不同的数据集来评估数学模型。第一个是为了更好地理解所提出的分析而创建的合成数据集，第二个是UGR'16，是专门设计的用于网络安全异常检测的真实流量数据集。我们得出的结论，我们认为是有用的生成模型应用于网络安全检测。
2023-02-02 cs.LG stat.ML
CGSTA: Cross-Scale Graph Contrast with Stability-Aware Alignment for Multivariate Time-Series Anomaly Detection
Dalian Maritime University（大连海事大学）；Harbin Engineering University（哈尔滨工程大学）
CGSTA通过跨尺度图对比与稳定性感知对齐，提升多变量时间序列异常检测的鲁棒性和准确性。
2026-02-24 cs.LG
D-CTNet: A Dual-Branch Channel-Temporal Forecasting Network with Frequency-Domain Correction
D-CTNet通过双分支结构和频域校正机制，提升多变量时间序列预测的准确性和鲁棒性。
2025-11-30 cs.LG
MLP, XGBoost, KAN, TDNN, and LSTM-GRU Hybrid RNN with Attention for SPX and NDX European Call Option Pricing
Columbia University（哥伦比亚大学）；Recognition Technologies, Inc.（识别技术公司）
本研究探讨了多种神经网络架构及XGBoost在SPX和NDX欧式看涨期权定价中的表现，发现带注意力机制的LSTM-GRU混合RNN模型优于BS基准及其他模型。
2024-10-14 cs.CE cs.LG q-fin.CP
DTAAD: Dual Tcn-Attention Networks for Anomaly Detection in Multivariate Time Series Data
本文提出DTAAD模型，将自回归模型与自编码器结合，并采用双TCN-注意力网络，在多变量时间序列异常检测与诊断中以超轻量结构显著提升F1分数并大幅缩短训练时间。
2024-04-29 cs.LG
Regression with Deep Learning for Sensor Performance Optimization
Boise State University（博伊西州立大学）；ON Semiconductor（安森美半导体）
具有至少两个隐藏层的神经网络称为深度网络。人工智能和计算机编程的最新发展导致了Tensorflow，Keras，NumPy等工具的开发，使建模和从数据中得出结论变得更容易。在这项工作中，我们通过Keras和Tensorflow实现的深度学习重新处理非线性回归。特别是，我们使用深度学习来参数化工业传感器的输入和输出之间的非线性多变量关系，旨在基于选定的关键指标优化传感器性能。
2021-03-27 cs.LG eess.SP stat.ML
An empirical evaluation of attention-based multi-head models for improved turbofan engine remaining useful life prediction
Zhejiang University（浙江大学）；Tianjin Jinhang Technical Physics Institute（天津津航技术物理研究所）；Complex System Control and Intelligent Agent Cooperative Laboratory（复杂系统控制与智能体协同实验室）
单个单元（头部）是在多变量时间序列信号上训练的深度学习架构中的常规输入特征提取器。由单头网络生成的固定维矢量表示对于工业机械状态监测和预测性维护的重要性已经被证明。然而，用单头处理异质传感器信号可能导致不能明确地说明时变多变量输入的多样性的模型。这项工作将传统的单头深度学习模型扩展到更强大的形式，通过开发特定于上下文的头来独立捕获每个传感器读数中的固有模式。使用涡扇发动机基准数据集（CMAPSS），进行了大量的实验，以验证多头多层感知器、递归网络、卷积网络、变压器式独立注意力网络及其变体在剩余使用寿命估计中的有效性和优势。此外，不同的注意力机制对多头模型的影响也进行了评估。此外，还分析了每种体系结构的相对优势和计算开销。结果表明，利用注意力层是任务敏感和模型相关的，因为它没有提供一致的改善跨模型的研究。最好的模型进一步与五个国家的最先进的模型进行了比较，比较表明，一个相对简单的多头架构比国家的最先进的模型表现更好。在这项研究中提出的结果表明多头模型和注意力机制的重要性，以提高对工业资产的剩余使用寿命的理解。
2021-09-17 cs.LG
Interdependency Matters: Graph Alignment for Multivariate Time Series Anomaly Detection
Beijing University of Posts and Telecommunications（北京邮电大学）；Huawei Translation Services Center（华为翻译中心）
本文提出MADGA框架，将多变量时间序列异常检测重新定义为图对齐问题，通过动态将子序列转换为图并利用Wasserstein和Gromov-Wasserstein距离显式对齐节点与边，有效捕获相互依赖性变化，在多数据集上达到SOTA。
2024-10-11 cs.DB cs.IR cs.LG
DyEdgeGAT: Dynamic Edge via Graph Attention for Early Fault Detection in IIoT Systems
EPFL（洛桑联邦理工学院）
针对工业物联网中传感器信号关系演变被忽视及新工况误报问题，提出DyEdgeGAT，通过动态边图注意力跟踪关系演变并融入工况上下文，在合成和真实基准上显著提升早期低严重度故障检测性能。
2024-01-25 cs.AI cs.LG
