DeepVARMA: A Hybrid Deep Learning and VARMA Model for Chemical Industry Index Forecasting
Central University of Finance and Economics(中央财经大学)
本文提出结合LSTM和VARMAX的混合模型DeepVARMA及其变体,通过深度学习去趋势并预测多变量非平稳化工指数,实验证明其在非平稳序列预测中比传统模型及机器学习方法更准确、鲁棒。
2024-04-26 cs.LG stat.CO stat.ME
Multi-future Merchant Transaction Prediction
Visa Research(维萨研究院)
从商家交易历史生成的多变量时间序列可以为支付处理公司提供关键的见解。预测商家未来的能力对于欺诈检测和推荐系统至关重要。传统上,这个问题是制定预测一个多变量的时间序列下的多地平线设置。然而,现实世界的应用往往需要一个以上的未来趋势预测考虑的不确定性,其中多个多变量的时间序列需要预测。这个问题被称为多未来预测。本文将这两个研究方向结合起来,提出了研究多未来、多时域、多变量时间序列预测这一新问题。这个问题是至关重要的,因为它在金融行业有广泛的用例,可以通过提供替代未来来降低风险,同时改善用户体验。这个问题也很有挑战性,因为现在我们不仅需要捕捉过去的模式和见解,还需要训练一个具有强大推理能力的模型,以预测多种可能的结果。为了解决这个问题,我们提出了一个新的模型,使用卷积神经网络和一个简单而有效的编码器-解码器结构,从多个角度学习的时间序列模式。我们使用真实世界的商人交易数据的实验来证明我们提出的模型的有效性。我们还在实验部分对不同的模型设计选择进行了广泛的讨论。
2020-07-10 cs.AI cs.LG stat.ML
Attention Mechanism for Multivariate Time Series Recurrent Model Interpretability Applied to the Ironmaking Industry
Paul Wurth S.A.(保尔沃斯公司);UFR Sciences et Technologie(科学与技术学院);DataThings S.A.R.L.(DataThings有限责任公司);Université de La Rochelle(拉罗谢尔大学)
数据驱动模型的可解释性是获得过程工程师认可的要求,以依赖数据驱动模型的预测来调节炼铁工业中的工业过程。在本文提出的研究中,我们专注于开发一个可解释的多变量时间序列预测深度学习架构,用于高炉生产的铁水温度。提出了一种基于长短期记忆(LSTM)的架构,该架构通过注意力机制和引导反向传播来增强,以适应每个输入的局部时间可解释性的预测。结果显示,这种架构应用于高炉数据的潜力很大,并提供了可解释性,正确反映了固有高炉工艺所决定的真实复杂变量关系,并且与基于递归的深度学习架构相比,预测误差更小。
2020-07-15 cs.LG
VAE-LIME: Deep Generative Model Based Approach for Local Data-Driven Model Interpretability Applied to the Ironmaking Industry
Paul Wurth S.A.(保尔沃斯公司)
应用于生成数据驱动模型的机器学习缺乏透明度,导致过程工程师对依赖模型预测来优化其工业过程失去信心。使用数据驱动模型将行业流程提升到一定程度的自主性尤其具有挑战性,因为这些模型的第一个用户通常是拥有数十年经验的流程专家。有必要向过程工程师展示,不仅是模型预测,而且还有它们的可解释性。为此,文献中提出了几种方法。局部可解释模型不可知解释(LIME)方法最近引起了研究界的极大兴趣。该方法的原理是通过在局部随机生成人工数据点来训练一个局部逼近黑盒模型的线性模型。最近出现了基于LIME的模型不可知局部可解释性解决方案,以改进原始方法。在本文中,我们提出了一种新的方法,VAE-LIME,本地可解释的数据驱动模型预测的高炉生产的铁水温度。这样的炼铁过程数据的特征在于具有高度相关性的多变量时间序列,其代表高炉中的潜在过程。我们的贡献是使用变分自编码器(VAE)从数据中学习复杂的高炉过程特性。VAE旨在生成最佳人工样本以训练局部可解释模型,该局部可解释模型在由黑盒模型处理的输入样本的邻域中更好地表示黑盒模型以进行预测。与LIME相比,VAE-LIME显示出显着改善的局部可解释线性模型的局部保真度与黑盒模型,从而产生鲁棒的模型可解释性。
2020-07-15 cs.AI cs.LG stat.ML
The GNAR-edge model: A network autoregressive model for networks with time-varying edge weights
本文提出GNAR-edge模型,对边权随时间变化的行业交易网络进行多元时间序列建模,并通过模拟和真实数据验证其拟合与预测能力。
2023-09-26 stat.AP stat.ME
Multivariate Time Series Anomaly Detection in Industry 5.0
University of Ferrara(费拉拉大学);Bonfiglioli S.P.A.(邦菲利奥利股份公司)
针对工业5.0环境下多变量时间序列异常检测面临的海量数据、噪声及标签问题,提出结合嵌入模型与机器学习的框架,在真实工厂数据下验证其抗噪性能优于传统自编码器。
2025-03-20 cs.LG
Nearest Neighbor Multivariate Time Series Forecasting
Department of Electrical and Computer Engineering, McGill University(电气与计算机工程系,麦吉尔大学);Department of Civil Engineering, McGill University(土木工程系,麦吉尔大学);Peking University(北京大学)
针对STGNN受限于有限输入且难以检索全局长程稀疏相似模式的问题,本文提出免训练、可扩展的kNN-MTS最近邻检索框架及HSTEncoder,在多个真实数据集上显著提升预测性能、可解释性与效率。
2025-05-16 cs.AI cs.LG stat.ML
Multivariate Time Series Anomaly Detection: Fancy Algorithms and Flawed Evaluation Methodology
Huawei Paris Reasearch Center(华为巴黎研究中心)
本文指出多元时间序列异常检测领域评估方法存在严重缺陷,尤其是点调整协议使随机猜测也能胜出,并提出基于PCA的简单基线在多个基准数据集上超越许多近期深度学习方法,呼吁重视数据、实验设计和评估方法而非一味追求复杂算法。
2023-11-01 cs.AI cs.LG cs.PF
TimeDRL: Disentangled Representation Learning for Multivariate Time-Series
National Yang Ming Chiao Tung University(国立阳明交通大学)
提出TimeDRL框架,通过解耦双层级嵌入和预测-对比任务学习多元时间序列表示,避免增强方法消除归纳偏置,在预测和分类任务上显著优于现有方法。
2024-07-17 cs.AI cs.LG
Practical Skills Demand Forecasting via Representation Learning of Temporal Dynamics
IBM Research(IBM研究院);Princeton University(普林斯顿大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
快速的技术创新有可能将全球大部分劳动力抛在后面。当今的经济将对熟练劳动力的白热化需求与对数字经济毫无准备的工人的就业前景停滞不前相提并论。对每个国家来说,这都是一个危险和机遇并存的时刻,其结果将以长期资本配置和数十亿工人的生活满意度来衡量。为了迎接这一时刻,政府和市场必须找到方法,加快技能供应对需求变化的反应速度。更全面、更快速地了解劳动力市场情报是一条途径。在这项工作中,我们探讨了时间序列预测的效用,以提高从在线招聘广告收集的技能需求数据的价值。本文提出了一个管道,使一次性多步预测到未来使用十年的每月技能需求的观察的基础上,一组递归神经网络方法。我们比较了多变量模型与单变量模型的性能,分析了技能之间的相关性如何影响多变量模型的结果,并提出了对信息技术行业工人所实践的技能的需求预测。
2022-05-18 cs.CY cs.LG econ.GN
Industrial-Grade Time-Dependent Counterfactual Root Cause Analysis through the Unanticipated Point of Incipient Failure: a Proof of Concept
Alstom(阿尔斯通公司);Universitat de Barcelona(巴塞罗那大学)
本文提出一种工业多变量时间序列的反事实根因分析方法,聚焦初期故障点以在问题传播前定位根因,并通过模拟实验验证,探讨了提升因果技术鲁棒性的改进方向。
2024-07-10 cs.AI cs.LG stat.ME
Dynamic dependence networks: Financial time series forecasting and portfolio decisions (with discussion)
我们讨论贝叶斯预测越来越高维时间序列,随机动态模型在金融业和相关领域的业务应用的一个关键领域。新的状态空间模型表征多个时间序列之间的稀疏模式的依赖性扩展现有的多元波动模型,使缩放到更高数量的个人时间序列。这些“动态相关网络”模型的理论表明,如何将单个系列“解耦”用于序列分析,然后“重新耦合”用于应用预测和决策分析。解耦允许快速,有效地分析单个单变量模型中的每个系列,这些模型通过稀疏基础图形模型定义的理论多元波动率结构相关联(用于以后的重新耦合)。计算的进步是特别显着的连接与模型的不确定性之间的稀疏模式的系列,定义这个图形模型;贝叶斯模型平均使用折扣的历史信息基本上建立在这个计算的进步。一个广泛的,详细的案例研究展示了这些模型的使用,以及预测和金融组合投资决策的改进是可以实现的。使用一长串每日国际货币、股票指数和商品价格,案例研究包括用各种实用效用函数评估多日预测和贝叶斯投资组合分析,以及与商品交易顾问基准进行比较。
2016-06-27 stat.ME
Optimal uncertainty bounds for multivariate kernel regression under bounded noise: A Gaussian process-based dual function
Institute for Dynamical Systems and Control, ETH Zurich(动态系统与控制研究所,苏黎世联邦理工学院);Department of Electrical Engineering, Chalmers University of Technology(电气工程系,查尔姆斯理工大学);Department of Mechanical Engineering, Imperial College London(机械工程系,伦敦帝国理工学院)
针对有界噪声下再生核希尔伯特空间中的多输出函数,提出一种紧致、确定性的不确定性界,通过无约束对偶公式获得,具有与经典高斯过程置信界相同的结构,便于集成到下游优化中。
2026-07-10 cs.LG cs.SY eess.SY
Anomaly detection using data depth: multivariate case
LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI,巴黎电信学院,巴黎综合理工学院)
本文研究多变量场景下基于数据深度的异常检测方法,探讨了深度函数的不变性、稳健性、计算复杂度及阈值选择等实际问题,通过用例验证了其在不同场景下的优越性能。
2024-07-10 cs.LG stat.AP stat.ML
Water Quality Estimation Through Machine Learning Multivariate Analysis
University of Pisa(比萨大学);ARCHA S.R.L.(ARCHA公司)
本文通过结合紫外-可见光谱与机器学习,提出了一种用于水质评估的多变量分析方法,以实现快速、准确且可解释的水质参数检测。
2025-12-02 cs.LG
Retail Demand Forecasting: A Comparative Study for Multivariate Time Series
Institute of Electrical and Electronics Engineers(电气和电子工程师协会);University of Tennessee Chattanooga(田纳西大学查塔努加分校);University of South Dakota(南达科他大学)
针对现有零售需求预测多忽略宏观经济因素的问题,本研究引入CPI、ICS、失业率等变量构建多变量数据集,对比多种回归与机器学习模型以提升预测精度。
2023-08-23 cs.AI cs.LG q-fin.ST
Coupled Attention Networks for Multivariate Time Series Anomaly Detection
针对多元时间序列中传感器变量依赖动态变化的异常检测难题,提出融合自适应图学习与图注意力的耦合注意力网络CAN,结合多级编解码架构,在真实数据集上性能显著优于现有最优基线。
2023-06-12 cs.LG
Enhancing Startup Success Predictions in Venture Capital: A GraphRAG Augmented Multivariate Time Series Method
The University of Sydney(悉尼大学);Shanghai University of Finance and Economics(上海财经大学)
针对风险投资中初创企业成功预测难、现有时间序列方法未纳入企业间关系的问题,提出GraphRAG增强的多元时间序列方法,整合企业竞争合作关系,预测性能显著优于过往模型。
2025-03-22 cs.CL cs.LG q-fin.CP
A Causal Approach to Detecting Multivariate Time-series Anomalies and Root Causes
Salesforce Research(赛富时研究院);Carnegie Mellon University(卡内基梅隆大学)
检测多变量时间序列中的异常和相应的根本原因在监控各种现实世界系统的行为中起着重要作用,例如,IT系统运营或制造业。以前的异常检测方法对联合分布进行建模,而没有考虑多变量时间序列的潜在机制,这使得它们计算量很大,难以识别根本原因。在本文中,我们制定的异常检测问题,从因果关系的角度来看,并认为异常的情况下,不遵循定期的因果机制,以产生多变量数据。然后,我们提出了一个基于cavity检测异常和根本原因的框架。它首先从数据中学习因果结构,然后推断实例是否是相对于局部因果机制的异常,其条件分布可以直接从数据中估计。根据因果系统的模块化特性(产生不同变量的因果过程是不相关的模块),将原问题分解为一系列独立的、简单的、低维的异常检测问题,从而可以直接识别异常发生的位置(根本原因)。我们评估我们的方法与模拟和公共数据集,以及对现实世界的AIOps应用程序的案例研究,显示其有效性,鲁棒性和实际可行性。
2022-09-29 cs.AI cs.LG
ProtoTSNet: Interpretable Multivariate Time Series Classification With Prototypical Parts
Doctoral School of Exact and Natural Sciences Jagiellonian University(杰洛尼沃大学精确与自然科学博士学校);Faculty of Physics, Astronomy and Applied Computer Science, Institute of Applied Computer Science, and Jagiellonian Human-Centered AI Lab Jagiellonian University(杰洛尼沃大学物理、天文学和应用计算机科学学院,应用计算机科学研究所,杰洛尼沃人本AI实验室)
针对多变量时间序列分类问题,提出ProtoTSNet方法,通过改进ProtoPNet架构,利用分组卷积的卷积编码器克服时间序列分析挑战,在30个数据集上评估,该方法在事前可解释方法中性能最佳,兼具与其他方法的竞争力并提供可解释结果。
2026-07-21 cs.LG
Ensemble neuroevolution based approach for multivariate time series anomaly detection
AGH University of Science and Technology(AGH科技大学)
多变量时间序列异常检测是故障预防领域中一个非常常见的问题。快速预防意味着更低的维修成本和损失。新型工业系统中传感器的数量使得异常检测过程对人类来说非常困难。自动检测异常过程的算法在现代故障预防系统中至关重要。因此,许多机器和深度学习模型被设计来解决这个问题。大多数情况下,它们是基于自动编码器的架构,具有一些生成对抗元素。在这项工作中,一个框架,其中包括神经进化方法,以提高新的和已知的模型的异常检测分数。该方法采用演化策略对集成模型进行进化,每个模型作用于一个数据传感器子集。神经进化的下一个目标是优化架构和超参数,如窗口大小、层数、层深度等。所提出的框架表明,可以在合理的时间和完全自动化的模式下提升大多数异常检测深度学习模型。测试在SWAT和WADI数据集上运行。据我们所知,这是第一种使用神经进化策略以内置的全自动方式构建集成深度学习异常检测模型的方法。
2021-08-08 cs.AI cs.LG
GroupSegment-SHAP: Shapley Value Explanations with Group-Segment Players for Multivariate Time Series
Graduate School of Industrial Data Engineering Hanyang University Seoul Republic of Korea(工业数据工程研究生院 首尔韩国国立汉阳大学);Hanyang University(国立汉阳大学)
GroupSegment-SHAP通过构建组-段玩家来解释多变量时间序列中的交互,提升了解释性能并减少了计算时间。
2026-08-24 cs.AI cs.GT cs.LG
Taking ROCKET on an Efficiency Mission: Multivariate Time Series Classification with LightWaveS
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
如今,随着医疗保健和工业等领域传感器数量的增加,多变量时间序列分类(MTSC)问题变得越来越重要,并且是机器和深度学习方法的主要目标。它们在现实环境中的广泛采用正在导致焦点从追求复杂模型的更高预测精度转向实用的可部署解决方案,这些解决方案可以平衡精度和预测速度等参数。最近引起关注的MTSC模型是基于随机卷积核的ROCKET,因为它的训练过程非常快,而且具有最先进的精度。然而,它利用的大量特征可能对推理时间有害。研究其理论背景和局限性,使我们能够解决潜在的缺点,并提出LightWaveS:一个准确的MTSC框架,在训练和推理过程中都是快速的。具体来说,利用小波散射变换和分布式特征选择,我们设法创建一个解决方案,采用只有2.5%的火箭功能,同时实现精度媲美最近的MTSC模型。LightWaveS还可以在多个计算节点上以及训练期间的输入通道数量上进行很好的扩展。此外,它可以显着减少输入的大小,并通过只保留最有用的通道来提供对MTSC问题的洞察。我们提出了我们的算法的三个版本和他们的分布式训练时间和可扩展性,准确性和推理加速的结果。我们表明,与ROCKET相比,我们在边缘设备上的推理过程中实现了从9倍到53倍的加速,数据集具有可比的准确性。
2022-04-11 cs.LG
Explainable multi-class anomaly detection on functional data
Optimistik;Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Univ. Savoie Mont Blanc(萨瓦大学);CNRS(法国国家科学研究中心)
在本文中,我们描述了一种方法,异常检测及其解释多元函数数据。异常检测过程包括将序列转换为特征向量并使用隔离森林算法。可解释的过程是基于SHAP系数的计算和监督决策树的使用。我们将其应用于模拟数据来衡量我们的方法的性能和来自行业的真实数据。
2022-05-03 cs.LG math.ST stat.ML
Hermes: A Multi-Scale Spatial-Temporal Hypergraph Network for Stock Time Series Forecasting
East China Normal University(东华师范大学);CFETS Information Technology (Shanghai) Co., Ltd(CFETS信息技术(上海)有限公司);Aalborg University(奥胡斯大学)
Hermes通过多尺度融合和动态时间聚合模块,有效捕捉行业间滞后关系和多尺度信息,提升股票时间序列预测精度。
2026-05-09 cs.LG
Leveraging Multivariate Long-Term History Representation for Time Series Forecasting
Department of Electrical and Computer Engineering, McGill University(电气与计算机工程系,麦吉尔大学);Hydro-Québec Research Institute(水电公司研究 institute)
针对现有多变量时间序列预测STGNN忽略长期跨序列时空相关性的问题,提出含LHEncoder、HRetriever和TAggregator的LMHR增强框架,在多个真实数据集上显著提升预测精度。
2025-05-20 cs.AI cs.LG
Beyond Gut Feel: Using Time Series Transformers to Find Investment Gems
Motherbrain;EQT Group(EQT集团);KTH Royal Institute of Technology(皇家理工学院(瑞典));BCG GAMMA;BCG X
本文提出基于Transformer的多元时间序列分类器(TMTSC)用于预测候选公司成功概率,以优化风险投资和成长资本的标的寻找决策。
2024-06-14 cs.AI cs.CE cs.LG
Heterogeneous Relationships of Subjects and Shapelets for Semi-supervised Multivariate Series Classification
提出一种利用异构主体与形状let关系构建异构图表,结合对比时间自注意力、软动态时间规整和双层图注意力网络,实现半监督多元时间序列分类,并在多个数据集上超越现有方法。
2025-06-18 cs.AI cs.LG
Forecasting Labor Markets with LSTNet: A Multi-Scale Deep Learning Approach
University of Houston(休斯顿大学)
本文提出基于LSTNet的多尺度深度学习方法,利用美国劳工统计局多变量数据预测短期就业变化并构建可解释的行业就业健康指数(IEHI),在多数行业优于基线模型。
2025-06-25 cs.AI cs.LG q-fin.ST
Tsururu: A Python-based Time Series Forecasting Strategies Library
Sber AI Lab(Sber AI实验室);Sber;Skoltech;MIPT;ISP RAS Research Center for Trusted Artificial Intelligence(俄罗斯科学院可信人工智能研究中心)
Tsururu是一个Python时间序列预测策略库,通过灵活组合全局、多变量及多步超前预测策略并兼容多种模型,解决训练方法选择问题,连接前沿研究与工业应用。
2025-09-19 cs.LG
Interdependency Matters: Graph Alignment for Multivariate Time Series Anomaly Detection
Beijing University of Posts and Telecommunications(北京邮电大学);Huawei Translation Services Center(华为翻译中心)
本文提出MADGA框架,将多变量时间序列异常检测重新定义为图对齐问题,通过动态将子序列转换为图并利用Wasserstein和Gromov-Wasserstein距离显式对齐节点与边,有效捕获相互依赖性变化,在多数据集上达到SOTA。
2024-10-11 cs.DB cs.IR cs.LG
MTAD: Tools and Benchmarks for Multivariate Time Series Anomaly Detection
The Chinese University of Hong Kong(香港中文大学);Sun Yat-sen University(中山大学)
本文系统评估了十二种多变量KPI异常检测方法,提出新指标salience,并发布统一工具包与基准结果,为工业部署和后续研究提供基础。
2024-01-10 cs.AI cs.LG cs.SE
Introducing a hybrid model of DEA and data mining in evaluating efficiency. Case study: Bank Branches
Islamic Azad University(伊斯兰阿扎德大学);Yonsei University(延世大学)
银行业对于每个国家的一个经济循环都是非常重要的,为我们提供了一些服务质量。随着科技的进步和商业环境复杂性的迅速增加,银行业的竞争比以往更加激烈,因此银行业的效率分析近年来备受关注。从许多方面来看,这种分部门一级的分析是更可取的。以消除不足为目的的分行绩效评估是分行经理衡量分行效率的关键问题。这项工作不仅可以导致更好地了解银行分行的业绩,而且还提供了进一步的信息,以加强管理决策,认识到有问题的领域。为了实现这一目的,本研究提出了一种综合的方法,数据包络分析(DEA),聚类算法和多项式模式分类器构建分类器,以确定一类银行分行。首先,个别分行的效率估计使用DEA方法进行评估。然后,在专家确定类别范围和类别数的基础上,利用基于统计方法的凝聚层次聚类算法确定聚类数。其次,我们通过自组织映射(SOM)神经网络将原始数据划分为k个聚类。最后,将所有聚类输入到简化的多元多项式模型中以预测数据的类别。
2018-10-10 cs.AI cs.LG stat.ML
Multi Scale Graph Wavenet for Wind Speed Forecasting
TCS Research(塔塔咨询服务研究部)
几何深度学习由于其表示任意结构的固有能力而在学术界和工业界都获得了极大的关注。由于对可再生能源,特别是风能的兴趣呈指数增长,准确的风速预测变得非常重要。.在本文中,我们提出了一种新的深度学习架构,多尺度图Wavenet风速预测。它是基于图卷积神经网络,捕捉空间和时间的关系,在多变量时间序列的天气数据的风速预测。我们特别从扩张卷积、跳过连接和初始网络中汲取灵感,以捕获时间关系,并从用于捕获数据中空间关系的图卷积网络中汲取灵感。我们在丹麦不同城市测量的真实风速数据上进行了实验,并将我们的结果与最先进的基线模型进行了比较。我们的新架构在多个预测范围的风速预测方面优于最先进的方法4- 5%。
2021-10-01 cs.AI cs.LG
Spacecraft Anomaly Detection with Attention Temporal Convolution Network
University of Electronic Science and Technology of China(电子科技大学);Beijing Aerospace Institute for Metrology and Measurement Technology(北京航天计量测试技术研究所)
航天器在复杂空间执行探测任务时面临各种情况,对航天器异常状态的监测对\textcolor{blue}{the}航天事业的发展至关重要。在轨航天器\textcolor{blue}{contains}产生的时间序列遥测数据是了解航天器状态的重要信息。然而,传统的基于领域知识的航天器异常检测方法由于变量之间的高维性和复杂的相关性而效果不佳。在这项工作中,我们提出了一个基于时间卷积网络(TCN)的航天器多变量时间序列数据的异常检测框架。首先,我们采用动态图注意力模型的变量和时间序列之间的复杂相关性。其次,利用具有并行处理能力的时间卷积网络提取多维\textcolor{blue}{features},用于\textcolor{blue}{the}下游预测任务。最后,许多潜在的异常检测的最佳阈值。真实NASA SMAP/MSL航天器数据集上的实验表明,我们提出的模型相对于最先进的方法的优越性。
2023-03-13 cs.CV cs.LG