Predicting Companies' ESG Ratings from News Articles Using Multivariate Timeseries Analysis
University of Innsbruck(因斯布鲁克大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
近年来,公司参与环境、社会和治理(ESG)成为公众关注的焦点。随着强制性报告要求的实施以及投资者将可持续性纳入其投资决策,对透明和可靠的ESG评级的需求正在增加。然而,尽管环境、社会和治理问题日益重要,但预测该问题评级的自动方法却相当稀少。在本文中,我们构建了一个模型,使用多变量时间序列构建和深度学习技术相结合的方法来预测新闻文章的ESG评级。此外,还创建了约3,000家美国公司的新闻数据集及其评级,并发布用于培训。通过实验评估,我们发现,我们的方法提供了准确的结果优于国家的最先进的,并可以在实践中使用,以支持手动确定或分析的ESG评级。
2022-11-13 cs.IR cs.LG q-fin.GN
Contrastive Representation Learning for Predicting Solar Flares from Extremely Imbalanced Multivariate Time Series Data
Utah State University(犹他州立大学)
本文提出CONTREX对比表示学习方法,通过提取动态特征、构建正负类极值点并以对比重构损失训练嵌入模块,解决多元时间序列极端类别不平衡问题,在SWAN-SF数据集上提升了太阳耀斑预测性能。
2024-10-01 astro-ph.SR cs.AI cs.LG
Deep Distance Measurement Method for Unsupervised Multivariate Time Series Similarity Retrieval
本文提出DDMM方法,通过学习时间序列中状态的微小差异提升相似性检索准确性,实验显示其在造纸厂数据集上优于现有方法,并在工业应用中有效。
2026-03-13 cs.LG
Towards Resource-Efficient Federated Learning in Industrial IoT for Multivariate Time Series Analysis
针对工业物联网多元时间序列分析,提出一种联邦学习框架下的服务器端压缩剪枝方法,实现高压缩率(>99.7%)且性能损失极小(<1.18%),兼顾隐私与资源效率。
2024-11-06 cs.AI cs.LG eess.SP
Predicting the Lifespan of Industrial Printheads with Survival Analysis
Department of Advanced Computing Sciences(高级计算科学系);Maastricht University(马斯特里赫特大学);Quality Processes and Validation Department(质量流程与验证部门);Canon Production Printing(佳能生产印刷)
本研究采用生存分析(包括Kaplan-Meier、Cox模型等五种方法)预测工业打印头寿命,经保序回归细化并验证,优于行业标准基线。
2025-08-07 cs.AI cs.LG
CAAD: Causality-Aware Multivariate Time Series Anomaly Detection via Multi-Scale Alignment and Structural Causal Consistency
Stony Brook University(纽约州立大学石溪分校);Rensselaer Polytechnic Institute(伦斯勒理工学院);Yale University(耶鲁大学);Queen Mary University of London(伦敦大学玛丽皇后学院)
针对复杂工业系统异常检测中常忽略内部因果关系的问题,提出CAAD框架,通过外生变量持续验证格兰杰因果一致性,利用多尺度对齐和梯度矩阵监测因果关系,在真实工业数据集实验中实现高精度异常检测,优于多数基线方法。
2026-07-10 cs.LG
Predicting the performance of hybrid ventilation in buildings using a multivariate attention-based biLSTM Encoder-Decoder neural network
NTNU(挪威科技大学);Aalborg University(奥尔堡大学)
混合通风是一种节能的解决方案,可以为大多数气候提供新鲜空气,因为它具有可靠的控制系统。为了最佳地操作这样的系统,需要高保真度的面向控制的模型。它应该能够基于诸如窗户打开和HVAC操作时间表的操作条件来实现室内空气温度的近实时的预测。然而,基于物理的面向控制的模型(即,白盒模型)是劳动密集型的并且计算昂贵。或者,基于人工神经网络的黑盒模型可以被训练成用于建筑动态的良好估计器。本文研究了深度神经网络(DNN)的能力,该深度神经网络是一种多变量多头注意力的长短期记忆(LSTM)编码器-解码器神经网络,用于预测窗户打开或关闭时的室内空气温度。训练和测试数据由详细的多区域办公楼模型(EnergyPlus)生成。伪随机信号用于室内空气温度设定点和窗户打开实例。结果表明,DNN能够准确地预测五个区域的室内空气温度,无论是打开或关闭窗户。预测误差在第24步提前预测(6小时提前预测)之后稳定。
2023-03-23 cs.LG eess.SP
Fusion-Based Neural Generalization for Predicting Temperature Fields in Industrial PET Preform Heating
Deggendorf Institute of Technology(德格多夫技术学院)
提出一种基于迁移学习与模型融合的深度学习框架,通过预训练专用回归器并整合为全局模型,实现PET瓶坯预热温度场的泛化预测,减少数据需求并提升泛化性能。
2025-10-06 cs.AI cs.LG
TimePred: efficient and interpretable offline change point detection for high volume data -- with application to industrial process monitoring
Technische Universität Berlin - Machine Learning Group(柏林技术大学-机器学习组)
TimePred通过自监督框架实现高效且可解释的高体积数据突变点检测,适用于工业过程监控,显著降低计算成本并提升检测准确性。
2025-12-01 cs.LG
Hierarchical Joint Graph Learning and Multivariate Time Series Forecasting
Hanyang University(汉阳大学)
本文提出将多元时间序列建模为图节点,结合图神经网络、注意力机制和层次化信号分解捕获多种时空依赖,在多个长期预测基准上相比现有模型平均降低23%的MSE。
2023-11-30 cs.LG
HCL-MTSAD: Hierarchical Contrastive Consistency Learning for Accurate Detection of Industrial Multivariate Time Series Anomalies
提出HCL-MTSAD,一种自监督层次对比一致性学习方法,通过多层次一致性捕获和对比损失挖掘时空关联,在六个工业数据集上平均F1提升1.8%。
2024-04-18 cs.AI cs.CR cs.IT
Predicting the Age of Astronomical Transients from Real-Time Multivariate Time Series
MIT(麻省理工学院);Texas Tech University(德克萨斯理工大学);UC Santa Cruz(加州大学圣克鲁兹分校)
本文提出首个基于贝叶斯概率循环神经网络的方法,从实时多波长时间序列中预测天文瞬变现象的年龄,为巡天后续观测优先级排序提供支持。
2023-11-28 astro-ph.HE astro-ph.IM cs.LG
Physics-Inspired Spatial Temporal Graph Neural Networks for Predicting Industrial Chain Resilience
State Key Laboratory of Multimodal Artificial Intelligence Systems Institute of Automation, Chinese Academy of Sciences(多模态人工智能系统国家重点实验室 中国科学院自动化研究所);School of Artificial Intelligence University of Chinese Academy of Sciences(中国科学院自动化研究所人工智能学院)
本文针对复杂网络韧性预测缺乏理论框架的问题,提出物理信息神经符号方法,将物理实体动力学与多层时空协同演化网络联合学习,实现更准确的产业链韧性预测。
2025-08-22 cs.AI cs.CE cs.LG
Periodic Graph-Enhanced Multivariate Time Series Anomaly Detector
College of Computer and Information Science(计算机与信息科学学院);Southwest University(西南大学)
本文提出周期图增强的多变量时间序列异常检测器PGMA,通过FFT周期时隙分配构建动态图结构,并结合图神经网络与时间扩展卷积提取时空相关性,在四个真实数据集上取得优于现有模型的检测性能。
2025-09-22 cs.LG
Predicting the evolution of stationary graph signals
一个新兴的方法来解决多维过程建模中出现的维数问题是假设固有的数据结构可以通过图来捕获。然而,尽管最先进的基于图形的方法已经成功地用于许多学习任务,但它们不考虑时间演变信号,因此不适合预测。基于最近推出的联合平稳性框架的时间顶点过程,这封信认为,利用图形拓扑结构,以促进预测的多变量模型。由此产生的方法产生类似的精度联合(时间图)均方误差估计,但在较低的复杂性,并优于纯粹的基于时间的方法。
2016-07-12 cs.LG stat.ML
Mixing Neural Networks and Exponential Moving Averages for Predicting Wireless Links Behavior
National Research Council of Italy(意大利国家研究委员会);Politecnico di Torino(都灵理工大学);Technische Hochschule OWL(奥WL应用科学大学);Institute Industrial IT(工业IT研究所)
本研究提出两种用于密集室内Wi-Fi链路质量预测的神经网络模型,实验证明其能捕获阴影和多径传播等复杂模式,准确性优于基于指数移动平均的传统方法,有助于提升工业无线通信的确定性与可靠性。
2024-11-17 cs.LG cs.NI
Mitigating Cold-start Forecasting using Cold Causal Demand Forecasting Model
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Google Inc.(谷歌公司)
针对深度学习多变量时间序列预测模型因果关系捕捉不足、无法应对冷启动的问题,提出融合因果推断与深度学习的CDF-cold框架,在15个谷歌数据中心流量数据集上表现优于现有最优模型。
2023-06-15 cs.LG
Attention Mechanism for Multivariate Time Series Recurrent Model Interpretability Applied to the Ironmaking Industry
Paul Wurth S.A.(保尔沃斯公司);UFR Sciences et Technologie(科学与技术学院);DataThings S.A.R.L.(DataThings有限责任公司);Université de La Rochelle(拉罗谢尔大学)
数据驱动模型的可解释性是获得过程工程师认可的要求,以依赖数据驱动模型的预测来调节炼铁工业中的工业过程。在本文提出的研究中,我们专注于开发一个可解释的多变量时间序列预测深度学习架构,用于高炉生产的铁水温度。提出了一种基于长短期记忆(LSTM)的架构,该架构通过注意力机制和引导反向传播来增强,以适应每个输入的局部时间可解释性的预测。结果显示,这种架构应用于高炉数据的潜力很大,并提供了可解释性,正确反映了固有高炉工艺所决定的真实复杂变量关系,并且与基于递归的深度学习架构相比,预测误差更小。
2020-07-15 cs.LG
Transformer-based Drum-level Prediction in a Boiler Plant with Delayed Relations among Multivariates
SenseTime Research(商汤科技研究院);School of Software Engineering Peking University(北京大学软件与微电子学院);Information Systems University of Cologne(科隆大学信息系统系)
本研究针对锅炉汽包水位预测难题,提出基于Transformer的预测框架,通过数据预处理、因果分析、延迟推断等流程,有效提升预测准确性与运行稳定性。
2024-07-15 cs.LG
Gated Transformer Networks for Multivariate Time Series Classification
Zhengzhou University(郑州大学);Statistical information center of Henan health commission(河南省卫生健康委员会统计信息中心);Facebook AI(脸书人工智能研究院)
用于时间序列分类的深度学习模型(主要是卷积网络和LSTM)已被社区广泛研究,并在医疗保健,金融,工业工程和物联网等不同领域得到广泛应用。与此同时,Transformer Networks最近在各种自然语言处理和计算机视觉任务上取得了前沿性能。在这项工作中,我们探索了一个简单的扩展,目前的Transformer网络与门控,命名为门控Transformer网络(GTN)的多变量时间序列分类问题。通过合并Transformer的两个塔的门控,它们分别对通道和逐步相关性进行建模,我们展示了GTN如何自然有效地适用于多变量时间序列分类任务。我们对13个数据集进行了全面的实验,并进行了全面的消融研究。我们的研究结果表明,GTN能够实现与当前最先进的深度学习模型竞争的结果。我们还探讨了注意力地图的自然解释GTN的时间序列建模。我们的初步研究结果为Transformer网络在多变量时间序列分类任务上提供了一个强有力的基线,并为未来的研究奠定了基础。
2021-03-26 cs.LG
OPTIMUS: Predicting Multivariate Outcomes in Alzheimer's Disease Using Multi-modal Data amidst Missing Values
University Lausanne Hospital (CHUV)(洛桑大学医院);University of Lausanne (UNIL)(洛桑大学);Zhejiang University(浙江大学);Zhejiang University School of Medicine(浙江大学医学院)
本文提出模块化可解释框架OPTIMUS,通过模态特异插补、多模态预测建模与XAI,在缺失数据下识别AD多变量认知结局的神经及转录组生物标志物。
2025-03-14 cs.LG q-bio.NC
Exploring Zero-Shot Foundation Models for Multivariate Time Series Anomaly Detection
Salzburg University of Applied Sciences(萨尔茨堡应用科学大学);Paris Lodron University of Salzburg(萨尔茨堡巴黎洛德龙大学)
研究多变量时间序列异常检测,探索单变量预测基础模型TimesFM的零样本应用于工业MTSAD,评估两种策略,虽未胜过基线,但发现其在捕获时间动态上过于有效致异常难区分,不过在异常边界误差有峰值,对变化点检测有前景。
2026-07-15 cs.LG
Large Language Models are Few-shot Multivariate Time Series Classifiers
University of Technology Sydney(悉尼科技大学);Ocean University of China(中国海洋大学)
针对多元时间序列少样本分类的数据稀缺问题,提出LLM增强框架LLMFew,通过PTCEnc对齐数据并用LoRA微调LLM解码器,在多个数据集上大幅超越基线方法,准确率最高提升125.2%。
2025-01-30 cs.AI cs.LG
Anomaly Detection for Sparse and Irregular Multivariate Time Series with Latent SDEs
Josef Ressel Centre for Intelligent and Secure Industrial Automation, University of Applied Sciences, Salzburg, Austria(约瑟夫·雷斯尔智能与安全工业自动化中心,应用科学大学,萨尔茨堡,奥地利);University of Salzburg, Austria(萨尔茨堡大学,奥地利)
针对现实世界中稀疏、不规则采样的多元时间序列,提出基于潜在随机微分方程的生成方法,将观测投影到连续时间随机动力系统,处理缺失和不规则采样,并捕获循环行为,在六个基准数据集上取得最优结果。
2026-06-18 cs.LG
Machine Learning for Multi-Output Regression: When should a holistic multivariate approach be preferred over separate univariate ones?
TU Dortmund University(多特蒙德工业大学)
基于树的集成,如随机森林,是统计学习方法中的现代经典。特别是,它们用于预测单变量响应。在多个输出的情况下,问题出现了,我们是否单独拟合单变量模型或直接遵循多变量方法。对于后者,存在几种可能性,例如基于多输出回归的修改的分裂或停止规则。在这项工作中,我们比较了这些方法在广泛的模拟,以帮助回答的主要问题时,使用多元集成技术。
2022-01-14 cs.LG stat.ML
Multivariate Probabilistic Regression with Natural Gradient Boosting
STOR-i Centre for Doctoral Training(STOR-i博士培训中心);Lancaster University(兰卡斯特大学);Stanford University(斯坦福大学)
许多单目标回归问题需要估计不确定性以及点预测。概率回归算法非常适合这些任务。然而,当预测目标是多变量的并且需要联合测量不确定性时,选择就更加有限。例如,在预测2D速度矢量时,联合不确定性将量化平面中任何矢量的概率,这将比x和y分量上的两个单独的不确定性更有表现力。为了实现联合概率回归,我们提出了一种自然梯度提升(NGBoost)方法的基础上非参数化建模的条件参数的多元预测分布。我们的方法是强大的,开箱即用,无需大量的调整,是模块化的假设的目标分布,并执行竞争力相比,现有的方法。我们证明了这些索赔的模拟和预测二维海洋速度数据的案例研究。我们的方法的实现可以在https://github.com/stanfordmlgroup/ngboost上获得。
2021-06-07 cs.LG stat.CO stat.ML
Evaluating the effectiveness of predicting covariates in LSTM Networks for Time Series Forecasting
Neural Aspect(神经方面)
本研究评估了在 LSTM 网络中联合预测协变量与目标变量的有效性,提出一种结合季节性时间片段与 RNN 的新方法,发现多变量预测常劣于单变量基线,表明 LSTM 不适合期望通过预测协变量提升精度的任务。
2024-04-29 cs.AI cs.LG
Multivariate Time Series Anomaly Detection in Industry 5.0
University of Ferrara(费拉拉大学);Bonfiglioli S.P.A.(邦菲利奥利股份公司)
针对工业5.0环境下多变量时间序列异常检测面临的海量数据、噪声及标签问题,提出结合嵌入模型与机器学习的框架,在真实工厂数据下验证其抗噪性能优于传统自编码器。
2025-03-20 cs.LG
Predicting Tau Accumulation in Cerebral Cortex with Multivariate MRI Morphometry Measurements, Sparse Coding, and Correntropy
Arizona State University(亚利桑那州立大学);Banner Alzheimer’s Institute(班纳阿尔茨海默病研究所);Southeast University(东南大学);Children’s Hospital Los Angeles(洛杉矶儿童医院);Mayo Clinic Arizona(梅奥诊所亚利桑那分院);University of Southern California(南加州大学)
生物标志物辅助诊断和干预阿尔茨海默病(AD)可能是预防突破的关键。AD的标志之一是tau斑块在人脑中的积累。然而,目前检测tau病理学的方法要么是侵入性的(腰椎穿刺),要么是相当昂贵且不广泛可用的(Tau PET)。在我们以前的工作中,基于结构MRI的海马多变量形态统计学(MMS)显示出优越的性能,作为临床前AD的有效神经退行性生物标志物,基于斑块分析的表面Correntropy-induced Sparse coding and max-pooling(PASCS-MP)具有出色的能力,能够生成具有强大统计能力的低维表示,用于脑淀粉样蛋白预测。在这项工作中,我们将这个框架与岭回归模型一起应用于分别预测Braak 12和Braak 34脑区的Tau沉积。我们评估了我们的框架925个科目从阿尔茨海默病神经影像学倡议(ADNI)。每名受试者都有一对由PET图像和MRI扫描组成的图像,它们是在大约相同的时间收集的。实验结果表明,从我们的MMS和PASCS-MP的表示有更强的预测能力和他们的预测Braak 12和Braak 34更接近真实值相比,从其他方法,如海马表面积和体积,形状形态特征的基础上,球谐函数(SPHARM)。
2021-10-20 cs.LG eess.IV physics.med-ph
GARNN: An Interpretable Graph Attentive Recurrent Neural Network for Predicting Blood Glucose Levels via Multivariate Time Series
Institute of Health Informatics, University College London(伦敦大学学院健康信息学研究所);Department of Psychiatry, University of Oxford(牛津大学精神病学系);Department of Diabetes & Endocrinology, University College London Hospitals(伦敦大学学院医院糖尿病与内分泌科);Centre for Bio-Inspired Technology(仿生技术中心)
本文提出可解释的图注意力循环神经网络GARNN,通过图注意力机制对多元时间序列建模以预测血糖,在四个数据集上优于十二种基线方法,并具备高质量时间可解释性,有望改善糖尿病护理。
2024-02-26 cs.AI cs.LG
Prospective Multi-Graph Cohesion for Multivariate Time Series Anomaly Detection
University of Waterloo(滑铁卢大学)
本文提出前瞻性多图凝聚框架PMGC,通过融合长期静态图与短期动态图并引入前瞻性构图策略,提升多变量时间序列异常检测性能。
2025-09-21 cs.LG
SiamTST: A Novel Representation Learning Framework for Enhanced Multivariate Time Series Forecasting applied to Telco Networks
Norwegian University of Science and Technology(挪威科技大学);Telenor Research(挪威电信研究公司);SINTEF Digital(辛特夫数字研究院)
本文提出 SiamTST 表示学习框架,融合孪生网络、注意力、通道独立分块与归一化,用于电信网络多元时间序列预测,并在真实工业数据集上显著优于现有方法。
2024-07-02 cs.AI cs.LG
Univariate and Multivariate LSTM Model for Short-Term Stock Market Prediction
NIT Hamirpur(国家理工学院哈米尔布尔分校)
长期以来,设计鲁棒且准确的预测模型一直是一个可行的研究领域。虽然功能良好的市场预测者的支持者认为很难准确地预测市场价格,但许多学者不同意。强大而准确的预测系统不仅有助于企业,也有助于个人进行金融投资。本文提出了一个具有两种不同输入方法的LSTM模型,用于预测两家印度公司Reliance Industries和Infosys Ltd.的短期股票价格。从雅虎财经网站上获取了10年(2012-2021)的历史数据,对所提出的方法进行了分析。在第一种方法中,两个选定公司的收盘价直接应用于单变量LSTM模型。对于第二种方法,技术指标值是从收盘价计算出来的,然后集中应用于多变量LSTM模型。对未来几天的短期市场行为进行评估。实验结果表明,方法一对于确定未来趋势是有用的,但是具有技术指标的多变量LSTM模型对于准确预测未来价格行为是有用的。
2022-05-08 cs.AI cs.LG q-fin.ST
TranAD: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data
Imperial College London(帝国理工学院);Loughborough University(拉夫堡大学)
多变量时间序列数据的有效异常检测与诊断对于现代工业应用具有重要意义。然而,建立一个能够快速准确地查明异常观测的系统是一个具有挑战性的问题。这是由于缺乏异常标签,高数据波动性和现代应用中超低推理时间的需求。尽管用于异常检测的深度学习方法最近有所发展,但只有少数方法可以解决所有这些挑战。在本文中,我们提出了TranAD,一个基于深度Transformer网络的异常检测和诊断模型,该模型使用基于注意力的序列编码器,利用数据中更广泛的时间趋势知识快速进行推理。TranAD使用基于焦点分数的自调节来实现鲁棒的多模态特征提取和对抗训练以获得稳定性。此外,与模型无关的元学习(MAML)允许我们使用有限的数据训练模型。对六个公开数据集的广泛实证研究表明,TranAD可以通过数据和时间有效的训练在检测和诊断性能方面优于最先进的基线方法。具体而言,与基线相比,TranAD将F1分数提高了17%,将训练时间减少了99%。
2022-05-14 cs.LG
CLEANet: Robust and Efficient Anomaly Detection in Contaminated Multivariate Time Series
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));HUAWEI(华为)
针对多元时间序列异常检测中训练数据污染和推理低效的问题,提出CLEANet框架,采用污染弹性训练框架和轻量级共轭MLP,在五个数据集上F1提升高达73.04%,运行时间降低81.28%。
2025-10-26 cs.LG
Multivariate Time Series Anomaly Detection with Few Positive Samples
GE Research(通用电气研究中心)
由于在现实世界中的应用异常的稀缺性,大多数文献一直专注于建模的正常性。学习的表示使得能够进行异常检测,因为正态模型被训练以捕获在正常情况下的某些关键基础数据。在实际环境中,特别是工业时间序列异常检测中,我们经常会遇到大量正常运行数据以及少量随时间收集的异常事件的情况。这种实际情况要求利用这些少量的异常事件来创建更好的异常检测器的方法。在本文中,我们介绍了两种方法来解决这种实际情况的需要,并比较它们与最近开发的最先进的技术。我们提出的方法锚定在正常操作的自回归(AR)模型的代表性学习以及损失分量,以鼓励表示,分离正常与少数积极的例子。我们将所提出的方法应用于两个工业异常检测数据集,并与文献中的方法进行比较,证明了有效的性能。我们的研究还指出了在实际应用中采用这种方法的额外挑战。
2022-07-02 cs.AI cs.LG cs.NE
MultiCast: Zero-Shot Multivariate Time Series Forecasting Using LLMs
``Athena'' Research Center Greece
MultiCast提出一种基于大语言模型的零样本多变量时间序列预测方法,通过令牌复用和量化方案降低维度并保留模式,在三个数据集上优于现有方法。
2024-05-23 cs.AI cs.LG
Predicting Patient State-of-Health using Sliding Window and Recurrent Classifiers
University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学);Alan Turing Institute(艾伦·图灵研究所)
重症监护室(ICU)中的床边监护仪经常发出错误的声音,减慢响应时间并使护士对警报不敏感(Chambery,2001),导致错过真正的警报(Hug等人,2011年)。我们比较滑动窗口预测与复发预测分类ICU多变量时间序列患者的健康状况,我们报告了四个目标中三个的RNN性能略有改善。
2016-12-02 cs.LG stat.ML
CICADA: Cross-Domain Interpretable Coding for Anomaly Detection and Adaptation in Multivariate Time Series
Tsinghua University(清华大学)
提出CICADA框架,通过混合专家、选择性元学习、自适应扩展和分层注意力四项创新,解决多变量时间序列跨域异常检测中的分布偏移与泛化问题,并在性能和可解释性上超越现有方法。
2025-05-01 cs.LG
Segmentation over Complexity: Evaluating Ensemble and Hybrid Approaches for Anomaly Detection in Industrial Time Series
在这项研究中,我们研究了先进的特征工程和混合模型架构的有效性异常检测在一个多变量的工业时间序列,专注于汽轮机系统。我们评估了变化点派生的统计特征,基于聚类的子结构表示,和混合学习策略对检测性能的影响。尽管它们在理论上很有吸引力,但与在分割数据上训练的简单随机森林+ XGBoost集成相比,这些复杂的方法始终表现不佳。总体实现了0.976的AUC-ROC,0.41的F1评分,以及在定义的时间窗内100%的早期检测。我们的研究结果强调,在具有高度不平衡和时间不确定数据的情况下,模型简单性与优化分割相结合可以胜过更复杂的架构,提供更高的鲁棒性,可解释性和操作实用性。
2025-10-30 cs.AI cs.LG
Predicting Exoplanetary Features with a Residual Model for Uniform and Gaussian Distributions
Assemi Group, Inc.(阿塞米集团公司)
本文结合 Multivariate Gaussian 与 Uniform Quantile 两种深度学习模型预测7项系外行星特征后验分布,并在2023年 Ariel Data Challenge 中获得第三名。
2024-06-16 astro-ph.EP astro-ph.IM cs.LG
A Causal-based Framework for Multimodal Multivariate Time Series Validation Enhanced by Unsupervised Deep Learning as an Enabler for Industry 4.0
Paul Wurth S.A.(保罗沃思股份公司)
多模态多变量时间序列的高级概念验证框架定义了从单变量上下文定义到自动编码器从异构数据(图像、时间序列、声音等)学习的多模态抽象上下文表示的多级上下文异常检测。与工业过程相关。框架的每一级都适用于历史数据和/或实时数据。最终层次是基于因果发现来识别观测数据中的因果关系,以排除有偏见的数据来训练机器学习模型,并为领域专家提供在数据样本所代表的底层过程中发现未知因果关系的方法。一个长短期记忆自动编码器成功地评估多变量时间序列,以验证与高炉的多个资产的抽象上下文的学习表示。确定了一个研究路线图,将因果发现和表示学习相结合,作为应用于过程工业的无监督根本原因分析的推动者。
2020-08-05 cs.LG stat.ML
CGSTA: Cross-Scale Graph Contrast with Stability-Aware Alignment for Multivariate Time-Series Anomaly Detection
Dalian Maritime University(大连海事大学);Harbin Engineering University(哈尔滨工程大学)
CGSTA通过跨尺度图对比与稳定性感知对齐,提升多变量时间序列异常检测的鲁棒性和准确性。
2026-02-24 cs.LG
D-CTNet: A Dual-Branch Channel-Temporal Forecasting Network with Frequency-Domain Correction
D-CTNet通过双分支结构和频域校正机制,提升多变量时间序列预测的准确性和鲁棒性。
2025-11-30 cs.LG
Anomaly Detection for Industrial Big Data
University of Oxford(牛津大学)
随着工业物联网(IIoT)的发展,系统越来越多地受到传感器阵列的监控,这些传感器以不断增加的“数量,速度和种类”(即工业大数据)返回时间序列数据。这些数据的一个明显用途是实时系统状态监控和故障预测时间分析(剩余使用寿命,RUL)。(e.g.参见Senseye.io的白皮书和NASA预测卓越中心(PCoE)的输出。然而,正如Agrawal和Choudhary所指出的那样,我们收集“大数据”的能力已经大大超过了我们分析它的能力,这强调了第四种科学范式的出现,即数据驱动的发现。为了充分利用工业大数据的潜力,我们需要数据驱动的技术,这些技术可以在处理模型无法实现的规模上运行。在这里,我们提出了一个原型技术,数据驱动的异常检测操作在工业规模。该方法推广到应用程序与几乎任何多变量数据集的基础上独立排序的重复(自举)分区的数据集和检查的联合分布的顺序距离。
2018-04-09 cs.LG stat.ML
Learning Representations of Missing Data for Predicting Patient Outcomes
从电子健康记录(EHR)中提取可操作的见解对传统的机器学习方法提出了几个挑战。患者之间往往缺少相关数据;数据有多种形式,如多变量时间序列、自由文本和分类人口统计信息;患者之间的重要关系可能难以检测;以及许多其他数据。在这项工作中,我们提出了一种新的方法来解决这前三个挑战,使用基于消息传递的表示学习计划。我们表明,我们提出的方法是有竞争力的,或优于最先进的预测住院死亡率(二进制分类),住院时间(回归)和出院目的地(多类分类)。
2018-11-12 cs.LG stat.ML
Multivariate Time-series Anomaly Detection via Graph Attention Network
Microsoft(微软);Peking University(北京大学)
多元时间序列的异常检测在数据采掘研究和工业应用中具有重要意义。最近的方法在这一主题上取得了重大进展,但仍然存在局限性。一个主要的限制是,它们没有明确地捕捉不同时间序列之间的关系,导致不可避免的误报。在本文中,我们提出了一种新的自监督框架的多元时间序列异常检测来解决这个问题。我们的框架将每个单变量时间序列视为一个单独的特征,并包括两个并行的图形注意力层,以学习多变量时间序列在时间和特征维度上的复杂依赖关系。此外,我们的方法联合优化基于预测的模型和基于构造的模型,通过单时间戳预测和整个时间序列的重构相结合,获得更好的时间序列表示。我们通过大量的实验证明了我们的模型的有效性。所提出的方法优于其他国家的最先进的模型在三个真实世界的数据集。进一步的分析表明,我们的方法具有良好的解释性,是有用的异常诊断。
2020-09-04 cs.LG stat.ML
mTSBench: Benchmarking Multivariate Time Series Anomaly Detection and Model Selection at Scale
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Sandia National Laboratories(桑迪亚国家实验室)
mTSBench是一个大规模多变量时间序列异常检测与模型选择基准测试,评估24种检测器并揭示模型选择的迫切需求。
2026-02-07 cs.AI cs.LG
Learning from Sparse Datasets: Predicting Concrete's Strength by Machine Learning
University of California, Los Angeles(加州大学洛杉矶分校)
尽管在过去的几十年里,巨大的努力,以建立混凝土配比和强度之间的关系,一个强大的基于知识的模型,准确的混凝土强度预测仍然缺乏。作为基于物理或化学模型的替代方案,数据驱动的机器学习(ML)方法为这个问题提供了新的解决方案。虽然这种方法很有希望处理混凝土混合比和强度之间复杂的、非线性的、非加性的关系,但ML的一个主要局限性在于模型训练需要大量数据集。这是一个值得关注的问题,因为可靠、一致的强度数据相当有限,特别是对于实际的工业混凝土。在这里,基于对工业生产的混凝土测量抗压强度的大型数据集(> 10,000个观测值)的分析,我们比较了选择ML算法的能力,以“学习”如何可靠地预测混凝土强度作为数据集大小的函数。基于这些结果,我们讨论了给定模型最终的准确度(在大型数据集上训练时)与训练该模型实际需要多少数据之间的竞争。
2020-04-29 cond-mat.mtrl-sci cs.LG
Parallel Spatio-Temporal Attention-Based TCN for Multivariate Time Series Prediction
Hangzhou Dianzi University(杭州电子科技大学)
随着工业系统变得越来越复杂,从监控到我们的健康的所有监测传感器变得越来越普遍,多变量时间序列预测在我们社会的平稳运行中占据重要地位。具有注意力的递归神经网络有助于扩展预测窗口,这是这项任务的最新技术。然而,我们认为它们的消失梯度,短记忆和串行架构使RNN从根本上不适合复杂数据的长期预测。时间卷积网络(TCN)不受梯度问题的影响,并且支持并行计算,使其成为更合适的选择。此外,它们比RNN具有更长的记忆,尽管存在一些不稳定性和效率问题。因此,我们提出了一个框架,称为PSTA-TCN,它结合了一个并行的时空注意力机制,以提取动态的内部相关性与堆叠TCN骨干提取功能,从不同的窗口大小。该框架充分利用并行计算,大大减少了训练时间,同时大幅提高了准确性,稳定的预测窗口比现状长13倍。
2022-03-02 cs.AI cs.LG
Topological Machine Learning for Multivariate Time Series
Institute of High Performance Computing, A*STAR(新加坡科研局高性能计算研究所)
我们开发了一个使用拓扑数据分析(TDA)方法分析多元时间序列的框架。所提出的方法包括将多元时间序列转换为点云数据,计算持久性图之间的Wasserstein距离,并使用$k$ -最近邻算法($k$ -NN)进行监督机器学习。还引入了两种方法(中断和锚点),使TDA能够更好地分析具有对平移、旋转或坐标选择敏感的异构特征的数据。我们将我们的方法应用于基于5个随时间变化的变量(温度,湿度,光照,CO2和湿度比)的房间占用检测。实验结果表明,拓扑方法是有效的预测房间占用率在一个时间窗口。我们还将我们的方法应用于活动识别数据集,并取得了良好的效果。
2020-12-26 cs.LG eess.SP math.AT
ChronoGraph: A Real-World Graph-Based Multivariate Time Series Dataset
Bitdefender;University of Bucharest(布加勒斯特大学);University of Stuttgart(斯图加特大学);International Max Planck Research School for Intelligent Systems(智能系统国际马克斯·普朗克研究学校)
ChronoGraph是一个基于图的多变量时间序列数据集,用于研究微服务系统中的结构感知预测和事件感知评估。
2025-11-27 cs.AI cs.LG
A textual transform of multivariate time-series for prognostics
GE Global Research(通用电气全球研究院)
早期故障的预测或早期检测是基于状态和预防性维护的重要工业挑战。由于多个相互作用的组件,不受控制的环境因素和可观测性约束,基于物理的方法来建模故障进展是不可行的。此外,这样的方法来识别不推广到新的领域。因此,领域不可知的数据驱动的机器学习方法是理想的。损伤进展是一个依赖于路径的过程,明确建模的时间模式是准确估计当前的损伤状态和其进展导致总故障的关键。在本文中,我们提出了一种新的数据驱动的方法,采用一种新的文本表示的多变量时间传感器观测预测未来的健康状态的监测设备在其生命的早期。这种表示使我们能够利用从文本挖掘的建模,预测和理解的领域不可知的方式遇险模式很好地理解的概念。该方法已被部署,并成功地测试了大规模的多变量时间序列数据从商用飞机发动机。我们报告的实验,众所周知的公开可用的基准数据集和模拟数据集。所提出的方法被证明是优越的预测精度,预测和可解释性的前置时间。
2017-09-19 cs.LG stat.ML
Industrial-Grade Time-Dependent Counterfactual Root Cause Analysis through the Unanticipated Point of Incipient Failure: a Proof of Concept
Alstom(阿尔斯通公司);Universitat de Barcelona(巴塞罗那大学)
本文提出一种工业多变量时间序列的反事实根因分析方法,聚焦初期故障点以在问题传播前定位根因,并通过模拟实验验证,探讨了提升因果技术鲁棒性的改进方向。
2024-07-10 cs.AI cs.LG stat.ME