Causal Discovery for Irregularly Time Series with Consistency Guarantees
Zhejiang University, Hangzhou, China(浙江大学,杭州,中国)
本文研究了不规则采样时间序列中的因果发现,针对金融、医疗和气候科学等风险敏感领域中缺失数据和不一致采样频率带来的挑战,提出ReTimeCausal框架,通过交替的填补与结构学习过程,提供理论一致性保证。
2026-05-11 cs.AI cs.LG
No Imputation Needed: A Switch Approach to Irregularly Sampled Time Series
UiT The Arctic University of Norway(特罗姆瑟大学——挪威北极大学);IIT (ISM) Dhanbad(印度理工(印度矿业学院)丹巴德分校)
针对不规则采样时间序列,提出无需插补的SLAN模型,利用LSTM组和切换机制动态建模,捕获局部与全局摘要,在MIMIC-III和Physionet 2012上验证有效性。
2024-08-19 cs.AI cs.LG
Modeling Irregular Astronomical Time Series with Neural Stochastic Delay Differential Equations
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Ulsan National Institute of Science and Technology(蔚山科学技术院)
本文提出基于神经随机延迟微分方程的框架,用于处理不规则采样和不完整天文时间序列中的分类与异常检测问题,通过结合随机建模与神经网络,有效捕捉延迟时间动态并处理不规则观测。
2026-04-02 cs.LG
Causal Structure Learning for Dynamical Systems with Theoretical Score Analysis
CaDyT通过理论分数分析方法,改进动态系统因果结构学习,优于现有方法,适用于规则和非规则采样数据。
2025-12-16 cs.AI cs.LG math.DS
Compatible Transformer for Irregularly Sampled Multivariate Time Series
Shanghai Jiao Tong University(上海交通大学);Amazon Web Service(亚马逊云科技);University of Technology Sydney(悉尼科技大学)
针对不规则采样多元时间序列,提出基于变量内/变量间注意力的Transformer编码器CoFormer,以学习样本级时间交互表示,在分类和预测等下游任务上显著优于现有方法。
2023-10-17 cs.AI cs.LG
Learning from Irregularly-Sampled Time Series: A Missing Data Perspective
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
不规则采样的时间序列出现在包括医疗保健在内的许多领域。它们的建模可能具有挑战性,因为它们不会自然地产生许多标准机器学习模型所需的固定维度表示。本文从缺失数据的角度考虑不规则抽样问题。我们将观察到的不规则采样时间序列数据建模为从连续但未观察到的函数中采样的指数-值对序列。我们引入了一个编码器-解码器框架,用于从这样的通用索引序列中学习。我们提出了基于变分自编码器和生成对抗网络的学习方法。对于连续的不规则采样时间序列,我们引入了连续的卷积层,可以有效地与现有的神经网络架构接口。实验表明,与最近的RNN模型相比,我们的模型能够在不规则采样的多变量时间序列上实现有竞争力或更好的分类结果,同时提供更快的训练时间。
2020-08-17 cs.LG stat.ML
Temporal Dynamic Embedding for Irregularly Sampled Time Series
Anonymous Institution(匿名机构)
本文提出时间动态嵌入(TDE),将不规则采样时间序列变量建模为随时间演化的嵌入向量,通过选择性聚合观测子集表示患者状态,在三个临床数据集上以更短训练时间取得竞争性或更优性能。
2025-04-08 cs.AI cs.LG
Probabilistic Forecasting of Irregular Time Series via Conditional Flows
University of YYY(YYY大学);Institute of WWW(WWW研究院)
针对带缺失值的不规则多变量时间序列概率预测问题,提出基于条件归一化流的ProFITi模型,引入可逆三角注意力层等组件,在4个数据集上实现比此前最优模型高4倍的似然度。
2025-01-13 cs.LG stat.ML
LogSig-SSM: Time-Series Modelling with Multi-Scale Log-Signature Compression for State-Space Models
Imperial College London(伦敦帝国理工学院)
LogSig-SSM通过多尺度对数签名压缩长序列为令牌,结合选择性SSM,实现高效且鲁棒的时间序列建模,在多个基准上性能优异且训练更快、内存更省。
2026-10-06 cs.AI cs.LG
WaveGNN: Integrating Graph Neural Networks and Transformers for Decay-Aware Classification of Irregular Clinical Time-Series
WaveGNN通过结合图神经网络和衰减感知变换器,直接处理不规则临床时间序列,生成稀疏可解释图以提升分类性能和临床决策支持。
2025-12-17 cs.AI cs.LG
Investigating a Model-Agnostic and Imputation-Free Approach for Irregularly-Sampled Multivariate Time-Series Modeling
Virginia Tech(弗吉尼亚理工大学);Oak Ridge National Lab(橡树岭国家实验室);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出一种无需插值的模型无关方法MissTSM,用于不规则采样多变量时间序列建模,在高缺失率和无周期结构条件下表现优异。
2026-01-12 cs.AI cs.LG
PAITS: Pretraining and Augmentation for Irregularly-Sampled Time Series
Google Cloud AI Research(谷歌云人工智能研究院);Bayesian Health(贝叶斯健康)
针对现实中非规则采样、稀疏的时间序列数据,提出PAITS框架,结合NLP启发的预训练任务与增强方法及随机搜索筛选适配策略,可在多数据集多领域稳定提升预训练效果。
2023-08-25 cs.LG
Does Deep Learning REALLY Outperform Non-deep Machine Learning for Clinical Prediction on Physiological Time Series?
Ricoh Software Research Center (Beijing) Co., Ltd.(理光软件研究所(北京)有限公司);Japan Advanced Institute of Science and Technology (JAIST)(日本北陆先端科学技术大学院大学(JAIST));Yale University School of Medicine(耶鲁大学医学院);The Second Xiangya Hospital, Central South University(中南大学湘雅二医院)
机器学习已广泛用于医疗保健应用中,以近似复杂模型,用于临床诊断、预后和治疗。由于深度学习具有从时间序列中提取信息的出色能力,其在稀疏、不规则采样、多变量和不平衡生理数据上的真正能力尚未得到充分探索。在本文中,我们系统地研究了机器学习模型的性能的临床预测任务的基础上EHR,特别是生理时间序列。我们选择Physionet 2019挑战公共数据集来预测ICU病房的脓毒症结局。比较了10种基线机器学习模型,包括3种深度学习方法和7种非深度学习方法,这些方法通常用于临床预测领域。九个具有特定临床意义的评价指标用于评估模型的性能。此外,我们对训练数据集大小进行子采样,并使用学习曲线拟合来研究训练数据集大小对机器学习模型性能的影响。提出了生理时间序列数据的一般预处理方法,并利用骰子损失法处理数据集不平衡问题。结果表明,深度学习确实优于非深度学习,但有一定的条件:首先,使用一些特定的评估指标(AUROC、AUPRC、Sensitivity和FNR)进行评估,而不是其他指标;其次,训练数据集大小足够大(估计为数千量级)。
2022-11-11 cs.AI cs.LG
Improving Irregularly Sampled Time Series Learning with Dense Descriptors of Time
Universidade Federal de Goiás(戈亚斯联邦大学)
不规则采样时间序列的监督学习一直是机器学习方法面临的一个挑战,这是由于处理不规则时间间隔的障碍。近年来,一些文献提出了处理不规则性的递归神经网络模型,但大多数都依赖于复杂的机制来实现更好的性能。这项工作提出了一种新的方法来表示时间戳(小时或日期)作为密集的矢量使用正弦函数,称为时间嵌入。作为一种数据输入方法,它可以应用于大多数机器学习模型.该方法进行了评估与MIMIC III,不规则采样的时间序列的电子健康记录的数据集的两个预测任务。我们的测试显示了对基于LSTM和经典机器学习模型的改进,特别是对于非常不规则的数据。
2020-03-20 cs.LG stat.ML
Latent ODEs for Irregularly-Sampled Time Series
University of Toronto(多伦多大学);Vector Institute(向量研究所)
具有非均匀间隔的时间序列出现在许多应用中,并且难以使用标准递归神经网络(RNN)进行建模。我们将RNN推广为具有由常微分方程(ODE)定义的连续时间隐藏动态,我们称之为ODE-RNN。此外,我们使用ODE-RNNs来取代最近提出的Latent ODE模型的识别网络。ODE-RNN和潜在ODE都可以自然地处理观测之间的任意时间间隔,并且可以使用泊松过程显式地对观测时间的概率进行建模。我们通过实验证明,这些基于ODE的模型在不规则采样数据上的性能优于基于RNN的模型。
2019-07-08 cs.LG stat.ML
XTSFormer: Cross-Temporal-Scale Transformer for Irregular-Time Event Prediction in Clinical Applications
University of Florida(佛罗里达大学);Indiana University(印第安纳大学);Regenstrief Institute(雷根斯特里夫研究所)
提出 XTSFormer 模型,通过周期感知时间位置编码(FCPE)和分层多尺度时间注意力机制,有效解决临床 EHR 中不规则时间事件的多尺度交互与预测问题,在真实数据集上优于多种基线方法。
2024-12-18 cs.AI cs.LG
A scalable end-to-end Gaussian process adapter for irregularly sampled time series classification
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
我们提出了一个一般的框架,稀疏和不规则采样的时间序列的分类。这样的时间序列的属性可能导致基本时间过程的值的实质性不确定性,同时使得数据难以使用假定固定维度特征空间的标准分类方法来处理。为了解决这些挑战,我们提出了一个不确定性感知的分类框架,基于一个特殊的计算层,我们称为高斯过程适配器,可以连接不规则采样的时间序列数据的任何黑盒分类器使用梯度下降学习。我们展示了如何结合结构化内核插值框架和Lanczos近似方法来扩大所需的计算量,以及如何使用反向传播来区别性地训练高斯过程适配器与一些端到端的分类器。
2016-10-28 cs.LG stat.ML
A Survey on Principles, Models and Methods for Learning from Irregularly Sampled Time Series
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
不规则采样的时间序列数据自然出现在许多应用领域,包括生物学,生态学,气候科学,天文学和健康。由于观测之间存在不均匀的间隔,这些数据对来自机器学习和统计学的许多经典模型提出了根本性的挑战。然而,在过去十年中,机器学习社区在开发用于从不规则采样的单变量和多变量时间序列数据中学习的专用模型和架构方面取得了重大进展。在本调查中,我们首先描述了几个轴,沿着这些轴,从不规则采样的时间序列中学习的方法不同,包括它们基于什么样的数据表示,它们利用什么样的建模原语来处理不规则采样的基本问题,以及它们被设计来执行什么样的推理任务。然后,我们调查最近的文献组织主要沿轴建模原语。我们描述了基于时间离散化,插值,递归,注意力和结构不变性的方法。我们讨论了方法之间的相似性和差异,并强调主要的优点和缺点。
2021-01-05 cs.LG stat.ML
Warpformer: A Multi-scale Modeling Approach for Irregular Clinical Time Series
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Microsoft Research Asia(微软亚洲研究院)
针对不规则临床时间序列的序列内不规则性与序列间差异性问题,提出包含定制输入表示、扭曲模块及多尺度注意力机制的Warpformer方法,在多个基准上取得优于现有SOTA的性能。
2023-06-14 cs.AI cs.LG
Interpolation-Prediction Networks for Irregularly Sampled Time Series
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
在本文中,我们提出了一种新的深度学习架构,用于解决具有稀疏和不规则采样的多变量时间序列的监督学习问题。该架构是基于使用一个半参数插值网络,其次是预测网络的应用程序。插值网络允许在插值阶段跨多变量时间序列的多个维度共享信息,而任何标准的深度学习模型都可以用于预测网络。这项工作的动机是分析电子健康记录中的生理时间序列数据,这些数据是稀疏的,不规则采样的,多变量的。我们研究了这种架构在分类和回归任务上的性能,表明我们的方法优于一系列基线和最近提出的模型。
2019-09-13 cs.LG stat.ML
Forecasting Irregularly Sampled Time Series using Graphs
University of Hildesheim(希尔德斯海姆大学);TU Berlin(柏林工业大学)
本文提出 GraFITi 模型,将不规则采样时间序列转换为稀疏二分图,利用图神经网络进行边权重预测,在多个数据集上实现准确率最高提升 17%、运行时间最多减少 5 倍。
2023-08-10 cs.LG
Time Series as Images: Vision Transformer for Irregularly Sampled Time Series
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文将不规则采样时间序列转换为折线图图像,并用预训练 vision transformer 分类,以简单通用框架在多个数据集上超越专门方法,并在传感器缺失场景中展现强鲁棒性。
2023-10-30 cs.AI cs.CV cs.LG
Forecasting in multivariate irregularly sampled time series with missing values
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Almaden Research Center(IBM阿尔马登研究中心)
稀疏和不规则采样的多变量时间序列在临床、气候、金融和许多其他领域中很常见。最新的方法侧重于对此类数据的分类、回归或预测任务。在预测中,不仅要预测正确的值,而且要预测该值何时会出现在不规则的时间序列中。在这项工作中,我们提出了一种方法来预测不仅值,而且在他们预计将发生的时间。
2020-04-06 cs.DB cs.LG stat.ML
Time-Parameterized Convolutional Neural Networks for Irregularly Sampled Time Series
École Polytechnique, IP Paris(巴黎理工学院)
本文提出时间参数化卷积神经网络(TPCNN),通过时间显式初始化的卷积核处理不规则采样时间序列,在插值和分类任务上取得竞争性能且效率显著优于现有方法。
2023-08-09 cs.LG
Deep Convolution for Irregularly Sampled Temporal Point Clouds
Oregon State University(俄勒冈州立大学)
我们认为,通过空间和时间的不规则样本表示的连续时空过程的动态建模的问题。这样的过程发生在传感器网络、公民科学、多机器人系统和许多其他系统中。我们提出了一种新的深度模型,该模型能够直接学习和预测这种不规则采样的数据,而无需体素化,通过利用最近的静态点云卷积架构。该模型还很容易将多个实体的概念纳入流程。特别是,该模型可以灵活地回答关于不同实体的任意时空点的预测查询,而不管训练或测试时间数据的分布如何。我们在星际争霸II中展示了真实世界气象站数据和大型军队之间的战斗实验。结果表明,该模型的灵活性,在回答各种查询类型,并证明提高性能和效率相比,最先进的基线。
2021-05-01 cs.LG
FlowPath: Learning Data-Driven Manifolds with Invertible Flows for Robust Irregularly-sampled Time Series Classification
Medical & Imaging Informatics (MII) Group, University of California, Los Angeles (UCLA), CA, USA(加州大学洛杉矶分校医学与影像信息学组);Department of Industrial Engineering, Ulsan National Institute of Science and Technology (UNIST), Republic of Korea(韩国蔚山科学技术院工业工程系);Artificial Intelligence Graduate School, Ulsan National Institute of Science and Technology (UNIST), Republic of Korea(韩国蔚山科学技术院人工智能研究生院)
FlowPath通过可逆神经流学习控制路径的几何结构,提升不规则采样时间序列分类的鲁棒性,实验表明其在18个基准数据集和实际案例中均优于传统方法。
2026-07-02 cs.AI cs.LG
Cubic Spline Smoothing Compensation for Irregularly Sampled Sequences
University of Rochester(罗切斯特大学);Stony Brook University(石溪大学)
递归神经网络和神经常微分网络的结合(ODE-RNN)是对不规则观测序列建模的有效方法。常微分方程在观测区间之间产生平滑的隐状态,而RNN在新观测到达时会触发隐状态跳跃,从而导致插值不连续问题。为了解决这个问题,我们提出了三次样条平滑补偿,它是一个独立的模块,可以根据ODE-RNN的输出或隐藏状态进行端到端训练。我们推导出了它的解析解并给出了它的理论插值误差界。大量的实验表明,它的优点比ODE-RNN和三次样条插值。
2020-10-03 cs.LG stat.ML
Learning Continuous System Dynamics from Irregularly-Sampled Partial Observations
University of California, Los Angeles(加州大学洛杉矶分校)
许多现实世界的系统,如移动的行星,可以被认为是多智能体动态系统,其中对象相互作用并随着时间共同进化。这样的动态通常是难以捕捉的,和理解和预测的动力学的基础上观察到的轨迹的对象成为一个关键的研究问题在许多领域。然而,大多数现有的算法,假设观察定期采样,所有的对象可以完全观察到在每个采样时间,这是不切实际的许多应用。在本文中,我们提出学习系统动力学的不规则采样的部分观测与底层图结构的第一次。为了解决上述问题,我们提出了LG-ODE,一个潜在的常微分方程生成模型建模多智能体动态系统与已知的图结构。它可以同时学习高维轨迹的嵌入和推断连续的潜在系统动力学。我们的模型采用了一种新的编码器参数化的图神经网络,可以推断初始状态在无监督的方式从不规则采样的部分观察结构对象,并利用neuralODE推断任意复杂的连续时间的潜在动态。在运动捕捉、弹簧系统和带电粒子数据集上的实验证明了该方法的有效性。
2020-11-08 cs.LG stat.ML
Temporal Graph ODEs for Irregularly-Sampled Time Series
University of Pisa(比萨大学);The Swiss AI Lab IDSIA(瑞士人工智能实验室IDSIA);Università della Svizzera italiana(瑞士意大利语大学);Politecnico di Milano(米兰理工大学)
针对不规则采样的时间图流,本文提出 TG-ODE 框架,通过联合建模连续时间与空间动态,在多个图基准上达到最先进性能。
2024-04-30 cs.LG
Irregularly-Sampled Time Series Modeling with Spline Networks
Technical University of Munich(慕尼黑工业大学)
在连续时间内进行的观测通常是不规则的,并且包含不同通道的缺失值。处理缺失数据的一种方法是使用样条函数,通过将分段多项式拟合到观测值来对其进行插补。我们建议使用样条作为神经网络的输入,特别是,直接应用插值函数上的转换,而不是在网格上采样点。为了做到这一点,我们设计了可以对样条进行操作的层,这些层类似于它们的离散对应层。这使我们能够表示不规则序列的复杂性,并在分类和预测等下游任务中使用这种表示。我们的模型提供了竞争力的性能相比,现有的方法无论是在精度和计算效率。
2022-10-19 cs.LG
Learning Long-Term Dependencies in Irregularly-Sampled Time Series
IST Austria(奥地利科学技术研究所);TU Wien(维也纳工业大学);MIT(麻省理工学院)
具有连续时间隐藏状态的递归神经网络(RNN)非常适合对不规则采样的时间序列进行建模。然而,当输入数据具有长期依赖性时,这些模型面临困难。我们证明,与标准RNN类似,这个问题的根本原因是训练过程中梯度的消失或爆炸。这种现象由隐藏状态的常微分方程(ODE)表示来表示,而不管ODE求解器的选择。我们通过设计一种基于长短期记忆(LSTM)的新算法来提供解决方案,该算法将其记忆与其时间连续状态分离。通过这种方式,我们在RNN中编码了一个连续时间动态流,允许它响应于在任意时滞到达的输入,同时确保通过内存路径的恒定错误传播。我们称这些RNN模型为ODE-LSTM。我们的实验表明,ODE-LSTM在具有长期依赖性的非均匀采样数据上优于基于RNN的高级同行。所有代码和数据都可以在https://github.com/mlech26l/ode-lstms上找到。
2020-12-04 cs.LG stat.ML
CKConv: Continuous Kernel Convolution For Sequential Data
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学)
传统的神经结构的顺序数据提出了重要的限制。递归网络遭受爆炸和消失的梯度,小的有效记忆范围,必须按顺序训练。卷积网络无法处理未知大小的序列,并且它们的记忆范围必须事先定义。在这项工作中,我们证明了所有这些问题都可以通过将CNN中的卷积核公式化为连续函数来解决。由此产生的连续核卷积(CKConv)允许我们在单个操作中以并行方式对任意长的序列进行建模,而不依赖于任何形式的递归。我们证明了连续核卷积网络(CKCNN)在多个数据集中获得了最先进的结果,例如,排列的MNIST,并且由于它们的连续性质,能够原生地处理非均匀采样数据集和不规则采样数据。CKCNN以更快、更简单的方式匹配或表现优于为这些目的设计的神经ODE。
2022-03-17 cs.LG
Unleashing The Power of Pre-Trained Language Models for Irregularly Sampled Time Series
HKUST(GZ)(香港科技大学(广州))
本文首次探索预训练语言模型在不规则采样时间序列分析中的潜力,提出统一框架ISTS-PLM,结合时间感知与变量感知PLM,在多个任务和科学领域取得最先进性能。
2025-06-05 cs.AI cs.LG stat.AP
MuSiCNet: A Gradual Coarse-to-Fine Framework for Irregularly Sampled Multivariate Time Series Analysis
MIIT Key Laboratory of Pattern Analysis and Machine Intelligence(工信部模式分析与机器智能重点实验室)
针对不规则采样多元时间序列,本文提出由粗到细的多尺度多相关注意力框架MuSiCNet,通过尺度内注意力与相关建模、跨尺度对比和重建校正,在三类任务上达到SOTA竞争力。
2024-12-02 cs.LG stat.ML
Modeling Irregularly Sampled Clinical Time Series
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
虽然电子健康记录(EHR)数据量持续增长,但医院系统捕获密集的生理数据流仍然很少,即使在数据丰富的重症监护室环境中也是如此。相反,典型的EHR记录由稀疏和不规则观测的多变量时间序列组成,这被很好地理解为对机器学习方法提出了特别具有挑战性的问题。在本文中,我们提出了一种新的深度学习架构来解决这个问题,该架构基于使用半参数插值网络,然后应用预测网络。插值网络允许在插值阶段跨多个维度共享信息,而任何标准的深度学习模型都可以用于预测网络。我们调查的性能,这种架构的死亡率和住院时间预测的问题。
2018-12-03 cs.LG stat.ML
TRIAGE: Dialectical LLM Reasoning for Explainable Risk Prediction on Irregularly Sampled Medical Time Series
KAIST(韩国科学技术院);AITRICS;University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
提出TRIAGE框架,利用大语言模型对竞争性临床结果生成辩证推理,缓解风险极化,实现连续风险评分与可解释推理,在三个基准上AUPRC提升3.3%,校准误差降低81%。
2026-10-02 cs.AI cs.CL cs.LG
Functional Latent Dynamics for Irregularly Sampled Time Series Forecasting
University of Hildesheim(希尔德斯海姆大学);VWFS Data Analytics Research Center(大众金融服务数据分析研究中心)
本文提出函数型潜在动力学(FLD)模型,用简单曲线代替常微分方程建模不规则采样时间序列的连续潜在状态,在提升预测性能的同时大幅降低推理时间和内存开销。
2024-10-03 cs.LG
CALM-PDE: Continuous and Adaptive Convolutions for Latent Space Modeling of Time-dependent PDEs
Machine Learning and Simulation Lab(机器学习与仿真实验室);Institute for Artificial Intelligence(人工智能研究所);University of Stuttgart(斯图加特大学);International Max Planck Research School for Intelligent Systems (IMPRS-IS)(智能系统国际马克斯·普朗克研究学校);Stuttgart Center for Simulation Science (SimTech)(斯图加特模拟科学中心)
CALM-PDE提出连续自适应卷积的编码器-解码器架构,在压缩潜空间中高效求解任意离散化的含时偏微分方程,兼顾内存与推理效率,性能优于或媲美基线。
2025-10-23 cs.AI cs.CV cs.LG
FuseFi: Combining Irregularly Sampled CSI from Diverse Communication Packets and Frequency Bands for Wi-Fi Sensing
ECE, UCLA(电子工程系,加州大学洛杉矶分校)
UniFi通过不规则采样CSI实现无侵入式Wi-Fi感知,结合异构数据包处理与时间感知注意力模型,提升感知精度并保持通信效率。
2026-09-17 cs.LG eess.SP
ALRt: An Active Learning Framework for Irregularly Sampled Temporal Data
Emory University(埃默里大学)
脓毒症是一种致命的疾病,影响着医院里的许多病人。最近的研究表明,诊断为脓毒症的患者具有显著的死亡率和发病率,这是由于机体对感染的功能失调的宿主反应。临床医生通常依靠使用序贯器官衰竭评估(SOFA)、全身炎症反应综合征(SIRS)和改良早期预警评分(MEWS)来识别需要进一步检查和治疗的临床恶化的早期体征。然而,这些工具中的许多是手动计算的,并且不是为自动计算而设计的。已经有不同的方法用于开发脓毒症发作模型,但是这些模型中的许多模型必须在足够数量的患者观察上进行训练,以便形成准确的脓毒症预测。此外,脓毒症患者的准确注释是一个主要的持续挑战。在本文中,我们提出了使用主动学习递归神经网络(ALRts)的短期视野,以提高不规则采样的时间事件,如败血症的预测。我们表明,在有限的数据上训练的主动学习RNN模型可以形成与使用整个训练数据集的模型相当的稳健的脓毒症预测。
2022-12-13 cs.LG stat.AP
Learning to Diagnose with LSTM Recurrent Neural Networks
University of California, San Diego(加州大学圣地亚哥分校);University of Southern California(南加州大学);Children’s Hospital Los Angeles(洛杉矶儿童医院)
临床医学数据,特别是在重症监护病房(ICU),由多变量时间序列的观察。对于每次患者访视(或发作),传感器数据和实验室测试结果记录在患者的电子健康记录(EHR)中。虽然这些数据可能包含丰富的见解,但由于长度不一、抽样不规则和数据缺失,很难有效挖掘。循环神经网络(RNN),特别是那些使用长短期记忆(LSTM)隐藏单元的网络,是从序列数据中学习的强大且日益流行的模型。它们有效地对不同长度的序列进行建模,并捕获长范围的依赖性。我们提出的第一项研究,经验性地评估LSTM识别模式的临床测量的多变量时间序列的能力。具体来说,我们考虑诊断的多标签分类,训练一个模型来对128个诊断进行分类,给出13个频繁但不规则采样的临床测量结果。首先,我们建立了一个简单的LSTM网络对临床数据建模的有效性。然后,我们展示了一种简单有效的训练策略,在该策略中,我们在每个序列步骤复制目标。仅在原始时间序列上训练,我们的模型优于几个强大的基线,包括在手工设计的特征上训练的多层感知器。
2017-03-21 cs.LG
Beyond Observations: Reconstruction Error-Guided Irregularly Sampled Time Series Representation Learning
针对现有不规则采样时间序列建模方法忽略重构误差学习信号的问题,提出自监督预训练框架iTimER,利用重构误差生成伪观测值并结合分布对齐与对比学习,在三类任务上性能超越现有最优方法。
2025-11-15 cs.LG stat.ML
Physiome-ODE: A Benchmark for Irregularly Sampled Multivariate Time Series Forecasting Based on Biological ODEs
ISMLL & VWFS DARC University of Hildesheim(ISMLL与VWFS DARC海德堡大学);University of Hildesheim(海德堡大学);Institute of Mathematics TU Berlin(柏林技术大学数学研究所);DARC University of Hildesheim(DARC海德堡大学)
针对现有基准数据集少且ODE模型表现不佳的问题,提出基于真实生物ODE生成不规则采样多元时间序列的方法,构建包含50个数据集的Physiome-ODE基准,证明ODE模型在该基准上能发挥优势并有效区分不同预测模型。
2026-05-22 cs.LG
Scalable Linear Causal Inference for Irregularly Sampled Time Series with Long Range Dependencies
UC Berkeley(加州大学伯克利分校);Inst. of Transportation Studies(交通研究所)
线性因果分析是金融、物理科学和工程等广泛重要应用的核心。现有的线性因果分析的文献大多是在时域中进行的。不幸的是,时域线性因果分析的直接应用到许多现实世界的时间序列提出了三个关键的挑战:不规则的时间采样,长范围的依赖性,和规模。此外,现实世界的数据往往是在不规则的时间间隔收集在分散的传感器和大范围的依赖关系,使天真的时域相关估计虚假的巨大阵列。在本文中,我们提出了一个基于频域的估计框架,自然处理不规则的采样数据和长范围的依赖关系,同时使内存和通信有效的分布式处理的时间序列数据。通过在频域中操作,我们消除了插值的需要,并有助于减轻长范围依赖性的影响。我们使用Apache Spark在分布式环境中实现和评估我们的新工作流程,并在Monte Carlo模拟和高频金融交易中证明我们可以准确地恢复因果结构。
2016-03-10 cs.LG stat.ME
MUSE-Net: Missingness-aware mUlti-branching Self-attention Encoder for Irregular Longitudinal Electronic Health Records
Charles F. Dolan School of Business, Fairfield University(费尔菲尔德大学查尔斯·F·多兰商学院);The University of Tennessee(田纳西大学);Oklahoma State University(俄克拉荷马州立大学)
针对电子健康记录中不规则时间序列、数据缺失与不平衡的挑战,提出MUSE-Net模型,结合多任务高斯过程填补、多分支架构、时间感知自注意力与可解释机制,在疾病预测上优于现有方法。
2025-03-05 cs.LG
SDE-Attention: Latent Attention in SDE-RNNs for Irregularly Sampled Time Series with Missing Data
School of Mathematics and Statistics(数学与统计学学院);UNSW Sydney(新南威尔士大学悉尼分校);School of Computer Science and Engineering(计算机科学与工程学院)
SDE-Attention通过引入潜变量注意力机制,提升SDE-RNN在不规则采样时间序列中处理缺失数据的性能,尤其在高缺失率下表现优异。
2025-11-28 cs.LG
Forecasting West Nile Virus with Graph Neural Networks: Harnessing Spatial Dependence in Irregularly Sampled Geospatial Data
Department of Statistics, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校统计系);Department of Statistics, Texas A&M University(德克萨斯A&M大学统计系);Department of Pathobiology, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校病理生物学系)
本文提出由 GraphSAGE 层构成的空间感知图神经网络,对伊利诺伊州不规则采样地理空间数据中的西尼罗河病毒存在情况进行预测,并证明其优于逻辑回归、XGBoost 和全连接神经网络等基线。
2022-12-21 cs.LG q-bio.PE q-bio.QM
A Review of Deep Learning Methods for Irregularly Sampled Medical Time Series Data
Key Laboratory of Machine Perception (Ministry of Education), Peking University(北京大学教育部机器感知重点实验室);School of Electronics Engineering and Computer Science, Peking University(北京大学电子工程与计算机科学学院);National Institute of Health Data Science, Peking University(北京大学国家健康数据科学研究院);Institute of Medical Technology, Health Science Center, Peking University(北京大学医学部医学技术研究所)
不规则采样时间序列(ISTS)数据具有不规则的观测时间间隔和不同的采样率。ISTS通常出现在医疗保健,经济学和地球科学中。特别是在医疗环境中,广泛使用的电子健康档案(EHR)中含有大量典型的不规则采样医疗时间序列(ISMTS)数据。在EHR数据上开发深度学习方法对于个性化治疗、精确诊断和医疗管理至关重要。然而,直接将深度学习模型用于ISMTS数据具有挑战性。一方面,ISMTS数据具有系列内和系列间的关系。地方和全球结构都应予以考虑。另一方面,方法应考虑任务精度和模型复杂性之间的权衡,并保持通用性和可解释性。到目前为止,已有的许多工作都试图解决上述问题,并取得了良好的效果。本文从技术和任务的角度对这些深度学习方法进行了综述。在技术驱动的视角下,我们将其归纳为两类:基于缺失数据的方法和基于原始数据的方法。在任务驱动的视角下,我们还将其归纳为两大类--数据估算导向型和下游任务导向型。对于每一种方法,我们都指出了它们的优点和缺点。此外,我们实现了一些有代表性的方法,并在四个医疗数据集上进行了比较。最后,我们讨论了这一领域的挑战和机遇。
2020-10-26 cs.LG stat.ML
Unsupervised Online Anomaly Detection On Irregularly Sampled Or Missing Valued Time-Series Data Using LSTM Networks
Bilkent University(比尔肯特大学);DataBoss A.S.(DataBoss公司)
我们研究异常检测,并介绍了一种算法,处理可变长度,不规则采样序列或序列缺失值。我们的算法是完全无监督的,但是,可以很容易地扩展到监督或半监督的情况下,异常标签存在的整个文件。我们的方法使用长短期记忆(LSTM)网络来提取时间特征,并找到最相关的特征向量进行异常检测。我们通过使用时间调制门来调制标准LSTM模型,将采样时间信息纳入我们的模型。从LSTM中获得最相关的特征后,我们使用支持向量数据描述符(SVDD)模型标记序列。我们引入了一个损失函数,然后联合优化的特征提取和序列处理机制,在一个端到端的方式。通过这种联合优化,LSTM提取了最相关的异常检测特征,随后用于SVDD,因此完全消除了通过专家知识进行特征选择的需要。此外,我们还为在线设置提供了一个训练算法,当新数据到达时,我们使用单个序列优化模型参数。最后,在现实生活中的数据集上,我们表明,由于LSTM与SVDD和联合优化的结合,我们的模型显着优于标准方法。
2020-05-25 cs.LG stat.ML
Automatic Classification of Irregularly Sampled Time Series with Unequal Lengths: A Case Study on Estimated Glomerular Filtration Rate
East Kent Hospital(东肯特医院)
患者的估计肾小球滤过率(eGFR)可以提供有关疾病进展和肾功能的重要信息。传统上,eGFR时间序列由人类专家解释,将其标记为稳定或不稳定。虽然这种方法适用于个体患者,但其耗时的性质妨碍了对大量患者的风险进行快速评估。然而,自动化这一过程带来了巨大的挑战,因为eGFR测量通常以不规则的间隔记录,并且患者之间的一系列测量长度不同。在这里,我们提出了一个双层系统来自动分类eGFR趋势。首先,我们使用高斯过程回归(GPR)的时间序列建模,以填补“空白”通过重新定义一个固定大小的向量的50个时间相关的观测。其次,我们使用K-NN/SVM分类器对重新采样的eGFR时间序列进行分类,并通过5倍交叉验证评估其性能。使用这种方法,我们获得了0.90的F分数,而5名人类专家在他们之间评分时为0.96。
2016-05-17 cs.CE cs.LG
Graph Neural Flows for Unveiling Systemic Interactions Among Irregularly Sampled Time Series
HES-SO Genève(日内瓦高等教育学院);University of Manchester(曼彻斯特大学);Idiap Research Institute(伊迪亚普研究所);NBC, CRUK Manchester Institute(英国癌症研究中心曼彻斯特研究所(NBC));MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
针对非均匀采样时间序列的系统交互建模难题,提出结合有向无环图条件依赖建模与连续时间ODE模型的图神经流方法,在分类、预测任务上性能优于现有图与非图基线方法。
2024-10-30 cs.CL cs.LG
Uncovering delayed patterns in noisy and irregularly sampled time series: an astronomy application
Autonomous University of San Luis Potosi(圣路易斯波托西自治大学);University of Birmingham(伯明翰大学);Helsinki University of Technology(赫尔辛基理工大学)
我们研究的问题,估计两个信号之间的时间延迟表示延迟,不规则采样和嘈杂的版本相同的基本模式。我们提出并证明了一个进化算法的(超)参数估计的内核为基础的技术的背景下,天文问题,即估计两个引力透镜信号之间的时间延迟从遥远的类星体。混合类型(整数和实数)用于表示进化算法中的变量。我们测试了几个人工数据集上的算法,也对类星体Q0957+561的真实天文观测。通过对结果进行统计分析,我们提出了一个详细的比较,我们的方法与最流行的方法在天体物理学的时间延迟估计。我们的方法产生了更准确和更稳定的时间延迟估计:对于Q0957+561,我们获得了图像A和B之间的时间延迟为419.6天。我们的方法可以很容易地应用到当前国家的最先进的天文学光学监测数据,但也可以应用于其他学科涉及类似的时间序列数据。
2009-08-25 astro-ph.CO astro-ph.IM cs.LG
DeepAJM: Deep Association Joint Model for Irregularly Sampled data
针对参数化联合模型依赖强假设且易偏差的问题,提出无需参数假设的深度联合模型DeepAJM,利用编码器-解码器学习纵向轨迹并通过可解释关联结构提升生存预测,在三个数据集上取得了最佳判别性能。
2026-10-08 cs.AI cs.LG stat.AP
TimeCHEAT: A Channel Harmony Strategy for Irregularly Sampled Multivariate Time Series Analysis
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
针对不规则采样多元时间序列,提出局部通道相关、全局通道独立的和谐策略,并构建TimeCHEAT模型,在三个主流任务上取得SOTA性能。
2024-12-17 cs.LG