CTIA-ODE: Continuous-Time Inter-Variable Attention for Long-Term Time Series Forecasting
UGOD, HKUST-GZ(香港科技大学(广州));School of Software, Yunnan University(云南大学软件学院);UGOD, The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文针对多变量时间序列预测中离散架构难以捕捉连续外部效应的问题,提出CTIA-ODE框架,嵌入CTIA至ODE求解器并引入双稳定策略,经8个数据集验证其在多场景下性能最优且精度效率权衡良好。
2026-10-20 cs.LG
ODEStream: A Buffer-Free Online Learning Framework with ODE-based Adaptor for Streaming Time Series Forecasting
RMIT University(皇家墨尔本理工大学);University of New South Wales(新南威尔士大学)
本文提出ODEStream无缓冲持续学习框架,结合时间隔离层与神经常微分方程处理不规则流式时间序列,通过学习序列动态变化实现优于现有在线学习基线的长期准确预测。
2025-04-09 cs.LG
U-Former ODE: Fast Probabilistic Forecasting of Irregular Time Series
Applied AI Institute(应用人工智能研究所)
U-Former ODE通过整合U-Net、Transformer和Neural CDE的优势,实现快速且准确的不规则时间序列概率预测。
2026-02-12 cs.LG
Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs
Monash University(莫纳什大学);La Trobe University(乐卓博大学);Shanghai Jiao Tong University(上海交通大学);East China Normal University(华东师范大学);Griffith University(格里菲斯大学)
多变量时间序列预测长期以来在实际应用中受到了极大的关注,例如能源消耗和交通预测。虽然最近的方法表现出良好的预测能力,但它们有三个基本限制。(i)离散神经架构:交错单独参数化的空间和时间块编码丰富的底层模式,导致不连续的潜在状态轨迹和更高的预测数值误差。(ii)高复杂性:离散方法使用专用设计和冗余参数使模型复杂化,从而导致更高的计算和内存开销。(iii)依赖于图先验:依赖于预定义的静态图结构限制了它们在实际应用中的有效性和实用性。在本文中,我们提出了一个连续的模型来预测$\textbf{M}$多元$\textbf{T}$时间序列与动态$\textbf{G}$神经$\textbf{O}$常规$\textbf{D}$ $\textbf{E}$方程($\texttt{MTGODE}$)的所有上述限制。具体来说,我们首先将多元时间序列抽象为具有随时间演变的节点特征和未知图结构的动态图。然后,我们设计并解决了一个神经ODE,以补充缺失的图拓扑结构,并统一空间和时间消息传递,允许更深层次的图传播和细粒度的时间信息聚合,以表征稳定和精确的潜在时空动态。我们的实验证明了$\texttt{MTGODE}$的优越性,从不同的角度对五个时间序列基准数据集。
2022-11-23 cs.LG
ClimODE: Climate and Weather Forecasting with Physics-informed Neural ODEs
Aalto University(阿尔托大学);YaiYai Ltd(YaiYai有限公司)
本文提出 ClimODE,将平流物理引入连续时间神经 ODE,以守恒神经流建模全球天气演变并支持不确定性估计,以少一个数量级的参数取得全球与区域预报新 SOTA。
2024-04-15 cs.AI cs.ET cs.LG
Functional Latent Dynamics for Irregularly Sampled Time Series Forecasting
University of Hildesheim(希尔德斯海姆大学);VWFS Data Analytics Research Center(大众金融服务数据分析研究中心)
本文提出函数型潜在动力学(FLD)模型,用简单曲线代替常微分方程建模不规则采样时间序列的连续潜在状态,在提升预测性能的同时大幅降低推理时间和内存开销。
2024-10-03 cs.LG
Multipath Adaptive Gated Bottleneck Latent ODE with Raman Data Fusion for Cell Culture Process Forecasting
Complex Adaptive Systems Laboratory, The Data Science Institute, University of Technology Sydney(悉尼科技大学数据科学研究所复杂自适应系统实验室);CSL Innovation(CSL创新公司)
提出结合门控瓶颈潜在ODE与多路径即时微调的框架,通过拉曼光谱数据融合解决哺乳动物细胞培养过程中稀疏、不规则采样下的早期预测问题,在38批实验中优于基线模型。
2026-07-07 cs.AI cs.CE cs.LG
Neural Chronos ODE: Unveiling Temporal Patterns and Forecasting Future and Past Trends in Time Series Data
Centre of Mathematics, University of Minho(米尼奥大学数学中心)
本文提出神经时间序常微分方程(Neural CODE)架构,通过连续时间ODE拟合实现时间序列的前向和后向预测,并探索与RNN的结合变体;实验表明其在稀疏数据下优于Neural ODE,且双向变体在插补和外推任务上表现最佳。
2023-07-03 cs.LG
Observable Neural ODEs for Identifiable Causal Forecasting in Continuous Time
Department of Computer Science(计算机科学系)
本文提出可观测的神经ODEs模型,通过连续时间调整公式实现因果可识别,利用观测数据预测不同治疗路径的结果,实验显示在合成癌症数据、半合成数据和真实脓毒症数据上表现优异。
2026-10-07 cs.LG math.OC math.ST
Forecasting Black Sigatoka Infection Risks with Latent Neural ODEs
University of Toronto(多伦多大学)
黑香蕉叶斑病严重降低了全球香蕉产量,气候变化通过改变真菌物种分布使问题更加严重。由于管理这种传染病的沉重财政负担,发展中国家的农民面临着严重的香蕉作物损失。尽管科学家已经建立了传染病的数学模型,但调整这些模型以纳入气候影响是困难的。我们提出了MR. NODE(多预测神经ODE),一个神经网络,通过神经常微分方程直接从数据中学习的黑色Sigatoka感染的动态模型。除了我们推断的变量之外,我们的方法还将外部预测因子编码到潜在空间中,并且它还可以预测任意时间点的感染风险。从经验上讲,我们在历史气候数据上证明,我们的方法在未来一个月的时间点和不可见的不规则性上具有优越的泛化性能。我们相信,我们的方法可以成为一个有用的工具,以控制黑色Sigatoka的蔓延。
2021-01-10 cs.LG stat.ML
Stabilized Neural Ordinary Differential Equations for Long-Time Forecasting of Dynamical Systems
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Argonne National Laboratory(阿贡国家实验室)
在时空现象的数据驱动建模中,在捕获高波数的动力学时经常需要仔细考虑。当感兴趣的系统表现出冲击或混沌动力学时,这个问题变得特别具有挑战性。我们提出了一种数据驱动的建模方法,通过提出一种新的架构,稳定的神经常微分方程(ODE),准确地捕捉冲击和混沌动力学。在我们提出的架构中,我们通过将两个NN的输出相加来学习ODE的右手边(RHS),其中一个学习线性项,另一个学习非线性项。具体来说,我们通过训练稀疏线性卷积NN来学习线性项,训练密集全连接非线性NN来学习非线性项。这与标准神经ODE形成对比,标准神经ODE仅涉及训练用于学习RHS的单个NN。我们将这种设置应用于粘性Burgers方程,该方程具有冲击行为,并且在高波数下比标准神经ODE具有更好的短时间跟踪和预测能量谱。我们还发现,稳定的神经ODE模型是更强大的噪声初始条件比标准的神经ODE方法。我们也将这种方法应用于Kuramoto-Sivashinsky方程的混沌轨道。在这种情况下,稳定的神经ODE在吸引子上保持长时间的轨迹,并且对噪声初始条件具有高度鲁棒性,而标准神经ODE无法实现这些结果中的任何一个。最后,我们展示了如何稳定神经常微分方程提供了一个自然的扩展,用于降阶建模,通过投影的动态学习线性项的特征向量。
2022-10-04 cs.LG
BULL-ODE: Bullwhip Learning with Neural ODEs and Universal Differential Equations under Stochastic Demand
Columbia University (Prior)(哥伦比亚大学(前));Vizuara AI Labs(Vizuara AI实验室)
本文通过对比神经常微分方程与物理信息通用微分方程在三种随机需求机制下的库存动态预测,发现轻尾或自相关需求下结构约束的 UDE 泛化更优,而重尾极端事件下 NODE 更灵活,为混合建模中何时强制或放宽结构提供了具体指导。
2025-09-09 cs.AI cs.LG
BrainDyn: A Sheaf Neural ODE for Forecasting and Generating Brain Dynamics
Yale University(耶鲁大学);Boise State University(博伊西州立大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出BrainDyn,一种基于sheaf神经ODE的模型,用于生成脑动态,通过LSTM编码脑区活动历史,利用sheaf拉普拉斯算子促进信息传递,实现跨模态的强预测能力。
2026-10-15 cs.LG
Learning and Forecasting Multiscale Spatiotemporal Epidemic Dynamics with Lagrangian-Eulerian Graph Neural ODEs
提出LE-EpiGNODE模型,用拉格朗日-欧拉分解的机制引导神经算子替代通用消息传递,在14种合成机制、3种COVID-19场景等评估中,长程预测误差较最佳基线降低17.7%-40.0%,实现可靠长程流行病预测。
2026-10-16 cs.LG
Series Saliency: Temporal Interpretation for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
时间序列预测是一项重要而又具有挑战性的任务。虽然最近开发了深度学习方法来提供更好的预测结果,但提高时间序列模型的可解释性至关重要。以往的解释方法,包括一般的神经网络方法和基于注意力的方法,主要考虑特征维度的解释,而忽略了关键的时间维度。本文提出了多元时间序列预测时间解释的序列显著性框架,该框架考虑了特征和时间两个维度的预测解释。通过从时间序列的滑动窗口中提取“序列图像”,我们应用显著图分割遵循最小破坏区域的原则。序列显着性框架可以用于任何定义良好的深度学习模型,并作为数据增强来获得更准确的预测。几个真实数据集上的实验结果表明,我们的框架产生的时间序列预测任务的时间解释,同时产生准确的时间序列预测。
2020-12-16 cs.AI cs.LG
RPMixer: Shaking Up Time Series Forecasting with Random Projections for Large Spatial-Temporal Data
Visa Research(Visa研究中心)
本文提出全 MLP 架构 RPMixer,通过随机投影层增强残差模块输出多样性,使不依赖空间关系的通用时间序列模型在大型时空预测基准上超过图模型与通用预测方法。
2024-06-12 cs.AI cs.LG
Scientific machine learning in ecological systems: A study on the predator-prey dynamics
RCC Institute of Information Technology(RCC信息技术学院);Vizuara AI Labs(Vizuara人工智能实验室)
本研究将Neural ODEs和UDEs应用于Lotka-Volterra捕食者-猎物模型,发现在数据量少或高噪声环境下UDEs表现更优,并引入预报崩溃点,为生态预报提供了新方法。
2024-11-11 cs.AI cs.LG stat.ML
DSTCGCN: Learning Dynamic Spatial-Temporal Cross Dependencies for Traffic Forecasting
Zhejiang University(浙江大学)
提出DSTCGCN动态时空交叉图卷积网络,通过基于FFT的注意力选择器和动态交叉图构建模块联合学习时空交叉依赖,在六个真实数据集上实现最优交通预测性能。
2023-07-02 cs.AI cs.LG
MTS-Mixers: Multivariate Time Series Forecasting via Factorized Temporal and Channel Mixing
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Huawei Technologies Ltd.(华为技术有限公司)
多元时间序列预测在各种实际场景中得到了广泛的应用。最近,由于捕获了长期依赖关系,基于Transformer的模型在预测任务方面表现出了巨大的潜力。然而,最近在视觉和NLP领域的研究表明,注意力模块的作用并不明确,这可以被其他令牌聚合操作所取代。本文研究了注意力机制对时间序列预测性能的贡献和不足。具体而言,我们发现(1)注意力对于捕获时间依赖性是不必要的,(2)捕获时间和信道交互中的纠缠和冗余影响预测性能,以及(3)重要的是对输入和预测序列之间的映射进行建模。为此,我们提出了MTS混合器,它使用两个分解模块来捕获时间和通道依赖性。在几个真实数据集上的实验结果表明,MTS-Mixers的性能优于现有的基于Transformer的模型,具有更高的效率。
2023-02-09 cs.AI cs.LG
xERTE: Explainable Reasoning on Temporal Knowledge Graphs for Forecasting Future Links
Institute of Informatics, LMU Munich(慕尼黑大学信息学研究所);Corporate Technology, Siemens AG(西门子股份公司中央研究院);Department of Informatics, Technical University of Munich(慕尼黑工业大学信息学系)
建模随时间演化的知识图谱(KG)最近得到了越来越多的关注。在这里,图表示学习已经成为时间KG上的链接预测的主导范例。然而,基于嵌入的方法在很大程度上是以黑箱方式运行的,缺乏解释其预测的能力。本文提供了一个链接预测框架,原因在查询相关的子图的时间KG和联合模型的结构依赖和时间动态。特别是,我们提出了一个时间关系注意力机制和一个新的反向表示更新计划,以指导周围的查询封闭子图的提取。子图通过时间邻居的迭代采样和注意力传播来扩展。我们的方法提供了人类可以理解的证据来解释预测。我们评估我们的模型的四个基准时间知识图谱的链接预测任务。虽然更易于解释,但与以前的最佳KG预测方法相比,我们的模型在Hits@1上获得了高达20%的相对改进。我们还对53名受访者进行了调查,结果表明,该模型提取的链接预测证据与人类的理解一致。
2021-04-01 cs.AI cs.LG
Adaptive Spatio-Temporal Graphs with Self-Supervised Pretraining for Multi-Horizon Weather Forecasting
School of Computer Science, Xiangtan University, Xiangtan, 411105, China(计算机学院,湘潭大学,湘潭,411105,中国)
提出一种结合图神经网络与自监督预训练的自适应时空图框架,通过时空自适应机制提升多变量、多时间跨度天气预报的准确性与泛化能力。
2025-10-28 cs.AI cs.LG
TLogic: Temporal Logical Rules for Explainable Link Forecasting on Temporal Knowledge Graphs
Siemens AG(西门子股份公司);Ludwig Maximilian University of Munich(慕尼黑大学)
传统的静态知识图谱将关系数据中的实体建模为节点,由特定关系类型的边连接。然而,信息和知识不断演变,出现了时间动态,预计会影响未来的局势。在时间知识图谱中,通过为每条边配备时间戳或时间范围来将时间信息集成到图中。基于嵌入的方法已经被引入到时态知识图谱的链接预测中,但是它们大多缺乏可解释性和可理解的推理链。特别是,它们通常不被设计为处理链路预测-涉及未来时间戳的事件预测。我们解决的任务,时间知识图谱的链接预测,并介绍TLogic,一个可解释的框架,是基于时间的逻辑规则提取通过时间随机游走。我们将TLogic与三个基准数据集上的最新基线进行了比较,并显示出更好的整体性能,同时我们的方法还提供了保持时间一致性的解释。此外,与大多数最先进的基于嵌入的方法相比,TLogic在归纳设置中工作得很好,其中已经学习的规则被转移到具有公共词汇表的相关数据集。
2022-03-09 cs.AI cs.LG
DSTFView: Multi-View Cloud-Edge Workload Forecasting with Dual-Input Spatio-Temporal-Frequency Modeling
Xinjiang University(新疆大学)
针对协作式云边环境中多维特征建模与预测效率平衡难题,提出DSTFView框架,通过双输入时空频率建模联合捕捉多种依赖性,设计自适应融合机制,实验证明其在多指标上优于基线。
2026-07-28 cs.AI cs.LG
PhysioSeq2Seq: A Hybrid Physiological Digital Twin and Sequence-to-Sequence LSTM for Long-Horizon Glucose Forecasting in Type 1 Diabetes
Oregon State University(俄勒冈州立大学);Oregon Health & Science University(俄勒冈健康与科学大学)
本文提出了一种结合患者特定生理建模与序列到序列LSTM的混合架构PhysioSeq2Seq,用于长周期1型糖尿病葡萄糖预测,通过消除递归误差累积并注入患者匹配的生理状态,提高了预测精度和临床意义。
2026-05-16 cs.AI cs.LG q-bio.QM
Hierarchical Time Series Forecasting Via Latent Mean Encoding
Zalando SE(Zalando公司)
提出一种基于潜在均值编码的层次时间序列预测架构,通过专门模块预测不同时间聚合级别并在隐藏层编码目标变量平均行为,在M5数据集上优于TSMixer等既有方法,实现准确且相干的跨层次预测。
2025-06-24 cs.AI cs.LG
Signals, Concepts, and Laws: Toward Universal, Explainable Time-Series Forecasting
The University of Sydney(悉尼大学)
DORIC通过五个自监督概念和物理约束实现通用、可解释的时间序列预测
2025-12-01 cs.LG
SAMSGL: Series-Aligned Multi-Scale Graph Learning for Spatio-Temporal Forecasting
East China University of Science and Technology(华东理工大学);Potsdam Institute for Climate Impact Research(波茨坦气候影响研究所);Humboldt University of Berlin(柏林洪堡大学)
针对时空预测中时间延迟与多尺度交互难题,提出序列对齐多尺度图学习框架SAMSGL,通过序列对齐图卷积与多尺度图结构学习及Graph-FC块融合时空信息,在气象和交通数据集上验证了其有效性。
2024-05-28 cs.AI cs.LG
VaryST: Generalizable Spatio-Temporal Forecasting Beyond the Closed-World Setting
Beijing Jiaotong University(北京交通大学);Aalborg University(奥尔堡大学)
本研究提出VaryST时空预测模型,通过动态构建预测上下文、适配时空变化及处理观测可用性差异,在域内预测、零/少样本泛化及观测鲁棒性上均优于17个基准模型。
2026-10-14 cs.AI cs.LG
Revealing the Power of Masked Autoencoders in Traffic Forecasting
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院)
针对交通预测中的数据稀缺和模型稳定性问题,提出即插即用的时空掩码自编码器框架STMAE,通过双重掩码预训练与微调集成,显著提升多种时空模型的预测精度。
2024-07-28 cs.AI cs.LG
Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit
UNSW Sydney(新南威尔士大学悉尼分校);Australian e-Health Research Centre(澳大利亚电子健康研究中心);eHealth NSW(新南威尔士州电子健康局)
本文概述了连续时间循环神经网络(CTRNNs)的多种架构,并将其应用于重症监护中不规则采样的血糖概率预测,实验表明ODE-LSTM在概率预测指标上可与Catboost相媲美。
2023-04-14 cs.LG stat.AP stat.ML
PINN-Cast: Exploring the Role of Continuous-Depth NODE in Transformers and Physics Informed Loss as Soft Physical Constraints in Short-term Weather Forecasting
University of New South Wales(新南威尔士大学)
本文提出连续深度Transformer编码器,结合Neural ODE动态和物理信息损失,提升短期天气预报的准确性与物理一致性。
2026-04-30 cs.CV cs.LG
Forecasting the outcome of spintronic experiments with Neural Ordinary Differential Equations
Beihang University(北京航空航天大学);CNRS(法国国家科学研究中心);Thales(泰雷兹集团)
深度学习在辅助研究方面的影响越来越大,例如,允许发现新材料。然而,到目前为止,这些人工智能技术还没有发现实验物理系统的完整微分方程。在这里,我们表明,一个动态的神经网络,训练的数据量最小,可以预测的自旋电子器件的行为,具有高精度和非常有效的模拟时间,相比,通常采用微磁模拟来模拟它们。为了这个目的,我们重新架构的形式主义的神经常微分方程(ODE)的自旋电子学的约束:几个测量输出,多个输入和内部参数。我们证明与自旋神经ODE的加速因子超过200相比,微磁模拟一个复杂的问题-磁skyrmions(20分钟相比,三天)的水库计算机的模拟。在第二个实现中,我们表明,我们可以预测实验自旋电子纳米振荡器的噪声响应不同的输入后,训练自旋神经ODE的5毫秒的测量响应不同的激励。Spin-Neural ODE是一种用于开发自旋电子应用的破坏性工具,可作为微磁模拟的补充,微磁模拟耗时,并且在存在噪声或缺陷时无法拟合实验。自旋神经常微分方程也可以推广到其他涉及动力学的电子器件。
2021-07-23 cond-mat.mes-hall cond-mat.mtrl-sci cs.LG
Deep Time Series Forecasting with Shape and Temporal Criteria
研究了具有突变性的非平稳信号的多步时间序列预测问题。目前最先进的深度学习预测方法通常使用MSE的变体进行训练,缺乏在确定性和概率性背景下提供准确预测的能力。为了应对这些挑战,我们建议在深度模型的训练目标中加入形状和时间标准。我们定义形状和时间的相似性和相异性,基于动态时间规整(DTW)和时间失真指数(TDI)的平滑松弛,从而能够构建可微损失函数和半正定(PSD)内核。有了这些工具,我们介绍DILATE(失真损失,包括shApe和TimE),确定性预测的一个新目标,明确纳入了两个术语支持精确的形状和时间变化检测。对于概率预测,我们引入了STRIPE++(形状和时间多样性的概率预测),一个框架,提供了一组尖锐的和多样化的预测,其中结构化的形状和时间多样性与决定点过程(DPP)的多样性损失。对合成和真实世界数据集的广泛实验和消融研究证实了在时间序列预测中利用形状和时间特征的好处。
2022-02-17 cs.AI cs.LG stat.ML
STC-ViT: Spatio Temporal Continuous Vision Transformer for Medium-range Global Weather Forecasting
University of New South Wales(新南威尔士大学)
STC-ViT通过结合傅里叶神经算子和神经ODE,提出了一种用于中程全球天气预报的时空连续视觉变换器,实现了高效且准确的预报性能。
2025-11-28 cs.LG
Progressive Growing of Neural ODEs
University of California, San Diego(加州大学圣地亚哥分校);SRI International(SRI国际)
神经常微分方程(NODE)已被证明是一个强大的建模工具,用于近似(内插)和预测(外推)不规则采样的时间序列数据。然而,当应用于真实世界的数据时,它们的性能大幅下降,特别是具有复杂行为的长期数据(例如,跨年的长期趋势、跨月的中期季节性和跨天的短期局部变化)。为了解决这种复杂的数据在不同的频率(时间跨度)不同的行为建模,我们提出了一种新的渐进学习范式的NODE的长期时间序列预测。具体来说,我们遵循课程学习的原则,随着训练的进行,逐步增加数据的复杂度和网络容量。我们的实验与合成数据和真实的交通数据(PeMS湾区交通数据)表明,我们的训练方法一致提高了超过64%的香草节点的性能。
2020-03-08 cs.LG cs.NE stat.ML
Deep Spatio-Temporal Forecasting of Electrical Vehicle Charging Demand
Technical University of Denmark(丹麦技术大学)
电动汽车可以提供低碳排放解决方案,以扭转排放上升的趋势。然而,这要求用于满足需求的能源是绿色的。为了满足这一要求,准确预测充电需求至关重要。短期和长期的充电需求预测将有助于更好地优化电网和未来的基础设施扩建。在本文中,我们建议使用公开的数据来预测电动汽车充电需求。为了对充电站之间复杂的时空相关性进行建模,我们认为时间图卷积模型最适合捕捉相关性。与其他预测方法相比,所提出的时间图卷积网络提供了最准确的短期和长期预测。
2021-06-21 cs.LG
Temporal Latent Auto-Encoder: A Method for Probabilistic Multivariate Time Series Forecasting
IBM Research(IBM研究院)
高维多变量时间序列的概率预测是一个众所周知的具有挑战性的任务,无论是在计算负担和分布建模。大多数以前的工作要么做简单的分布假设或放弃建模交叉系列的相关性。一个有前途的工作线利用可扩展矩阵分解进行潜在空间预测,但仅限于线性嵌入,无法建模分布,并且在使用深度学习预测时无法进行端到端的训练。我们介绍了一种新的时间潜在自动编码器方法,该方法能够对多变量时间序列进行非线性因式分解,并使用时间深度学习潜在空间预测模型进行端到端学习。通过施加概率潜在空间模型,输入序列的复杂分布通过解码器建模。大量的实验表明,我们的模型在许多流行的多变量数据集上实现了最先进的性能,对于几个标准指标,增益有时高达$50\%$。
2021-01-25 cs.AI cs.LG cs.NE
Advanced Global Wildfire Activity Modeling with Hierarchical Graph ODE
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学);Southwest Jiaotong University(西南交通大学);Beijing Jiaotong University(北京交通大学);Tencent(腾讯);Nanyang Technological University(南洋理工大学)
本文提出分层图微分方程框架HiGO,用于建模全球野火活动的多尺度连续动态,通过多级图结构和自适应信息传递机制提升预测性能。
2026-11-09 cs.LG
Deep learning for spatio-temporal forecasting -- application to solar energy
HESAM Université(巴黎高科艺术与职业大学);Conservatoire national des arts et métiers(法国国立工艺学院);Simon Fraser University(西蒙弗雷泽大学);Borealis AI(Borealis人工智能研究院);Valeo AI(法雷奥人工智能研究院);Sorbonne Université(索邦大学);Criteo AI(科韬人工智能研究院);Mines ParisTech(巴黎高等矿业学院);EDF R&D(法国电力研发中心);Université Rennes 1(雷恩第一大学);INRIA(法国国家信息与自动化研究所)
本文探讨了深度学习的时空预测问题。法国电力公司(EDF)的激励应用是利用鱼眼图像进行短期太阳能预测。我们探索了两个主要的研究方向,通过注入外部物理知识来改进深度预测方法。第一个方向涉及训练损失函数的作用。我们表明,可微形状和时间标准可以利用,以提高现有模型的性能。我们解决了确定性上下文与建议的DILATE损失函数和概率上下文与STRIPE模型。我们的第二个方向是用深度数据驱动的网络来增强不完整的物理模型,以实现准确的预测。对于视频预测,我们引入了PhyDNet模型,该模型将物理动力学与预测所需的残差信息(如纹理或细节)分离开来。我们进一步提出了一个学习框架(APHYNITY),确保在温和的假设下,物理和数据驱动的组件之间的原则性和独特的线性分解,从而获得更好的预测性能和参数识别。
2022-05-07 cs.AI cs.LG stat.ML
Learning the Simplest Neural ODE
Gradiate School of Medicine, Kyoto University(京都大学研究生医学部);Research Center for Mathematical Engineering, Chiba Institute of Technology(千叶技术大学数学工程研究中心)
本文通过一维线性模型揭示训练神经ODE的困难,提出新的稳定化方法并给出解析收敛性分析,为初学者提供简明教程。
2025-08-26 cs.LG math.DS stat.ML
Constructing Geographic and Long-term Temporal Graph for Traffic Forecasting
Tsinghua University(清华大学);DiDi AI Labs(滴滴AI实验室)
交通预测影响着智能交通系统(ITS)的各项服务,对用户体验和城市交通控制具有重要意义。由于道路网络包含复杂且随时间变化的时空依赖性,因此具有挑战性。最近,基于深度学习的方法通过采用图卷积网络(GCN)来提取空间相关性和递归神经网络(RNN)来捕获时间依赖性,取得了有希望的结果。然而,现有的方法往往只建立在道路网络连通性的基础上,这限制了道路之间的相互作用。在这项工作中,我们提出了地理和长期时间图卷积递归神经网络(GLT-GCRNN),这是一种新的交通预测框架,可以学习共享相似地理或长期时间模式的道路之间的丰富交互。在真实世界的交通状态数据集上进行的大量实验表明,GLT-GCRNN在不同指标方面优于最先进的方法,从而验证了我们方法的有效性。
2020-04-23 cs.AI cs.LG eess.SP
Dynamic Forecasting and Temporal Feature Evolution of Stock Repurchases in Listed Companies Using Attention-Based Deep Temporal Networks
本文提出结合经济理论的动态预警系统,利用TCN和注意力LSTM捕捉财务演变模式,通过滚动窗口验证模型优于传统方法,揭示回购决策的长期和短期驱动因素。
2026-03-29 cs.AI cs.LG q-fin.ST
Decorrelating the Future: Joint Frequency Domain Learning for Spatio-temporal Forecasting
University of Washington(华盛顿大学);Arizona State University(亚利桑那州立大学)
本文提出FreST损失,通过联合频域学习有效消除时空依赖,提升时空预测性能。
2026-02-13 cs.AI cs.LG stat.ML
GenTKG: Generative Forecasting on Temporal Knowledge Graph with Large Language Models
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Technical University of Munich(慕尼黑工业大学);Siemens AG(西门子公司)
针对时序知识图谱预测现有方法的局限,提出融合时序逻辑规则检索与少样本参数高效微调的GenTKG生成框架,仅用少量样本即超越传统方法,且具备强跨域与域内泛化能力。
2024-04-16 cs.AI cs.CL cs.LG
Bridging the Gap Between Training and Inference for Spatio-Temporal Forecasting
James Cook University(詹姆斯库克大学);College of Science and Engineering(科学与工程学院)
时空序列预测是时空数据采掘的基本任务之一。它促进了许多现实世界的应用,如降水临近预报,全市人群流量预测和空气污染预报。最近,已经提出了一些基于Seq2Seq的方法,但是Seq2Seq模型的缺点之一是,由于训练和推理阶段的不同分布,在推理阶段,小的错误可以沿着生成的序列快速积累。这是因为Seq2Seq模型仅在训练期间最小化单步的错误,然而整个序列必须在推理阶段生成,这会在训练和推理之间产生差异。在这项工作中,我们提出了一种新的课程学习为基础的策略命名为时间渐进增长采样,有效地弥合训练和时空序列预测的推理之间的差距,通过将训练过程从一个完全监督的方式,利用所有可用的以前的地面实况值,以较少的监督方式,取代一些地面实况上下文与生成的预测。为了做到这一点,我们通过精心设计的衰减策略,从用更大时间尺度训练的中间模型的中间输出中采样目标序列。实验结果表明,我们提出的方法更好地模型的长期依赖性和两个竞争性数据集上的基线方法。
2020-05-19 cs.AI cs.LG stat.ML
Forecasting emissions through Kaya identity using Neural Ordinary Differential Equations
Data Science Institute, Imperial College London(伦敦帝国理工学院数据科学研究所);Aquatic Informatics(Aquatic Informatics 公司)
从Kaya恒等式开始,我们使用神经ODE模型来预测国家层面上与碳排放相关的几个指标的演变:人口,人均GDP,GDP的能源强度,能源的碳强度。我们比较了模型与基线统计模型- VAR -,并获得了良好的性能。我们的结论是,这种机器学习方法可以用来产生广泛的结果,并为政策制定者提供相关的见解
2022-01-07 cs.LG
STG2Seq: Spatial-temporal Graph to Sequence Model for Multi-step Passenger Demand Forecasting
University of New South Wales(新南威尔士大学);University of Technology Sydney(悉尼科技大学);Macquarie University(麦考瑞大学)
多步乘客需求预测是按需车辆共享服务的关键任务。然而,由于非线性和动态的时空依赖性,在多个时间范围内预测乘客需求通常是具有挑战性的。在这项工作中,我们提出了基于图的多步全市乘客需求预测模型,并使用分层图卷积结构来同时捕获空间和时间相关性。我们的模型由三个部分组成:1)长期编码器,用于对历史乘客需求进行编码; 2)短期编码器,用于导出下一步预测,以生成多步预测; 3)基于注意力的输出模块,用于对动态时间和通道信息进行建模。在三个真实世界数据集上的实验表明,我们的模型始终优于许多基线方法和最先进的模型。
2019-05-24 cs.AI cs.LG stat.ML
Spatial-Temporal Identity: A Simple yet Effective Baseline for Multivariate Time Series Forecasting
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Huazhong University of Science and Technology(华中科技大学)
多变量时间序列(MTS)预测在广泛的应用中起着至关重要的作用。最近,时空图神经网络(STGNNs)由于其最先进的性能而成为越来越受欢迎的MTS预测方法。然而,最近的作品变得越来越复杂,有限的性能改进。这一现象促使我们探索MTS预测的关键因素,并设计一个与STGNN一样强大,但更简洁有效的模型。在本文中,我们确定在空间和时间维度的样本的不可重复性作为一个关键的瓶颈,并提出了一个简单而有效的基线MTS预测附加空间和时间标识信息(STID),实现了最佳的性能和效率同时基于简单的多层感知器(MLP)。这些结果表明,我们可以设计高效和有效的模型,只要它们解决了样本的不可分辨性,而不限于STGNN。
2022-08-19 cs.LG
A Temporal Knowledge Graph for Music Festival Lineup Forecasting
University of Mannheim(曼海姆大学)
提出一个覆盖55年380个音乐节、含9万多个演出四元组的时间知识图谱,将阵容预测形式化为时间链接预测,评估六种TKG模型并与零样本LLM对比,为TKG预测提供真实应用基准。
2026-09-22 cs.LG
STAEformer: Spatio-Temporal Adaptive Embedding Makes Vanilla Transformer SOTA for Traffic Forecasting
Southern University of Science and Technology(南方科技大学);The University of Tokyo(东京大学);University of Technology Sydney(悉尼科技大学)
针对交通预测中捕捉复杂时空模式的难题,本研究提出时空自适应嵌入组件,搭配普通Transformer构建的STAEformer在5个真实数据集上达SOTA,验证了该嵌入在捕捉时空关联与时序信息上的关键作用。
2023-10-08 cs.LG
TMAML: Temporal Model-Agnostic Meta-Learning for Cold-Start Time Series Forecasting
Ghent University(根特大学)
针对冷启动时间序列预测,提出时间模型无关元学习(TMAML),通过构建时间一致的元任务并优化模型,使预测模型在少数据下快速适应,实证表明其优于或匹配标准训练模型。
2026-10-06 cs.LG
Trio: Learning Time-Series Forecasting with Temporal-Spatial-Sample Attention and Structural Causal Priors
Nanyang Technological University(南洋理工大学)
提出Trio架构,通过时间、空间和样本三种注意力机制分别捕获时序动态、变量间依赖和历史样本对应,并引入时间序列结构因果模型生成合成任务以提供结构先验,提升多变量时间序列预测性能。
2026-06-05 cs.LG
Towards Non-Stationary Time Series Forecasting with Temporal Stabilization and Frequency Differencing
DTAF通过时域稳定化与频域差分方法,提升非平稳时间序列预测的鲁棒性和准确性。
2025-11-27 cs.LG
FasterSTS: A Faster Spatio-Temporal Synchronous Graph Convolutional Networks for Traffic flow Forecasting
Wuhan University of Technology(武汉理工大学);Zhejiang Sci-Tech University(浙江理工大学)
针对现有交通流预测方法时空建模分离且复杂度高的问题,提出更快速有效的时空同步图卷积网络FasterSTS,以提升预测性能并控制模型复杂度。
2025-01-01 cs.LG