EMFusion: Uncertainty-Aware Conditional Diffusion Model for Multivariate Narrow-band Exposure Forecasting
department of Electrical Engineering and Computer Science, York University（电气工程与计算机科学系，约克大学）；School of Electrical and Electronic Engineering, Huazhong University of Science and Technology（电子与电气工程学院，华中科技大学）；Central China Branch of State Grid Corporation of China（国家电网公司中部分部）；Department of Electronic Engineering, University of Rome Tor Vergata（罗马大学Tor Vergata电子工程系）；Consorzio Nazionale Interuniversitario per le Telecomunicazioni (CNIT)（国家大学间电信研究会（CNIT））
本文提出EMFusion框架，通过整合时间、季节等上下文因素，提供不确定性估计，以提升无线网络中频率选择性电磁场预测的准确性。
2026-06-24 cs.AI cs.LG cs.SY
Multivariate Beta Mixture Model: Probabilistic Clustering With Flexible Cluster Shapes
National Central University（中央大学）
本文提出多元贝塔混合模型（MBMM），利用多元贝塔分布的灵活密度函数实现软聚类，并通过合成与真实数据实验验证其能适应多样聚类形状。
2024-02-21 cs.AI cs.LG
Interweaving Marginals into Multivariate Sample Paths: Training-Free Dependence Construction for Probabilistic Time Series Foundation Models
Seoul National University（首尔大学）
针对概率时间序列基础模型仅提供边际分布而缺乏联合分布的问题，提出无训练耦合边际分布以构造多元样本路径，实验表明耦合能显著改善依赖诊断，支持将依赖重建作为独立后处理问题。
2026-09-23 cs.AI cs.LG
Marginalization Consistent Probabilistic Forecasting of Irregular Time Series via Mixture of Separable flows
ISMLL University of Hildesheim（ISMLL海德堡大学）；Institute of Mathematics TU Berlin（柏林技术大学数学研究所）
针对不规则时间序列概率预测中的边缘化不一致问题，提出MOSES，用潜在Gaussian Processes混合与可分离归一化流实现可解析边缘化，在四个数据集上兼顾准确的联合与边缘预测。
2025-05-11 cs.LG
Latent Temporal Flows for Multivariate Analysis of Wearables Data
University of Virginia（弗吉尼亚大学）；Apple（苹果公司）
越来越多地使用来自可穿戴设备的传感器信号作为生理数据的丰富来源，这引发了人们对开发健康监测系统以识别个人健康状况变化的兴趣。事实上，传感器信号的机器学习模型已经实现了各种各样的医疗保健相关应用，包括异常的早期检测、生育跟踪和药物不良反应预测。然而，这些模型可能无法解释底层传感器信号的相关高维性质。在本文中，我们介绍了潜在的时间流，多变量时间序列建模的方法，适合这种设置。我们假设一组序列是由一个未观测到的时变低维特征向量的多变量概率模型生成的。Latent Temporal Flows通过深度自动编码器映射同时恢复观察到的序列到低维潜在表示的转换，并通过归一化流估计时间条件概率模型。使用来自苹果心脏和运动研究（AH&MS）的数据，我们展示了对这些具有挑战性的信号的预测性能。此外，通过分析我们的模型学习的二维和三维表示，我们表明，我们可以识别参与者的$\text{VO}_2\text{max}$，一个主要指标和心肺健康的总结，只使用较低级别的信号。最后，我们表明，所提出的方法始终优于国家的最先进的多步预测基准（实现至少$10\%$性能的改善）在几个真实世界的数据集，同时享受提高计算效率。
2022-10-14 cs.LG eess.SP
Multivariate Latent Recalibration for Conditional Normalizing Flows
Department of Computer Science, University of Mons（蒙斯大学计算机科学系）
针对多变量条件分布校准问题，提出潜在重校准方法，在条件归一化流潜在空间中学习变换，生成带显式密度且高效的重校准分布，实验证明其提升校准误差与负对数似然。
2025-10-24 cs.LG
Disentangled Variational Autoencoder based Multi-Label Classification with Covariance-Aware Multivariate Probit Model
Cornell University（康奈尔大学）
多标签分类是一个具有挑战性的任务，预测存在和不存在的多个目标，涉及表示学习和标签相关性建模。我们提出了一种新的多标签分类框架，多变量概率变分自编码器（MPVAE），有效地学习潜在的嵌入空间以及标签相关性。MPVAE分别为标签和特征学习和对齐两个概率嵌入空间。MPVAE的解码器从嵌入空间中获取样本，并通过学习共享协方差矩阵，在多变量Probit模型下对输出目标的联合分布进行建模。我们表明，MPVAE优于现有的国家的最先进的方法在各种应用领域，使用公共的真实世界的数据集。MPVAE进一步示出在噪声设置下保持稳健。最后，我们通过一个鸟类观测数据集的案例研究证明了学习协方差的可解释性。
2020-07-12 cs.LG stat.ML
Autoregressive Denoising Diffusion Models for Multivariate Probabilistic Time Series Forecasting
Zalando Research（扎兰多研究院）
在这项工作中，我们提出了\texttt{TimeGrad}，一个自回归模型的多变量概率时间序列预测的样本从数据分布在每个时间步估计其梯度。为此，我们使用扩散概率模型，一类与分数匹配和基于能量的方法密切相关的潜变量模型。我们的模型通过优化数据可能性的变分界限来学习梯度，并在推理时使用Langevin采样通过马尔可夫链将白噪声转换为感兴趣的分布样本。我们的实验表明，所提出的自回归去噪扩散模型是新的国家的最先进的多元概率预测方法在现实世界的数据集与成千上万的相关维度。我们希望这种方法是一个有用的工具，为从业者在这一领域的未来研究奠定了基础。
2021-02-02 cs.AI cs.LG
Temporal Latent Auto-Encoder: A Method for Probabilistic Multivariate Time Series Forecasting
IBM Research（IBM研究院）
高维多变量时间序列的概率预测是一个众所周知的具有挑战性的任务，无论是在计算负担和分布建模。大多数以前的工作要么做简单的分布假设或放弃建模交叉系列的相关性。一个有前途的工作线利用可扩展矩阵分解进行潜在空间预测，但仅限于线性嵌入，无法建模分布，并且在使用深度学习预测时无法进行端到端的训练。我们介绍了一种新的时间潜在自动编码器方法，该方法能够对多变量时间序列进行非线性因式分解，并使用时间深度学习潜在空间预测模型进行端到端学习。通过施加概率潜在空间模型，输入序列的复杂分布通过解码器建模。大量的实验表明，我们的模型在许多流行的多变量数据集上实现了最先进的性能，对于几个标准指标，增益有时高达$50\%$。
2021-01-25 cs.AI cs.LG cs.NE
Warpformer: A Multi-scale Modeling Approach for Irregular Clinical Time Series
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Microsoft Research Asia（微软亚洲研究院）
针对不规则临床时间序列的序列内不规则性与序列间差异性问题，提出包含定制输入表示、扭曲模块及多尺度注意力机制的Warpformer方法，在多个基准上取得优于现有SOTA的性能。
2023-06-14 cs.AI cs.LG
GARDiff: Graph-Aligned Residual Diffusion for Probabilistic Multivariate Time-Series Forecasting
Shandong University（山东大学）；Macquarie University（麦考瑞大学）；China University of Petroleum (East China)（中国石油大学（华东））；University of Technology Sydney（悉尼科技大学）
GARDiff提出图对齐残差扩散框架，通过不确定性感知结构细化和时间步感知边稀疏化，解决解耦扩散预测中确定性图与残差结构的错位问题，提升概率预测性能。
2026-09-30 cs.AI cs.LG
Compatible Transformer for Irregularly Sampled Multivariate Time Series
Shanghai Jiao Tong University（上海交通大学）；Amazon Web Service（亚马逊云科技）；University of Technology Sydney（悉尼科技大学）
针对不规则采样多元时间序列，提出基于变量内/变量间注意力的Transformer编码器CoFormer，以学习样本级时间交互表示，在分类和预测等下游任务上显著优于现有方法。
2023-10-17 cs.AI cs.LG
Time-IMM: A Dataset and Benchmark for Irregular Multimodal Multivariate Time Series
University of California, Los Angeles（加州大学洛杉矶分校）；National Yang Ming Chiao Tung University（国立阳明交通大学）
针对现实时间序列的不规则、多模态特性，提出Time-IMM数据集和IMM-TSF基准库，通过显式建模多模态性显著提升预测性能。
2025-10-15 cs.AI cs.CL cs.LG
Probabilistic Circuits for Irregular Multivariate Time Series Forecasting
ISMLL, University of Hildesheim, Germany（Hildesheim大学智能系统实验室）；VWFS, Data Analytics Research Center（数据分析研究中心）
本文提出CircuITS概率电路架构，有效捕捉多变量时间序列复杂依赖关系，提升不规则时间序列联合分布估计精度。
2026-10-14 cs.LG
BPMR: Bayesian Probabilistic Multivariate Ranking
University of Virginia（弗吉尼亚大学）
多方面的用户偏好在推荐系统中引起了更广泛的关注，因为它们能够更详细地了解用户对项目的评价。以往的研究表明，将多方面的偏好，可以大大提高推荐的性能和可解释性。然而，由于推荐本质上是一个排名问题，因此没有原则性的解决方案来对多个方面进行集体排名以增强推荐。在这项工作中，我们推导出一个多方面的排名标准。为了保持不同方面之间的依赖性，我们建议使用多方面评级的向量化表示，并开发一个概率多变量张量分解框架（PMTF）。该框架自然会导致一个概率多方面的排名标准，它概括了单方面的排名，以多变量的时尚。在一个大的多方面评论评分数据集上的实验结果证实了我们的解决方案的有效性。
2022-04-16 cs.IR cs.LG
If You Like It, GAN It. Probabilistic Multivariate Times Series Forecast With GAN
IAV GmbH（IAV有限公司）；DFKI GmbH（德国人工智能研究中心）；University of Kaiserslautern（凯泽斯劳滕大学）
本文的贡献是双重的。首先，我们提出了ProbCast -一种新的概率模型的多变量时间序列预测。我们采用了一个条件GAN框架来训练我们的模型与对抗训练。其次，我们提出了一个框架，让我们把一个确定性的模型转换成一个概率性的，具有更好的性能。该框架的动机是将现有的高精度点预测模型转换为它们的概率对应模型，或者通过仔细有效地选择GAN组件的架构来稳定地训练GANs。我们在两个公开的数据集上进行实验，即电力消费数据集和汇率数据集。实验结果表明，我们的模型的显着性能以及我们提出的框架的成功应用。
2020-05-03 cs.LG eess.SP
Wavelet Probabilistic Recurrent Convolutional Network for Multivariate Time Series Classification
Imperial College London（帝国理工学院）
本文提出小波概率循环卷积网络（WPRCN），通过自适应小波概率特征生成器与通道注意力概率时间卷积网络，结合LSTM和C-FCN，在30个多变量时间序列数据集上平均准确率与排名优于基准，尤其擅长处理数据稀缺、非平稳和噪声扰动。
2025-05-22 cs.LG
Detecting Dependencies in Sparse, Multivariate Databases Using Probabilistic Programming and Non-parametric Bayes
Massachusetts Institute of Technology（麻省理工学院）
具有数百个变量和许多缺失值的数据集是常见的。在这种情况下，检测变量之间的真实预测关系以及抑制假阳性在统计和计算上都具有挑战性。本文提出了一种方法，结合概率规划，信息论，和非参数贝叶斯。它展示了如何使用贝叶斯非参数建模来（i）为所有变量构建联合概率模型的集合;（ii）有效地检测边缘独立性;以及（iii）估计变量的任意子集之间的条件互信息，受到广泛的约束。用户可以使用BayesDB访问这些功能，BayesDB是一个用于概率数据分析的概率编程平台，通过用简单的类似SQL的语言编写查询。本文实证表明，该方法可以（i）检测具有挑战性的合成问题的上下文特定（中）的依赖关系，（ii）提高敏感性和特异性，超过基线的统计和机器学习，在现实世界的数据库中的300多个稀疏观察的宏观经济发展和公共卫生指标。
2017-03-27 cs.AI cs.LG stat.ML
MVG-CRPS: A Robust Loss Function for Multivariate Probabilistic Forecasting
McGill University（麦吉尔大学）
针对多元高斯分布预测中对数分数对异常值敏感的问题，提出一种具有闭式表达式的鲁棒损失函数MVG-CRPS，有效提升了预测的鲁棒性、准确性和不确定性量化能力。
2025-01-31 cs.LG stat.ML
Winner-takes-all for Multivariate Probabilistic Time Series Forecasting
本文提出TimeMCL方法，利用多选学习（MCL）范式与赢者通吃（WTA）损失，通过多头神经网络促进预测多样性，以高效预测时间序列的多种可能未来，并在合成与真实数据上验证了其低计算成本下的出色性能。
2025-08-11 cs.AI cs.LG stat.ML
Regions of Reliability in the Evaluation of Multivariate Probabilistic Forecasts
ServiceNow Research（ServiceNow研究院）
本文通过有限样本功效分析界定适当评分规则的“可靠区域”，并利用合成基准与电力生产任务揭示多元概率预测常用评估方法的关键缺陷。
2023-06-06 cs.LG stat.ML
HyperIMTS: Hypergraph Neural Network for Irregular Multivariate Time Series Forecasting
针对不规则多元时间序列中时间间隔不规则和观测未对齐的挑战，提出基于超图神经网络的HyperIMTS模型，通过时间和变量超边统一表示依赖关系，实现准确预测并降低计算成本。
2025-05-23 cs.LG
Multivariate Probabilistic Regression with Natural Gradient Boosting
STOR-i Centre for Doctoral Training（STOR-i博士培训中心）；Lancaster University（兰卡斯特大学）；Stanford University（斯坦福大学）
许多单目标回归问题需要估计不确定性以及点预测。概率回归算法非常适合这些任务。然而，当预测目标是多变量的并且需要联合测量不确定性时，选择就更加有限。例如，在预测2D速度矢量时，联合不确定性将量化平面中任何矢量的概率，这将比x和y分量上的两个单独的不确定性更有表现力。为了实现联合概率回归，我们提出了一种自然梯度提升（NGBoost）方法的基础上非参数化建模的条件参数的多元预测分布。我们的方法是强大的，开箱即用，无需大量的调整，是模块化的假设的目标分布，并执行竞争力相比，现有的方法。我们证明了这些索赔的模拟和预测二维海洋速度数据的案例研究。我们的方法的实现可以在https://github.com/stanfordmlgroup/ngboost上获得。
2021-06-07 cs.LG stat.CO stat.ML
CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep Representation Learning from Sporadic Temporal Data
University College London（伦敦大学学院）；Biomediq A/S（Biomediq公司）；University of Copenhagen（哥本哈根大学）；Cerebriu A/S（Cerebriu公司）
从多变量纵向数据中学习时间模式是具有挑战性的，特别是在数据是零星的情况下，如经常在例如，在医疗保健应用中，数据可能遭受不规则性和重复性，因为连续数据点之间的时间可能在特征和样本之间变化，从而阻碍了针对具有固定序列长度的完整、均匀间隔的数据构建的现有深度学习模型的应用。在本文中，开发了一种新的基于深度学习的模型，用于使用基于循环神经网络（RNN）单元和连续时间自回归（CAR）模型的集成深度学习架构对零星数据中的多个时间特征进行建模。所提出的模型称为CARRNN，使用广义离散时间自回归模型，该模型可使用受时间滞后调制的神经网络进行端到端训练，以描述由不规则性和异步性引起的变化。它被应用于多变量时间序列回归任务，使用为阿尔茨海默病进展建模和重症监护病房（ICU）死亡率预测提供的数据，其中基于门控复发单元（GRU）的模型在所提出的基于RNN的模型和在其架构中使用GRU和长短期记忆（LSTM）网络的最新方法中实现了最低的预测误差。
2021-04-08 cs.AI cs.CV cs.LG
ScoreGrad: Multivariate Probabilistic Time Series Forecasting with Continuous Energy-based Generative Models
Beijing Institute of Technology（北京理工大学）
多变量时间序列预测因其在智能交通、人工智能等方面的广泛应用而受到广泛关注。生成模型在时间序列建模中取得了令人印象深刻的结果，因为它们可以建模数据分布并考虑噪声。然而，由于生成模型的函数形式的限制或对超参数的敏感性，许多现有的工作不能被广泛使用。在本文中，我们提出了ScoreGrad，一个基于连续能量生成模型的多变量概率时间序列预测框架。ScoreGrad由时间序列特征提取模块和基于条件随机微分方程的分数匹配模块组成。该预测可以通过迭代求解逆时矩来实现。据我们所知，ScoreGrad是第一个用于时间序列预测的基于连续能量的生成模型。此外，ScoreGrad在六个真实世界的数据集上实现了最先进的结果。超参数和采样器类型对性能的影响也进行了探讨。代码可在https://github.com/yantijin/ScoreGradPred上获得。
2021-06-18 cs.LG stat.ML
Parametric Modelling of Multivariate Count Data Using Probabilistic Graphical Models
CIRAD（法国农业研究与国际合作组织）；Inria（法国国家信息与自动化研究所）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Laboratoire Jean Kuntzmann（让·库茨曼实验室）
多变量计数数据定义为从总体内的抽样中发布的不同类别的项目的数量，其中个体被分组到类别中。多变量计数数据的分析是许多建模问题中经常出现的关键问题，特别是在生物学和生态学（其中数据可以表示与多类型分支过程相关的儿童计数），社会学和计量经济学领域。我们专注于I）识别同时出现的类别，或者相反，相互排斥的类别。这是通过以下方式实现的：识别变量之间的条件独立关系; II）构建与这些关系一致的简约参数模型; III）表征和检验协变量对计数的联合分布的影响。为了实现这些目标，我们提出了一种基于图形概率模型的方法，更具体地说，部分有向无环图。
2013-12-16 cs.LG stat.ME stat.ML
Learning Recursive Multi-Scale Representations for Irregular Multivariate Time Series Forecasting
School of Computer Science and Engineering, South China University of Technology（计算机科学与工程学院，华南理工大学）
ReIMTS通过递归多尺度建模方法，无需重采样即可提升不规则多变量时间序列预测的准确性。
2026-02-25 cs.LG
Multivariate Forecasting of Bitcoin Volatility with Gradient Boosting: Deterministic, Probabilistic, and Feature Importance Perspectives
Faculty of Electrical Engineering, Czestochowa University of Technology（电子工程学院，捷斯托霍瓦技术大学）；Faculty of Computer Science and Artificial Intelligence, Czestochowa University of Technology（计算机科学与人工智能学院，捷斯托霍瓦技术大学）
本文利用LGBM模型从确定性和概率性角度预测比特币波动率，并通过特征重要性分析识别波动驱动因素。
2025-11-25 cs.LG
GT-PSSM: Unified Probabilistic Framework for Stochastic Dynamics Modeling and Dependency Learning in Multivariate Time Series Anomaly Detection
KAIST（韩国科学技术院）；Pusan National University（釜山国立大学）
针对现有多元时间序列异常检测方法忽略随机性且难以捕捉长时依赖和变量交互的问题，提出GT-PSSM，统一概率框架结合PSSM与图变换器，实现更稳健的异常检测。
2026-09-29 cs.LG stat.ML
Multivariate Probabilistic Time Series Forecasting via Conditioned Normalizing Flows
Zalando Research（Zalando研究院）
时间序列预测通常是科学和工程问题的基础，并使决策成为可能。随着数据集大小的不断增加，扩大预测的一个简单解决方案是假设交互时间序列之间的独立性。然而，建模统计依赖性可以提高准确性，并能够分析交互作用效应。深度学习方法非常适合这个问题，但多变量模型通常假设一个简单的参数分布，并且不能扩展到高维。在这项工作中，我们通过自回归深度学习模型对时间序列的多变量时间动态进行建模，其中数据分布由条件归一化流表示。这种组合保留了自回归模型的功能，例如外推到未来的良好性能，以及作为通用高维分布模型的流量灵活性，同时保持计算上的易处理性。我们表明，它提高了许多现实世界的数据集与几千个相互作用的时间序列的标准指标的最先进的。
2021-01-14 cs.LG stat.ML
Multivariate Probabilistic Time Series Forecasting with Correlated Errors
McGill University（麦吉尔大学）
本文提出一种即插即用方法，通过低秩加对角参数化与独立潜在时间过程建模多步误差协方差，以校准预测，提升RNN和Transformer概率模型的准确性与不确定性量化。
2024-11-07 cs.LG stat.ML
Random Noise vs State-of-the-Art Probabilistic Forecasting Methods : A Case Study on CRPS-Sum Discrimination Ability
IAV GmbH（IAV有限公司）；DFKI GmbH（德国人工智能研究中心）；University of Kaiserslautern（凯泽斯劳滕大学）
机器学习领域的最新发展使得能够开发复杂的多变量概率预测模型。因此，有一个精确的评估方法来衡量这些复杂方法的性能和可预测性是至关重要的。为了做到这一点，在过去已经提出了几个评估指标（如能量分数，Dawid-Ratiani分数，变异函数分数），但是，他们不能可靠地衡量概率预报的性能。最近，CRPS-sum作为多变量概率预测的可靠度量获得了很多关注。本文提出了一个系统的评估CRPS-sum了解其歧视能力。我们表明，目标数据的统计特性影响的歧视能力的CRPS-Sum。此外，我们强调CRPS-Sum计算忽略了模型在每个维度上的性能。这些缺陷可能导致我们对模型性能的错误评估。最后，通过在真实数据集上的实验，我们证明了CRPS-Sum的缺点对概率预测性能方法提供了误导性的指示。我们表明，这是很容易有一个更好的CRPS-和虚拟模型，这看起来像随机噪声，在比较国家的最先进的方法。
2022-01-21 cs.AI cs.LG
Leveraging a Probabilistic PCA Model to Understand the Multivariate Statistical Network Monitoring Framework for Network Security Anomaly Detection
Universidad de Granada（格拉纳达大学）
网络异常检测是当今一个非常相关的研究领域，特别是由于其在网络安全领域的多种应用。基于变分自编码器和生成式对抗网络的新模型的推动促使人们重新评估传统的异常检测技术。然而，必须能够从多年评估网络安全数据以进行异常检测的经验的角度来理解这些新模型。在本文中，我们重新审视基于PCA的异常检测技术从概率生成模型的角度来看，并贡献一个数学模型，将它们联系起来。具体来说，我们从概率PCA模型开始，并解释其与多元统计网络监测（MSNM）框架的联系。MSNM最近被成功地提出作为将工业过程异常检测经验纳入网络领域的一种手段。我们使用两个不同的数据集来评估数学模型。第一个是为了更好地理解所提出的分析而创建的合成数据集，第二个是UGR'16，是专门设计的用于网络安全异常检测的真实流量数据集。我们得出的结论，我们认为是有用的生成模型应用于网络安全检测。
2023-02-02 cs.LG stat.ML
SutraNets: Sub-series Autoregressive Networks for Long-Sequence, Probabilistic Forecasting
Huawei Cloud, Alkaid Lab Canada（华为云，Alkaid 实验室加拿大）
SutraNets通过将长序列预测转化为子序列上的多变量自回归，减少误差累积和路径距离，在六个真实数据集上显著提升预测精度。
2023-12-22 cs.AI cs.LG
AdaPTS: Adapting Univariate Foundation Models to Probabilistic Multivariate Time Series Forecasting
EURECOM（欧洲通信学院）；KAUST（阿卜杜拉国王科技大学）
本文提出 AdaPTS 框架，通过可适配的特征空间变换将单变量时间序列基础模型用于概率多变量预测，并结合多种适配器与贝叶斯式优化推理策略，显著提升精度和不确定性量化。
2025-02-14 cs.LG stat.ML
Channel-aware Contrastive Conditional Diffusion for Multivariate Probabilistic Time Series Forecasting
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；University of Alberta（阿尔伯塔大学）
本文提出通道感知对比条件扩散模型CCDM，通过通道中心去噪网络和基于去噪的时间对比学习提升多元概率时间序列预测精度与泛化能力，在基准测试中优于现有扩散预测器。
2024-10-03 cs.LG
Deep Generative Transformers for Probabilistic Time Series and Spatiotemporal Forecasting
SAFIR, Sorbonne University Abu Dhabi（SAFIR，索邦大学阿布扎赫尔分校）；Indian Institute of Technology Guwahati（印度理工学院古瓦哈蒂分校）
提出Enformer和GEnformer，结合Transformer与engression学习条件分布，无需参数假设即可生成连贯多变量轨迹，在时间序列和时空预测中优于现有方法。
2026-06-23 cs.AI cs.LG stat.ML
Navigating the Safety-Fidelity Trade-off: Massive-Variate Time Series Forecasting for Power Systems via Probabilistic Scenarios
ZJU-UIUC Institute, Zhejiang University（浙江大学伊利诺伊大学厄巴纳香槟校区联合学院）
针对现有基准无法评估大规模多变量概率预测的安全性与保真度权衡问题，提出包含多达36,964个通道的电力系统基准PowerPhase和场景式分位数预测器PowerForge，在多个网格上取得最佳平均排名。
2026-06-12 cs.LG
Enforcing Calibration in Multi-Output Probabilistic Regression with Pre-rank Regularization
本研究提出一种通用正则化框架，通过惩罚预秩概率积分变换偏离均匀分布，在训练中强制多输出概率回归的多元校准，并引入PCA预秩，在18个数据集上显著提升校准且不损精度。
2025-10-27 cs.LG stat.ML
Considering Nonstationary within Multivariate Time Series with Variational Hierarchical Transformer for Forecasting
National Laboratory of Radar Signal Processing（雷达信号处理国家重点实验室）；Xidian University（西安电子科技大学）
针对现有多变量时间序列预测方法忽略固有非平稳性、缺乏随机性的问题，提出融合层次概率生成模块与Transformer的HTV-Trans模型，有效提升预测性能。
2024-03-08 cs.AI cs.LG
Multi-scale Attention Flow for Probabilistic Time Series Forecasting
LILY Research Center, Nanyang Technological University（南洋理工大学LILY研究中心）；Tencent AI Lab（腾讯人工智能实验室）；Qilu Hospital of Shandong University（山东大学齐鲁医院）
针对多变量时间序列概率预测的跨序列相关性捕捉与上下文信息建模难题，提出融合多尺度注意力与相对位置信息的非自回归MANF模型，以条件归一化流建模分布，避免累积误差且不增时间复杂度，在多数据集上达SOTA性能。
2023-07-21 cs.LG
Probabilistic Multivariate Time Series Forecasting with Diffusion Copulas
Department of Statistics The University of Warwick（威斯敏斯特大学统计系）；School of Data Science The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）
本文提出了一种扩散-Copula框架，通过分离边际分布学习与依赖结构学习，改进了多变量时间序列预测中对尾部风险的估计，展示了在加密货币市场中对系统性极值的预测优势。
2026-05-19 cs.LG stat.ML
Multivariate Probabilistic CRPS Learning with an Application to Day-Ahead Electricity Prices
University of Duisburg-Essen（杜伊斯堡-埃森大学）；Chair of Environmental Economics, esp. Economics of Renewable Energy（环境经济学（侧重可再生能源经济学）教席）
本文提出一种基于Bernstein在线聚合的多元概率预测在线组合方法，通过平滑处理分位数依赖，在日前电价24维预测中显著优于均匀组合，并提供了R包实现。
2024-02-06 cs.LG econ.EM q-fin.CP
SPACE: Sample-cloud Predictive Adaptive Conformal Ellipsoids for Multivariate Time-Series Forecasting
Asian Institute of Digital Finance, National University of Singapore（新加坡国立大学亚洲数字金融研究院）；National University of Singapore（新加坡国立大学）
针对现有多变量共形预测方法易受陈旧状态污染的问题，提出共形包装器SPACE，通过当前预测样本云估计协方差几何并动态选回溯窗口校准区域，提升了预测覆盖的准确性与效率。
2026-08-19 cs.AI cs.LG stat.ML
Accelerated Probabilistic Marching Cubes by Deep Learning for Time-Varying Scalar Ensembles
Scientific Computing and Imaging Institute（科学计算与成像研究所）；Oak Ridge National Laboratory（橡树岭国家实验室）
集合模拟的不确定性可视化是具有挑战性的，由于集合数据集的大尺寸和多变量和时间特性。一个流行的方法来研究的不确定性合奏是分析的水平集的位置不确定性。概率移动立方体是一种对多变量高斯噪声分布进行蒙特卡罗采样的技术，用于水平集的位置不确定性可视化。然而，该技术的计算时间长，使得交互式可视化和分析不可能实现。本文介绍了一种基于深度学习的方法，用于学习具有多元高斯噪声假设的二维集合数据的水平集不确定性。我们在工作流程中使用来自时变集合数据的前几个时间步来训练模型。我们证明，我们的训练模型准确地推断出新时间步长的水平集的不确定性，并且比串行计算的原始概率模型快170倍，比原始并行计算快10倍。
2022-10-22 cs.HC cs.LG
Revitalizing Canonical Pre-Alignment for Irregular Multivariate Time Series Forecasting
针对不规则多元时间序列预测中CPA预对齐计算开销大、现有图模型难以捕捉全局相关性的问题，提出基于CPA的KAFNet架构，以更低参数量和更快速度取得SOTA性能。
2025-12-01 cs.LG
Causal Inference in Non-linear Time-series using Deep Networks and Knockoff Counterfactuals
Friedrich Schiller University Jena（弗里德里希席勒耶拿大学）；German Aerospace Center (DLR)（德国航空航天中心（DLR））
估计因果关系对于理解多变量时间序列中复杂的相互作用至关重要。变量的非线性耦合是因果关系估计不准确的主要挑战之一。在本文中，我们提出使用深度自回归网络（DeepAR）与反事实分析相结合来推断多变量时间序列中的非线性因果关系。我们使用DeepAR的概率预测扩展了Granger因果关系的概念。由于深度网络既不能处理缺失的输入，也不能处理分布外的干预，我们建议使用Knockoffs框架（Barberand Cand`es，2015）来生成干预变量，从而进行反事实的概率预测。敲除样本与给定观测变量的输出无关，并且可以与对应变量交换，而不会改变数据的基本分布。我们在合成和真实世界的时间序列数据集上测试我们的方法。总的来说，我们的方法优于广泛使用的向量自回归格兰杰因果关系和PCMCI检测非线性因果关系的依赖性在多变量时间序列。
2021-10-18 cs.AI cs.LG
Deep Generative Quantile-Copula Models for Probabilistic Forecasting
Amazon（亚马逊）
我们介绍了一类新的多变量条件生成模型，并证明其性能和通用性的概率时间序列预测和模拟。具体地说，分位数回归网络的输出通过从潜在均匀分布到目标分布的单变量映射从一组固定分位数扩展到整个分位数函数。然后，通过学习每个维度的边缘分布的分位数函数，然后估计条件Copula来关联这些潜在的均匀随机变量，来解决多变量的情况。分位数函数和copula一起定义联合预测分布，可以通过单个隐式生成深度神经网络来参数化。
2019-07-24 cs.LG stat.ML
Quantifying probabilistic robustness of tree-based classifiers against natural distortions
Know-Center GmbH（Know-Center有限公司）
值得信赖的人工智能的概念最近得到了广泛的关注。与可信AI相关的一个方面是ML模型的鲁棒性。在这项研究中，我们将展示如何概率量化的鲁棒性对自然发生的失真的输入数据基于树的分类器的假设下，自然失真可以描述的多元概率分布，可以转换为多元正态分布。其思想是提取训练的基于树的分类器的决策规则，将特征空间分离成不重叠的区域，并确定具有失真的数据样本返回其预测标签的概率。该方法是基于最近推出的现实世界的鲁棒性，它适用于所有的黑盒分类器的措施，但只是一个近似值，只有在输入维数不是太高，而我们提出的方法给出了一个精确的测量。
2022-11-29 cs.LG
DynG-Diff: A State-Aware Dynamic Guidance Diffusion Framework for Probabilistic Time Series Forecasting
Zhejiang Gongshang University（浙江工商大学）；Sussex Artificial Intelligence Institute（萨塞克斯人工智能研究所）；School of Information and Electronic Engineering（信息与电子工程学院）；University of Auckland（奥克兰大学）；School of Computer Science（计算机科学学院）
本文针对概率多元时间序列预测中现有扩散方法的信息异质性问题，提出DynG-Diff框架，通过两阶段训练、状态感知策略网络及动态权重设计，实现更优预测性能与鲁棒性。
2026-09-03 cs.LG
FiMReSt: Finite Mixture of Multivariate Regulated Skew-t Kernels -- A Flexible Probabilistic Model for Multi-Clustered Data with Asymmetrically-Scattered Non-Gaussian Kernels
Tandon School of Engineering, New York University（纽约大学坦登工程学院）；NYU WIRELESS（纽约大学无线研究中心）；NYU CUSP（纽约大学城市科学与进步中心）
本文揭示了偏斜-t混合模型中的“S-DoF爆炸”现象，并提出正则化迭代优化过程训练的FiMReSt模型，以稳定S-DoF，提升对异常值的泛化能力和鲁棒性。
2023-05-15 cs.LG eess.SP
Variational Bayesian Inference for Hidden Markov Models With Multivariate Gaussian Output Distributions
University of Kassel（卡塞尔大学）
隐马尔可夫模型（HMM）已被用于许多时间序列分析或模式识别任务多年。HMM通常通过Baum-Welch算法进行训练，该算法可以被视为期望最大化（EM）算法的特殊变体。二阶训练技术，如概率模型的变分贝叶斯推理（VI），将概率模型的参数视为随机变量，并定义这些分布参数的分布，因此该技术的名称。VI也可以被视为EM算法的特殊情况。在本文中，我们将两者结合起来，并使用VI训练具有多元高斯输出分布的HMM。本文定义了HMM的新训练技术。基于一些案例研究的评价和与相关方法的比较是我们正在进行的工作的一部分。
2016-05-27 cs.LG stat.ML
$\clubsuit$ CLOVER $\clubsuit$: Probabilistic Forecasting with Coherent Learning Objective Reparameterization
Amazon Forecasting Science（亚马逊预测科学）；The Forecasting Company（预测公司）；Peloton Interactive, Inc.（Peloton互动公司）
针对层次化概率预测的相干性与准确性挑战，本文提出CLOVER方法，通过结合MQForecaster与多元高斯因子模型实现构造性相干，并支持任意可微目标优化，在六个数据集上CRPS平均提升15%。
2024-12-21 cs.AI cs.LG
Lipschitz standardization for multivariate learning
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Probabilistic Learning Group（概率学习小组）
概率学习越来越多地被视为一个优化问题，基于梯度的方法是主要的方法。在对多变量似然性建模时，一个常见但不理想的结果是，学习的模型只适合观察变量的一个子集，而忽略了其余变量。在这项工作中，我们通过多任务学习（MTL）的镜头来研究这个问题，其中类似的效果已经被广泛研究。虽然MTL解决方案不直接适用于概率设置（因为它们不能处理的可能性约束），我们表明，类似的想法可以利用数据预处理过程中。首先，我们表明，数据标准化通常有助于常见的连续似然，但它是不够的，在一般情况下，特别是在混合连续和离散似然模型。为了平衡多变量学习，我们提出了一种新的数据预处理，Lipschitz标准化，它平衡了变量之间的局部Lipschitz平滑度。我们在真实世界数据集上的实验表明，Lipschitz标准化比使用现有数据预处理技术学习的多变量模型更准确。实验中使用的模型和数据集可以在https://github.com/adrianjav/lipschitz-standardization中找到。
2020-10-21 cs.LG stat.ML
