Low-Rank Autoregressive Tensor Completion for Spatiotemporal Traffic Data Imputation
Polytechnique Montreal(蒙特利尔理工学院);McGill University(麦吉尔大学)
时空交通时间序列(例如,交通量/速度)通常是不完整的,具有相当大的损坏和大量的缺失值,这阻止了用户利用数据的全部能力。缺失数据填补一直是一个长期的研究课题,并在现实世界的智能交通系统的关键应用。一种广泛应用的插补方法是低秩矩阵/张量完成,然而,低秩假设仅保留全局结构,而忽略了时空数据的强局部一致性。在本文中,我们提出了一个低秩自回归张量完成(LATC)框架,通过引入\textit{temporal variation}作为一个新的正则化项到完成的三阶(传感器$\times$时间的一天$\times$天)张量。三阶张量结构使我们能够更好地捕捉流量数据的全局一致性,例如固有的季节性和日常相似性。为了实现局部一致性,我们通过对每个时间序列施加AR($p$)模型来设计时间变化,其中系数作为可学习参数。与以往的空间和时间正则化方案不同,时间变化的最小化可以更好地表征局部平滑之外的时间生成机制,使我们能够处理更具挑战性的情况下,如“停电”失踪。为了解决LATC中的优化问题,我们引入了一个交替的最小化方案,迭代地估计低秩张量和自回归系数。我们进行了大量的数值实验,在几个现实世界的交通数据集,我们的结果表明,LATC在不同的失踪情况下的有效性。
2021-04-30 cs.LG stat.ML
Mixed moving average field guided learning for spatio-temporal data
TU Chemnitz(开姆尼茨工业大学);Ulm University(乌尔姆大学);Imperial College(帝国理工学院)
本文针对混合移动平均场预测分布未知的问题,提出一种时空嵌入与广义贝叶斯算法相结合的理论引导机器学习方法,并给出PAC贝叶斯界,在时空Ornstein-Uhlenbeck模拟数据上验证了其因果预测性能。
2024-08-02 cs.LG math.ST stat.ML
Learning Localized Spatio-Temporal Models From Streaming Data
Uppsala University(乌普萨拉大学)
我们解决的问题,预测时空过程的时间模式,不同的空间区域,当数据作为流获得。也就是说,当训练数据集按顺序增加时。具体来说,我们开发了一个本地化的时空协方差模型的过程中,可以捕捉空间变化的时间周期性的数据。然后,我们应用协方差拟合方法来学习模型参数,从而产生一个预测器,该预测器可以随每个新数据点顺序更新。所提出的方法进行评估,使用合成和真实的气候数据,证明其能够准确地预测数据丢失的空间区域随着时间的推移。
2018-06-22 cs.LG stat.ML
Estimation of Spatiotemporal Poisson Processes with Some Missing Location Data
本文针对时空泊松过程中位置数据缺失问题,提出四种可处理缺失位置数据的模型及估计方法,并通过紧急呼叫到达数据验证了考虑缺失位置信息的模型能够带来显著差异。
2024-11-24 math.ST stat.CO stat.ME
BlackBox: Generalizable Reconstruction of Extremal Values from Incomplete Spatio-Temporal Data
Institut za fiziku(物理研究所);University of Zagreb, Faculty of Electrical Engineering and Computing(萨格勒布大学电气工程与计算学院)
我们描述了我们提交的2019年极端值分析数据挑战赛,其中要求团队预测缺失数据的时空区域内的海面温度异常极端。我们提出了一个计算框架,使用卷积深度神经网络重建丢失的数据。在不完整数据的条件下,我们采用类似自动编码器的模型作为多变量条件分布,使用估算噪声对完整数据集的可能重建进行采样。为了减轻由任何一个特定模型引入的偏差,构建预测集合以创建极值的最终分布。我们的方法不依赖于专家知识,以准确地再现动态功能的复杂的海洋系统,以最小的假设。所得到的结果承诺可重用性和推广到其他领域。
2020-10-08 cs.LG stat.ML
GATGPT: A Pre-trained Large Language Model with Graph Attention Network for Spatiotemporal Imputation
University of Technology Sydney(悉尼科技大学)
本研究提出GATGPT框架,将图注意力机制与预训练大型语言模型结合用于时空插补,通过保持大部分参数不变并微调上层,在三个真实数据集上取得与深度学习基准相当的效果。
2023-11-24 cs.LG stat.ML
Likelihood-Free Estimation for Spatiotemporal Hawkes processes with missing data and application to predictive policing
Department of Statistics, University of Michigan(密歇根大学统计学院)
针对犯罪数据缺失导致时空Hawkes模型参数估计偏差的问题,提出WGAN驱动的无似然方法,通过实证提升参数估计准确性,为预测性警务提供更可靠策略。
2025-02-10 cs.LG stat.AP stat.ME
Bayesian Temporal Factorization for Multidimensional Time Series Prediction
Polytechnique Montreal(蒙特利尔综合理工学院);McGill University(麦吉尔大学);Interuniversity Research Centre on Enterprise Networks, Logistics and Transportation (CIRRELT)(校际企业网络、物流与交通研究中心(CIRRELT))
大规模、多维的时空数据集在城市交通、空气质量监测等实际应用中越来越普遍。对这些时间序列进行预测已经成为一个关键的挑战,这不仅是由于大规模和高维的性质,而且还由于相当数量的缺失数据。在本文中,我们提出了一个贝叶斯时间因子分解(BTF)框架建模的多维时间序列-特别是时空数据-在缺失值的存在。通过将低秩矩阵/张量分解和向量自回归(VAR)过程集成到一个概率图模型中,该框架可以同时刻画大规模时间序列数据的全局和局部扰动。图形模型使我们能够有效地执行概率预测,并产生不确定性估计,而无需估算这些缺失值。我们开发了有效的吉布斯抽样算法的模型推理和模型更新的实时预测和测试的建议BTF框架在几个真实世界的时空数据集的缺失数据填补和多步滚动预测任务。数值实验表明,所提出的BTF方法优于现有的国家的最先进的方法。
2021-03-14 cs.LG stat.ML
Causality-Aware Spatiotemporal Graph Neural Networks for Spatiotemporal Time Series Imputation
University of Illinois(伊利诺伊大学);Virginia Polytechnic Institute and State University(弗吉尼亚理工大学);Microsoft Research Asia(微软亚洲研究院);Emory University(埃默里大学)
本文从因果视角提出因果感知时空图神经网络Casper,通过前门调整、基于提示的解码器和时空因果注意力机制阻断混杂因素并发现稀疏因果关系,在三个真实数据集上验证了其在时空时间序列插补中的优越性。
2024-10-23 cs.LG stat.ML
Spatiotemporal Transformer for Imputing Sparse Data: A Deep Learning Approach
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出ST-Transformer模型,利用多层时空注意力和自监督学习解决稀疏土壤湿度数据缺失值插补问题,并在SMAP数据上验证其优于现有方法。
2023-12-01 cs.LG stat.ME
Spatio-Temporal Denoising Graph Autoencoders with Data Augmentation for Photovoltaic Timeseries Data Imputation
SunPower Corporation(SunPower公司);SolarEdge Technologies(SolarEdge科技公司);Case Western Reserve University(凯斯西储大学);C2 Energy Capital(C2能源资本公司);Sandia National Labs(桑迪亚国家实验室)
全球光伏(PV)市场与实时的数据记录器的整合,使大规模的光伏数据分析管道能够用于光伏机组的功率预测和长期可靠性评估。然而,PV数据分析的性能在很大程度上取决于PV时间序列数据的质量。本文提出了一种新的时空去噪图自动编码器(STD-GAE)框架来填补缺失的光伏发电数据。STD-GAE利用领域知识的时间相关性、空间一致性和值依赖性来恢复丢失的数据。实验结果表明,STD-GAE可以实现43.14%的插补精度的增益和仍然不敏感的缺失率,不同的季节,和缺失的情况下,与最先进的数据插补方法,如MIDA和LRTC-TNN。
2023-02-21 cs.LG stat.AP
Predicting Glaucoma Visual Field Loss by Hierarchically Aggregating Clustering-based Predictors
The University of Tokyo(东京大学);JST(日本科学技术振兴机构)
本研究解决了从患者疾病数据集预测昏迷性视野丧失的问题。我们的目标是准确预测个体患者的疾病进展。由于每个患者的可用测量值很少,因此很难为个体产生良好的预测值。最近提出的基于聚类的方法增强了使用具有相似时空模式的患者数据的预测能力。每个患者被归类为一组患者,并使用该类中的所有数据构建预测模型。预测高度依赖于聚类的质量,但很难确定最佳聚类方法。因此,我们提出了一种方法,用于聚合基于聚类的预测,以获得更好的预测精度比从一个单一的基于聚类的预测。此外,该方法显示出非常高的性能,通过分层聚合从几个基于聚类的方法产生的专家。我们使用真实的数据集来证明我们的方法比传统的基于聚类和患者的回归方法表现得更好,因为分层聚合策略具有一种机制,使小社区中的良好预测者能够茁壮成长。
2016-03-23 cs.LG stat.ML
Bayesian spatio-temporal weighted regression for integrating missing and misaligned environmental data
Department of Statistical Sciences, University of Toronto(多伦多大学统计科学系);School of Environmental Sciences, University of Toronto(多伦多大学环境科学学院)
本文提出了一种贝叶斯加权回归框架,用于整合缺失和错位的环境数据,通过空间时间核和数值近似方法提高预测精度和鲁棒性。
2025-12-29 stat.AP stat.ME
GRU-D Characterizes Age-Specific Temporal Missingness in MIMIC-IV
Institute of Medical Informatics, Charité - Universitätsmedizin Berlin(柏林夏里特医学院医学信息学研究所)
该研究利用GRU-D模型分析MIMIC-IV中5项生命体征的时间序列,实现老年与年轻患者的二分类,发现血压和呼吸频率的缺失模式是重要预测因子,为临床时间缺失模式研究提供新方向。
2024-10-07 cs.LG stat.ML
Predicting missing values in spatio-temporal satellite data
遥感数据是稀疏的,这意味着数据有缺失值,例如由于云层覆盖。这对于需要完整数据集的应用和信号处理算法是有问题的。为了解决稀疏数据问题,我们提出了一种新的间隙填充算法。所提出的方法分别预测每个缺失值的基础上的数据点周围的时空邻域的缺失数据点。计算工作量可以分布在几台计算机上,使该方法适用于大型数据集。缺失值的预测和相应的预测不确定度的估计是基于排序程序和分位数回归。该算法被应用到MODIS的NDVI数据从阿拉斯加和现实的云层覆盖的情况下,具有高达50%的缺失数据测试。对已建立的软件验证表明,所提出的方法具有良好的性能的均方根预测误差。该过程在开源R包gapfill中实现并可用。我们用一个真实的数据示例演示了软件性能,并展示了如何根据特定数据进行定制。由于灵活的软件设计,用户可以控制和重新设计的过程中的主要部分很少的努力。这使其成为填补空白卫星数据和今后开发填补空白程序的一个有用工具。
2016-05-03 stat.AP
UniGIO: Unified Generative Global In-situ Weather Modeling from Spatiotemporal Incomplete Observations
Beihang University(北京航空航天大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);The Chinese University of Hong Kong(香港中文大学);Tsinghua University(清华大学)
UniGIO提出统一生成框架,直接从稀疏不完整的全球原位观测建模天气,通过掩码生成统一预测、插补与生成,在Weather-5K上实现SOTA,精度、保真度和极端事件捕获分别提升11%、12%和5%。
2026-09-22 cs.LG stat.ML
Deep Learning for Spatio-Temporal Modeling: Dynamic Traffic Flows and High Frequency Trading
深度学习应用隐变量的分层来构建非线性高维预测器。我们的目标是开发和训练用于时空建模的深度学习架构。通过随机梯度下降(SGD)和用于参数正则化的丢弃(DO)来实现训练深度架构,目标是最小化样本外预测均方误差。为了说明我们的方法,我们预测交通流量数据中的急剧不连续性,其次,我们开发了一个分类规则来预测短期期货市场价格作为订单深度的函数。最后,我们总结了未来研究的方向。
2018-05-07 stat.ML
NAOMI: Non-Autoregressive Multiresolution Sequence Imputation
Caltech(加州理工学院);Northeastern University(东北大学);Salesforce(赛富时)
缺失值填补是时空建模中的一个基本问题,从运动跟踪到物理系统的动力学。深度自回归模型会受到误差传播的影响,这对于插补长期序列来说变得灾难性。在本文中,我们采取非自回归的方法,并提出了一种新的深度生成模型:非自回归多分辨率插补(NAOMI),以填补任意缺失模式的远程序列。NAOMI利用时空数据的多分辨率结构,并使用分而治之的策略从粗到细的分辨率递归解码。我们通过对抗训练进一步增强了我们的模型。当从确定性和随机动态系统的基准数据集进行广泛评估时。NAOMI证明了插补精度的显着改善(与自回归对应物相比,平均预测误差降低了60%)和长期序列的泛化。
2019-10-29 cs.LG stat.ML
Semiparametric Spatiotemporal Model with Mixed Frequencies
针对不同来源时间序列数据的混合频率问题,提出一种半参数时空模型,利用backfitting算法估计高频变量的非参数效应,模拟与玉米产量预测实验均证明其优于基准广义可加模型。
2021-05-04 stat.ME
Robust Spatio-Temporal Distributional Regression
针对连续变量分布函数的时空建模中边界值问题,提出边界膨胀二项模型,结合Pólya-Gamma数据增强与动态高斯预测过程实现高效贝叶斯推断,显著优于标准二项分布回归。
2025-08-07 stat.ME
Matrix Autoregressive Model with Vector Time Series Covariates for Spatio-Temporal Data
针对静态二维空间网格矩阵时间序列与非空间向量辅助序列的预测问题,提出MARAC模型,结合双线性变换自回归分量与RKHS平滑张量辅助分量,通过惩罚极大似然估计与交替最小化求解,在模拟及全球TEC预测中验证了性能。
2025-09-24 stat.ME
On Computationally-Scalable Spatio-Temporal Regression Clustering of Precipitation Threshold Excesses
针对系统性缺失协变量情况下基于回归的极值分析,提出了一种基于数据驱动的时空回归的阈值过度聚类方法。结果表明,在系统缺失的协变量的存在下,阈值过度的行为变得非平稳和非齐次。所提出的方法描述了这种复杂的行为由一组本地平稳广义帕累托分布(GPD)模型,其中的参数表示为回归模型,和一个潜在的时空切换过程。利用模型参数有界变化的时间序列分析非参数有限元方法(FEM-BV),解决了时空切换过程。所提出的FEM-BV-GPD方法超越了标准潜在类模型(如混合模型和隐马尔可夫模型)中的强先验假设。此外,它还提供了底层依赖结构的实用描述。该框架的性能表现在瑞士的历史降水量数据,并与相同的数据通过标准方法获得的结果进行比较。
2021-04-01 stat.ME
Modeling Spatio-Temporal Dynamics of Obesity in Italian Regions Via Bayesian Beta Regression
Università di Milano-Bicocca(米兰比可卡大学);Università degli studi di Bergamo(贝加莫大学)
本文通过贝叶斯分层贝塔回归模型分析意大利地区2010-2022年肥胖率的时空动态,识别空间和时间趋势,评估异质性,发现性别和空间相关性对肥胖动态至关重要。
2026-03-30 stat.AP
A novel forecasting framework combining virtual samples and enhanced Transformer models for tourism demand forecasting
School of Computer, Electronics and Information, Guangxi University(广西大学计算机与电子信息学院);School of Electrical Engineering, Guangxi University(广西大学电气工程学院);School of Mathematics and Statistics, Xuzhou University of Technology(徐州工程学院数学与统计学院)
针对旅游需求预测中数据稀缺与时空依赖难题,提出结合虚拟样本生成和增强Transformer的新框架,实验显示平均MASE降低18.37%,显著提升预测精度。
2025-03-25 cs.LG stat.AP
Smooth Robust Tensor Completion for Background/Foreground Separation with Missing Pixels: Novel Algorithm with Convergence Guarantee
Virginia Tech(弗吉尼亚理工大学)
本研究的目的是通过将视频采集、视频恢复、背景/前景分离结合到一个框架中来解决具有缺失像素的背景/前景分离问题。为了实现这一点,平滑鲁棒张量完成(SRTC)模型被提出来恢复数据,并将其分解为静态背景和平滑前景,分别。具体地说,静态背景建模的低秩塔克分解和平滑的前景(运动物体)建模的时空连续性,这是由总变分正则化。基于张量近似交替最小化(tensor proximate alternative minimization,tenPAM)的有效算法实现求解所提出的模型,在非常温和的条件下具有全局收敛性保证。大量的实验表明,该方法显着优于国家的最先进的方法,背景/前景分离与丢失像素。
2022-04-11 cs.CV cs.LG stat.ML
A Bayesian Approach for Spatio-Temporal Data-Driven Dynamic Equation Discovery
在科学和工程的各个领域中,微分方程都是基于物理原理来描述复杂动力系统的。通过在学术界和工业界的反复使用,这些方程已被证明能很好地代表现实世界的动态。由于这些复杂系统的真正动力学通常是未知的,学习控制方程可以提高我们对驱动系统的机制的理解。在这里,我们开发了一个贝叶斯方法,以数据驱动的发现非线性时空动态方程。我们的方法可以容纳测量噪声和缺失数据,这两者都是常见的在现实世界的数据,并占参数的不确定性。所提出的框架说明使用三个模拟系统与不同数量的观测不确定性和缺失数据和应用到一个真实世界的系统来推断的流函数的涡度的时间演变。
2022-09-06 stat.ME
Spatio-temporal modelling of $\text{PM}_{10}$ daily concentrations in Italy using the SPDE approach
本文说明了一个时空插值过程的主要结果$\text{PM}_{10}$浓度在日常分辨率使用一组410个监测站点,分布在整个意大利领土,为2015年。插值过程是基于贝叶斯分层模型,其中的空间分量表示通过随机偏微分方程(SPDE)的方法与滞后1时间自回归分量(AR 1)。通过集成嵌套拉普拉斯近似(INLA)进行推断。我们的模型包括11个空间和时空预测因子,包括气象变量和气溶胶光学厚度。由于预测因素的影响在不同月份有所不同,回归基于12个月模型,具有相同的协变量集。预测模型的性能进行了分析,使用交叉验证研究。结果表明,预测值与实测值符合良好(相关范围:0.79 - 0.91;偏差:0.22 - 1.07 $μ\text{g}/\text{m}^3$ ; RMSE:4.9 - 13.9 $μ\text{g}/\text{m}^3$)。该模型的最终输出是一组365网格(1公里$\times$ 1公里)每天$\text{PM}_{10}$地图在意大利配备了不确定性措施。空间预测性能表明,插值过程是能够再现大规模的数据功能,而不现实的工件在生成的$\text{PM}_{10}$表面。本文还提出了两个说明性的例子,我们的模型的实际应用,曝光概率和人口暴露地图。
2020-09-22 stat.AP
Robust prediction under missingness shifts
Fraunhofer IKS(弗劳恩霍夫IKS)
该研究探讨缺失偏移下的预测鲁棒性,证明可忽略缺失偏移下贝叶斯预测器不变,其实验发现不同方法对不同偏移鲁棒性不同,不可忽略偏移下高信息性缺失时忽略缺失值效果最优。
2024-06-24 cs.LG stat.ML
Insights into the drivers and spatio-temporal trends of extreme Mediterranean wildfires with statistical deep-learning
该研究结合极端分位数回归与统计深度学习,分析2001–2020年欧洲及地中海野火,揭示VPD、气温和干旱对火灾发生与蔓延的差异化影响,并量化温度趋势导致的未来风险增加。
2023-06-05 stat.AP stat.ML
Linear predictor on linearly-generated data with missing values: non consistency and solutions
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会);CNRS/IN2P3(法国国家科学研究中心/国家核物理与粒子物理研究所);IJCLab(拉兹霍夫斯基物理实验室);Ecole Polytechnique(巴黎综合理工学院);IP Paris(巴黎理工学院);Mila(米拉人工智能研究所);McGill University(麦吉尔大学)
我们考虑在数据有缺失值时构建预测器。我们研究了非常简单的情况下,预测的目标是一个线性函数的充分观察到的数据,我们表明,在缺失值的存在下,最佳的预测可能不是线性的。在特定的高斯情况下,它可以被写为观测数据和各种缺失值指标之间的多路交互的线性函数。由于其内在的复杂性,我们研究了一个简单的近似,并证明了有限样本的泛化范围,突出了每种方法表现最好的制度。然后,我们证明了具有ReLU激活函数的多层感知器可以是一致的,并且可以在真实模型和近似值之间进行良好的权衡。我们的研究强调了有趣的模型家族,这些模型有利于根据可用数据量拟合缺失值。
2020-05-12 cs.AI cs.LG stat.ML
Area-level spatio-temporal Poisson mixed models for predicting domain counts and proportions
本文介绍了具有时间和SAR(1)空间相关随机效应的区域级泊松混合模型。小面积预测的二分变量的比例和计数来自新的模型和相应的均方误差估计参数自助。本文说明了介绍的方法与实际数据的两个应用程序。第一个涉及2007-2008年期间加利西亚(西班牙)的森林火灾数据,目标是建模和预测火灾次数。第二个是2013年西班牙加利西亚生活条件调查的数据,目标是估计贫困线以下妇女的县比例。
2020-11-30 stat.ME
A Hierarchical Multivariate Spatio-Temporal Model for Large Clustered Climate data with Annual Cycles
本文提出一个多变量层次时空模型来描述月极端气温和月降水量的联合序列。现有360个监测站60年来的数据,缺失数据影响到几乎所有系列。模型组件占时空依赖性与年度周期,依赖于协变量和响应之间。采用最近邻高斯过程对海量数据进行时空相关性建模。响应多变量的依赖关系描述使用coregionalization的线性模型,而年度周期进行评估的时间的圆形表示。所提出的方法可以填补缺失值和容易插值的气候表面在国家一级。背后的动机是对意大利领土上所谓的生态区的描述。生态区划定了在气候、自然地理、水文地理、植被和野生动物方面具有类似潜力的广泛而离散的生态均质地区,并为解释生态过程、干扰状况、植被格局和动态提供了一个地理框架。到目前为止,意大利两个主要的宏观生态区按等级划分为35个区。意大利生态区目前的气候特征是基于1955-1985年期间的数据和生物气候指数,需要适当更新。
2017-12-31 stat.AP
Kernel Regression for Spatial and Spatio-Temporal Residual Risk: Application to School Shootings in the Contiguous United States
University of Otago(奥塔哥大学)
提出一种正交化核回归框架,在二元半参数模型中嵌入残差风险曲面,用于区分背景异质性与超额风险,并应用于2000-2024年美国本土959起校园枪击事件分析,发现学校规模、中学和高中风险更高,且调整协变量后残差风险仍集中在美国中东部走廊。
2026-08-04 stat.AP stat.ME
Spatio-temporal smoothing, interpolation and prediction of income distributions based on grouped data
Meiji University(明治大学);The University of Tokyo(东京大学);Chiba University(千叶大学)
针对日本住房和土地调查分组数据在分析上面临的问题,提出基于分组数据的时空有限混合模型,通过共享潜在分布及纳入时空效应实现收入分布的时空平滑、插值与预测,助力高效精细化政策制定。
2026-07-29 stat.AP
Spatiotemporal modelling of PM$_{2.5}$ concentrations in Lombardy (Italy) -- A comparative study
本研究比较了HDGM、GAMM和RFSTK三种模型在预测伦巴第PM$_{2.5}$浓度方面的时空预测效果,结果表明传统统计方法与机器学习在建模相关时空数据上具有互补潜力。
2023-09-13 stat.AP
Spatio-temporal Joint Modelling on Moderate and Extreme Air Pollution in Spain
该研究针对西班牙PM10污染,构建贝叶斯时空联合模型分析中度与极端污染的影响因素差异,识别出空气污染热点区域,为环境政策制定提供支撑。
2023-08-24 stat.AP
Sequential Channel State Tracking & SpatioTemporal Channel Prediction in Mobile Wireless Sensor Networks
我们提出了一个非线性滤波框架接近的问题,在移动无线传感器网络中的信道状态跟踪和时空信道增益预测,在贝叶斯设置。我们假设无线信道构成一个可观察的(由传感器/网络节点),时空,条件高斯随机过程,这是统计依赖于一组隐藏的信道参数,称为信道状态。信道状态根据已知的、非平稳的、非线性的和/或非高斯马尔可夫随机核随时间演变。该公式导致部分可观测系统,具有随时间变化的全局状态和时空变化的观测。认识到一般的非线性状态估计的棘手性,我们提倡使用基于网格的近似滤波器作为一种有效的和鲁棒的手段递归跟踪的信道状态。我们还提出了一个连续的时空预测跟踪信道增益在时间和空间的任何点,提供实时连续估计各自的信道增益图,为网络中的每个传感器。此外,我们表明,这两个估计收敛到真正的各自的MMSE最优估计,在一个共同的,相对较强的意义。数值仿真验证了该方法的有效性。
2015-02-06 cs.IT math.IT stat.AP
A continuous spatio-temporal approach to estimate climate change
本文介绍了一种分解时空模式中趋势、周期和季节分量的方法,并将其应用于温度和降水序列中气候变化的存在性研究。该方法结合了气候问题分析中的关键特征--空间异质性的重要性、来自大量气象站的信息以及缺失数据的存在。空间部分是基于空间协方差函数的连续投影,允许模拟气候数据中观察到的复杂的依赖模式。我们应用这种方法来研究气候变化的巴西东北部地区,其特点是丰富的气候和大幅度的温度和降雨。结果表明,存在着温度上升的趋势,表明该地区的气候模式发生了变化。
2017-03-20 stat.AP
A space-time covariance function for spatio-temporal random processes and spatio-temporal prediction (kriging)
我们考虑一个平稳的时空随机过程,并假设我们有一个样本。通过在每个位置定义一系列正则频率上的离散傅里叶变换,并将这些复值随机变量作为观测样本,得到了时空随机过程的时空协方差函数和谱密度函数的表达式。这些谱对应于随机过程的不可分离类。本文得到的时空协方差函数是空间距离和时间频率的函数,类似于Matern类。这些是第二类修正贝塞尔函数。参数是随机过程的二阶谱密度函数和空间距离的形式。我们考虑协方差函数的参数估计,并简要地提到它们的渐近性质。还考虑了在已知位置处的整个数据的估计以及给定上述样本的值的估计。利用离散傅里叶变换的向量得到预测量。我们还描述了一种基于复值随机变量的似然比检验的利用有限傅里叶变换检验m个空间时间序列独立性的统计检验方法。保留字:离散傅里叶变换,协方差函数,谱密度函数,时空过程,预测(克里金)拉普拉斯算子,频率变差函数,独立性检验,Whittle似然。
2015-12-29 math.ST stat.AP stat.TH
Multivariate Covariance Generalized Linear Models
我们提出了一个非正态多变量数据分析的一般框架,称为多变量协方差广义线性模型(McGLM),旨在处理多变量响应变量,以及广泛的时间和空间的相关性结构定义的协方差连接函数与矩阵线性预测,涉及已知的矩阵。该方法的动机是三个数据的例子,不容易处理现有的方法。第一个例子涉及多变量计数数据,第二个涉及混合类型的响应变量,结合重复测量和纵向结构,第三个涉及降雨数据的时空分析。该模型考虑到非正态性,在传统的方式通过方差函数,和平均结构建模的链接函数和线性预测。模型拟合使用一个有效的牛顿评分算法的基础上准似然和皮尔逊估计函数,只使用二阶矩假设。这提供了一个统一的方法,各种不同类型的响应变量和协方差结构,包括多变量的重复测量,时间序列,纵向,空间和时空结构的扩展。
2015-04-07 stat.ME
Data Integration and spatio temporal statistics can quantify relative risk of medico-legal reforms: the example of police emergency mental health responses in Queensland (Australia)
本研究利用跨83个邮区的13,035条警察记录,通过Lasso和条件自回归模型分析远北昆士兰EE-O/A入院的时空动态,发现社会经济劣势与服务可及性是主要驱动因素,强调需在贫困社区进行针对性干预。
2025-10-13 stat.AP stat.ME
NeuMiss networks: differentiable programming for supervised learning with missing values
Université Paris-Saclay(巴黎-萨克雷大学);CNRS/IN2P3(法国国家科学研究中心/国家核物理与粒子物理研究所);IJCLab(伊雷娜·约里奥-居里实验室);Ecole Polytechnique(巴黎综合理工学院);IP Paris(巴黎理工学院);Mila(米拉);McGill University(麦吉尔大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
缺失值的存在使得监督学习更具挑战性。事实上,以前的工作已经表明,即使响应是完整数据的线性函数,最佳预测器也是观察到的条目和缺失指标的复函数。因此,一致性方法的计算或样本复杂性取决于缺失模式的数量,其在维度数量上可以是指数级的。在这项工作中,我们推导出线性假设和各种缺失数据机制,包括随机缺失(MAR)和自屏蔽(Missing Not At Random)下的最佳预测的分析形式。基于Neumann级数近似的最优预测,我们提出了一个新的原则架构,命名为NeuMiss网络。它们的独创性和力量来自于使用一种新型的非线性:乘以缺失指标。我们提供了一个上限NeuMiss网络的贝叶斯风险,并表明他们有良好的预测精度与一些参数和独立的缺失数据模式的数量的计算复杂性。因此,它们可以很好地扩展到具有许多特征的问题,并且对于中等大小的样本仍然具有统计效率。此外,我们表明,相反的程序使用EM或插补,他们是强大的缺失数据机制,包括困难的MNAR设置,如自屏蔽。
2020-11-04 cs.AI cs.LG stat.ML
Domain Adaptation under Missingness Shift
Carnegie Mellon University(卡内基梅隆大学)
本文提出缺失偏移下的域适应(DAMS)问题,证明缺失指示符可得时其可归约为协变量偏移,针对完全随机漏报且无缺失指示符的场景推导了四项理论结果,提出线性模型的解析调整方法,并通过实验验证了方法有效性。
2023-05-03 cs.LG stat.ML
Handling Missing Data in Probabilistic Regression Trees
Universidade Federal do Rio Grande do Sul(南里奥格兰德联邦大学)
本文扩展PRTree框架,提出三种处理缺失数据的策略,经多数据集验证,所提方法在缺失比例高时优于CART,且保留树模型的可解释性与灵活性。
2026-08-07 cs.LG stat.ML
High-Dimensional Tensor Discriminant Analysis with Incomplete Tensors
University of Notre Dame(圣母大学);New York University(纽约大学)
针对不完整高维张量分类难题,提出基于TGMM的Tensor LDA-MD算法,利用判别张量低秩结构处理缺失数据,建立相关理论界,在模拟与真实数据中表现优异。
2024-10-30 cs.LG stat.ME stat.ML
Classification Using Link Prediction
Amirkabir University of Technology(阿米尔卡比尔理工大学)
图中的链接预测是检测在不久的将来会形成的丢失链接的问题。使用数据的图形表示,我们可以将分类问题转化为链接预测问题,其目的是找到未标记数据(未标记节点)与其类之间的缺失链接。据我们所知,尽管许多算法使用数据的图形表示进行分类,但没有一个算法使用链接预测作为其分类过程的核心。在这项工作中,我们提出了一种新的算法,称为CULP(分类使用链接预测),它使用一种新的结构,即标签嵌入图或LEG和链接预测找到类的未标记的数据。不同的链接预测器以及兼容性得分-我们提出的一种新的链接预测器,专门为我们的设置设计-已经被使用,并显示出对不同数据集进行分类的有希望的结果。本文进一步改进了CULP设计一个扩展名为CULM,它使用多数表决(因此在首字母缩略词中的M)的过程与权重成比例的预测的置信度,以使用多个链接预测器的预测能力,并利用低层次的数据特征。大量的实验结果表明,CULP和CULM都具有很高的准确性,并与最先进的图分类器和一般分类器竞争。
2018-10-01 cs.LG stat.ML
Predictive Uncertainty in Short-Term PV Forecasting under Missing Data: A Multiple Imputation Approach
SAP Labs France(SAP法国实验室);EURECOM
本文提出一种结合随机多重插补与Rubin规则的框架,用于将缺失数据不确定性纳入短期光伏预报,提升预测区间校准性。
2026-03-16 cs.LG stat.AP stat.ML
Minimax rate of consistency for linear models with missing values
Sorbonne Université(巴黎索邦大学);CNRS(法国国家科学研究中心);Laboratoire de Probabilités, Statistique et Modélisation (LPSM)(概率、统计与建模实验室(LPSM));MOKAPLAN(莫卡普兰);INRIA Paris(法国国家信息与自动化研究所巴黎);CMAP(数学与应用计算中心(CMAP));UMR7641(法国国家科学研究中心与巴黎综合理工学院联合研究单位(UMR7641));Ecole Polytechnique(巴黎综合理工学院);IP Paris(巴黎理工学院)
在大多数真实世界的数据集中,由于多个来源的聚合和固有的缺失信息(传感器故障,调查中未回答的问题......),会出现缺失值。事实上,缺失值的本质通常会阻止我们运行标准的学习算法。在本文中,我们集中在广泛研究的线性模型,但在缺失值的存在下,这是一个相当具有挑战性的任务。事实上,贝叶斯规则可以分解为对应于每个缺失模式的预测因子之和。这最终需要解决大量的学习任务,输入特征的数量呈指数级增长,这使得当前现实世界的数据集无法进行预测。首先,我们提出了一个严格的设置来分析一个最小二乘型估计,并建立一个界限的超额风险,指数增长的维度。因此,我们利用缺失数据分布,提出了一种新的算法,并推导出相关的自适应风险边界,原来是最小最大优化。数值实验突出了我们的方法相比,用于预测缺失值的最先进的算法的好处。
2022-02-03 cs.LG stat.ML
Prediction of Reaction Time and Vigilance Variability from Spatiospectral Features of Resting-State EEG in a Long Sustained Attention Task
Sabanci University(萨班哲大学);Hacettepe University(哈塞特佩大学);University of Rochester(罗切斯特大学)
静息态脑网络代表了大脑在大多数认知和感觉运动任务中的内在状态。然而,还没有研究提出简洁的预测任务诱发的警觉性变化的任务前,静息状态脑电图(EEG)的频谱空间特征。我们邀请了10名健康志愿者(6名女性,4名男性)参加105分钟的固定序列变化持续时间的持续注意反应任务(SART)。基于连续试验中的表现和反应时间设计了一种新的自适应警戒评分方案,并在保持一致的紧张性表现方面表现出较大的参与者间变异性。使用特征相关性分析的多元线性回归获得了平均累积警觉评分(CVS)、平均反应时间以及来自静息状态、EEG信号的带功率比的这些评分的变异性的显著预测因子,p<0.05。使用交叉验证训练的单层神经网络也捕获了beta子带的不同关联。左侧中央和颞区的伽马(28-48 Hz)和上β比率的增加预测反应较慢,警惕性更不一致,这可以通过默认模式网络(DMN)的激活增加以及颞区高和低注意力网络之间的差异来解释。在睁眼状态下,布罗德曼区18、19和37的顶叶α的较高比率预测了较慢的反应,但更一致的CVS和与保持警惕的优越能力相关的反应。所提出的框架和这些研究结果的最稳定和显着的注意力预测的内在脑电功率比可以用来模拟注意力的变化过程中的BCI应用程序和警惕监测系统的校准会话。
2019-10-21 cs.LG eess.SP stat.ML
Regression modelling of spatiotemporal extreme U.S. wildfires via partially-interpretable neural networks
School of Mathematics, University of Edinburgh(爱丁堡大学数学学院);Statistics Program, Computer, Electrical and Mathematical Sciences and Engineering (CEMSE) Division, King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学计算机、电气与数学科学与工程(CEMSE)分部统计项目)
针对美国极端野火风险量化需求,提出结合线性/加性回归与深度学习的部分可解释神经网络及新型极值点过程模型,在高维野火数据上预测性能显著优于传统回归方法。
2024-03-07 cs.LG stat.ME stat.ML
The Missing Invariance Principle Found -- the Reciprocal Twin of Invariant Risk Minimization
MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);University of California(加利福尼亚大学)
机器学习模型通常对分布外(OOD)数据的泛化能力很差,这是因为在训练过程中依赖于与标签虚假相关的特征。最近,提出了不变风险最小化(Invariant Risk Minimization,简称RST)技术,通过在环境中保存特征条件标签期望$\mathbb{E}_e[y|f(x)]$来学习仅使用不变特征的预测器。然而,最近的研究表明,IRM-v1,一个实用的版本,可以在各种设置失败。在这里,我们确定了一个根本的缺陷,导致失败的可持续发展的制定。然后,我们介绍了一个互补的概念不变性,MRI,基于保存标签条件的功能期望$\mathbb{E}_e[f(x)|y]$,这是免费的这个缺陷。此外,我们介绍了一个简化的,实用的版本的MRI制定称为MRI-v1。我们证明,对于一般的线性问题,MRI-V1保证不变的预测足够数量的环境。我们还实证表明,MRI-v1的性能远远优于IRM-v1,并始终实现了基于图像的非线性问题的接近最佳的OOD泛化。
2023-01-16 cs.AI cs.CV cs.LG
Incremental Bayesian tensor learning for structural monitoring data imputation and response forecasting
Northeastern University(东北大学);McGill University(麦吉尔大学);MIT(麻省理工学院)
由于传感器故障引起的传感不连续性,缺失传感器数据填补在结构健康监测(SHM)领域中普遍存在。为了解决这个基本问题,本文提出了一种增量贝叶斯张量学习方法,用于SHM中时空缺失数据的重建和结构响应的预测。特别是,首先构建时空张量,然后进行贝叶斯张量因子分解,提取潜在的功能缺失数据填补。为了使结构响应预测的基础上不完整的传感数据,张量分解进一步集成与向量自回归增量学习计划。所提出的方法的性能进行了验证连续的现场传感数据(包括应变和温度记录)的混凝土桥梁,应变时间历程是高度相关的温度记录的假设的基础上。结果表明,所提出的概率张量学习方法是准确的和强大的,即使在存在较大的随机缺失率,结构化缺失和它们的组合。秩的选择的插补和预测性能的影响进行了研究。结果表明,对于随机缺失,秩越高,估计精度越高;对于结构性缺失,秩越低,估计精度越高。
2020-07-17 cs.LG cs.NA math.NA
Random features models: a way to study the success of naive imputation
本文通过随机特征模型研究朴素插补在低维和高维线性预测中的有效性,证明其偏差可忽略,并建立SGD预测器的有限样本界,表明在复杂缺失场景下同样适用。
2024-02-06 math.ST stat.ML stat.TH
metboost: Exploratory regression analysis with hierarchically clustered data
随着数据收集量的增加,探索性回归分析变得更加重要,但也更具挑战性。当观测值分层聚类时,问题更具挑战性,因为当模型中不包括非线性效应时,混合效应模型的模型选择可能会产生误导性结果(Bauer和Cai,2009)。一种称为提升决策树的机器学习方法(Friedman,2001)是在真实数据集中进行探索性回归分析的好方法,因为它可以检测具有非线性和交互效应的预测因子,同时还可以解释缺失数据。我们提出了一个扩展,提升决策树称为metboost的层次聚类数据。它的工作原理是将每个树的结构约束为跨组相同,但允许终端节点的方式不同。这允许预测因子和分割点在每个组内产生不同的预测,并近似非线性组特定效应。重要的是,metboost对于数千个观测值和数百个可能包含缺失值的预测值仍然是计算可行的。我们应用该方法预测来自751所学校的15,240名学生的数学表现,这些学生的数据来自2002年教育纵向研究(Ingels等人,2007),允许76个预测因子对每所学校都有独特的影响。当将结果与提升的决策树进行比较时,metboost的预测性能提高了15%。一个大型的模拟研究结果表明,当组规模较小时,与提升决策树相比,metboost具有高达70%的变量选择性能和高达30%的预测性能
2017-02-13 stat.ML