Generalized Autoregressive Neural Network Models
时间序列是按时间顺序进行的观测序列。自回归积分移动平均是一类多用于时间序列数据的模型。然而,这类模型有两个关键的限制。它只适用于具有线性相关结构的高斯数据.在这里,我提出了一个新的模型命名为广义自回归神经网络,GARNN。GARNN是广义线性模型的扩展,其中通过在链接函数中包含神经网络,平均边际取决于滞后值。该模型的实际应用是使用Zeger和Qaqish(1988)分析的一个著名的脊髓灰质炎病例数,
2020-02-13 stat.ME
NAOMI: Non-Autoregressive Multiresolution Sequence Imputation
Caltech(加州理工学院);Northeastern University(东北大学);Salesforce(赛富时)
缺失值填补是时空建模中的一个基本问题,从运动跟踪到物理系统的动力学。深度自回归模型会受到误差传播的影响,这对于插补长期序列来说变得灾难性。在本文中,我们采取非自回归的方法,并提出了一种新的深度生成模型:非自回归多分辨率插补(NAOMI),以填补任意缺失模式的远程序列。NAOMI利用时空数据的多分辨率结构,并使用分而治之的策略从粗到细的分辨率递归解码。我们通过对抗训练进一步增强了我们的模型。当从确定性和随机动态系统的基准数据集进行广泛评估时。NAOMI证明了插补精度的显着改善(与自回归对应物相比,平均预测误差降低了60%)和长期序列的泛化。
2019-10-29 cs.LG stat.ML
Prediction of Hilbertian autoregressive processes : a Recurrent Neural Network approach
Bionomeex(Bionomeex公司);IMAG, CNRS, Univ. Montpellier(蒙彼利埃大学 IMAG 研究所,法国国家科学研究中心)
自回归希尔伯特模型(ARH)是由Denis Bosq在90年代初提出的。这是一个庞大的文学主题,并产生了许多扩展。该模型推广了时间序列分析中广泛使用的经典多维自回归模型。它已成功应用于金融、工业、生物等众多领域。我们建议在这里比较经典的预测方法的基础上估计的自相关算子与神经网络学习方法。后者基于一种流行的递归神经网络:长短期记忆网络。通过模拟和真实数据集进行比较。
2020-08-25 cs.LG stat.CO
Cointegration and Representation of Cointegrated Autoregressive Processes in Banach Spaces
本文推广了在潜在无穷维巴拿赫空间中取值的时间序列的协整概念。这样的时间序列的例子包括C[0,1]中的随机过程配备有上确界距离和那些在有限维向量空间配备有非欧几里德距离。然后,我们发展版本的Granger-Johansen表现定理的I(1)和I(2)自回归(AR)过程采取这样的空间中的值。为了实现我们的目标,我们首先指出AR(p)运动定律可以通过伴随形式表示用线性算子束来刻画,然后研究线性算子束的谱性质,得到给定AR(p)运动定律存在I(1)或I(2)解的充要条件.这些算子理论的结果形成了我们的表示定理的基本基础。此外,它表明,我们的运营商理论的方法实际上是一个密切相关的传统的方法在欧几里得空间设置的扩展。我们的理论结果可能是特别相关的最近越来越多的文献功能的时间序列分析在巴拿赫空间。
2021-03-16 math.FA math.ST stat.TH
Moving Aggregate Modified Autoregressive Copula-Based Time Series Models (MAGMAR-Copulas)
TU Dortmund University(多特蒙德工业大学)
本文提出MAGMAR-皮克罗模型,通过引入移动聚合部分改进传统皮克罗时间序列模型,以处理非马尔可夫过程,通过D-vine框架推导分布特性,并在美通胀数据上验证模型性能。
2026-03-23 math.PR math.ST stat.AP
Multivariate integer-valued autoregressive models applied to earthquake counts
在保险业、金融业、流行病学等各种情况下,需要表示事件发生次数的联合演变。在本文中,我们提出了一个多变量整数值自回归(MINAR)模型,推导了它的性质,并将该模型应用于地震发生在不同的构造板块对。该模型是Pedelis & Karlis(2011)的扩展,其中考虑了交叉自相关(地震背景下的空间传染)。我们拟合了各种双变量计数模型,发现对于许多相邻的构造板块,空间传染在两个方向上都是显着的。此外,忽略交叉自相关可能会低估短期内发生大量事件的可能性。我们的总体研究结果似乎进一步证实了Parsons & Velasco(2001)。
2011-12-05 stat.AP stat.ME
Linear Transformers as VAR Models: Aligning Autoregressive Attention Mechanisms with Autoregressive Forecasting
Georgia Institute of Technology(佐治亚理工学院)
本文提出SAMoVAR,一种将Transformer架构与自回归目标对齐的线性变换器变体,通过整合可解释的动态VAR权重,提升时间序列预测的性能和可解释性。
2026-02-05 cs.AI cs.LG stat.ML
Bootstrapping Generalization Error Bounds for Time Series
我们考虑的问题,发现置信区间的风险预测的平稳,遍历随机过程,使用一个模型估计的过程的过去。我们表明,自举过程提供了有效的置信区间的风险,当数据源是充分混合,和损失函数和估计是适当的光滑。自回归(AR(d))模型估计的最小二乘服从必要的规律性条件,即使在错误的指定,和模拟表明,有限样本覆盖我们的边界迅速收敛到理论,渐近水平。作为一个中间步骤,我们推导出经验分布函数之间的渐近独立性的充分条件,形成分裂实现的随机过程,独立的利益。
2017-11-29 math.ST stat.TH
Parallel Neural Local Lossless Compression
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);University College London(伦敦大学学院)
最近提出的神经局部无损压缩(NeLLoC),这是基于局部自回归模型,已达到国家的最先进的(SOTA)的分布外(OOD)的泛化性能在图像压缩任务。除了鼓励面向对象的推广,本地模型还允许在解码阶段进行并行推理。在本文中,我们提出了两个局部自回归模型的并行化方案。我们讨论了实施方案的实用性,并提供实验证据的压缩运行时的显着收益相比,以前的,非并行实现。
2022-06-26 cs.LG eess.IV stat.ML
Hilbert valued fractionally integrated autoregressive moving average processes with long memory operators
分数积分自回归滑动平均(FIARMA)过程已被广泛和成功地用于建模和预测具有长程相关性的单变量时间序列。这些过程的向量和功能扩展最近也被考虑。在这里,我们研究这些过程的情况下,在可分的希尔伯特空间H 0的过程中,依靠谱域的方法。在此框架下,通常的单变量长记忆参数d被作用在H 0上的长记忆算子D所取代,从而得到一类H 0值FIARMA(D,p,q)过程,其中p和q是AR和MA多项式的次数.当D是正规算子时,给出了H_0值ARMA(p,q)过程的D-分数次积分定义良好的充要条件.然后,我们推导出一类因果FIARMA过程的最佳预测器,并研究如何从有限样本的过程中一致地估计这个最佳预测器。为此,我们提供了一个一般的结果,二次泛函的周期图,顺便产生一个结果的独立利益。也就是说,对于任何遍历平稳过程值在H 0有限的二阶矩,经验自协方差算子收敛,在迹范数,真正的自协方差算子几乎肯定在每个滞后。
2022-10-06 math.FA math.ST stat.TH
Conditional Autoregressive Hilbertian processes
当考虑预测一个连续时间随机过程在整个时间区间内的最近的过去,自回归希尔伯特空间过程(ARH)的概念出现。该模型可以看作是经典自回归过程到Hilbert空间值随机变量的推广。它的估计提出了一些挑战,解决了许多作者在最近几年。在本文中,我们提出了一个扩展的基础上,该模型通过引入一个条件化过程的arh。这样一来,我们的目标是双重的。首先,arh的内在线性是压倒性的。其次,我们允许在这个函数值时间序列模型上引入外生协变量.我们开始定义一种新的过程,我们称之为条件arh。然后,我们提出了估计的无穷维参数与这样的过程。使用arh框架中定义的两类预测器,我们将其扩展到我们的情况。一致性的结果,以及一个真实的数据应用有关的电力负荷预测。
2013-02-14 stat.ME
Vector Autoregressive Models with Spatially Structured Coefficients for Time Series on a Spatial Grid
我们提出了一个空间网格上的时间序列数据的简约时空模型。我们的模型是能够处理高维时间序列数据,可以收集在数百个位置和捕捉空间非平稳性。从本质上讲,我们的模型是一个向量自回归模型,利用空间结构,以实现简约的自回归矩阵在两个层次上。第一级使用滞后邻域方案确保自回归矩阵的稀疏性。第二级执行非零自回归系数的空间聚类,使得附近的位置共享相似的系数。该模型是可解释的,可以用来确定地理分区,在每个区域内,时间序列具有相似的动力学行为,具有齐次自回归系数。模型参数的获得使用惩罚的极大似然与自适应融合Lasso惩罚。估计过程易于实现,并且可以根据建模者的需要进行定制。我们说明了所提出的估计算法在模拟研究的性能。我们将我们的模型应用于沙特阿拉伯的气候模型产生的风速时间序列数据集,以说明其实用性。我们的方法的局限性和可能的扩展进行了讨论。
2021-02-28 stat.AP stat.ME
Locally adaptive spatial smoothing using conditional autoregressive models
条件自回归(CAR)模型通常用于捕获面积单元数据中的空间相关性,并且通常被指定为一组随机效应的先验分布,作为分层贝叶斯模型的一部分。由这些模型引起的空间相关结构是由地理相邻性决定的,因此,如果两个区域共享一个共同边界,则它们具有相关的随机效应。然而,这种相关性结构对于实际数据来说过于简单,实际数据反而可能包括强相关性的子区域以及响应呈现阶跃变化的位置。因此,本文提出了一种扩展CAR先验,它可以捕获这种局部空间相关性。所提出的方法采用迭代算法的形式,该算法顺序地更新数据中的空间相关结构以及估计剩余的模型参数。该方法的有效性进行了评估模拟,其效用说明在疾病映射的情况下,在大格拉斯哥,苏格兰的呼吸系统疾病风险的数据。
2012-05-16 stat.AP
Beyond Equidistant Assumptions: An Autoregressive Ordered Stereotype Model for Ordinal Time Series
Athens University of Economics and Business(雅典经济与商业大学);Universitat Politècnica de Catalunya -BarcelonaTech (UPC)(加泰罗尼亚理工大学)
提出自回归有序刻板模型(AR-OSM),通过引入滞后响应作为协变量捕捉序列依赖,允许数据决定类别间距而非假设等距,适用于婴儿睡眠状态等不等距场景。
2026-06-29 stat.AP stat.ME
A Random Graph-based Autoregressive Model for Networked Time Series
本文提出一种基于随机图的联网时间序列自回归模型,通过引入灵活的潜在变量刻画同质性,并结合一阶差分法与邻居平滑技术实现参数估计,无需指定网络生成机制,理论证明与实验均验证了其有效性。
2023-09-15 stat.ME
Bias-Correction for Privacy-Protected Spatial Autoregressive Models with Application to Restaurant Network Analysis
Center for Applied Statistics and School of Statistics, Renmin University of China(中国人民大学统计学院应用统计中心);School of Statistics and Data Science, Shanghai University of Finance and Economics(上海财经大学统计与信息学院);Guanghua School of Management, Peking University(北京大学光华管理学院)
针对隐私保护下含噪SAR模型,提出偏差校正牛顿-拉弗森及最小二乘估计量,证明其一致性与渐近正态性,并在餐厅交易数据中识别出显著竞争网络效应。
2026-09-21 econ.EM stat.ME
High-dimensional time series segmentation via factor-adjusted vector autoregressive modelling
向量自回归(VAR)模型被广泛用于建模高维时间序列,其分段扩展允许数据中的结构变化。在VAR建模中,参数的数量随着维数的平方增长,这使得在高维中需要稀疏性假设。然而,这是有争议的,是否这样的假设是足够的处理数据集表现出强烈的序列和横截面的相关性。我们提出了一个分段平稳的时间序列模型,同时允许强相关性以及结构变化,其中普遍的序列和横截面的相关性占一个随时间变化的因素结构,和任何剩余的特质变量之间的依赖是由分段平稳VAR模型处理。我们提出了一个附带的两阶段的数据分割方法,充分解决了组件过程的延迟所带来的挑战。它在估计潜在分量中变化点的总数和位置方面的一致性是在比现有文献中的条件更一般的条件下建立的。我们证明了所提出的方法在模拟数据集上的竞争力表现,并应用于美国蓝筹股数据。
2023-01-20 stat.ME
Vector AutoRegressive Moving Average Models: A Review
本文系统综述了VARMA模型在识别、估计、诊断、因果分析、预测和结构分析等方面的优势与最新进展,旨在推动其在实证应用中替代VAR模型。
2024-06-28 econ.EM stat.ME
Autoregressive Kernels For Time Series
在这项工作中,我们提出了一个新的家庭的内核可变长度的时间序列。我们的工作建立在多元随机过程的向量自回归(VAR)模型的基础上:给定一个多元时间序列x,我们考虑VAR模型中不同参数θ的似然函数p θ(x)作为描述x的特征。为了比较两个时间序列x和x ',我们形成它们的特征p_θ(x)p_θ(x')的乘积,该乘积使用矩阵正态-逆Wishart先验对t θ进行积分。在其他属性中,当时间序列的维度d比所考虑的时间序列x和x '的长度大得多时,可以容易地计算该核。它也可以推广到在任意状态空间中取值的时间序列,只要状态空间本身被赋予一个核κ。在这种情况下,x和x'之间的核是由κ在x和x'中枚举的观测和观测的连续性上产生的格拉姆矩阵的函数。我们描述了一个计算效率的实现,使用低秩矩阵分解技术的推广。这些内核相比,其他已知的内核使用一组基准分类任务进行支持向量机。
2011-01-04 stat.ML
Sparsity-Induced Global Matrix Autoregressive Model with Auxiliary Network Data
The University of Hong Kong(香港大学);Faculty of Business and Economics, The University of Hong Kong(香港大学商学院);Department of Statistics and Actuarial Science, The University of Hong Kong(香港大学统计与精算学系)
本文提出一种带稀疏成分的全局矩阵自回归模型扩展,同时建模国际依赖关系和贸易网络影响,并给出似然估计与偏差校正交替最小化方法及理论实证分析。
2025-03-11 cs.LG stat.ME stat.ML
Parametric quantile autoregressive conditional duration models with application to intraday value-at-risk
本文提出一种基于对数对称分布分位数重参数化的新ACD模型,可建模不同百分位数的条件久期,并通过最大似然估计、残差诊断和蒙特卡洛模拟验证,最终应用于价格久期数据以推导半参数日内风险价值模型。
2023-08-29 stat.ME stat.ML
Towards Latent Diffusion Suitable For Text
University of Amsterdam(阿姆斯特丹大学)
本文提出神经流扩散模型,用于高效生成文本,通过改进连续扩散模型在离散空间的应用,提升语言生成的连贯性和效率。
2026-01-07 cs.CL cs.LG stat.ML
Time Series based Ensemble Model Output Statistics for Temperature Forecasts Postprocessing
针对数值天气预报集合预报存在的系统偏差与离散误差问题,提出融合季节性、趋势、自回归及GARCH的时间序列扩展EMOS温度后处理方法,经德国站点多时效实验验证效果优于基准模型,并配套发布tsEMOS的R包。
2024-02-01 stat.AP
On the Out-of-distribution Generalization of Probabilistic Image Modelling
University College London(伦敦大学学院);University of Cambridge(剑桥大学)
分布外(OOD)检测和无损压缩构成两个问题,这两个问题可以通过在第一数据集上训练概率模型以及随后在第二数据集上进行似然评估来解决,其中数据分布不同。通过定义概率模型的泛化的可能性,我们表明,在图像模型的情况下,OOD的泛化能力是由当地的特点。这促使我们提出了一个局部自回归模型,该模型专门模拟局部图像特征,以提高OOD性能。我们将该模型应用于OOD检测任务,并在不引入额外数据的情况下实现了最先进的无监督OOD检测性能。此外,我们使用我们的模型来构建一个新的无损图像压缩器:NeLLoC(神经局部无损压缩器),并报告最先进的压缩率和模型大小。
2021-12-10 cs.CV cs.LG stat.AP