Low-Rank Autoregressive Tensor Completion for Spatiotemporal Traffic Data Imputation
Polytechnique Montreal（蒙特利尔理工学院）；McGill University（麦吉尔大学）
时空交通时间序列（例如，交通量/速度）通常是不完整的，具有相当大的损坏和大量的缺失值，这阻止了用户利用数据的全部能力。缺失数据填补一直是一个长期的研究课题，并在现实世界的智能交通系统的关键应用。一种广泛应用的插补方法是低秩矩阵/张量完成，然而，低秩假设仅保留全局结构，而忽略了时空数据的强局部一致性。在本文中，我们提出了一个低秩自回归张量完成（LATC）框架，通过引入\textit{temporal variation}作为一个新的正则化项到完成的三阶（传感器$\times$时间的一天$\times$天）张量。三阶张量结构使我们能够更好地捕捉流量数据的全局一致性，例如固有的季节性和日常相似性。为了实现局部一致性，我们通过对每个时间序列施加AR（$p$）模型来设计时间变化，其中系数作为可学习参数。与以往的空间和时间正则化方案不同，时间变化的最小化可以更好地表征局部平滑之外的时间生成机制，使我们能够处理更具挑战性的情况下，如“停电”失踪。为了解决LATC中的优化问题，我们引入了一个交替的最小化方案，迭代地估计低秩张量和自回归系数。我们进行了大量的数值实验，在几个现实世界的交通数据集，我们的结果表明，LATC在不同的失踪情况下的有效性。
2021-04-30 cs.LG stat.ML
Low-rank bilinear autoregressive models for three-way criminal activity tensors
International Institute for Applied Systems Analysis（国际应用系统分析研究所）；Millennium Nucleus on Criminal Complexity and School of Economics and Business, Universidad Alberto Hurtado（阿尔贝托·乌尔塔多大学犯罪复杂性千年核心与经济与商业学院）；Department of Decision Sciences and Bocconi Institute for Data Science and Analytics, Bocconi University（博科尼大学决策科学系与博科尼数据科学与分析研究所）；Department of Economics, Cornell University（康奈尔大学经济学系）
本文提出低秩双线性自回归模型，用于解释犯罪活动张量中的依赖结构，实现可解释的预测性能。
2026-03-30 stat.AP
Reduce-Rank Matrix Integer-Valued Autoregressive Model
School of Mathematics and Statistics, Shanxi University（山西大学数学与统计学院）；School of Applied Sciences, Taiyuan University of Science and Technology（太原科技大学应用科学学院）
针对高维整数值时间序列下MINAR模型参数冗余、性能下降的问题，提出带低秩约束的RRMINAR模型，搭配迭代条件最小二乘估计，经仿真和犯罪数据实证验证其估计更稳健、预测更精准，还能挖掘结构性时空信息。
2025-09-04 math.ST stat.CO stat.TH
Low-rank Tensor Autoregressive Predictor for Third-Order Time-Series Forecasting
Tsinghua University（清华大学）
本文提出低秩张量自回归预测器LOTAP，结合t-SVD与自回归并通过交替最小化求解四个解耦子问题，在保持预测精度的同时实现2到6倍加速，且适用于更广泛的张量预测任务。
2025-11-06 math.OC math.ST stat.TH
Rank-based estimation for all-pass time series models
其中自回归多项式的所有根是移动平均多项式的根的倒数并且反之亦然的自回归-滑动平均模型被称为全通时间序列模型。全通模型对于识别和建模非因果和不可逆的自回归移动平均过程很有用。建立了全通模型参数秩估计的渐近正态性和相合性。通过最小化Jaeckel [Ann. Math. Statist. 43（1972）1449- 1458]。这些估计量可以具有与最大似然估计量相同的渐近效率，并且是稳健的。通过模拟研究了有限样本下估计量的行为，并将秩估计用于模拟水枪地震记录的反褶积。
2007-08-14 math.ST stat.TH
Reduced-Rank Network Autoregression with Grouped Edge Effects
Shanghai Jiao Tong University（上海交通大学）；Tongji University（同济大学）；University of Hong Kong（香港大学）
本文提出RRNAR模型，通过降维技术有效捕捉高维多变量网络时间序列中的复杂交互，提升网络参数估计精度。
2026-09-03 stat.ME
Multiple Monte Carlo Testing with Applications in Spatial Point Processes
秩包络检验（Myllymäki等人，空间过程的全局包络检验，arXiv：1307.0239 [stat.ME]）被提出作为蒙特卡罗检验的多重检验问题的解决方案。三种不同的情况被识别：1）几个单变量蒙特卡罗检验，2）一个蒙特卡罗检验用一个函数作为检验统计量，3）几个蒙特卡罗检验用函数作为检验统计量。秩检验在每种情况下均具有正确的（全局）第一类错误，并伴有$p$值和图形解释，该图形解释显示了在规定的检验显著性水平下，哪个子检验或所用检验函数的哪些距离导致拒绝。通过点过程的原假设和随机集统计量的例子来说明秩包络检验的强度。这些例子包括多个检验函数的拟合优度检验、一组点模式的拟合优度检验、多组点模式的比较、多类型点模式中组件的依赖性检验以及随机闭集的布尔假设检验。
2015-06-04 stat.ME
Global envelope tests for spatial processes
包络检验是空间统计学中的一种常用工具，用于拟合优度检验。这些检验以图形方式比较经验函数$T(r)$与来自零模型的模拟对应函数。然而，传统上仅针对固定距离$r$来控制第一类错误概率$α$，而在距离间隔$I$上检查功能。在这项研究中，我们提出了两种方法相关的Barnard的蒙特卡罗测试建立全球包络测试$I$：（1）订购的经验和模拟功能的基础上，他们的$r$明智的排名，以及（2）的偏差测试的信封的建设。这些新的测试允许全局$α$的先验选择，并且它们产生$p$值。我们说明这些测试使用模拟和真实的点模式数据。
2015-11-03 stat.ME
Time Series Analysis of Rankings: A GARCH-Type Approach
本文提出一类受GARCH启发的时变排名模型，用Mallows分布刻画排名动态并引入自回归与反馈成分，建立平稳性与遍历性理论，并通过蒙特卡洛EM算法处理缺失数据，最后应用于职业网球运动员周排名分析。
2025-02-07 stat.CO stat.ME stat.ML
A theorem of Kalman and minimal state-space realization of Vector Autoregressive Models
本文提出了一种$autoregressive$（AR）状态空间实现的概念，它适用于所有传递函数$\boldsymbol{T}(L)$和$\boldsymbol{T}(0)$可逆的情况。我们证明了Kalman定理，它意味着每个向量自回归模型（含外生变量）都有一个最小的$AR$ -状态空间实现形式为$\boldsymbol{y}_t = \sum_{i=1}^p\boldsymbol{H}\boldsymbol{F}^{i-1}\boldsymbol{G}\boldsymbol{x}_{t-i}+\boldsymbolε_t$，其中$\boldsymbol{F}$是幂零Jordan矩阵，且$\boldsymbol{H}, \boldsymbol{G}$满足一定的秩条件. $VARX(1)$对应于降秩回归。类似于该情况，对于固定的Jordan形式$\boldsymbol{F}$，可以通过最小二乘法将$\boldsymbol{H}$估计为$\boldsymbol{G}$的函数。似然函数是推广瑞利商的行列式比。对于与$\boldsymbol{F}$交换的可逆矩阵$\boldsymbol{S}$，如果用$\boldsymbol{S}\boldsymbol{G}$替换$\boldsymbol{G}$，则它不变。利用这一不变性质，极大似然估计的搜索空间可以被约束到满足一定数量的正交关系的等价矩阵类…
2019-10-06 cs.SY eess.SY math.AG
High-dimensional vector autoregressive time series modeling via tensor decomposition
经典的向量自回归模型是多元时间序列分析的基本工具。然而，当时间序列的数量和滞后阶数甚至是中等大的时候，它涉及太多的参数。本文提出将模型的转移矩阵重新排列成张量形式，通过张量分解，可以同时沿三个方向限制参数空间。相比之下，降秩回归方法只能在一个方向上限制参数空间。除了实现大幅降维，所提出的模型是可解释的因素建模的角度来看。此外，为了处理高维时间序列，本文考虑对因子矩阵施加稀疏性，以提高模型的可解释性和估计效率，从而导致稀疏诱导估计。对于低维的情况下，我们推导出所提出的最小二乘估计的渐近性质，并介绍了一个交替最小二乘算法。对于高维情形，我们建立了稀疏诱导估计的非渐近性质，并提出了正则化估计的ADMM算法。仿真实验和一个真实数据的例子表明，所提出的方法的优点，各种现有的方法。
2020-11-03 stat.ME
Rate-Optimal Robust Estimation of High-Dimensional Vector Autoregressive Models
在当前数据丰富的环境下，高维时间序列数据出现在许多科学领域。这类数据的分析对数据分析师提出了新的挑战，因为不仅序列之间复杂的动态相关性，而且还存在异常观测，如缺失值，污染观测和重尾分布。对于高维向量自回归（VAR）模型，我们引入了一个统一的估计过程，是强大的模型误设定，重尾噪声污染，和条件异方差。该方法具有统计最优性和计算效率，可以处理许多流行的高维模型，如稀疏，降秩，带状和网络结构的VAR模型。通过适当的正则化和数据截断，在有界$(2+2ε)$阶矩条件下，估计的收敛速度在极大极小意义下几乎是最优的。当$ε\geq1$时，收敛速度与在亚高斯假设下获得的收敛速度相匹配。所提出的估计的一致性也建立了一些$ε\in(0,1)$，与极小极大最优收敛速度与$ε$。模拟和美国宏观经济的例子证明了所提出的估计方法的有效性。
2022-06-19 stat.ME
Fast, effective, and coherent time series modeling using the sparsity-ranked lasso
本研究将稀疏排序套索（SRL）应用于时间序列建模，通过fastTS R包实现，在急诊就诊量预测任务中实现了比同类方法更快的速度和更高的预测精度。
2024-03-08 stat.CO stat.ME
High-Dimensional Regularized Additive Matrix Autoregressive Model
提出正则化可加矩阵自回归模型，通过行、列时间依赖的可加交互及低秩加稀疏模式提升可解释性并降低计算负担，解决可识别性问题并开发交替块最小化算法，在高维下给出有限样本误差界，经合成与真实数据验证有效。
2025-06-02 stat.ME
Determination of the effective cointegration rank in high-dimensional time-series predictive regressions
本文提出基于降秩回归的两步预测框架，用PCA识别高维单位根序列的协整向量并估计有效协整秩，结合LASSO或降秩方法处理高维情形，理论与实证验证其股票收益预测效果。
2023-04-25 econ.EM stat.ME
Regularized High-Dimensional Additive Tensor Autoregressive Model
Indian Institute of Management Udaipur（印度管理学院乌代浦尔分校）；Indian Institute of Management Ahmedabad（印度管理学院艾哈迈达巴德分校）
针对高维时间序列分析，提出正则化可加张量自回归模型，通过交替块极小化算法估计参数，在合成与真实数据上验证其有效性，兼具可解释性与低计算负担。
2026-08-28 stat.ME
Cost-Sensitive Training for Autoregressive Models
National Research University Higher School of Economics（国立研究型大学高等经济学院）
据报道，训练自回归模型以更好地预测测试指标，而不是最大化可能性，在几个用例中是有益的，但会带来额外的复杂性，从而阻止更广泛的采用。在本文中，我们遵循学习搜索方法（Daumé III等人，2009; Leblond等人，2018年），并调查其几个组成部分。首先，我们提出了一种基于模型输出和地面实况之间的对齐来构建参考策略的方法。我们的参考策略在应用于排列之间的Kendall-tau距离（出现在单词排序任务中）时是最佳的，并且在使用机器翻译的METEOR评分时有所帮助。其次，我们观察到，学习搜索方法的好处，从选择相关的测试指标的成本。最后，我们研究了不同学习目标的效果，发现标准KL损失只学习了几个高概率的令牌，可以用明确针对这些令牌的排名目标来代替。
2019-12-08 cs.LG stat.ML
Low Rank and Structured Modeling of High-dimensional Vector Autoregressions
高维时间序列数据的网络建模是一个关键的学习任务，因为它在许多应用领域，包括宏观经济学，金融和神经科学的广泛使用。虽然在文献中已经深入研究了基于向量自回归模型（VAR）的稀疏建模问题，但涉及低秩和组稀疏分量的更复杂的网络结构却很少受到关注，尽管它们存在于数据中。不考虑低等级结构会导致观察到的时间序列之间的虚假连接，这可能导致从业人员对相关的科学或政策问题得出错误的结论。为了准确地估计网络的格兰杰因果关系的相互作用后，考虑到潜在的影响，我们介绍了一种新的方法来估计低秩和结构稀疏的高维VAR模型。我们引入了一个正则化的框架，涉及核范数和套索（或组套索）惩罚的组合。进一步，随后建立低秩和结构化稀疏分量的估计误差率的非渐近上界。我们还介绍了一种快速估计算法，并通过对合成数据和真实数据的数值实验，证明了所提出的建模框架在标准稀疏VAR估计上的性能。
2018-12-09 stat.ME
Bayesian Time-Varying Tensor Vector Autoregressive Models for Dynamic Effective Connectivity
本文提出一种计算高效的贝叶斯时变张量向量自回归模型，通过张量分解和Ising模型选择活动组件，实现动态有效连接的推断，并在模拟和fMRI数据中验证性能。
2024-05-29 stat.AP stat.ME
SARMA: Scalable Low-Rank High-Dimensional Autoregressive Moving Averages via Tensor Decomposition
针对高维时间序列VARMA模型应用受限的问题，提出Tucker低秩SARMA模型，通过时间维度参数化将有限阶VAR推广至无限阶，并结合因子载荷稀疏性实现变量选择，模拟与实证均验证了其优势。
2025-04-30 stat.ME
Modelling Time-Varying Rankings with Autoregressive and Score-Driven Dynamics
我们开发了一个新的统计模型来分析时变排序数据。该模型可用于大量的排名项目，适应外生随时间变化的协变量和部分排名，并估计通过极大似然在一个简单的方式。排名建模使用Plackett-Luce分布与随时间变化的价值参数，遵循均值回复时间序列过程。为了捕捉价值参数对过去排名的依赖性，我们以广义自回归得分（GAS）模型的方式利用条件得分。仿真实验表明，小样本性质的最大似然估计的时间序列的长度迅速提高，并建议统计推断依赖于传统的海森基于标准误是可用的，即使是中等规模的样本。在实证研究中，我们将该模型的结果的冰球世界锦标赛。我们还讨论了应用排名的基础上的指数，重复调查和非参数效率分析。
2022-07-27 stat.ME
Autoregressive Kernels For Time Series
在这项工作中，我们提出了一个新的家庭的内核可变长度的时间序列。我们的工作建立在多元随机过程的向量自回归（VAR）模型的基础上：给定一个多元时间序列x，我们考虑VAR模型中不同参数θ的似然函数p θ（x）作为描述x的特征。为了比较两个时间序列x和x '，我们形成它们的特征p_θ（x）p_θ（x'）的乘积，该乘积使用矩阵正态-逆Wishart先验对t θ进行积分。在其他属性中，当时间序列的维度d比所考虑的时间序列x和x '的长度大得多时，可以容易地计算该核。它也可以推广到在任意状态空间中取值的时间序列，只要状态空间本身被赋予一个核κ。在这种情况下，x和x'之间的核是由κ在x和x'中枚举的观测和观测的连续性上产生的格拉姆矩阵的函数。我们描述了一个计算效率的实现，使用低秩矩阵分解技术的推广。这些内核相比，其他已知的内核使用一组基准分类任务进行支持向量机。
2011-01-04 stat.ML
Reduced-Rank Covariance Estimation in Vector Autoregressive Modeling
本文研究了高维向量自回归模型中白噪声协方差阵的降秩建模问题。首先，我们提出了降秩协方差估计的设置下，独立的观察。本文推导了向量观测值基于隐变量模型的降秩估计，并给出了其最大似然估计的解析形式。仿真结果表明，降秩协方差估计优于两个竞争的协方差估计的大规模的协方差阵从独立的观察。然后，我们描述了如何将所提出的降秩估计融入到高维VAR模型的拟合中，在这里我们考虑了两种需要不同模型拟合程序的情况。在VAR建模的背景下，我们的降秩协方差估计不仅提供了VAR过程的依赖结构的可解释的描述，但也导致改进模型拟合和预测不受限制的协方差估计。两个实际数据的例子来说明这些拟合程序。
2014-12-05 stat.AP stat.CO stat.ME
Arctic Amplification of Anthropogenic Forcing: A Vector Autoregressive Analysis
2020年9月15日，北极海冰范围（SIE）在历史上排名倒数第二，并继续下降。对反馈回路如何放大外部CO2强迫效应的理解仍然有限。我们提出了VARCTIC，这是一个向量自回归（VAR），旨在捕捉和外推北极反馈回路。VAR是动态联立方程组，通常用于预测和理解多个宏观经济时间序列的相互作用。VARCTIC是成熟的气候模型和纯粹的统计方法之间的一种折衷，这种方法通常对潜在的机制几乎没有解释。我们完全无条件地预测，到2060年，SIE将在9月达到0。脉冲响应函数表明，人为CO2排放冲击有一个不寻常的持久影响SIE -财产共享没有其他冲击。我们发现，反照率和厚度为基础的反馈是主要的放大渠道，通过它CO2异常影响SIE在短期/中期运行。此外，有条件的预测分析表明，SIE的未来路径关键取决于CO2排放的演变，结果从恢复SIE到2050年达到0。最后，反照率和厚度的反馈显示，在加速预测SIE走向0的速度发挥了重要作用。
2021-03-09 econ.EM stat.AP
Time-varying Autoregression with Low Rank Tensors
University of Washington（华盛顿大学）
我们提出了一个窗口技术，学习简约的时变自回归模型，从多变量时间序列。这种无监督的方法通过非光滑和非凸优化来揭示数据中可解释的时空结构。在每个时间窗口中，我们假设数据遵循由系统矩阵参数化的线性模型，并且我们将这种潜在不同的系统矩阵的堆叠建模为低秩张量。由于其结构，该模型可扩展到高维数据，并且可以轻松地合并先验知识，例如随时间推移的平滑度。我们使用交替最小化的张量的组件，并证明该算法的任何稳定点是一个局部极小。我们证明了一个合成的例子，我们的方法确定的开关线性系统中存在噪声的真实秩。我们说明了我们的模型的实用性和优越的可扩展性时，适用于几个合成和现实世界的例子：两种类型的时变线性系统，蠕虫的行为，海面温度和猴脑数据集。
2020-05-19 cs.LG stat.ML
Multiple Change Point Detection in Reduced Rank High Dimensional Vector Autoregressive Models
研究了高维向量自回归（VAR）模型中转移矩阵具有低秩稀疏结构的变点检测与定位问题。我们首先解决的问题，检测一个单一的变化点，使用穷举搜索算法，并建立一个有限的样本误差界的准确性。接下来，我们将结果扩展到可以作为样本量的函数增长的多个变化点的情况。它们的检测基于两步算法，其中第一步，对候选变化点的穷举搜索用于重叠窗口，并且随后，向后消除过程用于筛选出冗余候选。两步策略产生的变化点的数量和位置的相合估计。为了减少计算成本，我们还研究了条件下，一个代理VAR模型与弱稀疏的过渡矩阵，可以准确地估计的变化点和它们的位置由原始模型产生的数据。这项工作还涉及并解决了正在考虑的VAR模型的性质所带来的一些新的技术挑战。所提出的算法和方法的有效性说明合成和两个真实的数据集。
2021-09-30 stat.ME
Dimensionality reduction for time series data
尽管它们不考虑数据的时间性质，但经典的降维技术，例如PCA，被广泛应用于时间序列数据。在本文中，我们介绍了一个特定的时间序列的贝叶斯多元自回归模型的基础上，从而避免了假设，数据点是相互独立的因子分解。关键是找到自回归矩阵的低秩估计。与其他因子模型的概率版本一样，这会导致原始数据的潜在低维表示。我们讨论了一些可能的概括和替代方案，最相关的是一种技术，同时平滑和降维。为了说明潜在的应用，我们将该模型应用于合成数据集和不同类型的神经成像数据（EEG和ECoG）。
2014-06-14 stat.ML
Sparse Tucker Decomposition and Graph Regularization for High-Dimensional Time Series Forecasting
Central China Normal University（华中师范大学）；Hong Kong Baptist University（香港浸会大学）
本文提出了一种结合稀疏Tucker分解与图正则化的高维时间序列预测方法，通过减少参数数量和提高估计精度，实现了更高效的模型性能。
2026-01-01 math.ST stat.ML stat.TH
Transfer Learning for High-dimensional Reduced Rank Time Series Models
University of Florida（佛罗里达大学）；George Mason University（乔治·马歇尔大学）
该研究提出一种针对高维低秩稀疏VAR模型的迁移学习算法，并设计信息性观测选择方法，提供理论保证与实证验证。
2025-04-22 cs.LG stat.ML
Time-series Random Process Complexity Ranking Using a Bound on Conditional Differential Entropy
ETH Zürich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）
本文提出基于条件微分熵上界的时间序列复杂度排序方法，利用预测误差协方差矩阵，通过合成实验验证其有效性。
2025-10-23 cs.IT eess.AS eess.SP
Comparison of non-parametric global envelopes
这项研究提出了一项模拟研究，以比较不同的非参数全局包络，这些包络是Myllymäki等人提出的秩包络的改进（2017年，空间过程的全局包络测试，J. R。中央集权主义者B 79，381-404，doi：10.1111/rssb.12172）。全局包络是为一组函数或向量构造的。对于大量的向量，所有的细化导致与全局秩包络相同的结果。对于较小数量的向量，细化起作用，其中不同的细化对向量集合中向量的不同类型的极值敏感。不同的替代品的性能进行了比较，在模拟研究中的可用向量的数量，向量的维数，向量元素和预期类型的极值之间的依赖量。
2020-08-21 stat.CO stat.ME
Bayesian Tensor Factorized Vector Autoregressive Models for Inferring Granger Causality Patterns from High-Dimensional Multi-subject Panel Neuroimaging Data
利用非侵入性神经影像技术了解功能性脑连接模式的动态是人类神经科学的一个重要焦点。向量自回归（VAR）过程和格兰杰因果分析（GCA）已被广泛用于这一目的。虽然高分辨率的多学科神经影像学数据是日常收集的一天，VAR模型的统计文献仍然高度集中在小到中等尺寸的问题和单一的主题数据。基于这些问题，我们提出了一种新的贝叶斯随机效应面板VAR模型，用于多主题高维神经影像数据。我们从一个单主体模型开始，将VAR系数构造为三向张量，然后通过应用Tucker张量分解来降低维度。一种新的稀疏诱导收缩先验允许数据自适应秩和滞后选择。然后，我们将该方法扩展到一种新的多学科数据的随机效应模型，该模型小心地避免了维度随着受试者数量的增加而爆炸，但也灵活地适应了特定于受试者的异质性。我们设计了一个用于后验计算的马尔可夫链蒙特卡罗算法。最后，对后验样本进行带有后验错误发现控制的GCA。该方法在仿真实验中表现出了良好的经验性能。应用于我们的激励功能磁共振成像研究，该方法允许人类大脑网络的定向连接进行详细研究，揭示有意义的，但以前未经证实的皮层连接模式。
2022-09-14 stat.AP stat.ME
Static and Dynamic BART for Rank-Order Data
Luiss University（鲁伊斯大学）；University College Dublin（都柏林大学学院）；University of Milan（米兰大学）；Fondazione Eni Enrico Mattei（恩里科·马泰伊恩尼基金会）
本文提出静态与动态BART模型，用于处理顺序数据，通过非线性贝叶斯加法回归树函数建模潜在分数，改进了传统线性方法的局限性，并在多个应用场景中验证了其优越性。
2025-12-08 math.ST stat.CO stat.ME
