MINIROCKET: A Very Fast (Almost) Deterministic Transform for Time Series Classification
Monash University(莫纳什大学)
直到最近,时间序列分类的最准确的方法受到高计算复杂性的限制。ROCKET通过使用随机卷积核变换输入时间序列,并使用变换后的特征来训练线性分类器,以大多数现有方法的一小部分计算费用实现了最先进的精度。我们将ROCKET重新定义为一种新的方法MINIROCKET,使其在更大的数据集上快75倍,并使其几乎是确定性的(并且可选地,具有额外的计算费用,完全确定性),同时保持基本相同的精度。使用这种方法,可以在不到10分钟的时间内对UCR存档的所有109个数据集进行训练和测试分类器,以达到最先进的精度。MINIROCKET比任何其他具有可比精度的方法(包括ROCKET)都要快得多,而且比任何其他计算费用大致相似的方法都要精确得多。因此,我们建议现在应该考虑将MINIROCKET作为ROCKET的默认变体。
2021-07-14 cs.LG stat.ML
A fast noise filtering algorithm for time series prediction using recurrent neural networks
Stowers Institute for Medical Research(斯托尔斯医学研究所)
最近的研究表明,基于噪声输入的循环神经网络(RNNs)预测时间序列可以生成平滑的预期轨迹。我们研究了RNN的内部动力学,并建立了一组实现这种行为所需的条件。基于这种分析,我们提出了一种新的近似算法,并表明它显着加快了预测过程,而不损失的准确性。
2020-10-06 cs.LG math.DS stat.ML
Fast nonparametric clustering of structured time-series
University of Sheffield(谢菲尔德大学);University of Manchester(曼彻斯特大学)
在本出版物中,我们结合了两个贝叶斯非参数模型:高斯过程(GP)和狄利克雷过程(DP)。我们在GP模型中的创新是引入GP先验的变化,使我们能够对结构化时间序列数据进行建模,即包含我们希望对组间和组内变异性进行建模的组的数据。我们在DP模型中的创新是一种新的快速折叠变分推理过程的实现,它使我们能够比标准VB方法更快地优化变分逼近。在生物时间序列应用中,我们展示了我们的模型如何更好地捕捉数据的显著特征,从而与现有的生物分类保持更好的一致性,而相关的推理算法提供了基于EM的变分推理的两倍加速。
2014-04-14 cs.CV cs.LG stat.ML
Data Smashing 2.0: Sequence Likelihood (SL) Divergence For Fast Time Series Comparison
Department of Medicine, University of Chicago(芝加哥大学医学院)
在时间序列分析中,识别细微的历史模式是建模和预测问题的核心。在这里,我们介绍和开发一种新的方法来量化观察到的数据流的潜在隐藏的发电机的偏差,从而在一个新的有效计算的通用度量时间序列。所提出的度量是在这个意义上,我们可以比较和对比数据流,而不管它们是在哪里以及如何生成的,并且没有任何特征工程步骤。本文提出的方法在概念上不同于我们以前的工作,数据粉碎,并大大提高了判别性能和计算速度。这里的核心思想是KL散度概念的推广,KL散度通常用于将概率分布与时间序列中的散度概念进行比较。我们称之为序列似然(SL)发散,它可以用来衡量一个定义明确的离散值随机过程类内的偏差。我们设计了有效的估计SL发散有限样本路径,随后制定了一个通用的度量用于计算隐藏的随机发生器产生的时间序列之间的距离。
2019-10-08 cs.LG q-fin.MF stat.ML
Fast ES-RNN: A GPU Implementation of the ES-RNN Algorithm
Carnegie Mellon University(卡内基梅隆大学)
由于其普遍性,时间序列预测在多个领域中至关重要。我们力求使国家的最先进的预测快速,可访问和推广。ES-RNN是经典状态空间预测模型和现代RNN的混合,在M4竞赛中实现了9.4%的sMAPE改进。至关重要的是,ES-RNN的实现需要每个时间序列的参数。通过对原始实现进行矢量化并将算法移植到GPU上,我们根据批量大小实现了高达322倍的训练加速,结果与原始提交中报告的结果相似。我们的代码可以在https://github.com/damitkwr/ESRNN-GPU上找到
2019-07-07 cs.LG stat.ML
TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series
ServiceNow Research(ServiceNow研究院);Mila-Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学)
提出多元概率时间序列预测新模型TACTiS-2,通过简化基于Transformer的注意力Copula目标使参数随变量线性扩展,结合训练课程与架构改进,在多项真实预测任务中达到SOTA且保持处理未对齐数据的灵活性。
2024-03-25 cs.AI cs.LG stat.ML
GeoStat Representations of Time Series for Fast Classification
Duke University(杜克大学);KU Leuven(荷语鲁汶大学);Sarcos Robotics(萨科斯机器人公司)
时间序列分类的最新进展主要集中在采用深度学习或利用其他机器学习模型进行特征提取的方法上。虽然成功,他们的权力往往是在计算复杂性的要求。在本文中,我们介绍了GeoStat表示的时间序列。GeoStat表示是基于最近的轨迹分类方法的概括,并总结了时间序列的信息,这些信息是易于计算微分几何量的分布(可能是加窗的)的综合统计数据,不需要动态时间扭曲。所使用的功能是直观的,需要最少的参数调整。我们在一些真实数据集上对GeoStat进行了详尽的评估,结果表明,相对于需要大量计算能力的现代单模型方法,在这些表示上训练的简单KNN和SVM分类器表现出令人惊讶的性能,在许多情况下实现了最先进的结果。特别是,我们表明,这种方法在涉及渔船分类的具有挑战性的数据集上实现了良好的性能,尽管我们的方法只能访问用于训练和评估这种最先进技术的数据集的大约2%,但相对于最先进的技术水平,我们的方法实现了良好的性能。
2021-01-11 cs.CV cs.LG stat.ML
Toeplitz Least Squares Problems, Fast Algorithms and Big Data
School of Information and Physical Sciences, University of Newcastle(纽卡斯尔大学信息与物理科学学院);International Computer Science Institute(国际计算机科学研究所);Department of Management Science and Engineering, Stanford University(斯坦福大学管理科学与工程系)
在时间序列分析中,当拟合自回归模型时,必须多次求解Toeplitz普通最小二乘问题以找到合适的模型,这会严重影响大数据集的计算时间。最近的两个算法(LSAR和重复减半)已应用随机数值线性代数(RandNLA)技术来拟合大的时间序列数据的自回归模型。我们调查和比较这两个近似算法的质量大规模的合成和真实世界的数据。虽然这两种算法显示合成数据集的结果相当,LSAR算法似乎是更强大的应用到现实世界的时间序列数据。我们的结论是RandNLA是有效的背景下,大数据时间序列。
2021-12-24 cs.LG stat.CO stat.ML
Extended Vertical Lists for Temporal Pattern Mining from Multivariate Time Series
University of Florida(佛罗里达大学)
时间模式挖掘(TPM)是在有监督的环境下从多变量时间序列中挖掘预测性复杂时间模式的问题。我们开发了一种新的方法,称为扩展垂直列表的快速时间模式挖掘。该方法利用了Apriori属性的扩展,该属性要求更复杂的模式仅出现在记录中所有子模式都被检测到的地方。该方法基于一种称为扩展垂直列表的新颖数据结构,该结构跟踪记录内模式的第一状态的位置。大量的计算结果表明,新的方法执行显着快于以前版本的算法TMP。然而,速度的提高是以内存使用为代价的。
2018-04-26 cs.LG stat.ML
Time Series Technical Analysis via New Fast Estimation Methods: A Preliminary Study in Mathematical Finance
新的快速估计方法源于控制理论导致一个新的看时间序列,它承担一些类似于“技术分析”。结果被应用到金融工程的一个典型对象,即外汇汇率的预测,通过一个“无模型”的设置,即,通过在滑动短时窗上反复辨识低阶线性差分方程。几个令人信服的计算机模拟,包括预测的位置和波动相对于预测的趋势线,提供。$\mathcal{Z}$ -变换和微分代数是主要的数学工具。
2008-11-16 math.AC math.OC math.ST
Fast Convolutive Nonnegative Matrix Factorization Through Coordinate and Block Coordinate Updates
Stanford University(斯坦福大学)
识别高维时间序列数据中的重复模式是许多科学领域中的重要问题。一个流行的模型来实现这一点是卷积非负矩阵分解(CNMF),它扩展了经典的非负矩阵分解(NMF)从长时间序列中提取短暂的时间模体。以前的工作通常通过乘法参数更新来拟合这个模型-这种方法被广泛认为是NMF的次优方法,特别是在大规模数据应用中。在这里,我们描述了如何扩展两个流行的和计算可扩展的NMF算法-层次交替最小二乘法(HALS)和交替非负最小二乘法(ANLS)-为CNMF模型。这两种方法都证明了在大规模合成和真实世界数据上的乘法更新的性能优势。
2019-06-29 cs.LG stat.ML
Fast Training of Mixture-of-Experts for Time Series Forecasting via Expert Loss Integration
Chair of Data Science in Energy and Environment(能源与环境数据科学教授职位);University of Duisburg-Essen(杜伊斯堡-埃森大学);Chair of Econometrics and Statistics(计量经济学与统计学教授职位);Technical University of Dortmund(多特蒙德技术大学)
本文提出一种新的自适应混合专家框架,通过整合专家特定损失信息提升专家专业化,结合部分在线学习策略,减少计算成本,实现在预测精度和计算效率上的改进。
2026-09-29 cs.LG stat.ME stat.ML
Time-Series Anomaly Classification for Launch Vehicle Propulsion Systems: Fast Statistical Detectors Enhancing LSTM Accuracy and Data Quality
The Aerospace Corporation(航空航天公司)
本文提出基于马哈拉诺斯距离和前向-后向检测分数的统计检测器,用于优化LSTM分类器的训练标签,从而提升发射车辆推进系统时间序列异常分类的准确性和数据质量。
2026-01-07 cs.LG stat.AP stat.ML
Fast and Robust Parametric Estimation for Time Series and Spatial Models
我们提出了一个新的框架,用于二阶平稳时间序列和随机场的稳健估计和推断。该框架基于广义小波矩方法,利用小波方差实现复杂模型的参数估计。使用小波方差的M-估计器,该方法可以是鲁棒的,因此当数据遭受离群值或不同形式的污染时,允许估计宽范围的时间序列和空间模型的参数。本文提出了一系列的模拟研究,以及一系列的应用,这种新的方法可以被认为是一种计算效率高,数值稳定和强大的方法,执行至少以及现有的方法在边界上的离群值的影响估计过程。
2016-07-20 stat.AP stat.ME
A Fast Template Periodogram for Detecting Non-sinusoidal Fixed-shape Signals in Irregularly Sampled Time Series
天体物理时间序列中经常包含周期性的信号。来自光度测量的大量且不断增长的时间序列数据要求用于检测和表征此类信号的计算高效的方法。可用于此目的的最有效算法是利用快速傅立叶变换(FFT)的$\mathcal{O}(N\log N)$缩放的那些算法。然而,这些方法对于非正弦信号形状不是最佳的。模板拟合(或周期性匹配滤波器)优化了先验已知信号形状的灵敏度,但计算成本很高。模板周期图的当前实现按比例缩放为$\mathcal{O}(N_f N_{obs})$,其中$N_f$是试验频率的数量,而$N_{obs}$是光变曲线观测的数量,并且由于非凸性,它们不能保证在每个试验频率处的最佳拟合,这可能导致虚假结果。在这项工作中,我们提出了一个非线性扩展的Lomb-Scargle周期图,以获得一个模板拟合算法,这是准确的(除了在病理情况下获得全局最优解)和计算效率(缩放为$\mathcal{O}(N_f\log N_f)$为给定的模板)。在每个频率下的模板拟合的非线性优化被改写为多项式零查找问题,其中多项式的系数可以用非等间距快速傅立叶变换有效地计算。我们表明,我们的方法,它使用截断傅立叶级数近似模板,是一个数量级的速度比现有的算法小的问题($N\lesssim 10$观测)和2个数量级更快的长基线时间序列与$N_{obs} \gtrsim 10^4$观测。快速模板周期图的开源实现可在https://ww…
2021-02-07 astro-ph.IM stat.AP
Prediction of time series by statistical learning: general losses and fast rates
我们建立了时间序列预测的收敛速度,使用基于Oracle不等式的统计学习方法。一系列的论文将iid观测值的oracle不等式推广到弱相依条件下的时间序列。给定一个预测子族和$n$观测值,预言不等式表明预测子预测序列以及族中最好的预测子直到剩余项$Δ_n$。利用PAC-Bayesian方法,在弱相依条件下建立了具有最优收敛速度的预言不等式。我们将以前的结果的绝对损失函数的任何Lipschitz损失函数率$Δ_n\sim\sqrt{c(Θ)/ n}$其中$c(Θ)$措施的模型的复杂性。本文应用分位数损失函数方法对法国GDP进行预测。在损失函数(由平方损失函数满足)和时间序列的附加条件下,我们改进了收敛到$Δ_n \sim c(Θ)/n$的速度。我们实现了第一次均匀混合过程的这些快速速率。已知这些速率在iid情况下和对于单个序列是最优的。特别是,我们推广的结果Dalalyan和Tsybakov稀疏回归估计的情况下,自回归。
2012-11-08 math.ST stat.TH
Fast, effective, and coherent time series modeling using the sparsity-ranked lasso
本研究将稀疏排序套索(SRL)应用于时间序列建模,通过fastTS R包实现,在急诊就诊量预测任务中实现了比同类方法更快的速度和更高的预测精度。
2024-03-08 stat.CO stat.ME
A projected nonlinear state-space model for forecasting time series signals
本文提出一种投影非线性状态空间模型,利用投影直线上的核函数从少量含噪样本中高效学习非线性动力学,并实现带不确定性估计的快速预测。
2025-02-20 stat.ME stat.ML
OneShotSTL: One-Shot Seasonal-Trend Decomposition For Online Time Series Anomaly Detection And Forecasting
Alibaba Group(阿里巴巴集团)
提出OneShotSTL算法,通过O(1)复杂度的在线季节-趋势分解,解决实时时间序列分析延迟问题,速度提升超千倍且保持高精度。
2023-04-04 cs.AI cs.DB cs.LG
Fast rates in learning with dependent observations
在本文中,我们从统计学习的角度来解决时间序列预测中的快速率问题。在一系列论文中(例如Meir 2000,Modha和Masry 1998,Alquier和Win滕伯格2012),表明使用iid观测的学习理论中使用的主要工具可以扩展到时间序列的预测。这些文件的主要信息是,给定一个家庭的预测,我们能够建立一个新的预测,预测系列以及家庭中的最佳预测,其余的顺序$1/\sqrt{n}$。众所周知,这一比率一般无法提高。在本文中,我们表明,在特定的情况下,最小二乘损失,并在一个强有力的假设下的时间序列(φ混合)的剩余实际上是为了$1/n$。因此,对于均匀混合过程,第一次实现了iid变量(参见例如Tsybakov 2003)和单个序列(参见\cite{lugosi})的最佳速率。我们还表明,我们的方法是最佳的聚集稀疏线性组合的预测。
2012-02-20 math.ST stat.TH
Fast and interpretable electricity consumption scenario generation for individual consumers
KU Leuven(鲁汶大学);Flemish Institute for Technological Research (VITO)(弗拉芒技术研究所);EnergyVille(能源谷研究院)
提出基于预测聚类树的快速可解释用电场景生成方法,在保持准确性的同时,训练和预测速度至少提升7倍,并增强模型可解释性。
2024-10-23 cs.LG cs.SY eess.SY
Stochastic Online Convex Optimization. Application to probabilistic time series forecasting
Laboratoire de Probabilités, Statistique et Modélisation(概率、统计与建模实验室);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心)
本文构建随机在线凸优化框架,证明在线牛顿步与 Bernstein online aggregation 在无界随机设定下达到已知最优遗憾速率,并用于校准非平稳次高斯时间序列的概率预测器。
2023-04-21 cs.LG math.ST stat.TH
Agglomerative Likelihood Clustering
我们考虑快速时间序列数据聚类的问题。建立在以前的工作建模的相关性为基础的哈密顿量的自旋变量,我们提出了一个更新的快速非昂贵的凝聚似然聚类算法(ALC)。该方法取代了优化的遗传算法为基础的方法(f-SPC)凝聚递归合并框架的启发,以前的工作在经济物理学和社区检测。该方法进行了测试,噪声合成相关的时间序列数据集与内置的集群结构,以证明该算法产生有意义的非平凡的结果。我们将其应用于大到20,000个资产的时间序列数据集,我们认为,ALC可以减少计算时间成本和资源使用成本,同时被序列化的时间序列应用程序的大规模集群,因此没有明显的并行化要求。由于该算法不需要关于聚类数目的先验信息,因此可以作为快速非线性数据环境下在线学习状态检测的有效选择。
2021-10-05 physics.data-an q-fin.CP stat.ML
Modeling Multivariate Positive-Valued Time Series Using R-INLA
在本文中,我们描述了快速贝叶斯统计分析的向量正值时间序列,有趣的金融数据流的应用。我们讨论了一个灵活的水平相关模型(LCM)的框架,建立向量正值时间序列的层次模型。LCM允许我们结合正值分量响应的边缘Γ分布,同时考虑潜在水平上分量之间的关联。我们通过R-INLA包使用集成嵌套拉普拉斯近似(INLA)进行快速近似贝叶斯建模,构建自定义函数来处理此设置。我们使用所提出的方法来模拟几个股票指数的已实现波动率之间的相互依赖关系。
2022-07-02 q-fin.CP q-fin.ST stat.ME
The Generalized Method of Wavelet Moments with Exogenous Inputs: a Fast Approach for the Analysis of GNSS Position Time Series
全球导航卫星系统(GNSS)的每日位置时间序列通常被描述为随机过程和地球物理信号的总和,其允许研究全球和局部地球动力学效应,诸如板块构造、地震或地下水变化。本文将广义小波矩方法推广到残差相关的线性模型的参数估计。这一统计推断框架适用于全球导航卫星系统每日位置时间序列数据,以联合估计功能(地球物理)以及随机噪声模型。我们的方法被称为GMWMX,X代表eXogeneous变量:它是半参数的,计算效率高,可扩展。与标准方法(如广泛使用的极大似然估计(MLE))不同,我们的方法提供了统计保证,如一致性和渐近正态性,而不依赖于强参数假设。在高斯模型下,我们的结果表明,估计的参数是类似的MLE得到的。我们的方法的计算性能具有重要的实际意义。实际上,对数千个GNSS台站的大型网络的参数进行估计在计算上很快变得难以承受。与标准方法相比,GMWMX的处理时间比$1000$快$1000$倍,并且允许在标准计算机上在几分钟内估计大规模问题。我们通过蒙特卡罗模拟生成GNSS每日位置时间序列与丢失的观测值,我们认为复合随机噪声模型,包括过程呈现长程相关性,如幂律或Matérn过程,验证我们的方法的性能。我们的方法的优点也说明了使用真正的时间序列从位于美国东部的GNSS站。
2022-06-20 stat.AP stat.ME
A fast subsampling method for estimating the distribution of signal-to-noise ratio statistics in nonparametric time series regression models
信噪比(SNR)统计在许多应用中起着核心作用。研究SNR的常见情况是当连续时间信号以固定频率采样时,背景中存在一些噪声。虽然存在估计方法,但当噪声不是弱平稳时,对其分布知之甚少。在本文中,我们开发了一种非参数的方法来估计分布的SNR统计噪声属于一个相当普遍的一类随机过程,包括短期和长期的依赖性,以及非线性。该方法是基于平滑和子采样技术的组合。计算仅在子样本水平上进行,这允许管理由现代数据采集技术产生的典型的巨大样本量。我们推导出所提出的方法的渐近保证,我们展示了有限样本的数值实验的基础上的性能。最后,我们提出了一个应用程序的脑电图(EEG)数据。
2021-07-01 stat.ME
Fast same-step forecast in SUTSE model and its theoretical properties
针对SUTSE模型高维计算量大的问题,提出两阶段快速预测法,先做单变量卡尔曼滤波再用误差分布算预测值,兼具理论支撑与实际应用价值。
2023-01-17 math.ST stat.ME stat.TH
A note on the fast power series' exponential
本文证明了n阶复幂级数的指数可以通过复数域上的(23/12+o(1))M(n)个二进制算术运算来实现,其中M(n)表示FFT模型中小于n次多项式相乘的(平滑)复杂度。然而,它显示了如何提高一个幂级数的一个常数的权力与复杂性(27/8+o(1))M(n)。
2012-03-17 cs.DS
Fast Exact Dynamic Time Warping on Run-Length Encoded Time Series
动态时间规整(DTW)是一种著名的时间序列相似性度量。然而,计算两个长度$n$时间序列的DTW距离的标准动态规划方法需要~ $O(n^2)$时间,这对于现实世界的应用来说通常太慢。因此,已经提出了许多算法来加速DTW计算。这些通常基于下界技术,近似DTW距离,或考虑特殊的输入数据,如二进制或分段常数时间序列。在本文中,我们提出了第一个精确的算法来计算两个行程长度编码的时间序列的DTW距离,其运行时间只取决于输入的编码长度。最坏情况下的运行时间是编码长度的三次方。在实验中,我们表明,我们的算法确实是快速的时间序列短编码长度。
2020-04-18 cs.DS
A Matrix Laurent Series-based Fast Fourier Transform for Blocklengths N=4 (mod 8)
提出了一种新的块长8m+4 DFT的快速计算方法,该方法基于一个包含矩阵的Laurent级数.非平凡的实乘法复杂性的结果,提出了块长度N=64,实现较低的乘法计数比以前公布的FFT。给出了m=1和m=2情况下的详细描述。
2015-02-05 cs.DM cs.DS eess.SP
CT-Miner: Fast and Coarse-Grained Time-Series Pattern Mining via Cartesian Trees
Yonsei University(延世大学)
针对时间序列模式挖掘计算开销大的问题,提出基于笛卡尔后缀树的CT-Miner算法,将穷举模式收集从O(n^4)降至O(n^2),并证明其能生成紧凑表示,保留聚类结构。
2026-10-06 cs.DS cs.LG
Efficient Temporal Pattern Mining in Big Time Series Using Mutual Information -- Full Version
非常大的时间序列越来越多地从部署在不同环境中的更广泛的物联网传感器中获得。从这些时间序列中挖掘时间模式可以获得重要的见解。与传统的模式挖掘不同,时态模式挖掘(TPM)在提取的模式中增加了事件时间间隔,使其更具表达性,但增加了挖掘的时间复杂度。现有的TPM方法要么不能扩展到大型数据集,要么只对预处理的时间事件而不是时间序列起作用。本文提出了一种从时间序列中挖掘频繁时间模式的方法,它提供:(1)以时间序列为输入,产生频繁时间模式作为输出的端到端的FTPMf TS过程。(2)高效的分层时态模式图挖掘(HTPGM)算法使用高效的数据结构进行快速支持度和置信度计算,并采用有效的修剪技术以显著提高挖掘速度。(3)HTPGM的一个近似版本,它使用互信息(一种从信息论中已知的数据相关性度量)从搜索空间中修剪出没有希望的时间序列。(4)广泛的实验评估表明,HTPGM在运行时和内存消耗方面优于基线,并且可以扩展到大数据集。近似的HTPGM比基线快两个数量级,消耗的内存更少,同时保持高精度。
2021-11-17 cs.DB cs.DS
Computing Power Indices in Weighted Majority Games with Formal Power Series
Keio University(庆应义塾大学)
针对加权多数博弈的权力指数计算问题,本文基于形式幂级数高效计算技术提出更快的伪多项式时间算法,分别给出Banzhaf指数与Shapley--Shubik指数的计算时间复杂度,在特定配额条件下性能优于现有算法。
2025-11-19 cs.DS cs.GT