Evolving Multi-Scale Normalization for Time Series Forecasting under Distribution Shifts
Alibaba Group(阿里巴巴集团);Imperial College London(伦敦帝国学院);The University of Hong Kong(香港大学);Squirrel Ai Learning(松鼠AI学习)
针对时间序列预测中的分布偏移问题,本文提出模型无关的演化多尺度归一化框架EvoMSN,通过多尺度统计预测、自适应集成和协同演化优化提升主流预测方法性能。
2024-09-29 cs.LG stat.ML
FredNormer: Frequency Domain Normalization for Non-stationary Time Series Forecasting
SANKEN, Osaka University(大阪大学SANKEN机构);Florida State University(佛罗里达州立大学)
本文提出即插即用模块 FredNormer,通过频率稳定性度量和可学习权重层自适应增强关键频率分量,解决了时域归一化无法捕获频域动态模式的问题,显著提升了非平稳时间序列预测性能。
2024-10-16 cs.LG stat.ML
SNSeg: An R Package for Time Series Segmentation via Self-Normalization
本研究推出R包SNSeg,实现了基于自归一化的SNCP变点检测框架,支持多类型参数的单/多变量时间序列分割,还扩展了高维均值变点检测的SNHD方法,配有可视化工具并提供仿真示例。
2024-04-11 stat.CO
Channel Normalization for Time Series Channel Identification
Yonsei University(延世大学);Department of Statistics and Data Science, Yonsei University(延世大学统计与数据科学系)
本文提出通道归一化(CN)及其变体ACN和PCN,通过为各通道分配不同仿射变换参数来增强时间序列建模中的通道可识别性,在多种模型上取得显著性能提升。
2025-05-31 cs.AI cs.LG stat.ML
GAS-Norm: Score-Driven Adaptive Normalization for Non-Stationary Time Series Forecasting in Deep Learning
University of Pisa(比萨大学);Scuola Normale Superiore(高等师范学院)
针对深度神经网络在非平稳时间序列预测中表现不佳的问题,提出结合GAS模型与DNN的自适应归一化方法GAS-Norm,可适配任意预测模型,在25种设置中21种提升了性能。
2024-10-04 cs.LG stat.ML
Multiscale and multilevel technique for consistent segmentation of nonstationary time series
在本文中,我们提出了一个快速,性能良好,和一致的方法分段分段平稳,线性时间序列与未知数量的断点。我们使用的时间序列模型是非参数局部平稳小波模型,在该模型中,通过在多个尺度和位置计算的小波周期图提供了对分段平稳二阶结构的完整描述。我们的方法的初始阶段是一个新的二进制分割过程,与理论上合理的和快速计算的测试标准,分别在每个尺度检测小波周期图中的断点。其次是尺度内和跨尺度后处理步骤,导致对原始过程的二阶结构中断点的数量和位置的一致估计。一个广泛的模拟研究表明,我们的方法具有良好的性能。
2016-11-29 stat.ME
Detecting structural breaks in eigensystems of functional time series
检测功能数据中的结构变化是统计文献中的一个突出主题。然而,并不是所有的数据趋势在应用中都很重要,只有那些影响力足够大的趋势才重要。在本文中,我们解决的问题,确定相关的$L^2[0,1]$值时间序列的协方差核的特征函数和特征值的变化。通过自归一化技术,我们得到关键的,渐近相合检验的相关变化,这些特征的二阶结构,并调查其有限样本性质的模拟研究。我们的方法的适用性证明了分析德国的年度温度数据。
2019-11-18 math.ST stat.TH
Test-Time Adaptation for Non-stationary Time Series: From Synthetic Regime Shifts to Financial Markets
Department of Statistics & Operations Research, UNC Chapel Hill(统计与运筹学系,UNC夏洛特山)
本文提出了一种小规模测试时适应框架,用于非平稳时间序列的因果预测和方向分类,在合成数据和金融市场中验证了其有效性。
2026-01-20 cs.LG q-fin.ST stat.ML
Resampling-free Inference for Time Series via RKHS Embedding
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Washington University in St Louis(华盛顿大学圣路易斯分校)
本文提出了一种基于RKHS嵌入的无重采样检验方法,用于多元或函数时间序列的非参数推断问题,具有更高的计算效率和准确性。
2026-01-21 math.ST stat.ME stat.TH
An Efficient ADMM Algorithm for Structural Break Detection in Multivariate Time Series
提出了一种有效的交替方向乘子法(ADMM)算法,用于分割具有结构突变的多元非平稳时间序列。我们从最近的工作中得出的一系列假设遵循段内的向量自回归模型和凸估计过程可以制定使用组融合套索处罚。我们的ADMM方法首先将凸问题分解为一个全局二次规划和一个简单的组套索邻近更新。我们表明,全球性的问题可以并行化的时间相关的转移矩阵的行,而且每个子问题可以重写的形式相同的高斯状态空间模型的对数似然。因此,我们开发了一个卡尔曼平滑算法来解决在时间上的线性序列的长度的全局更新。
2018-06-25 stat.ML
Raw-Routed Mixture of Adapters: A Causal Intervention for Routing Collapse in Time Series Foundation Models
针对时间序列基础模型在实例归一化骨干上路由崩溃的问题,提出原始路由混合适配器(RR-MoA),通过因果干预在归一化前输入上路由,在冻结骨干下显著优于多种适配方法,并具有跨骨干泛化性。
2026-10-01 cs.LG stat.ML
Self-Normalized Inference in (Quantile, Expected Shortfall) Regressions for Time Series
本文提出基于自归一化的时间序列(分位数,期望损失)回归推断方法,无需调优参数且尺寸正确,并通过模拟和两个实证应用验证其有效性。
2025-06-23 econ.EM math.ST stat.TH
Factor Analysis for High-Dimensional Time Series with Change Point
我们考虑高维时间序列的变点潜在因子模型,其中潜在因子结构中可能存在结构性突变。特别地,我们提出了变点前后因子载荷空间的相合估计量,并考虑了变点位置的估计问题。与已有的高维时间序列变点因子分析结果相比,本文的一个显著特点是,我们的结果允许强的横截面依赖噪声过程。为了适应未知程度的横截面依赖强度,我们提出了使用自归一化来量化的变点检验统计量。数值实验,包括蒙特卡罗模拟研究和实际数据的应用,以说明所提出的方法。
2019-07-22 stat.ME
Change-Point Testing for Risk Measures in Time Series
Northwestern University, Kellogg School of Management(西北大学凯洛格管理学院);Stanford University, Department of Management Science & Engineering(斯坦福大学管理科学与工程系)
本文提出弱相依时间序列中期望短缺等风险度量非参数估计量的多变点检验方法,利用自归一化避免标准误估计,并基于函数中心极限定理,实证用于检测金融收益率尾部不稳定性。
2025-10-05 econ.EM stat.ME
Nuisance Parameters Free Changepoint Detection in Non-stationary Series
检测时间序列的平均值的突变,即所谓的变点,对于许多应用是重要的。然而,许多程序依赖于冗余参数(如长期方差)的估计。在另一种情况下(平均值的变化),估计器可能会有偏差,并且用于选择调优参数的数据自适应规则可能不会像预期的那样工作。如果数据不是平稳的,而是异方差的,这就变得更具挑战性。本文的目的是提出和调查两个变点测试,这既不涉及滋扰,也不调整参数。这是通过结合自规范化和野生自举来实现的。我们研究的渐近行为,并显示自举的一致性的假设下,以及根据替代,假设温和的条件下的弱依赖的时间序列,并允许方差随时间变化。作为所提出的测试的副产品,一个变点估计,并证明其一致性。结果表明,通过模拟研究,这表明计算效率的开发方法。新的测试也将应用于金融和水文的真实数据示例。
2018-08-13 math.ST stat.TH
tidychangepoint: A Unified Framework for Analyzing Changepoint Detection in Univariate Time Series
tidychangepoint是一个统一框架,整合多种变化点检测算法和模型,提供统一的接口进行比较分析。
2026-01-12 stat.CO stat.ME
Revisiting the Seasonal Trend Decomposition for Enhanced Time Series Forecasting
University of Louisiana at Lafayette, Lafayette, LA, USA(路易斯安那州立大学拉斐特分校);University of Delaware, Newark, DE, USA(德克萨斯大学达勒姆分校)
本文通过改进季节趋势分解方法,提出双MLP模型提升时间序列预测的精度与效率。
2026-02-06 cs.LG stat.ML
DecompKAN: Decomposed Patch-KAN for Long-Term Time Series Forecasting
DecompKAN通过趋势残差分解、通道补丁、学习实例归一化和B-样条Kolmogorov-Arnold网络边缘函数,实现了轻量级无注意力架构,在时间序列预测中取得最佳性能。
2026-04-27 cs.AI cs.LG stat.ML
On Optimal Multiple Changepoint Algorithms for Large Data
越来越需要能够准确检测长时间序列或等效数据中的变点的算法。检测变化点的许多常见方法,例如基于惩罚似然或最小描述长度,可以在最小化分割成本方面制定。动态规划方法可以精确地解决这个最小化问题,但这些方法往往在时间序列的长度上至少以二次方的方式扩展。存在诸如二进制分割的算法,其具有在时间序列的长度上接近线性的计算成本,但是这些算法不能保证找到最佳分割。最近修剪的想法已经提出,可以加快动态规划算法,同时仍然保证找到真正的最小值的成本函数。在这里,我们扩展了这些修剪方法,并介绍了两个新的算法分割数据,FPOP和SNIP。实证结果表明,FPOP是大大快于现有的动态规划方法,与现有的方法不同,其计算效率是强大的数据中的变点的数量。我们评估的方法在检测拷贝数的变化,并观察到,FPOP的计算成本是有竞争力的二进制分割。
2014-09-05 stat.CO stat.ME
TimeBridge: Non-Stationarity Matters for Long-term Time Series Forecasting
Shenzhen University(深圳大学)
针对多变量时间序列预测中非平稳性对短长期建模影响不同的问题,提出TimeBridge框架,通过积分注意力和协整注意力分别处理短长期非平稳性与依赖,在多类预测任务中达到SOTA。
2025-05-15 cs.LG stat.ML
Tensor dynamic conditional correlation model: A new way to pursuit "Holy Grail of investing"
针对风格投资收益形成的张量值时间序列,提出基于迹归一化和维度归一化的张量动态条件相关(TDCC)模型,提供估计流程并验证其在国际及中国股市投资组合选择中的实用性,助力实现“投资圣杯”原则。
2025-02-19 econ.EM q-fin.PM stat.ME
Anomaly Detection in Multivariate Non-stationary Time Series for Automatic DBMS Diagnosis
Pohang University of Science and Technology(浦项科技大学)
随着大数据系统中统计量和事件度量的不断增加,数据库管理系统中的异常检测变得越来越困难。在本文中,我提出了一个自动DBMS诊断系统,检测异常期间与异常DB统计指标,并发现因果事件的期间。利用深度编码器的重构误差和统计过程控制方法检测异常时间段。使用事件和异常统计度量之间的时间序列相似性度量来发现相关事件。在使用DBMS度量数据训练深度自动编码器之后,从包含异常的其他DBMS研究异常检测的功效。实验结果表明了该模型的有效性,尤其是批量时间归一化层。提出的模型用于发布自动DBMS诊断报告,以确定DBMS配置和SQL调优。
2017-10-09 cs.LG stat.AP stat.ML
Classification of chaotic time series with deep learning
University of Oxford(牛津大学);United Kingdom Atomic Energy Authority(英国原子能管理局)
我们使用标准的深度神经网络,根据离散和连续动力系统的混沌或非混沌行为,对它们生成的单变量时间序列进行分类。我们的方法来规避缺乏精确的模型,一些最具挑战性的现实生活中的应用是训练不同的神经网络的数据集从一个动力系统与基本或低维相空间,然后使用这些网络分类单变量时间序列的动力系统与更复杂或高维相空间。我们说明了这种概括的方法,使用Logistic映射,正弦圆映射,洛伦兹系统,和仓本-Sivashinsky方程。我们观察到,没有批量归一化层的卷积神经网络在时间序列分类方面优于最先进的神经网络,并且能够以高精度将时间序列概括和分类为混沌或非混沌。
2019-12-03 cs.LG eess.SP math.DS
DRFormer: Multi-Scale Transformer Utilizing Diverse Receptive Fields for Long Time-Series Forecasting
East China Normal University(华东师范大学);Fudan University(复旦大学);Shanghai Jiao Tong University(上海交通大学)
针对长期时间序列预测中固定 patch 难以捕捉多尺度特征的问题,本文提出 DRFormer,通过动态 tokenizer、稀疏学习、多尺度 Transformer 和组感知旋转位置编码提升预测性能。
2024-08-05 cs.AI cs.LG stat.ML
Computer Vision Self-supervised Learning Methods on Time Series
Norwegian University of Science and Technology(挪威科技大学);Abelee
该研究验证了计算机视觉领域的孪生网络架构自监督学习框架在时间序列任务上的有效性,同时基于VICReg方法提出优化协方差项、新增迭代归一化层的改进方案,可加速模型收敛。
2024-01-26 cs.AI cs.LG stat.ML
Neural Coarse-Graining: Extracting slowly-varying latent degrees of freedom with neural networks
Araya;Earth-Life-Science Institute(地球生命科学研究所);University of Hertfordshire(赫特福德大学)
我们为神经网络提出了一个损失函数,它包含了平凡预测与非平凡预测的概念,这样网络就可以共同确定自己的预测目标并学会满足这些目标。这允许网络选择最适合其能力的问题子集,同时丢弃干扰其学习的“分散注意力”的元素。为此,网络首先将原始数据转换为更高级别的分类表示,然后从新的时间序列中训练预测器。为了防止将信号映射到零的平凡解决方案,我们通过学习模型的预测误差与整体信号统计的朴素模型之间的对比来引入非平凡性的度量。该变换可以学习丢弃信号的无信息和不可预测的分量,以支持高度预测和高度可预测的特征。这创建了时间序列动态的粗粒度模型,专注于预测控制时间序列统计的缓慢变化的潜在参数,而不是直接预测快速细节。其结果是一个半监督算法,它能够提取潜在参数,分割具有不同统计数据的时间序列部分,并从未标记的数据中构建底层动态的更高级别的表示。
2016-09-01 cs.AI cs.LG stat.ML
Think Globally, Act Locally: A Deep Neural Network Approach to High-Dimensional Time Series Forecasting
Amazon(亚马逊);UT Austin(得克萨斯大学奥斯汀分校)
预测高维时间序列在需求预测、金融预测等应用中起着至关重要的作用。现代数据集可以有数百万个相关的时间序列一起演化,也就是说,它们是非常高维的(每个时间序列都是一维)。有必要利用全球模式,并将它们与本地校准相结合,以实现更好的预测。然而,文献中最新的深度学习方法都是一维的,即即使它们是在整个数据集上训练的,在预测过程中,单个维度的未来预测主要取决于同一维度的过去值。在本文中,我们试图纠正这一缺陷,并提出DeepGLO,这是一种全局思考,局部行动的深度预测模型。特别是,DeepGLO是一种混合模型,它结合了由时间卷积网络正则化的全局矩阵分解模型,以及另一个可以捕获每个时间序列和相关协变量的局部属性的时间网络。我们的模型可以在高维但多样的时间序列上有效地训练,其中不同的时间序列可以具有非常不同的尺度,而无需先验归一化或重新缩放。实证结果表明,DeepGLO可以超越最先进的方法;例如,我们在包含超过100 K维时间序列的公共数据集上看到WAPE比其他方法提高了25%以上。
2019-10-27 cs.LG stat.ML
Time Series Analysis of COVID-19 Infection Curve: A Change-Point Perspective
在本文中,我们通过分段线性趋势模型对COVID-19累计确诊病例和死亡病例的轨迹(以对数标度)进行建模。该模型通过变点自然地捕获了流行病增长率的相变,并且由于其半参数性质而进一步享有很大的可解释性。在方法论方面,我们提出了新生的自归一化(SN)技术(Shao,2010),以测试和估计非平稳时间序列线性趋势中的单个变点。我们进一步将基于SN的变点测试与NOT算法相结合(Baranowski等人,2019年),以实现多个变点估计。使用所提出的方法,我们分析了30个主要国家的COVID-19累计病例和死亡的轨迹,并发现了有趣的模式,这些模式对不同国家的大流行应对措施的有效性具有潜在的相关影响。此外,基于变点检测算法和灵活的外推函数,我们设计了一个简单的COVID-19两阶段预测方案,并展示了其在预测美国累计死亡人数方面的良好性能。
2020-07-09 econ.EM physics.soc-ph stat.AP
Hypothesis Testing for a Functional Parameter via Self-normalization
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Washington University in St Louis(华盛顿大学圣路易斯分校)
提出基于样本分割的自归一化方法,用于检验函数参数的简单或复合假设,推导了零假设下的渐近分布和局部备择下的功效函数。
2026-05-30 math.ST stat.ME stat.TH
Segmenting Human-LLM Co-authored Text via Change Point Detection
School of Mathematics University of Birmingham(数学系 英国伯明翰大学);Department of Statistics London School of Economics and Political Science(统计系 伦敦政治经济学院)
针对大语言模型兴起后区分人类与LLM共同撰写文本的需求,提出类似时间序列变化点检测的算法,开发加权和广义算法,建立最优性,实验表明该方法性能优于现有基线。
2026-07-17 cs.AI cs.CL stat.ME
Inference for Change Points in High Dimensional Data via Self-Normalization
本文考虑高维数据序列的变点检验和估计。在高维独立数据均值漂移检验的情况下,我们提出了一种新的检验方法,该方法基于Chen和Qin(2010)中的$U$ -统计量,并利用自归一化原理[Shao(2010),Shao和Zhang(2010)]。我们的测试目标是高维环境中的密集替代品,并且不涉及调整参数。为了扩展到高维时间序列的变点检验,我们引入了一个修剪参数,并制定了一个自归一化的检验统计量修剪,以适应弱的时间依赖性。在理论方面,我们推导了高维独立和相依数据的自归一化检验统计量在零值和替代值下的极限分布。在我们的渐近理论的核心,我们得到了一个顺序U-统计量为基础的过程的高维独立数据的弱收敛,和顺序修剪U-统计量为基础的过程的高维线性过程的弱收敛,这两个是独立的利益。此外,我们说明了我们的测试如何与野生二进制分割相结合,以估计多个变化点的数量和位置。数值模拟证明了我们提出的测试和估计程序与文献中的几种现有方法相比的竞争力。
2021-08-08 math.ST stat.ME stat.TH
Multiple-change-point detection for high dimensional time series via sparsified binary segmentation
时间序列分割,也称为多个变化点检测是一个公认的问题。然而,很少有解决方案是专门为高维情况设计的。本文主要研究高维时间序列的二阶结构分割问题。在用于多变量时间序列的二进制分割算法的一般步骤中,一个自然的解决方案是组合从输入时间序列的分量的局部周期图和交叉周期图获得的Cumsum统计。然而,标准的“最大值”和“平均值”方法在高维中通常会失败,例如,当面板上的变点稀疏或CANUM统计量过大时。在本文中,我们提出了稀疏化二进制分割(SBS)算法,它通过只添加那些通过一定阈值的统计数据来聚合统计数据。这个“稀疏化”步骤减少了不相关的、有噪声的贡献的影响,这在高维中特别有益。为了证明SBS的一致性,我们引入了时间序列的多元局部平稳小波模型,这是本文的一个独立贡献。
2016-11-25 stat.ME