Scalable Gaussian Process Regression for Kernels with a Non-Stationary Phase
Institute for Electrical Engineering in Medicine, Universität zu Lübeck(吕贝克大学医用电工研究所)
高斯过程(GPs)的应用,以大数据集是有限的,由于沉重的内存和计算要求。已经提出了各种方法来实现可伸缩性,其中之一是利用内核矩阵中的结构。然而,以前的方法,不能很容易地处理非平稳过程。本文提出了一个有效的GP框架,扩展结构核插值方法的GP与非平稳相位。我们特别对待混合物的非平稳过程,这是常用的分离问题的背景下,例如在生物医学信号处理。我们的方法采用多组非等距诱导点占的非平稳性和检索Toeplitz和Kronecker结构的核矩阵,允许有效的推理。核学习是通过优化边际似然来完成的,边际似然可以使用随机迹估计方法有效地近似。我们的方法证明了数值例子和大型生物医学数据集。
2019-12-25 cs.LG stat.ML
Marginalising over Stationary Kernels with Bayesian Quadrature
University of Oxford(牛津大学)
边缘化高斯过程内核的家庭产生灵活的模型类与良好校准的不确定性估计。现有的方法需要对许多内核进行似然评估,这使得它们对于较大的数据集来说过于昂贵。我们提出了一个贝叶斯正交方案,使这种边缘化更有效,从而更实用。通过使用分布之间的最大平均差异,我们定义了一个内核,捕获光谱混合(SM)内核之间的不变性。核样本的选择通过概括的信息理论的收购函数扭曲贝叶斯正交。我们表明,我们的框架实现了更准确的预测,具有更好的校准不确定性比最先进的基线,特别是在有限的(挂钟)时间预算。
2023-03-15 cs.LG stat.ML
Harmonizable mixture kernels with variational Fourier features
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);Aalto University(阿尔托大学)
高斯过程的表达能力很大程度上取决于核的选择。在这项工作中,我们提出了新的协调混合内核(HMK),一个家庭的表现力,可解释的,非平稳的内核来自混合模型的广义谱表示。作为非平稳核的理论上合理的处理,HMK支持协调协方差,包括所有平稳和许多非平稳协方差的广泛的核子集。我们还提出了变分傅立叶特征,一个域间稀疏GP推理框架,提供了一组代表性的“诱导频率”。我们表明,调和混合内核插值局部模式之间,变分傅立叶特征提供了一个强大的内核学习框架的新的内核家庭。
2019-03-11 cs.LG stat.ML
Spatio-temporal point processes with deep non-stationary kernels
Georgia Institute of Technology(佐治亚理工学院);Duke University(杜克大学)
点过程数据在现代应用中变得无处不在,例如社交网络、医疗保健和金融。尽管流行的递归神经网络(RNN)模型对点过程数据具有强大的表达能力,但由于其递归结构,它们可能无法成功捕获数据中复杂的非平稳依赖关系。点过程数据的另一种流行类型的深度模型是基于通过神经网络表示影响核(而不是强度函数)。我们采取后一种方法,并开发了一个新的深度非平稳影响内核,可以模拟非平稳时空点过程。其主要思想是用一种新的、通用的低秩分解来近似影响核,从而通过深度神经网络实现高效表示,提高计算效率和性能。我们还采取了一种新的方法来保持非负约束的条件强度,通过引入对数障碍罚款。我们证明了我们提出的方法的良好性能和计算效率相比,最先进的模拟和真实数据。
2022-11-21 cs.LG stat.ML
Learning Stationary Markov Processes with Contrastive Adjustment
KTH Royal Institute of Technology(KTH皇家理工学院)
我们介绍了一种新的优化算法,称为对比调整,学习马尔可夫转移内核的平稳分布匹配的数据分布。对比调整不限于特定的过渡分布族,并且可以用于在连续和离散状态空间中对数据进行建模。最近的工作噪声退火采样的启发,我们提出了一个特定的过渡算子,噪声内核,可以贸易混合速度的样本保真度。我们表明,对比调整是非常有价值的人机设计过程中,学习马尔可夫链的平稳性,使本地探索的数据流形,并使其能够迭代地完善输出的人的反馈。我们将通过对比调整训练的噪声内核的性能与当前最先进的生成模型进行了比较,并在各种图像合成任务上展示了有希望的结果。
2023-03-17 cs.LG
Near-Optimal Algorithm for Non-Stationary Kernelized Bandits
MI-6 Ltd.(MI-6有限公司);Nagoya University(名古屋大学);RIKEN AIP(理化学研究所人工智能项目)
本文针对非平稳核化老虎机问题,首次给出算法无关遗憾下界,并提出带随机排列的重启分阶段消除算法(R-PERP),以低计算成本实现近最优遗憾。
2024-10-21 cs.LG stat.ML
A Kernel-Based Approach to Non-Stationary Reinforcement Learning in Metric Spaces
Inria Lille(里尔法国国家信息与自动化研究所);Université de Lille(里尔大学);OvGU(马格德堡大学);Facebook AI Research(脸书人工智能研究院);CNRS(法国国家科学研究中心);DeepMind Paris(深度思维巴黎)
在这项工作中,我们提出了KeRNS:一个算法的情景强化学习在非平稳马尔可夫决策过程(MDP)的状态动作集被赋予一个度量。使用一个非参数模型的MDP建立与时间相关的内核,我们证明了一个遗憾的范围,规模与覆盖维度的状态-动作空间和总变化的MDP随时间的推移,量化其非平稳性的水平。我们的方法概括了以前的方法的基础上,滑动窗口和指数贴现用于处理不断变化的环境。我们进一步提出了一个实际的KeRNS实现,我们分析了它的遗憾和实验验证。
2022-03-23 cs.LG stat.ML
PiPs: a Kernel-based Optimization Scheme for Analyzing Non-Stationary 1D Signals
Google LLC(谷歌有限责任公司);Apple Inc(苹果公司);Duke University(杜克大学);University of Maryland College Park(马里兰大学帕克分校)
本文提出了一种新的基于核的优化方案来处理分析中的任务,例如,一维非平稳振荡信号谱估计和单通道源分离我们的优化方案重建的时间-频率信息的关键见解是,当一个非参数回归应用于一些输入值,输出回归点将位于附近的振荡模式的振荡1D信号,只有当这些输入值是一个很好的近似的地面实况相位函数。在这项工作中,高斯过程(GP)被选择来进行这个非参数回归:振荡模式被编码为模式诱导点(PiP),其充当GP回归中的训练数据点;而目标相位函数被馈入以计算相关核,充当测试输入。更好的近似相位函数生成更精确的核,从而在将基于核的回归输出与原始信号进行比较时导致更小的优化损失误差。据我们所知,这是第一个算法,可以令人满意地处理完全非平稳的振荡数据,关闭和交叉频率,和一般的振荡模式。即使在一个信号{产生的三角展开的参数缓慢变化}的例子中,我们表明,点承认竞争力或更好的性能方面的准确性和鲁棒性比现有的国家的最先进的算法。
2022-12-09 cs.LG stat.ML
Online Learning of Whittle Indices for Restless Bandits with Non-Stationary Transition Kernels
Department of ECE, Purdue University(普渡大学电子工程系)
本文研究了面对未知非平稳动态的restless bandits最优资源分配问题,提出滑动窗口在线Whittle策略,在保持计算效率的同时适应时间变化的核。理论分析显示算法在动态 regret 上达到亚线性性能,且通过Bandit-over-Bandit框架处理未知变化预算情况。
2026-04-21 cs.LG stat.ML
gp2Scale: A Class of Compactly Supported Non-Stationary Kernels and Distributed Computing for Exact Gaussian Processes on 10 Million Data Points
Applied Mathematics and Computational Research Division Lawrence Berkeley National Laboratory(应用数学与计算研究部伯克利国家实验室);Climate and Ecosystem Sciences Division Lawrence Berkeley National Laboratory(气候与生态系统科学部伯克利国家实验室);Department of Statistics Rice University(统计学系里德大学);UC Berkeley(加州大学伯克利分校)
gp2Scale通过非平稳核设计实现高斯过程在1000万数据点上的精确计算,无需诱导点或近似方法,提升计算效率和灵活性。
2026-07-31 cs.LG math.PR
SEEK: Self-adaptive Explainable Kernel For Nonstationary Gaussian Processes
University of California, Irvine(加州大学尔湾分校)
针对传统平稳核在非平稳场景下高斯过程预测与不确定性量化效果差的问题,提出从第一性原理推导的可解释自适应核SEEK,兼具鲁棒性与更优的预测及量化性能。
2025-05-16 cs.LG
Kernel Autocovariance Operators of Stationary Processes: Estimation and Convergence
Freie Universität Berlin(柏林自由大学);Heriot–Watt University(赫瑞瓦特大学);Zuse Intitute Berlin(柏林祖斯研究所)
本文研究再生核希尔伯特空间中平稳过程自协方差算子的经验估计收敛性,在遍历和强混合条件下给出渐近结果与有限样本误差界,并应用于核主成分分析、条件均值嵌入及马尔可夫转移算子的非参数估计。
2022-11-29 cs.LG math.FA math.PR
Convolutional Spectral Kernel Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
近年来,非平稳谱核由于其在揭示长程相关性和输入依赖性方面的强大特征表示能力而受到广泛关注。然而,非平稳谱核仍然是浅层模型,因此它们在学习分层特征和局部相互依赖性方面存在不足。在本文中,为了获得分层和局部知识,我们基于逆傅立叶变换构建了一个可解释的卷积谱核网络(\texttt{CSKN}),其中我们将深度架构和卷积滤波器引入非平稳谱核表示。此外,基于Rademacher复杂度,我们推导了泛化误差界,并引入了两个正则化器来提高性能。结合正则化器和随机初始化的最新进展,我们最终完成了\texttt{CSKN}的学习框架。在真实数据集上的大量实验结果验证了学习框架的有效性,并与我们的理论研究结果相吻合。
2020-02-28 cs.LG stat.ML
Competing with stationary prediction strategies
在本文中,我们介绍了平稳预测策略的类,并构造了一个预测算法,渐近性能以及最佳连续平稳策略。我们对环境做了适度的紧性假设,但没有随机性假设。特别是,没有假设的平稳性的环境,所考虑的策略的平稳性只意味着,他们不明确地依赖于时间,我们认为,这是很自然的,即使是高度非平稳的环境中,只考虑静态策略。
2006-07-13 cs.LG
A Unifying Perspective on Non-Stationary Kernels for Deeper Gaussian Processes
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Rice University(莱斯大学)
本文从统一视角系统梳理高斯过程非平稳核的常见形式,通过代表性数据集比较其性质与性能,并提出一种融合现有核优势的新核。
2024-09-30 cs.LG math.PR stat.ML
Sparse Spectrum Warped Input Measures for Nonstationary Kernel Learning
the University of Sydney(悉尼大学);ARC Centre for Data Analytics for Resources and Environments(澳大利亚研究理事会资源与环境数据分析中心);NVIDIA(英伟达)
我们建立了一个一般形式的明确的,输入相关的,测量值warpings学习非平稳内核。虽然固定内核是无处不在的,使用简单,他们努力适应的功能,在平滑度方面的输入。所提出的学习算法将输入扭曲为控制标准静止核的平滑度的条件高斯度量。这种构造使我们能够捕获数据中的非平稳模式,并提供直观的归纳偏差。由此产生的方法是基于稀疏谱高斯过程,使封闭形式的解决方案,并可扩展到一个堆叠的建设,以捕捉更复杂的模式。该方法与合成和真实世界数据集上的相关算法一起得到了广泛验证。我们证明了一个显着的效率在小数据和大数据制度的学习问题的翘曲函数的参数的数量。
2020-10-09 cs.LG stat.ML
Context-Aware Safe Reinforcement Learning for Non-Stationary Environments
Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
在为现实任务部署强化学习代理时,安全性是一个关键问题。最近,安全的强化学习算法已经被开发出来,以优化代理的性能,同时避免违反安全约束。然而,很少有研究涉及到环境中的非平稳扰动,这可能会导致灾难性的后果。在本文中,我们提出了上下文感知安全的强化学习(CASRL)方法,一个元学习框架,以实现安全适应非平稳环境。我们使用一个概率潜变量模型来实现快速推断的后验环境的过渡分布的上下文数据。安全约束,然后评估与不确定性感知轨迹采样。安全违规的高成本导致数据集中不安全记录的稀缺性。我们通过在模型训练过程中启用优先级采样和在约束规划过程中使用领域知识制定先验安全约束来解决这个问题。该算法在现实的安全关键环境中进行评估,非平稳干扰。结果表明,该算法在安全性和鲁棒性方面显着优于现有的基线。
2021-01-02 cs.LG
Nonstationary multi-output Gaussian processes via harmonizable spectral mixtures
Universidad de Chile(智利大学)
多输出高斯过程的核设计问题近年来受到了广泛的关注。特别地,多输出光谱混合内核(MOSM)arXiv:1709.01298方法已经被称赞为通用模型,因为它扩展了其他方法,例如相关化的线性模型、内在相关化模型和交叉光谱混合。MOSM依赖于Cramér定理将功率谱密度(PSD)参数化为高斯混合,因此具有结构限制:通过假设PSD的存在,该方法仅适用于多输出稳态应用。我们开发了一个非平稳扩展MOSM提出家庭的和谐内核MOGP,一类内核,包含固定和绝大多数的非平稳过程。所提出的可协调内核的主要贡献在于,它们自动识别可能的非平稳行为,这意味着从业者不需要在平稳或非平稳内核之间进行选择。该方法首先在合成数据上进行验证,目的是说明我们方法的关键特性,然后将其与现有的MOGP方法在金融和脑电图两个真实环境中进行比较。
2022-02-18 cs.LG eess.SP stat.ML
Stationary Activations for Uncertainty Calibration in Deep Learning
Aalto University(阿尔托大学);Saab Finland Oy(萨博芬兰公司)
我们引入了一个新的家庭的非线性神经网络激活函数,模仿广泛使用的Matérn家庭的内核在高斯过程(GP)模型引起的属性。这一类跨越了一系列的局部平稳模型的各种程度的均方可微性。我们显示了一个明确的链接到相应的GP模型的情况下,网络由一个无限宽的隐藏层。在无限光滑的限制下,Matérn家族导致RBF核,在这种情况下,我们恢复RBF激活。Matérn激活函数与GP模型中的对应函数具有相似的吸引力属性,我们证明了局部平稳性属性以及有限的均方可微性在贝叶斯深度学习任务中表现出良好的性能和不确定性校准。特别是,局部平稳性有助于校准分布外(OOD)的不确定性。我们证明了这些属性的分类和回归基准和雷达辐射源分类任务。
2020-10-19 cs.LG
State Space representation of non-stationary Gaussian Processes
Dalle molle institute for artificial intelligence (IDSIA)(达勒·莫尔人工智能研究所(IDSIA))
高斯过程(GP)的状态空间(SS)表示是近年来研究的热点.主要原因是它允许在O(n)内计算基于GP的推断,其中$n$是观察的数量。这种实现使GPS适合大数据。因此,提供机器学习中使用的最重要内核的SS表示是很重要的。本文的目的是展示如何利用SS模型的瞬态行为映射到SS模型的非平稳内核。
2016-01-07 cs.LG stat.ML
Meta-Gradients in Non-Stationary Environments
University of Oxford(牛津大学);DeepMind(深度思维)
元梯度方法(Xu等人,2018; Zahavy等人,2020)为非平稳强化学习问题中的超参数选择和自适应问题提供了一个有前途的解决方案。然而,在这样的环境中的元梯度的性质还没有得到系统的研究。在这项工作中,我们带来了新的清晰度元梯度在非平稳环境。具体而言,我们要问:(i)应该向学习的优化器提供多少信息,以便在生命周期内实现更快的自适应和泛化,(ii)在此过程中学习什么元优化器函数,以及(iii)元梯度方法是否在高度非平稳环境中提供更大的优势。为了研究提供给元优化器的信息的效果,如在最近的作品中(Flennerhag等人,2021; Almeida等人,2021),我们用所选上下文特征的学习元参数函数替换固定更新规则的调整元参数。上下文特征携带关于代理性能和环境变化的信息,因此可以通知学习的元参数调度。我们发现,添加更多的上下文信息通常是有益的,从而更快地适应元参数值和提高性能的生命周期。我们支持这些结果的定性分析所产生的元参数时间表和学习功能的上下文功能。最后,我们发现,没有上下文,元梯度不提供一个一致的优势,在高度非平稳的环境中的基线。我们的研究结果表明,上下文元梯度可以发挥关键作用,在非平稳设置中提取高性能的元梯度。
2022-09-13 cs.LG
Linear Multiple Low-Rank Kernel Based Stationary Gaussian Processes Regression for Time Series
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data (SRIBD)(深圳大数据研究院)
在过去的二十年中,用于机器学习的高斯过程(GP)已经被系统地研究,并且它们现在被广泛地应用于许多不同的应用中。然而,GP核设计和相关的超参数优化仍然是困难的,在很大程度上是开放的问题。在本文中,我们考虑的任务GP回归的时间序列建模和分析。潜在的平稳内核可以近似任意接近一个新提出的网格谱混合(GSM)内核,这原来是一个线性组合的低秩子内核。在使用大量子核的情况下,可以采用Nyström或随机傅立叶特征近似来有效地处理计算需求。未知的GP超参数由所有子核的非负权重以及噪声方差组成;它们的估计通过最大似然(ML)估计框架来执行。给出了求解未知超参数的两种有效的数值优化方法,包括序列优化-最小化(MM)方法和非线性约束交替方向乘子法(ADMM)。MM与建议的GSM子内核的已证明的低秩属性完美匹配,并且被证明是高效,稳定和高效求解器的一部分,而ADMM有可能在测试MSE方面产生更好的局部最小值。基于各种经典时间序列数据集的实验结果证实,所提出的基于GSM核的GP回归模型在预测均方误差和数值稳定性方面优于同类的几个突出的竞争对手。
2019-04-21 cs.LG eess.SP stat.ML
Hida-Matérn Kernel
Stony Brook University(石溪大学)
我们提出了一类Hida-Matérn核,这是在整个平稳Gauss-Markov过程空间上的协方差函数的规范族。它扩展到Matérn内核,允许灵活的建设先验过程中的振荡组件。任何平稳内核,包括广泛使用的平方指数和频谱混合内核,要么直接在这一类或适当的渐近极限,证明了这类的一般性。利用它的马尔可夫性质,我们展示了如何表示这样的过程,状态空间模型只使用内核及其衍生物。反过来,这使我们能够更有效地执行高斯过程推理,并避免通常的计算负担。我们还展示了如何利用状态空间表示的特殊性质,除了进一步降低计算复杂性,还可以提高数值稳定性。
2021-12-27 cs.LG stat.ML
A Compositional Kernel Model for Feature Learning
Company E(公司E)
该研究提出用于特征学习的组合核模型,将其表述为变分问题,证明噪声变量为高斯分布时模型可丢弃噪声坐标,且ℓ₁型核比高斯核更适合恢复非线性特征。
2026-09-02 cs.LG math.OC
Unified Policy Optimization for Continuous-action Reinforcement Learning in Non-stationary Tasks and Games
Nanjing University(南京大学);East China Normal University(华东师范大学)
本文讨论了非平稳环境下的策略学习和连续动作博弈。受FTRL(follow-the-regularized-leader)和MD(mirror descent)更新思想的启发,我们提出了一种无遗憾风格的强化学习算法PORL,而不是经典的奖励最大化机制.我们证明了PORL具有最后收敛保证,这对于对抗和合作博弈都很重要。实证研究表明,在静态环境中,如MuJoCo运动控制任务,PORL的表现与软演员-评论家(SAC)算法一样好,如果不是更好的话;在非静态环境中,包括动态环境,对抗训练和竞争游戏,PORL优于SAC在更好的最终政策性能和更稳定的训练过程。
2022-08-19 cs.LG
Bayesian Convolutional Deep Sets with Task-Dependent Stationary Prior
KAIST(韩国科学技术院)
卷积深度集是深度神经网络(DNN)的架构,可以对静态随机过程进行建模。该架构使用核平滑器和DNN来构造平移等变函数表示,从而将平稳性的归纳偏差反映到DNN中。然而,由于该架构采用称为非参数模型的内核平滑器,因此当数据点的数量没有充分给出时,它可能会产生模糊的表示。为了解决这个问题,我们引入了贝叶斯卷积深度集,它构建了具有静态先验的随机平移等变函数表示。此外,我们提出了如何对每个数据集施加任务相关的先验,因为错误施加的先验形成了比内核平滑器更差的表示。我们使用时间序列和图像数据集验证了所提出的架构及其在各种实验中的训练。
2022-10-22 cs.LG stat.ME stat.ML
Exact Gaussian Processes for Massive Datasets via Non-Stationary Sparsity-Discovering Kernels
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);University at Buffalo(布法罗大学)
高斯过程(GP)是一种在科学和工程应用中用于随机函数逼近的重要数学框架。这一成功在很大程度上归功于GP的分析易处理性,鲁棒性,非参数结构和自然包含的不确定性量化。不幸的是,精确GP的使用对于大型数据集是非常昂贵的,这是由于它们在计算中的$O(N^3)$和在存储中的$O(N^2)$的不利的数值复杂性。所有现有的解决这个问题的方法都利用某种形式的近似-通常考虑完整数据集的子集或找到代表性的伪点,使协方差阵结构良好且稀疏。这些近似方法可能导致函数近似的不准确性,并且经常限制用户在设计表达性内核时的灵活性。而不是通过数据点的几何形状和结构诱导稀疏性,我们建议利用自然发生的稀疏性,允许内核发现-而不是诱导-稀疏结构。本文的前提是,GP在其最原始的形式下通常是自然稀疏的,但常用的内核不允许我们利用这种稀疏性。精确且同时稀疏的GP的核心概念依赖于内核定义,这些内核定义提供了足够的灵活性来学习和编码非零协方差和零协方差。这种超灵活、紧支持和非静态内核的原理,结合HPC和约束优化,使我们能够扩展精确的GP远远超过500万个数据点。
2022-05-18 cs.LG math.PR stat.CO
The Minecraft Kernel: Modelling correlated Gaussian Processes in the Fourier domain
Secondmind
在单变量情况下,使用核谱表示是生成平稳协方差函数的一种有吸引力的方法。然而,对多输出高斯过程执行相同的任务更具挑战性。我们表明,目前的方法来建模的光谱混合内核的互协方差具有一个关键的盲点。对于给定的一对过程,除了它们的谱密度具有相同形状的特殊情况外,互协方差在允许的相关性的整个范围内是不可再现的。我们提出了一个解决这个问题的方法,用有限带宽的块分量(即矩形阶跃函数)取代传统的高斯分量的光谱混合。建议的家庭内核代表了第一个多输出概括的光谱混合内核,可以近似任何固定的多输出内核到任意精度。
2021-03-11 cs.LG stat.ML
Learning spectrograms with convolutional spectral kernels
Helsinki Institute for Information Technology, HIIT(赫尔辛基信息技术研究所(HIIT));Aalto University(阿尔托大学)
我们介绍了卷积谱核(CSK),一个新的家庭的非平稳,非参数协方差核的高斯过程(GP)模型,来自两个虚径向基函数之间的卷积。我们提出了一个原则性的框架来解释CSK,以及其他深概率模型,使用近似傅立叶变换,得到一个简洁的表示输入频谱图。通过光谱图的镜头观察,我们提供了对深层模型可解释性的见解。然后,我们推断的功能超参数使用可扩展变分和MCMC方法。在小型和中型的时空数据集上,我们证明了配备CSK时GP模型的改进泛化,以及它们提取非平稳周期模式的能力。
2019-10-14 cs.LG stat.ML
Automated Spectral Kernel Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
本文提出一种非平稳谱核学习框架,使核依赖于输入和输出,并推导了基于Rademacher复杂度的泛化误差界,实验验证了其有效性。
2020-02-24 cs.LG stat.ML
Probabilistic Wind Power Modelling via Heteroscedastic Non-Stationary Gaussian Processes
Department of Statistical Science, University College London(统计科学系,伦敦大学学院);Department of Engineering, University of Cambridge(工程系,剑桥大学);Department of Statistics, Athens University of Economics and Business(统计系,雅典经济与商业大学)
针对风电功率预测中传统高斯过程模型无法同时处理非平稳性与异方差性的问题,本文提出基于广义谱混合核的异方差非平稳高斯过程框架,并在10分钟SCADA数据上验证了其优于平稳/非平稳GP变体及非GP概率基线的性能。
2025-11-09 cs.LG stat.AP stat.ML
Kernel Learning for Explainable Climate Science
University of Cambridge(剑桥大学)
针对印度河上游流域降水时空分布复杂、既有模型假设粗略且缺乏误差传播的问题,提出带输入依赖Gibbs核的结构化非平稳高斯过程,并通过消融和基准实验验证其时空重建能力。
2023-07-16 cs.LG stat.AP stat.ML
Non-stationary Online Regression
Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Univ. Grenoble Alpes(格勒诺布尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);Carnegie Mellon University(卡内基梅隆大学)
在线预测在不断变化的环境下已经成为一个越来越重要的问题,在许多现实世界的应用。在本文中,我们考虑的元算法中提出的\citet{zhang2017dynamic}结合不同的子程序。我们证明了对于参数序列的总变差由$C_n$约束的非平稳在线线性回归,可以得到一个期望的$\tilde{O}(n^{1/3} C_n^{2/3})$阶累积误差。本文将\cite{baby2019online}中提出的一维时间序列在线预测的结果推广到一般的$d$维非平稳线性回归。我们提高了Zhang等人2017和Besbes等人2015获得的$O(\sqrt{n C_n})$率。我们进一步扩展我们的分析,非平稳在线核回归。与非平稳在线回归情况类似,我们使用Zhang et al. 2017的元程序结合Kernel-AWV(Jezequel et al. 2020)来实现由RKHS的有效维度和序列的总变异控制的预期累积。据我们所知,这项工作是非平稳在线回归的非平稳核回归的第一次扩展。最后,我们评估我们的方法与现有的几个基准经验,并将其与本文得到的理论界。
2020-11-13 cs.LG math.ST stat.TH
Kalman Filter Modifier for Neural Networks in Non-stationary Environments
University of Surrey(萨里大学);Adobe Systems Inc(奥多比系统公司)
非平稳环境下的学习是将机器学习算法应用于现实世界中不可避免的问题。学习新的任务而不忘记以前的知识是机器学习中的一个挑战性问题。我们提出了一个基于卡尔曼滤波器的修正器,以保持神经网络模型在非平稳环境下的性能。实验结果表明,该模型能够较好地保留关键信息,并能较好地适应变化。实验结果表明,在漂移环境下,该模型的精度下降了0.4%,而传统模型的精度下降了90%。
2018-11-06 cs.LG stat.ML
Heat and Matérn Kernels on Matchings
Higher School of Economics(俄罗斯经济高等学院);University Grenoble Alpes(格勒诺布尔阿尔卑斯大学);University of Edinburgh(爱丁堡大学)
本文提出了一种构建尊重匹配空间自然几何的几何核的方法,通过热核和Matérn核家族实现非欧几里得空间的核方法,并引入高效算法解决计算成本问题,同时探索其在树空间中的应用。
2026-04-15 cs.LG stat.ML
Adaptive Variational Particle Filtering in Non-stationary Environments
Cylance Inc.(Cylance公司)
在线凸优化是一种顺序预测框架,其目标是通过评估适当的凸损失函数来跟踪和适应环境。我们从这样一个框架的角度来研究有效的粒子滤波方法。我们制定了一个有效的粒子滤波方法的非平稳环境中的连接与在线镜像下降算法,这是已知的是一个通用的在线凸优化算法。作为这种连接的结果,我们提出的粒子滤波算法证明,达到最佳的粒子效率。
2018-07-19 cs.LG stat.ML
Online Regularized Statistical Learning in Reproducing Kernel Hilbert Space With Non-Stationary Data
No.2 High School of East China Normal University(东华师范大学第二中学);School of Mathematical Sciences, East China Normal University(东华师范大学数学学院);Key Laboratory of Management, Decision and Information Systems, Institute of Systems Science, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院管理决策与信息系统重点实验室);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学学院)
该研究针对非平稳在线数据流的RKHS递归正则化学习问题,提出随机Tikhonov正则化路径与控制收敛方法,证明了算法在特定条件下的均方及几乎必然一致性。
2026-09-29 cs.LG cs.SY eess.SY
Stationarity without mean reversion in improper Gaussian processes
Donders Institute for Brain, Cognition and Behaviour, Radboud University(拉德堡德大学唐德斯脑、认知与行为研究所)
针对非周期性平稳协方差函数的均值回复特性在处理非收敛到固定均值数据时的病态问题,提出基于无穷方差非恰当高斯过程先验的非正定核,得到平稳无均值回复的过程,解析后验易计算,保留常用平滑核特性且解决病态问题。
2024-05-15 cs.LG stat.ML
Random Feature-based Online Multi-kernel Learning in Environments with Unknown Dynamics
University of Minnesota(明尼苏达大学)
基于核的方法在各种非线性学习任务中表现出良好的性能。它们中的大多数依赖于预先选择的内核,其谨慎的选择假定特定于任务的先验信息。特别是当后者不可用时,多核学习由于其从指定的内核字典中选择内核的灵活性而受到欢迎。利用随机特征近似及其最近的正交性促进的变体,本贡献开发了一个可扩展的多核学习计划(称为Raker),以获得所寻求的非线性学习函数“在飞行中”,首先用于静态环境。为了进一步提高在动态环境中的性能,开发了自适应多核学习方案(称为AdaRaker)。AdaRaker不仅考虑了核组合的数据驱动学习,还考虑了未知的动态。性能分析方面的静态和动态的遗憾。AdaRaker能够在具有未知动态的环境中跟踪非线性学习函数,并且具有分析性能保证。合成和真实数据集进行测试,以展示新算法的有效性。
2018-12-28 cs.LG stat.ML
Learning Non-Stationary Space-Time Models for Environmental Monitoring
Indraprastha Institute of Information Technology, Delhi(德里英德拉普拉斯塔信息技术学院);University of Sydney(悉尼大学)
可持续发展的主要方面之一是对环境现象的准确理解和建模。这些现象中的许多都表现出空间和时间的变化,因此必须对能够准确模拟时空动态的技术有更深入的了解。在本文中,我们提出了NOSTILL-GP -非平稳时空可变潜长尺度GP,一个通用的非平稳,时空高斯过程(GP)模型。我们提出了几种策略,我们的模型的有效培训,必要的现实世界的适用性。使用三个真实世界的环境监测数据集进行了广泛的经验验证,在空间和时间上具有不同的动态。实验结果清楚地表明,我们的方法在环境监测中的应用程序的普遍适用性和有效性。
2018-04-27 cs.LG stat.ML
Detecting Model Drifts in Non-Stationary Environment Using Edit Operation Measures
Florida Atlantic University(佛罗里达大西洋大学);Florida International University(佛罗里达国际大学)
本文提出一种新框架,通过基于编辑操作的度量量化状态-动作轨迹偏差,有效检测非平稳强化学习环境中的模型漂移。
2025-09-14 cs.AI cs.LG
Neural Spectral Marked Point Processes
Georgia Institute of Technology(佐治亚理工学院);Duke University(杜克大学)
自激点过程和互激点过程是机器学习和相关离散事件数据统计中的流行模型。迄今为止,大多数现有的模型假设平稳内核(包括经典的霍克斯过程)和简单的参数模型。具有复杂事件数据的现代应用需要更通用的点过程模型,除了时间和位置信息之外,该模型还可以包含事件的上下文信息(称为标记)。此外,这样的应用通常需要非平稳模型来捕获更复杂的时空依赖性。为了应对这些挑战,一个关键的问题是设计一个通用的影响核的点过程模型。在本文中,我们介绍了一种新的和一般的神经网络为基础的非平稳影响核处理复杂的离散事件数据,同时提供理论性能保证具有较高的表现力。我们证明了我们所提出的方法相比,最先进的合成和真实数据的优越性能。
2022-02-13 cs.LG stat.ML
Double Meta-Learning for Data Efficient Policy Optimization in Non-Stationary Environments
University of Southern California(南加州大学)
我们感兴趣的学习模型的非平稳环境,这可以被框定为一个多任务学习问题。无模型强化学习算法在多任务学习中可以以大量采样为代价实现良好的渐近性能,这是由于它们的方法需要从头开始学习。虽然基于模型的方法是数据效率最高的学习算法之一,但它们仍然难以处理复杂的任务和模型不确定性。Meta-强化学习通过快速利用新任务的元先验策略来解决多任务学习的效率和泛化挑战。在本文中,我们提出了一种Meta强化学习方法来学习非平稳环境的动态模型,用于元策略优化。由于基于模型的学习方法的样本效率,我们能够同时训练非平稳环境的元模型和元策略,直到动态模型收敛。然后,环境的元学习动态模型将生成用于元策略优化的模拟数据。我们的实验表明,我们提出的方法可以元学习的政策在一个非平稳的环境中的数据效率的基于模型的学习方法,同时实现高渐近性能的无模型Meta强化学习。
2020-11-21 cs.AI cs.LG
Reinforcement Learning in Non-Stationary Environments
Indian Institute of Science(印度科学学院);Indian Institute of Technology, Dharwad(印度理工学院达尔瓦德分校)
强化学习(RL)方法在静态环境中学习最优决策。然而,对环境的平稳假设是非常有限制的。在许多现实世界的问题,如交通信号控制,机器人应用,人们经常遇到的情况下,非平稳的环境,在这些情况下,RL方法产生次优的决策。因此,在本文中,我们考虑的问题,开发RL方法,在非平稳环境中获得最佳决策。这个问题的目标是最大化的长期折扣奖励时,环境的基础模型随时间变化而实现。为了实现这一目标,我们首先采用变点算法来检测环境统计数据的变化,然后开发一种RL算法,使长期奖励最大化。我们说明,我们的变点方法检测到的环境模型的变化有效,从而有利于RL算法在最大化的长期回报。我们进一步验证了所提出的解决方案的有效性,非平稳随机马尔可夫决策过程,传感器能量管理问题和交通信号控制问题。
2020-05-19 cs.AI cs.LG stat.ML
A Robust Policy Bootstrapping Algorithm for Multi-objective Reinforcement Learning in Non-stationary Environments
University of New South Wales(新南威尔士大学)
针对多目标强化学习难以适应非平稳环境的问题,本文提出在线探索偏好空间并鲁棒演化凸策略覆盖集的自举算法,在非平稳环境中显著优于现有方法。
2023-08-18 cs.AI cs.LG cs.RO
Efficient Learning of Stationary Diffusions with Stein-type Discrepancies
Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文提出Stein型KDS方法,用于高效学习平稳扩散,通过凸优化减少计算成本并提升性能。
2026-01-29 cs.LG math.ST stat.ML
Change Detection in Multivariate data streams: Online Analysis with Kernel-QuantTree
Politecnico di Milano (DEIB)(米兰理工学院(DEIB));STMicroelectronics
本文提出非参数变化检测算法KQT-EWMA,结合KQT直方图和EWMA统计量在线监测多变量数据流,能精确控制误报率$ARL_0$,且检测延迟与现有最优方法相当或更低。
2024-10-17 cs.AI cs.LG stat.ML
Sparsified-Learning for High-Dimensional Heavy-Tailed Locally Stationary Time Series, Concentration and Oracle Inequalities
Huaiyin Institute of Technology(淮阴工学院)
本文提出了一种适用于高维厚尾局部平稳时间序列的稀疏学习框架,结合加法建模与核平滑,推导了集中性不等式并建立了预测误差界,探讨了不同稀疏结构下的收敛率。
2026-02-08 cs.LG math.ST stat.ML
Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces II: non-compact symmetric spaces
St. Petersburg State University(圣彼得堡国立大学);University of Oxford(牛津大学);Neapolis University Pafos(帕福斯尼阿波利斯大学);University of Cambridge(剑桥大学);Cornell University(康奈尔大学);ETH Zürich(苏黎世联邦理工学院)
本研究针对非紧对称空间,开发了构建平稳高斯过程的实用技术,可实现协方差核计算与先验后验采样,让非欧高斯过程模型适配标准软件的计算方法,便于从业者使用。
2024-09-12 cs.LG math.ST stat.ME
Non-Stationary Delayed Bandits with Intermediate Observations
DeepMind
在线推荐系统在接收反馈时通常会面临长时间的延迟,特别是在优化一些长期指标时。虽然在静态环境中减轻学习延迟的影响是众所周知的,但当环境发生变化时,这个问题变得更具挑战性。事实上,如果变化的时间尺度与延迟相当,就不可能了解环境,因为现有的观测已经过时。然而,如果中间信号没有延迟地可用,则可以解决所出现的问题,使得给定这些信号,系统的长期行为是稳定的。为了模拟这种情况,我们引入了随机的,非平稳的,延迟土匪与中间观测的问题。我们开发了一个计算效率高的算法UCRL的基础上,并证明次线性后悔保证其性能。实验结果表明,我们的方法是能够学习在非平稳的延迟环境中,现有的方法失败。
2020-08-11 cs.LG stat.ML
Weighted Gaussian Process Bandits for Non-stationary Environments
The Ohio State University(俄亥俄州立大学);Wayne State University(韦恩州立大学);University of Michigan(密歇根大学)
本文研究了非平稳环境下的高斯过程(GP)强盗优化问题。为了捕获外部变化,允许黑盒函数在再生核希尔伯特空间(RKHS)内随时间变化。为此,我们开发了WGP-UCB,一种新的UCB型算法的基础上加权高斯过程回归。一个关键的挑战是如何处理无限维的特征映射。为此,我们利用核近似技术证明了一个次线性遗憾界,这是第一个(频率论)次线性遗憾保证加权时变土匪一般非线性奖励。这一结果推广了非平稳线性强盗和标准GP-UCB算法。进一步,对于一般权的加权高斯过程回归,得到了一个新的浓度不等式。我们还提供了普遍的上限和权重依赖的加权最大信息增益的上限。这些结果对于新闻排名和自适应定价等应用程序具有独立的意义,其中可以采用权重来捕获数据的重要性或质量。最后,我们进行实验,以突出所提出的算法在许多情况下,与现有的方法相比,有利的收益。
2022-03-28 cs.AI cs.LG
Bandit Convex Optimization in Non-stationary Environments
Nanjing University(南京大学)
Bandit Convex Optimization(BCO)是一个基本框架,用于建模具有部分信息的顺序决策,其中玩家唯一可用的反馈是一点或两点函数值。在本文中,我们研究了非平稳环境中的BCO,并选择\emph{dynamic regret}作为性能指标,它被定义为算法所产生的累积损失与任何可行的比较器序列之间的差异。令$T$是时间范围,并且$P_T$是反映环境的非平稳性的比较器序列的路径长度。提出了一种新的算法,分别实现了单点和两点反馈模型下的$O(T^{3/4}(1+P_T)^{1/2})$和$O(T^{1/2}(1+P_T)^{1/2})$动态后悔。后一个结果是最优的,与本文建立的$Ω(T^{1/2}(1+P_T)^{1/2})$下限相匹配。值得注意的是,我们的算法是更适应于非平稳环境,因为它不需要事先知道的路径长度$P_T$提前,这是通常未知的。
2020-03-01 cs.LG stat.ML
Continual Reinforcement Learning in 3D Non-stationary Environments
University of Bologna(博洛尼亚大学);University of Michigan(密歇根大学);Purdue University(普渡大学)
高维时变环境对现有的强化学习技术提出了严峻的挑战。如今,人工智能体通常在模拟中的非常静态和受控的条件下进行离线训练,使得训练观察可以被认为是采样的i.i.d.。从整个观察空间。然而,在现实世界中,环境往往是非静止的,并且经常发生不可预测的变化。在本文中,我们提出并公开发布了CRLMaze,这是一个新的基准,用于在基于ViZDoom的复杂3D非静止任务中通过强化不断学习,并受到多种环境变化的影响。然后,我们引入了一种端到端的无模型连续强化学习策略,该策略在四个不同的基线上显示出有竞争力的结果,并且不需要访问任何额外的监督信号,以前遇到的环境条件或观察结果。
2020-04-21 cs.CV cs.LG stat.ML
Dynamic Regret of Policy Optimization in Non-stationary Environments
Cornell University(康奈尔大学);Princeton University(普林斯顿大学);Northwestern University(西北大学)
我们考虑强化学习(RL)的情节MDP与对抗性的全信息奖励反馈和未知的固定过渡内核。我们提出了两个无模型的策略优化算法,POWER和POWER++,并建立保证他们的动态遗憾。与静态后悔的经典概念相比,动态后悔是一个更强的概念,因为它明确地解释了环境的非平稳性。所提出的算法获得的动态遗憾之间的非平稳性不同的制度插值,而且满足自适应(近)最优的概念,在这个意义上说,它匹配(近)最优静态遗憾缓慢变化的环境下。动态遗憾界功能两个组成部分,一个来自探索,处理过渡内核的不确定性,而另一个来自适应,处理非平稳环境。具体来说,我们表明,POWER++通过预测主动适应非平稳性,在动态遗憾的第二个组成部分上优于POWER。据我们所知,我们的工作是第一次在非平稳环境中的无模型强化学习算法的动态遗憾分析。
2020-06-30 cs.LG math.OC stat.ML