Scalable Gaussian Process Regression for Kernels with a Non-Stationary Phase
Institute for Electrical Engineering in Medicine, Universität zu Lübeck（吕贝克大学医用电工研究所）
高斯过程（GPs）的应用，以大数据集是有限的，由于沉重的内存和计算要求。已经提出了各种方法来实现可伸缩性，其中之一是利用内核矩阵中的结构。然而，以前的方法，不能很容易地处理非平稳过程。本文提出了一个有效的GP框架，扩展结构核插值方法的GP与非平稳相位。我们特别对待混合物的非平稳过程，这是常用的分离问题的背景下，例如在生物医学信号处理。我们的方法采用多组非等距诱导点占的非平稳性和检索Toeplitz和Kronecker结构的核矩阵，允许有效的推理。核学习是通过优化边际似然来完成的，边际似然可以使用随机迹估计方法有效地近似。我们的方法证明了数值例子和大型生物医学数据集。
2019-12-25 cs.LG stat.ML
GBT: Two-stage transformer framework for non-stationary time series forecasting
Beihang University（北京航空航天大学）
针对 TSFT 解码器输入初始化不当导致的非平稳序列过拟合问题，提出两阶段 GBT 框架及误差分数修正模块，以更低复杂度取得优于多种 SOTA 模型的效果。
2023-07-17 cs.LG
Continual Learning for non-stationary regression via Memory-Efficient Replay
atlanTTic - ICLAB - Universidade de Vigo, Escola de Enxeñaría de Telecomunicación, Campus Universitario（atlanTTic - ICLAB - 维戈大学，电信工程学院，大学校区）；Centro Tecnolóxico de Telecomunicacións de Galicia (GRADIANT)（加利西亚电信技术中心（GRADIANT））；Facultade de Informática, Universidade de Santiago de Compostela（圣地亚哥-德孔波斯特拉大学计算机学院）
本文提出了一种基于原型的生成回放框架，用于在线任务无关的持续回归，通过自适应输出空间离散化模型减少遗忘并提高稳定性。
2026-02-10 cs.LG stat.ML
Multiscale Non-stationary Stochastic Bandits
University of California, Davis（加利福尼亚大学戴维斯分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
用于线性模型的经典上下文强盗算法（例如LinUCB）假设手臂的奖励分布由平稳线性回归建模。当线性回归模型随时间非平稳时，LinUCB的后悔可以随时间线性缩放。针对非平稳线性强盗问题，提出了一种新的多尺度变点检测方法Multiscale-LinUCB，该方法能够主动适应环境的变化.我们还对Multiscale-LinUCB算法的遗憾界进行了理论分析。实验结果表明，我们提出的多尺度LinUCB算法优于其他国家的最先进的算法在非平稳的上下文环境。
2020-02-13 cs.LG stat.ML
Latent Gaussian Process Regression
University of Bristol（布里斯托大学）；University of Bath（巴斯大学）
我们介绍了潜在的高斯过程回归，这是一个潜在的变量扩展允许非平稳多模态过程使用GP建模。该方法是建立在扩展的输入空间的回归问题的潜变量，用于调制的协方差函数的训练数据。我们展示了我们的方法可以用来模拟多模态和非平稳过程。我们在一组合成数据上验证了该方法，并提供了来自运动捕捉和地质统计学的真实数据的结果。
2017-09-16 cs.LG stat.ML
Last Iterate Risk Bounds of SGD with Decaying Stepsize for Overparameterized Linear Regression
Johns Hopkins University（约翰斯·霍普金斯大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Harvard University（哈佛大学）
随机梯度下降（SGD）已被证明在许多深度学习应用中具有良好的推广性。在实践中，人们经常以几何衰减步长运行SGD，即，一个恒定的初始步长，然后是多个几何步长衰减，并使用最后一个步长作为输出。已知这种SGD对于经典的有限维线性回归问题几乎是最小最大最优的（Ge等人，2019年）。然而，在过度参数化设置下对SGD的最后一个周期的尖锐分析仍然是开放的。在本文中，我们提供了一个问题相关的分析的最后一个风险界的SGD与衰减步长，（过参数化）线性回归问题。特别是，对于最后一个具有（尾部）几何衰减步长的SGD，我们证明了几乎匹配的上限和下限的超额风险。此外，我们提供了一个额外的风险下限与多项式衰减步长的最后一个SGD和几何衰减步长的优势，在一个实例的方式，这补充了极大极小率比较在以前的作品。
2022-07-11 cs.LG math.OC stat.ML
A Last Switch Dependent Analysis of Satiation and Seasonality in Bandits
Università degli Studi di Milano（米兰大学）；Tel-Aviv University（特拉维夫大学）；Edmond J. Safra Center for Bioinformatics（埃德蒙·J·萨夫拉生物信息学中心）；Sagol School of Neuroscience（萨戈尔神经科学学院）
人类喜欢某种程度的不可预测性或新颖性，因此可能会很快感到无聊时，与一个固定的政策，我们引入了一个新的非固定的强盗问题，其中的预期奖励的手臂完全由时间流逝，因为手臂最后一次参加了切换的行动。我们的模型概括了以前的延迟依赖奖励的概念，也放松了大多数的奖励函数的假设。这使得能够对诸如渐进性饱足和周期性行为等现象进行建模。基于组合半Bandits（CSB）框架，我们设计了一个算法，并证明了其遗憾的最佳非平稳政策（这是NP-难计算）的一个界。类似于以前的作品，我们的遗憾分析是基于定义和解决近似和估计之间的适当权衡。初步的实验证实了我们的算法优于两个甲骨文贪婪的方法和香草CSB求解器。
2022-03-07 cs.LG
A consistent deterministic regression tree for non-parametric prediction of time series
EDF R&D（法国电力研发中心）；GREGHEC (HEC Paris, CNRS)（GREGHEC（巴黎高等商学院、法国国家科学研究中心））；Inria（法国国家信息与自动化研究所）
我们研究有界平稳遍历过程的在线预测。要做到这一点，我们考虑设置的预测个别序列，并建立一个确定性的回归树，执行渐近以及最好的L-Lipschitz常数预测。然后，我们证明了为什么所得到的遗憾界需要关于有界平稳遍历过程类的渐近最优性。
2014-05-08 cs.LG math.ST stat.ML
Analytic solution and stationary phase approximation for the Bayesian lasso and elastic net
The Roslin Institute（罗斯林研究所）；The University of Edinburgh（爱丁堡大学）；University of Bergen（卑尔根大学）
套索和弹性网线性回归模型对模型参数施加双指数先验分布，以实现回归收缩和变量选择，从而允许从大数据集推断稳健模型。然而，由于需要评估分析上难以处理的配分函数积分，因此在推导这些模型中回归系数的完整后验分布的估计方面取得的成功有限。这里，傅里叶变换被用来将这些积分表示为“回归频率”上的复值振荡积分。这将导致在一个分析的扩展和固定相近似的贝叶斯套索和弹性网，其中的双指数先验的不可微性的配分函数迄今为止回避这样的方法。这种近似的使用导致高度精确的数值估计的期望值和边际后验分布的回归系数，并允许贝叶斯推断的更高维的模型比以前可能的。
2018-11-28 cs.LG math.ST q-bio.QM
PiPs: a Kernel-based Optimization Scheme for Analyzing Non-Stationary 1D Signals
Google LLC（谷歌有限责任公司）；Apple Inc（苹果公司）；Duke University（杜克大学）；University of Maryland College Park（马里兰大学帕克分校）
本文提出了一种新的基于核的优化方案来处理分析中的任务，例如，一维非平稳振荡信号谱估计和单通道源分离我们的优化方案重建的时间-频率信息的关键见解是，当一个非参数回归应用于一些输入值，输出回归点将位于附近的振荡模式的振荡1D信号，只有当这些输入值是一个很好的近似的地面实况相位函数。在这项工作中，高斯过程（GP）被选择来进行这个非参数回归：振荡模式被编码为模式诱导点（PiP），其充当GP回归中的训练数据点;而目标相位函数被馈入以计算相关核，充当测试输入。更好的近似相位函数生成更精确的核，从而在将基于核的回归输出与原始信号进行比较时导致更小的优化损失误差。据我们所知，这是第一个算法，可以令人满意地处理完全非平稳的振荡数据，关闭和交叉频率，和一般的振荡模式。即使在一个信号{产生的三角展开的参数缓慢变化}的例子中，我们表明，点承认竞争力或更好的性能方面的准确性和鲁棒性比现有的国家的最先进的算法。
2022-12-09 cs.LG stat.ML
Weighted Linear Bandits for Non-Stationary Environments
CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；Université PSL（巴黎文理研究大学）；Deepmind（深度思维）
我们考虑一个随机线性强盗模型，其中可用的行动对应于任意的上下文向量，其相关的奖励遵循非平稳线性回归模型。在此设置中，允许未知回归参数随时间变化。为了解决这个问题，我们提出了D-LinUCB，这是一种基于折扣线性回归的新型乐观算法，其中使用指数权重来平滑地忘记过去。这涉及研究一般假设下的序贯加权最小二乘估计的偏差。作为一个副产品，我们获得了新的偏差结果，可以使用超越非平稳环境。我们提供的D-LinUCB在缓慢变化和快速变化的环境中的行为的理论保证。我们得到了动态后悔的一个上界，它的阶为d^{2/3} B\_T^{1/3}T^{2/3}，其中B\_T是非平稳性的度量（d和T分别是维数和视界）。这个速率已知是最佳的。我们还说明了D-LinUCB的经验性能，并将其与最近提出的替代品在模拟环境中进行比较。
2020-03-20 cs.LG stat.ML
Advanced Stationary and Non-Stationary Kernel Designs for Domain-Aware Gaussian Processes
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；University of California, Berkeley（加州大学伯克利分校）
高斯过程回归是一种应用广泛的函数逼近和不确定性量化方法。该技术由于其鲁棒性和可解释性最近在机器学习社区中流行起来。本文所讨论的数学方法是高斯过程框架的扩展。我们提出了先进的内核设计，只允许具有某些理想特性的功能是再生核希尔伯特空间（RKHS）的元素，所有的核方法的基础，并作为样本空间的高斯过程回归。这些理想的特性反映了基本的物理学;两个明显的例子是对称性和周期性约束。此外，可以在同一框架中定义非平稳核设计，以产生灵活的多任务高斯过程。我们将使用几个合成数据集和两个科学数据集来展示高级内核设计对高斯过程的影响。结果表明，包括领域知识，通过先进的内核设计进行沟通，对函数近似的准确性和相关性有显着的影响。
2022-01-27 cs.LG stat.ML
Intrinsic Non-stationary Covariance Function for Climate Modeling
Rutgers, The State University of New Jersey（罗格斯大学，新泽西州立大学）
设计一个协方差函数来表示潜在的相关性是模拟复杂自然系统（如气候模型）的关键一步。全球范围内的地理空间数据集通常具有非平稳性和非均匀光滑的空间边界。使用非平稳协方差函数的高斯过程回归已经显示出对该任务的承诺，因为该协方差函数适应于基础分布的变量相关结构。在本文中，我们推广的非平稳协方差函数，以解决上述全球尺度的地理空间问题。我们定义这个广义协方差函数作为一个内在的非平稳协方差函数，因为它使用的对称正定矩阵的内在统计来表示的特征长度尺度，从而，局部随机过程的模型。在世界各地的相对海平面变化的合成和真实数据集上的实验表明，使用我们新提出的方法，回归估计的误差度量得到了改善。
2015-07-09 cs.LG stat.ML
Federated Bayesian Neural Regression: A Scalable Global Federated Gaussian Process
University of Waterloo（滑铁卢大学）；Vector Institute for AI（Vector人工智能研究院）；Noah’s Ark Lab, Huawei Technologies（华为技术诺亚方舟实验室）
在应用联邦学习（FL）框架的典型场景中，客户端通常没有足够的训练数据来生成准确的模型。因此，不仅提供点估计，而且还提供某种置信度概念的模型是有益的。高斯过程（GP）是一个强大的贝叶斯模型，具有自然校准的方差估计。然而，学习一个独立的全局GP是具有挑战性的，因为合并局部内核会导致隐私泄漏。为了保护隐私，以前考虑联邦GP的作品通过关注个性化设置或学习局部模型的集合来避免学习全局模型。我们提出了联邦贝叶斯神经回归（FedBNR），这是一种学习可扩展的独立全球联邦GP的算法，该算法尊重客户的隐私。我们通过定义统一的随机内核，将深度内核学习和随机特性结合起来，以实现可扩展性。我们表明，这种随机内核可以恢复任何平稳内核和许多非平稳内核。然后，我们推导出一种学习全局预测模型的原则性方法，就好像所有客户端数据都是集中的一样。我们还学习全局内核与知识蒸馏方法的非相同和独立分布（非i.i.d.）客户.在真实世界的回归数据集上进行了实验，与其他联邦GP模型相比，实验显示出统计上的显着改进。
2022-06-13 cs.LG
Airflow recovery from thoracic and abdominal movements using Synchrosqueezing Transform and Locally Stationary Gaussian Process Regression
Clemson University（克莱姆森大学）；University of North Carolina at Greensboro（北卡罗来纳大学格林斯伯勒分校）；Perelman School of Medicine at the University of Pennsylvania（宾夕法尼亚大学佩雷尔曼医学院）；Duke University（杜克大学）；National Center for Theoretical Sciences（国家理论科学研究中心）
气流信号编码了关于呼吸系统的丰富信息。虽然测量气流的金标准是使用具有闭合密封的肺活量计，但这对于患者的动态监测并不实用。传感器技术的进步使得用小型廉价设备测量胸部和腹部的运动成为可能，但是从这些时间序列估计气流是具有挑战性的。我们建议使用非线性类型的时频分析工具，同步压缩变换，适当地表示胸部和腹部运动信号的特征，这是用来恢复气流的局部平稳高斯过程。我们表明，使用包含正常睡眠条件下呼吸信号的数据集，可以通过在受试者内和受试者间设置的特征空间中拟合所提出的模型来实现准确的预测。我们还将我们的方法应用于更具挑战性的情况下，全身麻醉下的受试者从压力支持过渡到无辅助通气，以进一步证明所提出的方法的实用性。
2020-08-11 cs.LG eess.SP stat.ML
Sparse Nonlinear Regression: Parameter Estimation and Asymptotic Inference
Princeton University（普林斯顿大学）；Israel Institute of Technology（以色列理工学院）；Rutgers University（罗格斯大学）
研究稀疏非线性回归的参数估计和渐近推断。更具体地说，我们假设数据由$y = f( x^\top β^* ) + ε$给出，其中$f$是非线性的。为了恢复$β^*$，我们提出了一个$\ell_1$正则化最小二乘估计。与经典的线性回归不同，由于$f$的非线性，相应的优化问题是非凸的。尽管非凸性，我们证明了在温和的条件下，目标的每一个稳定点享有最佳的统计收敛速度。此外，我们提供了一个有效的算法，可证明收敛到一个稳定点。我们还访问所获得的估计的不确定性。具体而言，基于任何平稳点的目标，我们构造有效的假设检验和置信区间的高维参数$β^*$的低维组件。详细的数值结果支持我们的理论。
2015-11-14 cs.IT cs.LG math.IT
Consistency of Extreme Learning Machines and Regression under Non-Stationarity and Dependence for ML-Enhanced Moving Objects
RWTH Aachen University（亚琛工业大学）
分别由极限学习机进行监督学习。研究了具有随机权重的神经网络在非平稳空间-时间采样设计下的性能，该设计特别针对在非平稳空间环境中移动的自主对象收集和分析数据的设置。随机模型特别考虑到空间异质性和弱依赖性。作为有效的和计算成本低的学习方法（无约束）最小二乘法，岭回归和$\ell_s$ -惩罚最小二乘法（包括LASSO）进行了研究。最小二乘和岭回归估计的一致性和渐近正态性，以及相应的一致性结果的$\ell_s$ -罚款弱条件下。结果还涵盖了样本平方预测误差的界限。
2021-09-01 cs.LG math.ST stat.ML
Stability Bound for Stationary Phi-mixing and Beta-mixing Processes
Courant Institute of Mathematical Sciences（柯朗数学科学研究所）；Google Research（谷歌研究院）
学习理论中的大多数泛化边界都是基于所使用的假设类的复杂性的某种度量，而与任何算法无关。相比之下，算法稳定性的概念可以用于通过利用特定的学习算法的特定属性来推导出针对特定学习算法的严格泛化边界。然而，在许多学习理论中，现有的稳定性分析和界限仅适用于样本独立且同分布的情况。然而，在许多机器学习应用中，这个假设并不成立。由学习算法接收的观测通常具有一些固有的时间依赖性。本文研究的情况下，观察是从一个固定的φ-混合或β-混合序列，广泛采用的假设在非独立同分布的研究。这意味着观测之间的依赖性随着时间的推移而减弱。我们证明了新的和不同的稳定性为基础的推广范围固定的φ混合和β混合序列。这些界限严格推广了独立同分布中给出的界限。的情况下，并适用于所有稳定的学习算法，从而扩展使用的稳定性界限，非独立同分布。场景我们还说明了我们的φ混合泛化界的一般类的学习算法，包括支持向量回归，核岭回归，和支持向量机，以及许多其他内核正则化和相对熵为基础的正则化算法的应用。这些新的界限，因此可以被视为第一个理论基础，这些算法在非独立同分布使用。场景
2008-11-11 cs.LG
Linear Multiple Low-Rank Kernel Based Stationary Gaussian Processes Regression for Time Series
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data (SRIBD)（深圳大数据研究院）
在过去的二十年中，用于机器学习的高斯过程（GP）已经被系统地研究，并且它们现在被广泛地应用于许多不同的应用中。然而，GP核设计和相关的超参数优化仍然是困难的，在很大程度上是开放的问题。在本文中，我们考虑的任务GP回归的时间序列建模和分析。潜在的平稳内核可以近似任意接近一个新提出的网格谱混合（GSM）内核，这原来是一个线性组合的低秩子内核。在使用大量子核的情况下，可以采用Nyström或随机傅立叶特征近似来有效地处理计算需求。未知的GP超参数由所有子核的非负权重以及噪声方差组成;它们的估计通过最大似然（ML）估计框架来执行。给出了求解未知超参数的两种有效的数值优化方法，包括序列优化-最小化（MM）方法和非线性约束交替方向乘子法（ADMM）。MM与建议的GSM子内核的已证明的低秩属性完美匹配，并且被证明是高效，稳定和高效求解器的一部分，而ADMM有可能在测试MSE方面产生更好的局部最小值。基于各种经典时间序列数据集的实验结果证实，所提出的基于GSM核的GP回归模型在预测均方误差和数值稳定性方面优于同类的几个突出的竞争对手。
2019-04-21 cs.LG eess.SP stat.ML
Unified Policy Optimization for Continuous-action Reinforcement Learning in Non-stationary Tasks and Games
Nanjing University（南京大学）；East China Normal University（华东师范大学）
本文讨论了非平稳环境下的策略学习和连续动作博弈。受FTRL（follow-the-regularized-leader）和MD（mirror descent）更新思想的启发，我们提出了一种无遗憾风格的强化学习算法PORL，而不是经典的奖励最大化机制.我们证明了PORL具有最后收敛保证，这对于对抗和合作博弈都很重要。实证研究表明，在静态环境中，如MuJoCo运动控制任务，PORL的表现与软演员-评论家（SAC）算法一样好，如果不是更好的话;在非静态环境中，包括动态环境，对抗训练和竞争游戏，PORL优于SAC在更好的最终政策性能和更稳定的训练过程。
2022-08-19 cs.LG
Ridge Regression from Poisson Resetting: A Renewal Perspective on Spectral Regularization
manu.edu.mk
通过非平衡统计物理中的随机重置与统计学习中的岭正则化建立联系，证明线性梯度流下以速率r重置到原点产生的稳态均值即为岭估计，并推广到一般更新重置律以生成替代谱滤波器。
2026-05-28 cond-mat.stat-mech cs.LG stat.ML
Weighted Gaussian Process Bandits for Non-stationary Environments
The Ohio State University（俄亥俄州立大学）；Wayne State University（韦恩州立大学）；University of Michigan（密歇根大学）
本文研究了非平稳环境下的高斯过程（GP）强盗优化问题。为了捕获外部变化，允许黑盒函数在再生核希尔伯特空间（RKHS）内随时间变化。为此，我们开发了WGP-UCB，一种新的UCB型算法的基础上加权高斯过程回归。一个关键的挑战是如何处理无限维的特征映射。为此，我们利用核近似技术证明了一个次线性遗憾界，这是第一个（频率论）次线性遗憾保证加权时变土匪一般非线性奖励。这一结果推广了非平稳线性强盗和标准GP-UCB算法。进一步，对于一般权的加权高斯过程回归，得到了一个新的浓度不等式。我们还提供了普遍的上限和权重依赖的加权最大信息增益的上限。这些结果对于新闻排名和自适应定价等应用程序具有独立的意义，其中可以采用权重来捕获数据的重要性或质量。最后，我们进行实验，以突出所提出的算法在许多情况下，与现有的方法相比，有利的收益。
2022-03-28 cs.AI cs.LG
Non-Stationary Spectral Kernels
Helsinki Institute for Information Technology（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）
我们提出了非平稳谱核的高斯过程回归。我们建议将非平稳核函数的谱密度建模为依赖于输入的高斯过程频率密度表面的混合。我们解决了广义傅立叶变换与这样的模型，并提出了一个家庭的非平稳和非单调的内核，可以学习输入相关的和潜在的远程，非单调的输入之间的协方差。我们推导出有效的推理使用模型白化和边缘化后，并与案例研究表明，这些内核是必要的建模时，甚至相当简单的时间序列，图像或地理空间数据的非平稳特性。
2017-05-24 cs.LG stat.ML
The Prevalence of Neural Collapse in Neural Multivariate Regression
New York University Abu Dhabi（纽约大学阿布扎克分校）；SFSC of AI and DL, NYU Shanghai（人工智能与深度学习学院（SFSC），纽约大学上海）；New York University Shanghai（纽约大学上海）；New York University（纽约大学）
本文发现多元回归中存在神经回归坍缩 NRC1–NRC3，并在多种数据集与架构上实证验证，再借助 UFM 证明正正则化导致坍缩、零正则化则不会。
2024-10-30 cs.AI cs.LG
Factor-augmented tree ensembles
Imperial College London（帝国理工学院）
本研究提出用状态空间法提取的潜平稳因子扩展时间序列回归树的信息集，从两维度推广该类回归树，其集成模型可有效解决宏观金融问题，并以美股波动率和商业周期的领先滞后效应为例验证。
2023-06-12 cs.LG econ.EM stat.ML
Uncertainty Prediction for Deep Sequential Regression Using Meta Models
IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
为序贯回归生成高质量的不确定性估计，特别是深度递归网络，仍然是一个具有挑战性和开放性的问题。现有的方法往往作出限制性的假设（如平稳性），但在实践中仍然表现不佳，特别是在现实世界的非平稳信号和漂移的存在。本文介绍了一种灵活的方法，可以产生对称和非对称的不确定性估计，不作任何假设平稳性，并优于漂移和非漂移情况下的竞争基线。这项工作有助于使序贯回归在现实世界的应用中更加有效和实用，并且是一般序贯不确定性量化建模工具箱的强大新添加。
2021-07-22 cs.LG stat.ML
Variable selection for Gaussian process regression through a sparse projection
本文提出了一种新的结合高斯过程（GP）回归的变量选择方法。我们考虑稀疏投影的输入变量和一个一般的平稳协方差模型，取决于投影功能之间的欧氏距离。稀疏投影矩阵被认为是一个未知参数。我们提出了一个前向阶段的方法，嵌入梯度下降步骤，以协同优化的参数与其他协方差参数的基础上最大化的非凸边际似然函数与凹稀疏惩罚，并提供了一些收敛性的算法。该模型比现有的自动相关性确定方法覆盖了更广泛的一类平稳协方差函数，并且该解决方案比现有的MCMC抽样程序在稀疏性先验下的自动相关性参数估计更具计算可行性。大量的模拟场景的方法进行评估。通过仿真研究，对调谐参数的选择和参数估计的精度进行了评价。在比较一些选择的基准方法，所提出的方法提供了一个更好的准确性，在变量的选择。它适用于识别影响金属合金大气腐蚀的环境因素的一个重要问题。
2020-08-25 cs.LG stat.ML
Deep Transfer $Q$-Learning for Offline Non-Stationary Reinforcement Learning
Princeton University（普林斯顿大学）；New York University（纽约大学）
针对非平稳有限时域马尔可夫决策过程的动态决策场景，提出迁移深度$Q^*$-学习方法，通过重加权目标程序构建可迁移RL样本，解决现有迁移学习方法不适用于RL的问题，提升目标群体RL性能。
2025-04-11 cs.LG stat.ML
Locally Weighted Regression Pseudo-Rehearsal for Online Learning of Vehicle Dynamics
Georgia Institute of Technology（佐治亚理工学院）
我们考虑的问题，在线适应的神经网络设计代表车辆动力学。该神经网络模型旨在由MPC控制律使用以自主地控制车辆。这个问题是具有挑战性的，因为输入和目标分布都是非平稳的，和天真的方法在线适应导致灾难性遗忘，这反过来又会导致控制器故障。提出了一种新的在线学习方法，它结合了伪排练方法和局部加权投影回归。我们证明了局部加权投影回归伪排练（LW-PR $^2$）方法在模拟和1/5比例自动驾驶汽车收集的大型真实世界数据集上的有效性。
2019-05-13 cs.LG cs.RO
Stationary Density Estimation of Itô Diffusions Using Deep Learning
National University of Singapore（新加坡国立大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；Purdue University（普渡大学）
本文考虑了离散时间序列中遍历Itô扩散平稳测度的密度估计问题，该离散时间序列逼近随机微分方程的解.为了利用通过抛物型福克-普朗克偏微分方程的定态解表征密度函数，我们进行如下。首先，我们使用深度神经网络通过解决适当的监督学习任务来近似估计的漂移和扩散项。随后，我们解决了稳态福克普朗克方程与估计的漂移和扩散系数与基于神经网络的最小二乘法。我们建立了适当的数学假设下，该计划的收敛性，考虑到回归的漂移和扩散系数，和偏微分方程求解器引起的泛化误差。本理论研究依赖于最近的扰动理论的马尔可夫链的结果，显示了线性依赖的密度估计的误差估计的漂移项，和推广的误差结果的非参数回归和偏微分方程回归解与神经网络模型。二维Student t分布和20维Langevin动力学的数值模拟表明了该方法的有效性。
2021-09-09 cs.LG cs.NA math.DS
World Model for Battery Degradation Prediction Under Non-Stationary Aging
Independent Researcher（独立研究者）
本文提出一种世界模型用于非平稳老化条件下电池退化预测，通过编码原始信号并学习动态转换生成未来轨迹，结合电化学知识约束提升预测精度。
2026-03-11 cs.LG cs.SY eess.SY
Towards Data-Algorithm Dependent Generalization: a Case Study on Overparameterized Linear Regression
IIIS, Tsinghua University（清华大学交叉信息研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Shanghai Qi Zhi Institute（上海期智研究院）
本文研究过参数化线性回归的泛化问题，提出数据-算法兼容性概念，通过分析依赖数据的训练轨迹证明考虑早停迭代可在更弱限制下保证泛化。
2023-11-21 cs.LG math.ST stat.ML
