Critical Sampling for Robust Evolution Operator Learning of Unknown Dynamical Systems
Carnegie Mellon University（卡内基梅隆大学）；Southern University of Science and Technology（南方科技大学）；Pengcheng Laboratory（鹏城实验室）
本文针对未知动力系统样本效率问题，提出基于多步互逆预测误差的关键采样方法，并结合时空演化网络，在极少样本下实现系统演化算子的鲁棒学习与准确预测。
2023-10-24 cs.AI cs.LG cs.NA
Modeling Unknown Stochastic Dynamical System Subject to External Excitation
The Ohio State University（俄亥俄州立大学）
提出一种数值方法，利用短时输入/输出数据学习受外部激励的未知非自治随机动力系统，通过局部近似和生成模型构建准确的长期预测模型。
2025-02-28 cs.LG cs.SY eess.SY
Robust Modeling of Unknown Dynamical Systems via Ensemble Averaged Learning
The Ohio State University（俄亥俄州立大学）；Dartmouth College（达特茅斯学院）
最近的工作集中在通过深度神经网络（DNN）对未知系统的演化进行数据驱动学习，目标是对未知系统的演化进行长期预测。在这种情况下，训练具有低泛化误差的DNN是一项特别重要的任务，因为误差会随着时间的推移而积累。由于DNN训练中固有的随机性，主要是在随机优化中，因此在结果预测中存在不确定性，因此在泛化误差中也存在不确定性。因此，泛化误差可以看作是具有某种概率分布的随机变量。经过良好训练的DNN，特别是那些具有许多超参数的DNN，通常会导致泛化误差的概率分布具有低偏差但高方差。高方差会导致经过训练的DNN结果的可变性和不可预测性。本文提出了一种计算技术，减少了泛化误差的方差，从而提高了DNN模型的可靠性，以推广一致。在所提出的集成平均方法中，多个模型被独立地训练，并且在每个时间步对模型预测进行平均。该方法的数学基础，包括结果的局部截断误差的分布。最后，以三个含时微分方程问题为例，验证了该方法在降低DNN预测方差方面的有效性。
2022-03-07 cs.LG math.DS stat.ML
SLIP: Learning to Predict in Unknown Dynamical Systems with Long-Term Memory
University of California, Berkeley（加州大学伯克利分校）
针对随机噪声下的未知部分观测线性动力系统，提出了一种有效实用的在线预测算法（多项式时间）。当系统参数已知时，最优线性预测器是卡尔曼滤波器。然而，现有的预测模型的性能是穷人在重要的LDS类，只是勉强稳定，并表现出长期的预测记忆。我们解决这个问题，通过界定广义Kolmogorov宽度的卡尔曼滤波器模型的谱方法和进行紧凸松弛。我们提供了一个有限样本的分析，表明我们的算法竞争与卡尔曼滤波器在事后只有对数遗憾。我们的遗憾分析依赖于门德尔松的小球方法，提供尖锐的误差范围没有浓度，有界性，或指数遗忘的假设。我们还给出了实验结果表明，我们的算法优于国家的最先进的方法。我们的理论和实验结果揭示了有效的可能近似正确（PAC）学习的卡尔曼滤波器从部分观测数据所需的条件。
2020-10-12 cs.LG cs.SY eess.SY
Inference of Unknown Dynamical Components Using Next Generation Reservoir Computing: From Chaotic Systems to Climate Data
University College Cork（科克大学）；Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所）
本研究提出利用下一代储层计算（NGRC）从部分观测数据推断动力系统未知分量，在混沌系统及ENSO气候数据上均展现出高效准确的推断能力。
2026-09-22 cs.LG nlin.CD
Variational inference formulation for a model-free simulation of a dynamical system with unknown parameters by a recurrent neural network
IBM T.J. Watson Research Center（IBM T.J.沃森研究中心）；Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个循环神经网络的“无模型”模拟的动力系统的未知参数没有先验知识。深度学习模型旨在从时间序列数据集中联合学习非线性时间推进算子和未知参数的影响。我们假设时间序列数据集由一系列参数的轨迹的集合组成。学习任务被制定为一个统计推断问题，通过考虑未知参数作为随机变量。引入潜变量来模拟未知参数的影响，并采用变分推理方法同时训练时间推进算子的概率模型和潜变量的近似后验分布。与经典的变分推理，其中一个因式分解的分布是用来近似的后验，我们采用了一个前馈神经网络补充的编码器循环神经网络开发一个更灵活的概率模型。近似后验分布对轨迹进行推断，以识别未知参数的影响。时间推进算子由一个循环神经网络近似，该网络将从近似后验分布中采样的潜状态作为输入变量之一，计算以该潜变量为条件的概率分布的时间演化。在数值实验中，它表明，所提出的变分推理模型，使一个更准确的模拟相比，标准的递归神经网络。发现所提出的深度学习模型能够正确地识别随机参数的维度并学习复杂时间序列数据的表示。
2021-02-26 cs.LG cs.NE physics.comp-ph
Online Control of Unknown Time-Varying Dynamical Systems
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌AI普林斯顿）；UC Berkeley（加州大学伯克利分校）；MIT（麻省理工学院）
研究了非随机控制模型下动态未知的时变线性系统的在线控制问题。在一个高层次上，我们证明了这种设置是\emph{qualitatively harder}比未知的时不变或已知的时变动态，并补充我们的负面结果与算法的上界制度，次线性遗憾是可能的。更具体地说，我们研究遗憾的界限方面的常见类别的政策：干扰行动（SLS），干扰响应（尤拉），和线性反馈政策。虽然这三类基本上是等价的LTI系统，我们证明了这些等价性打破时变系统。我们证明了一个下界，没有算法可以获得次线性遗憾的前两个类，除非系统的变化性的一定措施也在地平线上的次线性尺度。此外，我们表明，离线规划的状态线性反馈政策是NP-困难的，这表明硬度的在线学习问题。在积极的一面，我们给出了一个有效的算法，达到一个次线性的遗憾界对类的扰动响应政策，上述系统的变异性条款。事实上，我们的算法享有次线性\emph{adaptive}遗憾界，这是一个严格强于标准遗憾的度量，更适合于时变系统。我们素描扩展干扰行动政策和部分观察，并提出了一个低效的算法对线性状态反馈政策的遗憾。
2022-02-16 cs.LG math.OC stat.ML
A Secure Learning Control Strategy via Dynamic Camouflaging for Unknown Dynamical Systems under Attacks
Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对未知线性时不变网络物理系统（CPS）遭受窃听和隐蔽攻击等组合攻击的问题，提出了一种基于强化学习（RL）的安全控制方法.我们认为攻击者的攻击场景中学习的动态模型在探索阶段的学习进行的设计师学习一个线性二次型调节器（LQR），此后，使用这些信息进行隐蔽攻击的动态系统，我们称之为基于双重学习的控制和攻击（DLCA）框架。我们提出了一种基于动态学习的攻击弹性强化学习（ARRL）算法，该算法可以学习动态系统所需的最优控制器，同时可以在攻击者对系统动态的估计中注入足够的错误信息。该算法是伴随着理论保证和广泛的数值实验的共识多智能体系统和基准电网模型。
2021-02-01 cs.LG cs.SY eess.SY
A comparative study of physics-informed neural network models for learning unknown dynamics and constitutive relations
Pacific Northwest National Laboratory（太平洋西北国家实验室）
我们研究了使用离散和连续版本的物理信息神经网络方法学习未知的动力学或动力系统的本构关系。对于未知动态的情况，我们用深度神经网络（DNN）表示所有动态。当系统的动力学是已知的本构关系的规格（可以取决于系统的状态），我们表示这些本构关系与DNN。离散版本结合了经典的多步离散化方法的动力系统与神经网络为基础的机器学习方法。另一方面，连续版本利用深度神经网络来最小化连续控制方程的残差函数。我们使用的情况下，分批补料生物反应器系统来研究这些方法的有效性，并讨论其适用性的条件。我们的研究结果表明，训练的神经网络模型的准确性要高得多的情况下，我们只需要学习的本构关系，而不是整个动力学。这一发现证实了来自科学计算的众所周知的事实，即在算法中构建尽可能多的结构信息可以提高其效率和/或准确性。
2019-04-02 cs.LG cs.NA math.DS
Learning Latent Fractional dynamics with Unknown Unknowns
University of Southern California（南加利福尼亚大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
尽管在理解复杂系统（CS）方面做出了巨大努力，但我们缺乏在不确定环境中对时变复杂网络（TVCN）进行建模、推理、分析和有效控制的理论。从大脑活动动力学到微生物组，甚至是基因组架构内的染色质相互作用，许多这样的TVCN表现出明显的时空分形。此外，对于许多TVCN，仅有限的信息（例如，很少的变量）可用于建模，这妨碍了分析工具揭示真实的自由度并推断CS模型、隐藏状态及其参数的能力。另一个基本的限制是理解和揭示未知的动态驱动因素，这些驱动因素可能会以简单的建模方式偶尔激发网络，因为我们无法对非平稳过程进行建模。为了解决这些挑战，在本文中，我们考虑了在未知未知数（即，隐藏驱动器）和部分可观测性（即，只有部分数据可用）。更确切地说，我们认为一个广义的建模方法TVCNs组成的离散时间分数动力学方程，并提出了一个迭代的框架来确定网络参数化和预测系统的状态。我们展示了所提出的框架中的任务分类使用真正的脑电图数据的情况下的性能。
2019-03-21 cs.LG stat.ML
Augmenting Neural Differential Equations to Model Unknown Dynamical Systems with Incomplete State Information
Los Alamos High School（洛斯阿拉莫斯高中）
神经常微分方程用神经网络代替传统常微分方程的右侧，凭借通用逼近定理，神经网络可以被训练成任何函数的表示。当我们不知道函数本身，但有常微分方程系统的状态轨迹（时间演化）时，我们仍然可以训练神经网络来学习底层但未知的常微分方程的表示。然而，如果系统的状态是不完全知道的，那么右手边的常微分方程不能计算。传播系统的导数不可用。我们表明，一个特别增强的神经ODE可以学习系统时，不完整的状态信息。作为一个工作的例子，我们应用神经常微分方程的Lotka-Voltera问题的3个物种，兔子，狼和熊。我们表明，即使当熊的时间序列的数据被删除，其余的时间序列的兔子和狼是足够的学习动力系统，尽管失踪的不完整的状态信息。这是令人惊讶的，因为传统的ODE系统不能输出正确的衍生物没有完整的状态作为输入。我们在Julia编程语言中实现了增强神经常微分方程和微分方程求解器。
2020-08-22 cs.LG physics.comp-ph q-bio.NC
Learning Unknown Interdependencies for Decentralized Root Cause Analysis in Nonlinear Dynamical Systems
School of Industrial and Systems Engineering, Georgia Institute of Technology（工业与系统工程学院，佐治亚理工学院）；School of Industrial Engineering and Management, Oklahoma State University（工业工程与管理学院，俄克拉荷马州立大学）
本文提出了一种联邦学习方法，用于在非线性动力学系统中学习未知的跨客户端相互依赖关系，以实现去中心化的根本原因分析，无需修改专有模型。
2026-02-25 cs.LG stat.ML
Topology Learning of unknown Networked Linear Dynamical System excited by Cyclostationary inputs
University of Minnesota Twin Cities（明尼苏达大学双城分校）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
提出一种基于 group lasso 正则化的算法，解决复值线性动力系统在循环平稳输入激励下的拓扑学习问题，并分析了部分节点不可观测时双向树网络的一致性拓扑恢复条件。
2024-10-12 cs.LG math.OC
KCRL: Krasovskii-Constrained Reinforcement Learning with Guaranteed Stability in Nonlinear Dynamical Systems
California Institute of Technology（加州理工学院）；University of California San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）；Purdue University（普渡大学）
学习一个动态系统需要稳定未知的动态，以避免状态爆破。然而，目前的强化学习（RL）方法缺乏稳定性保证，这限制了它们对安全关键系统控制的适用性。我们提出了一个基于模型的RL框架，正式的稳定性保证，Krasovskii约束RL（KCRL），采用Krasovskii的家庭的李雅普诺夫函数作为稳定性约束。所提出的方法使用特征表示（例如，随机傅立叶特征）来学习系统动态直到置信区间。然后，它解决了一个受约束的政策优化问题的稳定性约束的基础上Krasovskii的方法使用原始对偶方法恢复稳定的政策。我们表明，KCRL是保证学习稳定的政策，在有限数量的相互作用与潜在的未知系统。我们还通过KCRL框架导出了未知非线性动力系统镇定的样本复杂性上界。
2022-06-03 cs.LG cs.SY eess.SY
Verification of Unknown Dynamical Systems via Autoencoder Latent Space
Delft University of Technology（代尔夫特理工大学）；AI4I, Turin, Italy（意大利都灵AI4I）
本文提出了一种基于凸自编码器和核方法的学习方法，用于减少动态系统维度并验证其在潜在空间中的行为，从而在高维情况下实现更有效的形式验证。
2026-10-23 cs.LG
Efficient Online Linear Control with Stochastic Convex Costs and Unknown Dynamics
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
研究了一类未知线性动力系统在状态和费用函数均为随机凸代价和全反馈下的控制问题。我们提出了一个计算效率高的算法，达到最佳的$\sqrt{T}$后悔率相比，最好的稳定线性控制器在事后。与之前的工作不同，我们的算法基于面对不确定性的乐观范式。这导致显著改进的计算复杂性和更简单的分析。
2022-06-22 cs.LG math.OC stat.ML
Joint Learning-Based Stabilization of Multiple Unknown Linear Systems
基于学习的线性系统控制近年来受到了广泛的关注。在流行的设置中，真正的动态模型是未知的决策者，需要通过应用控制输入的系统交互式学习。与单系统自适应控制的有效强化学习策略的成熟文献不同，多系统联合学习的结果目前还没有。特别是，快速和可靠的关节稳定的重要问题仍然没有得到解决，所以是这项工作的重点。我们提出了一种新的联合学习为基础的稳定算法快速学习稳定政策的所有系统下研究，从数据的不稳定状态轨迹。所提出的方法是非常有效的，它稳定的家庭动力系统在极短的时间内。
2022-01-01 cs.AI cs.LG cs.SY
Spectrum-Informed Multistage Neural Networks: Multiscale Function Approximators of Machine Precision
Massachusetts Institute of Technology（麻省理工学院）；Stanford University（斯坦福大学）；New York University（纽约大学）
针对科学机器学习难以高精度拟合复杂多尺度动力系统的问题，提出结合频谱信息初始化的多阶段神经网络方法，通过学习残差捕获高频特征克服频谱偏差，实现双精度浮点机器精度的函数拟合。
2024-07-24 cs.LG
$Φ$-DVAE: Physics-Informed Dynamical Variational Autoencoders for Unstructured Data Assimilation
University of Cambridge（剑桥大学）；Imperial College London（伦敦帝国理工学院）；The Alan Turing Institute（阿兰·图灵研究所）
本文提出物理信息动态变分自编码器（$Φ$-DVAE），通过结合标准滤波器与VAE，将视频等非结构化数据同化到微分方程描述的动态系统中，实现未知参数恢复与未见数据预测。
2024-07-24 cs.LG physics.comp-ph stat.CO
Reinforcement Learning with Fast Stabilization in Linear Dynamical Systems
Caltech（加州理工学院）；Purdue University（普渡大学）
在这项工作中，我们研究了基于基于模型的强化学习（RL）在未知的可镇定线性动力系统。当学习一个动态系统时，为了避免系统崩溃，需要稳定未知的动态。我们提出了一种算法，证明快速稳定的底层系统，有效地探索环境与改进的探索策略。我们表明，该算法达到$\tilde{\mathcal{O}}(\sqrt{T})$后悔后，$T$时间步长的代理-环境交互。我们还表明，所提出的算法的遗憾只有一个多项式依赖的问题的尺寸，这给了一个指数的改善，比以前的方法。我们改进的探索方法是简单的，但有效的，它结合了一个复杂的探索政策在RL与各向同性的勘探策略，以实现快速稳定和改善遗憾。我们的经验表明，该算法优于其他流行的方法在几个自适应控制任务。
2022-06-03 cs.LG math.OC stat.ML
Structural Inference of Networked Dynamical Systems with Universal Differential Equations
Pacific Northwest National Laboratory（太平洋西北国家实验室）
网络化的动力系统在工程科学中是常见的;例如，生物网络、反应网络、电力系统等。对于许多这样的系统，非线性驱动相同（或接近相同）单元的群体表现出广泛的非平凡行为，例如相干结构的出现（例如，波和图案）或其它显著的动态（例如，同步和混沌）。在这项工作中，我们试图推断（i）人口的基本单位的内在物理，（ii）单位之间共享的基本图形结构，以及（iii）给定的网络动力系统的耦合物理节点状态的观察。这些任务是围绕着通用微分方程的概念来制定的，由此未知的动力系统可以用神经网络、先验已知的数学术语（尽管具有未知的参数化）或两者的组合来近似。我们证明了这些推理任务的价值，不仅调查未来的状态预测，但也推断不同的网络拓扑结构上的系统行为。这些方法的有效性和实用性与他们的应用规范网络非线性耦合振子。
2022-07-11 cs.LG math.DS
Efficient PAC Learnability of Dynamical Systems Over Multilayer Networks
University of Virginia（弗吉尼亚大学）；University at Albany – SUNY（纽约州立大学奥尔巴尼分校）
本文研究多层网络动力系统的可学习性，提出高效PAC学习算法并证明仅需少量样本，通过紧致分析Natarajan维度刻画模型复杂度，为该领域提供理论基础。
2024-07-28 cs.LG
Detecting disturbances in network-coupled dynamical systems with machine learning
Trinity College（三一学院）；University of Colorado at Boulder（科罗拉多大学博尔德分校）
针对网络耦合动力系统未知扰动识别难题，提出一种仅需已知训练函数驱动下的先验观测的无模型机器学习方法，可识别多类扰动的位置与特性，并探讨了向大型网络的扩展方案。
2023-07-24 cs.LG cs.SI
Logarithmic Regret for Nonlinear Control
University of Pennsylvania（宾夕法尼亚大学）
本文研究未知非线性动力系统的序贯控制学习，证明在最优策略具有持续激励性时可实现对数遗憾，并给出非持续激励情形下的平方根遗憾界，首次为非线性依赖未知参数的系统建立遗憾保证。
2025-04-11 cs.LG
Optimistic Active Exploration of Dynamical Systems
ETH Zürich（苏黎世联邦理工学院）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）
本文提出主动探索算法 OPAX，通过乐观最大化未知动态与观测之间的信息增益，实现动力系统的全局逼近，并在理论和实验中验证其零样本下游任务规划能力。
2023-10-30 cs.LG cs.RO cs.SY
Neural Lyapunov Control of Unknown Nonlinear Systems with Stability Guarantees
University of Waterloo（滑铁卢大学）
具有形式保证的动力系统的学习控制仍然是一个具有挑战性的任务。本文提出了一种学习框架，同时稳定一个未知的非线性系统的神经控制器和学习神经李雅普诺夫函数，以证明一个区域的吸引力（ROA）的闭环系统。算法结构包括两个神经网络和一个可满足性模理论（SMT）求解器。第一个神经网络负责学习未知的动力学。第二个神经网络的目的是确定一个有效的李雅普诺夫函数和可证明稳定的非线性控制器。SMT求解器然后验证候选李雅普诺夫函数确实满足李雅普诺夫条件。我们提供了理论保证所提出的学习框架的闭环稳定性的未知非线性系统。我们说明了一组数值实验的方法的有效性。
2022-10-16 cs.LG cs.RO cs.SY
Online Stochastic Gradient Descent Learns Linear Dynamical Systems from A Single Trajectory
University of Minnesota（明尼苏达大学）
本文研究了从一个噪声测量序列中估计一个稳定的时不变线性动力系统的权矩阵的问题。我们表明，如果未知的权重矩阵描述的系统是Brunovsky标准形式，我们可以有效地估计地面真理未知矩阵的系统从一个线性方程组的基础上制定的系统的传递函数，使用在线和离线随机梯度下降（SGD）的方法。具体来说，通过推导具体的复杂性界限，我们表明，SGD线性收敛于期望任何任意小的Frobenius范数距离地面真理的权重。据我们所知，我们是第一个工作，建立线性收敛特性的在线和离线基于梯度的迭代法的权重矩阵估计线性动力系统从一个单一的轨迹。大量的数值试验验证了所提出的方法的性能与我们的理论是一致的，并显示其优越的性能相对于现有的最先进的方法。
2021-02-23 cs.LG cs.SY eess.SP
Online greedy identification of linear dynamical systems
INRIA（法国国家信息与自动化研究所）；DI/ENS（巴黎高等师范学院信息学系）；PSL Research University（巴黎文理研究大学）
针对未知线性动力系统的探索问题，提出一种最大化下一步信息的在线贪心实验设计策略，在有限试验下以低复杂度取得与梯度方法相当的性能。
2022-04-13 cs.LG cs.SY eess.SY
Model-Free Output Feedback Stabilization via Policy Gradient Methods
School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（人工智能与自动化学院，华中科技大学）；College of Automation, Nanjing University of Posts and Telecommunications（自动化学院，南京邮电大学）
本文提出了一种无模型学习方法，用于部分可观测线性动态系统的输出反馈稳定化，通过策略梯度方法解决稳定问题并验证了算法的有效性。
2026-09-29 cs.LG cs.SY eess.SY
