A minimax optimal control approach for robust neural ODEs
Technical University Munich (TUM)（慕尼黑工业大学（TUM））；Munich Data Science Institute (MDSI)（慕尼黑数据科学研究所（MDSI））；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML））
本文将神经常微分方程的对抗训练建模为极小极大最优控制问题，利用庞特里亚金最大值原理推导最优性条件，并提出一种加权鲁棒训练方法并在低维分类任务上验证。
2024-03-30 cs.LG cs.SY eess.SY
Linear ordinary differential equations constrained Gaussian Processes for solving optimal control problems
本文提出线性常微分方程约束高斯过程方法，通过计算机代数约束高斯过程、条件化数据点获取控制函数，连接多学科理论并验证其最优性与实用性，为最优控制问题提供新路径。
2025-04-17 math.OC
Neural ODEs as Feedback Policies for Nonlinear Optimal Control
Centre for Process Systems Engineering（过程系统工程中心）；Imperial College London（帝国理工学院）
神经常微分方程（Neural ODEs）定义了具有神经网络的连续时间动力系统。在他们的应用建模的兴趣最近引发，跨越混合系统辨识问题和时间序列分析。在这项工作中，我们提出了使用的神经控制策略能够满足状态和控制约束来解决非线性最优控制问题。控制策略的优化是一个神经ODE问题，有效地利用了动力系统模型的可用性。我们展示了这种类型的确定性神经政策在两个受约束的系统：控制范德波尔系统和生物反应器控制问题的功效。这种方法代表了一个实用的近似的非线性控制问题的棘手的闭环解决方案。
2022-11-12 cs.AI cs.SY eess.SY
Linear quadratic problems for fully coupled forward-backward stochastic control systems
研究具有不定控制权代价的随机完全耦合正倒向线性二次型（FBLQ）问题的最优控制。为了得到最优控制的状态反馈表达式，我们提出了一种新的解耦方法，得到了一类非Riccati型常微分方程（ODE）。在一定的假设条件下，利用平方完备法证明了所得到的常微分方程解的存在性，并导出了最优控制的状态反馈形式。对于这个FBLQ问题，最优控制依赖于状态过程的整个轨迹。最后给出了一些具体的例子来说明我们的结果。
2019-02-26 math.OC
Layerwise goal-oriented adaptivity for neural ODEs: an optimal control perspective
Institute for Mathematics, Humboldt-Universität zu Berlin, Berlin, Germany（柏林洪堡大学数学研究所）；Weierstrass Institute for Applied Analysis and Stochastics, Berlin, Germany（魏泽拉施应用分析与随机学研究所）；Mathematical Institute, Universität Koblenz, Koblenz, Germany（科布伦茨大学数学研究所）
本文提出基于最优控制视角的分层目标导向自适应方法，用于构造神经网络以实现数据分类任务。
2026-08-11 cs.AI math.OC
Mean-Field Neural ODEs via Relaxed Optimal Control
我们开发了一个框架，用于分析使用随机梯度算法训练的深度神经网络和神经ODE模型。我们通过识别控制理论、深度学习和统计抽样理论之间的联系来做到这一点。我们推导了庞特里亚金的最优性原理，并研究了相应的梯度流的平均场朗之万动力学（MFLD）的形式解决放松的数据驱动控制问题。随后，我们研究了时间离散MFLD的混沌在时间上的均匀传播。我们得到明确的收敛速度的学习率，粒子/模型参数的数量和迭代次数的梯度算法。此外，我们研究了使用有限的训练数据集时产生的错误，从而提供量化的泛化误差的界限。最重要的是，所获得的速率是与维度无关的。这可以通过利用模型关于参数空间上的测量的规律性来实现。
2021-03-16 math.OC math.PR stat.ML
The integral estimations for ordinary differential equations and its application to the non-smooth optimal control problems
研究了定义在常微分方程解上的L_2非光滑函数的积分泛函。以L_2模估计的形式得到了这些泛函的一些正则性。这一结果被用于正则化的最优控制问题的常微分方程的非光滑泛函：它被建议取代的初始向量的随机向量的密度。得到了最优性的必要条件和最优控制存在的充分条件。
2010-10-29 math.CA math.OC
Discrete Adjoint Method for Variational Integration of Constrained ODEs and its application to Optimal Control of Geometrically Exact Beam Dynamics
本文针对变分积分器推导了离散伴随方法，在ODE和完整约束情形下实现保结构逼近，并应用于几何精确梁动力学的最优控制，通过数值算例验证了收敛阶。
2023-11-27 math-ph math.DS math.MP
Optimal control of mean-field limit of multiagent systems with and without common noise
研究多智能体系统平均场极限的最优控制，通过Γ-收敛将有限维SDE-ODE系统近似为McKean-Vlasov系统，并推广了噪声和控制函数类别。
2025-05-22 math.OC
Optimal Dirac controls for time-periodic bistable ODEs, application to population replacement
本文研究了时间周期性双稳ODEs的最优Dirac控制，旨在通过确定最佳释放时间来实现种群替换并最小化释放成本，应用于蚊虫生物控制。
2026-01-13 math.AP math.CA math.OC
Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs
Technische Universität München（慕尼黑工业大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；University of Genoa（热那亚大学）
本文提出通过线性控制神经ODE将归一化流作为最优传输映射的近似，构建离散测度下的近似最优控制问题，基于庞特里亚金极大值原理设计迭代数值方案，在二维示例验证了方法有效性。
2024-12-02 cs.LG math.OC
Optimal Sensor Configurations for Rectangular Target Dectection
Defence Research and Development Canada（加拿大国防研究与发展部）；Centre for Operational Research and Analysis（作战研究与分析中心）
针对具有矩形对称性和均匀分布朝向的目标，提出一种在半个圆周上均匀选择n个角度的最优搜索策略，并给出未检测概率的下界。
2011-06-03 cs.MA cs.RO cs.SY
Non-Rectangular Average-Reward Robust MDPs: Optimal Policies and Their Transient Values
本文研究了非矩形鲁棒MDPs的最优策略及其瞬时值，提出了一种基于周期的策略，结合最优平稳策略与在线学习回退机制，实现常数阶瞬时值。
2026-03-10 cs.LG math.OC stat.ML
Numerical methods for rectangular multiparameter eigenvalue problems, with applications to finding optimal ARMA and LTI models
针对新兴的矩形多参数特征值问题（RMEP），提出将其转化为标准多参数特征值问题（MEP）的数值求解方法，给出解的数量与新线性化方案，计算性能优于现有块Macaulay方法，可用于最优ARMA和LTI模型求解。
2023-09-14 cs.NA math.NA math.OC
An Efficient Solution to s-Rectangular Robust Markov Decision Processes
Technion（以色列理工学院）；National University of Singapore（新加坡国立大学）
我们提出了一个有效的鲁棒值迭代\texttt{s} -矩形鲁棒马尔可夫决策过程（MDP）的时间复杂度相当于标准（非鲁棒）MDP这是显着快于任何现有的方法。我们这样做，通过推导出最佳的鲁棒贝尔曼算子的具体形式，使用我们的$L_p$水填充引理。我们揭示了最优策略的确切形式，这些策略是一种新的阈值策略，其采取行动的概率与其优势成正比。
2023-01-31 cs.LG math.OC
Beyond discounted returns: Robust Markov decision processes with average and Blackwell optimality
本文研究折扣回报之外的鲁棒马尔可夫决策过程，证明sa-矩形与s-矩形RMDP在平均最优性、Blackwell最优性上的差异结论，给出策略存在性条件与计算算法，凸显sa-矩形模型的实用优势。
2025-01-14 cs.GT math.OC
Sparsity in long-time control of neural ODEs
我们考虑神经ODE和最优控制的监督学习的角度来看，与$\ell^1$ -控制惩罚，而不是只最小化最终成本（\emph{empirical risk}）的状态，我们整合了整个时间范围内的成本。我们证明了任何最优控制（此成本）消失超过一些积极的停止时间。当在离散时间上下文中看到时，该结果需要相关残差神经网络的参数的\emph{ordered}稀疏模式：在这些参数都是$0$的意义上排序，超出某个层。此外，我们提供了一个多项式稳定性估计的经验风险的时间范围。这可以被看作是一个\emph{turnpike property}，非光滑动力学和泛函的$\ell^1$ -处罚，没有任何小的假设的数据，这两个都是新的文献。
2022-09-08 cs.LG math.OC stat.ML
Optimal control of Goursat-Darboux systems in domains with curvilinear boundaries
本文导出了Goursat-Darboux形式的双曲型偏微分方程控制问题的最优性必要条件。条件包括一组在Goursat形式的哈密顿方程，侧条件的哈密顿方程，和一个极值原理类似庞特里亚金的最大值原理。新的成分是，域上的最优控制问题是不矩形。域的非矩形性质以实质性方式影响最优性条件。
2005-09-03 math.AP math.OC
Optimal energy decay for the wave-heat system on a rectangular domain
研究了矩形区域上波热耦合方程组解的能量衰减率。利用$C_0$ -半群理论中的技巧，特别是Borichev和Tomilov的一个著名结果，我们证明了经典解的能量像$C_0$一样衰减为$t\to\infty$。此外，这一比率显示为急剧的。我们的结果意味着，特别是在文献中的一般估计，它预测至少对数衰减，并被称为是最好的一般情况下，是次优的特殊情况下考虑在这里。我们的证明策略涉及直接估计的基础上分离的变量和改进版本的技术开发在我们早期的文件为一维波热系统。
2018-11-08 math.AP math.FA math.OC
Regularized Unbalanced Optimal Transport with Pearson Marginal Penalties
Department of Mathematics, Texas A\&M University, College Station, TX 77843, USA（德克萨斯A&M大学数学系）
本文研究了使用神经微分方程近似最优传输方程的基本计算问题，提出了一个新颖的框架用于用神经ODE近似连续域中的不平衡最优传输，通过推广具有皮尔逊发散的离散UOT问题，构造了收敛于真实UOT动态的向量场，推动了计算传输和机器学习的数学基础。
2026-10-27 cs.LG cs.NA math.NA
Optimal Transport for Continuous-Time Mean-Variance Portfolio Selection
Renmin University of China（中国人民大学）；The Hong Kong Polytechnic University（香港理工大学）
本文结合BSDE与康托罗维奇对偶理论，提出针对McKean-Vlasov随机系统反馈控制的分析框架，通过求解耦合ODE系统推导显式最优反馈投资策略，解决连续时间均值-方差投资组合选择问题。
2026-10-14 math.OC
Sequential Linearithmic Time Optimal Unimodal Fitting When Minimizing Univariate Linear Losses
本文研究线性损失下单变量模型分数输出的最优单峰变换，证明最优映射为矩形函数，并提出每次迭代具有对数时间复杂度且最优高效的顺序拟合方法。
2023-04-04 cs.DS cs.LG math.OC
Nonparametric Filtering, Estimation and Classification using Neural Jump ODEs
Department of Mathematics ETH Zurich（数学系，苏黎世联邦理工学院）；Department of Statistics UC Berkeley（统计系，伯克利大学）；Department of Mathematics Albert-Ludwigs-Universität Freiburg（数学系，弗赖堡阿尔伯特-路易斯大学）
本文提出基于神经跳ODEs的非参数滤波与分类方法，通过理论保证和实验证明其在复杂分布下的优越性能，适用于金融和健康监测等实时性要求高的领域。
2025-08-15 cs.LG cs.NA math.NA
Hybrid Methods in Solving Alternating-Current Optimal Power Flows
电力系统中的许多稳态问题，包括交流模型（ACOPF）中的最优潮流的矩形功率-电压公式，都可以转化为多项式优化问题（POP）。对于一个POP，我们可以导出强凸松弛，或者更确切地说，更强，但更大的松弛层次。研究了从求解凸松弛到求解非凸拉格朗日的牛顿法的转换方法。
2016-11-01 math.OC
Zero-sum continuous-time Markov games with one-side stopping
本文研究了连续时间有限状态马尔可夫控制和停止博弈的一种变体，其中两个博弈者都可以影响转移率，而只有一个博弈者可以选择一个停时。我们使用动态规划原则，并减少了这个问题的一个系统的常微分方程的单边约束。这个系统起着贝尔曼方程的作用。我们表明，它的解决方案提供了最优策略的球员。此外，我们证明了所推导的单边约束常微分方程组的存在唯一性定理。
2022-08-07 math.OC math.PR
Numerical procedure for optimal control of hybrid systems with sliding modes, Part I
本文讨论了带滑动模态的混合最优控制问题的数值解法。建议的程序有几个特点，区别于其他程序的问题。首先，用微分-代数方程（DAE）处理滑动模式，保证精确跟踪滑动运动表面。第二个重要特征是借助于伴随方程计算成本和约束函数梯度。本文提出的伴随方程考虑了滑移运动，并在过渡时刻表现出跳跃条件。该程序使用Radau IIA Runge-Kutta格式离散系统方程，并借助离散系统方程的伴随方程计算优化函数梯度。在本文的第一部分中，我们证明了离散伴随方程和连续伴随方程的离散化版本的情况下，常微分方程描述的系统方程之间的对应关系。我们表明，离散的伴随状态轨迹收敛到他们的连续对应的情况下常微分方程。
2021-01-14 cs.NA math.NA math.OC
Time-Optimal Paths for Simple Cars with Moving Obstacles in the Hamilton-Jacobi Formulation
研究了简单非完整运动器的时间最优路径规划问题。在以前的类似工作中，车辆已被简化为一个点质量和障碍物已固定。我们的配方占一个矩形的车辆，并涉及动态规划原则和时间依赖的哈密尔顿-雅可比-贝尔曼（HJB）制定允许移动障碍物。据我们所知，这是第一个HJB制定的问题，允许移动障碍。我们设计了一个迎风有限差分格式来近似方程，并通过几个合成的例子证明了我们的模型的有效性。
2021-11-18 math.OC
Genericity of Polyak-Lojasiewicz Inequalities for Entropic Mean-Field Neural ODEs
Université Paris Cité, CNRS, Sorbonne Université（巴黎西岱大学、法国国家科学研究中心、索邦大学）；Université Côte d’Azur, CNRS（蔚蓝海岸大学、法国国家科学研究中心）
本文证明在熵正则化的连续层ResNets最优控制问题中，对开且稠密的初始数据集，存在唯一稳定全局最小化器，且满足局部Polyak-Lojasiewicz不等式，从而保证梯度下降的指数收敛。
2026-09-21 math.AP math.OC math.PR
Dual Representations and $H_{\infty}$-Optimal Control of Partial Differential Equations
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Arizona State University（亚利桑那州立大学）；Eindhoven University of Technology（埃因霍温理工大学）
本文研究了线性偏微分方程的H∞最优状态反馈控制，通过双重PIE表示将问题转化为凸优化，利用算子逆公式构造反馈增益，验证了非保守的H∞界。
2026-04-03 math.DS math.OC
Jacobi Fields in Optimal Control II: One-dimensional Variations
在这第二个文件的系列，我们指定一般理论的第一篇论文。在这里，我们研究的雅可比场的结构的情况下，分析系统和分段解析控制。此外，我们只考虑一维控制变量。雅可比场在这种情况下是分段解析的，但可能比控制场有更多的奇点。我们推导出这些领域满足的正则性区间上的常微分方程，并研究了在奇点附近的领域的行为，其中常微分方程变得奇异，雅可比领域可能有跳跃。
2019-04-03 math.DS math.OC
An $O(s^r)$-Resolution ODE Framework for Understanding Discrete-Time Algorithms and Applications to the Linear Convergence of Minimax Problems
The University of Chicago Booth School of Business（芝加哥大学布斯商学院）
使用常微分方程（ODE）来理解离散时间算法（DTA）的动态特性已经有很长的历史。令人惊讶的是，仍然有两个基本的和未回答的问题：（i）目前还不清楚如何获得一个\emph{suitable}常微分方程从一个给定的DTA，和（ii）这是不清楚的DTA和它的相应的常微分方程的收敛之间的联系。在本文中，我们提出了一个新的机器-一个$O(s^r)$分辨率ODE框架-分析的行为，一个通用的DTA，其中（部分）回答了上述两个问题。该框架包括三个步骤：1.为了从一个给定的DTA得到一个合适的常微分方程，我们定义了一个由度$r$参数化的DTA的$O(s^r)$ -分辨率常微分方程的层次结构，其中$s$是DTA的步长。我们提出了一个主要的方法来构造唯一的$O(s^r)$分辨率常微分方程的DTA; 2。为了分析所得到的常微分方程，我们提出了关于能量函数的DTA的$O(s^r)$ -线性收敛条件，在该条件下，$O(s^r)$ -分辨率常微分方程线性收敛到最优解; 3.为了将DTA及其相应的常微分方程的收敛性质联系起来，我们定义了能量函数的适当性，并证明了$O(s^r)$分解常微分方程关于适当的能量函数的线性收敛可以自动保证DTA的线性收敛.为了更好地说明这一机制，我们利用它来研究三个经典算法-梯度下降上升（GDA），邻近点方法（PPM）和额外梯度方法（EGM）-解决无约束极小极大问题$\min_{x\in\…
2021-07-09 cs.LG math.OC
Imbedding Deep Neural Networks
University of Exeter（埃克塞特大学）；Etcembly Ltd.（Etcembly有限公司）
连续深度的神经网络，如神经常微分方程，已经改变了对剩余神经网络在非线性向量值最优控制问题方面的理解。常见的解决方案是使用伴随灵敏度方法来复制前向-后向传递优化问题。我们提出了一种新的方法，明确了网络的“深度”作为一个基本变量，从而减少了问题的系统，面向初始值的问题。这种新方法是基于“不变嵌入”的原则，我们证明了一个通用的解决方案，适用于所有非线性，向量值最优控制问题的运行和终端损失。我们的新架构提供了一个有形的工具，用于检查网络深度的理论-在很大程度上无法解释-属性。它们还构成了神经常微分方程的离散实现资源，可与嵌入式残差神经网络类相媲美。通过一系列的实验，我们展示了所提出的架构的监督学习和时间序列预测的竞争力的表现。
2022-02-15 cs.LG math.OC
Interplay between depth and width for interpolation in neural ODEs
Universidad Autónoma de Madrid（马德里自治大学）；ENS Paris Saclay（巴黎萨克雷高等师范学校）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；Fundación Deusto（德乌斯托基金会）
本研究探讨神经ODE中宽度与深度的权衡，发现插值有限数据集或概率测度时深度随宽度呈反比缩放，并针对自治情形提出近似可控性误差衰减率，高维下$p=O(N)$神经元可实现精确控制。
2024-02-06 cs.LG math.OC
Cluster-based classification with neural ODEs via control
Universidad Autónoma de Madrid（马德里自治大学）；Instituto de Ciencias Matemáticas（数学科学研究所）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；Fundación Deusto（德乌斯托基金会）
该研究从同时控制N个数据点的角度，利用神经常微分方程解决二分类问题，提出聚类引导的控制方法，将复杂度从O(N)降至O(N/d)，并通过数值实验验证其高维最优性，还分析了开关数量的概率分布及高维优势。
2025-04-17 cs.LG math.OC
Differentiable Multiple Shooting Layers
The University of Tokyo（东京大学）；KAIST（韩国科学技术院）；RIKEN（理化学研究所）
我们详细介绍了一类新的隐式神经模型。利用微分方程的时间并行方法，多射击层（MSL）通过可并行的求根算法来求解初值问题。MSL广泛用作神经常微分方程（Neural ODE）的直接替代品，在函数求值（NFE）数量和挂钟推理时间方面提高了效率。我们开发了MSL的算法框架，从理论和计算的角度分析了不同的解决方案的选择方法。MSL在常微分方程和偏微分方程的长期最优控制中得到展示，并作为序列生成的潜在模型。最后，我们研究了通过应用MSL推理在神经控制微分方程（神经CDE）的时间序列分类的医疗数据。
2021-06-07 cs.LG math.DS math.OC
Second-Order Neural ODE Optimizer
Georgia Institute of Technology（佐治亚理工学院）
我们提出了一种新的二阶优化框架，用于训练新兴的深度连续时间模型，特别是神经常微分方程（Neural ODE）。由于他们的训练已经涉及昂贵的梯度计算，通过求解一个向后的ODE，推导出有效的二阶方法变得非常重要。尽管如此，受最近最优控制（OC）对训练深度网络的解释的启发，我们证明了一种特定的连续时间OC方法，称为差分编程，可以在相同的O（1）内存成本下推导高阶导数的后向ODE。我们进一步探讨了一个低秩表示的二阶导数，并表明，它导致有效的预处理更新与克罗内克为基础的因式分解的援助。由此产生的方法-命名为SNOpt -收敛速度远远快于挂钟时间的一阶基线，并且改进在各种应用中保持一致，例如图像分类，生成流和时间序列预测。我们的框架还支持直接架构优化，例如神经ODE的集成时间，具有二阶反馈策略，加强了OC视角作为分析深度学习优化的原则性工具。我们的代码可在https://github.com/ghliu/snopt上获得。
2021-11-06 cs.LG cs.SY eess.SY
Mean-Field Pontryagin Maximum Principle
对于由常微分方程组和Vlasov型偏微分方程耦合而得到的约束条件下的最优控制问题，我们导出了一个最大值原理。这样的问题自然出现的$Γ$ -限制最优控制问题受到ODE约束，建模，例如，外部干预人群动态。我们得到这些一阶最优性条件的形式的哈密尔顿流的Wasserstein空间的概率测度与前向后边界条件的第一和第二边缘，分别。特别是，我们恢复方程和他们的解决方案，通过建设性的程序，这可以被看作是平均场极限的庞特里亚金最大值原理适用于离散最优控制问题，在适当的缩放的伴随变量。
2015-04-09 math.AP math.DS math.OC
A review from the PDE viewpoint of Hamilton-Jacobi-Bellman Equations Arising in Optimal Control with Vectorial Cost
本文是一个审查结果的优化，这可能不是那么标准的偏微分方程领域。为此，我们考虑的问题，推导出的偏微分方程的最优控制的系统的ODE或SDES相对于一个向量值的成本功能。优化被认为是相对于一个偏序产生的一个给定的锥。由于在向量的情况下，最小值可能不存在，我们定义向量值函数作为排序的（帕累托）最小值。我们的主要目标是推导出的模型偏微分方程变成参数家庭的HJB单方程，而不是系统的偏微分方程。然而，这允许使用黏性解理论。
2018-01-13 math.AP math.OC math.PR
