A Sequential Quadratic Programming Perspective on Optimal Control
本文以受约束 SQP 统一分析 Newton 法、iLQR 与 DDP,证明 iLQR 具有代价下降和收敛保证,并通过摆及 cart-pole 摆起实验验证。
2025-10-03 cs.SY eess.SY math.OC
A Stochastic LQR Model for Child Order Placement in Algorithmic Trading
现代算法交易(“Algo”)允许机构投资者和交易员以全自动或低接触的方式清算或建立大型证券头寸。大多数现有的学术或工业算法集中在如何“切片”一个大的父订单在给定的时间范围内较小的子订单。很少有模型严格地处理这些子订单的实际放置。相反,布局主要是通过经验信号和启发式决策过程的组合来完成的。由于所有固有的复杂性,一个自包含的、现实的和全功能的子订单放置(COP)模型可能永远不存在,例如,由于多个交易场所、限价订单簿的动态、亮与暗流动性、不同的交易时段和规则而导致的碎片化。在本文中,我们提出了一个简化的COP模型,专注于放置被动的限价订单和狙击使用积极的外卖订单之间的相互作用。动态规划模型假设的随机线性二次型调节器(LQR)的形式,并允许下向后贝尔曼方程的封闭形式的解决方案。详细探讨了模型假设和一般设置,选择状态和控制变量和成本函数,并推导出封闭形式的解决方案。
2020-04-28 math.OC q-fin.CP q-fin.MF
Model-free stochastic linear quadratic control for discrete-time systems with multiplicative and additive noises via semidefinite programming
College of Electrical Engineering and Automation, Shandong University of Science and Technology(山东科技大学电气工程学院);School of Mathematics and Statistics, Shandong University of Technology(山东理工大学数学与统计学院);College of New Energy, China University of Petroleum (East China)(中国石油大学(华东)新能源学院)
本文提出了一种基于半正定规划的无模型随机线性二次控制方法,通过理论分析和实验验证,实现了非迭代、样本高效且无需超参数调优的最优控制增益估计。
2025-12-24 math.OC
Direct Data-Driven Discounted Infinite Horizon Linear Quadratic Regulator with Robustness Guarantees
针对随机线性系统LQR控制,本文提出基于Bellman不等式的单次自适应动态规划数据驱动方法,可直接学习控制增益和值函数,并在噪声下保证鲁棒稳定与次优性能。
2024-10-25 cs.SY eess.SY math.OC
Discrete LQR and ILQR methods based on high order Runge-Kutta methods
本文提出了基于高阶龙格-库塔(RK)离散化的离散线性二次型调节器(DLQR)和迭代线性二次型调节器(ILQR)方法,分别用于求解线性和非线性二次型最优控制问题。在[W。Hager,最优控制中的龙格-库塔法和离散伴随系统,Numer.数学,2000年,第2000页。247-282],具有RK离散化的直接方法与基于辛分块龙格-库塔(SPRK)积分的间接方法等效。在本文中,我们将重建连续和离散动态规划的模拟这种等价。然后,基于等价性,讨论了直接法产生的内级控制可能比RK法产生的控制精度低的问题。我们提出了内级控制的阶条件,然后证明了三阶或四阶显式RK离散化不能避免降阶现象。为了克服这个障碍,我们计算节点控制,而不是在DLQR和ILQR方法的内部阶段控制。数值算例表明了本文方法的有效性。我们的方法的另一个优点是高的计算效率,这来自于反馈技术的使用。在本文中,我们还证明了ILQR本质上是一个具有线性收敛速率的拟牛顿法。
2021-12-31 cs.NA math.NA math.OC
Variational Dynamic Programming for Stochastic Optimal Control
针对带熵惩罚的随机最优控制问题,将代价函数视为KL散度并引入变分推断工具,推导价值函数为KL散度的动态规划原理,用高斯近似得到推广LQR的闭式更新,在倒立摆稳定问题上验证了方法。
2024-12-11 math.OC
Analyzing changes in optimal variables in linear programming with uncertain parameters
University of Liège(列日大学)
研究线性规划中参数不确定性对最优变量值的影响,提出三种线性修改类型并建立连续性、局部凸性和凹性定理。
2026-06-18 math.OC
Learning Convex Optimization Control Policies
在各种应用中使用的许多控制策略通过求解依赖于当前状态和某些参数的凸优化问题来确定输入或动作。这种凸优化控制策略(COCP)的常见示例包括线性二次调节器(LQR)、凸模型预测控制(MPC)和凸控制-李雅普诺夫或近似动态规划(ADP)策略。通过改变最优化问题中的参数(例如LQR权重)来调整这些类型的控制策略,以获得由应用特定度量判断的良好性能。调优通常是手工完成的,或者通过简单的方法(例如粗略的网格搜索)完成的。在本文中,我们提出了一种方法来自动化这个过程中,通过调整参数使用的性能指标的近似梯度相对于参数。我们的方法依赖于最近开发的方法,可以有效地评估其参数的凸优化问题的解决方案的衍生物。我们用几个例子来说明我们的方法。
2019-12-19 cs.LG math.OC
A Fully Data-Driven Value Iteration for Stochastic LQR: Convergence, Robustness and Stability
University of New Mexico(新墨西哥大学);Tandon School of Engineering, New York University(纽约大学坦登工程学院);Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所)
本文研究了数据驱动控制中价值迭代算法在随机线性二次系统中的收敛性、鲁棒性和稳定性,提出无需初始控制策略的鲁棒自适应动态规划算法,并通过数据中心冷却和动态投资组合分配实验验证其有效性。
2026-03-17 math.OC
Optimal Output Feedback Learning Control for Discrete-Time Linear Quadratic Regulation
School of Automation, Beijing Institute of Technology, Beijing 100081, China(自动化学院,北京理工大学,北京);Department of Chemical Engineering, Queen’s University, Kingston, ON K7L 3N6, Canada(化学工程系,皇后大学,加拿大)
本文针对未知离散时间系统的LQR问题,提出一种保证收敛、稳定和最优的广义动态输出反馈学习控制方法,通过等效状态反馈设计、自适应动态规划迭代及无模型稳定性判据求解最优控制增益,并经数值实验验证。
2025-05-27 cs.AI cs.MA cs.SY
The Parallelization of Riccati Recursion
University of California, Berkeley(加州大学伯克利分校)
本文提出了一种并行计算离散时间线性二次型有限时域最优控制问题解的方法,我们称之为LQR问题。这类问题经常出现在机器人轨迹优化。对于非常复杂的机器人,这些问题的规模可能足够大,以至于使用单个处理器时计算解决方案的速度非常慢。幸运的是,基于对KKT最优性条件的数值解来解决这些类型的问题的方法提供了并行求解方法,并且可以利用多个处理器来更快地计算解。然而,这些方法不产生有用的反馈控制策略,这些策略是作为称为Riccati递归的动态编程求解方法的副产品而生成的。在本文中,我们推导出一种方法,它是能够并行计算的Riccati递归,允许超快速的解决方案的LQR问题,同时仍然产生反馈控制政策。我们的经验表明,我们的方法比现有的并行方法更快。
2018-09-17 cs.RO math.OC
A Decoupled Data Based Approach to Stochastic Optimal Control Problems
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Texas A& M University(德克萨斯农工大学)
本文提出了一种解耦的数据驱动控制方法,通过先求解开环确定性轨迹优化问题,再设计LQR控制器,以近似最优解。
2018-09-10 cs.SY eess.SY math.OC
Spatio-Temporal Differential Dynamic Programming for Control of Fields
研究了一类由偏微分方程(PDE)描述的一般非线性时空系统的最优控制问题。时空系统的控制理论和算法在自动控制界引起了越来越多的兴趣,从控制的角度来看,它们表现出许多具有挑战性的特性。最近的方法集中在有限维优化技术的离散有限维常微分方程近似的无限维偏微分方程系统。在本文中,我们推导出一个微分动态规划(DDP)框架的分布式和边界控制的时空系统在无限维,推广时空LQR解决方案,和现代有限维DDP框架。我们分析了收敛行为,并提供了一个证明的整体收敛所产生的系统的连续时间向前向后方程。我们探索和开发数值方法来处理在实施过程中出现的敏感性,并将所得的STDDP算法应用于线性和非线性时空PDE系统。我们的框架是在无限维希尔伯特空间中导出的,并且代表了非线性时空PDE系统控制的离散化不可知框架。
2021-04-08 math.OC physics.app-ph
Parallel and Proximal Constrained Linear-Quadratic Methods for Real-Time Nonlinear MPC
LAAS-CNRS, University of Toulouse(图卢兹大学LAAS-CNRS);ANITI, University of Toulouse(图卢兹大学ANITI)
本文提出一种求解带对偶正则化LQR问题的并行算法,通过块消元重写递归并推广至参数化问题以并发求解子问题,在ALIGATOR库中实现并成功应用于四足机器人实时NMPC。
2024-06-03 cs.RO math.OC
Benign Nonconvex Landscapes in Optimal and Robust Control, Part II: Extended Convex Lifting
本文提出扩展凸提升(ECL)框架,揭示最优与鲁棒控制中非凸问题的隐藏凸性,证明一类非退化驻点全局最优,并覆盖LQR、LQG、H∞及分布式控制等问题。
2024-06-06 cs.SY eess.SY math.DS
Convex Structured Controller Design
University of Washington(华盛顿大学)
本文提出新的控制目标,使在任意凸约束下计算最优线性反馈矩阵的问题变为凸优化问题,应用于去中心化控制、时滞控制和变阻尼控制。
2013-10-25 cs.SY eess.SY math.OC
Dual-Regularized Riccati Recursions for Interior-Point Optimal Control
IMT School for Advanced Studies, Lucca(利卡大学高级研究学院)
本文提出双正则化线性二次调节器问题的闭式扩展Riccati递归,通过顺序和并行方法在O(N)和O(logN)时间内求解,并证明在满足特定惯性条件时,非零原始步骤是增广障碍-拉格朗日 merit 函数的下降方向。
2026-06-15 cs.MS cs.RO cs.SY
Advancing Frontiers of Path Integral Theory for Stochastic Optimal Control
本文研究随机最优控制问题,提出路径积分控制框架作为可扩展的采样替代方案,应用于六类SOC问题并提供样本复杂度分析,为复杂环境下的自主决策奠定基础。
2025-04-24 cs.RO cs.SY eess.SY
Co-Design of Watermarking and Robust Control for Security in Cyber-Physical Systems
这项工作讨论了一种新的框架,同时合成的最佳水印信号和鲁棒控制器在网络物理系统中,以尽量减少由于添加水印信号的性能损失,并最大限度地提高检测率的攻击。一个通用的动态控制器的设计,以提高系统的性能方面的$\mathcal H_2$规范,而水印信号被添加到提高安全性能的重放攻击的检测率。本文所考虑的攻击模型是一种重放攻击,当攻击者不知道系统的动态特性时,重放攻击是一种自然的攻击模式。本文首先将已有的关于$χ^2$检测器检测率的结果从静态LQR控制器推广到一般的动态控制器。鲁棒性和安全性方面的设计改进得到迭代求解的凸子集的非凸问题的控制器和水印信号。利用线性矩阵不等式(LMI)的结果,半定规划优化制定解决更大的系统级设计优化问题。我们强调了我们的方法的有效性在一个简化的三罐化学系统。
2022-09-13 cs.SY eess.SY math.OC
Analyzing the numerical correctness of branch-and-bound decisions for mixed-integer programming
本文首次对纯LP分支定界求解器进行事后分析,通过在精确算术下验证整数可行、LP松弛不可行及子树剪枝等中间决策,发现绝大多数决策正确,错误仅影响少量叶节点。
2025-04-03 math.OC
A Path-Complete Approach for Optimal Control of Switched Systems
UCLouvain(鲁汶大学)
本文提出了一种基于路径完备图的框架,用于构建切换系统价值函数的可计算上界,并通过数值示例验证了其有效性。
2026-02-04 cs.SY eess.SY math.OC
Fractional Calculus in Optimal Control and Game Theory: Theory, Numerics, and Applications -- A Survey
本文综述了分数阶微积分在最优控制与博弈论中的理论、数值方法及应用,探讨了记忆效应系统建模、分析及控制设计方法,并分析了不同计算方法的精度与复杂度权衡。
2025-12-13 cs.SY eess.SY math.OC
On Optimality Conditions for Mathematical Programming Problems Based on Strong Subdifferentials
Instituto de Alta Investigación (IA), Universidad de Tarapacá(塔拉帕卡大学高等研究所);Facultad de Ciencias, Universidad de Tarapacá(塔拉帕卡大学理学院)
本文基于强次微分研究非光滑非凸数学规划问题的优化条件,重点分析强拟凸函数的约束,并通过示例验证结果。
2026-04-14 math.OC
Verifying Contracts for Perturbed Control Systems using Linear Programming
大规模控制系统的验证规范是非常重要的,但在实践中可能是困难的,因为大多数形式化验证方法不能处理高维动态。合同理论已被提出作为一个模块化的替代形式验证,其中规格定义的假设输入组件和保证其输出。在本文中,我们提出了基于线性规划的工具,用于验证合同的控制系统。我们首先考虑未扰动系统的时不变不等式定义的合同的验证问题。我们使用$k$ -归纳法表明,合同验证可以通过考虑不等式之间的含义的集合来实现,然后将其改写为线性规划。然后,我们将注意力转移到扰动系统。我们提出了一个基于比较的框架,验证扰动系统满足合同检查相应的未扰动系统满足robustified(和$ε$近似)合同。在这两种情况下,我们提出了明确的算法合同验证,证明其正确性和分析其复杂性。我们还演示了两个案例研究的验证过程,一个考虑两辆车的自动驾驶场景,一个考虑多智能体系统的编队控制。
2021-11-01 cs.SY eess.SY math.DS
Sampling-based Polytopic Trees for Approximate Optimal Control of Piecewise Affine Systems
Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种基于采样的多面体树方法,用于分段仿射系统的近似最优控制,通过混合整数凸规划将轨迹优化与反馈控制结合,以满足硬约束条件。
2018-09-25 cs.RO cs.SY eess.SY
Linear Programming using Limited-Precision Oracles
自从傅立叶和莫茨金的消元算法以来,人们已经发展了许多不同的求解线性规划的方法。在分析LP算法的时间复杂度时,通常假设计算是精确执行的,并且推导出所需的基本算术运算的数量的界限,或者通过位复杂度分析来考虑所有算术运算的成本。然而,在实践中,实现通常使用有限精度算术。在本文中,我们介绍了一个有限精度的LP预言机的想法,并研究如何在一个更大的框架内使用这样的预言机来计算LP的精确精度解。在温和的假设下,它表明,多项式数量的调用这样的预言和多项式数量的位操作,是足够的计算精确解的LP。这项工作为理解和分析目前在实践中最有效的方法的行为提供了基础,以准确地解决LP。
2019-12-30 cs.CC cs.NA cs.SC
On the Linear Convergence Rate of Generalized ADMM for Convex Composite Programming
近年来,Eckstein \& Bertsekas [Math.Prog.,1992]在分析其理论收敛性方面引起了广泛的关注。本文致力于建立求解线性约束凸组合最优化问题的半近似GADMM(sPGADMM)的线性收敛速率。每个子问题所包含的半邻近项具有有效处理多块问题的能力。首先给出了sPGADMM产生的序列的一些重要不等式,然后在镇定假设下建立了局部线性收敛速率.作为副产品,整体收敛性质也进行了讨论。
2022-06-08 math.OC
Information-Theoretic Meta Dynamic Programming for Signalling and Control of POMDPs
University of Cyprus(塞浦路斯大学);EURECOM(欧洲通信研究所)
针对部分可观测马尔可夫决策过程(POMDP)中的同时通信与控制问题,提出一种基于信息论的新颖动态规划框架,通过定义在条件概率分布空间上的状态,将最优策略分解为仅依赖于信息状态的分离随机策略。
2026-06-18 cs.IT cs.SY eess.SY
Statistics of voltage drop in radial distribution circuits: a dynamic programming approach
我们分析了一个配电线路与分布式发电的高渗透率和强烈的变化的功耗和发电水平。在存在不确定性的情况下,需要对系统进行统计描述,以评估停电的风险。为了找到超过电压水平的限制的概率,我们引入了最大电压降的概率分布,并提出了一种算法来找到这个分布。该算法是基于随机的假设,但统计上独立的总线上的负载分布。通过动态规划技术实现总线数量的线性复杂性。我们通过分析一个简单的4总线系统的负载水平的变化高的算法的性能。
2010-06-01 math.OC stat.AP
Fast AC Power Flow Optimization using Difference of Convex Functions Programming
时域仿真是分析新型运行方案对电力系统影响的一种有效手段,例如用于研究基于优化的可再生能源削减以减轻电压违规。传统上,相邻点法被用来解决非凸交流最优潮流(OPF)问题中出现的这类模拟。本文提出了一种替代算法,更好地适合模拟框架,因为它可以更有效地热启动,具有线性的计算和内存的复杂性,在每次迭代的问题大小和全局收敛到Karush-Kuhn-Tucker(KKT)点的线性速率,如果它们存在。该算法利用了一个不同的凸函数的最优潮流问题,这可以有效地执行。数值结果比较的方法,最先进的OPF求解器实现MATPOWER,导致显着的加速比后者。
2016-07-26 math.OC
Distributed Semidefinite Programming with Application to Large-scale System Analysis
求解耦合半定规划的分布式算法通常需要多次迭代才能收敛。它们也对计算代理提出了很高的计算要求。在本文中,我们表明,在耦合问题有一个固有的树结构的情况下,它是可能的设计一个有效的分布式算法来解决这些问题。该算法可以潜在地享有与利用稀疏性的集中式求解器相同的效率。该算法基于预测-校正原对偶邻域点方法,采用消息传递算法分布式计算搜索方向。这里的消息传递与树上的动态规划密切相关。这使我们能够通过有限数量的步骤计算精确的搜索方向。此外,这个数字可以计算的先验,只取决于耦合结构的问题。我们使用所提出的算法来分析大规模不确定性系统的分布式鲁棒性。我们使用数值例子测试该算法的性能。
2015-04-29 math.OC
Semidefinite programming in matrix unknowns which are dimension free
半定规划的主要应用之一是在线性系和控制理论中。这门学科中的许多问题,当然是教科书中的经典问题,都以矩阵为变量,公式中自然包含矩阵中的非交换多项式。这些多项式只依赖于系统的布局,不随矩阵的大小而变化,因此这些问题被称为“无量纲”问题。分析无量纲问题导致了最近的发展的非交换(NC)真正的代数几何(RAG),当结合凸性,产生无量纲半定规划。本文调查什么是已知的凸性在非交换设置和数控SDP,包括一个简短的调查数控RAG。典型地,非对易情形的定性性质比它们的标量对应物(R^g中的变量)的定性性质清晰得多。事实上,我们描述了如何放松标量变量的矩阵变量在几个自然的情况下,结果在一个美丽的结构。
2011-12-29 math.FA math.OA math.OC
DuQuad: an inexact (augmented) dual first order algorithm for quadratic programming
在本文中,我们提出了求解器DuQuad专门解决一般凸二次问题,在许多工程应用中出现的。当难以投影到原始可行集上时,利用(增广)拉格朗日松弛法处理复杂的约束条件,然后利用基于不精确对偶梯度信息的对偶一阶算法求解相应的对偶问题.迭代复杂性分析是基于两种类型的近似原始解:原始最后一次迭代和原始迭代的平均值。我们提供了计算复杂性估计的原始次优性和可行性违反所产生的近似原始解决方案。然后,在DuQuad中用C语言实现了这些算法,并针对低迭代复杂度和低内存占用进行了优化。DuQuad具有动态的Matlab接口,使得测试、比较和分析算法的过程变得简单。该算法只使用基本的算术和逻辑运算来实现,并且适合于在低成本硬件上运行。结果表明,如果一个近似解是足够的一个给定的应用程序,存在的问题,其中一些实现的算法获得的解决方案比国家的最先进的商业求解器。
2015-04-22 math.OC
Sustainable Ecosystem Planning Based on Discrete Stochastic Dynamic Programming and Evolutionary Game Theory
建立了黄土高原生态系统可持续规划的离散随机动态规划(SDP)模型,并运用演化对策模型对生态资源规划决策过程进行了分析。主要目的是从离散SDP和进化对策论的角度探索一种新的生态环境规划方法,并将其应用于水资源管理等生态资源规划问题。与以往的研究不同,SDP方法从统计学的角度出发,通过求解生态系统的转移概率矩阵,利用DP算法求解多个子系统之间的最优生态资源规划策略,并分析不同用户之间的决策影响。本文首先介绍了系统工程规划的应用背景和系统工程规划的概念。然后,简要概述了现有的理论分析可持续生态系统。以黄土高原中部地区为例,介绍了基于SDP的数学模型及其在水资源规划中的应用。最后,补充分析了在SE规划作为一个游戏玩不同用户之间的影响。
2013-06-01 math.OC q-bio.PE
Introduction to Exact Penalization for Mathematical Programming with Equilibrium Constraints
Northeastern University(东北大学)
本文介绍非线性规划和带有均衡约束的数学规划的精确惩罚方法,强调其与现代误差界理论的联系,探讨经典最优性条件的解释及扩展框架的应用。
2026-05-01 math.OC
A systematic literature review on the application of analytical approaches and mathematical programming in public bus transit network design and operations planning: Part I
针对公共公交网络设计与运营规划(PBTNDP&OP)这一交通核心问题,本论文系统综述1968-2021年分析方法与数学规划的应用,通过统计分析对比两者并多视角剖析相关研究,最后指出方法优缺点与未来研究方向。
2025-02-13 cs.NA math.NA math.OC
Optimal Blackjack Betting Strategies Through Dynamic Programming and Expected Utility Theory
本研究利用MDP和期望效用理论,通过动态规划算法优化二十一点的回合与投注策略,发现优化策略虽略优于基本策略和Hi-Lo系统,但优势微弱,且仅限于特定规则配置。
2025-04-24 econ.TH math.OC