An Adaptive Proximal ADMM for Nonconvex Linearly Constrained Composite Programs
Oregon State University(俄勒冈州立大学);Texas A&M University(德克萨斯农工大学);Georgia Institute of Technology(佐治亚理工学院);Federal University of Piauí(皮奥伊联邦大学)
本文提出一种自适应近端交替方向乘子法解决线性约束复合优化问题,假设目标函数光滑部分弱凸,非光滑部分凸且块分离。方法自适应于所有参数,允许每个块近端子问题近似求解,通过迭代步骤和自适应测试确定是否更新拉格朗日乘子和惩罚参数,无需约束矩阵秩假设,证明在迭代次数上达到最优复杂度。
2026-04-30 math.OC
Adaptive inexact fast augmented Lagrangian methods for constrained convex optimization
本文分析了求解线性约束凸优化问题的几种不精确快速增广拉格朗日方法。主要地,我们的方法依赖于[15]中开发的过度间隙式平滑技术和[4]中新引入的不精确Oracle框架的组合。我们分析了几个算法的实例与常数和自适应平滑参数,并得出总的计算复杂性的结果在一个简单的原始集的投影。对于基本的不精确的快速增广拉格朗日算法,我们得到的整体计算复杂性为$\mathcal{O}\left(\frac{1}{ε^{5/4}}\right)$,而对于自适应的变体,我们得到$\mathcal{O}\left(\frac{1}ε\right)$,投影到一个原始的集合,以获得一个$ε-$最优解为我们原来的问题。
2015-05-12 math.OC
An Adaptive Penalty Method for Inequality Constrained Minimization Problems
原始-对偶有效集方法被认为是惩罚公式序列的极限。使用这个角度来看,我们提出了一个惩罚的方法,自适应地成为有效集的方法,作为残差的减少。自适应罚方法(APM)结合了两种方法的主要优点,即罚方法易于实现和有效集方法固有的不等式约束的精确施加。该方案可以被认为是一个拟牛顿法,其中雅可比矩阵近似使用罚参数。这个空间变化的参数在每次迭代中通过求解辅助问题来选择。
2022-01-07 math.OC
Distributed Constrained Optimization with Delayed Subgradient Information over Time-Varying Network under Adaptive Quantization
本文研究了时变通信网络中具有延迟次梯度信息的分布式约束最优化问题,其中每个智能体只能与其邻居通信,通信信道具有有限的数据速率.我们提出了一种自适应量化方法来解决这个问题。基于Bregman发散理论,建立了一种带延迟次梯度信息的镜像下降算法。该方法采用非欧几里德Bregman投影算法,从本质上推广了许多经典的基于欧几里德投影的分布式算法。通过所提出的自适应量化方法,可以获得无任何量化误差的最优值。对算法的收敛性进行了综合分析,结果表明,在适当的条件下,可以得到最优的收敛速度$O(1/\sqrt{T})$。最后,数值例子证明了我们的算法和理论结果的有效性。
2021-06-15 math.OC
Some Analogue of Quadratic Interpolation for a Special Class of Non-Smooth Functionals and One Application to Adaptive Mirror Descent for Constrained Optimization Problems
许多著名的梯度型最优化方法的收敛速度的理论估计是基于二次插值,只要满足梯度的利普希茨条件。本文在局部Lipschitz拟凸泛函类中,利用本文所引入的非光滑条件(Lipschitz连续次梯度),得到了构造类似插值的可能性.作为应用,本文给出了自适应镜像下降法求解具有多个凸泛函约束的拟凸局部Lipschitz泛函极小化问题的收敛速率的估计.
2018-12-16 math.OC
Adaptive Model Predictive Control for A Class of Constrained Linear Systems with Parametric Uncertainties
研究了一类模型参数未知的约束线性系的自适应模型预测控制问题。这也被称为由系统辨识和调节组成的双重控制问题。首先,我们提出了一个在线的策略,同时未知参数识别和不确定性集估计的基础上递归最小二乘技术。所设计的策略提供了一个不确定参数集的压缩序列,并且在一定条件下,参数估计是收敛的。第二,通过将管MPC与建议的估计例程相结合,所开发的自适应MPC提供了一种保守性较小的解决方案来处理乘法不确定性。这是可能的,通过构建多面体管的基础上不断更新的标称系统和不确定的参数集。此外,所提出的方法进行了扩展,降低了计算复杂性牺牲一定程度的最优性。理论上证明了所设计的两种自适应MPC算法都是递归可行的,并且在标准假设下,扰动闭环系统是渐近稳定的。最后,通过数值模拟和比较,验证了该方法的有效性.
2020-11-20 math.OC
An Adaptive Sampling Sequential Quadratic Programming Method for Equality Constrained Stochastic Optimization
本文提出了一种在序列二次规划(SQP)方法中使用变样本量求解等式约束随机最优化问题的方法。本文的第一部分涉及的微妙问题的动态样本选择的梯度结合不精确的解决方案的SQP子问题的评价。在合理假设的质量梯度近似和SQP子问题的解决方案的准确性,我们建立了整体收敛结果所提出的方法。基于这些结果,本文的第二部分描述了一个实用的自适应不精确随机序列二次规划(PAIS-SQP)方法。我们提出的标准控制的样本量和精度的SQP子问题的解决方案的基础上获得的随机梯度近似的方差估计的优化进展。最后,我们展示了一个子集的CUTE问题和约束分类任务的实际方法的性能。
2023-03-21 math.OC
Stochastic Gradient Descent for Constrained Optimization based on Adaptive Relaxed Barrier Functions
本文提出一种随机采样约束与有限和目标分量、并逐迭代自适应调整松弛对数障碍的SGD算法,证明其在强凸目标和仿射不等式约束下以概率一收敛,且数值结果表明其适合大量约束问题。
2025-05-12 math.OC
A line search filter sequential adaptive cubic regularisation algorithm for nonlinearly constrained optimization
本文提出一种线搜索过滤序列自适应三次正则化算法,通过复合步与投影矩阵处理非线性等式约束,并利用过滤技术避免罚参数选择困难,证明了全局收敛性并给出数值验证。
2025-05-11 math.OC
Self-Triggered Adaptive Model Predictive Control of Constrained Nonlinear Systems: A Min-Max Approach
针对具有参数不确定性和附加干扰的约束离散非线性系统,提出了一种自触发自适应模型预测控制(MPC)算法。为了约束参数的不确定性,减少高估,一个zonotope-based集员参数估计器,这也是兼容的非周期性采样导致的自触发机制。通过对不确定性的估计,将最小-最大MPC控制中的最优化问题转化为一个新的数学模型,以降低其保守性。通过在费用函数中设计时变惩罚,在自触发调度器中隐式地考虑了不确定性的估计,从而使触发间隔得到进一步优化。由此产生的自触发自适应MPC算法保证了递归的可行性,同时提供更少的保守性能相比,自触发鲁棒MPC方法。此外,我们从理论上证明了闭环系统在触发时刻是输入-状态实用稳定的。数值算例和比较研究表明,所提出的方法的有效性。
2019-12-15 math.OC
Adaptive Primal-Dual Stochastic Gradient Method for Expectation-constrained Convex Stochastic Programs
随机梯度法在求解随机最优化问题中得到了广泛的应用。大多数现有的工程假设没有限制或易于项目的限制。本文考虑带期望约束的凸随机最优化问题。对于这些问题,在可行集上执行投影通常是非常昂贵的。文献中的几个SGM可以应用于解决期望约束随机问题。提出了一种基于拉格朗日函数的原始-对偶型SGM。与现有的方法不同,我们的方法采用了自适应技术,以加快收敛。在每次迭代中,我们的方法查询拉格朗日函数的无偏随机次梯度,然后它更新的原始变量的自适应SGM更新和对偶变量的香草SGM更新。我们表明,所提出的方法具有$O(1/\sqrt{k})$的收敛速度的客观误差和约束违反。虽然收敛速度与现有的SGM相同,但我们观察到它在求解Neyman-Pearson分类和二次约束二次规划时的收敛速度明显快于现有的非自适应原始-对偶SGM和原始SGM。此外,我们修改所提出的方法来解决凹凸随机极大极小问题,我们执行自适应SGM更新的原始和对偶变量。利用原对偶间隙,证明了$O(1/\sqrt{k})$对求解Minimax问题的修正方法的收敛速度.
2021-12-31 math.OC
An online adaptive finite-element method for nonsmooth PDE-constrained optimization
George Mason University(乔治梅森大学);Sandia National Laboratories(桑迪亚国家实验室);South Asian University(南亚大学)
本文提出一种基于信任区域的自适应有限元算法,用于求解包含稀疏正则化和凸约束的非光滑偏微分方程约束优化问题,结合了非光滑问题的鲁棒性和自适应有限元的效率,通过自动细化离散化来平衡计算成本与解的精度。
2026-04-27 math.OC
Adaptive Partitioning for Chance-Constrained Problems with Finite Support
本文针对有限支撑机会约束优化问题,提出一种基于场景集划分的自适应迭代方法,通过细化与合并操作在保持缩减模型小规模的同时逐步改进最优值界,并在有限次迭代内获得原问题最优解,数值实验验证了其高效性。
2024-11-25 math.OC
An efficient adaptive accelerated inexact proximal point method for solving linearly constrained nonconvex composite problems
本文提出了一种有效的自适应二次惩罚加速不精确邻近点(QP-AIPP)的方法提出了较早的作者。QP-AIPP方法和它的变体都使用二次惩罚方法来解决线性集约束的非凸复合最优化问题,其中生成的惩罚子问题由底层AIPP方法的变体来解决。该变体,反过来,解决了一个给定的惩罚子问题,产生一系列的近端子问题,然后解决了加速复合梯度算法。AIPP和它的变体之间的主要区别是,在前者的近端子问题总是凸的,而在后者的不一定是凸的,由于事实上,他们的prox参数选择尽可能积极,以提高效率。AIPP变体产生的可能非凸邻近子问题也尝试解决了一种新的自适应加速复合梯度算法的有效性的基础上,一些关键的收敛不等式。其结果是,该变体生成一系列的近端子问题,其中的步长自适应地改变根据从调用到加速复合梯度算法的响应。最后,数值结果证明了所提出的AIPP和QP-AIPP变体的效率。
2019-12-05 math.OC
Adaptive directional decomposition methods for nonconvex constrained optimization
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
本文针对带等式和不等式约束的非凸优化问题,提出基于分解策略与自适应参数更新的一阶算法框架,并在确定性与随机情形下分别建立了达到或优于现有水平的迭代复杂度和oracle复杂度界。
2025-11-07 math.OC
Adaptive Variance-Reduced Stochastic Sequential (Quadratic Constrained) Quadratic Programming
Department of Mathematics IIT Jodhpur(印度理工学院焦特普尔分校数学系)
本文提出AVR-SS(QC)QP方法,整合多种技术实现非线性约束优化,经理论证明其收敛性,数值实验验证了该方法在稀疏主成分分析问题上的有效性。
2026-10-14 math.OC
Adaptive direct search algorithms for constrained optimization
针对无导数与黑箱优化中两类方向直接搜索方法的局限,提出基于穿孔空间接受规则的自适应直接搜索算法,兼具灵活性与理论基础,在约束和无约束场景下性能更优。
2025-07-30 math.OC
Method for Solving State-Path Constrained Optimal Control Problems Using Adaptive Radau Collocation
提出一种多区域自适应 Legendre-Gauss-Radau 配点法,通过结构检测、区域划分和引入切换时间决策变量,精确求解状态变量不等式路径约束最优控制问题,在基准与航空航天算例中均验证了其高精度。
2024-01-04 math.OC
UniXGrad: A Universal, Adaptive Algorithm with Optimal Guarantees for Constrained Optimization
EPFL(洛桑联邦理工学院);Technion(以色列理工学院);INRIA(法国国家信息与自动化研究所)
针对随机约束凸优化问题,提出了一种新的自适应加速算法.我们的方法,这是受启发的Prox-Prox方法,\emph{simultaneously}实现了最佳的速度光滑/非光滑问题的确定性/随机一阶预言。这是在没有任何关于平滑度或问题的噪声特性的先验知识的情况下完成的。据我们所知,这是第一个自适应的,统一的算法,在约束设置中实现最佳速率。我们通过大量的数值实验证明了我们的框架的实际性能。
2019-10-30 cs.LG math.OC
Adaptive model predictive control for constrained, linear time varying systems
Singidunum University(辛吉杜纳姆大学);Politecnico di Milano(米兰理工大学);University of Belgrade(贝尔格莱德大学)
本文提出了一种自适应模型预测控制方法,用于解决受约束的线性时变系统的问题,通过动态调整模型参数提高控制性能。
2017-12-20 cs.SY eess.SY math.OC
Constrained Parameter Update Law for Adaptive Control
University of Connecticut(康涅狄格大学)
本文提出了一种基于约束优化的自适应控制参数更新方法,通过仿真验证了其在保持参数约束和收敛到真实参数方面的有效性。
2026-08-31 cs.SY eess.SP eess.SY
Convergence of adaptive algorithms for weakly convex constrained optimization
EPFL(洛桑联邦理工学院)
分析了求解弱凸约束随机最优化问题的自适应一阶算法AMSGrad。我们证明了$\mathcal{\tilde O}(t^{-1/4})$的Moreau包络,这是这类问题的标准平稳性措施的梯度的范数的收敛速度。它与自适应算法在无约束光滑随机最优化的特定情况下所享有的已知速率相匹配。我们的分析与小批量大小的$1$,恒定的一阶和二阶矩参数,并可能无界的优化域。最后,我们说明了我们的结果的应用和扩展到特定的问题和算法。
2020-06-11 cs.LG math.OC stat.ML
Adaptive model predictive control with exploring property for constrained linear systems that uses basis function model parametrization
Automatic Control Laboratory, Swiss Federal Institute of Technology Zurich(苏黎世联邦理工学院自动控制实验室)
本文提出一种适用于受约束线性系统的自适应模型预测控制方法,利用基函数模型参数化,并具备探索性质。
2013-09-20 cs.SY eess.SY math.OC
Proximal Adam: Robust Adaptive Update Scheme for Constrained Optimization
我们实现了自适应步长计划的最优化方法AdaGrad和亚当在一个新的变种的近端梯度法(PGM)。我们的算法,被称为AdaProx,避免了显式计算的Lipschitz常数或额外的线搜索的需要,从而降低了每次迭代的成本。在约束矩阵分解的测试案例中,我们证明了AdaProx在保真度和性能方面优于PGM,同时仍然允许任意罚函数。这里给出的算法的python实现可以在https://github.com/pmelchior/proxmin上以开源包的形式获得。
2020-07-02 astro-ph.IM eess.IV math.OC
Constrained and Composite Optimization via Adaptive Sampling Methods
本文的动机源于希望开发一种自适应采样方法来解决约束最优化问题,其中目标函数是随机的,约束是确定的。本文提出的方法是一种近似梯度法,它也可以应用于复合最优化问题min f(x)+ h(x),其中f是随机的,h是凸的(但不一定是可微的)。自适应采样方法采用一种机制,用于逐渐提高梯度近似的质量,以保持计算成本最小。无约束优化中常用的机制在约束或复合优化设置中不再可靠,因为它基于逐点决策,无法正确预测近端梯度阶跃的质量。本文提出的方法测量一个完整步骤的结果,以确定梯度近似是否足够准确;否则生成更准确的梯度并计算新的步骤。对于强凸和一般凸f,都建立了收敛性结果。数值实验来说明该方法的实际行为。
2020-12-31 math.OC stat.ML
EOS: a Parallel, Self-Adaptive, Multi-Population Evolutionary Algorithm for Constrained Global Optimization
本文介绍了进化优化代码EOS的主要特点,进化优化在Sapienza,它的成功应用于具有挑战性的,现实世界的空间轨迹优化问题。EOS是一种全局优化算法,用于求解实值变量的约束和无约束问题。它实现了一些著名的差分进化(DE)算法的改进,即自适应的控制参数,流行病机制,聚类技术,一个$\varepsilon$约束的方法来处理非线性约束,和一个同步岛模型来处理多个种群并行。研究结果表明,与现有的单种群自适应差分进化算法相比,该算法在求解高维空间或高约束空间的轨迹优化问题时具有更高的性能.
2020-07-13 cs.DC cs.NE math.OC
A non-conforming dual approach for adaptive Trust-Region Reduced Basis approximation of PDE-constrained optimization
在这篇文章中,我们提出并严格分析了新的变种自适应置信域方法的参数最优化PDE约束和双边参数约束。该方法采用连续丰富的减少基代理模型,在外部优化循环期间构造并用作置信域方法的模型函数。每个置信域子问题采用投影BFGS方法求解。此外,我们提出了一个非协调对偶(NCD)的方法来改善最优性系统的标准RB近似。严格的改进后验误差界的推导和使用证明收敛的NCD校正的自适应置信域减少的基础算法。数值实验表明,该方法能够显著降低大规模或多规模PDE约束最优化问题的计算量。
2020-06-16 cs.NA math.NA math.OC
Adaptive machine learning based surrogate modeling to accelerate PDE-constrained optimization in enhanced oil recovery
在这方面的贡献,我们开发了一个有效的替代建模框架,基于模拟的优化提高采收率,我们特别关注聚合物驱。计算方法是基于一个自适应训练过程的神经网络,直接近似的输入输出映射的基本偏微分方程约束的最优化问题。因此,训练过程集中于仅与外部迭代优化循环的优化路径相关的准确代理模型的构造。目标函数的真实评估用于最终获得经认证的结果。通过一个异构五点基准问题的数值实验,验证了该方法的精度和效率。
2022-03-03 cs.NA math.NA math.OC
Model Reference Adaptive Control Allocation for Constrained Systems with Guaranteed Closed Loop Stability
针对具有执行器饱和的不确定过驱动系统,提出了一种自适应控制分配方法。所提出的方法不需要不确定性估计或持续激励假设。使用逐单元非对称投影算法,自适应参数被限制为满足一定的最优性条件,从而使整个闭环系统稳定。此外,提出了一种具有时变滑模面的滑模控制器,与自适应控制分配相结合,以保证外环的稳定性和参考跟踪存在控制分配误差和干扰。以研究环境中的Aerodata模型作为过驱动系统,在执行器饱和的情况下进行了仿真,验证了所提方法的有效性。
2019-09-22 cs.SY eess.SY math.OC
Adaptive Gradient Methods for Constrained Convex Optimization and Variational Inequalities
Boston University(波士顿大学);Northeastern University(东北大学);CNRS(法国国家科学研究中心);Université de Paris(巴黎大学)
我们提供了新的自适应一阶方法约束凸优化。我们的主要算法AdaACSA和AdaAGD+是加速方法,它们是通用的,因为它们对于光滑和非光滑函数都实现了接近最优的收敛速度,即使它们只能访问随机梯度。此外,它们不需要关于目标函数如何参数化的任何先验知识,因为它们自动调整其每坐标学习率。这些可以被看作是约束优化的真正加速Adagrad方法。我们用一个更简单的算法AdaGrad+来补充它们,该算法具有相同的功能,并实现了标准的非加速收敛速度。我们还提出了一组新的结果,涉及自适应方法的无约束优化和单调算子。
2021-02-15 cs.DS cs.LG math.OC
Adaptive stabilization of a leaderless bearing-constrained formation with disturbances
East Asia University of Technology(东亚理工大学);University of Southern California(南加州大学);Ghost Robotics(幽灵机器人公司);Hanoi University of Science and Technology(河内科技大学)
针对受未知上界扰动影响的无领导有向轴承约束编队,提出自适应滑模控制实现一致全局渐近镇定,并设计平滑控制律抑制抖振,保证编队有界性。
2026-11-11 cs.MA math.OC
Accelerated Nonconvex ADMM with Self-Adaptive Penalty for Rank-Constrained Model Identification
本文针对秩约束模型辨识问题,提出一种基于增广拉格朗日函数一阶分析的自适应惩罚更新策略,并结合Anderson加速方案,有效加速了非凸ADMM的收敛并降低了对惩罚参数调节的依赖。
2023-09-08 cs.SY eess.SY math.OC
Constrained Markov decision processes for response-adaptive procedures in clinical trials with binary outcomes
本研究提出用于二分类结局临床试验响应自适应程序的CMDP方法,可在约束下实现特定目标,开发了最优及近优求解方法,实验表明其在I、II类错误相关场景下性能优于现有CRDP程序。
2024-01-28 math.OC stat.ME
Where Does Warm-Up Come From? Adaptive Scheduling for Norm-Constrained Optimizers
Basic Research of Artificial Intelligence Laboratory(人工智能基础研究实验室);Federated Learning Problems Laboratory(联邦学习问题实验室);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Innopolis University(因诺普里斯大学)
本文研究了规范约束优化器的自适应学习率调度,提出了一种通用平滑性假设,证明了在优化轨迹中局部曲率随次优间隙减小,从而自然产生暖启动而非人工设定。
2026-05-16 cs.LG math.OC
Data-Driven Predictive Control with Adaptive Disturbance Attenuation for Constrained Systems
本文提出一种结合H-infinity控制与MPC的数据驱动预测控制方法,能根据系统状态和预测扰动动态调整扰动衰减性能,并在含噪数据下保证了闭环稳定性、约束满足和递归可行性。
2024-03-22 cs.SY eess.SY math.OC
Model reference adaptive control for state and input constrained linear systems
针对不确定线性系统状态与输入联合约束下现有约束条件复杂难验证的问题,结合参考修正与障碍Lyapunov方法推导自适应控制器,给出易于验证的控制与参考约束条件。
2023-08-23 cs.SY eess.SY math.OC
An adaptive projected Newton non-conforming dual approach for trust-region reduced basis approximation of PDE-constrained parameter optimization
在这方面的贡献,我们设备和分析的非协调对偶方法的置信域减少基础(TR-RB)逼近的PDE约束参数最优化,最近已在[Keil等人。偏微分方程约束优化的自适应置信域缩减基逼近的非协调对偶方法。arXiv:2006.09297,2020]。所提出的方法使用模型降阶技术的参数化偏微分方程显着减少的参数最优化的计算需求,在大规模或多尺度应用的背景下,偏微分方程的约束。自适应TR方法允许沿着优化路径相对于参数空间局部化减少,而不会在离线阶段浪费不必要的资源。改进的变体采用投影牛顿法来解决每个TR步骤内的局部最优化问题,以受益于高收敛速度。这意味着新的战略,在建设的RB空间,以及估计的近似海森。此外,我们提出了一个新的证明收敛的TR-RB方法的基础上无限维的参数,不限于特定情况下的RB近似,并提供了一个后验误差估计的最佳参数的近似。数值实验证明了所提出方法的有效性。
2020-12-21 cs.NA math.NA math.OC
Physics-Constrained Adaptive Neural Networks Enable Real-Time Semiconductor Manufacturing Optimization with Minimal Training Data
NeuroTechNet S.A.S.(NeuroTechNet公司);Quantum and Computational Chemistry Group, Universidad Nacional de Colombia(哥伦比亚国家大学量子与计算化学组)
针对半导体EUV光刻优化的计算危机,提出物理约束自适应学习框架,通过可学习参数校准电磁近似并最小化EPE,仅需极少训练数据实现亚纳米精度与实时推理,显著优于传统方法与无约束CNN基线。
2025-11-16 cs.AR cs.LG math.OC
Adaptive Sampling Trust Region Optimization for Derivative-free Stochastic Functions and Deterministic Equality Constraints
North Carolina State University(北卡罗来纳州立大学);University of Melbourne(墨尔本大学)
针对含噪声零阶目标与可求导确定性等式约束的优化问题,提出ASTRO-DF的受限变体,证明其几乎必然收敛并在等式约束随机活动网络问题中取得数值结果。
2026-08-18 cs.NA math.NA math.OC
Information-constrained optimization: can adaptive processing of gradients help?
我们重新审视一阶优化下的局部信息约束,如局部隐私,梯度量化,和计算限制访问几个坐标的梯度。在这种设置中,不允许优化算法直接访问梯度预言机的完整输出,而是仅获得关于其受限于局部信息约束的有限信息。我们研究了自适应性在处理梯度输出中的作用,以从梯度输出中获得有限的信息。当允许自适应梯度处理时,我们考虑了凸函数和强凸函数的优化,并获得了收敛速度的紧或接近紧的下界。以前的工作仅限于凸函数,只允许非自适应处理的梯度。对于这两个函数类和上述三个信息约束,我们的下界意味着梯度的自适应处理不能优于非自适应处理在大多数制度的利益。我们补充这些结果表现出一个自然的最优化问题的信息约束下,自适应处理的梯度严格优于非自适应处理。
2021-04-02 cs.DS cs.IT math.IT
A Transformation-Proximal Bundle Algorithm for Multistage Adaptive Robust Optimization and Application to Constrained Robust Optimal Control
Robert Frederick Smith School of Chemical and Biomolecular Engineering, Cornell University(康奈尔大学罗伯特·弗雷德里克·史密斯化学与生物分子工程学院)
本文提出了一种新的变换-近端束算法用于多阶段适应鲁棒优化问题,通过将补救决策分为状态和控制决策,仅对状态决策应用仿射控制策略,允许控制决策完全适应,从而将原问题转化为等价的两阶段适应鲁棒优化问题。该变换为任何两阶段ARO解决方案算法提供了通用框架,开辟了多种多阶段ARO算法的新途径。近端束方法被开发用于所得到的两阶段问题,并进行了收敛性分析。在库存控制应用中,仿射扰动反馈控制策略的平均差距为34.88%,而所提出的算法生成的平均差距仅为1.68%。
2019-12-29 cs.SY eess.SY math.OC
An adaptive interior-point method with backtracking line search for convex constrained optimization
University of Pittsburgh(匹兹堡大学)
该研究针对凸约束优化问题,开发并分析了一种应用于对数障碍函数的带线搜索的正则化牛顿法,在特定条件下,从严格可行点出发,能在$\tilde{O}(\epsilon^{-2/3})$次迭代中找到$\epsilon$-近似最优解,弥补了无自和谐假设的约束凸优化方法分析的不足。
2026-07-15 cs.NA math.NA math.OC
Safe Adaptive Learning-based Control for Constrained Linear Quadratic Regulators with Regret Guarantees
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院);SEAS Harvard University(哈佛大学工程与应用科学学院)
研究了具有二次型代价函数的未知线性系统的自适应控制问题。这个问题的挑战来自于安全、探索、性能和计算之间的紧张关系。为了解决这些挑战,我们提出了一个多项式时间的算法,保证可行性和约束满足在适当的条件下具有高概率。我们的算法是在一个单一的轨迹上实现的,不需要系统重新启动。此外,我们分析了遗憾的学习算法相比,最优安全的线性控制器与已知的模型信息。所提出的算法可以实现一个$\tilde O(T^{2/3})$遗憾,其中$T$是阶段的数量和$\tilde O(\cdot)$吸收一些对数项的$T$。
2021-10-31 cs.LG cs.SY eess.SY
The adaptive projected subgradient method constrained by families of quasi-nonexpansive mappings and its application to online learning
University of Peloponnese(伯罗奔尼撒大学);Tokyo Institute of Technology(东京工业大学)
许多在线,即,信号处理和机器学习中的时间自适应逆问题属于非负、凸和连续函数序列的渐近最小化的广泛范围。为了将先验知识纳入设计中,渐近最小化任务通常被约束在一个固定的闭凸集上,该凸集由可用的先验信息决定。为了增加对可用信息的使用的通用性,本手稿扩展了自适应投影次梯度法(APSM)通过引入一个算法方案,该方案通过一系列强吸引的拟非扩张映射在一个真正的希尔伯特空间的设计中采用了先验知识。通过这种方式,所提出的方法为在线学习任务提供的好处以两种方式展开:1)丰富的准非扩张映射类提供了大量的方法来投射先验知识,以及2)通过引入一系列这样的映射,所提出的方案能够捕获先验信息的时变性质。该算法的收敛性能进行了研究,几个特殊的情况下,具有广泛的适用性的方法显示,和所提出的计划的潜力,证明了考虑越来越重要的,现在,在线稀疏系统/信号恢复任务。
2011-08-05 cs.IT cs.LG math.IT