A Nonmonotone Matrix-Free Algorithm for Nonlinear Equality-Constrained Least-Squares Problems
最小二乘法是最优化问题中最重要的一类，在科学计算和数据拟合中有着广泛的应用。当这些公式的目的是模拟复杂的系统，优化过程中必须考虑到非线性动力学的约束条件。此外，这些系统通常包含大量的变量，这增加了问题的难度，并激发了对适合大规模实现的高效算法的需求。本文提出并分析了一种求解非线性等式约束的非线性最小二乘问题的Levenberg-Marquardt算法。我们的算法是基于线性最小二乘问题的不精确解，只需要雅可比向量积。采用复合步长法和非单调步长接受准则相结合的方法，保证了算法的整体收敛。我们说明了我们的方法在数据同化和逆问题的几个测试用例上的性能：我们的算法能够从任意起点到达解决方案的附近，并且可以优于这些问题的最自然的替代方案。
2021-05-28 cs.NA math.NA math.OC
On the acceleration of the Barzilai-Borwein method
Barzilai-Borwein（BB）梯度法是求解大规模无约束优化问题的有效方法，具有精度适中的优点，并且易于推广到求解大范围的约束最优化问题。在本文中，我们提出了一个新的步长，以加快BB方法，要求有限终止，以最小化二维强凸二次函数。结合这一新的步长，我们发展了求解一般强凸二次函数极小化问题的自适应非单调BB步长和一定单调步长的梯度法.此外，通过引入非单调线搜索和梯度投影技术，我们将这些新的梯度法推广到求解一般光滑无约束和有界约束优化问题。大量的数值实验表明，我们的策略，适当插入单调梯度步骤的非单调BB方法可以显着提高其性能，新的方法可以优于最成功的梯度下降方法在最近的文献中发展。
2020-01-08 math.OC
Nonmonotone Coderivative-Based Newton Methods for Nonsmooth Optimization with Machine Learning Applications
Wayne State University（韦恩州立大学）
针对非光滑优化中二阶信息利用困难的问题，提出基于余导数的牛顿框架，结合自适应正则化与非单调线搜索，实现全局及局部超线性收敛，并在Lasso、逻辑Lasso和SVM上验证了高效性与鲁棒性。
2026-10-08 math.OC
An Efficient Optimization Approach for a Cardinality-Constrained Index Tracking Problem
在实际的业务环境中，投资组合经理经常面临业务驱动的需求，这些需求限制了他们跟踪投资组合中的成分数量。因此，一个自然的指数跟踪模型是在对投资组合中的资产数量施加上界的同时最小化跟踪误差度量。在本文中，我们考虑这样一个基数约束的索引跟踪模型。特别是，我们提出了一种有效的非单调投影梯度（NPG）方法来解决这个问题。在每次迭代中，该方法通常解决几个投影梯度子问题。我们发现，每个子问题有一个封闭的形式的解决方案，可以计算在线性时间。在一些适当的假设下，我们建立了由NPG方法产生的序列的任何聚点是基数约束的索引跟踪问题的局部极小。我们还进行了实证测试，比较我们的方法与混合进化算法和混合半阈值算法\cite{L1/2}的指数跟踪。计算结果表明，我们的方法通常产生稀疏的投资组合，具有较小的样本外跟踪误差和样本内和样本外跟踪误差之间的一致性较高。此外，我们的方法在速度方面优于其他两种方法。
2015-06-19 math.OC
A Constrained Optimisation Framework for Parameter Identification of the SIRD Model
该研究针对SIRD模型的参数识别问题，提出约束优化框架，通过先优化后离散方法推导一阶最优性条件，结合多种数值算法进行计算研究，为疾病传播建模的参数优化及复杂仓室模型校准提供支撑。
2024-12-17 math.OC
Adaptive Step Size Strategy for Orthogonality Constrained Line Search Methods
针对一类正交约束极小化问题的线搜索法，提出了一种自适应步长策略，避免了经典的回溯过程。在适当的假设条件下，证明了采用自适应步长策略的线搜索法的收敛性，并将其应用于电子结构计算，结果表明该策略是有效的，值得推荐.
2020-02-20 math.OC
Penalty methods for a class of non-Lipschitz optimization problems
考虑一类约束最优化问题，其目标函数为非Lipschitz，凸可行集为多面体与退化椭球的交.这些问题在数据科学中有广泛的应用，其中目标用于在解中诱导稀疏性，而约束集对噪声容限进行建模，并结合其他先验信息进行数据拟合。对于这类约束最优化问题，常用的方法是罚函数法。然而，对于非凸和非Lipschitz目标函数的问题，几乎没有关于精确惩罚的理论。本文在适当的假设下，研究了局部极小、驻点和$ε$ -极小的精确罚参数的存在性。此外，我们讨论了一种罚方法，其子问题通过一个非单调的近似梯度法和一个适当的更新方案的罚参数，并证明了该算法收敛到一个KKT点的约束问题。初步的数值结果表明，罚方法的效率，寻找欠定线性系的稀疏解。
2016-04-07 math.OC stat.ML
An inexact proximal DC algorithm with sieving strategy for rank constrained least squares semidefinite programming
本文考虑了用于数据降维（DR）的有监督距离保持投影（SDPP）的最优化问题，该问题等价于秩约束最小二乘半定规划（RCLSSDP）。为了克服秩约束带来的困难，采用凸差分正则化策略，将RCLSSDP转化为一系列带DC正则化的最小二乘半定规划（DCLSSDP）.提出了一种带筛选策略的非精确邻近DC算法（s-iPDCA）求解DCLSSDP，其子问题采用加速块坐标下降法（ABCD）求解.收敛性分析表明，生成的s-iPDCA序列全局收敛于相应DC问题的平稳点.通过对COIL-20数据库的DR实验，将s-iPDCA算法与经典的邻近DC算法（PDCA）和PDCA外推算法（PDCAe）进行了比较，结果表明，s-iPDCA算法在求解效率上优于PDCA和PDCAe算法.在ORL数据库和YaleB数据库上进行的DR人脸识别实验表明，秩约束核SDPP（RCKSDPP）与核半定SDPP（KSSDPP）和核主成分分析（KPCA）的识别率相比，具有较好的识别效果。
2021-05-26 math.OC
Efficient globalization of heavy-ball type methods for unconstrained optimization based on curve searches
University of Florence（佛罗伦萨大学）
本文提出基于曲线搜索的非约束优化方法，通过曲线路径搜索实现重球算法的高效全球化，保证全局收敛性并优化非凸问题的最坏情况复杂度。
2025-05-26 math.OC
A multi-level ADMM algorithm for elliptic PDE-constrained optimization problems
本文研究了控制上带盒约束的椭圆偏微分方程约束最优化问题。为了数值求解该问题，我们应用“优化-离散-优化”策略。首先在函数空间中采用乘子的交替方向法（ADMM）算法，然后在每次迭代中采用标准的分段线性有限元方法对子问题进行离散。最后，根据子问题的结构，采用有效的数值方法求解离散子问题。受多级策略思想的启发，我们提出了逐步细化网格的策略，而不是在计算过程之前固定网格步长。此外，在每次迭代的子问题求解不精确。基于上述策略，提出了一种高效的收敛多级ADMM（mADMM）算法。对求解偏微分方程约束最优化问题，给出了算法的收敛性分析和迭代复杂度结果o（1/k）.数值结果表明了mADMM算法的高效性。
2019-08-13 math.OC
Minimum-time trajectory generation for quadrotors in constrained environments
在本文中，我们提出了一种新的策略来计算最小时间轨迹的四旋翼在约束环境中。特别是，我们认为在一个给定的飞行区域的障碍物的运动，并考虑到车辆的物理限制。而不是接近最优化问题在其标准的时间参数化制定，所提出的战略是基于一个有吸引力的重新制定。横向坐标，表示从帧路径的距离，被用来参数化的车辆位置和空间参数被用作自变量。这种重新表述使我们能够（i）获得一个固定的地平线问题，（ii）轻松地制定（相当复杂的）位置约束。通过对两种不同情况下的数值计算，证明了所提出策略的有效性。此外，在第二种情况下产生的最佳轨迹实验执行与真正的纳米四旋翼，以显示其可行性。
2017-06-21 math.OC
Parallelized POD-based Suboptimal Economic Model Predictive Control of a State-Constrained Boussinesq approximation
受节能建筑应用的启发，我们希望优化一个二次成本函数的Boussinesq近似的Navier-斯托克斯方程和双边状态和控制约束。由于这种最优解的计算在数值上是昂贵的，我们设计了一种有效的策略来计算次优（但应用上可接受的）的解决方案，大大减少了计算工作量。我们采用经济的模型预测控制（MPC）策略，以获得反馈控制。MPC子问题是基于一个线性二次最优控制问题的混合控制和状态约束和对流-扩散方程，减少适当的正交分解。为了解决每个子问题，我们应用原始-对偶有效集策略。该方法可以完全并行化，这使得解决具有真实世界参数的大型问题成为可能。
2021-01-12 math.OC
Autonomous Satellite Rendezvous and Proximity Operations with Time-Constrained Sub-Optimal Model Predictive Control
针对可控“副”航天器与不可控“主”航天器6自由度自主交会对接问题，提出了一种时间约束模型预测控制策略。由于有限的板载处理速度的计算时间限制的控制策略帐户。平移动力学模型是从Clohessy-Wiltshire方程推导出来的，角动力学模型是围绕副质心的气体射流驱动的。仿真结果表明，通过限制计算每个输入时允许的算法迭代次数，在计算时间约束下实现对接配置。具体来说，我们表明，90%以上的计算可以从模型预测控制实现中消除，而不会显着损害控制性能。
2022-11-21 math.OC
A two-phase strategy for control constrained elliptic optimal control problems
研究了具有逐点框约束的椭圆型最优控制问题。原始-对偶有效集方法是一种特殊的半光滑牛顿法，由于其局部超线性收敛的优点，常被用来求解EOCP问题。然而，在一般情况下，求解牛顿方程是昂贵的，特别是当离散化是在一个精细的水平。由于乘子交替方向法（ADMM）在求解有限维大规模凸极小化问题中的成功应用，将ADMM推广到求解EOCP问题是合理的。为了数值求解EOCP，使用有限元（FE）方法进行离散化。然后，提出了一种两阶段策略来解决离散化问题。在第一阶段，提出了一个不精确的异构ADMM（ihADMM）的目的是解决离散化的问题，以适度的精度或使用它来产生一个合理的良好的初始点，以热启动第二阶段。与经典的ADMM不同，本文的ihADMM在两个子问题中分别采用两种不同的加权内积来定义增广拉格朗日函数。受益于这种不同的加权技术，ihADMM的两个子问题可以有效地实现。此外，还给出了ihADMM算法的整体收敛和迭代复杂度的理论结果$o(1/k)$.在第二阶段，为了获得更精确的解，原始-对偶有效集（PDAS）方法被用作ihADMM的后处理器。数值结果表明，ihADMM和两阶段策略是高效的。
2016-12-18 math.OC
Distributed Constrained Online Learning
在本文中，我们考虑在网络中的代理选择行动，以满足一组随时间任意变化的约束，并尽量减少时变函数，他们只有本地的意见。行动的选择，也称为战略，是因果关系和分散的，即，确定给定代理的动作的动力系统仅取决于当前时间的约束以及它自己的动作和它的邻居的动作。为了确定这样一个战略，我们提出了一个分散的鞍点算法，并表明相应的全球配合和遗憾有界的功能的顺序$\sqrt{T}$。具体来说，我们定义的战略作为一个向量，随着时间的推移，集成的全局约束违反所看到的一个给定的节点的全局适合。拟合是与在线操作相关联的性能损失，而不是离线透视操作，离线透视操作总是可以选择一个动作，如果存在的话，它总是满足约束。如果这种拟合随时间范围呈次线性增长，则表明该策略接近可行的行动集。同样地，我们将策略的后悔定义为它的累积成本与预先知道目标函数的时间演化的最佳固定行动的累积成本之间的差。数值例子支持理论结论。
2019-03-15 math.OC
Discussion: The NoMax Strategy and Correlated Outputs
这是对论文“Modeling an Augmented Lagrangian for Improved Blackbox Constrained Optimization”（Gramacy，R.~ B、Gray，G.~一、Digabel，S.~ L.，Lee，H.~ K.~ H、Ranjan，P.，Wells，G.，Wild，S. M.，Technometrics，61，1- 38，2015）。
2015-07-29 math.OC
A non-iterative method for optimizing linear functions in convex linearly constrained spaces
本文介绍了一种解决线性最优化问题的策略。该策略是基于边界条件，每个约束产生的问题的每一个维度。线性最优化问题的解位于定义极端顶点的约束的交点处。通过确定限制目标函数值增长的约束条件，我们建立了导致优化问题解的线性方程系统，该算法最复杂的操作是对问题维数大小的矩阵求逆。因此，该算法的复杂度与经典单纯形法和最近发展的线性规划算法相当。然而，该算法提供了非迭代的优点。
2018-09-20 math.OC
Exponentially convergent distributed Nash equilibrium seeking for constrained aggregative games
研究了聚合对策的分布式纳什均衡求解问题，提出了一种连续时间算法。该算法利用投影梯度博弈动力学和分布式平均跟踪动力学设计，适用于策略集受限和通信图权重均衡的博弈。我们得到了一个指数收敛的算法的纳什均衡。数值例子说明了我们的方法的有效性。
2021-12-06 math.OC
Constrained Sampling-based Trajectory Optimization using Stochastic Approximation
提出了一种基于采样的约束问题轨迹优化方法。我们扩展了最近的随机搜索工作，以处理箱控制约束，以及离散动力系统的非线性状态约束。关于前者，我们的策略是优化截断参数化分布的控制输入。此外，我们展示了如何非光滑罚函数可以纳入我们的框架来处理状态约束。在cartpole和四轴飞行器上的仿真表明，我们的方法在解的质量和收敛速度方面优于以前的基于约束采样的优化方法。
2019-11-12 math.OC
Adaptive Model Predictive Control for A Class of Constrained Linear Systems with Parametric Uncertainties
研究了一类模型参数未知的约束线性系的自适应模型预测控制问题。这也被称为由系统辨识和调节组成的双重控制问题。首先，我们提出了一个在线的策略，同时未知参数识别和不确定性集估计的基础上递归最小二乘技术。所设计的策略提供了一个不确定参数集的压缩序列，并且在一定条件下，参数估计是收敛的。第二，通过将管MPC与建议的估计例程相结合，所开发的自适应MPC提供了一种保守性较小的解决方案来处理乘法不确定性。这是可能的，通过构建多面体管的基础上不断更新的标称系统和不确定的参数集。此外，所提出的方法进行了扩展，降低了计算复杂性牺牲一定程度的最优性。理论上证明了所设计的两种自适应MPC算法都是递归可行的，并且在标准假设下，扰动闭环系统是渐近稳定的。最后，通过数值模拟和比较，验证了该方法的有效性.
2020-11-20 math.OC
Density control of large-scale particles swarm through PDE-constrained optimization
本文描述了一种利用边界全局驱动的最优控制策略来形成大规模的粒子群。这个问题在许多群体机器人应用中成为一个关键挑战，特别是当机器人是需要外部控制场引导的被动粒子时。该系统是大规模和欠驱动，使得在微观粒子水平的控制策略不可行。我们考虑Kolmogorov向前方程与随机过程的单个粒子编码的宏观行为的粒子群。根据致动器的物理模型，控制输入形成密度动力学的速度场。我们发现最佳驱动考虑最优控制问题，其状态动力学是由一个线性抛物型对流-扩散方程的控制诱导的运输领域。从理论的角度来看，我们证明了所产生的非线性最优控制问题的解决方案的存在性。从数值的角度来看，我们采用离散伴随方法来准确地计算约化梯度，我们展示了它如何与优化，然后离散化的方法。最后，数值模拟表明，有效的控制策略，在驱动的密度足够接近目标。
2022-01-19 math.OC
Computing feasible trajectories for constrained maneuvering systems: the PVTOL example
在本文中，我们提供了一个基于最优控制的策略来探索非线性系统的可行轨迹，即找到满足动态以及逐点状态输入约束的曲线。该策略是有趣的理解系统在其操作区域的能力，并表示一个初步的工具来执行轨迹跟踪存在的约束。该策略依赖于三个主要工具：动态嵌入，约束松弛和新的优化技术，在[10，12]中引入，以找到逐点约束最优控制问题的正则化解决方案。该策略被应用到PVTOL，一个简化的模型，一个真正的飞机，捕捉几个“机动系统”的主要特点和挑战。
2011-12-05 math.DS math.OC
A robust approach to warped Gaussian process-constrained optimization
具有不确定黑箱约束的最优化问题，由变形高斯过程建模，最近被认为是在贝叶斯优化设置。这项工作引入了一类新的约束，其中相同的黑盒函数在不同的域点处多次出现并进行评估。这样的约束在应用中是重要的，例如，安全关键措施在多个时间段上被聚合。我们的方法，它使用鲁棒优化，重新制定这些不确定的约束到确定性的约束，保证满足一个指定的概率，即，对机会约束的确定性近似。该方法将鲁棒最优化方法从参数不确定性扩展到由扭曲高斯过程建模的不确定函数。我们分析了凸性条件，并提出了一个自定义的全局优化策略的非凸情况。一个来自生产计划的案例研究和一个工业相关的例子，从油井钻井表明，该方法有效地减轻了学习曲线的不确定性。对于钻井调度的例子，我们开发了一个自定义的策略，全局优化整数决策。
2020-06-15 math.OC
Comfort-constrained distributed heat pump management
本文介绍了一种针对建筑物恒温控制的电加热和冷却系统的需求响应网络控制策略的设计。该方法依赖于可编程通信恒温器的使用，其能够向系统级中央控制器提供重要的部件级状态变量。该信息可用于建立总热泵负载的功率密度分布函数。这些功能通过允许在系统级决策过程中考虑客户级约束，奠定了方法的基本基础。所提出的策略，然后在一个计算模型中实施，以模拟建筑物的分布，其中的总热泵负荷的管理，以提供所需的监管服务，成功地整合风力发电机。风力资源开发的增加将使类似主题的辅助服务处于高需求状态，传统上由可调度的能源提供，这些能源不适合伴随风力发电的频繁功率梯度。
2011-12-06 math.OC
An Asymptotically Optimal Strategy for Constrained Multi-armed Bandit Problems
Sogang University（西江大学）
对于随机多臂强盗（MAB）问题，从一个约束模型，推广经典的，我们证明了一个渐近最优性是可以实现的一个简单的策略扩展从$ε_t$ -贪婪的战略。我们提供了一个有限的时间下界的概率正确选择的最佳近可行的手臂，持有所有的时间步骤。在某些条件下，当时间$t$趋于无穷大时，该界趋近于1。还讨论了具有$(1-\frac{1}{t})^4$数量级的渐近收敛速率的$\{ε_t\}$的特定示例序列，该序列从足够大的$t$成立。
2018-05-03 cs.LG math.OC stat.ML
Hierarchical Decentralized Reference Governor using Dynamic Constraint Tightening for Constrained Cascade Systems
本文提出一种适用于约束串级系统的分级分散参考调节器。参考调速器（RG）的方法是重新制定的滚动时域策略，使一个局部滚动时域优化获得每个子系统与预先建立的预测范围。该算法不仅保证了标称的整个闭环系统没有任何约束是可恢复的，而且还满足状态和控制约束的过渡条件。此外，考虑到不可行的参考信号，任何子系统的输出局部地去最近的可行值。提出的动态约束收紧策略使用滚动时域来减少传统鲁棒RG的保守性。此外，用于计算收紧的约束和输出容许集的算法的分散实施，允许处理大规模系统。此外，提出了一组动态约束，以保持分布式最优化问题的递归可行性。算法的可行性、稳定性、收敛性和鲁棒约束满足性也得到了证明。通过模拟由三个级联夹套连续搅拌釜反应器组成的系统，验证了所提出的方法。
2020-12-18 math.OC
Distributed Constrained Optimization over Networked Systems via A Singular Perturbation Method
研究了具有无向连通通信拓扑的网络系统的约束最优化问题。在这项工作中提出的算法利用奇异扰动，动态平均共识，鞍点动力学方法来解决问题的一般类的目标函数和仿射约束在一个完全分布式的方式。结果表明，在互联网络中的代理的私人信息是保证我们提出的策略。严格的分析提供了理论保证的解决方案的最优性。我们将新提出的解决方案应用到能源网络的两个模拟演示。
2017-10-23 math.OC
A penalty-interior point method combined with MADS for equality and inequality constrained optimization
Polytechnique Montréal（蒙特利尔理工学院）；“Sapienza” University of Rome（罗马大学）；NOVA University of Lisbon（里斯本新大学）
本文提出了一种结合MADS的罚函数-内点法，用于解决具有等式和不等式约束的非光滑黑箱优化问题，通过改进的罚函数和障碍项策略提升求解效率。
2026-01-28 math.OC
An Inexact First-order Method for Constrained Nonlinear Optimization
本文的主要重点是设计一个求解约束非线性最优化问题的不精确一阶算法。通过控制子问题解的不精确性，我们可以显著减少每次迭代所需的计算量。在子问题求解过程中引入罚参数更新策略，使算法能够自动检测不可行性。证明了算法在可行和不可行情况下的整体收敛。KKT残差的复杂性分析也来自温和的假设。数值实验表明，该算法能够以较低的计算代价快速找到不精确的最优解。
2019-11-18 math.OC
Constrained consensus-based optimization
在这项工作中，我们感兴趣的是建设的数值方法高维约束非线性最优化问题的粒子为基础的无梯度技术。为此，引入了一种基于共识的优化（CBO）方法，并结合适当的惩罚技术。该方法依赖于重新制定的约束最小化问题的无约束问题的罚函数和扩展到约束设置类CBO方法。采用精确惩罚，由于最佳罚参数是未知的，提出了一种迭代策略，连续更新的参数的基础上的约束违反。使用平均场描述的许多粒子的限制所产生的CBO动力学，我们能够显示所提出的方法收敛到最低限度的一般非线性约束问题。分析了新算法的性质。几个数值例子，也在高维，说明了理论的研究结果和良好的性能，新的数值方法。
2021-11-20 math.OC
Value-at-Risk constrained portfolios in incomplete markets: a dynamic programming approach to Heston's model
本文针对随机波动率下的不完全市场，用动态规划方法求解带VaR约束的期望效用最大化投资组合问题，建立了约束与无约束问题最优解的关联，并通过数值研究验证了参数影响及20%的配置差异。
2024-07-29 math.OC q-fin.PM
Superiorization as a novel strategy for linearly constrained inverse radiotherapy treatment planning
我们应用优越化方法的调强放射治疗（IMRT）治疗计划问题。在优越化中，线性体素剂量不等式约束是基本的建模工具，其中可行性搜索投影算法将搜索可行点。该算法然后扰动梯度下降步骤，以减少一个非线性目标函数。在开源逆向计划工具包matRad中，我们使用成熟的Agmon，Motzkin和Schoenberg（AMS）可行性寻求投影算法和常见的非线性剂量优化目标函数实现了一个原型算法框架。在此基础上，我们将优化算法应用于调强放射治疗计划中，并与可行性搜索算法和非线性约束优化算法进行了比较。对于这些比较，我们使用TG 119水模体和CORT数据集的头颈部患者。裸可行性寻求与AMS证实了以前的研究，表明它可以找到的解决方案，几乎等同于所建立的分段最小二乘优化方法。优越化的原型解决了线性约束规划问题，具有类似的性能，一个通用的非线性约束优化，同时显示在约束附近和目标函数减少平滑收敛。在放射治疗逆向计划中，约束优化是一种有效的替代方法。未来的扩展与其他可行性寻求方法，例如，具有剂量体积约束和更复杂的扰动，可以释放其高性能逆向治疗计划的全部潜力。
2022-07-26 math.OC physics.med-ph
Efficient Solution Strategy for Chance-Constrained Optimal Power Flow based on FAST and Data-driven Convexification
电力系统中多负荷和可再生能源发电的不确定性增加了决策者潮流分析的复杂性。机会约束法可用于不确定性下的潮流最优化问题建模。提出了一种基于数据驱动的潮流凸化方法和快速情景算法的机会约束交流最优潮流（CCACOPF）求解方法。这种方法在计算上是有效的，主要有两个原因。首先，原来的非凸交流潮流（ACPF）的约束近似的一组学习为基础的二次凸的。第二，FAST是一种基于神经网络的高级求解方法（SSM），它不依赖于预先假设的概率分布，使用的场景比传统的SSM少得多。最后，CCACOPF转换成一个计算易处理的凸优化问题。IEEE算例的仿真结果表明：1）该方法在计算效率上优于传统的SSM方法; 2）数据驱动的凸化潮流方法能够有效地逼近原始复杂交流潮流。
2021-11-11 cs.SY eess.SY math.OC
A Globally Convergent Evolutionary Strategy for Stochastic Constrained Optimization with Applications to Reinforcement Learning
Polytechnique Montréal（蒙特利尔综合理工学院）；University of Basel（巴塞尔大学）；Johannes Kepler University Linz（林茨约翰·开普勒大学）
进化策略最近被证明可以在强化学习中实现复杂优化问题的性能竞争水平。在这样的问题中，人们经常需要优化一个受一组约束的目标函数，包括例如对策略熵的约束，或者限制代理可访问的可能的动作或状态集。然而，文献中缺乏优化随机约束问题的进化策略的收敛保证。在这项工作中，我们解决这个问题，通过设计一种新的优化算法，有足够的减少机制，确保收敛，这是只基于估计的功能。我们证明了该算法对两种类型的实验的适用性：i）最大化奖励的控制任务和ii）最大化奖励受一组不可放松的约束。
2022-02-21 cs.LG cs.NE math.OC
A Feedback Linearized Model Predictive Control Strategy for Input-Constrained Self-Driving Cars
Concordia University（康科迪亚大学）
本文针对输入受限自动驾驶汽车的轨迹跟踪控制问题，提出双模态模型预测控制方案，经Quanser Qcar实验验证，其计算成本低，跟踪性能优于两种替代控制方案。
2026-09-03 cs.SY eess.SY math.OC
Cone-Constrained Continuous-Time Markowitz Problems
马科维茨问题是在金融市场中寻找一个自我融资的交易策略，其最终财富具有最大均值和最小方差。我们在连续时间的一般半鞅模型和锥约束下研究这一点：交易策略必须在一个（可能是随机的和时间相关的）闭锥中取值。我们首先证明了凸约束解的存在性，通过证明约束终端增益空间，这是一个随机积分空间，在L^2中是封闭的。然后，我们使用随机控制方法来描述最优策略的局部结构，如下所示。将自然关联约束线性二次型最优控制问题的值过程分解为两个机会过程L^{ \pm }作为系数的和.鞅最优性原理转化为L^{ \pm }的半鞅特征的漂移条件，或者等价地转化为L^{ \pm }的倒向随机微分方程的耦合系统。我们展示了如何使用这两个优化和构建最优策略。我们的研究结果解释和概括了文献中的所有结果。此外，我们甚至在无约束的情况下得到了新的尖锐的结果。
2012-06-01 math.OC q-fin.PM
A Stochastic Gradient Method with Mesh Refinement for PDE Constrained Optimization under Uncertainty
包含不确定输入（如随机力或材料参数）的模型在偏微分方程约束优化中受到越来越多的关注。本文研究了一类带随机系数和盒约束的线性偏微分方程的凸光滑跟踪型泛函的有效数值极小化问题。我们采取的方法是基于随机逼近，而不是一个真正的梯度，随机梯度是使用一个样本从一个已知的概率分布。通过在每次迭代中执行投影来维护可行性。在应用这种方法的不确定性下的偏微分方程约束优化，新的挑战出现。我们观察到的离散化误差近似的随机梯度使用有限元。分析PDE离散和随机误差之间的相互作用，我们开发了一个网格细化策略加上减少步长。此外，我们开发了一个网格细化策略的修改后的算法，使用平均值和更大的步长。该方法的有效性证明了不同的随机场的选择数值。
2020-06-25 cs.NA math.NA math.OC
Improved penalty algorithm for Mixed Integer PDE Constrained Optimization Problems
包含偏微分方程（PDE）和整数约束的最优控制问题融合了整数规划的组合困难和离散化PDE所产生的与大规模系统相关的挑战。到目前为止，分支定界框架一直是此类问题最常见的解决策略。为了提供一种可供选择的解决方法，特别是在大规模的情况下，本文研究了惩罚技术。从一个著名的家庭现有的精确惩罚算法的启发，一个新的改进的惩罚算法，其关键成分是盆跳跃策略和内点方法，这两个都是专门为问题类。一个标准的平稳测试问题进行了彻底的数值研究。对流扩散以及非线性测试问题的扩展最终证明了该方法的多功能性。
2021-09-08 cs.NA math.NA math.OC
Performance bounds for the mean-field limit of constrained dynamics
在这项工作中，我们感兴趣的平均场制定的动力学模型下的控制行动，制定通过模型预测控制策略（MPC）与变化的地平线。在平均场极限下，从理论上研究了最优控制与MPC方法之间的关系。我们建立了一个可计算的和可证明的边界上的差异的成本功能的MPC控制和最优控制系统动力学的平均场极限。本文的结果推广了以前对常微分方程系统的研究结果。在平均场设置的数值结果。
2015-11-26 math.OC nlin.AO
Constrained monotone mean--variance investment-reinsurance under the Cramér--Lundberg model with random coefficients
本文在Cramér--Lundberg模型下研究带随机系数和凸锥约束的单调均值-方差投资-再保险问题，通过求解带跳的倒向随机微分方程得到最优策略，并证明与均值-方差准则结果一致。
2024-05-29 math.OC q-fin.MF q-fin.PM
Pseudometrically Constrained Centroidal Voronoi Tessellations: Generating uniform antipodally symmetric points on the unit sphere with a novel acceleration strategy and its applications to Diffusion and 3D radial MRI
目的：这项工作的目的是调查的假设，即均匀的采样测量，被赋予对映对称性发挥重要作用时，原始数据和图像数据通过傅立叶关系，如在q空间扩散MRI和3D径向MRI。目前，生成适用于3D径向MRI的大型均匀反足对称点集极具挑战性。提出了一种新的方法来解决这个重要的和长期存在的问题。方法：该方法是基于约束质心Voronoi镶嵌的上半球与一个新的伪度量。几何直观的方法来镶嵌上半球也提出了。结果如下：所提出的质心镶嵌的平均时间复杂度被证明是有效的迭代次数和生成器的数量的乘积的顺序。对于小样本量，所提出的方法在均匀性方面与最先进的迭代方法相当。对于大样本量，其中国家的最先进的方法是不可行的，从所提出的方法的重建图像具有较少的条纹和振铃伪影相比，常用的方法。结论：本工作解决了三维放射状磁共振成像中均匀采样点的生成问题。
2012-11-30 cs.CE cs.CG math.MG
Convergence and Semi-convergence of a class of constrained block iterative methods
本文分析了投影非定常块迭代法（P-BIM）的收敛性和半收敛性，该方法的目的是寻找大型线性方程组的约束解，这些方程组通常都是有噪声和病态的.将$k$次迭代的误差分解为噪声误差和迭代误差，并分别考虑每种误差。对迭代误差进行了处理，得到了一个更一般的算法，该算法也适用于求解希尔伯特空间中的分裂可行性问题。P-BIM的结果是一个特例。算法步骤包括投影到闭凸集上。当这些集合是多面体的，并且是有限维的，它被证明是线性收敛的算法。我们进一步推导出P-BIM的噪声误差的上界。基于这个界限，我们提出了一种新的策略来选择松弛因子，这有助于加快重建过程，提高所获得的图像的质量。松弛因子可以取决于噪声。所建议的策略的性能所示的例子从投影图像重建领域。
2022-02-10 cs.NA math.NA math.OC
Embedding Push and Pull Search in the Framework of Differential Evolution for Solving Constrained Single-objective Optimization Problems
Shantou University（汕头大学）；Michigan State University（密歇根州立大学）
提出了一种基于差分进化框架的推拉搜索方法来求解约束单目标优化问题。更具体地说，两个子群体，包括顶部和底部的子群体，相互合作，有效地搜索全局最优解。上层子种群采用拉和拉搜索（PPS）机制来处理约束，底层子种群采用可行解优越性（SF）技术来处理约束。该算法将搜索过程分为推和拉两个不同的阶段，并采用了一种自适应DE算法，该算法具有三种试验向量生成策略。在最上面的子群体中，所有三个试验向量生成策略都用于生成后代，就像在CoDE中一样。在底层子种群中，采用策略自适应的方法，通过学习上层子种群中的尝试向量生成策略的经验，周期性地对尝试向量生成策略进行自适应，以选择合适的尝试向量生成策略生成一个后代.此外，在两个子群体中采用LSHADE 44中的参数自适应策略，以针对每个试验向量生成策略生成比例因子$F$和交叉率$CR$。在CEC 2018实参数单目标优化竞赛中提供了28个具有10维，30维和50维决策变量的CSOP，并通过所提出的PPS-DE进行了优化。实验结果表明，PPS-DE与其他7种现有算法（包括AGA-PPS、LSHADE 44、LSHADE 44 +IDE、UDE、IUDE、$ε$ MAg-ES和C $^2$ oDE）相比，具有最佳的性能。
2018-12-16 cs.AI cs.NE math.OC
