Resource constrained shortest path algorithm for EDF short-term thermal production planning problem
电力网络中的机组组合问题是指在满足需求约束的前提下，企业如何选择生产计划的问题。它通常使用分解方法来解决，其中需求约束被放松，导致每个单元的一个定价子问题。在本文中，我们专注于在法国电力公司，一个主要的法国电力生产商的热单位的定价子问题。我们的目标是确定一个最佳的两天生产计划，使总成本最小化，同时尊重几个非线性操作约束。定价问题一般用动态规划来解决。然而，由于维数灾难，动态规划达到其极限时，额外的约束必须强制执行。我们将子问题建模为资源约束最短路径（RCSP）问题。利用第二作者最近介绍的RCSP算法，我们获得了数量级的速度相对于传统的RCSP算法。
2018-09-03 math.OC
A Novel Canonical Duality Theory for Solving 3-D Topology Optimization Problems
本文介绍了一种数学上正确的和计算功能强大的方法来解决三维拓扑最优化问题。该方法基于Gao在非凸力学和全局优化中发展的正则对偶理论（CDT）。结果表明，拓扑优化中的NP-困难背包问题可以通过一种典型的惩罚对偶（CPD）方法在多项式时间内确定性求解，在每个体积演化过程中获得精确的0-1全局最优解.首次揭示了CPD方法与高纯余能原理的关系。提出了一种线弹性结构三维拓扑优化的CPD算法。基准问题证明了它的新颖性。结果表明，CPD方法不需要任何人工干预，能提供可靠的最优设计，且比著名的BESO和SIMP方法更有效。此外，拓扑优化建模和流行的方法中的计算复杂性和概念/数学错误明确解决。
2018-06-21 math.OC
An augmented Lagrangian method with constraint generation for shape-constrained convex regression problems
形状约束凸回归问题是指在观测数据上拟合一个凸函数，并施加附加的约束条件，如分量单调性和一致Lipschitz连续性。本文提供了一个统一的框架计算多元形状约束凸回归函数的最小二乘估计$\mathbb{R}^d$。通过求解一个含有$(d+1)n$变量、$n(n-1)$线性不等式约束和$n$可能为非多面体不等式约束的本质约束凸二次规划问题，证明了最小二乘估计是可计算的，其中$n$是数据点的个数.为了有效地解决一般非常大规模的凸QP，我们设计了一个近似的增广拉格朗日方法（ERALM），其子问题的半光滑牛顿方法（SSN）解决。为了进一步加快计算时，$n$是巨大的，我们设计了一个实际的实施约束生成方法，使每个减少的问题是有效地解决了我们提出的MATERALM。综合的数值实验，包括在篮子期权定价和经济学中的生产函数估计，表明我们提出的ECOALM优于国家的最先进的算法，所提出的加速技术进一步缩短了计算时间由一个大的利润。
2021-11-20 math.OC
Optimality Conditions in Variational Form for Non-Linear Constrained Stochastic Control Problems
证明了一类随机微分方程约束最优控制问题的变分不等式形式的最优性条件。成本函数和不等式约束是状态变量在最终时刻的概率分布的函数。该分析以基本的方式使用可达概率分布集合的凸性属性。基于所得到的最优性条件，提出并分析了一种增广拉格朗日方法，用于迭代求解该问题。在该方法的每一次迭代中，一个标准的随机最优控制问题由动态规划求解。两个学术的例子进行了调查。
2018-02-12 math.OC
Constrained proportional integral control of dynamical distribution networks with state constraints
本文研究了动态配电网的基本模型，其中网络拓扑由一个有向图给出，存储变量对应于顶点，流量输入对应于边。我们的目标是调节系统的共识，而存储变量保持大于或等于一个给定的下界。问题的解决，通过使用分布式PI控制器结构的约束随时间变化。它示出了如何可以通过解决一个最优化问题的约束。
2014-11-12 math.OC
Approximate solution of system of equations arising in interior-point methods for bound-constrained optimization
针对界约束优化内点法的牛顿系统求解权衡问题，提出基于有效/无效约束启发式估计的部分与完全近似解，及两种含部分近似解中间步骤的类牛顿法，给出理论误差界与数值验证结果。
2020-11-15 math.OC
Security Constrained AC Transmission Network Expansion Planning
现代输电网扩展规划（TNEP）采用能够处理电压和电压稳定约束的交流网络模型。然而，这样的模型需要优化与迭代交流潮流模型，这是计算上如此苛刻，大多数研究人员忽略了至关重要的（N-1）安全约束。因此，本研究工作的目标是开发一个有效的，两阶段的优化策略来解决这个问题。在第一阶段中，解决了DC扩展规划问题，该问题提供了初始猜测以及一些非常好的算法，以减少用于AC传输和无功扩展规划的第二阶段的潮流解的数量。采用改进的人工蜂群算法（MABC）求解该最优化问题。Garver 6总线，IEEE 24总线和IEEE 118总线测试系统的静态AC TNEP结果已获得与建议和严格的方法，并在可能的情况下，与文献中报道的类似结果进行比较，以证明所提出的方法的好处。此外，多级动态AC TNEP的Garver 6总线系统的解决，以显示这种问题的方法的适用性。
2018-09-22 math.OC
Primal-dual programs for the constrained optimal impulse control: discounted model
本文针对确定性系统的约束最优脉冲控制问题，提出测度中的原始-对偶凸规划并建立对偶结果，进而给出求解最优$(J+1)$-混合策略的一般程序，并用实例验证。
2025-04-25 math.OC
Solving Stackelberg Prediction Game with Least Squares Loss via Spherically Constrained Least Squares Reformulation
Stackelberg预测博弈（SPG）是一种用来描述学习者和攻击者之间策略互动的博弈。作为一种重要的特殊情况，具有最小平方损失的SPG（SPG-LS）最近受到了广泛的研究关注。虽然最初制定为一个困难的双层最优化问题，SPG-LS承认易处理的重新制定，可以多项式全局解决的半定规划或二阶锥规划。然而，所有可用的方法都不适合处理大规模数据集，特别是那些具有大量特征的数据集。在本文中，我们探讨了另一种重新制定的SPG-LS。通过一种新的非线性变量变换，将SPG-LS问题转化为一个球约束最小二乘（SCLS）问题。从理论上讲，我们表明，$ε$的SCLS（和SPG-LS）的最优解可以实现在$\tilde{O}(N/\sqrtε)$浮点运算，其中$N$是在数据矩阵中的非零条目的数量。实际上，我们应用两个众所周知的方法来解决这个新的重新制定，即，Krylov子空间方法和黎曼置信域方法。这两种算法都是因式分解的自由，使他们适合于解决大规模的问题。在合成和真实世界数据集上的数值结果表明，配备SCLS重构的SPG-LS可以比现有技术快几个数量级。
2022-06-07 math.OC
Constrained composite optimization and augmented Lagrangian methods
我们研究有限维约束结构最优化问题，具有复合目标函数和集员约束。这个问题类提供了一种表达性强但简单的语言，为各种应用程序提供了一个建模框架。我们研究平稳性和规律性的概念，并提出了一个灵活的增广拉格朗日计划。我们提供了一个理论表征的算法及其渐近性质，推导出完全非凸问题的收敛结果。它演示了如何内部子问题可以解决现成的近端的方法，尽管有可能采用任何求解器，只要他们返回近似的固定点。最后，我们描述了我们的矩阵的实现所提出的算法和数值测试。说明性的例子显示了多功能性的约束复合程序作为建模工具，并暴露在这个庞大的问题类所产生的困难。
2023-01-30 math.OC
Regular path-constrained time-optimal control problems in three-dimensional flow fields
本文研究一类动态由一个含有三维定常流向量场的常微分方程定义的时间最优状态约束控制问题。该问题通过基于Gamkrelidze形式的最大值原理的间接方法来解决。所提出的计算方法基本上使用了一定的规律性条件施加在数据的问题。正则性的性质保证了与状态约束相关联的测度乘数的连续性，并确保了相应的数值过程的适当行为，该数值过程通常包括计算有关问题的整个极值域。几个例子的向量场被认为是说明计算方法。
2019-07-11 math.OC
Quadratic Programming Over Ellipsoids (with Applications to Constrained Linear Regression and Tensor Decomposition)
提出了一种求解椭球上二次规划问题的新算法。这是通过分裂成两个优化子问题，二次规划在一个领域和正交投影的问题。接下来，一个增广拉格朗日算法开发了这个多约束优化。利用球面上的QP可以通过解一个长期方程得到一个封闭的形式，我们得到了长期方程极小值的一个更严格的界。我们也建议从二次约束的矩阵中产生一个新的具有低条件数的PSD矩阵。这种修正方法提高了所提出的增广拉格朗日算法的收敛性。最后，给出了二次约束QP在有界线性回归和张量分解中的应用。
2017-11-13 math.OC
Convergence to Second-Order Stationarity for Constrained Non-Convex Optimization
本文研究了一类带约束的非凸优化问题的近似二阶稳定点问题。我们首先表明，与无约束优化的梯度下降法，香草投影梯度下降算法可能会收敛到一个严格的鞍点，即使只有一个单一的线性约束。然后，我们提供了一个硬度的结果表明，检查$(ε_g,ε_H)$ -二阶平稳性是NP难的，即使在存在线性约束。尽管我们的硬度结果，我们确定的问题，检查二阶平稳性可以有效地完成的实例。对于这种情况，我们提出了一个动态的二阶Frank-Wolfe算法，它收敛到（$ε_g, ε_H$）-二阶平稳点的${\mathcal{O}}(\max\{ε_g^{-2}, ε_H^{-3}\})$迭代。只要能有效地求解约束二次子问题，该算法就可用于一般的约束非凸优化。
2020-06-02 math.OC
Method for Chance Constrained Optimal Control Using Biased Kernel Density Estimators
提出了一种数值求解机会约束最优控制问题的方法。机会约束被重新表述为保留原始约束的概率属性的非线性约束。该方法将机会约束最优控制问题转化为确定性的最优控制问题，并可通过数值求解。在本文中开发的新方法近似的机会约束，使用马尔可夫链蒙特卡罗（MCMC）抽样和核密度估计，其内核有整函数，限制的指示函数。核密度估计的应用所产生的非线性约束被设计为具有不违反原始机会约束的界限的界限。该方法进行了测试，一个非平凡的机会约束修改的月球软着陆最优控制问题和结果进行了比较，使用保守的确定性制定的最优控制问题。结果表明，这种新方法有效地解决了机会约束最优控制问题。
2020-05-28 math.OC
Constrained Regularization by Denoising with Automatic Parameter Selection
本文提出去噪约束正则化（CRED）方法，将 RED 重构为约束优化问题，使正则化参数直接对应测量噪声量，并通过 ADMM 高效求解，在稳定性和鲁棒性上优于竞争方法。
2024-01-12 math.OC
On Distributionally Robust Chance Constrained Programs with Wasserstein Distance
本文研究了Wasserstein模糊集下的分布鲁棒机会约束规划（DRCCP），其中不确定性约束应满足：对于离经验分布一定Wasserstein距离内的所有不确定性参数的概率分布，其概率至少满足给定的阈值.在这项工作中，我们研究等价的重新和近似的这样的问题。首先，我们证明了DRCCP可以被重新表述为一个条件风险值约束的最优化问题，从而承认紧密的内部和外部近似。通过引入大M系数和附加二元变量，证明了有界可行域的DRCCP是混合整数可表示的。对于具有纯二元决策变量的DRCCP，通过探索其子模结构，证明了它存在一个大M自由公式，并可通过分支切割算法求解.最后，我们提出了一个数值研究来说明所提出的配方的有效性。
2020-02-14 math.OC
A numerical procedure and unified formulation for the adjoint approach in hyperbolic PDE-constrained optimal control problems
本文的目的是提供一种数值策略来处理伴随方法求解的偏微分方程约束最优化问题。通过给出约束偏微分方程和伴随模型的统一形式，完成了这一过程。该模型是一个非保守的双曲型方程组，因此提出了一个有限体积格式来求解，该格式将约束偏微分方程和伴随模型都放在一个框架中。前向和后向演化由单个参数$η$控制，并且在每次优化迭代中仅获得一次稳定的时间步长。该方法要求系统具有完整的特征结构和代价泛函的梯度。数值试验证明了本技术的适用性
2017-11-29 math.OC
A derivative-free regularization algorithm for equality constrained nonlinear least squares problems
针对目标函数和约束雅可比矩阵不可用或计算昂贵的等式约束非线性最小二乘问题，提出基于正交球面平滑近似雅可比矩阵的无导数正则化算法，证明其能以任意高概率找到近似KKT点或几乎必然收敛到约束违反平稳点。
2025-07-08 math.OC
Continuation method for PDE-constrained global optimization: Analysis and application to the shallow water equations
本文给出了一类离散非线性偏微分方程约束的非凸最优化问题如何用内点延拓法求全局最优解。求解过程依赖于一个嵌套的同伦。内部同伦通过将障碍参数驱动为零来解决障碍问题。外同伦变形的凸松弛原来的非凸问题的方式，保持清晰的分叉。全局最优性的一个要求是目标是凸的，并且搜索空间保持路径连通。作为一个案例研究，一类现实世界的最优化问题的浅水方程进行了分析。一个基准测试以及一个实际的实现表明，该方法是适合于大规模的信息物理系统的闭环非凸模型预测控制。
2020-03-12 math.OC
A multi-level ADMM algorithm for elliptic PDE-constrained optimization problems
本文研究了控制上带盒约束的椭圆偏微分方程约束最优化问题。为了数值求解该问题，我们应用“优化-离散-优化”策略。首先在函数空间中采用乘子的交替方向法（ADMM）算法，然后在每次迭代中采用标准的分段线性有限元方法对子问题进行离散。最后，根据子问题的结构，采用有效的数值方法求解离散子问题。受多级策略思想的启发，我们提出了逐步细化网格的策略，而不是在计算过程之前固定网格步长。此外，在每次迭代的子问题求解不精确。基于上述策略，提出了一种高效的收敛多级ADMM（mADMM）算法。对求解偏微分方程约束最优化问题，给出了算法的收敛性分析和迭代复杂度结果o（1/k）.数值结果表明了mADMM算法的高效性。
2019-08-13 math.OC
Constrained Policy Optimization for Stochastic Optimal Control under Nonstationary Uncertainties
Argonne National Laboratory（阿贡国家实验室）；University of Chicago（芝加哥大学）
本文提出了一种在非平稳不确定性下最优控制的约束策略优化方法，通过马尔可夫嵌入性假设将随机最优控制问题转化为扩展状态空间中的策略优化问题，并利用函数近似、确定性采样和时间截断将无限维问题近似为有限维非线性规划问题。
2022-09-26 math.OC
A novel metaheuristic method for solving constrained engineering optimization problems: Drone Squadron Optimization
几个约束优化问题已经得到充分解决，多年来由于在metabolistics领域的进步。在本文中，我们评估了一种新的自适应和自动建设性的元启发式称为无人机中队优化（DSO）在解决约束工程设计问题。本文评估DSO与死刑三个广泛测试的工程设计问题。结果表明，该方法是有竞争力的一些非常流行的元分析。
2017-08-04 cs.NE math.OC
Learning to Solve Large-Scale Security-Constrained Unit Commitment Problems
Argonne National Laboratory（阿贡国家实验室）；Georgia Institute of Technology（佐治亚理工学院）
安全约束机组组合是电力系统和电力市场中的一个基本问题。在实际设置中，SCUC通过混合线性线性规划重复求解，有时每天多次，输入数据只有微小的变化。在这项工作中，我们提出了一些机器学习（ML）技术，以有效地从以前解决的实例中提取信息，以显着提高MIP求解器的计算性能时，解决类似的情况下，在未来。基于统计数据，我们预测冗余约束的制定，良好的初始可行解和仿射子空间的最优解是可能的谎言，导致显着减少问题的大小。一组不同的现实和大规模的实例上的计算结果表明，使用所提出的技术，SCUC可以解决平均4.3倍的最优性保证，和10.2倍的速度没有最优性保证，但没有观察到的解决方案的质量降低。分布外实验提供了证据，该方法对数据集偏移具有一定的鲁棒性。
2019-12-18 cs.LG math.OC stat.ML
Conic Reformulations for Kullback-Leibler Divergence Constrained Distributionally Robust Optimization and Applications
本文提出将KL散度约束的分布鲁棒优化重构为指数锥规划，并应用于报童与设施选址问题，样本外实验表明该方法显著降低成本波动且中心趋势损失很小。
2024-11-10 math.OC
A Globally Convergent Distributed Jacobi Scheme for Block-Structured Nonconvex Constrained Optimization Problems
针对高性能并行计算的需求，设计了一种求解线性耦合块结构非凸约束最优化问题的分布式并行算法.我们的算法进行雅可比型的增广拉格朗日函数的近端更新，只需要可分块非线性规划（NLP）问题的局部解。我们提供了一个便宜的，明确可计算的李雅普诺夫函数，使我们能够建立我们的算法，其迭代复杂性，以及简单，实用和理论上的收敛规则，自动调整其参数的全局和局部次线性收敛。这与现有的算法相比，非凸约束优化的基础上的交替方向法的乘法器，依赖于至少以下之一：高斯-赛德尔或顺序更新，全局解决方案的NLP问题，不可计算的李雅普诺夫函数，手动调整参数。数值实验展示了其在大规模问题上的优势，包括在168个时间段内对9000总线AC最优潮流测试用例进行多周期优化，并使用开源Julia代码在Summit超级计算机上解决。
2021-12-16 math.OC
Simultaneous Single-Step One-Shot Optimization with Unsteady PDEs
单步一次法已被证明是非常有效的偏微分方程（PDE）的约束优化求解的迭代不动点求解器。在这种方法中，仿真和优化任务在一次迭代中同时执行。如果偏微分方程是不稳定的，找到一个适当的不动点迭代是不平凡的。在本文中，我们提供了一个框架，使单步一杆法适用于非定常偏微分方程，解决了经典的时间推进计划。将单次法应用于非定常不可压Navier-斯托克斯方程的最优控制问题，并通过工业标准模拟代码求解。将范德波尔振荡器作为一般模型问题，利用自适应时间尺度进一步改进了改进的仿真方案。最后给出了对流-扩散方程的数值结果。
2015-06-23 math.OC
Numerical Computation of the Gradient and the Action of the Hessian for Time-Dependent PDE-Constrained Optimization Problems
我们提出了一个系统的推导所需的算法计算梯度和行动的Hessian的任意失配函数的大尺度参数估计问题，涉及线性不定常偏微分方程与固定系数。这些算法是使用伴随方法的任意阶的时间步进计划，因此非常适合于分布式参数估计问题的前向解决方案需要解决的高精度。两个例子演示了如何准备特定的偏微分方程与这些算法一起使用。数值算例表明，高阶时步格式的精度顺序是由相应的伴随时步格式和失配梯度计算继承的。
2016-08-08 math.OC
A proximal DC approach for quadratic assignment problem
本文证明了二次指派问题（QAP）可以转化为等价的秩约束双非负（DNN）问题。在凸函数差分（DC）方法的框架下，提出了一种求解秩约束DNN松弛问题的半邻近DC算法（DCA），该算法的子问题可以用半邻近增广拉格朗日方法（sPALM）求解.我们证明了生成的序列收敛到相应的DC问题的一个稳定点，这是可行的秩约束DNN问题。数值实验表明，对于大多数QAP问题，该算法能够有效地找到全局最优解，而对于其他问题，该算法能够在合理的时间内找到良好的可行解.
2019-08-13 math.OC
Feasibility Evaluation of Quadratic Programs for Constrained Control
本文基于对偶原理提出一种通过求解线性规划来高效评估二次规划可行性的方法，在案例研究中验证了其计算效率优势，适用于基于优化的控制器的在线可行性评估。
2025-03-31 cs.SY eess.SY math.OC
Self-Supervised Primal-Dual Learning for Constrained Optimization
Georgia Institute of Technology（佐治亚理工学院）
本文研究如何训练机器学习模型，直接逼近约束优化问题的最优解。这是在约束条件下的经验风险最小化，这是具有挑战性的，因为训练必须平衡最优性和可行性条件。监督学习方法通常通过在大量预先解决的实例上训练模型来应对这一挑战。本文采取了不同的路线，提出了原始-对偶学习（PDL）的思想，这是一种自我监督的训练方法，不需要一组预先解决的实例或优化求解器来进行训练和推理。相反，PDL模仿增广拉格朗日方法（ALM）的轨迹，并联合训练原始和对偶神经网络。作为一种原始-对偶方法，PDL在用于训练原始网络的损失函数中使用约束项的实例特定惩罚。实验表明，在一组非线性优化基准，PDL通常表现出可忽略不计的约束违反和最优性差距，是非常接近的ALM优化。与现有方法相比，PDL在最优性差距、约束违反和训练时间方面也表现出改进或类似的性能。
2022-11-22 cs.LG math.OC
A Double-Layer Jacobi Method for PDE-Constrained Nonlinear Model Predictive Control
针对由偏微分方程（PDE）控制的系统，提出了一种非线性模型预测控制（NMPC）的实时最优化方法。通过使用有限差分法在空间和时间上离散PDE系统来制定待解决的NMPC问题。该方法被称为双层雅可比方法，它利用了空间和时间稀疏的偏微分方程约束的NMPC问题。在上层，NMPC问题通过忽略状态或协态（对应于状态方程的拉格朗日乘子）方程的时间耦合来解决，从而保持空间稀疏性。下层Jacobi方法是一种线性求解器，通过利用空间稀疏性来专用于PDE约束的NMPC问题。收敛性分析表明，该方法的收敛性与预测时域和正则化有关。对传热过程控制的数值实验结果表明，该方法比传统的结构开发牛顿法快两个数量级。
2020-04-06 cs.SY eess.SY math.OC
On a Cardinality-Constrained Transportation Problem With Market Choice
众所周知，匹配多面体与基数约束的交集是整数[8]。当需求在集合$\{1,2\}$中时，我们证明了[4]中引入的带市场选择的运输问题（TPMC）对应的多面体的类似结果.这个结果推广了关于匹配多面体的结果，也意味着一些特殊类的最小重量完美匹配问题的基数约束的一个子集的边缘可以在多项式时间内解决。
2014-12-30 cs.DS math.OC
An Inexact Proximal Path-Following Algorithm for Constrained Convex Minimization
许多科学和工程应用的特点非光滑凸极小化问题的凸集。在本文中，我们解决这个广泛的类，我们假设非光滑的目标是配备了一个听话的接近算子和凸约束集提供了一个自我和谐的障碍的一个重要实例。我们提供了一个新的联合治疗的近和自协调障碍的概念，并说明，这样的问题可以有效地解决，而不需要提升的问题的尺寸，在纪律凸优化的方法。我们提出了一个不精确的路径跟踪算法框架，并从理论上描述了该框架的最坏情况下的分析复杂性时，邻近的子问题得到不精确的解决。为了展示我们的框架的优点，我们将其实例应用于合成和现实世界的应用程序，在那里它显示出优于标准内点方法的优势。作为一个副产品，我们描述了我们的框架如何可以获得点的帕累托边界的正则化问题与自我和谐的目标在一个调整自由的方式。
2014-06-20 math.OC stat.ML
On Solving Chance-Constrained Models with Gaussian Mixture Distribution
本文提出了一种基于高斯混合分布的线性随机约束问题求解方法，通过混合二进制二次规划实现高精度近似，有效解决大规模问题并满足高概率约束条件。
2025-11-21 math.OC math.PR
Inducing Multi-Convexity in Path Constrained Trajectory Optimization for Mobile Manipulators
University of Tartu（塔尔图大学）；Tampere University（坦佩雷大学）；Johannes Kepler University（约翰内斯·开普勒大学）
本文提出了一种新的基于末端路径、碰撞避免和各种运动学约束的移动机械手轨迹优化算法。我们的主要贡献在于展示了这个高度非线性和非凸的问题可以作为一个序列的凸无约束二次规划（QP）来解决。这是通过重新制定的非线性约束所产生的机械手运动学和它的耦合与移动基地的多仿射形式。然后，我们使用交替方向乘法（ADMM）的技术制定和解决的轨迹优化问题。建议的ADMM有两个类似的非凸步骤。重要的是，可以为它们中的每一个导出凸代理。我们展示了我们的优化的大部分可以并行解决，提供了利用多核CPU/GPU的可能性。我们验证我们的轨迹优化在不同的基准示例。具体来说，我们强调它是如何解决的周期性瓶颈，并提供了一个整体的方法，可以通过权衡不同方面的机械手和移动基础运动的轨迹集。
2019-04-22 cs.RO math.OC
The ADMM-PINNs Algorithmic Framework for Nonsmooth PDE-Constrained Optimization: A Deep Learning Approach
Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；The University of Hong Kong（香港大学）；Nankai University（南开大学）
本文提出结合 ADMM 与 PINNs 的算法框架，通过解耦 PDE 约束与非光滑正则化项，将 PINNs 扩展至非光滑 PDE 约束优化问题，实现无网格高效求解。
2024-07-28 cs.LG math.OC
Cubic-Regularized Newton for Spectral Constrained Matrix Optimization and its Application to Fairness
University of Minnesota（明尼苏达大学）
利用矩阵函数将光滑谱约束矩阵最优化问题改写为对称矩阵集上的光滑无约束问题，然后用正则化牛顿法求解.证明了矩阵函数的二阶链式法则恒等式可以计算高阶导数来实现三次正则化牛顿，并对矩阵向量空间的三次正则化牛顿提供了新的收敛性分析。我们证明了我们的方法的适用性进行数值实验合成和真实的数据集。在我们的实验中，我们制定了一个新的模型来估计公平和强大的协方差阵的泰勒的M-估计（TME）模型的精神，并证明其优势。
2022-09-02 cs.LG math.OC
Solving constrained optimization problems without Lagrange multipliers
约束最优化问题存在于热力学、力学、经济学等许多科学领域，经典的求解方法是利用拉格朗日乘子和拉格朗日函数。然而，这种方法的缺点是它人为地增加了问题的维度。在这里，我们证明了问题（优化和约束函数）的雅可比行列式为零。这个额外的方程将任何等式约束的最优化问题转化为一个相同维数的求解问题。我们还引入了约束矩阵的雅可比矩阵的最大平方子矩阵的约束。约束域的边界由其行列式的零性给出。约束矩阵还允许将待优化的函数写成其任何变量的泰勒级数，其系数由偏导数的迭代过程代数地确定。
2021-01-10 cond-mat.mtrl-sci math.OC
The study of cuckoo optimization algorithm for production planning problem
约束非线性规划问题是一类困难问题，也是生产计划优化中应用最广泛、最常见的问题之一。在本研究中，生产计划的其中一个数学模型是调查和布谷鸟算法解决的问题。布谷鸟算法是求解连续非线性问题的有效方法。并分别用遗传算法和Lingo软件对上述生产计划模型进行了求解，并对求解结果进行了比较。在解的收敛性方面，布谷鸟算法是优化问题的一种较好的选择
2015-08-06 cs.NE math.OC
Optimizing Multi-Timestep Security-Constrained Optimal Power Flow for Large Power Grids
本文提出一种扩展大型电网多时间步安全约束最优潮流的新方法，通过约束松弛、线性化、序列优化和问题重构等技术处理数百万变量与非线性约束，在满足时间约束下获得高质量解，鲁棒性优于基准。
2023-11-26 cs.SY eess.SY math.OC
Exact and Heuristic Algorithms for Constrained Biclustering
Sapienza University of Rome（罗马大学）
本文提出精确和启发式算法，用于解决带必须链接和不能链接约束的双聚类问题，通过低维SDP松弛和分解方法实现高效求解。
2026-02-23 cs.LG math.OC
A Riemannian approach for PDE-constrained shape optimization over the diffeomorphism group using outer metrics
University of Strathclyde（思克莱德大学）；MODEMAT Research Center in Mathematical Modeling and Optimization（数学建模与优化研究中心）；Helmut-Schmidt-University / University of the Federal Armed Forces Hamburg（赫尔穆特·施密特大学/联邦国防军汉堡大学）
本文提出了一种基于外度量的黎曼方法，用于解决受偏微分方程约束的形状优化问题，通过分析微分同胚群的结构，结合欧拉半导数与经典形状导数的关系，优化电阻抗断层成像和二维桥梁设计。
2026-11-02 math.DG math.OC
A Julia implementation of Algorithm NCL for constrained optimization
算法NCL被设计用于一般平滑最优化问题，其中一阶和二阶导数是可用的，包括其约束在解处可能不是线性无关的问题（即，不满足LICQ）。它相当于LANCELOT增广拉格朗日方法，重新制定为一个短序列的非线性约束的子问题，可以有效地解决IPOPT和KNITRO，每个子问题的热启动。我们给出了数值结果，从朱莉娅实现算法NCL的税收政策模型，不满足LICQ，非线性最小二乘问题和一般问题的CUTEst测试集。
2021-01-06 cs.MS cs.NA math.NA
Shape-Constrained Distributional Optimization via Importance-Weighted Sample Average Approximation
针对形状约束分布优化中Choquet重构可处理性受限的问题，提出融合重要性采样与样本平均近似的有限维线性规划方法，扩展可解问题范围并证明一致性与收敛速率。
2024-06-12 math.OC stat.ME
Constrained fractional set programs and their application in local clustering and community detection
Saarland University（萨尔大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
集合函数比的（约束）最小化是聚类和社区检测中经常出现的问题。由于这些优化问题通常是NP难的，因此在实践中使用凸或谱松弛。虽然这些松弛可以全局最优地解决，但它们往往过于松散，从而导致结果远离最优。在本文中，我们表明，每一个约束的非负集函数的比例最小化问题允许一个紧松弛成一个无约束的连续优化问题。这一结果导致一个灵活的框架，解决网络分析中的约束问题。虽然不能保证所产生的非凸问题的全局最优解，但在约束局部聚类问题上，我们的表现优于宽松的凸或谱松弛。
2013-06-14 cs.LG math.OC stat.ML
Combining Safe Interval Path Planning and Constrained Path Following Control: Preliminary Results
National Research University Higher School of Economics（国家研究型高等经济大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Peoples’ Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学（RUDN大学））；Bauman Moscow State Technical University（鲍曼莫斯科国立技术大学）
本文研究了机器人在静态和动态障碍物中的导航问题，并采用分层的方法进行了求解。首先，采用能够处理任意角度平移和旋转的安全区间路径规划算法规划参考轨迹。其次，路径跟踪问题被视为有约束的控制问题，并提出了原来的基于平坦性的方法来产生控制。我们提出了一些增强的路径规划算法，旨在寻找轨迹，更有可能被机器人没有碰撞。进行的实验评估的结果表明，成功解决的导航实例的数量显着增加时，使用建议的技术。
2019-06-17 cs.RO math.OC
Optimal Safe Controller Synthesis: A Density Function Approach
本文考虑基于密度函数的最优安全控制器的综合问题。利用密度函数和值函数之间的对偶关系，提出了一种鲁棒约束最优控制综合算法。密度函数遵循刘维尔方程，是值函数的对偶，满足贝尔曼最优性原理。由于密度函数，状态分布上的约束，如安全约束，可以直接在最优控制问题中提出。然后用原始对偶法求解约束最优控制问题。将该公式推广到有外部干扰的情况，并证明了鲁棒约束最优控制可以用修正的原始对偶法求解。我们将此配方的问题，找到最佳的安全控制器，最大限度地减少累积干预。一个自适应巡航控制（ACC）的例子来证明所提出的有效性，其中我们比较的结果与传统的控制障碍函数（CBF）方法的密度函数的方法。
2019-09-27 cs.SY eess.SY math.DS
A Semi-smooth Newton Method for the Constrained Optimal Control of Continuous-Time Linear Systems
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of British Columbia（不列颠哥伦比亚大学）
本文提出一种新的间接方法，直接在连续时间函数空间中求解带约束的最优控制问题，通过将KKT条件嵌入非光滑互补函数，将其转化为Banach空间中的根寻找问题，并利用非光滑牛顿方法求解。最终通过求解修改后的微分Riccati方程，利用约束乘子重新加权成本项，实现超线性收敛。
2026-05-07 cs.SY eess.SY math.OC
Efficient algorithms for multivariate shape-constrained convex regression problems
形状约束凸回归问题是指在观测数据上拟合一个凸函数，并施加附加的约束条件，如分量单调性和一致Lipschitz连续性。本文提供了一个全面的机制来计算多元形状约束凸回归函数的最小二乘估计$\mathbb{R}^d$。通过求解一个含有$(n+1)d$变量和至少一个$n(n-1)$线性不等式约束的约束凸二次规划问题，证明了最小二乘估计是可计算的，其中$n$是数据点的个数.对于一般的超大规模凸二次规划问题，我们设计了两种有效的算法，一种是基于对称Gauss-Seidel的交替方向法（{ \tt sGS-ADMM}），另一种是近似增广拉格朗日法（{ \tt pALM}），子问题由半光滑牛顿法（{ \tt SSN}）求解.综合的数值实验，包括篮子期权定价和经济学中的生产函数估计，表明我们提出的算法优于国家的最先进的算法。{ \tt pALM}比{ \tt sGS-ADMM}更有效，但后者具有更易于实现的优点。
2020-02-26 math.OC stat.ML
A Scalable Interior-Point Gauss-Newton Method for PDE-Constrained Optimization with Bound Constraints
本文针对带边界约束的PDE约束优化问题，提出基于全空间内点高斯-牛顿法的可扩展求解框架，并设计两种谱相关预条件子，使线性求解迭代次数与离散化和内点病态性无关，实现并行可扩展求解。
2024-10-19 cs.NA math.NA math.OC
Global Optimization for Cardinality-constrained Minimum Sum-of-Squares Clustering via Semidefinite Programming
Sapienza University of Rome（罗马第一大学）
针对基数约束的最小平方和聚类，提出基于分支切割和新型半定规划松弛的全局优化方法，并辅以局部搜索，首次求解比现有精确方法大10倍的现实实例。
2023-09-07 cs.LG math.OC stat.ML
Constrained Reinforcement Learning Has Zero Duality Gap
University of Pennsylvania（宾夕法尼亚大学）
自主智能体必须经常处理相互冲突的要求，例如使用最少的时间/能量完成任务，学习多个任务，或处理多个对手。在强化学习~（RL）的上下文中，这些问题通过（i）~设计同时描述所有需求的奖励函数或（ii）~组合单独编码它们的模块化价值函数来解决。虽然有效，但这些方法有严重的缺点。设计平衡不同目标的良好奖励函数是具有挑战性的，特别是随着目标数量的增加。此外，目标之间的隐性干扰可能会导致绩效平台，因为它们争夺资源，特别是在政策培训时。类似地，选择组合价值函数的参数至少和设计一个包罗万象的奖励一样困难，因为它们的值对整体策略的影响并不直接。后者通常通过将冲突的需求制定为约束RL问题并使用原始-对偶方法来解决。这些算法通常不能保证收敛到最优解，因为问题不是凸的。这项工作为这些方法提供了理论支持，建立了尽管它的非凸性，这个问题有零对偶间隙，即，它可以在对偶域中精确求解，在对偶域中它变成凸的。最后，我们证明了这个结果基本上成立，如果该政策是由一个良好的参数化描述~（例如，神经网络），我们连接这个结果与原始对偶算法在文献中，我们建立的收敛到最优解。
2019-10-29 cs.LG math.OC stat.ML
A compact reformulation of the two-stage robust resource-constrained project scheduling problem
研究了资源受限且工期不确定的项目调度问题。我们假设活动持续时间位于预算的不确定性集，并遵循一个强大的两阶段的方法，决策者必须解决资源冲突的问题的不确定性，但可以确定活动开始时间后，不确定的活动持续时间变得已知。我们引入了一个新的第二阶段的问题，这使我们能够得到一个紧凑的强大的对应完整的两阶段可调的鲁棒优化问题的重新制定。计算实验表明，这个紧凑的强大的对应可以解决使用标准的优化软件显着快于目前最先进的算法来解决这个问题，达到最优的几乎50%以上的情况下，在同一个基准集。
2020-04-14 cs.SY eess.SY math.OC
On Riemannian Approach for Constrained Optimization Model in Extreme Classification Problems
Internation Institute of Information Technology, Hyderabad（海得拉巴国际信息技术研究所）
我们提出了一种新的黎曼方法来解决极端多标签分类问题，利用稀疏低维局部嵌入模型的几何结构。将约束最优化问题表示为矩阵流形上的最优化问题，并采用黎曼最优化方法求解。该方法在几个真实世界的大规模多标签数据集上进行了测试，并通过数值实验证明了其有效性。数值实验表明，该方法是最快的训练和最小的嵌入式方法中的模型大小。本文还简要介绍了所提出的黎曼最优化方法的收敛性证明。
2021-09-30 cs.LG cs.NA math.NA
