A Unifying Theory of Exactness of Linear Penalty Functions
在这篇文章中，我们发展了一个精确线性罚函数理论，它推广和统一了文献中关于精确罚函数的大多数结果。讨论了局部和全局精确线性罚函数的几种研究方法，得到了线性罚函数精确的各种充要条件.我们比平时更关注必要条件，使我们能够更深入地了解确切的惩罚技术。
2018-07-13 math.OC
Smooth Exact Penalty Functions: A General Approach
在这篇文章中，我们提出了一个新的视角光滑精确罚函数提出的Huyer和Neumaier，是越来越流行的工具，解决约束最优化问题。我们的方法Huyer和Neumaier的精确罚函数允许一个应用以前未使用的工具（即，参数优化）的精确性，这个功能的研究。我们给出了Huyer和Neumair的罚函数的局部精确性的一个新的简单证明，它显著地推广了文献中存在的所有类似结果。我们还得到了该罚函数全局精确的新的充要条件。
2018-01-29 math.OC
On an Exact Penalty Result and New Constraint Qualifications for Mathematical Programs with Vanishing Constraints
本文研究了约束为零的数学规划问题。我们证明了在[5]中引入的MPVC剪裁罚函数在一个非常弱的和新的约束规格下仍然是精确的。最重要的是，该约束规格严格强于MPVC-Abadie约束规格。
2018-06-08 math.OC
A Unified Approach to the Global Exactness of Penalty and Augmented Lagrangian Functions I: Parametric Exactness
在这两个部分的研究中，我们开发了一个统一的方法来分析各种惩罚和增广拉格朗日函数的有限维约束最优化问题的全局精确性。这种方法允许以简单和直接的方式验证给定的惩罚/增广拉格朗日函数是否是精确的，即，如果罚参数足够大，则该函数的无约束极小化问题是否等价于（在某种意义上）原始约束问题。我们的方法是基于所谓的本地化原则，减少了全球精确性的研究，本地分析所选择的价值函数附近的全球最优解。反过来，这种局部分析通常可以使用充分的最优性条件和约束规格来执行。在第一篇文章中，我们引入了全局参数精确性的概念，并导出了参数形式的局部化原理。利用这个版本的局部化原理，我们恢复现有的简单的充要条件的整体精确的线性罚函数，并为存在的增广拉格朗日乘子的Rockafellar-Wets的增广拉格朗日。另外，我们还得到了一般非线性罚函数的全局精确性和非线性二阶锥规划连续可微罚函数的全局精确性的全新的充要条件.我们简要讨论了如何构造一个连续可微的精确罚函数的非线性半定规划问题，以及。
2018-11-15 math.OC
Sequential Linear Integer Programming for Integer Optimal Control with Total Variation Regularization
我们提出了一个信赖域方法，解决了一系列的线性整数规划，以解决整数最优控制问题正则化的全变差罚款。全变差罚函数使我们能够证明整数最优控制问题的极小值的存在性。我们引入了一个局部最优性的概念的问题，这是从无限维的角度来看。在控制函数的一维域的情况下，我们证明了我们的算法所产生的迭代收敛到满足局部最优的一阶平稳性条件的点。我们证明了一个计算实例的理论研究结果。
2022-05-06 math.OC
Exact Penalty Functions for Optimal Control Problems I: Main Theorem and Free-Endpoint Problems
在这两部分的研究中，我们开发了一个通用的方法来设计和分析各种最优控制问题的精确罚函数，包括终端和状态约束的问题，涉及微分包含的问题，以及线性发展方程的最优控制问题。该方法允许通过使用精确罚函数去除最优控制问题的一些（或全部）约束来简化该问题，从而允许将最优控制问题简化为等价的变分问题，将用于求解例如没有状态约束的问题的数值方法应用于包括这种约束的问题，在第一部分中，我们加强了无穷维空间中最优化问题的精确罚函数的一些已有结果，并利用它们来研究自由端点最优控制问题的精确罚函数，从而将这些问题转化为等价的变分问题。我们还证明了积分泛函和Nemytskii算子的一些辅助结果，这些结果有助于验证所提出的罚函数是精确的假设。
2019-07-24 math.OC
Exact penalty functions in optimization with unbounded constraint sets
Northeast Normal University（东北师范大学）；Dalat University（大叻大学）；Hanoi Pedagogical University 2（河内师范大学第二分校）
本文针对约束集无界的优化问题，给出了罚函数精确性的充要条件，并推广了现有结果。
2026-10-15 math.OC
A Unified Approach to the Global Exactness of Penalty and Augmented Lagrangian Functions II: Extended Exactness
在第二部分中，我们引入了罚函数和增广拉格朗日函数的整体扩张正合性的概念，并导出了扩张形式的局部化原理。扩展精确性的主要思想在于通过添加一些额外的变量来扩展原始约束最优化问题，然后构造扩展问题的惩罚/增广拉格朗日函数。这种方法允许设计扩展的惩罚/增广拉格朗日函数具有一些有用的属性（如平滑性），它们的对应物的原始问题可能不具备。利用本文提出的局部化原理，可以很容易地证明这种扩展的价值函数的全局精确性，从而将对全局精确性的研究归结为基于充分最优性条件和约束规格的价值函数的局部分析.利用局部化原理，得到了Huyer和Neumaier提出的广义罚函数的全局精确性的简单充要条件，并构造了求解非线性半定规划问题的全局精确连续可微增广Lagrange函数.
2018-11-23 math.OC
Solving Optimization Problems over the Stiefel Manifold by Smooth Exact Penalty Function
在本文中，我们提出了一种新的惩罚模型称为ExPen的Stiefel流形上的优化。与已有的正交约束罚函数不同，ExPen采用光滑罚函数，不使用目标函数的任何一阶导数。我们证明了具有足够大的罚参数的Expen的所有一阶稳定点要么是可行的，即是原始最优化问题的一阶稳定点，要么远离Stiefel流形。此外，原问题和Expen共享相同的二阶平稳点。值得注意的是，ExPen的精确梯度和Hessian很容易计算。因此，丰富的无约束优化算法资源可以直接应用于解决Expen问题。
2022-12-18 math.OC
Exact Penalty Method for Variationally Coherent Stochastic Programming Problems
Warsaw University of Technology（华沙理工大学）
针对含一般等式/不等式约束和凸集约束的优化问题，提出一种结合精确罚函数和镜像下降法的随机算法，并证明在变分相干条件下算法的全局收敛性。
2026-07-01 math.OC
Exact-Penalty Prox-Linear Methods for Bilevel Optimization with $\ell_1$ Lower-Level Gradient Penalty
School of Mathematics and Statistics, Beijing Institute of Technology（北京理工大学数学与统计学院）；Beijing Key Laboratory on MCAACI/Key Laboratory of Mathematical Theory and Computation in Information Security, Beijing Institute of Technology（北京理工大学计算机辅助设计与图形学北京市重点实验室/信息安全数学理论计算北京市重点实验室）
本文通过基于下层梯度 $\ell_1$ 范数的精确惩罚重构，提出精确惩罚近线性方法求解双层优化问题，并证明其收敛性，数值实验表明能高效降低上下层间隙。
2026-05-31 math.OC
A Simple Convergence Time Analysis of Drift-Plus-Penalty for Stochastic Optimization and Convex Programs
本文考虑了在其它过程的时间平均约束下，使一个随机过程的时间平均最小化的问题。一个典型的例子是在多用户吞吐量约束下最小化数据网络中的平均功率。另一个例子是（静态）凸规划。在Slater条件下，漂移加惩罚算法已知以$O(1/ε^2)$的收敛时间提供对最优性的$O(ε)$近似。本文证明了同样的结果，一个更简单的技术，并在更一般的情况下，不需要斯莱特条件。本文还强调了基本凸规划，线性规划和分布式最优化问题的应用。
2014-12-02 math.OC
EXPEDIS: An Exact Penalty Method over Discrete Sets
我们解决的问题，最小化的二次函数的线性约束超过二进制变量。本文介绍了一种称为EXPEDIS的精确解方法，它将约束问题转化为一个最大割问题，然后利用最大割问题的全部可用机制来求解转化后的问题。我们推导出的理论，以找到一个转换的精神，一个精确惩罚法，但是，我们只感兴趣的精确度的一组二进制变量。为了计算最大切割，我们使用求解器BiqMac。数值结果表明，该算法可以成功地应用于各类问题。
2021-01-03 math.OC
A strong second-order sequential optimality condition for nonlinear programming problems
针对非线性规划中约束规范不满足时现有二阶序列最优性条件仍具限制性的问题，提出无需约束规范的新强二阶序列最优性条件，并证明惩罚型与增广拉格朗日方法可生成满足该条件的点。
2025-03-03 math.OC
An adaptive exact penalty method for nonsmooth optimal control problems with nonsmooth nonconvex state and control constraints
针对具有非光滑代价泛函、非光滑（但连续）动态、非光滑状态和控制约束的最优控制问题，提出了一类精确惩罚型局部搜索法，其中罚参数和多个线搜索参数在寻优过程中自适应调整.这类方法适用于具有已知DC（Difference-of-凸函数）结构的问题，其核心是基于经典的DCA方法，结合用于更新罚参数的转向精确罚规则和自适应非单调线搜索过程。在所有辅助子问题仅近似求解（即有限精度）的假设下，我们证明了所提出的方法族的正确性，并给出了详细的收敛性分析。几个不同版本的方法的性能示出通过一个数值例子，其中的方法被施加到一个半学术最优控制问题的非光滑非凸状态约束。
2023-02-18 math.OC
Enhanced Sparsity by Non-Separable Regularization
本文提出了一种稀疏一维反褶积的凸方法，改进了L1范数正则化，标准的凸方法。为此，我们提出了一个稀疏诱导的不可分离非凸二元罚函数。它的目的是使凸制定病态线性反问题的二次数据保真度条款。新的惩罚克服了可分离正则化的局限性。我们展示了如何设置罚参数，以确保目标函数是凸的，并提供了一个明确的条件来验证预期的解决方案的最优性。我们提出了一个算法（前向后分裂的一个实例）稀疏反卷积使用新的惩罚。
2015-11-02 math.OC
Computing Binary Integer Programming via A New Exact Penalty Function
针对无约束二元整数规划，提出基于分段三次函数的精确罚函数框架，引入P-稳定点并开发APPA算法，在温和假设下有限步收敛，实验表明其优于现有求解器。
2025-10-27 math.OC
An exact penalty approach for optimization with nonnegative orthogonality constraints
非负正交约束优化在机器学习和数据科学中有着广泛的应用。它是NP难的，由于一些组合性质的约束。首先，我们提出了一个等效的优化配方与非负和多个球形约束和一个额外的单一非线性约束。各种约束规格，一阶和二阶最优性条件的等价制定进行了讨论。通过建立可行集的局部误差界，在保持非负约束和多重球面约束的条件下，设计了一类（光滑）精确罚函数模型。如果罚参数足够大而不是趋于无穷大，则罚模型是精确的。一个实用的惩罚算法与后处理，然后开发。它使用二阶方法近似求解一系列具有非负和多个球面约束的子问题。研究了罚算法的渐近收敛性，证明了任意极限点都是原问题的弱不动点，并在适当的条件下成为不动点.在投影问题、正交非负矩阵分解问题和K-指标模型上的大量数值结果表明了该方法的有效性。
2020-12-31 math.OC
Accelerated Prox-Level Methods for Unknown Piecewise-Smooth Optimization II: Function-constrained Optimization
Purdue University（普渡大学）
本文提出重启式惩罚APEX算法，用于求解未知分段光滑的凸函数约束优化问题，该算法可在无需知晓增长模或精确惩罚系数的情况下达到最优预言复杂度，还能生成界定最优性间隙与约束违反量的新可验证证书。
2026-09-04 math.OC
Steering exact penalty DCA for nonsmooth DC optimization problems with equality and inequality constraints
提出一种基于ℓ1罚函数和自适应罚参数更新策略的DCA变体，用于求解带非光滑DC等式与不等式约束的优化问题，并通过收敛性分析和两个离散最优控制算例验证其有效性。
2023-01-17 math.OC
Portfolio reshaping under 1st order stochastic dominance constraints by the exact penalty function methods
针对带约束的非线性优化难题，提出将其重构为无约束全局优化问题的方法，并以带一阶随机占优约束的投资组合优化问题为例验证了变换与重构的性能。
2023-06-09 math.OC
Exact Augmented Lagrangian Duality for Mixed Integer Quadratic Programming
混合整数二次规划（MIQP）是在有理多面体上的混合整数点上最小化凸二次函数的问题。本文主要研究MIQP的增广拉格朗日对偶（ALD）。ALD增加了通常的拉格朗日对偶的加权非线性惩罚的对偶约束。我们首先证明了ALD将达到一个零的对偶间隙渐近的重量的惩罚趋于无穷大的罚函数在一些温和的条件下。我们接下来表明，当我们使用任何范数作为罚函数时，有限的罚权重对于零间隙是足够的。最后，我们证明了一个多项式约束的重量上的惩罚项，以获得零差距。
2019-07-01 math.OC
Optimal control with time-delays via the penalty method
本文证明了一类时滞变分问题的Euler-Lagrange型最优性最优性条件，其中未知函数的时滞与其导数的时滞不同.然后，考虑一个更一般的时滞最优控制问题。主要结果给出了一个收敛定理，允许通过考虑变分法的一系列延迟问题来获得延迟最优控制问题的解。
2014-07-19 math.OC
A modified exact penalty approach for general constrained $\ell_0$-sparse optimization problems
针对带$\u2113_0$-稀疏项的一般约束优化问题，提出一种可直接处理无强制非负约束场景的改进精确罚方法，配套子问题求解技术并通过大量数值测试验证。
2025-09-03 math.OC
Global Optimality for Constrained Exploration via Penalty Regularization
Florian Wolf: , Ilyas Fatkhullin: , Niao He: 1The Computing \& Mathematical Sciences Department, California Institute of Technology, Pasadena, CA. 2Department of Computer Science, ETH Zurich, Switzerland. 3ETH AI Center, ETH Zurich, Switzerland.
本文提出Policy Gradient Penalty方法，通过二次惩罚正则化解决约束下的探索问题，实现全局收敛性和近优策略。
2026-09-30 cs.LG math.OC
The Exactness of the $\ell_1$ Penalty Function for a Class of Mathematical Programs with Generalized Complementarity Constraints
本文研究了一类具有多仿射目标函数的带广义互补约束数学规划（MPGCC），在温和条件下证明了 $\ell_1$ 罚函数的精确性，推广了现有 MPCC 的结果并适用于多块情形。
2022-06-10 math.OC
EFIX: Exact Fixed Point Methods for Distributed Optimization
我们考虑连通网络上的强凸分布式一致性优化。采用二次罚函数法推导出了该方法。更详细地说，我们使用标准的重构{将原始问题转化为高维空间中的约束问题}来定义一系列合适的二次罚量子问题，并增加罚参数。对于二次目标，相应的序列由二次罚子问题组成。对于一般的强凸情形，目标函数近似为二次模型，因此罚函数子问题的序列也是二次的。然后，通过经由不动点（R）线性求解器求解每个二次惩罚子问题来导出EFIX，例如，Jacobi过松弛法。证明了算法的精确收敛性，并在二次情形下证明了算法的最坏复杂度为O（n ^-1）。在强凸一般函数的情况下，得到了罚方法的一个标准结果。数值结果表明，该方法是非常有竞争力的国家的最先进的精确的一阶方法，需要更小的计算和通信工作量，是强大的算法参数的选择。
2020-12-10 math.OC
Error bound and exact penalty method for optimization problems with nonnegative orthogonal constraint
本文研究了带非负正交约束的优化问题，导出了局部和全局 Lipschitzian 误差界，证明了基于 $\ell_1$-范数和 Moreau 包络的全局精确惩罚性质，并提出了基于非单调线搜索近端梯度的实用惩罚算法，在解质量上优于现有方法。
2025-02-04 math.OC
A Smooth Locally Exact Penalty Method for Optimization Problems over Generalized Stiefel Manifolds
本文提出了一种适用于广义Stiefel流形的平滑局部精确惩罚方法，通过消除retractions和向量传输需求，提高了计算效率并验证了方法的有效性。
2026-02-05 math.OC
Exact penalty functions and global saddle points of augmented Lagrangians for well-posed constrained optimization problems
本文通过提出一种新的扩展适定性概念，将精确罚函数和增广拉格朗日函数全局鞍点的充分条件从有限维推广到无穷维约束优化问题，避免了文献中常用的严格且难以验证的假设。
2025-08-22 math.OC
Nonsmooth exact penalty methods for equality-constrained optimization: complexity and implementation
GERAD；Department of Mathematics and Industrial Engineering, Polytechnique Montréal（蒙特利尔高等商学院数学与工业工程系）
本文提出了一种非光滑等式约束优化的精确惩罚方法，通过近端型算法高效实现，并建立了最坏情况复杂度界。
2025-11-28 math.OC
Exact Penalty Algorithm of Strong Convertible Nonconvex Optimization
This paper defines a strong convertible nonconvex(SCN) function for solving the unconstrained optimization problems with the nonconvex or nonsmooth(nondifferentiable) function. First, many examples of SCN function are given, where the SCN functions are nonconvex or nonsmooth. Second, the operational properties of the SCN functions are proved, including addition, multiplication, compound operations and so on. Third, the SCN forms of some special functions common in machine learning and engineering applications are presented respectively where these SCN function optimization problems can be tran…
2022-05-15 math.OC
Optimality conditions, approximate stationarity, and applications -- a story beyond Lipschitzness
利用Ekeland的变分原理、模糊Fréchet次微分和规则以及关于集值映射或集的下半连续性的新概念，建立了一类具有潜在非Lipschitz目标函数的一般最优化问题的Fréchet次梯度和法向量的近似最优性条件.满足这些最优性条件的可行点称为近似平稳点。作为应用，我们导出了极值原理的一个新的一般形式。此外，我们研究了一个复合目标函数和几何约束的最优化问题的近似平稳性条件，一个资格条件，保证这样的问题的近似平稳点是M-平稳的，和一个乘数罚方法，自然计算的基本问题的近似平稳点。最后，建立了目标函数中含有非Lipschitz稀疏促进项的最优控制问题的最优性条件。
2021-10-14 math.OC
A twice continuously differentiable penalty function for nonlinear semidefinite programming problems and its application
本文针对非线性半定规划问题提出二次连续可微罚函数，解决现有罚函数与二阶平稳点方法兼容性低的问题，提出实用罚函数法验证其与AKKT、CAKKT条件的高亲和性并展示收敛性。
2025-09-24 math.OC
The Exact Projective Penalty Method for Constrained Optimization
本文提出一种精确投影罚方法，将约束优化问题等价转化为无约束或箱式约束问题，通过投影距离扩展目标函数，无需选择罚系数，并结合分支定界与局部优化求解。
2023-12-04 math.OC
Optimality-Informed Neural Networks for Solving Parametric Optimization Problems
Saarland University（萨尔兰大学）
OptINNs通过结合KKT残差损失和问题特定激活函数，提高参数优化问题的求解精度、可行性和数据效率。
2026-11-05 cs.LG math.OC
Existence of augmented Lagrange multipliers: reduction to exact penalty functions and localization principle
本文研究增广拉格朗日乘子的存在性，证明其在增长假设下等价于相关罚函数的精确性，并提出通过考察全局最优解附近局部行为来证明存在性的局部化原理。
2024-09-10 math.OC
Matrix-Free Solvers for Exact Penalty Subproblems
我们提出了两种无矩阵的方法来近似解决精确的惩罚子问题时出现的解决大规模最优化问题。第一种方法是一种新的迭代重新加权算法（IRWA），迭代最小化二次模型的松弛子问题，同时自动更新松弛向量。第二种方法是基于交替方向增广拉格朗日（ADAL）技术应用到我们的设置。每个算法的主要计算成本是凸二次函数的重复最小化，可以执行无矩阵。我们证明了这两种算法是全局收敛的宽松的假设下，每个需要最多$O(1/\varepsilon^2)$迭代达到$\varepsilon$ -最优的目标函数。数值实验表明，这两种算法的能力，有效地找到不精确的解决方案。此外，在某些情况下，IRWA比ADAL更可靠。
2014-02-09 math.OC
Second-Order Necessary Conditions, Constraint Qualifications and Exact Penalty for Mathematical Programs with Switching Constraints
本文研究了切换约束数学规划（MPSC）的二阶必要条件与精确罚函数，引入新的二阶约束规范与二阶拟正规性，推导了稳定点刻画，并在弱约束规范下建立了二阶必要条件与局部精确罚函数。
2024-07-26 math.OC
Exact penalty method for D-stationary point of nonlinear optimization
本文针对带约束违反$\ell_1$-范数度量的非线性优化问题，提出一种具有内外迭代的精确罚SQP方法，可收敛到D-稳定点并快速检测不可行性，无需将罚参数趋于零。
2023-09-25 math.OC
Levenberg-Marquardt method and partial exact penalty parameter selection in bilevel optimization
我们认为乐观的双层最优化问题，已知有广泛的应用在工程中，我们转化为一个单级最优化问题的低级别的最优值函数的重新制定。随后，基于部分冷静的概念，我们建立了一个方程组，它是由相应的部分精确惩罚参数。然后，我们设计和分析Levenberg-Marquardt方法来解决这个参数方程组。考虑到部分精确惩罚参数的选择是数值求解双层最优化问题时的一个关键问题，我们对此进行了仔细的实验研究，在Levenberg-Marquardt方法的背景下，同时使用双层优化库（BOLIB）系列测试问题。
2021-01-23 math.OC
A Unified Study of Necessary and Sufficient Optimality Conditions for Minimax and Chebyshev Problems with Cone Constraints
本文给出了锥约束下极大极小和切比雪夫优化问题的一阶和二阶最优性充分必要最优性条件的统一研究。这些问题的一阶最优性条件可以用几种不同的形式来表述：线性化问题、拉格朗日乘子（KKT点）、次微分和正规锥、非光滑罚函数、具有正干部乘子的干部以及交替形式。我们描述了所有这些形式的必要和充分的最优性条件之间的相互联系，并证明了看似不同的条件实际上是等价的。我们还演示了如何一阶最优性条件可以重新制定在一个更方便的形式，为特定类别的锥约束优化问题和扩展经典的二阶最优性条件光滑锥约束问题的情况下，极大极小和切比雪夫问题的锥约束。本文得到的最优性条件为发展求解锥约束极大极小和切比雪夫问题的新的有效的结构开发方法开辟了一条道路。
2020-07-15 math.OC
Finding global solutions of some inverse optimal control problems using penalization and semismooth Newton methods
针对一类特殊的椭圆型最优控制问题，提出了一种求解其参数辨识问题的方法。通过下层问题的最优值函数将双层问题重新表述。重新表述的问题是非凸的，违反了标准的正则性条件，如罗宾逊的CQ。通过放松约束，问题可以分解成一个家庭的凸问题，这是一个解决算法的基础。分析了算法的收敛性。结果表明，惩罚方法可以用来解决这个家庭的问题，同时保持收敛速度。对于一个例子的问题，使用的身份作为罚函数允许通过半光滑牛顿法的解决方案。数值结果。我们的方法来解决一个非凸问题的全局最优性的困难和局限性进行了讨论。
2022-03-01 math.OC
The Projected Hessian Quantification Theorem: Exact Duality For Constrained Eigenvalues
School of System Science and Statistics, Beijing Wuzi University（北京物资大学系统科学与统计学院）；LMIB of the Ministry of Education, School of Mathematical Sciences, Beihang University（北京航空航天大学数学科学学院教育部重点实验室）
本文提出投影Hessian量化定理，精确刻画约束特征值，并开发无矩阵罚-分裂-合并方法，用于高效求解约束极值特征对。
2026-09-17 math.OC
Exact Penalty Functions for Optimal Control Problems II: Exact Penalisation of Terminal and Pointwise State Constraints
我们研究的第二部分致力于分析具有终端和逐点状态约束的最优控制问题的罚函数的精确性。我们证明了使用精确罚函数方法可以减少固定端点问题的线性时变系统和线性发展方程的凸约束的控制输入完全等价的自由端点最优控制问题，如果终端状态属于相对内部的可达集。在非线性的情况下，我们证明了一个本地减少的固定端点和可变端点的问题等价的自由端点的假设下，线性化系统是完全可控的，并指出一些一般性质的非线性系统下，可以实现一个全球减少到等价的自由端点的问题。在逐点状态不等式约束的情况下，我们证明了线性时变系统和线性发展方程的凸状态约束的问题，可以减少到等价的问题，没有状态约束，提供一个使用的$L^{\infty}$惩罚项，斯莱特的条件成立，而对于非线性系统的本地减少是可能的，如果一个自然的约束条件得到满足。最后，我们表明，精确的$L^p$处罚的状态约束有限$p$是可能的凸问题，如果拉格朗日乘子对应的状态约束属于$L^{p'}$，其中$p'$是共轭指数的$p$，和一般的非线性问题，如果成本功能不依赖于控制输入明确。
2020-01-09 math.OC
A Quadratic Penalty Method for Hypergraph Matching
超图匹配是计算机视觉中的一个基本问题。从数学上讲，它最大化一个多项式目标函数，受分配约束。本文将超图匹配问题转化为一个稀疏约束张量最优化问题。基于稀疏约束优化理论，刻画了该算法的最优性条件。通过丢弃稀疏性约束，我们证明了由此产生的松弛问题可以恢复原问题的全局极小值。在解决原问题的关键步骤是确定的位置，非零项目（称为支撑集）的全球最小。受此启发，我们惩罚的等式约束，并应用二次惩罚方法来解决松弛问题。在合理的假设下，我们证明了当迭代次数足够大时，超图匹配问题的全局极小点的支撑集可以被正确地识别。采用投影梯度法作为子求解器求解二次罚函数子问题。数值结果表明，支撑集的精确恢复确实发生，所提出的算法是有效的，在精度和速度。
2017-11-13 math.OC
An Exact Penalty Approach for General $ \ell_0 $-Sparse Optimization Problems
针对含 $ \ell_0 $ 拟范数的非凸不连续稀疏优化问题，提出一类光滑非线性规划等价重构，并引入定制约束规范、最优性条件及精确罚方法，在多种应用中表现优异。
2023-12-25 math.OC
Exact augmented Lagrangian duality for mixed integer convex optimization
Indian Institute of Technology Bombay（印度理工学院孟买分校）
本文研究混合整数凸优化的精确增广 Lagrange 对偶，借助值函数给出可推广的构造性证明，将 MILP 与 MIQP 的精确惩罚结果推广到更一般情形并量化有限惩罚参数。
2024-02-07 math.OC
A penalty barrier framework for nonconvex constrained optimization
针对非凸约束优化中纯障碍方法收敛受阻的问题，提出结合精确惩罚与内点法的惩罚障碍框架，通过边缘化步骤合并两者为平滑全域函数对象，解耦子问题与显式约束以利用高效求解器，推导了非凸问题收敛结果并验证其适用性。
2025-08-18 math.OC
Convex optimization over intersection of simple sets: improved convergence rate guarantees via an exact penalty approach
本文考虑了极小化一个凸函数的问题。这是机器学习等各个领域中出现的重要问题。主要困难在于求一点在多个集合的交集中的投影。现有的方法产生一个不可行点的迭代复杂度为$O(1/\varepsilon^2)$的非光滑问题，没有保证的不可行。通过精确罚函数的形式化，我们得到了一阶算法，它不仅保证了到交点的距离很小，而且对于光滑函数，提高了$O(1/\varepsilon)$和$O(1/\sqrt{\varepsilon})$的复杂度.对于复合材料和光滑的问题，这是通过一个鞍点重新制定所需的原始对偶法的近端运营商可以计算在封闭的形式。我们说明了我们的方法的好处图转换问题和图匹配。
2017-10-17 math.OC
Codifferentials and Quasidifferentials of the Expectation of Nonsmooth Random Integrands and Two-Stage Stochastic Programming
本文研究非光滑两阶段随机规划，通过推导非光滑随机被积函数期望的余/拟微分显式公式，分析精确罚函数并给出全局精确性条件，最终以余微分形式导出最优性条件。
2024-04-21 math.OC math.PR
Exact Quadratic Penalty Function for Symplectic Eigenvalue Problem
State Key Laboratory of Scientific and Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院计算数学与科学工程计算国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）
本文提出一种迹惩罚最小化方法，将辛特征值问题转化为无约束迹惩罚函数的最小化问题，并开发了高效算法，通过梯度方法、Barzilai-Borwein步长规则和非单调线搜索技术，验证了其在计算效率和收敛速度上的优势。
2026-09-01 math.OC
New global optimality conditions for nonsmooth DC optimization problems
在这篇文章中，我们提出了一种新的方法来分析直流最优化问题。这种方法的灵感主要来自于余微分和余微分下降法，并且基于使用凸函数的所谓仿射支撑集而不是Frenchel共轭函数。利用仿射支撑集定义了DC函数的一个全局余微分映射，并得到了DC最优化问题的一个新的全局最优性条件.我们还提供了新的简单的充要条件的$\ell_1$罚函数的DC最优化问题的等式和不等式约束的全局精确性，并提出了一系列简单的例子证明了新的全局最优性条件的建设性。这些例子表明，当不满足最优性条件时，可以很容易地利用它们来找到约束和无约束问题的“全局下降”方向。作为一个有趣的理论例子，我们应用我们的方法来分析一个非光滑问题的Bolza。
2019-10-02 math.OC
A Penalty-free Infeasible Approach for a Class of Nonsmooth Optimization Problems over the Stiefel Manifold
转化为具有凸紧约束的精确罚函数模型，得到了求解正交约束最优化问题的有效的不可行方法。对于光滑和$\ell_{2,1}$ -范数正则化的情形，这些不可行方法采用了简单的无正交归一化的更新方案，并在测试实例中显示了其高效性。然而，为了避免正交归一化，同时加强最终解决方案的可行性，这些不可行的方法引入了二次惩罚项，其中不适当的罚参数可能导致数值效率低下。受光滑最优化问题的无惩罚算法的启发，提出了一类带正交约束和非光滑正则项的最优化问题的近似一阶算法.后件法称为序贯线性化邻近梯度法（SLPG），交替采用切向步长和法向步长分别提高最优性和可行性。在SLPG中，如果需要高精度的可行性，则仅在最后一步调用一次正交归一化过程，这表明SLPG中的主要迭代是无正交归一化的。此外，切向步长和法向步长均不涉及罚参数，因此SLPG是无惩罚的，避免了因罚参数选择不当而导致的无效。分析了在切向步长不精确计算的情况下SLPG的整体收敛性质。通过不精确地计算切向步长，对于光滑情形和$\ell_{2,1}$ -范数正则化情形，SLPG具有封闭形式的更新方案，这导致其切向步长的廉价。数值实验表明，与现有的一阶方法相比，SLPG具有数值优势。
2021-03-28 math.OC
