A true single-level reformulation for pessimistic bilevel optimization
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Southampton(南安普顿大学)
提出一种不依赖互补条件或最优值函数的真正单层重构(tSLR),使悲观双层优化满足经典约束规范,构建新最优性条件,实验表明其算法优于现有方法,表明该类问题可能更易求解。
2026-09-30 math.OC
Necessary Optimality Conditions for Bilevel Programming using Tangential Subdifferentials
School of Mathematics, Hunan University(湖南大学数学学院)
本文利用切向次微分推导非光滑双层规划的必要最优性条件,提出序贯增强切向 Fritz--John 条件及相应 KKT 系统,并研究切向约束规范以保证其有效性,最后应用于值函数重构。
2026-09-30 math.OC
Smoothing SQP methods for solving degenerate nonsmooth constrained optimization problems with applications to bilevel programs
我们考虑退化的非光滑和非凸最优化问题的标准约束规格,如广义Mangasarian Fromovitz约束规格(GMFCQ)可能不成立。利用具有梯度一致性的光滑函数逼近非光滑函数,在精确罚框架下提出了一种光滑序列二次规划(SQP)算法.证明了在乘子序列和精确罚参数序列有界的条件下,由光滑SQP算法生成的迭代序列的一个选定子序列的任何聚点都是Clarke平稳点.此外,我们提出了一个新的条件称为弱广义Mangasarian Fromovitz约束规格(WGMFCQ),是弱于GMFCQ。我们证明了WGMFCQ的扩展版本保证了乘子序列和精确罚参数序列的有界性,从而保证了光滑SQP算法的整体收敛。我们证明了WGMFCQ可以满足GMFCQ从来没有举行的双层计划。初步的数值实验表明,该算法对求解退化非光滑最优化问题(如简单双层规划)是有效的。
2014-06-03 math.OC
On strong second-order optimality conditions under relaxed constant rank constraint qualification
讨论了在放松的常秩约束规格下非线性规划的(一阶和二阶)最优性条件。这个条件推广了所谓的线性无关约束规格。虽然最优性条件在文献中已经很好地建立,但这里给出的证明仅仅基于著名的反函数定理。这是唯一的先决条件,从实分析用来建立两个辅助结果需要证明的最优性条件,从而使本文完全自成一体。
2022-04-26 math.OC
Optimality Conditions for Bilevel Programming Problem in Asplund Spaces
本文在Asplund空间中得到了乐观双层规划问题最优解的必要条件。通过对给定函数的可微性假设,得到了有限维空间中最优性的必要条件。
2019-01-10 math.OC
Directional necessary optimality conditions for bilevel programs
双层规划是一个最优化问题,其中约束涉及参数最优化问题的解。众所周知,值函数重构提供了一个等价的单层最优化问题,但它导致了一个非光滑最优化问题,该问题永远不满足通常的约束规格,如Mangasarian-Fromovitz约束规格(MFCQ)。在本文中,我们表明,即使是一阶充分条件的度量次正则性(这是在一般情况下弱于MFCQ)失败在每个可行点的双层计划。引入了方向镇定条件的概念,证明了在{the}方向镇定条件下,方向最优性条件成立。{虽然方向性最优性条件一般比非方向性条件更尖锐,}方向性平静条件一般比经典平静条件弱,因此更可能成立。{We进行价值函数的方向灵敏度分析,并提出方向拟正态性作为方向平静的充分条件。最后给出了一个例子,证明了二层规划的方向拟正规性条件成立。
2020-11-18 math.OC
Second-Order Optimality Conditions for Nonsmooth Constrained Optimization with Applications to Bilevel Programming
本文针对目标与约束函数均 Lipschitz 连续且二阶方向可微的非光滑优化问题,提出无凸性假设的无间隙二阶最优性条件,并应用于双层优化,在无需下层乘子唯一性条件下导出最优性条件。
2025-11-04 math.OC
Sufficient optimality conditions in bilevel programming
本文讨论了含光滑函数的乐观双层最优化问题的一阶和二阶充分最优性条件的推导。通过估计两层规划可行集的切锥,得到了一阶充分最优性条件。这是通过利用几个不同的重新制定的分层模型作为一个单级的问题。为了获得二阶充分最优性条件,我们利用了所谓的价值函数重新制定的双层最优化问题,然后解决的援助,二阶方向导数。由此产生的条件可以说在初始问题的数据在几个有趣的情况下,包括设置较低的水平是线性的或具有强稳定的解决方案。
2019-11-05 math.OC
Mangasarian-Fromovitz-type constraint qualification and optimality conditions for smooth infinite programming problems
本文针对光滑无限规划问题提出推广的Mangasarian-Fromovitz型约束规范GPMFCQ,并借助Hurwicz集或非线性Farkas-Minkowski条件证明拉格朗日乘子的存在性。
2024-12-27 math.OC
A novel approach for bilevel programs based on Wolfe duality
本文考虑了一个在实际中有许多应用的双层规划。为了开发有效的数值算法,通常需要将双层规划转化为单层最优化问题。最常用的方法是用下层规划的KKT条件代替下层规划,然后将下层规划转化为带平衡约束的数学规划(MPEC)。然而,由于MPEC在任何可行点都不满足Mangasarian-Fromovitz约束规格资格,因此成熟的非线性规划理论无法直接应用于MPEC。在本文中,我们应用Wolfe对偶表明,在非常温和的条件下,双层规划是等价于一个新的单级reformation(简称WDP)的全局和局部最优意义。我们给出了一个例子来表明,不同于MPEC的重新制定,WDP可以满足Mangasarian-Fromovitz约束规格在其可行的点。给出了WDP重构的一些性质以及WDP重构与MPEC重构之间的关系。我们进一步提出了一种求解WDP的松弛法,并研究了它的极限行为。数值实验表明,虽然直接求解WDP的效果不好,但基于WDP重构的松弛法是相当有效的。
2023-02-14 math.OC
Second-Order Karush-Kuhn-Tucker Optimality Conditions for Vector Problems with Continuously Differentiable Data and Second-Order Constraint Qualifications
在文献[I]中得到了具有连续可微数据的不等式约束问题的若干最优性最优性条件。Ginchev和V.I. Ivanov,C $\sp{1}$数据问题的二阶最优性条件,J. Math. Anal.应用程序、v. 340,2008,pp. 646 - 657]、[五. I. Ivanov,C $\sp{1}$约束优化中二阶孤立最小值的最优性条件,J. Math. Anal.应用程序、v. 356,2009,pp. 30 - 41]和[V. I. Ivanov,向量最优化中的二阶和一阶最优性条件,Internat. J.通知。技术决定。Making,2014,DOI:10.1142/S0219622014500540]。在本文中,我们继续这些调查。对标量和向量问题,得到了Karush-Kuhn-Tucker型最优性的若干必要最优性条件.提出了一种新的Zangwill型二阶约束规格。它被应用于最优性条件。
2014-08-12 math.OC
Second-order optimality conditions for bilevel programs
针对双层规划二阶最优性条件依赖难计算的下层值函数二阶方向导数的问题,提出双局部解概念,推导仅含问题定义函数二阶导数的最优性条件,并用于证明增广拉格朗日方法的Q-线性收敛性。
2023-07-21 math.OC
Optimality conditions for bilevel programs via Moreau envelope reformulation
针对下层广义凸的双层规划经典MPCC重构存在的等价性与约束规范失效问题,通过Moreau包络等价重构推导新的方向最优性条件,其非方向形式强于对应MPCC的强平稳性条件。
2024-03-11 math.OC
Locally Lipschitz vector optimization problems: second-order constraint qualifications, regularity condition and KKT necessary optimality conditions
研究了一类约束向量最优化问题,其中目标函数和积极约束函数在参考点处均为局部Lipschitz.在非光滑情形下,给出了Zangwill型、Abadie型和Mangasarian~--~Fromovitz型的二阶约束规格以及Abadie型的正则性条件.建立了这些条件之间的联系。他们被应用于开发二阶Karush-库恩-塔克必要的最优性条件的本地(弱,Geoffrion正确)有效解所考虑的问题。最后给出了实例说明所得结果。
2019-05-13 math.OC
Limiting Stationarity of Regularized Gap-Function Reformulations for Bilevel Optimization with Unbounded Multipliers
Southern University of Science and Technology(南方科技大学);National Center for Applied Mathematics Shenzhen(深圳应用数学国家研究中心)
研究双层优化正则化间隙函数重构中乘子无界问题,证明近似平稳序列聚点的C平稳性,给出反例说明标准重构可能不保证M平稳性,引入新惩罚公式并开发方法,使其聚点满足M平稳性。
2026-07-21 math.OC
A New Constraint Qualification and Sharp Optimality Conditions for Nonsmooth Mathematical Programming Problems in Terms of Quasidifferentials
本文在最小可能的假设下,利用Demyanov-Rubinov-Polyakova拟微分,分析了带有等式和不等式约束的非光滑数学规划问题的一个新的约束规格,并导出了现有的最强最优性条件.为此,我们得到了一个新的描述的凸子锥的相依锥的拟可微的等式和不等式约束的约束,使用一个新的约束规格。我们利用这些描述和约束规格来获得最强的现有的最优性条件的非光滑数学规划问题的拟微分限制性较低的假设下比以前的研究。新的约束规格和相关的最优性条件的主要特点是它们依赖于目标函数和约束的拟微分的各个元素,并且对于拟微分的选择不是不变的。为了说明理论结果,我们给出了两个简单的例子,其中的最优性条件的各种次微分(实际上,任何外连续/极限次微分)在非最优点满足,而本文得到的最优性条件在这一点不成立,即用拟微分表示的最优性条件,与用次微分表示的条件不同,检测该点的非最优性。
2020-11-17 math.OC
Combined approach with second-order optimality conditions for bilevel programming problems
本文提出了一种结合下层问题二阶最优性条件的方法来研究双层规划问题的约束规格和最优性条件。新方法的灵感来自于Ye和Zhu在2010年开发的组合方法,其中作者结合了经典的一阶和值函数方法来推导新的必要最优性条件。在我们的方法中,我们添加了一个二阶最优性条件的组合计划作为一个新的约束。我们发现,当所有已知的方法失败,添加二阶最优性条件作为约束,使相应的部分平静条件和由此产生的必要最优性条件更容易举行。并对一阶信息和二阶信息相结合的方法的优缺点进行了讨论。
2023-02-07 math.OC
Constraint Qualifications and Optimality Conditions for Nonconvex Semi-Infinite and Infinite Programs
本文研究了一类新的非线性非凸最优化问题,即定义在无限维决策变量空间上的无限规划问题,该问题包含无穷多个等式和不等式约束,且具有任意(可能不是紧的)指标集。在有限维空间的决策变量的情况下,这些问题归结为半无限规划。我们将经典的Mangasarian-Fromovitz和Farkas-Minkowski约束规格推广到这类无限和半无限规划。新的资格条件是用于有效地计算适当的正常锥的可行解,这些方案采用先进的工具,变分分析和广义微分。在进一步的发展中,我们得到了无限和半无限规划的一阶最优性必要条件最优性条件,这些条件在有限维和无限维环境下都是新的。
2011-03-22 math.OC
Optimality Conditions and Duality for Multiobjective Fractional Bilevel Optimization Problems
本文提出了一种多目标分数双层优化问题的最优性条件与对偶性研究方法,利用非光滑约束资格条件和广义凸性概念,建立了更精细的最优性条件并证明了对偶定理。
2025-11-22 math.OC
A Bilevel Approach for Parameter Learning in Inverse Problems
研究了多惩罚Tikhonov正则化中正则化参数的学习选择方法。它导致一个双层最优化问题,其中较低级别的问题是一个正则化参数中参数化的Tikhonov正则化问题。给出了双层最优化问题解的存在性条件,并通过两个实例验证了这些条件。所产生的困难可能缺乏凸性的低级别的问题进行了讨论。在合理的约束规格成立的条件下,给出了最优性条件。最后,数值实验结果用于测试所开发的理论。
2018-02-05 math.OC
Optimality Conditions for Bilevel Imaging Learning Problems with Total Variation Regularization
研究了全变差图像去噪中尺度相关的最优参数学习问题。这样的问题制定为双层优化实例与全变差去噪问题作为较低级别的约束。对于二层问题,我们能够推导出M-平稳性条件,在相应的Mordukhovich广义法锥的特征和验证合适的约束规格条件。在研究了低层解算子的Lipschitz连续性和方向可微性之后,我们还得到了B-平稳性条件。通过适当定义的线性系,给出了解映射的Bouligand次微分的一个特征。基于这一特征,我们提出了一个两阶段的非光滑信赖域算法的两层问题的数值解,并测试计算两个特定的实验设置。
2021-07-16 math.OC
Optimality Conditions and Numerical Algorithms for a Class of Minimax Bilevel Optimization Problems
Xiangtan University(湘潭大学);Beijing University of Posts and Telecommunications(北京邮电大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文研究极小极大双层优化问题的最优条件及高效一阶算法,通过KKT条件和价值函数重构下层问题,提出惩罚法框架和投影梯度多步上升下降法,实现ε-KKT解,具有O(ε^{-3} log(ε^{-1}))迭代复杂度。
2026-04-26 math.OC
Extension of the value function reformulation to multiobjective bilevel optimization
本文考虑一个具有向量值上下两层目标函数的多目标双层最优化问题。近年来,这些问题引起了人们的极大兴趣。然而,到目前为止,标量化似乎是用于处理低层问题的主要方法。在这里,我们利用边界映射的概念,扩展了最优值函数的概念,我们的参数多目标低级别的问题。在此基础上,我们建立了一个易于处理的约束规格,我们用来推导必要的最优性条件的问题。随后,我们表明,我们得到的必要最优性条件代表了一个自然扩张,从标准的乐观的双层计划与标量目标函数。
2022-01-03 math.OC
Simple Bilevel Programming and Extensions, Part-1: Theory
本文首先讨论了简单双层规划问题(SBP)及其推广的平衡约束下的简单数学规划问题(SMPEC)。在这里,我们首先定义这两个问题,并研究它们之间的相互关系。接下来,我们研究了各种类型的必要和充分的最优性条件的(SMPEC)问题,发生在各种重新制定。当下层目标为凸函数的梯度时,(SBP)问题的最优性条件是本文所得结果的特殊情况。在这里提出的各种最优性条件是序列最优性条件,它不需要任何约束规格。我们还提出了一个示意性的算法(SMPEC)的问题,其中顺序最优性条件发挥了关键作用的收敛性分析。
2019-12-13 math.OC
Gauss-Newton-type methods for bilevel optimization
本文研究了求解超定系统双层规划问题的Gauss-Newton型方法。为了进行,我们使用较低级别的价值函数重新制定的双层计划,并考虑必要的最优性条件在适当的假设。首先严格互补的上下层的可行性约束下,我们证明了收敛的高斯-牛顿型方法在计算点满足这些最优性条件下额外的易处理的资格条件。潜在的方法,以解决该方法的缺点,然后提出,导致替代品,如伪或平滑高斯-牛顿型方法的双层优化。我们的数值实验进行了124个例子,从最近发布的双层优化库(BOLIB)比较我们的方法在不同的情况下的性能,并表明这是一个易于处理的方法来解决连续变量的双层最优化问题。
2020-03-06 math.OC
Duality-based single-level reformulations of bilevel optimization problems
针对双层优化问题需转化为单级问题的需求,重新审视基于下层三种对偶(拉格朗日、沃尔夫、蒙德-韦尔)的单级重构方法,指出其全局等价性及隐变量、约束规范违反等问题,反驳相关论文断言。
2025-02-14 math.OC
Improved KKT Complexity for First-Order Bilevel Optimization under Weak Lower-Level Convexity
RIKEN(理化学研究所);University of Tokyo(东京大学)
本文针对弱下层凸性的双层优化,提出非精确变量平滑惩罚方法(IVSP),在ENNAMCQ下证明有限惩罚参数稳定及ε-KKT点的一阶复杂度为Õ(ε^{-3}),并给出可验证条件与数值验证。
2026-10-01 math.OC
A Surrogate Value Function Formulation for Bilevel Optimization
针对双层优化价值函数隐式非光滑及 KKT 表述掩盖层次依赖的问题,提出基于下层平稳条件与支配约束的替代价值函数,并设计收敛的光滑障碍增广 Lagrangian 算法。
2025-10-19 math.OC
Optimality conditions and constraint qualifications for cardinality constrained optimization problems
基数约束最优化问题(CCOP)是一个任意可行点的非零分量的最大数目有界的最优化问题。在本文中,我们认为CCOP是一个数学规划与析取子空间约束(MPDSC)。由于子空间是凸多面体集的特殊情况,因此MPDSC是具有析取约束的数学规划(MPDC)的特殊情况。利用子空间的特殊结构,我们能够得到更精确的公式切和(方向)正常的锥的析取集的子空间。然后利用MPDC的相应结果得到了一阶和二阶最优性条件最优性条件。由于子空间的特殊结构,我们能够得到一些结果MPDSC不一般的MPDC。特别是,我们表明,放松常数正线性相关性(RCPLD)是一个充分条件的度量次正则性/误差界属性的MPDSC,这是不正确的MPDC一般。最后,我们表明,在本文提出的所有约束规格,一定的精确惩罚CCOP。
2022-09-17 math.OC
Duality Approach to Bilevel Programs with a Convex Lower Level
双层规划是最优化问题,其中一些变量是最优化问题本身的解,并且它们出现在各种控制应用中,包括:车辆交通网络的控制,逆强化学习和逆优化,以及人类自动化系统的鲁棒控制。本文提出了一种基于对偶的方法来求解下层问题是凸的双层规划。我们的方法是使用部分对偶构造一个新的对偶函数,是可微的,不像拉格朗日对偶,只有方向可微。我们使用我们的对偶定义一个基于对偶的双层规划的重构,证明我们的重构与原双层规划的等价性,然后引入正则化以确保约束规格成立。我们的新的对偶和正则化的对偶为基础的重新制定这些技术成果是用来提供理论证明的算法,我们构造的解决双层规划与凸的较低的水平,我们的结论是证明我们的算法的有效性,通过解决两个实际的例子双层规划。
2017-09-25 math.OC
On the linear independence constraint qualification in disjunctive programming
具有析取约束的数学规划(简称MPDC)涵盖了非线性最优化中的几类不同的问题,包括互补约束、消失约束、基数约束和切换约束的最优化问题。在本文中,我们介绍了一个抽象的,但合理的版本突出的线性独立约束规格,适用于MPDCs。之后,我们推导出一阶和二阶最优性条件下的有效性,这种约束规格的基础上,所谓的强平稳点的MPDCs。最后,我们将我们的研究结果应用到一些流行的类的析取程序,并将所得结果与文献中的结果进行比较。特别是,新的二阶最优性条件的切换约束的数学规划的产品,我们的方法。
2019-06-28 math.OC
Generic property of the partial calmness condition for bilevel programming problems
二层规划问题的部分镇定性是保证二层规划问题的局部最优解是部分惩罚问题的局部最优解的一个重要条件,其中较低层的最优性约束被移到目标函数上,从而可以应用较弱的约束规格.本文以部分误差界条件的形式给出了保证部分镇定条件的一个充分条件。从泛点的角度分析了基于Bouligand(B-)和Fritz John(FJ)平稳条件的组合程序的部分镇定性.我们的主要结果表明,部分误差界条件的组合程序的基础上B和FJ条件是通用的一个重要的设置与经济学中的应用,因此,部分冷静的组合程序是不是一个特别严格的假设。此外,我们推导出的组合规划的最优性条件的一般情况下,没有任何额外的约束规格,并显示我们的最优性条件和一个由Jongen和Shikhman在隐式形式给出的确切等价性。我们的论点是基于Jongen,Jonker和Twilt的一般(五种类型)分类的所谓广义临界点的一维参数最优化问题和Jongen和Shikhman的一般的局部约简BLPP。
2021-11-02 math.OC
Optimality Conditions and Exact Penalty for Mathematical Programs with Switching Constraints
本文综述了带切换约束的数学规划的最优性条件和精确惩罚问题。MPSC是一类新的最优化问题,具有重要的应用。众所周知,如果MPSC被视为一个标准的非线性规划,一些通常的约束规格可能会失败,并处理这个问题,可以重新制定它作为一个数学规划与析取约束(MPDC)。在本文中,我们首先综述了最近的结果,约束规格和最优性条件的MPDC,然后将它们应用到MPSC,得到相应的约束规格和最优性条件。此外,我们提供了两种类型的充分条件的局部误差界和精确的惩罚结果MPSC。一个来自MPDC的方向拟正态性,另一个是通过使用局部分解方法获得的。
2021-03-20 math.OC
On AKKT optimality conditions for cone-constrained vector optimization problems
本文对光滑锥约束向量最优化问题引入了一种近似Karush-Kuhn-Tucker条件(AKKT)。我们表明,没有任何约束规格,AKKT条件是必要的局部弱有效解的考虑问题。对于凸问题,我们证明了AKKT条件是全局弱有效解的最优性条件。我们还介绍了一些严格的约束规格与AKKT条件。
2019-02-20 math.OC
Mathematical Programs Using Tangential Subdifferentials
该研究以切向次微分为核心工具,针对带均衡约束的非光滑数学规划提出多种约束规格与平稳性概念,厘清约束规格间的关系,结合广义凸性建立充分最优性条件并通过算例验证。
2025-09-03 math.OC
Bilevel Optimization and Variational Analysis
本章介绍了一个自包含的变分分析和广义微分的方法来推导必要的最优性问题的双层Lipschitz数据。我们主要集中在乐观的模型,虽然发达的机械也适用于悲观的版本。提出并讨论了一些尚待解决的问题。
2019-07-13 math.OC
Bilevel optimal control: existence results and stationarity conditions
众多现实应用的数学建模导致了具有两个决策者的分层最优化问题,其中至少一个决策者必须解决普通或偏微分方程的最优控制问题。这种模型被称为双层最优控制问题。在这里,我们首先回顾了一些不同的特点,两层最优控制包括重要的应用,存在性结果,解决方案,和最优性条件。之后,我们专注于一个特定的问题类中出现的参数的目标功能的最优控制问题的偏微分方程必须重建。在验证解的存在性后,利用松弛方法中的基本参数最优控制问题的最优值函数导出必要的最优性条件。
2019-06-19 math.OC
A bilevel learning approach for optimal observation placement in variational data assimilation
在本文中,我们提出了一个双层优化方法的空间和时间观测的位置变分资料同化问题。在监督学习的框架内,我们考虑了一个双层问题,其中下层任务是半线性系统初始条件的变分重构,上层问题借助于稀疏诱导函数求解最优布局。由于观测值的逐点性质,得到了具有正则Borel测度的最优性系统作为下层问题的必要最优性条件。后者被认为是对上层实例的约束,产生一个多状态系统的措施约束下的最优化问题。我们证明了拉格朗日乘子的存在性,并推导出一个必要的最优性系统的特点的最优解的双层问题。数值解也在两个层次上进行。下层问题使用标准的BFGS方法解决,而上层问题通过基于$ε$ -活动集估计的投影BFGS算法解决。最后给出了一些数值实验来说明我们的方法的主要特点。
2019-10-08 math.OC
Two-level value function approach to nonsmooth optimistic and pessimistic bilevel programs
作者在Optimization 63(2014),505-533中的论文,参见参考文献[5],是第一篇为悲观双层优化提供详细最优性条件的论文。那里的结果基于SIAM J. Optim中引入和分析的两级最优值函数的概念。22(2012),1309-1343;参见参考文献[4],关于乐观双层规划的情况。在这两篇论文的基本假设之一是,在问题中涉及的功能至少是连续可微的。许多现实世界中的应用程序的优化涉及的功能是不可微的,在某些点的域的动机,目前的主要目标是扩展的两级值函数的方法,以获得新的必要最优性条件的乐观和悲观的版本在双层规划与非光滑数据。
2017-12-05 math.OC
Unlocking Global Optimality in Bilevel Optimization: A Pilot Study
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文探讨了双层优化中获得全局最优解的挑战,提出了两个全局收敛的充分条件,并在表征学习和数据超清理场景中通过依赖算法的证明和实验验证了理论发现。
2024-12-24 cs.LG math.OC
On a Computationally Ill-Behaved Bilevel Problem with a Continuous and Nonconvex Lower Level
该研究揭示了具有连续非凸下层的双层优化问题的计算困难:即使下层约束达到任意小的ε-可行性,所得解与真实解的偏差仍可能任意大,强调求解此类问题需格外谨慎,并指出下层非线性是恶劣性态的关键原因。
2023-05-03 math.OC
Convergence, Duality and Well-Posedness in Convex Bilevel Optimization
本文针对凸双层优化问题,指出强对偶性与算法收敛的挑战,证明强对偶性等价于内外层函数值的渐近收敛,并结合Levitin-Polyak适定性给出保证收敛到最优解集的条件。
2025-09-26 math.OC
A Maximum Principle for a Time-Optimal Bilevel Sweeping Control Problem
在这篇文章中,我们研究了一个时间最优的状态约束的双层最优控制问题,其低层动态功能的扫描控制过程涉及一个{ \it截断法锥}。所谓双层,是指上层问题的优化是在下层问题的解集上进行的,这种问题的例子出现在有限空间中的结构化人群运动控制问题中。我们建立了相应的Gamkrelidze形式的最优性最优性条件。该分析依赖于较低级别的扫描控制系统的{ \it平滑近似},从而处理相对于扫描过程所固有的状态变量的Lipschitzianity的缺乏,以及通过精确的惩罚技术的双层结构的{ \it平坦化}。将Gamkrelidze形式的最优性必要条件应用于所得到的标准近似惩罚状态约束单水平问题,通过极限传递得到了本文的主要结果.
2022-01-06 math.OC
On $\ell_p$-hyperparameter Learning via Bilevel Nonsmooth Optimization
我们提出了一个双层优化策略,选择最佳的超参数值的非光滑$\ell_p$正则化$0<p\le 1$。有关的双层最优化问题有一个非光滑的,可能是非凸的,$\ell_p$正则化的问题作为较低的水平问题。尽管最近流行的非凸$\ell_p$ -正则化和有用的双层优化选择超参数,算法这样的双层问题还没有被研究,因为$\ell_p$ -正则化的困难。我们的贡献是建议的第一个算法配备了理论保证找到最佳的超参数的$\ell_p$正则化监督学习问题。具体地说,我们提出了一个光滑型算法,为上述两层最优化问题,并提供了理论上的收敛性保证。事实上,由于最优性条件是不知道这样的双层最优化问题到目前为止,新的必要的最优性条件,这是所谓的SB-KKT条件,推导和它表明,所提出的算法产生的序列实际上积累在一个点上满足SB-KKT条件下一些温和的假设。该算法是简单和可扩展的,我们的数值比较贝叶斯优化和网格搜索表明。
2021-09-20 math.OC
A New Constraint Qualification for Mixed Constrained Optimal Control
State University of Santa Cruz (UESC)(圣克鲁斯州立大学);São Paulo State University (UNESP)(圣保罗州立大学)
本文提出一种新约束条件,用于解决混合约束最优控制问题中的渐近最优性条件,证明了渐近弱极值原理在满足新约束条件时等价于经典弱极值原理,并给出了该约束条件的有效性充分条件。
2026-05-15 math.OC
Necessary optimality conditions for implicit control systems with applications to control of differential algebraic equations
本文给出了非线性非光滑隐式控制系统最优控制问题的最优性条件。隐式控制系统有着广泛的应用,包括微分代数方程(DAE)。隐式控制系统研究的挑战在于系统可能是真隐式的,即,约束映射的雅可比矩阵可以是奇异的。我们的必要最优性条件下所谓的弱基本约束规格加上平静的扰动约束映射。这种约束规格允许雅可比矩阵的奇异性,因此适用于隐式系统。将这些结果推广到半显式微分代数系统的控制中,得到了指数大于1的半显式微分代数系统控制的最优性条件。
2017-09-03 math.OC
Sequential Henig proper optimality conditions for multiobjective fractional programming problems via sequential proper subdifferential calculus
本文在没有任何约束规格的情况下,利用函数的$ε$ -次微分和次微分,给出了约束多目标分式规划问题存在Henig正常有效解的序列最优性充要条件.这是通过采用序列Henig次微分规则的总和$m \ (m\geq 2)$正常的凸向量值映射与两个凸向量值映射的组合。为了举例说明本文的主要结果,我们在Moreau-Rockafellar条件下建立了经典的最优性条件。我们的主要结果是在自反巴拿赫空间中给出的,避免了网的使用。
2023-02-20 math.OC
Asymptotic regularity for Lipschitzian nonlinear optimization problems with applications to complementarity-constrained and bilevel programming
渐近平稳性和正则性条件对于研究标准非线性和互补约束规划的数值解方法的定性性质是非常有用的。在本文中,我们首先将这些概念扩展到非光滑但Lipschitz数据函数的非线性最优化问题,以便在Clarke和Mordukhovich的次微分构造方面找到渐近平稳性和正则性的合理概念。特别是,我们比较相关的新的渐近约束规格与现有的。本文的第二部分介绍了所获得的理论的两个应用。一方面,我们指定我们的互补约束最优化问题的研究结果,并恢复最近的结果,从文献中展示的权力的方法。此外,我们暗示潜在的扩展或消失约束优化。另一方面,我们证明了有用的渐近正则性的上下文中的双层优化。更准确地说,我们证明了一个著名的平稳系统的亲和力约束的双层最优化问题在一个新的方式。之后,我们提出了一种解决这类双层最优化问题的算法,它结合了惩罚方法和DC-规划的思想。经过一个简短的收敛性分析,我们提出了一些数值实验的结果。
2021-09-01 math.OC
A New Sequential Optimality Condition of Cardinality-Constrained Optimization Problems and Application
本文考虑基数约束的最优化问题,并对最近流行的连续松弛变换提出了一个新的序列最优性条件。它比已有的结果更强,并且在没有任何附加假设的情况下仍然是基数约束问题的一阶必要条件。同时,我们提供了一个问题定制的弱约束规格,它可以保证新的序列条件是Mordukhovich型稳定点。另一方面,我们改进了增广拉格朗日算法的理论结果。在与现有结果相同的条件下,我们证明了该算法生成的迭代序列的任何可行聚点都满足新的序列最优性条件。此外,该算法可以收敛到Mordukhovich型(本质强)的稳定点,如果问题定制的约束规格得到满足。
2021-10-04 math.OC
Linearly convergent bilevel optimization with single-step inner methods
本文提出一种介于牛顿型全系统求解与隐函数处理之间的双层优化新方法,通过预处理使内层、伴随方程和外层交替更新,证明了线性收敛性,并在图像去噪和去卷积任务中验证了有效性。
2023-05-29 math.OC
Relaxation methods for pessimistic bilevel optimization
本文针对光滑悲观双层优化问题,引入五种KKT重构松弛方法,给出全局与局部最优解及C-和M-平稳点的收敛性结果,并通过数值实验验证算法有效性。
2025-09-11 math.OC
Directional first order approach for a class of bilevel programs
School of Mathematics, Hunan University(湖南大学数学学院);School of Artificial Intelligence, Southern University of Science and Technology(南方科技大学人工智能学院);Department of Mathematics and Statistics, University of Victoria(维多利亚大学数学与统计系);Department of Mathematics, Southern University of Science and Technology(南方科技大学数学系)
本文提出一种方向一阶方法,用于解决一类双层优化问题,无需下层程序的凸性,通过方向邻域内的第一阶条件等价刻画下层程序,并保持M-站条件作为必要最优条件。
2026-06-28 math.OC
Unified Smoothing Approach for Best Hyperparameter Selection Problem Using a Bilevel Optimization Strategy
针对 $\ell_p$ 正则项超参数选择的非光滑双层问题,提出更紧的双层 KKT 条件及基于 Chen-Mangasarian 类光滑函数的统一光滑化算法。
2023-04-20 math.OC
A New Constraint Qualification for Continuous-Time Nonlinear Programming Based on Asymptotic KKT Conditions
State University of Santa Cruz (UESC)(圣克鲁斯州立大学);Federal University of Uberlandia (UFU)(乌贝兰迪亚联邦大学);Sao Paulo State University (UNESP)(圣保罗州立大学)
提出一种新的约束规格AKKT-正则性,使得局部最优解满足KKT条件,并证明该规格是最弱的。
2026-05-28 math.OC