Theoretical smoothing frameworks for nonsmooth simple bilevel problems
针对简单双层规划中最优值函数非光滑导致算法受限的问题,本文提出二次正则化与熵正则化两种平滑框架,并证明其在相应条件下满足梯度一致性,从而保证全局子序列收敛至驻点。
2025-06-07 math.OC
Observability as a constraint qualification for a nonsmooth bilevel PDE-constrained problem
University of Graz(格拉茨大学)
受图像重建参数识别实验设计启发,该研究针对下层含稀疏反演的双层PDE约束问题,以可观测性或接触集Lebesgue零性为约束规格推导最优性条件,构造简化梯度法并通过数值实验验证。
2026-10-16 math.OC
Constraint qualifications and optimality conditions in bilevel optimization
本文研究双层规划问题的约束规格和最优性条件。我们努力推导出可检查的约束规格的问题数据和适用的最优性条件。对于下层规划为凸规划的双层规划,讨论了用带互补约束的数学规划转化双层规划问题的缺点,并给出了用带广义方程约束的数学规划转化双层规划问题的一个新的尖锐的最优性必要最优性条件.对于具有非凸下层规划的双层规划,我们提出了一个松弛的常正线性相关(RCPLD)条件。
2019-10-09 math.OC
A fresh look at nonsmooth Levenberg--Marquardt methods with applications to bilevel optimization
本文提出基于Newton可微性的非光滑Levenberg–Marquardt方法,无需数据函数局部Lipschitz性,将其应用于超定混合非线性互补系统与双层优化问题,给出收敛条件并通过实验验证惩罚参数作为额外变量的效果。
2023-11-09 math.OC
Optimality Conditions for Bilevel Programming Problem in Asplund Spaces
本文在Asplund空间中得到了乐观双层规划问题最优解的必要条件。通过对给定函数的可微性假设,得到了有限维空间中最优性的必要条件。
2019-01-10 math.OC
Methodology and first-order algorithms for solving nonsmooth and non-strongly convex bilevel optimization problems
简单的双层问题是一种最优化问题,我们希望找到一个内部问题的最优解,使外部目标函数最小化。这些问题出现在许多机器学习和信号处理应用中,作为消除不期望的解决方案的一种方式。然而,由于这些问题不满足正则性条件,它们通常很难精确求解,通常通过迭代正则化来求解。在过去的几年中,提出了一些算法来解决这些双层问题直接和提供一个速度获得可行性,假设外函数是强凸的。在我们的工作中,我们提出了一种新的方法,设计了简单的外部功能,如$l_1$规范,这是不需要光滑或强凸的双层问题。在我们新的迭代近似和水平集扩展(ITALEX)方法中,我们在扩展外部函数的水平集和近似优化该水平集上的内部问题之间交替。我们表明,通过一阶方法,如近似梯度和广义条件梯度优化的内部函数的结果在可行的收敛速度$O(1/k)$,这是迄今为止,只有通过两层算法实现的速度光滑和强凸的外部功能。此外,我们证明了$O(1/\sqrt{k})$收敛速率的外部功能,相反,现有的方法,只提供渐近保证。我们通过数值实验证明了这种性能。
2022-12-19 math.OC
A Hybrid Subgradient Method for Nonsmooth Nonconvex Bilevel Optimization
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen University(深圳大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);National University of Singapore(新加坡国立大学)
本文提出一种混合子梯度法,结合双时间尺度动量加速子梯度法和可行性恢复方案,解决非凸双层优化问题,实现全局收敛性和高效计算。
2026-09-01 math.OC
Sufficient optimality conditions in bilevel programming
本文讨论了含光滑函数的乐观双层最优化问题的一阶和二阶充分最优性条件的推导。通过估计两层规划可行集的切锥,得到了一阶充分最优性条件。这是通过利用几个不同的重新制定的分层模型作为一个单级的问题。为了获得二阶充分最优性条件,我们利用了所谓的价值函数重新制定的双层最优化问题,然后解决的援助,二阶方向导数。由此产生的条件可以说在初始问题的数据在几个有趣的情况下,包括设置较低的水平是线性的或具有强稳定的解决方案。
2019-11-05 math.OC
Necessary Optimality Conditions for Bilevel Programming using Tangential Subdifferentials
School of Mathematics, Hunan University(湖南大学数学学院)
本文利用切向次微分推导非光滑双层规划的必要最优性条件,提出序贯增强切向 Fritz--John 条件及相应 KKT 系统,并研究切向约束规范以保证其有效性,最后应用于值函数重构。
2026-09-30 math.OC
Second-order optimality conditions for bilevel programs
针对双层规划二阶最优性条件依赖难计算的下层值函数二阶方向导数的问题,提出双局部解概念,推导仅含问题定义函数二阶导数的最优性条件,并用于证明增广拉格朗日方法的Q-线性收敛性。
2023-07-21 math.OC
Optimality conditions for bilevel programs via Moreau envelope reformulation
针对下层广义凸的双层规划经典MPCC重构存在的等价性与约束规范失效问题,通过Moreau包络等价重构推导新的方向最优性条件,其非方向形式强于对应MPCC的强平稳性条件。
2024-03-11 math.OC
Combined approach with second-order optimality conditions for bilevel programming problems
本文提出了一种结合下层问题二阶最优性条件的方法来研究双层规划问题的约束规格和最优性条件。新方法的灵感来自于Ye和Zhu在2010年开发的组合方法,其中作者结合了经典的一阶和值函数方法来推导新的必要最优性条件。在我们的方法中,我们添加了一个二阶最优性条件的组合计划作为一个新的约束。我们发现,当所有已知的方法失败,添加二阶最优性条件作为约束,使相应的部分平静条件和由此产生的必要最优性条件更容易举行。并对一阶信息和二阶信息相结合的方法的优缺点进行了讨论。
2023-02-07 math.OC
Optimality Conditions and Duality for Multiobjective Fractional Bilevel Optimization Problems
National Institute of Technology, Chaltlang(查尔特兰国家技术学院)
本文提出了一种多目标分数双层优化问题的最优性条件与对偶性研究方法,利用非光滑约束资格条件和广义凸性概念,建立了更精细的最优性条件并证明了对偶定理。
2025-11-22 math.OC
Optimality conditions at infinity for nonsmooth minimax programming
本文研究非光滑极小极大规划的无穷远最优性条件,利用极限次微分和无穷远法锥推导带约束问题的Karush–Kuhn–Tucker型充要条件,并将结果应用于非光滑向量优化问题。
2024-05-16 math.OC
Directional necessary optimality conditions for bilevel programs
双层规划是一个最优化问题,其中约束涉及参数最优化问题的解。众所周知,值函数重构提供了一个等价的单层最优化问题,但它导致了一个非光滑最优化问题,该问题永远不满足通常的约束规格,如Mangasarian-Fromovitz约束规格(MFCQ)。在本文中,我们表明,即使是一阶充分条件的度量次正则性(这是在一般情况下弱于MFCQ)失败在每个可行点的双层计划。引入了方向镇定条件的概念,证明了在{the}方向镇定条件下,方向最优性条件成立。{虽然方向性最优性条件一般比非方向性条件更尖锐,}方向性平静条件一般比经典平静条件弱,因此更可能成立。{We进行价值函数的方向灵敏度分析,并提出方向拟正态性作为方向平静的充分条件。最后给出了一个例子,证明了二层规划的方向拟正规性条件成立。
2020-11-18 math.OC
Optimality Conditions for Bilevel Imaging Learning Problems with Total Variation Regularization
研究了全变差图像去噪中尺度相关的最优参数学习问题。这样的问题制定为双层优化实例与全变差去噪问题作为较低级别的约束。对于二层问题,我们能够推导出M-平稳性条件,在相应的Mordukhovich广义法锥的特征和验证合适的约束规格条件。在研究了低层解算子的Lipschitz连续性和方向可微性之后,我们还得到了B-平稳性条件。通过适当定义的线性系,给出了解映射的Bouligand次微分的一个特征。基于这一特征,我们提出了一个两阶段的非光滑信赖域算法的两层问题的数值解,并测试计算两个特定的实验设置。
2021-07-16 math.OC
Optimality Conditions and Numerical Algorithms for a Class of Minimax Bilevel Optimization Problems
Xiangtan University(湘潭大学);Beijing University of Posts and Telecommunications(北京邮电大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文研究极小极大双层优化问题的最优条件及高效一阶算法,通过KKT条件和价值函数重构下层问题,提出惩罚法框架和投影梯度多步上升下降法,实现ε-KKT解,具有O(ε^{-3} log(ε^{-1}))迭代复杂度。
2026-04-26 math.OC
Simple Bilevel Programming and Extensions, Part-1: Theory
本文首先讨论了简单双层规划问题(SBP)及其推广的平衡约束下的简单数学规划问题(SMPEC)。在这里,我们首先定义这两个问题,并研究它们之间的相互关系。接下来,我们研究了各种类型的必要和充分的最优性条件的(SMPEC)问题,发生在各种重新制定。当下层目标为凸函数的梯度时,(SBP)问题的最优性条件是本文所得结果的特殊情况。在这里提出的各种最优性条件是序列最优性条件,它不需要任何约束规格。我们还提出了一个示意性的算法(SMPEC)的问题,其中顺序最优性条件发挥了关键作用的收敛性分析。
2019-12-13 math.OC
Optimality conditions for approximate Pareto solutions of a nonsmooth vector optimization problem with an infinite number of constraints
本文利用Clarke次微分给出了一类具有无穷多个约束的非光滑向量最优化问题的近似Pareto解的若干新的最优性充要条件最优性条件.作为结果,我们得到了锥约束凸向量最优化问题和半定向量最优化问题的特殊情况下的最优性条件。并举例说明所得结果。
2019-05-13 math.OC
Lagrange optimality system for a class of nonsmooth convex optimization
本文研究一类非光滑凸优化的增广拉格朗日方法。给出了与问题相关的增广拉格朗日量的Lagrange最优性系,并建立了它与增广拉格朗日量的标准最优性条件和鞍点条件的联系,为数值算法的发展提供了有力的工具.将线性牛顿法应用于Lagrange最优性系统,得到了一种新的算法,可用于实际应用中出现的各种非光滑凸优化问题。在适当的条件下,我们证明了牛顿系统的非奇异性和算法的局部收敛性。
2015-02-22 math.OC
On the role of semismoothness in the implicit programming approach to selected nonsmooth optimization problems
Institute of Information Theory and Automation, Czech Academy of Sciences(捷克科学院信息论与自动化研究所);Johann Radon Institute for Computational and Applied Mathematics (RICAM), Austrian Academy of Sciences(奥地利科学院约翰·拉登计算与应用数学研究所);School of Mathematics, University of Birmingham(伯明翰大学数学学院)
本文研究隐式规划方法求解一类具有平衡约束的数学规划(MPEC)和双层规划问题,采用非光滑优化的束方法,利用SCD映射提供易计算的伪次梯度,确保收敛到满足平稳条件的点,并通过三个算例验证方法的有效性。
2026-05-30 math.OC
Necessary optimality conditions for optimal control problems with nonsmooth mixed state and control constraints
本文研究一类具有非光滑混合状态和控制约束的最优控制问题。现有的大多数结果都是在Mangasarian-Fromovitz条件下,假设状态和控制约束函数是光滑的,得到了具有混合状态和控制约束的最优控制问题的最优性必要条件.本文利用集值映射的拟Lipschitz连续性和镇定性,在约束规格下,得到了非光滑混合状态和控制约束问题的最优性必要最优性条件.必要条件是分层的,因为它们是在假设(和最优性)成立的域上断言的。此外,还导出了某些情形下欧拉包含取显式乘子形式的必要最优性条件。
2015-12-03 math.OC
Bi-ZOL: Bilevel Zeroth-Order Learning with Nonsmooth Responses
ETH Zurich(苏黎世联邦理工学院)
针对下层约束双层优化中响应非光滑且模型信息不可用的问题,提出结构引导的零阶方法Bi-ZOL,分离链式法则结构估计超梯度,证明收敛性,实验显示优于普通零阶平滑。
2026-09-09 cs.SY eess.SY math.OC
Optimality conditions for robust nonsmooth multiobjective optimization problems in Asplund spaces
我们采用模糊最优性条件的Frechet次微分和一些先进的变分分析技术,如公式的次微分的一个无限的家庭的非光滑函数和余导数标量化研究鲁棒最优性条件和鲁棒对偶的非光滑/非凸多目标最优化问题处理不确定性约束在任意Asplund空间。我们建立必要的最优性条件弱和适当的鲁棒有效解的问题的Mordukhovich次微分的相关功能。进一步,通过引入广义凸性的新概念,给出了该问题弱鲁棒有效解和真鲁棒有效解的充分条件.最后,我们制定了一个Mond-Weir型的鲁棒对偶问题的参考问题,并检查弱,强,和逆对偶关系,它们之间的伪凸性假设。
2022-11-14 math.OC
Optimality conditions for nonsmooth nonconvex-nonconcave min-max problems and generative adversarial networks
研究了机器学习和博弈中一类非光滑非凸-非凹极大极小问题。首先给出了全局极大极小点和局部极大极小点存在的充分条件。其次,我们利用方向导数建立了局部极小极大点的一阶和二阶最优性条件。这些条件减少到光滑的最小最大问题与Fr{é}chet导数。我们将我们的理论结果应用于生成对抗网络(GANs),其中两个神经网络在游戏中相互竞争。最后通过实例说明了新理论在GANs训练中的应用。
2022-03-21 math.OC
Bilevel Programming Approach for Image Restoration Problems with Automatically Hyperparameter Selection
School of Mathematics and Statistics, Henan University(河南大学数学与统计学院);Center for Applied Mathematics of Henan Province, Henan University(河南省应用数学中心,河南大学);School of Nursing and Health, Henan University(河南大学护理与健康学院);School of Software, Henan University(河南大学软件学院)
本文提出双层规划方法自动选择图像恢复中的超参数,通过非光滑凸规划问题和交替方向乘子法实现高效恢复,实验表明其在恢复质量与计算时间上优于其他方法。
2026-04-02 math.OC
Second-Order Subdifferential Optimality Conditions in Nonsmooth Optimization
本文利用变分分析与二阶广义微分,针对 prox-regular 非光滑优化问题建立了新的二阶必要和充分最优性条件,并将其应用于非线性规划,得到了以 Hessian 矩阵表达的新结果。
2025-01-04 math.OC
On directional local minimality and directional optimality conditions in nonsmooth optimization
Philipps-Universität Marburg(马尔堡菲利普斯大学)
本文利用方向导数与次微分,针对下半连续函数无约束极小化问题,基于方向局部极小性概念,推导了必要充分的一阶和二阶最优性条件,并通过临界方向给出了传统局部极小性的最优性条件。
2026-07-02 math.OC
Gauss-Newton-type methods for bilevel optimization
本文研究了求解超定系统双层规划问题的Gauss-Newton型方法。为了进行,我们使用较低级别的价值函数重新制定的双层计划,并考虑必要的最优性条件在适当的假设。首先严格互补的上下层的可行性约束下,我们证明了收敛的高斯-牛顿型方法在计算点满足这些最优性条件下额外的易处理的资格条件。潜在的方法,以解决该方法的缺点,然后提出,导致替代品,如伪或平滑高斯-牛顿型方法的双层优化。我们的数值实验进行了124个例子,从最近发布的双层优化库(BOLIB)比较我们的方法在不同的情况下的性能,并表明这是一个易于处理的方法来解决连续变量的双层最优化问题。
2020-03-06 math.OC
Optimality conditions and duality relations in nonsmooth fractional interval-valued multiobjective optimization
研究了一类非光滑分式区间值多目标优化问题的Pareto解。首先通过考虑上下区间序关系,给出了所考虑问题的四种Pareto解,然后应用变分分析和广义微分的一些先进工具,建立了这些解的必要最优性条件.通过引入由局部Lipschitz函数的极限/Mordukhovich次微分定义的(严格)广义凸函数的概念,给出了这类问题Pareto解的充分条件.最后,一个Mond-Weir型对偶模型制定,弱,强和反向的对偶关系进行检查。
2022-12-23 math.OC
An inertial extrapolation method for convex simple bilevel optimization
我们考虑一个标量目标极小化问题在另一个最优化问题的解集上。该问题被称为简单二层最优化问题,在过去几年中引起了人们的广泛关注。我们的内部问题是最小化光滑函数和非光滑函数之和,而外部问题是最小化光滑凸函数。我们提出并建立了一个不动点的惯性外推迭代法来解决这个问题的收敛性。我们的数值实验表明,本文提出的方法优于目前最知名的算法来解决这类问题的考虑。
2018-09-17 math.OC
Extension of the value function reformulation to multiobjective bilevel optimization
本文考虑一个具有向量值上下两层目标函数的多目标双层最优化问题。近年来,这些问题引起了人们的极大兴趣。然而,到目前为止,标量化似乎是用于处理低层问题的主要方法。在这里,我们利用边界映射的概念,扩展了最优值函数的概念,我们的参数多目标低级别的问题。在此基础上,我们建立了一个易于处理的约束规格,我们用来推导必要的最优性条件的问题。随后,我们表明,我们得到的必要最优性条件代表了一个自然扩张,从标准的乐观的双层计划与标量目标函数。
2022-01-03 math.OC
Regularized extragradient method for structured bilevel optimization in continuous and discrete time
University of Vienna(维也纳大学)
本文针对实希尔伯特空间中的结构化双层优化问题,提出正则化外梯度算法,在合适几何条件下证明了内外残差的最后迭代收敛速率及迭代序列的弱收敛性。
2026-09-28 math.OC
Bilevel Optimization and Variational Analysis
本章介绍了一个自包含的变分分析和广义微分的方法来推导必要的最优性问题的双层Lipschitz数据。我们主要集中在乐观的模型,虽然发达的机械也适用于悲观的版本。提出并讨论了一些尚待解决的问题。
2019-07-13 math.OC
Generalized Hukuhara Weak Subdifferential and its Application on Identifying Optimality Conditions for Nonsmooth Interval-valued Functions
介绍了区间值函数的$gH$ -弱次微分的概念,并给出了如何计算$gH$ -弱次梯度的方法.证明了非空的$gH$ -弱次微分集是闭凸的.在刻画一类函数的$gH$ -弱次微分集是非空的,它被确定为这个类是集合的$gH$ -下Lipschitz IVF。在检验$gH$ -弱次微分对IVF求和规则的有效性时,给出了一个反例,说明该求和规则不成立.然而,在对其中一个IVF的轻度限制下,总和规则的单侧纳入成立。其次,作为应用,我们利用$gH$ -弱次微分给出了非光滑IVF的几个最优性条件。进一步建立了以两个非光滑函数之差为目标的区间最优化问题的最优性必要条件。最后,利用广义法锥和$gH$ -弱次微分给出了求IVF弱有效点的一个充要条件。
2022-10-04 math.OC
Regularized Operator Extrapolation Method For Stochastic Bilevel Variational Inequality Problems
本文提出单循环R-OpEx方法求解随机单调BVI,结合Tikhonov正则化与算子外推,并在多种光滑性、随机性和强单调设定下给出改进复杂度保证。
2025-05-14 math.OC
Bilevel optimal control: existence results and stationarity conditions
众多现实应用的数学建模导致了具有两个决策者的分层最优化问题,其中至少一个决策者必须解决普通或偏微分方程的最优控制问题。这种模型被称为双层最优控制问题。在这里,我们首先回顾了一些不同的特点,两层最优控制包括重要的应用,存在性结果,解决方案,和最优性条件。之后,我们专注于一个特定的问题类中出现的参数的目标功能的最优控制问题的偏微分方程必须重建。在验证解的存在性后,利用松弛方法中的基本参数最优控制问题的最优值函数导出必要的最优性条件。
2019-06-19 math.OC
Enhanced Bilevel Optimization via Bregman Distance
University of Pittsburgh(匹兹堡大学);Nanjing University of Aeronautics & Astronautics(南京航空航天大学)
近年来,双层优化已经被用于许多机器学习问题,如超参数优化,策略优化和Meta学习。虽然已经提出了许多两层最优化方法,但它们仍然具有高计算复杂性,并且没有考虑更一般的非光滑正则化两层问题。本文利用Bregman距离提出了一类改进的双层最优化方法,用于求解外层子问题为非凸且可能非光滑,内层子问题为强凸的双层最优化问题.具体来说,我们提出了一个双层最优化方法的基础上Bregman距离(生物BreD)来解决确定性的双层问题,它实现了较低的计算复杂性比最好的已知结果。同时,我们还提出了一种基于随机近似梯度和Bregman距离的随机双层最优化方法(SBiO-BreD)来求解随机双层问题。此外,我们进一步提出了一个加速版本的SBiO-BreD方法(ASBiO-BreD)使用方差减少技术,它可以实现一个较低的计算复杂度比最好的已知的计算复杂性度相对于条件数$κ$和目标精度$ε$寻找一个$ε$ -平稳点。我们进行数据超清洗任务和超表示学习任务,以证明我们的新算法优于相关的双层优化方法。
2022-10-26 cs.LG math.OC
Inexact Direct-Search Methods for Bilevel Optimization Problems
本文提出了求解双层优化问题的新型非精确直接搜索方法,利用固定精度黑盒预言机处理平滑与非平滑目标,首次给出收敛性保证与复杂度界限,并扩展了网格自适应直接搜索方案,初步数值实验验证了其有效性。
2023-09-13 math.OC
A bilevel learning approach for optimal observation placement in variational data assimilation
在本文中,我们提出了一个双层优化方法的空间和时间观测的位置变分资料同化问题。在监督学习的框架内,我们考虑了一个双层问题,其中下层任务是半线性系统初始条件的变分重构,上层问题借助于稀疏诱导函数求解最优布局。由于观测值的逐点性质,得到了具有正则Borel测度的最优性系统作为下层问题的必要最优性条件。后者被认为是对上层实例的约束,产生一个多状态系统的措施约束下的最优化问题。我们证明了拉格朗日乘子的存在性,并推导出一个必要的最优性系统的特点的最优解的双层问题。数值解也在两个层次上进行。下层问题使用标准的BFGS方法解决,而上层问题通过基于$ε$ -活动集估计的投影BFGS算法解决。最后给出了一些数值实验来说明我们的方法的主要特点。
2019-10-08 math.OC
Nonsmooth optimality criterion for a $\mathrm{W}^{1,2}$-controlled sweeping process: Nonautonomous perturbation
本文利用连续时间逼近,将受控非凸扫掠过程最优控制问题的必要最优性条件从自治扰动推广到非自治扰动及$\mathrm{C}\ imes\mathrm{W}^{1,2}$-局部极小点。
2023-05-24 math.OC
New global optimality conditions for nonsmooth DC optimization problems
在这篇文章中,我们提出了一种新的方法来分析直流最优化问题。这种方法的灵感主要来自于余微分和余微分下降法,并且基于使用凸函数的所谓仿射支撑集而不是Frenchel共轭函数。利用仿射支撑集定义了DC函数的一个全局余微分映射,并得到了DC最优化问题的一个新的全局最优性条件.我们还提供了新的简单的充要条件的$\ell_1$罚函数的DC最优化问题的等式和不等式约束的全局精确性,并提出了一系列简单的例子证明了新的全局最优性条件的建设性。这些例子表明,当不满足最优性条件时,可以很容易地利用它们来找到约束和无约束问题的“全局下降”方向。作为一个有趣的理论例子,我们应用我们的方法来分析一个非光滑问题的Bolza。
2019-10-02 math.OC
Second-Order Strong Optimality and Second-Order Duality for Nonsmooth Constrained Multiobjective Fractional Programming Problems
本文针对实巴拿赫空间中的非光滑多目标分数规划问题,提出了二阶强最优性条件与对偶性结果,通过广义方向导数建立了蕴含强KKT条件的必要性条件及充分性条件。
2024-03-15 math.OC
Unlocking Global Optimality in Bilevel Optimization: A Pilot Study
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文探讨了双层优化中获得全局最优解的挑战,提出了两个全局收敛的充分条件,并在表征学习和数据超清理场景中通过依赖算法的证明和实验验证了理论发现。
2024-12-24 cs.LG math.OC
Dynamic sampling schemes for optimal noise learning under multiple nonsmooth constraints
我们考虑由De Los Reyes,Schönlieb(2013)提出的双层优化方法,用于学习具有多个噪声分布的全变差(TV)去噪模型中的最佳参数。在应用中,数据库(字典)的使用允许参数的准确估计,但由于数据库的大小和PDE约束的非光滑性质,反映在高计算成本。为了克服这一计算障碍,我们提出了一个优化算法,通过采样动态从一组约束条件,并使用拟牛顿法,准确地解决了这个问题,并在一个有效的方式。
2014-06-23 math.OC
Smoothing Iterative Consensus-based Optimization Algorithm for Nonsmooth Nonconvex Optimization Problems with Global Optimality
针对无约束非光滑非凸优化的全局极小值求解问题,结合平滑与共识优化方法提出新型SICBO算法,证明其指数收敛性与全局最优性理论保证,且适用于非利普希茨连续情形,数值实验验证了算法有效性。
2025-01-13 math.OC
A New Constraint Qualification and Sharp Optimality Conditions for Nonsmooth Mathematical Programming Problems in Terms of Quasidifferentials
本文在最小可能的假设下,利用Demyanov-Rubinov-Polyakova拟微分,分析了带有等式和不等式约束的非光滑数学规划问题的一个新的约束规格,并导出了现有的最强最优性条件.为此,我们得到了一个新的描述的凸子锥的相依锥的拟可微的等式和不等式约束的约束,使用一个新的约束规格。我们利用这些描述和约束规格来获得最强的现有的最优性条件的非光滑数学规划问题的拟微分限制性较低的假设下比以前的研究。新的约束规格和相关的最优性条件的主要特点是它们依赖于目标函数和约束的拟微分的各个元素,并且对于拟微分的选择不是不变的。为了说明理论结果,我们给出了两个简单的例子,其中的最优性条件的各种次微分(实际上,任何外连续/极限次微分)在非最优点满足,而本文得到的最优性条件在这一点不成立,即用拟微分表示的最优性条件,与用次微分表示的条件不同,检测该点的非最优性。
2020-11-17 math.OC
Regular Subgradients of Marginal Functions with Applications to Calculus and Bilevel Programming
本文研究了变分分析和参数优化中本质非光滑的最优值(边际)函数,通过给定数据精确计算其正则/Fréchet次梯度及奇异对应物,并据此建立了新的次梯度微积分法则和双层规划的必要最优性条件。
2025-02-04 math.OC
Smoothing Proximal Gradient Methods for Nonsmooth Sparsity Constrained Optimization: Optimality Conditions and Global Convergence
针对非光滑稀疏约束优化现有方法的局限,提出两种平滑近似梯度方法变体,证明其最优性与收敛速率理论界达到现有最优水平,且实验中SPGM-BCD性能优于现有IHT类方法。
2023-12-15 math.OC
Optimality conditions in terms of Bouligand generalized differentials for a nonsmooth semilinear elliptic optimal control problem with distributed and boundary control pointwise constraints
针对含分布与边界逐点约束的非光滑半线性椭圆最优控制问题,利用Bouligand广义导数提出新最优性条件,并证明其与强平稳性等价。
2025-01-27 math.OC
Unified Smoothing Approach for Best Hyperparameter Selection Problem Using a Bilevel Optimization Strategy
针对 $\ell_p$ 正则项超参数选择的非光滑双层问题,提出更紧的双层 KKT 条件及基于 Chen-Mangasarian 类光滑函数的统一光滑化算法。
2023-04-20 math.OC
A Maximum Principle for a Time-Optimal Bilevel Sweeping Control Problem
在这篇文章中,我们研究了一个时间最优的状态约束的双层最优控制问题,其低层动态功能的扫描控制过程涉及一个{ \it截断法锥}。所谓双层,是指上层问题的优化是在下层问题的解集上进行的,这种问题的例子出现在有限空间中的结构化人群运动控制问题中。我们建立了相应的Gamkrelidze形式的最优性最优性条件。该分析依赖于较低级别的扫描控制系统的{ \it平滑近似},从而处理相对于扫描过程所固有的状态变量的Lipschitzianity的缺乏,以及通过精确的惩罚技术的双层结构的{ \it平坦化}。将Gamkrelidze形式的最优性必要条件应用于所得到的标准近似惩罚状态约束单水平问题,通过极限传递得到了本文的主要结果.
2022-01-06 math.OC
On the Global Optimality of Direct Policy Search for Nonsmooth $H_\infty$ Output-Feedback Control
本文研究了输出反馈系统非光滑 $H_\infty$ 鲁棒控制中直接策略搜索的全局最优性,证明非退化稳定控制器的所有 Clarke 平稳点均全局最优且无虚假局部极小值。
2023-04-03 math.OC
Metric Regularity of Quasidifferentiable Mappings and Optimality Conditions for Nonsmooth Mathematical Programming Problems
本文利用Demyanov-Rubinov-Polyakova拟微分分析了度量正则性的充要和充分条件.利用距离函数的拟微分得到了一个局部度量正则性的新的充要条件。我们还提出了一个新的MFCQ型约束规格的拟可微等式和不等式约束的参数系统,并证明了它确保了与此系统相关联的多功能的度量正则性。作为应用,我们利用我们的约束规格,以加强现有的最优性条件拟可微规划问题的等式和不等式约束。我们还证明了拟微分的选择的最优性条件的独立性,并提出了一个简单的例子,其中的最优性条件的拟微分检测的非最优性的一个给定的点,而最优性条件的各种次微分未能取消这一点作为非最优。
2020-11-17 math.OC