Existence Results and KKT Optimality Conditions for Generalized Quasiconvex Functions
Institute for Advanced Studies in Basic Sciences (IASBS)(基础科学高等研究院);Universidad de Tarapacá(塔拉帕卡大学)
本文研究了广义拟凸函数的性质,建立了解集非空紧致的充分条件,并探讨了KKT条件在$e$-拟凸约束下的应用。
2026-02-12 math.OC
Locally Lipschitz vector optimization problems: second-order constraint qualifications, regularity condition and KKT necessary optimality conditions
研究了一类约束向量最优化问题,其中目标函数和积极约束函数在参考点处均为局部Lipschitz.在非光滑情形下,给出了Zangwill型、Abadie型和Mangasarian~--~Fromovitz型的二阶约束规格以及Abadie型的正则性条件.建立了这些条件之间的联系。他们被应用于开发二阶Karush-库恩-塔克必要的最优性条件的本地(弱,Geoffrion正确)有效解所考虑的问题。最后给出了实例说明所得结果。
2019-05-13 math.OC
Stability for Constrained Minimax Optimization
极小极大最优化问题是现代机器学习和传统研究领域中出现的一类重要的最优化问题。基于Dai和Zhang(2020)的局部极小极大点的概念,我们重点研究了约束极小极大最优化问题的稳定性。首先,我们将非线性规划的经典Jacobian唯一性条件推广到约束极大极小问题,并证明了这组性质对于小的$C^2$扰动是稳定的.其次,我们提供了一组条件,称为性质A,它不需要严格的互补条件的上层约束。最后,我们证明了性质A是Kurash-Kuhn-Tucker(KKT)系统在KKT点处强正则的充分条件,也是Kojima映射在KKT点附近局部Lipschitz同胚的充分条件.
2021-11-10 math.OC
A New Constraint Qualification for Continuous-Time Nonlinear Programming Based on Asymptotic KKT Conditions
State University of Santa Cruz (UESC)(圣克鲁斯州立大学);Federal University of Uberlandia (UFU)(乌贝兰迪亚联邦大学);Sao Paulo State University (UNESP)(圣保罗州立大学)
提出一种新的约束规格AKKT-正则性,使得局部最优解满足KKT条件,并证明该规格是最弱的。
2026-05-28 math.OC
Improved KKT Complexity for First-Order Bilevel Optimization under Weak Lower-Level Convexity
RIKEN(理化学研究所);University of Tokyo(东京大学)
本文针对弱下层凸性的双层优化,提出非精确变量平滑惩罚方法(IVSP),在ENNAMCQ下证明有限惩罚参数稳定及ε-KKT点的一阶复杂度为Õ(ε^{-3}),并给出可验证条件与数值验证。
2026-10-01 math.OC
A new problem qualification based on approximate KKT conditions for Lipschitzian optimization with application to bilevel programming
针对Lipschitz优化中约束资格失效问题,提出基于近似KKT条件的子集Mangasarian-Fromovitz条件(subMFC),该问题资格弱于拟正规性,并应用于双层规划,可在部分平静性失效时成立。
2025-02-26 math.OC
Critical Multipliers in Semidefinite Programming
文[14]证明了(光滑)非线性规划问题的非临界乘子的存在性等价于不作任何假设的KKT系统的误差界条件。本文研究这一结果是否仍然成立的(光滑)非线性半定规划(SDP)问题。我们首先介绍了SDP问题的关键和非关键乘数的概念,并获得其完整的刻画的问题数据。本文证明了对于SDP问题,不需要任何假设,可以从KKT系统的误差界条件导出非临界性,并通过一些简单的例子说明了这一事实。此外,我们给出了一个适当的二阶充分最优性条件,明确地刻画了非临界性。我们提出了一组假设,从该误差界条件的KKT系统可以从非临界性质。最后,我们建立了一个新的误差界的x-部分,这是表示的扰动和乘子估计。
2018-01-07 math.OC
Existence of Weak Pareto Efficient Solutions of a Vector Optimization Problem under a Closed Constraint Set
本文在无有界性和凸性假设的闭约束集上,研究非光滑向量优化问题弱Pareto有效解集的非空性,建立适当性、Palais-Smale类条件与M-驯顺条件的关系,并给出新的必要和充分条件。
2024-08-08 math.OC
A Trust Region Method for Pareto Front Approximation
本文研究了所有目标函数都不是解析给出的黑箱多目标最优化问题。在多目标优化中,重要的是在Pareto前沿上产生一组均匀分布的离散解,以建立良好的近似。在黑盒双目标优化中,可以用Pareto前沿的排序性质来计算解之间的距离。这些距离允许能够评估所有溶液点的分布,因此保持溶液分布的均匀性并不困难。然而,具有两个以上目标的问题不具有排序性质,因此需要注意的是,这些问题需要其他技术来测量覆盖率并保持解分布的均匀性。本文提出了一种基于置信域方法的多目标黑箱优化问题Pareto前沿逼近算法。该算法利用密度函数在非支配点集中选择一个参考点,并探索该点周围的区域。这确保了均匀的解决方案的分布,即使是有两个以上的目标函数的问题。我们还证明了算法的迭代点收敛于Pareto临界点。最后,我们提出的数值结果表明,该算法产生的一组分布良好的解决方案,逼近帕累托前沿,即使在有三个目标函数的问题的情况下。
2022-02-10 math.OC
Existence of Pareto Solutions for Vector Polynomial Optimization Problems with Constraints
本文研究了基本闭半代数集上向量多项式最优化问题的Pareto解的存在性。通过调用一些强大的工具,从真正的半代数几何,我们首先引入的概念,称为{ \it切簇},然后我们建立连接的Palais-Smale条件,Cerami条件,{ \it M}-驯服,和适当的考虑的问题,其中的条件Mangasarian-Fromovitz约束规格在无穷远发挥了至关重要的作用,在推导这些连接。根据所得到的关系,我们给出了所考虑问题Pareto解存在的一些充分条件,并举例说明了我们的主要结果.
2022-02-19 math.OC
A Convergent Approximation of the Pareto Optimal Set for Finite Horizon Multiobjective Optimal Control Problems (MOC) Using Viability Theory
对目标空间不一定是凸的有限时域多目标最优控制问题,给出了Pareto最优集的一个收敛的数值逼近.我们的方法是基于可行性理论。我们首先引入集值返回函数V,并证明了V的上图等于适当选择的闭集的活力核。然后,我们引入了一个具有有限集值的近似集值返回函数作为多目标动态规划方程的解。这个近似集值返回函数的上图被证明等于由[4,5]中提出的生存核的收敛数值逼近得到的有限离散生存核。结果,近似集值返回函数的上图收敛到V的上图。近似集值返回函数最终提供了针对每个初始时间和状态的Pareto最优集合的所提出的数值逼近。提供了几个数值例子。
2012-03-01 math.OC
Picard Iteration for Parameter Estimation in Nonlinear Ordinary Differential Equations using Low-Quality Data
School for the Engineering of Matter, Transport and Energy, Arizona State University(物质、运输与能源工程学院,亚利桑那州立大学)
本文提出基于 Picard 运算符的参数估计框架,针对噪声大、稀疏、非规则采样及多实验数据等低质量数据问题,通过约束优化和KKT条件求解,确保收敛性。
2026-06-29 math.OC
Analysis of the primal-dual central path for nonlinear semidefinite optimization without the nondegeneracy condition
本文在无非退化条件下,基于强SOSC、严格互补条件和Mangasarian-Fromovitz约束规范,证明了非线性半定优化中心路径的唯一存在性,并揭示其对偶分量收敛到拉格朗日乘子集的解析中心,同时刻画了牛顿方程唯一可解的区域。
2024-02-21 math.OC
On the robust isolated calmness of a class of nonsmooth optimizations on Riemannian manifolds and its applications
本文研究黎曼流形上非光滑优化 KKT 解映射的鲁棒孤立平静性,证明其等价于 M-SRCQ 与 M-SOSC 条件,并据此建立黎曼增广拉格朗日方法的局部线性收敛性,在球面和固定秩矩阵流形上进行了验证。
2025-04-08 math.OC
Stratification for Nonlinear Semidefinite Programming
Yau Mathematical Sciences Center, Tsinghua University(丘成桐数学科学中心,清华大学);Yanqi Lake Beijing Institute of Mathematical Sciences and Applications(燕京量子科学与应用研究院);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);Qiuzhen College, Tsinghua University(清华大学求真学院)
本文提出了一种非线性半正定规划的分层方法,通过分层变分分析和改进的高斯-牛顿算法,实现KKT方程的全局求解和局部二次收敛。
2026-09-23 math.OC
An improved hyperboxing algorithm for calculating a Pareto front representation
在求解具有多个目标函数的最优化问题时,经常会遇到一个或多个目标函数为非凸函数,或者不能很容易地证明所有目标函数的凸性。在这种情况下,需要一个计算非支配集的表示的通用算法。一种合适的方法在于所谓的超装箱算法,其特征在于将目标空间分裂成轴平行的超矩形。因此,只有非支配性的财产被用来减少所谓的搜索区域。在文献中,这样的算法已经显示出相对于计算的代表点的数量提供了非常好的帕累托前沿覆盖。然而,该算法的计算成本是禁止的问题,超过五个目标。在本文中,我们提出了算法的进步,提高了算法的性能,使其适用于多达9个目标的问题。我们说明了一组测试问题的性能增益和质量的表示。我们还将改进的算法应用到放射治疗计划领域的一个实际问题中。
2020-03-31 math.OC
KKT Conditions, First-Order and Second-Order Optimization, and Distributed Optimization: Tutorial and Survey
University of Waterloo(滑铁卢大学);Department of Electrical and Computer Engineering(电气与计算机工程系);Department of Statistics and Actuarial Science(统计与精算科学系);David R. Cheriton School of Computer Science(大卫·R·谢里顿计算机科学学院);Centre for Pattern Analysis and Machine Intelligence(模式分析与机器智能中心);Machine Learning Laboratory(机器学习实验室);Data Analytics Laboratory(数据分析实验室)
这是一篇关于Karush-Kuhn-Tucker(KKT)条件、一阶和二阶数值优化以及分布式优化的教程和综述论文。在简要回顾了最优化的历史之后,我们从集合、范数、函数和最优化概念的性质开始。然后介绍了最优化问题、标准最优化问题(包括线性规划、二次规划和半定规划)和凸问题。我们还介绍了一些技术,如消除不等式,等式和集合约束,添加松弛变量,epigraph形式。介绍了拉格朗日函数、对偶变量、KKT条件(包括原始可行性、对偶可行性、弱对偶性、强对偶性、互补松弛性和平稳性条件)以及用拉格朗日乘子法求解最优化问题。然后,我们涵盖了一阶优化,包括梯度下降,线搜索,收敛的梯度法,动量,最速下降,和反向传播。介绍了加速梯度法、随机梯度下降法、小批量梯度下降法、随机平均梯度法、随机方差约简梯度法、AdaGrad、RMSProp和Adam优化器、近似方法等一阶方法(包括邻近标测、邻近点法和邻近梯度法)和约束梯度法(包括投影梯度法、凸集投影法和Frank-Wolfe法)。我们还介绍了非光滑和$\ell_1$最优化方法,包括套索正则化,凸共轭,Huber函数,软阈值,坐标下降和次梯度方法。然后,我们解释二阶方法,包括牛顿法无约束,等式约束和不等式约束问题。
2021-10-05 cs.DC cs.LG cs.NA
Non-Extreme Individual Minima for Improved Pareto Front Sampling Efficiency and Decision-Making
Systems Modeling and Simulation, Saarland University, Saarbrücken, Germany(萨尔兰大学)
本文提出非极端个体极值概念,通过改进帕累托前沿采样效率和决策制定方法,提升多目标优化的实用性与鲁棒性。
2026-02-25 math.OC
Safe Zeroth-Order Optimization Using Quadratic Local Approximations
本文研究黑盒平滑优化问题,提出一种基于二次局部近似的零阶方法,通过迭代构建局部可行集进行优化,在$O({1}/{η^{2}})$次迭代内返回$η$-KKT对,并在最优控制和电力系统运行中验证了其快速收敛性和有效性。
2024-04-24 cs.SY eess.SY math.OC
An Application of the Tarski-Seidenberg Theorem with Quantifiers to Vector Variational Inequalities
研究了多项式向量变分不等式的真Pareto解集、Pareto解集、弱Pareto解集的连通性结构,以及多项式向量最优化问题的有效解集和弱有效解集的连通性结构.通过使用Tarski-Seidenberg定理与量词,我们能够证明这些解集是半代数的,而不施加Mangasarian-Fromovitz约束规格的约束系统。
2020-02-06 math.AG math.OC