Optimal Hessian/Jacobian-Free Nonconvex-PL Bilevel Optimization
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院)
针对非凸-PL双层优化问题计算复杂度高的问题,提出一种无Hessian/Jacobian的高效方法HJFBiO,在温和条件下证明了其最优收敛速率和梯度复杂度,并通过实验验证了有效性。
2024-07-25 cs.LG math.OC
Stochastic Dynamic Barrier Perturbed Gradient Methods for Nonconvex Simple Bilevel Optimization
The University of Arizona(亚利桑那大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究随机非凸简单双层优化问题,提出SDBPG方法,通过自适应扰动对偶公式解决对偶乘子无界问题,在特定假设下能高效找到驻点,还开发了改进变体,给出了该问题首个明确的驻点保证。
2026-08-25 math.OC
Online Nonconvex Bilevel Optimization with Bregman Divergences
Stony Brook University(石溪大学);Bloomberg(彭博公司);Institute for Advanced Computational Science(高级计算科学研究所)
该研究针对在线非凸-强凸双层优化问题,提出基于自适应Bregman散度的确定性OBBO和带窗口平均方差缩减的随机SOBBO算法,提升双层局部悔值速率,实验验证其在超参数优化、元学习任务上优于现有基准。
2024-09-16 cs.LG math.OC
Efficient Hessian-Free Methods for Multi-Objective Bilevel Optimization with Nonconvex Lower Level
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院)
本文针对下层非凸的多目标双层优化问题,提出MOMEHA及MB-MOMEHA算法,通过Moreau包络转化问题并结合平滑加权Tchebycheff标量化,在少样本元学习等任务上优于现有方法。
2026-09-09 cs.LG math.OC
A Decomposition Based Approach for Solving a General Bilevel Linear Programming
双层优化在决策过程中有着广泛的应用。然而,仍然缺乏一个有效的算法来确定一个双层最优化问题的最优解,特别是对于一个大规模的问题。针对这一问题,提出了一种求解一般双层线性规划(GBLP)的分解算法。在大型测试系统上的仿真结果验证了该方法的正确性和有效性。
2016-05-17 math.OC
Iterative Implicit Gradients for Nonconvex Optimization with Variational Inequality Constraints
针对非凸约束优化问题,提出基于迭代微分的迭代隐式梯度方法,扩展了双层优化的收敛分析,开发了高效大规模计算策略,并提供了误差界限与非渐近收敛保证。
2025-10-12 math.OC
A Correspondence-Driven Approach for Bilevel Decision-making with Nonconvex Lower-Level Problems
University of Minnesota(明尼苏达大学)
本文提出基于对应关系的超函数方法,解决非凸下层问题的双层优化问题,通过高斯平滑处理并设计SCiNBiO算法,提供收敛性和复杂度保证。
2026-03-29 math.OC
Decentralized Bilevel Optimization
双层优化已经成功地应用于许多重要的机器学习问题。求解双层优化问题的算法已经在不同的设置下进行了研究。本文研究了分散环境下的非凸-强凸双层优化问题。我们设计分散算法的确定性和随机双层最优化问题。此外,我们分析的收敛速度所提出的算法在不同的情况下,包括数据异构性的情况下,观察到跨代理。对模拟数据和实际数据的数值实验表明,所提出的方法是有效的。
2022-06-12 math.OC
On $\ell_p$-hyperparameter Learning via Bilevel Nonsmooth Optimization
我们提出了一个双层优化策略,选择最佳的超参数值的非光滑$\ell_p$正则化$0<p\le 1$。有关的双层最优化问题有一个非光滑的,可能是非凸的,$\ell_p$正则化的问题作为较低的水平问题。尽管最近流行的非凸$\ell_p$ -正则化和有用的双层优化选择超参数,算法这样的双层问题还没有被研究,因为$\ell_p$ -正则化的困难。我们的贡献是建议的第一个算法配备了理论保证找到最佳的超参数的$\ell_p$正则化监督学习问题。具体地说,我们提出了一个光滑型算法,为上述两层最优化问题,并提供了理论上的收敛性保证。事实上,由于最优性条件是不知道这样的双层最优化问题到目前为止,新的必要的最优性条件,这是所谓的SB-KKT条件,推导和它表明,所提出的算法产生的序列实际上积累在一个点上满足SB-KKT条件下一些温和的假设。该算法是简单和可扩展的,我们的数值比较贝叶斯优化和网格搜索表明。
2021-09-20 math.OC
Adaptive Mirror Descent Bilevel Optimization
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院)
本文针对非凸双层优化问题,基于镜像下降提出了自适应方法AdaPAG与AdaVSPAG,分别用于确定性和随机场景,并证明了其具有已知最佳的梯度复杂度和快速收敛速率。
2023-11-18 cs.LG math.OC
Simple Bilevel Programming and Extensions Part-II: Algorithms
本文继续研究简单双层和简单MPEC问题。在这篇文章中,我们专注于开发算法。我们展示了如何使用间隙函数的想法,可以表示一个简单的MPEC作为一个简单的双层问题与非光滑数据。这促使我们首先开发一个简单的两层问题的算法与非光滑数据和修改的计划,同样开发一个简单的MPEC问题的算法。我们还讨论了如何简单的双层制定一个简单的MPEC可以帮助我们在制定一个停止标准的简单MPEC问题
2019-12-13 math.OC
Stochastic Nonconvex Bilevel Optimization: Improved Rates Without Rare-Visit Assumption
University of Oxford(牛津大学);University of Economics and Business Vienna(维也纳经济与商业大学);University of Groningen(格罗宁根大学)
本文提出一种仅对DBGD乘子进行分母正则化的方法,在无需罕见访问假设下实现随机非凸双层优化的快速收敛,达到(ε, ε)-平稳性,改进了无假设复杂度。
2026-09-09 cs.LG math.OC
Lower Complexity Bounds for Nonconvex-Strongly-Convex Bilevel Optimization with First-Order Oracles
Kaiyi Ji(机凯毅)
针对光滑非凸-强凸双层优化,在确定性和随机一阶Oracle模型下,分别证明了$\Omega(\kappa^{3/2}\epsilon^{-2})$和$\Omega(\kappa^{5/2}\epsilon^{-4})$的下界,改进了单层非凸优化和极小极大问题的已知最优下界。
2026-06-15 cs.LG math.OC stat.ML
Risk-Averse Models in Bilevel Stochastic Linear Programming
我们考虑两层线性问题,其中一些参数是随机的,领导者必须在此时此地的方式决定,而追随者有完整的信息。在这种情况下,领导者的结果可以用一个随机变量来建模,我们根据一些规律不变的凸风险度量来评估。在基本概率分布扰动下给出了定性稳定性结果。此外,对于期望,期望超额和上半恒等式,我们建立了Lipschitz连续性以及可微的充分条件。最后,对于有限离散分布,我们将双层随机问题转化为标准双层问题,并提出了双层线性问题的正则化格式。
2019-01-31 math.OC
Single-loop Projection-free and Projected Gradient-based Algorithms for Nonconvex-concave Saddle Point Problems with Bilevel Structure
本文提出单循环无投影和投影梯度算法,用于求解具有双层结构的非凸-凹鞍点问题,分别达到ε-稳定解,并在鲁棒多任务回归中优于现有方法。
2025-03-28 math.OC
Approximation Methods for Bilevel Programming
研究了一类内目标函数为强凸的双层规划问题。在内外目标函数的偏导数都满足一定的mile假设条件下,给出了求解这类问题的一个近似算法,并在不同的外目标函数凸性假设条件下给出了算法的有限时间收敛性分析.我们还提出了一个加速变形的这种方法,提高了收敛速率下凸性假设。此外,我们推广了我们的结果在随机设置下,只有噪音信息的两个目标函数。据我们所知,这是第一次,这样的(随机)近似算法建立迭代复杂性(样本复杂性)提供了双层规划。
2018-02-06 math.OC
Constraint qualifications and optimality conditions in bilevel optimization
本文研究双层规划问题的约束规格和最优性条件。我们努力推导出可检查的约束规格的问题数据和适用的最优性条件。对于下层规划为凸规划的双层规划,讨论了用带互补约束的数学规划转化双层规划问题的缺点,并给出了用带广义方程约束的数学规划转化双层规划问题的一个新的尖锐的最优性必要最优性条件.对于具有非凸下层规划的双层规划,我们提出了一个松弛的常正线性相关(RCPLD)条件。
2019-10-09 math.OC
An Improved Unconstrained Approach for Bilevel Optimization
本文主要研究非凸-强凸双层最优化问题。在这个BLO中,上层问题的目标函数是非凸的,可能是非光滑的,而下层问题是光滑的,相对于底层变量$y$是强凸的。我们证明了BLO的可行域是一个黎曼流形。然后将BLO问题转化为相应的无约束约束求解问题,其目标函数由BLO问题的目标函数显式表示。我们证明了BLO等价于无约束最优化问题CDB。因此,各种有效的无约束的方法,连同他们的理论结果,可以直接应用到BLO通过CDB。我们提出了一个统一的框架,开发基于子梯度的方法,为CDB。值得注意的是,我们表明,现有的几个有效的算法可以适合统一的框架,并被解释为下降算法CDB。这些例子进一步证明了我们提出的方法的巨大潜力。
2022-12-23 math.OC
Sufficient optimality conditions in bilevel programming
本文讨论了含光滑函数的乐观双层最优化问题的一阶和二阶充分最优性条件的推导。通过估计两层规划可行集的切锥,得到了一阶充分最优性条件。这是通过利用几个不同的重新制定的分层模型作为一个单级的问题。为了获得二阶充分最优性条件,我们利用了所谓的价值函数重新制定的双层最优化问题,然后解决的援助,二阶方向导数。由此产生的条件可以说在初始问题的数据在几个有趣的情况下,包括设置较低的水平是线性的或具有强稳定的解决方案。
2019-11-05 math.OC
Second-Order Bilevel Optimization with Accelerated Convergence Rates
University of California, Riverside(加州大学河滨分校);The Chinese University of Hong Kong(香港中文大学);IIIS, Tsinghua University(清华大学交叉信息研究院)
本文提出完全二阶双层近似方法FSBA,实现非凸强凸双层优化的加速收敛率,并引入懒惰变种LFSBA提升计算效率,同时应用于非凸强凹最小化最大优化,提出LMCN方法。
2026-05-07 math.OC
Introduction to Mathematical Programming with Equilibrium Constraints (MPECs) and Bilevel Optimization
Northeastern University(东北大学)
本文介绍MPECs的概念、应用背景及等价形式,总结最优解的存在性理论,强调MPECs是通过另一个优化问题定义可行域的优化问题。
2026-05-01 math.OC
Simple Bilevel Programming and Extensions, Part-1: Theory
本文首先讨论了简单双层规划问题(SBP)及其推广的平衡约束下的简单数学规划问题(SMPEC)。在这里,我们首先定义这两个问题,并研究它们之间的相互关系。接下来,我们研究了各种类型的必要和充分的最优性条件的(SMPEC)问题,发生在各种重新制定。当下层目标为凸函数的梯度时,(SBP)问题的最优性条件是本文所得结果的特殊情况。在这里提出的各种最优性条件是序列最优性条件,它不需要任何约束规格。我们还提出了一个示意性的算法(SMPEC)的问题,其中顺序最优性条件发挥了关键作用的收敛性分析。
2019-12-13 math.OC
Convergent Semidefinite Programming Relaxations for Global Bilevel Polynomial Optimization Problems
本文考虑一个两层多项式最优化问题,其中上下层问题的目标函数和约束函数都是多项式。我们提出了使用一系列半定规划(SDP)松弛来寻找其全局极小值和全局极小值的方法,并给出了这些方法的收敛结果。我们的方案的问题与凸低级别的问题涉及到解决一个转换的等价单级问题的SDP松弛序列,而我们的方法一般问题,涉及一个非凸多项式低级别的问题,解决了一个序列的近似问题,通过另一个序列的SDP松弛。
2016-01-13 math.OC
Bilevel Programming Approach for Image Restoration Problems with Automatically Hyperparameter Selection
School of Mathematics and Statistics, Henan University(河南大学数学与统计学院);Center for Applied Mathematics of Henan Province, Henan University(河南省应用数学中心,河南大学);School of Nursing and Health, Henan University(河南大学护理与健康学院);School of Software, Henan University(河南大学软件学院)
本文提出双层规划方法自动选择图像恢复中的超参数,通过非光滑凸规划问题和交替方向乘子法实现高效恢复,实验表明其在恢复质量与计算时间上优于其他方法。
2026-04-02 math.OC
Regular Subgradients of Marginal Functions with Applications to Calculus and Bilevel Programming
本文研究了变分分析和参数优化中本质非光滑的最优值(边际)函数,通过给定数据精确计算其正则/Fréchet次梯度及奇异对应物,并据此建立了新的次梯度微积分法则和双层规划的必要最优性条件。
2025-02-04 math.OC
A parametric integer programming algorithm for bilevel mixed integer programs
我们考虑离散二层最优化问题,其中跟随者解决具有固定变量数的整数规划。利用参数整数规划的最新结果,我们提出了纯整数和混合整数双层问题的多项式时间算法。对于混合整数的情况下,领导者的变量是连续的,我们的算法还检测是否下确界成本未能达到,一个困难,已被确定,但没有直接在文献中解决。在这种情况下,它产生了一个“比完全多项式时间更好”的近似方案,其运行时间多项式为相对精度的对数。对于纯整数的情况下,领导的变量是整数,因此最优解是保证存在的,我们提出了两个算法,运行在多项式时间的变量的总数是固定的。
2009-11-02 math.OC
Learning Prosumer Behavior in Energy Communities: Integrating Bilevel Programming and Online Learning
本文提出整合双层规划与Thompson sampling的在线学习框架,通过观察响应动态设定最优价格并学习产消者行为,在向配电系统运营商提供容量限制服务的能源社区中实现低遗憾的快速特征收敛。
2025-01-29 math.OC
On Momentum-Based Gradient Methods for Bilevel Optimization with Nonconvex Lower-Level
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院)
针对下层非凸且满足PL条件的双层优化问题,提出了基于动量的梯度方法MGBiO及随机方法MSGBiO和VR-MSGBiO,并提供了收敛性分析,显著降低了样本复杂度,实验验证了算法的有效性。
2023-11-18 cs.LG cs.NA math.NA
On the Computational Complexity of Bilevel Integer Linear Programming
研究双层整数线性规划的计算复杂性,证明其决策版本对一般整数变量也是$\Sigma^p_2$完全的,解决40多年难题,还分析结构假设对复杂性的影响,强化相关结果,得出变量总数固定时可多项式时间求解的结论。
2026-07-20 math.OC
Necessary Optimality Conditions for Bilevel Programming using Tangential Subdifferentials
School of Mathematics, Hunan University(湖南大学数学学院)
本文利用切向次微分推导非光滑双层规划的必要最优性条件,提出序贯增强切向 Fritz--John 条件及相应 KKT 系统,并研究切向约束规范以保证其有效性,最后应用于值函数重构。
2026-09-30 math.OC
Combined approach with second-order optimality conditions for bilevel programming problems
本文提出了一种结合下层问题二阶最优性条件的方法来研究双层规划问题的约束规格和最优性条件。新方法的灵感来自于Ye和Zhu在2010年开发的组合方法,其中作者结合了经典的一阶和值函数方法来推导新的必要最优性条件。在我们的方法中,我们添加了一个二阶最优性条件的组合计划作为一个新的约束。我们发现,当所有已知的方法失败,添加二阶最优性条件作为约束,使相应的部分平静条件和由此产生的必要最优性条件更容易举行。并对一阶信息和二阶信息相结合的方法的优缺点进行了讨论。
2023-02-07 math.OC
On the Complexity of Finding Stationary Points in Nonconvex Simple Bilevel Optimization
Department of Electrical and Computer Engineering, The University of Texas at Austin(电气与计算机工程系,德克萨斯大学奥斯汀分校);Department of Systems and Industrial Engineering, The University of Arizona(系统与工业工程系,亚利桑那大学)
本文针对上下层均光滑非凸的简单双层优化问题,引入合适的平稳性概念,提出动态屏障梯度下降框架的可实现变体,证明其多项式时间复杂度,是首个保证两层联合平稳的离散时间算法复杂度结果。
2025-07-30 cs.LG math.OC
A simple algorithm for the simple bilevel programming (SBP) problem
针对简单双层规划(SBP)问题,提出一种无需假设上层目标可微、也不要求下层目标具有Lipschitz梯度的简单可实现算法,通过收敛性分析与数值实验验证了其有效性。
2025-04-16 math.OC
Asymptotic regularity for Lipschitzian nonlinear optimization problems with applications to complementarity-constrained and bilevel programming
渐近平稳性和正则性条件对于研究标准非线性和互补约束规划的数值解方法的定性性质是非常有用的。在本文中,我们首先将这些概念扩展到非光滑但Lipschitz数据函数的非线性最优化问题,以便在Clarke和Mordukhovich的次微分构造方面找到渐近平稳性和正则性的合理概念。特别是,我们比较相关的新的渐近约束规格与现有的。本文的第二部分介绍了所获得的理论的两个应用。一方面,我们指定我们的互补约束最优化问题的研究结果,并恢复最近的结果,从文献中展示的权力的方法。此外,我们暗示潜在的扩展或消失约束优化。另一方面,我们证明了有用的渐近正则性的上下文中的双层优化。更准确地说,我们证明了一个著名的平稳系统的亲和力约束的双层最优化问题在一个新的方式。之后,我们提出了一种解决这类双层最优化问题的算法,它结合了惩罚方法和DC-规划的思想。经过一个简短的收敛性分析,我们提出了一些数值实验的结果。
2021-09-01 math.OC
Iteration Complexity of Frank-Wolfe and Its Variants for Bilevel Optimization
本文研究了双层优化中Frank-Wolfe方法及其变体的迭代复杂性,分析了非凸情况下基于梯度误差的收敛率,并通过实验验证了理论结果。
2026-02-26 math.OC
Implicit Bilevel Optimization: Differentiating through Bilevel Optimization Programming
NEC Laboratories Europe(NEC欧洲实验室)
Bilevel Optimization Programming用于对智能体之间复杂和冲突的交互进行建模,例如在Robust AI或Privacy-Preserving AI中。因此,在深度学习中集成双层数学规划是机器学习社区的一个重要目标。以前提出的方法只考虑单级规划。在本文中,我们扩展了现有的单级优化编程方法,从而提出了通过双层优化编程(BiGrad)进行区分,用于使用双层规划作为层的模型的端到端学习。BiGrad具有广泛的适用性,可以用于现代机器学习框架。BiGrad适用于连续和组合双层优化问题。我们描述了一类梯度估计的组合的情况下,降低了计算复杂性方面的要求;连续变量的情况下,梯度计算利用推回的方法(即向量雅可比积)的有效实现。实验结果表明,BiGrad成功地扩展了现有的单级方法的双层规划。
2023-02-28 cs.LG math.CO math.OC
Improved KKT Complexity for First-Order Bilevel Optimization under Weak Lower-Level Convexity
RIKEN(理化学研究所);University of Tokyo(东京大学)
本文针对弱下层凸性的双层优化,提出非精确变量平滑惩罚方法(IVSP),在ENNAMCQ下证明有限惩罚参数稳定及ε-KKT点的一阶复杂度为Õ(ε^{-3}),并给出可验证条件与数值验证。
2026-10-01 math.OC
Solving bilevel problems with products of upper- and lower-level variables
本文针对上层线性、下层含上下层变量双线性项的双层规划问题,提出一种基于对偶间隙惩罚和双线性项线性化的迭代算法,并用数值算例验证其有效性。
2024-09-05 math.OC
Bilevel Aggregator-Prosumers' Optimization Problem in Real-Time: A Convex Optimization Approach
本文提出了一个实时市场(RTM)平台,聚合器和它的对应的产消者参与电力批发市场。该平台被建模为一个两层最优化问题,其中聚合者和产消者被认为是自我利益代理。目前基于平衡约束数学规划(MPEC)和混合整数规划(MIP)的双层最优化问题的求解方法在实时应用中并不令人满意。这种方法的计算时间随着产消者和决策变量数量的增加而呈指数级增长。本文提出了一个凸优化问题,它能捕获双层问题全局最优解集的一个子集作为其最优解。
2021-08-13 math.OC
Geometric and computational hardness of bilevel programming
本文揭示了双层优化的几何与计算硬度:无约束平滑双层规划与广义下半连续最小化同等困难,且多项式双层规划的判定版本是$Σ^p_2$-hard,凸显了对下层施加正则性的必要性。
2025-01-28 cs.CC math.OC
Bilevel gradient methods and the Morse parametric qualification condition
Toulouse School of Economics, University of Toulouse Capitole(图卢兹第一大学);CNRS & Université Côte d’Azur, Laboratoire J. A. Dieudonné(法国国家科学研究中心与蔚蓝海岸大学)
本文提出双层梯度方法与莫尔斯参数资格条件,探讨了双层优化问题的两种算法策略及其特性。
2026-03-04 math.OC
Improved x-space Algorithm for Min-Max Bilevel Integer Programming with an Application to Misinformation Spread in Social Networks
在这项工作中,我们提出了一个改进的$x$ -空间算法解决一类最小-最大双层最优化问题(唐Y,理查德·JP史密斯J.C.(2016),一类混合整数双层最小-最大优化算法。Journal of Global Optimization,66(2),225- 262)。在这种设置中,上层问题的领导者旨在通过最小化目标函数来限制跟随者的决策,跟随者打算通过使决策仍然对她可用来在下层问题中最大化目标函数。$x$空间算法连续求解上界和下界问题直到收敛,并且在公式化下界问题时需要对跟随者问题的近似进行对偶化。我们首先重新制定的下界问题使用的最优解的性质,原来的配方,这使得对偶步骤是不必要的。重新制定使得可能的贪婪覆盖启发式的解决方案,这导致在一个相当大的提高效率的集成。新算法被称为改进的$x$ -空间算法的实现和应用到最近的最小-最大双层最优化问题,在减少在社交网络中传播的错误信息的背景下出现。它也被评估的基准实例的其他两个两层问题:零1背包问题与阻断和最大集团问题与阻断。数值结果表明,新算法的性能优于原算法,也优于最近开发的混合整数双层线性规划算法。
2021-05-10 math.OC
A class of nonconvex semidefinite programming in which every KKT point is globally optimal
Institute of Science Tokyo(东京科学大学);The University of Tokyo(东京大学)
研究一类特殊非凸半定规划问题,证明每个KKT点都是全局最优,并应用于鲁棒分式规划和广义特征值优化。
2026-07-02 math.OC
Bilevel Inverse Problems in Neuromorphic Imaging
针对神经形态事件相机成像,本文提出双层逆问题框架,证明解的存在性、推导非凸情形的二阶充分条件,并设计二阶 Newton 型求解器,通过多个示例验证有效性。
2023-02-04 math.OC
A Generalized Alternating Method for Bilevel Learning under the Polyak-Łojasiewicz Condition
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
针对下层非凸且满足PL条件的双层优化问题,提出广义交替方法GALET,证明其迭代复杂度与单层光滑非凸问题的梯度下降相当,拓展了双层优化交替算法的适用场景。
2023-10-05 cs.LG math.OC
Decision Rule Approaches for Pessimistic Bilevel Linear Programs under Moment Ambiguity with Facility Location Applications
我们研究了一个悲观的随机二层规划的背景下,连续的两个球员的游戏,领导者作出了二元此时此地的决定,和追随者响应一个连续的观望的决定后,观察领导者的行动和启示的不确定性。只有均值、协方差和支持度的信息是已知的。我们制定的问题作为一个分布鲁棒(DR)两阶段的问题。悲观DR双层计划被证明是等价于一个通用的两阶段分布鲁棒随机(非线性)计划,在适当的条件下的模糊集的随机目标和随机约束。在连续分布下,基于0-1半定规划(SDP)逼近和0-1正余规划变换,利用线性决策规则方法,构造了悲观DR双层规划的上界.当模糊度集被限制为离散分布,一个精确的0-1 SDP的重新制定,并明确建设的最坏情况下的分布。为了进一步提高所提出的0-1 SDP的计算,切割平面框架的开发。此外,基于混合整数线性规划近似,提出了另一种割平面算法。大量的数值研究表明,所提出的方法对设施定位问题的有效性。
2022-06-07 math.OC
A geometric reformulation of the bilevel parameter optimization problem to a single level non-linear programming problem with applications to phase equilibria
University of Bremen(不来梅大学);Leibniz Institute for Materials Engineering - IWT(莱布尼兹材料工程研究所)
针对化学工程中相平衡相关的双层优化问题,本文提出将其几何重构为单层非线性规划的方法,该方法可全局最优求解且适用于各类黑箱热力学模型,为计算热力学难题提供了可靠高效的建模途径。
2026-08-19 math.OC
Improved guarantees for optimal Nash equilibrium seeking and bilevel variational inequalities
研究分层变分不等式问题,提出IR-EG和IPR-EG等算法,改进了双层变分不等式和受VI约束优化的迭代复杂度保证,并首次为非凸环境下的最优纳什均衡计算提供复杂度保证。
2024-09-27 math.OC
General Heuristics for Nonconvex Quadratically Constrained Quadratic Programming
我们介绍了一般非凸二次约束二次规划(QCQP)的建议和改进框架。使用这个框架,我们推广了一些已知的方法,并提供了算法来获得近似解QCQP没有专门的方法。我们还介绍了一个开源的Python包QCQP,它实现了本文中讨论的算法。
2017-05-16 math.OC
On Finding Small Hyper-Gradients in Bilevel Optimization: Hardness Results and Improved Analysis
IIIS, Tsinghua University(清华大学人工智能研究院);Shanghai Qizhi Institute(上海启智研究院);Shanghai AI Lab(上海人工智能实验室)
本文研究了双层优化中寻找超目标 stationary 点的难度,证明在非凸-凸情况下零尊重算法不可行,并提出在满足PL条件的非凸-非凸问题中,通过简单一阶算法获得更优复杂度界。
2026-04-28 cs.AI cs.LG math.OC
Robust Global Solutions of Bilevel Polynomial Optimization Problems with Uncertain Linear Constraints
本文首次研究了一类约束为不确定线性约束的二层多项式规划问题和另一个不确定线性最优化问题。在框数据的不确定性的情况下,我们提出了一个平方和多项式表征的全球解决方案,其强大的对应的约束,强制执行规定的不确定性集内的不确定性的所有实现。利用Farkas引理的一个新的推广,刻画了低层不确定线性规划在谱面不确定性下的鲁棒解,将鲁棒双层规划转化为一个单层非凸多项式最优化问题.在多项式目标函数为线性的条件下,利用Putinar代数几何中的正定定理,我们刻画了单级多项式规划的全局解.因此,我们证明了双层规划的鲁棒全局最优值是半定线性规划松弛的Lasserre型层次值序列的极限。通过数值算例说明了如何利用Matlab工具箱YALMIP求解半定规划问题来计算双层规划的鲁棒最优值。
2016-01-25 math.OC
Cardinality-Constrained Bilevel Capacity Expansion
针对双层容量扩展问题中链路选择与容量分配的次优性,提出引入基数约束实现位置与容量的联合优化,并开发惩罚凸差方法将其转化为可处理子问题,证明了收敛性且数值实验表明其在解质量和计算效率上优于其他方法。
2025-09-16 math.OC
Second-Order Optimality Conditions for Nonsmooth Constrained Optimization with Applications to Bilevel Programming
本文针对目标与约束函数均 Lipschitz 连续且二阶方向可微的非光滑优化问题,提出无凸性假设的无间隙二阶最优性条件,并应用于双层优化,在无需下层乘子唯一性条件下导出最优性条件。
2025-11-04 math.OC
Generic property of the partial calmness condition for bilevel programming problems
二层规划问题的部分镇定性是保证二层规划问题的局部最优解是部分惩罚问题的局部最优解的一个重要条件,其中较低层的最优性约束被移到目标函数上,从而可以应用较弱的约束规格.本文以部分误差界条件的形式给出了保证部分镇定条件的一个充分条件。从泛点的角度分析了基于Bouligand(B-)和Fritz John(FJ)平稳条件的组合程序的部分镇定性.我们的主要结果表明,部分误差界条件的组合程序的基础上B和FJ条件是通用的一个重要的设置与经济学中的应用,因此,部分冷静的组合程序是不是一个特别严格的假设。此外,我们推导出的组合规划的最优性条件的一般情况下,没有任何额外的约束规格,并显示我们的最优性条件和一个由Jongen和Shikhman在隐式形式给出的确切等价性。我们的论点是基于Jongen,Jonker和Twilt的一般(五种类型)分类的所谓广义临界点的一维参数最优化问题和Jongen和Shikhman的一般的局部约简BLPP。
2021-11-02 math.OC