On strong second-order optimality conditions under relaxed constant rank constraint qualification
讨论了在放松的常秩约束规格下非线性规划的(一阶和二阶)最优性条件。这个条件推广了所谓的线性无关约束规格。虽然最优性条件在文献中已经很好地建立,但这里给出的证明仅仅基于著名的反函数定理。这是唯一的先决条件,从实分析用来建立两个辅助结果需要证明的最优性条件,从而使本文完全自成一体。
2022-04-26 math.OC
A true single-level reformulation for pessimistic bilevel optimization
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Southampton(南安普顿大学)
提出一种不依赖互补条件或最优值函数的真正单层重构(tSLR),使悲观双层优化满足经典约束规范,构建新最优性条件,实验表明其算法优于现有方法,表明该类问题可能更易求解。
2026-09-30 math.OC
Necessary Optimality Conditions for Bilevel Programming using Tangential Subdifferentials
School of Mathematics, Hunan University(湖南大学数学学院)
本文利用切向次微分推导非光滑双层规划的必要最优性条件,提出序贯增强切向 Fritz--John 条件及相应 KKT 系统,并研究切向约束规范以保证其有效性,最后应用于值函数重构。
2026-09-30 math.OC
Smoothing SQP methods for solving degenerate nonsmooth constrained optimization problems with applications to bilevel programs
我们考虑退化的非光滑和非凸最优化问题的标准约束规格,如广义Mangasarian Fromovitz约束规格(GMFCQ)可能不成立。利用具有梯度一致性的光滑函数逼近非光滑函数,在精确罚框架下提出了一种光滑序列二次规划(SQP)算法.证明了在乘子序列和精确罚参数序列有界的条件下,由光滑SQP算法生成的迭代序列的一个选定子序列的任何聚点都是Clarke平稳点.此外,我们提出了一个新的条件称为弱广义Mangasarian Fromovitz约束规格(WGMFCQ),是弱于GMFCQ。我们证明了WGMFCQ的扩展版本保证了乘子序列和精确罚参数序列的有界性,从而保证了光滑SQP算法的整体收敛。我们证明了WGMFCQ可以满足GMFCQ从来没有举行的双层计划。初步的数值实验表明,该算法对求解退化非光滑最优化问题(如简单双层规划)是有效的。
2014-06-03 math.OC
Tilt Stability for Nonlinear Programs under Relaxed Constant Rank Constraint Qualification
本文研究了有限维非线性规划局部极小点在放松的常秩约束规格下的倾斜稳定性。利用邻域原-对偶方法和次梯度图导数的微积分规则,得到了倾斜稳定局部极小点的一些基于点的刻画,以及倾斜稳定性的精确界的计算公式.这些结果推广了H. Gfrerer和B.S.Mordukhovich [SIAM J. Optim. 25(2015),2081-2119]通过放松约束规格并去除等式约束函数的梯度的线性独立性条件。举例说明我们的研究结果。
2025-08-09 math.OC
Directional necessary optimality conditions for bilevel programs
双层规划是一个最优化问题,其中约束涉及参数最优化问题的解。众所周知,值函数重构提供了一个等价的单层最优化问题,但它导致了一个非光滑最优化问题,该问题永远不满足通常的约束规格,如Mangasarian-Fromovitz约束规格(MFCQ)。在本文中,我们表明,即使是一阶充分条件的度量次正则性(这是在一般情况下弱于MFCQ)失败在每个可行点的双层计划。引入了方向镇定条件的概念,证明了在{the}方向镇定条件下,方向最优性条件成立。{虽然方向性最优性条件一般比非方向性条件更尖锐,}方向性平静条件一般比经典平静条件弱,因此更可能成立。{We进行价值函数的方向灵敏度分析,并提出方向拟正态性作为方向平静的充分条件。最后给出了一个例子,证明了二层规划的方向拟正规性条件成立。
2020-11-18 math.OC
Second-Order Optimality Conditions for Nonsmooth Constrained Optimization with Applications to Bilevel Programming
本文针对目标与约束函数均 Lipschitz 连续且二阶方向可微的非光滑优化问题,提出无凸性假设的无间隙二阶最优性条件,并应用于双层优化,在无需下层乘子唯一性条件下导出最优性条件。
2025-11-04 math.OC
A novel approach for bilevel programs based on Wolfe duality
本文考虑了一个在实际中有许多应用的双层规划。为了开发有效的数值算法,通常需要将双层规划转化为单层最优化问题。最常用的方法是用下层规划的KKT条件代替下层规划,然后将下层规划转化为带平衡约束的数学规划(MPEC)。然而,由于MPEC在任何可行点都不满足Mangasarian-Fromovitz约束规格资格,因此成熟的非线性规划理论无法直接应用于MPEC。在本文中,我们应用Wolfe对偶表明,在非常温和的条件下,双层规划是等价于一个新的单级reformation(简称WDP)的全局和局部最优意义。我们给出了一个例子来表明,不同于MPEC的重新制定,WDP可以满足Mangasarian-Fromovitz约束规格在其可行的点。给出了WDP重构的一些性质以及WDP重构与MPEC重构之间的关系。我们进一步提出了一种求解WDP的松弛法,并研究了它的极限行为。数值实验表明,虽然直接求解WDP的效果不好,但基于WDP重构的松弛法是相当有效的。
2023-02-14 math.OC
Relaxed constant positive linear dependence constraint qualification for disjunctive programs
析取系统是一个包含一个析取集的系统,该析取集是由许多多面体凸集的并构成的。本文对析取系统引入了松弛常数正线性相关约束规格(RCPLD)的概念。对于一个析取系统,我们的概念比我们最近为一个更一般的系统引入的概念要弱(J. Glob。Optim。2020年),仍为约束规格。为了得到该析取系统的局部误差界,我们引入了分段RCPLD,当所有的不等式约束函数都是次微分正则的且其余的约束函数都是光滑的时,在该条件下,误差界性质成立.然后,我们专门我们的结果正交析取规划,其中包括数学规划与平衡约束(MPEC),数学规划与消失的约束(MPVC)和数学规划与切换约束(MPSC)作为特殊情况。对于MPEC,我们恢复MPEC-RCPLD,RCPLD的MPEC变体,并提出了MPEC分段RCPLD获得{误差界属性}。对于MVC,我们引入了新的约束规格MPVC-RCPLD和分段RCPLD,这也意味着局部误差界。对于MPSC,我们表明,RCPLD和分段RCPLD重合,因此它导致的局部误差界。
2023-03-05 math.OC
Limiting Stationarity of Regularized Gap-Function Reformulations for Bilevel Optimization with Unbounded Multipliers
Southern University of Science and Technology(南方科技大学);National Center for Applied Mathematics Shenzhen(深圳应用数学国家研究中心)
研究双层优化正则化间隙函数重构中乘子无界问题,证明近似平稳序列聚点的C平稳性,给出反例说明标准重构可能不保证M平稳性,引入新惩罚公式并开发方法,使其聚点满足M平稳性。
2026-07-21 math.OC
A Bilevel Approach for Parameter Learning in Inverse Problems
研究了多惩罚Tikhonov正则化中正则化参数的学习选择方法。它导致一个双层最优化问题,其中较低级别的问题是一个正则化参数中参数化的Tikhonov正则化问题。给出了双层最优化问题解的存在性条件,并通过两个实例验证了这些条件。所产生的困难可能缺乏凸性的低级别的问题进行了讨论。在合理的约束规格成立的条件下,给出了最优性条件。最后,数值实验结果用于测试所开发的理论。
2018-02-05 math.OC
Extension of the value function reformulation to multiobjective bilevel optimization
本文考虑一个具有向量值上下两层目标函数的多目标双层最优化问题。近年来,这些问题引起了人们的极大兴趣。然而,到目前为止,标量化似乎是用于处理低层问题的主要方法。在这里,我们利用边界映射的概念,扩展了最优值函数的概念,我们的参数多目标低级别的问题。在此基础上,我们建立了一个易于处理的约束规格,我们用来推导必要的最优性条件的问题。随后,我们表明,我们得到的必要最优性条件代表了一个自然扩张,从标准的乐观的双层计划与标量目标函数。
2022-01-03 math.OC
Optimality Conditions and Duality for Multiobjective Fractional Bilevel Optimization Problems
本文提出了一种多目标分数双层优化问题的最优性条件与对偶性研究方法,利用非光滑约束资格条件和广义凸性概念,建立了更精细的最优性条件并证明了对偶定理。
2025-11-22 math.OC
Gauss-Newton-type methods for bilevel optimization
本文研究了求解超定系统双层规划问题的Gauss-Newton型方法。为了进行,我们使用较低级别的价值函数重新制定的双层计划,并考虑必要的最优性条件在适当的假设。首先严格互补的上下层的可行性约束下,我们证明了收敛的高斯-牛顿型方法在计算点满足这些最优性条件下额外的易处理的资格条件。潜在的方法,以解决该方法的缺点,然后提出,导致替代品,如伪或平滑高斯-牛顿型方法的双层优化。我们的数值实验进行了124个例子,从最近发布的双层优化库(BOLIB)比较我们的方法在不同的情况下的性能,并表明这是一个易于处理的方法来解决连续变量的双层最优化问题。
2020-03-06 math.OC
Duality-based single-level reformulations of bilevel optimization problems
针对双层优化问题需转化为单级问题的需求,重新审视基于下层三种对偶(拉格朗日、沃尔夫、蒙德-韦尔)的单级重构方法,指出其全局等价性及隐变量、约束规范违反等问题,反驳相关论文断言。
2025-02-14 math.OC
Improved KKT Complexity for First-Order Bilevel Optimization under Weak Lower-Level Convexity
RIKEN(理化学研究所);University of Tokyo(东京大学)
本文针对弱下层凸性的双层优化,提出非精确变量平滑惩罚方法(IVSP),在ENNAMCQ下证明有限惩罚参数稳定及ε-KKT点的一阶复杂度为Õ(ε^{-3}),并给出可验证条件与数值验证。
2026-10-01 math.OC
A Surrogate Value Function Formulation for Bilevel Optimization
针对双层优化价值函数隐式非光滑及 KKT 表述掩盖层次依赖的问题,提出基于下层平稳条件与支配约束的替代价值函数,并设计收敛的光滑障碍增广 Lagrangian 算法。
2025-10-19 math.OC
Duality Approach to Bilevel Programs with a Convex Lower Level
双层规划是最优化问题,其中一些变量是最优化问题本身的解,并且它们出现在各种控制应用中,包括:车辆交通网络的控制,逆强化学习和逆优化,以及人类自动化系统的鲁棒控制。本文提出了一种基于对偶的方法来求解下层问题是凸的双层规划。我们的方法是使用部分对偶构造一个新的对偶函数,是可微的,不像拉格朗日对偶,只有方向可微。我们使用我们的对偶定义一个基于对偶的双层规划的重构,证明我们的重构与原双层规划的等价性,然后引入正则化以确保约束规格成立。我们的新的对偶和正则化的对偶为基础的重新制定这些技术成果是用来提供理论证明的算法,我们构造的解决双层规划与凸的较低的水平,我们的结论是证明我们的算法的有效性,通过解决两个实际的例子双层规划。
2017-09-25 math.OC
Generic property of the partial calmness condition for bilevel programming problems
二层规划问题的部分镇定性是保证二层规划问题的局部最优解是部分惩罚问题的局部最优解的一个重要条件,其中较低层的最优性约束被移到目标函数上,从而可以应用较弱的约束规格.本文以部分误差界条件的形式给出了保证部分镇定条件的一个充分条件。从泛点的角度分析了基于Bouligand(B-)和Fritz John(FJ)平稳条件的组合程序的部分镇定性.我们的主要结果表明,部分误差界条件的组合程序的基础上B和FJ条件是通用的一个重要的设置与经济学中的应用,因此,部分冷静的组合程序是不是一个特别严格的假设。此外,我们推导出的组合规划的最优性条件的一般情况下,没有任何额外的约束规格,并显示我们的最优性条件和一个由Jongen和Shikhman在隐式形式给出的确切等价性。我们的论点是基于Jongen,Jonker和Twilt的一般(五种类型)分类的所谓广义临界点的一维参数最优化问题和Jongen和Shikhman的一般的局部约简BLPP。
2021-11-02 math.OC
Combined approach with second-order optimality conditions for bilevel programming problems
本文提出了一种结合下层问题二阶最优性条件的方法来研究双层规划问题的约束规格和最优性条件。新方法的灵感来自于Ye和Zhu在2010年开发的组合方法,其中作者结合了经典的一阶和值函数方法来推导新的必要最优性条件。在我们的方法中,我们添加了一个二阶最优性条件的组合计划作为一个新的约束。我们发现,当所有已知的方法失败,添加二阶最优性条件作为约束,使相应的部分平静条件和由此产生的必要最优性条件更容易举行。并对一阶信息和二阶信息相结合的方法的优缺点进行了讨论。
2023-02-07 math.OC
Convergence, Duality and Well-Posedness in Convex Bilevel Optimization
本文针对凸双层优化问题,指出强对偶性与算法收敛的挑战,证明强对偶性等价于内外层函数值的渐近收敛,并结合Levitin-Polyak适定性给出保证收敛到最优解集的条件。
2025-09-26 math.OC
Asymptotic regularity for Lipschitzian nonlinear optimization problems with applications to complementarity-constrained and bilevel programming
渐近平稳性和正则性条件对于研究标准非线性和互补约束规划的数值解方法的定性性质是非常有用的。在本文中,我们首先将这些概念扩展到非光滑但Lipschitz数据函数的非线性最优化问题,以便在Clarke和Mordukhovich的次微分构造方面找到渐近平稳性和正则性的合理概念。特别是,我们比较相关的新的渐近约束规格与现有的。本文的第二部分介绍了所获得的理论的两个应用。一方面,我们指定我们的互补约束最优化问题的研究结果,并恢复最近的结果,从文献中展示的权力的方法。此外,我们暗示潜在的扩展或消失约束优化。另一方面,我们证明了有用的渐近正则性的上下文中的双层优化。更准确地说,我们证明了一个著名的平稳系统的亲和力约束的双层最优化问题在一个新的方式。之后,我们提出了一种解决这类双层最优化问题的算法,它结合了惩罚方法和DC-规划的思想。经过一个简短的收敛性分析,我们提出了一些数值实验的结果。
2021-09-01 math.OC
Relaxation methods for pessimistic bilevel optimization
本文针对光滑悲观双层优化问题,引入五种KKT重构松弛方法,给出全局与局部最优解及C-和M-平稳点的收敛性结果,并通过数值实验验证算法有效性。
2025-09-11 math.OC
Bilevel hyperparameter optimization for support vector classification: theoretical analysis and a solution method
支持向量分类(SVC)是一种经典的、性能良好的分类学习方法。一个正则化参数,这显着影响分类性能,必须选择,这通常是通过交叉验证过程。在本文中,我们将支持向量分类的超参数选择问题转化为一个双层最优化问题,其中上层问题是最小化所有交叉验证折叠上的误分类数据点的平均数量,下层问题是l1损失SVC问题,每个问题对应于T折叠交叉验证中的每个折叠。然后将得到的双层最优化模型转化为带平衡约束的数学规划(MPEC)。为了解决这一问题,我们提出了一个全球松弛交叉验证算法(GR-CV)的基础上著名的肖尔茨型全球松弛法(GRM)。证明了它收敛于一个C-平稳点。此外,我们证明了MPEC定制版本的Mangasarian-Fromovitz约束规格(MFCQ),这是一个关键的属性,以保证收敛的GRM,自动持有在每个可行点的MPEC。大量的数值结果验证了所提出的方法的有效性。特别是,与其他方法相比,我们的算法享有优越的泛化性能,几乎所有的数据集在本文中使用。
2021-10-04 math.OC
Scholtes relaxation method for pessimistic bilevel optimization
本文针对悲观双层优化问题,在凸下层和Slater约束规范下基于KKT重构引入Scholtes松弛算法,并证明其全局/局部最优解及稳定点的收敛性,为该类难题提供了可处理且良定义的求解框架。
2024-08-12 math.OC
Distributed Bilevel Optimization with Communication Compression
针对分布式双层优化通信开销大的问题,提出首个带通信压缩的算法族,通过无偏压缩、移动平均等技术,实现10倍通信减少且保持收敛性能。
2024-05-29 math.OC
Optimal Algorithms for Stochastic Bilevel Optimization under Relaxed Smoothness Conditions
UC Davis(加州大学戴维斯分校)
本文提出一种全单循环、免Hessian求逆的随机双层优化算法,在标准光滑性假设下达到最优复杂度,并扩展至多目标鲁棒情形,实验验证其性能优势。
2023-06-21 cs.LG math.OC stat.ML
Unified Smoothing Approach for Best Hyperparameter Selection Problem Using a Bilevel Optimization Strategy
针对 $\ell_p$ 正则项超参数选择的非光滑双层问题,提出更紧的双层 KKT 条件及基于 Chen-Mangasarian 类光滑函数的统一光滑化算法。
2023-04-20 math.OC
On the weak stationarity conditions for Mathematical Programs with Cardinality Constraints: a unified approach
本文研究了一类具有基数约束的数学规划问题(MPCaC),即最优化问题。这类问题通常很难处理,因为它涉及到一个既不连续也不凸的约束,但提供稀疏的解决方案。因此,我们重新制定MPCaC在一个合适的方式,通过建模为混合整数问题,然后解决其连续的对应,这将被称为放松的问题。我们研究放松的问题,通过分析经典的约束在两种情况下:线性和非线性。在线性的情况下,我们提出了一个一般的方法,并提出了讨论的Guignard和Abadie约束规格,证明在这种情况下,每个极小的放松问题满足Karush-Kuhn-Tucker(KKT)条件。另一方面,在非线性的情况下,我们表明,一些标准的约束规格可能会被违反。因此,我们不能断言KKT点。出于寻找MPCaC问题的最小值,我们定义了新的和较弱的平稳性条件,提出了一个统一的方法,从最弱到最强的平稳性。
2020-07-31 math.OC
Optimality conditions and constraint qualifications for cardinality constrained optimization problems
基数约束最优化问题(CCOP)是一个任意可行点的非零分量的最大数目有界的最优化问题。在本文中,我们认为CCOP是一个数学规划与析取子空间约束(MPDSC)。由于子空间是凸多面体集的特殊情况,因此MPDSC是具有析取约束的数学规划(MPDC)的特殊情况。利用子空间的特殊结构,我们能够得到更精确的公式切和(方向)正常的锥的析取集的子空间。然后利用MPDC的相应结果得到了一阶和二阶最优性条件最优性条件。由于子空间的特殊结构,我们能够得到一些结果MPDSC不一般的MPDC。特别是,我们表明,放松常数正线性相关性(RCPLD)是一个充分条件的度量次正则性/误差界属性的MPDSC,这是不正确的MPDC一般。最后,我们表明,在本文提出的所有约束规格,一定的精确惩罚CCOP。
2022-09-17 math.OC
On the Nature of Regularity Assumptions in Bilevel Optimization with Constrained Lower-level Problem
University of Minnesota(明尼苏达大学);Shanghai University of Finance and Economics(上海财经大学)
本文研究了双层优化中正则性假设的实质,指出'每个x'条件过于严格,而'几乎每个x'条件更实用,但两者在理论和计算中存在根本差异。
2026-05-14 math.OC
Beyond Value Functions: Single-Loop Bilevel Optimization under Flatness Conditions
针对 LLM 微调中双层优化需 Hessian 向量计算或嵌套循环的效率问题,提出基于一阶惩罚的单循环 PBGD-Free 算法,并在松弛平坦性条件下证明收敛性。
2025-07-27 math.OC
On Lipschitz-like continuity of a class of set-valued mappings
研究了由参数等式和不等式组的解集定义的集值映射。在放松的常秩约束规格下证明了这些映射的Lipschitz连续性。
2019-05-20 math.OC
Separation, Constraint Qualifications, and Cycling in Outer Approximation
KTH Royal Institute of Technology(皇家理工学院)
研究外部逼近算法中约束规格和子问题精确求解对循环的影响,提出使用扩展割平面作为回退策略,在放宽假设下实现有限收敛。
2026-06-26 math.OC
ADMM-based Bilevel Descent Aggregation Algorithm for Sparse Hyperparameter Selection
Henan University(河南大学);Shenzhen Polytechnic University(深圳职业技术大学)
本文提出了一种基于ADMM的双层下降聚合算法,用于解决稀疏超参数选择问题,通过非光滑凸优化方法实现了全局收敛性分析,并在实验中验证了其有效性。
2026-03-10 math.OC
Bilevel Imaging Learning Problems as Mathematical Programs with Complementarity Constraints: Reformulation and Theory
Research Center for Mathematical Modeling (MODEMAT)(数学建模研究中心(MODEMAT));Escuela Politécnica Nacional(国立理工学院)
我们研究了一个家庭的双层成像学习问题,其中较低级别的实例对应于一个凸变分模型,涉及一阶和二阶非光滑稀疏正则化。通过利用下层问题原始-对偶重构的几何性质并引入合适的双变量,我们能够将原双层问题重构为带互补约束的数学规划(MPCC).对于后者,我们证明了紧约束规格条件(MPCC-RCPLD和部分MPCC-LICQ),并推导出Mordukhovich(M-)和强(S-)平稳性条件。MPCC的平稳性系统也变成了原始公式的平稳性条件。二阶充分最优性条件,以及推导出的局部唯一性结果的驻点。建议的重新制定可能会扩展到函数空间的问题,导致MPCC的状态梯度的约束。MPCC的重新制定也导致有效地利用现有的大规模非线性规划求解器,如在配套文件中,不同的成像应用进行了研究。
2023-03-20 cs.CV cs.LG math.OC
Coderivatives with respect to a set of the normal cone mappings and their applications
本文推导了多面体法锥映射相对于集合的余导数显式公式,并据此刻画了其Aubin性质,进而为简单双层优化问题在弱约束资格条件下提供了必要最优性条件。
2023-12-26 math.OC
On Lipschitz-like property for polyhedral moving sets
基于Minchenko和Stakhovsky最近提出的松弛常数秩约束规格(RCRCQ),给出了希尔伯特空间中一类多面体集值映射类Lipschitz的充分条件.为此,我们证明了所考虑的集值映射的R-正则性,并纠正了这些作者给出的相应证明。
2018-11-13 math.OC
Perturbed Gradient Descent via Convex Quadratic Approximation for Nonconvex Bilevel Optimization
本文提出一种基于凸二次近似的扰动梯度下降方法,用于解决非凸-非凸双层优化问题,在KKT残差平方范数下实现O(1/ε^1.5)迭代复杂度,并通过实验验证其效率与可扩展性。
2025-04-24 math.OC
Weak notions of nondegeneracy in nonlinear semidefinite programming
约束非退化条件是非线性半定规划中最重要和最有用的约束规格之一。它的特点是在任何固定的规范正交基,让我们说,$\ell$维内核的约束矩阵,由线性独立的一组$\ell(\ell+1)/2$衍生向量。我们表明,这种线性独立的要求,可以等价地制定在一个较小的集合,$\ell$衍生向量,考虑所有的规范正交基的内核。这使我们能够确定,并不是所有的基地是相关的一个约束规格被定义,从而产生一个严格的较弱的变种nondegeneracy相关的整体收敛的外部惩罚方法。我们使用其中的一些想法,重新审视的方法Forsgren [数学。88,105- 128,2000]用于利用约束的变换的稀疏结构来定义约束规格,这使我们使用更简单的变换来开发非简并性的另一个放松的概念。如果考虑约束函数在给定点处的导数的零点,而不是函数本身在该点的邻域中的零点,则我们得到连接Forsgren条件和我们的条件的更弱的约束规格。
2022-03-15 math.OC
Bilevel Optimization for Machine Learning: Algorithm Design and Convergence Analysis
The Ohio State University(俄亥俄州立大学)
双层优化已经成为各种机器学习应用中的强大框架,包括元学习、超参数优化和网络架构搜索。机器学习通常有两类双层优化公式:1)基于问题的双层优化,其内层问题被公式化为找到给定损失函数的最小值;以及2)基于算法的双层优化,其内层解是固定算法的输出。对于第一类,已经提出了两种流行类型的基于梯度的算法通过近似隐式微分(AID)和迭代微分(ITD)的超梯度估计。第二类算法包括流行的模型不可知元学习(MAML)和几乎没有内部循环(ANIL)。然而,二层优化算法的收敛速度和基本局限性还没有得到很好的探讨。本文对上述两类双层算法的收敛速度进行了全面的分析。我们进一步提出了原则性的算法设计的双层优化具有更高的效率和可扩展性。对于基于问题的配方,我们提供了一个收敛速度分析AID和ITD为基础的双层算法。然后,我们开发的加速双层算法,我们提供的成形器收敛分析与放松的假设。我们还提供了第一个下界的双层优化,并建立在一定的条件下,通过提供匹配的上界的最优性。最后,我们提出了新的随机双层优化算法,具有较低的复杂性和较高的效率,在实践中。对于基于算法的配方,我们开发了一般的多步MAML和ANIL的理论收敛性,并表征参数选择和损失几何形状对它们的复杂性的影响。
2021-07-31 cs.LG math.OC stat.ML
Gradient based Bilevel for Inverse Optimal Control, a Riemannian approach
INRIA Bordeaux, Université de Bordeaux(法国国家信息与自动化研究所波尔多中心,波尔多大学);INRIA Nancy, Université de Lorraine(法国国家信息与自动化研究所南锡中心,洛林大学);LAAS-CNRS, Université de Toulouse, CNRS(法国国家科学研究中心系统分析与架构实验室,图卢兹大学,法国国家科学研究中心)
提出一种黎曼逆最优控制方法,将最优轨迹集视为流形,通过流形上的优化避免标准约束违规,计算时间减少约四倍。
2026-06-09 cs.RO cs.SY eess.SY
DSO Led-Bilevel Optimization Framework for TSO-DSO Coordination across Active Distribution Networks
University of Santiago of Chile (USACH), Faculty of Engineering(智利圣地亚哥大学工程学院)
本文提出一种DSO主导的双层优化框架,用于协调主动配电网中的传输与配电层交互,通过混合整数二次锥规划模型提升BESS利用效率,减少电网进口,适用于大规模多ADN系统。
2026-03-24 math.OC
Safe Gradient Flow for Bilevel Optimization
Johns Hopkins University(约翰斯·霍普金斯大学);The University of Arizona(亚利桑那大学)
本研究针对双层优化问题,提出结合梯度流机制与安全滤波器的安全梯度流方法,还设计了可提升维度扩展性的松弛紧凑变体,通过李雅普诺夫分析证明收敛性,经数值实验验证有效,为双层优化提供理论与工具支持。
2025-03-21 cs.LG cs.SY eess.SY
Improving Directions in Mixed Integer Bilevel Linear Optimization
Lehigh University(利哈伊大学)
本文提出了一种基于改进可行方向的混合整数双层线性优化求解框架,通过统一处理可行性检查与有效不等式生成,提升求解效率。
2025-12-30 cs.MS math.OC
DUET: Decentralized Bilevel Optimization without Lower-Level Strong Convexity
Department of Electrical and Computer Engineering, The Ohio State University(俄亥俄州立大学电气与计算机工程系);Department of Computer Science and Engineering, University of North Texas(北卡罗来纳州立大学计算机科学与工程系);Department of Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学计算机科学与工程系)
针对去中心化双层优化中下层强凸性限制,提出单循环算法DUET,通过引入递减二次正则化消除该假设,并利用梯度跟踪处理数据异质性,实现近似KKT稳定点收敛。
2026-06-23 cs.LG math.OC
Optimal Experimental Design for Constrained Inverse Problems
Emory University(埃默里大学);Virginia Tech(弗吉尼亚理工大学)
本文研究了约束反问题的最优实验设计,提出两种方法通过减少测量次数来降低实验成本,并在贝叶斯风险和经验贝叶斯风险框架下进行优化,采用衍生方法解决高维双层优化问题。
2017-08-16 cs.NA math.NA math.OC