Criticality of Lagrange Multipliers in Variational Systems
本文研究变分系统中拉格朗日乘子的临界性，这在最优化和变分分析的理论和数值方面都得到了承认。与以前的发展与多面体KKT系统等，我们现在专注于一般的非多面体系统，特别是与圆锥规划的问题。开发一种新的方法，这主要是基于先进的技术和工具的二阶变分分析和广义微分，使我们能够克服主要的挑战，非多面体，并建立完整的非临界乘数在这样的设置。所得结果通过半定规划的例子加以说明。
2018-08-11 math.OC
Uniqueness and stability of Lagrange multipliers and associated qualification conditions
Marburg University（马尔堡大学）；BTU Cottbus-Senftenberg（科特布斯-森夫滕贝格技术大学）
本文研究抽象空间中约束优化问题的拉格朗日乘子唯一性与稳定性，通过严格Robinson-Zowe-Kurcyusz条件与孤立平静性之间的关系，给出乘子唯一性的充分条件及等价刻画。
2026-06-04 math.OC
On the behavior of Lagrange multipliers in convex and non-convex infeasible interior point methods
我们分析了由内点方法（IPM）在凸和非凸设置产生的序列。我们证明了移动的原始可行性在相同的速度作为障碍参数$μ$确保拉格朗日乘子序列保持有界，提供原始序列的极限点有一个拉格朗日乘子。此结果不需要约束规格。我们还保证IPM找到一个解决方案，满足严格互补性，如果存在。另一方面，如果原始可行性降低得太慢，则算法收敛到最小互补点;如果原始可行性降低得太快，并且拉格朗日乘子的集合是无界的，则拉格朗日乘子的范数趋于无穷大。我们的理论具有重要的意义，IPM的设计。具体来说，我们表明，IPOPT，一个算法，不仔细控制原始可行性有实际问题的双重乘数值增长到不必要的大值。相反，\citet*{hinder2018one}的单阶段IPM（一种控制原始可行性的算法，正如我们的理论所建议的那样）没有这样的问题。
2019-06-11 math.OC
Existence of augmented Lagrange multipliers: reduction to exact penalty functions and localization principle
本文研究增广拉格朗日乘子的存在性，证明其在增长假设下等价于相关罚函数的精确性，并提出通过考察全局最优解附近局部行为来证明存在性的局部化原理。
2024-09-10 math.OC
Tight Relaxations for Polynomial Optimization and Lagrange Multiplier Expressions
本文提出了多项式优化的紧半定松弛。研究了最优性条件最优性条件。我们证明了一般情况下拉格朗日乘子可以表示为临界点集合上决策变量的多项式函数。多项式表达式可以由线性方程确定。在此基础上，构造了求解多项式最优化问题的新的Lasserre型半定松弛。我们证明了新的弛豫族具有有限收敛性，或者等价地，新的弛豫族对于有限的弛豫阶是紧的。
2018-04-06 math.OC
Lagrange multiplier expressions for matrix polynomial optimization and tight relaxations
University of California San Diego（加州大学圣迭戈分校）；Hefei Normal University（合肥师范学院）
本文提出了一种基于拉格朗日乘子表达式的加强矩-SOS层次结构，用于求解矩阵多项式优化问题，并证明其具有有限收敛性。
2026-01-10 math.OC
Optimality conditions and Lagrange multipliers for shape and topology optimization problems
讨论了具有Neumann边界条件和边界观测的几何最优化问题的一阶最优性条件。我们在这里开发的方法适用于大类的状态系统或成本泛函。我们的方法是基于隐式参数化定理和使用的哈密顿系统。它建立了等价的约束最优控制问题，并使用拉格朗日乘子下一个新的简单的约束规格。在这种设置中，执行一般的功能变化，以自然的方式组合拓扑和边界变化。
2022-10-06 math.OC
A Lagrange Multiplier Method for Semilinear Elliptic State Constrained Optimal Control Problems
本文将增广Lagrange方法应用于一类带逐点状态约束的半线性椭圆型最优控制问题。我们显示出强收敛的原始变量的局部解的原问题，以及弱收敛的伴随状态和弱 * 收敛的乘数与状态约束。此外，我们还证明了原问题的局部解的任意小邻域中存在不动点。此外，各种数值结果。
2018-10-24 math.OC
Partial Lagrange Multiplier Expressions and Disjunctive Decompositions for Bilevel Optimization
University of California, San Diego（加州大学圣迭戈分校）；University of Victoria（维多利亚大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出利用偏拉格朗日乘子表达式将双层优化问题转化为离散问题，并通过多项式优化技术高效求解，同时提供全局最优性和局部最优性的判定条件。
2026-02-26 math.OC
Computing optimal partition problems via Lagrange multiplier approach
本文研究最优划分问题的数值逼近，通过将其重写为受约束的梯度流，提出了基于拉格朗日乘子方法的三步和四步数值格式，该格式具有保持正交性、范数、正定性和能量耗散等良好性质且高效，2D和3D数值结果验证了其有效性和准确性。
2024-08-28 math.OC
A simple proof of existence of Lagrange multipliers
本文提出一个基于初等方法的简单证明，展示拉格朗日乘子在等式约束优化中的存在性，并扩展到锥约束情形。
2024-02-09 math.OC
A Lagrange Multiplier Expression Method for Bilevel Polynomial Optimization
本文研究二层多项式最优化问题。为了解决这些问题，我们给出了一种基于多项式优化松弛的方法。每个松弛是从Kurash-Kuhn-Tucker（KKT）条件下的下层优化和交换技术半无限规划。对于KKT条件，拉格朗日乘子表示为多项式或有理函数。Moment-SOS松弛法用于求解多项式优化松弛法。在一般假设下，证明了该算法解二层多项式最优化问题的收敛性。数值实验表明了该方法的有效性。
2021-06-09 math.OC
Lagrange Multipliers and Duality with Applications to Constrained Support Vector Machine
Fariborz Maseeh Department of Mathematics and Statistics, Portland State University（波特兰州立大学法里博兹·马西数学与统计系）；Department of Statistics and Operations Research, The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校统计与运筹学系）
本文提出一种改进的SVM模型，通过引入几何约束和正则化项，结合拉格朗日对偶性与凸优化技术，提升模型的泛化能力与鲁棒性。
2026-02-14 math.OC
Dynamic Lagrange Multipliers in a Non-concave Utility Framework
The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））；University of Waterloo（滑铁卢大学）
本文提出非凹效用框架下的动态拉格朗日乘数，连接了martingale对偶方法与动态规划方法，证明了拉格朗日乘数函数等于价值函数的共轭对偶点，并通过非凹效用例子验证了经典最优结果。
2026-04-16 math.OC
Delay Reduction via Lagrange Multipliers in Stochastic Network Optimization
本文研究随机网络效用最优化问题中的网络时延缩减问题。我们首先研究最近提出的二次李雅普诺夫函数为基础的算法（QLA）。我们证明了对于每个随机问题，都有一个相应的\emph{deterministic}问题，其对偶最优解在QLA下“指数吸引”网络积压过程。特别地，在QLA下的积压向量偏离吸引子的概率在它们的欧几里得距离中呈指数下降。这不仅有助于解释QLA如何实现期望的性能，而且还表明可以从QLA引起的系统中大致“减去”拉格朗日乘子。因此，我们开发了一个家庭的\emph{Fast Quadratic Lyapunov based Algorithms}（PDMATHLA），实现了$[O(1/V), O(\log^2(V))]$性能延迟权衡的问题与离散集的行动选项，并实现了平方根权衡连续的问题。这类似于Neely（2007）在先前的工作中通过漂移控制方法实现的最佳性能-延迟权衡，并且表明QLA算法也可以用于接近这样的性能。这些结果突出了拉格朗日乘子在网络调度中的“网络引力”作用。这个作用可以被看作是拉格朗日乘数在经典的基于流量的网络问题的流量调节中的“影子价格“作用的对应物。
2009-04-24 math.OC
Solving polynomial variational inequality problems via Lagrange multiplier expressions and Moment-SOS relaxations
本文研究了含有映射和可行集的变分不等式问题（简称多项式变分不等式），其可行集由多项式函数刻画（即多项式变分不等式）.我们提出了一个数值算法计算解决方案的多项式VIP的基础上拉格朗日乘子表达式和Moment-SOS层次的半定松弛。我们还扩展了我们的方法，找到更多甚至所有的解决方案多项式VIP。我们表明，本文提出的方法可以找到解决方案或检测不存在的解决方案，在许多步骤，在一些一般的假设。此外，我们还证明了如果VIP是由一般多项式给出的，那么它有200多个Karush-Kuhn-Tucker点，并且我们的方法可以在200多步内求解它。数值实验表明了所提方法的有效性。
2023-03-21 math.OC
Generic Existence of Unique Lagrange Multipliers in AC Optimal Power Flow
非线性、非凸最优化问题的解可能不满足KKT最优性条件，即使它们是最优的。这是因为除非满足约束规格（CQ），否则拉格朗日乘子可能不存在。即使KKT条件适用，乘数也可能不是唯一的。这些可能性也会影响交流最优潮流（OPF）的问题，这是例行解决的电力系统规划，调度和操作。复结构--特别是非线性潮流方程的存在，这些方程自然地表现出结构退化性--使得为整个问题类建立CQ的任何尝试都非常具有挑战性。在本文中，我们求助于微分拓扑的工具，以显示在各种情况下的AC OPF问题的线性无关约束规格满足几乎肯定的，从而有效地避免了通常的假设的CQ。因此，对于任何局部优化器，一般都存在一组唯一的满足KKT条件的乘数。
2018-06-18 math.OC
Lagrange Multipliers, (Exact) Regularization and Error Bounds for Monotone Variational Inequalities
我们研究单调变分不等式的两个中心正则化策略，第一个是操作单调映射的直接正则化，第二个是通过相关的对偶间隙函数的正则化。这些不同的正则化问题的解集之间的关系的一个关键环节是精确正则化的思想，这反过来又从根本上与正则化变分不等式的拉格朗日乘子的存在性相关。如果正则化问题的解是非正则化问题的解，并且所有参数都超过某个值，则称正则化是精确的。另一方面，对应于变分不等式的特定正则化的拉格朗日乘子通过对偶间隙函数来定义。我们的分析提出了各种概念，迭代正则化的数值方案，我们提供误差界，因此停止标准，在额外的假设下，解决方案集的非正则化问题是我们所谓的弱尖锐的顺序大于一。
2015-11-02 math.OC
Stochastic maximum principle with Lagrange multipliers and optimal consumption with Lévy wage
我们展示了如何随机版本的拉格朗日乘子方法可以结合随机最大值原理跳跃扩散，以解决某些约束的随机最优控制问题。两个不同的终端约束被认为是一个约束持有的期望和其他几乎肯定。作为该方法的一个应用，我们研究了通货膨胀和工资风险对最优消费的影响。为了做到这一点，我们考虑的最优消费问题的预算约束代理与Lévy收入过程和随机通货膨胀。代理人必须选择一条消费路径，使得他的财富过程满足终端约束。我们发现的CRRA效用的情况下，代理的最优消费的表达式，并给出了经济的解释的伴随过程。
2019-02-27 math.OC
Lagrange Multipliers, Duality, and Sensitivity in Set-Valued Convex Programming via Pointed Closed Convex Processes
本文针对预序赋范空间上的集值凸优化问题，引入以尖闭凸过程为变量的新拉格朗日乘子定理与对偶规划，建立强对偶定理并揭示对偶解与原问题灵敏度之间的联系，从而将标量规划方法推广到集值向量情形。
2024-01-15 math.OC
Second-order optimality conditions and Lagrange multiplier characterizations of the solution set in quasiconvex programming
研究了带不等式约束的向量非线性规划问题的二阶最优性条件。我们引入了一个新的二阶约束规格，其中包括Mangasarian-Fromovitz约束规格作为一个特殊的情况。得到了二阶拟凸向量目标函数和拟凸约束问题弱有效的充要条件。在Karush-Kuhn-Tucker条件下，我们还得到了一类具有拟凸不等式约束的二阶拟凸目标函数标量问题解集的Lagrange乘子刻画，条件是其中一个解和Lagrange乘子是已知的.最后，我们引入了一个二阶KKT-伪凸问题的概念，该问题带有不等式约束。我们得到了二阶KKT-伪凸问题有效性的充分条件和必要条件。三个例子。
2018-09-24 math.OC
A Set-Valued Lagrange Theorem based on a Process for Convex Vector Programming
针对受约束凸集值优化问题，本文引入 Lagrange 过程概念，以闭凸过程替代线性连续算子，建立了新的集值 Lagrange 乘子定理。
2024-01-15 math.OC
Several Accelerated and Stable Pseudo-Energy-Dissipative Lagrange Multiplier Methods based on Second-order Flow and Variable Splitting
Shandong University（山东大学）；Eastern Institute of Technology（东方理工学院）；The Chinese University of Hong Kong（香港中文大学）
基于二阶流和变量分裂，提出两种加速且稳定的拉格朗日乘子优化方法，具有伪能量耗散和收敛保证，实验验证其能逃离局部极小并鲁棒于学习率选择。
2026-10-01 math.OC
On error bounds and noncritical Lagrange multipliers
Johann Radon Institute for Computational and Applied Mathematics（Johann Radon计算与应用数学研究所）；Dresden University of Technology, Institute of Numerical Mathematics（德累斯顿工业大学数值数学研究所）
该研究在抽象集值映射框架下，通过非临界拉格朗日乘子与两种平静型性质刻画误差界，将结果应用于复合优化问题，恢复并扩展了相关已知刻画。
2026-10-14 math.OC
Full Waveform Inversion and Lagrange Multipliers
本文在统一拉格朗日框架下提出使用最小二乘乘子替代波场的新型全波形反演算法，提升了收敛效率与物理可解释性，并深入剖析了拉格朗日乘子在增强方程线性化及提升算法性能中的关键作用。
2023-11-18 math.OC
Lagrange Multipliers in locally convex spaces
本文研究了Hausdorff局部凸空间中含无穷多约束的数学规划问题，提出一般拉格朗日乘子规则，用Gateaux可微性替代Fréchet可微性，并引入“容许集”替代闭凸锥以推广现有结果。
2024-02-20 math.FA math.OC
A Correlatively Sparse Lagrange Multiplier Expression Relaxation for Polynomial Optimization
本文针对具有相关稀疏性的多项式优化问题，提出基于 KKT 条件的相关稀疏拉格朗日乘子表达式重构方法，结合 CS-SOS 松弛获得更紧下界，并在保证收敛性的同时显著降低计算成本。
2023-11-02 math.OC
Process-Based Lagrange Multipliers for Nonconvex Set-Valued Optimization
University of Alicante（阿利坎特大学）
本文提出了一种基于闭合凸过程的非凸集值优化拉格朗日乘子理论，通过几何框架扩展分离原理，并展示了其在无限维情况下的应用。
2026-02-05 math.FA math.OC
Equivalence of coupled parametric oscillator dynamics to Lagrange multiplier primal-dual optimization
最近，人们对基于物理的组合优化问题求解器的兴趣激增。我们提出了一个动态求解器的伊辛问题，是由一个网络的耦合参数振荡器，并表明它实现拉格朗日乘子约束优化。我们表明，泵浦耗尽效应，这是固有的参数振荡器，强制执行二进制约束，使系统的连续模拟变量收敛到最佳的二进制解决方案的优化问题。此外，耦合振子的运动方程与拉格朗日乘子原对偶法中的修正规则之间存在精确的对应关系。虽然我们的分析是使用电LC振荡器，它可以推广到任何系统的耦合参量振荡器。我们模拟的耦合振荡器系统的动力学，并证明了一组基准问题的求解器的性能是由数字算法在文献中获得的最知名的结果相媲美。
2022-04-05 cs.ET math.OC
A note on spherical maxima sharing the same Lagrange multiplier
在本文中，我们建立了球面极大值共享相同的拉格朗日乘子的一般结果，其中以下是一个特殊的结果：设$X$是一个实Hilbert空间。对于每个$r>0$，设为$S_r=\{x\in X : \|x\|^2=r\}$。设$J:X\to {\bf R}$是序列弱上连续泛函，且在$X\setminus \{0\}$中是Gâteaux可微的.假设$$\limsup_{x\to 0}{{J(x)}\over {\|x\|^2}}=+\infty\ .$$然后，对于每个$ρ>0$，存在开区间$I\subseteq ]0,+\infty[$和递增函数$φ:I\to ]0,ρ[$，使得对于每个$λ\in I$，具有$$\emptyset\neq \left \{x\in S_{φ(λ)} : J(x)=\sup_{S_{φ(λ)}}J\right\}\subseteq \{x\in X : x=λJ'(x)\}\ .$$
2013-11-05 math.FA math.OC
Lagrange Multiplier Local Necessary and Global Sufficiency Criteria for Some Non-Convex Programming Problems
本文考虑三个极小化问题，即二次、$ρ$ -凸和二次分式规划问题.考虑了带二次不等式约束的二次规划问题，其变量为有界连续和离散混合变量。研究了混合变量下带$ρ$ -凸不等式约束的$ρ$ -凸问题.研究了混合变量中带二次分式约束的二次分式问题。对于所有三个问题，我们重新制定的问题作为一个数学规划的问题，并应用标准的Karush库恩塔克必要条件。然后，对每个问题，我们都给出了局部最优性最优性条件。此外，对于每个问题的拉格朗日乘子充分最优性条件，以确定全球最小的局部极小。对于二次型问题，利用拉格朗日量的低估得到了所需的充分条件。对于$ρ$ -凸问题，我们得到了两个充分的最优性条件，以区分一个全球最小的局部极小，一个与低估的拉格朗日和其他不同的技术。通过将二次分式规划问题转化为二次规划问题，并利用二次规划问题的结果，得到了二次分式规划问题的一个全局最优性条件。提供的例子来说明所获得的结果的意义。
2018-03-19 math.OC
Solving constrained optimization problems without Lagrange multipliers
约束最优化问题存在于热力学、力学、经济学等许多科学领域，经典的求解方法是利用拉格朗日乘子和拉格朗日函数。然而，这种方法的缺点是它人为地增加了问题的维度。在这里，我们证明了问题（优化和约束函数）的雅可比行列式为零。这个额外的方程将任何等式约束的最优化问题转化为一个相同维数的求解问题。我们还引入了约束矩阵的雅可比矩阵的最大平方子矩阵的约束。约束域的边界由其行列式的零性给出。约束矩阵还允许将待优化的函数写成其任何变量的泰勒级数，其系数由偏导数的迭代过程代数地确定。
2021-01-10 cond-mat.mtrl-sci math.OC
Existence and Approximability Results for variational problems under uniform constraints on the gradient by power penalty
研究了梯度上一致拟凸约束下的变分问题。特别是，这些问题的解决方案的存在性证明，以及存在的拉格朗日乘子相关联的一致约束。它们满足欧拉-拉格朗日方程和互补性。我们的技术包括在近似的原始问题的一个参数家庭的光滑无约束最优化问题。数值实验证实了我们的方法能够准确地计算解决方案和拉格朗日乘子。
2014-05-28 math.OC
A new framework for constrained optimization via feedback control of Lagrange multipliers
Politecnico di Torino（都灵理工大学）
本文提出了一种基于反馈控制的新型优化框架，通过拉格朗日乘数的控制律设计，实现等式约束优化问题的收敛性分析与有效性验证。
2025-05-10 cs.SY eess.SY math.OC
Existence results on Lagrange multiplier approach for gradient flows and application to optimization
本文讨论梯度流的几何数值积分及其在优化中的应用。梯度流常作为各种物理现象的模型方程出现，其耗散律是必不可少的。因此，耗散数值方法，这是数值方法复制的耗散定律，已在文献中进行了研究。最近，Cheng，Liu和Shen提出了一种新的耗散方法，拉格朗日乘子方法，用于梯度流，这比现有的耗散方法在计算上更便宜。虽然它们的功效在现有的研究中得到了数值证实，但文献中并不知道拉格朗日乘子方法的存在结果。在本文中，我们建立了一些存在性结果。我们在一个相对温和的假设下证明了解的存在性。此外，通过限制我们自己到一个特殊的情况下，我们得到了一些存在性和唯一性的结果与具体的界限。由于梯度流也出现在最优化中，我们进一步将后者的结果应用到最优化问题中。
2022-12-27 cs.NA math.NA math.OC
On PI Controllers for Updating Lagrange Multipliers in Constrained Optimization
Mila—Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）
本文提出νPI算法，利用PI控制器更新约束优化中的拉格朗日乘子，解决了梯度下降-上升法的振荡不稳定问题，并证明其推广了单目标动量方法且超参数行为稳健可预测。
2024-06-07 cs.LG math.OC
On the Existence of Lagrange Multipliers in Distribution Network Reconfiguration Problems
本文研究将配电网重构中的二元开关状态重构为连续非凸约束后 KKT 条件的适用性，证明温和假设下局部最优解几乎必然存在 Lagrange 乘子。
2025-05-10 cs.SY eess.SY math.OC
Feedback control of Lagrange multipliers for non-smooth constrained optimization
本文提出基于控制理论的框架，用于解决包含非光滑项的约束优化问题，通过静态和动态控制器设计两种新算法，并证明在强凸条件下实现全局指数收敛。
2026-05-02 cs.SY eess.SY math.OC
On the determination of Lagrange Multipliers for a weighted LASSO problem using geometric and convex analysis techniques
本文利用凸分析技术，在保真项梯度符号固定或矩阵正交类条件下，解析确定体素级加权LASSO问题中拉格朗日乘子与约束的显式关系，并探讨其作为MRI重建与去噪调节参数的潜力。
2023-12-14 cs.NA math.NA math.OC
Almost-sure convergence of iterates and multipliers in stochastic sequential quadratic optimization
Lehigh University（里海大学）
本文针对带非线性等式约束的随机序列二次优化方法，证明了原问题迭代、拉格朗日乘子及平稳性度量的几乎必然收敛性，并利用乘子滑动平均消除随机梯度估计误差，辅以数值实验验证。
2023-08-07 cs.LG math.OC
