Survey on Lagrangian Relaxation for MILP: Importance, Challenges, Historical Review, Recent Advancements, and Opportunities
本文综述了拉格朗日松弛在求解MILP问题中的重要性、历史里程碑(自1967年Polyak工作起)与最新进展,并探讨了其当前的应用机遇。
2023-07-06 cs.DC cs.DM cs.SY
On Generating Lagrangian Cuts for Two-Stage Stochastic Integer Programs
本文研究了两阶段随机整数规划的拉格朗日截集生成方法。拉格朗日切割可以被添加到一个Benders重新制定,并来自解决单一的情况下整数规划子问题中使用的nonanticipative拉格朗日对偶的随机整数规划。虽然拉格朗日切割有可能显着增强Benders松弛,但生成拉格朗日切割可能需要计算。我们研究新的技术产生拉格朗日削减获得的方法,提供显着的改善,迅速放松的目标。计算结果表明,我们所提出的方法提高了Benders松弛显着快于以前的方法生成拉格朗日切割,当使用在分支和切割算法,显着降低了搜索树的大小为三类测试问题。
2022-01-20 math.OC
A Lagrangian relaxation view of linear and semidefinite hierarchies
考虑一般多项式最优化问题$P: f^*=\min \{f(x)\,:\,x\in K\}$,其中$K$是一个紧的基本半代数集.我们首先表明,标准的拉格朗日松弛产生一个下界,如所需的全局最优值$f^*$,只要它被施加到一个问题$\tilde{P}$相当于$P$,其中足够多的冗余约束(产品的初始)被添加到初始描述的$P$。接下来,我们证明了$P$的LP松弛的标准层次(在Sherali-Adams的RLT的精神中)可以被解释为上述拉格朗日松弛的强力简化,其中非负多项式(系数待定)被替换为等于零的常数多项式。受这种解释的启发,我们提供了一个系统的LP-层次结构的改进,做了一个不那么残酷的简化,结果成一个参数化的层次结构的半定程序(而不是线性程序)。对于每个半定程序的参数化层次结构中,半定约束有一个固定的大小$O(n^k)$,独立的等级在层次结构中,与标准层次的半定松弛。参数$k$由用户决定。当应用到一个非平凡的一类凸问题,参数化的层次的第一松弛是准确的,在LP-层次的收敛不能是有限的。当应用于0/1程序时,它至少和半定松弛层次中的第一个一样好。然而,准确性的障碍仍然存在,并简要分析。最后,标准的半定层次也可以被看作是一个扩展的拉格朗日松弛的简化,但不同的精神,因为平方和(而不是标量)乘数是允许的。
2012-10-17 math.OC
Relaxations and Duality for Multiobjective Integer Programming
本文研究多目标整数规划的松弛与对偶理论,提出连续、凸包和拉格朗日松弛并分析其关系,构造了在支撑解处具有强对偶性的拉格朗日对偶和集值超加性对偶,并通过数值实验验证拉格朗日对偶可获得更紧的界。
2023-09-15 math.OC
SDP-based bounds for the Quadratic Cycle Cover Problem via cutting plane augmented Lagrangian methods and reinforcement learning
本文研究了二次圈覆盖问题(QCCP),该问题的目标是在有向图中找到一个节点不相交的圈覆盖,并且相邻弧之间的交互代价最小。我们得到几个半定规划(SDP)松弛,并使用面部减少,使这些严格可行的。我们调查的非平凡之间的关系的变换矩阵中使用的减少和图的结构,这是利用一个有效的算法,构造这个矩阵的任何实例的问题。为了解决我们的松弛,我们提出了一个算法,利用Dykstra的投影算法,将增广拉格朗日方法到一个切割平面框架。我们的算法是适合于解决SDP松弛与大量的切割平面。计算结果表明,我们的SDP边界和我们的高效切割平面算法优于其他QCCP边界的方法从文献中。最后,我们提供了几种基于SDP的上界技术,其中一种是顺序Q学习方法,它利用了我们在强化学习环境中的SDP松弛解决方案。
2021-02-18 math.OC
A Low-rank Augmented Lagrangian Method for Polyhedral-SDP and Moment-SOS Relaxations of Polynomial Optimization
National University of Singapore(新加坡国立大学)
本文提出RiNNAL-POP方法,通过低秩增广拉格朗日方法高效解决多项式优化问题的多面体-半正定规划松弛及矩-SOS松弛。
2025-12-06 math.OC
A Fast Solution Method for Large-scale Unit Commitment Based on Lagrangian Relaxation and Dynamic Programming
机组组合问题是电力系统运行和市场机制的关键问题。随着现代电力的发展,电力系统的规模不断扩大,解决UC问题的难度也越来越大。为此,本文提出了一种新的基于拉格朗日松弛和动态规划的快速求解方法。首先,通过基于拉格朗日松弛的快速方法估计UC解是初始试探UC解。该初步试验UC解决方案充分考虑了系统范围的约束。其次,引入动态规划模块,调整UC解,使其满足单元约束。第三,提出了一种基于调整后的试验UC解构造可行UC解的方法。具体来说,建立了UC方案的可行性检验模型和升级策略。在IEEE 24节点、IEEE 118节点、波兰2383节点和法国6468节点系统上进行了数值试验,验证了所提方法的有效性。
2022-11-03 cs.SY eess.SY math.OC
The uplift payment elimination through the Lagrangian relaxation of the redundant constraints
在存在非凸性的情况下,电力市场可能不具有提供集中调度结果的经济稳定性的电力均衡价格。在这种情况下,为了实现经济稳定的结果,向市场参与者支付的追加付款被引入作为定价原则的一部分。给定一般的定价原则,涉及损失的利润补偿的形式的提升付款,我们研究了一个问题,如果它是可能的,在市场上推出新的产品/服务和相关的价格,使集中调度最优化问题的最优解集不受影响,利润收到的每个市场参与者在集中调度时间表不变,没有一个市场参与者失去利润。这些新的产品/服务和相应的价格可以被视为起源于拉格朗日松弛冗余约束,这并不改变集中调度计划。对于任何给定的市场价格(或定价算法,生产者的收入作为其输出量的函数)在单节点多周期电力市场固定负荷,我们明确地构建了一个家庭的冗余约束,不改变任何生产者的最大利润,并导致零总提升支付。该分析可以直接扩展到一个多节点多时期的市场价格敏感的需求。
2022-11-17 math.OC
Quantum and Simulated Annealing-Based Iterative Algorithms for QUBO Relaxations of the Sparsest $k$-Subgraph Problem
本文提出三种QUBO松弛及相应迭代算法求解最稀疏k-子图问题,通过理论刻画精确参数条件,并利用模拟退火与量子处理单元高效求解,实验验证了其有效性。
2025-09-10 math.OC
Surrogate "Level-Based" Lagrangian Relaxation for Mixed-Integer Linear Programming
混合线性规划(MILP)在一系列科学学科和对社会具有战略重要性的领域中发挥着重要作用。MILP问题,然而,遭受组合的复杂性。由于整数决策变量,随着问题大小的增加,可能的解决方案的数量超线性地增加,从而导致计算工作量的急剧增加。为了有效地解决MILP问题,“基于价格”的分解和协调方法开发利用1。分解后复杂度的超线性降低; 2.几何收敛潜力固有的波利亚克的步进公式,以最快的协调可能获得近最优解的计算效率的方式。与以前所有通过调整超参数来精确地设置步长的方法不同,获得步长的关键新方法是纯粹基于决策的:解决了一个新的“辅助”约束满足问题,从中推断出适当的步长。对大规模广义指派问题(GAP)的测试结果表明,对于大多数情况下,得到了可证明的最优解。对于随机作业车间调度以及制药调度,计算结果表明,两个数量级的加速相比,分支和切割(B&C)。这种新方法对有效解决各种科学领域中出现的复杂混合整数规划(MIP)问题具有重大影响。
2023-01-04 cs.DM math.CO math.OC
Sharp and fast bounds for the Celis-Dennis-Tapia problem
在Celis-Dennis-Tapia(CDT)问题中,一个二次函数在由两个严格凸二次约束定义的区域上被最小化.在本文中,我们重新推导出一个必要的和最优性条件的精确性的对偶拉格朗日界(相当于在这种情况下的Shor松弛界)。从这样的条件出发,我们建议通过增加一个或两个线性切割拉格朗日松弛来加强对偶拉格朗日约束。这样的切割是从两个约束之一的支撑超平面获得的。因此,它们对于原问题是多余的,但对于拉格朗日松弛却不是。计算实验表明,新的界限是有效的,并需要有限的计算时间。特别是,提出的边界之一能够解决[Burer,Anstreicher,2013]中提出的CDT问题的212个困难实例中的所有实例。
2022-01-17 math.OC
Wasserstein Robust Performative Prediction via Lagrangian Relaxation
KTH Royal Institute of Technology(皇家理工学院);Digital Futures(数字未来)
针对数据有限时模型部署引发分布偏移的执行性问题,提出基于Wasserstein分布鲁棒框架,通过拉格朗日松弛转化为可解极小极大优化,并设计迭代算法收敛到执行稳定点。
2026-07-02 math.OC
Lagrangian Relaxation for Continuous-Time Optimal Control of Coupled Hydrothermal Power Systems Including Storage Capacity and a Cascade of Hydropower Systems with Time Delays
针对带时滞梯级水电的耦合水火储电力系统无法用经典动态规划求解连续时间最优控制的问题,提出新型连续时间约束拉格朗日松弛法,结合有限内存束法、HJB PDE求解器等实现高效近似最优控制,经乌拉圭电力系统验证有效。
2024-04-11 math.OC
On the Tightness of the Lagrangian Dual Bound for Alternating Current Optimal Power Flow
研究了非凸交流最优潮流(ACOPF)问题的拉格朗日对偶(LD)界的紧性。我们展示了一个LD界,可以计算在一个并行的,分散的方式。具体而言,所提出的方法划分成一组子网络的网络,对偶的耦合约束(给LD功能),并最大化LD功能相对于对偶变量的耦合约束(给所需的LD界)。最大化LD的对偶变量通过使用近端束方法获得。我们表明,该界是不那么紧比流行的半定规划松弛,但紧的二阶锥规划松弛。我们使用PGLib-OPF测试实例展示了我们的开发。
2021-11-09 math.OC
A low-rank augmented Lagrangian method for doubly nonnegative relaxations of mixed-binary quadratic programs
本文提出全局收敛的黎曼低秩增广拉格朗日方法 RNNAL,通过等价简化 BM 分解约束并求解非凸代数簇投影,高效处理大规模混合二元二次规划的 DNN 松弛。
2025-02-19 math.OC
Enhanced Physics-Informed Neural Networks with Augmented Lagrangian Relaxation Method (AL-PINNs)
Hanbat National University(韩巴大学);Korea Advanced Institute of Science and Technology(韩国科学技术院);Pohang University of Science and Technology(浦项科技大学)
本文提出AL-PINNs方法,将初始和边界条件作为约束,利用增广拉格朗日松弛将PINNs训练转化为序列化最大-最小问题,实现损失分量自适应平衡,并在多个方程上验证其相对误差显著低于现有自适应损失平衡算法。
2023-05-31 cs.AI cs.LG cs.NA
Solving the train-platforming problem via a two-level Lagrangian Relaxation approach
本文针对繁忙高铁站的列车站台分配问题,构建两层时空网络和非线性规划模型,提出两层拉格朗日松弛方法,在现实算例中平均距最优解约2%,运营层面最优性差距约1%,优于LBBD等方法。
2024-05-02 math.OC
Convergence of the Lasserre Hierarchy of SDP Relaxations for Convex Polynomial Programs without Compactness
半定规划(SDP)松弛的Lasserre层次是一个有效的计划,寻找计算上可行的多项式优化的SDP近似紧半代数集。在本文中,我们表明,凸多项式优化,Lasserre层次与一个稍微扩展的二次模总是渐近收敛,即使在面对非紧的半代数可行集。我们这样做,利用凸多项式的bavity属性,下面有界。我们进一步建立,在鞍点(而不是在每个极小的目标函数)的相关拉格朗日的Hessian的正定性保证有限收敛的层次。首先在鞍点条件下建立了凸半代数集上凸多项式的平方和多项式表示,得到了有限收敛性。最后,我们证明了凸多项式规划的拉格朗日量的鞍点的存在性也是该族具有有限收敛性的必要条件。
2013-06-27 math.OC
Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable Approach for Continuous Markov Random Fields
KU Leuven(鲁汶大学);Technical University of Munich(慕尼黑工业大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);University of Siegen(锡根大学)
非凸优化问题的对偶分解方法可能存在对偶缺口。这就提出了一个挑战,当他们直接应用到非凸问题,如MAP推理的马尔可夫随机场(MRF)连续状态空间。为了消除这种差距,本文认为,重新制定原来的非凸任务的措施空间。然后,通过在对偶中进行分段多项式离散化,将该无穷维重构近似为半无限维重构。我们提供了一个几何直观背后的原始问题引起的双重离散化,并绘制连接到优化的时刻空间。与现有的离散遭受网格偏差,我们表明,一个分段多项式离散更好地保持我们的问题的连续性。利用最优输运理论和凸代数几何的结果,我们将半无限规划化为有限规划,并给出了一个基于半定规划的实际实现。我们表明,在实验和理论上,该方法成功地减少了二元差距。为了展示我们的方法的可扩展性,我们将其应用到两个图像之间的立体匹配问题。
2022-05-16 cs.CV math.OC
Relaxations for multi-period optimal power flow problems with discrete decision variables
我们考虑一类最优潮流(OPF)的应用,其中一些负载提供调制服务,以换取激活费。这些应用程序可以建模为多周期配方的OPF与离散变量定义的混合整数非凸数学规划。我们建议两种类型的放宽来解决这些问题。一种是基于拉格朗日松弛,另一种是基于网络流松弛。这两种松弛测试的几个基准,虽然他们提供了一个可比的双重约束,它似乎是来自网络流松弛的解决方案中的约束明显较少违反。
2014-01-06 math.OC
Lagrangian Duality for Mixed-Integer Semidefinite Programming: Theory and Algorithms
本文提出混合整数半定规划的拉格朗日对偶理论,推导对偶问题并证明其对偶界优于连续松弛界,提出三种算法及界层次,数值实验显示在最大k割问题上界更强。
2025-07-09 math.OC
A computational study of cutting-plane methods for multi-stage stochastic integer programs
本文研究了多阶段随机混合整数规划的割平面算法,证明了整数L形割属于Lagrangian割类,并提出交替使用松弛与精确计算的增强策略以高效生成割,初步实验验证了其在实际问题中的有效性。
2024-05-04 math.CO math.OC
Submodular relaxation for inference in Markov random fields
INRIA(法国国家信息与自动化研究所);École Normale Supérieure(巴黎高等师范学院);Higher School of Economics(高等经济学院);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学)
在本文中,我们解决的问题,找到一个离散马尔可夫随机场(MRF)的最可能的状态,也被称为MRF能量最小化问题。该任务是已知的NP-困难的一般和它的实际重要性激励许多近似算法。我们提出了一个子模块松弛方法(SMR)的基础上拉格朗日松弛的初始问题。与Komodakis等人的对偶分解方法不同,2011 SMR没有分解初始问题的图结构,而是构造了一个在拉格朗日松弛内最小化的子模块能量。我们的方法适用于成对和高阶MRF,并允许考虑某些类型的全球潜力。我们研究所提出的方法的理论特性和实验评估。
2015-01-15 cs.CV math.OC stat.ML
Predicting Accurate Lagrangian Multipliers for Mixed Integer Linear Programs
CERMICS, École des Ponts(法国路桥大学CERMICS实验室)
本文提出基于图卷积网络的深度学习框架,通过编码器-解码器直接预测混合整数线性规划的拉格朗日乘子,以绕过传统迭代优化,实验表明可弥合连续松弛与最佳拉格朗日界之间高达85%的差距。
2024-10-18 cs.LG math.OC
Lagrangian cuts generated by batch to efficiently solve two-stage stochastic mixed-integer program
针对两阶段随机整数规划现有拉格朗日割生成效率低的问题,提出批量生成割的方法,证明收敛性与三角不等式性质,还通过系数平均生成未求解场景的割,实验表明其能用更少割更快提升Benders主问题松弛下界。
2024-01-29 math.OC
A rank-two relaxed parallel splitting version of the augmented Lagrangian method with step size in (0,2) for separable convex programming
增广拉格朗日方法(ALM)是求解具有线性约束的典型凸规划问题的经典方法,在各种科学计算领域有着广泛的应用。ALM的主要优点在于,可以利用$(0,2)$中的步长来进一步放宽用于更新对偶变量的步骤,并且该优点可以容易地导致ALM的数值加速。当一个可分离的凸规划问题进行了讨论,并考虑了相应的分裂版本的经典ALM,收敛可能无法得到保证,因此它似乎是不可能的,步长在$(0,2)$可以进行到松弛步骤更新的对偶变量。我们表明,对于一个并行分裂版本的ALM,步长在$(0,2)$可以保持进一步放松的原始和对偶变量,如果放松步骤是简单地纠正由秩2矩阵。因此,秩2松弛并行分裂版本的ALM与$(0,2)$的步长提出了可分离的凸规划问题。我们验证了新算法可以在数值上优于现有的同类算法显着通过测试一些应用程序。
2022-12-01 math.OC
Distributed Asynchronous Mixed-Integer Linear Programming with Feasibility Guarantees
本文提出一种分布式异步鞍点计算方法求解混合整数线性规划,通过线性规划松弛、正则化Lagrangian及并行算法,保证解的可行性且对异步通信具有容忍度。
2024-09-27 math.OC
Learning Lagrangian Multipliers for the Travelling Salesman Problem
University of Southern California(南加州大学)
提出一种基于图神经网络的无监督学习方法,用于高效预测Held-Karp拉格朗日乘子,以加速旅行商问题的最优性证明,实验显示可减少最优性差距和求解时间。
2023-12-22 cs.AI cs.LG math.OC
A multi-vehicle covering tour problem with speed optimization
带时间窗的多车辆覆盖旅游问题(MCTPTW)的目的是构建一组最大覆盖范围的路线车队,服务(观察)的第二组站点给定一个固定的时间表,覆盖要求和能源限制。该问题被表述为一个混合整数二阶锥规划(MISOCP)模型,是一个扩展的多覆盖旅游问题和车辆路径问题的时间窗下的能量约束。此外,我们研究了一个特殊的情况下,所提出的模型和开发的标记算法来解决其拉格朗日松弛问题,它利用了组合结构所表现出的最优解的拉格朗日松弛。
2019-09-26 math.OC
Optimal Control of PDEs using Occupation Measures and SDP Relaxations
研究了一类含有Riesz-谱算子的具有无穷维线性状态约束的非线性最优控制问题的求解问题。该类中的每个实例具有时间/控制相关的多项式拉格朗日成本和由多项式描述的控制约束。首先,我们执行的Riesz-谱算子的状态模式离散化。然后,我们近似所得到的有限维OCP使用以前已知的层次的半定松弛。在一定的紧性假设下,我们提供了一个收敛的半定规划松弛的最优值的初始OCP的下界产量的层次。我们通过两个数值例子来说明我们的方法,涉及扩散偏微分方程和波动方程。我们还报告了相关的实验。
2017-10-12 math.OC
Hybrid Methods in Solving Alternating-Current Optimal Power Flows
电力系统中的许多稳态问题,包括交流模型(ACOPF)中的最优潮流的矩形功率-电压公式,都可以转化为多项式优化问题(POP)。对于一个POP,我们可以导出强凸松弛,或者更确切地说,更强,但更大的松弛层次。研究了从求解凸松弛到求解非凸拉格朗日的牛顿法的转换方法。
2016-11-01 math.OC
An Accelerated Inexact Dampened Augmented Lagrangian Method for Linearly-Constrained Nonconvex Composite Optimization Problems
提出并分析了求解线性约束非凸组合最优化问题的加速不精确阻尼增广拉格朗日(AIDAL)方法。AIDAL方法的每次迭代包括:(i)通过调用加速复合梯度(ACG)子例程不精确地求解阻尼近端增广拉格朗日(AL)子问题;(ii)应用阻尼和欠松弛拉格朗日乘子更新;以及(iii)使用新的测试来检查AL函数的罚参数是否应该增加。在几个温和的假设下,涉及阻尼因子和下松弛常数,它表明,AIDAL方法产生的约束问题的近似稳定点在${\cal O}(\varepsilon^{-5/2}\log\varepsilon^{-1})$迭代的ACG子程序,对于一个给定的公差$\varepsilon>0$。数值实验也显示了所提出的方法的计算效率。
2023-02-07 math.OC
A Splitting Augmented Lagrangian Method for Low Multilinear-Rank Tensor Recovery
本文研究了在一般情况下寻找满足某些线性约束的低多线性秩张量的恢复问题,该问题在计算机视觉和图形学中有着广泛的应用。这个问题被称为低多线性秩张量恢复问题。利用变量分裂技术和凸松弛技术将该问题转化为一个易于处理的约束最优化问题。考虑到问题的有利结构,我们发展了一个分裂增广拉格朗日方法来解决所产生的问题。该算法易于实现,并在一定条件下证明了算法的收敛性。对随机生成和真实张量完备化问题的初步数值结果表明,该算法对处理低多线性秩张量完备化问题是非常有效和鲁棒的.
2013-10-07 math.OC
Disaggregation in Bundle Methods: Application to the Train Timetabling Problem
束方法常用于解决大规模最优化问题的拉格朗日松弛所产生的对偶问题。这样的问题的一个例子是训练调度问题。针对训练编组优化程序中拉格朗日松弛法产生的对偶问题进行了求解。对偶问题的解决使用束方法。我们制定和比较两种不同的捆绑方法的性能:聚集的方法,这是一个标准的方法,和一个新的,非聚集的方法,这是在这里提出的。这两种方法进行了测试,从铁矿石铁路线的现实训练调度方案。数值结果表明,新的非集计方法一般产生更快的收敛速度比标准的聚集方法。
2017-02-27 math.OC
Computational Complexity of Inexact Gradient Augmented Lagrangian Methods: Application to Constrained MPC
研究了求解复杂约束凸优化问题的不精确梯度增广拉格朗日方法的计算复杂性证明。我们解决了增广拉格朗日对偶问题,所产生的复杂的约束松弛梯度和快速梯度法的基础上不精确的一阶信息。此外,由于增广拉格朗日原问题的精确解在实践中很难计算,因此我们在给定的内部精度下求解了该问题。我们推导出原始和对偶问题的内部和外部精度之间的关系,我们给出了一个完整的梯度和快速梯度算法的收敛速度分析。我们提供估计的原始和对偶次优性和原始可行性违反所产生的近似原始和对偶解。我们的分析依赖于Lipschitz性质的对偶函数和不精确的对偶梯度。我们还讨论了嵌入式线性系的约束模型预测控制问题的算法的实施方面。
2013-02-18 math.OC
Lagrangian, Eulerian and Kantorovich formulations of multi-agent optimal control problems: Equivalence and Gamma-convergence
本文主要研究多智能体确定性最优控制问题。我们最初提供了一个彻底的分析拉格朗日,欧拉和康托洛维奇配方的问题,以及他们的放松。然后,我们展示了一些等价的结果之间的各种表示和比较各自的价值函数。为了做到这一点,我们结合技术和思想,从最佳运输,控制理论,杨措施和发展方程在巴拿赫空间。我们进一步利用拉格朗日和欧拉描述之间的联系,得出一致性的结果,粒子/代理的数量趋于无穷大。为此,我们证明了经验版本的叠加原理,并获得适当的伽玛收敛结果的控制系统。
2020-11-13 math.AP math.OC
Lagrangian dual with zero duality gap that admits decomposition
本文针对具有块结构和耦合约束的混合整数规划,通过添加冗余约束提出两种重构方法,使拉格朗日对偶在保持可分解性的同时实现零对偶间隙,并给出装箱与覆盖问题的乘法界及稀疏情形的树分解适用性,实验表明其对偶界优于经典拉格朗日对偶和Gurobi。
2024-11-18 math.OC
A Bundle Approach for SDPs with Exact Subgraph Constraints
最近引入的"精确子图"方法作为一个层次计划,以获得越来越紧的半定规划松弛的几个NP-难图最优化问题。解决这些松弛是一个计算上的挑战,因为潜在的大量违反子图约束。我们介绍了一个计算框架,这些松弛设计,以应付这些困难。我们提出了一个部分拉格朗日对偶,并利用它的评价分解成两个独立的子问题。这为使用非光滑优化的捆绑方法来最小化对偶函数开辟了道路。最大割、独立集和着色问题的计算实验表明了该方法的有效性。
2019-02-14 math.OC
Linear multistep methods for optimal control problems and applications to hyperbolic relaxation systems
University of Verona(维罗纳大学);RWTH Aachen University(亚琛工业大学);University of Ferrara(费拉拉大学)
研究高阶线性多步方法在最优控制问题伴随方程时间离散中的应用,发现Adams-Moulton和Adams-Bashford方法精度下降,而BDF方法保持高阶精度,并扩展至双曲松弛系统的半拉格朗日离散化。
2018-07-23 cs.NA math.NA math.OC
An inexact perturbed path-following method for Lagrangian decomposition in large-scale separable convex optimization
本文在拉格朗日对偶分解的框架下,提出了一种求解大规模结构凸优化问题的不精确扰动路径跟踪算法。与文献中考虑的确切版本不同,我们允许一个解决原始问题不精确到一个给定的精度。不精确扰动算法允许使用近似黑塞矩阵和近似梯度向量来计算对偶问题的牛顿型方向。该算法分为两个阶段。第一阶段利用不精确扰动阻尼牛顿型迭代计算初始点,而第二阶段利用不精确扰动全步牛顿型迭代执行路径跟踪算法。我们分析了这两个阶段的收敛性,并估计了最坏情况下的复杂度。作为一种特殊情况,导出了拉格朗日松弛的精确路径跟踪算法,并估计了其最坏情况的复杂度。该变体与先前已知的方法相比具有一些差异。实施细节进行了讨论和数值结果报告。
2011-09-15 math.OC
Lagrangian Dual Decision Rules for Multistage Stochastic Mixed Integer Programming
本文提出拉格朗日对偶决策规则(LDDRs)用于多阶段随机混合整数规划,通过在对偶中应用决策规则克服整数决策难题,提出两种界限技术并证明其能显著降低最优性间隙。
2022-08-15 math.OC
Completely positive and completely positive semidefinite tensor relaxations for polynomial optimization
完全正(CP)张量对应于CP矩阵的推广,允许用CP张量的锥上的圆锥最优化问题来重新表达或近似一般多项式最优化问题(POP)。类似地,完全半正定(CPSD)张量,这对应于一个推广的半正定(PSD)矩阵,可以用来近似一般的持久性有机污染物与锥上的CPSD张量的圆锥最优化问题。在本文中,我们研究CP和CPSD张量松弛一般持久性有机污染物,并通过拉格朗日松弛的持久性有机污染物得到的界限进行比较。这表明,在这一方向上针对二次持久性有机污染物的现有结果可扩展到一般持久性有机污染物。此外,我们提供了一些易于处理的近似策略CP和CPSD张量松弛。这些近似策略表明,具有类似的计算工作,从他们获得的一般持久性有机污染物的界限可以更紧比这些问题的界限通过重新制定的POP作为二次POP,随后可以近似使用CP和PSD矩阵。为了说明我们的研究结果,我们数值比较小规模的四阶度持久性有机污染物从这些放松的方法得到的界限。
2016-10-10 math.OC
Pseudo basic steps: Bound improvement guarantees from Lagrangian decomposition in convex disjunctive programming
本文提出伪基本步骤操作,利用拉格朗日分解为凸析取规划的基本步骤改进提供可证明的界,并在K均值聚类实例上显著提升界质量。
2025-01-25 math.OC
A Computational Study of Exact Subgraph Based SDP Bounds for Max-Cut, Stable Set and Coloring
最近引入的“精确子图”方法作为一个层次计划,以获得越来越紧的半定规划松弛的几个NP-难图最优化问题。解决这些松弛是一个计算上的挑战,因为潜在的大量违反子图约束。我们介绍了一个计算框架,这些松弛设计,以应付这些困难。我们提出了一个部分拉格朗日对偶,并利用它的评价分解成几个独立的子问题的事实。这为使用非光滑优化的捆绑方法来最小化对偶函数开辟了道路。最后通过对最大割、独立集和着色问题的计算实验,验证了该方法的有效性。
2020-06-05 math.OC
A Hybrid Relaxation-Heuristic Framework for Solving MIP with Binary Variables
New York University(纽约大学)
本文提出了一种混合松弛-启发式框架,用于求解含二元变量的MIQP问题,通过混合松弛和启发式优化提升求解效率。
2026-01-31 math.OC
Projected Primal-Dual Gradient Flow of Augmented Lagrangian with Application to Distributed Maximization of the Algebraic Connectivity of a Network
本文提出了一种求解不一定是严格凸的凸优化问题的增广拉格朗日投影原始-对偶梯度流。优化变量由一个在其切锥上具有可计算投影运算的凸集以及等式约束约束。作为\cite{niederlander2016distributed}中分析的补充,我们证明了投影的动力系统收敛于鞍点之一,从而找到了一个最优解。此外,考虑了通过优化每个节点(基站)的端口增益来分布式地最大化无向网络的代数连通度的问题。将原来的半定规划(SDP)问题松弛为一个非线性规划(NP)问题,并通过上述投影动力系统求解。数值例子表明,上述算法收敛到最优解之一。松弛的效果说明经验与数值例子。提出了一种方法,使达到平衡所需的迭代次数被抑制。用数值例子说明了算法的每次迭代的复杂性。
2018-10-30 math.OC
Lagrangian Reformulation for Nonconvex Optimization: Tailoring Problems to Specialized Solvers
Lehigh University(利哈伊大学);Tilburg University(蒂尔堡大学)
本文提出通过拉格朗日改写方法,将非凸优化问题与专用求解器结合,以解决等式约束问题的等价性问题。
2026-01-14 math.OC
Semidefinite Relaxations for Best Rank-1 Tensor Approximations
University of California, San Diego(加州大学圣地亚哥分校)
本文研究对称和非对称张量的最佳秩-1近似问题,提出基于平方和表示的半正定松弛方法,通过数值实验验证其在获取最佳秩-1近似中的实用性。
2014-05-28 cs.NA math.NA math.OC
An Inexact Augmented Lagrangian Framework for Nonconvex Optimization with Nonlinear Constraints
提出了一种求解非凸非线性约束问题的实用不精确增广拉格朗日方法。我们的总计算复杂性的特征,我们的方法受到可验证的几何条件,这是密切相关的Polyak-Lojasiewicz和Mangasarian-Fromowitz条件。特别是,当一阶求解器用于内部迭代,我们证明了iALM发现一阶不动点与$\tilde{\mathcal{O}}(1/ε^4)$调用一阶Oracle。此外,如果问题是光滑的,并且二阶求解器用于内部迭代,则iALM通过对二阶oracle的$\tilde{\mathcal{O}}(1/ε^5)$调用找到二阶稳定点,这与文献中已知的理论复杂度结果相匹配。我们还提供了强有力的数值证据,大规模的机器学习问题,包括Burer-Monteiro分解的半定程序,和一种新的非凸松弛的标准基追求模板。对于这些例子,我们还展示了如何验证我们的几何条件。
2022-04-21 math.OC
On proximal augmented Lagrangian based decomposition methods for dual block-angular convex composite programming problems
对于具有对偶块角结构的凸复合规划问题,我们设计了基于非精确近似增广拉格朗日分解方法。我们的方法特别适合于凸二次规划问题所产生的随机规划模型。算法框架是基于在[Chen,Sun,Toh,Math. Prog. 161:237--270]的目标问题的对偶,以及最近开发的对称高斯-赛德尔分解定理的应用解决一个邻近的多块凸复合二次规划问题。算法设计中的关键问题首先是设计合适的近似项来分解目标问题的对偶变量块的计算,使每次迭代中的子问题更容易求解,其次是开发新的数值格式来有效地求解分解的子问题。我们的不精确增广拉格朗日分解方法有保证的收敛性。我们提出了一个应用所提出的算法的双重非负松弛的无容量限制的设施定位问题,以及两阶段的随机最优化问题。我们进行了大量的数值实验,以评估我们的方法对国家的最先进的求解器,如Guidelines和MOSEK的性能。此外,我们提出的算法也毫不逊色于著名的渐进式对冲算法的Rockafellar和Wets。
2023-03-13 math.OC
Beyond Convexity: Proximal-Perturbed Lagrangian Methods for Efficient Functional Constrained Optimization
Purdue University(普渡大学);Kennesaw State University(肯尼索州立大学);Illinois State University(伊利诺伊州立大学)
针对非凸函数约束优化问题,提出基于近端扰动增广拉格朗日的原始-对偶算法框架,在温和条件下收敛到稳定点,无需连续调整罚参数,并给出非渐近迭代复杂度及实验验证。
2025-10-28 math.OC
Partitioning through projections: strong SDP bounds for large graph partition problems
本文研究通过面缩减和割平面算法求解图划分问题的双重非负松弛,首次在多达1024个顶点的大规模基准实例上验证了附加割平面的DNN松弛的强大能力,显著提升了边界质量。
2022-09-19 math.OC
Solving cluster moment relaxation with hierarchical matrix
本文提出通过对半定规划(SDP)松弛中的半正定原始和对偶变量施加分层结构,并利用增广拉格朗日方法和压缩表示代数高效更新矩阵,实现了每次迭代近线性时间复杂度,能准确计算多体问题的基态能量下界。
2025-07-14 cs.NA math.NA math.OC
Approximating Solutions to the Knapsack Problem using the Lagrangian Dual Framework
University of Queensland(昆士兰大学)
本文基于 Lagrangian Dual Framework 构建神经网络近似求解背包问题,研究输出解释与模型选择,在仅轻微损失最优性的情况下显著增强约束满足。
2023-12-06 cs.AI cs.LG math.OC