An augmented Lagrangian-based preconditioning technique for a class of block three-by-three linear systems
本文提出一种基于增广拉格朗日的预处理程序,用于加速求解耦合Stokes-Darcy流问题等产生的块三乘三线性系统的Krylov子空间方法收敛,通过谱分析验证并经3D数值实验证明其结合灵活GMRES的有效性。
2023-10-24 cs.NA math.NA
Augmented Lagrangian approach to deriving discontinuous Galerkin methods for nonlinear elasticity problems
我们使用增广拉格朗日形式主义推导出非线性弹性问题的间断伽辽金公式。在弹性力学中,应力是应变的对称函数,当采用协调元离散时,牛顿法中的切线刚度矩阵是对称的。利用增广拉格朗日框架,我们也可以得到对称的切线刚度矩阵的间断伽辽金方法。我们提出了两种不同的方法,并给出了例子,从塑性和大变形超弹性。
2022-02-17 cs.CE cs.NA math.NA
A $\ell_2-\ell_p$ regulariser based model for Poisson noise removal using augmented Lagrangian method
本文提出基于 ℓ2-ℓp 正则化的变分 PDE 模型,结合增广拉格朗日方法去除模糊图像中的泊松噪声,并通过数值实验验证其在 SSIM、PSNR 和 SNR 指标上优于已有模型。
2025-04-11 cs.NA math.NA
An augmented Lagrangian preconditioner for the control of the Navier--Stokes equations
针对定常不可压缩Navier--Stokes方程的分布控制问题,提出不精确牛顿线性化最优性条件的方法,结合增广拉格朗日块三角预条件子与灵活GMRES求解离散后的鞍点系统,数值实验验证其对粘度、网格尺寸等的鲁棒性。
2025-04-15 cs.NA math.NA
Augmented Lagrangian finite element methods for contact problems
University College London(伦敦大学学院);Jönköping University(延雪平大学);Umeå University(于默奥大学)
本文提出两种不同的拉格朗日乘子方法,用于解决接触问题,分析了连续和不连续逼近空间下的稳定性及收敛性。
2016-09-12 cs.NA math.NA
Finite element appoximation and augmented Lagrangian preconditioning for anisothermal implicitly-constituted non-Newtonian flow
我们设计了3场和4场有限元近似的系统描述的不可压缩的导热流体的隐式非牛顿流变学的稳态。我们证明了该序列的数值逼近收敛到问题的一个弱解。我们开发了一个块预处理的基础上增广拉格朗日稳定的离散化的基础上的斯科特-Vogelius有限元对的速度和压力。预处理涉及到一个专门的多重网格算法,利用空间分解,捕捉内核的分歧和非标准的网格间传输运营商。该预处理器具有强大的收敛行为时,适用于Navier-Stokes方程和幂律系统,包括温度依赖的粘度,导热系数和粘性耗散。
2021-10-15 cs.NA math.NA
Note on the Modifed Augmented Lagrangian Method for Minimization of Functions with Large Quadratic Penalties
本文提出改进增广拉格朗日方法用于处理具有大二次惩罚项的目标函数最小化问题,通过重新表述方案实现更稳定的数值性能。
2018-06-21 cs.NA math.NA
Augmented Lagrangian for treatment of hanging nodes in hexahedral meshes
在过去的十年中,在地球科学领域的精细尺度特征的分辨率活动激增,需要开发强大而简单的算法,可以解决迄今为止开发的计算机模型的各种缺点。一个这样的缺点是有限元法在将分辨率呈现到精细尺度特征时的有限计算成本,而同时保持被建模的域足够大。我们建议使用增广拉格朗日方法通常用于处理悬挂节点的接触力学在解决的缺点。在一个典型的有限元网格中引入了一个界面,在该界面上有限元的积极粗化是可能的。该方法是基于最小化的一个增广的势能的因素,在该接口上的悬挂节点处存在的约束。这允许包括网格的有限元的数量的显著减少,伴随着计算费用的减少。
2021-07-25 cs.NA math.NA
An augmented Lagrangian preconditioner for implicitly-constituted non-Newtonian incompressible flow
本文提出了一种增广拉格朗日预条件子,用于求解具有幂律型隐式本构关系的定常非牛顿不可压缩流的应力-速度-压力三场离散问题。所采用的离散化利用无发散的Scott-Vogelius对的速度和压力。预条件子建立在工作的基础上[P.E.法雷尔湖Mitchell和F. Wechsung,SIAM J. Sci.计算:41(2019),pp. A3073-A3096],其中引入了三维牛顿系统的鲁棒预条件子。预处理采用了一个专门的多重网格方法的应力-速度块,涉及到一个发散捕捉空间分解和自定义的延长运营商。求解器表现出良好的鲁棒性相对于本构关系中出现的参数,允许模拟范围广泛的材料。
2020-08-10 cs.NA math.NA
Augmented Lagrangian Method for Second-Order Cone Programs under Second-Order Sufficiency
本文讨论了二阶锥规划在最优化理论和应用中的重要问题。主要的注意力是支付给增广拉格朗日方法(ALM)考虑在精确和不精确的形式,这样的问题。使用广义微分工具的二阶变分分析,我们制定了相应的版本的二阶充分性,并使用它来建立,除其他结果外,一致的二阶增长条件的增广拉格朗日。后者使我们能够证明在ALM子问题的可解性,并证明该方法的线性原对偶收敛。
2021-07-06 cs.NA math.NA math.OC
An augmented Lagrangian algorithm for constrained nonlinear least-squares
Université de Montréal(蒙特利尔大学);Hydro-Québec(魁北克水电公司);Université du Québec à Montréal(蒙特利尔大学)
该研究针对受非线性和线性约束的非线性最小二乘问题,提出算法,通过将目标重述为增广拉格朗日函数处理非线性约束,用梯度投影技术近似求解线性约束问题,还涉及海森矩阵近似,展示全局收敛性并经实验评估性能。
2026-07-14 cs.NA math.NA math.OC
Hybridized Augmented Lagrangian Methods for Contact Problems
本文针对弹性体无摩擦接触问题,提出基于Nitsche和间隙层混合位移变量的增广拉格朗日方法,实现接触域解耦与计算便利,并给出稳定性与误差估计。
2025-01-28 cs.NA math.NA
Scalable augmented Lagrangian preconditioners for fictitious domain problems
Scuola Normale Superiore(高等师范学院);University of Pisa(比萨大学)
本文提出两种可扩展的增广拉格朗日预处理器,用于加速求解虚构域问题的迭代求解器收敛,通过二维和三维数值测试验证其有效性与鲁棒性。
2026-03-06 cs.NA math.NA
A new insight on augmented Lagrangian method with applications in machine learning
本研究提出带双惩罚项的新型松弛增广拉格朗日方法,可扩展至多块可分凸优化,结合两种原始-对偶混合梯度算法,证明了次线性与线性收敛性,在机器学习相关问题上性能优于现有最优算法。
2025-06-13 cs.NA math.NA
An Efficient Augmented Lagrangian Method with Semismooth Newton Solver for Total Generalized Variation
总广义变分(TGV)是一种非常强大和重要的正则化方法,用于各种反问题和计算机视觉任务。在本文中,我们提出了一个半光滑牛顿基增广拉格朗日方法来解决这个问题。增广拉格朗日方法(又称乘子法)被广泛应用于许多光滑或非光滑的变分问题。然而,其效率通常严重依赖于同时解决耦合和非线性系统,这是非常复杂的和高度耦合的总广义变化。利用有效的原始-对偶半光滑Newton方法求解包含广义变分的复杂线性子问题,研究了一种高效的半光滑Newton算法,并与一阶方法进行了比较.通过分析相应函数的度量子空间,给出了增广拉格朗日方法的整体收敛和局部线性收敛速率.
2022-01-27 cs.NA math.NA math.OC
The Variable Projected Augmented Lagrangian Method
通过数学建模从一组观测数据中进行推断仍然是科学发现的重要工具,并且在信号压缩、成像恢复和监督机器学习等应用领域无处不在。可以使用提供理论上证明的方法和算法的变分公式来解决推理问题。随着模型复杂性的不断增加和数据量的不断增加,迫切需要新的专门设计的方法来恢复感兴趣的有意义的数量。我们考虑了广泛的线性逆问题,其目的是在一些向量空间上用稀疏表示重建数量;通常使用(广义)最小绝对收缩和选择算子(套索)来解决。相关的最优化问题已经受到了极大的关注,特别是在21世纪初,因为它们与压缩传感的联系以及使用增广拉格朗日、交替方向和分裂方法重建具有有利稀疏性的解。我们提供了一个新的角度对潜在的l1正则化反问题,通过探索广义套索问题,通过变量投影方法。我们到达我们提出的变量投影增广拉格朗日(vpal)方法。我们分析了这种方法,并提供了一种基于自由度参数的自动正则化参数选择方法。此外,我们提供了数值例子证明各种成像问题的计算效率。
2022-07-17 cs.NA math.NA
Augmented Lagrangian preconditioners for fictitious domain formulations of elliptic interface problems
Scuola Normale Superiore(高等师范学校);University of Pisa(比萨大学)
本文提出一种新型增强拉格朗日预条件子,用于求解有限元离散化椭圆界面问题中出现的线性系统,通过分布式拉格朗日乘数法提高FGMRES方法在大系数跃变时的收敛性,并通过数值实验验证其在不同浸入几何中的鲁棒性和效率。
2026-08-03 cs.NA math.NA
An augmented Lagrangian deep learning method for variational problems with essential boundary conditions
针对带本质边界条件的变分问题,提出了一种新的深度学习方法。为此,我们首先将原问题转化为一个极大极小问题,对应于一个可行的增广拉格朗日量,它可以通过增广拉格朗日方法在无限维环境中求解。在此基础上,通过用两个单独的深度神经网络函数表示原始变量和对偶变量,我们提出了一种增强的拉格朗日深度学习方法,其参数通过随机最优化方法和投影技术进行训练。与传统的罚函数法相比,该方法具有罚参数选择灵活、鲁棒性强和在同等计算量下数值解精度高的优点.作为典型的应用,我们将新方法应用于求解椭圆问题和具有本质边界条件的(非线性)本征值问题,并给出数值实验来验证新方法的有效性.
2022-05-09 cs.NA math.NA math.OC
Augmented Lagrangian method for a TV-based model for demodulating phase discontinuities
在这项工作中,我们将App.Opt.53:2297(2014)中提出的方法重新表述为使用增广拉格朗日方法的约束最小化问题。首先介绍了新的方法,然后描述了数值解,这导致一个简单的算法。用合成条纹图和真实条纹图进行的数值实验表明了该算法的准确性和简单性。
2020-01-25 cs.NA eess.IV math.NA
An Augmented Lagrangian Method-Based Framework in the Adjoint Space for Sparse Reconstruction of Acoustic Sources
School of Mathematics, Renmin University of China(中国人民大学数学学院)
提出一种半光滑牛顿增广拉格朗日框架,在测量(伴随)空间进行更新,通过Fenchel-Rockafellar对偶恢复声源,显著加速计算并降低成本。
2026-06-18 cs.NA math.NA math.OC
An augmented Lagrangian trust-region method with inexact gradient evaluations to accelerate constrained optimization problems using model hyperreduction
提出一种增广拉格朗日信赖域方法,结合即时构建的超降阶模型和不精确梯度评估,高效求解偏微分方程约束优化问题,在气动外形设计中实现12.7倍加速。
2024-05-23 cs.NA math.NA math.OC
ALS: Augmented Lagrangian Sketching Methods for Linear Systems
我们开发了两种基本的随机草图技术:惩罚草图(PS)和增广拉格朗日草图(ALS)解决一致的线性系。所提出的PS和ALS技术通过引入拉格朗日惩罚草图来扩展和推广草图与项目(SP)方法的范围。在这样做,我们恢复SP方法作为特殊情况下,并进一步开发了一个家庭的新的随机迭代法。通过改变所提出的PS方法中的草图参数,我们恢复新的随机方法,如惩罚牛顿下降,惩罚Kaczmarz,惩罚随机下降,惩罚坐标下降,惩罚高斯追求,和惩罚块Kaczmarz。此外,所提出的ALS方法综合了各种各样的新的随机方法,如增强牛顿下降,增强Kaczmarz,增强随机下降,增强坐标下降,增强高斯追踪和增强块Kaczmarz到一个框架。此外,我们表明,开发的PS和ALS框架可以用来重新制定原来的线性系等价的随机最优化问题,即惩罚随机重新制定和增广随机重新制定。我们证明了PS和ALS方法的整体收敛速度以及次线性$\mathcal{O}(\frac{1}{k})$速率的Cesaro平均迭代。所提出的收敛结果适用于广泛的随机矩阵的分布,这提供了微调适合于特定应用的方法的随机性的机会。最后,我们进行计算实验,证明我们的方法相比,现有的SP方法的效率。
2022-08-12 cs.LG cs.NA math.NA
A first-order augmented Lagrangian method for constrained minimax optimization
University of Minnesota(明尼苏达大学)
针对一类约束极小极大问题,提出一阶增广拉格朗日方法,并用自研一阶法求解结构化子问题,证明其获得 ε-KKT 解的运算复杂度为 O(ε^{-4} log ε^{-1})。
2024-10-28 cs.LG cs.NA math.NA
An augmented Lagrangian method with exact multipliers for non-separable composite $\ell_0$-$\ell_2$ regularization
Jiangxi Science and Technology Normal University(江西科技师范大学);Northwestern Polytechnical University(西北工业大学)
研究非可分复合 $\ell_0$-$\ell_2$ 正则化模型,针对其非凸非光滑及非可分性难题,开发两种精确乘子增广拉格朗日算法,证明方法收敛性,数值实验验证其优势。
2026-07-07 cs.NA math.NA math.OC
Augmented Lagrangian methods for infeasible convex optimization problems and diverging proximal-point algorithms
INRIA, Ecole Normale Supérieure(法国国家信息与自动化研究所,巴黎高等师范学院)
本文研究了增广拉格朗日方法在处理可能不可行的凸优化问题时的收敛性,揭示了在弱假设下迭代序列收敛于最邻近可行问题的解,并建立了从基本序列收敛到更精确收敛速率的更强收敛结果。
2026-03-16 cs.NA math.NA math.OC
Robust multigrid techniques for augmented Lagrangian preconditioning of incompressible Stokes equations with extreme viscosity variations
我们提出了增广拉格朗日Schur补预条件和强大的多重网格方法的不可压缩Stokes问题的极端粘度变化。这样的斯托克斯系统出现,例如,在线性化的非线性粘性流动问题,他们可以有严重的非均匀和各向异性系数。使用一个增广的拉格朗日公式的不可压缩性约束,使舒尔补更容易近似,但在斯托克斯系统中的一个近奇异的(1,1)块的结果。我们提出的Schur补近似的质量的特征值估计。为了解决(1,1)-块的近奇异性问题,我们扩展了一个多重网格格式,并引入了一个依赖于离散化的光滑算子,将三角形/四面体的算子转换为四边形/六面体的有限元离散化$[\mathbb{Q}_k]^d\times \mathbb{P}_{k-1}^{\text{disc}}$,$k\geq 2$,$d=2,3$ .使用标量和各向异性的四阶张量粘塑性本构关系线性化所产生的数值例子,我们确认的多重网格方案的鲁棒性和整体效率的求解器。我们目前的可扩展性结果使用多达28,672个并行任务的问题高达16亿个未知数和粘度对比高达十个数量级。
2021-11-02 cs.CE cs.NA math.NA
An inexact augmented Lagrangian algorithm for unsymmetric saddle-point systems
本文提出一种求解非对称鞍点系统的不精确增广拉格朗日算法(SPALBB),利用Barzilai-Borwein方法求解线性系统,证明了其收敛性,并在Navier-Stokes等数值实验中展现出优于BICGSTAB和GMRES的鲁棒性与效率。
2024-04-23 cs.DS cs.NA math.NA
Regularization of Linear Ill-posed Problems by the Augmented Lagrangian Method and Variational Inequalities
University of Vienna(维也纳大学);Computational Science Center(计算科学中心)
研究增广拉格朗日方法求解线性不适定问题,通过变分不等式方法将收敛率从标准源条件扩展到低阶,并适用于不同距离度量,特别在稀疏促进正则化中导出范数下的收敛率。
2012-04-03 cs.NA math.NA math.OC
Variable Projected Augmented Lagrangian Methods for Generalized Lasso Problems
University of Insubria(因苏布里亚大学);Sun Yat-sen University, School of Mathematics (Zhuhai)(中山大学数学学院(珠海));Harbin Institute of Technology, School of Mathematics(哈尔滨工业大学数学学院);Emory University, Department of Mathematics(埃默里大学数学系)
本研究提出求解广义非线性Lasso问题的变量投影增广拉格朗日方法,通过软阈值转化为光滑问题,开发线性模型预处理变体,证明收敛性,在多种逆问题任务中实现最先进的重建效果。
2026-11-10 cs.NA math.NA math.OC
Morozov's principle for the augmented Lagrangian method applied to linear inverse problems
University of Göttingen(哥廷根大学);TU Braunschweig(布伦瑞克工业大学);Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
本文研究了当Morozov偏差原理作为停止规则时,增广拉格朗日方法(在成像中称为Bregman迭代)的正则化收敛速率,并给出了子梯度序列的误差估计,特别针对全变差正则化和ℓ^q惩罚项(q∈[1,2])证明了严格收敛和ℓ^q范数下的收敛速率。
2010-10-25 cs.NA math.FA math.NA
Augmented Lagrangian method for coupled-cluster
针对单参考耦合簇(CC)方法求解时可能不收敛或收敛到非物理驻点的问题,提出增广拉格朗日方法(alm-CC)求解约束优化问题,在计算成本相当的情况下显著提升了向基态收敛的稳定性并降低了对局部极小值的敏感性。
2024-03-25 cs.NA math.NA math.OC
Iteration complexity of first-order augmented Lagrangian methods for convex conic programming
本文考虑一类凸锥规划。特别是,我们首先提出了一个不精确的增广拉格朗日(I-AL)方法,类似于经典的I-AL方法解决这个问题,其中增广拉格朗日子问题近似解决的一个变种Nesterov的最佳一阶方法。我们表明,一阶迭代的I-AL方法找到一个$ε$解决方案的总数是最多$\mathcal{O}(ε^{-7/4})$。然后,我们提出了一个自适应正则化的I-AL方法,并表明它实现了一阶迭代复杂性$\mathcal{O}(ε^{-1}\logε^{-1})$,这显着提高了现有的复杂性范围内实现的一阶I-AL方法找到一个$ε$ -KKT解决方案。我们对I-AL方法的复杂性分析是基于对不精确邻近点法(PPA)的深入分析以及I-AL方法与不精确PPA之间的联系。这与文献中一阶I-AL方法的复杂性分析有很大不同,文献中通常将I-AL方法视为不精确的对偶梯度法。
2022-11-19 cs.CC cs.NA math.NA
Separable Approximations and Decomposition Methods for the Augmented Lagrangian
The University of Edinburgh(爱丁堡大学)
本文研究了基于可分离近似的分解方法用于最小化增广拉格朗日函数,比较了Mulvey和Ruszczyński的DQAM与Richtárik和Takáč的PCDM,证明两者在可行性问题中等价,且在强凸性下改进了PCDM的复杂度界。
2013-08-30 cs.DC cs.NA math.NA
A distributed semismooth Newton based augmented Lagrangian method for distributed optimization
School of Mathematics, Southwest Jiaotong University(西南交通大学数学学院);School of Computer and Computing Science, Hangzhou City University(杭州城市大学计算机与计算科学学院);Institute of Mathematics, Zhejiang Wanli University(浙江万里大学数学学院)
本文提出了一种分布式半光滑牛顿基于增广拉格朗日方法,用于高效解决网络上的优化问题,通过分布式加速近端梯度方法提升计算效率。
2026-02-27 cs.LG cs.NA math.NA
Mean Field Type Control with Congestion (II): An Augmented Lagrangian Method
本文提出了一种单调有限差分方案并探讨了增广拉格朗日方法,用于求解具有拥堵的均场类型控制问题,考虑了周期性和更现实的边界条件。
2016-11-07 cs.NA cs.SY eess.SY
Constrained Optimization via Exact Augmented Lagrangian and Randomized Iterative Sketching
University of Chicago(芝加哥大学);University of California, Berkeley(加州大学伯克利分校);International Computer Science Institute(国际计算机科学研究所);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文针对等式约束非线性非凸优化问题,提出一种结合随机迭代草图求解器与精确增广拉格朗日线搜索的自适应非精确牛顿法,实现全局几乎必然收敛及局部超线性收敛,并在多个基准问题上验证了其优越性能。
2023-05-28 cs.LG cs.NA math.NA
A sparse semismooth Newton based augmented Lagrangian method for large-scale support vector machines
Sichuan University(四川大学);Southwest Jiaotong University(西南交通大学);Zhejiang University City College(浙江大学城市学院)
支持向量机(SVM)是一种成功的建模和预测工具,有着广泛的应用。以往的工作已经证明了支持向量机在处理高维、低样本量问题上的优越性。然而,随着样本量的增加,支持向量机的数值计算困难将变得更加严重。虽然支持向量机的求解器有很多,但只有少数是利用支持向量机的特殊结构来设计的。本文提出了一种高效的稀疏半光滑牛顿增广拉格朗日方法来求解一个带有线性等式约束和简单盒子约束的大规模凸二次规划问题。利用原-对偶误差界结果,保证了增广拉格朗日方法的快速局部收敛速度。此外,该算法利用半光滑牛顿法求解问题的二阶稀疏性,可以有效地解决上述困难问题。最后,数值比较表明,该算法优于当前国家的最先进的求解器的大规模支持向量机。
2021-02-03 cs.LG cs.NA math.NA