A new insight on augmented Lagrangian method with applications in machine learning
本研究提出带双惩罚项的新型松弛增广拉格朗日方法,可扩展至多块可分凸优化,结合两种原始-对偶混合梯度算法,证明了次线性与线性收敛性,在机器学习相关问题上性能优于现有最优算法。
2025-06-13 cs.NA math.NA
Augmented Lagrangian and Galerkin least squares methods for membrane contact
University College London(伦敦大学学院);Jönköping University(延雪平大学);Umeå University(于默奥大学)
本文提出一种稳定有限元方法,用于求解弹性膜与刚性障碍物的接触问题,方法适用于无摩擦接触,可扩展至更复杂情况。
2017-11-13 cs.NA math.NA
A Primal-dual weak Galerkin finite element method for linear convection equations in non-divergence form
针对一阶非散度型线性对流方程,提出了一种新的原始-对偶弱Galerkin(PD-WG)有限元法. PD-WG方法导致对称离散系统,其不仅涉及原始变量的原始方程,而且涉及对偶变量的对偶/伴随方程(也称为拉格朗日乘子)。对于PD-WG格式的数值解,得到了各种离散Sobolev范数下误差估计的最优阶.数值结果的产生和报告,以说明新的PD-WG方法的准确性和有效性。
2019-11-19 cs.NA math.NA
Recycling augmented Lagrangian preconditioner in an incompressible fluid solver
讨论了矩阵分解在非对称鞍点线性代数系统的增广拉格朗日(AL)和修正的AL预条件子中的重用。该策略适用于解决二维不可压缩流体问题的效率率独立的雷诺数。求解器,然后进行测试,以模拟运动的表面流体,一个例子的二维流动动机的兴趣在横向流动性不可扩展的粘性膜。数值例子包括Kelvin-Helmholtz不稳定性问题上提出的领域和环面。一些新的特征值估计的AL预条件子。
2022-01-15 cs.NA math.NA
An augmented Lagrangian-based preconditioning technique for a class of block three-by-three linear systems
本文提出一种基于增广拉格朗日的预处理程序,用于加速求解耦合Stokes-Darcy流问题等产生的块三乘三线性系统的Krylov子空间方法收敛,通过谱分析验证并经3D数值实验证明其结合灵活GMRES的有效性。
2023-10-24 cs.NA math.NA
Augmented Lagrangian approach to deriving discontinuous Galerkin methods for nonlinear elasticity problems
我们使用增广拉格朗日形式主义推导出非线性弹性问题的间断伽辽金公式。在弹性力学中,应力是应变的对称函数,当采用协调元离散时,牛顿法中的切线刚度矩阵是对称的。利用增广拉格朗日框架,我们也可以得到对称的切线刚度矩阵的间断伽辽金方法。我们提出了两种不同的方法,并给出了例子,从塑性和大变形超弹性。
2022-02-17 cs.CE cs.NA math.NA
A $\ell_2-\ell_p$ regulariser based model for Poisson noise removal using augmented Lagrangian method
本文提出基于 ℓ2-ℓp 正则化的变分 PDE 模型,结合增广拉格朗日方法去除模糊图像中的泊松噪声,并通过数值实验验证其在 SSIM、PSNR 和 SNR 指标上优于已有模型。
2025-04-11 cs.NA math.NA
An augmented Lagrangian preconditioner for the control of the Navier--Stokes equations
针对定常不可压缩Navier--Stokes方程的分布控制问题,提出不精确牛顿线性化最优性条件的方法,结合增广拉格朗日块三角预条件子与灵活GMRES求解离散后的鞍点系统,数值实验验证其对粘度、网格尺寸等的鲁棒性。
2025-04-15 cs.NA math.NA
Augmented Lagrangian finite element methods for contact problems
University College London(伦敦大学学院);Jönköping University(延雪平大学);Umeå University(于默奥大学)
本文提出两种不同的拉格朗日乘子方法,用于解决接触问题,分析了连续和不连续逼近空间下的稳定性及收敛性。
2016-09-12 cs.NA math.NA
Finite element appoximation and augmented Lagrangian preconditioning for anisothermal implicitly-constituted non-Newtonian flow
我们设计了3场和4场有限元近似的系统描述的不可压缩的导热流体的隐式非牛顿流变学的稳态。我们证明了该序列的数值逼近收敛到问题的一个弱解。我们开发了一个块预处理的基础上增广拉格朗日稳定的离散化的基础上的斯科特-Vogelius有限元对的速度和压力。预处理涉及到一个专门的多重网格算法,利用空间分解,捕捉内核的分歧和非标准的网格间传输运营商。该预处理器具有强大的收敛行为时,适用于Navier-Stokes方程和幂律系统,包括温度依赖的粘度,导热系数和粘性耗散。
2021-10-15 cs.NA math.NA
Augmented Lagrangian Method for Second-Order Cone Programs under Second-Order Sufficiency
本文讨论了二阶锥规划在最优化理论和应用中的重要问题。主要的注意力是支付给增广拉格朗日方法(ALM)考虑在精确和不精确的形式,这样的问题。使用广义微分工具的二阶变分分析,我们制定了相应的版本的二阶充分性,并使用它来建立,除其他结果外,一致的二阶增长条件的增广拉格朗日。后者使我们能够证明在ALM子问题的可解性,并证明该方法的线性原对偶收敛。
2021-07-06 cs.NA math.NA math.OC
An augmented Lagrangian algorithm for constrained nonlinear least-squares
Université de Montréal(蒙特利尔大学);Hydro-Québec(魁北克水电公司);Université du Québec à Montréal(蒙特利尔大学)
该研究针对受非线性和线性约束的非线性最小二乘问题,提出算法,通过将目标重述为增广拉格朗日函数处理非线性约束,用梯度投影技术近似求解线性约束问题,还涉及海森矩阵近似,展示全局收敛性并经实验评估性能。
2026-07-14 cs.NA math.NA math.OC
An Efficient Augmented Lagrangian Method with Semismooth Newton Solver for Total Generalized Variation
总广义变分(TGV)是一种非常强大和重要的正则化方法,用于各种反问题和计算机视觉任务。在本文中,我们提出了一个半光滑牛顿基增广拉格朗日方法来解决这个问题。增广拉格朗日方法(又称乘子法)被广泛应用于许多光滑或非光滑的变分问题。然而,其效率通常严重依赖于同时解决耦合和非线性系统,这是非常复杂的和高度耦合的总广义变化。利用有效的原始-对偶半光滑Newton方法求解包含广义变分的复杂线性子问题,研究了一种高效的半光滑Newton算法,并与一阶方法进行了比较.通过分析相应函数的度量子空间,给出了增广拉格朗日方法的整体收敛和局部线性收敛速率.
2022-01-27 cs.NA math.NA math.OC
New convergence analysis of a primal-dual algorithm with large stepsizes
本文考虑了一个用Fréchet可微$f$和$l^*$极小化$f(x)+h\square l(Ax)$的原始对偶法.这种原始对偶法在文献中有两个名称:基于邻近算子的原始对偶固定点算法(PDFP $^2$ O)和邻近交替预测-校正算法(PAPC)。在本文中,我们证明了它的收敛性的步长比现有的一个较弱的条件。在附加的假设下,证明了它的线性收敛.此外,我们证明了这个条件(步长的上界)是紧的,不能被削弱。这一结果也恢复了最近提出的正不定线性增广拉格朗日方法。此外,我们将这一结果应用到一个分散的共识算法PG-EXTRA,并推导出最弱收敛条件。
2021-01-31 cs.NA math.NA math.OC
An augmented Lagrangian deep learning method for variational problems with essential boundary conditions
针对带本质边界条件的变分问题,提出了一种新的深度学习方法。为此,我们首先将原问题转化为一个极大极小问题,对应于一个可行的增广拉格朗日量,它可以通过增广拉格朗日方法在无限维环境中求解。在此基础上,通过用两个单独的深度神经网络函数表示原始变量和对偶变量,我们提出了一种增强的拉格朗日深度学习方法,其参数通过随机最优化方法和投影技术进行训练。与传统的罚函数法相比,该方法具有罚参数选择灵活、鲁棒性强和在同等计算量下数值解精度高的优点.作为典型的应用,我们将新方法应用于求解椭圆问题和具有本质边界条件的(非线性)本征值问题,并给出数值实验来验证新方法的有效性.
2022-05-09 cs.NA math.NA math.OC
Augmented Lagrangian method for a TV-based model for demodulating phase discontinuities
在这项工作中,我们将App.Opt.53:2297(2014)中提出的方法重新表述为使用增广拉格朗日方法的约束最小化问题。首先介绍了新的方法,然后描述了数值解,这导致一个简单的算法。用合成条纹图和真实条纹图进行的数值实验表明了该算法的准确性和简单性。
2020-01-25 cs.NA eess.IV math.NA
An Augmented Lagrangian Method-Based Framework in the Adjoint Space for Sparse Reconstruction of Acoustic Sources
School of Mathematics, Renmin University of China(中国人民大学数学学院)
提出一种半光滑牛顿增广拉格朗日框架,在测量(伴随)空间进行更新,通过Fenchel-Rockafellar对偶恢复声源,显著加速计算并降低成本。
2026-06-18 cs.NA math.NA math.OC
An augmented Lagrangian trust-region method with inexact gradient evaluations to accelerate constrained optimization problems using model hyperreduction
提出一种增广拉格朗日信赖域方法,结合即时构建的超降阶模型和不精确梯度评估,高效求解偏微分方程约束优化问题,在气动外形设计中实现12.7倍加速。
2024-05-23 cs.NA math.NA math.OC
ALS: Augmented Lagrangian Sketching Methods for Linear Systems
我们开发了两种基本的随机草图技术:惩罚草图(PS)和增广拉格朗日草图(ALS)解决一致的线性系。所提出的PS和ALS技术通过引入拉格朗日惩罚草图来扩展和推广草图与项目(SP)方法的范围。在这样做,我们恢复SP方法作为特殊情况下,并进一步开发了一个家庭的新的随机迭代法。通过改变所提出的PS方法中的草图参数,我们恢复新的随机方法,如惩罚牛顿下降,惩罚Kaczmarz,惩罚随机下降,惩罚坐标下降,惩罚高斯追求,和惩罚块Kaczmarz。此外,所提出的ALS方法综合了各种各样的新的随机方法,如增强牛顿下降,增强Kaczmarz,增强随机下降,增强坐标下降,增强高斯追踪和增强块Kaczmarz到一个框架。此外,我们表明,开发的PS和ALS框架可以用来重新制定原来的线性系等价的随机最优化问题,即惩罚随机重新制定和增广随机重新制定。我们证明了PS和ALS方法的整体收敛速度以及次线性$\mathcal{O}(\frac{1}{k})$速率的Cesaro平均迭代。所提出的收敛结果适用于广泛的随机矩阵的分布,这提供了微调适合于特定应用的方法的随机性的机会。最后,我们进行计算实验,证明我们的方法相比,现有的SP方法的效率。
2022-08-12 cs.LG cs.NA math.NA
A first-order augmented Lagrangian method for constrained minimax optimization
University of Minnesota(明尼苏达大学)
针对一类约束极小极大问题,提出一阶增广拉格朗日方法,并用自研一阶法求解结构化子问题,证明其获得 ε-KKT 解的运算复杂度为 O(ε^{-4} log ε^{-1})。
2024-10-28 cs.LG cs.NA math.NA
Accelerated first-order primal-dual proximal methods for linearly constrained composite convex programming
University of Alabama(阿拉巴马大学)
本文提出两种加速方法解决线性约束的复合凸优化问题,通过线性化和近似项简化子问题,实现O(1/t)或O(1/t²)收敛性,优于现有方法。
2016-06-29 cs.NA math.NA math.OC
Separable Approximations and Decomposition Methods for the Augmented Lagrangian
The University of Edinburgh(爱丁堡大学)
本文研究了基于可分离近似的分解方法用于最小化增广拉格朗日函数,比较了Mulvey和Ruszczyński的DQAM与Richtárik和Takáč的PCDM,证明两者在可行性问题中等价,且在强凸性下改进了PCDM的复杂度界。
2013-08-30 cs.DC cs.NA math.NA