Two-Level Sketching Alternating Anderson acceleration for Complex Physics Applications
Imagination Corp.(Imagination公司);Department of Applied Mathematics, Fictional University(虚构大学应用数学系);Instituto de Ingeniería Matemática y Computacional & Facultad de Ciencias Biológicas, Pontificia Universidad Católica de Chile(智利天主教大学数学与计算工程研究所及生物科学学院);Centro de Modelamiento Matemático(数学建模中心);Computational Sciences and Engineering Division, Oak Ridge National Laboratory(橡树岭国家实验室计算科学与工程部)
本文提出了一种两级草图扩展的交替安德森-皮卡德方法,用于加速由离散偏微分方程支配的挑战性单物理和多物理模拟中的固定点迭代。该方法结合了静态的物理投影,将最小二乘问题减少到最有信息的场(例如通过Schur补洞察),以及动态的代数草图阶段,由在Lipschitz连续性下的回溯稳定性分析驱动。引入了低成本的稳定性阈值估计器和缓存感知的随机选择策略,以平衡计算成本和内存访问开销。所得到的算法能够在原地求解缩减的最小二乘系统,最小化内存足迹,并无缝地在低成本的皮卡德更新和安德森混合之间交替。在Julia中实现的两级草图AAP方法在Stokes、p-Laplacian、Bidomain和Navier-Stokes公式等基准问题中,相比标准安德森加速方法,实现了高达50%的求解时间减少,而不会降低收敛速率。这些结果展示了该方法的鲁棒性、可扩展性和在高性能科学计算框架中的应用潜力。我们的实现已作为AAP.jl库开源。
2026-05-18 cs.NA math.NA
Alternating projections with applications to Gerchberg-Saxton error reduction
我们考虑非凸集之间的交替投影的收敛性,并获得应用程序的Gerchberg-Saxton误差减少方法,高斯期望最大化算法,Cadzow算法的收敛性。
2021-04-05 cs.NA math.NA
Convergence analysis of the Schwarz alternating method for unconstrained elliptic optimal control problems
本文分析了求解无约束椭圆型最优控制问题的Schwarz交替法。我们讨论了该方法的收敛性在连续的情况下,然后应用到有限差分离散的情况下的参数。在这两种情况下,我们证明了Schwarz交替方法是收敛的,如果其对应的椭圆型方程是收敛的。同时,椭圆型方程方法在最大范数下的收敛速度也给出了最优控制问题方法在连续情况下或离散情况下在真误差价值函数或向量的最大范数下的收敛速度的一致上界(关于正则化参数$α$).我们的数值结果证实了我们的理论结果,并表明,随着$α$减少到零,该方法将收敛得更快。并对这一现象进行了阐述。
2022-01-04 cs.NA math.NA
Nonlinearly Preconditioned L-BFGS as an Acceleration Mechanism for Alternating Least Squares, with Application to Tensor Decomposition
School of Mathematical Sciences, Monash University(蒙纳士大学理学院);Department of Applied Mathematics, University of Waterloo(滑铁卢大学应用数学系)
本文提出基于L-BFGS更新公式非线性加速方法,用于加速交替最小二乘法在张量分解中的应用,通过非线性预条件化提升优化效率与鲁棒性。
2018-06-27 cs.NA math.NA math.OC
Convergence of Alternating Least Squares Optimisation for Rank-One Approximation to High Order Tensors
RWTH Aachen University(亚琛工业大学)
研究交替最小二乘法在高阶张量秩一近似中的收敛性与收敛速率,证明该方法可实现亚线性、线性和超线性收敛。
2015-03-18 cs.NA math.NA
On the Convergence of Alternating Least Squares Optimisation in Tensor Format Representations
RWTH Aachen University(亚琛工业大学);Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克科学促进研究所数学系)
本文研究了张量格式表示中交替最小二乘算法的收敛性,基于张量格式的多线性性质,分析了通过低维对象的多线性组合进行张量近似的方法及其对存储和计算效率的提升。
2015-05-30 cs.NA math.NA
Convergence of the alternating least squares algorithm for CP tensor decompositions
针对CP张量分解的交替最小二乘法收敛理论不完善的问题,本文证明了该算法在两类张量上的显式定量局部收敛速率,通过数值验证结果,并提出基于SVD的加速方案。
2025-05-20 cs.NA math.NA
On Accelerating the Regularized Alternating Least Square Algorithm for Tensors
Northeast Normal University(东北师范大学);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);Johannes Kepler Universitat Linz(约翰·开普勒林茨大学)
本文提出了一种基于Aitken-Stefensen更新的快速迭代方法,用于加速正则化交替最小二乘算法,实验表明其收敛速度优于传统方法,同时证明了算法的全局收敛性及局部线性收敛性。
2017-07-21 cs.NA math.NA
Local convergence of alternating low-rank optimization methods with overrelaxation
研究了低秩矩阵和张量问题的超松弛交替最优化方法的局部收敛性。分析是基于线性化的方法,它采取的形式SOR迭代的半正定海森,并可以在相应的商几何等价低秩表示进行研究。在矩阵情况下,加速局部收敛的最佳松弛因子可以由标准方法的收敛速度确定。这个结果依赖于半正定$2 \times 2$块系统的Young SOR定理的一个版本。
2022-06-28 cs.NA math.NA math.OC
Convergence Analysis of Two Alternating Iterative Schemes for Tucker Decomposition
University of Texas at Arlington(阿灵顿得克萨斯大学)
本文研究了Tucker分解中两种交替迭代方法(HOOI和ASI)的收敛性,针对复数张量进行了详细分析,并证明了这两种方法在温和条件下能够全局收敛到临界点,同时目标函数单调递增。
2026-05-18 cs.NA math.NA
The convergence of sequences in terms of positive and alternating Perron expansions
Institute of Mathematics National Academy of Sciences of Ukraine(乌克兰国家科学院数学研究所)
本文研究了通过正交和交替佩隆展开确定序列收敛性的条件,以确定由这些展开定义的函数的连续性。
2024-10-05 cs.NA math.CA math.NA
A note on alternating minimization algorithms: Bregman frame
National University of Defense Technology(国防科技大学);The State Key Laboratory for High Performance Computation, National University of Defense Technology(高性能计算国家重点实验室(国防科技大学))
本文提出一个Bregman框架,统一了多个经典交替最小化算法的数学表述,并在此框架下进行了收敛性分析,利用Kurdyka-Lojasiewicz性质获得了更强的收敛性结果。
2016-05-25 cs.NA math.NA
Convex combination of alternating projection and Douglas-Rachford operators for phase retrieval
我们给出了交替投影和道格拉斯-拉赫福德算子的凸组合求解相位恢复问题的收敛性分析。通过应用各种数值分析方案和探索相位恢复问题的物理和数学特性,建立了新的算法迭代收敛准则。数值结果表明,该算法的优点比其他广泛已知的投影方法在实际相关的模拟。
2020-02-05 cs.NA math.NA
Nesterov Acceleration of Alternating Least Squares for Canonical Tensor Decomposition: Momentum Step Size Selection and Restart Mechanisms
Monash University(莫纳什大学);University of Queensland(昆士兰大学);University of Waterloo(滑铁卢大学)
我们提出了Nesterov型加速技术的交替最小二乘(ALS)方法应用于规范张量分解。虽然Nesterov加速通过添加具有特定权重序列的动量项将梯度下降变成凸问题的最优一阶方法,但将该方法和权重序列直接应用于ALS会导致不稳定的收敛行为。这是因为张量分解问题是非凸的,并且ALS被加速而不是梯度下降。相反,我们考虑各种重启机制和适当的动量权重的选择,使有效的加速。我们广泛的实证结果表明,Nesterov加速ALS方法与重新启动可以显着更有效地比独立的ALS或Nesterov加速梯度法,当问题是病态的或准确的解决方案是期望的。所得到的方法与现有的用于ALS的加速方法(包括通过NCG、NGMRES或LBFGS的ALS加速)竞争或优于现有的用于ALS的加速方法,并且另外享有更容易实现的益处。我们还比较了Nesterov型更新的动量权重是由线搜索,这是等价的或密切相关的现有的线搜索法ALS。在一个大的和病态的71 $\times$ 1000 $\times$ 900张量组成的读数从化学传感器跟踪有害气体,重新启动Nesterov-ALS方法显示出理想的鲁棒性,并优于任何现有的方法的一个大的因素。有明显的潜力,扩展我们的Nesterov型加速方法,以加速其他优化算法比ALS适用于其他非凸问题,如塔克张量分解。我们的Matlab代码可以在https://github.com/hansdesterc…
2019-11-30 cs.LG cs.NA math.NA
Convergence of the alternating split Bregman algorithm in infinite-dimensional Hilbert spaces
University of Toronto(多伦多大学)
研究无限维希尔伯特空间中交替分裂Bregman算法的弱收敛性,并证明允许计算误差的近似版本的收敛性,主要通过对偶问题和Svaiter定理进行分析。
2011-12-08 cs.NA math.FA math.NA
A fast alternating projection method for complex frequency estimation
Lund University(隆德大学);Universidad de Santiago de Chile(智利圣地亚哥大学)
本文提出一种基于固定秩矩阵与Hankel矩阵交替投影的复指数和逼近方法,证明了收敛性、收敛速率和误差估计,并开发了快速算法,与MUSIC和ESPRIT方法进行了数值比较。
2011-07-08 cs.NA math.NA
A new convergence proof for an iterative scheme for elliptic Cauchy problems based on alternating orthogonal projections
针对边界部分给定条件的不适定椭圆柯西问题,研究基于交替正交投影的迭代方法,给出其收敛性证明及收敛速率,同时指出该速率估计会退化。
2026-10-14 cs.NA math.AP math.NA
Asymptotic Convergence Rate of Alternating Minimization for Rank One Matrix Completion
Boston University(波士顿大学)
我们研究交替最小化矩阵完成在最简单的可能设置:完成一个秩一矩阵从一个显示的子集的条目。通过对一个可逆一致问题的特征值的变分刻画,给出了渐近收敛速度的界。这导致了一个多项式上界的渐近速率的节点数以及最大程度的图中透露的条目。
2020-08-11 cs.LG cs.NA math.NA
Additional results on convergence and semiconvergence of three-step alternating iteration scheme for singular linear systems
本文进一步分析三步交替迭代格式的收敛性,为II型真G-弱正则分裂给出充分条件,证明其比两步和单步迭代更快,并建立半收敛性,通过马尔可夫过程实例验证。
2023-05-08 cs.NA math.FA math.NA
Randomized Iterative Methods with Alternating Projections
School of Mathematics and Statistics, Wuhan University(武汉大学数学与统计学院);Institute of Mathematics, Hangzhou Dianzi University(杭州电子科技大学数学研究所)
该研究用统一框架梳理16种随机迭代方法并提出新格式,结合交替投影矩阵积分分析收敛性,还讨论了与MG、DDM的关联,通过数值算例验证收敛行为。
2017-08-31 cs.NA math.NA
On convergence rates of proximal alternating direction method of multipliers
本文从适定凸优化和不适定逆问题两个角度,研究希尔伯特空间中近似ADMM的收敛速度,得到改进的非遍历收敛率和噪声相关的正则化收敛结果。
2023-10-09 cs.NA math.NA math.OC
On Dykstra's algorithm: finite convergence, stalling, and the method of alternating projections
在希尔伯特空间中求两个闭凸子集在其交上的投影的一种常用方法是Dykstra算法。本文给出了Dykstra算法快速收敛的充分条件。我们还分析了行为的Dykstra的算法适用于一条线和一个正方形。这个案例研究揭示了与交替投影方法的明显相似之处。此外,我们表明,Dykstra的算法可能会停滞任意长的时间。最后,我们提出了一些开放的问题。
2020-01-19 cs.NA math.NA math.OC
Iteration complexity analysis of a partial LQP-based alternating direction method of multipliers
本文研究了一类具有可分结构的多块变量凸优化问题。通过在第一组子问题中加入对数二次近似(LQP)正则化子和适当的近似参数,提出了一种基于部分LQP的乘子交替方向法(ADMM-LQP).对偶变量更新两次,步长比经典区域$(0,\frac{1+\sqrt{5}}{2})$相对更大。利用预测-校正方法分析了ADMM-LQP迭代的性质,证明了$O(1/T)$在新的遍历和非遍历意义下的整体收敛和次线性收敛速度,其中$T$表示迭代指标.我们还将算法推广到非光滑复合凸优化,并建立了{相似收敛结果}作为我们的ADMM-LQP。
2021-03-31 cs.NA math.NA
The rate of convergence in the method of alternating projections
Université Lille 1, CNRS UMR 8524(里尔第一大学,法国国家科学研究中心);Institute of Mathematics AV CR(捷克科学院数学研究所)
将两个子空间之间的Friedrichs角的余弦推广到与Hilbert空间中多个闭子空间相关的参数,并利用该参数分析von Neumann-Halperin循环交替投影方法的收敛速度,证明了一般二分定理(在Hilbert或Banach空间情形下),给出了QUC/ASC(快速一致收敛与任意慢收敛)成立的条件,并提出了ASC的几种含义。
2010-06-10 cs.NA math.FA math.NA
Optimal-order convergence of Nesterov acceleration for linear ill-posed problems
我们表明,Nesterov加速是线性不适定问题的最优阶迭代正则化方法,只要根据解的光滑性选择参数。这一结果证明了先验的停止规则和差异原则。获得这一结果的基本工具是通过Gegenbauer多项式的残差多项式的表示。
2021-01-20 cs.NA math.NA
Solving two-parameter eigenvalue problems using an alternating method
提出了一种计算双参数本征值问题的特征值和特征向量的新方法。我们的方法需要计算与初始双参数本征值问题的矩阵大小相同的广义本征值问题。该方法适用于右定问题,可能在执行仿射变换之后。这包括应用分离变量时的一类亥姆霍兹方程。我们提供了极值特征值的收敛性证明和经验证据,以及其他特征值的局部收敛证明。
2021-05-11 cs.NA math.NA
A residual-iteration framework for alternating projections between affine subspaces
City College of New York, CUNY(纽约市立学院,CUNY)
研究希尔伯特空间中仿射子空间间交替投影问题,通过将其转化为最小二乘泛函最小化,建立残差迭代框架,获得加速变体及收敛保证,还在闭值域假设下得出线性收敛结果及收敛速率。
2026-07-17 cs.NA math.FA math.NA
Convergence analysis and proof of acceleration for NGMRES applied to the Picard iteration for Navier-Stokes equations
University of Houston(休斯顿大学);Clemson University(克莱姆森大学)
本文分析了NGMRES在Navier-Stokes Picard迭代中的收敛性,证明了其通过优化问题的增益加速收敛,并通过数值实验验证了收敛估计的准确性及对发散情况的改善作用。
2026-08-26 cs.NA math.NA
A general alternating-direction implicit Newton method for solving complex continuous-time algebraic Riccati matrix equation
本文利用牛顿法将连续时间代数Riccati矩阵方程转化为李雅普诺夫方程。然后,我们介绍了一个有效的通用交替方向隐式(GADI)方法来解决李雅普诺夫方程。提出了非精确Newton-GADI方法,有效地节省了计算量。此外,我们还分析了Newton-GADI方法的收敛性。通过分析Newton-GADI法和Newton-ADI法的谱半径,比较了它们的收敛速度。此外,我们给出了一种方法来选择准最优参数。相应的数值试验表明,所提出的算法的有效性。
2022-03-04 cs.NA math.NA
Convergence Analysis of the Alternating Anderson-Picard Method for Nonlinear Fixed-point Problems
本文研究了非线性不动点问题中的交替Anderson-Picard(AAP)方法,通过建立其与multisecant-GMRES的等价性,证明AAP渐近收敛于Newton-GMRES方法,并得出其局部q-线性收敛性及收敛因子上界。
2025-07-11 cs.NA math.NA
A New Fast Adaptive Linearized Alternating Direction Multiplier Method for Convex Optimization
针对凸优化问题,本文提出一种利用当前迭代点信息自适应选择参数的新型LADMM,以在保证收敛性的同时扩大步长选择并提升求解效率。
2024-07-03 cs.NA math.NA math.OC
On the Convergence of CROP-Anderson Acceleration Method
本文研究经典Anderson加速与CROP算法的复杂关联,分析二者收敛特性与内在联系并通过数值算例验证,为加速方法的实际应用及新型高效加速方案开发提供见解。
2024-10-04 cs.NA math.NA
Alternating cyclic extrapolation methods for optimization algorithms
本文介绍了新的定点迭代加速方法。外推计算交替使用两个或三个映射,并提出了一种新的类型的步长具有良好的性能,为非线性应用。该方法不需要特定问题的适应,在高维环境中特别有效。它们的计算使用很少的目标函数评估,没有矩阵求逆和很少的额外内存。收敛性分析,其次是八个应用程序,包括梯度下降加速约束和无约束优化。性能与竞争对手相当或更好。该算法可作为Julia包SpeedMapping.jl获得。
2021-08-14 cs.NA math.NA math.OC
NGMRES convergence analysis and proof of acceleration for contractive and noncontractive iterations
University of Houston(休斯顿大学);Clemson University(克莱姆森大学);University of West Florida(西佛罗里达大学)
研究将NGMRES用于求解一般非线性系统的压缩和非压缩不动点迭代,分析其收敛性并证明加速机制,揭示相关重要量。通过数值结果展示该理论,包括加速对收敛的改善、预测线性收敛速率的准确性及在多方面的优势。
2026-09-07 cs.NA math.NA
Convergence acceleration of Kaczmarz's method
Université des Sciences et Technologies de Lille(里尔科学技术大学);Università degli Studi di Padova(帕多瓦大学)
针对Kaczmarz方法收敛慢的问题,提出基于序列变换的加速策略,通过直接加速或重启加速提高效率,数值实验验证有效性。
2013-02-01 cs.NA math.NA
Improved convergence of the Arrow-Hurwicz iteration for the Navier-Stokes equation via grad-div stabilization and Anderson acceleration
为了加速算法,我们考虑了求解不可压定常Navier-斯托克斯方程的Arrow-Hurwicz(AH)迭代的两种改进:梯度-div稳定化和Anderson加速。AH是一般鞍点线性系的经典迭代,70年代又被推广到Navier-Stokes迭代,最近又开始研究。我们应用最近发展的思想梯度div稳定和发散自由有限元法随着安德森加速的不动点迭代AH,以提高其收敛性。分析和数值结果表明,这些方法都提高了AH收敛性,但它们的组合产生一个高效和有效的方法,更常用的求解器是有竞争力的。
2022-03-03 cs.NA math.NA
The Epsilon-Alternating Least Squares for Orthogonal Low-Rank Tensor Approximation and Its Global Convergence
本文提出了一种新的交替最小二乘法($ε$ -ALS),并分析了高阶张量的典型多元分解(近似),其中一个或多个因子矩阵被假定为列方向正交的。结果表明,该算法全局收敛到一个KKT点的所有张量没有任何假设。对于原ALS,通过进一步研究其极式分解的性质,在一个不强于文献的实际假设下,我们也证明了它的整体收敛。这些结果完全解决了[L. Wang,M. T. Chu和B. Yu,\emph{SIAM J. Matrix Anal. Appl.},36(2015),pp. 1- 19]。此外,提出了一个初始化过程,它具有一个可证明的下界时,列正交因子的数量是1。数值实验表明,该算法在效率和有效性方面具有良好的性能。
2019-12-05 cs.NA math.NA math.OC
Tensor Ring Decomposition: Optimization Landscape and One-loop Convergence of Alternating Least Squares
本文研究了张量环分解及其数值算法。随着键维数的增加,我们建立了最优化问题的算法难度的急剧转变:一方面,即使当张量环格式被过度参数化时,我们也显示了优化景观的伪局部极小值的存在,即,键的尺寸远大于真正的目标张量。另一方面,当键维数进一步增加时,我们建立了张量环分解的交替最小二乘算法的单圈收敛性。数值实验验证了交替最小二乘算法的局部极小值和单圈收敛性。
2020-06-16 cs.NA math-ph math.MP
Optimal rates of linear convergence of the averaged alternating modified reflections method for two subspaces
University of Alicante(阿利坎特大学)
本文研究了在两个子空间中平均交替修改反射法(AAMR)的线性收敛速率,通过分析矩阵幂的线性收敛速率,得出了Friedrichs角和方案参数之间的关系,并优化了参数以获得更优的收敛速率,最后通过数值实验验证了理论结果。
2017-11-17 cs.NA math.NA math.OC
Alternating direction implicit time integrations for finite difference acoustic wave propagation: Parallelization and convergence
本文研究了两种有限差分声波传播方法在二维矩形网格上的并行化和经验收敛性,这两种方法使用相同的交替方向隐式(ADI)时间积分。该ADI积分基于二阶隐式Crank-Nicolson时间离散化,该时间离散化通过时间和空间方程项的Cracheman-Rachford分解分解。在空间上,这些方法高度发散,并应用不同的四阶精确微分技术。第一种方法使用紧凑的有限差分(CFD)的节点网格,需要解决沿每个网格线的三对角线性系,而第二个采用交错网格模拟有限差分(MFD)。对于每种方法,我们实现了三个并行版本:(i)Octave中的多线程代码,(ii)利用OpenMP循环并行化的C++代码,以及(iii)NVIDIA GTX 960 Maxwell卡的CUDA内核。在这些实施方式中,并行性的主要来源是根据微分方向的列方式或行方式的每个波场矩阵的同时ADI更新。在我们的数值应用程序中,CFD和MFD CUDA代码显示出最高的性能,相对于具有最佳编译标志的C++顺序代码,它们分别实现了7.21倍和15.81倍的加速比。我们的测试案例也可以评估这两种方法的数值收敛性和准确性。在具有精确调和解的问题中,这两种方法的收敛速度接近4,并且收敛精度实际上更高。或者,这两个收敛衰减到二阶光滑的问题与严重的梯度在边界上,并在高分辨率的网格,导致更大的不准确性的收敛率下降。这种经验收敛的转变与空间和时间上的名义截断误差一致…
2020-06-13 cs.NA math.NA
Nonlinear sequence transformations for the acceleration of convergence and the summation of divergent series
本报告系统探讨了多种非线性序列变换,用于加速收敛和求和发散级数,提出了新变换及高效算法,并通过理论分析和数值测试验证了其性能。
2003-06-19 cs.NA math.NA
On the use of conformal maps for the acceleration of convergence of the trapezoidal rule and Sinc numerical methods
University of Alberta(阿尔伯塔大学);The University of Sydney(悉尼大学)
本文研究共形映射在加速梯形法则和Sinc方法收敛性中的应用,通过多项式调整sinh映射处理复平面上的有限奇点,并展示该方法在求解复杂积分、非线性波和多维积分中的高精度解。
2014-06-12 cs.NA math.NA
Accurate principal component analysis via a few iterations of alternating least squares
交替最小二乘的几次迭代与随机的起点证明足以产生几乎最佳的谱和Frobenius范数精度的低秩近似矩阵;迭代收敛是不必要的。因此,实现交替最小二乘的软件可以通过适当的参数设置来改造,以高效地计算接近最优精度的低秩近似,而不需要收敛。
2016-03-05 cs.NA math.NA stat.CO
Enabling fast convergence of the iterated penalty Picard iteration with $O(1)$ penalty parameter for incompressible Navier-Stokes via Anderson acceleration
本文考虑了求解不可压斯托克斯方程的经典迭代罚Picard(IPP)方法的一个改进,其中我们将注意力限制在$O(1)$罚参数上,并使用Anderson加速(AA)来显著改善其收敛性。在证明与IPP迭代相关的不动点算子是Lipschitz连续和Lipschitz连续(Frechet)可微的之后,我们应用最近开发的AA的一般理论得出结论,用AA增强的IPP通过与底层AA最优化问题相关的增益因子来提高其线性收敛速率。几个具有挑战性的数值试验的结果表明,IPP与罚参数1和增强AA是一个非常有效的解决方案。
2021-05-19 cs.NA math.NA
Convergence rate and acceleration of Clenshaw-Curtis quadrature for functions with endpoint singularities
Huazhong University of Science and Technology(华中科技大学)
本文研究了Clenshaw-Curtis求积法在具有端点奇性的函数上的收敛速度及加速方法,证明了其收敛率为O(n^{-s-2}),并给出了误差展开式以实现收敛加速。
2014-07-17 cs.NA math.NA
Convergence rates of the stochastic alternating algorithm for bi-objective optimization
双目标优化的随机交替算法被认为是优化两个相互冲突的功能,优化步骤必须分别为每个功能。这种算法包括在每次迭代时对每个目标应用一定数量的梯度或次梯度下降步骤。在本文中,我们表明,随机交替算法实现了次线性收敛速度的$\mathcal{O}(1/T)$,在强凸性下,为确定一个极小的加权和的两个功能,参数化的步骤数应用于他们每个人。凸的情况下,率减弱为$\mathcal{O}(1/\sqrt{T})$的扩展。这些速率在非光滑情况下也是有效的。重要的是,通过改变应用于每个函数的步长比例,可以确定帕累托前沿的近似值。
2023-01-06 cs.NA math.NA math.OC
The proximal alternating direction method of multipliers in the nonconvex setting: convergence analysis and rates
在完全非凸的情况下,我们提出了两个数值算法,分别用于求解光滑函数和非光滑函数与线性算子的复合问题。迭代计划制定的精神,近端交替方向法的乘法器和其线性化的变体,分别。近端项通过引入可变度量,这一事实使我们能够推导出新的非凸结构最优化问题的近端分裂算法,作为一般方案的具体实例。在变度量序列的适当条件下,通过假设相应增广拉格朗日量的正则化具有Kurdyka-Lojasiewicz性质,证明了迭代收敛于目标函数的KKT点.通过假设增广拉格朗日量具有Lojasiewicz性质,我们还得到增广拉格朗日量和迭代的收敛速度。
2020-07-31 cs.NA math.NA math.OC
Convergence Acceleration for Time Dependent Parametric Multifidelity Models
University of Utah(犹他大学)
本文提出一种数值方法加速参数常微分方程多保真模型的收敛,通过多保真代理模型构建三级算法,结合样条插值和Richardson外推提升收敛精度。
2018-08-10 cs.NA math.NA
Convergence of Constrained Anderson Acceleration
证明了约束Anderson加速外推格式的非渐近线性收敛速率。这些保证来自新的上界的约束切比雪夫问题,其中包括在最小化的最大绝对值的多项式在一个有界的实区间$l_1$限制其系数向量。约束Anderson加速格式的数值代价与原格式相当。
2020-10-29 cs.NA math.NA math.OC
A nonmonotone globalization framework for Anderson acceleration for contractive and nonexpansive fixed point problems
School of Mathematics, Harbin Institute of Technology(哈尔滨工业大学数学学院)
针对Anderson加速缺乏全局收敛保证的问题,提出非单调全局化框架,在保留局部加速的同时确保合同与非扩张映射的全局收敛,并给出参数选择规则,数值实验验证了鲁棒性与效率。
2026-09-25 cs.NA math.NA
Convergence analysis of Anderson acceleration for nonlinear equations with Hölder continuous derivatives
Minnan Normal University(闽南师范大学)
本文在Jacobian为Hölder连续且不动点函数压缩的条件下,建立了Anderson加速求解非线性系统的一般深度局部R-线性收敛理论,并通过非对称Riccati方程验证了其在困难情形下显著减少迭代次数与计算时间的优势。
2026-10-05 cs.NA math.NA
Convergence Analysis of An Alternating Nonlinear GMRES on Linear Systems
University of Houston(休斯顿大学)
本研究提出用于线性系统的交替非线性GMRES算法aNGMRES(m,p),证明其与GMRES的周期等价性,分析收敛特性,该算法无需每步解最小二乘问题,成本更低且抗停滞鲁棒性更强。
2025-10-29 cs.NA math.NA
The Method of Alternating Relaxed Projections for two nonconvex sets
University of British Columbia(不列颠哥伦比亚大学);University of Victoria(维多利亚大学)
本文研究了交替松弛投影法在处理两个可能非凸集的可行性问题,建立了局部线性收敛性结果,并通过实例验证了分析。
2013-05-18 cs.NA math.FA math.NA
Convergence and acceleration of a nonlinear fixed-point iteration for computing the Fitness Centrality of general graphs
Faculty of Sciences, Scuola Normale Superiore(高等师范学校理学院)
该研究针对一般图的适应度中心性计算,证明了对应非线性不动点迭代的全局收敛性与显式收敛界,并通过Anderson加速和牛顿切换策略提升收敛速度,数值实验验证了其有效性。
2026-09-01 cs.NA cs.SI math.NA