On Generalized Jacobi, Gauss-Seidel and SOR Methods
National Institute of Technology Meghalaya(梅加拉亚邦国家技术学院)
本文研究了雅可比和高斯-塞德尔方法的广义形式,讨论了其收敛性准则,并提出了一种广义的逐次加速松弛方法,通过数值实验验证其优势。
2018-06-20 cs.NA math.NA
A novel greedy Gauss-Seidel method for solving large linear least squares problem
提出了一种新的求解大型线性最小二乘问题的贪婪Gauss-Seidel方法。该方法改进了Bai和Wu [Bai ZZ,and Wu WT.求解大型线性最小二乘问题的贪婪随机坐标下降法。Numer线性代数应用2019;26(4):1--15],这反过来又改进了流行的随机化高斯-赛德尔方法。对新方法进行了收敛性分析。数值实验表明,在相同精度下,该方法在计算时间上优于GRCD方法。
2020-04-08 cs.NA math.NA
Convergence on Gauss-Seidel iterative methods for linear systems with general H-matrices
Xi’an Polytechnic University(西安工程大学);Henan University of Science and Technology(河南科技大学)
本文研究了Gauss-Seidel迭代法在非严格对角占优矩阵和一般H矩阵线性系统中的收敛条件,提出新的理论结果并给出数值例子验证。
2014-10-13 cs.NA math.NA
A generalization of the Gauss-Seidel iteration method for generalized absolute value equations
本文提出一种无参数的 Gauss-Seidel 推广(GGS)方法求解广义绝对值方程,分析了其收敛性,并通过数值实验验证了方法的有效性与高效性,同时扩展了已有工作。
2025-05-02 cs.NA math.NA
Generalized Jacobi and Gauss-Seidel Method for Solving Non-Square Linear Systems
National Institute of Technology Meghalaya(梅加拉亚邦国立技术学院)
本文提出了一种求解非方阵线性系统的一般化雅可比和高斯-赛德尔迭代方法,推导了收敛条件,并通过实例比较了不同方法的性能。
2017-06-23 cs.NA math.NA
Gauss-Seidel Method with Oblique Direction
本文提出了一种斜向Gauss-Seidel方法(GSO),用于求解系数矩阵可以是满秩或亏秩,系统可以是超定或欠定的线性方程组的最小二乘解。通过该方法,可以在较大程度上减少求最小二乘解的迭代步数和运行时间,特别是当矩阵A的列接近于线性相关时。从理论上证明了GSO方法收敛于最小二乘解。同时,建立了一种随机化形式--斜向随机化Gauss-Seidel方法(RGSO),并证明了其收敛性。理论证明和数值结果表明,GSO方法和RGSO方法比坐标下降(CD)方法和随机坐标下降(RCD)方法更有效。
2021-06-01 cs.NA math.NA
Improved Energy Stable Symmetric Gauss-Seidel Projection Method for Micromagnetics Simulations
Xi’an-Jiaotong-Liverpool University(西交利物浦大学)
提出对称高斯-赛德尔投影方法(SGSPM),通过双遍对称迭代利用热扩散子问题更新信息,严格保证离散能量稳定性,用于微磁学模拟。
2026-06-29 cs.NA math.NA
On block Gaussian sketching for the Kaczmarz method
Kaczmarz算法由于其简单性和计算效率而成为求解大规模超定线性方程组最常用的方法之一。此方法可视为更一般的草图和项目方法类的特殊实例。最近,提出了一个块高斯版本,该版本使用块高斯草图,享受高斯草图的正则化属性,并结合块变体的加速。理论分析只提供了非块版本的高斯草图方法。在这里,我们提供了理论保证的块高斯Kaczmarz方法,证明了一些收敛结果显示收敛到解决方案的指数快速的期望。另一方面,有了这个理论和广泛的实验支持,我们观察到,每次迭代的数值复杂性通常使这种方法不如其他迭代投影方法。我们只强调一种可能有利的设置,即当正则化效应用于减少某些噪声模型下迭代的方差和某些特定矩阵构造的收敛性时。
2020-01-21 cs.NA math.NA math.PR
Greedy Block Gauss-Seidel Methods for Solving Large Linear Least Squares Problem
采用贪婪策略构造坐标系的控制指标集,在每次迭代中选择相应的列子矩阵,提出了求解大型线性最小二乘问题的贪婪分块Gauss-Seidel(GBGS)方法.理论分析表明,GBGS方法的收敛因子比最近提出的贪婪随机坐标下降(GRCD)方法的收敛因子小小于。在GBGS方法的基础上,我们进一步提出了一种无需伪逆的贪婪块Gauss-Seidel方法,该方法在每次迭代中不再需要计算列子矩阵的Moore-Penrose伪逆,从而可以获得更大的加速。此外,该方法还可以用于分布式实现。数值实验表明,在相同的精度下,我们的方法在迭代次数和计算时间上远远优于GRCD方法。
2020-04-06 cs.NA math.NA
The leapfrog algorithm as nonlinear Gauss-Seidel
优化、图像和信号处理中的几个应用程序处理属于Stiefel流形St(n,p)的数据,即具有正交列的n × p矩阵的集合。一些应用,如黎曼质心,需要计算St(n,p)上任意两点之间的黎曼距离。这可以通过显式构造连接这两个点的测地线来完成。现有的一种求测地线的方法是J.L.诺克斯该算法与Gauss-Seidel方法有关,Gauss-Seidel方法是一种经典的迭代法,用于求解线性方程组,可以扩展到非线性系统。我们提出了一个收敛性证明的蛙跳作为一个非线性Gauss-Seidel方法。我们的讨论仅限于Stiefel流形的情况,然而,它可以推广到其他嵌入子流形。我们讨论了蛙跳的其他方面,并提出了一些数值实验。
2023-01-28 cs.NA math.NA
Symmetric Gauss-Seidel Method with a Preconditioned Fixed-Point Iteration for the Steady-State Boltzmann equation
本文提出基于对称高斯-赛德尔方法的稳态玻尔兹曼方程求解器,通过渐近极限预条件的不动点迭代和多重网格加速收敛,在小努森数下效果显著。
2024-09-03 cs.NA math.NA
General form of the Gauss-Seidel equation to linearly approximate the Moore-Penrose pseudoinverse in random non-square systems and high order tensors
本文提出一种通用解析迭代公式,统一逼近Moore-Penrose伪逆解,并在简化条件下退化为经典迭代方法,填补非方阵系统的理论空白。
2025-03-28 cs.NA math.NA
Inexact Gauss Seidel and Coarse Solvers for AMG and s-step CG
本文提出了一种基于FGS的低同步方法,用于避免通信的Krylov方法,通过利用Chebyshev基生成的Gram矩阵结构,提升AMG和s-step CG的求解效率。
2025-12-10 cs.NA math.NA
Comparative analysis of Jacobi and Gauss-Seidel iterative methods
本文比较分析Jacobi和Gauss-Seidel迭代法求解复数与实数矩阵线性方程组,获得收敛范围及相互关系,构建基于Hurwitz判据复类比的收敛性判定算法并给出Python实现,完成未知数二至五的统计比较。
2023-07-19 cs.NA math.NA
Breaking Locality Accelerates Block Gauss-Seidel
本文研究了在随机坐标采样下块高斯-塞德尔算法的加速效果,发现非加速的高斯-塞德尔在随机坐标采样下表现优于固定分块的加速版本,提出了新的数据依赖参数并验证了其在大规模机器学习中的有效性。
2017-09-24 cs.NA math.NA math.OC
Convergence directions of the randomized Gauss--Seidel method and its extension
随机化Gauss-Seidel方法及其推广近年来引起了人们的广泛关注,其收敛速度也得到了广泛的研究。然而,通常由上界来确定收敛速度,这不能完全反映实际的收敛性。本文详细分析了它们的收敛性。分析表明,$A$的奇异值越大,误差在相应的奇异向量空间中衰减越快,收敛方向开始主要由大的奇异值驱动,然后逐渐由小的奇异值驱动,最后由最小的非零奇异值驱动.这些结果解释了在文献中出现的大量数值实验中发现的现象,即这两种方法似乎在开始时收敛得更快。数值例子证实了上述发现。
2021-05-22 cs.NA math.NA
Improvement of the Cascadic Multigrid Algorithm with a Gauss Seidel Smoother to Efficiently Compute the Fiedler Vector of a Graph Laplacian
Tufts University(塔夫茨大学)
本文改进了级联多网格算法,结合Gauss-Seidel平滑器以高效计算图拉普拉斯矩阵的Fiedler向量,用于图划分和谱聚类。
2016-02-13 cs.NA math.NA
Two improved Gauss-Seidel projection methods for Landau-Lifshitz-Gilbert equation
本文提出了两种具有无条件稳定性的改进的Gauss-Seidel投影方法。第一种方法同时更新旋磁项和阻尼项,然后进行投影。第二种方法引入了两组近似解,其中一组近似解同时更新旋磁项和阻尼项,而另一组近似解交替采用投影步骤。与原Gauss-Seidel投影法在每一时间步需要求解热传导方程$7$次相比,改进后的方法分别求解热传导方程$5$次和$3$次。在时间上的一阶精度和空间上的二阶精度通过一维和三维的例子进行了验证。此外,无条件稳定的网格大小和阻尼参数的数值证实。这两种方法的应用到一个现实的材料也提出了磁滞回线和磁化曲线。与原始方法相比,记录的运行时间表明,对于相同的精度要求,两种方法分别节省约$2/7$和$4/7$。
2019-07-27 cs.NA math.NA
Enhanced second-order Gauss-Seidel projection methods for the Landau-Lifshitz equation
针对Landau-Lifshitz方程现有GSPM仅一阶精度的问题,提出两种结合双调和方程与二阶向后微分公式的二阶GSPM,分别具无条件稳定性和条件稳定性(CFL常数0.25),经验证高效可靠。
2024-12-13 cs.NA math.NA
Quantile-Based Random Kaczmarz for corrupted linear systems of equations
我们考虑线性系$Ax = b$,其中$A \in \mathbb{R}^{m \times n}$由规范化的行,$\|a_i\|_{\ell^2} = 1$,其中高达$βm$条目的$b$已损坏(可能由任意大的数字)。Haddock、Needell、Rebrova和Swartworth提出了一种基于分位数的随机Kaczmarz方法,并证明了对于某些随机矩阵$A$,它以很高的似然收敛到真实解。我们证明了一个确定性的版本,任何矩阵$A$,$β_A$的数量,使有收敛的所有扰动与$β< β_A$。假设随机矩阵启发式,这证明了具有高达$\sim 0.5\%$损坏(可能会改进的数字)的高高斯矩阵的收敛性。
2021-07-12 cs.NA math.NA
Higher Order Aitken Extrapolation with Application to Converging and Diverging Gauss-Seidel Iterations
将通常用于收敛不动点迭代的Aitken外推法推广到发散迭代的解的外推。此外,高阶艾特肯外推法,使连续分解的迭代矩阵的高特征值,使收敛。虽然外推的收敛不动点迭代使用等比级数和是一种已知的形式的艾特肯加速,它是本文所示,相同的公式可以用来估计的解决方案的线性方程组从发散高斯赛德尔迭代。在收敛迭代和发散迭代中,迭代的连续值之间的差的比率最终形成收敛或发散级数,其因子等于迭代矩阵的最大特征值。高阶艾特肯外推法消除了迭代矩阵的连续顺序中的主导特征值的影响,直到迭代由最低可能的特征值确定。对于高斯-赛德尔迭代法的收敛部分,通过外推法与连续超松弛法的耦合,进一步加速成为可能。从收敛和发散迭代的应用例子已经提供。耦合的外推与逐次超松弛技术也说明了一个稳态的二维热流问题,使用MATLAB编程解决。
2013-10-16 cs.NA math.NA
A Gauss-Seidel Iterative Thresholding Algorithm for lq Regularized Least Squares Regression
Jiangxi Normal University(江西师范大学);University of California, Los Angeles (UCLA)(加州大学洛杉矶分校);Wenzhou University(温州大学)
本文提出GAITA算法解决lq正则化最小二乘回归问题,利用Gauss-Seidel规则更新坐标系数,证明其在有限次迭代内收敛,且收敛性条件弱于传统迭代阈值算法,实验显示其收敛速度更快。
2015-07-12 cs.NA math.NA
Block Jacobi/Gauss-Seidel preconditioning for GLT sequences, and GLH sequences
University of Rome Tor Vergata(罗马托维加塔大学);University of Insubria(因苏布里亚大学);Uppsala University(乌普萨拉大学)
本文证明块Jacobi或块Gauss-Seidel预处理子保持GLT序列的符号,从而预测其高效性,并推广Fasino-Tilli定理至GLH序列。
2026-06-01 cs.NA math.NA
Solvers and precondtioners based on Gauss-Seidel and Jacobi algorithms for non-symmetric stochastic Galerkin system of equations
University of Southern California(南加州大学);Sandia National Laboratories(桑迪亚国家实验室)
本文研究了基于Gauss-Seidel和Jacobi算法的求解器和预条件子,用于具有随机输入数据的偏微分方程的随机格架离散化。这些算法被设计成能够利用现有软件来减少计算工作量,并作为Krylov迭代方法的预条件子。通过求解稳态对流扩散方程,结果表明近似版本的Gauss-Seidel算法是求解非对称格架方程系统的良好预条件子。
2019-04-13 cs.NA math.NA math.PR
Linear convergence of randomized Kaczmarz method for solving complex-valued phaseless equations
最近提出了一种用于相位恢复的随机Kaczmarz方法,数值结果表明,该方法在采样复杂度和计算时间方面都表现出优于其他最先进相位恢复算法的经验性能。虽然在信号和测量矢量都是实值的真实情况下已经很好地研究了收敛的收敛速率,但是在复数情况下不能保证收敛。事实上,用于相位恢复的随机化Kaczmarz方法在复杂设置中的线性收敛被Tan和Vershynin作为猜想留下。本文首先给出了它的理论保证,证明了对于从复单位球面独立一致地画出的随机测量$\mathbf{a}_j \in \mathbb{C}^n, j=1,\ldots,m $或等价的独立复高斯随机向量,当$m \ge Cn$对某个普适正常数$C$,具有良好初始化的随机化Kaczmarz方案以高概率线性收敛到期望的目标解(直到全局相位)。这给了这个猜想一个肯定的答案。
2021-09-24 cs.NA math.NA
D-iteration method or how to improve Gauss-Seidel method
Alcatel-Lucent Bell Labs(阿尔卡特-朗讯贝尔实验室)
本文提出基于流体扩散的算法,用于改进高斯-赛德尔方法中的矩阵求逆问题,并展示其性能优势及相关理论问题。
2012-02-27 cs.DM cs.NA math.NA
Iterated Gauss-Seidel GMRES
Saad和Schultz(1986)的GMRES算法是一种近似求解线性方程组$A{\bf x}={\bf b}$的迭代方法,具有初始猜测${\bf x}_0$和残差${\bf r}_0 = {\bf b} - A{\bf x}_0$。该算法采用Arnoldi过程来生成Krylov基向量($V_k$的列)。众所周知,该过程可以被视为在每次迭代时矩阵$B_k = [\: {\bf r}_0, AV_k\:]$的$QR$因式分解。尽管${O}(ε)κ(B_k)$失去了正交性,但对于单位圆数$ε$和条件数$κ$,修改的Gram-Schmidt公式在Paige等人(2006)的开创性论文中被证明是向后稳定的。我们基于Ruhe(1983)和J.S. Dowicz等人(2020)的思想提出了GMRES算法的迭代高斯-赛德尔公式(IGS-GMRES)。IGS-GMRES保持与级别${O}(ε)κ(B_k)$或${O}(ε)$的正交性,这取决于一次或两次迭代的选择;对于两次Gauss-Seidel迭代,计算的Krylov基向量保持与工作精度正交,并且$V_k$的最小奇异值保持接近1。由此得到的GMRES方法是向后稳定的。我们表明,IGS-GMRES可以实现只有一个同步点,每次迭代,使其相关的大规模并行计算环境。我们还表明,与MGS-GMRES,在IGS-GMRES计算的近似解对应的相对Arnoldi…
2023-03-20 cs.NA math.NA
Sparsity Exploitation of Accelerated Modulus-Based Gauss-Seidel Method for Interactive Rigid Body Simulations
大规模线性互补性问题(LCP)在交互式刚体模拟中被反复求解。投影Gauss-Seidel方法通常用于LCP,因为它在计算时间,数值鲁棒性和内存使用方面具有优势。Zheng和Yin(2013)提出了基于模量的矩阵分裂迭代法,并证明了它们对大型问题的有效性,但将其方法简单应用于交互式刚体模拟中的大规模LCP并不有效,因为这种简单的应用需要大量的矩阵乘法。在本文中,我们提出了一种新的方法,来自加速基于模量的矩阵分裂迭代法,适合在交互式刚体模拟中出现的LCP。为了提高计算时间,我们利用稀疏结构的广义速度矢量的刚体。我们讨论了所提出的方法的一个重要的情况下,一个给定的LCP的系数矩阵是一个正定矩阵的收敛性。数值实验表明,该方法比简单的基于模的加速Gauss-Seidel方法效率更高,且每一步的精度都优于投影Gauss-Seidel方法.
2019-10-22 cs.NA math.NA math.OC
Asynchronous Jacobi and randomized Gauss--Seidel methods in shared and distributed memory: A unified convergence-rate analysis
Charles University(查理大学)
本文提出统一异步模型,涵盖共享与分布式内存,分析异步Jacobi和随机Gauss-Seidel方法,在稳定性条件下建立线性收敛,并揭示延迟影响,为异步计算提供理论框架。
2026-09-15 cs.NA math.NA
Exploiting Task-Based Parallelism for the Red-Black Gauss-Seidel Method on 2D Grids
KTH Royal Institute of Technology(皇家理工学院);Forschungszentrum Jülich GmbH(于利希研究中心有限公司);Bergische Universität Wuppertal(伍珀塔尔大学);University of Groningen(格罗宁根大学)
针对红黑高斯-赛德尔方法中传统并行策略的同步开销和负载不均问题,采用基于任务的编程模型实现细粒度并行,在二维泊松方程求解中达到与传统方法相当的性能,并增强对硬件异步性的鲁棒性。
2026-07-03 cs.DC cs.NA math.NA
Comparison Theorems for Splittings of M-matrices in (block) Hessenberg Form
讨论了求解具有(块)Hessenberg形式的$M$ -矩阵的线性系组的(块)Gauss-Seidel迭代的几种变形.比较结果的渐近收敛速度的一些正则分裂的推导:特别是,我们证明了一个较低的Hessenberg M-矩阵$ρ(P_{GS})\geq ρ(P_S)\geq ρ(P_{AGS})$,其中$P_{GS}, P_S, P_{AGS}$是高斯-Seidel,楼梯,和反高斯-Seidel方法的迭代矩阵。这是一个结果,似乎并不遵循经典的比较结果,因为这些分裂是不直接可比的。结果表明,楼梯分区的概念提供了一个强大的工具,适合于并行计算的新的变种的设计。
2021-11-17 cs.NA math.NA
A symmetric Gauss-Seidel method for the steady-state Boltzmann equation
本文提出基于对称 Gauss-Seidel 方法的稳态 Boltzmann 方程数值求解器,在每个网格单元采用 Newton 法或不动点迭代求解非线性系统,其效率介于源迭代与广义合成迭代方案之间,适用于中等至大 Knudsen 数应用。
2023-11-23 cs.NA math.NA physics.comp-ph
Scalable s-step Preconditioned Conjugate Gradient with Chebyshev Basis and Gauss-Seidel Gram Solve
Institute for Applied Computing “Mauro Picone”, National Research Council of Italy(意大利国家研究委员会应用计算研究所(马乌罗·皮乔内));Lehigh University(利哈伊大学)
本文提出一种结合切比雪夫稳定Krylov基和前向高斯-塞德尔迭代的s步预条件共轭梯度法,通过分析切比雪夫格拉姆矩阵的结构,提升格拉姆系统的稳定性,减少同步开销,实现高效可扩展的求解方案。
2026-09-11 cs.NA math.NA
Hybrid Jacobian and Gauss-Seidel proximal block coordinate update methods for linearly constrained convex programming
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出混合雅可比和高斯-塞德尔块坐标更新方法,用于解决线性约束多块结构凸规划问题,通过选择合适的仿射混合矩阵实现理论收敛性,并在数值上优于随机对偶块坐标更新方法。
2018-01-03 cs.NA math.NA math.OC
On the Convergence of Randomized and Greedy Relaxation Schemes for Solving Nonsingular Linear Systems of Equations
我们扩展的结果已知的随机高斯-赛德尔和高斯-Southwell方法的情况下,一个埃尔米特和正定矩阵的某些类的非埃尔米特矩阵。我们得到的收敛结果的整个范围内的参数描述的概率在随机化方法或贪婪的选择策略中的高斯-Southwell型方法。我们确定这些选择,使我们的收敛界限最好的可能。我们的主要工具是使用加权l1-范数来度量残差。一个主要的结果是,我们获得的最佳收敛界的期望值的随机算法是最好的确定性,但更昂贵的算法的高斯-Southwell型。数值实验表明了该方法的收敛性和得到的界。与随机Kaczmarz方法的比较。
2022-09-08 cs.NA math.NA
Block Matrix and Tensor Randomized Kaczmarz Methods for Linear Feasibility Problems
本文提出块随机Kaczmarz方法B-MRK及两种张量随机Kaczmarz方法TRK-L和TRK-LB,分别处理矩阵与张量线性可行性问题,并证明其期望线性收敛性。
2024-06-17 cs.NA math.NA math.OC
Solving Linear Equations by Classical Jacobi-SR Based Hybrid Evolutionary Algorithm with Uniform Adaptation Technique
Khulna University of Engineering and Technology(库尔纳工程与技术大学)
提出一种结合均匀自适应进化计算和经典Jacobi-SR技术的混合算法,用于高效求解线性方程组,并证明其收敛性和适应性,实验表明该算法在收敛速度和有效性上优于基于Gauss-Seidel-SR的混合算法及经典方法。
2013-04-08 cs.NA cs.NE math.NA
Phase Retrieval via Randomized Kaczmarz: Theoretical Guarantees
Department of Mathematics, University of Michigan(密歇根大学数学系);Department of Mathematics, University of California, Irvine(加州大学尔湾分校数学系)
本文提出随机Kaczmarz方法在相位恢复中的理论保障,证明仅需与维度成正比的高斯测量即可保证收敛,引入了测量集的充分条件,并利用VC维和度量熵证明高斯采样向量满足该条件。
2018-01-13 cs.IT cs.LG cs.NA
Efficient Reordered Nonlinear Gauss-Seidel Solvers With Higher Order For Black-Oil Models
全隐式方法是油藏模拟中解决黑油问题最常用的方法。该方法需要对大型非线性系统进行重复线性化,并产生病态线性系。我们提出了一种策略,以减少计算时间,依赖于两个关键的想法:(\textit{i})一个顺序的配方,将流和运输到单独的子问题,和(\textit{ii})一个高效的高斯-赛德尔求解器的运输问题。该求解器使用单元间通量根据上游相邻单元对网格单元进行重新排序,并将由于逆流而相互依赖的单元分组为局部簇。然后可以按顺序求解单元和局部聚类,从流入开始并逐渐向下游移动,因为每个新的单元或局部聚类将仅取决于已经计算的上游邻居。总之,这给出了非线性求解过程的最优定位和控制。该方法已成功地应用于使用标准的一阶有限体积离散实场问题。在这里,我们的想法扩展到完全非结构化网格上的一阶dG方法。我们还证明了概念证明的重新排序的想法,通过将其应用到诺恩油田的完整模拟模型,使用开源的OPM流模拟器的原型变体。
2020-01-06 cs.NA math.NA physics.flu-dyn
Two-Stage Gauss--Seidel Preconditioners and Smoothers for Krylov Solvers on a GPU cluster
高斯-赛德尔(GS)松弛经常被用作Krylov求解器的预处理器或代数多重网格(AMG)的平滑器。然而,所需的稀疏三角形求解难以在诸如图形处理单元(GPU)的众核架构上并行化。在本研究中,传统的GS松弛的三角形解决的基础上的性能进行了比较,两个阶段的变种,取代直接三角形解决与固定数量的内部雅可比-理查森(JR)迭代。当少量的内迭代就足以保持Krylov收敛速度时,两阶段GS(GS 2)在众核架构上的性能往往优于传统算法。我们还比较了GS 2和JR。当它们对SpMV执行相同数量的触发器时(例如,与具有一个内部JR扫描的两个GS扫描相比,三个JR扫描),GS 2迭代和用GS 2预处理的Krylov求解器可以比JR迭代更快地收敛。此外,对于某些问题(例如弹性),发现JR可能会在阻尼因子为1时发散,而两阶段GS可以通过更多的内迭代来改善收敛性。最后,为了研究两级平滑器和预处理器对于实际问题的性能,%(例如,使用调谐的阻尼因子),这些被应用于GPU上的不可压缩流体流动模拟。
2021-04-24 cs.MS cs.NA math.NA
A subspace constrained randomized Kaczmarz method for structure or external knowledge exploitation
本文提出一种子空间约束随机 Kaczmarz 方法,利用结构或外部知识限制迭代空间以加速收敛,并基于此构建分位数算法处理任意稀疏污染线性系统。
2024-06-07 cs.NA math.NA math.PR
A block symmetric Gauss-Seidel decomposition theorem for convex composite quadratic programming and its applications
National University of Singapore(新加坡国立大学)
本文提出块对称Gauss-Seidel分解定理,用于求解带有非光滑项的凸复合二次规划问题,并扩展了经典块对称Gauss-Seidel方法,实现加速迭代。
2017-05-23 cs.NA math.NA
A Gauss-Seidel projection method with the minimal number of updates for stray field in micromagnetic simulations
磁性材料中的磁化动力学通常由Landau-Lifshitz方程来模拟,该方程通常是数值求解的。在微磁模拟中,时间推进方法和杂散场的计算是影响计算量的重要因素。显式推进格式是有效的,但受到严重的稳定性约束,而非线性系统的方程必须解决的隐格式,虽然他们是无条件稳定的。稳定性和效率之间的一个较好的折衷是半隐格式,如高斯-赛德尔投影方法(GSPM)和二阶向后微分公式格式(BDF 2)。在每个步进步骤中,GSPM求解几个具有常系数的线性系方程组并多次更新杂散场,而BDF 2仅更新杂散场一次,但求解具有变系数和非对称结构的更大的线性系方程组。在这项工作中,我们提出了一种新的方法,称为GSPM-BDF 2,结合GSPM和BDF 2的优点。与GSPM一样,该方法在时间上具有一阶精度,在空间上具有二阶精度,并且对阻尼参数是无条件稳定的。然而,GSPM-BDF 2在每个时间步长仅更新一次杂散场,导致比用于微磁模拟的最新GSPM的效率提高约$60\%$。对于美国国家标准与技术研究所的标准问题4和5,GSPM-BDF 2分别将流行软件OOMMF的计算时间减少了$82\%$和$96\%$。因此,所提出的方法提供了一个更有效的选择微磁模拟。
2021-01-21 cs.CE cs.NA math.NA
Analysis of Block Jacobi/Gauss-Seidel and additive/multiplicative Schwarz preconditioning through the theory of GLT sequences, with applications to domain decomposition discretizations
University of Rome Tor Vergata(罗马托尔维加塔大学);University Mohammed VI Polytechnic(穆罕默德六世polytechnic大学);University of Insubria(因苏布里亚大学);Uppsala University(乌普萨拉大学)
本文基于GLT序列理论定义BJ、BGS、AS、MS预条件子,分析其结构并证明相关符号性质,最后在等几何DDM中完成数值验证。
2026-08-18 cs.NA math.NA
Higher-order Diffusion Sampling via Chebyshev Interpolation and Gauss--Seidel Iterations
Beihang University(北京航空航天大学)
提出切比雪夫-高斯-赛德尔高阶采样器,在精确分数条件下,仅需 d^{1+o_T(1)}ε^{-1/K_1} 次分数函数即可达到总变差距离 ε,且放宽了有界支撑假设,对分数和雅可比估计误差具有鲁棒性。
2026-06-09 cs.NA math.NA math.ST
Linear Convergence of Reshuffling Kaczmarz Methods With Sparse Constraints
本文研究带稀疏约束的 Kaczmarz 型迭代方法,证明重洗 KZIHT 的线性收敛性,并提出周期阈值 KZPT,在 BOS 与次高斯矩阵模型下建立保证且性能更优。
2023-04-20 cs.NA math.NA stat.ML
A Dual Symmetric Gauss-Seidel Alternating Direction Method of Multipliers for Hyperspectral Sparse Unmixing
School of Information Science and technology, and the Provincial Key Lab of Information Coding and Trans- mission, Southwest Jiaotong University(信息科学与技术学院,信息编码与传输省重点实验室,西南交通大学);School of Mathematics, Southwest Jiaotong University(数学学院,西南交通大学);School of Computer and Computing Science, Zhejiang University City College(计算机与计算科学学院,浙江大学城市学院)
本文提出了一种高效的双对称Gauss-Seidel交替方向乘子法(sGS-ADMM)用于带有总变分正则化的超光谱稀疏解混,解决了传统ADMM在计算效率和收敛性方面的不足,并通过实验验证了该方法在解混效率和图像质量上的优越性。
2020-07-11 cs.CV cs.NA eess.IV
A Unified Framework for Double Sweep Methods for the Helmholtz Equation
本文提出统一框架,将亥姆霍兹方程的条带型扫描区域分解预条件子表示为不同编号下的雅可比、高斯-赛德尔及对称高斯-赛德尔方法,从而比较既有双重扫描方法并引入新算法,通过数值实验验证理论。
2023-12-05 cs.NA math.NA
High-order WENO-based semi-implicit Newton-type fast sweeping methods for static Hamilton-Jacobi equations
Wichita State University(威奇塔州立大学);Michigan State University(密歇根州立大学)
该研究针对运动流体波传播产生的广义程函方程,提出基于高阶WENO的半隐式牛顿型快速扫掠方法,采用三种扫掠策略并扩展至多阶精度,经二维、三维算例验证了效率与精度。
2026-08-04 cs.NA math.NA
A Unified Alternating Direction Method of Multipliers by Majorization Minimization
National University of Singapore(新加坡国立大学);Peking University(北京大学)
本文通过主要化最小化原理,统一了Gauss-Seidel和Jacobian ADMM框架,提出M-ADMM改进收敛速度,并通过实验验证其在压缩感知中的有效性。
2016-07-09 cs.NA math.NA
An Implicit Representation and Iterative Solution of Randomly Sketched Linear Systems
随机线性系求解器已经变得流行,因为它们具有降低浮点复杂度的潜力,同时仍然实现期望的收敛速度。一类特别有前途的方法,随机草绘求解器,已经实现了理论上最著名的计算复杂性界限,但由于两个实际考虑因素而变得迟钝:没有明确的方法来选择草绘矩阵的大小先验;以及草绘系统的存储成本不小。在这项工作中,我们取得了进展,通过隐式生成的草图系统,并通过迭代过程同时解决这些问题。因此,我们取代了问题的大小的草图矩阵确定适当的停止标准,我们也避免了显式表示的草图线性系的成本,我们的隐式表示也解决了系统在同一时间,这控制了每次迭代的计算成本。此外,我们的方法允许我们生成随机草图方法和随机迭代求解器之间的连接(例如,随机化Kaczmarz方法,随机化Gauss-Seidel)。因此,我们利用这种联系来(1)为任意采样方案下的这种随机迭代求解器产生更强,更精确的收敛理论(i.i.d.,自适应、置换、依赖等),以及(2)以用户确定的每次迭代计算和存储成本的增加为代价来提高随机化迭代求解器的收敛速率。我们证明了这些概念的数值例子上的49个不同的线性系。
2020-12-22 cs.NA math.NA
The Hildreth's Algorithm with Applications to Soft Constraints for User Interface Layout
The University of Auckland(奥克兰大学);University of Missouri(密苏里大学);Yale University(耶鲁大学)
本文提出基于Hildreth算法的高效方法,用于解决用户界面布局中的稀疏不等式约束问题,通过优先选择不等式和随机化策略提升收敛性与可行性判断。
2014-09-09 cs.NA math.NA
Convergence Analysis of Inexact Randomized Iterative Methods
University of Edinburgh(爱丁堡大学);King Abdullah University of Science and Technology (KAUST)(沙特国王 Abdullah 科技大学 (KAUST));MIPT(莫斯科物理技术学院)
本文给出了几种随机迭代法的不精确变式的收敛速度分析。其中研究的方法有:随机梯度下降,随机牛顿,随机邻近点和随机子空间上升。这些方法的一个共同特点是,在他们的更新规则的某一个子问题需要被精确地解决。我们放宽这一要求,允许子问题得到不精确的解决。特别是,我们提出并分析了不精确随机迭代法解决三个密切相关的问题:凸随机二次最优化问题,一个最佳逼近问题及其对偶,凹二次最大化问题。我们提供迭代复杂性的结果,在几个假设的不精确误差。许多流行的和一些更奇特的方法的不精确变体,包括随机块Kaczmarz,随机高斯Kaczmarz和随机块坐标下降,可以被视为特殊情况。数值实验证明了允许不精确的好处。
2019-03-19 cs.LG cs.NA math.NA