Pushing Memory Bandwidth Limitations Through Efficient Implementations of Block-Krylov Space Solvers on GPUs
核物理中的格子量子色动力学模拟得益于大量的算法进步,如多重网格和特征向量收缩。这些改进的时间解决方案,但不减轻固有的内存带宽限制的矩阵向量运算主导迭代求解器。对多个向量批处理此操作并利用缓存和寄存器阻塞可以产生超线性加速。Block-Krylov求解器可以自然地利用这种批量矩阵-向量运算,通过在求解之间共享Krylov空间来进一步减少求解的迭代。然而,实际的实现方式通常遭受向量-向量操作的数量的二次缩放。使用QUDA库,我们提出了一个块CG求解器在NVIDIA GPU上的实现,它降低了向量-向量运算的内存带宽复杂度,从二次到线性。我们提出了HISQ离散化的结果,与NVIDIA的SaturnV集群上高度优化的独立Krylov解决方案相比,速度提高了5倍。
2018-08-07 hep-lat physics.comp-ph
Coarse-grained computation of traveling waves of lattice Boltzmann models with Newton-Krylov solvers
对于许多复杂的动力系统,尺度的分离在可用模型的(微观)描述水平和人们想要观察和分析系统的(宏观)水平之间盛行。对于这类问题,最近提出了一个“无方程”的框架。使用适当初始化的微观模拟,可以构建粗粒度的时间步进器来近似不可用的宏观模型的时间步进器。在这里,我们展示了如何使用这种粗粒度的时间步进计算粗粒度的行波解决方案的格子玻尔兹曼模型。在移动帧中,通过在粗粒度时间步长之后执行回移操作来仿真,行波表现为稳态,其使用迭代方法(诸如Newton-GMRES)来计算。为了加速GMRES程序的收敛,使用基于宏观模型的预处理器,该预处理器是使用Chapman-Enskog展开从格子Boltzmann模型导出的。我们说明的方法上的格子玻尔兹曼模型的Fisher方程和电离波的模型。
2006-04-18 physics.comp-ph
On acceleration of Krylov-subspace-based Newton and Arnoldi iterations for incompressible CFD: replacing time steppers and generation of initial guess
我们提出了两种技术,旨在提高收敛速度的稳态和特征值求解器的逆斯托克斯算子预处理,并通过时间步进实现。首先,我们建议推广的斯托克斯算子,使所得的预处理算子依赖于几个参数,其行动保持零发散和边界条件。可以针对每个问题调整参数以加速基于Krylov子空间的线性代数求解器的收敛。该算子可以通过Uzawa类算法求逆,并且不需要时间步进。其次,我们建议产生一个初始的猜测,稳定的流动,领先的特征值和特征向量使用正交投影的发散自由的基础上满足所有的边界条件。该方法,包括两个建议的技术,说明横向加热的正方形和立方腔的线性稳定性问题的解决方案。
2018-04-12 physics.comp-ph
Multigroup Radiation Diffusion on a Moving Mesh: Implementation in RICH and Application to Tidal Disruption Events
Racah Institute of Physics, The Hebrew University(拉卡物理学研究所,希伯来大学);Department of Astronomy, University of Wisconsin, Madison(天文学系,威斯康星大学麦迪逊分校)
本文改进RICH代码以支持多组FLD求解器,应用于恒星潮汐破坏事件的三维模拟,产生与观测一致的X射线闪现。
2026-02-20 astro-ph.HE physics.comp-ph
Robust Matrix-Free Newton-Krylov Solvers via Automatic Differentiation
KTH Royal Institute of Technology(皇家理工学院)
本文通过自动微分替代有限差分方法,提升了JFNK求解器的鲁棒性和计算效率,使求解速度提升2-3个数量级,且在不同非线性条件下保持高完成率。
2026-05-13 cs.CE physics.comp-ph
Rayleigh Quotient Iteration with a Multigrid in Energy Preconditioner for Massively Parallel Neutron Transport
三个互补的方法已实施的代码Denovo,加速中性粒子输运计算的方法,充分有效地使用领导级计算机:多组块(MG)Krylov求解器,瑞利商迭代(RQI)特征值求解器,和多重网格的能量预处理。多群Krylov求解器的收敛速度比Gauss Seidel更快,并支持能量分解,因此Denovo可以扩展到数十万个核心。能量预处理器中的新多重网格减少了许多问题类型的迭代次数,并利用新的能量分解,使其可以有效地扩展。这两个工具本身很有用,但它们一起使RQI特征值求解器工作。之前已经描述了每种方法,但这是第一次证明它们可以有效地协同工作。对于大型且具有挑战性的问题,RQI应在比幂迭代(PI)更少的迭代中收敛。RQI创建的移位系统如果没有MG Krylov求解器就不容易处理。它还创建了病态矩阵,如果没有能量预处理器中的多重网格,这些矩阵就无法收敛。结合使用这些方法,RQI收敛在更少的迭代和更少的时间比所有的PI计算一个完整的压水反应堆堆芯。它还可以相当好地扩展到275,968个核心。
2017-02-07 cs.CE cs.NA math.NA
Nektar++: Design and implementation of an implicit, spectral/$hp$ element, compressible flow solver using a Jacobian-free Newton Krylov approach
在高雷诺数下,使用显式时间可压缩流模拟和谱/ $hp$单元离散化会受到时间步长的显著限制。为了缓解这一限制,我们扩展的频谱/ $hp$元素开源软件框架,Nektar++,包括一个隐式不连续Galerkin可压缩流求解器的能力。时间积分采用单对角隐式龙格-库塔法。隐式时间积分产生的非线性系统迭代求解雅可比自由牛顿Krylov(JFNK)方法。JFNK方法的一个有利特征是它广泛使用了以前的显式时间实现中可用的显式运算符。从软件设计的角度分析了隐式求解器的不同构建块的功能,并将其放置在C++库中的适当层次中。在具体的实现中,还分析了求解器的不同部分对计算成本、内存消耗和编程复杂度的贡献。采用解析和数值相结合的方法,以简化编程的复杂性,在形成的预处理矩阵。求解器进行了验证和测试的情况下,如制造的可压缩Poillille流,泰勒-格林涡,在$\text{Re}=3900$圆柱湍流流动和激波边界层干扰。结果表明,隐式求解器可以提高仿真速度,同时保持良好的仿真精度。
2020-02-11 physics.comp-ph physics.flu-dyn
A monolithic ALE Newton-Krylov solver with Multigrid-Richardson-Schwarz preconditioning for incompressible Fluid Structure Interaction
Texas Tech University(德克萨斯理工大学);CINECA - SCAI (Super Computing Applications and Innovation)(CINECA-SCAI(超级计算应用与创新))
本文提出一种单体牛顿-克雷洛夫求解器,采用多网格预条件和修改的里奇逊平滑器,用于求解不可压缩流固耦合问题,展示了其在处理直接到稳态问题时的鲁棒性。
2017-09-17 cs.NA math.NA physics.comp-ph
A Jacobian-free Newton-Krylov method for time-implicit multidimensional hydrodynamics
这项工作是我们努力开发一个高效的隐式求解器的多维流体动力学的目的,在恒星内部的重要物理过程,如湍流对流和超调的继续。我们提出了一个隐式求解器,结果从一个雅可比自由牛顿-克雷洛夫方法和一个预处理技术的结合,适合于无粘,可压缩的恒星流体动力学方程。我们评估的精度和性能的求解器的二维和三维问题的马赫数下降到$10^{-6}$。虽然我们的应用程序涉及恒星内部的流动,该方法可以应用于一般的平流和/或扩散为主的流动。本文提出的方法开辟了新的途径,在三维建模的现实恒星内部允许的重要问题的研究恒星的结构和演化。
2015-12-14 astro-ph.IM astro-ph.SR physics.comp-ph
A Symmetric Multigrid-Preconditioned Krylov Subspace Solver for Stokes Equations
针对Stokes方程数值求解的可扩展性与效率挑战,提出一种适用于交错有限差分离散化的对称不定多重网格预条件子,用于SQMR迭代方案,具备匹配Stokes系统的对称性且计算高效、易于大规模扩展。
2024-07-14 cs.NA math.NA physics.comp-ph
Eigenvalue Solvers for Modeling Nuclear Reactors on Leadership Class Machines
University of California, Berkeley(加州大学伯克利分校);Oak Ridge National Laboratory(橡树岭国家实验室)
本文提出三种互补方法提升中性粒子输运计算效率,通过多组块Krylov求解器、Rayleigh商迭代法和多网格能级预处理器实现快速收敛与高效扩展,适用于大规模核反应堆模拟。
2017-12-12 cs.NA math.NA physics.comp-ph
An optimal linear solver for the Jacobian system of the extreme type-II Ginzburg--Landau problem
Universiteit Antwerpen(安特卫普大学)
针对极端第二类金茨堡-朗道方程,基于雅可比算子性质和AMG策略构造预处理牛顿-克雷洛夫方法,实现求解复杂度O(n)。
2012-08-22 cs.NA math.NA physics.comp-ph
Improved Nonlinear Solvers in BOUT++
等离子体物理中大尺度湍流边缘模拟的重要方面包括鲁棒的非线性求解器和高效的预处理器。本文介绍了BOUT++软件在非线性偏微分方程可缩放求解方面的最新进展,重点介绍了托卡马克装置边缘局域模的模拟。采用无雅可比牛顿-克雷洛夫(JFNK)方法和非线性GMRES(NGMRES)方法求解了一个包含快剪切Alfven波和电子、离子沿磁场热传导的六场非线性约化磁流体力学模型。基于物理的预处理的基础上的分析舒尔分解的简化雅可比矩阵被发现在一个数量级的减少运行时间超过未预处理的JFNK,和NGMRES显着减少运行时间,而只需要非线性函数的评价。我们详细描述了预处理算法,我们讨论了并行性能的NGMRES和牛顿Krylov方法使用PETSc库。
2012-09-10 physics.comp-ph physics.plasm-ph
Recycling Krylov subspaces for CFD applications and a new hybrid recycling solver
Virginia Tech(弗吉尼亚理工大学);IIT Indore(印度理工学院印多尔分校)
本文提出一种混合回收求解器,结合BiCGStab的高效迭代与rGCROT的鲁棒性,提升求解无粘纳维-斯托克斯方程的效率和稳定性。
2015-09-25 cs.NA math.NA physics.comp-ph
Bridging Proper Orthogonal Decomposition methods and augmented Newton-Krylov algorithms: an adaptive model order reduction for highly nonlinear mechanical problems
本文介绍了基于POD的模型降阶技术和经典的牛顿/克雷洛夫求解器之间的桥梁。这座桥是用来推导出一个有效的算法来纠正,“在飞行中”,高度非线性问题的降阶建模进行强烈的拓扑变化。损伤引发问题的解决和解决通过一个修正的超约化方法。结果表明,该算法可以显着提高降阶模型的相关性与合理的额外费用时,即使在强烈的拓扑变化。
2011-09-22 physics.class-ph physics.comp-ph
Fully Atomistic Modeling of Realistic Plasmonic Materials: Assessing the Performance of Iterative Solvers
真实尺寸的等离子纳米结构的完全原子建模在计算上要求很高,因此大多数计算仅限于中小型系统。然而,等离子体激元特性强烈地依赖于样品的实际形状和尺寸。在本文中,我们大大扩展了经典的,完全原子的方法,利用国家的最先进的数值迭代Krylov为基础的技术的适用性。特别是,我们专注于最近开发的$ω$ FQ模型,当指定为碳纳米管,石墨烯基纳米结构和金属纳米粒子。广义最小残差(GMRES)和准最小残差(QMR)算法的性能进行了研究,特别强调的结构(高达1百万个原子)的尺寸和物理参数进入原子方法的定义上的收敛速度的依赖性。
2021-02-28 physics.comp-ph
K$ω$ -- Open-source library for the shifted Krylov subspace method of the form $(zI-H)x=b$
我们开发了K $ω$,一个开源的线性代数库的移位Krylov子空间方法。该方法同时求解给定矩阵$H$和向量$b$的一组移位线性方程组$(z_k I-H)x^{(k)}=b\, (k=0,1,2,...)$。运营成本的首阶与单个方程的首阶相同。Krylov子空间的平移不变性是平移Krylov子空间方法的数学基础。在材料科学中的应用,以证明该算法的优势,标准的Krylov子空间方法,如Lanczos方法。我们介绍基准计算(i)激发(光学)光谱和(ii)中间本征值的轮廓积分的复平面。结合量子晶格求解器$\mathcal{H} Φ$,K $ω$可实现多种量子晶格模型激发谱和中间本征值的并行计算。
2020-05-28 cond-mat.str-el cs.NA math.NA
Fast meta-solvers for 3D complex-shape scatterers using neural operators trained on a non-scattering problem
Department One(部门一);Department Two(部门二);Division of Applied Mathematics(应用数学系);Brown University(布朗大学);Department of Applied Mathematics(应用数学系);Tel Aviv University(特拉维夫大学)
本文提出利用在无散射问题上训练的DeepONet作为粗尺度预条件子,结合松弛或Krylov方法构建快速元求解器,无需额外训练即可高效鲁棒地求解潜艇等复杂三维散射问题。
2025-05-27 cs.LG physics.comp-ph
A field-split preconditioning technique for fluid-structure interaction problems with applications in biomechanics
提出了一种新的Krylov子空间算法的预处理技术,用于求解由有限元离散产生的流固耦合线性化系统。采用几何多重网格(GMG)算法预处理外部Krylov子空间求解器,其中对于多重网格级子求解器,提出了场分裂(FS)预处理器。利用物理变量作为分裂策略,推导了FS预条件子的块结构。为了求解由FS预处理产生的子系统,采用了加性Schwarz(AS)块策略。所提出的字段分裂预条件进行测试生物医学FSI应用。考虑动脉瘤和静脉瓣膜几何形状,进行2D和3D模拟。的FS预处理器的性能进行了比较,与第二预处理器的纯区域分解类型。
2019-09-29 cs.NA math.NA physics.comp-ph
Alternating Anderson-Richardson method: An efficient alternative to preconditioned Krylov methods for large, sparse linear systems
College of Engineering, Georgia Institute of Technology(佐治亚理工学院工程学院);Physics Division, Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室物理部)
本文提出了一种交替安德森-里德伯德方法,作为预条件Krylov方法的高效替代方案,适用于高性能计算平台上的大规模稀疏线性系统求解,展示了在串行和并行应用中的鲁棒性和效率优势。
2018-04-10 cs.NA math.NA physics.comp-ph
JAX-AMG: A GPU-Accelerated Differentiable Sparse Linear Solver Library for JAX
Cornell University(康奈尔大学);University of Notre Dame(圣母大学)
提出JAX-AMG,通过封装Nvidia AmgX求解器套件,为JAX生态提供GPU加速的代数多重网格求解器,支持自动微分、分布式多GPU执行,适用于PDE约束优化和反问题。
2026-07-30 cs.MS physics.comp-ph
Fluid preconditioning for Newton-Krylov-based, fully implicit, electrostatic particle-in-cell simulations
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of Colorado Boulder(科罗拉多大学博尔德分校);University of New Mexico(新墨西哥大学)
本文提出一种流体预条件化方法,用于提高基于牛顿-克雷洛夫方法的完全隐式静电粒子-细胞模拟的效率,通过粒子计算动量方程并加速线性GMRES求解。
2013-09-24 cs.NA math.NA physics.comp-ph
Efficient Krylov methods for linear response in plane-wave electronic structure calculations
Max Planck Institute for Dynamics of Complex Technical Systems(马普复杂技术系统动力学研究所)
本研究针对密度泛函理论线性响应计算中的嵌套线性求解问题,提出基于不精确GMRES的自适应容差策略,实现超线性收敛,计算时间减少约40%且精度无损,可与标准预处理方法结合,为高效Krylov子空间响应求解提供新框架。
2025-10-29 cs.NA math.NA physics.comp-ph