Parareal algorithm via Chebyshev-Gauss spectral collocation method
本文提出 Parareal-CG 时间并行算法，以 Chebyshev-Gauss 谱配点法为精细传播子、向后 Euler 法为粗糙传播子，并通过 SPD 稳定函数分析和数值算例验证其收敛性、效率与精度。
2023-04-20 cs.NA math.NA
ParaDiag: parallel-in-time algorithms based on the diagonalization technique
在2008年，Maday和Ronquist提出了一种有趣的新方法，用于时间相关偏微分方程的直接时间并行（PinT）解。其思想是对角化的时间步进矩阵，保持矩阵的空间离散不变，然后并行求解所有的时间步长。从那时起，出现了几个变体，我们称这些密切相关的算法为ParaDiag算法。ParaDiagalgorithms在文献中可以分为两组：ParaDiag-I：直接独立求解器，ParaDiag-II：迭代求解器。我们将在本说明中解释每组的基本特征。为了有具体的例子，我们将引入对流-扩散方程的ParaDiag-I和ParaDiag-II。我们也将介绍ParaDiag-II的波动方程和波动方程的最优控制问题。我们也可以使用平流-扩散方程来说明ParaDiag-II，但已知波动方程会导致某些PinT算法出现问题，因此构成了一个特别有趣的例子，用于测试ParaDiag算法。我们在每种情况下显示的主要已知的理论结果，并提供Matlab代码进行测试。Matlab代码的目的是帮助感兴趣的读者理解ParaDiag算法的关键特性，而不是为了效率和/或低内存使用而进行高度调整。我们还提供了一个二维线性对流-扩散方程的ParaDiag算法的加速测量。这些结果是在中国的天河一号超级计算机和美国的SIUE校园集群上得到的，我们将这些结果与parareal和MGRiT这两种广泛使用的PinT算法的性能进行了比较。
2021-04-14 cs.NA math.NA
Parallel-in-time preconditioners for the Sinc-Nyström method
Sinc-Nyström方法是一种基于Sinc基函数的高阶数值方法，用于在时间上离散演化微分方程。但是在这种方法中，我们必须一次性解决所有的时间步长（即一次解决所有的时间步长），这导致了一个大规模的非对称稠密系统，处理起来非常昂贵。在本文中，我们提出并分析了这类稠密系统的预条件产生的抛物型和双曲型偏微分方程。该预条件子是对原矩阵的低秩扰动，具有两个优点。首先，我们证明了预处理系统的特征值具有与网格参数无关的一致界。其次，预处理器可以通过块对角化过程并行用于所有Sinc时间点。这种平行势是由于对角化的特征向量矩阵是良态的。特别是，我们表明，条件数的特征向量矩阵只有温和的Sinc时间点的数目增加，从而从对角化过程中产生的roundantimal误差是可控的。我们提出的PinT预处理的有效性进行了验证，所观察到的网格无关的收敛速度的预处理GMRES在报道的数值例子。
2021-11-30 cs.NA math.NA
Diagonalization-based preconditioners and generalized convergence bounds for ParaOpt
该研究重构了用于跟踪问题的ParaOpt算法，给出通用收敛界，提出基于对角化的预条件子实现弱可扩展并行求解，数值验证了迭代次数随处理器数增加趋于恒定，并提供串行MATLAB实现。
2023-05-08 cs.NA math.NA
Spectral deferred corrections parallelized across the method for differential-algebraic equations
Bergische Universität Wuppertal（伍珀塔尔大学）
本文分析并验证了并行谱延迟校正方法对指标1微分代数方程初值问题的求解性能，通过最优对角系数实现小规模并行加速。
2026-10-23 cs.NA math.NA
An optimal diagonalization-based preconditioner for parabolic optimal control problems
提出基于$ε$-循环修改旋转块对角（RBD）的时间并行预条件子，求解抛物型最优控制问题的全耦合线性系统，避免前向与后向演化过程相乘，证明了GMRES收敛速率与矩阵规模和正则化参数无关。
2025-06-28 cs.NA math.NA
A Direct Parallel-in-Time Quasi-Boundary Value Method for Inverse Space-Dependent Source Problems
反源问题经常出现在实际应用中，如定位未知的地下水污染源。与Tikhonov正则化方法不同，拟边值方法被认为是一种有效的正则化方法，在适当的假设条件下，该方法具有最优阶收敛速度.然而，快速直接或迭代求解所产生的所有一次大规模线性系一直很少在文献中研究。在这项工作中，我们首先提出并分析了一个修改的准边值方法，然后开发了一个基于对角化的并行时间（PinT）直接求解器，它可以实现显着的加速比的CPU时间相比，MATLAB的稀疏直接求解器。特别地，时间离散矩阵$B$被证明是可对角化的，并且其特征向量矩阵$V$的条件数被证明呈现二次增长，这保证了由于对角化引起的循环误差被很好地控制。几个一维和二维的例子来证明我们所提出的方法，在2D的情况下，CPU时间可以加快三个数量级的非常有前途的计算效率。
2022-01-07 cs.NA math.NA
Stage-Parallel Implicit Runge--Kutta methods via low-rank matrix equation corrections
本研究提出一种利用并行性解耦级联计算以提升隐式 Runge--Kutta 方法效率的技术，通过求解低秩 Sylvester 矩阵方程恢复精确解，有效降低了大规模刚性 ODEs 的计算成本。
2025-09-17 cs.NA math.NA
Parallel numerical method for nonlocal-in-time Schrödinger equation
Department of Numerical Mathematics, Institute of Mathematics, National Academy of Sciences（国家科学院数学研究所）
本文提出一种并行数值方法，用于求解具有线性非局部条件和时间依赖势能的非稳态薛定谔方程，该方法在时间离散中使用多项式基列点方案，并建立了解的存在条件和精度估计。
2018-09-20 cs.DC cs.NA math.NA
High-performance implementation of Chebyshev filter diagonalization for interior eigenvalue computations
我们研究切比雪夫滤波器对角化作为一种工具，计算许多内部特征值的非常大的稀疏对称矩阵。在这种技术中，子空间投影到目标空间的想要的特征向量近似的滤波多项式从切比雪夫展开的窗口函数。在讨论了切比雪夫滤波器对角化的概念基础之后，我们分析了阻尼核、搜索空间大小和滤波器多项式次数的选择对计算精度和工作量的影响，然后描述了并行高性能实现的必要步骤。由于切比雪夫滤波器对角化避免了矩阵求逆的需要，因此它可以处理目前无法用基于直接或迭代线性求解器的有理函数方法访问的矩阵和问题大小。为了证明切比雪夫滤波器对角化的潜力，这种大规模的问题，我们包括作为一个例子的计算的$10^2$最内层的特征对的拓扑绝缘体矩阵的尺寸$10^9$来自量子物理应用。
2016-05-10 cond-mat.mes-hall cs.NA math.NA
An experimental comparison of a space-time multigrid method with PFASST for a reaction-diffusion problem
我们考虑两个并行的时间方法应用于（反应）扩散问题，可能是非线性的。特别是，我们认为PFASST（空间和时间的并行全近似方案）和时空多级策略。对于这两种方法，我们开始从一个连续的时间依赖性问题的积分公式。然后，PFASST的配置形式和时空多重网格在时间上的不连续Galerkin离散，导致在时间节点上相同的离散解。强和弱缩放的两个多层次的战略比较不同的时间离散化的顺序。此外，我们调查各自的收敛行为的非线性问题，并强调定量的差异。
2021-01-07 cs.NA math.NA
Parallel in time algorithm with spectral-subdomain enhancement for Volterra integral equations
Fuzhou University（福州大学）；Hong Kong Baptist University（香港浸会大学）；Xiamen University（厦门大学）
本文提出一种时间并行方法求解第二类Volterra积分方程，通过谱子域增强提升精度，首次设计了积分方程的时间并行方法并提供严谨的收敛分析，实验表明计算成本显著降低且保持谱收敛性。
2013-05-13 cs.NA math.NA
Efficient Direct Space-Time Finite Element Solvers for Parabolic Initial-Boundary Value Problems in Anisotropic Sobolev Spaces
考虑了各向异性索伯列夫空间中抛物型初边值问题的时空变分形式和Hilbert型变换。这种变分设置是时空伽辽金有限元离散化的起点，该离散化导致代数方程的大的全局线性系。我们提出并研究了新的有效的直接求解器为这个系统。特别是，我们使用张量积方法与分段多项式，全球连续的animation和检验函数。所开发的求解器是基于Bartels-Stewart方法和快速对角化方法，从而解决了一系列的空间子问题。基于快速对角化方法的求解器允许并行解决这些空间子问题，从而在时间上完全并行化。我们分析了所提出的算法的复杂性，并给出了一个二维空间域的数值例子，其中稀疏的空间子问题的直接求解器。
2020-08-05 cs.NA math.NA
Efficient parallel 3D computation of the compressible Euler equations with an invariant-domain preserving second-order finite-element scheme
我们讨论了一个高性能的二阶配置型有限元格式求解可压缩气体动力学欧拉方程的非结构网格上的有效实施。求解器基于Guermond等人（SIAM J. Sci. Comput. 40，A3211-A3239，2018）。因此，它是不变域保持的，即，解算器保持重要的物理不变量，并且在不使用ad-hoc调谐参数的情况下保证稳定。这种稳定性是以牺牲更复杂的算法结构为代价的，这使得传统的高性能离散化具有挑战性。我们开发了一种算法设计，允许SIMD向量化的计算内核，确定一个良好的节点级性能的主要成分，并报告优秀的弱和强的混合线程/MPI并行化的扩展。
2021-02-02 cs.MS cs.NA math.NA
A well-conditioned direct PinT algorithm for first-and second-order evolutionary equations
在本文中，我们提出了一个直接并行时间（PinT）算法的时间依赖的问题，一阶或二阶导数。我们使用二阶边值方法作为时间积分器，导致三对角时间离散矩阵。而不是解决相应的所有在一次系统迭代，我们对角化的时间离散矩阵，从而产生一个直接的并行实现在所有的时间水平。该方法的关键问题是特征向量矩阵$V$的条件数如何随着$n$的增加而增长，其中$n$是时间级别的数量。大的条件数会导致对角化过程中的大的圆度误差，严重污染数值精度。基于特征方程与切比雪夫多项式之间的一种新的联系，我们给出了计算$V$和$V^{-1}$的显式公式，并证明了$\mathrm{Cond}_2(V)=\mathcal{O}(n^{2})$ .这意味着对角化过程是良态的，并且圆形误差仅随着$n$增长而适度增加，因此，与其他直接PinT算法相比，可以使用大得多的$n$来产生令人满意的并行性。并行机上的数值结果支持我们的研究结果，其中超过60倍的加速比实现了256个核心。
2022-02-20 cs.NA math.NA
Order jumps in Spectral Deferred Corrections
Chalmers University of Technology and University of Gothenburg（查尔姆斯理工大学和哥德堡大学）；Hamburg University of Technology（汉堡工业大学）；Université de Genève（日内瓦大学）
本文将多种谱延迟校正方法解释为Runge-Kutta方法，分析了其阶数提升机制及稳定性特性，并通过数值实验验证了其收敛性。
2026-09-30 cs.NA math.NA
A parallel-in-time algorithm for high-order BDF methods for diffusion and subdiffusion equations
本文提出了一种近似求解抛物型方程的时间并行算法。特别是，我们应用$k$-步向后微分公式，然后开发一个迭代求解器，通过使用波形松弛技术。每一次迭代都代表一个类牛顿系统，可以通过对角化技术进一步并行求解。本文用母函数法从理论上证明了波形松弛迭代法的收敛性。本文建立的方法扩展了Gander和Wu [Numer.]中单步方法的现有论点。数学、143（2019），pp. 489--527]到六阶的一般BDF方法。由于分数阶微分算子的非局部性，该方法可以进一步应用于时间分数阶次扩散方程，其离散化具有标准BDF方法的共同性质.说明性的数值结果，以补充理论分析。
2021-06-03 cs.NA math.NA
Fast Parallel-in-Time Quasi-Boundary Value Methods for Backward Heat Conduction Problems
本文提出了两种新的拟边值方法来正则化不适定的向后热传导问题。在空间和时间的标准有限差分离散，所获得的所有在一次非对称稀疏线性系具有所需的块$ω$循环结构，它可以用来设计一个高效的并行时间（PinT）直接求解器，建立在一个显式的基于FFT的对角化的时间离散矩阵。收敛性分析证明了正则化参数的最佳选择。数值算例验证了我们的分析，并说明了优越的计算效率，我们提出的PinT方法。
2021-07-13 cs.NA math.AP math.NA
A Space-Time Continuous Galerkin Finite Element Method for Linear Schrödinger Equations
本文针对线性含时薛定谔方程提出一种空间-时间连续伽辽金有限元方法，利用Kronecker结构设计Bartels-Stewart和快速对角化直接求解器，实现时间并行并验证了收敛性。
2025-04-09 cs.NA math.NA
On generalized preconditioners for time-parallel parabolic optimal control
针对时间并行抛物型最优控制，提出基于alpha-循环矩阵的广义预条件子，扩展ParaDiag至非自伴方程与终端成本目标，并给出特征值分析与并行扩展性理论。数值实验验证了其有效性。
2024-03-14 cs.NA math.NA
A ROM-accelerated parallel-in-time preconditioner for solving all-at-once systems from evolutionary PDEs
在本文中，我们建议使用模型简化技术，加快对角化的并行时间（ParaDIAG）预处理，迭代求解所有在一次系统的进化偏微分方程。特别是，我们使用减少的基础方法，以寻求一个低维近似的序列所产生的步骤（b）的ParaDIAG预处理程序的复杂的移位系统。不同于标准的降阶建模，使用离线和在线阶段的分离，我们必须建立降阶模型（ROM）在线所考虑的系统在每次迭代。因此，在基于残差的误差指示器的贪婪基生成算法中引入了几种启发式加速技术，以进一步提高其计算效率。几个数值实验进行，这说明了有利的计算效率，我们提出的ROM加速的ParaDIAG预条件相比，最先进的基于多重网格的ParaDIAG预条件。
2020-12-16 cs.NA math.DS math.NA
SIMD-vectorized implicit symplectic integrators can outperform explicit ones
UPV/EHU (University of the Basque Country)（巴斯克地区大学）
本文提出基于高斯-勒让德节点的隐式Runge-Kutta积分器IRKGL16-SIMD，并展示其在高精度数值积分中超越现有显式辛积分器。
2026-03-30 cs.NA math.NA
Parallel-in-Time Preconditioning for Time-Dependent Variational Mean Field Games
The University of Edinburgh（爱丁堡大学）；Imperial College London（帝国理工学院）；Université de Limoges（利摩日大学）
本文提出了一种基于并行时间预条件化的高效求解方法，用于时间依赖变分均场博弈系统，提升了求解效率和可扩展性。
2026-01-05 cs.NA math.NA math.OC
A robust and time-parallel preconditioner for parabolic reconstruction problems using Isogeometric Analysis
针对具有抛物型状态方程的跟踪型 PDE 约束优化问题，提出基于等几何分析的稳健预条件子，并利用快速对角化方法将时空椭圆问题转化为可时间并行求解的空间问题，提升了计算效率。
2024-07-25 cs.NA math.NA
Stability implies robust convergence of a class of preconditioned parallel-in-time iterative algorithms
以时间并行方式求解演化方程是一个很有吸引力的课题，近二十年来提出了许多算法。基于块$α$ -循环预处理技术的算法已经显示出很好的优势，特别是对于波的传播问题。通过快速傅立叶变换分解所涉及的循环矩阵，预处理迭代可以通过所谓的对角化技术有效地计算，这产生了跨所有时间水平的直接并行实现。近年来，人们通过研究迭代矩阵的谱半径来探索预条件迭代的收敛性，这导致了许多基于时间积分器的逐例研究。本文对应用于$u'+Au=f$的算法给出了统一的收敛性分析，其中$σ(A)\subset\mathbb{C}^+$和$σ(A)$是$A\in\mathbb{C}^{m\times m}$的谱.对于任何一个具有稳定性函数$\mathcal{R}(z)$的单步方法（如Runge-Kutta方法），我们证明了全局误差的衰减率受$α/(1-α)$的约束，只要该方法是稳定的，即，$\max_{λ\inσ(A)}|\mathcal{R}(Δtλ)|\leq1$。对于任何线性多步方法，这样的界限变为$cα/(1-cα)$，其中$c\geq1$是由多步方法本身指定的常数。我们的证明仅依赖于时间积分器的稳定性，并且估计与步长$Δt$和谱$σ(A)$无关。
2021-04-14 cs.NA math.NA
Parallel Higher-order Boundary Integral Electrostatics Computation on Molecular Surfaces with Curved Triangulation
University of Alabama（阿拉巴马大学）
提出一种并行高阶边界积分方法求解线性Poisson-Boltzmann方程，通过曲面三角剖分和高斯求积提高精度，并利用MPI实现并行加速。
2013-01-24 cs.DC cs.NA math.NA
A fast diagonalization algorithm to enable singular value decomposition of large matrices for efficient template matching
University of California, Berkeley（加州大学伯克利分校）
针对大矩阵奇异值分解的难题，提出并行化快速对角化算法，可实现 m² 倍加速，在模板匹配等场景中大幅缩短运行时间，提升特征恢复效率。
2026-08-12 cs.NA math.NA q-bio.QM
A Simple Local Variational Iteration Method and Related Algorithm for Nonlinear Science and Engineering
Texas Tech University（德克萨斯理工大学）
本文提出了一种简单高效的局部变分迭代法，通过利用一阶非线性微分方程的一般形式推导出解析迭代公式，并采用切比雪夫多项式和节点法进行直接离散，得到一个简洁易用的数值算法，无需非线性问题的雅可比矩阵求逆。此外，每个局部域内的所有节点同时参与计算，通过GPU加速和并行处理，每个局部域可视为一个节点。该算法被应用于多种非线性问题，如流体力学中的布劳斯方程、固体力学中的弯曲杆方程、天体物理学中的恰普雷金方程、轨道力学中的低地球轨道方程等。与MATLAB内置的高效ode45函数相比，LVIM在所有数值示例中都表现出更高的精度和速度，尤其在非线性项复杂且难以评估时更为显著。
2019-04-22 cs.NA math.NA physics.comp-ph
$h-p$ spectral element methods for three dimensional elliptic problems on non-smooth domains using parallel computers
Indian Institute of Technology Kanpur（坎普尔印度理工学院）；LNM Institute of Information Technology（LNM信息技术研究所）
针对非光滑域上三维椭圆边值问题在角点和边附近的奇异性，提出一种非协调h-p谱元方法，通过局部坐标系和几何网格实现指数收敛，并采用最小二乘配置和预处理共轭梯度法求解。
2011-10-11 cs.NA math.NA
Parallel Prony's method with multivariate matrix pencil approach and its numerical aspect
Prony方法是一种标准工具，用于解决许多成像和数据分析问题，这些问题会导致稀疏指数和$$f(k)=\sum_{j=1}^{T}c_{j}e^{-2πi\langle t_{j},k\rangle},\quad k\in \mathbb{Z}^{d},$$中的参数识别，其中参数成对不同$\{ t_{j}\}_{j=1}^{M}\subset [0,1)^{d}$，并且$\{ c_{j}\}_{j=1}^{M}\subset \mathbb{C}\setminus \{ 0\}$非零。我们调查的重点是一个Prony的方法变量的基础上的多元矩阵束的方法。该方法构造矩阵$S_{1}$，\ldots，$S_{d}$从采样值，和他们的同时对角化产生的参数$\{ t_{j}\}_{j=1}^{M}$。参数$\{ c_{j}\}_{j=1}^{M}$被计算为线性最小二乘问题的解，其中问题的矩阵由$\{ t_{j}\}_{j=1}^{M}$确定。由于该方法涉及独立的生成和一定数量的矩阵的操作，有内在的能力，并行化的整个计算过程中的几个层次。因此，我们提出了并行版本的Prony的方法，以提高其效率。关于矩阵生成的任务在GPU的线程块和CPU之间划分，其中GPU上的负载较重。从算法的角度来看，CPU专用于更复杂的任务。通过仔细选择解决子任务的算法，CPU和GPU之间的负载是平衡的。除了并行化技术，我们…
2020-12-21 cs.DC cs.NA math.NA
A parallel-in-time preconditioner for Crank-Nicolson discretization of a parabolic optimal control problem
针对抛物型最优控制问题Crank-Nicolson离散得到的病态不定鞍点系统，提出对称化结合改进MSC的时间并行预条件子，证明其收敛速率与矩阵规模、正则参数无关，数值实验验证了其性能。
2023-12-20 cs.NA math.NA
Space-time least-squares isogeometric method and efficient solver for parabolic problems
本文提出了一种时空最小二乘等几何方法来求解抛物演化问题，该方法适用于空间-时域中的高次光滑样条。我们专注于线性求解器及其计算效率：由于所提出的配方和时空样条的张量积建设，我们可以设计一个预处理器，其应用程序需要解决的西尔维斯特方程，这是有效地执行快速对角化方法。预条件子是鲁棒的。样条次数和网格步长。其应用程序所需的计算时间，对于一个串行执行，几乎是成比例的自由度和独立的多项式次数的数量。所提出的方法也非常适合并行化。
2019-09-16 cs.NA math.AP math.NA
A multigrid-reduction-in-time solver with a new two-level convergence for unsteady fractional Laplacian problems
多重网格减少时间（MGRIT）技术已被证明是成功的，在实现更高的运行时加速利用时间上的并行性。本文的目标是开发和分析一个MGRIT算法，使用FCF松弛与时间相关的时间网格传播，寻求非定常分数拉普拉斯问题的有限元近似。文[L.陈河，巴西-地H. Nochetto，E. Ot{á}rola，A. J. Salgado，Math.Comp.85（2016）2583- 2607]被选择为空间解算器。由[B]驱动。S. Southworth，SIAM J. Matrix Anal. 40（2019）564- 608]，我们提供了一个新的时间特征值近似性质，然后推导出一个广义的两级收敛理论，该理论消除了[X. Q. Yue，S. Shu，X. W. Xu，W. P. Bu，K. J. Pan，Comput.数学应用78（2019）3471- 3484]。通过数值计算证实了理论预测的正确性，并证明了收敛上界的精确性。
2021-02-09 cs.NA math.NA
Tensor Networks for Solving Realistic Time-independent Boltzmann Neutron Transport Equation
提出混合TT/QTT方法求解稳态Boltzmann中子输运方程，在标准台式机上实现YB级存储压缩和超7500倍加速，且误差小于1e-5。
2023-09-13 cs.NA math.NA
