Parallelizing Explicit and Implicit Extrapolation Methods for Ordinary Differential Equations
数值求解常微分方程(ODE)是一个自然的串行过程,因此绝大多数ODE求解器软件都是串行的。在这篇手稿中,我们开发了一套并行ODE求解器使用外推法,利用“并行的方法”,使任意用户的ODE可以并行化。我们描述了具体的选择,在实现的显式和隐式的外推方法,允许生成低开销的静态时间表,然后利用优化的多线程实现。我们证明,虽然多线程显式和隐式问题上提供了显着的加速,显式的并行外推方法没有显着的改善,即使对当前优化的高阶龙格库塔表的多线程的优势,国家的最先进的。然而,我们证明了隐式并行外推方法能够在标准多核x86 CPU上实现最先进的性能(2x-4x),用于以低容差求解的$<200$刚性ODE系统,这是高级语言方程求解器套件的绝大多数用户的典型设置。由此产生的方法作为第一个广泛可用的开源软件分发,用于针对典型的适度计算架构的方法内并行加速。
2022-09-10 cs.MS cs.NA math.NA
Modelling pathwise uncertainty of Stochastic Differential Equations samplers via Probabilistic Numerics
本研究将概率ODE求解器方法拓展至SDE,通过布朗运动分段可微近似将SDE转为随机ODE序列,得到路径概率解,证明了收敛阶并实现边际化精确转移密度计算,数值验证了弱收敛特性。
2025-03-04 cs.NA math.NA stat.CO
GParareal: A time-parallel ODE solver using Gaussian process emulation
当在整个积分区间上要求高数值精度时,用于积分初值问题(IVP)的顺序数值方法可能过于昂贵。一种补救方法是以并行方式进行集成,使用廉价(粗略)求解器串行地“预测”解决方案,并使用在多个时间子区间上并行运行的昂贵(精细)求解器来“校正”这些值。在这项工作中,我们提出了一个时间并行算法(GParareal),解决IVP建模的校正项,即精细和粗糙的解决方案之间的差异,使用高斯过程仿真器。这种方法与经典的parareal算法相比,我们证明,在一些IVP,GParareal可以收敛在更少的迭代比parareal,导致并行加速的增加。GParareal还设法定位parareal失败的某些IVP的解决方案,并且具有能够使用遗留解决方案的存档的额外优势,例如来自不同初始条件的IVP先前运行的解决方案,以进一步加速方法的收敛-现有时间并行方法无法做到的事情。
2022-09-23 cs.NA math.NA stat.CO
Automated adjoints of coupled PDE-ODE systems
University of Oxford(牛津大学);Ski Videregående skole(斯基高中);Simula Research Laboratory(西穆拉研究实验室)
本文提出一种扩展FEniCS软件的方法,用于高效求解耦合PDE-ODE系统,并自动推导其伴随和切线线性化,应用于心脏电生理和线粒体肿胀研究。
2017-08-25 cs.NA math.NA
A parallel-in-time approach for wave-type PDEs
利用线法求解波动型偏微分方程的数值解要求常微分方程求解器的稳定域包括围绕原点的大范围虚轴。我们在这里表明,外推的Gragg-Bulirsch-Stoer(GBS)型的求解器可以满足这一要求。外推方法利用几个独立的时间步进序列,使它们非常适合并行执行。传统的外推方案使用所有的时间步进序列,以最大限度地提高方法的精度。相反,本方法在采用附加的时间步进序列来形成所得到的稳定域的同时保持期望的精度阶数。我们优化外推系数以最大化稳定域的虚轴覆盖。这产生了一个家庭的显式计划,接近波传播问题的最大时间步长。与传统的常微分方程积分器相比,我们在多核计算机上实现了高阶和快速的求解。
2019-07-26 cs.NA math.NA
Nonlinear parallel-in-time multilevel Schur complement solvers for ordinary differential equations
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);Centre Internacional de Mètodes Numèrics en Enginyeria(国际工程数值方法中心)
本文提出一种并行时间求解器,用于线性和非线性常微分方程,通过多级时间划分的Schur补多级求解器高效求解,非线性问题采用牛顿法和非线性Schur补迭代,数值实验显示方案可弱标量扩展。
2017-09-19 cs.NA math.NA
Stage-Parallel Implicit Runge--Kutta methods via low-rank matrix equation corrections
University of Pisa(比萨大学);University of Roma “Tor Vergata”(罗马托尔维加塔大学)
本研究提出一种利用并行性解耦级联计算以提升隐式 Runge--Kutta 方法效率的技术,通过求解低秩 Sylvester 矩阵方程恢复精确解,有效降低了大规模刚性 ODEs 的计算成本。
2025-09-17 cs.NA math.NA
A new tool for the performance analysis of massively parallel computer systems
Imperial College London(帝国理工学院)
提出基于常微分方程(ODE)的GPA工具,用于大规模系统的性能分析,相比随机模拟更具可扩展性,并首次通过微分方程近似生成高阶矩分析,理论证明方差度量在模型规模极限下趋于真实值。
2010-06-26 cs.DC cs.NA cs.PF
A Generative Model-Free Form Deformation Approach for the Generation of Mesh Motions with Applications to PDE
SISSA(的里雅斯特高级研究学院)
该研究提出无生成模型的自由形式变形方法,通过将变形建模为ODE流,用FFD参数化速度场,证明其理论表达性,结合生成方法实现高效采样等,在变形体流动基准测试中提升了降阶模型的精度和效率。
2026-07-16 cs.NA math.NA
Numerical modelling of convection-diffusion-reaction problems with free boundary in 1D
Faculty of Mathematics and Physics. Comenius University Bratislava(布拉迪斯拉发康斯坦丁尼乌斯大学数学与物理学院)
提出一种基于界面演化数值建模、固定域变换和ODE系统逼近的方法,用于求解一维自由边界对流-扩散-反应问题。
2009-09-02 cs.NA math.NA
Parallelization of a relaxation scheme modelling the bedload transport of sediments in shallow water flow
IRMA, UMR 7501 CNRS, Unistra, France(法国斯特拉斯堡大学 IRMA 实验室);University of Nice, France(法国尼斯大学);Universiy Paris 13 Nord, France(法国巴黎十三大学);MAPMO, University of Orléans, France(法国奥尔良大学 MAPMO 实验室)
本文提出一种并行求解器用于模拟床载侵蚀过程,通过域分解实现二维测试案例的高效计算,重现了反逆水坝现象。
2013-07-01 cs.NA math.NA
Waveform Transmission Method, a New Waveform-relaxation Based Algorithm to Solve Ordinary Differential Equations in Parallel
Tsinghua University(清华大学)
提出波形传输方法(WTM),通过虚拟插入波形传输线实现大规模常微分方程的分布式计算,相比传统波形松弛方法具有更好的收敛性。
2010-09-07 cs.DC cs.NA math.CA
PETSc/TS: A Modern Scalable ODE/DAE Solver Library
Argonne National Laboratory(阿贡国家实验室);University of Colorado Boulder(科罗拉多大学博尔德分校);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本文介绍了基于PETSc的ODE/DAE求解器库TS,提供高扩展性和效率,支持显式、隐式及混合求解器,具备自适应误差控制和灵活的非线性/线性求解器选择。
2018-06-04 cs.NA math.NA
Error bound analysis of the stochastic parareal algorithm
随机parareal(SParareal)是流行的并行算法parareal的概率变体。与parareal类似,它使用预测-校正(PC)方案将细粒度和粗粒度解结合到常微分方程(ODE)中。关键的区别是,精心选择的随机扰动被添加到PC中,以试图加速ODE随机解的位置。在本文中,我们推导出超线性和线性均方误差界的SParareal应用到非线性系统的常微分方程使用不同类型的扰动。我们说明这些界限数值上的一个线性系的常微分方程和标量非线性常微分方程,表现出良好的理论和数值之间的匹配。
2023-03-10 cs.NA math.NA stat.CO
Parallel Newton-Krylov-BDDC and FETI-DP deluxe solvers for implicit time discretizations of the cardiac Bidomain equations
本文构造了两种新的并行约束Newton-Krylov平衡区域分解(BDDC)和双原始有限元撕裂与互连(FETI-DP)求解器,并对三维Bidomain方程组的隐式时间离散进行了数值分析和测试。该模型代表了心脏生物电活动的最先进的数学描述,它由两个非线性反应扩散偏微分方程(PDE)的退化系统和一个刚性的常微分方程(ODE)系统组成。空间上的有限元离散和时间上的隔离隐式离散,基于从常微分方程解耦偏微分方程,在每个时间步产生非线性代数系统的解决方案。在每个牛顿迭代的雅可比线性系统的Krylov方法,加速BDDC或FETI-DP预处理器,都增加了最近推出的{ \em豪华}缩放的对偶变量。一个多对数的收敛速度界证明所产生的并行Bidomain求解器。在多达2000个处理器的Linux集群上进行的广泛数值实验证实了理论估计,表明所提出的并行求解器是可扩展的且准最优的。
2022-04-20 cs.NA math.NA
Micro-macro Parareal, from ODEs to SDEs and back again
Department of Computer Science(计算机系);Celestijnenlaan 200 A, box 2402, 3001 LEUVEN, Belgium(比利时鲁汶市塞莱斯蒂嫩兰200A号,2402信箱,邮编3001)
本文研究微-宏观Parareal初值问题仿真算法,完善了多尺度线性常微分方程下该方法的收敛性分析,并将标量随机微分方程的算法变体推广至高维情形。
2024-10-31 cs.NA math.NA stat.CO
Structure-preserving reduced-order modelling of Korteweg de Vries equation
针对Hamilton形式的Korteweg de Vries(KdV)方程开发了计算高效、保持结构的降阶方法。KdV方程在空间上用有限差分离散。所得的斜梯度系统的常微分方程(ODEs)的集成与线性隐式Kahan的方法,它保持近似的哈密顿量。我们已经表明,使用适当的正交分解(POD),降阶模型(ROM)保持了全阶模型(FOM)的哈密顿结构。KdV方程的二次非线性项的有效评估,通过使用张量方法,清楚地分离的FOM和ROM的离线在线成本。对一维KdV方程、耦合KdV方程和二维Zakharov-Kuznetzov方程的孤子解进行了数值计算,证明了ROM方法的约化解的精确性、哈密顿量、动量和质量的保持性以及计算速度的提高
2021-02-08 cs.NA math.NA
A multicore parallel algorithm for multiscale modelling of an entire human blood circulation network
本文提出一种多核并行算法,用于整个人体血液循环网络的多尺度建模,涵盖动脉、静脉、门静脉、心肺及微循环,并通过一维与零维模型耦合及黎曼不变量处理连接条件,显著提升求解速度。
2024-04-02 cs.NA math.NA physics.med-ph
Monte-Carlo/Moments micro-macro Parareal method for unimodal and bimodal scalar McKean-Vlasov SDEs
KU Leuven(荷语鲁汶大学)
本研究提出一种用于标量McKean-Vlasov SDE的微-宏观时间并行Parareal方法,以粒子系综蒙特卡洛模拟为精细传播子、矩ODE模型为粗传播子实现加速,对双峰SDE采用多ODE策略保障预测质量,可迭代收敛至真实分布且具备并行弱可扩展性。
2025-10-29 cs.NA math.NA physics.comp-ph
Revealing hidden dynamics from time-series data by ODENet
Yau Mathematical Sciences Center, Tsinghua University(丘成桐数学科学中心,清华大学);School of Mathematics, Sun Yat-Sen University(数学学院,中山大学)
从观测数据中获取隐含动力学是许多领域的基本问题之一,也是一个具有挑战性的问题。在这项研究中,我们提出了一种新型的可解释的网络,称为常微分方程网络(ODENet),其中显式常微分方程(ODE)的数值积分嵌入到机器学习方案中,以建立一个通用框架,用于有效和可靠地揭示隐藏在大量时间序列数据中的隐藏动态。ODENet充分利用了机器学习算法和ODE建模。一方面,ODE的嵌入使得框架更易于解释,这得益于ODE的成熟理论。另一方面,机器学习的方案使数据处理,并行和优化能够轻松有效地实现。从经典的Lotka-Volterra方程到混沌的Lorenz方程,ODENet在处理时间序列数据时,即使在存在大噪声的情况下,也表现出了卓越的能力。我们进一步将ODENet应用于真实的肌动蛋白聚集数据,也显示出令人印象深刻的性能。这些结果表明ODENet在处理噪声数据、非等间距数据或大采样时间步长数据方面优于其他传统机器学习算法。
2020-10-16 cs.LG cs.NA math.DS
Shooting method for solving two-point boundary value problems in ODEs numerically
本文探讨使用打靶技术数值求解高阶常微分方程两点边值问题,将线性打靶推导为线性代数应用,并用Newton-Kantorovich定理描述非线性打靶,讨论了快速收敛的条件并通过实例验证。
2022-08-28 cs.NA math.NA nlin.PS
Theoretical and numerical analysis for a hybrid tumor model with diffusion depending on vasculature
在这项工作中,我们分析了一个PDE-ODE问题建模的胶质母细胞瘤,其中包括一个各向异性的非线性扩散项与扩散速度增加相对于脉管系统的演变。首先,我们利用正则化技术,通过在常微分方程组中的人工扩散和不动点论证,证明了该方程组在时间上整体弱强解的存在性。此外,在参数约束下,给出了系统临界点的稳定性结果。最后,我们设计了一个完全离散的有限元计划的模型,保持逐点和能量估计的连续问题。
2021-09-19 cs.NA math.AP math.NA
High-fidelity Multiphysics Modelling for Rapid Predictions Using Physics-informed Parallel Neural Operator
University of Leeds(利兹大学);University College London(伦敦大学学院)
提出物理信息并行神经算子(PIPNO),一种无监督无数据框架,利用物理定律高效建模非线性强耦合多物理场系统,实现高保真快速预测,优于现有算子学习方法。
2025-02-26 cs.LG cs.NA math.NA
Stochastic parareal: an application of probabilistic methods to time-parallelisation
Parareal是一个研究得很好的算法,用于通过并行化时域来数值积分时间相关的微分方程系统。给定每个时间子区间的近似初始值,该算法使用预测-校正器在固定次数的迭代中定位解,一旦满足公差就停止。这种迭代过程结合了廉价(粗分辨率)和昂贵(精细分辨率)的数值积分器定位的解决方案。在本文中,我们介绍了一个随机parareal算法,旨在加快收敛的确定性parareal算法。代替向预测器-校正器提供确定性定位的初始值集合,随机算法从每个时间子间隔中动态变化的概率分布中采样初始值。然后,使用昂贵的积分器并行传播所有样本。产生跨连续子区间的最连续(最平滑)轨迹的采样初始值的集合被馈送到预测器-校正器中,以比具有给定概率的确定性算法更少的迭代收敛。随机算法的性能,实现使用各种概率分布,说明低维系统的常微分方程(ODE)。我们提供的数值证据表明,当采样的初始值的数量是足够大的,随机parareal收敛几乎肯定在更少的迭代比确定性算法,保持解决方案的精度。鉴于其随机性,我们还强调,多个模拟随机parareal返回一个分布的解决方案,可以代表一个衡量的不确定性的ODE解决方案。
2022-01-28 cs.NA math.NA stat.CO
Time-vectorized numerical integration for systems of ODEs
Argonne National Laboratory(阿贡国家实验室);University of Shanghai for Science and Technology(上海理工大学)
本文提出一种时间向量化数值积分方法,通过同时向量化多个时间序列和连续时间步长,利用并行循环归约加速刚性常微分方程组的求解,实现超过100倍加速,并附带开源实现。
2023-10-12 cs.LG cs.NA math.NA
Closing the ODE-SDE gap in score-based diffusion models through the Fokker-Planck equation
University of Bath(巴斯大学);University of Cambridge(剑桥大学)
本文通过 Fokker-Planck 方程系统分析了基于分数的扩散模型中 ODE 与 SDE 动力学的差异,推导出分布间 Wasserstein 2-距离的理论上界,并提出将 Fokker-Planck 残差作为正则化项以缩小该差距,尽管可能略微降低 SDE 样本质量。
2023-11-27 cs.LG cs.NA math.NA
Performance analysis of Volna-OP2 -- massively parallel code for tsunami modelling
Volna-OP 2软件包是一个强大而高效的代码,能够模拟海啸的整个生命周期,同时利用最新的高性能计算(HPC)架构。在本文中,一个全面的错误分析和可扩展性研究的GPU版本的代码。一种新的分解的数值误差到色散和耗散组件进行了探讨。大多数海啸代码表现出振幅拖尾和/或相位滞后/领先,所以这里显示的分解是一个新的方法和新的工具来解释这些事件。这是第一次以这种方式评估海啸代码的错误。迄今为止,Volna-OP 2已被海啸建模界广泛使用。特别是它的计算效率允许各种灵敏度分析和不确定性量化研究。由于所需的模拟数量,在进行这些统计研究时,总是在准确性和运行时间之间进行权衡。本文中提出的分析将指导用户在给定的运行时间内达到可接受的精度水平。
2020-02-12 cs.NA math.NA physics.ao-ph
Neural Fractional Differential Equations
University of Minho(米尼奥大学);University of Porto(波尔图大学)
受神经常微分方程启发,提出神经分数阶微分方程架构,通过调整分数阶微分方程拟合数据动态,在建模记忆依赖系统时优于神经常微分方程。
2024-07-25 cs.CE cs.LG cs.NA
Nearest Neighbors GParareal: Improving Scalability of Gaussian Processes for Parallel-in-Time Solvers
本文提出最近邻GParareal(nnGParareal),通过数据缩减将高斯过程模型复杂度从三次方降至对数线性,提升时间并行求解器在高维系统和多核环境下的可扩展性,并在九个不同系统上验证了其优于GParareal和Parareal的性能。
2025-07-17 cs.DC cs.NA math.NA
Prob-GParareal: A Probabilistic Numerical Parallel-in-Time Solver for Differential Equations
University of Warwick(华威大学);University of St. Gallen(圣加仑大学)
提出Prob-GParareal,通过高斯过程建模Parareal校正函数,为微分方程的并行时间求解提供不确定性量化,并在五个基准ODE系统上验证了精度和鲁棒性。
2026-08-25 cs.DC cs.NA math.NA