A new efficient approximation scheme for solving high-dimensional semilinear PDEs: control variate method for Deep BSDE solver
提出了一种求解高维半线性偏微分方程(PDE)和倒向随机微分方程(BSDEs)的新的逼近格式。首先,我们将一个目标半线性偏微分方程分解为两部分,即“主导”线性偏微分方程和“小”非线性偏微分方程。然后,我们采用了一种新的控制变量的方法来解决这些偏微分方程,其中基于渐近展开技术的近似有效地应用于线性部分,也用作控制变量的非线性部分。此外,我们的理论结果表明,所提出的方法的误差变得小于那些原来的Deep Boundary求解器。最后通过数值实验验证了该方法的有效性,实验结果与本文的理论结果一致。
2021-01-31 cs.NA math.NA q-fin.CP
Learning to Optimize Multigrid PDE Solvers
Weizmann Institute of Science(魏茨曼科学研究所);Technion, Israel Institute of Technology(以色列理工学院)
构造偏微分方程的快速数值求解器对于许多科学学科都是至关重要的。求解大规模偏微分方程的一个主要技术是使用多重网格方法。多重网格求解器的核心是延拓矩阵,它与问题的不同尺度之间相关。这个矩阵是强烈的问题依赖性,其最佳结构是至关重要的求解器的效率。然而,在实践中,为新问题设计多重网格算法往往会带来巨大的挑战。在本文中,我们提出了一个学习多重网格求解器的框架。我们的方法学习一个(单一)映射从一个家庭的参数化偏微分方程延长运营商。我们训练一个神经网络一次为整个类的偏微分方程,使用一个有效的和无监督的损失函数。广泛的一类2D扩散问题的实验表明,改进的收敛速度相比,广泛使用的黑盒多重网格计划,这表明我们的方法成功地学习规则,构造延长矩阵。
2019-08-05 cs.LG cs.NA math.NA
Unisolver: PDE-Conditional Transformers Towards Universal Neural PDE Solvers
Hang Zhou;Yuezhou Ma;Haixu Wu;Haowen Wang;Mingsheng Long
针对现有神经PDE求解器泛化性差的问题,提出以PDE组分为条件的Transformer模型Unisolver,结合物理结构与Transformer技术,在三个大规模基准上实现SOTA,迈向通用神经PDE求解器。
2025-09-04 cs.AI cs.LG cs.NA
Label-free learning of elliptic partial differential equation solvers with generalizability across boundary value problems
传统的基于数值离散的偏微分方程(PDE)求解器基本上不知道域、边界条件和系数。相比之下,机器学习求解器在边值问题的这些元素上具有有限的泛化能力。这在代理模型的情况下是非常正确的,这些代理模型通常是在应用于一个特定边值问题的PDE的直接数值模拟上训练的。与这种直接方法不同的是,求解器的无标签机器学习集中在一个损失函数上,该函数将PDE和边界条件合并为残差形式。然而,他们的推广跨越边界条件是有限的,他们仍然强烈的域依赖性。在这里,我们提出了一个框架,概括跨域,边界条件和系数,同时学习弱形式的偏微分方程。我们的工作探讨了简单的,基于卷积神经网络(CNN)的编码器-解码器架构的能力,学习解决PDE在更大的一般性比其限制到一个特定的边值问题。在这第一次通信中,我们考虑椭圆型偏微分方程的Fickean扩散,线性和非线性弹性。重要的是,学习独立于来自实验或直接数值解的任何标记的场数据而发生。这些问题类的广泛结果表明,该框架的能力,学习PDE求解器,概括了成千上万的域,边界条件和系数,包括外推超出学习制度。一旦经过训练,机器学习求解器比基于离散化的求解器快几个数量级。我们将我们的工作放在最近的连续算子学习框架的背景下,并注意到迁移学习,主动学习和强化学习的扩展。
2023-01-31 cs.NA math.NA
Computing first passage times for Markov-modulated fluid models using numerical PDE problem solvers
计算连续时间马尔可夫链中的首次穿越概率的一种流行方法是数值反演它们的拉普拉斯变换。在过去的几十年里,科学计算界已经开发出了优秀的数值方法来解决由偏微分方程(PDE)控制的问题,使得拉普拉斯变换的可用性在这里不需要用于计算目的。在这项研究中,我们证明了数值偏微分方程问题求解器适合于计算第一次通过时间,并可以非常有效地实现这一目的。通过做大量的计算实验,我们表明,现代PDE问题求解器可以优于数值拉普拉斯变换反演,即使变换是可用的。当拉普拉斯变换是显式的(例如,不需要计算本征系统)时,数值变换反演仍然是主要的选择方法。
2020-03-30 cs.NA math.NA math.PR
Implicit Neural Solver for Time-dependent Linear PDEs with Convergence Guarantee
Technical University Munich(慕尼黑工业大学)
快速精确求解含时不定常偏微分方程是物理、工程、生物等领域的研究热点。一般来说,隐格式格式比显式格式具有更好的稳定性和正确性。现有的隐格式格式通常是迭代的,并采用一个通用的求解器,这可能是次优的一类特定的偏微分方程。在本文中,我们提出了一个神经求解器学习一类偏微分方程的最佳迭代方案,在数据驱动的方式。我们通过使用深度神经网络修改现有半隐式求解器的迭代来实现这一目标。此外,我们从理论上证明,我们的方法保留了现有的迭代求解器提供的正确性和收敛性保证。我们还证明,我们的模型推广到一个不同的参数设置比在训练过程中看到的,并实现更快的收敛相比,半隐格式。
2019-11-27 cs.LG cs.NA math.NA
A nonsmooth primal-dual method with interwoven PDE constraint solver
本文提出一种非光滑PDE约束优化的高效一阶原始-对偶方法,将优化迭代与传统线性求解器单步交织执行,避免每步完整求解PDE,并证明其线性收敛性。
2024-05-23 cs.NA math.NA math.OC
End-to-End Mesh Optimization of a Hybrid Deep Learning Black-Box PDE Solver
University of Utah(犹他大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本研究探索了结合黑盒PDE求解器与深度图神经网络的混合模型在流体流动预测中的端到端训练可行性,通过零阶梯度估计器对求解器进行微分,在无需自动微分支持的情况下实现了优于冻结网格基线的性能,并通过预热启动加速收敛与提升泛化。
2024-04-28 cs.LG cs.NA math.NA
LegONet: Plug-and-Play Structure-Preserving Neural Operator Blocks for Compositional PDE Learning
Purdue University(普渡大学)
LegONet通过可插拔的结构保持算子块构建PDE求解器,实现跨PDE和边界条件的稳定求解。
2026-03-09 cs.NA math.NA
Neural Very Weak Formulations enabling Hardware-Oriented deep PDE solvers
Universidad de Buenos Aires(布宜诺斯艾利斯大学);IMAS, CONICET(阿根廷国家科学研究委员会数学与应用研究所)
研究椭圆问题最小二乘极弱形式的离散化,核心方法是用低正则性神经网络,测试函数来自适当光滑空间,避免自动微分,在多种情况表现良好,关注特定试验函数利于硬件实现。
2026-07-17 cs.NA math.NA
Singular parameters and missing limits in neural PDE solvers
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学)
本文针对神经PDE求解器中因参数无界增长导致的缺失极限问题,通过分析tanh网络并添加核导数来补全模型,使最佳逼近可达,并数值验证了其对优化的影响。
2026-10-06 cs.LG cs.NA math.NA
Solver composition across the PDE/linear algebra barrier
耦合偏微分方程(PDE)离散化的有效解是许多数值模拟的核心。显著的努力已经花费在可扩展的算法,以预处理Krylov迭代的线性系统的出现。除了少数例外,这种解决方案的策略的数值实现报告是特定于一个特定的模型设置,并密切联系的求解器策略的离散化和PDE,特别是当预处理需要辅助运营商。在本文中,我们提出了最近改进的Firedrake有限元库,允许直接开发的可扩展的,可组合的预处理器,解耦求解器的模型制定的积木。我们的实现扩展了PETSc库提供的线性求解器的代数可组合性,通过增加运算符,因此预处理器,能够提供任何必要的辅助运算符。而不是预先指定完整的求解器配置,绑定到模型,求解器可以独立于模型公式开发,并在运行时配置。我们用不可压缩流体和温度驱动对流的例子来说明。
2017-11-08 cs.MS cs.NA math.NA
Generative downscaling of PDE solvers with physics-guided diffusion models
本文提出物理引导扩散模型 PGDM,通过配对数据学习与 PDE 残差微调实现低保真到高保真 PDE 解的降尺度,在三类非线性 PDE 上优于基线并取得十倍以上加速。
2024-04-07 cs.NA math.NA
Multi-Scale Message Passing Neural PDE Solvers
ETH Zürich(苏黎世联邦理工学院);UC Berkeley(加州大学伯克利分校)
我们提出了一种新的多尺度消息传递神经网络学习算法的时间依赖的偏微分方程的解决方案。我们的算法同时具有时间和空间多尺度分辨率的特点,通过将多尺度序列模型和图形门控模块分别在编码器和处理器。基准数值实验表明,所提出的算法优于基线,特别是在一系列的空间和时间尺度的偏微分方程。
2023-02-07 cs.LG cs.NA math.NA
Autoregressive Renaissance in Neural PDE Solvers
University College London(伦敦大学学院)
本文解读ICLR 2022论文,介绍一种消息传递图神经网络,通过缓解自回归不稳定问题,在神经偏微分方程求解中达到或超越傅里叶神经算子与经典求解器的泛化性能。
2023-10-30 cs.AI cs.LG cs.NA
Flexible and Efficient Probabilistic PDE Solvers through Gaussian Markov Random Fields
University of Tübingen(蒂宾根大学);Tübingen AI Center(蒂宾根人工智能中心)
本文利用高斯过程先验的马尔可夫性质,通过随机偏微分方程离散化和稀疏线性代数大幅加速推理,使概率PDE求解器能够高效处理大规模非线性PDE,并支持更灵活的物理先验。
2025-03-11 cs.LG cs.NA math.NA
The Coercivity Gap in Neural PDE Solvers: Parameter Escape and Functional Convergence
Friedrich–Alexander–Universität Erlangen–Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学);University of Deusto(德乌斯托大学);Universidad Autónoma de Madrid(马德里自治大学)
从变分角度研究椭圆PDE解的神经逼近,揭示神经参数几何与物理状态收敛之间的强制间隙,并证明即使参数空间非强制,状态函数仍可强收敛到精确解。
2026-06-27 cs.NA math.NA
Compression challenges in large scale PDE solvers
偏微分方程(PDE)的求解是计算科学的基石之一。对于大型问题,它们涉及需要在内存层次结构的所有级别上存储和传输的大量数据。通常,由于相对较小的运算强度,带宽是限制因素,并且由于计算能力和带宽之间的差距越来越大,带宽越来越成为限制因素。因此,在过去的几十年中,数据压缩技术已经被研究并针对PDE求解器的特定要求进行了定制。本文调查数据压缩的挑战和相应的解决方案PDE问题的方法,涵盖所有级别的内存层次结构,从大容量存储器到主存。举例来说,我们说明在特定的方法的概念,并提供参考的替代品。
2019-09-18 cs.DC cs.IT cs.NA
CodePDE: An Inference Framework for LLM-driven PDE Solver Generation
Carnegie Mellon University(卡内基梅隆大学);Flatiron Institute(Flatiron研究院);Polymathic AI(多学科人工智能);Datadog
CodePDE通过大语言模型生成PDE求解器,展示了LLM在复杂数学问题中的强大能力及潜在应用价值。
2026-02-22 cs.AI cs.CL cs.LG
A machine learning solver for high-dimensional integrals: Solving Kolmogorov PDEs by stochastic weighted minimization and stochastic gradient descent through a high-order weak approximation scheme of SDEs with Malliavin weights
本文介绍了一种非常简单、快速的高维积分计算方法,用于求解高维Kolmogorov偏微分方程。新的基于机器学习的方法是通过求解一个随机加权最小化与随机梯度下降,这是受启发的高阶弱近似计划的随机微分方程(SDES)与Malliavin权重。然后,解决方案,高维Kolmogorov偏微分方程或期望的泛函的解决方案,高维偏微分方程的准确近似,而不会遭受灾难的维度。通过使用二阶和三阶离散格式,以证明我们的方法的有效性,PDES和SDES高达100维的数值例子。
2021-02-11 cs.NA math.NA q-fin.CP
Blending Neural Operators and Relaxation Methods in PDE Numerical Solvers
Brown University(布朗大学);Tel Aviv University(特拉维夫大学);Ansys Inc(安sys公司)
本文提出HINTS混合求解器,将DeepONet与松弛方法结合,利用谱偏差互补优势,实现PDE快速、可扩展且均匀收敛的数值求解。
2024-09-02 cs.LG cs.NA math.NA
Preconditioned fully implicit PDE solvers for monument conservation
Università dell’Insubria(因苏布里亚大学)
针对纪念碑污染损伤的非线性抛物型方程,提出并分析了一种全隐式数值方法,结合不动点迭代和预处理Krylov子空间方法求解大型线性系统,并通过数值实验验证。
2010-02-07 cs.NA math.NA
Learning Neural PDE Solvers with Convergence Guarantees
提出一种用深度神经网络修改现有迭代求解器更新以学习特定领域快速求解器的方法,保留收敛保证,在单一几何上训练后泛化到多种几何和边界条件,实现2-3倍加速。
2019-06-04 cs.NA math.NA stat.CO
Invariant preservation in machine learned PDE solvers via error correction
Princeton University(普林斯顿大学);Princeton Plasma Physics Laboratory(普林斯顿等离子体物理实验室)
机器学习偏微分方程(PDE)求解器用标准数值方法的可靠性换取精度和/或速度的潜在增益。求解器保证输出精确解的唯一方法是在网格间距$Δx$和时间步长$Δt$接近零的限制下使用收敛方法。机器学习求解器学习更新大$Δx$和/或$Δt$的解决方案,永远不能保证完美的准确性。一定量的错误是不可避免的,所以问题变成了:我们如何约束机器学习的求解器,让它给我们提供我们愿意容忍的错误?在本文中,我们通过保留底层PDE的连续不变量的离散类似物来设计更可靠的机器学习PDE求解器。这种不变量的例子包括质量守恒、能量守恒、热力学第二定律和/或非负密度。我们的关键见解很简单:为了保持不变量,在每个时间步对更新规则应用纠错算法。虽然该策略与标准求解器如何保持不变量不同,但是有必要保持允许机器学习求解器在大$Δx$和/或$Δt$上精确的灵活性。该策略可以应用于任意几何形状和任意边界条件下的任意时变偏微分方程的自回归求解。虽然这种策略是非常普遍的,具体的纠错算法需要量身定制的基本方程的不变量,以及解决方案的解决方案表示和时间步进计划的求解器。我们介绍的纠错算法有两个关键属性。首先,通过保持正确的不变量,它们保证了数值稳定性。其次,在封闭或周期系统中,它们这样做不会降低已经精确的求解器的精度。
2023-03-29 cs.LG cs.NA math.NA
Meta-MgNet: Meta Multigrid Networks for Solving Parameterized Partial Differential Equations
本文研究了基于深度学习(DL)的参数化偏微分方程(P-PDE)的数值解。P-PDE出现在许多重要的应用领域中,使用传统的数值格式的计算成本可能过高,特别是当参数落入特定范围并且底层PDE需要以高精度求解时。最近,用深度学习解决偏微分方程已成为一个新兴领域。已有的工作表明,基于DL的方法在加快偏微分方程数值解方面具有巨大的潜力。然而,仍然有有限的研究DL方法的P-PDE。如果我们直接将现有的监督学习模型应用于P-PDE,当参数改变时,模型需要不断微调或重新训练。这极大地限制了这些模型在实践中的适用性和实用性。为了解决这个问题,我们提出了一种基于元学习的方法,可以有效地解决P-PDE与广泛的参数,而无需重新训练。我们的主要观察是把训练一个求解器的P-PDE与一组给定的参数作为一个学习任务。然后,训练一个求解器的P-PDE与不同的参数可以被看作是一个多任务学习问题,元学习是最有效的方法之一。这种新的视角可以应用于许多现有的PDE求解器。作为一个例子,我们采用多重网格网络(MgNet)作为基本求解器。为了实现多任务学习,我们在MgNet中引入了一个新的超网络,称为Meta-NN,并将整个网络称为Meta-MgNet。Meta-NN将微分算子和底层P-PDE的右侧作为输入,并为MgNet生成适当的平滑器,这可以显着影响收敛速度。最后,大量的数值实验表明,元MgNet是更有效地解决P-PDE比…
2020-11-01 cs.NA math.NA
PIXEL: Physics-Informed Cell Representations for Fast and Accurate PDE Solvers
Sungkyunkwan University(成均馆大学)
随着计算能力的提高和机器学习的发展,基于数据驱动学习的方法在求解偏微分方程中得到了极大的关注。物理信息神经网络(PINN)最近出现并成功地解决了各种正向和逆偏微分方程问题,这要归功于其出色的特性,如灵活性、无网格解决方案和无监督训练。然而,它们的收敛速度较慢,相对不准确的解决方案往往限制了它们在许多科学和工程领域的广泛适用性。本文提出了一种新的数据驱动的偏微分方程求解器,物理信息单元表示(PIXEL),优雅地结合了经典的数值方法和基于学习的方法。我们采用了网格结构的数值方法,以提高精度和收敛速度,并克服了谱偏差PINNs。此外,所提出的方法在PINN中享有相同的益处,例如,使用相同的优化框架来解决正向和反向PDE问题,并且利用现代自动微分技术容易地实施PDE约束。我们提供了各种具有挑战性的偏微分方程的实验结果,原来的PINN一直在努力,并表明PIXEL实现快速收敛速度和高精度。项目页面:https://namgyukang.github.io/PIXEL/
2023-02-04 cs.LG cs.NA math.NA
A positivity preserving convergent event based asynchronous PDE solver
本文提出一种基于异步离散事件的守恒方程数值方案,通过事件处理实现空间和时间自适应,证明异步方案误差随控制参数减小而趋近于零。
2016-10-21 cs.NA math.NA
Physics-Informed Neural Plasticity: PDE Solvers That Reshape Themselves
University of Cambridge(剑桥大学);Shanghai Normal University(上海师范大学);YMSC, Tsinghua University(清华大学丘成桐数学科学中心)
针对物理信息PDE求解器表示结构固定的问题,提出ReCAP,通过局部细化、分裂、剪枝和合并动态重塑容量,在5个3D/4D基准上相对最强竞争降低误差10.7%-27.5%。
2026-10-08 cs.LG cs.NA math.NA
Error Analysis of Option Pricing via Deep PDE Solvers: Empirical Study
Tohoku University(东北大学);Preferred Networks, Inc.(Preferred Networks 公司)
本研究通过实证对比和消融实验,系统分析了深度PDE求解器在高维期权定价中的三类误差来源,发现DBSDE方法性能优越且对期权规格变化鲁棒,并揭示了性能与批大小及时间步数的平方根成反比的关系,为实际应用提供了计算资源估算依据。
2023-11-13 cs.LG cs.NA math.NA
Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Academy of Mathematics and Systems Science, Chinese Academy of Sciences (CAS)(中国科学院数学与系统科学研究院);Beijing Institute of Technology(北京理工大学);Zhongguancun Academy(中关村学院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
本文提出蒙特卡洛神经偏微分方程求解器(MCNP Solver),利用偏微分方程的概率表示以无监督方式训练神经求解器,将对流-扩散等方程的宏观现象建模为随机粒子集合,并通过Heun方法及邻近网格概率密度期望计算提升精度与效率,在多个方程上验证了其优越性。
2025-03-11 cs.LG cs.NA math.NA
Breaking the Curse of Dimensionality in Quantum PDE Solvers via Gevrey Regularity
University of Waterloo(滑铁卢大学);Perimeter Institute for Theoretical Physics(理论物理前沿研究所);Microsoft Quantum(微软量子);Massachusetts Institute of Technology(麻省理工学院);University of California, Santa Barbara(加州大学圣塔芭芭拉分校);National Research Council Canada(加拿大国家研究委员会)
该研究关联实值周期函数光滑度与量子态制备成本,利用Gevrey正则性提出高效量子PDE求解傅里叶方法,可转化为门计数,还构建多体量子模拟流水线获多项式级量子加速。
2026-09-29 cs.NA math.NA quant-ph
DOSnet as a Non-Black-Box PDE Solver: When Deep Learning Meets Operator Splitting
Huawei Technologies, Co. Ltd.(华为技术有限公司);The Hong Kong University of Science and Technology(香港科技大学);HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute(香港科技大学深港协同创新研究院)
本文提出深度算子分裂网络DOSnet,将经典算子分裂数值格式融入神经网络架构设计,在保持物理可解释性的同时实现高精度、低计算复杂度的演化型PDE求解,并在NLSE等方程上验证了其优于传统数值方法和基线DNNs。
2022-12-11 cs.LG cs.NA math.NA
PRISMA: Improving the Accuracy-Latency Frontier of Diffusion-based PDE Solvers Using Physics-Informed Spectral Attention
Department of Computer Science(计算机科学系)
PRISMA通过将PDE残差作为频谱注意力机制整合到扩散神经算子中,实现了无需梯度下降的快速、稳健和准确的PDE求解。
2026-08-05 cs.AI cs.LG cs.NA
AutoNumerics: An Autonomous, PDE-Agnostic Multi-Agent Pipeline for Scientific Computing
University of Maryland(马里兰大学)
AutoNumerics通过多智能体框架自主设计并验证数值求解器,基于自然语言描述实现高效准确的偏微分方程求解。
2026-02-19 cs.AI cs.LG cs.NA
Neural PDE Solvers for Irregular Domains
Iowa State University(爱荷华州立大学);New York University(纽约大学);Johnson Control Inc.(江森自控公司)
基于神经网络的偏微分方程(PDE)求解方法近来受到了特别的关注。然而,大多数神经PDE求解器仅适用于直线域,并且没有系统地解决Dirichlet/Neumann边界条件在不规则域边界上的施加。在本文中,我们提出了一个框架,神经解决不规则形状(非直线)的几何边界域上的偏微分方程。我们的网络以域的形状作为输入(使用非结构化点云或任何其他参数表示,如非均匀有理B样条),并能够推广到新的(看不见的)不规则域;实现该模型的关键技术成分是一种新的方法,用于以可微的方式识别计算网格的内部和外部。我们还进行了仔细的误差分析,揭示了在模型建立过程中产生的误差的几个来源的理论见解。最后,我们展示了各种各样的应用,以及与地面实况解决方案的有利比较。
2022-11-07 cs.LG cs.NA math.NA
MAgNet: Mesh Agnostic Neural PDE Solver
Mila - Québec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);Université du Québec à Rimouski(魁北克大学里穆斯基分校)
经典偏微分方程(PDE)数值方法的计算复杂性随着分辨率的增加而显著增加。作为一个重要的例子,气候预测需要精细的时空分辨率来解决流体模拟中的所有湍流尺度。这使得即使使用现代超级计算机也无法通过计算准确解决这些规模的任务。因此,目前的数值建模人员在过于粗糙的网格(每边3公里到200公里)上求解偏微分方程,这阻碍了预测的准确性和实用性。在本文中,我们利用隐式神经表示(INR)的最新进展,设计了一种新的架构,预测空间连续的解决方案的PDE给定的空间位置查询。通过使用图神经网络(GNN)增强基于坐标的架构,我们可以实现zero-shot泛化到新的非均匀网格和长达250帧的物理一致的长期预测。我们的网格不可知神经PDE求解器(MAgNet)能够在各种PDE模拟数据集上进行准确的预测,并与现有的基线相媲美。此外,MAgNet可以很好地推广到不同的网格和分辨率,最高可达训练的四倍。
2022-10-11 cs.LG cs.NA math.NA
KD-PINN: Knowledge-Distilled PINNs for ultra-low-latency real-time neural PDE solvers
KD-PINN通过知识蒸馏提升PINN的准确性与效率,实现超低延迟实时神经PDE求解。
2025-12-16 cs.LG cs.NA math.NA
UGrid: An Efficient-And-Rigorous Neural Multigrid Solver for Linear PDEs
Stony Brook University (SUNY)(纽约州立大学石溪分校);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出融合 U-Net 与多重网格的线性 PDE 神经求解器 UGrid,兼具收敛与正确性证明、高精度及跨几何和 PDE 形式的泛化能力,并以残差损失实现稳定无监督训练。
2024-08-09 cs.AI cs.LG cs.MS
Fast Iterative Solver for the Optimal Control of Time-Dependent PDEs with Crank-Nicolson Discretization in Time
在这篇文章中,我们得到了一个新的,快速的,和强大的预处理迭代求解策略的所有一次解决最优控制问题的不定常偏微分方程作为约束,包括热方程和非定常对流-扩散方程。在应用优化然后离散化的方法后,人们面临着由偏微分方程的耦合系统组成的连续的一阶最优性条件。相对于大多数工作中预处理的离散化系统,其中(一阶精度)向后欧拉法用于离散化的时间导数,我们采用(二阶精度)曲柄-尼科尔森方法的时间。我们应用一个精心定制的可逆变换对称化的矩阵,然后推导出一个最佳的预条件子的鞍点系统。这个预条件的关键组成部分是一个准确的质量矩阵近似,一个很好的近似Schur补,和一个适当的多重网格过程,以适用于后者的近似-这些都是使用我们的工作在变换矩阵系统。我们证明了最优的近似Schur补通过边界上的特征值,并测试我们的求解器对广泛使用的预条件的线性系所产生的向后欧拉离散。这些都证明了我们的求解器的有效性和鲁棒性的网格大小,正则化参数和扩散系数。
2020-07-16 cs.NA math.NA math.OC
A path-dependent PDE solver based on signature kernels
Université Paris Cité(巴黎西岱大学);Imperial College London(帝国理工学院)
本文提出基于签名核的路径依赖PDE求解器及收敛理论,通过最小范数优化在约束条件下求解PPDE,适用于期权定价等金融问题,提供替代蒙特卡洛方法的可行方案。
2026-03-16 cs.NA math.NA q-fin.CP
Fast automated adjoints for spectral PDE solvers
University of Leeds(利兹大学);Massachusetts Institute of Technology(麻省理工学院);Flatiron Institute(平顿研究所)
本文提出一种通用自动求导方法,用于计算基于稀疏谱方法的PDE求解器的模型梯度,并在广泛使用的Dedalus框架中实现。通过反向模式自动微分构建高效 adjoint 求解器,支持多种方程、几何和边界条件,适用于时间依赖和非线性系统优化。
2025-05-29 astro-ph.SR cs.NA math.NA
One Operator to Rule Them All? On Boundary-Indexed Operator Families in Neural PDE Solvers
College of Computing, Georgia Institute of Technology(佐治亚理工学院计算机学院);Department of Mathematics and Systems Engineering, Florida Institute of Technology(佛罗里达理工学院数学与系统工程系)
本文探讨了神经PDE求解器中边界索引运算符家族的核心问题,指出传统方法在边界条件变化时存在非识别性问题,并通过实验验证了在不同边界条件下求解器的局限性。
2026-05-20 cs.AI cs.LG cs.NA
Quantifying Training Difficulty and Accelerating Convergence in Neural Network-Based PDE Solvers
Hong Kong University of Science and Technology(香港科技大学);Shanghai Jiao Tong University(上海交通大学);The Pennsylvania State University(宾夕法尼亚州立大学);HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute(香港科技大学深港协同创新研究院);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
该研究针对基于神经网络的PDE求解器训练难度大、精度有限的问题,通过核特征值分布与有效秩量化训练难度,发现PoU和VS初始化可提升有效秩以加速收敛,并经多框架实验验证了理论结论。
2024-10-08 cs.LG cs.NA math.NA
Probabilistic solvers for partial differential equations
Purdue University(普渡大学)
本文提出了一种概率求解器,用于解决具有混合边界条件的线性偏微分方程,通过概率测度量化离散化引入的不确定性。
2016-07-12 cs.NA math.NA math.PR
M2N: Mesh Movement Networks for PDE Solvers
ShanghaiTech University(上海科技大学);Imperial College London(帝国理工学院);ETH Zürich(苏黎世联邦理工学院);Tsinghua University(清华大学);Noah’s Ark Lab, Huawei(华为诺亚方舟实验室);University College London(伦敦大学学院)
主流的偏微分方程(PDE)数值求解器需要使用网格离散化物理域。网格移动方法的目的是通过增加网格分辨率来提高数值解的精度,同时减少其他地方不必要的分辨率。然而,诸如Monge-Ampere方法的网格移动方法需要辅助方程的解,这可能是极其昂贵的,特别是当网格被频繁地调整时。在本文中,我们提出了我们最好的知识,第一个基于学习的端到端的网格运动框架的PDE求解器。基于学习的网格移动方法的关键要求是减少网格缠结,边界一致性,并推广到不同分辨率的网格。为了实现这些目标,我们引入了神经样条模型和图形注意力网络(GAT)分别到我们的模型。虽然基于神经样条的模型为大变形提供了更大的灵活性,但基于GAT的模型可以处理具有更复杂形状的域,并且更好地执行精细的局部变形。我们验证我们的方法上固定和时间相关的,线性和非线性方程,以及规则和不规则形状的域。与传统的Monge-Ampere方法相比,我们的方法可以大大加快网格自适应过程,同时实现可比的数值误差减少。
2022-04-24 cs.LG cs.NA math.NA
Message Passing Neural PDE Solvers
University of Amsterdam(阿姆斯特丹大学);Johannes Kepler University Linz(林茨约翰内斯·开普勒大学);Qualcomm AI Research(高通人工智能研究院)
偏微分方程(PDE)的数值求解是一个困难的问题,迄今为止已经进行了一个世纪的研究。最近,人们一直在努力构建神经-数值混合求解器,这是对完全端到端学习系统的现代趋势的支持。到目前为止,大多数作品只能概括通用求解器将面对的属性子集,包括:分辨率,拓扑结构,几何形状,边界条件,域离散规则性,维数等。在这项工作中,我们建立了一个求解器,满足这些属性,其中所有组件都基于神经消息传递,用反向传播优化的神经函数逼近器替换计算图中的所有图解设计的组件。我们表明,神经消息传递求解器代表性地包含一些经典的方法,如有限差分,有限体积,WENO计划。为了提高自回归模型训练的稳定性,提出了一种基于零稳定性原理的方法,将稳定性问题看作是一个领域自适应问题。我们验证了我们的方法在各种流体类流动问题,展示了快速,稳定和准确的性能在不同的域拓扑结构,方程参数,离散化等,在1D和2D。
2023-03-20 cs.CV cs.LG cs.NA
Physics-Informed Gaussian Process Regression Generalizes Linear PDE Solvers
University of Tübingen(蒂宾根大学);Tübingen AI Center(蒂宾根人工智能中心);University of Stuttgart(斯图加特大学)
本文将求解线性偏微分方程解释为物理信息高斯过程回归,通过泛化推断定理严格泛化了加权残差法,实现了离散化误差量化、参数不确定性传播和噪声条件化,从而将机制模型无缝集成到概率模型中。
2024-04-28 cs.LG cs.NA math.NA
Neural-HSS: Hierarchical Semi-Separable Neural PDE Solver
Gran Sasso Science Institute, L'Aquila, Italy.(格兰萨索科学研究所);University of Edinburgh, UK.(爱丁堡大学)
Neural-HSS通过分层半分离矩阵结构高效求解PDEs,展示在低数据条件下优于基线方法的性能。
2026-02-20 cs.LG cs.NA math.NA
PDE Solvers Should Be Local: Fast, Stable Rollouts with Learned Local Stencils
University of Cambridge(剑桥大学);Peking University(北京大学);Tsinghua University(清华大学)
针对神经算子全局混合导致过度平滑且计算昂贵的问题,本文提出严格局部、可学习时间步进的FINO架构,并给出误差界与逼近定理,在多基准上显著提升精度和速度。
2025-09-30 cs.LG cs.NA math.NA
TT-PINN: A Tensor-Compressed Neural PDE Solver for Edge Computing
University of California, Santa Barbara(加州大学圣巴巴拉分校)
物理信息神经网络(PINN)由于其对复杂物理系统建模的能力而得到越来越多的应用。为了获得更好的表现力,在许多问题中需要越来越大的网络尺寸。当我们需要在内存、计算和能源有限的边缘设备上训练PINN时,这就带来了挑战。为了在边缘设备上训练PINN,本文提出了一种基于Tensor-Train分解的端到端压缩PINN。在求解Helmholtz方程时,我们提出的模型在参数较少的情况下显著优于原始PINN,并且在高达15个$\times$总体参数减少的情况下实现了令人满意的预测。
2022-07-04 cs.AR cs.DC cs.LG
Are Deep Learning Based Hybrid PDE Solvers Reliable? Why Training Paradigms and Update Strategies Matter
Delft Institute of Applied Mathematics(代尔夫特应用数学研究所);Delft University of Technology(代尔夫特理工大学);Department of Mathematics and Computer Science(数学与计算机科学系);Eindhoven University of Technology(埃因霍温理工大学);The Netherlands(荷兰)
本文研究基于深度学习的混合迭代方法(DL-HIMs)在科学计算中的可靠性问题,发现训练目标与求解器动力学及物理问题不一致会导致残差停滞,并提出物理感知的Anderson加速(PA-AA)方法以恢复可靠收敛。
2026-06-02 cs.LG cs.NA math.NA
Better Neural PDE Solvers Through Data-Free Mesh Movers
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);Microsoft Research AI4Science(微软研究院AI4Science)
本文提出一种无数据神经网格适配器DMM和基于移动网格的神经PDE求解器MM-PDE,通过移动节点动态生成网格并降低插值误差,显著提升了动态系统建模的准确性。
2024-02-19 cs.AI cs.LG cs.NA
Hybrid PDE solver for data-driven problems and modern branching
CMAP - Centre de Mathématiques Appliquées, Ecole Polytechnique(应用数学中心,巴黎综合理工学院);University of Edinburgh(爱丁堡大学);Centro de Matemática e Aplicaç o ~ \tilde{\text{o}} es (CMA), FCT, UNL(数学与应用中心,法蒂玛科技大学,新里斯本大学);Maxwell Institute Graduate School in Analysis and its Applications (MIGSAA), University of Edinburgh(麦克斯韦分析及其应用研究生学院,爱丁堡大学)
本文介绍了一种结合概率域分解方法的混合PDE求解器,用于解决大规模PDE问题,探讨了非线性PDE的随机表示及分支扩散在数据科学中的应用。
2017-05-10 cs.NA math.NA math.PR
A Polynomial-Scaling PDE Solver with Entanglement-Basis Tensor Networks
MIT(麻省理工学院)
本文提出一种基于纠缠基张量网络的PDE求解器,通过增广系数空间和MPS表示实现多项式规模计算,并扩展到时间依赖问题。
2026-10-05 cond-mat.other cs.NA hep-lat