PDETime: Rethinking Long-Term Multivariate Time Series Forecasting from the perspective of partial differential equations
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Huawei Technologies Ltd（华为技术有限公司）；Squirrel AI（松鼠AI）；Meta AI；Fudan University（复旦大学）
本文从偏微分方程视角将多元时间序列建模为连续动力系统的时空采样，提出基于神经PDE求解器编码—集成—解码架构的PDETime模型，在七个真实数据集上取得最先进预测性能。
2024-02-25 cs.LG
Accelerating Physics-Informed Neural Network Training with Prior Dictionaries
National Innovation Institute of Defense Technology, Chinese Academy of Military Science（中国人民解放军军事科学院国防科技创新研究院）
物理信息神经网络（PINNs）可以被看作是通用的PDE求解器，但它可能是缓慢的训练PINNs对特定的问题，并没有相应的误差界的理论保证。在这篇手稿中，我们提出了一个变种称为先验字典的物理信息神经网络（PD-PINNs）。PD-PINN配备了任务相关的字典，增强了对任务的表示能力，这有助于捕获字典提供的特征，从而使所提出的神经网络在训练过程中可以实现更快的收敛。在各种数值模拟中，与现有的PINN方法相比，结合先验字典可以显着提高收敛速度。在理论上，我们得到了PINNs和PD-PINNs求解二阶椭圆型偏微分方程的误差界。证明了在一定的温和条件下，神经网络的预测误差可以由偏微分方程的期望损失和边界条件限制。
2020-05-29 cs.LG stat.ML
Accelerating Data Generation for Neural Operators via Krylov Subspace Recycling
University of Science and Technology of China（中国科学技术大学）；Tsinghua University（清华大学）
提出排序Krylov回收（SKR）方法，利用Krylov子空间回收和排序算法加速求解相关线性系统，从而显著提升神经算子训练数据生成效率，实现最高13.9倍加速。
2024-03-19 cs.AI cs.LG cs.NA
NSPOD: Accelerating Krylov solvers via DeepONet-learned POD subspaces
Synopsys UK Ltd（Synopsys英国有限公司）；Division of Applied Mathematics, Brown University（布朗大学应用数学系）
本文提出NSPOD，一种基于DeepONet的预条件器，通过减少迭代次数提升Krylov求解器效率，尤其在复杂CAD几何的线性化固体力学PDE中表现优异。
2026-05-11 cs.LG cs.NA math.NA
Adversarial Multi-task Learning Enhanced Physics-informed Neural Networks for Solving Partial Differential Equations
Osaka University（大阪大学）；The Institute of Scientific and Industrial Research, Osaka University（大阪大学科学与工业研究所）
最近，研究人员利用神经网络来精确求解偏微分方程（PDE），使无网格方法的科学计算。不幸的是，当遇到高非线性域时，网络性能下降。为了提高泛化能力，我们引入了新的方法，采用多任务学习技术，不确定性加权损失和梯度手术，在学习PDE解决方案的背景下。多任务方案利用了学习共享表示的好处，由十字绣模块控制，多个相关PDE之间，这是通过改变PDE参数化系数，以更好地概括原始PDE。为了鼓励网络更加关注学习更具挑战性的高非线性域区域，我们还提出了对抗性训练来生成补充的高损失样本，这些样本与原始训练分布类似。在实验中，我们提出的方法被发现是有效的，并减少了错误的看不见的数据点相比，以前的方法在各种PDE的例子，包括高维随机PDE。
2021-05-12 cs.LG cs.NA math.NA
A Physics-Informed Neural Network Framework For Partial Differential Equations on 3D Surfaces: Time-Dependent Problems
University of Nevada, Las Vegas（内华达大学拉斯维加斯分校）；University of Arkansas（阿肯色大学）；Lehigh University（里海大学）
在本文中，我们展示了一个物理信息的神经网络求解器的时间依赖表面偏微分方程。与传统的数值求解器不同，该方法不需要在曲面上扩展偏微分方程和网格。我们显示了一个简化的表面微分算子的先验估计，使PINN的损失值将是一个指标的表面偏微分方程的残留物。数值实验验证了算法的有效性。
2021-03-19 cs.LG cs.NA math.NA
Accelerating PDE Surrogates via RL-Guided Mesh Optimization
UChicago（芝加哥大学）；Fudan University（复旦大学）；UAlbany（纽约大学阿尔巴尼分校）
通过RL引导的网格优化方法，有效减少PDE代理模型训练的数据需求，提升计算效率。
2026-03-02 cs.LG
Accelerating PDE-Constrained Optimization by the Derivative of Neural Operators
Bosch (China) Invest Ltd., Shanghai, China；Dept. of Comp. Sci. \& Techn., Institute for AI, BNRist Center, Tsinghua-Bosch Joint ML Center, Tsinghua University
针对神经算子求解PDE约束优化时的数据低效与不稳定问题，提出含面向优化训练、虚拟傅里叶层增强导数学习、混合优化的框架，实现精准的算子及导数学习与鲁棒收敛。
2025-06-16 cs.LG
A composable autoencoder-based iterative algorithm for accelerating numerical simulations
CTO Office（首席技术官办公室）；Ansys Inc（安西斯公司）
工程应用的数值模拟求解偏微分方程（PDE）来模拟各种物理过程。传统的偏微分方程求解器非常精确，但计算成本很高。另一方面，机器学习（ML）方法提供了显着的计算加速，但面临的挑战与准确性和推广到不同的PDE条件，如几何形状，边界条件，初始条件和PDE源项。在这项工作中，我们提出了一种新型的基于ML的方法，CoAE-MLSim（可组合自动编码器机器学习模拟），这是一种无监督、低维、局部方法，其动机来自商业偏微分方程求解器中使用的关键思想。这使得我们的方法可以用相对较少的PDE解决方案样本更好地学习。建议ML的方法进行比较，对商业求解器更好的基准，以及最新的ML方法解决偏微分方程。它是测试各种复杂的工程案例，以证明其计算速度，精度，可扩展性，并在不同的PDE条件下的泛化。结果表明，我们的方法在所有比较指标（包括截面切割和线条结果等指标）中准确地捕捉到了物理学。
2021-10-07 cs.LG physics.flu-dyn
Quantifying Training Difficulty and Accelerating Convergence in Neural Network-Based PDE Solvers
Hong Kong University of Science and Technology（香港科技大学）；Shanghai Jiao Tong University（上海交通大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute（香港科技大学深港协同创新研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
该研究针对基于神经网络的PDE求解器训练难度大、精度有限的问题，通过核特征值分布与有效秩量化训练难度，发现PoU和VS初始化可提升有效秩以加速收敛，并经多框架实验验证了理论结论。
2024-10-08 cs.LG cs.NA math.NA
NeuraLSP: A Neural Spectral Preconditioner for Accelerating PDE Solvers
Department of Applied Mathematics and Statistics, Stony Brook University（应用数学与统计学系，史泰尼斯布鲁克大学）；Department of Computer Science, Stony Brook University（计算机科学系，史泰尼斯布鲁克大学）
NeuraLSP通过结合新的损失度量标准和左奇异子空间，提供了一种高效的神经预置器，显著提升了共轭梯度方法的收敛速度和鲁棒性。
2026-07-24 cs.AI cs.LG
PDE-LEARN: Using Deep Learning to Discover Partial Differential Equations from Noisy, Limited Data
Cornell University（康奈尔大学）
在本文中，我们介绍了PDE-LEARN，这是一种新型的深度学习算法，可以直接从感兴趣的物理系统的噪声，有限的测量中识别控制偏微分方程（PDE）。PDE-LEARN使用理性神经网络$U$来近似系统响应函数，并使用稀疏的可训练向量$ξ$来表征系统响应函数满足的隐藏PDE。我们的方法使用损失函数耦合$U$和$ξ$的训练，该损失函数（1）使$U$近似系统响应函数，（2）封装了$U$满足$ξ$表征的隐藏PDE的事实，以及（3）使用迭代重加权最小二乘法的思想促进$ξ$的稀疏性。此外，PDE-LEARN可以同时从多个数据集中学习，从而可以整合多个实验的结果。这种方法产生了一个强大的算法，发现偏微分方程直接从现实的科学数据。我们证明了PDE-LEARN的有效性，从嘈杂和有限的测量确定几个PDE。
2023-02-10 cs.LG
NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with Spatial-temporal Decomposition
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Microsoft Research AI4Science（微软研究院AI4Science）
NeuralStagger 通过时空分解将物理约束神经 PDE 求解任务拆分为多个可并行的粗分辨率子任务，在保持物理约束训练的同时显著降低计算成本，并在 2D/3D 流体仿真中实现 10 到 100 倍加速。
2023-05-27 cs.LG physics.flu-dyn
PDE-READ: Human-readable Partial Differential Equation Discovery using Deep Learning
Cornell University（康奈尔大学）
PDE发现显示出揭示复杂物理系统的预测模型的希望，但当测量稀疏且有噪声时有困难。我们介绍了一种新的方法PDE发现，使用两个理性神经网络和一个原则性的稀疏回归算法，以确定隐藏的动态，管理系统的响应。第一个网络学习系统响应函数，而第二个学习描述系统演化的隐藏PDE。然后，我们使用无参数稀疏回归算法从第二个网络中提取人类可读形式的隐藏PDE。我们在一个名为PDE-READ的开源库中实现了我们的方法。我们的方法成功地确定了执政PDE在六个基准的例子。我们证明，我们的方法是强大的稀疏性和噪声，因此，它持有的承诺，应用到现实世界的观测数据。
2022-06-17 cs.LG
Continuous Convolutional Neural Networks: Coupled Neural PDE and ODE
Maynooth University（梅努斯大学）
最近的深度学习工作集中在求解常微分方程或偏微分方程中的物理系统。当前的工作提出了一种卷积神经网络（CNN）的变体，其可以使用常微分方程（ODE）系统（ODE）和偏微分方程系统（PDE）来学习物理系统的隐藏动力学。这种新的技术可以用微分方程的形式对系统进行建模，而不是将图像、时间序列等物理系统看作是一个多层系统。通过求解非规则区域上的稳态偏微分方程，包括热方程、Navier-Stokes方程，对所提出的方法进行了评估。
2021-10-30 cs.LG
Particle-Guided Diffusion Models for Partial Differential Equations
Department of Computer and Information Science, Linköping University, Linköping, Sweden（计算机与信息科学系，林雪平大学，林雪平，瑞典）
提出一种粒子引导的随机采样方法，结合扩散模型与基于PDE残差和观测约束的物理引导，通过序贯蒙特卡洛框架实现可扩展的生成式PDE求解器，在多个基准和多物理场系统中数值误差低于现有方法。
2026-05-27 cs.LG
Mechanistic PDE Networks for Discovery of Governing Equations
Informatics Institute, University of Amsterdam, Amsterdam, The Netherlands（阿姆斯特丹大学信息技术研究所）；Institute of Science and Technology, Klosterneuburg, Austria（科技研究院）
本研究提出Mechanistic PDE Networks模型，搭配自研的GPU支持的并行稀疏可微多重网格求解器，可从数据中发现复杂场景下的非线性控制偏微分方程，且对噪声鲁棒，在多种PDE上验证了有效性。
2025-06-11 cs.LG
Accelerating Langevin Sampling with Birth-death
Duke University（杜克大学）
贝叶斯推断和统计机器学习中的一个基本问题是从多峰分布中有效地采样。由于亚稳定性，多峰分布难以使用标准马尔可夫链蒙特卡罗方法进行采样。我们提出了一种新的采样算法的基础上的生灭机制，以加速朗之万扩散的混合。我们的算法的动机是其平均场偏微分方程（PDE），这是一个福克-普朗克方程补充了非局部生灭项。这个偏微分方程可以看作是关于Wasserstein-Fisher-Rao度量的库尔贝克-莱布勒散度的梯度流。我们证明了在一定的假设下，非局部偏微分方程的渐近收敛速度是独立的势垒，相反的情况下的朗之万扩散的指数依赖。我们通过几个分析例子和数值实验说明生灭加速Langevin方法的有效性。
2019-05-23 cs.LG math.AP math.ST
Accelerating PDE-constrained Inverse Solutions with Deep Learning and Reduced Order Models
Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究所）；The University of Texas at Austin（得克萨斯大学奥斯汀分校）；Texas A&M University（得克萨斯农工大学）
逆问题是通过利用模拟和模型从观测和实验数据中推断知识的普遍数学方法。与直接推理方法不同，反问题方法通常需要许多通常由偏微分方程（PDE）控制的正向模型求解。这是决定这些方法可行性的关键瓶颈.虽然机器学习（ML）方法，如深度神经网络（DNN），可以用来学习非线性前向模型，但设计一个在保持准确性的同时推广到新参数机制的网络架构是一项艰巨的任务。此外，由于前向模型的计算昂贵的性质，最先进的黑盒ML方法将需要不切实际的工作量，以获得准确的代理模型。另一方面，标准的降阶模型（ROM）在降阶子空间中准确地捕捉了前向模型的重要物理，但在其他地方可能不准确。在本文中，我们建议通过引入数据驱动的ML技术来扩大ROM的有效性，从而提高缩减子空间之外的准确性。特别是，我们专注于一个目标导向的方法，大大提高了减少模型的准确性，通过学习的前向模型和ROM输出之间的错误。一旦ML增强ROM被构造，它可以加速求解参数化正问题和反问题中的多查询问题的性能。椭圆偏微分方程和参数化中子输运方程的反问题的数值结果将支持我们的方法。
2019-12-17 cs.LG physics.comp-ph stat.ML
Softly Constrained Denoisers for Diffusion Models Applied to Partial Differential Equations
ELLIS Institute Finland（芬兰ELLIS研究所）；Aalto University（阿alto大学）；University of Manchester（曼彻斯特大学）
提出在扩散模型的去噪器中引入基于偏微分方程的软归纳偏置，以在提高约束遵从性的同时保持对模型错误指定的适应性。
2026-05-28 cs.LG
Neural Partial Differential Equations with Functional Convolution
Dartmouth College（达特茅斯学院）；ByteDance（字节跳动）
我们提出了一个轻量级的神经PDE表示发现隐藏的结构和预测不同的非线性偏微分方程的解决方案。我们的核心思想是利用数值偏微分方程微分算子的“平移相似性”的先验知识，大大减少学习模型和训练数据的规模。我们实现了三个中央网络组件，包括神经功能卷积运算符，Picard前向迭代程序和伴随后向梯度计算器。我们的新范式充分利用了多方面的先验知识，这些先验知识来自物理PDE解流形的稀疏和光滑性质，以及各种成熟的数值技术，如伴随求解器，线性化和迭代过程，以加速计算。我们证明了我们的方法的有效性，鲁棒地发现模型和准确地预测各种类型的偏微分方程的解决方案与小规模的网络和训练集。我们强调，我们展示的所有PDE示例都是使用多达8个数据样本和325个网络参数进行训练的。
2023-03-10 cs.LG
GNRK: Graph Neural Runge-Kutta method for solving partial differential equations
Seoul National University（首尔国立大学）；Korea Institute of Energy Technology（韩国能源技术研究院）
本研究提出融合图神经网络与经典龙格-库塔循环结构的GNRK方法，可鲁棒求解通用偏微分方程，在二维Burgers'方程基准测试中模型规模和精度优于现有神经求解器，还可扩展求解耦合微分方程。
2023-10-01 cs.LG
Accelerating Simulation of Two-Phase Flows with Neural PDE Surrogates
Swiss Plasma Center, École Polytechnique Fédérale de Lausanne（瑞士等离子体中心，洛桑联邦理工学院）；Data and Artificial Intelligence Cluster, Eindhoven University of Technology（埃因霍温理工大学数据与人工智能集群）；Centre for Analysis, Scientific Computing, and Applications, Eindhoven University of Technology（埃因霍温理工大学分析、科学计算与应用中心）
本研究扩展神经PDE求解器（UNet、DRN、U-FNO）以加速两相流模拟，通过空间条件化、周期边界和质量守恒改进，在石油排出问题上实现三个数量级加速，并验证了几何变化带来的挑战性。
2024-07-16 cs.CV cs.LG physics.flu-dyn
Neural Basis Functions for Accelerating Solutions to High Mach Euler Equations
Johns Hopkins Applied Physics Laboratory（约翰斯·霍普金斯应用物理实验室）
我们提出了一种方法来解决偏微分方程（PDE）使用一组神经网络，我们称之为神经基函数（NBF）。该NBF框架是POD DeepONet算子学习方法的一种新变体，其中我们将一组神经网络回归到降阶本征正交分解（POD）基础上。然后，这些网络与分支网络结合使用，该分支网络摄取规定的PDE的参数以计算PDE的降阶近似。这种方法适用于高速流动条件下（马赫数10-30）的稳态欧拉方程，其中我们考虑了圆柱体周围的二维流动，该流动产生了激波条件。然后，我们使用NBF预测作为高保真计算流体动力学（CFD）求解器（CFD++）的初始条件，以显示更快的收敛。培训和实施该算法的经验教训也将提出。
2022-08-02 cs.LG cs.NA math.NA
Learning Partial Differential Equations from Data Using Neural Networks
我们使用深度学习方法开发了一个从噪声数据中估计未知偏微分方程的框架。给定一个未知偏微分方程的解的噪声样本，我们的方法使用神经网络插值样本，并通过等同于神经网络近似的导数来提取偏微分方程。我们的方法适用于偏微分方程是线性组合的用户定义的字典函数，并概括了以前的方法，只考虑抛物偏微分方程。我们引入了一个正则化方案，防止函数近似过拟合的数据，并迫使它是一个解决方案的基础偏微分方程。我们在已知偏微分方程和高斯噪声的模拟数据上验证了模型，并在不同的噪声水平下研究了我们的方法。我们还比较了我们的方法与一个常微分方程的Cramer-Rao下界的误差。我们的研究结果表明，我们的方法优于其他方法估计偏微分方程，特别是在低信噪比制度。
2019-10-22 cs.LG stat.ML
An autoencoder compression approach for accelerating large-scale inverse problems
Oden Institute for Computational Science and Engineering（奥登计算科学与工程研究所）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Utah（犹他大学）
本文提出一种基于自编码器的可扩展压缩方法，用于替代PDE约束反问题中的检查点和大内存存储，在地震反问题上验证了梯度和Hessian-向量积的接近理想加速，并成功扩展DIAS方法至大规模问题。
2023-04-10 cs.LG cs.NA math.NA
Any equation is a forest: Symbolic genetic algorithm for discovering open-form partial differential equations (SGA-PDE)
Peng Cheng Laboratory（鹏城实验室）；University of Washington（华盛顿大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Peking University（北京大学）；Southern University of Science and Technology（南方科技大学）
偏微分方程（PDE）是领域知识的简洁和可理解的表示，这对于加深我们对物理过程的理解和预测未来的响应是必不可少的。然而，现实世界中的许多问题的偏微分方程是不确定的，这就需要偏微分方程的发现。我们提出了符号遗传算法（SGA-PDE），发现直接从数据的开放形式的偏微分方程的方程结构没有先验知识。SGA-PDE专注于PDE的表示和优化。首先，SGA-PDE使用符号数学实现了任意给定PDE的灵活表示，将PDE转化为森林，并将每个函数项转化为二叉树。其次，SGA-PDE采用专门设计的遗传算法，通过迭代更新树的拓扑结构和节点属性，有效地优化二叉树。SGA-PDE是无梯度的，这是PDE发现中的期望特性，因为难以获得PDE损耗和PDE结构之间的梯度。在实验中，SGA-PDE不仅成功地发现了非线性Burgers方程、Korteweg-de Vries（KdV）方程和Chafee-Infante方程，而且还处理了传统PDE发现方法无法解决的具有分数阶结构和复合函数的偏微分方程。
2021-06-09 cs.LG cs.NE physics.data-an
APIK: Active Physics-Informed Kriging Model with Partial Differential Equations
Georgia Institute of Technology（佐治亚理工学院）；Georgia Tech Manufacturing Institute（佐治亚理工制造研究所）
Kriging（或高斯过程回归）是一种流行的机器学习方法，其灵活性和封闭形式的预测表达式。然而，在应用克里格工程系统的关键挑战之一是，可用的测量数据是稀缺的，由于测量的限制和高传感成本。另一方面，工程系统的物理知识通常可用偏微分方程（PDE）的形式表示。在这项工作中，我们提出了一个PDE知情克里格模型（PIK），它通过一组PDE点引入PDE信息，并进行类似于标准克里格方法的后验预测。所提出的PIK模型可以结合线性和非线性偏微分方程的物理知识。为了进一步提高学习性能，我们提出了一个主动PIK框架（APIK），设计PDE点，利用PDE信息的PIK模型和测量数据的基础上。所选择的PDE点不仅探索整个输入空间，而且还利用PDE信息在降低预测不确定性方面至关重要的位置。最后，提出了一种期望最大化算法用于参数估计。我们证明了APIK的有效性，在两个合成的例子，冲击波的案例研究，和激光加热的案例研究。
2020-12-22 cs.LG stat.ME
DL-PDE: Deep-learning based data-driven discovery of partial differential equations from discrete and noisy data
Peking University（北京大学）；Southern University of Science and Technology（南方科技大学）；Peng Cheng Laboratory（鹏城实验室）
近年来，数据驱动的方法已经发展到学习动力系统和偏微分方程（PDE）。这项工作的目标是发现未知的物理和相应的方程。然而，在实现这一目标之前，主要的挑战仍然有待解决，包括在噪声数据和有限的离散数据下学习PDE。为了克服这些挑战，在这项工作中，开发了一种基于深度学习的数据驱动方法，称为DL-PDE，以发现底层物理过程的控制PDE。DL-PDE方法结合了通过神经网络的深度学习和通过稀疏回归的PDE的数据驱动发现。在DL-PDE中，首先训练神经网络，然后生成大量元数据，并通过自动微分计算所需的导数。最后，通过稀疏回归，发现偏微分方程的形式。所提出的方法进行了测试与物理过程，由地下水流方程，对流扩散方程，Burgers方程和Korteweg-de Vries（KdV）方程，概念验证和应用在现实世界的工程设置。该方法在数据有噪声和有限的情况下取得了令人满意的结果。
2020-04-06 cs.LG physics.comp-ph stat.ML
One-shot learning for solution operators of partial differential equations
Yale University（耶鲁大学）；Ansys Inc.（安sys公司）；Wu Tsai Institute（蔡崇信研究所）
本文提出首个仅需一个PDE解的单样本解算子学习方法，通过局部解算子与神经网络及FPI、LOINN、cLOINN等策略，在多种PDE上验证了有效性和泛化能力。
2024-06-06 cs.LG physics.comp-ph
Reinforcement Learning Closures for Underresolved Partial Differential Equations using Synthetic Data
ETH Zurich/ Harvard University（苏黎世联邦理工学院/哈佛大学）；Harvard University（哈佛大学）；Argonne National Laboratory（阿贡国家实验室）
本文提出利用合成数据和强化学习为未解析偏微分方程构建闭合模型，通过伯格斯方程和输运方程验证方法有效性，并展示闭合模型可从非均匀方程泛化到均匀方程。
2025-05-16 cs.LG physics.comp-ph
Two-Layer Neural Networks for Partial Differential Equations: Optimization and Generalization Theory
Shanghai Jiao Tong University（上海交通大学）；Purdue University（普渡大学）
求解偏微分方程（PDE）的问题可以转化为一个最小二乘最小化问题，其中神经网络用于参数化PDE解。一个全局极小对应于一个神经网络，解决了给定的偏微分方程。在本文中，我们证明了梯度下降法可以识别一个全局极小的最小二乘优化求解二阶线性偏微分方程的两层神经网络的假设下，过参数化。我们还分析了二阶线性偏微分方程和两层神经网络的最小二乘优化的推广误差，当偏微分方程的右手侧函数在Barron型空间中，最小二乘优化用Barron型范数正则化，没有过参数化假设。
2020-12-10 cs.LG cs.NA math.NA
VarNet: Variational Neural Networks for the Solution of Partial Differential Equations
Duke University（杜克大学）
在本文中，我们提出了一种新的基于模型的无监督学习方法，称为VarNet，用于使用深度神经网络（NN）求解偏微分方程（PDE）。特别是，我们提出了一种新的损失函数，它依赖于偏微分方程的变分（积分）形式，作为反对其微分形式，这是常用的文献。我们的损失函数是无离散化的，高度并行化的，更有效地捕捉偏微分方程的解决方案，因为它采用低阶导数和列车测量非零区域的时空。鉴于此损失函数，我们还提出了一种方法来最佳地选择时空样本，用于训练的NN，这是基于PDE残差提供的反馈。使用VarNet获得的模型是平滑的，不需要插值。它们也很容易微分，可以直接用于控制和优化偏微分方程。最后，VarNet可以直接合并参数PDE模型，使其成为PDE模型降阶（MOR）的自然工具。我们证明了我们的方法的性能，通过广泛的数值实验对流扩散偏微分方程作为一个重要的案例研究。
2019-12-16 cs.LG physics.comp-ph physics.flu-dyn
PDE-GCN: Novel Architectures for Graph Neural Networks Motivated by Partial Differential Equations
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；University of British Columbia（不列颠哥伦比亚大学）
图神经网络正日益成为计算机视觉、计算生物学和化学等各个领域的首选方法，这些领域的数据自然地由图来解释。然而，与传统的卷积神经网络不同，深度图网络不一定比浅图网络产生更好的性能。这种行为通常源于过度平滑现象。在这项工作中，我们提出了一个家庭的架构来控制这种行为的设计。我们的网络的动机是求解流形上偏微分方程（PDE）的数值方法，因此，它们的行为可以通过类似的分析来解释。此外，正如我们使用一组广泛的实验所证明的那样，我们的PDE驱动的网络可以概括并有效地解决来自不同领域的各种类型的问题。我们的架构获得更好的或与目前的最先进的结果，通常是接近使用不同的架构的问题。
2021-10-26 cs.CV cs.LG cs.NE
Latent Neural PDE Solver: a reduced-order modelling framework for partial differential equations
Carnegie Mellon University（卡内基梅隆大学）；Naval Nuclear Laboratory（海军核实验室）
本文提出Latent Neural PDE Solver（LNS），通过非线性自编码器将PDE系统映射到粗离散潜空间并在其中进行时间演化预测，在单相与多相流等系统上实现了兼具精度与效率的降阶模拟。
2025-01-08 cs.AI cs.LG math.AP
Learning Partial Differential Equations by Spectral Approximates of General Sobolev Spaces
CASUS - Center for Advanced System Understanding, Helmholtz-Zentrum Dresden-Rossendorf e.V. (HZDR)（德累斯顿-罗森多夫亥姆霍兹中心（HZDR）高级系统理解中心（CASUS））
利用切比雪夫多项式给出了一般索伯列夫空间的一种新的有限维谱逼近.基于这个多项式代理模型（PSM），我们实现了一个变分公式，解决了大量的线性和非线性偏微分方程（PDE）。PSM与物理信息神经网络（PINN）一样灵活，并为解决逆PDE问题（如PDE参数推断）提供了一种替代方案。与PINN相比，PSM导致大量PDE（包括所有线性PDE）的凸优化问题，在这种情况下，由于潜在的变分梯度下降的指数收敛速度，PSM近似是可有效计算的。作为一个实际的结果，突出的PDE问题解决了PSM没有高性能计算（HPC）在本地机器上。这种效率上的提高得到了近似能力的提高，在精度和运行时间上都优于PINN替代方案。除了我们在这里给出的经验证据之外，经典PDE理论在索伯列夫空间近似下的翻译表明PSM普遍适用于适定的正则正逆PDE问题。
2023-01-12 cs.LG cs.NA math.NA
STENCIL-NET: Data-driven solution-adaptive discretization of partial differential equations
Max Planck Institute of Molecular Cell Biology and Genetics（马克斯·普朗克分子细胞生物学与遗传学研究所）；ONI；Flatiron Institute（熨斗研究所）
近似求解偏微分方程（PDE）的数值方法是科学计算的核心。通常，这需要高分辨率或自适应离散化网格来捕获PDE解决方案中的相关时空特征，例如，在湍流、燃烧和冲击传播等应用中。数值逼近也需要知道偏微分方程，以便构造特定问题的离散化。然而，系统地推导出这样的解自适应离散算子是当前的挑战。在这里，我们提出了STENCIL-NET，一个人工神经网络架构的数据驱动学习的问题和分辨率特定的非线性偏微分方程的局部离散化。STENCIL-NET通过在常规笛卡尔网格上进行空间和时间自适应参数池化，并结合有关离散时间积分的知识，实现了未知非线性PDE中算子的数值稳定离散化。不需要知道实际的PDE，因为解数据足以训练网络来学习离散算子。一次训练的STENCIL-NET模型可用于在更大的空间域上预测PDE的解，并且比训练时间更长，从而解决了PDE约束的数据外推问题。为了支持这一主张，我们提出了长期预测的混沌PDE解决方案的粗时空网格的数值实验。我们还量化了通过用无方程STENCIL-NET预测替代基线数值方法在较粗网格上实现的速度提高，并且几乎不影响精度。
2021-01-18 cs.LG cs.NA math.NA
Deep Neural Network Modeling of Unknown Partial Differential Equations in Nodal Space
The Ohio State University（俄亥俄州立大学）；Southern University of Science and Technology（南方科技大学）
我们提出了一个数值框架，深度神经网络（DNN）建模未知的时间依赖偏微分方程（PDE）使用其轨迹数据。不像最近的工作[吴和秀，J。Phys.2020]，其中学习发生在模态/傅立叶空间中，当前方法在物理空间中进行学习和建模，并使用测量数据作为节点值。我们提出了一个DNN结构，它与底层PDE的演化算子直接对应，从而建立了DNN模型的存在性。DNN模型也不需要数据节点的任何几何信息。因此，经过训练的DNN定义了无结构网格上潜在未知PDE的预测模型。一组例子，包括线性和非线性标量偏微分方程，系统的偏微分方程，在一维和二维，在结构化和非结构化网格，提出的DNN建模的有效性。扩展到其他方程，如微分-积分方程也进行了讨论。
2021-06-07 cs.LG cs.NA math.NA
Data-Driven Deep Learning of Partial Differential Equations in Modal Space
The Ohio State University（俄亥俄州立大学）
我们提出了一个框架恢复/逼近未知的时间依赖偏微分方程（PDE）使用其解决方案的数据。而不是确定的条款，在基础PDE，我们试图近似的基础PDE的演化算子的数值。定义在无限维空间中的PDE的演化算子将解从当前时间映射到未来时间，并完全表征了底层未知PDE的解演化。我们的恢复策略依赖于演化算子在适当定义的模态空间中的近似，即，广义傅立叶空间，以减少问题的有限维。然后，通过使用给定数据训练基于残差网络（ResNet）的深度神经网络结构来完成有限维近似。误差分析说明了所提出的方法的预测精度。一组不同类型的偏微分方程的例子，包括无粘Burgers方程的发展不连续的解决方案，展示了所提出的方法的有效性。
2019-10-18 cs.LG cs.NA cs.NE
PDE-Net 2.0: Learning PDEs from Data with A Numeric-Symbolic Hybrid Deep Network
Peking University（北京大学）
本文提出PDE-Net 2.0，一种结合数值近似和符号计算的深度网络，用于从动态数据中学习偏微分方程，并具有较高的灵活性和表达能力。
2019-09-01 cs.LG cs.NA math.NA
PDE Control Gym: A Benchmark for Data-Driven Boundary Control of Partial Differential Equations
University of California, San Diego（加利福尼亚大学圣迭戈分校）
该工作提出首个用于偏微分方程边界控制的强化学习基准环境，包含三个基础PDE问题，并给出无模型强化学习算法，虽成本高于反步法但实现稳定，降低了学习型PDE控制的入门门槛。
2024-05-24 cs.AI cs.CE cs.LG
