MOD-Net: A Machine Learning Approach via Model-Operator-Data Network for Solving PDEs
Shanghai Jiao Tong University（上海交通大学）；Shanghai Center for Brain Science and Brain-Inspired Technology（上海脑科学与类脑研究中心）；Peking University（北京大学）；AI for Science Institute（北京科学智能研究院）
在本文中，我们提出了一个机器学习方法，通过模型-算子-数据网络（MOD-Net）求解偏微分方程。一个MOD网络是由一个模型驱动的，用于基于数据正则化的算子表示来求解偏微分方程。对于线性偏微分方程，我们使用DNN来参数化格林函数，并根据格林方法获得近似解的神经算子。为了训练DNN，经验风险由具有最小二乘公式或控制方程和边界条件的变分公式的均方损失组成。对于复杂问题，经验风险还包含少量标签，在粗网格点上计算，计算成本低廉，显著提高了模型精度。直观地说，除了模型约束之外，标记数据集还可以作为正则化。MOD-Net解决了一族偏微分方程，而不是一个特定的偏微分方程，并且比原始的神经算子更有效，因为需要很少的昂贵标签。数值计算表明，MOD-Net在求解泊松方程和一维辐射传输方程方面是非常有效的。对于非线性偏微分方程，非线性MOD-Net可以类似地用作求解非线性偏微分方程的模拟器，例如求解几个非线性偏微分方程问题，如Burgers方程。
2021-12-28 cs.LG cs.NA math.NA
Solving High-Dimensional PDEs with Latent Spectral Models
BNRist（北京国家信息科学与技术研究中心）；Tsinghua University（清华大学）
本文提出潜在谱模型（LSM），通过注意力层次投影将高维PDE数据压缩到潜在空间，并利用神经谱块学习多个基算子求解PDEs，在七个物理基准上平均相对提升11.5%。
2023-05-29 cs.LG physics.comp-ph
QCPINN: Quantum-Classical Physics-Informed Neural Networks for Solving PDEs
Computational Science and Engineering Department, Informatics Institute Istanbul Technical University（信息学院理工学院计算科学与工程系）；Scientific Computing, Rutherford Appleton Laboratory Science and Technology Facilities Council (STFC)（科学与技术设施委员会（STFC）科学计算部）
本文提出融合量子与经典组件的 QCPINN，通过系统评估电路架构，在五个 PDE 基准上以经典 PINN 仅 10–30% 的参数保持相当精度并降低 L_2 误差。
2025-10-18 cs.LG quant-ph
Solving PDEs on Spheres with Physics-Informed Convolutional Neural Networks
Fudan University（复旦大学）；University of Sydney（悉尼大学）
本文针对球面上的PDE求解问题，严格分析PICNN的Sobolev范数逼近误差与快速收敛速率，并通过实验验证，进而探讨缓解高维PDE维数灾难的策略。
2024-08-05 cs.LG cs.NA math.NA
Latent Neural Operator Pretraining for Solving Time-Dependent PDEs
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
针对神经算子求解单个PDE时的数据稀缺问题，提出基于潜在神经算子（LNO）的LNOP预训练框架，通过混合时间依赖PDE数据集预训练提取物理系统表示，单PDE数据集微调求解，在求解精度、迁移能力和数据效率上优于未预训练方法。
2024-11-27 cs.LG cs.NA math.NA
Multiscale Neural PDE Surrogates for Prediction and Downscaling: Application to Ocean Currents
Mila – Québec AI Institute（魁北克人工智能研究所）；École polytechnique Palaiseau, France（巴黎理工大学Palaiseau分校）；Université du Québec à Rimouski Lévis, Québec, Canada（魁北克 Rimouski 大学 Lévis 分校）；Institut Pierre-Simon Laplace, IRD Sorbonne Université Paris, France（皮埃尔-西蒙·拉普拉斯研究所，IRD 巴黎索邦大学）；Université de Montréal Montréal, Québec, Canada（蒙特利尔大学）
本文提出基于神经算子的多尺度深度学习框架，可在任意分辨率下求解并预测代理PDE，同时构建降尺度模型，用于Copernicus洋流数据及Navier-Stokes模拟数据。
2025-10-20 cs.CE cs.LG
Solving PDEs with Unmeasurable Source Terms Using Coupled Physics-Informed Neural Network with Recurrent Prediction for Soft Sensors
Dalian University of Technology（大连理工大学）
针对具有不可测源项的非齐次偏微分方程，本文提出耦合物理信息神经网络CPINN-RP，通过NetU与NetG协同训练及循环预测补偿采样信息损失，提升软测量预测性能。
2023-07-11 cs.LG cs.NA math.NA
FastLSQ: Solving PDEs in One Shot via Fourier Features with Exact Analytical Derivatives
Lawrence Berkeley National Laboratory（伯克利国家实验室）
FastLSQ利用三角随机傅里叶特征和精确解析导数，高效求解偏微分方程及反问题，实现线性问题一次最小二乘调用，非线性问题通过牛顿-拉夫森法重用解析装配，性能显著优于迭代PINNs。
2026-03-22 cs.LG cs.NA math.NA
MultiAdam: Parameter-wise Scale-invariant Optimizer for Multiscale Training of Physics-informed Neural Networks
Tsinghua University（清华大学）；Zhili College, Tsinghua University（清华大学致理书院）
针对 PINNs 训练中损失不平衡且缺乏理论保证的问题，本文分析二阶非齐次 PDEs 并提出逐参数尺度不变优化器 MultiAdam，在多物理问题上将预测精度提升 1–2 个数量级。
2023-06-05 cs.LG cs.NA math.NA
MRF-PINN: A Multi-Receptive-Field convolutional physics-informed neural network for solving partial differential equations
Beihang University（北京航空航天大学）
与传统的偏微分方程数值求解方法相比，物理信息神经网络（PINN）在物理场重构和反问题求解等方面表现出了极大的节省开发工作量和计算成本的优势.卷积神经网络（CNN）具有参数共享、空间特征提取和低推理代价等优点，在PINN中得到越来越多的应用。然而，仍然存在以下一些挑战。为了适应卷积PINN来解决不同的PDE，通常需要相当大的努力来调整关键的超参数。此外，有限差分精度和网格分辨率对卷积PINN预测能力的影响尚未解决。为了填补上述空白，本文提出了三个倡议：（1）多接收域PINN（2）在求解Navier-Stokes方程时，采用量纲平衡法估计损失权;（3）采用泰勒多项式填充边界附近的虚拟节点，实现高阶有限差分。通过求解三种典型的线性偏微分方程（椭圆型、抛物型、双曲型）和一系列非线性偏微分方程（Navier-Stokes偏微分方程），验证了该方法的通用性和优越性.本文表明，MRF-PINN可以适应完全不同的方程类型和网格分辨率，而无需任何超参数调整。维数平衡法节省了计算时间，提高了求解Navier-Stokes偏微分方程的收敛性。在高阶有限差分、大通道数和高网格分辨率条件下，求解误差显著减小，有望成为一种通用的卷积PINN算法。
2022-09-16 cs.LG math.AP physics.comp-ph
Global Convergence of DGM and PINN Algorithms for Solving Nonlinear PDEs
Mathematical Institute, University of Oxford（牛津大学数学研究所）；Department of Mathematics and Statistics, Boston University（波士顿大学数学与统计系）
研究一类半线性偏微分方程，证明用梯度下降训练来最小化PDE残差目标函数的神经网络可收敛到PDE解，为DGM和PINN算法求解此类方程的数学基础提供了依据。
2026-09-25 cs.LG cs.NA math.NA
PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving Spatiotemporal PDEs
Northeastern University（东北大学）；University of Notre Dame（圣母大学）；MIT（麻省理工学院）
偏微分方程（PDE）在建模和模拟各种学科的问题中发挥着重要作用。深度学习的最新进展表明，物理信息神经网络（PINN）在解决偏微分方程方面具有巨大潜力，可作为数据驱动建模和逆分析的基础。然而，大多数现有的PINN方法，基于全连接的神经网络，造成内在的限制，低维时空参数化。此外，由于初始/边界条件（I/BC）是通过惩罚来软施加的，因此解的质量严重依赖于超参数调整。为此，我们提出了新的物理信息卷积递归学习架构（PhyCRNet和PhyCRNet-s），用于在没有任何标记数据的情况下求解偏微分方程。具体地，提出了用于低维空间特征提取和时间演化学习的编码器-解码器卷积长短期记忆网络。损失函数被定义为聚合的离散化PDE残差，而I/BC在网络中被硬编码以确保强制满足（例如，周期性边界填充）。网络通过自回归和残差连接进一步增强，显式模拟时间推进。我们提出的方法的性能已经通过求解三个非线性偏微分方程（例如，2D Burgers方程、$λ$ - $ω$和FitzHugh Nagumo反应扩散方程），并与最新基线算法进行比较。数值结果表明，我们所提出的方法的优越性，在解决方案的精度，外推性和推广。
2021-06-26 cs.CL cs.LG cs.NA
VS-PINN: A fast and efficient training of physics-informed neural networks using variable-scaling methods for solving PDEs with stiff behavior
Inha University（仁荷大学）
针对具有刚性或高频特性的偏微分方程求解中PINNs训练困难的问题，提出基于可变缩放技术的VS-PINN方法，经实验验证可提升训练效率与性能，并通过NTK分析给出理论支撑。
2024-07-12 cs.LG cs.NA math.NA
A Novel Paradigm in Solving Multiscale Problems
School of Aeronautics and Astronautics, Shanghai Jiao Tong University（上海交通大学航空航天学院）；Department of Aeronautics, Imperial College London（伦敦帝国理工学院航空系）；School of Energy and Power Engineering, Xi’an Jiao Tong University（西安交通大学能源与动力工程学院）
本文提出一种解耦求解多尺度问题的新范式，独立建模大尺度动力学并将小尺度动力学作为从属系统，利用谱物理信息神经网络高效刻画小尺度动力学，并通过多种流体动力学数值实验验证其有效性与适用性。
2024-04-30 cs.LG physics.comp-ph physics.flu-dyn
KoopmanLab: machine learning for solving complex physics equations
Tsinghua University（清华大学）；Huawei Technologies Co. Ltd.（华为技术有限公司）
许多物理学理论都植根于偏微分方程（PDE）。然而，越来越复杂的物理方程，特别是那些缺乏解析解或封闭形式的方程，阻碍了物理学的进一步发展。用经典的数值方法计算求解偏微分方程存在精度和效率之间的权衡问题，并且不适用于未知潜在偏微分方程产生的经验数据。为了克服这一挑战，我们提出了KoopmanLab，Koopman神经运算符家族的一个有效模块，用于学习没有解析解或封闭形式的偏微分方程。我们的模块由Koopman神经算子（KNO）的多个变体组成，KNO是一种根据动态系统理论开发的基于网格独立神经网络的PDE求解器。KNO的紧凑变体可以精确地求解具有小模型尺寸的偏微分方程，而KNO的大变体在预测由未知、高维和非线性偏微分方程支配的高度复杂的动态系统方面更具竞争力。所有变体都通过在代表性PDE上实施的网格独立和长期预测实验进行验证（例如，流体力学中的Navier-Stokes方程和Bateman-Burgers方程）和ERA 5（即，地球物理学中最大的高分辨率全球尺度气候数据集之一）。这些演示表明KoopmanLab有潜力成为与方程或动力系统相关的各种物理研究的基本工具。
2023-03-19 cs.LG cs.NA math.NA
Physics Informed Random Feature Neural Networks for Solving PDEs
Illinois Institute of Technology（伊利诺伊理工学院）；University of Arkansas（阿肯色大学）；University of Houston（休斯顿大学）
本文提出物理信息随机特征方法求解PDE，降低计算复杂度，通过严格误差分析和数值测试验证其能有效对抗谱偏差。
2026-09-16 cs.LG cs.NA math.NA
Inducing Point Operator Transformer: A Flexible and Scalable Architecture for Solving PDEs
Alsemy
针对偏微分方程求解中算子学习架构的灵活性与可扩展性难题，提出基于注意力的诱导点算子Transformer（IPOT），通过潜在瓶颈解耦输入输出离散化与处理器，在多类基准和真实场景中取得优异性能。
2023-12-18 cs.AI cs.LG cs.NA
A Bayesian Multiscale Deep Learning Framework for Flows in Random Media
University of Notre Dame（圣母大学）
由多尺度偏微分方程（PDE）控制的复杂系统的细尺度模拟计算量很大，已经开发了各种多尺度方法来解决这些问题。此外，它是具有挑战性的开发精确的代理和不确定性量化模型的随机多尺度偏微分方程使用有限的训练数据的高维问题。在这项工作中，为了解决这些挑战，我们引入了一种新的混合深度学习和多尺度方法，用于训练数据有限的随机多尺度偏微分方程。为了演示的目的，我们专注于多孔介质流动问题。我们使用图像到图像的监督深度学习模型来学习输入渗透率场和多尺度基函数之间的映射。我们引入贝叶斯方法，这个混合框架，使我们能够执行不确定性量化和传播任务。这种混合方法的性能进行了评估与不同的固有维数的渗透率场。数值结果表明，混合网络可以有效地预测高维输入。
2021-06-22 cs.LG physics.comp-ph
MoNo: Multiscale Optimal Transport Neural Operator for Solving PDEs on General Geometries
MoNo是一种多尺度最优传输神经算子，通过提出CoTAP解决了现有神经算子的令牌分配失衡与崩溃问题，在一般几何的PDE求解上，其预测性能与计算效率均优于现有最先进模型。
2026-08-11 cs.AI cs.LG
Physics-Aware Neural Implicit Solvers for multiscale, parametric PDEs with applications in heterogeneous media
Technical University of Munich（慕尼黑工业大学）；Munich Data Science Institute（慕尼黑数据科学研究所）
提出物理感知神经隐式求解器（PANIS），利用加权残差虚拟数据与粗离散化隐式求解器，学习参数化PDE替代模型，适用于非均质材料及多尺度问题，支持不确定性量化。
2024-05-29 cs.LG stat.ML
A Unified Hard-Constraint Framework for Solving Geometrically Complex PDEs
Tsinghua University（清华大学）；Peng Cheng Laboratory（鹏城实验室）；Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））；Bosch Center for Artificial Intelligence（博世人工智能中心）
针对几何复杂 PDE 的三类边界条件，本文利用混合有限元“额外场”将其转化为线性方程并构造自动满足边界条件的神经网络拟设，实现无需额外损失项的稳定高效求解。
2023-06-04 cs.LG
The Frame Kernel Method for Multiscale Operator Learning
Kahlert School of Computing, University of Utah（犹他大学卡勒特计算机学院）；U.S. Air Force Research Laboratory（美国空军研究实验室）
该研究提出原生多尺度算子学习的框架核方法，用于多尺度PDE代理建模，其精度优于流行神经算子，可实现后验多尺度分解。
2026-09-02 cs.LG cs.NA math.NA
Zebra: In-Context Generative Pretraining for Solving Parametric PDEs
Sorbonne Université, CNRS, ISIR（索邦大学、国家科学研究中心、ISIR研究所）；Naver Labs Europe（Naver欧洲实验室）；Critéo AI Lab（Critéo人工智能实验室）
提出Zebra，一种生成式自回归Transformer，通过上下文学习在无需梯度适应的情况下求解参数化PDEs，展现出优越的适应性、鲁棒性和性能。
2025-06-26 cs.LG
Balance-Guided Sparse Identification of Multiscale Nonlinear PDEs with Small-coefficient Terms
State Key Laboratory of Nonlinear Mechanics, Institute of Mechanics, Chinese Academy of Sciences, Beijing 100190, China（非线性力学国家重点实验室，力学研究所，中国科学院，北京100190，中国）；School of Engineering Sciences, University of Chinese Academy of Sciences, Beijing 100049, China（中国科学院大学工程科学学院，北京100049，中国）；School of Mathematics and Statistics, Northwestern Polytechnical University, Xi'an 710072, China（西北工业大学数学与统计学院，西安710072，中国）
本文提出平衡引导SINDy方法，通过项级ℓ_{2,0}正则化和渐进剪枝策略，有效识别多尺度非线性PDE中系数小的项。
2026-04-20 cs.LG cs.NA math.NA
Neural network architectures using min-plus algebra for solving certain high dimensional optimal control problems and Hamilton-Jacobi PDEs
Brown University（布朗大学）；The University of Melbourne（墨尔本大学）；UCLA（加州大学洛杉矶分校）
求解高维最优控制问题及相应的Hamilton-Jacobi偏微分方程是控制工程中重要而又具有挑战性的问题。本文针对一类高维最优控制问题，提出了两种分别用于计算值函数和最优控制的抽象神经网络结构。我们提供了这两个抽象体系结构的数学分析。我们还展示了使用这些抽象架构的深度神经网络实现计算的几个数值结果。我们提出的神经网络架构在FPGA上的初步实现显示出与CPU相比有前途的速度。这项工作为利用为神经网络设计的高效专用硬件解决高维最优控制问题和Hamilton-Jacobi偏微分方程铺平了道路。
2023-03-29 cs.LG math.OC
Quadratic Residual Networks: A New Class of Neural Networks for Solving Forward and Inverse Problems in Physics Involving PDEs
Virginia Tech（弗吉尼亚理工大学）
我们提出了二次残差网络（QRes）作为一种新型的参数有效的神经网络结构，通过添加一个二次残差项的加权和输入之前，应用激活函数。具有足够高的功能能力（或表达能力），我们表明，它是特别强大的解决正逆物理问题，涉及偏微分方程（PDE）。使用代数几何的工具，我们从理论上证明，与普通神经网络相比，QRes在网络宽度和深度方面表现出更好的参数效率，这要归功于每个神经元中更高的非线性。最后，我们的经验表明，QRes在训练时期的数量方面表现出更快的收敛速度，特别是在学习复杂模式时。
2021-01-28 cs.CE cs.LG
Deep least-squares methods: an unsupervised learning-based numerical method for solving elliptic PDEs
Purdue University（普渡大学）
研究了一种基于无监督深度学习的偏微分方程数值求解方法。该方法利用深度神经网络通过组合构造逼近偏微分方程的解，并采用最小二乘泛函作为损失函数来确定深度神经网络的参数。偏微分方程有各种各样的最小二乘泛函。本文研究了文献[3]中基于一阶标量二阶椭圆型偏微分方程组的一阶系统最小二乘泛函。给出了一维二阶椭圆型偏微分方程的数值结果。
2020-07-12 cs.LG cs.NA math.NA
Solving Image PDEs with a Shallow Network
Google Research（谷歌研究院）
偏微分方程（PDE）通常被用作物理过程的模型，但在基于偏微分方程的图像处理中也引起极大兴趣。然而，当涉及到它们在成像中的使用时，用于求解偏微分方程的传统数值方法往往需要非常精细的网格分辨率以保持稳定性，因此具有不切实际的高计算成本。这项工作应用BLADE（最佳线性自适应增强），一个浅层可学习的滤波框架，PDE求解，并表明所得到的方法是有效的和准确的，操作更可靠的粗网格分辨率比经典方法。因此，该模型可以灵活地用于成像中的各种问题。
2021-10-15 cs.CV cs.LG eess.IV
PhyGNNet: Solving spatiotemporal PDEs with Physics-informed Graph Neural Network
求解偏微分方程是物理学、生物学、化学等领域的重要研究手段。作为数值方法的一种近似替代方法，PINN得到了广泛的关注，并在许多领域发挥了重要作用。然而，PINN使用全连接网络作为其模型，在时间和空间上都具有有限的拟合能力和有限的外推能力。在本文中，我们提出了PhyGNNet解决偏微分方程的基础上的图神经网络，其中包括编码器，处理器和解码器块。特别地，我们将计算区域划分为规则网格，在网格上定义偏微分算子，然后构造pde损失对网络进行优化，构建PhyGNNet模型。通过对Burgers方程和热传导方程的对比实验验证了该方法的有效性，结果表明，与PINN方法相比，该方法在时间和空间上都具有更好的拟合能力和外推能力。
2023-03-21 cs.LG cs.NE
Multi-scale Deep Neural Networks for Solving High Dimensional PDEs
Southern Methodist University（南卫理公会大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出了频域径向尺度化的思想，并利用紧支集的激活函数构造多尺度动态神经网络（MscaleDNN），使其具有多尺度逼近高频高维函数的能力，加快了高维偏微分方程的求解速度.使用带有Ritz能量或最小二乘PDE残差的损失函数进行高维函数拟合和高维PDE求解的数值结果验证了所提出的MscaleDNN的多尺度分辨率和高频捕获能力的提高。
2019-10-25 cs.LG cs.NA math.NA
SHoP: A Deep Learning Framework for Solving High-order Partial Differential Equations
Tsinghua University（清华大学）；Institute for Brain and Cognitive Science, Tsinghua University (THUIBCS)（清华大学脑与认知科学研究院）
针对现有神经网络求解高阶偏微分方程时高阶导数计算精度不足且缺乏可解释性的问题，提出深度学习框架SHoP，通过推导高阶导数规则和泰勒级数展开提供显式解，实现高效准确求解。
2023-05-17 cs.LG cs.NA math.NA
Finite Element Operator Network for Solving Elliptic-type parametric PDEs
Inha University（仁荷大学）；Chung-Ang University（中央大学）
本文提出融合深度学习与有限元法的FEONet，在无需成对训练数据的情况下求解椭圆型参数化PDEs，并通过基准实验和收敛分析验证其精度、泛化性与计算灵活性。
2025-02-19 cs.AI cs.LG cs.NA
Robust SDE-Based Variational Formulations for Solving Linear PDEs via Deep Learning
Freie Universität Berlin（柏林自由大学）；Zuse Institute Berlin（柏林祖斯研究所）；dida Datenschmiede GmbH（dida数据锻造有限责任公司）；University of Vienna（维也纳大学）
蒙特卡罗方法和深度学习的结合最近产生了求解高维偏微分方程（PDE）的有效算法。相关的学习问题通常被描述为基于相关随机微分方程（SDEs）的变分公式，其允许使用基于梯度的优化方法来最小化相应的损失。因此，在相应的数值实现中，依赖于表现出低方差的足够的梯度估计器以准确和快速地达到收敛是至关重要的。在这篇文章中，我们严格调查相应的数值方面出现在线性Kolmogorov偏微分方程的背景下。特别是，我们系统地比较了现有的深度学习方法，并为它们的性能提供了理论解释。随后，我们提出了新的方法，可以被证明是更强大的理论和数值计算，从而大大提高性能。
2022-08-05 cs.LG cs.NA math.NA
Loss Jump During Loss Switch in Solving PDEs with Neural Networks
Institute of Natural Sciences（自然科学研究院）；School of Mathematical Sciences（数学科学学院）；Shanghai Jiao Tong University（上海交通大学）
本文研究神经网络求解PDE时不同损失函数的影响，发现从数据损失切换到模型损失会引发稳定的损失跳变现象，并通过实验和理论分析揭示其源于不同损失函数下神经网络的频率偏好差异。
2024-05-06 cs.LG math-ph math.MP
Solving high-dimensional parabolic PDEs using the tensor train format
Freie Universität Berlin（柏林自由大学）；BTU Cottbus-Senftenberg（科特布斯-森夫滕贝格勃兰登堡工业大学）；dida Datenschmiede GmbH（dida数据锻造有限公司）；Technische Universität Berlin（柏林工业大学）；Universität Potsdam（波茨坦大学）
高维偏微分方程在经济、科学和工程中普遍存在。然而，他们的数值处理带来了巨大的挑战，因为传统的基于网格的方法往往会受到维数灾难。在本文中，我们认为，张量列车提供了一个有吸引力的近似框架抛物偏微分方程：在向后随机微分方程和回归类型的方法在张量格式的重组相结合的承诺，利用潜在的低秩结构，使压缩和有效的计算。按照这种模式，我们开发新的迭代方案，涉及显式和快速或隐式和准确的更新。我们证明了在一些例子中，我们的方法实现了良好的平衡与国家的最先进的神经网络为基础的方法相比，准确性和计算效率。
2021-07-17 cs.LG cs.NA math.NA
Solving and learning advective multiscale Darcian dynamics with the Neural Basis Method
Asia Pacific Technology, Inc.（亚太科技公司）；Institute for Scientific Computation, Texas A&M University（德克萨斯农工大学科学计算研究所）；Department of Mathematics, University of Houston（休斯顿大学数学系）
本文提出神经基底方法，通过结合物理一致的神经基底空间和操作符诱导残差度量，解决对流多尺度达西动力学问题，实现稳定可靠的求解与参数推断。
2026-04-10 cs.LG cs.NA math.NA
Solving high-dimensional Hamilton-Jacobi-Bellman PDEs using neural networks: perspectives from the theory of controlled diffusions and measures on path space
Universität Potsdam（波茨坦大学）；Freie Universität Berlin（柏林自由大学）；Brandenburgische Technische Universität Cottbus-Senftenberg（勃兰登堡工业大学科特布斯-森夫滕贝格）
扩散过程的最优控制与求解某些Hamilton-Jacobi-Bellman方程的问题密切相关。最近的机器学习启发的方法对高维偏微分方程的基础上，我们调查的潜力$\textit{iterative diffusion optimisation}$技术，特别是考虑应用在重要性采样和罕见事件模拟，并专注于没有扩散控制的问题，线性控制漂移和运行成本，依赖于二次控制。更一般地说，我们的方法适用于非线性抛物型偏微分方程具有一定的平移不变性。一个适当的损失函数的选择是在算法设计的一个核心要素，我们开发了一个原则性的框架的基础上路径措施之间的分歧，包括各种现有的方法。出于连接到前向-后向随机微分方程，我们提出并研究了新的$\textit{log-variance}$分歧，相应的蒙特卡罗估计显示出良好的性能。所开发的方法的承诺举例说明了一系列的高维和亚稳态数值例子。
2023-01-29 cs.LG cs.NA math.NA
(U)NFV: Supervised and Unsupervised Neural Finite Volume Methods for Solving Hyperbolic PDEs
University of California, Berkeley（加州大学伯克利分校）
提出模块化神经网络架构(U)NFV，通过在扩展时空模板上学习更新规则并保持守恒结构，泛化有限体积方法求解双曲守恒律，支持有监督和无监督训练，在精度和可扩展性上显著优于传统方法。
2025-05-29 cs.LG cs.NA math.NA
Convolutional-neural-operator-based transfer learning for solving PDEs
School of Mathematics（数学系）；Key Laboratory of Maritime Intelligent Cyberspace Technology (Hohai University), Ministry of Education（航海智能信息空间技术重点实验室（河海大学））
本文提出基于卷积神经运算符的迁移学习方法，通过预训练和参数调整提升求解偏微分方程的代理精度，神经元线性变换策略表现最优。
2025-12-19 cs.AI cs.LG math-ph
Neural-PDE: A RNN based neural network for solving time dependent PDEs
University of Notre Dame（圣母大学）；Duke Kunshan University（杜克昆山大学）
偏微分方程（PDE）在研究大量科学和工程问题中起着至关重要的作用。数值求解非线性和/或高维偏微分方程通常是一项具有挑战性的任务。受传统有限差分和有限元方法以及机器学习新进展的启发，我们提出了一种称为Neural-PDE的序列深度学习框架，该框架允许通过使用双向LSTM编码器从现有数据中自动学习任何时间相关PDE系统的控制规则，并预测接下来的n个时间步长数据。我们提出的框架的一个关键特征是，神经元PDE是能够同时学习和模拟多尺度变量。我们测试了一系列的例子，从一维偏微分方程的高维和非线性复杂流体模型的神经元PDE。实验结果表明，Neural-PDE能够在不知道PDE系统具体形式的情况下学习系统的初始条件、边界条件和微分算子，在20个epoch的训练时间内就能有效地提取系统的动力学特征，并给出准确的预测结果.此外，与学习PDE的传统机器学习方法（例如CNN和MLP）不同，Neural-PDE在所有时间步长上共享参数，从而大大降低了计算复杂性并导致快速学习算法。
2022-01-09 cs.LG cs.NA math.NA
TENG: Time-Evolving Natural Gradient for Solving PDEs With Deep Neural Nets Toward Machine Precision
Massachusetts Institute of Technology（麻省理工学院）；NSF AI Institute for Artificial Intelligence and Fundamental Interactions（NSF人工智能与基础相互作用AI研究院）；Harvard University（哈佛大学）
本文提出时间演化自然梯度方法TENG及其高阶变体，通过自然梯度优化提升神经网络求解PDE的精度，在热方程、Allen-Cahn方程和Burgers方程等基准上超越现有方法并达到机器精度。
2024-06-04 cs.LG cs.NA math.NA
Neural Q-learning for solving PDEs
University of Oxford（牛津大学）
提出基于强化学习 Q-learning 的无网格 Q-PDE 算法求解椭圆型偏微分方程，利用神经正切核方法证明了其神经网络逼近器在宽网络极限下收敛于无穷维 ODE 轨迹，并最终在 $L^2$ 中收敛到 PDE 解。
2023-06-25 cs.LG cs.NA math.AP
A Priori Generalization Analysis of the Deep Ritz Method for Solving High Dimensional Elliptic Equations
Duke University（杜克大学）；University of Massachusetts（马萨诸塞大学）
本文研究了DeepRitz方法（DRM）的先验推广分析[W. E和B。Yu，2017]，一种基于神经网络的求解高维偏微分方程的方法。在DRM框架下，我们得到了两层神经网络在求解$d$维单位超立方体上的泊松方程和静态薛定谔方程时的推广误差界.具体地说，我们证明了推广误差的收敛速度是独立的维数$d$下，先验假设的精确解的偏微分方程位于一个合适的低复杂度的空间称为谱巴伦空间。此外，我们给出了关于强迫项和势函数的充分条件，保证解是谱Barron函数。我们实现了这一点，通过开发一个新的解决方案理论的谱巴伦空间上的偏微分方程，这可以被看作是一个模拟的经典Sobolev正则性理论偏微分方程。
2021-03-22 cs.LG cs.NA math.AP
