Error analysis for physics informed neural networks (PINNs) approximating Kolmogorov PDEs
ETH Zürich(苏黎世联邦理工学院)
物理学通过最小化逐点残差来告知神经网络偏微分方程的近似解。我们推导出严格的误差界,所招致的PINNs近似的解决方案的一大类线性抛物型偏微分方程,即Kolmogorov方程,包括热方程和Black-Scholes方程的期权定价,作为例子。我们构造神经网络,其PINN残差(泛化误差)可以尽可能小。我们还证明了总的$L^2$错误可以有界的泛化误差,这反过来又是有界的训练误差,提供了足够数量的随机选择的训练(搭配)点使用。此外,我们证明了PINN的大小和训练样本的数量只与底层维度呈多项式增长,使PINN能够克服这种情况下的维数灾难。这些结果使我们能够提供一个全面的误差分析PINNs近似Kolmogorov偏微分方程。
2021-07-10 cs.LG cs.NA math.NA
Refined generalization analysis of the Deep Ritz Method and Physics-Informed Neural Networks
本文推导了Deep Ritz方法(DRM)和物理信息神经网络(PINNs)的精细化泛化界,基于局部化技术、局部Rademacher复杂度及Barron空间假设,为多种椭圆偏微分方程提供了更尖锐的泛化分析与过参数化误差讨论。
2025-06-02 cs.NA math.NA
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating PDEs
ETH Zürich(苏黎世联邦理工学院)
针对 PINNs 求解 PDE 正问题,本文建立抽象框架并利用 PDE 稳定性,给出以训练误差和样本数表示的严格泛化误差上界,且通过非线性 PDE 示例与数值实验验证。
2023-12-06 cs.LG cs.NA math.AP
A hybrid physics-informed neural network for nonlinear partial differential equation
近年来发展起来的基于物理知识的机器学习在求解非线性偏微分方程(PDE)方面取得了很大的进展,但是它可能无法对具有间断解的PDE提供合理的近似。在本文中,我们专注于离散时间物理信息神经网络(PINN),并提出了一个混合PINN计划的非线性偏微分方程。在该方法中,通过引入不连续性指标将局部解结构分为光滑和非光滑尺度,然后采用自动微分技术求解光滑尺度,并采用改进的加权本质不振荡(WENO)格式捕捉不连续性.通过粘性和非粘性Burgers方程对该方法进行了测试,结果表明,与原离散时间PINN方法相比,该混合方法即使在较大的时间步长下也能更好地逼近间断解.
2021-12-03 cs.NA math.NA
Numerical Methods For PDEs Over Manifolds Using Spectral Physics Informed Neural Networks
Tel Aviv University(特拉维夫大学)
提出谱物理信息神经网络求解流形上PDE,架构对齐谱方法,优于标准架构,并在热方程及球面、环面非线性方程上验证,含大规模泛化实验。
2023-09-03 cs.LG cs.NA math.NA
Physics-Informed Kernel Function Neural Networks for Solving Partial Differential Equations
提出将由PDE控制方程推导的物理信息核函数作为RBFNN激活函数的PIKFNN,仅用边界/初始数据训练,并通过多类基准问题验证其可行性与准确性。
2023-06-07 cs.NA math.NA
Predictive Moving Sample Method for Physics-Informed Neural Solvers of Time-Dependent PDEs
The School of Information Science and Technology and the Institute of Mathematical Sciences ShanghaiTech University(上海科技大学信息科学与技术学院与数学科学学院);SKLMS & LSEC, Institute of Computational Mathematics and Scientific/Engineering Computing Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院计算数学与科学工程计算研究所,数学重点实验室);School of Mathematical Sciences University of Chinese Academy of Sciences(中国科学院大学数学科学学院);Research Center for Mathematics and Interdisciplinary Sciences Shandong University(山东大学数学交叉前沿科学中心);Frontiers Science Center for Nonlinear Expectations, Minister of Education Shandong University(教育部非线性期望前沿科学中心);The Institute of Mathematical Sciences ShanghaiTech University(上海科技大学数学科学学院)
提出预测性移动样本方法(PMSM)及其窗口重置变体(WR-PMSM),通过渐进时间步进和简化速度场损失,利用残差动态移动配点,高效求解时间相关偏微分方程。
2026-05-26 cs.NA math.NA
Pre-training strategy for solving evolution equations based on physics-informed neural networks
针对标准 PINN 难以求解强非线性或高频时间演化 PDE 的问题,本文提出 PT-PINN 分时间子域预训练策略,以提升收敛性、精度与求解能力。
2022-11-12 cs.NA math.NA
CT-PIKAN: Coordinate-Transformed Physics-Informed Kolmogorov-Arnold Network with Autograd-Based Metric Evaluation for Solving PDEs in Curvilinear Domains
Department of Aerospace Engineering, Sharif University of Technology(谢里夫理工大学航空航天工程系)
本研究提出CT-PIKAN框架,通过坐标变换结合自动微分,解决曲线域偏微分方程求解的几何适配问题,在多类基准问题上实现高效准确的求解。
2026-08-10 cs.NA math.NA
Incorporating Local Hölder Regularity into PINNs for Solving Elliptic PDEs
本研究将局部Hölder正则化融入PINNs框架,通过构建含该正则项的改进损失函数、提出变距离离散采样策略并建立误差估计,提升了椭圆型PDEs求解的精度与鲁棒性。
2025-10-30 cs.NA math.NA
Physics-informed low-rank neural operators with application to parametric elliptic PDEs
提出物理信息低秩神经算子PILNO,结合低秩核近似与编码器-解码器架构,在点云上高效逼近PDE解算子,通过物理信息惩罚训练确保约束满足,适用于多种参数化椭圆型PDE问题。
2025-09-09 cs.NA math.NA physics.comp-ph
Physics Informed Random Feature Neural Networks for Solving PDEs
Illinois Institute of Technology(伊利诺伊理工学院);University of Arkansas(阿肯色大学);University of Houston(休斯顿大学)
本文提出物理信息随机特征方法求解PDE,降低计算复杂度,通过严格误差分析和数值测试验证其能有效对抗谱偏差。
2026-09-16 cs.LG cs.NA math.NA
Solving a class of multi-scale elliptic PDEs by means of Fourier-based mixed physics informed neural networks
本研究提出FMPINN算法,通过引入对偶变量、三角激活函数和傅里叶特征映射,有效解决了多尺度椭圆型偏微分方程中由振荡系数引起的病态问题和高频求解挑战。
2023-07-27 cs.NA math.NA
Generic bounds on the approximation error for physics-informed (and) operator learning
ETH Zürich(苏黎世联邦理工学院);ETH AI Center(苏黎世联邦理工学院人工智能中心)
我们提出了一个非常通用的框架,用于推导物理信息神经网络(PINN)和算子学习架构(如DeepONets和FNOs)以及物理信息算子学习的近似误差的严格界限。这些界限保证了PINN和(物理信息)DeepONets或FNO将有效地近似通用偏微分方程(PDE)的基本解或解算子。我们的框架利用现有的神经网络近似结果,以获得更多涉及的学习结构的偏微分方程的界限。我们通过推导物理信息算子学习的近似误差的第一个严格界限,并通过显示PINN(以及物理信息DeepONets和FNO)减轻了近似非线性抛物型PDE的维数灾难,来说明一般框架。
2022-10-10 cs.LG cs.NA math.NA
On the convergence of physics informed neural networks for linear second-order elliptic and parabolic type PDEs
Brown University(布朗大学)
物理信息神经网络(PINN)是基于深度学习的技术,用于求解计算科学和工程中的偏微分方程(PDE)。在数据和物理定律的指导下,PINN找到了一个近似于PDE系统的神经网络。这样的神经网络是通过最小化损失函数来获得的,在该损失函数中对PDE和数据的任何先验知识进行编码。尽管它在一维、二维或三维问题上取得了显著的经验成功,但PINN几乎没有理论依据。随着数据数量的增长,PINN会生成一个对应于神经网络序列的最小化器序列。我们想回答这样一个问题:极小值序列是否收敛于偏微分方程的解?我们考虑两类偏微分方程:线性二阶椭圆型和抛物型。通过采用Schauder方法和最大值原理,证明了极小值序列强收敛于$C^0$中的PDE解.此外,我们表明,如果每个极小满足初始/边界条件,收敛模式成为$H^1$。计算的例子来说明我们的理论研究结果。据我们所知,这是第一个显示PINN一致性的理论工作。
2020-10-21 cs.LG cs.NA math.NA
Data-Free Asymptotics-Informed Operator Networks for Singularly Perturbed PDEs
Seoul National University(首尔大学);Inha University(仁荷大学);Chung-Ang University(中央大学)
本文提出eFEONet,一种无数据指导的算子网络,用于高效求解退化扰动PDEs中的尖锐层问题。
2026-01-10 cs.NA math.NA
VS-PINN: A fast and efficient training of physics-informed neural networks using variable-scaling methods for solving PDEs with stiff behavior
Inha University(仁荷大学)
针对具有刚性或高频特性的偏微分方程求解中PINNs训练困难的问题,提出基于可变缩放技术的VS-PINN方法,经实验验证可提升训练效率与性能,并通过NTK分析给出理论支撑。
2024-07-12 cs.LG cs.NA math.NA
Solving PDEs with Unmeasurable Source Terms Using Coupled Physics-Informed Neural Network with Recurrent Prediction for Soft Sensors
Dalian University of Technology(大连理工大学)
针对具有不可测源项的非齐次偏微分方程,本文提出耦合物理信息神经网络CPINN-RP,通过NetU与NetG协同训练及循环预测补偿采样信息损失,提升软测量预测性能。
2023-07-11 cs.LG cs.NA math.NA
A Unified Weighted-Loss Physics-Informed Neural Network for Boundary Layer Problems in Singularly Perturbed PDEs
National Central University(中央大学);National Center for Theoretical Sciences, National Taiwan University(台湾大学理论科学中心);National Chung Hsing University(中兴大学);National Yang Ming Chiao Tung University(阳明交通大学)
本文提出一种基于加权损失的统一学习框架,用于解决奇异摄动PDEs中的边界层问题,通过自动识别边界层位置,简化了实现复杂度并提高了计算精度。
2026-03-31 cs.NA math.NA
Parameterized Physics-informed Neural Networks for Parameterized PDEs
Yonsei University(延世大学);Arizona State University(亚利桑那州立大学);LG CNS;Texas A&M University-Commerce(德州农工大学Commerce分校);Oregon State University(俄勒冈州立大学);KAIST(韩国科学技术院)
针对含参数PDE求解中PINNs需重复耗时训练的问题,提出显式编码参数潜在表示的P$^2$INNs,在1D、2D基准PDE上准确性和参数效率优于基线且能克服失效模式。
2024-08-18 cs.LG cs.NA math.NA
Physics-Informed Graph-Mesh Networks for PDEs: A hybrid approach for complex problems
MICS, CentraleSupélec, Université Paris Saclay(巴黎萨克雷大学中央高等电力学院MICS实验室);Transvalor S.A.(特兰斯瓦尔公司)
针对物理信息神经网络在复杂几何、泛化及自动微分方面的局限,提出融合图神经网络与有限元数值核的混合PDE求解框架,并通过理论分析、消融实验及二三维复杂几何测试验证其泛化能力。
2024-09-25 cs.LG cs.NA math.NA
Physics-informed Multiresolution Wavelet Neural Network Method for Solving Partial Differential Equations
本文提出物理信息多分辨率小波神经网络(PIMWNN)方法求解偏微分方程,通过最小二乘算法训练,在精度和速度上优于PINNs,且无网格、易处理边界条件,有望解决谱偏差问题。
2025-08-11 cs.NA math.NA
A certified wavelet-based physics-informed neural network for the solution of parameterized partial differential equations
物理信息神经网络(PINN)经常被用于偏微分方程(PDE)的数值逼近。本文的目标是构建PINNs以及可计算的误差上界,这是特别相关的参数化偏微分方程(PPDE)的模型简化。为此,我们建议使用的自适应小波扩展的损失函数和误差界的残差的扩展系数的加权和。这种方法在这里所示的椭圆PPDE使用标准变分和最佳稳定的超弱制定。数值算例表明,小波误差界具有很好的定量效果。
2022-12-16 cs.NA math.NA
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating a class of inverse problems for PDEs
ETH Zürich(苏黎世联邦理工学院)
针对PDE数据同化与唯一延拓反问题,论文建立抽象框架并利用条件稳定性证明PINN泛化误差估计,辅以四类线性PDE示例和数值实验验证。
2023-12-06 cs.LG cs.NA math-ph
Posterior Concentration of Bayesian Physics-Informed Neural Networks for Elliptic PDEs
School of Mathematics, University of Minnesota, Twin Cities(明尼苏达大学双城分校数学学院)
本文研究了贝叶斯物理信息神经网络在求解一般椭圆偏微分方程中的后验收缩率,通过构造合适的先验分布,证明后验分布以近最优速率集中于精确解,并提供了通过贝叶斯PINNs进行PDE不确定性量化统计保证。
2026-05-09 cs.NA math.NA math.ST
Solving PDEs on Spheres with Physics-Informed Convolutional Neural Networks
Fudan University(复旦大学);University of Sydney(悉尼大学)
本文针对球面上的PDE求解问题,严格分析PICNN的Sobolev范数逼近误差与快速收敛速率,并通过实验验证,进而探讨缓解高维PDE维数灾难的策略。
2024-08-05 cs.LG cs.NA math.NA
Kolmogorov Arnold Informed neural network: A physics-informed deep learning framework for solving forward and inverse problems based on Kolmogorov Arnold Networks
Tsinghua University(清华大学);Bauhaus-Universität Weimar(魏玛包豪斯大学);CNPC Engineering Technology RD Company Limited(中国石油集团工程技术研究院有限公司);Queensland University of Technology(昆士兰科技大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
本文提出基于KAN的物理知情框架KINN,用于求解PDE正问题和反问题,并在多种固体力学算例中证明其在精度和收敛速度上显著优于基于MLP的PINNs。
2024-08-04 cs.LG cs.NA math.NA
Physics-informed Neural Networks for Elliptic Partial Differential Equations on 3D Manifolds
受物理信息神经网络(PINNs)研究的启发,首次尝试将PINNs引入三维流形上椭圆型偏微分方程(PDE)的数值模拟. PINN是基于深度学习的技术之一。PINN基于数据和物理模型,引入标准的前馈神经网络(NN)来逼近PDE系统的解。通过使用自动微分,偏微分方程系统可以显式地编码成NN,因此,从偏微分方程的均方残差的总和可以相对于NN参数最小化。利用曲面微分算子$\nabla_S/Δ_S$与标准欧氏微分算子$\nabla/Δ$之间的关系,利用自动微分法可以有效地构造损失函数中的残差.我们首先考虑单位球面作为曲面,研究不同训练样本大小和神经网络深度的PINNs的数值精度和收敛性。另一个例子提供了不同的复流形,以验证的鲁棒性的PINN。
2021-03-04 cs.NA math.NA
PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving Spatiotemporal PDEs
Northeastern University(东北大学);University of Notre Dame(圣母大学);MIT(麻省理工学院)
偏微分方程(PDE)在建模和模拟各种学科的问题中发挥着重要作用。深度学习的最新进展表明,物理信息神经网络(PINN)在解决偏微分方程方面具有巨大潜力,可作为数据驱动建模和逆分析的基础。然而,大多数现有的PINN方法,基于全连接的神经网络,造成内在的限制,低维时空参数化。此外,由于初始/边界条件(I/BC)是通过惩罚来软施加的,因此解的质量严重依赖于超参数调整。为此,我们提出了新的物理信息卷积递归学习架构(PhyCRNet和PhyCRNet-s),用于在没有任何标记数据的情况下求解偏微分方程。具体地,提出了用于低维空间特征提取和时间演化学习的编码器-解码器卷积长短期记忆网络。损失函数被定义为聚合的离散化PDE残差,而I/BC在网络中被硬编码以确保强制满足(例如,周期性边界填充)。网络通过自回归和残差连接进一步增强,显式模拟时间推进。我们提出的方法的性能已经通过求解三个非线性偏微分方程(例如,2D Burgers方程、$λ$ - $ω$和FitzHugh Nagumo反应扩散方程),并与最新基线算法进行比较。数值结果表明,我们所提出的方法的优越性,在解决方案的精度,外推性和推广。
2021-06-26 cs.CL cs.LG cs.NA
PINNsur: Physics-Informed Neural Networks for PDEs on Curved Surfaces
University of Southern California(南加州大学);Max Planck Institute for Informatics, SIC(马克斯·普朗克计算机科学研究所);University of British Columbia(不列颠哥伦比亚大学);Technion(以色列理工学院)
提出PINNSur框架,通过训练神经场近似曲面法线并投影微分算子,实现无网格求解曲面PDE,并引入经验收敛测试研究收敛行为。
2026-05-26 cs.GR cs.NA math.NA
Variational Formulations of the Strong Formulation -- Forward and Inverse Modeling using Isogeometric Analysis and Physics-Informed Networks
本文研究强形式偏微分方程正演与反演问题的变分/最小二乘公式,并结合等几何分析与物理信息网络开展建模。
2023-12-06 cs.NA math.NA
Locally Subspace-Informed Neural Operators for Efficient Multiscale PDE Solving
AXXX;Institute of Numerical Mathematics(计算数学研究所);North-Eastern Federal University(东北联邦大学)
本文提出一种局部子空间感知神经算子,通过学习子空间而非基函数,有效降低多尺度PDE求解的误差和计算成本。
2026-02-27 cs.NA math.NA
FB-HyDON: Parameter-Efficient Physics-Informed Operator Learning of Complex PDEs via Hypernetwork and Finite Basis Domain Decomposition
Quantiphi(昆体菲科技)
针对现有神经算子需大量数据、物理信息算子训练复杂且难收敛的问题,提出结合超网络与有限基域分解的FB-HyDON架构,在多个PDE任务上实现性能提升。
2024-09-13 cs.LG cs.NA math.NA
A Physics-Informed Neural Network Framework For Partial Differential Equations on 3D Surfaces: Time-Dependent Problems
University of Nevada, Las Vegas(内华达大学拉斯维加斯分校);University of Arkansas(阿肯色大学);Lehigh University(里海大学)
在本文中,我们展示了一个物理信息的神经网络求解器的时间依赖表面偏微分方程。与传统的数值求解器不同,该方法不需要在曲面上扩展偏微分方程和网格。我们显示了一个简化的表面微分算子的先验估计,使PINN的损失值将是一个指标的表面偏微分方程的残留物。数值实验验证了算法的有效性。
2021-03-19 cs.LG cs.NA math.NA
Bi-orthogonal fPINN: A physics-informed neural network method for solving time-dependent stochastic fractional PDEs
分数阶偏微分方程(FPDE)可以有效地描述反常输运和非局域相互作用。然而,由于随机强迫或未知的材料特性,在实际应用中自然会出现固有的不确定性。考虑非局部相互作用和不确定性量化的数学模型可以表示为随机分数阶偏微分方程(SFPDEs)。数值求解SFPDE有许多挑战,特别是对于长时间积分,因为这些问题是高维和非局部的。在这里,我们结合双正交(BO)的方法来表示随机过程与物理信息的神经网络(PINN)求解偏微分方程制定双正交PINN方法(BO-fPINN)解决不定常SFPDE。具体来说,我们引入了一个深度神经网络的随机解的不定常SFPDE,并包括BO约束的损失函数以下弱制定。由于自动微分目前不适用于分数阶导数,我们采用网格上的离散化来计算神经网络输出的分数阶导数。BO-fPINN方法的弱形式损失函数可以克服BO方法的一些缺点,从而可以用于求解具有特征值交叉的SFPDE。此外,BO-fPINN方法可以用于具有与正问题相同的框架和相同的计算复杂性的逆SFPDE。我们证明了不同的基准问题的BO-fPINN方法的有效性。结果表明,所提出的方法的灵活性和效率,特别是反问题。
2023-03-20 cs.NA math.NA
Alikhanov-XfPINNs: Adaptive Physics-Informed Learning for Nonlinear Fractional PDEs on Nonuniform Meshes
IIT (BHU)(印度理工学院(贝拿勒斯印度教大学));University of Wuppertal(伍珀塔尔大学)
本文提出Alikhanov-XfPINNs方法,结合高阶时间离散化与深度学习,解决分数阶PDEs的初始奇异性和非均匀网格上的计算效率问题,通过自适应激活函数提升训练效率,实现正反问题的数据驱动求解。
2026-05-02 cs.NA math.NA
RANG: A Residual-based Adaptive Node Generation Method for Physics-Informed Neural Networks
Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院);Human Resource Center(人力资源中心)
基于物理信息神经网络(PINNs)的偏微分方程(PDE)求解方法由于其灵活性和易于合并观测数据而成为传统求解器的一种有吸引力的替代方法。尽管PINN在精确求解各种偏微分方程方面取得了成功,但该方法在计算效率方面仍然需要改进。一种可能的改进思路是优化训练点集的生成。基于残差的自适应采样和准均匀采样方法分别被应用于改善PINN的训练效果。为了从这两种方法中受益,我们提出了基于残差的自适应节点生成(RANG)方法,用于有效训练PINN,该方法基于RBF-FD的变密度节点分布方法。该方法还通过记忆机制来增强,以进一步提高训练稳定性。我们进行了实验,三个线性偏微分方程和三个非线性偏微分方程的各种节点生成方法,通过该方法的准确性和效率相比,占主导地位的均匀采样方法进行了数值验证。
2022-05-12 cs.LG cs.NA math.NA
Pretrain Finite Element Method: A Pretraining and Warm-start Framework for PDEs via Physics-Informed Neural Operators
Tsinghua University(清华大学);Bauhaus-Universität Weimar(魏玛包豪斯大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
该研究提出预训练有限元法,通过物理信息神经算子结合FEM,提升PDEs求解效率与精度。
2026-03-08 cs.NA math.NA
PINNacle: A Comprehensive Benchmark of Physics-Informed Neural Networks for Solving PDEs
Tsinghua University(清华大学);University of Pennsylvania(宾夕法尼亚大学)
针对现有物理信息神经网络缺乏跨多类偏微分方程全面比较的问题,研究推出包含20余种PDE、10种前沿方法的基准工具PINNacle,通过大量实验分析方法优劣,为该领域后续研究提供指导。
2023-10-05 cs.LG cs.NA math.NA
SPIKANs: Separable Physics-Informed Kolmogorov-Arnold Networks
Pacific Northwest National Laboratory(西北太平洋国家实验室)
本文提出SPIKANs,通过将变量分离原理应用于PIKANs,使每个维度由独立KAN处理,降低高维PDE训练复杂度,在保持精度的同时提升可扩展性。
2024-11-09 cs.LG cs.NA math.NA
SVD-PINNs: Transfer Learning of Physics-Informed Neural Networks via Singular Value Decomposition
The University of Hong Kong(香港大学);Hong Kong Baptist University(香港浸会大学);NVIDIA(英伟达)
本文提出 SVD-PINNs,通过保持奇异向量并优化奇异值实现物理信息神经网络的迁移学习,以高效求解一类具有相近右端项的高维偏微分方程。
2024-03-14 cs.LG cs.NA math.NA
GPT-PINN: Generative Pre-Trained Physics-Informed Neural Networks toward non-intrusive Meta-learning of parametric PDEs
University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
针对物理 informed 神经网络(PINN)训练耗时、参数冗余的问题,提出生成式预训练 PINN(GPT-PINN),通过超精简元网络结合预训练 PINN 激活函数,实现参数化 PDE 全参数域高效准确的代理解生成。
2023-06-08 cs.LG cs.NA math.NA
Energy-Equidistributed Moving Sampling Physics-informed Neural Networks for Solving Conservative Partial Differential Equations
本文提出能量等分布移动采样物理信息神经网络(EEMS-PINNs),通过能量密度驱动的自适应网格优化求解多维保守偏微分方程,在长时间模拟中保持解精度和能量守恒。
2025-08-27 cs.NA math.NA
Scaled-cPIKANs: Domain Scaling in Chebyshev-based Physics-informed Kolmogorov-Arnold Networks
本文提出 Scaled-cPIKAN,将切比雪夫多项式 KAN 与域缩放结合,用于高效求解大空间域上具有振荡行为的 PDE,并在多个基准问题上取得显著优于现有方法的精度与收敛速度。
2025-01-06 cs.NA math.NA
Sobolev Training for Physics Informed Neural Networks
物理信息神经网络(PINNs)是深度学习的一个很有前途的应用。全连接神经网络的光滑结构适合于求解偏微分方程,相应的损失函数也可以直观地设计,并保证了各种偏微分方程的收敛性。然而,收敛速率被认为是这种方法的一个弱点。本文提出了Sobolev-PINNs,一种新的损失函数的PINNs的训练,使训练效率大大提高。受最近研究的启发,将导数信息用于神经网络的训练,我们开发了一个损失函数,引导神经网络减少相应的索伯列夫空间中的误差。令人惊讶的是,损失函数的简单修改可以使训练过程类似于\textit{Sobolev Training},尽管PINN不是一个完全监督的学习任务。我们提供了几个理论上的理由,建议的损失函数上界误差在相应的索伯列夫空间的粘性Burgers方程和动力学Fokker-Planck方程。仿真结果表明,与传统的$L^2$损失函数相比,所提出的损失函数能显著加快神经网络的收敛速度.此外,我们提供的经验证据表明,建议的损失函数,连同迭代采样技术,在解决高维偏微分方程,表现得更好。
2021-12-08 cs.NA math.NA
Functional tensor train neural network for solving high-dimensional PDEs
针对传统张量列方法难以处理非均匀网格或不规则域的问题,提出函数张量列神经网络(FTTNN),用神经网络近似TT核函数,结合物理信息损失函数,在高维PDE求解上性能优于PINN。
2025-10-15 cs.NA math.NA
Parallel Physics-Informed Neural Networks with Bidirectional Balance
Beijing Jiaotong University(北京交通大学)
物理信息神经网络(PINN)作为深度学习领域的新兴技术,已被广泛应用于工程中各种偏微分方程(PDE)的求解。然而,基于实际考虑的偏微分方程包含多个物理量和复杂的初始边界条件,因此PINN经常返回错误的结果。本文以多层织物中的热传递问题为例。它是由多个温度场耦合而成的,相关性很强,不同维度间变量值极不平衡。我们阐明了经典PINN解决此类问题的潜在困难,并提出了一种具有双向平衡的并行物理信息神经网络。详细地说,我们的并行求解框架通过几个多层感知同步拟合耦合方程。此外,我们设计了两个模块来平衡数据的前向处理和损失梯度的反向传播过程。这种双向平衡不仅使整个网络稳定收敛,而且有助于充分了解PDE中的各种物理条件。我们提供了一系列的烧蚀实验来验证所提出的方法的有效性。结果表明,我们的方法使PINNs不可解问题可解,并取得了良好的求解精度。
2021-11-10 cs.LG cs.NA math.NA
Spectrally Adapted Physics-Informed Neural Networks for Solving Unbounded Domain Problems
Dept.~of Mathematics, UCLA(UCLA数学系);Dept.~of Computational Science and Philosophy, Frankfurt School of Finance and Management(金融与管理法兰克福学院计算科学与哲学系)
本文提出结合自适应谱方法与物理信息神经网络,解决无界域PDE问题,提升对无界变量依赖性的求解效率与精度。
2023-02-28 cs.LG cs.NA math.AP
Parameter Inference based on Gaussian Processes Informed by Nonlinear Partial Differential Equations
针对含噪稀疏数据下非线性PDE参数推断耗时的问题,提出基于PDE引导高斯过程(PIGP)的方法,通过增广法处理非线性PDE,绕开数值求解器,可提供不确定性量化,适用于多类场景。
2024-02-01 cs.NA math.NA stat.ME
Physics-informed neural networks with residual/gradient-based adaptive sampling methods for solving PDEs with sharp solutions
在这项工作中,我们考虑使用物理信息神经网络(PINNs)求解具有尖锐解的正向和逆偏微分方程。特别是,为了更好地捕捉解决方案的清晰度,我们提出了自适应采样方法(ASM)的残差和梯度的解决方案的基础上。我们首先提出了一种基于残差的ASM算法,记为ASM I。该方法首先利用少量的残差点对神经网络进行训练,并将计算域划分为若干个子域,然后在残差平均绝对值最大的子域中加入新的残差点,并将该子域中残差绝对值最大的点作为新的残差点加入。我们进一步开发了第二种类型的ASM算法(表示为ASM II)的基础上的残差和梯度的解决方案,由于事实上,只有残差可能无法有效地捕捉的清晰度的解决方案。ASM Ⅱ的步骤与ASM Ⅰ基本相同,只是在ASM Ⅱ中增加了新的残差点,这些残差点不仅具有大的残差,而且具有大的梯度。为了验证本文方法的有效性,我们采用ASM I和ASM II求解了一系列的偏微分方程,包括Burger方程、可压缩Euler方程、L型区域上的泊松方程以及高维泊松方程.数值结果表明,无论采用ASM I还是ASM II算法,都能很好地逼近问题的尖锐解,并且在剩余点数相同的情况下,这两种方法都能比原PINN算法提供更精确的解。此外,ASM II算法具有更好的性能,在准确性,效率和稳定性方面相比,ASM I算法。
2023-02-16 cs.NA math.NA physics.comp-ph
Spectral-Informed Neural Networks Outperform Spectral Methods in High-dimensional PDEs
Applied AI Institute(应用人工智能研究所)
研究高维偏微分方程问题,核心方法是将谱方法与PINNs结合成改进的SINNs,通过系数衰减缩放和基嵌入提升精度。主要贡献是在中维问题上优于稀疏网格谱方法,在高维问题上比PINNs精度更高。
2026-07-16 cs.AI cs.CE cs.LG
Error Analysis of Physics-Informed Neural Networks for Approximating Dynamic PDEs of Second Order in Time
Xiangtan University(湘潭大学);Northwest University(西北大学);Purdue University(普渡大学)
研究了一类二阶动力学偏微分方程的物理信息神经网络(PINN)逼近问题,给出了PINN对波动方程、Sine-Gordon方程和线性弹性动力学方程的误差分析.我们的分析表明,前馈神经网络具有两个隐藏层和$\tanh$激活函数,PINN逼近误差的解决方案领域,其时间导数和其梯度场可以有效地限制的训练损失和训练数据点(正交点)的数量。我们的分析进一步提出了新的形式的训练损失函数,其中包含某些残差是至关重要的误差估计,但会缺席的规范PINN损失制定。采用这些新形式的损失函数导致一个变种PINN算法。我们用新的PINN算法对波动方程、Sine-Gordon方程和线性弹性动力学方程进行了大量的数值实验,结果表明该方法能很好地捕获解。
2023-03-22 cs.LG cs.NA math.NA
iPINNs: Incremental learning for Physics-informed neural networks
Delft University of Technology(代尔夫特理工大学);Brown University(布朗大学)
本文提出增量物理信息神经网络(iPINNs),通过子网络重叠和从简到繁的顺序训练,在不增加参数的情况下依次学习多个 PDE,并在对流与反应-扩散方程场景中取得优于普通 PINNs 的泛化与预测误差。
2023-04-10 cs.LG cs.NA math.NA
Tackling the Curse of Dimensionality in Fractional and Tempered Fractional PDEs with Physics-Informed Neural Networks
National University of Singapore(新加坡国立大学);Worcester Polytechnic Institute(伍斯特理工学院);Brown University(布朗大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
本文将 MC-fPINN 扩展为 MC-tfPINN,并用一维 Gaussian 求积替代 Monte Carlo 采样,在高达 100,000 维的分数阶与缓增分数阶 PDE 正、反问题中提升了精度和收敛速度。
2024-06-17 cs.LG cs.NA math.DS