On the convergence of physics informed neural networks for linear second-order elliptic and parabolic type PDEs
Brown University(布朗大学)
物理信息神经网络(PINN)是基于深度学习的技术,用于求解计算科学和工程中的偏微分方程(PDE)。在数据和物理定律的指导下,PINN找到了一个近似于PDE系统的神经网络。这样的神经网络是通过最小化损失函数来获得的,在该损失函数中对PDE和数据的任何先验知识进行编码。尽管它在一维、二维或三维问题上取得了显著的经验成功,但PINN几乎没有理论依据。随着数据数量的增长,PINN会生成一个对应于神经网络序列的最小化器序列。我们想回答这样一个问题:极小值序列是否收敛于偏微分方程的解?我们考虑两类偏微分方程:线性二阶椭圆型和抛物型。通过采用Schauder方法和最大值原理,证明了极小值序列强收敛于$C^0$中的PDE解.此外,我们表明,如果每个极小满足初始/边界条件,收敛模式成为$H^1$。计算的例子来说明我们的理论研究结果。据我们所知,这是第一个显示PINN一致性的理论工作。
2020-10-21 cs.LG cs.NA math.NA
VS-PINN: A fast and efficient training of physics-informed neural networks using variable-scaling methods for solving PDEs with stiff behavior
Inha University(仁荷大学)
针对具有刚性或高频特性的偏微分方程求解中PINNs训练困难的问题,提出基于可变缩放技术的VS-PINN方法,经实验验证可提升训练效率与性能,并通过NTK分析给出理论支撑。
2024-07-12 cs.LG cs.NA math.NA
Solving PDEs with Unmeasurable Source Terms Using Coupled Physics-Informed Neural Network with Recurrent Prediction for Soft Sensors
Dalian University of Technology(大连理工大学)
针对具有不可测源项的非齐次偏微分方程,本文提出耦合物理信息神经网络CPINN-RP,通过NetU与NetG协同训练及循环预测补偿采样信息损失,提升软测量预测性能。
2023-07-11 cs.LG cs.NA math.NA
Physics-Informed Graph-Mesh Networks for PDEs: A hybrid approach for complex problems
MICS, CentraleSupélec, Université Paris Saclay(巴黎萨克雷大学中央高等电力学院MICS实验室);Transvalor S.A.(特兰斯瓦尔公司)
针对物理信息神经网络在复杂几何、泛化及自动微分方面的局限,提出融合图神经网络与有限元数值核的混合PDE求解框架,并通过理论分析、消融实验及二三维复杂几何测试验证其泛化能力。
2024-09-25 cs.LG cs.NA math.NA
Kolmogorov Arnold Informed neural network: A physics-informed deep learning framework for solving forward and inverse problems based on Kolmogorov Arnold Networks
Tsinghua University(清华大学);Bauhaus-Universität Weimar(魏玛包豪斯大学);CNPC Engineering Technology RD Company Limited(中国石油集团工程技术研究院有限公司);Queensland University of Technology(昆士兰科技大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
本文提出基于KAN的物理知情框架KINN,用于求解PDE正问题和反问题,并在多种固体力学算例中证明其在精度和收敛速度上显著优于基于MLP的PINNs。
2024-08-04 cs.LG cs.NA math.NA
Parameterized Physics-informed Neural Networks for Parameterized PDEs
Yonsei University(延世大学);Arizona State University(亚利桑那州立大学);LG CNS;Texas A&M University-Commerce(德州农工大学Commerce分校);Oregon State University(俄勒冈州立大学);KAIST(韩国科学技术院)
针对含参数PDE求解中PINNs需重复耗时训练的问题,提出显式编码参数潜在表示的P$^2$INNs,在1D、2D基准PDE上准确性和参数效率优于基线且能克服失效模式。
2024-08-18 cs.LG cs.NA math.NA
Automatic Differentiation from Scratch: How PyTorch Computes Gradients in Physics-Informed Neural Networks
CECA, Universidade Federal de Alagoas (UFAL)(塞阿拉,阿拉戈斯联邦大学)
研究PyTorch在物理信息神经网络中计算梯度的方式,借助1-3-3-1多层感知器和特定初值问题,追踪前向传播计算图、反向遍历及图中图机制,验证伴随值并联系相关框架与积,明确其计算梯度的完整流程。
2026-07-16 cs.LG cs.MS cs.NA
A Physics-Informed Neural Network Framework For Partial Differential Equations on 3D Surfaces: Time-Dependent Problems
University of Nevada, Las Vegas(内华达大学拉斯维加斯分校);University of Arkansas(阿肯色大学);Lehigh University(里海大学)
在本文中,我们展示了一个物理信息的神经网络求解器的时间依赖表面偏微分方程。与传统的数值求解器不同,该方法不需要在曲面上扩展偏微分方程和网格。我们显示了一个简化的表面微分算子的先验估计,使PINN的损失值将是一个指标的表面偏微分方程的残留物。数值实验验证了算法的有效性。
2021-03-19 cs.LG cs.NA math.NA
PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving Spatiotemporal PDEs
Northeastern University(东北大学);University of Notre Dame(圣母大学);MIT(麻省理工学院)
偏微分方程(PDE)在建模和模拟各种学科的问题中发挥着重要作用。深度学习的最新进展表明,物理信息神经网络(PINN)在解决偏微分方程方面具有巨大潜力,可作为数据驱动建模和逆分析的基础。然而,大多数现有的PINN方法,基于全连接的神经网络,造成内在的限制,低维时空参数化。此外,由于初始/边界条件(I/BC)是通过惩罚来软施加的,因此解的质量严重依赖于超参数调整。为此,我们提出了新的物理信息卷积递归学习架构(PhyCRNet和PhyCRNet-s),用于在没有任何标记数据的情况下求解偏微分方程。具体地,提出了用于低维空间特征提取和时间演化学习的编码器-解码器卷积长短期记忆网络。损失函数被定义为聚合的离散化PDE残差,而I/BC在网络中被硬编码以确保强制满足(例如,周期性边界填充)。网络通过自回归和残差连接进一步增强,显式模拟时间推进。我们提出的方法的性能已经通过求解三个非线性偏微分方程(例如,2D Burgers方程、$λ$ - $ω$和FitzHugh Nagumo反应扩散方程),并与最新基线算法进行比较。数值结果表明,我们所提出的方法的优越性,在解决方案的精度,外推性和推广。
2021-06-26 cs.CL cs.LG cs.NA
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating a class of inverse problems for PDEs
ETH Zürich(苏黎世联邦理工学院)
针对PDE数据同化与唯一延拓反问题,论文建立抽象框架并利用条件稳定性证明PINN泛化误差估计,辅以四类线性PDE示例和数值实验验证。
2023-12-06 cs.LG cs.NA math-ph
RANG: A Residual-based Adaptive Node Generation Method for Physics-Informed Neural Networks
Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院);Human Resource Center(人力资源中心)
基于物理信息神经网络(PINNs)的偏微分方程(PDE)求解方法由于其灵活性和易于合并观测数据而成为传统求解器的一种有吸引力的替代方法。尽管PINN在精确求解各种偏微分方程方面取得了成功,但该方法在计算效率方面仍然需要改进。一种可能的改进思路是优化训练点集的生成。基于残差的自适应采样和准均匀采样方法分别被应用于改善PINN的训练效果。为了从这两种方法中受益,我们提出了基于残差的自适应节点生成(RANG)方法,用于有效训练PINN,该方法基于RBF-FD的变密度节点分布方法。该方法还通过记忆机制来增强,以进一步提高训练稳定性。我们进行了实验,三个线性偏微分方程和三个非线性偏微分方程的各种节点生成方法,通过该方法的准确性和效率相比,占主导地位的均匀采样方法进行了数值验证。
2022-05-12 cs.LG cs.NA math.NA
Solving PDEs on Spheres with Physics-Informed Convolutional Neural Networks
Fudan University(复旦大学);University of Sydney(悉尼大学)
本文针对球面上的PDE求解问题,严格分析PICNN的Sobolev范数逼近误差与快速收敛速率,并通过实验验证,进而探讨缓解高维PDE维数灾难的策略。
2024-08-05 cs.LG cs.NA math.NA
FB-HyDON: Parameter-Efficient Physics-Informed Operator Learning of Complex PDEs via Hypernetwork and Finite Basis Domain Decomposition
Quantiphi(昆体菲科技)
针对现有神经算子需大量数据、物理信息算子训练复杂且难收敛的问题,提出结合超网络与有限基域分解的FB-HyDON架构,在多个PDE任务上实现性能提升。
2024-09-13 cs.LG cs.NA math.NA
SPIKANs: Separable Physics-Informed Kolmogorov-Arnold Networks
Pacific Northwest National Laboratory(西北太平洋国家实验室)
本文提出SPIKANs,通过将变量分离原理应用于PIKANs,使每个维度由独立KAN处理,降低高维PDE训练复杂度,在保持精度的同时提升可扩展性。
2024-11-09 cs.LG cs.NA math.NA
SVD-PINNs: Transfer Learning of Physics-Informed Neural Networks via Singular Value Decomposition
The University of Hong Kong(香港大学);Hong Kong Baptist University(香港浸会大学);NVIDIA(英伟达)
本文提出 SVD-PINNs,通过保持奇异向量并优化奇异值实现物理信息神经网络的迁移学习,以高效求解一类具有相近右端项的高维偏微分方程。
2024-03-14 cs.LG cs.NA math.NA
GPT-PINN: Generative Pre-Trained Physics-Informed Neural Networks toward non-intrusive Meta-learning of parametric PDEs
University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
针对物理 informed 神经网络(PINN)训练耗时、参数冗余的问题,提出生成式预训练 PINN(GPT-PINN),通过超精简元网络结合预训练 PINN 激活函数,实现参数化 PDE 全参数域高效准确的代理解生成。
2023-06-08 cs.LG cs.NA math.NA
PINNacle: A Comprehensive Benchmark of Physics-Informed Neural Networks for Solving PDEs
Tsinghua University(清华大学);University of Pennsylvania(宾夕法尼亚大学)
针对现有物理信息神经网络缺乏跨多类偏微分方程全面比较的问题,研究推出包含20余种PDE、10种前沿方法的基准工具PINNacle,通过大量实验分析方法优劣,为该领域后续研究提供指导。
2023-10-05 cs.LG cs.NA math.NA
Parallel Physics-Informed Neural Networks with Bidirectional Balance
Beijing Jiaotong University(北京交通大学)
物理信息神经网络(PINN)作为深度学习领域的新兴技术,已被广泛应用于工程中各种偏微分方程(PDE)的求解。然而,基于实际考虑的偏微分方程包含多个物理量和复杂的初始边界条件,因此PINN经常返回错误的结果。本文以多层织物中的热传递问题为例。它是由多个温度场耦合而成的,相关性很强,不同维度间变量值极不平衡。我们阐明了经典PINN解决此类问题的潜在困难,并提出了一种具有双向平衡的并行物理信息神经网络。详细地说,我们的并行求解框架通过几个多层感知同步拟合耦合方程。此外,我们设计了两个模块来平衡数据的前向处理和损失梯度的反向传播过程。这种双向平衡不仅使整个网络稳定收敛,而且有助于充分了解PDE中的各种物理条件。我们提供了一系列的烧蚀实验来验证所提出的方法的有效性。结果表明,我们的方法使PINNs不可解问题可解,并取得了良好的求解精度。
2021-11-10 cs.LG cs.NA math.NA
Spectrally Adapted Physics-Informed Neural Networks for Solving Unbounded Domain Problems
Dept.~of Mathematics, UCLA(UCLA数学系);Dept.~of Computational Science and Philosophy, Frankfurt School of Finance and Management(金融与管理法兰克福学院计算科学与哲学系)
本文提出结合自适应谱方法与物理信息神经网络,解决无界域PDE问题,提升对无界变量依赖性的求解效率与精度。
2023-02-28 cs.LG cs.NA math.AP
iPINNs: Incremental learning for Physics-informed neural networks
Delft University of Technology(代尔夫特理工大学);Brown University(布朗大学)
本文提出增量物理信息神经网络(iPINNs),通过子网络重叠和从简到繁的顺序训练,在不增加参数的情况下依次学习多个 PDE,并在对流与反应-扩散方程场景中取得优于普通 PINNs 的泛化与预测误差。
2023-04-10 cs.LG cs.NA math.NA
A Computational Comparison of Fourier Spectral Differentiation and Spatial Automatic Differentiation in Periodic Physics-Informed Neural Networks
Guangdong Technion–Israel Institute of Technology(广东以色列理工学院);Shandong University(山东大学)
该研究对比周期PINNs中傅里叶谱微分与空间AD的性能,发现前者在五种方程-框架设置中训练加速达2.90-18.52倍、内存降68.7%-94.1%,精度相当但需均匀空间网格。
2026-09-03 cs.LG
A Metalearning Approach for Physics-Informed Neural Networks (PINNs): Application to Parameterized PDEs
University of Utah(犹他大学)
物理信息神经网络(PINN)作为偏微分方程(PDE)离散化的一种手段,在计算科学与工程(CS&E)领域受到了广泛的关注。PINN目前至少存在两个挑战:了解可调参数的准确性和收敛特性,以及确定使PINN与其他计算科学工具一样有效的优化策略。PINN训练的成本仍然是物理信息机器学习(PiML)的主要挑战-事实上,一般的机器学习(ML)。本文旨在通过研究新任务上的PINN来解决后者,参数化PDE提供了一个很好的测试平台应用程序,因为在这种情况下可以很容易地定义任务。在ML世界之后,我们介绍了PINN的元学习及其在参数化PDE中的应用。通过引入元学习和迁移学习概念,我们可以大大加快PINN的优化过程。我们提出了一个模型不可知的元学习的调查,然后讨论我们的模型感知元学习应用于PINN以及实现的考虑因素和算法的复杂性。然后,我们测试我们的方法在各种规范的前向参数化偏微分方程,已在新兴的PINN文献。
2023-01-19 cs.LG physics.comp-ph
Symmetry group based domain decomposition to enhance physics-informed neural networks for solving partial differential equations
College of Science, Minzu University of China(中央民族大学理学院);College of Science, North China University of Technology(北方工业大学理学院)
本文提出基于对称群的区域分解策略,通过生成已知解信息的分界线划分不重叠子区域,分别利用对称增强的PINN求解PDE正逆问题,大幅提升了普通PINN在全域及扩展PINN在子区域内求解失败时的精度。
2024-04-29 cs.LG cs.NA math.NA
PIXEL: Physics-Informed Cell Representations for Fast and Accurate PDE Solvers
Sungkyunkwan University(成均馆大学)
随着计算能力的提高和机器学习的发展,基于数据驱动学习的方法在求解偏微分方程中得到了极大的关注。物理信息神经网络(PINN)最近出现并成功地解决了各种正向和逆偏微分方程问题,这要归功于其出色的特性,如灵活性、无网格解决方案和无监督训练。然而,它们的收敛速度较慢,相对不准确的解决方案往往限制了它们在许多科学和工程领域的广泛适用性。本文提出了一种新的数据驱动的偏微分方程求解器,物理信息单元表示(PIXEL),优雅地结合了经典的数值方法和基于学习的方法。我们采用了网格结构的数值方法,以提高精度和收敛速度,并克服了谱偏差PINNs。此外,所提出的方法在PINN中享有相同的益处,例如,使用相同的优化框架来解决正向和反向PDE问题,并且利用现代自动微分技术容易地实施PDE约束。我们提供了各种具有挑战性的偏微分方程的实验结果,原来的PINN一直在努力,并表明PIXEL实现快速收敛速度和高精度。项目页面:https://namgyukang.github.io/PIXEL/
2023-02-04 cs.LG cs.NA math.NA
Newton Informed Neural Operator for Computing Multiple Solutions of Nonlinear Partials Differential Equations
The Pennsylvania State University(宾夕法尼亚州立大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
提出牛顿知情神经算子,结合经典牛顿方法解决非线性PDE多重解问题,在单一学习过程中高效学习多重解且所需监督数据更少。
2024-05-23 cs.LG cs.NA math.NA
Quantum-classical physics-informed Kolmogorov-Arnold networks for PDEs
School of Petroleum Engineering, Yangtze University(扬州大学石油工程学院);School of Computer Science, Yangtze University(扬州大学计算机科学学院);State Key Laboratory of Low Carbon Catalysis and Carbon Dioxide Utilization (Yangtze University)(扬州大学低碳催化与二氧化碳利用国家重点实验室);Western Research Institute, Yangtze University(扬州大学西部研究院)
提出QCPIKAN,首个量子-经典物理信息Kolmogorov-Arnold网络,结合Chebyshev多项式KAN层和参数化量子电路,通过嵌入物理约束加速高频误差指数收敛并抑制数值色散,在多孔介质渗流场景中优于现有量子-经典PINN。
2026-06-23 cs.LG physics.comp-ph
Tackling the Curse of Dimensionality in Fractional and Tempered Fractional PDEs with Physics-Informed Neural Networks
National University of Singapore(新加坡国立大学);Worcester Polytechnic Institute(伍斯特理工学院);Brown University(布朗大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
本文将 MC-fPINN 扩展为 MC-tfPINN,并用一维 Gaussian 求积替代 Monte Carlo 采样,在高达 100,000 维的分数阶与缓增分数阶 PDE 正、反问题中提升了精度和收敛速度。
2024-06-17 cs.LG cs.NA math.DS
Geometry-Informed Neural Operator for Large-Scale 3D PDEs
NVIDIA(英伟达)
提出几何信息神经算子GINO,结合图与傅里叶神经算子处理变几何大规模3D PDE,仅用500数据点预测汽车表面压力,比CFD快26000倍,误差降低四分之一。
2023-09-01 cs.LG cs.NA math.NA
Adversarial Multi-task Learning Enhanced Physics-informed Neural Networks for Solving Partial Differential Equations
Osaka University(大阪大学);The Institute of Scientific and Industrial Research, Osaka University(大阪大学科学与工业研究所)
最近,研究人员利用神经网络来精确求解偏微分方程(PDE),使无网格方法的科学计算。不幸的是,当遇到高非线性域时,网络性能下降。为了提高泛化能力,我们引入了新的方法,采用多任务学习技术,不确定性加权损失和梯度手术,在学习PDE解决方案的背景下。多任务方案利用了学习共享表示的好处,由十字绣模块控制,多个相关PDE之间,这是通过改变PDE参数化系数,以更好地概括原始PDE。为了鼓励网络更加关注学习更具挑战性的高非线性域区域,我们还提出了对抗性训练来生成补充的高损失样本,这些样本与原始训练分布类似。在实验中,我们提出的方法被发现是有效的,并减少了错误的看不见的数据点相比,以前的方法在各种PDE的例子,包括高维随机PDE。
2021-05-12 cs.LG cs.NA math.NA
Over-PINNs: Enhancing Physics-Informed Neural Networks via Higher-Order Partial Derivative Overdetermination of PDEs
State Key Laboratory of Tribology(摩擦学国家重点实验室)
提出 Over-PINNs 框架,利用自动微分构造高阶 PDE 辅助约束并加入损失函数,以较低额外计算成本提升 PINNs 求解多种 PDE 的精度。
2025-06-06 cs.LG
Quasi-Random Physics-informed Neural Networks
Skolkovo Institute of Science and Technology(斯克尔克沃科学与技术研究所)
本文提出准随机物理信息神经网络,通过低分歧序列采样提升高维PDE求解效率,实验显示其优于传统PINNs和自适应采样方法。
2025-07-10 cs.AI cs.LG cs.NA
Spectral-Informed Neural Networks Outperform Spectral Methods in High-dimensional PDEs
Applied AI Institute(应用人工智能研究所)
研究高维偏微分方程问题,核心方法是将谱方法与PINNs结合成改进的SINNs,通过系数衰减缩放和基嵌入提升精度。主要贡献是在中维问题上优于稀疏网格谱方法,在高维问题上比PINNs精度更高。
2026-07-16 cs.AI cs.CE cs.LG
Learning universal approximations for partial differential equations with Physics-Informed Broad Learning System
School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Peng Cheng Laboratory(鹏城实验室);School of Future Technology, South China University of Technology(华南理工大学未来技术学院);School of Computer Science and Technology, Guangdong University of Technology(广东工业大学计算机科学与技术学院);Department of Industrial and Systems Engineering, The Hong Kong Polytechnic University(香港理工大学工业及系统工程学系)
提出物理信息广度学习系统(PIBLS),通过无反向传播的最小二乘优化高效求解线性和非线性偏微分方程,比传统PINN快1-3个数量级且精度更高。
2026-06-19 cs.LG cs.NA math.NA
Error Analysis of Physics-Informed Neural Networks for Approximating Dynamic PDEs of Second Order in Time
Xiangtan University(湘潭大学);Northwest University(西北大学);Purdue University(普渡大学)
研究了一类二阶动力学偏微分方程的物理信息神经网络(PINN)逼近问题,给出了PINN对波动方程、Sine-Gordon方程和线性弹性动力学方程的误差分析.我们的分析表明,前馈神经网络具有两个隐藏层和$\tanh$激活函数,PINN逼近误差的解决方案领域,其时间导数和其梯度场可以有效地限制的训练损失和训练数据点(正交点)的数量。我们的分析进一步提出了新的形式的训练损失函数,其中包含某些残差是至关重要的误差估计,但会缺席的规范PINN损失制定。采用这些新形式的损失函数导致一个变种PINN算法。我们用新的PINN算法对波动方程、Sine-Gordon方程和线性弹性动力学方程进行了大量的数值实验,结果表明该方法能很好地捕获解。
2023-03-22 cs.LG cs.NA math.NA
QCPINN: Quantum-Classical Physics-Informed Neural Networks for Solving PDEs
Computational Science and Engineering Department, Informatics Institute Istanbul Technical University(信息学院理工学院计算科学与工程系);Scientific Computing, Rutherford Appleton Laboratory Science and Technology Facilities Council (STFC)(科学与技术设施委员会(STFC)科学计算部)
本文提出融合量子与经典组件的 QCPINN,通过系统评估电路架构,在五个 PDE 基准上以经典 PINN 仅 10–30% 的参数保持相当精度并降低 L_2 误差。
2025-10-18 cs.LG quant-ph
Deep NURBS -- Admissible Physics-informed Neural Networks
University of Nottingham(诺丁汉大学);RWTH Aachen University(亚琛工业大学);King Abdullah University of Science & Technology (KAUST)(阿卜杜拉国王科技大学)
本文提出一种结合容许NURBS参数化的Deep NURBS框架,在任意几何形状下严格满足Dirichlet边界条件,实现偏微分方程的高精度低成本求解,且收敛速率和精度显著优于经典PINN求解器。
2024-07-29 cs.LG cs.NA math.NA
A Systematic Analysis of Automatic Differentiation versus Discretization-based Constraints for Physics-Informed PDE Solvers
Sun Yat-sen University(中山大学);National Key Laboratory of Aerospace Physics in Fluids(国家航空航天流体物理重点实验室)
本文系统比较了物理信息神经网络中自动微分与基于离散化的约束,发现随非线性增强后者精度优势更显著,且GNN优于MLP,为工程应用提供配置指南。
2026-09-09 cs.LG cs.NA math.NA
Physics-Informed Neural Networks and Radial Basis Functions for PDEs with Dirac Delta Sources
Department of Civil and Environmental Engineering, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校土木与环境工程系)
针对含狄拉克δ项的偏微分方程,通过将物理信息神经网络解释为残差最小二乘法,利用弱形式直接处理δ项,并对比径向基函数展开方法,发现径向基函数-残差最小二乘法在输运问题中更稳定。
2026-06-12 cs.LG
Anisotropic, Sparse and Interpretable Physics-Informed Neural Networks for PDEs
Indian Institute of Technology Bombay(印度理工学院孟买分校)
人们对使用深度神经网络(DNN)来求解偏微分方程(PDE)越来越感兴趣。尽管这些方法有希望,但仍有许多方面可以改进。两个这样的缺点是(i)相对于经典数值方法,它们的计算效率低下,以及(ii)训练的DNN模型的不可解释性。在这项工作中,我们提出了ASPINN,我们早期的工作称为SPINN的各向异性扩展-稀疏,物理信息和可解释的神经网络-解决这些问题的PDE。ASPINN一般化了径向基函数网络。我们使用各种涉及椭圆和双曲偏微分方程的例子证明,我们提出的特殊架构比通用DNN更有效,同时可以直接解释。此外,它们改进了我们之前提出的SPINN模型,因为使用ASPINN比使用SPINN需要更少的节点来捕获解决方案,这要归功于每个节点的局部影响区域的各向异性。ASPINN的可解释性转化为它们的权重和偏差的现成可视化,从而更深入地了解训练模型的性质。这反过来又提供了一个系统的过程,以改善架构的基础上计算的解决方案的质量。因此,ASPINN作为一个有效的桥梁之间的经典数值算法和现代DNN为基础的方法来解决偏微分方程。在这个过程中,我们还将ASPINN的训练简化为更接近监督学习算法的形式。
2022-12-23 cs.LG
Distributional Offline Continuous-Time Reinforcement Learning with Neural Physics-Informed PDEs (SciPhy RL for DOCTR-L)
Fidelity Investments(富达投资)
针对高维最优控制问题,提出了一种基于随机策略的分布式离线连续时间强化学习(DOCTR-L)方法.利用半线性偏微分方程给出了经典Hamilton-Jacobi-Bellman(HJB)方程的软分布形式。这个“软HJB方程”可以从离线数据中学习,而无需假设后者对应于先前的最优或接近最优的政策。软HJB方程的数据驱动解决方案使用在科学机器学习(SciML)领域中开发的神经PDE和物理信息神经网络的方法。因此,被称为“SciPhy RL”的建议方法将DOCTR-L简化为从数据中解决神经PDE。我们的算法称为Deep DOCTR-L,通过将其简化为监督学习,而不是依赖于值迭代或策略迭代方法,将离线高维数据一步转换为最优策略。该方法使一个可计算的方法获得的政策的预期回报和不确定性,他们的价值方面的质量控制。
2021-04-02 cs.AI cs.LG physics.comp-ph
Tackling the Curse of Dimensionality with Physics-Informed Neural Networks
National University of Singapore(新加坡国立大学);Brown University(布朗大学)
针对高维偏微分方程求解的维数灾难难题,提出随机维度梯度下降法扩展物理信息神经网络,理论证明收敛性,实验验证可在单GPU上快速求解十万维级非线性偏微分方程,且可适配各类PINNs变体。
2024-05-17 cs.AI cs.LG cs.NA
CP-PINNs: Data-Driven Changepoints Detection in PDEs Using Online Optimized Physics-Informed Neural Networks
Stony Brook University(石溪大学);Center of Excellence in Wireless and Information Technology(无线与信息技术卓越中心);Institute for Advanced Computational Science(高级计算科学研究所)
本文提出CP-PINNs,通过在物理信息神经网络中引入总变差惩罚和在线损失重加权,解决PDE动力学参数随机时间发生突变时的逆问题,实现变点检测与参数估计的同步优化。
2024-04-01 cs.AI cs.LG cs.NA
Adaptive Collocation Point Strategies For Physics Informed Neural Networks via the QR Discrete Empirical Interpolation Method
Rice University(里士大学);The University of Texas MD Anderson Cancer Center(德克萨斯大学MD安德森癌症中心)
针对固定配置点采样难以捕捉高梯度区域的问题,提出基于QR-DEIM的两种自适应配置点选择策略,在基准PDE上提升PINN精度。
2025-08-07 cs.CE cs.LG cs.NA
CAN-PINN: A Fast Physics-Informed Neural Network Based on Coupled-Automatic-Numerical Differentiation Method
Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局(A*STAR));Nanyang Technological University(南洋理工大学)
在这项研究中,新的物理通知神经网络(PINN)的方法耦合相邻的支持点和它们的衍生条款,这是通过自动微分(AD),提出了允许有效的训练,提高精度。在配置点处PINN损失评估所需的微分算子的计算通常通过AD获得。虽然AD具有能够计算任何点处的精确梯度的优点,但是这样的PINN只能在大量配置点的情况下实现高精度,否则它们倾向于朝着非物理解决方案进行优化。为了使PINN训练速度更快,采用数值微分法和AD耦合的双重思想来定义损失函数。基于ND的训练损失公式可以强有力地连接相邻的配置点,以实现稀疏样本区域的有效训练,但其精度受到插值方案的限制。被标记为can-PINN的所提出的耦合自动数值微分框架结合了AD和ND的优点,提供了比基于AD的PINN更鲁棒和更有效的训练,同时相对于基于ND的PINN进一步提高了高达1-2个数量级的精度。为了验证该can格式在流体动力学问题中的概念性,推导了两个包含对流项和压力梯度项的can-PINN格式的数值实例,并将其用于求解不可压N-S方程。在几个具有挑战性的问题,包括流动混合现象,盖驱动的流动在一个腔体中,和通道流后向台阶上的can PINNs的优越性能被证明。结果表明,对于这些具有挑战性的问题,can-PINN可以始终实现非常好的精度,而传统的基于AD的PINN则会失败。
2022-03-27 cs.CE cs.LG cs.NA
Error Bounds for Physics-Informed Neural Networks in Fokker-Planck PDEs
Dept. of Aerospace Eng. Sciences University of Colorado Boulder(航空航天工程科学系,科罗拉多大学博尔德分校);Center for Systems and Control Delft University of Technology(系统与控制中心,代尔夫特理工大学)
本文提出利用物理信息神经网络近似Fokker-Planck偏微分方程的解,并分析其误差界,验证了该方法在非线性、高维和混沌系统中的有效性及计算效率。
2025-10-08 cs.AI cs.LG cs.NA
A Convex Quasilinearization Method for Solving Nonlinear PDEs with Physics-Informed Neural Networks
Texas A\&M University, College Station, Texas, U.S.A.(德克萨斯大学阿姆斯特朗分校)
提出LiL-Q方法,通过Bellman-Kalaba拟线性化将非线性PDE转化为线性子问题序列,采用线性参数化试验空间(LiL)和凸最小二乘求解,避免非凸梯度训练,理论保证牛顿-康托罗维奇收敛,在多个基准上以少量外迭代达到高精度。
2026-06-17 cs.LG cs.NA math.NA
A physics-informed neural network framework for modeling obstacle-related equations
African Institute for Mathematical Sciences(非洲数学科学研究所);Technical University Berlin(柏林工业大学);German Aerospace Center (DLR)(德国航空航天中心);Quantum leap Africa(非洲量子飞跃组织)
本文将物理信息神经网络(PINNs)扩展用于求解带障碍约束的偏微分方程,并在规则与不规则障碍下的线性和非线性PDEs场景中验证了其性能。
2024-10-21 cs.IT cs.LG cs.NA
Investigating and Mitigating Failure Modes in Physics-informed Neural Networks (PINNs)
University of Pittsburgh(匹兹堡大学)
本文针对物理信息神经网络求解偏微分方程时面临的非凸损失景观和高阶导数导致的梯度污染问题,提出绕过高阶导数计算并采用自适应学习率的双重无约束方法,降低搜索空间维度,使非光滑解的PDEs学习成为可能。
2023-05-08 cs.LG cs.NA math.NA
Spline-PINN: Approaching PDEs without Data using Fast, Physics-Informed Hermite-Spline CNNs
University of Bonn(波恩大学);Delft University of Technology(代尔夫特理工大学);RWTH Aachen University(亚琛工业大学)
偏微分方程(PDE)是出了名的难以求解。一般来说,封闭形式的解决方案是不可用的,数值逼近方案是计算昂贵的。在本文中,我们提出了一种新的技术,结合了两个最近出现的机器学习为基础的方法的优势,接近偏微分方程的解决方案。首先,物理信息神经网络(PINN)学习PDE的连续解,并且可以在几乎没有地面真实数据的情况下进行训练。然而,PINN并不能很好地推广到看不见的域。第二,卷积神经网络提供快速推理和泛化,但要么需要大量的训练数据,要么需要基于有限差分的物理约束损失,这可能导致不准确和离散化伪像。我们利用这两种方法的优点,通过使用Hermite样条内核,以连续插值基于网格的状态表示,可以处理的CNN。这允许在没有任何预先计算的训练数据的情况下仅使用物理通知的损失函数进行训练,并提供推广到看不见的域的快速、连续的解决方案。以不可压Navier-Stokes方程和阻尼波动方程为例,证明了该方法的潜力。我们的模型能够学习一些有趣的现象,如卡门涡街,马格努斯效应,多普勒效应,干涉图案和波反射。我们的定量评估和交互式实时演示表明,我们正在缩小基于无监督ML的方法与工业CFD求解器在准确性方面的差距,同时速度也快了几个数量级。
2022-03-22 cs.CE cs.LG physics.flu-dyn
Revisiting PINNs: Generative Adversarial Physics-informed Neural Networks and Point-weighting Method
Dalian University of Technology(大连理工大学);Harbin Institute of Technology(哈尔滨工业大学);JD Explore Academy(京东探索研究院)
物理信息神经网络(PINN)为数值求解偏微分方程(PDE)提供了一个深度学习框架,并已被广泛应用于各种PDE问题。然而,在PINN的应用中仍然存在一些挑战:1)PINN的机制不适合(至少不能直接应用)利用小尺寸(通常很少)的额外信息样本来细化网络;以及2)对于一些复杂的PDE,训练PINN的效率通常变低。在本文中,我们提出了生成对抗物理信息神经网络(GA-PINN),它集成了生成对抗(GA)机制与PINN的结构,提高PINN的性能,只利用一个小规模的精确解的偏微分方程。受Adaboost方法的加权策略的启发,我们引入了点加权(PW)方法来提高PINN的训练效率,其中每个样本点的权重在每次训练迭代时自适应地更新。数值实验表明,GA-PINN在许多著名的偏微分方程中的性能优于PINN,PW方法也提高了训练PINN和GA-PINN的效率。
2022-05-18 cs.LG
One-Step Evolution for Long-Time Extrapolation: An Error-Bound-Informed and Prior-Guided Neural Residual Framework for Autonomous PDEs
Ocean University of China(中国海洋大学);University of Glasgow(格拉斯哥大学)
该研究针对自主PDE长时间外推的误差问题,提出误差界感知与先验引导的神经残差框架,经多基准案例验证,其外推误差低于数值先验及十种对比方法,可提升无真实轨迹监督的PDE长时间模拟精度。
2026-08-25 cs.AI cs.LG
Error Analysis and Numerical Algorithm for PDE Approximation with Hidden-Layer Concatenated Physics Informed Neural Networks
Xi’an University of Technology(西安理工大学);Northwest University(西北大学);Purdue University(普渡大学)
本文提出HLConcPINN方法,结合隐层拼接网络、分块时间推进和物理信息策略逼近抛物型与双曲型偏微分方程,建立误差界并推广了仅限两层和tanh激活的既有理论保证方法。
2024-06-10 cs.LG cs.NA math.NA
Physics informed WNO
Indian Institute of Technology (IIT) Delhi(印度理工学院德里分校)
深度神经算子被认为是学习复杂偏微分方程(PDE)解算子的有效工具。与费力的分析和计算工具相比,单个神经算子可以预测不同初始或边界条件和不同输入的偏微分方程的解。最近提出的小波神经算子(WNO)就是这样一个算子,利用小波的时频局部化的优势,有效地捕捉在空间域中的流形。虽然WNO已被证明是一种很有前途的操作员学习方法,但该框架的数据饥渴性质是一个主要缺点。在这项工作中,我们提出了一个物理通知WNO学习的参数偏微分方程的家庭没有标记的训练数据的解决方案运营商。该框架的有效性进行了验证,并说明与工程和科学的各个领域相关的四个非线性时空系统。
2023-02-12 cs.LG stat.ML
Soft Partition-based KAPI-ELM for Multi-Scale PDEs
CREATIS Biomedical Imaging Laboratory INSA, CNRS UMR 5220, Inserm, Universit´e Lyon 1(CREATIS生物医学成像实验室,INSA,CNRS UMR 5220,Inserm,里昂大学)
本文提出了一种基于软分区的KAPI-ELM方法,用于高效求解多尺度PDEs,通过自适应核参数实现高精度且无需复杂架构的解决方案。
2026-01-13 cs.LG