Physics-informed neural networks for the shallow-water equations on the sphere
Memorial University of Newfoundland(纽芬兰纪念大学);Universität Wien(维也纳大学);Institute of Mathematics of NAS of Ukraine(乌克兰国家科学院数学研究所)
本研究提出将物理 informed 神经网络用于求解球面上的浅水方程,针对长间隔训练难题提出多模型序列训练方法,并通过自定义层编码边界条件,在经典测试案例中验证了方法有效性。
2022-02-12 cs.AI cs.LG cs.NA
Lecture notes on Physics Informed Neural Networks, Neural Operators, and their applications
Free University of Bozen-Bolzano(博尔扎诺自由大学)
本讲义介绍物理信息神经网络与神经算子的概念、PyTorch实现及PhysicsNeMo应用,涵盖混合模型、傅里叶神经算子等前沿主题,面向多领域实际问题。
2026-09-17 cs.AI cs.CE cs.LG
Conformal mapping based Physics-informed neural networks for designing neutral inclusions
Department of Mathematical Sciences, Korea Advanced Institute of Science and Technology(韩国科学技术院数学科学系);Department of Artificial Intelligence, Chung-Ang University(Chung-Ang 大学人工智能系)
本文提出CoCo-PINNs,结合共形映射与物理信息神经网络,解决中性包含体设计问题,提升PINNs的可信度、一致性和稳定性。
2026-02-02 cs.AI cs.LG math.AP
Scalable algorithms for physics-informed neural and graph networks
Massachusetts Institute of Technology(麻省理工学院);Sandia National Laboratories(桑迪亚国家实验室)
物理信息机器学习(PIML)已经成为一种很有前途的新方法,用于模拟复杂的物理和生物系统,这些系统由复杂的多尺度过程控制,其中一些数据也是可用的。在某些情况下,目标是从可用的数据中发现隐藏的物理部分,并且PIML已经被证明对于常规方法可能失败的此类问题特别有效。与商业机器学习不同,深度神经网络的训练需要大数据,在PIML中大数据不可用。相反,我们可以通过使用物理定律并在时空域中的随机点上对其进行评估而获得的额外信息来训练这样的网络。这种基于物理学的机器学习将多模态和多保真度数据与数学模型相集成,并使用神经网络或图形网络来实现它们。在这里,我们回顾了将物理学嵌入机器学习的一些流行趋势,使用主要基于前馈神经网络和自动微分的物理信息神经网络(PINN)。对于更复杂的系统或系统和非结构化数据的系统,图神经网络(GNN)呈现出一些明显的优势,在这里,我们回顾了如何使用基于图外部演算的GNN来实现物理信息学习以构建微分算子;我们将这些架构称为物理信息图网络(PIGN)。我们提出了正问题和逆问题的代表性例子,并讨论了扩大PINN,PIGN和更广泛的GNN用于大规模工程问题所需的进展。
2022-05-16 cs.AI cs.DC cs.LG
Modelling of Underwater Vehicles using Physics-Informed Neural Networks with Control
Aarhus University(奥胡斯大学);EIVA a/s(艾瓦公司)
本研究提出带控制的物理信息神经网络(PINC)框架的开源实现,利用初始状态、控制动作和时间输入对水下航行器动力学进行建模,实现训练域外的物理一致过渡,在模拟中比非物理信息基线具有更准确的长时程预测。
2025-04-28 cs.AI cs.LG cs.RO
Physics-informed neural networks for diffraction tomography
École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
我们提出了一个物理信息的神经网络作为生物样品的断层重建的前向模型。我们证明,通过训练这个网络与亥姆霍兹方程作为一个物理损失,我们可以准确地预测散射场。它将表明,一个预先训练的网络可以微调不同的样本,并用于解决散射问题比其他数值解快得多。我们评估我们的方法与数值和实验结果。我们的物理信息神经网络可以推广到任何正向和反向散射问题。
2022-07-28 cs.AI cs.CE physics.optics
Learning Stochastic Dynamics with Statistics-Informed Neural Network
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);NVIDIA Corporation(英伟达公司);University of California, Merced(加州大学默塞德分校)
我们介绍了一个机器学习框架命名为随机神经网络(SINN)的学习随机动态数据。这种新的架构理论上的灵感来自于随机系统的普遍逼近定理,我们在本文中介绍,和随机建模的投影算子形式主义。我们设计了用于训练神经网络模型的机制,以再现目标随机过程的正确\emph{statistical}行为。数值仿真结果表明,训练好的SINN可以可靠地逼近马尔可夫和非马尔可夫随机动力学。我们证明了SINN的适用性粗粒化问题和过渡动力学建模。此外,我们表明,得到的降阶模型可以训练时间粗粒度的数据,因此非常适合于稀有事件模拟。
2022-11-21 cond-mat.stat-mech cs.AI cs.LG
Self-adaptive weights based on balanced residual decay rate for physics-informed neural networks and deep operator networks
Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对物理信息神经网络训练中不同训练点残差收敛速率差异导致整体收敛被最慢点主导的问题,提出一种平衡残差衰减率的逐点自适应加权方法,显著提升了预测精度、收敛速度与训练稳定性。
2025-09-16 cs.AI cs.LG stat.ML
Element-wise Multiplication Based Deeper Physics-Informed Neural Networks
Lancaster University(兰卡斯特大学);University of Western Ontario(西安大略大学)
针对物理信息神经网络(PINNs)存在的表达能力不足与初始化病态问题,提出采用逐元素乘法运算的更深层PINN(Deeper-PINN),经多基准验证可有效缓解上述问题并增强表达能力。
2024-09-11 cs.AI cs.LG cs.NE
Evidential Physics-Informed Neural Networks
Gryphon Center for Artificial Intelligence and Theoretical Sciences(格里芬人工智能与理论科学中心);Georgia Institute of Technology(佐治亚理工学院);University of Pennsylvania(宾夕法尼亚大学)
我们提出了一类新型的物理信息神经网络,它是基于证据深度学习的原理制定的,其中该模型通过学习高阶分布的参数来整合不确定性量化。PDE剩余损失和数据拟合损失项的因变量和可训练变量被改写为证据先验分布的超参数的函数。我们的模型配备了一个信息理论正则化,其中包含两个逆伽马分布之间的Kullback-Leibler发散,表征预测的不确定性。相对于贝叶斯物理信息神经网络,我们的框架似乎对数据噪声表现出更高的敏感性,更忠实地保留边界条件,并产生更接近标称值的经验覆盖概率。为了研究其相关性的科学发现的数据采掘,我们演示了如何将我们的模型,涉及一维和二维非线性微分方程的反问题。
2025-01-27 cs.AI cs.LG physics.comp-ph
Physics Informed Piecewise Linear Neural Networks for Process Optimization
Koç University(科奇大学);Koç University TUPRAS Energy Center (KUTEM)(科奇大学TUPRAS能源中心)
由于实际过程的复杂性,构建第一性原理模型通常是一项具有挑战性和耗时的任务。另一方面,数据驱动的建模,特别是神经网络模型,往往会遇到过拟合和缺乏有用的高质量数据等问题。与此同时,将训练好的机器学习模型直接嵌入到最优化问题中已经成为代理优化的有效和最先进的方法,其性能可以通过物理信息训练来提高。在本研究中,提出以物理知识提升分段线性类神经网路模型,以解决嵌入类神经网路模型的最优化问题。除了使用广泛接受的自然分段线性整流线性单元(ReLU)激活函数外,本研究还建议对双曲正切激活函数进行分段线性逼近以拓宽域。对调合过程、工业精馏塔和原油塔三个实例进行了优化研究。对于所有情况,基于物理信息的训练神经网络的最优结果更接近全局最优。最后,最优化问题的相关CPU时间比标准优化结果短得多。
2023-02-02 cs.AI math.OC
Physics-informed generative neural networks for RF propagation prediction with application to indoor body perception
Politecnico di Milano(米兰理工大学);Consiglio Nazionale delle Ricerche(国家研究委员会)
针对传统电磁人体模型预测射频传播耗时、难以满足实时成像需求的问题,本文提出结合电磁人体衍射原理的物理信息变分自动编码器模型,经经典衍射工具和全波仿真验证,可复现人体运动对电磁场的影响。
2024-05-15 cs.AI cs.SY eess.SP
Exactly conservative physics-informed neural networks and deep operator networks for dynamical systems
Memorial University of Newfoundland(纽芬兰纪念大学)
本文提出一种基于投影的方法,训练动力系统的精确保守物理信息神经网络与深度算子网络,将候选解映射至不变流形,在多个现实问题中表现远优于非保守方法。
2023-11-23 cs.LG cs.NA math.NA
Energy-based error bound of physics-informed neural network solutions in elasticity
University of Twente(特文特大学);Massachusetts Institute of Technology(麻省理工学院)
提出了一种基于能量的后验误差界,用于弹性力学问题的物理信息神经网络解。从混合形式的物理信息神经网络获得了一个容许的位移-应力解对,建议的误差界被公式化为由解对定义的本构关系误差。这样的误差估计器提供了神经网络离散化的全局误差的上界。边界属性,以及物理信息的神经网络解决方案的渐近行为,研究了一个演示的例子。
2022-05-29 cs.LG cs.NA math.NA
Error estimates for physics informed neural networks approximating the Navier-Stokes equations
ETH Zürich(苏黎世联邦理工学院);Brown University(布朗大学)
我们证明了严格的边界上的不可压缩Navier-斯托克斯方程的近似与(扩展)物理通知神经网络的错误。我们发现,潜在的PDE残差可以任意小的双曲正切神经网络与两个隐藏层。此外,总误差可以根据训练误差、网络大小和正交点的数量来估计。数值实验说明了理论。
2023-02-02 cs.LG cs.NA math.NA
An Analysis of Physics-Informed Neural Networks
University of Manchester(曼彻斯特大学)
虽然控制我们世界动力学的偏微分方程已经深入研究了几个世纪,但在复杂的高维条件和域中求解它们仍然是一个令人难以置信的巨大数学和计算挑战。分析方法使用起来可能很麻烦,数值方法可能会导致错误和不准确。最重要的是,有时我们缺乏足够的信息或知识来提出问题,以应用这些方法。在这里,我们提出了一种新的方法来逼近物理系统的解决方案-物理信息神经网络。介绍了人工神经网络的概念,定义了目标函数,讨论了优化策略。然后,将偏微分方程作为约束包括在优化问题的损失函数中,从而使网络能够获得其正在建模的物理系统的动态知识。一些直观的例子显示,更复杂的应用程序被认为是展示物理的力量通知神经网络,如在地震成像。对解的误差进行了分析,并提出了改进收敛性和/或解的精度的建议。在结论中也涉及到了问题和局限性,以及一些关于物理学知识的神经网络最有用的地方,以及它们下一步可以去哪里的想法。
2023-03-06 cs.LG cs.NA math.DS
Maximum-likelihood Estimators in Physics-Informed Neural Networks for High-dimensional Inverse Problems
Georgia Institute of Technology(佐治亚理工学院)
本文提出将逆物理信息神经网络构建为最大似然估计器,通过泰勒展开实现无超参数调优的误差传播,并利用奇异值分解降维和预条件协方差矩阵,用于高维耦合ODE逆问题求解。
2023-04-14 cs.LG cs.NA math.DS
A Physics-Informed Neural Network Framework For Partial Differential Equations on 3D Surfaces: Time-Dependent Problems
University of Nevada, Las Vegas(内华达大学拉斯维加斯分校);University of Arkansas(阿肯色大学);Lehigh University(里海大学)
在本文中,我们展示了一个物理信息的神经网络求解器的时间依赖表面偏微分方程。与传统的数值求解器不同,该方法不需要在曲面上扩展偏微分方程和网格。我们显示了一个简化的表面微分算子的先验估计,使PINN的损失值将是一个指标的表面偏微分方程的残留物。数值实验验证了算法的有效性。
2021-03-19 cs.LG cs.NA math.NA
Is $L^2$ Physics-Informed Loss Always Suitable for Training Physics-Informed Neural Network?
Carnegie Mellon University(卡内基梅隆大学);Zhejiang Lab(之江实验室);Peking University(北京大学)
物理信息神经网络(PINN)方法是使用深度学习求解偏微分方程的一种新的有前途的方法。$L^2$物理信息丢失是训练物理信息神经网络的事实标准。在本文中,我们通过研究损失函数和学习解决方案的近似质量之间的关系来挑战这种常见的做法。特别地,我们利用偏微分方程文献中的稳定性概念来研究学习解在损失接近零时的渐近行为。利用这一概念,我们研究了最优控制中一类重要的高维非线性偏微分方程--Hamilton-Jacobi-Bellman(HJB)方程,证明了对于一般的$L^p$ Physics-Informed Loss,只有当$p$足够大时,一类HJB方程才是稳定的.因此,常用的$L^2$损失不适合在这些方程上训练PINN,而$L^{\infty}$损失是更好的选择。基于理论上的见解,我们开发了一种新的PINN训练算法,以最大限度地减少HJB方程的$L^{\infty}$损失,这与对抗训练的精神相似。通过实验验证了该算法的有效性。我们的代码发布在https://github.com/LithiumDA/L_inf-PINN。
2022-12-30 cs.LG cs.NA math.NA
Newton Informed Neural Operator for Computing Multiple Solutions of Nonlinear Partials Differential Equations
The Pennsylvania State University(宾夕法尼亚州立大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
提出牛顿知情神经算子,结合经典牛顿方法解决非线性PDE多重解问题,在单一学习过程中高效学习多重解且所需监督数据更少。
2024-05-23 cs.LG cs.NA math.NA
Physics-Informed Neural Networks and Extensions
本文综述了物理信息神经网络(PINNs)这一科学机器学习核心方法,介绍其近期扩展,并展示了在数据驱动发现微分方程中的应用实例。
2024-08-29 cs.AI cs.LG
An extended physics informed neural network for preliminary analysis of parametric optimal control problems
SISSA(的里雅斯特国际高等研究院)
本文提出一种扩展的物理信息神经网络方法,通过将物理信息同时融入损失函数、增强输入和网络架构,实现参数化偏微分方程及最优控制问题的快速准确模拟。
2023-06-13 cs.LG cs.NA math.NA
THINNs: Thermodynamically Informed Neural Networks
Fakultät II(第二学院);Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克数学研究所)
本文提出热力学信息神经网络(THINNs),通过基于大偏差原理的物理信息惩罚项改进PINNs,以处理非平衡涨落系统,并给出后验估计和实证比较。
2025-09-23 cs.LG cs.NA math.NA
Physics-Informed Geometry-Aware Neural Operator
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出Physics-Informed Geometry-Aware Neural Operator (PI-GANO),通过几何编码器捕获域特征并集成至DCON架构,使物理信息神经算子能同时对PDE参数和域几何进行泛化,避免了昂贵的数据生成成本。
2024-11-13 cs.LG cs.NA math.NA
Physics-informed Neural Networks for Solving Nonlinear Diffusivity and Biot's equations
Technical University of Denmark(丹麦技术大学);The Danish Hydrocarbon Research and Technology Centre(丹麦碳氢化合物研究与技术中心)
本文介绍了应用物理信息神经网络解决非线性多物理问题的潜力,这是必不可少的许多领域,如生物医学工程,地震预报,地下能源收集。具体来说,我们研究如何扩展的物理信息的神经网络的方法来解决有关的非线性扩散系数和Biot方程的正问题和逆问题。我们探索的准确性的物理信息神经网络与不同的训练样本大小和超参数的选择。各种训练实现之间的随机变化的影响也进行了研究。在相反的情况下,我们还研究了噪声测量的影响。此外,我们解决了选择逆模型的超参数的挑战,并说明了这个挑战是如何链接到超参数选择执行的前一个。
2020-02-19 cs.CE cs.LG cs.NA
Numerical analysis of physics-informed neural networks and related models in physics-informed machine learning
ETH Zürich(苏黎世联邦理工学院);Seminar for Applied Mathematics(应用数学研讨会);ETH AI Center(苏黎世联邦理工学院人工智能中心)
本文系统综述了物理信息神经网络及其相关模型在偏微分方程数值模拟中的误差分析理论,统一分析逼近、泛化与训练误差,并指出训练误差是影响整体性能的关键瓶颈。
2024-01-30 cs.LG cs.NA math.NA
Neural Conjugate Flows: Physics-informed architectures with flow structure
提出Neural Conjugate Flows(NCF)架构,利用拓扑共轭使其同构于连续群且成为ODE流的通用近似器,实验证明其在推断潜在动力学时计算收益显著且训练速度更快。
2024-11-13 cs.LG cs.NA math.NA
High Precision Differentiation Techniques for Data-Driven Solution of Nonlinear PDEs by Physics-Informed Neural Networks
University of Calabria(卡拉布里亚大学)
本文考虑了具有给定初始条件的含时偏微分方程。提出了未知解关于时间变量的新的微分技术。结果表明,所提出的技术允许同时生成准确的高阶导数的一组空间点。然后,计算出的导数可以以不同的方式用于数据驱动的解决方案。在Tensorflow背景框架下,通过Python中的著名DeepXDE软件解决方案,针对三个现实生活中的偏微分方程:Burgers方程,Allen-Cahn方程和Schrodinger方程,提出了物理信息神经网络的应用。
2022-10-21 cs.LG cs.NA math.NA
IDRLnet: A Physics-Informed Neural Network Library
Defense Innovation Institute, Chinese Academy of Military Science(军事科学院国防创新研究院)
物理信息神经网络(PINN)是一种用于求解偏微分方程(PDE)模型的正问题和逆问题的科学计算框架。本文系统地介绍了IDRLnet,一个用PINN建模和求解问题的Python工具箱。IDRLnet为广泛的PINN算法和应用程序构建了框架。它提供了一种结构化的方式来将几何对象、数据源、人工神经网络、损失度量和优化器合并到Python中。此外,它还提供了解决噪声逆问题,变分最小化和积分微分方程的功能。新的PINN变体可以轻松集成到框架中。源代码、教程和文档可在\url{https://github.com/idrl-lab/idrlnet}上获得。
2021-07-09 cs.LG cs.NA math.NA
Ensemble learning for Physics Informed Neural Networks: a Gradient Boosting approach
University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种名为gradient boosting的新训练范式,通过使用一系列神经网络替代单一网络,显著提升了PINNs在多尺度和奇异扰动问题上的性能,并为在PINNs中应用集成学习技术开辟了新途径。
2024-03-26 cs.LG cs.NA math.NA
Numerical Methods For PDEs Over Manifolds Using Spectral Physics Informed Neural Networks
Tel Aviv University(特拉维夫大学)
提出谱物理信息神经网络求解流形上PDE,架构对齐谱方法,优于标准架构,并在热方程及球面、环面非线性方程上验证,含大规模泛化实验。
2023-09-03 cs.LG cs.NA math.NA
Collocation-based Robust Variational Physics-Informed Neural Networks (CRVPINN)
AGH University of Krakow(克拉科夫AGH大学);University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
针对变分物理信息神经网络(VPINNs)因引入Gram矩阵求逆导致训练缓慢的问题,本文提出CRVPINN算法,通过点配置方案与稀疏Gram矩阵的LU分解加速实现,并在Laplace、对流扩散和Stokes问题上验证了其高效性。
2024-10-16 cs.LG cs.NA math.NA
Number Theoretic Accelerated Learning of Physics-Informed Neural Networks
Hokkaido University(北海道大学);Kobe University(神户大学)
针对物理信息神经网络配点离散化误差问题,提出基于数论的 good lattice training 与周期化技巧,在保持竞争力性能的同时将配点需求降低 2–7 倍。
2024-12-10 cs.LG cs.NA math.NA
Fast-Forward Lattice Boltzmann: Learning Kinetic Behaviour with Physics-Informed Neural Operators
Centre for Computational Science, University College London, UK;Institute for Mechanics, Computational Mechanics Group, Technical University of Darmstadt, Germany;Centre for Dynamic Systems, University College London, UK;Department of Statistical Science, University College London, UK;Department of Physics, Eindhoven University of Technology, Eindhoven, Netherlands;Centre d'Enseignement et de Recherche en Environnement Atmosphérique (CEREA), \' E cole des Ponts;Computational Science Laboratory, Institute for Informatics, University of Amsterdam, the Netherlands;Centre for Advanced Research Computing, University College London, UK
本文提出面向LBE的物理信息神经算子框架,通过矩匹配约束与全局等变性绕开逐步碰撞求解,实现长时程预测、网格间泛化及跨碰撞模型适用。
2025-09-26 cs.LG nlin.CG physics.comp-ph
Multifidelity domain decomposition-based physics-informed neural networks and operators for time-dependent problems
Delft University of Technology(代尔夫特理工大学);Pacific Northwest National Laboratory(太平洋西北国家实验室);University of Washington(华盛顿大学)
本文针对时间相关问题中PINNs受谱偏差影响的问题,提出将多保真堆叠PINNs与时间域分解有限基PINNs相结合,并通过单摆、双频率及Allen-Cahn方程验证其有效性,同时将FBPINN扩展到多保真深度算子网络。
2024-06-06 cs.LG cs.NA math.NA
hp-VPINNs: Variational Physics-Informed Neural Networks With Domain Decomposition
Brown University(布朗大学);Worcester Polytechnic Institute(伍斯特理工学院);Pacific Northwest National Laboratory(太平洋西北国家实验室)
我们制定了一个一般的框架,hp变分物理信息神经网络(hp-VPINNs)的基础上的非线性近似的浅层和深层神经网络和hp细化通过区域分解和投影到空间的高阶多项式。试验空间是神经网络的空间,它是在整个计算域上全局定义的,而测试空间包含分段多项式。具体来说,在这项研究中,惠普细化对应于一个全局近似与本地学习算法,可以有效地本地化网络参数优化。我们展示了hp-VPINNs的精度和训练成本的几个数值例子的函数逼近和求解微分方程的优势。
2020-03-11 cs.LG cs.NA cs.NE
Can Physics-Informed Neural Networks beat the Finite Element Method?
University of Cambridge(剑桥大学);Heriot-Watt University(赫瑞-瓦特大学);Maxwell Institute for Mathematical Sciences(麦克斯韦数学科学研究所)
偏微分方程在物理、生物和其他科学中的许多过程和系统的数学建模中起着基础性的作用。为了模拟这样的过程和系统,往往需要对偏微分方程的解进行数值近似。例如,有限元法是这样做的常用标准方法。最近深度神经网络在各种近似任务中的成功激发了它们在偏微分方程的数值解中的使用。这些所谓的物理信息神经网络及其变体已经证明能够成功地近似大范围的偏微分方程。到目前为止,物理信息的神经网络和有限元法主要是在相互隔离的研究。在这项工作中,我们比较了系统的计算研究的方法。事实上,我们采用这两种方法来数值求解各种线性和非线性偏微分方程:泊松在一维,二维和三维,艾伦-卡恩在一维,半线性薛定谔在一维和二维。然后,我们比较计算成本和近似精度。在求解时间和精度方面,物理信息神经网络在我们的研究中还没有能够超过有限元法。在一些实验中,他们在评估解决的PDE方面更快。
2023-02-08 cs.LG cs.NA math.NA
Stacked networks improve physics-informed training: applications to neural networks and deep operator networks
Pacific Northwest National Laboratory(西北太平洋国家实验室);University of North Carolina(北卡罗来纳大学)
提出一种多保真度堆叠框架,通过逐步构建网络链提升物理信息神经网络和算子网络的表达能力,在非线性摆等基准上显著提高了求解准确性并减小了网络规模。
2023-11-21 cs.LG cs.NA math.NA
Laplace-fPINNs: Laplace-based fractional physics-informed neural networks for solving forward and inverse problems of subdiffusion
Shanghai Jiao Tong University(上海交通大学)
本文提出Laplace-fPINNs方法,通过避免引入辅助点和简化损失函数,有效解决了分数阶扩散方程正反问题中自动微分不适用于分数阶导数的挑战。
2023-04-03 cs.LG cs.NA math.NA
Label Propagation for Physics-Informed Neural Networks and Physics-Informed Gaussian Processes
Illinois Institute of Technology(伊利诺伊理工学院);Binghamton University(宾汉姆顿大学)
本文提出利用半监督标签传播技术训练物理信息神经网络和高斯过程,并通过协同训练整合两者,以改善边界和初始条件信息向物理域传播的问题,实验验证了其有效性。
2026-09-22 cs.LG
wPINNs: Weak Physics informed neural networks for approximating entropy solutions of hyperbolic conservation laws
ETH Zürich(苏黎世联邦理工学院)
物理信息神经网络(PINN)需要基础PDE的解的正则性以保证精确的近似。因此,他们可能会失败的近似间断解的偏微分方程,如非线性双曲型方程。为了改善这一点,我们提出了一种新的变种PINNs,称为弱PINNs(wPINNs)的标量守恒律的熵解的精确近似。wPINN基于近似残差的最小-最大最优化问题的解,该最小-最优化问题根据Kruzkhov熵定义,以确定近似熵解的神经网络的参数以及检验函数。我们证明了严格的界限wPINNs所产生的误差,并说明其性能,通过数值实验表明,wPINNs可以近似熵解准确。
2022-07-18 cs.LG cs.NA math.AP
KinForm: Kinetics Informed Feature Optimised Representation Models for Enzyme $k_{cat}$ and $K_{M}$ Prediction
University of Galway(Galway大学)
KinForm 通过融合多个蛋白质语言模型的中间层残基嵌入、结合位点概率加权池化、PCA 降维和相似性过采样,提升了酶动力学参数 $k_{cat}$ 和 $K_{M}$ 的预测准确性与泛化能力,并在低序列相似性场景下显著优于基线方法。
2025-07-19 cs.LG q-bio.QM
Physics-informed neural network method for modelling beam-wall interactions
Saitama Institute of Technology(埼玉工业大学)
本文提出了一种无网格方法来模拟粒子加速器中的束壁相互作用。我们的方法的关键思想是使用深度神经网络作为一组涉及粒子束和表面阻抗概念的偏微分方程的解决方案的代理。将该方法应用于具有薄导电涂层的加速器真空室的耦合阻抗,并与现有的解析公式进行了比较。
2022-01-05 cs.LG cs.NA math.NA
Data-driven and Physics Informed Modelling of Chinese Hamster Ovary Cell Bioreactors
Johns Hopkins University(约翰斯·霍普金斯大学);The Pennsylvania State University(宾夕法尼亚州立大学)
针对定量建模存在数学不一致的问题,提出融合物理定律与数据驱动的灰箱混合模型,通过将凸优化步骤编码为可微层,实现CHO细胞生物反应器动态演化的精准建模。
2023-05-05 cs.LG math.DS q-bio.QM
Understanding and mitigating gradient pathologies in physics-informed neural networks
University of Pennsylvania(宾夕法尼亚大学)
神经网络在不同科学领域的广泛使用通常涉及约束它们以满足某些对称性、守恒定律或其他领域知识。这种约束通常在模型训练期间作为软惩罚施加,并有效地充当经验风险损失的特定领域正则化器。物理信息神经网络是这种哲学的一个例子,其中深度神经网络的输出被约束为近似满足给定的偏微分方程组。在这项工作中,我们回顾了科学机器学习的最新进展,特别关注物理信息神经网络在预测物理系统的结果和从噪声数据中发现隐藏的物理学方面的有效性。我们还将识别和分析这种方法的基本失效模式,这种失效模式与模型训练期间导致不平衡反向传播梯度的数值刚度有关。为了解决这个问题,我们提出了一个学习率退火算法,利用梯度统计模型训练过程中,以平衡复合损失函数中不同的条款之间的相互作用。我们还提出了一种新的神经网络架构,更有弹性的梯度病理。总的来说,我们的发展为约束神经网络的训练提供了新的见解,并在计算物理学的一系列问题上将物理信息神经网络的预测准确性提高了50- 100倍。本手稿随附的所有代码和数据均可在\url{https://github.com/PredictiveIntelligenceLab/GradientPathologiesPINNs}上公开获取。
2020-01-13 cs.LG cs.NA math.NA
Learning Only On Boundaries: a Physics-Informed Neural operator for Solving Parametric Partial Differential Equations in Complex Geometries
University of Pennsylvania(宾夕法尼亚大学)
针对现有深度学习求解PDE需大量数据且受限于有界域的问题,提出基于边界积分方程的物理信息神经算子,仅在边界训练,减少采样点并加速训练,还可处理无界问题,经实验验证有效。
2023-08-24 cs.LG cs.NA math.NA
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating PDEs
ETH Zürich(苏黎世联邦理工学院)
针对 PINNs 求解 PDE 正问题,本文建立抽象框架并利用 PDE 稳定性,给出以训练误差和样本数表示的严格泛化误差上界,且通过非线性 PDE 示例与数值实验验证。
2023-12-06 cs.LG cs.NA math.AP
GFINNs: GENERIC Formalism Informed Neural Networks for Deterministic and Stochastic Dynamical Systems
Brown University(布朗大学)
我们提出的GENERIC形式主义知情的神经网络(GFINNs),遵守对称退化条件的GENERIC形式主义。GFINN包括两个模块,每个模块包含两个组件。我们使用一个神经网络,其架构的设计,以满足所需的条件,每个组件建模。组件式架构设计提供了将可用物理信息利用到神经网络中的灵活方法。我们从理论上证明了GFINNs有足够的表达能力来学习基本方程,从而建立了通用逼近定理。我们证明了GFINNs的性能在三个模拟问题:气体容器交换热量和体积,热弹性双摆和Langevin动力学。在所有的例子中,GFINNs优于现有的方法,因此表现出良好的精度在确定性和随机系统的预测。
2021-08-31 cs.LG math.DS
Transient Stability Analysis with Physics-Informed Neural Networks
Technical University of Denmark(丹麦技术大学)
我们探讨了使用物理信息的神经网络,大大加快解决常微分代数方程,管理电力系统动态的可能性。在暂态稳定评估中,传统的方法要么计算量大,要么需要模型简化,要么使用过于保守的代理模型。传统的神经网络可以规避这些限制,但面临着高质量的训练数据集的高需求,而他们忽略了底层的控制方程。物理信息的神经网络是不同的:它们将电力系统微分代数方程直接纳入神经网络训练,并大大减少了对训练数据的需求。本文深入研究了基于物理信息的神经网络在电力系统暂态稳定评估中的性能。引入一个新的神经网络训练过程,以促进彻底的比较,我们探讨如何物理知情的神经网络比较与传统的微分代数求解器和经典的神经网络在计算时间,数据的要求,和预测精度。我们说明了昆都尔两个区域系统的研究结果,并评估物理信息神经网络作为暂态稳定分析工具的机遇和挑战,突出可能的途径,以进一步发展这种方法。
2023-03-15 cs.LG cs.SY eess.SY
PIKFNO: An Interpretable Neural Operator Based on Physics Informed Kernel Function
本研究提出PIKFNO框架,通过物理信息核函数约束主干网络,采用两种核函数构建策略,在有限训练数据下提升了神经算子的预测精度、可解释性与泛化性能,为开发高性能可解释神经算子提供新路径。
2026-08-18 cs.LG
Neural Tangent Kernel of Neural Networks with Loss Informed by Differential Operators
Tsinghua University(清华大学);Yau Mathematical Sciences Center, Tsinghua University(清华大学丘成桐数学科学中心);Yanqi Lake Beijing Institute of Mathematical Sciences and Applications(雁栖湖北京数学科学与应用研究院)
本文针对物理信息损失下的深度神经网络建立NTK理论,分析其初始化与训练时的收敛及结构,证明微分算子通常不会加快特征值衰减或增强谱偏差,并以实验验证。
2025-03-14 cs.LG
Attentive Neural Processes and Batch Bayesian Optimization for Scalable Calibration of Physics-Informed Digital Twins
Mitsubishi Electric Research Laboratories(三菱电机研究实验室)
基于物理信息的动态系统模型是构建环境的数字孪生的关键组成部分。这些数字孪生可用于设计节能基础设施,但必须进行适当校准,以准确反映系统行为,用于下游预测和分析。现代建筑物的动力系统模型通常由大量参数描述,并且在仿真期间产生显著的计算开销。为了在不进行过度模拟的情况下处理数字孪生的大规模校准,我们提出了ANP-BBO:一种利用注意神经过程(ANP)的可扩展和可并行的批量贝叶斯优化(BBO)方法。
2021-06-29 cs.AI cs.LG math.OC
Informed Learning by Wide Neural Networks: Convergence, Generalization and Sampling Complexity
University of California, Riverside(加州大学河滨分校)
通过将领域知识与标记样本相结合,信息机器学习已经出现,以提高广泛应用的学习性能。尽管如此,严格的理解注入领域知识的作用一直探索不足。在本文中,我们考虑了一个知情的深度神经网络(DNN)与过参数化和领域知识集成到其训练目标函数,并研究领域知识如何以及为什么有利于性能。具体地说,我们定量地证明了领域知识在知情学习中的两个好处-正规化基于标签的监督和补充标记的样本-并揭示了在人口风险的约束下标签和知识的不确定性之间的权衡。在理论分析的基础上,提出了一种广义的知情训练目标,以更好地利用知识的优势,平衡标签和知识的一致性,并通过种群风险界进行了验证。我们对采样复杂性的分析揭示了如何选择知情学习的超参数,并进一步证明了知识知情学习的优势。
2022-07-02 cs.LG
NSGA-PINN: A Multi-Objective Optimization Method for Physics-Informed Neural Network Training
Purdue University(普渡大学)
本文提出了NSGA-PINN,一个多目标优化框架的有效训练的物理信息神经网络(PINNs)。所提出的框架使用非支配排序遗传算法(NSGA-II)来实现传统的随机梯度优化算法(例如,ADAM)来有效地逃离局部极小。此外,NSGA-II算法能够在物理信息训练期间精确地满足编码到损失函数中的初始和边界条件。我们证明了我们的框架的有效性,通过应用NSGA-PINN几个普通和偏微分方程问题。特别是,我们表明,该框架可以处理具有挑战性的逆问题与噪声数据。
2023-03-07 cs.LG