Survey of multifidelity methods in uncertainty propagation, inference, and optimization
在计算科学和工程的许多情况下,可以使用多个计算模型来描述感兴趣的系统。这些不同的模型具有不同的评估成本和不同的可靠性。通常,计算上昂贵的高保真度模型以当前应用所需的准确度描述系统,而较低保真度模型的准确度较低,但计算上比高保真度模型便宜。外环应用程序,如优化,推理和不确定性量化,需要在许多不同的输入多个模型评估,这往往会导致计算需求超过可用资源,如果只使用高保真模型。这项工作调查了多保真度方法,通过结合高保真度和低保真度模型评估来加速外环应用的解决方案,其中低保真度评估来自显式低保真度模型(例如,简化的物理近似、降阶模型、数据拟合替代等)与高保真模型的输出量近似。这些多保真度方法的总体前提是,利用低保真度模型来加速,而高保真模型保持在环路中以建立准确性和/或收敛保证。我们根据三类策略对多保真度方法进行分类:适应,融合和过滤。本文回顾了多保真度方法的不确定性传播,推理和优化的外循环上下文中。
2018-06-28 cs.NA math.NA stat.CO
Generic bounds on the approximation error for physics-informed (and) operator learning
ETH Zürich(苏黎世联邦理工学院);ETH AI Center(苏黎世联邦理工学院人工智能中心)
我们提出了一个非常通用的框架,用于推导物理信息神经网络(PINN)和算子学习架构(如DeepONets和FNOs)以及物理信息算子学习的近似误差的严格界限。这些界限保证了PINN和(物理信息)DeepONets或FNO将有效地近似通用偏微分方程(PDE)的基本解或解算子。我们的框架利用现有的神经网络近似结果,以获得更多涉及的学习结构的偏微分方程的界限。我们通过推导物理信息算子学习的近似误差的第一个严格界限,并通过显示PINN(以及物理信息DeepONets和FNO)减轻了近似非线性抛物型PDE的维数灾难,来说明一般框架。
2022-10-10 cs.LG cs.NA math.NA
Exactly conservative physics-informed neural networks and deep operator networks for dynamical systems
Memorial University of Newfoundland(纽芬兰纪念大学)
本文提出一种基于投影的方法,训练动力系统的精确保守物理信息神经网络与深度算子网络,将候选解映射至不变流形,在多个现实问题中表现远优于非保守方法。
2023-11-23 cs.LG cs.NA math.NA
Is $L^2$ Physics-Informed Loss Always Suitable for Training Physics-Informed Neural Network?
Carnegie Mellon University(卡内基梅隆大学);Zhejiang Lab(之江实验室);Peking University(北京大学)
物理信息神经网络(PINN)方法是使用深度学习求解偏微分方程的一种新的有前途的方法。$L^2$物理信息丢失是训练物理信息神经网络的事实标准。在本文中,我们通过研究损失函数和学习解决方案的近似质量之间的关系来挑战这种常见的做法。特别地,我们利用偏微分方程文献中的稳定性概念来研究学习解在损失接近零时的渐近行为。利用这一概念,我们研究了最优控制中一类重要的高维非线性偏微分方程--Hamilton-Jacobi-Bellman(HJB)方程,证明了对于一般的$L^p$ Physics-Informed Loss,只有当$p$足够大时,一类HJB方程才是稳定的.因此,常用的$L^2$损失不适合在这些方程上训练PINN,而$L^{\infty}$损失是更好的选择。基于理论上的见解,我们开发了一种新的PINN训练算法,以最大限度地减少HJB方程的$L^{\infty}$损失,这与对抗训练的精神相似。通过实验验证了该算法的有效性。我们的代码发布在https://github.com/LithiumDA/L_inf-PINN。
2022-12-30 cs.LG cs.NA math.NA
Energy-based error bound of physics-informed neural network solutions in elasticity
University of Twente(特文特大学);Massachusetts Institute of Technology(麻省理工学院)
提出了一种基于能量的后验误差界,用于弹性力学问题的物理信息神经网络解。从混合形式的物理信息神经网络获得了一个容许的位移-应力解对,建议的误差界被公式化为由解对定义的本构关系误差。这样的误差估计器提供了神经网络离散化的全局误差的上界。边界属性,以及物理信息的神经网络解决方案的渐近行为,研究了一个演示的例子。
2022-05-29 cs.LG cs.NA math.NA
Numerical analysis of physics-informed neural networks and related models in physics-informed machine learning
ETH Zürich(苏黎世联邦理工学院);Seminar for Applied Mathematics(应用数学研讨会);ETH AI Center(苏黎世联邦理工学院人工智能中心)
本文系统综述了物理信息神经网络及其相关模型在偏微分方程数值模拟中的误差分析理论,统一分析逼近、泛化与训练误差,并指出训练误差是影响整体性能的关键瓶颈。
2024-01-30 cs.LG cs.NA math.NA
An extended physics informed neural network for preliminary analysis of parametric optimal control problems
SISSA(的里雅斯特国际高等研究院)
本文提出一种扩展的物理信息神经网络方法,通过将物理信息同时融入损失函数、增强输入和网络架构,实现参数化偏微分方程及最优控制问题的快速准确模拟。
2023-06-13 cs.LG cs.NA math.NA
Trainable Spline Representations for Physics-Informed Learning
SISSA(国际高等研究院);FAST Computing Srl(快速计算公司)
研究提出物理信息样条(PI - 样条)架构用于物理信息学习,通过张量积B - 样条展开对未知场参数化,保留相关训练范式并具多种优势。在多基准问题测试中与标准框架对比,结果显示其在特定场景下是有竞争力且稳定的替代方案。
2026-07-20 cs.LG cs.NA math.NA
Error estimates for physics informed neural networks approximating the Navier-Stokes equations
ETH Zürich(苏黎世联邦理工学院);Brown University(布朗大学)
我们证明了严格的边界上的不可压缩Navier-斯托克斯方程的近似与(扩展)物理通知神经网络的错误。我们发现,潜在的PDE残差可以任意小的双曲正切神经网络与两个隐藏层。此外,总误差可以根据训练误差、网络大小和正交点的数量来估计。数值实验说明了理论。
2023-02-02 cs.LG cs.NA math.NA
What do physics-informed DeepONets learn? Understanding and improving training for scientific computing applications
Pacific Northwest National Laboratory(太平洋西北国家实验室);Massachusetts Institute of Technology(麻省理工学院);Sandia National Laboratories(桑迪亚国家实验室)
本研究通过评估基函数普适性与谱方法模型降阶潜力,明确物理信息DeepONets的学习内容,提出迁移学习方法改进其在同PDE参数间及不同相关PDE间的训练,实现误差显著降低与基函数有效性提升。
2024-11-27 cs.LG cs.NA math.NA
A Physics-Informed Neural Network Framework For Partial Differential Equations on 3D Surfaces: Time-Dependent Problems
University of Nevada, Las Vegas(内华达大学拉斯维加斯分校);University of Arkansas(阿肯色大学);Lehigh University(里海大学)
在本文中,我们展示了一个物理信息的神经网络求解器的时间依赖表面偏微分方程。与传统的数值求解器不同,该方法不需要在曲面上扩展偏微分方程和网格。我们显示了一个简化的表面微分算子的先验估计,使PINN的损失值将是一个指标的表面偏微分方程的残留物。数值实验验证了算法的有效性。
2021-03-19 cs.LG cs.NA math.NA
Physics-Informed Graph-Mesh Networks for PDEs: A hybrid approach for complex problems
MICS, CentraleSupélec, Université Paris Saclay(巴黎萨克雷大学中央高等电力学院MICS实验室);Transvalor S.A.(特兰斯瓦尔公司)
针对物理信息神经网络在复杂几何、泛化及自动微分方面的局限,提出融合图神经网络与有限元数值核的混合PDE求解框架,并通过理论分析、消融实验及二三维复杂几何测试验证其泛化能力。
2024-09-25 cs.LG cs.NA math.NA
High Precision Differentiation Techniques for Data-Driven Solution of Nonlinear PDEs by Physics-Informed Neural Networks
University of Calabria(卡拉布里亚大学)
本文考虑了具有给定初始条件的含时偏微分方程。提出了未知解关于时间变量的新的微分技术。结果表明,所提出的技术允许同时生成准确的高阶导数的一组空间点。然后,计算出的导数可以以不同的方式用于数据驱动的解决方案。在Tensorflow背景框架下,通过Python中的著名DeepXDE软件解决方案,针对三个现实生活中的偏微分方程:Burgers方程,Allen-Cahn方程和Schrodinger方程,提出了物理信息神经网络的应用。
2022-10-21 cs.LG cs.NA math.NA
Variational Formulations of the Strong Formulation -- Forward and Inverse Modeling using Isogeometric Analysis and Physics-Informed Networks
本文研究强形式偏微分方程正演与反演问题的变分/最小二乘公式,并结合等几何分析与物理信息网络开展建模。
2023-12-06 cs.NA math.NA
Enforcing Dirichlet boundary conditions in physics-informed neural networks and variational physics-informed neural networks
本文比较了PINNs和VPINNs中四种施加狄利克雷边界条件的方法,证明通过近似距离函数精确修改网络输出能获得更高效精确的求解器,而Nitsche变分施加方法效果次优。
2023-07-31 cs.NA math.NA
Multi-output multilevel best linear unbiased estimators via semidefinite programming
本文通过半定规划将多层级最优线性无偏估计器扩展到多输出前向不确定性量化问题,实现样本数量与低保真度模型的最优选择,并高效可靠地求解。
2023-05-15 cs.MS cs.NA math.NA
Numerical Approximations of the Allen-Cahn-Ohta-Kawasaki (ACOK) Equation with Modified Physics Informed Neural Networks (PINNs)
物理信息神经网络(PINNs)已被广泛用于数值逼近偏微分方程问题。虽然PINN在产生许多偏微分方程的解方面取得了很好的结果,但研究表明它在相场模型上表现不佳。在本文中,我们部分地解决这个问题,通过引入一个修改的物理通知神经网络。特别地,它们被用来数值逼近具有体积约束的Allen-Cahn-Ohta-Kawasaki(ACOK)方程。
2022-07-11 cs.NA math.NA
Physics-informed Neural Networks for Solving Nonlinear Diffusivity and Biot's equations
Technical University of Denmark(丹麦技术大学);The Danish Hydrocarbon Research and Technology Centre(丹麦碳氢化合物研究与技术中心)
本文介绍了应用物理信息神经网络解决非线性多物理问题的潜力,这是必不可少的许多领域,如生物医学工程,地震预报,地下能源收集。具体来说,我们研究如何扩展的物理信息的神经网络的方法来解决有关的非线性扩散系数和Biot方程的正问题和逆问题。我们探索的准确性的物理信息神经网络与不同的训练样本大小和超参数的选择。各种训练实现之间的随机变化的影响也进行了研究。在相反的情况下,我们还研究了噪声测量的影响。此外,我们解决了选择逆模型的超参数的挑战,并说明了这个挑战是如何链接到超参数选择执行的前一个。
2020-02-19 cs.CE cs.LG cs.NA
Physics Informed Symbolic Networks
TCS Research(塔塔咨询服务公司研究院)
我们引入物理信息符号网络(PISN),它利用物理信息的损失来获得偏微分方程(PDE)系统的符号解。给出了一种描述符号表达式语言的上下文无关文法,提出了用加权和作为连续逼近来选择产生式规则。我们使用这种近似来定义多层符号网络。我们考虑Kovasznay流(Navier-Stokes)和二维粘性Burger方程,以说明PISN能够在各种最先进的进步中提供与PINN相当的性能:多输出和控制方程,域分解,超网络。此外,我们提出了物理知情的神经符号网络(PINSN),它采用多层感知器(MLP)运营商建模符号网络的残留物。观察到PINSN比标准PINN提供2-3个数量级的性能增益。
2022-12-20 cs.AI cs.LG cs.NA
Quasi-Random Physics-informed Neural Networks
Skolkovo Institute of Science and Technology(斯克尔克沃科学与技术研究所)
本文提出准随机物理信息神经网络,通过低分歧序列采样提升高维PDE求解效率,实验显示其优于传统PINNs和自适应采样方法。
2025-07-10 cs.AI cs.LG cs.NA
Reactive Transport Modeling with Physics-Informed Machine Learning for Critical Minerals Applications
University of Houston(休斯顿大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
本文提出一种物理信息神经网络框架,用于多孔介质中快速双分子反应的反应传输建模,以提升关键矿物提取及相关地质应用的准确性。
2026-03-11 cs.NA math.NA
Physics-informed features in supervised machine learning
MIDA, Dipartimento di Matematica, Università di Genova(基因瓦大学数学系)
本研究提出物理信息特征方法,利用物理定律和量纲分析构建非线性特征映射,增强模型可解释性,提升回归与分类性能,并支持物理规律发现。
2025-04-23 cs.LG cs.NA math.NA
FB-HyDON: Parameter-Efficient Physics-Informed Operator Learning of Complex PDEs via Hypernetwork and Finite Basis Domain Decomposition
Quantiphi(昆体菲科技)
针对现有神经算子需大量数据、物理信息算子训练复杂且难收敛的问题,提出结合超网络与有限基域分解的FB-HyDON架构,在多个PDE任务上实现性能提升。
2024-09-13 cs.LG cs.NA math.NA
PINNs and GaLS: A Priori Error Estimates for Shallow Physics Informed Neural Networks Applied to Elliptic Problems
物理信息神经网络(PINN)最近在求解偏微分方程方面越来越受欢迎,因为它们逃脱了维度灾难。在本文中,我们提出了物理信息神经网络作为欠定点匹配配置法,然后暴露Galerkin最小二乘(GALS)和PINNs之间的连接,开发一个先验的误差估计,在椭圆问题的背景下。特别地,属于最小二乘有限元和Rademacher复杂性分析领域的技术被用于获得误差估计。
2022-07-22 cs.NA math.NA
Physics-informed ConvNet: Learning Physical Field from a Shallow Neural Network
Xi'an University of Architecture and Technology(西安建筑科技大学);Xidian University(西安电子科技大学)
基于大数据的人工智能(AI)支持几乎所有科学和技术的深刻演变。然而,由于不可避免的数据稀缺和噪声,建模和预测多物理系统仍然是一个挑战。通过“教授”领域知识来提高神经网络的泛化能力,并结合物理规律开发新一代模型,已成为机器学习研究的一个很有前途的领域。与“深”的嵌入物理信息的全连接神经网络(PINN)不同,从CNN的角度提出了一种新的浅层物理信息卷积网络(PICN)框架,其中物理场由一个去卷积层和一个卷积层生成.使用预训练的浅卷积层来构造形成物理算子的差场。一个有效的线性插值网络计算的损失函数涉及边界条件和物理约束的不规则的几何域。目前的发展的有效性说明通过一些数值的情况下,涉及非线性物理算子方程的求解(和估计)和恢复的物理信息从噪声观测。PICN在逼近具有多频率分量的物理场方面的潜在优势表明,PICN可能成为物理信息机器学习中的另一种神经网络求解器。
2022-02-07 cs.LG cs.NA math.NA
Physics Informed Neural Networks (PINNs)for approximating nonlinear dispersive PDEs
我们提出了一种新的算法,基于物理信息神经网络(PINNs),有效地近似解的非线性色散偏微分方程,如KdV-Kawahara,Camassa-Holm和Benjamin-Ono方程。利用这些分散偏微分方程的解决方案的稳定性,证明严格的界限所产生的误差。我们给出了几个数值实验来证明PINN可以非常精确地近似解这些色散偏微分方程
2022-05-18 cs.NA math.NA
Physics-Informed Kernel Function Neural Networks for Solving Partial Differential Equations
提出将由PDE控制方程推导的物理信息核函数作为RBFNN激活函数的PIKFNN,仅用边界/初始数据训练,并通过多类基准问题验证其可行性与准确性。
2023-06-07 cs.NA math.NA
Solving PDEs by Variational Physics-Informed Neural Networks: an a posteriori error analysis
我们考虑椭圆型边值问题的离散变分物理通知神经网络(VPINNs),其中检验函数是连续的,分段线性函数的域的三角剖分。我们定义了一个后验误差估计,由一个残差型项,一个损失函数项,和数据振荡项。我们证明了估计是可靠的和有效的控制能量之间的准确和VPINN解决方案的误差范数。数值计算结果与理论预测非常吻合。
2022-05-02 cs.NA math.NA
Physics-Informed Deep Learning for Industrial Processes: Time-Discrete VPINNs for heat conduction
Universidad Nacional de Colombia(哥伦比亚国立大学)
本文提出了一种用于热传导问题的变分物理引导神经网络,结合时间离散化与复合损失函数,成功模拟了工业过程中咖啡提取物的冻结动态。
2026-03-05 cs.NA math.NA
Learning the solution operator of a nonlinear parabolic equation using physics informed deep operator network
针对科学工程领域解析难解的微分方程求解时参数变化需重训/重仿真的问题,本研究采用融入物理规律的PI-DeepONet逼近非线性抛物型方程的解算子,实现PDE解的学习。
2023-08-22 cs.NA math.NA
Physics Informed Neural Networks for Nonlinear Delay Differential Equations
University of Waterloo(滑铁卢大学);Dr B. R. Ambedkar National Institute of Technology Jalandhar(贾朗达尔 B.R. 安贝卡尔国立理工学院)
提出一种结合可微历史开关、试验解公式和分段配置策略的物理信息神经网络框架,用于求解一般一阶时滞微分方程,实现可扩展且物理一致的近似解。
2026-07-02 cs.NA math.NA
A hybrid physics-informed neural network for nonlinear partial differential equation
近年来发展起来的基于物理知识的机器学习在求解非线性偏微分方程(PDE)方面取得了很大的进展,但是它可能无法对具有间断解的PDE提供合理的近似。在本文中,我们专注于离散时间物理信息神经网络(PINN),并提出了一个混合PINN计划的非线性偏微分方程。在该方法中,通过引入不连续性指标将局部解结构分为光滑和非光滑尺度,然后采用自动微分技术求解光滑尺度,并采用改进的加权本质不振荡(WENO)格式捕捉不连续性.通过粘性和非粘性Burgers方程对该方法进行了测试,结果表明,与原离散时间PINN方法相比,该混合方法即使在较大的时间步长下也能更好地逼近间断解.
2021-12-03 cs.NA math.NA
The modified Physics-Informed Hybrid Parallel Kolmogorov--Arnold and Multilayer Perceptron Architecture with domain decomposition
School of Mathematics, Statistics and Mechanics, Beijing University of Technology(北京工业大学数学、统计与力学学院)
提出改进的混合并行KAN-MLP物理信息神经网络,通过可训练权重优化凸组合以捕获多频成分,并采用重叠区域分解降低全局优化难度,在求解高频多尺度问题时降低训练成本并提高计算效率。
2026-06-12 cs.NA math.NA
Extended Interface Physics-Informed Neural Networks Method for Moving Interface Problems
School of Mathematics, Nanjing University(南京大学数学系)
提出扩展界面物理信息神经网络(XI-PINN)框架,利用水平集函数捕捉移动界面,并建立先验误差分析,数值实验验证了其准确性和鲁棒性。
2026-07-03 cs.NA math.NA
Physics-Informed Machine Learning: A Survey on Problems, Methods and Applications
Tsinghua University(清华大学);RealAI
数据驱动机器学习的最新进展已经彻底改变了计算机视觉、强化学习以及许多科学和工程领域。在许多现实世界和科学问题中,生成数据的系统受物理定律的支配。最近的工作表明,它提供了潜在的好处,机器学习模型,将物理先验和收集的数据,这使得机器学习和物理学的交叉成为一个流行的范例。通过无缝集成数据和数学物理模型,它可以引导机器学习模型找到物理上合理的解决方案,即使在不确定和高维环境中也能提高准确性和效率。在这项调查中,我们提出了这种学习范式称为物理信息机器学习(PIML),这是建立一个模型,利用经验数据和可用的物理先验知识,以提高性能的一组任务,涉及物理机制。本文从机器学习任务、物理先验的表示和物理先验的融合方法三个方面系统地综述了物理信息机器学习的最新发展。我们还提出了几个重要的开放式研究问题的基础上,在该领域的当前趋势。我们认为,将不同形式的物理先验编码到模型架构、优化器、推理算法和重要的特定领域应用(如逆向工程设计和机器人控制)中,在物理学信息机器学习领域还远未得到充分探索。我们相信,基于物理学的机器学习的跨学科研究将大大推动研究进展,促进创建更有效的机器学习模型,并为解决相关学科中长期存在的问题提供宝贵的帮助。
2023-03-07 cs.AI cs.CV cs.LG
Helicity-conservative Physics-informed Neural Network Model for Navier-Stokes Equations
本文提出一种基于强形式PDE的螺旋度守恒物理信息神经网络模型,通过设计合适的损失函数实现螺旋度守恒,并与有限元方法比较,证明强形式PDE更适合守恒问题。
2024-04-03 cs.NA math.NA physics.comp-ph
Meshfree Variational Physics Informed Neural Networks (MF-VPINN): an adaptive training strategy
本文提出一种无需全域三角剖分的无网格变分物理信息神经网络,利用后验误差指示器自适应添加测试函数,并比较四种训练策略,数值结果显示其精度优于准均匀网格上的变分物理信息神经网络。
2024-09-19 cs.NA math.NA math.OC
Domain decomposition methods with Physics-informed neural networks for elliptic equations on manifolds
Nanjing Normal University(南京师范大学);Nanjing University(南京大学)
提出用于紧致黎曼流形上椭圆方程的数值区域分解方法,结合流形的DDM技术与神经网络在高维优势,通过数值实验验证
2026-07-07 cs.NA math.DG math.NA
Hyper-parameter tuning of physics-informed neural networks: Application to Helmholtz problems
Universidad Adolfo Ibáñez(阿道夫·伊瓦涅斯大学);Data Observatory Foundation(数据观测站基金会);Center of Applied Ecology and Sustainability (CAPES)(应用生态与可持续性中心(CAPES))
我们考虑物理信息神经网络(PINN)[Raissi等人,J.~ Comput.物理278(2019)686-707]的前物理问题。为了找到最佳的PINNs配置,我们介绍了一个超参数最优化(HPO)的过程,通过高斯过程为基础的贝叶斯优化。将HPO方法应用于有界域上的Helmholtz方程,并进行了深入的研究,重点研究了:(i)性能,(ii)配置点密度$r$和(iii)频率$κ$,证实了该方法的适用性和必要性。数值实验进行了二维和三维,包括比较有限元法。
2023-01-30 cs.AI cs.NA math.NA
Physics-informed neural networks for Timoshenko system with Thermoelasticity
本文针对结合热弹性与第二声效应的Timoshenko系统,采用PINNs框架推导近似解,发现其能准确捕捉取决于稳定性数$χ$的离散能量渐近行为,并克服了传统数值方法的主要困难。
2024-09-24 cs.NA math.AP math.NA
Spectral-Prior Guided Multistage Physics-Informed Neural Networks for Highly Accurate PDE Solutions
针对PINNs求解偏微分方程精度有限的问题,本文提出两种谱先验引导的多阶段模型:SI-MSPINNs通过残差主导谱模式引导初始化并多阶段优化,RFF-MSPINNs基于残差功率谱动态调整频率采样,实验证明二者均显著提升原始PINNs精度。
2025-08-25 cs.CE cs.NA math.NA
Physics-informed low-rank neural operators with application to parametric elliptic PDEs
提出物理信息低秩神经算子PILNO,结合低秩核近似与编码器-解码器架构,在点云上高效逼近PDE解算子,通过物理信息惩罚训练确保约束满足,适用于多种参数化椭圆型PDE问题。
2025-09-09 cs.NA math.NA physics.comp-ph