Curriculum-Learned Vanishing Stacked Residual PINNs for Hyperbolic PDE State Reconstruction
Digital Futures and KTH Royal Institute of Technology(数字未来与皇家理工学院)
本文提出基于课程学习的消失堆叠残差PINN,通过整合PD优化、因果性进展和自适应采样方法,有效提升双曲PDE状态重建的精度与稳定性。
2026-01-28 cs.LG cs.NE cs.SY
Rigorous Error Certification for Neural PDE Solvers: From Empirical Residuals to Solution Guarantees
Department of Applied Mathematics(应用数学系);University of Waterloo(滑铁卢大学)
本文提出通过残差控制建立解空间误差的通用界限,证明神经近似在解空间紧子集时残差趋近于零可保证收敛到真实解,提供确定性和概率性收敛结果及认证的泛化界限。
2026-09-02 cs.LG math.AP math.FA
Operator Boosting Produces Pareto-Efficient PDE Surrogates
College of Computing, Georgia Institute of Technology(佐治亚理工学院计算学院);Department of Mathematics and Systems Engineering, Florida Institute of Technology(佛罗里达理工学院数学与系统工程系)
提出算子提升框架,通过残差学习直接构建紧凑神经算子代理,在30个数据集-架构对上平均准确率提升,参数量减少72-95%,并在多个PDE基准上实现帕累托改进。
2026-06-25 cs.LG cs.NA math.NA
One-Step Evolution for Long-Time Extrapolation: An Error-Bound-Informed and Prior-Guided Neural Residual Framework for Autonomous PDEs
Ocean University of China(中国海洋大学);University of Glasgow(格拉斯哥大学)
该研究针对自主PDE长时间外推的误差问题,提出误差界感知与先验引导的神经残差框架,经多基准案例验证,其外推误差低于数值先验及十种对比方法,可提升无真实轨迹监督的PDE长时间模拟精度。
2026-08-25 cs.AI cs.LG
Gradient-enhanced physics-informed neural networks for forward and inverse PDE problems
St. Mark’s School of Texas(圣马克德克萨斯学校);University of Pennsylvania(宾夕法尼亚大学);Brown University(布朗大学)
深度学习已被证明是通过物理信息神经网络(PINN)求解偏微分方程(PDE)的有效工具。PINN将PDE残差嵌入到神经网络的损失函数中,并已成功地用于求解各种PDE正逆问题。然而,第一代PINN的一个缺点是,即使有许多训练点,它们通常也具有有限的准确性。在这里,我们提出了一种新的方法,梯度增强的物理信息神经网络(gPINNs),提高PINNs的准确性和训练效率。gPINN利用PDE残差的梯度信息并将梯度嵌入到损失函数中。我们广泛地测试了gPINN,并证明了gPINN在正向和逆PDE问题中的有效性。我们的数值结果表明,gPINN的性能优于PINN与较少的训练点。此外,我们将gPINN与基于残差的自适应细化(RAR)方法相结合,这是一种在训练过程中自适应地改善训练点分布的方法,以进一步提高gPINN的性能,特别是在具有陡峭梯度的解的PDE中。
2021-11-01 cs.LG physics.comp-ph
Unified theoretical guarantees for stability, consistency, and convergence in neural PDE solvers from non-IID data to physics-informed networks
Kabale University(卡巴莱大学)
本文提出统一理论框架,利用混合系数、曲率感知聚合与变分分析,严格证明了在非独立同分布数据、联邦学习及物理信息神经网络(PINNs)中的稳定性、一致性与收敛性,为设计鲁棒且物理连贯的神经架构奠定数学基础。
2025-05-30 cs.LG cs.NA math.NA
Physics-Informed Foresight Pruning for Sparse PINN Solvers of Nonlinear PDEs
针对非线性PDE稀疏PINN求解器,提出PI-SAP剪枝方法,其利用PDE残差灵敏度分配显著性,在高稀疏度下保留Gray-Scott残差保真度,平衡解侧与残差侧训练动态。
2026-08-27 cs.AI cs.LG
Physics-Informed Residuals for Adaptive Mesh Refinement in Finite-Difference PDE Solvers
Department of Mathematics, Makerere University(数学系,Makerere大学);Department of Mathematics, Kabale University(数学系,Kabale大学)
提出利用物理信息神经网络(PINN)作为离网格残差探针,为有限差分求解器提供自适应网格细化指示,在粘性Burgers方程等基准测试中验证了其有效性。
2026-06-05 cs.CE cs.LG cs.NA
RAMS: Residual-based adversarial-gradient moving sample method for scientific machine learning in solving partial differential equations
Department of Civil and Environmental Engineering, Hong Kong Polytechnic University(香港理工大学土木与环境工程系);Department of Statistics and Data Science, Yale University(耶鲁大学统计与数据科学系)
针对科学机器学习中求解偏微分方程时样本量提升与计算成本增加的权衡问题,提出基于残差的对抗梯度移动样本方法RAMS,可高效适配高维PDE及算子学习任务,是首个算子学习领域的高效自适应采样方法。
2025-09-01 cs.CE cs.LG physics.comp-ph
Residual-based error correction for neural operator accelerated infinite-dimensional Bayesian inverse problems
Oden Institute for Computational Sciences and Engineering, The University of Texas at Austin(德克萨斯大学奥斯汀分校奥登计算科学与工程研究所)
针对神经算子近似误差影响无限维贝叶斯反问题求解精度的问题,提出基于PDE残差的线性变分校正策略,实现误差二次降低并保持后验采样加速,在两个算例中验证了后验表示的显著提升。
2022-10-19 cs.LG cs.NA math.NA
PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving Spatiotemporal PDEs
Northeastern University(东北大学);University of Notre Dame(圣母大学);MIT(麻省理工学院)
偏微分方程(PDE)在建模和模拟各种学科的问题中发挥着重要作用。深度学习的最新进展表明,物理信息神经网络(PINN)在解决偏微分方程方面具有巨大潜力,可作为数据驱动建模和逆分析的基础。然而,大多数现有的PINN方法,基于全连接的神经网络,造成内在的限制,低维时空参数化。此外,由于初始/边界条件(I/BC)是通过惩罚来软施加的,因此解的质量严重依赖于超参数调整。为此,我们提出了新的物理信息卷积递归学习架构(PhyCRNet和PhyCRNet-s),用于在没有任何标记数据的情况下求解偏微分方程。具体地,提出了用于低维空间特征提取和时间演化学习的编码器-解码器卷积长短期记忆网络。损失函数被定义为聚合的离散化PDE残差,而I/BC在网络中被硬编码以确保强制满足(例如,周期性边界填充)。网络通过自回归和残差连接进一步增强,显式模拟时间推进。我们提出的方法的性能已经通过求解三个非线性偏微分方程(例如,2D Burgers方程、$λ$ - $ω$和FitzHugh Nagumo反应扩散方程),并与最新基线算法进行比较。数值结果表明,我们所提出的方法的优越性,在解决方案的精度,外推性和推广。
2021-06-26 cs.CL cs.LG cs.NA
Starter-Iterator Neural Operator: A Unified Architecture for High-Fidelity Forward and Inverse PDE Problems
School of Mathematical Sciences, Beijing Normal University(北京师范大学数学科学学院);School of Mathematics, Jilin University(吉林大学数学学院);Key Laboratory of Digital Technology in Medical Diagnostics of Zhejiang(浙江省数字医疗诊断技术重点实验室);School of Physics, Nankai University(南开大学物理学院)
提出起始迭代神经算子(SINO),通过神经网络重解释传统迭代方法的初始化与迭代格式,实现频谱-时空协同建模,在Navier-Stokes方程、声波方程等正逆问题中提升数值精度与泛化能力。
2026-09-24 cs.LG cs.NA math.NA
PDE-aware Optimizer for Physics-informed Neural Networks
ENM 5320: AI4Science(AI4Science)
本文提出了一种面向偏微分方程的优化器,通过适应性参数更新提升物理信息神经网络的稳定性与收敛性能。
2026-01-20 cs.LG
Non-Asymptotic Stability and Consistency Guarantees for Physics-Informed Neural Networks via Coercive Operator Analysis
Department of Mathematics, Kabale University(卡贝大学数学系);Department of Mathematics, Makerere University(Makerere大学数学系)
通过强制算子、变分公式和非渐近扰动理论,建立物理信息神经网络(PINN)的稳定性和一致性的统一理论框架,证明残差最小化在Sobolev范数下导致能量和一致范数收敛,并给出确定性稳定性界和概率样本复杂度保证。
2026-11-02 cs.LG cs.NA math.FA
Beyond PINNs: A Unified Gauss--Newton and Petrov--Galerkin Framework for Neural and Hybrid PDE Solvers
本文提出一个统一框架,将物理信息神经网络与有限元方法通过函数型Gauss--Newton问题的离散化联系起来,并利用Petrov--Galerkin离散化,在椭圆问题上验证了弱残差公式与混合有限元--神经逼近的有效性。
2026-09-18 cs.LG cs.NA math.NA
Tensor-Train Compressed Separable PINNs: A Curvature-Aware Optimization Framework for Parametric PDEs in High Dimensions
Weierstrass Institute for Applied Analysis and Stochastics (WIAS)(魏尔斯特拉斯应用分析与随机学研究所(WIAS))
本文提出基于高斯-牛顿拉回度量的二阶优化框架,利用可分离结构压缩残差雅可比矩阵,实现高维参数化PDE的高效求解,显著降低误差、迭代次数和计算时间。
2026-09-30 cs.LG cs.NA math.NA
DAS-PINNs for high-dimensional partial differential equations: extending deep adaptive sampling to spacetime domains
University of Manchester(曼彻斯特大学);Department of Mathematics(数学系)
提出一种基于归一化流的深度自适应采样框架,将时空视为统一域,通过残差分布自动识别高残差区域并生成采样点,有效求解具有局部动态特征的高维时变PDE。
2026-06-04 cs.LG cs.NA math.NA
Gen-PINNs: Generative Adversarial Physics Informed Neural Networks for solving partial differential equations
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对标准PINNs的局限性,提出Gen-PINNs框架,通过生成器与判别器结合的方式,在非线性、高阶等含尖锐前沿的PDE求解中,显著提升了精度与收敛性。
2026-10-09 cs.LG physics.comp-ph physics.flu-dyn
When Does Cheap Physics Help? Gated Multi-Fidelity Physics-Informed Networks with Provable Sample Savings and Conformal Guarantees
Department of Applied Mathematics and Computer Science (DTU Compute)(应用数学与计算机科学系(DTU Compute));Technical University of Denmark(丹麦技术大学)
本文提出MF-BPINN,通过结合贝叶斯不确定性量化和自适应残差学习,高效求解参数偏微分方程。
2026-10-27 cs.LG cs.NA math.NA
RRaPINNs: Residual Risk-Aware Physics Informed Neural Networks
University of KwaZulu Natal(科萨努拉纳大学);AIMS Research and Innovation Centre(AIMS研究与创新中心);AIMS Rwanda(AIMS卢旺达)
RRaPINNs通过引入残差风险意识和均值超额惩罚,提升物理信息神经网络在处理偏微分方程时的可靠性与精度。
2025-11-23 cs.LG
A comprehensive study of non-adaptive and residual-based adaptive sampling for physics-informed neural networks
University of Pennsylvania(宾夕法尼亚大学);University of Southern California(南加州大学);Georgia Institute of Technology(佐治亚理工学院)
该研究针对物理信息神经网络的残差点采样问题,综合对比10种非自适应与自适应采样方法,提出两种基于残差的自适应采样方法,可在更少残差点下显著提升求解精度,为采样方法选择提供实用指南。
2022-07-21 cs.LG physics.comp-ph
Fully probabilistic deep models for forward and inverse problems in parametric PDEs
University of Cambridge(剑桥大学);Imperial College London(帝国理工学院);The Alan Turing Institute(艾伦·图灵研究所)
本文提出物理驱动的深度隐变量模型PDDLVM,通过概率建模和变分推断同时学习参数化PDE的正问题与反问题映射,训练后无需独立求解即可实时预测,并在多个PDE问题上实现比FEM快三个数量级的加速及不确定性估计。
2023-07-14 cs.LG cs.NA math.NA
Residuals Are Not Enough: Limits of Physics-Informed Pre-Training for Scientific Foundation Models
University of Stuttgart(斯图加特大学);ICSI(国际科学应用公司);LBNL(劳伦斯伯克利国家实验室);University of California, Berkeley(加州大学伯克利分校)
提出将PDE残差纳入预训练以增强科学基础模型的泛化性与鲁棒性,在三个基准上优于仅用解数据训练的模型。
2026-10-01 cs.LG
Physics-Informed Neural Networks and Radial Basis Functions for PDEs with Dirac Delta Sources
Department of Civil and Environmental Engineering, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校土木与环境工程系)
针对含狄拉克δ项的偏微分方程,通过将物理信息神经网络解释为残差最小二乘法,利用弱形式直接处理δ项,并对比径向基函数展开方法,发现径向基函数-残差最小二乘法在输运问题中更稳定。
2026-06-12 cs.LG
HyCOP: Hybrid Composition Operators for Interpretable Learning of PDEs
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Norwegian University of Life Sciences(挪威生命科学大学);Simula Research Lab.(Simula研究实验室)
HyCOP通过组合简单模块学习参数化PDE解算子,提供可解释程序,优于传统神经算子,并支持模块化迁移。
2026-05-01 cs.CE cs.LG cs.NA
Physics-Informed Neural Networks for Solving Derivative-Constrained PDEs
Department of Computer Science, University College London, Gower Street, London WC1E 6BT, UK(伦敦大学学院计算机科学系)
本文提出Derivative-Constrained PINNs,通过自动微分高效嵌入非线性约束,减少对人工超参数的依赖,提升物理真实性。
2026-04-15 cs.LG physics.comp-ph
Provably Accurate Adaptive Sampling for Collocation Points in Physics-informed Neural Networks
1 Hubert Curien Laboratory, Jean Monnet University, Saint-\'Etienne, France
针对 PINN 配置点采样问题,本文基于 PDE 残差 Hessian 和新型定积分求积法提出一种可证明准确的自适应采样方法,并在一维、二维 PDE 实验中验证其优势。
2025-06-10 cs.LG
Efficient Global-Local Fusion Sampling for Physics-Informed Neural Networks
School of Mathematical Sciences, Soochow University(苏州大学数学科学学院);Zu Chongzhi Center , Duke Kunshan University(杜克昆山学院钟楚中心);University of Science and Technology of China(中国科学技术大学);Key Laboratory of the Ministry of Education for Mathematical Foundations and Applications of Digital Technology(教育部数学基础与应用数字技术重点实验室)
针对物理信息神经网络中全局采样成本高、局部采样鲁棒性弱的问题,提出融合残差自适应采样与轻量线性代理的GLF策略,在基准PDE上实现了精度与效率的同步提升。
2025-10-28 cs.LG
Learning Physics from an Imperfect Ancestor
Cornell University(康奈尔大学);Siemens Energy(西门子能源);Johns Hopkins University(约翰斯·霍普金斯大学)
本研究提出三阶段框架,利用不完美神经算子提供结构先验,通过多项式延拓外推解分支并蒸馏至PINN,解决其收敛到错误解盆地的问题,在多个非线性PDE上验证了有效性。
2026-09-22 cs.LG
Unlearning Noise in PINNs: A Selective Pruning Framework for PDE Inverse Problems
Zhejiang University(浙江大学);University of Pennsylvania(宾夕法尼亚大学);Texas Tech University(德克萨斯理工大学)
本文提出P-PINN框架,通过选性剪枝去除预训练PINN中受污染数据的影响,提升PDE反问题的鲁棒性、准确性和训练稳定性。
2026-04-05 cs.LG
Physics-Informed Neural Networks: Minimizing Residual Loss with Wide Networks and Effective Activations
University of Western Ontario(西安大略大学);National Research Council of Canada(加拿大国家研究委员会);Vector Institute(向量研究所)
本文分析PINNs残差损失在临界点的特性,证明宽网络可全局最小化残差损失,并提出求解k阶PDE时激活函数的k阶导数应为双射,为激活函数设计提供理论依据。
2024-06-13 cs.LG
Mitigating Propagation Failures in Physics-informed Neural Networks using Retain-Resample-Release (R3) Sampling
Virginia Tech(弗吉尼亚理工大学);University of Pennsylvania(宾夕法尼亚大学)
针对PINNs因采样不当导致解传播失败并陷入平凡解的问题,提出可在高残差区域增量累积配点且低开销的R3采样算法,并扩展其因果性以高效求解多种PDE。
2023-06-07 cs.AI cs.LG
TSONN: Time-stepping-oriented neural network for solving partial differential equations
School of Aeronautics, Northwestern Polytechnical University(西北工业大学航空学院)
提出TSONN方法,将时间步进与深度学习结合,把病态PDE优化问题转化为良态子问题,显著提升训练收敛性,在标准PINNs失败的问题上实现稳定求解。
2023-10-25 cs.LG physics.comp-ph
Learning in Sinusoidal Spaces with Physics-Informed Neural Networks
物理信息神经网络(PINN)使用物理增强的损失函数,例如,将来自控制偏微分方程(PDE)的残差项合并,以确保其输出与基本物理定律一致。然而,在实际应用中,很多问题都很难训练出精确的PINN模型。在本文中,我们提出了一个新的角度在正弦空间学习的优点与PINN。通过分析模型初始化时的行为,我们首先表明,PINN的表现力增加会导致初始偏差周围平坦的输出函数。值得注意的是,该初始解可以非常接近于满足许多物理偏微分方程,即,落入仅最小化PDE残差的PINN损失的局部最小值,同时仍然远离共同最小化PDE残差和初始和/或边界条件的真实解。梯度下降优化很难从这样的局部最小值陷阱中逃脱,经常导致训练停滞。然后,我们证明了正弦映射的输入,在一个架构中,我们标记为sf-PINN,是有效的,以增加输入梯度的变化,从而避免被困在这种欺骗性的局部最小值。可变性的水平可以被有效地调制,以匹配手头问题中的高频模式。本文的一个关键方面是全面的实证研究,证明了在正弦空间中使用PINN学习跨越多个物理领域的各种正向和反向建模问题的有效性。
2022-03-14 cs.AI cs.CE cs.LG
HyResPINNs: A Hybrid Residual Physics-Informed Neural Network Architecture Designed to Balance Expressiveness and Trainability
Scientific Computing Institute(科学计算研究所);University of Utah(犹他大学);Kahlert School of Computing(Kahlert 计算学学院)
HyResPINNs通过混合残差物理信息神经网络架构,在保持训练效率的同时提升PDE求解的准确性。
2026-01-27 cs.LG
Transferability of Learned States in Neural PDE Solvers
University of Chicago(芝加哥大学);University of Cambridge(剑桥大学);Princeton University(普林斯顿大学);ByteDance Inc.(字节跳动公司);Amazon(亚马逊公司)
该研究针对神经PDE求解器中学习状态的可迁移性问题,提出复用契约方法,通过配对状态比较等分离解精度等指标,在实验中验证了该方法可节省CG迭代次数并证明有限预算预训练的价值。
2026-10-19 cs.LG
Trainable Photonic Measurement for Physics-Informed PDE Learning
Xidian University(西安电子科技大学);National University of Singapore(新加坡国立大学)
提出一种光子量子神经场,将坐标编码为可训练光学相位,通过多光子Fock空间干涉混合并从光子数测量解码,作为物理信息残差最小化的可训练表示,在七种PDE基准上展示相位复杂度转变,在困难区域误差低一个数量级且参数少约四分之一。
2026-06-18 cs.LG physics.comp-ph
Physics-Informed Neural PDE Solvers via Spatio-Temporal MeanFlow
Fudan University(复旦大学);The University of Hong Kong(香港大学)
本文提出时空均流求解器,通过将生成速度场替换为物理PDE算子,实现高效预测,同时扩展均流约束到时空域,统一处理时变和静态PDE,实验表明其在精度和效率上优于基线方法。
2026-05-09 cs.LG
AdamFLIP: Adaptive Momentum Feedback Linearization Optimization for Hard Constrained PINN Training
Purdue University(普渡大学);Massachusetts Institute of Technology(麻省理工学院);Utah State University(犹他州立大学);Harvard University(哈佛大学)
本文提出AdamFLIP方法,将PINN训练转化为等式约束优化问题,通过反馈线性化技术提升约束满足能力,实验表明其在PDE问题中优于传统软约束PINN和现有约束优化器。
2026-05-08 cs.LG
PINNs Failure Modes are Overfitting
Graduate School of Information Science and Technology(信息科学与技术研究生学校);RIKEN Center for Advanced Intelligence Project (AIP)(RIKEN高级智能项目中心(AIP))
本文通过可视化残差证明物理信息神经网络的失败模式源于过拟合,并提出基于正则化和双反向传播的方法来消除失败模式,在标准方程上以更少的配置点实现最先进性能。
2026-05-29 cs.LG
Silent Failures in Physics-Informed Neural Networks: Parameter Poisoning and the Limits of Loss-Based Validation
本文揭示物理信息神经网络(PINNs)在编码物理参数错误时,即使训练损失很低,解也可能严重偏离真实解,并提出一种无需重训的后验防御方法,通过扫描残差损失最小值恢复真实参数。
2026-06-25 cs.AI cs.LG
Verifiable Error Bounds for Physics-Informed Neural Network Solutions of Lyapunov and Hamilton-Jacobi-Bellman Equations
Department of Applied Mathematics, Faculty of Mathematics, University of Waterloo(应用数学系,数学学院,滑铁卢大学)
本文研究了如何通过物理信息神经网络求解李雅普诺夫和哈密尔顿-雅可比-贝尔曼方程的可验证误差界,提出了基于这些方程的解的误差界计算方法,并展示了如何通过残差界来估计真实解的相对误差以及近似解的后验估计。
2026-05-20 cs.LG cs.SY eess.SY
Physics-informed attention-based neural network for solving non-linear partial differential equations
Universidad Politecnica de Madrid(马德里理工大学);Hess Corporation(赫斯公司)
物理信息神经网络(PINN)使得能够显著改进由偏微分方程(PDE)描述的物理过程的建模。PINN基于简单的体系结构,通过优化网络参数来学习复杂物理系统的行为,以最小化底层PDE的残差。当前的网络架构共享一些经典的数值离散方案的局限性时,适用于连续介质力学中的非线性微分方程。一个典型的例子是双曲守恒律的解决方案,发展高度本地化的非线性冲击波。学习解的偏微分方程占主导地位的双曲字符是一个挑战,目前的PINN方法,依赖于,像大多数基于网格的数值方案,添加人工耗散。在这里,我们解决了一个基本问题,即哪种网络架构最适合学习非线性偏微分方程的复杂行为。我们专注于网络架构,而不是残差正则化。我们的新方法称为基于物理信息的注意力神经网络(PIANNs),它是递归神经网络和注意力机制的结合。注意力机制使深度神经网络的行为适应解的非线性特征,并打破了PINN当前的局限性。我们发现,PIANNs有效地捕获了双曲模型问题中的激波前沿,并且能够在训练集内外提供高质量的解决方案。
2021-05-17 cs.AI cs.LG
Latent PDE mapping for efficient physics-informed learning across geometries with limited data
Faculty of Health and Technology, Kristiania University of Applied Sciences(健康与技术学院,克里斯蒂安尼亚应用科学大学);Simula Research Laboratory(西穆拉研究实验室)
研究提出潜在偏微分方程映射技术,用于有限数据下跨几何的物理信息学习。通过变形梯度处理特定几何的偏微分方程残差等,在解决阿利耶夫 - 潘菲洛夫偏微分方程时效果显著,能降低误差且训练计算成本适中,有助于创建可泛化模型。
2026-07-27 cs.LG physics.comp-ph
A Green-Integral-Constrained Neural Solver with Stochastic Physics-Informed Regularization
University of the Basque Country (UPV/EHU)(巴斯克国家大学);Basque Center for Applied Mathematics (BCAM)(巴斯克应用数学中心);Ikerbasque, Basque Foundation for Science(Ikerbasque巴斯克科学基金会);King Abdullah University of Science and Technology (KAUST)(卡迪斯国王科学与技术大学)
本文提出一种绿色积分约束神经求解器,通过积分表示强制波物理,解决高振荡亥姆霍兹解在异质介质中的模拟问题,采用FFT加速减少计算成本,提升局部精度。
2026-04-23 cs.LG physics.geo-ph
A Dirac-Frenkel-Onsager principle: Instantaneous residual minimization with gauge momentum for nonlinear parametrizations of PDE solutions
EPFL(瑞士洛桑联邦理工学院);Courant Institute of Mathematical Sciences, New York University(纽约大学Courant数学科学研究所)
本文提出基于Dirac-Frenkel原理的Onsager扩展,通过引入规范动量提升非线性参数化PDE解的时间稳定性与鲁棒性。
2026-04-30 cs.LG cs.NA math.NA
PRISMA: Improving the Accuracy-Latency Frontier of Diffusion-based PDE Solvers Using Physics-Informed Spectral Attention
Department of Computer Science(计算机科学系)
PRISMA通过将PDE残差作为频谱注意力机制整合到扩散神经算子中,实现了无需梯度下降的快速、稳健和准确的PDE求解。
2026-08-05 cs.AI cs.LG cs.NA
Counterfactual Operator Relevance for PDE Discovery: Screening, Pruning, and Identifiability
Department of Mathematics(数学系);Kabale University(卡巴勒大学)
研究数据驱动的偏微分方程发现中算子相关性,通过反事实算子干预区分残差贡献与功能必要性,给出六个可复用结果并经实验验证,为区分残差有用性与算子相关性提供严格诊断层。
2026-07-07 cs.LG cs.NA math.NA
Adaptive Randomized Neural Networks for PDEs: Structure-Aware Feature Redistribution and Residual-Driven Block Enrichment
School of Mathematics and Statistics, Xi’an Jiaotong University(西安交通大学数学与统计学院);School of Mathematics and Statistics & State Key Laboratory of Multiphase Flow in Power Engineering, Xi’an Jiaotong University(西安交通大学数学与统计学院)
该研究针对随机神经网络求解偏微分方程时无法捕捉解的空间与尺度结构的问题,提出SFRBE--RaNN两阶段自适应方法,经数值实验验证其有效性。
2026-10-16 cs.LG cs.NA math.NA
Quadratic Residual Networks: A New Class of Neural Networks for Solving Forward and Inverse Problems in Physics Involving PDEs
Virginia Tech(弗吉尼亚理工大学)
我们提出了二次残差网络(QRes)作为一种新型的参数有效的神经网络结构,通过添加一个二次残差项的加权和输入之前,应用激活函数。具有足够高的功能能力(或表达能力),我们表明,它是特别强大的解决正逆物理问题,涉及偏微分方程(PDE)。使用代数几何的工具,我们从理论上证明,与普通神经网络相比,QRes在网络宽度和深度方面表现出更好的参数效率,这要归功于每个神经元中更高的非线性。最后,我们的经验表明,QRes在训练时期的数量方面表现出更快的收敛速度,特别是在学习复杂模式时。
2021-01-28 cs.CE cs.LG
Approximation properties of Residual Neural Networks for Kolmogorov PDEs
ETH Zurich(苏黎世联邦理工学院)
近年来,由[He,K.,张,X.,Ren,S.,和Sun,J.,Proceedings of the IEEE conference on computer vision and pattern recognition(2016),770-778]在大量应用中变得非常流行,包括图像分类和分割。它们为训练非常深的神经网络提供了一个新的视角,而不会遇到消失梯度问题。在这篇文章中,我们证明了ResNets能够近似具有常数扩散和可能的非线性漂移系数的Kolmogorov偏微分方程(PDE)的解,而不会遭受维数灾难,也就是说近似ResNets的参数数量最多以近似精度$\varepsilon > 0$和所考虑PDE $d\in\mathbb{N}$的维数的倒数多项式增长。我们在[Jentzen,A.,Salimova,D.,和Welti,T.,Commun.数学科学19,5(2021),1167-1205] -他对前馈神经网络(FNN)显示了类似的结果-ResNets。与FNN相比,ResNets的Euler-Maruyama近似结构大大简化了近似ResNets的构造。此外,与上述工作相反,在我们使用ResNets的证明中,不需要存在表示身份映射的FNN(或ResNet),这扩大了适用的激活函数集。
2021-10-30 cs.LG cs.NA math.AP
Adversarial Adaptive Sampling: Unify PINN and Optimal Transport for the Approximation of PDEs
Louisiana State University(路易斯安那州立大学);Peking University(北京大学);PKU-Changsha Institute for Computing and Digital Economy(北京大学-长沙计算与数字经济研究院);ShanghaiTech University(上海科技大学)
提出对抗自适应采样(AAS),通过极小极大公式统一残差最小化与训练集优化,利用深度生成模型调整样本并嵌入Wasserstein距离,以降低蒙特卡洛误差,提升神经网络求解PDE的精度。
2024-03-15 cs.LG cs.NA math.NA
First Order System Least Squares Neural Networks
Seminar for Applied Mathematics, ETH Zürich(苏黎世联邦理工学院应用数学研讨会);Research Network Data Science, University of Vienna(维也纳大学数据科学研究网络);ASML(阿斯麦公司)
本文提出将线性椭圆、抛物和双曲型偏微分方程转化为一阶系统最小二乘残差最小化问题,用深度神经网络求解,并设计自适应网络增长策略实现速率最优收敛。
2024-09-30 cs.LG cs.NA math.NA
Two-Scale Localized PCA-Net: Coarse-Global and Local-Residual Representations for Artifact-Reduced PDE Operator Learning
University of Tennessee(田纳西大学);Boston University(波士顿大学)
本文提出双尺度局部化PCA-Net,通过粗全局与局部残差分解,减少块伪影并降低计算成本,在泊松和达西流基准上显著提升重建精度。
2026-09-09 cs.LG