Probabilistic Numerical Methods for PDE-constrained Bayesian Inverse Problems
本文发展了概率描述偏微分方程数值解中离散误差的无网格方法。这种结构使贝叶斯逆问题的解决方案,同时考虑到正向问题的离散化的影响。特别地,这使得统计推断在存在显著求解器误差的情况下更加保守。理论结果描述的收敛速度的后验的正问题和反问题。该方法是一个具有挑战性的反问题与非线性正演模型进行测试。
2017-01-15 cs.NA math.NA math.ST
Bayesian Probabilistic Numerical Integration with Tree-Based Models
Imperial College London(帝国理工学院);Brown University(布朗大学);University of Oxford(牛津大学);University College London(伦敦大学学院)
贝叶斯求积(Bayesian quadrature,BQ)是一种以贝叶斯方式解决数值积分问题的方法,它允许用户量化他们对解决方案的不确定性。BQ的标准方法基于被积函数的高斯过程(GP)近似。因此,BQ本质上限于GP近似可以以有效方式完成的情况,因此通常禁止非常高维或非光滑的目标函数。本文提出了一种新的贝叶斯数值积分算法的基础上贝叶斯加性回归树(BART)的先验,我们称之为BART-Int。BART先验很容易调整,非常适合于不连续的功能。我们证明,他们也自然地借给自己的顺序设计设置和明确的收敛速度,可以在各种设置。这种新方法的优点和缺点突出的一组基准测试,包括Genz功能,和贝叶斯调查设计问题。
2021-12-02 cs.LG cs.NA math.NA
Probabilistic Numeric SMC Sampling for Bayesian Nonlinear System Identification in Continuous Time
University of Sheffield(谢菲尔德大学)
本文提出一种基于概率数值SMC采样的方法,用于连续时间贝叶斯非线性系统辨识,通过将ODE求解与概率建模结合,在含噪数据下高效估计系统参数与状态,并量化数据和辨识过程的不确定性。
2024-04-23 cs.LG stat.ML
Probabilistic Numerical Methods for Partial Differential Equations and Bayesian Inverse Problems
本文发展了一种求解偏微分方程的概率数值方法,并研究了该方法在偏微分方程约束反问题中的应用。这种方法使具有挑战性的反问题的解决方案,同时会计,在统计原则的方式,由于PDE的数值解的离散化误差的影响。特别是,该方法赋予数值PDE求解器的故障鲁棒性,在存在大量离散化误差的情况下,统计推断被驱动为更保守。更进一步,选择偏微分方程求解器的问题被视为贝叶斯实验设计中的一个问题,其目的是最大限度地减少求解器误差对统计推断的影响;这里还考虑了非线性偏微分方程的挑战。该方法适用于参数推断问题,其中离散化误差不可忽略,必须考虑到,以达到统计上有效的结论。
2017-07-11 cs.NA math.NA math.ST
Bayesian Probabilistic Numerical Methods in Time-Dependent State Estimation for Industrial Hydrocyclone Equipment
大功率工业设备的使用,如大型混合设备或用于分离液体悬浮液中颗粒的水力旋流器,需要仔细监控,以确保正确操作。悬浮液状态估计的基本任务可以看作是一个时间演化的反问题,用贝叶斯统计方法求解。在本文中,我们扩展贝叶斯方法,将统计模型的物理控制方程的数值解中产生的错误。这使得完全不确定性量化内的原则计算精度的权衡,与过度自信的推断时,得到的所有来源的数值误差被忽略。该方法是在一个序贯蒙特卡罗框架内铸造和优化的实现提供了Python。
2018-12-19 stat.AP
Fast and Flexible Probabilistic Forecasting of Dynamical Systems using Flow Matching and Physical Perturbation
University of British Columbia(不列颠哥伦比亚大学);Environnement et Changement climatique Canada(加拿大环境与气候变化部)
本研究提出了一种基于流匹配和物理扰动的框架,用于快速且灵活地预测动态系统,通过高效传播和物理一致性提升预测性能。
2026-02-26 cs.LG math.DS physics.comp-ph
NoiseAR: AutoRegressing Initial Noise Prior for Diffusion Models
Hong Kong University of Science and Technology(香港科学与技术大学);StepFun
NoiseAR提出以自回归概率建模方式学习可控的初始噪声先验,替代扩散模型中的固定随机初始化,从而提升样本质量、增强条件一致性,并支持与强化学习等概率框架集成。
2025-06-02 cs.AI cs.LG
Frank-Wolfe Bayesian Quadrature: Probabilistic Integration with Theoretical Guarantees
有新的兴趣制定集成作为一个推理问题,通过获得一个完整的分布,可以通过后续的计算传播的数值误差的动机。目前的方法,如贝叶斯求积,表现出令人印象深刻的经验性能,但缺乏理论分析。一个重要的挑战是调和这些概率积分严格的收敛保证。在本文中,我们提出了第一个概率积分,承认这样的理论治疗,称为弗兰克-沃尔夫贝叶斯正交(FWBQ)。根据FWBQ,收敛到真值的积分是指数和后收缩率被证明是超指数。在模拟中,FWBQ与最先进的方法相比具有竞争力,并且优于基于Frank-Wolfe优化的替代方案。我们的方法是成功地量化数值误差的解决方案,在细胞生物学中具有挑战性的模型选择问题。
2015-12-06 stat.ML
Probabilistic Models for Integration Error in the Assessment of Functional Cardiac Models
本文研究了在不确定输入$x$上的分布$p(\mathrm{d}x)$的计算模型的输出$f(x)$上的积分的数值计算,表示估计或预测。对于激发这项工作的功能心脏模型,$f$和$p$都不具有封闭形式的表达,并且任何一个的评估都需要$\approx$ 100 CPU小时,排除了标准的数值积分方法。我们的建议是把集成作为一个估计问题,与先验未知函数$f$和先验未知分布$p$的联合模型。其结果是一个后验分布的积分,明确占数值近似误差的双重来源,由于严重有限的计算预算。该构造以统计学原理的方式应用于说明(目前)是功能性心脏模型评估中的混杂因素的数值误差的影响。
2017-12-12 stat.ME
Propagating Model Uncertainty through Filtering-based Probabilistic Numerical ODE Solvers
Institute of Science and Technology Austria(奥地利科学与技术研究所);Lund University(吕勒欧大学);Tübingen AI Center, University of Tübingen(图宾根人工智能中心,图宾根大学)
针对ODE滤波器无法自动传播动力系统参数不确定性的问题,提出结合ODE滤波器与数值积分的新方法,可同时量化参数与数值不确定性,实验验证其估计结果与参考解高度吻合,且能避免大步长下的过度自信问题。
2025-10-01 cs.LG cs.NA math.NA
Stable and Scalable Probabilistic Numerical Solvers for Stiff and High-Dimensional ODEs
EPFL(瑞士联邦理工学院)
针对刚性和高维常微分方程,提出两种互补策略:无矩阵更新步骤实现线性扩展,以及迭代重线性化提升稳定性,从而开发出稳定且可扩展的概率求解器。
2026-06-06 cs.LG cs.NA math.NA
Stable Implementation of Probabilistic ODE Solvers
University of Tübingen(图宾根大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
常微分方程(ODE)的概率求解器提供了与动力系统仿真相关的数值不确定性的有效量化。它们的收敛速度已被越来越多的理论分析所证实。然而,这些算法遭受数值不稳定时,运行在高阶或小步长-也就是说,正是在该制度中,他们实现了最高的精度。目前的工作提出并研究了解决这个问题的方法。它包括三个组成部分:精确的初始化,一个坐标变化预处理,使数值稳定性的关注步长无关,和平方根的实现。使用所有这三种技术,使数值计算的概率解的常微分方程的算法顺序高达11,证明了一组具有挑战性的测试问题。由此产生的快速收敛被证明是具有竞争力的高阶,国家的最先进的,经典的方法。因此,分析概率ODE求解器和将它们应用于有趣的机器学习问题之间的障碍被有效地消除。
2020-12-18 cs.LG cs.NA math.NA
Numerical validation of probabilistic laws to evaluate finite element error estimates
我们提出了一个数值验证的概率方法应用于估计两个拉格朗日有限元$P_k$和$P_m, (k<m)$之间的相对精度。特别是,我们展示了实际情况下,有限元$P_{k}$给出更准确的结果比有限元$P_{m}$。这说明了我们最近推导出的理论概率框架,以评估实际的准确性。这也突出了比较两种数值方法时需要格外小心的重要性,因为误差估计的经典结果只涉及渐近收敛率。
2020-11-23 cs.NA math.NA
Probabilistic ODE Solutions in Millions of Dimensions
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
常微分方程的概率求解器已经成为动力系统不确定性量化和推理的有效框架。在这项工作中,我们解释的数学假设和详细的实施方案背后解决{高维}常微分方程的概率数值算法。由于每个求解步骤中的矩阵-矩阵运算,这在以前是不可能的,但对于科学相关问题至关重要-最重要的是,离散偏微分方程的求解。简而言之,有效的高维概率ODE解决方案要么建立在独立性假设上,要么建立在先验模型的克罗内克结构上。我们评估所产生的效率上的一系列问题,包括概率数值模拟的微分方程与数百万的尺寸。
2021-10-22 cs.LG cs.NA math.NA
Probabilistic Numerics and Uncertainty in Computations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Oxford(牛津大学);University of Warwick(沃里克大学)
本文呼吁采用概率数值方法,通过在计算中返回不确定性来改进线性代数、积分、优化和微分方程求解等算法,强调其在气候科学和天文学等领域的应用价值。
2015-06-03 cs.AI cs.LG cs.NA
Black Box Probabilistic Numerics
概率数值学将数值任务(如微分方程的数值解)转换为要解决的推理问题。一种方法是将感兴趣的未知量建模为随机变量,并使用在传统数值方法的过程中生成的数据来约束该变量。然而,数据可能与感兴趣的量非线性相关,使得随机变量的适当调节变得困难,并且限制了可以解决的数值任务的范围。相反,本文提出了构建概率数值方法的基础上,从传统的方法的最终输出。一个收敛序列的近似的数量的利益构成一个数据集,从该数据集的限制数量的利益可以外推,在概率模拟理查森的延迟方法的限制。这种黑盒方法(1)极大地扩展了概率数值可以应用的任务范围,(2)继承了最先进的数值方法的特征和性能,(3)能够实现可证明的更高阶收敛。非线性常和偏微分方程的应用,以及本征值问题-设置没有概率数值方法尚未开发。
2021-10-28 cs.NA math.NA stat.CO
A deep learning approach to the probabilistic numerical solution of path-dependent partial differential equations
Nanyang Technological University(南洋理工大学)
最近的工作路径依赖偏微分方程(PPDE)表明,PPDE的解决方案可以近似的概率表示,在文献中实现的条件期望估计使用回归。然而,这种方法的限制是需要在函数空间中选择基。在本文中,我们通过使用深度学习方法克服了这一限制,并且我们证明了这种设置允许推导条件期望近似的误差界。数值例子的基础上,两个人的零和博弈,以及亚洲和障碍期权定价。与其他深度学习方法相比,我们的算法似乎更准确,特别是在大维度上。
2022-10-04 cs.LG cs.NA math.AP
Random time step probabilistic methods for uncertainty quantification in chaotic and geometric numerical integration
提出了一种新的概率数值方法,用于量化由常微分方程(ODE)时间积分引起的不确定性。从经典的战略随机ODE求解器通过添加一个随机强迫项,我们证明了一个概率测度的数值解可以通过引入适当的随机时间步长在经典的时间积分器。这种内在的随机化允许基本确定性积分器的几何性质的守恒,例如质量守恒、辛性或首次积分守恒。弱收敛和均方收敛分析。我们还分析了所提出的随机时间步长方法的蒙特卡罗估计的收敛性,并证明了重复采样得到的测量在均方意义下的收敛性与样本的样本个数无关。包括混沌哈密顿系统,化学反应和贝叶斯推理问题的数值例子说明了我们的概率数值方法的准确性,鲁棒性和通用性。
2020-01-21 cs.NA math.NA
ProbNum: Probabilistic Numerics in Python
University of Tübingen(图宾根大学);University of Helsinki(赫尔辛基大学);University College London(伦敦大学学院)
概率数值方法(Probabilistic Numerical Method,PNM)是通过概率推理来解决数值问题的方法。它们是为线性代数、优化、积分和微分方程模拟而开发的。PNM自然地结合了关于问题的先验信息,并量化了由于有限的计算资源以及随机输入而导致的不确定性。在本文中,我们介绍了Probability:一个提供最先进的概率数值求解器的Python库。Probability通过模块化设计以及现成使用的包装器为特定问题类实现PNM的自定义组合。教程、文档、开发人员指南和基准测试可在www.probnum.org上获得。
2021-12-03 cs.LG cs.MS cs.NA
Probabilistic Exponential Integrators
Tübingen AI Center(图宾根人工智能中心);University of Tübingen(图宾根大学);Lund University(隆德大学)
针对刚性系统下概率求解器因稳定性需求需小步长导致性能下降的问题,提出具有L-稳定性的概率指数积分器,并推广至非线性系统得到概率指数Rosenbrock方法,实验验证其稳定性与效率更优,拓展了概率数值方法的适用范围。
2023-12-19 cs.LG cs.NA math.NA
Calibrated Adaptive Probabilistic ODE Solvers
University of Tübingen(蒂宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
常微分方程的概率求解器为初值问题的解分配后验测度。该分布的联合协方差提供了(全局)近似误差的估计。作为求解器步长的函数的该误差估计的收缩率将其识别为良好校准的最差情况误差,但是其对于特定步长的显式数值并不能自动地是显式误差的良好估计。针对这个问题,我们介绍,讨论和评估几种概率动机的方法来校准不确定性估计。数值实验表明,这些校准方法与自适应步长选择有效地相互作用,从而产生描述性的,有效地可计算的后验。我们证明了对经典的,广泛使用的Dormand-Prince 4/5龙格-库塔法的基准测试的方法的效率。
2021-02-22 cs.LG cs.NA math.NA
Doubling Algorithms for Stationary Distributions of Fluid Queues: A Probabilistic Interpretation
The University of Adelaide(阿德莱德大学);Università di Pisa(比萨大学)
本文提出流队列平稳分布中倍增算法的概率解释,通过概率方法重新解释了流队列与准出生-死亡过程的联系,并扩展了倍增算法的初始步骤和迭代步骤的概率意义。
2018-01-18 cs.NA math.NA math.PR
Probabilistic limit behaviors of numerical discretizations for time-homogeneous Markov processes
本文研究时间齐次马尔可夫过程数值离散的时间平均估计量的概率极限行为,提出可验证的充分条件,适用于低正则性测试泛函,并涵盖多种随机系统。
2023-10-12 cs.NA math.NA math.PR
The Numerical Solution of the External Dirichlet Generalized Harmonic Problem for a Sphere by the Method of Probabilistic Solution
本文提出基于概率解法(MPS)数值求解球外部 Dirichlet 广义调和问题的算法,通过反演转换无限域并基于 Kelvin 定理构建有限域新问题,再利用 Weiner 过程模拟求解,最后给出数值算例验证。
2024-05-29 cs.NA math.NA
Probabilistic error estimation for non-intrusive reduced models learned from data of systems governed by linear parabolic partial differential equations
Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所)
本文推导了一种基于残差的后验误差估计器,用于从线性抛物型偏微分方程控制输入的高维系统的数据中学习非侵入式模型降阶的降阶模型。结果表明,所需的误差估计量可以得到精确的最小二乘问题的解决方案,在一个非侵入性的方式从数据,如初始条件,控制输入,高维的解决方案的轨迹或有界的概率意义上。计算过程遵循离线/在线分解。在离线(训练)阶段,以黑盒方式明智地解决高维系统,以生成数据并设置误差估计器。在在线阶段,估计器用于约束新的初始条件和新的控制输入的降阶模型预测的误差,而不求助于高维系统。数值结果表明,所提出的方法的工作流程,从数据到降阶模型认证的预测。
2020-05-12 cs.LG cs.NA math.NA
Probabilistic Integration: A Role in Statistical Computation?
在科学计算中出现了一个研究前沿,其中数值误差被认为是可以建模的认识不确定性的来源。这提出了一些统计挑战,包括统计方法的设计,使通过(可能是确定性的)计算工作流的概率的相干传播。本文探讨的情况下,概率数值方法在日常统计计算。我们的重点是数值积分,概率积分器配备了一个完整的分布在其输出,反映了一个未知的数值误差的存在。我们的主要技术贡献是首次建立了这些方法的后收缩率。这些表明,概率积分原则上可以享受“两全其美”,利用蒙特卡罗方法的抽样效率,同时提供一个原则性的路线,以评估数值误差对科学结论的影响。几个实质性的应用程序提供了说明和关键的评价,包括统计建模,计算机图形和计算机模型的油藏的例子。
2017-10-18 cs.NA math.NA math.ST
Computation of Local Time of Reflecting Brownian Motion and Probabilistic Representation of the Neumann Problem
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Northwestern University(西北大学)
本文提出计算三维反射布朗运动边界局部时间的数值方法,并探讨其在Neumann问题概率表示中的应用。通过球面漫步和晶格随机游走近似RBM路径,验证了在准确计算局部时间及概率公式离散化中的有效性。
2015-02-04 cs.NA math.NA
The numerical solution of the Dirichlet generalized and classical harmonic problems for irregular n-sided pyramidal domains by the method of probabilistic solutions
N. Muskhelishvili Institute of Computational Mathematics of the Georgian Technical University(格鲁吉亚理工大学 N. 穆什凯利什维利计算数学研究所);I. Javakhishvili Tbilisi State University(塔夫里斯州立大学 I. 贾瓦希什维利);University of Malaga(马拉加大学)
本文提出用基于 Wiener 过程建模的概率解法 MPS,数值求解不规则 n 棱锥区域上含棱上第一类间断的广义及经典 Dirichlet 调和问题,并通过代码实现与两个算例验证精度。
2025-10-21 cs.NA math.NA
A probabilistic scheme for semilinear nonlocal diffusion equations with volume constraints
本文提出了一个求解具有体积约束和可积核的半线性非局部扩散方程的概率格式。所研究的非局部模型由一个时间依赖的半线性偏积分微分方程(PIDE)定义,其中积分-微分算子由局部对流扩散算子和非局部扩散算子组成.我们的数值方案是基于非线性Feynman-Kac公式的直接近似,建立了非线性PIDE和随机微分方程之间的联系。费曼-卡茨表示的开发成功地避免了解决密集的线性系所产生的非局部算子。与现有的随机方法相比,该方法在平衡时间和空间离散化误差后可达到一阶收敛,是对现有求解非局部扩散问题的概率/随机方法的一个重大改进.对数值格式进行了误差分析。我们的方法的有效性在两个数值例子。第一个例子考虑了三维非局部扩散方程,数值验证了误差分析的结果。第二个例子提出了一个物理问题的动机在磁约束聚变等离子体的热输运的研究。
2022-05-01 cs.NA math.NA
Probabilistic analysis of the upwind scheme for transport
CNRS, UMR 7598, Laboratoire Jacques-Louis Lions(法国国家科学研究中心雅克-路易·利昂斯实验室)
通过将迎风格式与马尔可夫链关联,利用Kolmogorov后向表示公式分析多维输运方程的数值误差,证明初始数据在BV和Lipschitz连续情形下格式的收敛阶,并给出数值扩散的新解释。
2007-12-19 cs.NA math.NA math.PR
A probabilistic finite element method based on random meshes: Error estimators and Bayesian inverse problems
提出了一种新的随机网格概率有限元法(RM FEM),用于椭圆型偏微分方程的求解和不确定性量化.我们的方法允许引入一个概率测度标准分段线性有限元。我们提出了一种基于概率信息的后验误差估计。一系列的数值实验说明了潜在的RM-FEM的误差估计和验证我们的分析。我们还展示了如何采用RM-FEM提高质量的贝叶斯逆问题的解决方案,从而允许更好地量化的计算管道中的数值误差。
2021-03-10 cs.NA math.NA
Probabilistic Error Analysis For Sequential Summation of Real Floating Point Numbers
通过将舍入表示为独立的、零均值的、有界的随机变量,我们得到了$n$实数浮点求和中相对前向误差的两个概率界。第一个概率界是基于Azuma的浓度不等式,第二个是基于Azuma-Hoeffding鞅。我们的数值实验表明,概率界,与严格的故障概率$10^{-16}$,可以是1-2个数量级比确定性界限紧。我们在Julia中进行了数值实验,将$n=10^7$单精度(二进制32)浮点数和$n=10^4$半精度(二进制16)浮点数相加。我们模拟了双精度的精确计算(binary 64)。当所有的被加数都有相同的符号时,边界趋于更紧。
2021-05-28 cs.NA math.NA
Stochastic parareal: an application of probabilistic methods to time-parallelisation
Parareal是一个研究得很好的算法,用于通过并行化时域来数值积分时间相关的微分方程系统。给定每个时间子区间的近似初始值,该算法使用预测-校正器在固定次数的迭代中定位解,一旦满足公差就停止。这种迭代过程结合了廉价(粗分辨率)和昂贵(精细分辨率)的数值积分器定位的解决方案。在本文中,我们介绍了一个随机parareal算法,旨在加快收敛的确定性parareal算法。代替向预测器-校正器提供确定性定位的初始值集合,随机算法从每个时间子间隔中动态变化的概率分布中采样初始值。然后,使用昂贵的积分器并行传播所有样本。产生跨连续子区间的最连续(最平滑)轨迹的采样初始值的集合被馈送到预测器-校正器中,以比具有给定概率的确定性算法更少的迭代收敛。随机算法的性能,实现使用各种概率分布,说明低维系统的常微分方程(ODE)。我们提供的数值证据表明,当采样的初始值的数量是足够大的,随机parareal收敛几乎肯定在更少的迭代比确定性算法,保持解决方案的精度。鉴于其随机性,我们还强调,多个模拟随机parareal返回一个分布的解决方案,可以代表一个衡量的不确定性的ODE解决方案。
2022-01-28 cs.NA math.NA stat.CO
A Probabilistic Numerical Method for Fully Nonlinear Parabolic PDEs
Ecole Polytechnique Paris(巴黎综合理工学院);EDF R&D & FiME, Finance des Marchés de l’Energie Laboratory(法国电力研发部与金融市场能源金融实验室)
提出并分析一种结合蒙特卡洛和有限差分的概率数值方法,用于求解完全非线性抛物型PDE,证明离散化误差和蒙特卡洛误差的收敛性,并通过平均曲率流和Hamilton-Jacobi-Bellman方程的数值实验验证。
2010-08-25 cs.NA math.NA math.PR
Probabilistic time integration for semi-explicit PDAEs
本文针对抛物型半显式PDAE及其半离散2指标DAE,提出概率时间积分方法,通过迭代构建解的概率分布增强模拟信息,验证隐式欧拉法等随机化版本的一致性与收敛性,确立理论有效性并为校准提供见解。
2024-11-28 cs.NA math.NA
A Modified Orthogonal Matching Pursuit for Construction of Sparse Probabilistic Boolean Networks
概率布尔网络在基因调控网络的建模和控制中发挥着重要作用。本文考虑由给定的转移概率矩阵构造稀疏概率布尔网络的逆问题。我们提出了一种改进的正交匹配追踪求解反问题。我们提供了一些条件下,该算法可以恢复稀疏的概率布尔网络。我们还报告了一些数值结果来说明所提出的算法的有效性。
2021-10-19 cs.NA math.NA
Probabilistic representation and classical solutions of wave equations with complex polynomial nonlinearities
School of Physical and Mathematical Sciences, Nanyang Technological University(南洋理工大学物理与数学科学学院)
本文利用随机分支过程,在空间维数d=1,2,3下,为具有多项式非线性的波动方程提供概率表示,并给出确保蒙特卡罗估计可积性及温和解与经典解存在光滑性的条件,最后展示数值结果。
2026-06-18 cs.NA math.AP math.NA
A probabilistic algorithm approximating solutions of a singular PDE of porous media type
针对一维广义多孔介质方程(可能具有不连续系数β),提出并实现了一种随机粒子算法来逼近其解,并预测解的长时间行为。
2010-11-13 cs.NA math.NA math.PR