New bounds on the condition number of the Hessian of the preconditioned variational data assimilation problem
数据同化算法将先验信息和观测信息相结合,并通过各自的不确定性进行加权,以获得动力系统的最可能后验。在变分资料同化中,后验是通过求解非线性最小二乘问题来计算的。许多数值天气预报(NWP)中心使用全观测误差协方差(OEC)加权矩阵,这可能会减慢数据同化过程的收敛速度。以前的工作揭示了OEC矩阵的最小特征值的调节和非预处理的数据同化问题的收敛的重要性。在本文中,我们研究使用相关的OEC矩阵的预处理数据同化问题的第一次。我们考虑的情况下,有更多的状态变量比观察,这是典型的应用稀疏测量,如数值预报和遥感。我们发现,类似于未预处理的问题,OEC矩阵的最小特征值出现在新的界限上的条件数的Hessian的预处理目标函数。数值实验表明,当背景和观测尺度相等时,Hessian的条件数最小。这与未预处理的情况相反,在未预处理的情况下,减小观测误差长度尺度总是改善条件。共轭梯度实验表明,在这个框架中的条件数的海森是一个很好的代理收敛。特征值聚类解释了收敛比预期快的情况。
2021-05-21 cs.NA math.NA
Data assimilation: A dynamic homotopy-based coupling approach
贝叶斯推理的同伦方法已被广泛使用,特别是当先验分布和后验分布之间的Kullback-Leibler分歧很大时。在这里,我们扩展这些同伦方法之一,包括一个潜在的随机扩散过程。基本的数学问题与给定边缘分布的薛定谔桥问题密切相关。我们证明,建议同伦方法提供了一个计算上易于处理的近似基本的桥梁问题。特别是,我们的实现建立在广泛使用的集合卡尔曼滤波方法,并将其扩展到薛定谔桥问题的顺序数据同化的背景下。
2022-11-03 cs.NA math.NA
Accuracy controlled data assimilation for parabolic problems
本文关注的是恢复(近似)解决方案的抛物问题,从不完整的,可能不一致的观测数据,给出了一个时间-空间的圆柱,这是一个严格的子集的计算域正在考虑。与以前的方法,这个和相关的问题,我们的出发点是一个正则化的最小二乘制定在一个连续的无限维设置,是基于稳定的变分时空配方的抛物型偏微分方程。这使我们能够推导出先验以及后验误差界的恢复状态相对于某一参考解决方案。在这些界限中,正则化参数与底层离散化无关。推导后验界的一个重要组成部分是建设合适的福廷运营商,使我们能够控制振荡的双重规范的离散化所产生的错误。此外,变分框架允许我们设计的预条件的离散问题,其应用程序可以在线性时间内进行,并且其中的预条件系统的条件数是均匀成比例的正则化连续问题。特别是,我们提供了适当的停止准则的基础上的后验误差界的迭代求解器。所提出的数值实验量化的理论研究结果,并证明了性能的数值方案与底层的离散化和正则化。
2021-07-12 cs.NA math.NA
Optimal and scalable methods to approximate the solutions of large-scale Bayesian problems: Theory and application to atmospheric inversions and data assimilation
本文对高维(>10^6)线性贝叶斯问题的近似解方法进行了详细的理论分析。一个最佳的低秩投影,最大限度地提高了贝叶斯反演的信息内容,并有效地使用可扩展的随机SVD算法构造。建立了相关的后验误差协方差矩阵和后验均值近似,这是进一步研究的数值实验组成的一个大规模的大气示踪剂输运源反演问题的有用的最优性结果。该方法被证明是一种鲁棒和有效的降维方法,以及一个自然的框架来分析反演的信息内容。这种方法的非线性框架中的业务数值天气预报数据同化系统的增量4D-Var技术的基础上可能的扩展进行了讨论,并提出了一个新的随机增量最优技术(RIOT)的4D-Var算法利用我们的理论结果的详细实施。
2016-09-21 cs.NA math.NA physics.ao-ph
Nonlinear Assimilation via Score-based Sequential Langevin Sampling
Wuhan University(武汉大学);Central China Normal University(华中师范大学);Peking University(北京大学)
本文提出了一种基于分数的递归贝叶斯滤波中的非线性同化方法,通过动态模型预测状态并利用分数化兰格vin蒙特卡洛方法进行更新,结合退火策略解决高非对称后验采样问题,理论证明了方法在总变分距离下的收敛性,并通过实验验证了其在高维系统、强非线性和稀疏观测中的鲁棒性。
2026-04-04 cs.NA math.NA math.OC
Iterative regularization for ensemble data assimilation in reservoir models
University of Nottingham(诺丁汉大学)
本文提出利用迭代正则化方法开发集合方法解决贝叶斯反问题,设计了IR-enLM和IR-ES方法,通过正则化Levenberg-Marquardt方案提升后验估计的鲁棒性。
2014-06-24 cs.NA math.NA stat.AP
AECSF: Adaptive Ensemble Conditional Score Filtering for High-Dimensional Nonlinear Data Assimilation
Tongji University(同济大学);Wuhan University(武汉大学);University of South Carolina(南卡罗来纳大学)
针对高维非线性数据同化中贝叶斯状态估计的统计保真度与计算可行性矛盾,提出免训练的自适应集成条件分数滤波器AECSF,利用条件Tweedie恒等式和共享自适应加权提议集成高效估计噪声后验分数,提升后验采样与非线性滤波精度。
2026-10-05 cs.LG cs.NA math.NA
Preserving Nonlinear Constraints in Variational Flow Filtering Data Assimilation
本文扩展 VFP 粒子流滤波框架,提出 VFPSTAB 与 VFPDAE 两种方法以非精确或精确保持非线性等式状态约束,并通过三类方程验证其效果。
2024-05-07 cs.CE cs.NA math.NA
Randomized Preconditioned Solvers for Strong Constraint 4D-Var Data Assimilation
针对强约束4D-Var数据同化中下降方向计算成本高的问题,提出三种基于随机化技术的可扩展预处理器,结合自适应策略,在两类模型问题上显著降低了PCG迭代和黑塞矩阵乘积次数。
2025-06-12 cs.NA math.NA
On Bayesian data assimilation for PDEs with ill-posed forward problems
我们研究贝叶斯数据同化(过滤)的时间演化偏微分方程,其中潜在的前向问题可能是非常不稳定或不适定的。此类偏微分方程包括流体动力学的斯托克斯方程,其特征在于解对初始数据扰动的高度敏感性、缺乏严格的全局适定性结果以及数值逼近可能不收敛。根据非常温和的和易于验证的一般假设,这样的偏微分方程的前向解算子,我们证明了后验测度表示的贝叶斯滤波问题的解决方案是稳定的扰动的噪声测量,我们提供了定量估计的近似贝叶斯滤波分布的收敛计算从数值逼近。对于斯托克斯方程,我们的结果意味着一致稳定性的过滤问题,即使在任意小的粘度,当潜在的前向问题可能成为不适定的,以及在一个合适的度量时间参数化的概率测度的数值逼近的紧致性。
2022-02-23 cs.NA math.AP math.NA
Cluster Sampling Filters for Non-Gaussian Data Assimilation
Virginia Polytechnic Institute and State University(弗吉尼亚理工大学)
本文提出一种非高斯Hamilton蒙特卡罗采样滤波器,通过引入聚类步骤和高斯混合模型估计先验密度,实现对非高斯先验的灵活处理,验证了该方法在准地转模型中的有效性。
2016-08-18 cs.NA math.NA stat.AP
Observation Error Covariance Specification in Dynamical Systems for Data assimilation using Recurrent Neural Networks
Imperial College London(伦敦帝国理工学院);Institut Polytechnique de Paris(巴黎理工学院);EDF R&D(法国电力公司研发部)
数据同化技术被广泛用于预测复杂的动力系统的不确定性,基于时间序列观测数据。误差协方差矩阵建模是资料同化算法中的一个重要组成部分,它对预报精度有很大的影响。这些协方差的估计,这通常依赖于经验假设和物理约束,往往是不精确的和计算昂贵的,特别是对于大尺寸的系统。在这项工作中,我们提出了一种基于长短期记忆(LSTM)循环神经网络(RNN)的数据驱动方法,以提高动力系统数据同化中观测协方差指定的精度和效率。与经典的后验整定方法不同,该方法从观测/模拟时间序列数据中学习协方差矩阵,不需要任何先验误差分布的知识或假设。我们已经比较了新的方法与两个国家的最先进的协方差调整算法,即DI 01和D 05,首先在洛伦兹动力系统,然后在二维浅水孪生实验框架与不同的协方差参数化,使用集合同化。这种新方法在观测协方差规格、同化精度和计算效率方面显示出显著的优势。
2021-11-11 cs.AI cs.LG cs.NA
Background Error Covariance Iterative Updating with Invariant Observation Measures for Data Assimilation
EDF R&D(EDF研发部);LIMSI, CNRS, Université Paris-Saclay(法国国家科学研究中心有限信息科学实验室,巴黎萨克雷大学);Institut de Mathématiques de Toulouse, Université Paul Sabatier(图卢兹数学研究所,保罗·萨巴蒂埃大学)
本文提出CUTE和PUB两种非参数方法,用于改进数据同化结果,通过迭代更新背景误差协方差矩阵,提高同化精度。
2019-10-11 cs.NA math.NA stat.CO
Ensemble Variational Fokker-Planck Methods for Data Assimilation
研究提出用于数据同用的变分Fokker-Planck(VFP)框架,通过依赖扩散项的最优漂移定义McKean-Vlasov-Ito过程,引入正则化与互信息惩罚避免粒子坍缩,并支持局部化以缓解维数灾难,在Lorenz等模型上验证了有效性。
2024-01-19 cs.CE cs.NA math.NA
Optimal sensor placement under model uncertainty in the weak-constraint 4D-Var framework
North Carolina State University(北卡罗来纳州立大学);Argonne National Laboratory(阿贡国家实验室)
本文提出了一种在弱约束4D-Var框架中考虑模型不确定性时的最优传感器布置方法,通过预期信息增益设计标准和列子集选择算法实现近最优实验设计。
2025-12-22 cs.NA math.NA
Data Assimilation in Reduced Modeling
本文研究了在降维建模中如何通过已知线性泛函的测量数据最优恢复希尔伯特空间中的元素,提出了一种多空间问题的近最优恢复算法,通过交替投影迭代方法实现更精确的恢复。
2015-06-15 cs.NA math.NA
Interpolation and Iteration for Nonlinear Filters
University of California at Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文提出隐式粒子滤波中迭代与插值过程的通用形式,通过伪高斯表示后验密度来聚焦粒子路径,以减少非线性数据同化所需的粒子数。
2009-10-16 cs.NA math.NA math.ST
Machine learning-based conditional mean filter: a generalization of the ensemble Kalman filter for nonlinear data assimilation
RWTH Aachen University(亚琛工业大学);Technische Universität Braunschweig(布伦瑞克工业大学);KAUST(阿卜杜拉国王科技大学)
本文提出了基于机器学习的集成条件均值滤波器(ML-EnCMF)--一种基于条件均值滤波器(CMF)的滤波方法。CMF的更新均值与后验均值相匹配,后验均值是通过对过滤器的预测分布应用贝叶斯规则获得的。此外,我们证明了CMF的更新协方差与期望的条件协方差一致。实现EnCMF需要计算条件均值(CM)。基于似然的估计器对于小的系综尺寸容易产生显著的误差,从而导致滤波器发散。我们开发了一个系统的方法集成机器学习到EnCMF的基础上CM的正交投影属性。首先,我们使用一个人工神经网络(ANN)和一个线性函数的组合,获得基于集成卡尔曼滤波器(EnKF),近似CM,使ML-EnCMF继承EnKF的优点。其次,在估计损失函数时,我们应用适当的方差缩减技术来减少统计误差。最后,我们提出了一个模型选择过程,用于明智地选择所应用的滤波器,即,在每个更新步骤中,使用EnKF或ML-EnCMF。我们使用Lorenz-63和Lorenz-96系统证明了ML-EnCMF的性能,并表明ML-EnCMF优于EnKF和基于似然的EnCMF。
2022-08-01 cs.LG cs.NA math.NA
SURGE: Approximation and Training Free Particle Filter for Diffusion Surrogate
Department of Mechanical Engineering, Northwestern University, Evanston, IL, United States;Institute for Computational \& Mathematical Engineering, Stanford University, Stanford, CA, United States;Department of Industrial Engineering \& Management Sciences, Northwestern University, Evanston, IL, United States
提出一种基于扩散模型的无偏粒子滤波方法,通过序列蒙特卡洛对扩散轨迹进行重加权和重采样,融合观测数据与模型模拟,实现状态估计的连续校正。
2026-05-25 cs.LG cs.NA math.NA
A non-parametric ensemble transform method for Bayesian inference
Universität Potsdam(波茨坦大学)
针对贝叶斯推断在蒙特卡洛框架下的递归应用,提出一种基于离散随机变量最优传输问题的非参数变换方法,无需对先验和后验分布做线性假设。
2013-01-14 cs.NA math.DS math.NA
Perron-Frobenius operator filter for stochastic dynamical systems
滤波问题是从一个连续的最小化的二次函数代表模型和数据之间的妥协。本文利用随机过程中的Perron-Frobenius算子,构造了一个Perron-Frobenius算子滤波器。该方法属于贝叶斯滤波,适用于非高斯分布的非线性随机动力系统。滤波的递归性可用Perron-Frobenius算子和似然算子的组合来表征。这给出了Perron-Frobenius算子和贝叶斯滤波之间的重要联系。我们用Ulam方法逼近Perron-Frobenius算子,数值上实现了递推。在这种方式中,后验测度由Ulam方法中的指示函数的凸组合表示。为了得到Perron-Frobenius算子滤波器的低秩逼近,我们利用离散化Perron-Frobenius算子的特征函数对后验测度进行谱分解.收敛性分析表明,Perron-Frobenius算子滤波器比粒子滤波器具有更高的收敛速度,粒子滤波器采用Dirac测度作为后验估计。将该方法应用于随机动力系统的资料同化。最后给出了几个算例,说明了Perron-Frobenius算子滤波器相对于粒子滤波器和扩展卡尔曼滤波器的优越性。
2023-01-08 cs.NA math.DS math.NA
Sequential Monte Carlo Methods for High-Dimensional Inverse Problems: A case study for the Navier-Stokes equations
Imperial College, London(伦敦帝国理工学院);National University of Singapore(新加坡国立大学)
本文提出了一种高效的序贯蒙特卡洛方法,用于解决高维逆问题,通过结合马尔可夫链蒙特卡洛技术,提高了数据同化效率和准确性。
2013-07-23 cs.NA math.NA stat.CO
Analysis of the Ensemble and Polynomial Chaos Kalman Filters in Bayesian Inverse Problems
TU Chemnitz(开姆尼茨工业大学);University of Applied Sciences Zwickau(茨维考应用科学大学)
本文分析了集合滤波和多项式混沌卡尔曼滤波在非线性稳态贝叶斯反问题中的应用,证明在大样本或高多项式阶数极限下,两种方法收敛到分析随机变量,但该变量更接近线性贝叶斯估计器而非后验测度解。
2015-04-14 cs.NA math.NA
Parameter estimation by implicit sampling
University of California, Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);University of Kansas(堪萨斯大学)
本文提出利用隐式采样方法解决参数估计问题,通过贝叶斯方法计算后验概率密度,并结合多网格与BFGS优化实现维度无关的参数估计。
2015-03-26 cs.NA math.NA
A global Lipschitz stability perspective for understanding approximate approaches in Bayesian sequential learning
本文提出非渐近误差分析框架,基于后验对先验的全局 Lipschitz 稳定性,用 TV、Hellinger 和 Wasserstein 度量界定近似 BSL 的长期学习误差,并给出误差衰减条件。
2025-07-27 cs.NA math.NA math.ST
Ensemble Kalman Inversion for nonlinear problems: weights, consistency, and variance bounds
针对非线性正向映射下EnKI和EnSRF有偏及重要性采样方差大的问题,提出加权版本WEnKI和WEnSRF,兼具无偏性和有界权重方差,并证明了其性质及方程稳定性。
2020-07-22 cs.NA math.NA
A Reduced Basis Ensemble Kalman Method
在再现参数依赖的分布式系统的状态动态的过程中,来自物理测量的数据可以被并入到数学模型中以减少参数不确定性,从而改善状态预测。这样的数据同化过程必须处理由实验噪声以及模型不准确和不确定性引起的数据和模型失配。在这项工作中,我们专注于集合卡尔曼方法(EnKM),粒子为基础的迭代正则化方法设计的\textit{a posteriori}分析的时间序列。该方法是无梯度的,并且像集合卡尔曼滤波器(EnKF)一样,依赖于参数或粒子集合的样本来识别更好地再现物理观测的状态,同时保留由最佳知识模型描述的系统物理。我们考虑由参数化抛物型偏微分方程描述的系统,并采用模型降阶(MOR)技术来生成具有不确定参数的不同精度的代理模型。它们与EnKM的结合使用涉及模型偏差的引入,该模型偏差构成系统误差的新来源。为了减轻其影响,提出了一种算法调整,考虑到数据中的偏差的先验估计。由此产生的RB-EnKM在不同的条件下进行测试,包括不同的合奏大小和增加的实验噪声水平。将结果与标准EnKF和未经调整的算法所获得的结果进行比较。
2022-10-05 cs.NA math.NA
Adaptive tempering schedules with approximative intermediate measures for filtering problems
本文提出一种自适应退火调度方法,通过近似中间测度混合粒子滤波与集合滤波,以超越传统高斯假设,提升非线性系统数据同化的不确定性量化性能。
2024-05-23 cs.NA math.NA stat.CO
Auto-weighted Bayesian Physics-Informed Neural Networks and robust estimations for multitask inverse problems in pore-scale imaging of dissolution
CNRS(法国国家科学研究中心);Heriot-Watt University(赫瑞瓦特大学);The Lyell Centre(莱尔中心)
针对孔隙尺度反应流建模受成像局限、反应参数难评估的问题,提出自动加权BPINNs的多任务数据同化策略,结合动态显微CT与PDE约束实现鲁棒的不确定性量化与反问题求解。
2024-08-17 cs.LG cs.NA cs.NE
Ensemble-localized Kernel Density Estimation with Applications to the Ensemble Gaussian Mixture Filter
本文提出一种集合局部协方差核密度估计(KDE)技术以提升 EnGMF 滤波器性能,证明了其在高斯情况下与传统方法等价,并在非高斯分布、二元问题和 Lorenz '63 方程序贯滤波中显著降低了误差。
2024-05-31 cs.NA math.NA math.OC