Ensemble Kalman inversion with non-smooth regularization
Universität Mannheim, Institute of Mathematics（曼海姆大学数学研究所）
本文提出基于子梯度的集合卡尔曼反演（SEKI）方法，通过协方差预条件将非光滑正则化整合到集合均值中，并在强凸情况下分析其收敛性，验证了非光滑正则化在计算断层扫描和稀疏恢复中的有效性。
2026-03-23 cs.NA math.NA math.OC
Ensemble Kalman filter for neural network based one-shot inversion
我们研究使用机器学习中出现的新技术来解决逆问题。我们的方法取代了复杂的前向模型的神经网络，这是同时在一个一次性意义上的训练时，估计未知参数的数据，即神经网络的训练只为未知参数。通过建立一个链接到贝叶斯方法反问题，算法框架的开发，确保了参数估计的可行性w.r.到forward模型。我们提出了一种有效的，导数免费的最优化方法的基础上的集合卡尔曼反演的变体。数值实验表明，基于神经网络的一次反演的集合卡尔曼滤波是一个很有前途的方向结合优化和机器学习技术的反问题。
2020-09-14 cs.NA math.NA
Subsampling in ensemble Kalman inversion
本文针对集合卡尔曼反演在大数据集下计算不可行的问题，提出并分析了单一子采样和批量子采样两种随机子采样技术，以降低每次迭代的计算成本。
2023-12-04 cs.NA math.NA
Analysis of Hierarchical Ensemble Kalman Inversion
University of Warwick（华威大学）
本文研究了层次化贝叶斯反演的连续时间极限，通过集合卡尔曼滤波探讨了线性情况下反演的连续时间极限，并分析了协方差膨胀和定位等变体的连续时间极限。
2018-01-02 cs.NA math.NA
A Stabilization of a Continuous Limit of the Ensemble Kalman Inversion
扩展卡尔曼滤波器（EnKF）属于迭代粒子滤波方法，可用于求解控制-可观测逆问题。在这种情况下，EnKF被称为Envelope Kalman Inversion（EKI）。近年来，为了研究该方法的性质，对迭代次数和粒子数进行了连续限制。特别是，一维线性稳定性分析揭示了可能的缺点，在相空间的时刻提供的连续限制的EKI，但也观察到在多维设置。在这项工作中，我们解决这个问题，通过引入一个稳定的动态，导致一个方法与全局渐近稳定的解决方案。我们说明了稳定版本的性能，使用测试反问题从文献中，并将其与经典的连续极限制定的方法。
2022-02-16 cs.NA math.DS math.NA
Improve Unscented Kalman Inversion With Low-Rank Approximation and Reduced-Order Model
文献[1]中提出的无迹卡尔曼反演（UKI）是一种求解反演问题的通用无导数方法。UKI特别适合于逆问题，其中正向模型是作为黑盒给出的，并且可能是不可微的。深入研究了UKI的正则化策略和收敛特性，并通过实验验证了该方法在处理噪声观测数据和求解混沌反问题中的有效性。在本文中，我们的目标是使UKI更有效的计算和内存成本的大规模反问题。我们利用低秩的协方差结构，以减少正向问题的评估和内存成本，需要传播大的协方差阵的数量。我们利用降阶模型技术来进一步加快这些前向评估。在一个具有O（$10^5$）未知参数的正压模式反问题和一个三维广义环流模式（GCM）反问题上证明了增强的UKI的有效性，其中每次迭代与基于梯度的最优化方法一样有效。
2021-02-23 cs.NA math.NA math.OC
Well Posedness and Convergence Analysis of the Ensemble Kalman Inversion
Universität Augsburg（奥格斯堡大学）；Universität Mannheim（曼海姆大学）；Universität Erlangen（埃尔朗根大学）
本文研究了在固定集合大小下，使用扰动观测的Ensemble Kalman Inversion方法在线性反问题中的适定性和收敛性，通过连续时间尺度极限推导出耦合的随机微分方程系统，以分析该方法的长期行为和收敛性质，并将其视为一种无导数优化方法用于最小二乘误差点函数。
2019-02-26 cs.NA math.NA
Continuous time limit of the stochastic ensemble Kalman inversion: Strong convergence analysis
EKI方法是一种在贝叶斯逆问题中估计未知参数的方法。该方法通过粒子的集合来近似基本测量，并迭代地应用集合卡尔曼更新以将先前的（近似）演化为后验测量。对于EKI的收敛性分析，通常的做法是导出一个连续的版本，用随机微分方程代替迭代。在本文中，我们验证了这种方法表明，随机EKI迭代收敛到路径的连续时间随机微分方程，同时考虑非线性和线性设置，我们证明了依概率收敛的前，和收敛的时刻为后者。所采用的方法也可应用于一般随机微分方程的更一般的数值格式的分析。
2021-07-30 cs.NA math.NA
Convergence Analysis of Ensemble Kalman Inversion: The Linear, Noisy Case
Institute for Mathematics, University of Mannheim（曼海姆大学数学研究所）；Department of Computing and Mathematical Sciences, California Institute of Technology（加州理工学院计算与数学科学系）
本文基于算法的连续时间极限，分析Ensemble Kalman inversion的动态行为，建立固定 Ensemble size 下的well-posedness和收敛性结果，探讨噪声对收敛性的影响。
2017-08-08 cs.NA math.NA
Gradient flow structure and convergence analysis of the ensemble Kalman inversion for nonlinear forward models
集合卡尔曼反演（EKI）是一种基于粒子的方法，它是集合卡尔曼滤波在反演问题中的应用。在实践中，它已被广泛用于无导数的最优化方法，以估计未知参数的噪声测量数据。对于线性正演模型，EKI可以看作是由某一样本协方差阵预处理的梯度流。通过预处理，所得到的格式保持在原始高维（甚至无限维）参数空间的有限维子空间中，并且可以被视为限制在该子空间中的优化器。对于一般的非线性正演模型，所得到的EKI流只能近似地看作是梯度流。在本文中，我们讨论了应用样本协方差作为预处理矩阵和量化的梯度流结构的EKI通过控制近似误差，通过在粒子系统中的传播的效果。系综坍缩一方面导致精确的梯度近似，但另一方面导致预处理样本协方差阵的退化。为了确保收敛的最优化方法，我们得到的集合崩溃的下限和上界。此外，我们在不破坏子空间性质的情况下引入协方差膨胀，旨在降低系综的崩溃率，从而提高收敛速度。在一个数值实验中，我们应用EKI的非线性椭圆边值问题，并说明依赖于EKI作为导数自由优化的初始合奏的选择。
2022-09-02 cs.NA math.NA math.OC
Ensemble Kalman Inversion as an Inertial Interacting Particle System
Institute for Geometry and Applied Mathematics, RWTH Aachen University（亚琛工业大学几何与应用数学研究所）；Department of Mathematics and Applied Mathematics, University of Pretoria（比勒陀利亚大学数学与应用数学系）；Department of Mathematics, Sapienza University of Rome（罗马第一大学数学系）
针对集合卡尔曼反演中协方差崩溃问题，提出一种结合阻尼、均值吸引和短程排斥的惯性二阶粒子系统，在线性反问题中分析其稳定性并导出指数衰减估计。
2026-09-15 cs.NA math.DS math.NA
Adaptive Tikhonov strategies for stochastic ensemble Kalman inversion
集合卡尔曼反演（EKI）是一种无导数的优化算法，其主要目的是求解反演问题，其思想来源于著名的集合卡尔曼滤波。本文的目的是考虑引入自适应Tikhonov策略EKI。这项工作建立在Tikhonov EKI（TEKI）的基础上，提出了一个固定的正则化常数。通过自适应地学习正则化参数，该过程被称为提高潜在未知的恢复。对于分析，我们考虑一个连续的时间设置，我们扩展已知的结果，如良好的posdeness和收敛的各种损失函数，但增加了噪声观测。此外，我们允许时变噪声和正则化协方差在我们提出的收敛结果，模仿自适应正则化方案。反过来，我们提出了三个自适应正则化方案，这是突出从确定性和贝叶斯方法的反问题，其中包括双层优化，MAP制定和协方差学习。我们数值测试这些计划和理论的线性和非线性偏微分方程，他们优于非自适应TEKI和EKI。
2021-10-18 cs.NA math.NA
On the ensemble Kalman inversion under inequality constraints
针对集合卡尔曼反演忽略约束的问题，提出基于对数障碍的连续时间公式改进，纳入凸不等式约束，理论证明集合坍缩界及收敛性，并通过PDE示例验证。
2023-12-21 cs.NA math.NA
Accuracy Boost in Ensemble Kalman Inversion via Ensemble Control Strategies
针对初始集合子空间限制 EKI 精度的问题，本文提出最优子空间框架及融合先验、数据和模型信息的贪心集合选择策略，显著提升高维不适定反演的精度与可扩展性。
2025-03-14 cs.NA math.NA
Unscented Kalman Inversion: Efficient Gaussian Approximation to the Posterior Distribution
文献[1]中提出的无迹卡尔曼反演（UKI）方法是一种通用的无导数反演方法。UKI特别适合于逆问题，其中正向模型是作为黑盒给出的，并且可能是不可微的。深入研究了UKI的正则化策略、收敛性和加速策略[1，2]，该方法能够处理噪声观测数据和求解混沌逆问题。本文研究了UKI的不确定度量化能力。我们提出了一个修改的UKI，它允许很好地近似的平均值和协方差的后验分布的适定性反问题与大的观测数据。线性和非线性反问题的理论保证。数值结果，包括学习渗透率参数在地下流动和Navier-Stokes初始条件的解决方案数据在积极的时间。通过UKI得到的结果仅需要$O(10)$迭代，并且与通过马尔可夫链蒙特卡罗方法得到的预期结果匹配良好。
2021-04-22 cs.NA math.NA
Dropout Ensemble Kalman inversion for high dimensional inverse problems
本文针对集成卡尔曼反演在高维问题中受子空间性质限制的难题，提出dropout正则化方法，证明其在小集合下收敛且计算成本随维度线性增长，并达到最优查询复杂度。
2024-09-30 cs.NA math.NA
Ensemble Kalman Inversion method for an inverse problem in soil-structure interaction
在许多工程应用中，基础结构与土之间的相互作用已经得到了发展。为了确定基础结构中的应力，需要确定土壤刚度相对于变形板的位移w的影响（正问题），反之亦然，基础结构的刚度如何影响产生的沉降（反问题）。在本文中，我们处理的Winkler数学模型，并建议使用一个有效的Enclosula卡尔曼反演计划（EKI），迭代正则化的逆问题的不适定性。它是贝叶斯逆问题中使用的正则化优化器，在伪时间内对粒子进行采样，由于这些粒子的运动而引入运动。EKI算法收敛于使目标函数最小化的最优化问题的解。在这方面，我们展示了如何重建Winkler地基反力系数的矩形薄板加载与现有的建筑物使用EKI方法结合的有限差分法（FDM）离散的双调和算子的控制方程。
2022-05-16 cs.NA math.NA
Ensemble Kalman Inversion for nonlinear problems: weights, consistency, and variance bounds
针对非线性正向映射下EnKI和EnSRF有偏及重要性采样方差大的问题，提出加权版本WEnKI和WEnSRF，兼具无偏性和有界权重方差，并证明了其性质及方程稳定性。
2020-07-22 cs.NA math.NA
Ensemble Kalman Inversion for Image Guided Guide Wire Navigation in Vascular Systems
针对心血管介入中高分辨率图像导致 EKI 计算代价过高的问题，提出基于随机梯度连续时间表示的子采样 EKI，并在真实导丝数据上验证了参数估计潜力。
2023-12-11 cs.NA math.NA
A Bi-fidelity Ensemble Kalman Method for PDE-Constrained Inverse Problems
基于偏微分方程的复杂物理系统的数学建模与仿真在工程和工业应用中得到了广泛的应用。为了实现可靠的预测，通过推断未知参数/场（例如，边界条件、机械性能和操作参数），这被称为PDE约束的逆问题。在这项工作中，我们开发了一种新的双保真度（BF）集合卡尔曼反演方法来应对这一挑战，利用高保真模型的准确性和低保真度模型的效率。其核心思想是建立一个具有有限数量高保真样本的BF模型，用于迭代集合卡尔曼反演中的高效前向传播。与现有的反演技术相比，所提出的方法的显着特点可以概括如下：（1）实现高保真模型的精度，但以低保真度模型为代价，（2）是鲁棒的和衍生的自由，和（3）代码非侵入性，使不同的应用程序易于部署。所提出的方法已被评估的三个反问题，是相关的流体动力学，包括参数估计和现场反演。数值结果表明，所提出的BF集合卡尔曼反演方法，大大优于标准卡尔曼反演的效率和精度方面的优异性能。
2020-07-19 cs.NA math.NA physics.comp-ph
Parameterizations for Ensemble Kalman Inversion
University of Warwick（华威大学）；University of Nottingham（诺丁汉大学）；Imperial College London（帝国理工学院）；California Institute of Technology（加州理工学院）
本文探讨了如何通过几何和分层方法设计有效的参数化方案，以提升在电阻抗成像、地下水流动和源反演等应用中的卡尔曼反演性能。
2018-03-19 cs.NA math.NA math.OC
An adaptive multi-fidelity PC-based ensemble Kalman inversion for inverse problems
Southeast University（东南大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）
本文提出了一种自适应多保真多项式混沌基于集合卡尔曼反演的方法，用于解决高维非线性PDE描述系统中集合卡尔曼反演计算成本高的问题，通过结合大量低阶多项式混沌替代模型评估和少量高保真正向模型评估，显著降低了计算成本。
2018-09-21 cs.NA math.NA
Localization in Ensemble Kalman inversion
针对集成卡尔曼反演（EKI）受子空间性质限制、集成规模需超过问题维度的问题，提出局域化EKI（LEKI）方法，证明其能突破初始子空间、收敛至全局最优，并用多类数值算例验证理论结果。
2022-01-31 cs.NA math.NA stat.CO
The Fundamental Subspaces of Ensemble Kalman Inversion
本文针对线性观测算子，通过直接分析离散EKI迭代，定义了六个基本子空间，从而解释并验证了EKI的收敛性质，并提供了新的收敛行为描述，数值实验验证了理论结果。
2025-05-23 cs.NA math.NA
Perspectives on locally weighted ensemble Kalman methods
本文从函数逼近视角提出局部加权集合卡尔曼反演方法，结合粒子滤波与集合卡尔曼滤波优势，并用数值实验验证其在逼近和反演中的精度。
2025-05-06 cs.NA math.NA math.PR
Complete Deterministic Dynamics and Spectral Decomposition of the Linear Ensemble Kalman Inversion
解$y = A u +\varepsilon$型贝叶斯反问题的集合卡尔曼反演（EKI）是一种强有力的工具，它以$u$为未知参数，以$y$为给定数据，以$\varepsilon$为观测噪声，通常从序贯蒙特卡罗的观点导出.它描述了一个粒子的合奏$\{u^j(t)\}_{j=1}^J$，其初始的经验措施是从以前的采样，在一个人工时间$t$对逆问题的近似解的演变，与$t=1$仿真后，和$t\to\infty$对应的下正则化的最小范数解的逆问题的动态。使用谱技术，我们提供了一个完整的描述的确定性动力学的EKI及其在参数空间中的渐近行为。特别是，我们分析了天真的EKI和平均场EKI的动力学，特别关注他们的时间渐近行为。此外，我们表明-即使在确定性的情况下-参数空间中的残差不单调递减的欧几里德规范，并建议一个问题适应规范，其中单调性可以证明。最后，我们推导出一个系统的常微分方程的频谱和特征向量的协方差矩阵。虽然分析的目的是EKI，我们相信，它可以应用于了解更一般的粒子为基础的动力系统。
2022-10-30 cs.NA math.NA math.OC
An ensemble Kalman filter approach based on level set parameterization for acoustic source identification using multiple frequency information
该方法利用远距离闭曲面上的多频噪声数据重建空间相关的未知声源。假设未知函数在有界域上受支持。为了确定支持度，我们提出了一种统计反演算法，它结合了集合卡尔曼滤波方法和水平集技术。数值算例表明，该方法具有良好的数值重构效果。
2019-07-29 cs.NA math.NA
Gradient-free training of neural ODEs for system identification and control using ensemble Kalman inversion
Frankfurt School of Finance and Management（法兰克福金融管理学院）
本文提出用无梯度的 EKI 训练 neural ODEs，并通过含 Tikhonov 正则化的反问题处理系统辨识与最优控制，实验表明其效率和解质量可媲美梯度优化器。
2023-07-15 cs.LG cs.NA cs.SY
Ensemble Kalman Inversion: mean-field limit and convergence analysis
本文分析了连续版 Ensemble Kalman Inversion 的耦合 SDE 系统，证明了其平均场极限：粒子经验测度以最优速率收敛到 Fokker-Planck 方程的解，且在线性情况下能在有限时间内重建目标分布。
2020-07-30 cs.NA math.NA math.PR
Iterated Kalman Methodology For Inverse Problems
本文主要研究反问题求解的优化方法。我们引入了一个随机动力系统，其中嵌入的参数到数据的映射，采用非线性卡尔曼滤波技术来估计参数给定的数据的目标。扩展卡尔曼滤波器（在逆问题的上下文中我们称之为ExKI）对于以这种方式处理的一些逆问题可能是有效的，但是当前向映射不容易微分并且作为黑盒给出时是不切实际的，并且对于高维参数空间也是不切实际的，因为需要传播大的协方差阵。集合卡尔曼滤波器的应用，例如使用集合卡尔曼反演（EKI）算法，已经成为克服这两个问题的有用工具：它是无导数的，并且与从集合形成的低秩协方差近似一起工作。在本文中，我们与ExKI，EKI，和EKI的变种，我们术语无迹卡尔曼反演（UKI）。该文件包含两个主要贡献。首先，我们确定了一个新的随机动力系统，其中嵌入的参数到数据的映射。我们目前的理论在线性的情况下，显示指数收敛的平均值的过滤分布的正则化最小二乘问题的解决方案。这是在以前的工作中，EKI已被采用的动力系统使用导致代数收敛到一个非正则化的问题。其次，我们表明，这种新的随机动力系统的应用程序的UKI产生改进的反演结果，在EKI的应用程序相比，相同的新的随机动力系统。
2022-04-28 cs.NA math.DS math.NA
Bayesian Hierarchical Model of Total Variation Regularisation for Image Deblurring
Tampere University of Technology（坦佩雷理工大学）
本文提出基于总变分正则化的贝叶斯分层模型，通过拉普拉斯密度先验和变分贝叶斯方法实现逆问题参数的同时估计，用于图像去模糊，结果展示其在边缘保持方面的应用潜力。
2014-12-14 cs.NA math.NA stat.ME
Uncertainty quantification for deeponets with ensemble kalman inversion
University of Iowa（爱荷华大学）
针对DeepONet在有限含噪数据下的不确定性量化需求，提出基于集成卡尔曼反演的推理方法，结合小批量变体与启发式协方差估计，高效训练集成并生成可靠不确定性估计，在多基准问题中验证了有效性。
2024-03-06 cs.AI cs.LG cs.NA
A New Look at the Ensemble Kalman Filter for Inverse Problems: Duality, Non-Asymptotic Analysis and Convergence Acceleration
Department of Aerospace Engineering & Engineering Mechanics, UT Austin（德克萨斯大学奥斯汀分校航空航天工程与应用力学系）；Hildebrand Department of Petroleum and Geosystems Engineering（希尔布兰德石油与地质系统工程系）；Oden Institute for Computational Engineering and Sciences, UT Austin（德克萨斯大学奥斯汀分校奥登计算工程与科学学院）；Facebook research（Facebook 研究）
本文通过新的对偶视角，提出改进EnKI算法的收敛策略，加速EnKF在逆问题中的收敛速度并提升解的质量。
2026-01-24 cs.NA math.NA math.OC
EnKSGD: A Class Of Preconditioned Black Box Optimization And Inversion Algorithms
本文提出EnKSGD类无导数优化算法，基于EnKF基础理论改进，兼具仿射不变性与回溯线搜索，无需子空间约束与方差坍缩，适用范围更广，数值实验验证其收敛速度优于现有EnKF优化方法。
2023-03-29 cs.NA math.NA math.OC
Ensemble Kalman Methods: A Mean Field Perspective
本文针对集成卡尔曼方法精度分析滞后的问题，提出基于平均场的统一框架，涵盖状态与参数估计、离散与连续时间场景，统一领域文献并指明开放问题。
2024-10-07 cs.NA math.NA math.OC
An ensemble Kalman approach to randomized maximum likelihood estimation
本文提出集合卡尔曼随机最大似然估计方法，通过演化集合求解随机扰动优化问题以近似贝叶斯后验采样，并结合平衡截断模型降阶策略降低高维前向模型的计算代价。
2025-07-03 cs.NA math.NA
The Ensemble Kalman Filter for Dynamic Inverse Problems
本文针对动态正向模型下的反问题，提出了一种基于粒子的无导数优化方法dynamic-EKI，通过协方差结构分析粒子系统的矩界与集合坍塌，证明了期望意义下的收敛性，并在二维达西流偏微分方程实验中验证了理论结果。
2024-09-25 cs.NA math.NA stat.ME
A Review of the EnKF for Parameter Estimation
集合卡尔曼滤波是一种著名的数据同化算法。它是特别相关的，因为它用于高维问题，通过更新粒子的合奏通过一个样本均值和协方差阵。在本章中，我们提出了一个相对较新的主题，这是应用EnKF反问题，被称为集合卡尔曼反演（EKI）。EKI用于参数估计，它可以被看作是一个黑箱优化器的偏微分方程约束的反问题。在本章中，我们提出了讨论的方法的审查，同时提出新兴的和新的研究领域，在地球科学和数值天气预报中出现的许多有趣的模型提供数值实验。
2022-07-26 cs.NA math.NA
Beyond Independence: on Jointly Normal Priors in Bayesian Inversion
University of Auckland（奥克兰大学）；Rocsole Limited（罗克索尔有限公司）；University of Eastern Finland（芬兰东部大学）
本文提出一种联合正态先验模型，用于贝叶斯反演中多个未知参数的联合倒置，通过保留边际分布并允许空间变化的交叉相关性，提升参数间相关性的建模能力。
2026-05-01 cs.NA math.NA stat.ME
Ensemble transform Kalman-Bucy filters
University of Maryland, College Park（马里兰大学帕克分校）；Universität Potsdam（波茨坦大学）
针对现有集成卡尔曼-布西滤波器在背景误差协方差与观测误差协方差比值较大时出现的刚性ODE问题，提出稳定且计算高效的变换方法，并在三个模型上验证了有效性。
2012-08-31 cs.NA math.DS math.NA
Bayesian inversion for unified ductile phase-field fracture
在大规模金属材料和结构的设计和制造中，预测延性破坏过程中裂纹的萌生和扩展是一项具有挑战性的任务。延性破坏的数值方面决定了大量材料性能的塑性和塑性相关参数的次优校准。这些参数作为正演模型进入偏微分方程组。在这项工作中，我们开发了一个逐步贝叶斯反演框架韧性断裂提供准确的知识，有效的力学参数。为此，合成和实验观察被用来估计后验密度的未知数。为了模拟固体材料的韧性破坏行为，我们依赖于相场方法断裂，为此，我们提出了一个统一的配方，允许恢复不同的模型在变分的基础上。在变分框架下，一类梯度型耗散材料的增量极小化原理被用来推导控制方程。整体配方重新审视和扩展到各向异性韧性断裂的情况下。三种不同的模型，随后恢复某些选择的参数和本构函数，这是后来通过贝叶斯反演技术进行评估。为了估计延性材料参数的后验密度函数，采用了三种常用的马尔可夫链蒙特卡罗（MCMC）方法：（i）Metropolis-Hastings算法，（ii）延迟拒绝自适应Metropolis算法，（iii）与MCMC相结合的集合卡尔曼滤波器。为了检验MCMC方法的计算效率，我们采用了R-收敛工具。
2021-04-22 cs.CE cs.NA math.NA
Adaptive operator learning for infinite-dimensional Bayesian inverse problems
针对PDE约束的贝叶斯反问题计算成本高的问题，本文提出一种自适应算子学习框架，通过贪心选点微调预训练代理模型以局部降低建模误差，并结合DeepOnet与UKI实现高效且精确的反演。
2024-09-04 cs.NA math.NA stat.CO
