A Preconditioned Riemannian Gauss-Newton Method for Least Squares Inverse Eigenvalue Problems
Zhejiang University of Science and Technology(浙江科技大学);Xiamen University(厦门大学);University of Macau(澳门大学);Hangzhou Dianzi University(杭州电子科技大学)
本文提出了一种Riemannian近似广义牛顿法用于最小二乘反特征值问题,分析了其全局和局部收敛性,并提出预条件共轭梯度法求解Riemannian广义牛顿方程,通过数值实验验证了方法的有效性。
2018-06-17 cs.NA math.NA
A novel Newton method for inverse elastic scattering problems
针对弹性散射逆问题,提出一种基于边界条件的牛顿型迭代方法,利用亥姆霍兹分解和傅里叶-贝塞尔展开显式推导散射场及其导数,并给出严格数学论证与数值验证。
2023-10-12 cs.NA math.NA
Early stopping of stochastic variance reduced gradient for linear inverse problems by the discrepancy principle
The Chinese University of Hong Kong(香港中文大学)
本文为随机方差缩减梯度法配备偏差原理,在希尔伯特空间线性反问题中确立其正则化性质并推导收敛速率,为首个先验后停止规则下的随机迭代方法收敛速率结果,数值实验验证了理论。
2026-09-14 cs.NA math.NA math.OC
A generalized Newton iteration for computing the solution of the inverse Henderson problem
Johannes Gutenberg-Universität Mainz(约翰内斯·古腾堡美因茨大学)
本文提出了一种通用的牛顿迭代方案IHNC,用于构建有效配对势能,以模拟相互作用的点状粒子系统。该方法通过匹配给定的径向分布函数来构造势能,并利用超网链积分方程近似计算正向算子的雅可比矩阵的逆。
2018-06-28 cs.NA math.NA
Projected Newton Method for noise constrained Tikhonov regularization
Tikhonov正则化是一种用于求解病态线性最小二乘问题的有效方法。Morozov的差异原理给出了一个选择正则化参数的相对简单的方法。然而,大多数方法需要解决的吉洪诺夫问题的许多不同值的正则化参数,这是计算要求大规模的问题。我们提出了一个新的和有效的算法,同时解决了Tikhonov问题,并找到相应的正则化参数,使差异原则得到满足。我们实现这一点,制定的问题作为一个非线性系统的方程和解决这个系统使用线搜索法。我们通过将问题投影到一个低维Krylov子空间上并计算投影问题的牛顿方向来获得一个好的搜索方向。这个投影牛顿方向,这是显着更少的计算昂贵的计算比真正的牛顿方向,然后结合回溯线搜索,以获得一个全局收敛的算法,我们称之为投影牛顿法。我们证明了算法的收敛性,并通过一些数值实验说明了当前最先进的求解器的改进性能。
2020-04-30 cs.NA math.NA
A Riemannian Inexact Newton-CG Method for Nonnegative Inverse Eigenvalue Problems: Nonsymmetric Case
Hangzhou Dianzi University(杭州电子科技大学);Xiamen University(厦门大学);University of Macau(澳门大学)
本文提出一种非负逆特征值问题的黎曼近似牛顿-共轭梯度方法,用于求解非对称情况下的非负矩阵,其谱为给定的自共轭复数集。
2017-06-12 cs.NA math.NA
Acceleration techniques for regularized Newton methods applied to electromagnetic inverse medium scattering problems
Institut für Numerische und Angewandte Mathematik, Universität Göttingen(哥廷根大学数值与应用数学研究所);Deutsches Zentrum für Luft- und Raumfahrt e. V. in der Helmholtz-Gemeinschaft, Institut für Aerodynamik und Strömungstechnik(德国航空航天中心(戴姆勒-克莱斯勒-阿利安特-马瑟里基金会),空气动力学与流动技术研究所)
研究谱预条件子的构造与更新以加速正则化牛顿方法,并应用于电磁逆介质散射问题,提出高效Lepskiĭ型停止准则,在精确数据下优于其他迭代正则化方法,在噪声数据下显著优于偏差原理。
2010-03-23 cs.NA math.NA
A Riemannian Inexact Newton Dogleg Method for Constructing a Symmetric Nonnegative Matrix with Prescribed Spectrum
本文研究了由可实现谱构造对称非负矩阵的反问题。我们将反问题转化为黎曼乘积流形上的欠定非线性矩阵方程。为了解决这个问题,我们发展了一个黎曼欠定不精确Newton折线方法,用于求解定义在黎曼流形和欧几里得空间之间的一般欠定非线性方程。在适当的假设下,证明了该方法的全局收敛性和平方收敛性.然后将该方法应用于其等价的非线性矩阵方程求解反问题,并构造了扰动正规RiemannianNewton方程的预条件子.数值试验表明了该方法求解反问题的有效性。
2021-10-29 cs.NA math.NA
The inverse of the star-discrepancy problem and the generation of pseudo-random numbers
School of Mathematics and Statistics, The University of New South Wales(新南威尔士大学数学与统计学院);Department of Financial Mathematics, Johannes Kepler University(约翰·开普勒大学金融数学系)
研究星偏差问题的逆问题,探讨构造合适点集的方法,并指出其与伪随机数生成器的联系。
2014-07-16 cs.NA math.NA math.NT
A semi-smooth Newton method for efficient evaluation of the inverse hysteresis operator
Johann Radon Institute for Computational and Applied Mathematics, Austrian Academy of Sciences(奥地利科学院约翰·拉顿计算与应用数学研究所);Institute for Numerical Mathematics, Johannes Kepler University(约翰内斯·开普勒大学数值数学研究所)
该研究针对能量基矢量迟滞模型的非光滑性问题,提出半光滑牛顿法计算其逆迟滞算子,可无缝集成到磁场模拟并获全局线性收敛结果,经实验验证有效。
2026-08-05 cs.NA math.NA
The $L_p$-discrepancy for finite $p>1$ suffers from the curse of dimensionality
本文证明了对于区间 $(1,\infty)$ 中的所有 $p$,$L_p$-偏差均遭遇维度灾难,仅 $p=1$ 的情况仍悬而未决,该结论源于对锚定 Sobolev 空间正求积公式最坏情况误差的更普遍证明。
2024-03-26 cs.NA math.NA
Projected Newton method for large-scale Bayesian linear inverse problems
本文提出投影牛顿法(PNT),通过将Tikhonov正则化转化为约束优化问题并结合Krylov子空间方法,实现正则化参数与解的同步迭代更新,避免高成本矩阵运算,适用于大规模贝叶斯线性反问题。
2025-04-05 cs.NA math.NA
Adversarial Numerical Analysis for Inverse Problems
许多科学和工程应用都是与随机模型相关的反问题。在这种情况下,未知量是分布。传统方法的适用性是有限的,因为他们苛刻的假设或禁止计算消耗;例如,最大似然方法需要封闭形式的密度函数,和马尔可夫链蒙特卡洛需要大量的模拟。我们引入对抗性数值分析,它通过最小化观测随机过程和模拟随机过程之间的统计特性的差异来估计未知分布。用判别神经网络计算差异度量。数值实验表明,所提出的方法可以估计潜在的参数和学习复杂的未知分布。
2019-10-15 cs.NA math.NA
Projected Newton method for a system of Tikhonov-Morozov equations
University of Antwerp(安特卫普大学)
本文提出了一种牛顿型方法,用于求解结合Tikhonov正则化方程和Morozov不相容原理的非线性系统。通过限制牛顿迭代的步长,证明方法总能收敛到解,并通过投影到低维Krylov子空间降低计算成本。
2018-09-05 cs.NA math.NA
Inverse Cubic Iteration
关于非线性标量方程求根的论文有成千上万篇。这里还有一个,谈论一个明显的新方法,我称之为“逆三次迭代”(ICI),类似于Richard Brent的zeroin方法中的逆二次迭代。这种可能的新方法是基于反函数的切线近似的三次混合。为了数值稳定性,我们将此迭代重写为两个牛顿步骤和一个正割步骤的平均值:每个步骤只需要一个新的函数求值和导数求值。因此,该方法的总成本仅比牛顿法略高,并且我们将看到它具有$1+\sqrt{3} = 2.732...$阶,从而确保要达到给定的精度,它通常比牛顿法花费更少的步骤,而每步使用基本相同的努力。
2020-07-13 cs.NA math.NA
Efficient TV regularization of large-scale linear inverse problems via the SCD semismooth* Newton method with applications in tomography
Johann Radon Institute for Computational and Applied Mathematics(约翰·拉登计算与应用数学研究所);Institute of Information Theory and Automation, Czech Academy of Sciences(捷克科学院信息理论与自动化研究所);Johannes Kepler University Linz(林茨约翰·开普勒大学);University of Eastern Finland(芬兰东部大学)
本文提出基于SCD半光滑牛顿方法的高效TV正则化求解方法,适用于大规模反问题,并在断层成像中验证了其性能。
2026-06-25 cs.NA math.NA
Riemannian Inexact Newton Method for Structured Inverse Eigenvalue and Singular Value Problems
National Formosa University(国立虎尾科技大学);National Cheng Kung University(国立成功大学);University of Macau(澳门大学)
本文提出了一种结合微分几何和不精确牛顿方法的Riemannian不精确牛顿方法,用于解决结构逆特征值和奇异值问题,并展示了该方法在全局和二次收敛性以及数值鲁棒性和精度方面的表现。
2018-10-16 cs.NA math.NA
Riemannian Newton-CG Methods for Constructing a Positive Doubly Stochastic Matrix From Spectral Data
本文研究了正双随机阵的特征值反问题,其目的是由给定的可实现谱数据构造一个正双随机阵。利用实Schur分解,将反问题转化为矩阵乘积流形上的非线性矩阵方程。提出了求解非线性矩阵方程的单调和非单调Riemann不精确Newton-CG方法。在一定的假设条件下,证明了算法的全局收敛性和平方收敛性.我们还提供了不变子空间的构造解决方案的反问题的基础上计算的实Schur分解。最后,我们报告了一些数值测试,包括在有向图中的应用,以说明所提出的方法的有效性。
2020-06-24 cs.NA math.NA
The Carleman-Newton method to globally reconstruct a source term for nonlinear parabolic equation
本文提出将Carleman估计与Newton方法相结合,求解一类由侧边界数据求解的非线性抛物型方程的源反问题。这个源反问题的稳定性是条件对数的。因此,由于传统的最小二乘优化的数值结果可能不可靠。为了提高稳定性,我们近似这个问题的截断高频项的傅里叶级数,代表解决方案的控制方程。由此,我们得到一个非线性椭圆型偏微分方程组,其解由抛物型控制方程解的傅里叶系数组成。我们用Carleman-Newton方法求解这个方程组。Carleman-Newton方法是近年来发展起来的一种求解非线性偏微分方程的新算法。Carleman-Newton方法的优点包括:(1)不需要很好的初始猜测;(2)计算成本不高。这些特征被严格证明。有了这个系统的解,我们可以直接计算所提出的反问题的解。给出了一些数值例子。
2022-09-16 cs.NA math.NA
The Ivanov regularized Gauss-Newton method in Banach space with an a posteriori choice of the regularization radius
在本文中,我们考虑迭代正则化的高斯-牛顿方法,其中正则化是通过伊万诺夫正则化实现的,即,通过对解决方案施加先验约束。我们提出了一个后验选择的正则化半径,基于不精确的牛顿/差异原理的方法,证明了收敛性和收敛速度的变源条件下的噪声水平趋于零,并提供了一个分析的离散化误差。我们的结果是有效的一般情况下,可能非自反巴拿赫空间,包括,例如,作为原像空间的$L^\infty$。数值实验结果说明了理论研究结果。
2019-10-04 cs.NA math.NA
On the Discrepancy Principle for Stochastic Gradient Descent
随机梯度下降法是一种很有前途的求解大规模反问题的数值方法。然而,它的理论性质在很大程度上仍然在经典正则化理论的镜头下探索。本文研究了经典的差异原理,即最流行的\textit{a posteriori}选择规则之一,作为SGD的停止准则,证明了有限迭代终止性和当噪声趋于零时收敛概率的收敛性.理论结果与广泛的数值实验进行了补充。
2020-07-21 cs.NA math.NA
A modified discrepancy principle to attain optimal convergence rates under unknown noise
在希尔伯特空间中考虑一个线性不适定方程。右手侧的多个独立无偏测量是可用的。一种自然的方法是将测量值的平均值作为右手边的近似值,并将数据误差估计为测量值数量的平方根的倒数。我们计算的最佳收敛速度(作为测量的数量趋于无穷大)在经典的源条件下,并介绍了一个修改的差异原则,渐近达到这个速度。
2021-06-10 cs.NA math.NA
On the order optimality of the regularization via inexact Newton iterations
Mathematical Sciences Institute, The Australian National University(澳大利亚国立大学数学科学学院)
本文研究非精确牛顿正则化方法求解非线性不适定反问题,通过结合Landweber迭代、隐式迭代、渐近正则化和Tikhonov正则化作为内层方案,在Hilbert尺度下获得了阶最优收敛速率,改进了Rieder的次优结果。
2011-11-08 cs.NA math.NA
Iterative inversion schemes for the Born series and the reduced inverse Born series
University of Hyogo(兵库大学);Kindai University(近畿大学)
本文提出了一种快速迭代方案用于求解Born级数及缩减逆Born级数,以解决非线性反问题中的计算成本问题。
2025-11-29 cs.NA math.NA
The curse of dimensionality for the $L_p$-discrepancy with finite $p$
该研究解决了长期存在的开放问题,证明了所有形如$p=2\ell/(2\ell-1)$($\ell\in\mathbb{N}$)的$(1,2]$区间内的p对应的$L_p$偏差均存在维数灾难,结论基于锚定Sobolev空间数值积分最坏误差的更一般性结果推导得出。
2023-06-12 cs.NA math.NA math.NT
Quasi Monte Carlo inverse transform sampling for phase space conserving Lagrangian particle methods and Eulerian-Lagrangian coupling
本文提出了一种新的和实际有用的几何积分,低差异采样和代码耦合拉格朗日和欧拉符拉索夫-泊松求解器之间的联系。低差异序列,也称为准随机序列(拟蒙特卡罗方法),提供接近$\mathcal{O}( N^{-1})$的收敛速度,其远远优于仅在$\mathcal{O}(N^{-0.5})$处稳定的(伪)随机数(蒙特卡罗)。拉格朗日粒子方法(如PIC)依赖于蒙特卡罗积分。颗粒分布受到前向流的非线性扰动。因此,它仍然是一个问题,粒子方法是否可以受益于这样的准随机序列。任何非线性保测度映射都不影响QMC序列的低偏差性,从而保持收敛阶。本文表明,前向流的相空间守恒的几何粒子方法自然地导致这样一个测量保持映射的重要性,在一个新的框架。在这种情况下,Hardy Krause变差在Vlasov-Poisson系统中首次被观察到增加。线性相位。还提出了整个PIC模拟的恒星差异。另一方面,欧拉和拉格朗日求解器有不同的优点和缺点,这样,我们提出了一种新的方式过渡到一个PIC模拟从谱离散的Vlasov-Poisson系统。这是通过更高维的逆变换采样(Rosenblatt-Mück变换)来实现的。以这种方式,马尔可夫链蒙特卡罗技术被规避,其允许使用伪和准随机数。在后一种情况下,在线性和非线性阶段都可以观察到更好的收敛速度。
2020-06-24 cs.NA math.NA
A Gauss-Newton Method with No Additional PDE Solves Beyond Gradient Evaluation for Large-Scale PDE-Constrained Inverse Problems
Colorado School of Mines(科罗拉多矿业学院);University of California Santa Barbara(加州大学圣塔芭芭拉分校)
本文提出了一种无需额外PDE求解的Gauss-Newton方法,用于解决大规模PDE约束反问题,提升了FWI的计算效率与收敛速度。
2026-03-06 cs.NA math.NA math.OC
Sequential Projected Newton method for regularization of nonlinear least squares problems
我们开发了一个计算效率高的算法自动正则化的非线性反问题的差异原则的基础上。我们制定的问题作为一个等式约束的最优化问题,其中的约束是由最小二乘数据保真度项,并表示差异原则。目标函数是一个凸正则化函数,它包含了一些先验知识,如全变差正则化函数。利用非线性正演模型的雅可比矩阵,我们考虑了一系列二次约束最优化问题,这些问题都可以用投影牛顿法求解。我们表明,这样一个二次约束的子问题的解决方案的结果在一个下降方向的一个确切的价值函数。这个评价函数可以用来描述一个正式的线-搜索法。我们还制定了一个稍微更具启发性的方法,简化了算法,并允许一个不精确的解决方案的子问题的序列。我们说明的行为的算法,使用一些数值实验,Talbot-Lau X射线相衬成像作为主要的应用程序。数值实验证实,二次约束的子问题不需要解决高精度在早期迭代,使足够的进展的解决方案。此外,我们表明,所提出的方法是能够产生类似的质量重建相比,其他国家的最先进的方法,显着减少计算时间。
2021-09-02 cs.NA math.NA
Anderson Accelerated Gauss-Newton-guided deep learning for nonlinear inverse problems with Application to Electrical Impedance Tomography
针对非线性反问题,提出Anderson加速高斯-牛顿展开的物理引导深度学习框架,含三种策略,显著提升收敛速度与解质量,应用于电阻抗断层成像。
2024-11-08 cs.NA math.NA
Inexact Newton regularization methods in Hilbert scales
Virginia Tech(弗吉尼亚理工大学);University of Applied Sciences Zittau/Görlitz(齐陶/格尔利茨应用科学大学)
针对Hilbert尺度中的非线性反问题,提出一类不精确牛顿正则化方法,并在一定条件下获得阶最优收敛率。
2010-09-20 cs.NA math.NA
Improving the accuracy of the fast inverse square root algorithm
Uniwersytet w Białymstoku(比亚韦斯托克大学);Lviv Polytechnic National University(利沃夫国立理工大学)
本文提出改进的单精度浮点数快速逆平方根算法,精度显著优于经典算法,计算成本相近,核心方法是对牛顿-拉夫森方法进行修改以最小化最大误差。
2018-02-17 cs.NA math.NA
Iteratively regularized Newton-type methods for general data misfit functionals and applications to Poisson data
针对Banach空间中非线性算子方程的反问题,提出一种使用一般数据失配泛函和凸正则化项的迭代正则化牛顿型方法,证明了先验和后验停止规则下的收敛性与收敛率,并应用于泊松数据反问题(如障碍物散射和相位恢复)。
2012-03-23 cs.NA math.NA
Randomized Quasi-Newton Updates are Linearly Convergent Matrix Inversion Algorithms
我们开发和分析了一个广泛的家庭的随机/随机化算法的矩阵求逆。我们还开发了专门的变种保持对称性或正定性的迭代。该家族中的所有方法都全局收敛和线性收敛(即,误差以指数方式衰减)。在特殊情况下,我们得到了几个拟牛顿更新的随机块变体,包括坏Broyden(BB),好Broyden(GB),Powell-symmetric-Broyden(PSB),Davidon-Fletcher-Powell(DFP)和Broyden-Fletcher-Goldfarb-Shanno(BFGS)。我们的是这些更新的第一个随机版本,收敛到一个固定矩阵的逆。通过一个对偶的观点,我们揭示了拟牛顿更新和近似逆预处理之间的基本联系。此外,我们开发了一个自适应的随机块BFGS的变体,在那里我们修改的分布的随机性的方法在整个迭代过程中,以实现更快的收敛。通过对不同应用中的几个矩阵进行反演,我们证明了AdaRBFGS与成熟的Newton-Schulz和最小残差方法相比具有很强的竞争力。特别是,在大规模的问题,我们的方法优于标准方法的数量级。在大数据时代到来之际,发展有效的方法来估计超大矩阵的逆是预处理和变尺度最优化方法所急需的工具。
2016-03-23 cs.NA math.NA
An efficient Quasi-Newton method for nonlinear inverse problems via learned singular values
University of Sheffield(谢菲尔德大学);Purdue University(普渡大学);University of Science and Technology of China(中国科学技术大学);University of Oulu(奥卢大学);University College London(伦敦大学学院)
解决工程和物理科学中的复杂最优化问题需要重复计算多维函数导数。通常,这需要计算要求高的数值微分,如扰动技术,这最终限制了对时间敏感的应用。特别地,在非线性反问题中,使用需要从雅可比矩阵计算迭代更新的高斯-牛顿方法。计算上更有效的替代方案是拟牛顿法,其中雅可比矩阵的重复计算被近似更新所取代。本文提出了一种高效的数据驱动的拟牛顿法,它适用于非线性反问题。我们通过使用奇异值分解和学习从模型输出到奇异值的映射来计算更新的雅可比矩阵来实现这一点。这使得加速预期的拟牛顿法,而不会积累循环误差,使时间关键的应用程序,并允许灵活地结合先验知识,解决不适定的问题。我们目前的结果与实验数据的电阻抗断层成像的高度非线性逆问题。
2021-03-01 cs.LG cs.NA eess.IV
A general convergence analysis on inexact Newton method for nonlinear inverse problems
Virginia Tech(弗吉尼亚理工大学)
针对非线性不适定反问题,提出使用不精确牛顿法并基于偏差原则终止迭代,在谱滤波函数类下证明收敛性并导出最优收敛速率。
2010-10-17 cs.NA math.NA
Pseudo-Newton method for nonlinear equations
本文提出伪牛顿法,利用伪雅可比矩阵避免计算雅可比矩阵及其逆,适用于任何非线性方程组,以求解非线性方程。
1999-06-09 cs.NA math.NA
Second order asymptotical regularization methods for inverse problems in partial differential equations
Örebro University(厄勒布鲁大学);Chemnitz University of Technology(开姆尼茨工业大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出了一种二阶渐近正则化方法(SOAR)用于求解具有狄利克雷和诺伊曼边界数据的椭圆偏微分方程的反源问题,通过固定和动态阻尼参数证明了方法的收敛性,并结合莫罗兹的不一致原理和新发展的总能量不一致原理,证明了SOAR的近似解在测量噪声趋于零时弱收敛于精确源函数。还开发了一种阻尼辛普森方案与有限元方法结合的数值实现方法,提出了一种新的迭代正则化方案。通过多个数值例子展示了SOAR的准确性和加速效果,并与现有最先进方法进行了比较。
2019-01-19 cs.NA math.NA
A convergence analysis of the iteratively regularized Gauss-Newton method under Lipschitz condition
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文在Lipschitz条件下证明了迭代正则化高斯-牛顿法结合后验停止规则是阶最优的正则化方法。
2008-03-16 cs.NA math.NA
Action constrained quasi-Newton methods
The University of Edinburgh(爱丁堡大学)
本文提出了一种基于动作约束的准牛顿方法,用于高效求解对称线性系统序列,通过维护逆系统矩阵的估计作为预处理程序,实现二次终止并提高鲁棒性。
2014-12-27 cs.NA math.NA math.OC
Projected Newton method for noise constrained $\ell_p$ regularization
对于被测量误差或噪声污染的不适定线性反问题,选择适当的正则化项是获得有意义解的必要条件。$\ell_p$范数涵盖了正则化项的广泛选择,因为它的行为关键取决于$p$的选择,并且因为它可以很容易地与合适的正则化矩阵组合。我们开发了一个有效的算法,同时确定正则化参数和相应的$\ell_p$正则化的解决方案,这样的差异原则是满意的。我们将问题投影到一个低维的广义Krylov子空间上,并计算这个小得多的问题的牛顿方向。我们说明了一些有趣的属性的算法,并比较其性能与其他国家的最先进的方法,使用一些数值实验,特别关注的稀疏诱导$\ell_1$规范和边缘保持全变差正则化。
2020-07-31 cs.NA math.NA
An iterative scheme for solving equations with locally $σ$-inverse monotone operators
Kansas State University(堪萨斯州立大学)
针对局部 $\sigma$-逆单调算子的不适定非线性方程,提出一种迭代格式和偏差型停止准则,证明满足停止准则的元素存在且收敛到最小范数解。
2010-02-22 cs.NA math.NA
Relaxed Gauss-Newton methods with applications to electrical impedance tomography
作为二阶方法,Gauss-Newton型方法对于求解光滑分量代价大的非光滑最优化问题比一阶方法更有效。然而,这些方法往往不收敛。受非光滑正则化的非线性反问题的启发,我们提出了一种新的具有非精确松弛步长的Gauss-Newton型方法。我们证明了该方法收敛到一组不相交的临界点给定的线性化的正向算子的反问题是足够精确的。我们广泛评估的电阻抗断层成像(EIT)的方法的性能。
2020-05-12 cs.NA math.NA math.OC
A computational framework for infinite-dimensional Bayesian inverse problems: Part II. Stochastic Newton MCMC with application to ice sheet flow inverse problems
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一种解决无限维反问题的计算框架,采用随机牛顿MCMC方法,通过低秩近似Hessian来加速采样,应用于冰盖流动反问题,展示了方法在收敛速度和计算成本上的优势。
2014-04-11 cs.NA math.NA math.OC
Noise level free regularisation of general linear inverse problems under unconstrained white noise
在本文中,我们解决了一般的统计逆问题的知识的情况下,通过应用(修改)启发式差异原则的噪声水平和噪声分布。因此,通过引入辅助离散化维度并以自适应方式选择它来控制无界(非高斯)噪声。我们首先证明了完全任意紧正向算子和基解的收敛性。然后在一个特定的类贝叶斯环境下,量化了达到最优收敛速度的不确定性。
2023-01-11 cs.NA math.NA
SGN: Sparse Gauss-Newton for Accelerated Sensitivity Analysis
我们提出了一个稀疏高斯-牛顿求解器加速灵敏度分析与应用范围广泛的平衡约束最优化问题。稠密高斯-牛顿解算器在逆问题上表现出了很好的收敛速度,但到目前为止,组装和分解相关矩阵的成本一直是一个主要的绊脚石。在这项工作中,我们展示了如何密集的高斯-牛顿海森可以转化为一个等价的稀疏矩阵,可以更有效地组装和分解。这导致了许多反问题的计算时间大大减少,我们证明了一组不同的例子。此外,我们显示之间的联系灵敏度分析和非线性规划方法的基础上拉格朗日乘子和证明等价的特定假设下,适用于我们的问题设置。
2021-07-09 cs.NA math.NA math.OC
Convergence Analysis of a Variable Projection Method for Regularized Separable Nonlinear Inverse Problems
本文分析了在变量投影方法中使用LSQR近似计算Jacobians的影响,提出了确保收敛的停止准则,并通过盲反卷积数值实验验证了理论结果。
2024-02-13 cs.NA math.NA
Solving an inverse heat convection problem with an implicit forward operator by using a Projected Quasi-Newton method
本文研究了由有噪声的内焓测量值确定热通量的拟线性一维热对流反问题。这个问题出现在生产由钢制成的热机械控制加工(TMCP)厚板的加速冷却(ACC)工艺中。为了调整底层材料的复杂微观结构,必须研究热表面相对于冷却液应用的莱顿弗罗斯特行为。由于热通量取决于焓,因此取决于基本的初始边界值问题(IBVP)的解,参数到解算子,因此逆问题的正向算子,只能隐式定义。为了保证良好定义的运营商,我们研究了两种方法来显示IBVP的解决方案的存在性和唯一性。一种方法是研究Sobolev-Bochner空间中的伪单调算子理论和所谓的强解。另一个理论使用Hölder空间中的经典解。虽然第一种方法在较温和的假设下得到了一个解,但与第二种方法相比,它未能显示唯一性结果。此外,我们提出了一个方便的参数化方法的非线性热通量,以解耦的参数到解决方案的关系,并使用迭代求解器的基础上投影拟牛顿(PQN)方法与箱约束来解决反问题。对于数值实验,我们推导出目标泛函的必要梯度信息,并使用差异原理作为停止规则。数值试验表明,PQN方法在计算时间和逼近精度方面优于Landweber方法。
2020-10-05 cs.NA math.AP math.NA
Bayesian Level Set Approach for Inverse Problems with Piecewise Constant Reconstructions
有几个挑战与反问题,我们试图重建一个分段的常量域,我们使用多个水平集模型。采用贝叶斯的观点,我们施加先验分布的水平集函数,确定分段恒定区域以及参数,确定其幅度。我们开发了一个高斯-牛顿方法与回溯线搜索有效地计算最大先验(MAP)估计作为反问题的解决方案。我们使用高斯-牛顿拉普拉斯近似来构造后验分布的高斯近似,并使用预处理Krylov子空间方法从所得近似中采样。为了可视化与参数重建相关的不确定性,我们使用本文开发的无矩阵Monte Carlo对角估计器计算近似后验方差。我们将展示我们的方法和求解器在合成测试问题(光声和液压层析成像,分别是线性和非线性逆问题)以及应用程序的X射线成像与真实数据的好处。
2021-11-30 cs.NA math.NA
On the second order asymptotical regularization of linear ill-posed inverse problems
Chemnitz University of Technology(开姆尼茨工业大学);Örebro University(厄勒布鲁大学)
本文提出一种用于求解希尔伯特空间中线性算子方程稳定近似解的二级渐近正则化方法,证明其正则化性质和收敛速率,并提出新的总能量不相容性原理以实现最优收敛速率。
2018-08-27 cs.NA math.NA
Quasi-solution of linear inverse problems in non-reflexive Banach spaces
University Duisburg-Essen(杜伊斯堡-埃森大学)
本文研究了非反射Banach空间中线性病态问题的拟解法(也称为Ivanov正则化),通过将其等价于向前算子像上的度量投影,证明了正则化性质,并刻画了导致收敛正则化方法的参数选择规则,包括Morozov不相容原则。同时,在合适选择的Bregman距离下获得了收敛速率,并利用半光滑牛顿法和回溯线搜索计算反源问题的拟解。
2018-07-05 cs.NA math.NA math.OC
Optimal Polynomial Tractability Exponents for the Inverse Star Discrepancy
UNSW Sydney(新南威尔士大学悉尼分校)
研究逆星偏差的最优多项式易处理性指数,通过证明下界表明上界中\(\varepsilon^{-1}\)的指数2不能改进,结合已有下界得出海因里希 - 诺瓦克 - 瓦西科夫斯基上界中指数\(p = 2\)和\(q = 1\)分别最优。
2026-10-16 cs.NA math.NA
Secant Penalized BFGS: A Noise Robust Quasi-Newton Method Via Penalizing The Secant Condition
在本文中,我们介绍了一种新的变体的BFGS方法,旨在执行良好的梯度测量时,被噪声破坏。我们表明,通过处理割线条件与惩罚方法的方法,由正则化最小二乘估计的动机,可以顺利地更新与原来的BFGS更新公式和不更新的逆Hessian近似之间的插值。此外,我们发现,曲率条件是顺利放宽的插值走向不更新逆Hessian近似,完全消失时,逆Hessian近似不更新。这些发展使我们能够开发一种方法,我们称之为割线惩罚BFGS(SP-BFGS),它允许人们放松割线条件的基础上的梯度测量中的噪声量。SP-BFGS提供了一种增量更新新的逆Hessian近似的方法,其具有朝向先前的逆Hessian近似的受控量的偏置,这允许人们用抵抗噪声的破坏性影响并且可以应对负曲率测量的平均性质来替换原始BFGS更新的非线性性质。我们讨论了SP-BFGS的理论性质,包括在一致有界噪声的存在下极小化强凸函数的收敛性。最后,我们提出了广泛的数值实验,使用超过30个问题的CUTEst测试问题集,证明了优越的性能SP-BFGS相比,BFGS的存在下,噪声函数和梯度评估。
2021-07-11 cs.NA math.NA math.OC
Convergence properties of a Gauss-Newton data-assimilation method
本文针对四维弱约束变分数据同化,在高斯-牛顿迭代的观测失配项前引入关键参数,解析证明其在无噪声观测下保证收敛、在有界噪声下保证误差有界,并通过 Lorenz 63 和 Lorenz 96 模型数值实验验证了理论结果。
2023-04-12 cs.NA math.DS math.NA
Discretisation-adaptive regularisation of statistical inverse problems
本文研究了白噪声下的线性逆问题。这些类型的问题可以通过以下方式解决,例如,迭代正则化方法和主要的挑战是确定一个合适的停止指数的迭代。用于确定停止指数的流行自适应方法的收敛结果通常伴随有限制,例如关于问题的不适定性的类型、未知解或误差分布。在最近的工作\cite{jahn2021optimal}的差异原则,最广泛使用的自适应方法之一,适用于频谱截止正则化的修改,提供了良好的收敛性能,在一般设置。在这里,我们调查的性能与其他过滤器为基础的正则化方法的修改差异原则,我们在此专注于迭代Landweber方法。我们表明,该方法产生最佳的收敛速度,并提出了一些数值实验证实,它也是有吸引力的计算复杂性。其关键思想是以自适应的方式合并和修改离散化维度。
2022-04-29 cs.NA math.NA math.ST