The Krylov Subspaces, Low Rank Approximations and Ritz Values of LSQR for Linear Discrete Ill-Posed Problems: the Multiple Singular Value Case
对于大规模线性离散不适定问题$\min\|Ax-b\|$或$Ax=b$中的$b$被白噪声污染的问题,最常用的方法是基于Golub-Kahan双对角化的LSQR方法及其数学等价的共轭梯度(CG)方法,即应用于$A^TAx=A^Tb$的CG方法.它们具有内在的正则化效应,其中迭代次数$k$起正则化参数的作用。长期存在的基本问题是:{ \em LSQR和CGLS能否找到2-范数滤波的最佳正则化解}?对于$A$的奇异值为简单奇异值时的严重不适定问题和中度不适定问题,作者给出了明确的答案。本文将所得结果推广到多奇异值情形,并研究了Krylov子空间的逼近精度、Golub-Kahan双对角化生成的低秩逼近的性质以及Ritz值的收敛性质.对于这两类问题,我们证明了LSQR在半收敛时找到2-范数滤波最佳可能正则解。特别地,我们考虑了奇异值为$σ_k=\mathcal{O}(k^{-α})$和$α>0$的不适定问题的$A$的最佳、近最佳和一般秩$k$逼近,以及它们与非零奇异值之间的关系。数值实验证实了我们的理论。一般秩$k$近似及其非零奇异值性质的结果适用于几种Krylov求解器,包括LSQR,CGME,MINRES,MR-II,GMRES和RRGMRES.
2020-03-19 cs.NA math.NA
Hybrid and iteratively reweighted regularization by unbiased predictive risk and weighted GCV for projected systems
Arizona State University(亚利桑那州立大学);University of Tehran(德黑兰大学)
本文研究了大规模病态问题的投影解的Tikhonov正则化,通过无偏预测风险估计、广义交叉验证和不一致原理确定正则化参数,并展示了无偏预测风险估计在中等至严重病态问题中的有效性,同时解释了无加权广义交叉验证的局限性。
2016-12-01 cs.NA math.NA
Hybrid Projection Methods for Solution Decomposition in Large-scale Bayesian Inverse Problems
我们开发的混合投影方法计算大规模的反问题的解决方案,其中的解决方案代表了不同的随机组件的总和。这样的场景出现在许多成像应用中(例如,大气发射层析成像中的异常检测),其中重构的解可以表示为两个或更多分量的组合,并且每个分量包含不同的平滑度或随机特性。在确定性反演或逆建模框架中,这些假设对应于总和中每个解的不同正则化项。尽管我们的框架中可以包含各种先验假设,但我们重点关注解是稀疏解和光滑解之和的情况。为了计算解决方案的估计,我们开发的混合投影方法的解决方案分解的基础上结合灵活和广义Golub-Kahan过程。这种方法集成了广义Golub-Kahan双对角化和灵活的Krylov方法的技术。所提出的方法的好处是,分解的解决方案可以迭代地进行,并在每次迭代的正则化项和正则化参数自适应地选择。光声层析成像和大气反演模拟的数值结果表明,这些方法被用于异常检测的潜力。
2022-06-14 cs.NA math.NA
HyDRA: Hybrid Denoising Regularization for Measurement-Only DEQ Training
Department of Mathematics, University of Innsbruck(因斯布鲁克大学数学系);Institute of Basic Sciences in Engineering Science, University of Innsbruck(工程科学基础科学研究所,因斯布鲁克大学);Department of Computer Science, University of Innsbruck(因斯布鲁克大学计算机科学系);University of Applied Sciences Kufstein(库夫斯坦应用科学大学);Department of Mathematics, Yeungnam University(延世大学数学系)
HyDRA提出了一种仅利用测量数据的DEQ训练框架,结合测量一致性与自适应去噪正则化,实现高效图像重建。
2026-01-03 cs.CV cs.NA math.NA
Optimal hybrid parameter selection for stable sequential solution of inverse heat conduction problem
为了解决热传导反问题(IHCP)的不适定性质,可以将正则化参数α引入到极小化问题中,称为Tikhonov正则化方法,这是一种获得稳定序列解的流行技术。由于alpha是一个惩罚项,因此过度使用它可能会导致较大的偏差误差。岭回归被开发为最佳α的估计器,以适当地最小化增益系数矩阵的幅度。然而,包含在增益系数矩阵中的灵敏度系数矩阵取决于时间积分器;因此,时间积分器的某些参数应与α一起仔细考虑以处理不稳定性。基于这一动机,我们提出了一种有效的迭代混合参数选择算法,以获得稳定的逆解。
2021-10-04 cs.NA math.NA
Parameter-free inexact block Schur complement preconditioning for linear poroelasticity under a hybrid Bernardi-Raugel and weak Galerkin finite element discretization
University of Kansas(堪萨斯大学)
本文提出一种无需参数的近似块Schur补预处理方法,用于解决线性多孔弹性问题,通过混合Bernardi-Raugel和弱格架有限元离散化,实现对锁紧现象的正则化处理,提高求解效率和鲁棒性。
2025-12-23 cs.NA math.NA
A Joint Bidiagonalization Based Algorithm for Large Scale Linear Discrete Ill-posed Problems in General-Form Regularization
Tsinghua University(清华大学)
本文提出了一种基于联合反三角化的迭代正则化算法,用于解决大规模线性离散病态问题,该算法在通用形式正则化中优于混合方法,通过证明迭代结果具有吸引滤波广义奇异值分解形式,展示了其半收敛性和正则化效果。
2018-11-23 cs.NA math.NA
Hybrid Projection Methods with Recycling for Inverse Problems
迭代混合投影方法由于其固有的正则化特性以及自适应选择正则化参数的灵活性,已被证明是非常有效的解决大型线性反问题。在这项工作中,我们开发了基于Golub-Kahan的混合投影方法,该方法可以利用压缩和回收技术来解决一类广泛的逆问题,其中内存需求或高计算成本可能会令人望而却步。对于具有许多未知参数且需要多次迭代的问题,可以使用具有回收的混合投影方法来压缩和回收解基向量,以减少必须存储的解基向量的数量,同时获得与标准方法相当的解精度。如果需要重新正交化,这也可以大大降低计算成本。在其他场景中,例如流数据问题或多个数据集的逆问题,具有再循环的混合投影方法可以用于有效地整合先前计算的信息,以实现更快和更好的重建。所提出的方法的额外益处在于,可以并入各种子空间选择和压缩技术,可以使用用于自动正则化参数选择的标准技术,并且可以以迭代方式多次应用所述方法。理论结果表明,在合理的条件下,我们提出的回收混合方法的正则化的解决方案仍然接近标准的混合方法的正则化的解决方案,并揭示了重要的连接所产生的投影矩阵。从图像处理的数值例子显示了结合回收与混合投影方法的潜在好处。
2020-07-01 cs.NA math.NA
Hybrid GKB Methods for X-Ray Tomography Problems with Unmatched Back Projector
Islamic University of Madinah(麦地那伊斯兰大学);Arizona State University(亚利桑那州立大学)
针对X射线CT中投影器不匹配致重建问题数学性质改变及影响迭代方法收敛的情况,开发AB和BA - GKB算法的混合变体,利用奇异值分解重建解并自动选正则化参数,经实验验证该混合方法能提高抗半收敛鲁棒性。
2026-07-16 cs.NA math.NA
Hybrid Projection Methods for Large-scale Inverse Problems with Mixed Gaussian Priors
在求解不适定反问题时,先验知识的正确选择对于计算出合理的解至关重要。一种常见的方法是包括高斯先验,这是由一个平均向量和一个对称和正定的协方差阵定义,并使用迭代投影方法来解决相应的正则化问题。然而,许多这些迭代方法的主要挑战是,在开始求解过程之前,先验的协方差阵必须是已知的和固定的(直到一个常数)。本文研究了混合高斯先验反问题的混合投影方法,其中先验协方差矩阵是矩阵的凸组合,混合参数和正则化参数不需要事先已知.当数据用于生成样本先验协方差阵(例如,在数据同化中)或者当需要不同的先验来捕获不同质量的解决方案时。所提出的混合方法是基于一个混合Golub-Kahan过程,这是广义Golub-Kahan双对角化的扩展,所提出的方法的一个显着特点是,这两个正则化参数和加权参数的协方差阵可以在迭代过程中自动估计。此外,对于训练数据可用的问题,可以容易地结合各种数据驱动的协方差阵(包括基于学习的协方差核的那些)。层析重建的数值例子证明了这些方法的潜力。
2020-03-30 cs.NA math.NA
H-CMRH: a novel inner product free hybrid Krylov method for large-scale inverse problems
本文提出无内积混合Krylov方法H-CMRH,用于大规模反问题,在稳定半收敛上媲美混合GMRES,但计算与存储开销更低。
2024-11-08 cs.NA math.NA
A preconditioned Krylov subspace method for linear inverse problems with general-form Tikhonov regularization
本文提出基于预条件Golub-Kahan双对角化的Krylov子空间迭代方法,用于求解一般形式Tikhonov正则化线性反问题,并进一步设计两种混合正则化算法以克服半收敛不稳定性,数值实验验证了其优越性能。
2023-08-12 cs.NA math.NA
Iterative regularization for constrained minimization formulations of nonlinear inverse problems
本文将反问题表示为约束极小化问题,并利用梯度型或牛顿型迭代法求解。我们进行了收敛性分析的意义上的正则化方法,并讨论了适用性的问题,从不同的观测集识别的空间变化的扩散在椭圆型偏微分方程。其中是一种新的混合成像技术称为阻抗声层析成像,我们提供了数值实验。
2021-01-14 cs.NA math.NA math.OC
Weighted total variation regularization for inverse problems with significant null spaces
Department of Mathematics, University of Hamburg(汉堡大学数学系);Faculty of Science and Technology, Norwegian University of Life Sciences(挪威生命科学学院科学与技术学院)
本文提出加权总变分正则化方法,用于解决具有显著空空间的反问题,有效恢复远离边界的源位置和大小。
2026-09-01 cs.NA math.NA
Generalized hybrid iterative methods for large-scale Bayesian inverse problems
我们开发了一个广义的混合迭代方法来计算大规模贝叶斯逆问题的解决方案。我们考虑一个混合算法的基础上的广义Golub-Kahan双对角化计算Tikhonov正则化的解决方案的问题,明确计算的平方根和逆的协方差核的前协方差阵是不可行的。这对于协方差核在不规则网格上定义或仅通过矩阵向量乘法可用的大规模问题很有用,例如,那些来自Matérn类。我们表明,迭代是等价的LSQR迭代直接正则化Tikhonov问题,变量变换后,我们提供了一个广义奇异值分解过滤解决方案的连接。我们的方法有许多优点标准的混合方法,如避免半收敛和自动估计正则化参数。图像处理的数值例子证明了所述方法的有效性。
2021-11-23 cs.NA math.NA
Hybrid ABBA-GMRES for Unmatched Backprojectors in Large Scale X-Ray Computerized Tomography
Virginia Tech(弗吉尼亚理工大学);University of Bath(巴斯大学);University of Oxford(牛津大学)
本文提出混合AB-和BA-GMRES方法,通过引入Tikhonov正则化提升大尺度CT中不匹配投影器的重建质量与稳定性。
2026-02-19 cs.NA math.NA
Some Results on Regularization of LSQR and CGLS for Large-Scale Discrete Ill-Posed Problems
本文研究了LSQR和CGLS在大规模离散病态问题中的正则化特性,建立了Krylov子空间与主导右奇异向量子空间的距离界限,指出严重和中等病态问题中Krylov子空间能捕捉主导奇异向量,但轻微病态问题则不然,并提出混合LSQR方法适用于轻微病态问题。
2015-01-24 cs.NA math.NA
An Inner-Outer Iterative Method for Edge Preservation in Image Restoration and Reconstruction
提出了一种新的图像边缘增强的内外迭代算法。在每次外部迭代,我们制定了一个Tikhonov正则化的问题,其中的惩罚表示在2-范数,并涉及一个正则化算子,旨在提高边缘分辨率的外迭代的进展,通过自适应过程。一个有效的混合正则化方法被用来项目的Tikhonov正则化问题的近似子空间的维数增加(内迭代),同时方便地选择正则化参数(通过应用众所周知的技术,如差异原则或${\mathcal L}$曲线标准,投影的问题)。该过程导致用于边缘恢复的自动化算法,其不涉及用户的正则化参数调整,也不重复调用复杂的优化算法,因此从计算的角度来看特别有吸引力。新算法成功的关键是通过使用自适应对角加权矩阵来设计正则化算子,该自适应对角加权矩阵仅在需要时有效地执行平滑。我们证明了我们的方法在X射线CT图像重建和图像去模糊中的应用价值,并表明它可以在计算上比其他知名的边缘保护策略更具吸引力,同时提供更高或同等质量的解决方案。
2019-12-30 cs.NA math.NA
Hybrid Neural-Network FEM Approximation of Diffusion Coefficient in Elliptic and Parabolic Problems
在这项工作中,我们研究的数值识别的扩散系数的椭圆和抛物问题,使用神经网络。数值方案是基于标准的输出最小二乘制定的Galerkin有限元法(FEM)是用来近似的状态和神经网络(NN)作为一个平滑之前近似未知的扩散系数。一个投影操作应用到NN近似,以保持物理框约束的未知系数。混合方法既有严格的数学基础的有限元和归纳偏置/近似性能的神经网络。我们得到\textsl{a priori}误差估计的标准$L^2(Ω)$规范的数值重建,在一个积极的条件下,可以验证一个大类的问题数据。误差界明确地取决于噪声水平、正则化参数和离散化参数(例如,空间网格步长、时间步长大小和深度、NN的非零参数的上界和数量)。我们还提供了广泛的数值实验,表明混合方法是非常强大的大噪声时,与纯有限元近似。
2023-02-21 cs.NA math.NA
A Hybrid Reduced Order Model for nonlinear LES filtering
我们开发了一个降阶模型(ROM)的大涡模拟(LES)的方法,结合了一个三步的算法称为进化过滤放松(EFR)与计算效率高的有限体积法。我们的ROM的主要新颖之处在于使用内的EFR算法的非线性,基于反卷积的指示函数,确定该领域的流动需要正规化。我们提出的ROM是一个混合投影/数据驱动的策略:一个经典的适当的正交分解Galerkin投影方法重建的速度和压力场和数据驱动的减少方法来近似的指示函数所使用的非线性微分滤波器。这种数据驱动技术基于径向基函数插值。我们测试我们的ROM方法的性能上的两个基准问题:二维和三维非定常流通过一个圆柱在雷诺数0 <= Re <= 100。ROM的准确性进行了评估与速度,压力,指示函数和时间演变的空气动力学系数的全阶模型获得的结果。
2021-07-27 cs.NA math.NA
Some Results on the Regularization of LSQR for Large-Scale Discrete Ill-Posed Problems
Tsinghua University(清华大学)
本文研究了LSQR在大规模离散病态问题中的正则化效果,通过建立Krylov子空间与主导右奇异空间的距离界限,证明LSQR在严重和中等病态问题中具有更好的正则化效果,但对轻度病态问题需要额外正则化。
2016-01-19 cs.NA math.NA
HYCO: A Formalism for Hybrid-Cooperative PDE Modelling
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学);Universidad Autónoma de Madrid(马德里自治大学);Universidad de Deusto(德乌斯托大学)
HYCO通过相互正则化整合物理模型与数据驱动模型,实现混合协作框架,在稀疏和噪声数据下表现出鲁棒性,并能通过交替优化求解纳什均衡问题。
2026-05-12 cs.NA math.NA math.OC
Spatially Adapted First and Second Order Regularization for Image Reconstruction: From an Image Surface Perspective
在本文中,我们提出了一个新的变分模型的图像重建通过最小化的$L^1$范数的\emph{Weingarten map}的图像表面$(x,y,f(x,y))$为一个给定的图像$f:{\mathrmΩ}\rightarrow \mathbb R$。分析证明了Weingarten映射极小化模型不仅能保持图像的灰度对比度,而且能保持物体的边缘和角点。提出了一种基于乘子的交替方向法(ADMM)算法,其中一个子问题需要用梯度下降法求解。在下文中,我们从Weingarten映射导出混合非线性一阶和二阶正则化,并通过考虑已知的非线性权重,提出了一种有效的基于ADMM的算法。通过与合成图像和真实图像重建问题的几种最新方法的比较,证实了所提出的模型能够很好地保持图像的对比度和特征,特别是空间自适应的一阶和二阶正则化方法节省了大量的计算成本。
2022-04-06 cs.NA math.DG math.NA
Theoretical and numerical analysis for a hybrid tumor model with diffusion depending on vasculature
在这项工作中,我们分析了一个PDE-ODE问题建模的胶质母细胞瘤,其中包括一个各向异性的非线性扩散项与扩散速度增加相对于脉管系统的演变。首先,我们利用正则化技术,通过在常微分方程组中的人工扩散和不动点论证,证明了该方程组在时间上整体弱强解的存在性。此外,在参数约束下,给出了系统临界点的稳定性结果。最后,我们设计了一个完全离散的有限元计划的模型,保持逐点和能量估计的连续问题。
2021-09-19 cs.NA math.AP math.NA
Numerical analysis of a first-order computational algorithm for reaction-diffusion equations via the primal-dual hybrid gradient method
本研究对用于反应-扩散方程时间隐式格式的一阶优化算法(含二次正则化)进行理论分析,证明其指数收敛且收敛速率与网格尺寸无关,并通过数值实验验证了算法的效率和适用性。
2025-03-29 cs.NA math.NA math.OC
Hybrid Least Squares/Gradient Descent Methods for MIONets
KAIST(韩国科学技术院);Korea Military Academy(韩国陆军军官学校)
针对MIONets提出混合最小二乘法/梯度下降法加速训练,该方法基于MIONet特性,用交替最小二乘法优化参数,引入相关矩阵分解大矩阵,还兼容特定\(L^2\)损失,可应用线性算子于MIONet输出。
2026-07-09 cs.AI cs.LG cs.NA
Hybrid Least Squares/Gradient Descent Methods for DeepONets
Department of Mathematical Sciences, KAIST(韩国科学技术院数学科学系);Department of Mathematics, Korea Military Academy(韩国陆军学院数学系)
本文提出一种混合最小二乘/梯度下降方法加速DeepONet训练,通过将大型最小二乘系统分解为分支网络和主干网络两个子问题分别求解,并推广到带正则化项的L2损失及物理信息无监督学习场景。
2025-08-21 cs.AI cs.LG cs.NA