Uniform multi-penalty regularization for linear ill-posed inverse problems
本文面向线性不适定反问题,基于UPEN与MM框架提出UpenMM和GUpenMM两种多罚正则化迭代方法,可确定正则化参数与解,并证明收敛性及验证其实用价值。
2025-02-19 cs.NA math.NA
Modern Regularization Methods for Inverse Problems
本文综述了逆问题中现代非线性正则化方法的发展,涵盖分析、应用及未来研究问题,重点讨论变分方法及其在图像处理和压缩感知中的应用。
2018-01-30 cs.NA math.NA
Regularization of linear inverse problems with irregular noise using embedding operators
该研究针对带非正则噪声的线性反问题,提出利用伴随嵌入算子预处理噪声的正则化方法,给出一般方案收敛性分析,并在CT的Tikhonov正则化中导出新型基于傅里叶的滤波反投影算法,经数值实验验证有效。
2024-01-29 cs.NA math.NA
On the asymptotical regularization with convex constraints for inverse problems
本文考虑非线性不适定问题的凸约束渐近正则化。该方法允许使用非光滑的惩罚项,包括L1-like和全变差-like惩罚泛函,这是重要的重建特殊功能的解决方案,如稀疏性和分段常数。在一定的条件下,我们给出了该方法的收敛性。此外,我们提出了Runge-Kutta型方法来离散初值问题,构造了新型的迭代正则化方法。
2021-10-10 cs.NA math.NA
A class of regularizations based on nonlinear isotropic diffusion for inverse problems
基于全变分(TV)方法,提出了一种基于非线性各向同性扩散(NID)的正则化方法,用于求解具有分段光滑解的反问题.我们的方法的新颖性是自适应的(我们称之为A-NID),即正则化在迭代过程中变化,以结合边缘上的先验信息,处理重建的演变并规避由于所提出的泛函的非凸性而引起的限制。在详细分析了该方法的收敛性和适定性后,通过在计算机断层扫描(CT)上进行的仿真验证了该方法的有效性。
2021-08-24 cs.NA math.NA
Regularization of Inverse Problems by Filtered Diagonal Frame Decomposition
反问题的特点是它们对数据扰动的不稳定性。为了稳定反演过程,必须开发和应用正则化方法。在这项工作中,我们介绍和分析的概念,过滤对角框架分解,扩展了标准的过滤奇异值分解的框架的情况。框架作为广义广义奇异系统可以更好地适应给定的一类潜在的解决方案。在本文中,我们证明了过滤对角框架分解产生收敛的正则化方法。此外,我们得到的收敛速度下的源类型的条件下,并证明了阶最优性的假设下,所考虑的框架是一个Riesz基。
2022-08-19 cs.NA math.NA
Regularization of Inverse Problems
这些研究生课堂讲稿介绍了希尔伯特空间中线性和非线性不适定算子方程的正则化理论。涵盖了正则化方法的一般框架及其通过谱滤波器的分析,以及Tikhonov正则化,Landweber迭代,线性反问题离散化正则化的具体例子。在非线性设置,Tikhonov正则化和迭代正则化(Landweber,Levenberg-Marquardt,和迭代正则化高斯-牛顿方法)进行了讨论。从泛函分析必要的背景也简要概述。最后,从频率论和贝叶斯的角度对统计逆问题进行了简要的展望。
2021-02-08 cs.NA math.FA math.NA
Regularization of linear inverse problems by rational Krylov methods
Industrial Mathematics Institute, Johannes Kepler University(工业数学研究所,约翰·开普勒大学)
本文通过有理Krylov方法对线性反问题进行正则化,证明其在结合残差原理和大正则化参数时具有最优阶的正则化效果。
2026-01-15 cs.NA math.NA
Weighted inhomogeneous regularization for inverse problems with indirect and incomplete measurement data
针对含不完整测量数据的逆问题,提出融合新型指数设计与空间变化权重的加权非齐次正则化方法,缓解特征邻近误分类与小尺度区域恢复难题,经合成图像与海冰数据实验验证有效。
2024-12-13 cs.NA math.NA
A preconditioned Krylov subspace method for linear inverse problems with general-form Tikhonov regularization
本文提出基于预条件Golub-Kahan双对角化的Krylov子空间迭代方法,用于求解一般形式Tikhonov正则化线性反问题,并进一步设计两种混合正则化算法以克服半收敛不稳定性,数值实验验证了其优越性能。
2023-08-12 cs.NA math.NA
Sampling Distributions as Regularization in Learned Inverse Problems
Boise State University(博伊西州立大学)
本文证明在逆问题中,从先验分布采样合成数据来训练神经网络隐式定义了正则化算子,并分析了其与架构和物理信息正则化的相互作用。
2026-05-24 cs.NA math.NA
Discretization of learned NETT regularization for solving inverse problems
基于深度学习的重建方法为解决逆问题提供了出色的结果,因此变得越来越重要。最近发明的一类基于学习的重建方法是所谓的NETT(网络吉洪诺夫正则化),它包含一个经过训练的神经网络作为广义吉洪诺夫正则化中的正则化器。现有的NETT分析考虑了固定算子和固定正则化,并分析了当数据中的噪声水平接近零时的收敛性。在本文中,我们大大扩展了框架和分析,以反映各种实际方面,并考虑到离散化的数据空间,解决方案空间,前向算子和神经网络定义的正则化。我们证明了离散化NETT方法的渐近收敛,以降低噪声水平和离散化误差。此外,我们推导出收敛速度,并提出了一个有限的数据问题的光声层析的数值结果。
2021-11-14 cs.NA math.NA
Regularization for time-dependent inverse problems: Geometry of Lebesgue-Bochner spaces and algorithms
本文研究时变反问题,在Lebesgue–Bochner空间中提出Tikhonov正则化与时间变分正则化,并分析空间几何性质,通过动态CT验证两种算法。
2025-07-25 cs.NA math.NA
Weighted total variation regularization for inverse problems with significant null spaces
Department of Mathematics, University of Hamburg(汉堡大学数学系);Faculty of Science and Technology, Norwegian University of Life Sciences(挪威生命科学学院科学与技术学院)
本文提出加权总变分正则化方法,用于解决具有显著空空间的反问题,有效恢复远离边界的源位置和大小。
2026-09-01 cs.NA math.NA
Deep neural network yields regularization for ill-posed inverse problems
School of Mathematics and Statistics, Beijing Institute of Technology(北京理工大学数学与统计学院);Shenzhen MSU-BIT University(深圳北理莫斯科大学)
本文通过深度神经网络的自适应架构扩展,提出了一种基于差异原理的正则化方法,并证明了其收敛性和复杂度与噪声水平的定量关系。
2026-05-30 cs.NA math.NA
Asymptotic expansion regularization for inverse source problems in two-dimensional singularly perturbed nonlinear parabolic PDEs
本文对二维非线性、非定常奇摄动偏微分方程(PDE)的源反问题提出了一种渐近展开正则化(AER)方法。这种方法的关键思想是使用的渐近展开理论,它使我们能够确定的条件下,一个解决方案的存在性和唯一性的一个给定的偏微分方程的尖锐的过渡层。作为一个副产品,我们推导出一个更简单的连接方程之间的源函数和一阶渐近近似的可测量的量,并基于该方程,我们提出了一个有效的反演算法,AER,反源问题。我们证明了这种简化不会降低反演结果的精度,特别是对于有噪声数据的反演问题。各种数值例子来证明我们的新方法的效率。
2022-10-13 cs.NA math.NA
Some application examples of minimization based formulations of inverse problems and their regularization
在本文中,我们扩展了最近的想法,制定和正则化的反问题的最小化问题,所以不使用一个向前的运营商,从而避免明确评估的参数状态映射。我们这样做是通过改写三个应用程序的例子,在这种最小化的形式,即(a)电阻抗断层扫描与完整的电极模型(b)识别的非线性磁导率从磁通量测量(c)定位声源从麦克风阵列测量。为了建立这些问题的正则化方法的收敛性,我们首先扩展了现有的理论。特别是,我们利用的事实是,观察是有限维的,在这里,使噪声数据的反演可以在一定程度上单独进行,使用右逆的观察算子。这种新方法实际上适用于广泛的现实世界问题。
2020-04-27 cs.NA math.NA
Monotonicity-based regularization of inverse medium scattering for shape reconstruction
Karlsruher Institut für Technologie(卡尔斯鲁厄理工学院);Goethe-University Frankfurt(法兰克福歌德大学);China Three Gorges University(三峡大学)
本文提出了一种基于单调性的正则化方法,用于从含噪远场数据中稳定地重构散射体形状,证明其在噪声趋于零时收敛于精确解。
2026-02-02 cs.NA math.NA
Randomized Algorithms for Large-scale Inverse Problems with General Regularizations
School of Mathematics and Statistics, Wuhan University(武汉大学数学与统计学院);Department of Mathematics, The Chinese University of Hong Kong(香港中文大学数学系)
本文研究了大规模线性逆问题中通用正则化随机算法,提出将一般形式逆问题转换为标准形式的技术,并结合正则化参数选择规则求解。还提出新的随机广义SVD算法,能有效减小问题规模,提升鲁棒性和计算效率。
2014-12-29 cs.NA math.NA
Regularization of Inverse Problems by Neural Networks
University of Innsbruck(因斯布鲁克大学);University of Idaho(爱达荷大学)
逆问题出现在各种成像应用中,包括计算机断层扫描、无损检测和遥感。反问题的特征是其解的不唯一性和不稳定性。因此,任何合理的求解方法都需要使用正则化工具来选择特定的解,同时稳定反演过程。最近,使用深度学习技术和神经网络的数据驱动方法被证明在逆问题上显著优于经典解方法。在这一章中,我们给出了反问题的概述,并证明了正则化概念的必要性。我们展示了神经网络可用于数据驱动的反问题解决方案,并回顾了现有的反问题深度学习方法。特别是,我们从正则化理论的角度来看待这些深度学习方法,正则化理论是反问题稳定解决方法的数学基础。本章不仅仅是一个回顾,因为许多理论结果扩展了现有的。
2020-06-06 cs.LG cs.NA math.NA
Stochastic asymptotical regularization for linear inverse problems
我们介绍了随机渐近正则化(SAR)方法的不确定性量化的稳定近似解的不适定线性算子方程,这是确定性模型的许多反问题在科学和工程。我们证明了SAR在均方收敛方面的正则化性质。我们还表明,SAR是线性不适定问题的最优阶正则化方法,只要SAR的终止时间根据解的光滑性来选择。这一结果证明了先验和后验停止规则一般范围型源条件下。此外,还验证了SAR的一些逆结果。提出了两种SAR数值实现的迭代格式,并对这两种格式的收敛性进行了分析。一个玩具的例子和一个现实世界的问题的生物传感器断层扫描的研究,以显示的准确性和SAR的优势:与传统的确定性反问题的确定性正则化方法相比,SAR可以提供感兴趣量的不确定性量化,从而可以用来揭示和解释关于现实世界问题的隐藏信息,通常被不完整的数学建模和复杂结构噪声的上升所掩盖。
2022-01-24 cs.NA math.NA
Explainable Learning Based Regularization of Inverse Problems
Helmholtz Imaging, Deutsches Elektronen-Synchrotron DESY(赫尔霍兹成像,德国电子同步加速器中心)
本文研究了可解释学习在反问题正则化中的应用,探讨了不同学习范式下正则化方法的收敛性、鲁棒性和结构,并通过实验验证了对抗训练的正则化效果。
2025-12-09 cs.NA math.NA
Invertible residual networks in the context of regularization theory for linear inverse problems
针对线性逆问题,本研究采用可逆残差网络参数化重建方案,证明其可逆性可支撑方案成为收敛正则化方法,建立与线性正则化理论的联系并提出非线性谱正则化,通过MNIST实验验证拓展了理论结果。
2023-12-20 cs.NA math.NA
Distributed Tikhonov regularization for ill-posed inverse problems from a Bayesian perspective
本文利用 Tikhonov 正则化与贝叶斯分层模型的相似性,提出面向不适定线性反问题的分布式向量参数正则化方案,并结合线性代数与优化实现无需统计工具、可处理隐式矩阵的高效计算。
2024-04-09 cs.NA math.NA
Data-driven Morozov regularization of inverse problems
本文提出 DD-Morozov 正则化,将 Morozov 正则化与学习得到的非凸正则化器结合,并改进训练策略以更好适应不适定问题,在光声层析成像衰减校正中验证了其相对于 NETT 的优势。
2024-10-18 cs.NA math.NA
Stochastic asymptotical regularization for nonlinear ill-posed problems
本文将随机渐近正则化(SAR)方法扩展至非线性不适定反问题,结合经典正则化与随机分析证明了其均方收敛的正则化性质及收敛率,并通过数值实验展示了其在不确定性量化、提高精度、逃离局部极小值和识别多解方面的优势。
2024-08-26 cs.NA math.NA
Iterative regularization for constrained minimization formulations of nonlinear inverse problems
本文将反问题表示为约束极小化问题,并利用梯度型或牛顿型迭代法求解。我们进行了收敛性分析的意义上的正则化方法,并讨论了适用性的问题,从不同的观测集识别的空间变化的扩散在椭圆型偏微分方程。其中是一种新的混合成像技术称为阻抗声层析成像,我们提供了数值实验。
2021-01-14 cs.NA math.NA math.OC
Subspace projection regularization for large-scale Bayesian linear inverse problems
针对带高斯噪声与高斯先验的贝叶斯线性逆问题,提出基于子空间投影的迭代正则化算法,通过低维最小二乘更新和早期停止实现高效精确求解。
2024-05-19 cs.NA math.NA
Big in Japan: Regularizing networks for solving inverse problems
深度学习和(深度)神经网络是解决逆问题和图像重建任务的新兴工具。尽管神经网络具有出色的性能,但其用于求解反问题的数学分析大多缺失。在本文中,我们引入并严格分析了$B_α+ N_{θ(α)} B_α$形式的深度正则化神经网络(RegNets)家族,其中$B_α$是经典正则化,网络$N_{θ(α)} B_α$经过训练,可以恢复经典正则化未找到的缺失部分$\operatorname{Id}_X - B_α$。我们表明,这些正则化网络产生一个收敛的正则化方法求解反问题。此外,我们推导出收敛速度(定量误差估计)假设一个足够的衰减相关的距离函数。我们证明,我们的结果恢复现有的收敛性和收敛速度的结果,基于过滤器的正则化方法,以及最近推出的零空间网络作为特殊情况。对一个层析稀疏数据问题的数值结果表明,所提出的RegNets改进了经典正则化方法和零空间网络.
2019-09-28 cs.NA math.NA
Second order asymptotical regularization methods for inverse problems in partial differential equations
Örebro University(厄勒布鲁大学);Chemnitz University of Technology(开姆尼茨工业大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出了一种二阶渐近正则化方法(SOAR)用于求解具有狄利克雷和诺伊曼边界数据的椭圆偏微分方程的反源问题,通过固定和动态阻尼参数证明了方法的收敛性,并结合莫罗兹的不一致原理和新发展的总能量不一致原理,证明了SOAR的近似解在测量噪声趋于零时弱收敛于精确源函数。还开发了一种阻尼辛普森方案与有限元方法结合的数值实现方法,提出了一种新的迭代正则化方案。通过多个数值例子展示了SOAR的准确性和加速效果,并与现有最先进方法进行了比较。
2019-01-19 cs.NA math.NA
QVaR: a Quantum Variational Regularization method for Linear Inverse Problems
Josai University(城桥大学);University of Helsinki(赫尔辛基大学);University of Oulu(奥卢大学);University College London(伦敦大学学院)
提出一种利用量子优化求解正则化线性逆问题的框架,通过QUBO建模统一处理Tikhonov和稀疏正则化,引入量子灵敏度分析扰动影响,并扩展至变分逆问题,数值实验验证了低能解分布的有效性及硬件限制。
2026-06-23 cs.NA math.NA
Variational Regularization in Inverse Problems and Machine Learning
Friedrich-Alexander Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学)
本文讨论了变分正则化方法的基本结果和最近的发展,为反问题。在一个典型的设置中,我们回顾了获得收敛正则化方案所需的基本性质,并进一步讨论了定量估计的推导,分别需要的成分,如Bregman距离凸泛函。除了为逆问题开发的方法外,我们还将讨论机器学习中的变分正则化,并与经典正则化理论建立一些联系。特别是,我们将讨论重新解释的机器学习问题的正则化理论的框架和重新解释的变分方法的反问题的框架中的风险最小化。此外,我们建立了一些以前未知的Bregman距离的误差估计和泛化误差之间的连接。
2021-12-08 cs.LG cs.NA math.NA
Computational methods for large-scale inverse problems: a survey on hybrid projection methods
本文综述了一类重要的方法,结合迭代投影方法和变分正则化方法的大规模反问题。迭代法如Krylov子空间方法在数值线性代数界是非常宝贵的,并且由于其固有的正则化特性和处理大规模问题的能力,在求解逆问题中被证明是重要的。变分正则化描述了一类广泛而重要的方法,用于获得反问题的可靠解,从而解决了包含先验知识的修改问题。混合投影方法以协同的方式将迭代投影方法与变分正则化技术相结合,为研究人员提供了一个强大的计算框架来解决非常大的反问题。虽然混合Krylov方法的线性反问题的想法可以追溯到20世纪80年代,新的正则化框架和方法的一些最新进展已经使这个领域的扩展,进一步的分析和新的应用成熟。在本文中,我们提供了一个实用和方便的介绍混合投影方法的背景下,解决大型(线性)反问题。
2021-08-19 cs.NA math.NA
Stochastic convergence of regularized solutions and their finite element approximations to inverse source problems
本文研究了偏微分方程源反问题的正则化解及其有限元解,建立了在逐点测量数据和随机噪声下这些解的随机收敛性和最优有限元收敛速度.与大多数现有的正则化理论不同,正则化误差估计不需要任何源条件,而有限元解的误差估计显示了它们与噪声水平、正则化参数、网格步长和时间步长的显式依赖关系,这可以指导实际应用中这些关键参数的实际选择。误差估计还提出了一个迭代算法,用于确定最佳的正则化参数。数值实验证明了分析结果的有效性。
2021-10-22 cs.NA math.NA
Addendum on data driven regularization by projection
本文研究了正向算子由输入-输出训练对间接给定时,基于投影的正则化求解线性逆问题的稳定性,并将已有方法扩展至含噪及可能线性相关的数据对。
2025-08-11 cs.NA math.NA
Regularization of inverse problems by two-point gradient methods with convex constraints
Southeast University(东南大学);Jiaxing University(嘉兴学院);Australian National University(澳大利亚国立大学)
本文提出并分析了一种基于Landweber迭代和外推策略的两点梯度方法,用于求解Banach空间中的反问题,能够利用非光滑惩罚项(如L^1范数和总变分型惩罚函数)来正则化解的稀疏性和分段常数性等特性。
2018-12-27 cs.NA math.NA
Non-convex regularization of bilinear and quadratic inverse problems by tensorial lifting
Institut für Mathematik und Wissenschaftliches Rechnen Karl - Franzens -Universität Graz(格拉茨卡尔·弗朗茨大学数学与科学计算研究所)
本文提出了一种非凸正则化方法,用于解决双线性和二次逆问题,通过张量提升将非线性映射转换为线性代表,并在拓扑张量空间上分析其收敛性。
2018-04-27 cs.NA math.NA
Efficient TV regularization of large-scale linear inverse problems via the SCD semismooth* Newton method with applications in tomography
Johann Radon Institute for Computational and Applied Mathematics(约翰·拉登计算与应用数学研究所);Institute of Information Theory and Automation, Czech Academy of Sciences(捷克科学院信息理论与自动化研究所);Johannes Kepler University Linz(林茨约翰·开普勒大学);University of Eastern Finland(芬兰东部大学)
本文提出基于SCD半光滑牛顿方法的高效TV正则化求解方法,适用于大规模反问题,并在断层成像中验证了其性能。
2026-06-25 cs.NA math.NA
Introduction to Regularization and Learning Methods for Inverse Problems
Helmholtz Imaging, Deutsches Elektronen-Synchrotron DESY(亥姆霍兹成像平台,德国电子同步加速器(DESY));University of Hamburg(汉堡大学)
本讲义介绍逆问题的数学概念,涵盖经典正则化理论(如Tikhonov和稀疏正则化)及现代深度学习方法(如学习型正则化、即插即用方法等),为逆问题求解提供理论与实践框架。
2025-08-25 cs.LG cs.NA math.NA
On regularization methods based on dynamic programming techniques
在这篇文章中,我们研究反问题的正则化理论和动态规划理论之间的联系。这是通过开发两个新的正则化方法,基于动态规划技术。这些方法的目的是获得稳定的近似线性逆不适定问题的解决方案。我们遵循两种不同的方法,并推导出连续和离散正则化方法。这两种方法的正则化性质证明以及收敛速度。一个数值基准问题的积分算子与卷积核来说明的理论结果。
2021-01-22 cs.NA math.NA
Transformer Causality Regularization for Dynamic Inverse Problems
University of Göttingen(哥廷根大学);University of Oulu(奥卢大学);University College London(伦敦大学学院)
本文提出Transformer因果正则化方法,结合Transformer预测与变分正则化,用于解决线性时序反问题,通过因果注意力机制提升重建质量与数据一致性。
2026-03-20 cs.NA math.NA
Higher order error estimates for regularization of inverse problems under non-additive noise
本文针对非加性噪声下的反问题,提出基于对偶问题的新型源条件,在Bregman距离下推导变分正则化的高阶误差估计,并推广至一般凸数据保真项。
2025-04-24 cs.NA math.FA math.NA
TRIPs-Py: Techniques for Regularization of Inverse Problems in Python
本文提出 TRIPs-Py,一个面向线性离散反问题的 Python 软件包,集成直接与迭代正则化求解器及多种测试问题,兼具研究与教学用途。
2024-02-27 cs.NA math.NA
Let data talk: data-regularized operator learning theory for inverse problems
本文提出数据正则化算子学习(DaROL)方法解决PDE反问题,通过Tikhonov变分和贝叶斯推断等技术对数据进行正则化,将正则化与神经网络训练分离,证明了其等价于正则化逆映射的监督学习,并给出了平滑性条件和学习误差估计。
2024-03-21 cs.NA math.NA
Regularization based on all-at-once formulations for inverse problems
Alpen-Adria-Universität Klagenfurt(阿尔卑斯-亚得里亚大学克拉根福分校)
本文研究了反问题中基于整体一次 formulations 的正则化方法,比较了其与简化方法在非线性模型中的实现要求和数值表现。
2016-03-17 cs.NA math.NA
Weak convergence rates for spectral regularization via sampling inequalities
University of Genova(热那亚大学);Ca’ Foscari University of Venice(威尼斯卡福斯卡里大学);University of Padova(帕多瓦大学)
本文通过采样不等式推广到谱正则化,推导出不依赖源条件的反问题弱收敛速率界。
2025-12-04 cs.NA math.NA
Inverse initial data reconstruction for a memory convection-diffusion equation via Legendre spatial reduction and Tikhonov regularization
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);International University - Vietnam National University(越南国立大学国际大学);Texas A&M University(德克萨斯农工大学)
针对带记忆项的对流扩散方程,提出基于勒让德空间降维和吉洪诺夫正则化的逆初始数据重建方法,证明唯一性并给出数值算例。
2026-06-23 cs.NA math.NA
Sampled Tikhonov Regularization for Large Linear Inverse Problems
Applied Mathematics and Statistics, Colorado School of Mines(科罗拉多矿业大学应用数学与统计学)
本文研究了基于数据采样的迭代方法,用于计算Tikhonov正则化解,针对大规模反问题,其中无法一次性访问全部数据集,提出了一种行访问方法,通过块数据解决此类问题,并讨论了正则化参数选择、采样策略和收敛分析的挑战。
2018-12-14 cs.NA math.NA
Learned Regularization for Inverse Problems: Insights from a Spectral Model
Helmholtz Imaging(亥姆霍兹成像机构);Deutsches Elektronen-Synchrotron DESY(德国电子同步加速器研究所);Universität Hamburg(汉堡大学);Fachbereich Mathematik(数学系)
本文从谱重构算子视角研究逆问题的学习方法,提出基于数据分布的正则化收敛扩展定义,并利用谱学习模型分析不同学习范式的正则化性质、偏差及对训练数据的依赖性,比较其在无限维极限下的行为。
2024-06-04 cs.LG cs.NA math.NA
Learning Regularization Parameters of Inverse Problems via Deep Neural Networks
Technical University of Denmark(丹麦技术大学);Virginia Tech(弗吉尼亚理工大学)
在这项工作中,我们描述了一种新的方法,使用深度神经网络(DNN)来获得正则化参数来解决反问题。我们考虑一种监督学习方法,其中训练网络以近似从观测数据到正则化参数的映射。一旦网络被训练,新获得的数据的正则化参数可以通过DNN的有效前向传播来计算。我们表明,可以考虑各种各样的正则化泛函,前向模型和噪声模型。与现有的正则化参数选择方法相比,网络获得的正则化参数可以更有效地计算,甚至可以得到更准确的解。我们强调,与以前通过最优试验设计或经验贝叶斯风险最小化进行学习的工作相比,使用DNN学习正则化参数的关键优势是更大的泛化能力。也就是说,不是计算相对于一个特定设计目标最优的一组参数,而是根据新观察到的数据的特定特征或属性来定制DNN计算的正则化参数。因此,我们的方法可以更好地处理观察不是训练集的紧密表示的情况。此外,我们避免了昂贵的和具有挑战性的双层最优化方法的需要,在其他现有的训练方法中使用。数值结果证明了使用DNN学习正则化参数的潜力。
2021-04-14 cs.LG cs.NA math.NA
Deep synthesis regularization of inverse problems
University of Innsbruck(因斯布鲁克大学)
最近,已经开发了大量用于解决反问题的高效深度学习方法,并显示出出色的数值性能。然而,对于这些深度学习方法,缺乏重建保证形式的坚实理论基础。相比之下,对于经典的重建方法,如凸变分和基于框架的正则化,理论收敛性和收敛速度的结果很好地建立。在本文中,我们引入了深度合成正则化(DESYRE),使用神经网络作为非线性合成算子,弥合了这两个世界之间的差距。所提出的方法允许利用深度学习的好处,即可以很好地适应可用的训练数据,另一方面还具有坚实的数学基础。我们提出了一个全收敛分析与收敛速度的建议的深度合成正则化。我们提出了一种策略,用于构建一个合成网络的分析合成序列的一部分,连同一个适当的训练策略。数值结果表明,我们的方法的可行性。
2020-02-01 cs.LG cs.NA math.NA
Solution Paths of Variational Regularization Methods for Inverse Problems
我们考虑一类一般反问题的变分正则化泛函,其中数据保真度和正则化项分别由Hilbert范数和绝对单齐次泛函的幂给出,正则化参数被解释为人工时间.我们调查的小和大的时间行为的相关解决方案的路径,特别是,证明有限的消亡时的一大类泛函。根据权力,我们还表明,解决方案的路径是有界变化,甚至Lipschitz连续。此外,这将证明,这些模型是“几乎”相互等价的最小化,他们承认。最后,我们应用我们的结果来定义和比较两种不同的非线性谱表示的数据,并表明,只有一个是能够分解的线性组合的非线性本征函数到个人的本征函数。为此,我们还将简要地讨论分段仿射解路径。
2019-10-29 cs.NA math.NA math.OC
Convergent regularization in inverse problems and linear plug-and-play denoisers
University of Oulu(奥卢大学);University College London(伦敦大学学院);IIT Kharagpur(印度理工学院克勒格布尔分校);University of Cambridge(剑桥大学)
本文研究带线性去噪器的即插即用(PnP)算法的正则化收敛性,提出谱滤波技术控制正则化强度,通过关联隐式与显式正则化严格证明其为收敛正则化方案,并用断层图像重建实验验证理论。
2023-07-18 cs.LG cs.NA math.NA
Variational Regularization of Inverse Problems for Manifold-Valued Data
Image Analysis and Learning Group, Interdisciplinary Center for Scientific Computing, Universität Heidelberg, Germany(图像分析与学习组,跨学科科学计算中心,海德堡大学,德国);Department of Mathematics and Natural Sciences, Hochschule Darmstadt, and Institute of Computational Biology, Helmholtz Zentrum München, Germany(数学与自然科学系,达姆施塔特应用科学大学,以及计算生物学研究所,海德堡研究中心,德国)
本文研究流形值数据的变分正则化反问题,提出TV和TGV正则化方法,并通过合成和真实数据验证其有效性。
2018-04-27 cs.CV cs.NA math.DG