Everything is Vecchia: Unifying low-rank and sparse inverse Cholesky approximations
University of California San Diego(加利福尼亚大学圣地亚哥分校)
本文通过结合部分Cholesky近似与Vecchia近似,证明Vecchia近似能统一低秩和稀疏逆Cholesky近似方法,拓展了其应用范围。
2026-03-05 cs.NA math.NA
Explicit geometric construction of sparse inverse mass matrices for arbitrary tetrahedral grids
通过对有限元法的几何重新解释,表明RaviartThomas和Nedeirs质量矩阵从四面体网格的几何元素的自由度映射到重心对偶网格的自由度。质量矩阵的代数逆将附着于重心对偶网格的DoF映射回附着于相应的原始四面体网格的DoF,但是它们的实际用途有限,因为它们是密集的。在本文中,我们提出了一个新的尺规作图法的稀疏逆质量矩阵的任意四面体网格和可能的各向异性材料,揭穿传统的智慧,重心对偶网格禁止稀疏表示逆质量矩阵。特别是,我们提供了一个统一的框架建设的边缘和面对质量矩阵及其稀疏逆。这样一个统一的原则依赖于新的几何重建公式,从其中,根据一个良好的设计策略,局部质量矩阵构造为一个一致的和稳定项的总和。与目前提出的方法的一个主要区别是,一致项的定义是几何和明确的,也就是说,没有必要计算局部矩阵的逆。这提供了合理的加速和更容易的实现。我们使用这些新的稀疏逆质量矩阵离散的三维泊松问题,提供了不同的配方与解析解的基准问题所获得的结果之间的比较。
2021-02-01 cs.NA math.NA
A multi-frequency sampling method for the inverse source problems with sparse measurements
本文研究了多频稀疏准域近场测量的源反问题。针对现有的基于空间变量积分的准域算子,提出了一种基于频率变量积分的多频准域算子。进一步给出并分析了这种多频准域算子的分解。基于这种分解,我们引入了一种多频采样的方法来重建源支撑。其理论基础,然后来自于因式分解算子和适当选择的点扩散函数的性质。数值例子说明了稀疏准域测量的多频采样方法。最后简要讨论了如何将准域情形推广到远场情形。
2021-09-03 cs.NA math.NA
GPU-Accelerated Particle Methods for Evaluation of Sparse Observations for PDE-Constrained Inverse Problems
本文提出两种粒子方法,利用反问题的结构高效计算正向映射,适用于时间演化问题和狄利克雷边界值问题,并通过数值示例展示了其在贝叶斯推断和数值优化中的应用。
2018-08-31 cs.NA math.NA
Practical error estimates for sparse recovery in linear inverse problems
Vrije Universiteit Brussel(布鲁塞尔自由大学)
研究利用模型稀疏性作为先验信息求解线性逆问题的有效性,在非理想情况下计算典型恢复误差并与理论界比较,以磁层析成像为例说明。
2010-07-16 cs.NA math.NA
Mixed Precision Iterative Refinement with Adaptive Precision Sparse Approximate Inverse Preconditioning
本文提出自适应精度稀疏近似逆预条件子BSPAI-GMRES-IR,将其集成到五精度GMRES迭代精化中,分析了收敛条件,并证明其可在保持与SPAI-GMRES-IR相近误差的前提下降低预条件子存储与应用成本。
2023-07-08 cs.NA math.NA
Hessian-based adaptive sparse quadrature for infinite-dimensional Bayesian inverse problems
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出并分析了一种基于Hessian的自适应稀疏求积方法,用于计算贝叶斯逆问题中后验分布的无限维积分。通过基于负对数后验的Hessian参数化,该方法能有效分配求积点,实现更高效的收敛。
2017-06-20 cs.NA math.NA
Recovery of Binary Sparse Signals with Biased Measurement Matrices
Institut für Mathematik, Technische Universität Berlin(柏林工业大学数学研究所)
本文通过有偏基追踪方法研究二进制稀疏信号恢复,提出在特定条件下可高效恢复稀疏和饱和信号,并利用有偏最小二乘法求解。
2018-01-10 cs.NA math.NA
Inverse source problem for the parabolic equation with sparse moving observations
Southern University of Science and Technology (SUSTech)(南方科技大学);Sun Yat-sen University(中山大学)
本文研究了通过稀疏边界测量反演抛物方程源项的问题,提出了一种基于移动传感器的数据定位方法,并通过数值实验验证了算法的有效性。
2026-04-13 cs.NA math.AP math.NA
Iterative Refinement and Flexible Iteratively Reweighed Solvers for Linear Inverse Problems with Sparse Solutions
本文提出一种基于迭代细化视角的灵活迭代重加权算法框架,用于求解大规模线性不适定问题的稀疏解,兼具快速收敛与高精度,并在内存受限场景下优于其他灵活Krylov方法。
2025-02-04 cs.NA math.NA
Goal-oriented optimal sensor placement for PDE-constrained inverse problems in crisis management
针对危机管理中PDE约束反问题,提出贝叶斯低秩加速的目标导向框架,实现最优静态传感器布置与动态转向,应用于空气污染物追踪并通过C最优准则优化,经实验验证可有效识别污染源,助力实时决策。
2025-07-08 cs.NA math.NA
Factorized sparse approximate inverse preconditioning for singular M-matrices
TU Berlin, Institut für Mathematik(柏林工业大学数学研究所)
本文提出了一种因子化稀疏近似逆预条件方法,用于处理奇异M矩阵,证明了该方法在特定非零模式限制下的有效性及性质。
2025-12-25 cs.NA math.NA
On Sparse Reflexive Generalized Inverses
Universidade Federal do Rio de Janeiro(里约热内卢联邦大学);University of Michigan(密歇根大学)
本文研究了稀疏广义逆H的构造,针对秩为r的实矩阵A,提出了一种具有至多r²个非零元素的反向广义逆的构造方法,并针对r=1和r=2(A非负)的情况,展示了如何在反向广义逆中最小化向量1范数,对于一般r,高效地找到1范数接近最小值的反向广义逆。
2018-09-30 cs.CC cs.NA math.NA
Non-convexly constrained linear inverse problems
University of Southampton(南安普顿大学)
针对非凸约束下的病态线性逆问题,本文提出类似投影Landweber的迭代算法并推导稳定反演的理论性质,将稀疏约束下有限维线性系统的高效反演推广到Hilbert空间和更一般的非凸约束。
2009-11-26 cs.NA math.NA
Robust Dropping Criteria for F-norm Minimization Based Sparse Approximate Inverse Preconditioning
Tsinghua University(清华大学)
针对稀疏近似逆预条件中丢弃容限的启发式选择问题,提出基于数学理论的鲁棒自适应丢弃准则,在保持预条件子质量的同时最大化稀疏性,并扩展到静态F-范数最小化过程。
2015-03-16 cs.NA math.NA
Sparse polynomial approximation for optimal control problems constrained by elliptic PDEs with lognormal random coefficients
Oden Institute for Computational Engineering & Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校奥登计算工程与科学学院);Department of Mechanical Engineering, and Department of Geological Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校机械工程系和地质科学系)
本文研究了受具有对数正态随机系数的椭圆偏微分方程约束的最优控制问题,通过稀疏多项式近似方法对最优解进行逼近,并证明了该方法在维度上具有独立的收敛率。
2019-03-13 cs.NA math.NA
Transcending Sparse Measurement Limits: Operator-Learning-Driven Data Super-Resolution for Inverse Source Problem
针对窄孔径稀疏亥姆霍兹边界数据逆源定位的不适定欠采样问题,提出结合DeepONet插值超分辨与直接采样法的模块化框架,证明有限孔径解唯一性,实验显示定位误差降约一个数量级,且模块可灵活替换。
2025-10-30 cs.NA math.NA
Inverse Modeling of Viscoelasticity Materials using Physics Constrained Learning
我们提出了一种新的方法,利用神经网络,捕捉率相关和非线性本构关系的粘弹性材料建模。然而,神经网络的输入和输出是不可直接观察的,因此具有用于神经网络的输入-输出对的常见训练技术是不适用的。为此,我们开发了一种新的计算方法,在多物理相互作用的背景下,从间接位移数据中校准参数并学习基于神经网络的粘弹性材料本构关系。我们表明,有限的位移数据有足够的信息来量化的粘弹性行为。我们制定的逆计算--从观测到的位移数据建模粘弹性性能--作为一个偏微分方程约束的最优化问题,并使用基于梯度的最优化方法最小化的错误功能。通过自动微分和物理约束学习的组合来计算梯度。通过地质力学和多孔介质输运中的许多基准问题证明了我们的方法的有效性。
2020-05-09 cs.NA math.NA
Iterative regularization for constrained minimization formulations of nonlinear inverse problems
本文将反问题表示为约束极小化问题,并利用梯度型或牛顿型迭代法求解。我们进行了收敛性分析的意义上的正则化方法,并讨论了适用性的问题,从不同的观测集识别的空间变化的扩散在椭圆型偏微分方程。其中是一种新的混合成像技术称为阻抗声层析成像,我们提供了数值实验。
2021-01-14 cs.NA math.NA math.OC
A Modified Orthogonal Matching Pursuit for Construction of Sparse Probabilistic Boolean Networks
概率布尔网络在基因调控网络的建模和控制中发挥着重要作用。本文考虑由给定的转移概率矩阵构造稀疏概率布尔网络的逆问题。我们提出了一种改进的正交匹配追踪求解反问题。我们提供了一些条件下,该算法可以恢复稀疏的概率布尔网络。我们还报告了一些数值结果来说明所提出的算法的有效性。
2021-10-19 cs.NA math.NA
Computing a Sparse Approximate Inverse on Quantum Annealing Machines
针对大型线性方程组求解中共轭梯度法需优质预处理器加速收敛的问题,本文探索通过求解二次无约束二元优化问题,在量子退火机上计算稀疏近似逆预处理器,并基于泊松问题的二维有限差分线性系统开展了数值实验。
2023-10-03 cs.ET cs.NA math.NA
Alternating Direction Algorithms for Constrained Sparse Regression: Application to Hyperspectral Unmixing
提出基于交替方向乘子法的SUnSAL和C-SUnSAL算法,高效求解高光谱解混中的约束稀疏回归问题,在速度和精度上优于现有方法。
2012-05-09 cs.NA math.NA math.OC
Variational Sparse Paired Autoencoders (vsPAIR) for Inverse Problems and Uncertainty Quantification
Emory University Department of Mathematics(埃默里大学数学系)
针对逆问题,提出变分稀疏配对自动编码器(vsPAIR)。架构通过学习的潜在映射连接标准VAE和稀疏VAE,能进行不确定性估计,鼓励可解释性,提供结构化不确定性估计,实验验证其有效性。
2026-07-07 cs.LG cs.NA math.NA
Theoretical and numerical studies of inverse source problem for the linear parabolic equation with sparse boundary measurements
本文研究了抛物型方程的源反问题,其中未知源具有半离散形式。从理论上证明了边界上任意非空开子集的通量数据可以唯一确定半离散源。这意味着观察到的区域可能非常小,这就是为什么我们称这些数据为稀疏边界数据。对于数值重建,我们从贝叶斯序贯预测的角度来阐述这个问题,并进行了数值例子,估计时空相关的源状态的状态。为了更好地展示该方法的性能,我们解决了两个常见的多尺度问题,从两个模型与长序列的源。数值结果表明,反演是准确和有效的。
2021-11-03 cs.NA math.AP math.NA
Optimized sparse approximate inverse smoothers for solving Laplacian linear systems
本文提出并分析了一种新的高效稀疏近似逆(SPAI)平滑器,用于求解二维和三维Laplacian线性系的几何多重网格方法.局部傅里叶分析表明,我们提出的2D SPAI平滑器实现了比[Bolten,M.,Huckle,T.K.和克拉夫瓦里蒂斯,C.D.,2016.多重网格法的稀疏矩阵逼近。线性代数及其应用,502,第58 -76页。所提出的SPAI平滑器的3D情况下提供了更小的最佳平滑因子比加权雅可比平滑器。数值结果验证了我们的理论结论,并说明了我们提出的SPAI平滑的高效率和高效果。这种SPAI平滑器具有固有并行性的优点。用于实现我们提出的算法的MATLAB代码可在http://github.com/junliu2050/SPAI-MG-Laplacian在线公开获得。
2022-06-11 cs.DC cs.NA math.NA
Sparse aNETT for Solving Inverse Problems with Deep Learning
University of Innsbruck(因斯布鲁克大学);University of Idaho(爱达荷大学)
我们提出了一个稀疏重建框架(aNETT)求解反问题。相对于现有的稀疏重建技术,是基于线性稀疏化变换,我们训练一个自动编码器网络$D \circ E$与$E$作为一个非线性稀疏化变换和最小化Tikhonov功能与学习正则化形成的编码器系数的$\ell^q$ -范数和惩罚的距离数据流形。我们提出了一种基于底层图像类的样本集训练自动编码器的策略,使得自动编码器独立于前向算子,并且随后适应于特定的前向模型。稀疏视图CT的数值结果,这清楚地表明了可行性,鲁棒性和改进的泛化能力和稳定性的aNETT后处理网络。
2020-04-20 cs.LG cs.NA eess.IV
Jump-sparse and sparse recovery using Potts functionals
我们恢复跳跃稀疏和稀疏信号从模糊不完整的数据损坏(可能是非高斯)噪声使用逆波茨能量泛函。我们得到的分析结果(存在的最小值,复杂性)逆Potts泛函和稀疏性问题的关系。然后,我们提出了一种新的最优化方法,这些泛函的基础上,动态规划和交替方向法的乘数(ADMM)。一系列的实验表明,该方法产生非常令人满意的跳跃稀疏和稀疏重建,分别。我们突出的能力,通过比较它与经典和最近的方法,如电视最小化(跳跃稀疏信号),正交匹配追求,迭代硬阈值,迭代重新加权$\ell^1$最小化(稀疏信号)的方法。
2014-06-02 cs.NA math.NA math.OC
Multilevel adaptive sparse Leja approximations for Bayesian inverse problems
确定性插值和求积方法往往不适合解决贝叶斯逆问题,这取决于计算昂贵的正演数学模型。虽然插值可以给出精确的后验近似,但确定性求积通常无法有效地调查信息量,从而集中可能性。这导致了大量的数学模型所需的昂贵的评估。为了克服这些挑战,我们制定和测试多级自适应稀疏Leja算法。在每一层,自适应稀疏网格插值和正交分别用于近似后验和执行所有的正交操作。具体来说,我们的算法使用粗糙的离散化的基本数学模型,调查的参数空间,并确定高后验概率的地区。然后使用自适应稀疏网格算法将点放置在这些区域中,并忽略后验概率小的其他区域。这些点是加权Leja点。由于模型离散化是粗略的,稀疏网格的构造是计算高效的。在这个稀疏的网格上,后验测度可以精确地近似,只需很少的昂贵的精细模型离散化。该算法的效率可以进一步提高,通过利用两个以上的离散化水平。我们提出的多级自适应稀疏Leja算法在数值实验中涉及椭圆反问题的二维和三维空间,在其中我们比较它与马尔可夫链蒙特卡罗采样和标准的多级近似。
2019-05-07 cs.NA math.NA stat.CO
On a Constrained Pseudoinverse for the Electromagnetic Inverse Source Problem
在过去的几年中,反震源方法已经显示出它们在一些应用中的相关性。它们依赖于一个不适定问题的解决方案,其中近场/电流数据从远场(或信息量较少的场)信息开始重建。标准策略,包括使用Love条件的物理约束策略,导致线性系被伪反演,由于缺乏来自倏逝场的信息,这些伪反演仍然是病态的。在这项工作中,我们提出了一个广义伪逆的问题,允许列入额外的限制,从倏逝场空间,当可用的。这是通过放弃一些标准的Moore-Penrose(MP)的要求,并使用由此产生的自由度,以获得一个广义伪逆,在几种情况下的实际利益,表现出良好的性能。
2022-05-07 cs.NA math.NA physics.class-ph
Heavy-ball-based optimal thresholding algorithms for sparse linear inverse problems
本文针对稀疏线性逆问题中最优$k$-阈值化方法在大规模问题下运行时间较长的问题,提出了基于Heavy-ball的加速算法HBOT及其松弛变体,并在限制等距性质下证明了其收敛性,数值仿真验证了其在含噪信号与图像重建中的鲁棒性。
2023-07-28 cs.IT cs.NA math.IT
A Deep Learning-Enhanced Fourier Method for the Multi-Frequency Inverse Source Problem with Sparse Far-Field Data
Beijing Normal University(北京师范大学);Harbin Institute of Technology(哈尔滨工业大学);Wenzhou-Kean University(温州肯恩大学)
本文提出一种结合深度学习和傅里叶方法的框架,用于解决多频反源问题中的稀疏远场数据挑战,通过迁移学习提升鲁棒性和效率。
2026-01-01 cs.NA math.AP math.NA
A multilevel framework for sparse optimization with application to inverse covariance estimation and logistic regression
University of British Columbia(不列颠哥伦比亚大学);Intel Labs(英特尔实验室);Technion—Israel Institute of Technology(以色列理工学院)
本文提出一种多级框架高效解决l1正则化稀疏优化问题,应用于逆协方差估计和逻辑回归,通过分层问题加速优化过程,提升大规模数据处理效率。
2016-07-01 cs.NA math.NA math.OC
Probabilistic Numerical Methods for PDE-constrained Bayesian Inverse Problems
本文发展了概率描述偏微分方程数值解中离散误差的无网格方法。这种结构使贝叶斯逆问题的解决方案,同时考虑到正向问题的离散化的影响。特别地,这使得统计推断在存在显著求解器误差的情况下更加保守。理论结果描述的收敛速度的后验的正问题和反问题。该方法是一个具有挑战性的反问题与非线性正演模型进行测试。
2017-01-15 cs.NA math.NA math.ST
A Coordinate-wise Optimization Algorithm for Sparse Inverse Covariance Selection
本文提出一种坐标优化算法解决稀疏逆协方差选择问题,保证收敛到坐标最小点,并在合成和真实数据上优于现有方法。
2018-04-04 cs.LG cs.NA math.NA
Robust method for finding sparse solutions to linear inverse problems using an L2 regularization
Cold Spring Harbor Laboratory(冷泉港实验室)
本文提出了一种基于生物启发算法的稳健方法,通过L2正则化在过完备字典中寻找稀疏解,具有对噪声的强鲁棒性。
2017-03-22 cs.LG cs.NA math.NA
Sparse Recovery Beyond Compressed Sensing: Separable Nonlinear Inverse Problems
从非线性测量中提取信息是数据分析中的一个基本挑战。在这项工作中,我们考虑可分离的反问题,其中的数据被建模为一个线性组合的功能,非线性地依赖于某些参数的兴趣。这些参数可以表示人脑中的神经元活动、电磁波的频率、细胞中的荧光探针或生物组织的磁弛豫时间。可分离的非线性反问题可以转化为欠定稀疏恢复问题,并利用凸规划求解。这种方法在从物理学到医学成像的各个领域都取得了经验性的成功,但缺乏理论依据。特别是,压缩感知理论不适用,因为测量算子是确定性的,并违反非相干条件,如限制等距属性。我们的主要贡献是稀疏恢复适应确定性设置的理论。我们表明,凸规划成功地恢复感兴趣的参数,只要它们的值是足够不同的测量算子的相关结构。通过数值实验说明了两个应用程序的理论结果:热源定位和估计脑电数据的大脑活动。
2020-07-05 cs.IT cs.NA eess.SP
Learning a Sparse Representation of Barron Functions with the Inverse Scale Space Flow
University of Twente(特文特大学);Deutsches Elektronen-Synchrotron DESY(德国电子同步加速器研究所(DESY));Universität Hamburg(汉堡大学)
本文提出利用逆尺度空间流学习Barron函数的稀疏表示,分析了该方法在理想情形及噪声和采样偏差下的收敛性质,并证明了离散化后的收敛性保持。
2023-12-05 cs.LG cs.NA math.FA
Greedy Sparsity-Constrained Optimization
Carnegie Mellon University(卡内基梅隆大学);Mitsubishi Electric Research Laboratories(三菱电机研究实验室)
提出一种贪婪算法GraSP,用于近似任意形式代价函数的稀疏最小值,并在代价函数满足稳定受限Hessian或稳定受限线性化时保证收敛到真稀疏最优解的有界距离内。
2013-01-06 cs.NA math.NA math.OC
Physics and Equality Constrained Artificial Neural Networks: Application to Forward and Inverse Problems with Multi-fidelity Data Fusion
University of Pittsburgh(匹兹堡大学)
物理信息神经网络(PINN)已经被提出来学习偏微分方程(PDE)的解。在PINN中,感兴趣的PDE的残差形式及其边界条件被集中到一个复合目标函数中作为软惩罚。在这里,我们表明,这种特定的方式制定的目标函数的PINN方法的严重局限性时,适用于不同种类的偏微分方程的来源。为了解决这些限制,我们提出了一个通用的框架,基于约束优化问题的制定,在那里我们使用增广拉格朗日方法(ALM)来约束PDE的解决方案,其边界条件和任何高保真数据,可能是可用的。我们的方法是善于多保真度数据融合的正问题和逆问题。我们通过将其应用于涉及多维偏微分方程的几个正问题和逆问题,展示了我们的物理和等式约束深度学习框架的有效性和多功能性。与最先进的物理信息神经网络相比,我们的框架在准确性水平上实现了数量级的提高。
2022-05-21 cs.LG cs.NA math.NA
NESTANets: Stable, accurate and efficient neural networks for analysis-sparse inverse problems
Simon Fraser University(西蒙弗雷泽大学)
求解反问题是科学、工程和数学的基本组成部分。随着深度学习的出现,深度神经网络具有超越现有最先进的基于模型的方法来解决逆问题的巨大潜力。然而,众所周知,目前的数据驱动方法面临着几个关键问题,特别是幻觉,不稳定性和不可预测的泛化,对医学成像等关键任务有潜在的影响。这就提出了一个关键问题,即是否可以为逆问题构建具有显式稳定性和精度保证的深层神经网络。在这项工作中,我们提出了一种新的构造准确,稳定和高效的神经网络的反问题与一般分析稀疏模型,称为NESTANets。为了构建网络,我们首先展开NESTA,这是一种用于凸优化的加速一阶方法。这种方法收敛速度慢,导致深度网络效率低。因此,为了获得浅,从而更有效的网络,我们结合NESTA与一种新的重启方案。然后,我们使用压缩传感技术来证明准确性和稳定性。我们展示了这种方法的情况下,傅立叶成像,并通过一系列的数值实验验证其稳定性和性能。这项工作的主要影响是证明了有效的神经网络的基础上展开有保证的稳定性和准确性的建设。
2022-10-20 cs.CV cs.IT cs.LG
A dual semismooth Newton based augmented Lagrangian method for large-scale linearly constrained sparse group square-root Lasso problems
Southwest Jiaotong University(西南交通大学);Zhejiang University City College(浙江大学城市学院)
平方根Lasso问题被证明是鲁棒回归问题。此外,具有结构稀疏性的平方根回归问题在统计和机器学习中也起着重要的作用。本文主要研究大规模线性约束稀疏群平方根Lasso问题的数值计算。为了克服目标函数中存在两个非光滑项的困难,提出了一种基于对偶半光滑牛顿(SSN)的增广拉格朗日方法(ALM),即把ALM应用于子问题由SSN方法求解的对偶问题。应用SSN方法时,广义雅可比矩阵的正定性是非常重要的。因此,我们刻画了它的正定性与相应原问题的约束非退化条件的等价性。在数值实现中,我们充分利用了二阶稀疏性,从而可以有效地获得牛顿方向。数值实验证明了该算法的有效性。
2021-11-27 cs.LG cs.NA math.NA