Critical point theory for sparse recovery
我们研究了压缩感知背景下的稀疏恢复问题。这是为了通过具有至多$s$非零条目的稀疏向量来最小化线性测量的感测误差。我们开发了所谓的临界点理论稀疏恢复。这是通过引入非退化M-平稳点,充分描述了这个非凸最优化问题的全局结构。我们证明了所有M-驻点都是一般非退化的。特别是,稀疏约束是积极的,在所有的局部极小的一个通用的稀疏恢复问题。此外,还证明了M-平稳点的强稳定性与非退化性的等价性.我们声称,鞍点的出现-这些都是M-平稳点,正好$s-1$非零条目-不能忽略。为此,我们推导出一个所谓的莫尔斯关系,它给出了一个下界的鞍点的数量方面的局部极小。鞍点的相对复杂的结构可以被看作是解决稀疏恢复到全局最优的问题的一个众所周知的困难的来源。
2020-02-23 math.OC
The Dantzig Selector: Sparse Signals Recovery via l_p-q Minimization
该研究提出基于$l_{p-q}$最小化的Dantzig选择器用于稀疏信号恢复,建立了对应问题下稀疏向量的凸组合表示,给出两类受限等距性质框架下的恢复保证并辅以图示说明。
2024-01-25 math.OC
Efficient sparse probability measures recovery via Bregman gradient
本文提出一种基于Bregman近端梯度、在概率单纯形约束下结合$\ell_0$-稀疏正则化的算法,用于高效恢复稀疏概率测度,并证明了其以$O(1/k)$速率收敛到局部最小值,数值实验验证了其有效性。
2024-11-24 math.OC
Exact Support and Vector Recovery of Constrained Sparse Vectors via Constrained Matching Pursuit
匹配追踪算法是一种贪婪算法,广泛应用于信号处理、压缩感知和稀疏建模等领域。受约束稀疏信号恢复的启发,提出了一种约束匹配追踪算法,并给出了该算法在约束集上实现精确支持和向量恢复的条件。我们表明,通过约束匹配追踪的精确恢复不仅取决于测量矩阵,但也严重依赖于一个约束集。因此,我们确定了一类重要的约束集,称为坐标投影容许集,或简单的CP容许集,这些集的分析和几何性质的建立。研究了凸CP容许锥上的精确向量恢复问题。对于一般的支撑,我们给出了充分的精确恢复条件;对于小尺寸的支撑,我们给出了充分必要的恢复条件。作为一个副产品,我们构建了一个非平凡的反例,一个著名的必要条件的确切恢复通过OMP的支持大小为3。利用凸CP容许集的性质和凸优化技巧,得到了凸CP容许集上一致精确恢复的充分条件.
2020-03-17 math.OC
Consistency of l1 recovery from noisy deterministic measurements
本文给出了用l1最小化从确定性和噪声测量中恢复稀疏向量的一个新结果。稀疏向量是随机选择的,并遵循Candes等人提出的通用p-稀疏模型。主要定理确保了l1最小化的一致性。第一个结果是其次扩展到可压缩向量。
2012-12-03 math.OC
An Efficient ADMM Method for Ratio-Type Nonconvex and Nonsmooth Minimization in Sparse Recovery
本文针对非凸非光滑的比率型稀疏恢复问题,提出了一种高效的ADMM方法,在理论上证明了收敛性,并通过实验验证了其在稀疏恢复和神经网络稀疏化中的优越性能。
2025-09-26 math.OC
A Lifted $\ell_1 $ Framework for Sparse Recovery
受重新加权的$\ell_1$方法稀疏恢复的启发,我们提出了一个提升的$\ell_1$(LL1)正则化,这是在文献中几个流行的正则化的推广形式。通过探索这种联系,我们发现有两种类型的提升函数,可以保证所提出的方法是等价的$\ell_0$最小化。在计算上,我们通过交替方向乘子法(ADMM)设计了一个有效的算法,并建立了一个无约束的配方的收敛性。实验结果表明,这种泛化如何提高稀疏恢复的最先进的。
2022-05-12 eess.SP math.OC
On partial sparse recovery
我们考虑的问题,恢复欠定线性方程组的部分稀疏的解决方案,通过最小化的$\ell_1$ -范数的一部分,已知是稀疏的解决方案向量。这样的问题与压缩感知中的经典问题密切相关,其中整个解向量的$\ell_1$范数被最小化。我们引入类似物的限制等距和零空间属性的恢复部分稀疏向量,并表明,这些新的属性是隐含的原来的同行。我们还展示了如何在噪声测量下将恢复扩展到部分稀疏的情况。
2013-04-09 cs.IT math.IT math.OC
On the exact recovery of sparse signals via conic relaxations
在这篇文章中,我们比较了Pilanci,Wainwright和El Ghaoui最近提出的稀疏线性回归问题的两个半定松弛(通过布尔松弛进行稀疏学习,2015)和Dong,Chen和Linderoth(松弛与正则化统计变量选择的圆锥优化观点,2015)。我们重点讨论了基数约束形式,证明了Dong等人提出的松弛理论并不弱于Pilanci等人提出的松弛,因此Pilanci等人导出的精确恢复的充分条件可以很容易地应用于其他松弛,包括他们关于高斯系综高概率恢复的结果.最后,我们提供的经验证据表明,放松董等。需要更少的观察,以保证恢复真正的支持。
2016-03-15 math.OC stat.ML
SPP-SBL: Space-Power Prior Sparse Bayesian Learning for Block Sparse Recovery
LMIB of the Ministry of Education, School of Mathematical Sciences, Beihang University(北京航空航天大学数学科学学院教育部数学、信息与行为重点实验室)
本文提出SPP-SBL方法,通过空间功率先验和EM算法结合高阶方程求解,解决块稀疏信号结构未知的恢复问题,提升恢复精度。
2026-04-10 cs.LG math.OC
From sparse recovery to plug-and-play priors, understanding trade-offs for stable recovery with generalized projected gradient descent
本文提出了一种通用投影梯度下降框架,结合深度投影先验,以提高稀疏恢复和图像逆问题中的稳定性和鲁棒性。
2025-12-08 cs.NE eess.IV math.OC
Recovery of binary sparse signals from compressed linear measurements via polynomial optimization
从少量的线性测量中恢复具有有限值分量的信号是一个具有广泛应用和有趣的数学特性的问题。在压缩感知框架中,最近已经提出了定制的方法来处理有限值稀疏信号的情况。在这项工作中,我们专注于二进制稀疏信号,我们提出了一种新的配方,基于多项式优化。这种方法进行了分析和比较,最先进的二进制压缩传感方法。
2019-05-30 cs.LG eess.SP math.OC
On Verifiable Sufficient Conditions for Sparse Signal Recovery via $\ell_1$ Minimization
我们提出了新的充要条件的传感矩阵是“$s$ -好”-允许精确的$\ell_1$ -恢复稀疏信号与$s$非零条目时,没有测量噪声存在。然后,我们表示不完美的$\ell_1$ -恢复(非零测量噪声,近$s$ -稀疏信号,产生$\ell_1$ -恢复的最优化问题的近最优解)的这些条件下的特征方面的误差界。此外,我们证明(这是本文的主要结果),这些特性,虽然难以评估,导致可验证的充分条件精确稀疏的$\ell_1$恢复和有效地计算上界的那些$s$,其中一个给定的传感矩阵是$s$ -好。我们还建立了我们的方法和压缩感知理论的基本概念之间的指导性联系,如限制等距或限制特征值属性。
2010-05-31 math.OC math.ST stat.TH
Block sparse signal recovery via minimizing the block $q$-ratio sparsity
在本文中,我们提出了一种方法,块稀疏信号恢复,最大限度地减少块$q$比稀疏$\left(\lVert z\rVert_{2,1}/\lVert z\rVert_{2,q}\right)^{\frac{q}{q-1}}$与$q\in[0,\infty]$。对于$1<q\leq\infty$的情形,给出了$\ell_2$有界噪声和$\ell_{2,\infty}$有界噪声两种情形的理论分析和计算算法。相应的无约束模型也进行了研究。数值实验证明了该算法在块稀疏信号重构中的优越性能。
2021-03-12 cs.IT math.IT math.OC
Are good local minima wide in sparse recovery?
University of Siegen(锡根大学);University of Bonn(波恩大学);Technical University of Munich(慕尼黑工业大学)
压缩感测的想法是利用合适的(过完备)字典中的表示,其允许恢复远远超过奈奎斯特速率的信号,只要它们允许相应字典中的稀疏表示。后者引起的稀疏恢复问题,找到最好的稀疏线性近似给定的数据在一个给定的生成系统。在本文中,我们分析了迭代硬阈值(IHT)算法作为解决稀疏恢复问题的最流行的贪婪方法之一,并证明了系统地扰动IHT算法,通过添加噪声的中间迭代产生改进的结果。进一步的改进可以通过将问题完全重新表述为参数深度学习类型的优化问题来获得。通过引入扰动通过辍学,我们证明了显着优于经典的IHT算法,获得$3$到$6$倍的平均客观误差。
2018-06-21 cs.CV math.OC
Verifiable conditions of $\ell_1$-recovery of sparse signals with sign restrictions
我们提出了一个传感矩阵的充要条件是“S-半好”-允许精确的$\ell_1$ -恢复稀疏信号与最多$s$非零条目下的部分条目的符号限制。我们表示不完美的$\ell_1$ -恢复这些条件下的特点方面的误差界。此外,我们证明,这些特点,虽然难以评估,导致可验证的充分条件,精确稀疏$\ell_1$恢复和有效地计算上界的那些$s$,一个给定的传感矩阵是$s$ -半好。我们专注于拟议的可验证的充分条件的$s$ -半善的性质,并描述其性能限制。
2010-05-31 math.OC math.ST stat.TH
Riemannian thresholding methods for row-sparse and low-rank matrix recovery
在本文中,我们提出了修改的迭代硬阈值(IHT)方法恢复联合行稀疏和低秩矩阵。特别是一个黎曼版本的IHT被认为是显着降低计算成本的梯度投影的情况下,秩一测量算子,这在盲反卷积的具体应用。实验结果表明,高斯和秩一测量接近最佳的恢复,自适应步长提供了至关重要的改善。对于稀疏性未知的特殊情况,导出了一种黎曼近似梯度法.
2022-09-30 cs.NA math.NA math.OC
Jump-sparse and sparse recovery using Potts functionals
我们恢复跳跃稀疏和稀疏信号从模糊不完整的数据损坏(可能是非高斯)噪声使用逆波茨能量泛函。我们得到的分析结果(存在的最小值,复杂性)逆Potts泛函和稀疏性问题的关系。然后,我们提出了一种新的最优化方法,这些泛函的基础上,动态规划和交替方向法的乘数(ADMM)。一系列的实验表明,该方法产生非常令人满意的跳跃稀疏和稀疏重建,分别。我们突出的能力,通过比较它与经典和最近的方法,如电视最小化(跳跃稀疏信号),正交匹配追求,迭代硬阈值,迭代重新加权$\ell^1$最小化(稀疏信号)的方法。
2014-06-02 cs.NA math.NA math.OC
Recovery of Sparse 1-D Signals from the Magnitudes of their Fourier Transform
从自相关或等效地从傅立叶变换的幅度恢复信号的问题在工程的各个领域中是极其重要的。在这项工作中,对于一维信号,我们给出了条件,当满足时,允许从自相关中以非常高的概率唯一恢复。特别是,对于稀疏信号,我们开发了两个非迭代恢复算法。其中之一是基于组合分析,我们证明可以恢复信号稀疏$o(n^{1/3})$具有非常高的概率,另一个是使用凸优化为基础的框架,数值模拟表明可以恢复信号稀疏$o(n^{1/2})$具有非常高的概率。
2012-06-07 cs.IT math.IT math.OC
Iterative Regularization with k-support Norm: An Important Complement to Sparse Recovery
MBZUAI(穆罕默德·本·扎耶德人工智能大学);Nanjing University(南京大学);Jilin University(吉林大学)
提出基于k-support范数的迭代正则化算法IRKSN,通过早停机制实现稀疏恢复,放宽了传统$\ell_1$范数方法的适用条件,并给出了具有显式常数的模型误差早停界限,实现标准线性收敛率。
2024-03-19 cs.LG eess.SP math.OC
A Recovery Guarantee for Sparse Neural Networks
School of Electrical and Computer Engineering(电气与计算机工程学院);Georgia Institute of Technology(佐治亚理工学院);Department of Electrical Engineering(电气工程系);Stanford University(斯坦福大学)
该研究为稀疏神经网络提供了恢复保证,通过迭代硬阈值算法以线性内存复杂度精确恢复稀疏权重,并在多个任务中表现出优于传统方法的性能。
2026-02-28 cs.LG math.OC stat.ML
Sufficient Conditions for Low-rank Matrix Recovery, Translated from Sparse Signal Recovery
低秩矩阵恢复(LMR)是一个线性等式约束下的秩最小化问题,它广泛存在于信号与图像处理、统计学、计算机视觉、系统辨识和控制等领域。这类优化问题是$\N¶$ -困难的,并且流行的方法用矩阵变量的核范数代替秩函数。在本文中,我们将稀疏信号恢复中的感知矩阵的$s$ -优度的概念(由Juditsky和Nemirovski [Math Program,2011]提出)扩展到LMR中的线性变换。然后,我们给出了LMR背景下的$s$ -优性的刻画。利用线性变换的两个特征$s$ -优度常数$γ_s$和$\hatγ_s$,我们不仅得到了线性变换是$s$ -优的充要条件,而且在温和的假设下,通过核范数极小化给出了精确稳定的$s$ -秩矩阵恢复的充分条件.此外,我们给出了可计算的上界之一的$s$ -善良的特点,从而导致可验证的充分条件,准确的低秩矩阵恢复。
2011-06-16 cs.IT math.IT math.OC
Smoothing and Decomposition for Analysis Sparse Recovery
我们考虑算法和恢复保证的分析稀疏模型中,信号是稀疏的相对于一个高度相干的帧。我们考虑使用单调版本的快速迭代收缩阈值算法(MFISTA)来解决分析稀疏恢复问题。由于MFISTA中的近端算子没有分析模型的闭合解,因此不能直接应用。相反,我们研究了两种替代方案的基础上平滑和分解变换,放松原来的稀疏恢复问题,然后实施MFISTA的放松制定。我们将这两种方法称为基于平滑和基于分解的MFISTA。我们分析了这两种算法的收敛性,并建立了平滑的MFISTA收敛更快时,适用于一般的非光滑最优化问题。然后,我们推导出使用这些技术的重建误差的性能界限。该界证明了当测量矩阵满足适当适应的约束等距性时,我们的方法可以在冗余紧框架中恢复信号稀疏。数值例子证明了我们的方法的性能,并表明,平滑为基础的MFISTA收敛速度比基于分解的替代在实际应用中,如MRI图像重建。
2014-01-14 cs.IT math.IT math.OC
Block-sparse Recovery of Semidefinite Systems and Generalized Null Space Conditions
考虑了低秩矩阵通过凸核范数极小化问题的恢复问题,给出了块对角矩阵和块对角半正定矩阵的一致恢复的零空间性质(NSP).这些零空间条件被证明是新的一般设置的特殊情况,其允许从文献中导出所提到的NSP和众所周知的NSP。我们讨论了这些条件的相对强度,也提出了一个确定性的一类矩阵,满足块对角半定NSP。
2020-06-26 cs.IT math.IT math.OC