Recovery of sparsest signals via $\ell^q$-minimization
本文证明了只要每个$s$ -稀疏向量${\bf x}\in {\mathbb R}^n$由测量${\bf z}$唯一确定,每个$s$-稀疏向量${\bf x}\in {\mathbb R}^n$都可以从测量向量${\bf z}={\bf A} {\bf x}\in {\mathbb R}^m$通过$0< q\le 1$的一些$\ell^q$ -最小化精确地恢复.
2010-05-03 cs.IT math.IT
Robust analysis $\ell_1$-recovery from Gaussian measurements and total variation minimization
分析$\ell_1$ -恢复是指从不完整的损坏测量中恢复在某些变换域中稀疏的信号的技术。这包括当变换域由差分算子生成时作为重要特殊情况的总变分最小化。在本论文中,我们提供了一个约束的高斯测量成功恢复所需的总变差的情况下,分析运营商是一个框架。当信号的分析表示的稀疏性不是很小时,该界限特别适合。
2015-04-27 cs.IT math.IT
On the optimality of a L1/L1 solver for sparse signal recovery from sparsely corrupted compressive measurements
这个简短的说明证明了$\ell_1/\ell_1$求解器的$\ell_2-\ell_1$实例最优性,即当应用于估计稀疏(或可压缩)信号时,具有$\ell_1$保真度约束的\emph{basis pursuit denoising}的变体。该方法简单地结合了两个已知的结果,由于Y。普兰河Vershynin和E.坎迪斯
2013-03-20 cs.IT math.IT
Improved Sparse Recovery Thresholds with Two-Step Reweighted $\ell_1$ Minimization
众所周知,$\ell_1$最小化可以用于从压缩的线性测量恢复足够稀疏的未知信号。事实上,已经计算了作为系统维度之间的比率的函数的关于稀疏性的精确阈值,使得几乎所有稀疏信号都可以以高概率从iid高斯测量中恢复,并且被称为“弱阈值”\cite{D}。在本文中,我们介绍了一个重新加权的$\ell_1$恢复算法组成的两个步骤:一个标准的$\ell_1$最小化步骤,以确定一组条目的信号可能驻留,和一个加权的$\ell_1$最小化步骤,这组以外的条目被处罚。对于非稀疏分量具有iid高斯条目的信号,我们证明了弱恢复阈值的“严格”改进。模拟表明,改进可以是相当令人印象深刻的-在我们考虑的例子中超过20%。
2010-04-02 cs.IT math.IT
Weighted $\ell_1$-Minimization for Sparse Recovery under Arbitrary Prior Information
加权$\ell_1$ -最小化已被研究作为一种技术,用于从压缩采样测量重构稀疏信号时,有关信号的先验信息,在一个支持估计的形式,是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权$\ell_1$ -最小化时,允许任意多个不同的权重。例如,当对于信号的支持具有多个估计并且这些估计具有不同的准确度时,可以使用这样的设置。我们的分析产生了一个扩展现有的作品,假设只有一个单一的支持估计后,应用一个恒定的权重。我们包括数值实验,与合成信号和真实的视频数据,证明了在重建过程中允许非均匀权重的好处。
2016-12-08 cs.IT math.IT
Performance Analysis of Sparse Recovery Based on Constrained Minimal Singular Values
研究了稀疏信号重构的稳定性问题。我们设计了有效的算法来验证唯一的$\ell_1$稀疏恢复的充分条件。我们的算法之一产生可比的结果与国家的最先进的技术,并执行数量级更快。我们表明,$\ell_1$约束的最小奇异值($\ell_1$ -CMSV)的测量矩阵确定,在一个非常简洁的方式,恢复性能的$\ell_1$为基础的算法,如基追踪,Dantzig选择器,和LASSO估计。与引入约束等距常数的性能分析相比,本文的论证简单得多,对稀疏信号恢复的稳定性提供了更直观的判断。我们还表明,以高概率,亚高斯系综产生测量矩阵与$\ell_1$ -CMSV有界远离零,只要测量的数量是相对较大的。为了计算$\ell_1$ -CMSV及其下界,我们设计了两种基于内点算法和半定松弛算法的算法。
2011-02-24 cs.IT math.IT
The block mutual coherence property condition for signal recovery
本文研究了含噪环境下块稀疏信号的稳定恢复问题,提出了基于块互干性的充分条件与误差上界估计,首次证明了 $\ell_2/\ell_1-\alpha\ell_2$ 最小化方法稳定重建块稀疏信号的有效性,并通过数值实验验证了其性能。
2023-11-28 cs.IT math.IT
Weighted $\ell_1$ Minimization for Sparse Recovery with Prior Information
在本文中,我们研究的压缩感知问题,从欠定线性方程组的系统中恢复稀疏信号时,我们有先验信息的未知信号的每个条目是非零的概率。特别是,我们专注于一个模型,其中未知向量的条目分为两组,每组具有不同的非零概率。我们提出了一个加权的$\ell_1$最小化恢复算法,并分析其性能使用格拉斯曼角的方法。我们明确计算系统参数(权重,测量的数量,两个集合的大小,非零的概率)之间的关系,使得iid随机高斯测量矩阵以及加权$\ell_1$最小化随着问题维度的增加以压倒性的概率恢复几乎所有这样的稀疏信号。这使我们能够计算最佳权重。我们还提供了模拟,以证明传统的$\ell_1$优化的方法的优点。
2009-01-19 cs.IT math.IT
Sparse Recovery using Smoothed $\ell^0$ (SL0): Convergence Analysis
求欠定线性方程组的稀疏解有许多应用,特别是,它被用于压缩感知(CS),稀疏分量分析(SCA)和过完备字典上的信号稀疏分解。我们最近提出了一种快速算法,称为平滑$\ell^0$(SL 0),这个任务。与许多其他稀疏恢复算法相反,SL 0不是基于最小化$\ell^1$范数,而是试图直接最小化解的$\ell^0$范数。SL 0的基本思想是优化逼近向量的$\ell^0$范数的某些(连续)成本函数的序列。然而,在以前的论文中,我们没有提供一个完整的收敛性证明SL 0。本文研究了SL 0的收敛性,证明了在一定的稀疏性约束下,通过非对称约束等距性(ARIP),并选择一定的参数,SL 0收敛到稀疏解是有保证的.此外,我们研究了SL0的复杂性,我们表明,每当字典的尺寸增长,SL0的复杂性增加与匹配追踪(MP),这是现有的最快的稀疏恢复方法之一,相同的顺序,而相反MP,它的收敛到稀疏的解决方案是保证在一定的条件下,通过选择参数得到满足。
2010-01-28 cs.IT math.IT
The Dantzig selector: Recovery of Signal via $\ell_1-α\ell_2$ Minimization
本文提出了一种基于$\ell_{1}-α\ell_{2}$ ~ $(0< α\leq1)$最小化的Dantzig选择器,用于信号恢复。在Dantzig选择器中,对于某个小常数$η>0$的约束$\|{\bf A}^{\top}({\bf b}-{\bf A}{\bf x})\|_\infty \leq η$意味着${\bf A}$的列与误差向量${\bf e}={\bf A}{\bf x}-{\bf b}$的相关性非常弱。首先,恢复保证的基础上的限制等距属性(RIP)的信号建立。接下来,我们提出了有效的算法来解决所提出的Dantzig选择器。最后,我们通过大量的数值实验来说明所提出的模型和算法的恢复信号的情况下,高斯,脉冲和均匀噪声。所提出的Dantzig选择器的性能优于现有的方法。
2021-05-29 cs.IT math.IT math.ST
$\ell^1$-Analysis Minimization and Generalized (Co-)Sparsity: When Does Recovery Succeed?
本文在余分析模型假设下,研究了欠采样含噪亚高斯测量信号的估计问题。基于广义的稀疏性概念,我们得到新的恢复保证的$\ell^1$分析的基础上追求,使其样本复杂性的准确预测。所需测量的数量上的相应界限明确地取决于分析算子的Gram矩阵,因此特别考虑了其相互相干结构。我们的研究结果挑战了传统的智慧,促进稀疏的分析系数作为研究的关键量。事实上,这种常见的范式在许多实际感兴趣的情况下完全崩溃,例如,当应用冗余(多级)框架作为分析先验时。通过大量的数值实验,我们证明,相比之下,我们的理论采样率界可靠地捕捉各种例子,如冗余小波系统,总变分,或随机帧的恢复能力。我们的主要结果的证明建立在最近的成就,凸几何的数据采掘问题。更确切地说,我们建立了一个复杂的上界的圆锥高斯平均宽度,是与底层的$\ell^1$分析多面体。由于一个新的本地化参数,事实证明,所提出的框架自然扩展到稳定的恢复,使我们能够将可压缩系数序列以及。
2021-02-22 cs.IT math.IT
Analyzing Weighted $\ell_1$ Minimization for Sparse Recovery with Nonuniform Sparse Models\footnote{The results of this paper were presented in part at the International Symposium on Information Theory, ISIT 2009}
在本文中,我们介绍了一个非均匀稀疏模型,并分析了性能的优化加权$\ell_1$最小化的稀疏模型。特别是,我们专注于一个模型,其中的未知向量的条目分为两组,每个集合的条目具有特定的非零概率。我们提出了一个加权的$\ell_1$最小化恢复算法,并分析其性能使用格拉斯曼角的方法。我们明确计算系统参数之间的关系-权重,测量的数量,两个集合的大小,非零的概率-因此,当i.i.d.使用随机高斯测量矩阵,加权$\ell_1$最小化随着问题维度的增加以压倒性的概率恢复从所考虑的稀疏模型中提取的随机选择的信号。这使我们能够计算最佳权重。我们证明,通过严格的分析和模拟的情况下,当信号的支持可以分为两个不同的子类具有不等的稀疏分数,最佳加权$\ell_1$最小化优于常规的$\ell_1$最小化。我们还推广到任意数量的类的结果。
2010-09-18 cs.IT math.IT
Sparse Support Recovery with Non-smooth Loss Functions
在本文中,我们研究了欠定稀疏回归的支持恢复保证使用$\ell_1$ -范数作为正则化和非光滑损失函数的数据保真度。更准确地说,我们重点详细的情况下,$\ell_1$和$\ell_\infty$损失,并将其与通常的$\ell_2$损失。虽然这些损失通常用于解释稀疏($\ell_1$损失)或均匀($\ell_\infty$损失)噪声模型,但仍然缺乏对其性能的理论分析。在这篇文章中,我们将现有的理论从光滑的$\ell_2$的情况下,这些非光滑的情况下。我们推导出一个尖锐的条件,确保恢复的向量的支持是稳定的小加性噪声的观察,只要损失约束的大小调整成比例的噪声水平。我们的理论的一个显著特点是,它还解释了当支撑不稳定时会发生什么。虽然支持是不稳定的,我们确定了一个“扩展支持”,并表明,这种扩展支持是稳定的小加性噪声。为了验证我们的理论的实用性,我们给出了一个详细的数值分析的支持稳定性/不稳定性的压缩感知恢复这些不同的损失。这突出了不同的参数制度,范围从总支持稳定性逐步增加支持不稳定性。
2016-11-03 cs.IT math.IT
Beyond $\ell_1$-norm minimization for sparse signal recovery
University of British Columbia(不列颠哥伦比亚大学)
稀疏信号恢复一直占主导地位的基础上追求去噪(BPDN)的问题制定了十多年。在本文中,我们提出了一个算法,在寻找稀疏解欠定线性方程组在没有额外的计算成本优于BPDN。我们的算法,称为WSPGL 1,是一个修改的谱投影梯度$\ell_1$最小化(SPGL 1)算法,其中的序列的LASSO子问题被替换为一个序列的加权LASSO子问题与恒定的权重施加到支持估计。支持估计值从数据中导出,并在每次迭代时更新。该算法还在每次迭代时修改Pareto曲线,以反映正在解决的新的加权$\ell_1$最小化问题。我们通过大量的模拟表明,我们的算法的稀疏恢复性能优于$\ell_1$最小化和方法的恢复性能的迭代重新加权$\ell_1$(IRWL 1)最小化的Cand{è}s,Wakin,和博伊德,虽然它不匹配它在一般情况下。此外,我们的算法具有单个BPDN问题的计算成本。
2012-05-30 cs.IT cs.LG math.IT
Compressed Sensing Recovery via Nonconvex Shrinkage Penalties
压缩感知的$\ell^0$最小化通常被放松为$\ell^1$,这使用称为软阈值的收缩映射产生容易的计算,并且可以在某些假设下恢复原始解。最近的工作已经得出了一个一般类的收缩和相关的非凸惩罚,更好地近似原来的$\ell^0$惩罚和经验,可以从更少的测量恢复原来的解决方案。我们专门研究p收缩和公司阈值。在这项工作中,我们证明了,给定的数据和测量矩阵从一个广泛的一类矩阵,可以选择这些类的收缩参数,以保证精确恢复的稀疏的解决方案。我们进一步证明了算法迭代p收缩(IPS)解决这样一个放松的问题的收敛性。
2015-04-11 cs.IT math.IT
Sparse Recovery With Integrality Constraints
我们调查的稀疏整数值的信号从少量的线性测量的唯一可恢复性的条件。这两个目标的最小化的数目的非零组件,所谓的$\ell_0$ -规范,以及其流行的替代品,$\ell_1$ -规范,涵盖。此外,完整性约束和可能的界限上的变量进行了研究。我们的研究结果表明,额外的先验知识的信号完整性允许恢复更多的信号比可以保证从(连续)压缩感知的恢复条件。此外,即使所考虑的问题是\NP -硬一般(即使与$\ell_1$ -目标),我们调查测试的$\ell_0$ -恢复条件,通过一些数值实验。事实证明,相应的问题是很难解决的实际使用黑盒软件。然而,中等规模的$\ell_0$ -和$\ell_1$ -最小化与二进制变量的情况下,可以在合理的时间内精确地解决。
2019-09-17 cs.IT math.IT math.OC
A Sublinear Algorithm for Sparse Reconstruction with l2/l2 Recovery Guarantees
压缩感知的目标是使用非常少的测量来捕获稀疏信号的属性。Candès和Tao表明,如果传感矩阵在所有$\boldsymbol{k}$稀疏信号上充当近等距,则稀疏重建是可能的。如果矩阵的元素是由iid Gaussian或Bernoulli过程生成的,则该性质以压倒性的概率成立。最近,人们对替代信号处理框架产生了极大的兴趣;利用确定性感测矩阵,该确定性感测矩阵以压倒性的概率充当具有均匀随机支持的$\boldsymbol{k}$稀疏向量上的近等距,这是一种称为统计限制等距属性或StRIP的几何条件。本文考虑了一类基于\srm码(二进制啁啾)的满足StRIP的确定性感知矩阵和一种具有次线性复杂度的$\boldsymbol{k}$稀疏重构算法。在存在随机噪声的数据域中,本文推导出界的$\boldsymbol{\ell_2}$精度的近似的$\boldsymbol{\ell_2}$规范的测量噪声和最佳的$\boldsymbol{k}$ -稀疏近似的精度,也测量在$\boldsymbol{\ell_2}$规范。这种类型的$\boldsymbol{\ell_2 /\ell_2}$界限比标准$\boldsymbol{\ell_2 /\ell_1}$或$\boldsymbol{\ell_1/ \ell_1}$界限更紧。
2009-10-17 cs.IT math.IT
Sparse Recovery of Positive Signals with Minimal Expansion
我们研究了从低维线性测量重建高维非负稀疏向量的稀疏恢复问题。虽然很多工作都集中在密集的测量矩阵,稀疏的测量方案是至关重要的应用,如DNA微阵列和传感器网络,密集的测量是不实际可行的。一种可能的构造使用扩展图的邻接矩阵,这通常导致比$\ell_1$最小化更有效的恢复算法。然而,到目前为止,基于扩展器的构造需要非常高的扩展系数,这可能会使这种图的构造变得困难,并且可恢复集的大小很小。在本文中,我们构造稀疏的测量矩阵的非负向量的恢复,利用扰动的邻接矩阵的膨胀系数小得多的膨胀图。我们提出了$\ell_1$优化成功地恢复未知向量的充分必要条件,并获得表达式的恢复阈值。对于某些类别的测量矩阵,这一必要和充分条件是进一步等价于存在的“唯一”向量的约束集,这打开了大门的替代算法$\ell_1$最小化。我们进一步表明,我们使用的最小扩展是必要的任何图的稀疏恢复是可能的,因此我们的建设是紧。最后,我们提出了一种新的恢复算法,利用扩展和速度比$\ell_1$优化。最后,我们通过理论界,以及模拟,我们的方法是强大的噪声和近似稀疏。
2009-02-24 cs.IT math.IT
Stability of low-rank matrix recovery and its connections to Banach space geometry
压缩感知与有限维$\ell_p$空间的几何结构之间存在众所周知的关系。Kashin和Temlyakov的一个结果可以被描述为一个表征的稳定性恢复稀疏向量通过$\ell_1$ -最小化的Gelfand宽度的某些恒同映射之间的有限维$\ell_1$和$\ell_2$空间,而最近的结果Foucart,Pajor,Rauhut和Ullrich证明了一个类似的关系,甚至为$\ell_p$空间与$p < 1$。在本文中,我们证明了我们所说的矩阵或非交换的版本,这些结果:我们通过Schatten $p$ -(准)范数最小化的Gelfand宽度的有限维Schatten $p$ -空间之间的某些恒同映射的低秩矩阵恢复的稳定性进行了表征。
2015-06-19 cs.IT math.FA math.IT
A Unified Fractional Regularization Framework for Sparse Recovery
School of Information Science and Technology, ShanghaiTech University(信息科学与技术学院,上海科技大学)
提出基于 ℓ1/ℓp^q 模型的统一分数阶正则化框架,通过参数 p 和 q 泛化多种稀疏正则化器,理论刻画了与 ℓ1-αℓp 模型的一阶驻点等价性,并建立了基于 RIP 的充分恢复条件,开发了 MM 算法并证明收敛性,实验表明在稀疏恢复和 MRI 重建中优于现有方法。
2026-10-14 cs.IT cs.LG math.IT
Joint-sparse recovery from multiple measurements
联合稀疏恢复问题的目的是恢复,从压缩测量集,未知的稀疏矩阵与非零条目限制到一个子集的行。这是在压缩感知中广泛研究的单测量向量(SMV)问题的扩展。我们分析了两种类型的恢复算法的恢复属性。首先,我们表明,使用范数最小化的总和的恢复不能超过连续SMV使用$\ell_1$最小化的统一恢复率,并有问题,可以解决一种方法,但不能与其他。其次,我们分析了ReMBo算法的性能[M. Mishali和Y. Eldar,IEEE Trans. Sig.程序、56(2008)]结合$\ell_1$最小化,并且示出了随着进行更多的测量,恢复如何改善。从该分析可以得出,具有比非零行数更多的测量值不会提高潜在的理论恢复率。
2009-04-14 cs.IT math.IT
Nonconvex Regularization Based Sparse Recovery and Demixing with Application to Color Image Inpainting
这项工作解决了在一些通用字典中稀疏的信号的恢复和分离问题。所涉及的应用包括声源分离、图像修补、超分辨率以及被削波、饱和、脉冲噪声或窄带干扰破坏的信号的恢复。我们采用$\ell_q$ -范数($0 \le q < 1$)的稀疏诱导,并提出了一个约束$\ell_q$ -最小化配方的恢复和分层问题。这个非凸公式近似求解的两个有效的一阶算法的基础上,最近的坐标下降和交替方向的乘法器(ADMM),分别。新算法在非凸情形下在一些温和的条件下是收敛的,并且对高维问题具有良好的规模。推导了新ADMM算法的收敛条件。此外,本文还对这两种算法进行了扩展,使其能够更好地利用多通道信号间的联合稀疏模式。各种数值实验表明,新的算法可以实现相当大的性能增益比$\ell_1$正则化算法。
2017-03-23 cs.IT math.IT
Support Recovery and $\ell_2$-Error Bound for Sparse Regression with Quadratic Measurements via Weakly-Convex-Concave Regularization
University of Manitoba(曼尼托巴大学)
本文研究了高维二次测量模型中弱凸-凹正则化估计器的有限样本性质,通过弱凸-凹惩罚最小二乘方法,建立了局部极小值解的支持恢复和ℓ₂误差界,采用两种近端梯度策略求解优化问题。
2026-04-14 cs.IT math.IT math.ST
Improved Recovery of Analysis Sparse Vectors in Presence of Prior Information
在这项工作中,我们考虑的问题,恢复分析稀疏信号的欠采样测量时,一些先验信息的支持。我们将这些信息在恢复阶段通过适当调整加权$\ell_1$分析优化问题的权重。实际上,我们尝试设置权重,使得该方法以最少的测量次数成功。为了这个目的,我们利用上界的统计维数的某个锥来确定的权重。我们的数值模拟证实,所介绍的方法与调整权重优于标准的$\ell_1$分析技术。
2018-08-13 cs.IT math.IT
List Recovery for Random Low-Rate Linear Codes
UCSB(加州大学圣塔芭芭拉分校);UCLA(加州大学洛杉矶分校)
针对足够大素域上的随机低速率线性码,证明了其同时对所有输入列表大小具有列表恢复能力,并给出了近乎最优的下界。
2026-05-28 cs.IT math.IT
Near-Optimal List-Recovery of Linear Code Families
本研究证明随机线性码和随机打孔Reed-Solomon码以常数输出列表大小达到列表恢复容量,并给出所有线性码输出列表大小的近最优下界,结合Zyablov-Pinsker论证与最新交集界。
2025-02-27 cs.IT math.CO math.IT
Stable recovery of complex dictionary-sparse signals from phaseless measurements
本文针对复字典稀疏信号的无相位恢复问题,提出新的 $\ell_1$-DRIP 条件,证明在该条件下可通过 $\ell_1$ 及广义 $\ell_q$ 分析最小化实现稳定恢复。
2025-06-04 cs.IT math.IT
An Estimation Theoretic Approach for Sparsity Pattern Recovery in the Noisy Setting
压缩感知处理稀疏信号的重建,使用少量的线性测量。压缩感知的主要挑战之一是找到稀疏信号的支持。在文献中,成功的支持恢复的测量的数量的缩放定律的几个界限已被导出,其中主要的焦点是随机高斯测量矩阵。在本文中,我们调查的噪声支持恢复问题,从估计理论的角度来看,没有具体的假设是对底层的测量矩阵。线性测量受到加性高斯白噪声的干扰。我们将支持度估计器的输出定义为一组按递增顺序排列的位置值。我们将真实支持度和估计支持度之间的误差设置为它们之差的$\ell_2$ -范数。一方面,这种选择允许我们使用$\ell_2$ -范数误差度量背后的机制,另一方面,将支持恢复转换为更直观的几何问题。首先,通过使用Hammersley-Chapman-Robbins(HCR)界,我们得到了一个基本的下界的性能的任何\emph{unbiased}估计的支持集。这个下限为我们提供了必要的条件,可靠的$\ell_2$范数支持恢复,我们专门评估均匀高斯测量矩阵的测量数量。然后,我们分析了最大似然估计和推导条件下,HCR界是可实现的。这导致我们的最佳解码器,这是足够的可靠的$\ell_2$范数支持恢复的测量的数量。使用这个框架,我们专门评估均匀高斯测量矩阵的充分条件。
2009-11-25 cs.IT math.IT
Nonuniform Sparse Recovery with Subgaussian Matrices
压缩感知预测可以从高度不完整的信息中恢复足够稀疏的向量。有效的恢复方法,如$\ell_1$ -最小化找到稀疏的解决方案,某些系统的方程。随机矩阵已经成为测量矩阵的流行选择。实际上,对于这样的矩阵,已经显示出接近最优的均匀恢复结果。在本文中,我们专注于使用高斯随机矩阵和$\ell_1$ -最小化的非均匀恢复。我们提供了一个条件的稀疏性和信号长度,保证了一个固定的稀疏信号可以恢复与随机抽取的矩阵使用$\ell_1$ -最小化的样本数。这个条件中的常数2是最优的,并且与Donoho和Tanner的类似结果相比,证明相当短。
2011-08-16 cs.IT math.IT math.PR
Improving the Thresholds of Sparse Recovery: An Analysis of a Two-Step Reweighted Basis Pursuit Algorithm
众所周知,$\ell_1$最小化可以用于从压缩的线性测量恢复足够稀疏的未知信号。事实上,作为系统维度之间的比率的函数,稀疏性的精确阈值使得几乎所有稀疏信号都可以以高概率从i.i.d.高斯测量值,并被称为“弱阈值”\cite{D}。在本文中,我们介绍了一个重新加权的$\ell_1$恢复算法组成的两个步骤:一个标准的$\ell_1$最小化步骤,以确定一组条目的信号可能驻留,和一个加权的$\ell_1$最小化步骤,这组以外的条目被处罚。对于非稀疏分量条目独立且相同地从某些类分布(包括最著名的连续分布)中提取的信号,我们证明了弱恢复阈值的\emph{strict}改进。我们的分析表明,弱阈值的改善程度取决于原点分布的行为。数值模拟很好地验证了阈值改善的分布依赖性,并表明在i.i.d.高斯非零项,改进可以是相当令人印象深刻的-在我们考虑的例子中超过20%。
2011-11-06 cs.IT math.IT
Phaseless compressive sensing using partial support information
研究了部分支持信息存在时,加权$\ell_1$最小化算法在无相位压缩感知测量信号重构中的恢复条件.为保证恢复的稳定性,给出了强约束等距性条件。此外,我们提出了加权零空间属性作为$k$ -稀疏无相恢复通过加权$\ell_1$最小化成功的充分必要条件。数值实验验证了我们的结果。
2017-12-13 cs.IT math.IT
Efficient and Robust Recovery of Sparse Signal and Image Using Generalized Nonconvex Regularization
这项工作解决了从压缩测量稀疏信号的鲁棒重建问题。我们提出了一个强大的制定稀疏重建采用$\ell_1$ -范数作为损失函数的残余误差,并利用广义非凸惩罚稀疏诱导。$\ell_1$ -损失比流行的$\ell_2$ -损失对测量中的离群值不太敏感,而非凸惩罚具有改善流行的凸LASSO惩罚的偏差问题的能力,从而可以产生更准确的恢复。为了有效地解决这个非凸和非光滑的最小化公式,我们提出了一个一阶算法的交替方向的乘法器(ADMM)的基础上。在推导新算法时采用了$\ell_1$ -损失函数的平滑策略,使算法收敛。进一步,对广义非凸正则化,给出了新算法收敛的一个充分条件。数值实验结果表明,该算法在恢复稀疏信号和可压缩图像方面比现有算法有更好的性能。新的算法规模以及大规模的问题,经常遇到的图像处理。
2017-03-29 cs.IT math.IT
Sublinear Time, Approximate Model-based Sparse Recovery For All
我们描述了一个概率,{ \it次线性}运行时,测量最优系统的基于模型的稀疏恢复问题,通过降维,{ \em密集}随机矩阵。具体地,我们通过矩阵$Φ\in \R^{M\times N}$ $(M<N)$获得高维向量$\bestsignal\in \R^N$的线性草图$u\in \R^M$。我们假设该向量可以通过$K$非零系数很好地近似(即,它是$K$ -稀疏)。此外,$\bestsignal$的非零系数可以服从额外的结构约束,如拟阵,全么模,或背包约束,这称为基于模型的稀疏性。我们使用概率方法构造稠密测量矩阵,使其满足$\ell_2$范数中的所谓限制等距属性。虽然使用这种矩阵的恢复是测量最佳的,因为它们需要最小的草图大小$\numsam= O(\sparsity \log(\dimension/\sparsity))$,现有的算法需要超线性的运行时间$Ω(N\log(N/K))$,除了Porat和Strauss,其需要$O(β^5ε^{-3}K(N/K)^{1/β}), ~β\in \mathbb{Z}_{+}, $,但提供了$\ell_1/\ell_1$近似保证。相比之下,我们的方法的特点$ O\big(\max \lbrace \sketch \sparsity \log^{O(1)} \dimension, ~\sketch \sparsity^2 \log^2 (\dimens…
2012-06-21 cs.IT math.IT
Group Sparse Recovery via the $\ell^0(\ell^2)$ Penalty: Theory and Algorithm
Zhongnan University of Economics and Law(中南财经政法大学);University College London(伦敦大学学院);Wuhan University(武汉大学)
本文提出并分析了一种新的群稀疏恢复方法,基于正则化最小二乘与ℓ⁰(ℓ²)惩罚,具有内置的去相关机制,能处理强组内相关性。方法具有高效的主动集算法,能快速收敛,通过实验验证其有效性。
2016-11-22 cs.IT cs.NA math.IT
Weighted-{$\ell_1$} minimization with multiple weighting sets
本文研究了当存在多个不同精度的支持度估计集时,基于加权$\ell_1$最小化的压缩感知信号重构的支持度恢复条件。我们确定一类信号,从$\ell_1$最小化恢复的向量提供了一个准确的支持估计。然后,我们推导出稳定性和鲁棒性的保证加权$\ell_1$最小化问题的多个支持估计。我们表明,应用较小的权重,以支持估计,享有更高的准确性,提高了恢复条件相比,一个单一的支持估计的情况下,与标准的情况下,即,非加权、$\ell_1$最小化。我们的理论结果得到了合成信号和真实音频信号的数值模拟的支持。
2012-05-30 cs.IT math.IT
Sparse approximation property and stable recovery of sparse signals from noisy measurements
在本文中,我们引入了一个测量矩阵${\bf A}$的$s$阶稀疏逼近性质:$$\|{\bf x}_s\|_2\le D \|{\bf A}{\bf x}\|_2+ β\frac{σ_s({\bf x})}{\sqrt{s}} \quad {\rm for\ all} \ {\bf x},$$其中${\bf x}_s$是$\ell^2$中的向量${\bf x}$的最佳$s$ -稀疏逼近,$σ_s({\bf x})$是$\ell^1$中的向量${\bf x}$的$s$ -稀疏逼近误差,并且$D$和$β$是正常数。测量矩阵的稀疏近似性质可以被认为是其限制等距性质的较弱版本和其零空间性质的较强版本。在本文中,我们证明了稀疏逼近属性是测量矩阵上的一个适当条件,可以考虑从其有噪测量中稳定恢复任何可压缩信号。特别是,我们表明,任何可压缩signalcan稳定地恢复从其噪声测量通过解决$\ell^1$ -最小化问题,如果测量矩阵具有稀疏逼近性质与$β\in (0,1)$,相反,测量矩阵具有稀疏逼近性质与$β\in (0,\infty)$,如果任何可压缩信号可以稳定地恢复从其噪声测量通过解决一个$\ell^1$ -最小化问题。
2011-07-26 cs.IT math.IT
On the Scaling Law for Compressive Sensing and its Applications
$\ell_1$最小化可用于从压缩的线性测量恢复足够稀疏的未知信号。事实上,稀疏性(支持集的大小)的精确阈值,在该阈值下,稀疏信号可以以高概率从i.i.d.高斯测量值,并被称为“弱阈值”\cite{D}。还已知在稀疏性和$\ell_1$最小化恢复稳定性之间存在折衷。在本文中,我们给出了一个\emph{closed-form}表征这种权衡,我们称之为压缩感知恢复稳定性的缩放定律。简而言之,我们能够表明,随着稀疏性从$\ell_1$恢复的弱阈值回退$\varpi$($0<\varpi<1$),恢复稳定性的参数将缩放为$\frac{1}{\sqrt{1-\varpi}}$。我们的结果是基于仔细的分析,通过格拉斯曼角框架的高斯测量矩阵。我们将进一步讨论这个缩放定律如何帮助分析迭代重加权$\ell_1$最小化算法。如果信号支持上的非零元素遵循幅度概率密度函数(pdf)$f(\cdot)$,其$t$ -th导数$f^{t}(0) \neq 0$对于某个整数$t \geq 0$,则可以分析地示出某个迭代重新加权的$\ell_1$最小化算法以提升普通$\ell_1$最小化算法的相变阈值(弱阈值)。
2011-03-16 cs.IT math.IT
Sparse Signal Recovery Using Log-Sum Regularization and Adaptive Smoothing
Graduate School of Information Sciences, Tohoku University(东北大学信息科学研究生院)
本文研究了利用非凸对数和正则化进行噪声线性观测下的稀疏信号恢复,通过自适应平滑策略提高稳定性,提出AMP算法并推导其状态演化递归,验证了在无噪声情况下精确恢复相变,并与ℓ1正则化比较显示其在低密度或高测量率下更具优势。
2026-09-04 cs.IT math.IT
On the sparsity of LASSO minimizers in sparse data recovery
我们提出了一个详细的分析无约束的$\ell_1$加权LASSO方法恢复稀疏数据的观察随机生成的矩阵,满足限制等距属性(RIP)与常数$δ<1$,并受到可以忽略不计的测量和压缩误差。我们证明,如果数据是$k$ -稀疏的,那么LASSO极小,$s$,支持的大小,保持一个可比的稀疏性,$s\leq C_δk$。例如,如果$δ=0.7$,则$s< 11k$和稍小的$δ=0.4$生成$s< 4k$。我们还推导出新的$\ell_2/\ell_1$误差范围,突出精确的依赖于$k$和LASSO参数$λ$,之前的错误被驱动到可忽略的测量/和压缩误差的规模以下。
2022-03-14 cs.IT math.FA math.IT
Nonconvex Robust Low-rank Matrix Recovery
在本文中,我们研究的问题,恢复一个低秩矩阵从一些随机线性测量,被破坏的离群值采取任意值。我们考虑一个非光滑的非凸制定的问题,其中我们明确地执行低秩属性的解决方案,通过使用一个因子表示的矩阵变量,并采用$\ell_1$ -损失函数robustify解决方案对离群值。我们表明,即使当一个恒定的分数(这可能是几乎一半)的测量任意损坏,只要某些测量运营商所产生的测量模型满足所谓的$\ell_1/\ell_2$ -限制等距属性,地面实况矩阵可以完全恢复从任何全局最小的优化问题。此外,我们证明了优化问题的目标函数是尖锐的和弱凸的。因此,具有几何减小步长的次梯度方法(SubGM)在适当初始化时将线性收敛到地面真值矩阵。我们证明了SubGM的非凸鲁棒低秩矩阵恢复问题的各种数值实验的有效性。
2019-07-14 cs.IT math.IT
On the gap between RIP-properties and sparse recovery conditions
本文研究了利用$\ell_p$约束基追踪从欠定线性测量中恢复稀疏向量的问题。以前的分析,这个问题的基础上广义限制等距属性表明,两种现象发生,如果$p\neq 2$。首先,可能需要基本上多于$s \log(en/s)$的测量(对于$p=2$是最佳的)来均匀恢复所有$s$稀疏向量。第二,以最佳测量次数实现恢复的矩阵可能不是高斯的(对于$p=2$)。我们提出了一个新的,直接的分析表明,事实上,这两种现象都没有发生。通过一个合适的版本的零空间属性,我们表明,一个标准的高斯矩阵提供了$\ell_q/\ell_1$恢复保证$\ell_p$约束的基础上追求的最佳测量制度。我们的结果扩展到几个双尾测量矩阵。作为一个应用程序,我们表明,可以获得一致的重建均匀标量量化测量的最佳测量制度。
2015-04-20 cs.IT math.IT math.ST
Nonparametric Simultaneous Sparse Recovery: an Application to Source Localization
我们考虑多通道稀疏恢复问题,其目标是找到良好的恢复联合稀疏未知信号向量从给定的多个测量向量是相同的已知基本向量的不同线性组合。许多流行的贪婪或凸算法在非高斯重尾噪声条件下或面对离群值时表现不佳。在本文中,我们提出了使用混合$\ell_{p,q}$规范的数据保真度(残留矩阵)的条款和传统的$\ell_{0,2}$规范约束的信号矩阵,以促进行稀疏。提出了一种基于同步归一化迭代硬阈值(SNIHT)算法的贪婪追踪算法。仿真研究突出了所提出的方法的有效性,以应付不同的噪声环境(i.i.d.,行I.I.D等)和异常值。在传感器阵列声源定位的应用中说明了该方法的有效性。
2015-06-10 cs.IT math.IT
On partial sparse recovery
我们考虑的问题,恢复欠定线性方程组的部分稀疏的解决方案,通过最小化的$\ell_1$ -范数的一部分,已知是稀疏的解决方案向量。这样的问题与压缩感知中的经典问题密切相关,其中整个解向量的$\ell_1$范数被最小化。我们引入类似物的限制等距和零空间属性的恢复部分稀疏向量,并表明,这些新的属性是隐含的原来的同行。我们还展示了如何在噪声测量下将恢复扩展到部分稀疏的情况。
2013-04-09 cs.IT math.IT math.OC
Block sparse signal recovery via minimizing the block $q$-ratio sparsity
在本文中,我们提出了一种方法,块稀疏信号恢复,最大限度地减少块$q$比稀疏$\left(\lVert z\rVert_{2,1}/\lVert z\rVert_{2,q}\right)^{\frac{q}{q-1}}$与$q\in[0,\infty]$。对于$1<q\leq\infty$的情形,给出了$\ell_2$有界噪声和$\ell_{2,\infty}$有界噪声两种情形的理论分析和计算算法。相应的无约束模型也进行了研究。数值实验证明了该算法在块稀疏信号重构中的优越性能。
2021-03-12 cs.IT math.IT math.OC
Robustly Stable Signal Recovery in Compressed Sensing with Structured Matrix Perturbation
在标准压缩感知(CS)问题中的稀疏信号恢复要求感知矩阵是先验已知的。这种理想假设在实际应用中可能不满足,因为传感仪器中存在各种误差和波动。本文研究了传感矩阵结构化扰动下的压缩传感问题。在较弱的条件下,利用$\ell_1$最小化方法可以恢复稀疏信号,并且恢复误差最多与测量噪声成正比,这与标准CS结果相似.在特殊的无噪声的情况下,提供的信号是足够稀疏的扰动水平的恢复是准确的。所提出的结构化感知矩阵摄动方法适用于波达方向估计问题,具有实际意义。提出了实现$\ell_1$最小化问题的算法,并进行了数值模拟,以验证所得到的结果。
2012-03-14 cs.IT math.IT
Performance Analysis of Joint-Sparse Recovery from Multiple Measurements and Prior Information via Convex Optimization
为了更好地重建原始稀疏矩阵信号,我们解决了与先验信息相关联的多个测量向量的压缩感知问题。$\ell_{2,1}-\ell_{2,1}$最小化用于强调矩阵信号与先验信息之间的共稀疏性和相似性。然后,我们推导出成功地重建原始信号的必要和充分条件,并建立所需的测量的下限和上限,使条件从圆锥几何的角度来看。我们的边界进一步表明什么样的先验信息有助于提高CS的性能。实验结果验证了我们所有研究结果的有效性。
2015-10-22 cs.IT math.IT
A* Orthogonal Matching Pursuit: Best-First Search for Compressed Sensing Signal Recovery
压缩感知是一个正在发展的领域,其目标是在降维的情况下重建稀疏信号,这使得恢复过程欠确定。由于稀疏性,所需的解是具有最小$\ell_0$范数的解,然而解决$\ell_0$最小化问题是不实际的。常用的技术包括$\ell_1$最小化,例如基追踪(BP)和贪婪追踪算法,例如正交匹配追踪(OMP)和子空间追踪(SP)。本文提出了一种新的半贪婪恢复方法,即A* 正交匹配追踪(A*OMP)。A*OMP执行A* 搜索,在路径生长类似于正交匹配追踪(OMP)算法的树上寻找稀疏解。树上的路径根据成本函数进行评估,该成本函数应补偿不同的路径长度。为此,定义了三种不同的辅助结构,包括新颖的动态结构。A*OMP还结合了修剪技术,使算法的实际应用。此外,可调整的搜索参数提供了用于复杂度-准确度折衷的手段。我们证明了所提出的方案的重建能力,综合生成的数据和图像使用高斯和伯努利观测矩阵,其中A*OMP产生更少的重建误差和更高的准确恢复频率比BP,OMP和SP。结果还表明,新的动态成本函数提供了改进的结果相比,传统的选择。
2012-03-14 cs.IT math.IT
Enhanced block sparse signal recovery based on $q$-ratio block constrained minimal singular values
本文提出了块稀疏/压缩信号的压缩感知中测量矩阵的一种新的度量--$q$ -比块约束最小奇异值(BCMSV),并给出了计算这种新度量的算法。研究了基于$q$比BCMSV的块基追踪(BBP)、块Dantzig选择器(BDS)和群套索重建误差的混合$\ell_2/\ell_q$和混合$\ell_2/\ell_1$范数的稳定和鲁棒恢复。基于$q$ -比率块稀疏性建立了无噪声BBP精确恢复的充分条件,并提出了一个凸-凹过程来解决相应的非凸问题.此外,我们证明了次高斯随机矩阵,$q$比BCMSV是有界远离零的高概率时,测量的数量是合理的大。数值实验验证了理论结果。此外,我们证明了$q$比BCMSV为基础的误差界比块限制各向同性常数为基础的界限更紧。
2019-08-29 cs.IT eess.SP math.IT
Derandomized compressed sensing with nonuniform guarantees for $\ell_1$ recovery
我们扩展了Hügel,Rauhut和Strohmer(Found.数学、2014),以表明对于每个$δ\in(0,1]$,存在具有$m=s\operatorname{polylog}(N/ε)$和熵$s^δ\operatorname{polylog}(N/ε)$的显式随机$m\times N$部分傅立叶矩阵$A$,使得对于每个$s$ -稀疏信号$x\in\mathbb{C}^N$,存在至少$1-ε$的概率事件,在该概率事件上$x$是经历$Az=Ax$的$\|z\|_1$的唯一最小化者。我们的大部分分析使用解耦工具来估计$A$的子矩阵的极端奇异值,其列对应于$x$的支持。
2019-12-27 cs.IT math.CO math.FA
Compressed Sensing of Block-Sparse Signals: Uncertainty Relations and Efficient Recovery
我们考虑块稀疏信号的压缩感知,即,具有非零系数的稀疏信号出现在簇中。块稀疏信号的不确定性关系,推导出基于块相干性措施,我们介绍。然后,我们表明,块版本的正交匹配追踪算法恢复块$k$稀疏信号在不超过$k$步骤,如果块的相干性是足够小的。块一致性的相同条件下,通过混合$\ell_2/\ell_1$优化方法,以保证成功恢复。这补充了以前的恢复结果的块稀疏的情况下,依赖于小块限制等距常数。本文提出的结果的意义在于,明确使用块稀疏性可以证明产生更好的重建性能比处理信号稀疏在传统意义上,从而忽略了问题中的附加结构。
2009-06-18 cs.IT math.IT
Iterative Thresholding Pursuit with Continuation for $\ell_{1-2}$-Regularized Sparse Recovery
Tongji University(同济大学);Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能无人系统研究院)
提出一种结合延续策略的迭代阈值追踪方法(ITP-C),通过 $\ell_{1-2}$ 近端步的主动集识别和受限最小二乘追踪步的二阶更新,实现稀疏信号的高效恢复,并保证收敛性和局部 oracle 性质。
2026-06-04 cs.IT cs.NA math.IT
Simultaneous support recovery in high dimensions: Benefits and perils of block $\ell_1/\ell_\infty$-regularization
考虑使用$\ell_{1}/\ell_{\infty}$ -正则化回归来联合估计回归系数的$\pdim \times \numreg$矩阵。我们分析了$\ell_1/\ell_\infty$ -正则化二次规划的高维标度,考虑了$\ell_\infty$ -范数的一致性和变量的选择。首先,我们建立的$\ell_\infty$ -错误的界限,以及充分条件,为固定和随机设计的确切变量选择。我们的第二组结果适用于$\numreg = 2$线性回归问题与标准高斯设计,其支持重叠在一个分数$α\in [0,1]$的条目:对于这个问题的类,我们证明了$\ell_{1}/\ell_{\infty}$ -正则化方法经历了一个相变-也就是说,从失败到成功的急剧变化-其特征在于重新缩放的样本大小$θ_{1,\infty}(n, p, s, α) = n/\{(4 - 3 α) s \log(p-(2- α) s)\}$。该阈值的含义是,如果重叠参数足够大($α> 2/3$),则使用$\ell_1 / \ell_{\infty}$正则化产生改进的统计效率,但是对于中等到小重叠($α< 2/3$),具有比基于朴素Lasso的方法更高的\emph{worse}统计效率。这些结果表明,在应用$\ell_1/\ell_\infty$块正则化时需要谨慎:如果数据与其结构不匹配,则可能会损害相对于计算成本较低的方案的…
2009-05-05 cs.IT math.IT math.ST
Robust Polyhedral Regularization
本文研究了线性反问题的多面体正则化方法对噪声扰动的鲁棒性。我们提供了一个充分条件,确保与真实向量相关联的多面体面等于恢复的多面体面。该标准还意味着$\ell^2$恢复误差与参数范围的噪声电平成比例。我们的标准表示的超平面支持的正规化的单位多面体球的脸。这推广到一个任意的多面体正则化的结果,是已知的稀疏合成和分析$\ell^1$正则化,这是包含在这个框架。作为一个副产品,我们获得$\ell^\infty$和$\ell^1-\ell^\infty$正则化的恢复保证。
2013-04-22 cs.IT math.IT
Stable Signal Recovery from Phaseless Measurements
本文的目的是研究压缩相位恢复的$\ell_1$最小化的稳定性,并将压缩感知中的实例最优性扩展到实际相位恢复设置。我们首先表明,$m={\mathcal O}(k\log(N/k))$测量是足以保证$\ell_1$最小化恢复$k$稀疏信号稳定提供的测量矩阵$A$满足强RIP属性。我们第二次调查的无相位实例最优性提出了零空间的测量矩阵$A$的属性,存在一个解码器$Δ$,使无相位实例最优性保持。我们使用这个结果来研究$\ell_1$范数的无相位实例最优性。该结果与经典的压缩感知方法建立了一个平行的压缩相位恢复。
2015-04-09 cs.IT math.FA math.IT