Recovery of sparsest signals via $\ell^q$-minimization
本文证明了只要每个$s$ -稀疏向量${\bf x}\in {\mathbb R}^n$由测量${\bf z}$唯一确定,每个$s$-稀疏向量${\bf x}\in {\mathbb R}^n$都可以从测量向量${\bf z}={\bf A} {\bf x}\in {\mathbb R}^m$通过$0< q\le 1$的一些$\ell^q$ -最小化精确地恢复.
2010-05-03 cs.IT math.IT
Efficient Federated Low Rank Matrix Recovery via Alternating GD and Minimization: A Simple Proof
本文为使用AltGDmin算法解决低秩列向感知问题的样本复杂度保证提供了更简单、更短的证明,并给出了改进的保证。
2024-02-20 cs.IT math.IT
Robust analysis $\ell_1$-recovery from Gaussian measurements and total variation minimization
分析$\ell_1$ -恢复是指从不完整的损坏测量中恢复在某些变换域中稀疏的信号的技术。这包括当变换域由差分算子生成时作为重要特殊情况的总变分最小化。在本论文中,我们提供了一个约束的高斯测量成功恢复所需的总变差的情况下,分析运营商是一个框架。当信号的分析表示的稀疏性不是很小时,该界限特别适合。
2015-04-27 cs.IT math.IT
Exact Recovery for Sparse Signal via Weighted $l_1$ Minimization
压缩感知文献中的数值实验表明,重新加权的$l_1$最小化在恢复稀疏信号方面表现得非常好。本文从经典的零空间性质(NSP)和限制等距常数(RIC)界出发,给出了加权$l_1$最小化方法恢复稀疏信号的精确条件和算法。本文首先引入加权零空间性质的概念,并揭示了它是精确恢复的充分必要条件。然后,我们证明了RIC界加权$l_1$最小化是$δ_{ak}<\sqrt{\frac{a-1}{a-1+γ^2}}$,其中$a>1$,$0<γ\leq1$是由零空间上的优化问题。当$γ< 1$时,该界限大于来自$l_1$最小化的$\sqrt{\frac{a-1}{a}}$。此外,我们还建立了$δ_k$的上界,并证明了在某些情况下,通过$l_1$最小化,它可以大于尖锐的上界1/3,通过加权$l_1$最小化,它也可以大于0.4343.最后,基于权值选择原则,我们实现了一种改进的迭代加权$l_1$极小化(MIRL 1)算法,数值实验表明,该算法的性能明显优于$l_1$极小化和迭代加权$l_1$极小化(IRL 1)算法.
2014-06-15 cs.IT math.IT
Performance analysis of tail-minimization and the linear rate of convergence of a proximal algorithm for sparse signal recovery
本文分析尾最小化的恢复误差界,提出一种基于Hadamard积参数化的近端交替算法求解尾-lasso问题,在RIP条件下证明其线性收敛,数值实验显示恢复性能显著优于现有方法。
2025-01-25 cs.IT math.IT
Weighted $\ell_1$-Minimization for Sparse Recovery under Arbitrary Prior Information
加权$\ell_1$ -最小化已被研究作为一种技术,用于从压缩采样测量重构稀疏信号时,有关信号的先验信息,在一个支持估计的形式,是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权$\ell_1$ -最小化时,允许任意多个不同的权重。例如,当对于信号的支持具有多个估计并且这些估计具有不同的准确度时,可以使用这样的设置。我们的分析产生了一个扩展现有的作品,假设只有一个单一的支持估计后,应用一个恒定的权重。我们包括数值实验,与合成信号和真实的视频数据,证明了在重建过程中允许非均匀权重的好处。
2016-12-08 cs.IT math.IT
Improved Sparse Recovery Thresholds with Two-Step Reweighted $\ell_1$ Minimization
众所周知,$\ell_1$最小化可以用于从压缩的线性测量恢复足够稀疏的未知信号。事实上,已经计算了作为系统维度之间的比率的函数的关于稀疏性的精确阈值,使得几乎所有稀疏信号都可以以高概率从iid高斯测量中恢复,并且被称为“弱阈值”\cite{D}。在本文中,我们介绍了一个重新加权的$\ell_1$恢复算法组成的两个步骤:一个标准的$\ell_1$最小化步骤,以确定一组条目的信号可能驻留,和一个加权的$\ell_1$最小化步骤,这组以外的条目被处罚。对于非稀疏分量具有iid高斯条目的信号,我们证明了弱恢复阈值的“严格”改进。模拟表明,改进可以是相当令人印象深刻的-在我们考虑的例子中超过20%。
2010-04-02 cs.IT math.IT
Improved recovery guarantees and sampling strategies for TV minimization in compressive imaging
在本文中,我们考虑使用总变差(TV)最小化的压缩成像,也就是说,从二次采样测量图像重建。专注于两个重要的成像模式-即,傅立叶成像和结构化的二进制成像通过沃尔什-阿达玛变换-我们得到统一的恢复保证断言稳定和强大的恢复任意随机采样策略。利用这一点,我们然后推导出一类理论上最优的采样策略。对于傅立叶采样,我们显示了从$m \gtrsim_d s \cdot \log^2(s) \cdot \log^4(N)$测量的具有近似$s$ -稀疏梯度的图像的恢复,在$d \geq 1$维度中。当使用$d = 2$时,这将使当前最先进的结果提高$\log(s) \cdot \log(N)$倍。它还将其扩展到任意尺寸的$d \geq 2$。对于Walsh抽样,我们证明了$m \gtrsim_d s \cdot \log^2(s) \cdot \log^2(N/s) \cdot \log^3(N) $测量在$d \geq 2$维度上是足够的。据我们所知,这是结构化二进制采样与TV最小化的第一个恢复保证。
2020-09-17 cs.IT math.IT
Performance Guarantees for Schatten-$p$ Quasi-Norm Minimization in Recovery of Low-Rank Matrices
我们解决了一些理论保证$p$准范数最小化($p \in (0,1]$)在恢复低秩矩阵从压缩的线性测量。首先,利用测量算子的零空间性质,给出了低秩矩阵精确恢复的一个充分条件。这个条件保证了唯一的恢复矩阵的秩等于或大于核范数最小化所保证的。其次,这个充分条件导致了一个定理证明了所有基于限制等距性质(RIP)的$\ell_p$拟范数最小化的充分条件推广到Schatten- $p$拟范数最小化。基于这个定理,我们提供了一些基于RIP的恢复条件。
2014-10-26 cs.IT math.IT stat.ML
Multi-weight Nuclear Norm Minimization for Low-rank Matrix Recovery in Presence of Subspace Prior Information
加权核范数最小化最近被认为是一种技术,用于从压缩采样测量重构低秩矩阵时,矩阵的行列子空间的一些先验信息是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权核范数最小化时,允许多个权重。当可以访问与地面实况矩阵的列子空间和行子空间形成多个角度的先前子空间时,可以使用该设置。虽然在这一领域的现有作品使用一个单一的权重来惩罚所有的角度,我们提出了一个多权重的问题,旨在惩罚每个角度独立使用一个不同的权重。具体来说,我们证明了我们提出的多权重问题是稳定的和强大的条件下较弱的条件下的测量算子比类似的条件为单权重的情况下,标准的核范数最小化。此外,它提供了比现有技术方法更好的重建误差。我们用大量的数值实验来说明我们的结果,这些实验证明了在恢复过程中允许多个权重的优点。
2022-04-26 cs.IT math.IT
Data recovery from corrupted observations via l1 minimization
本文研究了通过求解l1最小化问题,从一组受损的线性测量中恢复信号矢量和受损的噪声矢量的问题,其中传感矩阵是一个部分傅立叶矩阵,其行是从一个全傅立叶矩阵的行中随机均匀地选择的。在适当地选择l1最小化中的参数后,我们证明了即使当恒定分数的测量值被任意损坏时,恢复也可以成功,而且,只要信号矢量足够稀疏,损坏的测量值的比例可以任意增长到接近1。本文所要求的信号矢量稀疏性的上界是渐近最优的,并且优于文献[1,2]中通过ln(n)因子得到的结果。此外,与现有文献[1-3]相比,我们对信号向量和噪声向量的假设是宽松的,这使得我们的恢复保证更适用。广泛的数值实验的基础上合成以及现实世界的数据,以验证所提出的定理的结论,并证明潜在的l1最小化框架。
2016-01-22 cs.IT math.IT
Sparse Signal Recovery via Generalized Entropy Functions Minimization
压缩感知依赖于对感兴趣的信号施加的稀疏先验来解决欠定线性系统中的不适定恢复问题。用于增强稀疏先验信息的目标函数应该是有效的且易于优化的。受信息论中熵概念的启发,本文提出了信号的广义Shannon熵函数和Rényi熵函数作为稀疏促进正则化子.两个熵函数都是非凸的,不可分的。它们的局部极小值只出现在欧氏空间中正交点的边界上。与其他常用的目标函数相比,最小化广义熵函数自适应地提升了多个高能量系数,同时抑制了其余的低能量系数。相应的优化问题可以转化为一系列加权的$l_1$ -范数最小化问题,然后通过调整FISTA有效地解决。仿真和实际数据的稀疏信号恢复实验表明,所提出的熵函数最小化方法的性能优于其他流行的方法,并达到最先进的性能。
2020-02-23 cs.IT math.IT
A new result of the scaling law of weighted L1 minimization
研究了基于加权L1最小化的压缩感知信号重构的恢复条件。利用广义加权L1极小化方法,给出了系统精确恢复的一个充分条件,建立了权值与可恢复性之间的直接关系。仿真结果表明,该充分条件为加权L1极小化的缩放定律提供了精确的预测。
2015-09-26 cs.IT math.IT
Analyzing Weighted $\ell_1$ Minimization for Sparse Recovery with Nonuniform Sparse Models\footnote{The results of this paper were presented in part at the International Symposium on Information Theory, ISIT 2009}
在本文中,我们介绍了一个非均匀稀疏模型,并分析了性能的优化加权$\ell_1$最小化的稀疏模型。特别是,我们专注于一个模型,其中的未知向量的条目分为两组,每个集合的条目具有特定的非零概率。我们提出了一个加权的$\ell_1$最小化恢复算法,并分析其性能使用格拉斯曼角的方法。我们明确计算系统参数之间的关系-权重,测量的数量,两个集合的大小,非零的概率-因此,当i.i.d.使用随机高斯测量矩阵,加权$\ell_1$最小化随着问题维度的增加以压倒性的概率恢复从所考虑的稀疏模型中提取的随机选择的信号。这使我们能够计算最佳权重。我们证明,通过严格的分析和模拟的情况下,当信号的支持可以分为两个不同的子类具有不等的稀疏分数,最佳加权$\ell_1$最小化优于常规的$\ell_1$最小化。我们还推广到任意数量的类的结果。
2010-09-18 cs.IT math.IT
Weighted $\ell_1$ Minimization for Sparse Recovery with Prior Information
在本文中,我们研究的压缩感知问题,从欠定线性方程组的系统中恢复稀疏信号时,我们有先验信息的未知信号的每个条目是非零的概率。特别是,我们专注于一个模型,其中未知向量的条目分为两组,每组具有不同的非零概率。我们提出了一个加权的$\ell_1$最小化恢复算法,并分析其性能使用格拉斯曼角的方法。我们明确计算系统参数(权重,测量的数量,两个集合的大小,非零的概率)之间的关系,使得iid随机高斯测量矩阵以及加权$\ell_1$最小化随着问题维度的增加以压倒性的概率恢复几乎所有这样的稀疏信号。这使我们能够计算最佳权重。我们还提供了模拟,以证明传统的$\ell_1$优化的方法的优点。
2009-01-19 cs.IT math.IT
Joint-sparse recovery from multiple measurements
联合稀疏恢复问题的目的是恢复,从压缩测量集,未知的稀疏矩阵与非零条目限制到一个子集的行。这是在压缩感知中广泛研究的单测量向量(SMV)问题的扩展。我们分析了两种类型的恢复算法的恢复属性。首先,我们表明,使用范数最小化的总和的恢复不能超过连续SMV使用$\ell_1$最小化的统一恢复率,并有问题,可以解决一种方法,但不能与其他。其次,我们分析了ReMBo算法的性能[M. Mishali和Y. Eldar,IEEE Trans. Sig.程序、56(2008)]结合$\ell_1$最小化,并且示出了随着进行更多的测量,恢复如何改善。从该分析可以得出,具有比非零行数更多的测量值不会提高潜在的理论恢复率。
2009-04-14 cs.IT math.IT
Beyond $\ell_1$-norm minimization for sparse signal recovery
University of British Columbia(不列颠哥伦比亚大学)
稀疏信号恢复一直占主导地位的基础上追求去噪(BPDN)的问题制定了十多年。在本文中,我们提出了一个算法,在寻找稀疏解欠定线性方程组在没有额外的计算成本优于BPDN。我们的算法,称为WSPGL 1,是一个修改的谱投影梯度$\ell_1$最小化(SPGL 1)算法,其中的序列的LASSO子问题被替换为一个序列的加权LASSO子问题与恒定的权重施加到支持估计。支持估计值从数据中导出,并在每次迭代时更新。该算法还在每次迭代时修改Pareto曲线,以反映正在解决的新的加权$\ell_1$最小化问题。我们通过大量的模拟表明,我们的算法的稀疏恢复性能优于$\ell_1$最小化和方法的恢复性能的迭代重新加权$\ell_1$(IRWL 1)最小化的Cand{è}s,Wakin,和博伊德,虽然它不匹配它在一般情况下。此外,我们的算法具有单个BPDN问题的计算成本。
2012-05-30 cs.IT cs.LG math.IT
An Optimal Condition of Robust Low-rank Matrices Recovery
本文研究了低秩矩阵核范数最小化的重构条件。我们得到了充分条件$δ_{tr}<t/(4-t)$与$0<t<4/3$,以保证鲁棒重建$(z\neq0)$或精确重建$(z=0)$的所有秩$r$矩阵$X\in\mathbb{R}^{m\times n}$从$b=\mathcal{A}(X)+z$通过核范数最小化。此外,我们不仅证明了当$t=1$时,$δ_r<1/3$的上界与蔡和张\cite{Cai and Zhang}的结果相同,而且证明了所得到的关于恢复误差的上界更好.此外,我们证明了限制等距性条件是尖锐的。此外,数值实验表明,核范数最小化方法对于恢复低秩矩阵是稳定和鲁棒的。
2020-03-10 cs.IT math.IT
Stable Recovery of Sparse Signals via $l_p-$Minimization
本文证明了在$\|\e\|_2\leq ε$的假设下,即使$\A$的限制等距常数满足$δ_{2k}\in[\frac{\sqrt{2}}{2}, 1)$,每个$k-$稀疏信号$\x\in \mathbb{R}^n$都可以通过$l_p-$与$p\in(0, \bar{p}]$的混合从$\y=\A\x+\e$中稳定地($ε\neq0$)或精确地($ε=0$)恢复出来,其中\beqnn \bar{p} = \begin{cases} \frac{50}{31}(1-δ_{2k}), &δ_{2k}\in[\frac{\sqrt{2}}{2}, 0.7183)\cr 0.4541, &δ_{2k}\in[0.7183,0.7729)\cr 2(1-δ_{2k}), &δ_{2k}\in[0.7729,1) \end{cases},\eeqnn.此外,在$n\leq 4k$的假设下,我们证明了$p$的范围可以进一步提高到$p\in(0,\frac{3+2\sqrt{2}}{2}(1-δ_{2k})]$。这不仅扩展了仅无噪声恢复的一些讨论(Lai等人和Wu等人)。的噪声恢复,而且还大大提高了现有的最佳结果,其中$p\in(0,\min\{1, 1.0873(1-δ_{2k}) \})$(吴等)。
2014-06-17 cs.IT math.IT
The perturbation analysis of nonconvex low-rank matrix robust recovery
本文提出了一种完全扰动的非凸Schatten $p$ -极小化方法来解决完全扰动的低秩矩阵恢复问题。基于约束等距性,将研究推广到既考虑噪声又考虑扰动的完全扰动模型,给出了保证低秩矩阵恢复的约束等距性条件和相应的重构误差界。特别地,对结果的分析表明,对于完全扰动和低秩矩阵,当$p$使$0$和$a>1$减小时,该条件是最优充分条件$δ_{2r}<1$ \cite{Recht et al 2010} .数值实验表明,非凸Schatten $p$ -最小化方法在完全扰动情形下比凸核范数最小化方法具有更好的性能.
2020-06-11 cs.IT math.IT
Sparse Subspace Clustering via Two-Step Reweighted L1-Minimization: Algorithm and Provable Neighbor Recovery Rates
稀疏子空间聚类(SSC)依赖于稀疏回归来精确识别邻居。受压缩感知最新进展的启发,本文提出了一种新的基于两步重加权$\ell_1$ -最小化的SSC稀疏回归算法,该算法推广了E. J. Candès et al in [The Annals of Statistics,vol. 42,no. 2,pp. 669-699,2014],而不会引起额外的算法复杂度。为了充分利用在第一步中计算的稀疏表示向量提供的先验信息,我们的方法对回归向量的每个分量放置权重,并在第二步中求解加权LASSO。我们提出了一个数据加权规则,适用于提高邻居识别精度。然后,在加权LASSO对偶问题的框架下,深入研究了该方案的理论邻居恢复率。具体而言,一个有趣的连接之间的位置的最优稀疏解加权LASSO和指数的对偶问题的主动约束。然后,在半随机模型下,推导了各种邻居恢复事件的解析概率上/下限。我们的分析结果证实,在数据加权的帮助下,如果先验邻居信息是足够准确的,所提出的方案具有更高的概率可以产生许多正确的邻居和一些不正确的邻居相比,没有数据加权的解决方案。计算机模拟提供了验证我们的分析研究和证据所提出的方法的有效性。
2019-07-17 cs.IT math.IT
Weighted-{$\ell_1$} minimization with multiple weighting sets
本文研究了当存在多个不同精度的支持度估计集时,基于加权$\ell_1$最小化的压缩感知信号重构的支持度恢复条件。我们确定一类信号,从$\ell_1$最小化恢复的向量提供了一个准确的支持估计。然后,我们推导出稳定性和鲁棒性的保证加权$\ell_1$最小化问题的多个支持估计。我们表明,应用较小的权重,以支持估计,享有更高的准确性,提高了恢复条件相比,一个单一的支持估计的情况下,与标准的情况下,即,非加权、$\ell_1$最小化。我们的理论结果得到了合成信号和真实音频信号的数值模拟的支持。
2012-05-30 cs.IT math.IT
Affine phase retrieval for sparse signals via $\ell_1$ minimization
仿射相位恢复是利用先验信息从仅有幅度的测量中恢复信号的问题。在本文中,我们使用$\ell_1$最小化利用信号的稀疏性进行仿射相位恢复,表明$O(k\log(en/k))$高斯随机测量是足够的,以恢复所有的$k$稀疏信号,通过解决一个自然的$\ell_1$最小化程序,其中$n$是信号的维数。对于测量被噪声破坏的情况,给出了实值和复值信号的重构误差界。我们的结果表明,自然的$\ell_1$最小化程序的仿射相位恢复是稳定的。
2022-09-19 cs.IT math.IT
The Dantzig selector: Recovery of Signal via $\ell_1-α\ell_2$ Minimization
本文提出了一种基于$\ell_{1}-α\ell_{2}$ ~ $(0< α\leq1)$最小化的Dantzig选择器,用于信号恢复。在Dantzig选择器中,对于某个小常数$η>0$的约束$\|{\bf A}^{\top}({\bf b}-{\bf A}{\bf x})\|_\infty \leq η$意味着${\bf A}$的列与误差向量${\bf e}={\bf A}{\bf x}-{\bf b}$的相关性非常弱。首先,恢复保证的基础上的限制等距属性(RIP)的信号建立。接下来,我们提出了有效的算法来解决所提出的Dantzig选择器。最后,我们通过大量的数值实验来说明所提出的模型和算法的恢复信号的情况下,高斯,脉冲和均匀噪声。所提出的Dantzig选择器的性能优于现有的方法。
2021-05-29 cs.IT math.IT math.ST
Signal and Image Reconstruction with Tight Frames via Unconstrained $\ell_1-α\ell_2$-Analysis Minimizations
本文提出了一种基于$\ell_{1}-α\ell_{2}$ $(0< α\leq1)$最小化的无约束信号和图像重建分析模型。我们发展了紧框架的一些新的技术引理,并基于适合于紧框架的限制等距性给出了恢复保证。建立了非凸分析模型的有效算法。我们通过大量的数值实验说明了所提出的模型和算法的信号和压缩感知MRI重建的性能。其性能优于现有的方法。
2021-12-29 cs.IT math.IT
Noisy Signal Recovery via Iterative Reweighted L1-Minimization
University of California, Davis(加州大学戴维斯分校)
本文分析含噪情况下的迭代重加权L1最小化方法,并证明其误差界优于标准L1最小化方法。
2009-04-24 cs.IT cs.NA math.IT
Sparse Recovery Analysis of Generalized $J$-Minimization with Results for Sparsity Promoting Functions with Monotonic Elasticity
在本文中,我们从理论上研究精确恢复稀疏向量压缩测量最小化一般非凸函数,可以分解成属于一类光滑非凸稀疏促进函数的单变量函数的总和。其中,空间性质(NSP)和限制等距性质(RIP)是主要的理论工具。引入与稀疏性提升函数相关联的\emph{scale function}的概念,以推广$l_p$最小化问题的最新分析技术。分析是用来推导出一个上限的零空间常数(NSC)与这个一般的非凸最小化问题,这是进一步利用推导出的充分条件,精确的恢复作为上限的限制等距常数(RIC),以及最佳稀疏$K$的界限,精确的恢复发生。导出的界限显式计算时,稀疏促进功能$f$考虑拥有的属性,相关的\emph{elasticity function},定义为,$ψ(x)=\frac{xdf(x)/dx}{f(x)}$,是单调的性质。数值模拟进行了验证的有效性的界限和有趣的结论得出不同的稀疏促进功能的比较性能的问题的$1$稀疏信号恢复。
2020-10-19 cs.IT math.IT math.OC
Efficient $\ell_q$ Minimization Algorithms for Compressive Sensing Based on Proximity Operator
研究了压缩感知中稀疏信号恢复的无约束$\ell_q$ -范数($0\leq q<1$)正则化最小二乘($\ell_q$ -LS)问题.通过将非凸$\ell_q$ -范数函数的邻近算子分别引入到快速迭代收缩/阈值法(FISTA)和交替方向乘子法(ADMM)框架中,我们提出了两种高效的一阶算法.此外,在求解非凸$\ell_q$ -LS问题时,新算法采用了序列极小化策略,以获得更好的全局收敛性能。与大多数现有的$\ell_q$ -最小化算法不同,新算法解决了$\ell_q$ -最小化问题而不平滑(近似)$\ell_q$ -范数。同时,新算法对于图像处理中经常遇到的大规模问题具有很好的扩展性。我们表明,所提出的算法是最快的方法在解决非凸$\ell_q$最小化问题,同时提供称职的性能,在恢复稀疏信号和可压缩图像相比,几个国家的最先进的算法。
2016-03-15 cs.IT math.IT
$\ell^1$-Analysis Minimization and Generalized (Co-)Sparsity: When Does Recovery Succeed?
本文在余分析模型假设下,研究了欠采样含噪亚高斯测量信号的估计问题。基于广义的稀疏性概念,我们得到新的恢复保证的$\ell^1$分析的基础上追求,使其样本复杂性的准确预测。所需测量的数量上的相应界限明确地取决于分析算子的Gram矩阵,因此特别考虑了其相互相干结构。我们的研究结果挑战了传统的智慧,促进稀疏的分析系数作为研究的关键量。事实上,这种常见的范式在许多实际感兴趣的情况下完全崩溃,例如,当应用冗余(多级)框架作为分析先验时。通过大量的数值实验,我们证明,相比之下,我们的理论采样率界可靠地捕捉各种例子,如冗余小波系统,总变分,或随机帧的恢复能力。我们的主要结果的证明建立在最近的成就,凸几何的数据采掘问题。更确切地说,我们建立了一个复杂的上界的圆锥高斯平均宽度,是与底层的$\ell^1$分析多面体。由于一个新的本地化参数,事实证明,所提出的框架自然扩展到稳定的恢复,使我们能够将可压缩系数序列以及。
2021-02-22 cs.IT math.IT
Necessary and Sufficient Null Space Condition for Nuclear Norm Minimization in Low-Rank Matrix Recovery
University of Iowa(爱荷华大学)
低秩矩阵恢复在机器学习、信号处理、协同滤波、系统辨识和欧几里得嵌入等科学和工程领域有着广泛的应用。但低秩矩阵恢复问题是一个NP难问题,因此具有挑战性。一种常用的启发式方法是核范数最小化。在文献[12,14,15]中,作者建立了核范数极小化的充要零空间条件(强零空间条件),以恢复所有可能的秩不超过r的低秩矩阵。此外,在[12]中,Oymak等人利用核范数最小化建立了一个成功恢复给定低秩矩阵的零空间条件(弱零空间条件),并导出了核范数最小化的相变。本文证明了文[12]中的弱零空间条件只是利用核范数极小化成功恢复矩阵的一个充分条件,而不是文[12]中所声称的必要条件。本文进一步给出了低秩矩阵恢复的一个弱零空间条件,它是核范数极小化成功的充要条件。在我们的推导的核心是一个不等式的特征块矩阵的核范数,并在该不等式的等式成立的条件。
2018-02-14 cs.IT cs.LG eess.SP
New Null Space Results and Recovery Thresholds for Matrix Rank Minimization
核范数最小化(NNM)最近获得了显着的关注,其用于秩最小化问题。类似于压缩感知,使用零空间表征,在\cite{arxiv,Recht_Xu_Hassibi}中研究了NNM的恢复阈值。然而,仿真结果表明,阈值是远离最佳的,特别是在低秩区域。在本文中,我们应用最近的分析Stojnic压缩感知\cite{mihailo}的零空间条件的NNM。由此产生的阈值明显更好,特别是我们的弱阈值似乎与模拟结果相匹配。此外,我们的曲线表明,对于任何秩与矩阵大小$n$线性增长,我们只需要三倍的过采样(模型复杂度)弱恢复。与\cite{arxiv}类似,我们分析了弱阈值、分段阈值和强阈值的条件。另外,对正半定矩阵的特殊情况,也作了单独的分析。最后,我们讨论了模拟结果和未来的研究方向。
2010-11-29 cs.IT math.IT math.OC
Stable and robust $\ell_p$-constrained compressive sensing recovery via robust width property
我们研究了$\ell_p$ -约束压缩感知(CS)的恢复结果,通过稳健的宽度性质,利用$p\geq 1$确定了标准高斯矩阵的测量次数条件,在该条件下,该性质以高概率成立。本文利用$p\geq 1$将Cahill和Mixon(2014)的已有结果从$\ell_2$约束的CS扩展到$\ell_p$约束的情况,并利用$\ell_p$损失函数补充了鲁棒CS的恢复分析。
2017-08-25 cs.IT math.IT
Recovery of signals under the high order RIP condition via prior support information
本文研究了在部分先验支持信息存在的情况下,加权$l_{1}$最小化算法在不完全线性测量信号重构中的恢复条件。我们得到,高阶RIP条件可以保证稳定和强大的恢复信号有界$l_{2}$和Dantzig选择器噪声设置。同时,我们不仅证明了加权$l_{1}$最小化方法的充分恢复条件弱于标准$l_{1}$最小化方法,而且证明了加权$l_{1}$最小化方法在先验支持估计精度至少为$50\%$的条件下,在测量噪声和信号压缩性方面提供了更好的重构误差上界.此外,还证明了该条件的精确性.
2016-02-27 cs.IT math.CA math.FA
Weak Stability of $\ell_1$-minimization Methods in Sparse Data Reconstruction
$\ell_1$ -最小化算法作为稀疏数据重构中最合理的凸优化算法之一,在稀疏优化理论的发展中起着基础性的作用。该方法的稳定性已经在文献中讨论了各种假设下,如限制等距属性(RIP),零空间属性(NSP),和互相关。在转置设计矩阵的弱值域空间性质的条件下,我们提出了一种统一的方法来发展$\ell_1$ -极小化方法的弱稳定性理论,这是标准$\ell_1$ -极小化方法在稀疏数据重构中弱稳定的充分必要条件.本文建立的重建误差界由所谓的罗宾逊常数来衡量。我们还提供了一个统一的弱稳定性的结果,标准的$\ell_1$ -最小化几个现有的压缩感知矩阵的属性。特别地,本文首次在转置设计矩阵的$k$阶常数自由值域空间性质下,证明了$\ell_1$ -极小化的弱稳定性.不同于现有的分析,我们利用经典的霍夫曼引理的误差界的线性系统,以及Dudley定理的多面体近似的单位$\ell_2$球显示,$\ell_1$ -最小化是鲁棒性和弱稳定性恢复稀疏数据从不准确的测量。
2017-11-08 cs.IT math.IT
Phaseless compressive sensing using partial support information
研究了部分支持信息存在时,加权$\ell_1$最小化算法在无相位压缩感知测量信号重构中的恢复条件.为保证恢复的稳定性,给出了强约束等距性条件。此外,我们提出了加权零空间属性作为$k$ -稀疏无相恢复通过加权$\ell_1$最小化成功的充分必要条件。数值实验验证了我们的结果。
2017-12-13 cs.IT math.IT
Stable Recovery of Weighted Sparse Signals from Phaseless Measurements via Weighted l1 Minimization
无相位压缩感知的目标是从其测量值的幅度恢复未知的稀疏或近似稀疏信号。然而,它不利用原始信号的任何支持信息。因此,我们在本文中的主要贡献是扩展无相位压缩感知的理论框架,将与信号的支持结构的先验知识。具体来说,我们调查两个条件,保证稳定恢复的加权$k$稀疏信号通过加权L1最小化没有任何相位信息。我们首先证明了加权零空间属性(WNSP)是加权k-稀疏相位可恢复的加权l1最小化成功的充分必要条件。此外,我们表明,如果一个测量矩阵满足强加权限制等距属性(SWRIP),那么原始信号可以稳定地恢复从无相测量。
2021-07-10 cs.IT eess.SP math.FA
Nonuniform Sparse Recovery with Subgaussian Matrices
压缩感知预测可以从高度不完整的信息中恢复足够稀疏的向量。有效的恢复方法,如$\ell_1$ -最小化找到稀疏的解决方案,某些系统的方程。随机矩阵已经成为测量矩阵的流行选择。实际上,对于这样的矩阵,已经显示出接近最优的均匀恢复结果。在本文中,我们专注于使用高斯随机矩阵和$\ell_1$ -最小化的非均匀恢复。我们提供了一个条件的稀疏性和信号长度,保证了一个固定的稀疏信号可以恢复与随机抽取的矩阵使用$\ell_1$ -最小化的样本数。这个条件中的常数2是最优的,并且与Donoho和Tanner的类似结果相比,证明相当短。
2011-08-16 cs.IT math.IT math.PR
Stable Cosparse Recovery via \ell_p-analysis Optimization
本文研究了用于余分析信号恢复的$\ell_p$分析优化($0<p\leq1$)问题.我们建立了一个界的恢复误差通过限制$p$ -等距性质的任何子空间。我们进一步证明了非凸的$\ell_q$分析优化可以做恢复与较低的样本复杂性和更广泛的范围内的cosparity比其凸对应。此外,我们开发了一个迭代重加权的方法来解决变分框架下的优化问题。初步的计算实验结果表明,非凸方法优于凸方法。
2018-08-22 cs.IT math.IT
Support driven reweighted $\ell_1$ minimization
在本文中,我们提出了一个支持驱动的加权$\ell_1$最小化算法(SDRL 1),解决了一系列的加权$\ell_1$问题,并依赖于支持估计精度。我们的SDRL 1算法与Cand{è}s,Wakin和Boyd提出的IRL 1算法有关。我们证明,这是足够的支持估计与\emph{good}的准确性和应用恒定的权重,而不是使用的逆系数幅度,以实现类似的收益IRL 1。然后,我们证明,给定一个支持估计具有足够的精度,如果信号衰减根据一个特定的速率,加权$\ell_1$最小化问题的解决方案,结果在一个支持估计具有更高的精度比初始估计。我们还表明,在一定的条件下,它是可能实现更高的估计精度时,支持估计的交集被认为是。我们通过数值模拟证明了SDRL 1的性能,并将其与IRL 1和标准$\ell_1$最小化进行了比较。
2012-05-30 cs.IT math.IT
The block mutual coherence property condition for signal recovery
本文研究了含噪环境下块稀疏信号的稳定恢复问题,提出了基于块互干性的充分条件与误差上界估计,首次证明了 $\ell_2/\ell_1-\alpha\ell_2$ 最小化方法稳定重建块稀疏信号的有效性,并通过数值实验验证了其性能。
2023-11-28 cs.IT math.IT
Graph Fourier Transform Based on $\ell_1$ Norm Variation Minimization
图形傅里叶变换的定义是图形信号处理中的一个基本问题。传统的图形傅立叶变换是通过图形拉普拉斯矩阵的特征向量来定义的,其最小化$\ell_2$范数信号变化。然而,当图很大时,拉普拉斯特征向量的计算是昂贵的。在本文中,我们提出了另一种定义的图形傅立叶变换的基础上$\ell_1$范数变化最小化。给出了$\ell_1$ Fourier基满足的一个必要条件,并给出了逼近$\ell_1$ Fourier基的快速贪心算法.数值实验表明了贪心算法的有效性。此外,贪婪基下的傅里叶变换表现出类似的衰减速率的拉普拉斯基的模拟或真实信号。
2019-08-19 cs.IT math.IT
Compressed Sensing and Affine Rank Minimization under Restricted Isometry
本文建立了压缩感知和仿射秩最小化的新的约束等距条件。它示出的压缩感知,$δ_{k}^A+θ_{k,k}^A < 1$保证精确恢复的所有$k$稀疏信号在无噪声的情况下,通过约束$\ell_1$最小化。此外,上界1在以下意义上是尖锐的:对于任何$ε> 0$,条件$δ_k^A + θ_{k, k}^A < 1+ε$不足以保证使用任何恢复方法的这种精确恢复。类似地,对于仿射秩最小化,如果$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$,则所有秩至多为$r$的矩阵可以通过约束核范数最小化在无噪声情况下精确地重建;并且对于任何$ε> 0$,$δ_r^\mathcal{M} +θ_{r,r}^\mathcal{M} < 1+ε$不确保使用任何方法进行这样的精确恢复。此外,在噪声情况下,条件$δ_{k}^A+θ_{k,k}^A < 1$和$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$也足以分别稳定恢复稀疏信号和低秩矩阵。还讨论了应用和扩展。
2013-04-12 cs.IT math.IT math.ST
Joint power and admission control via p norm minimization deflation
在干扰网络中,联合功率和准入控制旨在支持最大数量的链路在其指定的信号干扰噪声比(SINR)目标,同时使用最小的总传输功率。在我们以前的工作中,我们制定了一个稀疏的$\ell_0$ -最小化问题的联合控制问题,并放宽到一个$\ell_1$ -最小化问题。在这项工作中,我们建议近似的$\ell_0$优化问题的p范数最小化问题,其中$0<p<1$,因为直观地p范数将近似0范数优于1范数。首先证明了$\ell_p$ -极小化问题是强NP-困难的,然后给出了它的一个新的形式,使得已有的邻近点算法可以应用于求解该问题,并证明了$\ell_p$ -极小化问题的解可以有效地指导链路的拆除(收缩).数值模拟结果表明,该启发式算法优于现有的算法。
2013-03-07 cs.IT math.IT
Stable reconstructions for the analysis formulation of $\ell^p$-minimization using redundant systems
在压缩感知中,稀疏解通常通过求解$\ell^1$最小化问题来获得。此外,不需要直接给出信号的稀疏性。事实上,在应用合适的变换之后具有稀疏的信号就足够了。本文考虑了任意$0<p \leq1$的$\ell^p$极小化解的稳定性.此外,我们假设信号是稀疏的一般冗余变换相关的不一定紧帧。由于我们考虑的是一般框架,因此必须另外讨论对偶框架的作用。对于我们的稳定性分析,我们将引入所谓的\emph{frames with identifiable duals}的新概念。此外,我们数值突出的理论和压缩感知的应用之间的差距,一些特定的冗余变换。
2016-09-20 cs.IT math.IT
Tensor theta norms and low rank recovery
我们研究了压缩感知和低秩矩阵恢复的扩展,从不完全线性信息恢复低秩张量。虽然通过核范数最小化重构低秩矩阵是相当好的理解,现在,几乎没有理论可用于扩展到高阶张量由于各种理论和计算困难所产生的张量分解。事实上,核范数最小化矩阵恢复是一个易处理的凸松弛方法,但扩展的核范数张量一般是NP-难计算。在这篇文章中,我们引入了张量核范数的凸松弛,它可以通过半定规划在多项式时间内计算。我们的方法是基于θ机构,一个概念,从计算代数几何类似的拉萨尔松弛。我们引入了多项式理想,它是由对应于张量的不同矩阵化的二阶未成年人产生的(其中张量项被视为变量),使得核范数球是理想的代数簇的凸包。对于这样一个理想,$k$ -th θ体产生一个新的范数,我们称之为$θ_k$ -范数。我们表明,在矩阵的情况下,这些规范减少到核规范。然而,对于$d \geq 3$阶张量,我们得到了新的范数。相应的单位- $θ_k$ -范数球序列渐近收敛于单位张量核范数球。通过提供理想的格罗布纳基,我们明确地给出了半定程序的计算$θ_k$ -范数和最小化的$θ_k$ -范数下的仿射约束。通过$θ_1$ -范数最小化的3阶张量恢复的数值实验表明,我们的方法成功地重建张量的低秩不完整的线性(随机)测量。
2017-02-14 cs.IT math.IT
Guarantees of Total Variation Minimization for Signal Recovery
在本文中,我们考虑使用总变分最小化恢复信号的梯度有一个稀疏的支持,从少量的测量。证明了在稀疏梯度支持下恢复\emph{one-dimensional}信号的全变差最小化性能保证。这部分地回答了在这样的设置\cite{TVMulti}中证明总变差最小化的保真度的公开问题。特别是,我们已经表明,可恢复的梯度稀疏可以线性增长的信号尺寸时,电视最小化。通过使用格拉斯曼角框架,显式地计算了1维信号的TV最小化的可恢复稀疏阈值。我们还将我们的结果扩展到多维信号的TV最小化。利用1维TV最小化恢复信号本身的稳定性也已经通过称为“1维TV范数的几乎欧几里德性质”的性质建立。我们进一步给出了恢复具有$N$元素和$K$ -稀疏梯度的1维信号向量的随机高斯测量数的下界。有趣的是,所需的测量的数量是由$Ω((NK)^{\frac{1}{2}})$,而不是$O(K\log(N/K))$界经常出现在恢复$K$稀疏信号矢量下界。
2013-10-11 cs.CV cs.IT cs.LG
Breaking through the Thresholds: an Analysis for Iterative Reweighted $\ell_1$ Minimization via the Grassmann Angle Framework
现在很好地理解,$\ell_1$最小化算法能够从不完整的测量中恢复稀疏信号[2]、[1]、[3],并且对于$\ell_1$最小化算法也已经获得了尖锐的可恢复稀疏阈值。然而,即使已经根据经验观察到迭代重加权$\ell_1$最小化算法或相关算法提高了某些类型信号的可恢复稀疏阈值,也没有建立严格的理论结果来证明这一事实。本文试图为分析迭代加权$\ell_1$算法提供理论基础。特别是,我们表明,对于一个非平凡类的信号,迭代重新加权$\ell_1$最小化确实可以提供可恢复的稀疏阈值大于[1],[3]。我们的研究结果是基于一个高维的几何分析(格拉斯曼角分析)的零空间表征$\ell_1$最小化和加权$\ell_1$最小化算法。
2009-04-06 cs.IT math.IT math.PR
On the Scaling Law for Compressive Sensing and its Applications
$\ell_1$最小化可用于从压缩的线性测量恢复足够稀疏的未知信号。事实上,稀疏性(支持集的大小)的精确阈值,在该阈值下,稀疏信号可以以高概率从i.i.d.高斯测量值,并被称为“弱阈值”\cite{D}。还已知在稀疏性和$\ell_1$最小化恢复稳定性之间存在折衷。在本文中,我们给出了一个\emph{closed-form}表征这种权衡,我们称之为压缩感知恢复稳定性的缩放定律。简而言之,我们能够表明,随着稀疏性从$\ell_1$恢复的弱阈值回退$\varpi$($0<\varpi<1$),恢复稳定性的参数将缩放为$\frac{1}{\sqrt{1-\varpi}}$。我们的结果是基于仔细的分析,通过格拉斯曼角框架的高斯测量矩阵。我们将进一步讨论这个缩放定律如何帮助分析迭代重加权$\ell_1$最小化算法。如果信号支持上的非零元素遵循幅度概率密度函数(pdf)$f(\cdot)$,其$t$ -th导数$f^{t}(0) \neq 0$对于某个整数$t \geq 0$,则可以分析地示出某个迭代重新加权的$\ell_1$最小化算法以提升普通$\ell_1$最小化算法的相变阈值(弱阈值)。
2011-03-16 cs.IT math.IT
Analysis of equivalence relation in joint sparse recovery
联合稀疏恢复问题是压缩感知中广泛研究的单测量向量问题的推广,其目标是恢复一组联合稀疏向量。即具有集中在公共位置的非零条目。同时,在为该问题设计的大量算法中,广泛使用了矩阵约束下的l_p-极小化。因此,本文的主要贡献是关于这种技术的两个理论结果。第一个是证明了在每一个多重线性方程组中,存在一个常数p*,使得当0< p<p* 时,原唯一稀疏解也可以从l_p拟范数的极小值中恢复出来。另一个是给出了这样的p* 的解析表达式。最后,我们展示了一个例子的结果,以证实我们的结论的有效性。
2017-01-07 cs.IT math.IT
Sharp RIP Bound for Sparse Signal and Low-Rank Matrix Recovery
本文建立了稀疏信号恢复和低秩矩阵恢复的约束等距性(RIP)的一个严格条件。研究表明,如果测量矩阵$A$满足RIP条件$δ_k^A<1/3$,则通过基于$y=Aβ$的约束$\ell_1$最小化可以精确地恢复所有$k$稀疏信号$β$.类似地,如果线性映射$\cal M$满足RIP条件$δ_r^{\cal M}<1/3$,则通过基于$b={\cal M}(X)$的约束核范数最小化,可以精确地恢复秩至多为$r$的所有矩阵$X$。此外,在这两种情况下,当条件不成立时,一般不可能这样做。此外,考虑了噪声情况,在sharp RIP条件下给出了预言不等式。
2013-02-06 cs.IT math.IT
Robustness of Sparse Recovery via $F$-minimization: A Topological Viewpoint
压缩感知的一个最近的趋势是考虑非凸优化技术的稀疏恢复。$F$ -最小化的重要情况已经变得特别感兴趣,对于该情况,在无噪声设置中的精确重构条件(ERC)可以精确地由零空间属性(NSP)表征。然而,很少有工作已经做了关于其鲁棒重建条件(RRC)在噪声环境中。我们把测量矩阵的零空间看作Grassmann流形上的一个点,然后研究了ERC集和RRC集之间的关系,分别记为$Ω_J$和$Ω_J^r$.它表明,$Ω_J^r$是内部的$Ω_J$,从以前的结果等价的ERC和RRC的$\ell_p$ -最小化容易遵循的特殊情况。此外,当$F$是非减的,它表明,$\overlineΩ_J\setminus\interior(Ω_J)$是一个集的措施零和第一类。因此,如果测量矩阵$\mathbf{A}$根据连续分布随机生成,则ERC和RRC的概率相同。量化地,如果零空间$\mathcal{N}(\bf A)$位于$Ω_J$的“$d$ -内部”,则RRC将满足鲁棒性常数$C=\frac{2+2d}{dσ_{\min}(\mathbf{A}^{\top})}$ ;并且相反地,如果RRC与$C=\frac{2-2d}{dσ_{\max}(\mathbf{A}^{\top})}$成立,则$\mathcal{N}(\bf A)$必须位于$Ω_J$的$d$ -内部。我们还提出了几个规则比较不同的成本函数的性能。最后,这…
2014-11-13 cs.IT math.IT
Weighted $\ell_1$-minimization for generalized non-uniform sparse model
基于模型的压缩感知是指对先验已知的稀疏信号具有额外结构的压缩感知。最近的工作表明,无论是对信号的确定性和概率模型,这些额外的信息可以成功地利用,以提高恢复性能。特别是,加权的$\ell_1$ -最小化与适当的选择的权重已被证明,以提高性能,在所谓的非均匀稀疏模型的信号。在本文中,我们考虑一个完整的推广的非均匀稀疏模型非常温和的假设。我们证明,当测量得到使用一个矩阵与独立同分布高斯条目,加权$\ell_1$ -最小化成功地恢复稀疏信号从其测量压倒性的概率。我们还提供了一种方法来选择这些权重的任何一般的信号模型从非均匀稀疏类的信号模型。
2014-09-16 cs.IT math.IT
How robust is randomized blind deconvolution via nuclear norm minimization against adversarial noise?
Technical University of Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Munich Data Science Institute(慕尼黑数据科学研究所);KU Eichstätt-Ingolstadt(艾希施泰特-英戈尔施塔特天主教大学)
本文研究了从两个未知信号的卷积中恢复两个未知信号的问题,即通常所说的盲反卷积。在过去的十年中,由于核范数最小化启发式的成功,盲反卷积作为一个低秩恢复问题的重新表述导致了多个理论恢复保证。特别是,在没有噪声的情况下,精确的恢复已经建立了足够的非相干信号包含在低维子空间。然而,如果卷积被加性有界噪声破坏,恢复问题的稳定性仍然不太清楚。特别是,现有的重建界涉及大的维度因子,因此无法解释核范数最小化的维度无关鲁棒性的经验证据。最近,理论上的证据已经出现了病态行为的低秩矩阵恢复足够小的噪声水平。在这项工作中,我们开发了改进的恢复保证盲反卷积与对抗性噪声表现出平方根缩放的噪声水平。因此,我们的研究结果与现有的反例是一致的,这些反例反对相关的低秩矩阵恢复问题所证明的噪声水平的线性缩放。
2023-03-17 cs.IT cs.LG eess.SP
Analysis $\ell_1$-recovery with frames and Gaussian measurements
本文提供了新的结果恢复信号的欠采样测量的基础上分析$\ell_1$ -最小化,当分析算子是由一个框架。我们都提供了所谓的均匀和非均匀恢复保证cosparse(分析稀疏)信号使用高斯随机测量矩阵。非均匀结果依赖于通过切锥的恢复条件,并且均匀恢复保证基于零空间属性的分析版本。检查高斯随机矩阵的这些条件导致成功恢复所需的测量数量的精确界限。在标准稀疏的特殊情况下,我们的结果提高了一个界限,由于Rudelson和Vershynin关于精确重建稀疏信号从高斯测量相对于常数,并将其扩展到稳定性下通过近似稀疏信号和噪声下的测量的鲁棒性。
2014-11-03 cs.IT math.IT