Oracle-order Recovery Performance of Greedy Pursuits with Replacement against General Perturbations
在实际应用中,压缩感知理论总是考虑到各种扰动。本文分析了当观测向量和感知矩阵都受到加性扰动污染时,带替换的贪婪追踪算法对稀疏恢复的恢复性能。具体地,具有替换的贪婪追踪包括三种算法,压缩采样匹配追踪(CoSaMP)、子空间追踪(SP)和迭代硬阈值(IHT),其中在每次迭代中评估和更新支持度估计。在可压缩信号的一般扰动下,基于约束等距性,给出了这些恢复算法的误差界的统一形式。结果表明,恢复性能是稳定的对这两个扰动。此外,这些界限进行了比较,与预言恢复-最小二乘解决方案与一些最大的项目的位置在幅度已知的先验。比较结果表明,在一定的信号和扰动条件下,这些算法的误差界与预言恢复的下界仅在系数上有差别,这表明带替换的贪婪追踪的预言恢复性能是有保证的.数值模拟验证了结论。
2013-03-09 cs.IT math.IT
Decentralized Subspace Pursuit for Joint Sparsity Pattern Recovery
针对分布式网络中的联合稀疏模式恢复问题,提出了一种分布式协同子空间追踪算法(DCSP)。DCSP的基本思想是在标准子空间追踪算法的每次迭代中嵌入节点间的协作和融合策略。在DCSP中,每个节点通过共享高维系数估计与其多个邻居协作,并通过交换低维支持集估计与其他远程节点通信。实验结果表明,与现有的几种稀疏模式恢复算法相比,DCSP算法在稀疏模式恢复的准确性方面取得了令人满意的结果,且通信开销小得多。
2014-03-06 cs.IT math.IT
Sparse Subspace Clustering via Two-Step Reweighted L1-Minimization: Algorithm and Provable Neighbor Recovery Rates
稀疏子空间聚类(SSC)依赖于稀疏回归来精确识别邻居。受压缩感知最新进展的启发,本文提出了一种新的基于两步重加权$\ell_1$ -最小化的SSC稀疏回归算法,该算法推广了E. J. Candès et al in [The Annals of Statistics,vol. 42,no. 2,pp. 669-699,2014],而不会引起额外的算法复杂度。为了充分利用在第一步中计算的稀疏表示向量提供的先验信息,我们的方法对回归向量的每个分量放置权重,并在第二步中求解加权LASSO。我们提出了一个数据加权规则,适用于提高邻居识别精度。然后,在加权LASSO对偶问题的框架下,深入研究了该方案的理论邻居恢复率。具体而言,一个有趣的连接之间的位置的最优稀疏解加权LASSO和指数的对偶问题的主动约束。然后,在半随机模型下,推导了各种邻居恢复事件的解析概率上/下限。我们的分析结果证实,在数据加权的帮助下,如果先验邻居信息是足够准确的,所提出的方案具有更高的概率可以产生许多正确的邻居和一些不正确的邻居相比,没有数据加权的解决方案。计算机模拟提供了验证我们的分析研究和证据所提出的方法的有效性。
2019-07-17 cs.IT math.IT
Exact Recovery of Sparse Signals via Orthogonal Matching Pursuit: How Many Iterations Do We Need?
正交匹配追踪(OMP)是一种广泛应用于从压缩测量中恢复稀疏信号的贪心算法。在本文中,我们分析了OMP算法进行精确恢复稀疏信号所需的迭代次数。我们的分析表明,OMP可以准确地恢复所有的$K$稀疏信号的$\lceil 2.8 K \rceil$迭代时,测量矩阵满足限制等距属性(RIP)。我们的结果改进了张的结果,也弥补了张的结果和OMP的基本极限之间的差距,在该极限下$K$ -稀疏信号的精确恢复不能得到一致的保证。
2016-02-20 cs.IT math.IT
Recovery of Block-Sparse Representations from Noisy Observations via Orthogonal Matching Pursuit
我们研究的问题,从噪声损坏的测量块稀疏信号的稀疏模式的恢复。一个简单,有效的恢复方法,即块版本的正交匹配追踪(OMP)的方法,被认为是本文和它的行为恢复块稀疏模式进行了分析。我们提供了充分的条件下,块版本的OMP可以成功地恢复块稀疏表示存在噪声。我们的分析表明,利用块稀疏性可以提高恢复能力,并导致保证恢复更高的稀疏水平。数值结果证实了我们的理论主张。
2011-09-26 cs.IT math.IT
Compressed Sensing Signal Recovery via Forward-Backward Pursuit
从压缩测量中恢复稀疏信号构成了l0范数最小化问题,这是不切实际的解决。一些稀疏恢复方法已经出现在文献中,包括l1最小化技术,贪婪追求算法,贝叶斯方法和非凸优化技术等。本文介绍了一种新颖的两阶段贪婪方法,称为向前向后追踪(FBP)。FBP是一种迭代方法,其中每次迭代由连续的向前和向后阶段组成。前向步骤首先通过前向步长扩展支持估计,而随后的后向步骤通过后向步长缩小支持估计。前向步长大于后向步长,因此在每次迭代结束时扩展初始空支持度估计。迭代向前和向后步骤,直到观察向量的残余功率下降到阈值以下。与子空间追踪或压缩采样匹配追踪算法相比,FBP的这种结构不需要先验地知道稀疏水平。FBP恢复性能证明通过模拟,包括恢复随机稀疏信号与不同的非零系数分布在噪声和无噪声的情况下,除了恢复稀疏图像。
2013-07-06 cs.IT math.IT
On The Exact Recovery Condition of Simultaneous Orthogonal Matching Pursuit
在过去的几年中,已经开发了几种精确恢复准则(ERC),以确保正交匹配追踪(OMP)识别稀疏信号的正确支持。这些ERC依赖于限制等距属性(RIP),相关的限制等距常数(RIC),有时限制正交常数(ROC)。在本文中,三个最新的ERC OMP进行了检查。的贡献是表明,这些ERC仍然有效的推广OMP,同时正交匹配追求(SOMP),这是能够同时处理几个测量向量,并返回一个共同的支持估计的基础稀疏向量。的界限的清晰度也简要讨论了以往的作品集中在OMP。
2015-12-15 cs.IT math.IT
A* Orthogonal Matching Pursuit: Best-First Search for Compressed Sensing Signal Recovery
压缩感知是一个正在发展的领域,其目标是在降维的情况下重建稀疏信号,这使得恢复过程欠确定。由于稀疏性,所需的解是具有最小$\ell_0$范数的解,然而解决$\ell_0$最小化问题是不实际的。常用的技术包括$\ell_1$最小化,例如基追踪(BP)和贪婪追踪算法,例如正交匹配追踪(OMP)和子空间追踪(SP)。本文提出了一种新的半贪婪恢复方法,即A* 正交匹配追踪(A*OMP)。A*OMP执行A* 搜索,在路径生长类似于正交匹配追踪(OMP)算法的树上寻找稀疏解。树上的路径根据成本函数进行评估,该成本函数应补偿不同的路径长度。为此,定义了三种不同的辅助结构,包括新颖的动态结构。A*OMP还结合了修剪技术,使算法的实际应用。此外,可调整的搜索参数提供了用于复杂度-准确度折衷的手段。我们证明了所提出的方案的重建能力,综合生成的数据和图像使用高斯和伯努利观测矩阵,其中A*OMP产生更少的重建误差和更高的准确恢复频率比BP,OMP和SP。结果还表明,新的动态成本函数提供了改进的结果相比,传统的选择。
2012-03-14 cs.IT math.IT
Sparse Recovery with Orthogonal Matching Pursuit under RIP
本文对正交匹配追踪(OMP)算法进行了新的分析。证明了在稀疏度为$O(\bar{k})$的情况下,若满足约束等距性(RIP),则OMP可以恢复2-范数下的$\bar{k}$ -稀疏信号.对于压缩感测应用,该结果意味着为了在$\Real^d$中均匀地恢复$\bar{k}$稀疏信号,仅需要$O(\bar{k} \ln d)$随机投影。该分析改进了OMP的早期结果,这些结果依赖于更强的条件,例如只能用$Ω(\bar{k}^2 \ln d)$随机投影满足的互不相干性。
2011-06-03 cs.IT math.IT
A New Analysis for Support Recovery with Block Orthogonal Matching Pursuit
压缩感知(Compressed Sensing,CS)是一种能够从线性测量中精确恢复稀疏信号的信号处理技术,其测量次数远少于经典Shannon-Nyquist定理所要求的测量次数。阻塞稀疏信号,即,其非零系数出现在几个块中的稀疏信号产生于许多场。块正交匹配追踪(BOMP)算法是一种高效的块稀疏信号恢复贪心算法。BOMP算法充分利用了块稀疏信号的块稀疏性,可以获得很好的恢复性能。本文提出了一个充分条件,以确保BOMP可以准确地恢复块$K$稀疏信号的支持在噪声的情况下。这个条件比现有的条件好。
2018-11-06 cs.IT math.IT
On Probability of Support Recovery for Orthogonal Matching Pursuit Using Mutual Coherence
在本文中,我们提出了一种新的基于相干性的正交匹配追踪(OMP)算法的性能保证。导出了在加性高斯白噪声下正确识别稀疏信号支撑的概率下界。与以前的工作相比,新的界限考虑了信号参数,如动态范围,噪声方差和稀疏性。数值模拟表明,显着的改进,以前的工作和更接近的匹配经验获得的结果的OMP算法。
2017-09-27 cs.IT math.IT
A sharp recovery condition for block sparse signals by block orthogonal multi-matching pursuit
我们考虑块正交多匹配追踪(BOMMP)算法恢复块稀疏信号。在无噪声情况下,基于块限制等距常数(块RIC),通过BOMMP算法获得块$K$稀疏信号的精确重建的尖锐界限。此外,我们表明,结合最小$\ell_2$范数的块$K-$稀疏信号的非零块的一个额外的条件的尖锐的界是足够的恢复块$K$ -稀疏信号的BOMMP在噪声的情况下的真正支持。我们在本文中获得的结果的意义在于,明确使用块稀疏信号的块稀疏性可以实现更好的恢复性能,而不是在传统意义上忽略问题中的附加结构。
2016-07-11 cs.IT math.IT
Support Recovery with Orthogonal Matching Pursuit in the Presence of Noise: A New Analysis
从压缩线性测量中恢复稀疏信号是压缩感知(CS)中的一个基本问题。本文研究了噪声背景下支持度恢复的正交匹配追踪(OMP)算法。我们考虑两种信噪比(SNR)设置:i)SNR取决于输入信号的稀疏水平$K$,以及ii)SNR是与$K$无关的绝对常数。对于第一个设置,我们建立了必要和充分条件的确切支持恢复OMP,表示为SNR的下限。我们的研究结果表明,为了确保精确的支持恢复所有$K$稀疏信号的OMP算法,信噪比必须至少与稀疏水平$K$的线性比例。在第二种设置中,由于不满足SNR的必要条件,因此不可能使用OMP进行精确的支持恢复。然而,我们的分析表明,恢复一个任意小的,但恒定比例的错误是可能的OMP算法。这一结果可能是有用的一些实际应用中,获得一些大部分的支持位置是足够的。
2015-01-20 cs.IT math.IT
An Improved RIP-Based Performance Guarantee for Sparse Signal Recovery via Orthogonal Matching Pursuit
最近报道的一个充分条件是,通过正交匹配追踪(OMP)在K次迭代中完美恢复K-稀疏向量的传感矩阵的限制等距常数满足delta_K+1<1/(sqrt(delta_K+1)+1)。通过利用由压缩时两个正交稀疏向量之间的可实现角度表征的近似正交条件,本文表明,delta的上限可以进一步放宽至delta_K+1<(sqrt(1+4*delta_K+1)-1)/(2K)。因此,该结果缩小了迄今为止最佳已知界限与最终性能保证delta_K+1<1/(2K)之间的差距。(sqrt(delta_K+1)),这是Dai和Milenkovic在2009年提出的。所提出的近似正交性条件也被利用来导出在几个压缩感知问题中用于信号重构的较少限制的充分条件,包括在噪声环境中通过OMP的信号恢复、压缩域干扰消除以及通过子空间追踪算法的支持识别。
2014-01-03 cs.IT math.IT
Performance of Orthogonal Matching Pursuit for Multiple Measurement Vectors
本文研究了多测量向量(MMV)问题的正交匹配追踪(OMP)算法。研究了OMPMMV在一般扰动下的鲁棒性问题--当观测向量和传感矩阵都含有加性噪声时。主要结果表明,虽然精确的恢复稀疏的解决方案是不现实的噪声的情况下,恢复的支持集的解决方案是有保证的适当的条件。具体地说,一个充分条件,推导出保证精确恢复的稀疏解决方案在无噪声的情况下。
2011-09-29 cs.IT math.IT
Multiple Choice Hard Thresholding Pursuit (MCHTP) for Simultaneous Sparse Recovery and Sparsity Order Estimation
我们解决的问题,稀疏恢复使用贪婪压缩感知恢复算法,没有明确的知识的稀疏性。估计稀疏度阶数在许多实际场景中是一个至关重要的问题,例如,无线通信,其中未知信道的稀疏阶的精确值可能先验不可用。在本文中,我们提出了一种新的贪心算法,称为多选择硬阈值追踪(MCHTP),它修改了流行的硬阈值追踪(HTP)适当迭代恢复未知稀疏向量以及未知向量的稀疏顺序。我们提供了可证明的性能保证,确保MCHTP可以估计稀疏顺序准确,以及恢复未知的稀疏向量准确无噪声测量。仿真结果证实了理论研究结果,表明,即使没有确切的稀疏性知识,只有一个松散的上界的稀疏性的知识,MCHTP表现出突出的恢复性能,这是几乎相同的传统HTP与精确的稀疏性知识。此外,仿真结果表明,低得多的计算复杂性的MCHTP相比,其他国家的最先进的技术,如MSP。
2022-10-25 cs.IT math.IT
Weighted algorithms for compressed sensing and matrix completion
本文研究了压缩感知和矩阵完备问题的迭代重加权基追踪算法。在第一部分中,我们给出了一个理论解释的事实,重新加权基追踪可以改善基追踪在压缩感知的准确恢复了很多。我们展示了一个条件,链接的RIP和不相干常数的权重的准确性,这确保了准确的恢复。在第二部分中,我们介绍了一个新的算法矩阵完成,基于迭代加权的思想。由于加权核“范数”通常是非凸的,因此它不能容易地用作目标函数。因此,我们定义了一个新的估计的基础上的不动点方程。我们给出了经验证据的事实,这种新的算法导致强大的改进核模最小化的模拟和真实的矩阵完成问题。
2011-07-08 cs.IT math.IT math.ST
Exact Recovery for Sparse Signal via Weighted $l_1$ Minimization
压缩感知文献中的数值实验表明,重新加权的$l_1$最小化在恢复稀疏信号方面表现得非常好。本文从经典的零空间性质(NSP)和限制等距常数(RIC)界出发,给出了加权$l_1$最小化方法恢复稀疏信号的精确条件和算法。本文首先引入加权零空间性质的概念,并揭示了它是精确恢复的充分必要条件。然后,我们证明了RIC界加权$l_1$最小化是$δ_{ak}<\sqrt{\frac{a-1}{a-1+γ^2}}$,其中$a>1$,$0<γ\leq1$是由零空间上的优化问题。当$γ< 1$时,该界限大于来自$l_1$最小化的$\sqrt{\frac{a-1}{a}}$。此外,我们还建立了$δ_k$的上界,并证明了在某些情况下,通过$l_1$最小化,它可以大于尖锐的上界1/3,通过加权$l_1$最小化,它也可以大于0.4343.最后,基于权值选择原则,我们实现了一种改进的迭代加权$l_1$极小化(MIRL 1)算法,数值实验表明,该算法的性能明显优于$l_1$极小化和迭代加权$l_1$极小化(IRL 1)算法.
2014-06-15 cs.IT math.IT
Super-Resolution Compressed Sensing: A Generalized Iterative Reweighted L2 Approach
传统的压缩感知理论假设信号在已知的有限字典中具有稀疏表示。然而,在许多实际应用中,如波达方向(DOA)估计和线性谱估计,稀疏字典通常是由一组未知参数在一个连续的域。为了将传统的压缩感知技术应用于此类应用,必须将连续参数空间离散化为有限的网格点集,基于该网格点集构建用于稀疏信号恢复的“假定字典”。然而,离散化不可避免地会引起误差,因为真实参数不一定位于离散化网格上。这种错误也称为网格不匹配,可能导致恢复性能恶化甚至恢复失败。为了解决这个问题,在本文中,我们提出了一个广义的迭代加权L2方法,联合估计稀疏信号和未知参数与真正的字典。该算法通过迭代减少优化给定目标函数的代理函数,从而形成一个渐进的交织迭代过程来细化未知参数和稀疏信号。一个简单而有效的计划开发自适应更新的正则化参数,控制之间的折衷的解决方案和数据拟合误差的稀疏性。扩展所提出的算法的多个测量矢量的情况下也被认为是。数值结果表明,该算法实现了超分辨率精度,并显示出优于其他现有方法。
2014-12-18 cs.IT math.IT
A sharp recovery condition for sparse signals with partial support information via orthogonal matching pursuit
本文考虑了$k$ -稀疏信号的精确恢复在无噪声设置和支持恢复在有噪声的情况下,当一些先验信息支持的信号是可用的。这种事先支持包括两个部分。一部分是真支撑的子集,另一部分在真支撑之外。对于$k$ -稀疏信号$\mathbf{x}$,其先验支持由$g$真索引和$b$错索引组成,证明了如果感知矩阵$\mathbf{A}$的约束等距常数(RIC)$δ_{k+b+1}$满足\begin{eqnarray*} δ_{k+b+1}<\frac{1}{\sqrt{k-g+1}}, \end{eqnarray*},则正交匹配追踪(OMP)算法可以在$k-g$迭代中从$\mathbf{y}=\mathbf{Ax}$中完美地恢复信号$\mathbf{x}$.此外,我们还证明了上述关于RIC的充分条件是尖锐的。在噪声的情况下,我们实现了在适当的条件下从$\mathbf{y}=\mathbf{Ax}+\mathbf{v}$的$k$ -稀疏信号$\mathbf{x}$的剩余支持(在先前支持之外的真实支持的部分)的精确恢复。对于剩余支持恢复,我们也得到了一个必要条件的基础上的最小幅度的部分非零元素的信号$\mathbf{x}$。
2017-06-29 cs.IT math.IT
Thresholding Greedy Pursuit for Sparse Recovery Problems
我们在这里研究稀疏恢复问题的存在下,加性噪声。我们分析了一个阈值版本的CoSaMP算法,命名为贪婪的追求(TGP)。我们表明,适当的阈值参数的选择,即使没有知识的稀疏水平的信号和噪声的强度,可以导致准确的恢复没有错误的发现,因为数据的维数增加到无穷大。
2021-03-17 cs.IT eess.SP math.IT
Exact Sparse Signal Recovery via Orthogonal Matching Pursuit with Prior Information
正交匹配追踪(OMP)算法是用于从线性模型$\y=\A\x$恢复$K$-稀疏信号$\x\in \mathbb{R}^{n}$的常用算法,其中$\A\in \mathbb{R}^{m\times n}$是感测矩阵。OMP算法性能分析中的一个基本问题是对随机矩阵$\A$精确恢复$\x$的概率的刻画。尽管在许多实际应用中,除了稀疏性之外,$\x$通常还具有一些附加的性质(例如,$\x$的非零项独立且同分布地服从高斯分布),但现有的分析都没有使用这些性质来回答上述问题。在本文中,我们首先表明,$\x$的先验分布信息可以用来提供一个上界的$\|\x\|_1^2/\|\x\|_2^2$,然后探索界开发一个更好的下界的概率与OMP在$K$迭代的确切恢复。仿真实验表明了新界的优越性。
2019-04-20 cs.IT math.IT
Harmonic Mean Iteratively Reweighted Least Squares for Low-Rank Matrix Recovery
Technische Universität München(慕尼黑工业大学)
本文提出一种新的迭代加权最小二乘算法,用于从不完整线性观测中恢复低秩矩阵,通过解决一系列低复杂度线性问题,实现低秩性促进,并在矩阵补全中表现出优异的全局收敛性、恢复概率和局部超线性收敛速度。
2018-02-27 cs.IT cs.NA math.IT
Recovery of Sparse Signals via Generalized Orthogonal Matching Pursuit: A New Analysis
广义正交匹配追踪(gOMP)作为正交匹配追踪(OMP)的一种扩展,可以提高稀疏信号的恢复性能。在本文中,我们提出了一个新的分析gOMP算法使用限制等距属性(RIP)。我们表明,如果测量矩阵$\mathbfΦ \in \mathcal{R}^{m \times n}$满足RIP与$$δ_{\max \left\{9, S + 1 \right\}K} \leq \frac{1}{8},$$,那么gOMP执行稳定的重建所有$K$稀疏信号$\mathbf{x} \in \mathcal{R}^n$从噪声测量$\mathbf{y} = \mathbf{Φx} + \mathbf{v}$在$\max \left\{K, \left\lfloor \frac{8K}{S} \right\rfloor \right\}$迭代,其中$\mathbf{v}$是噪声向量和$S$是在gOMP算法的每次迭代中选择的索引的数量。对于高斯随机测量,我们的研究结果表明,所需的测量的数量基本上是$m = \mathcal{O}(K \log \frac{n}{K})$,这是一个显着的改进,在现有的结果$m = \mathcal{O}(K^2 \log \frac{n}{K})$,特别是对于大的$K$。
2015-04-04 cs.IT math.IT
A Sharp Condition for Exact Support Recovery of Sparse Signals With Orthogonal Matching Pursuit
利用正交匹配追踪(OMP)从噪声测量中恢复稀疏信号的支持度已被广泛研究。在本文中,我们表明,对于任何$K$ -稀疏信号$\x$,如果传感矩阵$\A$满足具有限制等距常数(RIC)$δ_{K+1} < 1/\sqrt {K+1}$的阶$K + 1$的限制等距性质(RIP),则在对$\x$的非零元素的最小幅度的某种约束下,OMP算法精确地从$K$迭代中的测量值$\y=\A\x+\v$恢复$\x$的支持度,其中,$\v$是噪声向量。该条件在$δ_{K+1}$方面是尖锐的,因为对于任何给定的正整数$K\geq 2$和任何$1/\sqrt{K+1}\leq t<1$,总是存在$K$ -稀疏$\x$和满足$δ_{K+1}=t$的矩阵$\A$,对于该矩阵,OMP可能无法在$K$迭代中恢复信号$\x$。此外,对$\x$的非零元素的最小幅度的约束比现有的结果弱。
2018-07-10 cs.IT math.IT
Greedy Subspace Pursuit for Joint Sparse Recovery
在本文中,我们解决稀疏多测量向量(MMV)的问题,其目标是恢复一组稀疏的非零行向量或指数的信号矩阵不完整的测量。理想情况下,不管信号矩阵中的列数如何,稀疏度(k)加一个测量值对于几乎所有信号的信号向量的均匀恢复是足够的,即,不包括勒贝格测度为零的集合。为了在信号矩阵秩小于k的情况下仍能以较高的计算效率逼近“k+1”下界,本文提出了一种称为两阶段正交子空间匹配追踪(TSMP)的贪心算法,其理论结果比正交子空间匹配追踪(OSMP)和子空间增强多信号分类(SA-MUSIC)算法在更少的限制条件下逼近下界.我们提供非渐近的OSMP和TSMP的性能保证,覆盖无噪声和噪声的情况下。约束等距属性和互相关的变体被用来提高性能保证。数值模拟表明,该方案具有较低的复杂度,并优于大多数现有的贪婪方法。这表明,随着信号矩阵列数的增加,TSMP成功的最小测量次数比现有方法更快地收敛到下界。
2016-01-26 cs.IT math.IT
2D Sparse Signal Recovery via 2D Orthogonal Matching Pursuit
恢复算法在压缩采样(CS)中起着关键作用。现有的CS恢复算法大多是针对一维信号设计的,而实际应用中的信号大多是二维信号。通过利用二维可分离采样,二维信号恢复问题可以转化为一维信号恢复问题,从而可以直接应用普通的一维信号恢复算法,如正交匹配追踪(OMP)。然而,即使使用2D可分离采样,解码器处的存储器使用和复杂度仍然很高。本文提出了一种新的恢复算法称为2D-OMP,这是一个扩展的1D-OMP。在2D-OMP中,字典中的每个原子都是一个矩阵。在每次迭代中,解码器将样本矩阵投影到2D原子上以选择最佳匹配的原子,然后通过最小二乘法更新所有已选择原子的权重。我们表明,2D-OMP实际上相当于1D-OMP,但它降低了恢复的复杂性和内存使用显着。更重要的是,通过利用本文中使用的相同的方法,人们甚至可以获得更高维的OMP(如3D-OMP等)。轻松地。
2011-04-26 cs.IT cs.MM math.IT
Decentralized and Collaborative Subspace Pursuit: A Communication-Efficient Algorithm for Joint Sparsity Pattern Recovery with Sensor Networks
在本文中,我们考虑的问题,联合稀疏模式恢复在分布式传感器网络。假设所有节点观测到的稀疏多测量矢量信号(MMVs)具有共同的(但未知的)稀疏模式。为了以分散的方式准确地恢复常见的稀疏模式,同时降低网络的通信开销,我们开发了一种名为分散和协作子空间追踪(DCSP)的算法。在DCSP中,每个节点需要在每次迭代中执行三种操作:1)通过找到其测量向量最可能位于的子空间来估计局部稀疏模式; 2)与单跳相邻节点共享其局部稀疏模式估计;以及3)通过基于多数投票的融合在其邻域中获得的所有局部稀疏模式估计来更新最终的稀疏模式估计。证明了DCSP的收敛性,并定量分析了其通信开销。我们还提出了另一种分散的算法,称为广义DCSP(GDCSP),允许更多的信息交换相邻节点之间,以进一步提高稀疏模式恢复的准确性,在增加通信开销的成本。实验结果表明:1)与现有的分散式算法相比,DCSP算法在通信开销相当的情况下,稀疏模式恢复的准确率更高; 2)GDCSP算法的准确率与集中式算法非常接近。
2016-01-18 cs.IT math.IT
A Sharp Condition for Exact Support Recovery of with Orthogonal Matching Pursuit
利用正交匹配追踪(OMP)从噪声测量中恢复稀疏信号的支持度已被广泛研究。在本文中,我们表明,对于任何$K$ -稀疏信号$\x$,如果一个传感矩阵$\A$满足约束等距性质(RIP)与约束等距常数(RIC)$δ_{K+1} < 1/\sqrt {K+1}$,那么在一定的约束下的最小幅度的非零元素的$\x$,OMP准确地恢复支持$\x$从它的测量$\y=\A\x+\v$在$K$迭代,其中$\v$是$\ell_2$或$\ell_{\infty}$有界的噪声向量。该充分条件在$δ_{K+1}$方面是尖锐的,因为对于任何给定的正整数$K$和任何$1/\sqrt{K+1}\leq δ<1$,总是存在满足具有$δ_{K+1}=δ$的RIP的矩阵$\A$,对于该矩阵,OMP在$K$迭代中不能恢复$K$稀疏信号$\x$。此外,我们的约束的最小幅度的非零元素的$\x$是弱于现有的。此外,我们提出了最坏情况下的必要条件的确切支持恢复的$\x$,其特征在于由最小幅度的非零元素的$\x$。
2017-12-15 cs.IT math.IT
Structure-Constrained Basis Pursuit for Compressed Sensing
在压缩感知(CS)理论中,当样本的数量减少到最小阈值以下时,恢复的平均误差增加。为了保证重建质量,需要足够的采样,或者可以接受误差。然而,大多数CS的工作并没有利用固有的结构,在各种信号相关的工程应用。因此,本文提出了一种新的恢复建立在基追踪(BP),称为结构约束基追踪(SCBP),约束信号的基础上已知的结构,而不是通过额外的采样。该方法对语音音素/aa/的TIMIT记录的初步评估显示错误大幅减少:使用固定的5:1压缩比,平均恢复错误比vanilla BP低23.8%。更重要的是,这种方法可以应用于任何采样结构化数据(如FSK波形、语音和音调)的CS应用。在这些情况下,可以达到更高的压缩比,具有可比的误差。
2015-10-12 cs.IT math.IT
Minimum Complexity Pursuit: Stability Analysis
许多问题涉及从降维表示(如随机投影)中恢复结构化信号;示例包括稀疏信号(压缩感知)和低秩矩阵(矩阵完成)。考虑到迄今为止开发的各种不同的恢复算法,很自然地会问是否存在用于从线性投影中恢复“结构化”信号的“通用”算法。我们最近在无噪声环境中肯定地回答了这个问题。在本文中,我们将我们的结果的情况下,噪声测量。
2012-05-21 cs.IT math.IT
Perturbation Analysis of Orthogonal Matching Pursuit
正交匹配追踪(OMP)算法是一种典型的稀疏近似贪婪追踪算法.以前的OMP研究主要考虑通过$\bm Φ$和$\bm y=\bm Φ\bm x$精确恢复稀疏信号$\bm x$,其中$\bm Φ$是列数多于行数的矩阵。本文基于约束等距性(RIP),分析了OMP在一般扰动下的性能,即$\bm y$和$\bm Φ$同时受到扰动。虽然精确恢复几乎稀疏的信号$\bm x$不再是可行的,主要的贡献表明,在合理的条件下,可以保证$k$的最大幅度条目的位置的精确恢复$\bm x$。并估计了$\bm x$与OMP解之间的误差。通过构造一个例子,证明了该充分条件的严格性.当$\bm x$是强衰减的时,证明了充分条件可以放宽,甚至可以恢复到条目数量级的位置。
2013-03-09 cs.IT math.IT
Denoising and Completion of Structured Low-Rank Matrices via Iteratively Reweighted Least Squares
我们提出了一种新的迭代重加权最小二乘(IRLS)算法的问题,完成或去噪低秩矩阵的结构,例如,其具有汉克尔、托普利茨或块-汉克尔/托普利茨结构。该算法通过求解一系列二次问题,基于秩的非凸代理来优化目标。我们的策略结合了计算效率,因为它在结构化矩阵的低维生成器空间上操作,具有高统计精度,这可以在硬估计和完成任务的实验中观察到。我们的实验表明,所提出的算法StrucHMIRLS表现出经验恢复概率接近1,从更少的样本比国家的最先进的汉克尔矩阵完成任务所产生的频谱超分辨率的问题严重分离的频率。此外,我们解释了所提出的算法结构化的低秩恢复可以被用来作为预处理步骤,提高鲁棒性的频率或线性频谱估计问题。
2018-11-19 cs.IT math.IT math.OC
Fast Correlation Computation Method for Matching Pursuit Algorithms in Compressed Sensing
已经有许多处理稀疏信号恢复问题的匹配追踪算法(MPA),也称为。压缩感知(CS)。在MPA中,相关性计算步骤具有主导的计算复杂性。在这封信中,我们提出了一个新的快速相关计算方法时,我们使用了几类部分酉矩阵作为传感矩阵。这些部分酉矩阵包括部分傅立叶矩阵和部分Hadamard矩阵,它们是流行的传感矩阵。建议的相关计算方法可以适用于几乎所有的MPA,而不会导致任何退化的恢复性能。并且,对于大多数实际参数,所提出的方法可以大大降低MPA的计算复杂性。
2012-05-18 cs.IT math.IT
Signal-Dependent Performance Analysis of Orthogonal Matching Pursuit for Exact Sparse Recovery
从线性测量$y=Ax$精确恢复$K$ -稀疏信号$x \in \mathbb{R}^{n}$,其中$A\in \mathbb{R}^{m\times n}$是感测矩阵,由许多应用引起。正交匹配追踪(OMP)算法被广泛用于重建$x$。OMP性能分析中的一个基本问题是随机矩阵$A$和最小$m$的$x$的精确恢复概率的特征,以保证目标恢复性能。在许多实际应用中,除了稀疏性之外,$x$还具有一些额外的属性。本文表明,这些属性可以用来完善上述问题的答案。在本文中,我们首先表明,$x$的非零项的先验信息可以用来提供一个上界的$\|x\|_1^2/\|x\|_2^2$。然后,我们使用这个上限开发一个下界的概率$x$使用OMP在$K$迭代的精确恢复。此外,我们开发了一个下界的测量$m$的数量,以保证使用$K$迭代的OMP的确切的恢复概率不小于给定的目标概率。最后,我们表明,当$K=O(\sqrt{\ln n})$,$n$和$K$都趋于无穷大时,对于任何$0<ζ\leq 1/\sqrtπ$,$m=2K\ln (n/ζ)$测量足以确保精确恢复任何$K$ -稀疏$x$的概率不低于OMP的$K$迭代的$1-ζ$。对于$K$ -稀疏$α$ -强衰减信号和$K$ -稀疏$x$,其非零项独立且相同地遵循高斯分布,足以以不低于$1-ζ$的概率进行精确恢复的测量的数量分别进一步减少到$m=(\sqrt{K}+4\s…
2020-08-12 cs.IT math.IT
Fusion of Greedy Pursuits for Compressed Sensing Signal Reconstruction
贪婪追踪算法是压缩感知中稀疏信号恢复的一种常用算法。虽然许多贪婪的追求具有优雅的理论保证的性能,它是众所周知的,它们的性能取决于稀疏信号中的非零元素的统计分布。在实践中,稀疏信号的分布可能不是先验已知的。它还观察到,贪婪的追求的性能下降,可用的测量值的数量从一个阈值,这是方法相关的减少。为了提高在这些情况下的性能,我们引入了一个新的融合框架贪婪的追求,也提出了两个算法稀疏恢复。通过蒙特卡罗模拟,我们表明,所提出的计划,提高稀疏信号恢复干净,以及噪声测量的情况下。
2012-06-19 cs.IT math.IT stat.AP
Online Recovery Guarantees and Analytical Results for OMP
正交匹配追踪(OMP)是一个简单的,但经验上有竞争力的稀疏恢复算法。最近的发展表明,OMP保证精确恢复K-稀疏信号与K或K个以上的迭代,如果观察矩阵满足限制等距属性(RIP)的某些条件。我们开发了基于RIP的在线保证K-稀疏信号的恢复超过K OMP迭代。虽然这些保证不能推广到所有稀疏信号的先验,我们表明,他们仍然可以保持在线时,最先进的K步恢复保证失败。此外,我们提出了正确的和错误的指数的数量上的界限,在支持估计的派生条件是限制性较低的K-步保证。在这些界限下,该条件保证在3 K/2次迭代内精确恢复K稀疏信号,这远小于现有技术的具有多于K步的精确恢复保证所需的步数。此外,我们提出的OMP的相变相比,基础追求和子空间追求,这是经过广泛的恢复模拟,涉及不同的稀疏信号类型。最后,我们实证分析的支持估计,这表明这些不违反开发的上限在实践中的假指标的数量。
2013-03-29 cs.IT math.IT
Joint Sparse Recovery Using Signal Space Matching Pursuit
本文提出了一种新的联合稀疏恢复算法--信号空间匹配追踪算法(SSMP)。SSMP算法的核心思想是依次研究联合稀疏向量的支持度,以最小化子空间到残差空间的距离。我们的性能保证分析表明,SSMP准确地重建任何行$K$ -稀疏矩阵的秩$r$在满行秩的情况下,如果采样矩阵$\mathbf{A}$满足$\text{krank}(\mathbf{A}) \ge K+1$,这满足基本的最低要求$\mathbf{A}$,以确保准确的恢复。我们还表明,SSMP保证在大多数$K-r+\lceil \frac{r}{L} \rceil$迭代的准确重建,只要$\mathbf{A}$满足限制等距属性(RIP)的顺序$L(K-r)+r+1$与$$δ_{L(K-r)+r+1} < \max \left \{ \frac{\sqrt{r}}{\sqrt{K+\frac{r}{4}}+\sqrt{\frac{r}{4}}}, \frac{\sqrt{L}}{\sqrt{K}+1.15 \sqrt{L}} \right \},$$,其中$L$是在每次迭代中选择的索引的数量。这意味着当$r$增加时,对RIP常数的要求变得不那么严格。这种行为似乎是自然的,但尚未报道的大多数常规方法。我们进一步表明,如果$r=1$,那么通过运行更多的$K$迭代,SSMP的性能保证可以提高到$δ_{\lfloor 7.8K \rfloor}…
2020-03-09 cs.IT math.IT
Exact Reconstruction Conditions for Regularized Modified Basis Pursuit
在这封信中,我们得到了精确的恢复条件正则化修改的基础上追求(reg-mod-BP),并讨论当所获得的条件是弱于修改CS或基础上追求(BP)。模拟比较也支持了讨论。Reg-mod-BP提供了一种解决稀疏恢复问题的方法,当信号支持度的错误估计(用$T$表示)和$T$上的信号值的错误估计都可用时。
2012-03-27 cs.IT math.IT stat.ML
Stable Cosparse Recovery via \ell_p-analysis Optimization
本文研究了用于余分析信号恢复的$\ell_p$分析优化($0<p\leq1$)问题.我们建立了一个界的恢复误差通过限制$p$ -等距性质的任何子空间。我们进一步证明了非凸的$\ell_q$分析优化可以做恢复与较低的样本复杂性和更广泛的范围内的cosparity比其凸对应。此外,我们开发了一个迭代重加权的方法来解决变分框架下的优化问题。初步的计算实验结果表明,非凸方法优于凸方法。
2018-08-22 cs.IT math.IT
On-Grid DOA Estimation Method Using Orthogonal Matching Pursuit
多个窄带相干或部分相干信源的波达方向估计是阵列信号处理中的一个主要难题。虽然文献中有许多基于子空间的算法,但它们都没有直接解决解决相干源的问题,例如不修改样本数据协方差矩阵。基于压缩感知(CS)的稀疏恢复算法作为一种新的技术被应用于这一领域。本文将正交匹配追踪(OMP)算法引入DOA估计问题。我们演示了如何DOA估计问题可以建模为稀疏恢复问题,然后利用OMP来获得DOA集。此外,该算法只使用一个快照来获得结果。仿真结果证明了OMP算法的有效性和优于现有的基于子空间的算法。
2018-01-25 cs.IT math.IT
Iteratively Reweighted $\ell_1$ Approaches to Sparse Composite Regularization
动机的观察,一个给定的信号$\boldsymbol{x}$承认稀疏表示在多个字典$\boldsymbolΨ_d$,但不同程度的稀疏字典,我们提出了两个新的算法重建(近似)稀疏信号从嘈杂的线性测量。我们的第一个算法Co-L1将著名的lasso算法从L1正则化器$\|\boldsymbol{Ψx}\|_1$扩展到$\sum_d λ_d \|\boldsymbolΨ_d \boldsymbol{x}\|_1$形式的复合正则化器,同时自调整正则化权重$λ_d$。我们的第二个算法,Co-IRW-L1,扩展了著名的迭代重加权L1算法的复合正则化相同的家庭。我们提供了两种算法的几种解释:i)适用于非凸对数和型惩罚的优化最小化(MM),ii)MM适用于近似$\ell_0$型惩罚,iii)MM适用于贝叶斯MAP推理下一个特定的分层先验,和iv)变分期望最大化(VEM)下一个特定的确定性未知参数的先验。一个详细的数值研究表明,我们提出的算法产生显着改善恢复SNR相比,他们的非复合L1和IRW-L1的同行。
2015-09-26 cs.IT math.IT
Compressive Phase Retrieval via Reweighted Amplitude Flow
从仅幅度测量(也称为,压缩相位恢复),自然出现在各种应用中,但它通常是NP-困难的。基于非凸优化的最新进展,本文提出了一种新的压缩相位恢复算法,称为压缩加权振幅流,简称CRAF。具体而言,CRAF分两个阶段运作。第一阶段寻求一个稀疏的初始猜测通过一个新的频谱过程。在第二阶段,CRAF实现了一些硬阈值的迭代使用重新加权梯度。当有足够的测量,CRAF可证明恢复的基础信号向量,在适当的条件下,具有高概率。此外,其样本的复杂性与最先进的程序相一致。最后,大量的模拟测试展示了显着的性能,新的频谱初始化,以及改进的精确恢复相对于竞争的替代品。
2017-12-15 cs.IT math.IT math.OC
Orthogonal Matching Pursuit: A Brownian Motion Analysis
Tropp和Gilbert的著名分析表明,正交匹配追踪(OMP)可以从通过随机高斯测量矩阵获得的4k log(n)无噪声线性测量恢复k稀疏n维实向量,其中当n接近无穷大时,概率接近1。这项工作加强了这一结果表明,较低数量的测量,2 k log(n-k),实际上是足够的渐近恢复。更一般地,当稀疏水平满足kmin <= k <= kmax但未知时,2 kmax log(n-kmin)测量就足够了。此外,如果信噪比(SNR)缩放到无穷大,则该测量数量也足以检测具有测量误差的矢量的稀疏模式(支持)。缩放2k log(n-k)精确地匹配用于具有类似SNR缩放的信号恢复的更复杂的套索方法所需的测量的数量。
2011-05-30 cs.IT math.IT
PhaseMax: Convex Phase Retrieval via Basis Pursuit
我们认为恢复(实值或复值)信号的幅度只有测量,称为相位恢复。我们制定相位恢复作为一个凸优化问题,我们称之为PhaseMax。与使用半定松弛并将相位恢复问题提升到更高维度的其他凸方法不同,PhaseMax是在原始信号维度中操作的“非提升”松弛。我们发现,PhaseMax的对偶问题是基追踪,这意味着相位恢复可以使用最初设计用于稀疏信号恢复的算法进行。我们开发了一个广泛的随机测量合奏的成功概率的PhaseMax的急剧下界,我们分析了测量噪声对解决方案的精度的影响。我们使用数值结果来证明我们的恢复保证的准确性,并展示了PhaseMax在实践中的有效性和局限性。
2018-01-30 cs.IT math.IT math.OC
Simultaneous Orthogonal Matching Pursuit With Noise Stabilization: Theoretical Analysis
本文研究了基于有限个噪声线性测量的相似稀疏向量的联合支持度恢复问题,在多测量向量(MMV)模型中。假设每个测量向量上的加性噪声信号是高斯的并且呈现不同的方差。同时正交匹配追踪(SOMP)算法被推广到每个测量向量的影响,根据其噪声水平的原子被挑选的选择。新算法被称为SOMP-NS,其中NS代表噪声稳定。首先,一个理论框架来分析所提出的算法的性能。然后,这个框架被用来建立保守的下限的概率部分或全部联合支持恢复。数值模拟表明,该算法优于SOMP和理论下限提供了一个很好的洞察SOMP-NS行为时,修改加权策略。
2015-06-17 cs.IT math.IT
Analysis and Synthesis Prior Greedy Algorithms for Non-linear Sparse Recovery
在这项工作中,我们解决的问题,恢复稀疏解的非线性反问题。我们看看两个变种的基本问题,合成前的问题时,解决方案是稀疏的和分析前的问题,解决方案是cosparse在一些线性基础。对于第一个问题,我们提出了正交匹配追踪(OMP)和CoSamp算法的非线性变体;对于第二个问题,我们提出了贪婪分析追踪(GAP)算法的非线性变体。我们经验性地测试我们的算法在指数和对数函数上的成功率。我们将超声斑点噪声的去噪建模为一个非线性稀疏恢复问题,并应用我们的方法进行求解,结果表明,我们的方法在超声斑点噪声的去噪方面优于现有的方法。
2015-12-24 cs.IT math.IT
Robust Sparse Signal Recovery with Outliers: A Hard Thresholding Pursuit Approach Based on LAD
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学学院);School of Mathematics and Statistics, Hubei Normal University(湖北师范大学数学与统计学学院)
本文提出了一种无需稀疏性先验的鲁棒稀疏信号恢复方法,通过LAD最小化和分级快速硬阈值追求算法,在异常值存在的情况下实现高效准确的信号恢复。
2026-03-06 cs.CV cs.IT math.IT
Stochastic Recovery Of Sparse Signals From Random Measurements
从少量随机测量中恢复稀疏信号是一个NP难的组合优化问题,在信号和图像处理中有着重要的应用。稀疏信号恢复问题的标准方法是基于基追踪方法。这种方法需要解决一个大的凸优化问题,因此具有很高的计算复杂度。在这里,我们讨论一个随机优化方法,作为一个低复杂度的替代基追踪方法。
2013-04-07 cs.IT math.IT physics.data-an
Sharp Sufficient Conditions for Stable Recovery of Block Sparse Signals by Block Orthogonal Matching Pursuit
在本文中,我们使用块正交匹配追踪(BOMP)算法从测量值$\y=\A\x+\v$恢复块稀疏信号$\x$,其中$\v$是$\ell_2$有界噪声向量(即,$\|\v\|_2\leq ε$(对于某个常数$ε$)。基于块约束等距性质(block-RIP),研究了块稀疏信号$\x$的精确(当$\v=\0$时)和稳定(当$\v\neq\0$时)恢复的充分条件.首先,一方面,我们表明,如果$\A$满足块RIP与$δ_{K+1}<1/\sqrt{K+1}$,那么每个块$K$稀疏信号$\x$可以在$K$迭代BOMP准确或稳定地恢复。另一方面,我们表明,对于任何$K\geq 1$和$1/\sqrt{K+1}\leq δ<1$,存在一个矩阵$\A$满足块RIP与$δ_{K+1}=δ$和块$K$ -稀疏信号$\x$,使BOMP可能无法恢复$\x$在$K$迭代。然后,我们研究了恢复块$α$ -强衰减$K$ -稀疏信号的一些充分条件。我们证明了如果$\A$满足块RIP与$δ_{K+1}<\sqrt{2}/2$,那么每个$α$ -强衰减块$K$ -稀疏信号可以在$α$上的某些条件下在$K$迭代中被BOMP精确或稳定地恢复。我们新发现的充分条件块RIP的$\A$的限制比$\ell_1$最小化这一类特殊的稀疏信号。此外,对于任何$K\geq 1$、$α>1$和$\sqrt{2}/2\leq δ<1$,$\x$的恢…
2018-05-14 cs.IT math.IT
Iterative Thresholding Pursuit with Continuation for $\ell_{1-2}$-Regularized Sparse Recovery
Tongji University(同济大学);Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能无人系统研究院)
提出一种结合延续策略的迭代阈值追踪方法(ITP-C),通过 $\ell_{1-2}$ 近端步的主动集识别和受限最小二乘追踪步的二阶更新,实现稀疏信号的高效恢复,并保证收敛性和局部 oracle 性质。
2026-06-04 cs.IT cs.NA math.IT
MAP Support Detection for Greedy Sparse Signal Recovery Algorithms in Compressive Sensing
Intel Labs(英特尔实验室);University of Texas at Austin(德克萨斯大学奥斯汀分校)
一个可靠的支持检测是必不可少的贪心算法从压缩和噪声测量准确地重建稀疏信号。提出了一种新的贪心算法支持度检测方法--\textit{maximum a posteriori (MAP) support detection}。不同于现有的支持检测方法,确定支持指数的幅度最大的相关值,每次迭代,所提出的方法选择他们的最大似然比计算下的真实和空的支持假设,同时利用传感矩阵,稀疏信号和噪声的分布。利用这种技术,MAP匹配追踪(MAP-MP)首次提出了利用建议的支持检测方法的优点,并推导出了一个充分条件时,稀疏信号是二进制的情况下,完美的信号恢复。随后,一组迭代的贪心算法,称为MAP-广义正交匹配追踪(MAP-gOMP),MAP-压缩采样匹配追踪(MAP-CoSaMP),和MAP-子空间追踪(MAP-SP),以证明所提出的支持检测方法现有的贪心算法的适用性。实验结果表明,所提出的贪心算法具有高可靠性的支持检测,可以更好,更快,更容易实现比通过线性规划的基追踪。
2016-01-28 cs.IT cs.LG math.IT
New Coherence and RIP Analysis for Weak Orthogonal Matching Pursuit
本文定义了一个新的词典相干性指标,即全局2-相干性,并研究了它与传统的互相干性和约束等距常数的关系。通过探索这种关系,我们得到了更一般的结果稀疏信号重建使用贪心算法的压缩感知(CS)框架。特别是,我们得到了一个改进的约束等距常数的最佳已知的结果,成功地恢复稀疏信号,使用正交匹配追踪(OMP)。
2014-05-14 cs.IT math.IT
Sparse approximation of multivariate functions from small datasets via weighted orthogonal matching pursuit
Simon Fraser University(西蒙菲莎大学)
本文提出了一种加权正交匹配追踪算法,用于从小数据集近似多变量函数,通过改进的贪心策略在保持精度的同时提高了计算效率。
2019-05-02 cs.IT cs.NA math.IT