Improved Analyses for SP and CoSaMP Algorithms in Terms of Restricted Isometry Constants
在压缩感知（CS）中，子空间追踪（SP）和压缩采样匹配追踪（CoSaMP）算法都是非常重要的迭代贪婪恢复算法，与著名的$\ell_1$ -最小化算法相比，它们可以大大降低恢复复杂度。测量矩阵的约束等距性（RIP）和约束等距常数（RIC）是保证迭代算法收敛性的关键。在本文中，我们表明，$s$稀疏恢复，RIC扩大到$δ_{3s}<0.4859$ SP和$δ_{4s}<0.5$ CoSaMP，这改善了已知的结果显着。所提出的结果也适用于几乎稀疏的信号和损坏的测量。
2013-09-24 cs.IT math.IT
A Sharp Condition for Exact Support Recovery of Sparse Signals With Orthogonal Matching Pursuit
利用正交匹配追踪（OMP）从噪声测量中恢复稀疏信号的支持度已被广泛研究。在本文中，我们表明，对于任何$K$ -稀疏信号$\x$，如果传感矩阵$\A$满足具有限制等距常数（RIC）$δ_{K+1} < 1/\sqrt {K+1}$的阶$K + 1$的限制等距性质（RIP），则在对$\x$的非零元素的最小幅度的某种约束下，OMP算法精确地从$K$迭代中的测量值$\y=\A\x+\v$恢复$\x$的支持度，其中，$\v$是噪声向量。该条件在$δ_{K+1}$方面是尖锐的，因为对于任何给定的正整数$K\geq 2$和任何$1/\sqrt{K+1}\leq t<1$，总是存在$K$ -稀疏$\x$和满足$δ_{K+1}=t$的矩阵$\A$，对于该矩阵，OMP可能无法在$K$迭代中恢复信号$\x$。此外，对$\x$的非零元素的最小幅度的约束比现有的结果弱。
2018-07-10 cs.IT math.IT
Sparse Recovery with Orthogonal Matching Pursuit under RIP
本文对正交匹配追踪（OMP）算法进行了新的分析。证明了在稀疏度为$O(\bar{k})$的情况下，若满足约束等距性（RIP），则OMP可以恢复2-范数下的$\bar{k}$ -稀疏信号.对于压缩感测应用，该结果意味着为了在$\Real^d$中均匀地恢复$\bar{k}$稀疏信号，仅需要$O(\bar{k} \ln d)$随机投影。该分析改进了OMP的早期结果，这些结果依赖于更强的条件，例如只能用$Ω(\bar{k}^2 \ln d)$随机投影满足的互不相干性。
2011-06-03 cs.IT math.IT
Multipath Matching Pursuit
在本文中，我们提出了一种算法称为多路径匹配追踪，调查多个有前途的候选人，以恢复稀疏信号压缩测量。我们的方法的灵感来自于这样一个事实，即找到最小化残差的候选人的问题很容易建模为组合树搜索问题，贪婪的搜索策略是一个很好的适合解决这个问题。在实证结果以及限制等距属性（RIP）为基础的性能保证，我们表明，所提出的MMP算法是有效的重建原始稀疏信号的无噪声和噪声的情况下。
2014-03-10 cs.IT math.IT
Exact Recovery of Sparse Signals via Orthogonal Matching Pursuit: How Many Iterations Do We Need?
正交匹配追踪（OMP）是一种广泛应用于从压缩测量中恢复稀疏信号的贪心算法。在本文中，我们分析了OMP算法进行精确恢复稀疏信号所需的迭代次数。我们的分析表明，OMP可以准确地恢复所有的$K$稀疏信号的$\lceil 2.8 K \rceil$迭代时，测量矩阵满足限制等距属性（RIP）。我们的结果改进了张的结果，也弥补了张的结果和OMP的基本极限之间的差距，在该极限下$K$ -稀疏信号的精确恢复不能得到一致的保证。
2016-02-20 cs.IT math.IT
A remark on weaken restricted isometry property in compressed sensing
限制等距属性（RIP）已成为众所周知的压缩传感社区。最近，一个削弱版本的RIP提出了弱矩假设下的精确稀疏恢复。在这篇文章中，我们证明了削弱RIP也是足够的\textsl{stable and robust}稀疏恢复连接到最近推出的压缩感知的鲁棒宽度属性。此外，我们表明，它可以广泛应用于其他压缩感知的情况下。
2015-04-01 cs.IT math.IT
A Sharp Condition for Exact Support Recovery of with Orthogonal Matching Pursuit
利用正交匹配追踪（OMP）从噪声测量中恢复稀疏信号的支持度已被广泛研究。在本文中，我们表明，对于任何$K$ -稀疏信号$\x$，如果一个传感矩阵$\A$满足约束等距性质（RIP）与约束等距常数（RIC）$δ_{K+1} < 1/\sqrt {K+1}$，那么在一定的约束下的最小幅度的非零元素的$\x$，OMP准确地恢复支持$\x$从它的测量$\y=\A\x+\v$在$K$迭代，其中$\v$是$\ell_2$或$\ell_{\infty}$有界的噪声向量。该充分条件在$δ_{K+1}$方面是尖锐的，因为对于任何给定的正整数$K$和任何$1/\sqrt{K+1}\leq δ<1$，总是存在满足具有$δ_{K+1}=δ$的RIP的矩阵$\A$，对于该矩阵，OMP在$K$迭代中不能恢复$K$稀疏信号$\x$。此外，我们的约束的最小幅度的非零元素的$\x$是弱于现有的。此外，我们提出了最坏情况下的必要条件的确切支持恢复的$\x$，其特征在于由最小幅度的非零元素的$\x$。
2017-12-15 cs.IT math.IT
A sharp recovery condition for block sparse signals by block orthogonal multi-matching pursuit
我们考虑块正交多匹配追踪（BOMMP）算法恢复块稀疏信号。在无噪声情况下，基于块限制等距常数（块RIC），通过BOMMP算法获得块$K$稀疏信号的精确重建的尖锐界限。此外，我们表明，结合最小$\ell_2$范数的块$K-$稀疏信号的非零块的一个额外的条件的尖锐的界是足够的恢复块$K$ -稀疏信号的BOMMP在噪声的情况下的真正支持。我们在本文中获得的结果的意义在于，明确使用块稀疏信号的块稀疏性可以实现更好的恢复性能，而不是在传统意义上忽略问题中的附加结构。
2016-07-11 cs.IT math.IT
Improved Bounds on RIP for Generalized Orthogonal Matching Pursuit
广义正交匹配追踪（gOMP）是OMP算法的自然扩展，其中与OMP不同，它可以在每次迭代中选择$N (\geq1)$原子。在本文中，我们证明了gOMP可以成功地重建一个$K$稀疏信号从一个压缩的测量$ {\bf y}={\bf Φx}$ $K^{th}$迭代，如果传感矩阵${\bf Φ}$满足限制等距性质（RIP）的顺序$NK$其中$δ_{NK} < \frac {\sqrt{N}}{\sqrt{K}+2\sqrt{N}}$。我们的界限提供了一个改进的非常近期的结果显示在\cite{wang_2012b}。此外，我们提出了另一个界的顺序$NK+1$与$δ_{NK+1} < \frac {\sqrt{N}}{\sqrt{K}+\sqrt{N}}$，它完全相关的OMP（N=1）的$δ_{K+1} < \frac {1}{\sqrt{K}+1}$的近最佳界的OMP（\cite{wang_2012a}）。
2013-02-03 cs.IT math.IT
Oracle-order Recovery Performance of Greedy Pursuits with Replacement against General Perturbations
在实际应用中，压缩感知理论总是考虑到各种扰动。本文分析了当观测向量和感知矩阵都受到加性扰动污染时，带替换的贪婪追踪算法对稀疏恢复的恢复性能。具体地，具有替换的贪婪追踪包括三种算法，压缩采样匹配追踪（CoSaMP）、子空间追踪（SP）和迭代硬阈值（IHT），其中在每次迭代中评估和更新支持度估计。在可压缩信号的一般扰动下，基于约束等距性，给出了这些恢复算法的误差界的统一形式。结果表明，恢复性能是稳定的对这两个扰动。此外，这些界限进行了比较，与预言恢复-最小二乘解决方案与一些最大的项目的位置在幅度已知的先验。比较结果表明，在一定的信号和扰动条件下，这些算法的误差界与预言恢复的下界仅在系数上有差别，这表明带替换的贪婪追踪的预言恢复性能是有保证的.数值模拟验证了结论。
2013-03-09 cs.IT math.IT
Subspace Thresholding Pursuit: A Reconstruction Algorithm for Compressed Sensing
提出了一种新的迭代贪心算法，用于压缩感知中稀疏信号的重构。该算法称为\emph{subspace thresholding pursuit}（STP），本文中，是一个简单的子空间追求和迭代硬阈值的组合。首先，STP在约束等距性方面具有与$\ell_1$极小化相当的理论保证。其次，通过调整参数，一方面，在重构高斯信号时，该算法的性能大大优于其他现有的重构算法;另一方面，在重构具有随机符号的等幅信号时，该算法的性能优于其他现有的迭代贪心算法，在欠采样率不是很大的情况下，该算法的性能甚至优于$\ell_1$最小化算法。此外，我们提出了一个简单而有效的方法，以提高经验性能进一步，如果欠采样率是大的。最后，通过借鉴STP的思想，证明了其他迭代贪心算法可以提高其经验性能。
2014-05-21 cs.IT math.IT
An Improved RIP-Based Performance Guarantee for Sparse Signal Recovery via Orthogonal Matching Pursuit
最近报道的一个充分条件是，通过正交匹配追踪（OMP）在K次迭代中完美恢复K-稀疏向量的传感矩阵的限制等距常数满足delta_K+1<1/（sqrt（delta_K+1）+1）。通过利用由压缩时两个正交稀疏向量之间的可实现角度表征的近似正交条件，本文表明，delta的上限可以进一步放宽至delta_K+1<（sqrt（1+4*delta_K+1）-1）/（2K）。因此，该结果缩小了迄今为止最佳已知界限与最终性能保证delta_K+1<1/（2K）之间的差距。（sqrt（delta_K+1）），这是Dai和Milenkovic在2009年提出的。所提出的近似正交性条件也被利用来导出在几个压缩感知问题中用于信号重构的较少限制的充分条件，包括在噪声环境中通过OMP的信号恢复、压缩域干扰消除以及通过子空间追踪算法的支持识别。
2014-01-03 cs.IT math.IT
Greedy type algorithms for RIP matrices. A study of two selection rules
矩阵的限制等距性（RIP）的一些结果已被应用于开发称为“ROMP”（正则化正交匹配追踪）的贪心算法以恢复稀疏信号和近似非稀疏信号。这些结果随后被应用于其他贪婪和阈值算法，如“SThresh”，“CoSaMP”，“StOMP”和“SWCGP”。在本文中，我们发现RIP属性的另一个结果，并使用它来分析的逼近k-稀疏信号的梯度追踪（SWGP），匹配追踪（SWMP）和正交匹配追踪（SWOMP）的逐段弱版本。我们将上述算法与另一种选择规则相结合，这种选择规则类似于文献中出现的规则，表明结果在RIP常数限制较少的情况下获得，但我们需要较小的系数阈值参数。给出了一些实验结果。
2013-05-29 cs.IT math.IT
Perturbation Analysis of Orthogonal Matching Pursuit
正交匹配追踪（OMP）算法是一种典型的稀疏近似贪婪追踪算法.以前的OMP研究主要考虑通过$\bm Φ$和$\bm y=\bm Φ\bm x$精确恢复稀疏信号$\bm x$，其中$\bm Φ$是列数多于行数的矩阵。本文基于约束等距性（RIP），分析了OMP在一般扰动下的性能，即$\bm y$和$\bm Φ$同时受到扰动。虽然精确恢复几乎稀疏的信号$\bm x$不再是可行的，主要的贡献表明，在合理的条件下，可以保证$k$的最大幅度条目的位置的精确恢复$\bm x$。并估计了$\bm x$与OMP解之间的误差。通过构造一个例子，证明了该充分条件的严格性.当$\bm x$是强衰减的时，证明了充分条件可以放宽，甚至可以恢复到条目数量级的位置。
2013-03-09 cs.IT math.IT
A Novel Sufficient Condition for Generalized Orthogonal Matching Pursuit
广义正交匹配追踪（gOMP），也称为正交多匹配追踪，在每次迭代识别$N\geq1$索引的意义上是OMP的扩展。在本文中，我们表明，如果限制等距常数（RIC）$δ_{NK+1}$的传感矩阵$\A$满足$δ_{NK+1} < 1/\sqrt {K/N+1}$，然后在信噪比的条件下，gOMP确定至少一个指数在支持任何$K$ -稀疏信号$\x$从$\y=\A\x+\v$在每次迭代，其中$\v$是噪声向量。令人惊讶的是，这种情况不需要Wang，\textit{et al} 2012和Liu，\textit{et al} 2012中所需的$N\leq K$。因此，$N$可以有更多的选择。当$N=1$时，它简化为OMP的充分条件，这比Wang 2015提出的限制性更小。此外，在无噪声的情况下，它是在$K$迭代中精确恢复$\x$的充分条件，其比最佳已知的条件限制更少。特别地，当$N=1$时，它减少到Mo 2015中提出的尖锐条件。
2016-12-17 cs.IT math.IT
Recovery of Sparse Signals via Generalized Orthogonal Matching Pursuit: A New Analysis
广义正交匹配追踪（gOMP）作为正交匹配追踪（OMP）的一种扩展，可以提高稀疏信号的恢复性能。在本文中，我们提出了一个新的分析gOMP算法使用限制等距属性（RIP）。我们表明，如果测量矩阵$\mathbfΦ \in \mathcal{R}^{m \times n}$满足RIP与$$δ_{\max \left\{9, S + 1 \right\}K} \leq \frac{1}{8},$$，那么gOMP执行稳定的重建所有$K$稀疏信号$\mathbf{x} \in \mathcal{R}^n$从噪声测量$\mathbf{y} = \mathbf{Φx} + \mathbf{v}$在$\max \left\{K, \left\lfloor \frac{8K}{S} \right\rfloor \right\}$迭代，其中$\mathbf{v}$是噪声向量和$S$是在gOMP算法的每次迭代中选择的索引的数量。对于高斯随机测量，我们的研究结果表明，所需的测量的数量基本上是$m = \mathcal{O}(K \log \frac{n}{K})$，这是一个显着的改进，在现有的结果$m = \mathcal{O}(K^2 \log \frac{n}{K})$，特别是对于大的$K$。
2015-04-04 cs.IT math.IT
A sharp bound on RIC in generalized orthogonal matching pursuit
广义正交匹配追踪（gOMP）算法作为正交匹配追踪算法的一种自然扩展，近年来受到广泛关注。它被用来恢复压缩感知中的稀疏信号。本文给出了无噪声情况下gOMP算法精确重构每个$K$稀疏信号的一个新的界。也就是说，如果感测矩阵$A$的受限等距常数（RIC）$δ_{NK+1}$满足\begin{eqnarray*} δ_{NK+1}<\frac{1}{\sqrt{\frac{K}{N}+1}}, \end{eqnarray*}，则gOMP可以从$y=Ax$完美地恢复每个$K$ -稀疏信号$x$。此外，在下面的意义下，该界被证明是尖锐的。对于任何给定的正整数$K$，我们构造具有RIC \begin{eqnarray*} δ_{NK+1}=\frac{1}{\sqrt{\frac{K}{N}+1}} \end{eqnarray*}的矩阵$A$，使得gOMP可能无法恢复某些$K$稀疏信号$x$。在噪声情况下，关于每个$K-$稀疏信号的非零分量的最小幅度的额外条件与感测矩阵$A$的RIC的上述界限组合足以恢复gOMP对每个$K$稀疏信号的真实支持。
2016-04-12 cs.IT math.IT
Design and Analysis of a Greedy Pursuit for Distributed Compressed Sensing
我们考虑一个分布式压缩感知的情况下，许多传感器测量相关的稀疏信号和传感器通过网络连接。稀疏信号之间的相关性由部分公共支持集来建模。针对这种情况，本文的主要目标是开发一个贪婪追求算法。我们开发了一个分布式并行追踪（DIPP）算法的基础上交换信息的估计支持集在传感器。信息的交换有助于改善部分公共支持集的估计，这又有助于逐渐改善所有传感器中的支持集的估计，从而导致更好的质量重建性能。我们提供了基于限制等距性（RIP）的算法的收敛性和重建性能的理论分析。在一定的理论要求下，通过网络和RIP参数的传感器节点的信息交换的质量，我们表明，DIPP算法收敛到一个性能水平，取决于一个缩放的加性测量噪声功率（收敛理论）的缩放系数是RIP参数和信息处理质量参数的函数。使用模拟，我们展示了实际的重建性能的DIPP相对于欠采样量，信号测量噪声比和网络连接条件。
2015-01-13 cs.IT math.IT
The gap between the null space property and the restricted isometry property
零空间特性（NSP）和限制等距特性（RIP）是压缩感知领域中受到广泛关注的两个特性。顾名思义，NSP是仅取决于测量过程的零空间的属性，因此，具有相同零空间的任何两个矩阵将具有NSP，如果它们中的任何一个具有相同零空间。另一方面，RIP是测量过程本身的属性，并且给定RIP矩阵，可以直接构造另一个具有相同零空间的矩阵，该矩阵不是RIP。此外，RIP被认为意味着NSP，因此RIP是比NSP严格更强的假设。我们说一个矩阵是RIP-NSP，如果它有相同的零空间作为RIP矩阵。我们表明，这样的矩阵可以提供强大的恢复基础追求下的可压缩信号，在许多适用的设置相媲美的保证RIP提供。更重要的是，我们建设性地表明，RIP-NSP是强于NSP的帮助下，这个强大的恢复结果，这表明，RIP是从根本上强于NSP。
2016-03-16 cs.IT math.IT
Analysis of Block OMP using Block RIP
正交匹配追踪（OMP）是一种经典的稀疏信号重构贪心算法。当感兴趣的信号是块稀疏时，即，它具有出现在簇中的非零系数，OMP算法的块版本（即，块OMP）优于常规OMP。在本文中，我们证明了一个新的概念，块限制等距属性（块RIP），这是不严格的比标准的限制等距属性（RIP），可以用于一个非常简单的分析块OMP。它表明，块OMP可以准确地恢复任何块K-稀疏信号在不超过K步，如果块RIP的阶K+1与一个足够小的等距常数满足。利用这一结果可以证明，当信号是块稀疏时，块OMP可以产生比传统OMP更好的重建性能。
2011-04-06 cs.IT math.IT
A sharp recovery condition for sparse signals with partial support information via orthogonal matching pursuit
本文考虑了$k$ -稀疏信号的精确恢复在无噪声设置和支持恢复在有噪声的情况下，当一些先验信息支持的信号是可用的。这种事先支持包括两个部分。一部分是真支撑的子集，另一部分在真支撑之外。对于$k$ -稀疏信号$\mathbf{x}$，其先验支持由$g$真索引和$b$错索引组成，证明了如果感知矩阵$\mathbf{A}$的约束等距常数（RIC）$δ_{k+b+1}$满足\begin{eqnarray*} δ_{k+b+1}<\frac{1}{\sqrt{k-g+1}}, \end{eqnarray*}，则正交匹配追踪（OMP）算法可以在$k-g$迭代中从$\mathbf{y}=\mathbf{Ax}$中完美地恢复信号$\mathbf{x}$.此外，我们还证明了上述关于RIC的充分条件是尖锐的。在噪声的情况下，我们实现了在适当的条件下从$\mathbf{y}=\mathbf{Ax}+\mathbf{v}$的$k$ -稀疏信号$\mathbf{x}$的剩余支持（在先前支持之外的真实支持的部分）的精确恢复。对于剩余支持恢复，我们也得到了一个必要条件的基础上的最小幅度的部分非零元素的信号$\mathbf{x}$。
2017-06-29 cs.IT math.IT
A remark about orthogonal matching pursuit algorithm
研究正交匹配追踪（OMP）解码器在压缩感知中恢复稀疏信号的理论性质，证明其在特定条件下具有(p,q)实例最优性，并在随机编码矩阵下具有概率性的(2,2)实例最优性。
2011-02-17 cs.IT cs.NA math.IT
Group Projected Subspace Pursuit for Block Sparse Signal Reconstruction: Convergence Analysis and Applications
本文针对块稀疏信号恢复问题，对GPSP算法开展收敛性分析并拓展其通用应用，证明其在BRIP条件下的精确恢复能力与噪声鲁棒性，通过多场景实验验证其性能优于现有贪心算法。
2024-07-14 cs.IT math.IT math.OC
Dynamic Orthogonal Matching Pursuit for Sparse Data Reconstruction
正交匹配追踪（OMP）是稀疏数据重构或逼近的主流算法之一。它作为一个驱动力的发展，其他几个贪婪的稀疏数据重建方法，它也起着至关重要的作用，在发展压缩感知理论的稀疏信号和图像重建。在本文中，我们提出了所谓的动态正交匹配追踪（DOMP）和增强的动态正交匹配追踪（EDOMP）算法，从数值的角度来看，这是更有效的稀疏数据重建比OMP。我们进行了严格的分析，建立下的测量矩阵的约束等距属性DOMP重建误差界。主要结果声称，重建误差通过DOMP可以控制和测量的迭代次数，稀疏水平的数据，和测量的噪声水平。此外，还证明了DOMP算法对一类大规模压缩感知问题的有限收敛性。
2023-03-30 cs.IT cs.NA math.IT
Subspace Pursuit for Compressive Sensing Signal Reconstruction
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出一种名为子空间追踪的新方法，用于有/无噪声干扰下的稀疏信号重建，具有低计算复杂度和高重建精度。
2009-01-08 cs.IT cs.NA math.IT
Eventual linear convergence of the Douglas Rachford iteration for basis pursuit
Massachusetts Institute of Technology（麻省理工学院）
本文通过主角度量化了Douglas-Rachford分裂算法在ℓ1最小化问题中的渐近线性收敛率，并展示了在压缩感知中如何用受限等距常数界定该速率，同时分析了ℓ2正则化和过松弛等更一般的迭代方案。
2013-05-29 cs.IT cs.NA math.IT
Achievable Angles Between two Compressed Sparse Vectors Under Norm/Distance Constraints Imposed by the Restricted Isometry Property: A Plane Geometry Approach
在压缩感知（compressive sensing，CS）问题的研究中，两个压缩稀疏向量之间的夹角受到感知矩阵的约束等距性（restricted isometric property，RIP）所施加的范数/距离约束，起着至关重要的作用。假设（i）u和v是两个稀疏的向量分开的角度theta，和（ii）的传感矩阵Φ满足RIP，本文的目的是在分析表征Φ *u和Φ * v之间的可实现的角度。出于RIP的几何解释和众所周知的余弦定律的帮助下，我们提出了一个平面几何为基础的制定所考虑的问题的研究。结果表明，所有RIP诱导的范数/距离的限制Phi*u和Phi*v可以共同描绘通过一个简单的几何图中的二维平面。这允许从几何角度对所有考虑的代数约束进行联合分析。通过进行平面几何分析的基础上所构造的图，最大和最小可达角的封闭形式的公式推导。计算机模拟证实，所提出的解决方案是严格的比现有的基于代数的估计使用极化身份。所得到的结果被用来推导出一个更严格的限制等距常数的结构化传感矩阵的某种，即，那些在产品的正交投影矩阵和随机传感矩阵的形式。后续应用程序的三个CS问题，即，压缩域干扰消除，基于RIP的分析的正交匹配追踪算法，和研究民主性质的随机感测矩阵进行了研究。
2012-02-06 cs.IT math.IT
Orthogonal Matching Pursuit with Replacement
在本文中，我们考虑的问题，压缩感知的目标是恢复几乎所有的稀疏向量使用少量的固定线性测量。对于这个问题，我们提出了一种新的部分硬阈值算子，导致一个一般家庭的迭代算法。虽然该家族的一个极端产生了众所周知的硬阈值算法，如ITI（迭代求逆）和HTP（硬阈值追踪），但频谱的另一端导致了一种新的算法，我们称之为正交匹配追踪替换（OMPR）。与经典的贪心算法OMP一样，OMPR基于与当前残差的相关性，在每次迭代时向支持添加一个坐标。但是，与OMP不同，OMPR还从支持中删除一个坐标。这个简单的变化使我们能够证明OMPR在受限等距属性（测量矩阵上的条件）方面具有稀疏恢复的最佳保证。相比之下，OMP在RIP下的性能保证非常弱。鉴于其简单的结构，我们能够使用局部敏感哈希扩展OMPR，得到OMPR-Hash，这是第一个可证明的次线性（在维度上）稀疏恢复算法。我们的证明技术是新颖和灵活的，也允许最严格的已知分析流行的迭代算法，如CoSaMP和子空间追踪。我们提供的实验结果，提供恢复高达百万维的向量大小的大型问题。我们证明，对于大规模的问题，我们提出的方法比现有的方法更强大，更快。
2011-06-14 cs.IT math.IT stat.ML
Tuning Free Orthogonal Matching Pursuit
正交匹配追踪（OMP）是一种广泛应用的压缩感知（CS）算法，用于恢复噪声线性回归模型中的稀疏信号。OMP的性能取决于其停止准则（SC）。在文献中讨论的用于OMP的SC通常假设要估计的信号的稀疏性$k_0$或噪声方差$σ^2$的知识，这两者在许多实际应用中是不可用的。在这篇文章中，我们开发了一个修改版本的OMP称为调谐自由OMP或TF-OMP，它不需要SC。TF-OMP被证明是成功的稀疏恢复在通常的假设下的限制等距常数（RIC）和设计矩阵的互相关。数值上显示，与具有$k_0$或$σ^2$的\textit{a priori}知识的OMP相比，TF-OMP提供高度竞争性的性能。贪婪鲁棒去噪算法（Greedy Algorithm for Robust De-noising，GARD）是一种OMP类算法，用于估计稀疏离群值破坏的超定线性回归模型。然而，GARD需要内点噪声方差的知识，这是很难估计的。我们还产生了一个调谐免费算法（TF-GARD）的有效估计稀疏离群值的存在下，通过扩展TF-OMP的工作原理GARD。TF-GARD的数字显示，以实现与GARD的现有实施的性能。
2017-03-15 cs.IT math.IT stat.ML
Joint Sparse Recovery Using Signal Space Matching Pursuit
本文提出了一种新的联合稀疏恢复算法--信号空间匹配追踪算法（SSMP）。SSMP算法的核心思想是依次研究联合稀疏向量的支持度，以最小化子空间到残差空间的距离。我们的性能保证分析表明，SSMP准确地重建任何行$K$ -稀疏矩阵的秩$r$在满行秩的情况下，如果采样矩阵$\mathbf{A}$满足$\text{krank}(\mathbf{A}) \ge K+1$，这满足基本的最低要求$\mathbf{A}$，以确保准确的恢复。我们还表明，SSMP保证在大多数$K-r+\lceil \frac{r}{L} \rceil$迭代的准确重建，只要$\mathbf{A}$满足限制等距属性（RIP）的顺序$L(K-r)+r+1$与$$δ_{L(K-r)+r+1} < \max \left \{ \frac{\sqrt{r}}{\sqrt{K+\frac{r}{4}}+\sqrt{\frac{r}{4}}}, \frac{\sqrt{L}}{\sqrt{K}+1.15 \sqrt{L}} \right \},$$，其中$L$是在每次迭代中选择的索引的数量。这意味着当$r$增加时，对RIP常数的要求变得不那么严格。这种行为似乎是自然的，但尚未报道的大多数常规方法。我们进一步表明，如果$r=1$，那么通过运行更多的$K$迭代，SSMP的性能保证可以提高到$δ_{\lfloor 7.8K \rfloor}…
2020-03-09 cs.IT math.IT
Online Recovery Guarantees and Analytical Results for OMP
正交匹配追踪（OMP）是一个简单的，但经验上有竞争力的稀疏恢复算法。最近的发展表明，OMP保证精确恢复K-稀疏信号与K或K个以上的迭代，如果观察矩阵满足限制等距属性（RIP）的某些条件。我们开发了基于RIP的在线保证K-稀疏信号的恢复超过K OMP迭代。虽然这些保证不能推广到所有稀疏信号的先验，我们表明，他们仍然可以保持在线时，最先进的K步恢复保证失败。此外，我们提出了正确的和错误的指数的数量上的界限，在支持估计的派生条件是限制性较低的K-步保证。在这些界限下，该条件保证在3 K/2次迭代内精确恢复K稀疏信号，这远小于现有技术的具有多于K步的精确恢复保证所需的步数。此外，我们提出的OMP的相变相比，基础追求和子空间追求，这是经过广泛的恢复模拟，涉及不同的稀疏信号类型。最后，我们实证分析的支持估计，这表明这些不违反开发的上限在实践中的假指标的数量。
2013-03-29 cs.IT math.IT
Alternating direction algorithms for $\ell_0$ regularization in compressed sensing
本文基于$\ell_0$ -正则最小二乘的交替方向乘子法（ADMM）的迭代步骤，提出了三种压缩感知的迭代贪心算法\emph{iterative alternating direction}（IAD）、\emph{normalized iterative alternating direction}（NIAD）和\emph{alternating direction pursuit}（ADP（$\ell_0$ -LS）并且可以被认为是公知的迭代硬阈值（IHT）的交替方向版本，归一化迭代硬阈值法（NIHT）和硬阈值追踪法（HTP）。首先，相对于ADMM的一般迭代步骤，所提出的算法在迭代中没有分裂或对偶变量，因此当前近似对过去迭代的依赖是直接的。其次，从限制等距性的角度给出了可证明的理论保证，这是$\ell_0$ -LS的ADMM的第一个理论保证。最后，在重建具有随机符号的等幅信号（CARS信号）和高斯信号时，它们的性能大大优于相应的IHT，NIHT和HTP。
2016-04-15 cs.IT math.IT
Sharp Sufficient Conditions for Stable Recovery of Block Sparse Signals by Block Orthogonal Matching Pursuit
在本文中，我们使用块正交匹配追踪（BOMP）算法从测量值$\y=\A\x+\v$恢复块稀疏信号$\x$，其中$\v$是$\ell_2$有界噪声向量（即，$\|\v\|_2\leq ε$（对于某个常数$ε$）。基于块约束等距性质（block-RIP），研究了块稀疏信号$\x$的精确（当$\v=\0$时）和稳定（当$\v\neq\0$时）恢复的充分条件.首先，一方面，我们表明，如果$\A$满足块RIP与$δ_{K+1}<1/\sqrt{K+1}$，那么每个块$K$稀疏信号$\x$可以在$K$迭代BOMP准确或稳定地恢复。另一方面，我们表明，对于任何$K\geq 1$和$1/\sqrt{K+1}\leq δ<1$，存在一个矩阵$\A$满足块RIP与$δ_{K+1}=δ$和块$K$ -稀疏信号$\x$，使BOMP可能无法恢复$\x$在$K$迭代。然后，我们研究了恢复块$α$ -强衰减$K$ -稀疏信号的一些充分条件。我们证明了如果$\A$满足块RIP与$δ_{K+1}<\sqrt{2}/2$，那么每个$α$ -强衰减块$K$ -稀疏信号可以在$α$上的某些条件下在$K$迭代中被BOMP精确或稳定地恢复。我们新发现的充分条件块RIP的$\A$的限制比$\ell_1$最小化这一类特殊的稀疏信号。此外，对于任何$K\geq 1$、$α>1$和$\sqrt{2}/2\leq δ<1$，$\x$的恢…
2018-05-14 cs.IT math.IT
Incoherent dictionaries and the statistical restricted isometry property
在这篇文章中，我们提出了一个统计版本的Candes-Tao限制等距属性（简称SRIP），它一般适用于任何不相干的字典，这是一个不相交的标准正交基的联合。此外，在适当的归一化下，相关的格拉姆矩阵的特征值根据维格纳周期分布在1附近波动。然后将结果应用到各种字典中自然出现的有限谐波分析的设置，给，特别是一个更好的理解上的一句话的Applebaum霍华德Searle-Calderbank关于RIP的海森堡字典啁啾一样的功能。
2009-03-13 cs.DM cs.IT math.IT
The statistical restricted isometry property and the Wigner semicircle distribution of incoherent dictionaries
在这篇文章中，我们提出了一个统计版本的Candes-Tao限制等距属性（简称SRIP），它一般适用于任何不相干的字典，这是一个不相交的标准正交基的联合。此外，我们表明，在适当的规范化，相关的革兰氏矩阵的特征值波动在1左右，根据Wigner周期分布。然后将结果应用到各种字典中自然出现的有限谐波分析的设置，给，特别是一个更好的理解上的一句话的Applebaum霍华德Searle-Calderbank关于RIP的海森堡字典啁啾一样的功能。
2008-12-14 cs.DM cs.IT math.IT
Analysis of Optimal Thresholding Algorithms for Compressed Sensing
最优$k$ -阈值追踪（OT）和最优$k$ -阈值追踪（OTP）是新近提出的用于压缩感知和信号逼近的阈值技术框架。这种框架激发了称为松弛最优$k$ -阈值（$\textrm{ROT}ω$）和松弛最优$k$ -阈值追踪（$\textrm{ROTP}ω$）的实用且有效的算法，其通过OT和OTP的最紧凸松弛来开发，其中$ω$是规定的整数。在\cite{Z19}中展示的初步数值结果表明，这些方法可以稳定地重建具有宽范围稀疏水平的信号。然而，这些算法与参数$ ω\geq 2 $的保证性能尚未建立在\cite{Z19}。本文的目的是显示OT和OTP的保证性能方面的限制等距属性（RIP）的感知矩阵管理的$k$ -稀疏信号恢复的近最优阶，并建立第一个保证性能的结果$\textrm{ROT}ω$和$\textrm{ROTP}ω$与$ ω\geq 2.$在同一时间，我们提供了一个数值比较ROTP $ω$和几个现有的阈值方法。
2020-12-19 cs.IT math.IT math.OC
Sparse Approximation by Semidefinite Programming
研究稀疏逼近问题，提出将其作为组合优化问题，基于半定规划（SDP）提供算法，有基于问题半定松弛的随机算法及去随机化算法，性能取决于字典相关常数。
2026-07-22 cs.DS cs.IT math.IT
Robust High Dimensional Sparse Regression and Matching Pursuit
我们认为高维稀疏回归，并制定战略，能够处理任意-可能的，严重的或协调-在协方差矩阵$X$的错误。这些可能来自损坏的数据，持续的实验错误，或恶意的受访者在调查/推荐系统等非随机误差变量的问题是出了名的难以处理，正如我们所证明的，这个问题是特别明显的高维设置的主要目标是{ \em支持恢复}的稀疏回归。我们开发的算法支持稀疏回归恢复，当一些数字$n_1$出$n+n_1$总协变量/响应对{ \it任意（可能恶意）损坏}。我们感兴趣的是了解我们可以容忍多少离群值$n_1$，同时确定正确的支持。据我们所知，无论是标准的离群值拒绝技术，也不是最近开发的强大的回归算法（只关注损坏的响应变量），也不是最近的算法处理随机噪声或擦除，可以提供支持恢复的保证。也许令人惊讶的是，我们还表明，自然蛮力算法，搜索所有子集的$n$协变量/响应对，所有子集的可能的支持坐标，以尽量减少回归误差，是非常差的，无法正确地识别支持，甚至$n_1 = O(n/k)$损坏点，其中$k$是稀疏。即使在我们考虑的基本设置中也是如此，其中所有真实的测量和噪声都是独立的和亚高斯的。在这种情况下，我们提供了一个简单的算法--计算量不比OMP大--它提供了更强的性能保证，可以恢复多达$n_1 = O(n/(\sqrt{k} \log p))$损坏点的支持，其中$p$是要恢复的信号的维度。
2013-01-12 cs.IT cs.LG math.IT
A Novel Sparse recovery based DOA estimation algorithm by relaxing the RIP constraint
非相关和相干混合源的波达方向估计是阵列信号处理中一个长期存在的难题。压缩感知在阵列信号处理中的应用开辟了一类令人兴奋的算法。研究了正交匹配追踪（OMP）算法在不同场景下的波达方向（DOA）估计中的应用，特别是在相干源和观测结果不一致的情况下。在本文中，提出了一种改进的OMP算法，以克服这些不足，利用最大方差为基础的标准，只有一个快照。该准则放松了测量矩阵的约束等距性（RIP），从而降低了局部OMP算法输入向量的稀疏性。此外，它还处理源，而不管它们的一致性。给出了弱-1 RIP算法稀疏性降低的条件，并说明了该算法优于OMP算法的原因。此外，还提出了一种简单的方法来计算均匀线阵中的源距参考点的距离。数值分析表明了该算法的有效性。
2018-09-07 cs.IT eess.SP math.IT
