Constructing test instances for Basis Pursuit Denoising
用于所谓的基追踪去噪问题(或相关的LASSO问题)的可用算法的数量很大并且保持增长。同样,在不同实例上评估和比较这些算法的实验数量也在不断增加。在这篇文章中,我们提出了一种方法来产生实例的精确解,这是基于一个简单的观察,这是与所谓的源条件从稀疏正则化。
2011-03-15 cs.IT math.IT
Sparse Multipath Channel Estimation Using Compressive Sampling Matching Pursuit Algorithm
宽带无线信道是一种时间色散信道,具有很强的频率选择性。然而,在大多数情况下,信道由少数主导抽头组成,并且大部分抽头近似为零或零。为了利用多径信道(MPC)的稀疏性,已经提出了两种方法。它们是贪心算法和凸规划。贪心算法易于实现但不稳定;凸规划方法稳定但难以实现为实际信道估计问题。在本文中,我们介绍了一种新的信道估计策略,使用压缩采样匹配追踪(CoSaMP)算法,提出了在[1]。该算法将贪心算法与凸规划方法相结合。通过与现有方法的比较,验证了该算法的有效性。
2010-05-13 cs.IT math.IT
Orthogonal Matching Pursuit with Tikhonov and Landweber Regularization
正交匹配追踪(OMP)的压缩感知迭代方案的支持增强和信号估计。我们提出了两种新的匹配追踪算法与内在的正则化的信号估计步骤,不依赖于先验知识的信号的稀疏性。一个迭代的方法允许我们的算法的硬件高效的实现,并使压缩感知的现实世界中的应用。我们提供了一系列的数值例子,表现出良好的性能,特别是当测量的数量相对较小。
2019-02-20 cs.IT math.IT
Fast Correlation Computation Method for Matching Pursuit Algorithms in Compressed Sensing
已经有许多处理稀疏信号恢复问题的匹配追踪算法(MPA),也称为。压缩感知(CS)。在MPA中,相关性计算步骤具有主导的计算复杂性。在这封信中,我们提出了一个新的快速相关计算方法时,我们使用了几类部分酉矩阵作为传感矩阵。这些部分酉矩阵包括部分傅立叶矩阵和部分Hadamard矩阵,它们是流行的传感矩阵。建议的相关计算方法可以适用于几乎所有的MPA,而不会导致任何退化的恢复性能。并且,对于大多数实际参数,所提出的方法可以大大降低MPA的计算复杂性。
2012-05-18 cs.IT math.IT
Decentralized Subspace Pursuit for Joint Sparsity Pattern Recovery
针对分布式网络中的联合稀疏模式恢复问题,提出了一种分布式协同子空间追踪算法(DCSP)。DCSP的基本思想是在标准子空间追踪算法的每次迭代中嵌入节点间的协作和融合策略。在DCSP中,每个节点通过共享高维系数估计与其多个邻居协作,并通过交换低维支持集估计与其他远程节点通信。实验结果表明,与现有的几种稀疏模式恢复算法相比,DCSP算法在稀疏模式恢复的准确性方面取得了令人满意的结果,且通信开销小得多。
2014-03-06 cs.IT math.IT
On-Grid DOA Estimation Method Using Orthogonal Matching Pursuit
多个窄带相干或部分相干信源的波达方向估计是阵列信号处理中的一个主要难题。虽然文献中有许多基于子空间的算法,但它们都没有直接解决解决相干源的问题,例如不修改样本数据协方差矩阵。基于压缩感知(CS)的稀疏恢复算法作为一种新的技术被应用于这一领域。本文将正交匹配追踪(OMP)算法引入DOA估计问题。我们演示了如何DOA估计问题可以建模为稀疏恢复问题,然后利用OMP来获得DOA集。此外,该算法只使用一个快照来获得结果。仿真结果证明了OMP算法的有效性和优于现有的基于子空间的算法。
2018-01-25 cs.IT math.IT
Oracle-order Recovery Performance of Greedy Pursuits with Replacement against General Perturbations
在实际应用中,压缩感知理论总是考虑到各种扰动。本文分析了当观测向量和感知矩阵都受到加性扰动污染时,带替换的贪婪追踪算法对稀疏恢复的恢复性能。具体地,具有替换的贪婪追踪包括三种算法,压缩采样匹配追踪(CoSaMP)、子空间追踪(SP)和迭代硬阈值(IHT),其中在每次迭代中评估和更新支持度估计。在可压缩信号的一般扰动下,基于约束等距性,给出了这些恢复算法的误差界的统一形式。结果表明,恢复性能是稳定的对这两个扰动。此外,这些界限进行了比较,与预言恢复-最小二乘解决方案与一些最大的项目的位置在幅度已知的先验。比较结果表明,在一定的信号和扰动条件下,这些算法的误差界与预言恢复的下界仅在系数上有差别,这表明带替换的贪婪追踪的预言恢复性能是有保证的.数值模拟验证了结论。
2013-03-09 cs.IT math.IT
Tracking A Dynamic Sparse Channel Via Differential Orthogonal Matching Pursuit
研究了宽带无线通信系统中动态稀疏信道的跟踪问题。首先提出了一种概率信号模型来描述动态稀疏信道的时间相关特性:路径延迟随时间变化缓慢,而路径增益随时间变化较快。基于这样的时间相关性,然后,我们提出了差分正交匹配追踪(D-OMP)算法来跟踪一个动态的稀疏信道在一个连续的方式,通过更新随时间的小信道变化。仿真结果表明,与其他信道跟踪算法相比,所提出的D-OMP算法可以更快地跟踪动态稀疏信道,并提高了跟踪精度。
2015-07-20 cs.IT math.IT
On Probability of Support Recovery for Orthogonal Matching Pursuit Using Mutual Coherence
在本文中,我们提出了一种新的基于相干性的正交匹配追踪(OMP)算法的性能保证。导出了在加性高斯白噪声下正确识别稀疏信号支撑的概率下界。与以前的工作相比,新的界限考虑了信号参数,如动态范围,噪声方差和稀疏性。数值模拟表明,显着的改进,以前的工作和更接近的匹配经验获得的结果的OMP算法。
2017-09-27 cs.IT math.IT
Multipath Matching Pursuit
在本文中,我们提出了一种算法称为多路径匹配追踪,调查多个有前途的候选人,以恢复稀疏信号压缩测量。我们的方法的灵感来自于这样一个事实,即找到最小化残差的候选人的问题很容易建模为组合树搜索问题,贪婪的搜索策略是一个很好的适合解决这个问题。在实证结果以及限制等距属性(RIP)为基础的性能保证,我们表明,所提出的MMP算法是有效的重建原始稀疏信号的无噪声和噪声的情况下。
2014-03-10 cs.IT math.IT
A* Orthogonal Matching Pursuit: Best-First Search for Compressed Sensing Signal Recovery
压缩感知是一个正在发展的领域,其目标是在降维的情况下重建稀疏信号,这使得恢复过程欠确定。由于稀疏性,所需的解是具有最小$\ell_0$范数的解,然而解决$\ell_0$最小化问题是不实际的。常用的技术包括$\ell_1$最小化,例如基追踪(BP)和贪婪追踪算法,例如正交匹配追踪(OMP)和子空间追踪(SP)。本文提出了一种新的半贪婪恢复方法,即A* 正交匹配追踪(A*OMP)。A*OMP执行A* 搜索,在路径生长类似于正交匹配追踪(OMP)算法的树上寻找稀疏解。树上的路径根据成本函数进行评估,该成本函数应补偿不同的路径长度。为此,定义了三种不同的辅助结构,包括新颖的动态结构。A*OMP还结合了修剪技术,使算法的实际应用。此外,可调整的搜索参数提供了用于复杂度-准确度折衷的手段。我们证明了所提出的方案的重建能力,综合生成的数据和图像使用高斯和伯努利观测矩阵,其中A*OMP产生更少的重建误差和更高的准确恢复频率比BP,OMP和SP。结果还表明,新的动态成本函数提供了改进的结果相比,传统的选择。
2012-03-14 cs.IT math.IT
Working Locally Thinking Globally - Part II: Stability and Algorithms for Convolutional Sparse Coding
卷积稀疏模型最近在信号和图像处理领域获得了越来越多的关注,并且已经提出了几种方法来解决由此出现的追踪问题-特别是其凸松弛,基追踪。在这两部分工作的第一,我们已经提供了一个理论骨干,这个模型,提供保证的唯一性的稀疏的解决方案,并通过引入条纹稀疏度和其他相关措施的概念,追求算法的成功。在这里,我们扩展到一个嘈杂的制度的分析,从而考虑信号扰动和模型偏差。我们解决问题的稳定性的稀疏的解决方案和成功的追求算法,贪婪和凸。经典的定义,如RIP被推广到卷积模型,现有的概念,如ERC连接到我们的设置。在算法方面,我们演示了如何通过使用简单的局部处理来解决全局追踪问题,从而在信号的全局建模和基于补丁的局部处理之间提供了第一个桥梁。
2017-02-22 cs.IT math.IT
Greedy type algorithms for RIP matrices. A study of two selection rules
矩阵的限制等距性(RIP)的一些结果已被应用于开发称为“ROMP”(正则化正交匹配追踪)的贪心算法以恢复稀疏信号和近似非稀疏信号。这些结果随后被应用于其他贪婪和阈值算法,如“SThresh”,“CoSaMP”,“StOMP”和“SWCGP”。在本文中,我们发现RIP属性的另一个结果,并使用它来分析的逼近k-稀疏信号的梯度追踪(SWGP),匹配追踪(SWMP)和正交匹配追踪(SWOMP)的逐段弱版本。我们将上述算法与另一种选择规则相结合,这种选择规则类似于文献中出现的规则,表明结果在RIP常数限制较少的情况下获得,但我们需要较小的系数阈值参数。给出了一些实验结果。
2013-05-29 cs.IT math.IT
Exact Recovery of Sparse Signals via Orthogonal Matching Pursuit: How Many Iterations Do We Need?
正交匹配追踪(OMP)是一种广泛应用于从压缩测量中恢复稀疏信号的贪心算法。在本文中,我们分析了OMP算法进行精确恢复稀疏信号所需的迭代次数。我们的分析表明,OMP可以准确地恢复所有的$K$稀疏信号的$\lceil 2.8 K \rceil$迭代时,测量矩阵满足限制等距属性(RIP)。我们的结果改进了张的结果,也弥补了张的结果和OMP的基本极限之间的差距,在该极限下$K$ -稀疏信号的精确恢复不能得到一致的保证。
2016-02-20 cs.IT math.IT
Analysis of the Self Projected Matching Pursuit Algorithm
Aston University(阿斯顿大学);Czech Academy of Sciences(捷克科学院);Indian Institute of Science, Bangalore(班加罗尔印度科学学院)
给出了自投影匹配追踪算法的一种低内存实现方案的收敛性和数值分析。这种方法提供了一种迭代的方式来解决最小二乘问题,比直接线性代数技术具有更少的存储需求。因此,它适用于求解大型线性方程组。分析突出了它的适用性,以及提出的问题的类。
2020-06-08 cs.CV cs.IT math.IT
Nonlinear Basis Pursuit
在压缩感知中,基追踪算法的目标是找到欠定线性方程组的稀疏解。本文将基寻踪方法推广到求解高阶非线性方程组的稀疏解,称之为非线性基寻踪。与现有的非线性压缩感知方法相比,新算法解决非线性基追踪问题是凸的,不贪婪。新算法使压缩感知方法可用于测量值和未知量之间存在非线性关系的更广泛的应用。
2013-04-21 cs.IT math.IT math.ST
Structured Matching Pursuit for Reconstruction of Dynamic Sparse Channels
本文利用动态稀疏信道的时间相关性,即路径延迟随时间变化缓慢而路径增益随时间变化较快的特点,提出了结构化匹配追踪(SMP)算法来实现动态稀疏信道的重构。具体地,SMP算法将动态稀疏信道的路径延迟分成两个不同的部分来单独考虑,即,公共信道抽头和动态信道抽头。该算法首先在所有时隙中同时检测动态稀疏信道的公共信道抽头,然后在每个时隙中分别跟踪动态稀疏信道的公共信道抽头。理论分析表明,该算法能够以较高的概率成功检测出公共信道抽头,并且动态稀疏信道的重构失真与噪声功率成线性上界。仿真结果表明,与传统的重建算法相比,SMP算法具有很好的重建性能,且计算复杂性有竞争力。
2015-07-20 cs.IT math.IT
Multi-snapshot Newtonized Orthogonal Matching Pursuit for Line Spectrum Estimation with Multiple Measurement Vectors
提出了一种多快拍牛顿化正交匹配追踪(MNOMP)算法来处理多测量矢量(MMVs)下的线性谱估计问题。MNOMP具有NOMP的低计算复杂度和最先进的性能优势,并且还包括两个关键步骤:在过采样离散傅里叶变换(DFT)网格上检测新的正弦信号和细化已经检测到的正弦信号的参数以避免基失配的问题。我们提供了一个基于模型阶的高估概率的停止准则。此外,还证明了算法的收敛性.最后,数值结果表明,MNOMP的性能受益于MMVs,MNOMP的有效性相比,国家的最先进的算法在频率估计精度和计算复杂度。
2019-05-08 cs.IT math.IT
Simultaneous Orthogonal Matching Pursuit With Noise Stabilization: Theoretical Analysis
本文研究了基于有限个噪声线性测量的相似稀疏向量的联合支持度恢复问题,在多测量向量(MMV)模型中。假设每个测量向量上的加性噪声信号是高斯的并且呈现不同的方差。同时正交匹配追踪(SOMP)算法被推广到每个测量向量的影响,根据其噪声水平的原子被挑选的选择。新算法被称为SOMP-NS,其中NS代表噪声稳定。首先,一个理论框架来分析所提出的算法的性能。然后,这个框架被用来建立保守的下限的概率部分或全部联合支持恢复。数值模拟表明,该算法优于SOMP和理论下限提供了一个很好的洞察SOMP-NS行为时,修改加权策略。
2015-06-17 cs.IT math.IT
Minimum Complexity Pursuit: Stability Analysis
许多问题涉及从降维表示(如随机投影)中恢复结构化信号;示例包括稀疏信号(压缩感知)和低秩矩阵(矩阵完成)。考虑到迄今为止开发的各种不同的恢复算法,很自然地会问是否存在用于从线性投影中恢复“结构化”信号的“通用”算法。我们最近在无噪声环境中肯定地回答了这个问题。在本文中,我们将我们的结果的情况下,噪声测量。
2012-05-21 cs.IT math.IT
Newtonized Orthogonal Matching Pursuit: Frequency Estimation over the Continuum
我们提出了一个快速的顺序算法的基本问题,估计的频率和振幅的噪声混合的正弦波。该算法是一个自然推广的正交匹配追踪(OMP)的连续使用牛顿精化,因此被称为牛顿OMP(NOMP)。每次迭代包括两个阶段:检测一个新的正弦曲线,和已经检测到的正弦曲线的参数的连续牛顿细化。精化在两个方面起着关键作用:(1)从离散化连续参数空间中避开潜在的基失配,(2)为在先前迭代中估计的局部精化参数提供反馈。我们收敛的特点,并提供了一个恒定的虚警率(CFAR)为基础的终止标准。通过对Cramer Rao Bound的基准测试,我们表明,NOMP在各种条件下实现了接近最优的性能。我们比较了NOMP的性能与经典算法,如MUSIC和最近的原子范数软阈值保持(AST)和Lasso算法,无论是在频率估计精度和运行时间。
2016-04-28 cs.IT math.IT
A Quasi-Orthogonal Matching Pursuit Algorithm for Compressive Sensing
本文提出了一种新的正交匹配追踪算法--准OMP算法,该算法以一定的计算复杂性为代价,大大提高了经典正交匹配追踪(OMP)算法的性能。我们能够表明,在一些充分条件的相互相干的传感矩阵,QOMP算法成功地恢复的s-稀疏信号向量x在s次迭代,其中的2s列的总数被选择在无噪声和噪声设置下。此外,我们还证明了对于高斯感知矩阵,每次迭代的残差范数将以很高的概率线性地依赖于矩阵的大小。数值实验表明,QOMP算法在恢复稀疏解方面优于经典的OMP和GOMP算法。
2020-07-18 cs.IT cs.NA math.IT
Design and Analysis of a Greedy Pursuit for Distributed Compressed Sensing
我们考虑一个分布式压缩感知的情况下,许多传感器测量相关的稀疏信号和传感器通过网络连接。稀疏信号之间的相关性由部分公共支持集来建模。针对这种情况,本文的主要目标是开发一个贪婪追求算法。我们开发了一个分布式并行追踪(DIPP)算法的基础上交换信息的估计支持集在传感器。信息的交换有助于改善部分公共支持集的估计,这又有助于逐渐改善所有传感器中的支持集的估计,从而导致更好的质量重建性能。我们提供了基于限制等距性(RIP)的算法的收敛性和重建性能的理论分析。在一定的理论要求下,通过网络和RIP参数的传感器节点的信息交换的质量,我们表明,DIPP算法收敛到一个性能水平,取决于一个缩放的加性测量噪声功率(收敛理论)的缩放系数是RIP参数和信息处理质量参数的函数。使用模拟,我们展示了实际的重建性能的DIPP相对于欠采样量,信号测量噪声比和网络连接条件。
2015-01-13 cs.IT math.IT
Generalized Orthogonal Matching Pursuit
正交匹配追踪(OMP)算法作为一种从压缩测量中恢复稀疏信号的贪心算法,近年来受到了广泛的关注。在本文中,我们介绍了一个扩展的OMP追求效率重建稀疏信号。我们的方法,此后被称为广义OMP(gOMP),是字面上的广义OMP在这个意义上,多个$N$指数确定每次迭代。由于选择了多个“正确"索引,与OMP相比,gOMP算法以更少的迭代次数完成。我们表明,gOMP可以完美地重建任何$K$稀疏信号($K > 1$),只要传感矩阵满足RIP与$δ_{NK} < \frac{\sqrt{N}}{\sqrt{K} + 3 \sqrt{N}}$。我们还表明,通过实证模拟,gOMP具有良好的恢复性能相比,$\ell_1$ -最小化技术具有快速的处理速度和竞争力的计算复杂性。
2014-03-30 cs.IT math.IT
Solving Large Scale Quadratic Constrained Basis Pursuit
University of Iowa(爱荷华大学)
受乘子的交替方向法和算子分裂思想的启发,提出了一种求解大规模二次约束基寻踪问题的有效算法。实验结果表明,与CVX中实现的基本内点算法相比,该算法可获得50~~100倍的加速比。
2021-04-02 cs.IT cs.LG eess.SP
A sharp recovery condition for block sparse signals by block orthogonal multi-matching pursuit
我们考虑块正交多匹配追踪(BOMMP)算法恢复块稀疏信号。在无噪声情况下,基于块限制等距常数(块RIC),通过BOMMP算法获得块$K$稀疏信号的精确重建的尖锐界限。此外,我们表明,结合最小$\ell_2$范数的块$K-$稀疏信号的非零块的一个额外的条件的尖锐的界是足够的恢复块$K$ -稀疏信号的BOMMP在噪声的情况下的真正支持。我们在本文中获得的结果的意义在于,明确使用块稀疏信号的块稀疏性可以实现更好的恢复性能,而不是在传统意义上忽略问题中的附加结构。
2016-07-11 cs.IT math.IT
Sparse Bayesian Learning via Stepwise Regression
Cornell University(康奈尔大学)
稀疏贝叶斯学习(SBL)是一个强大的框架,用于在概率模型中实现稀疏性。在这里,我们提出了一个坐标上升算法SBL称为相关匹配追踪(RMP),并表明,由于其噪声方差参数为零,RMP表现出惊人的连接逐步回归。此外,我们得到新的保证逐步回归算法,这也揭示了RMP。我们对前向回归的保证改进了具有噪声的正交匹配追踪的确定性和概率结果。我们对确定系统的后向回归的分析最终在子集选择问题的最优解的残差上有界,如果满足,则保证结果的最优性。据我们所知,这个界限是第一个可以在多项式时间内计算的,并且主要取决于矩阵的最小奇异值。我们报告使用各种特征选择算法的数值实验。值得注意的是,RMP及其限制性变体都是有效的,并保持了相关特征的强大性能。
2021-06-11 cs.IT cs.LG math.IT
Improved Bounds on the Restricted Isometry Constant for Orthogonal Matching Pursuit
在这封信中,我们首先构造了一个反例来证明对于任何给定的正整数$K\geq 2$和任何$\frac{1}{\sqrt{K+1}}\leq t<1$,总是存在一个$K-$稀疏$\x$和一个矩阵$\A$与限制等距常数$δ_{K+1}=t$,使得OMP算法在$K$迭代失败。其次,我们证明了即使当$δ_{K+1}=\frac{1}{\sqrt{K}+1}$时,OMP算法也可以在$K$迭代中从$\y=\A\x$完美地恢复每个$K-$稀疏向量$\x$。这改进了Mo等人和Wang等人独立给出的现有最佳结果。
2014-06-17 cs.IT math.IT
Decentralized and Collaborative Subspace Pursuit: A Communication-Efficient Algorithm for Joint Sparsity Pattern Recovery with Sensor Networks
在本文中,我们考虑的问题,联合稀疏模式恢复在分布式传感器网络。假设所有节点观测到的稀疏多测量矢量信号(MMVs)具有共同的(但未知的)稀疏模式。为了以分散的方式准确地恢复常见的稀疏模式,同时降低网络的通信开销,我们开发了一种名为分散和协作子空间追踪(DCSP)的算法。在DCSP中,每个节点需要在每次迭代中执行三种操作:1)通过找到其测量向量最可能位于的子空间来估计局部稀疏模式; 2)与单跳相邻节点共享其局部稀疏模式估计;以及3)通过基于多数投票的融合在其邻域中获得的所有局部稀疏模式估计来更新最终的稀疏模式估计。证明了DCSP的收敛性,并定量分析了其通信开销。我们还提出了另一种分散的算法,称为广义DCSP(GDCSP),允许更多的信息交换相邻节点之间,以进一步提高稀疏模式恢复的准确性,在增加通信开销的成本。实验结果表明:1)与现有的分散式算法相比,DCSP算法在通信开销相当的情况下,稀疏模式恢复的准确率更高; 2)GDCSP算法的准确率与集中式算法非常接近。
2016-01-18 cs.IT math.IT
Support Recovery with Orthogonal Matching Pursuit in the Presence of Noise: A New Analysis
从压缩线性测量中恢复稀疏信号是压缩感知(CS)中的一个基本问题。本文研究了噪声背景下支持度恢复的正交匹配追踪(OMP)算法。我们考虑两种信噪比(SNR)设置:i)SNR取决于输入信号的稀疏水平$K$,以及ii)SNR是与$K$无关的绝对常数。对于第一个设置,我们建立了必要和充分条件的确切支持恢复OMP,表示为SNR的下限。我们的研究结果表明,为了确保精确的支持恢复所有$K$稀疏信号的OMP算法,信噪比必须至少与稀疏水平$K$的线性比例。在第二种设置中,由于不满足SNR的必要条件,因此不可能使用OMP进行精确的支持恢复。然而,我们的分析表明,恢复一个任意小的,但恒定比例的错误是可能的OMP算法。这一结果可能是有用的一些实际应用中,获得一些大部分的支持位置是足够的。
2015-01-20 cs.IT math.IT
Channel Estimation via Gradient Pursuit for MmWave Massive MIMO Systems with One-Bit ADCs
在毫米波(mmWave)大规模多输入多输出(MIMO)系统中,采用1位模数转换器(ADC)来降低宽带和大阵列所带来的不切实际的高功耗。在实践中,毫米波频带由少量路径组成,从而呈现稀疏的虚拟信道。然后,由此产生的最大后验概率(MAP)信道估计问题是一个稀疏约束优化问题,这是NP-难解决。针对毫米波大规模多输入多输出系统,提出了一种基于梯度支持追踪(GraSP)和梯度硬阈值追踪(GraHTP)算法的迭代MAP近似信道估计器。GraSP和GraHTP算法分别是压缩采样匹配追踪(CoSaMP)和硬阈值追踪(HTP)算法在压缩感知(CS)中的推广,通过迭代地追踪目标函数的梯度来近似优化具有稀疏约束的凸目标函数。然而,GraSP和GraHTP算法的性能不能保证时,目标函数是病态的,这可能是由高度相干的传感矩阵。本文提出了一种带最大值选择(BMS)硬阈值技术,对GraSP和GraHTP算法分别进行了改进,即BMSGraSP和BMSGraHTP算法。BMSGraSP和BMSGraHTP算法基于带最大值准则而不是朴素的硬阈值来追求目标函数的梯度。此外,一个快速傅里叶变换为基础的(FFT为基础的)快速实现开发,以减少复杂度。的BMSGraSP和BMSGraHTP算法被证明是准确和有效的,其性能通过大量的仿真验证。
2019-12-18 cs.IT eess.SP math.IT
Orthogonal Matching Pursuit with Replacement
在本文中,我们考虑的问题,压缩感知的目标是恢复几乎所有的稀疏向量使用少量的固定线性测量。对于这个问题,我们提出了一种新的部分硬阈值算子,导致一个一般家庭的迭代算法。虽然该家族的一个极端产生了众所周知的硬阈值算法,如ITI(迭代求逆)和HTP(硬阈值追踪),但频谱的另一端导致了一种新的算法,我们称之为正交匹配追踪替换(OMPR)。与经典的贪心算法OMP一样,OMPR基于与当前残差的相关性,在每次迭代时向支持添加一个坐标。但是,与OMP不同,OMPR还从支持中删除一个坐标。这个简单的变化使我们能够证明OMPR在受限等距属性(测量矩阵上的条件)方面具有稀疏恢复的最佳保证。相比之下,OMP在RIP下的性能保证非常弱。鉴于其简单的结构,我们能够使用局部敏感哈希扩展OMPR,得到OMPR-Hash,这是第一个可证明的次线性(在维度上)稀疏恢复算法。我们的证明技术是新颖和灵活的,也允许最严格的已知分析流行的迭代算法,如CoSaMP和子空间追踪。我们提供的实验结果,提供恢复高达百万维的向量大小的大型问题。我们证明,对于大规模的问题,我们提出的方法比现有的方法更强大,更快。
2011-06-14 cs.IT math.IT stat.ML
A remark about orthogonal matching pursuit algorithm
研究正交匹配追踪(OMP)解码器在压缩感知中恢复稀疏信号的理论性质,证明其在特定条件下具有(p,q)实例最优性,并在随机编码矩阵下具有概率性的(2,2)实例最优性。
2011-02-17 cs.IT cs.NA math.IT
Gradient Pursuit-Based Channel Estimation for MmWave Massive MIMO Systems with One-Bit ADCs
研究了毫米波(mmWave)大规模多输入多输出(MIMO)系统中采用1位模数转换器(ADC)的信道估计问题。在毫米波频段,传播路径的数量很少,这导致虚拟信道稀疏。为了基于最大后验概率(MAP)准则估计稀疏虚拟信道,稀疏约束优化开始发挥作用。一般来说,优化目标函数的稀疏约束是NP难的,因为它们的组合复杂性。此外,1位ADC的粗量化使得信道估计成为一项具有挑战性的任务。在压缩感知(CS)领域,提出了梯度支持追踪(GraSP)和梯度硬阈值追踪(GraHTP)算法,通过硬阈值追踪目标函数的梯度,迭代近似求解稀疏约束优化问题。然而,这些算法的准确性保证,打破了目标函数是病态的,这经常发生在毫米波波段。为了防止基于梯度追踪算法的故障,带最大值选择(BMS)技术,这是一个硬阈值只选择“带最大值”,适用于GraSP和GraHTP提出BMSGraSP和BMSGraHTP算法在本文中。
2019-08-01 cs.IT eess.SP math.IT
Robust Binary Fused Compressive Sensing using Adaptive Outlier Pursuit
我们提出了一种新的方法,{ \it鲁棒二进制融合压缩感知}(RoBFCS),从1位压缩测量恢复稀疏分段平滑信号。该方法是对基于{ \it二元迭代硬阈值}(BIHT)算法的{\it二元融合压缩感知}(BFCS)算法的改进。与BIHT一样,目标函数的数据项是单侧$\ell_1$(或$\ell_2$)范数。实验结果表明,该算法能够充分利用原始信号的分段平滑性,检测并纠正符号翻转,比BFCS和BIHT算法恢复得更准确。
2014-03-20 cs.CV cs.IT math.IT
Self-Dictionary Sparse Regression for Hyperspectral Unmixing: Greedy Pursuit and Pure Pixel Search are Related
本文考虑了最近出现的高光谱解混配方的基础上稀疏回归的自字典多测量向量(SD-MMV)模型,其中测量的高光谱像素被用作字典。在纯像素假设下操作,这种SD-MMV形式主义是特殊的,因为它允许同时识别端元光谱特征和端元的数量。以前的SD-MMV研究主要集中在凸松弛。在这项研究中,我们探讨了贪婪追求的替代方案,它通常提供了高效和简单的算法。特别是,我们设计了一个贪婪的SD-MMV算法使用同时正交匹配追踪。有趣的是,所提出的贪婪算法被证明是密切相关的一些现有的纯像素搜索算法,特别是,连续投影算法(SPA)。因此,SD-MMV和纯像素搜索之间的联系被揭示出来。然后,我们进行精确的恢复分析,并证明所提出的贪婪算法是强大的噪声-包括其识别的(未知)数量的端元-在一个足够低的噪声水平。通过仿真实验和实际数据实验验证了该算法的辨识性能。
2015-03-03 cs.IT math.IT math.OC
Robust 1-bit Compressive Sensing via Gradient Support Pursuit
本文研究了基于最大似然估计框架的1比特压缩感知(CS)问题。为了解决这个问题,我们应用最近提出的梯度支持追踪算法,与一个小的修改。假设所提出的目标函数有一个稳定的限制Hessian,该算法被证明可以准确地解决1位CS问题。此外,该算法进行了比较,最先进的1位CS算法,通过数值模拟。结果表明,该方法对噪声具有鲁棒性,并且在中低输入SNR状态下,它实现了最佳的重建SNR与执行时间的折衷。
2013-04-24 cs.IT math.IT math.OC
MAP Support Detection for Greedy Sparse Signal Recovery Algorithms in Compressive Sensing
Intel Labs(英特尔实验室);University of Texas at Austin(德克萨斯大学奥斯汀分校)
一个可靠的支持检测是必不可少的贪心算法从压缩和噪声测量准确地重建稀疏信号。提出了一种新的贪心算法支持度检测方法--\textit{maximum a posteriori (MAP) support detection}。不同于现有的支持检测方法,确定支持指数的幅度最大的相关值,每次迭代,所提出的方法选择他们的最大似然比计算下的真实和空的支持假设,同时利用传感矩阵,稀疏信号和噪声的分布。利用这种技术,MAP匹配追踪(MAP-MP)首次提出了利用建议的支持检测方法的优点,并推导出了一个充分条件时,稀疏信号是二进制的情况下,完美的信号恢复。随后,一组迭代的贪心算法,称为MAP-广义正交匹配追踪(MAP-gOMP),MAP-压缩采样匹配追踪(MAP-CoSaMP),和MAP-子空间追踪(MAP-SP),以证明所提出的支持检测方法现有的贪心算法的适用性。实验结果表明,所提出的贪心算法具有高可靠性的支持检测,可以更好,更快,更容易实现比通过线性规划的基追踪。
2016-01-28 cs.IT cs.LG math.IT
Active Orthogonal Matching Pursuit for Sparse Subspace Clustering
Tsinghua University(清华大学)
稀疏子空间聚类(SSC)是一种对低维子空间中的高维数据点进行聚类的方法。然而,虽然基于$\ell_1$优化的SSC算法遭受高计算复杂性,但是SSC的其他变体,诸如基于正交匹配追踪的SSC(OMP-SSC),在追求提高时间效率时损失聚类准确性。在这封信中,我们提出了一种新的主动OMP-SSC,它提高了OMP-SSC的聚类精度,通过自适应更新数据点和随机丢弃的数据点在OMP过程中,同时仍然享受低计算复杂性的贪婪追求算法。我们提供启发式分析我们的方法,并解释这两个积极的步骤如何实现更好的连接和分离之间的权衡。对合成数据和实际数据的数值结果验证了我们的分析,并显示了所提出的主动算法的优点。
2017-08-16 cs.CV cs.IT cs.LG
Backward Optimized Orthogonal Matching Pursuit
提出了一种原子分解收缩系数的递归方法。相应的算法进化,以便在每次迭代时提供a)信号到缩减子空间上的正交投影和b)要忽略的系数的索引,以便构造使残差的范数最小化的较粗略的近似。
2004-01-21 cs.IT math.GM math.IT
2D Sparse Signal Recovery via 2D Orthogonal Matching Pursuit
恢复算法在压缩采样(CS)中起着关键作用。现有的CS恢复算法大多是针对一维信号设计的,而实际应用中的信号大多是二维信号。通过利用二维可分离采样,二维信号恢复问题可以转化为一维信号恢复问题,从而可以直接应用普通的一维信号恢复算法,如正交匹配追踪(OMP)。然而,即使使用2D可分离采样,解码器处的存储器使用和复杂度仍然很高。本文提出了一种新的恢复算法称为2D-OMP,这是一个扩展的1D-OMP。在2D-OMP中,字典中的每个原子都是一个矩阵。在每次迭代中,解码器将样本矩阵投影到2D原子上以选择最佳匹配的原子,然后通过最小二乘法更新所有已选择原子的权重。我们表明,2D-OMP实际上相当于1D-OMP,但它降低了恢复的复杂性和内存使用显着。更重要的是,通过利用本文中使用的相同的方法,人们甚至可以获得更高维的OMP(如3D-OMP等)。轻松地。
2011-04-26 cs.IT cs.MM math.IT
Simultaneous Greedy Analysis Pursuit for Compressive Sensing of Multi-Channel ECG Signals
本文讨论了多通道心电图的压缩传感。传统的稀疏信号恢复方法将信号分解为字典和稀疏向量的乘积,而最近发展起来的cosparse方法利用了分析矩阵和原始信号乘积的稀疏性。我们将余分析贪婪分析追踪(GAP)算法用于ECG信号的压缩感知。此外,为了减少处理时间,将经典的单通道GAP算法推广到多通道GAP算法,该算法同时重构多个具有相似支持度的信号。数值实验表明,该方法在精度上优于经典稀疏多通道贪心算法,在处理速度上优于单通道余分析方法.
2013-11-20 cs.DS cs.IT math.IT
Thresholding Greedy Pursuit for Sparse Recovery Problems
我们在这里研究稀疏恢复问题的存在下,加性噪声。我们分析了一个阈值版本的CoSaMP算法,命名为贪婪的追求(TGP)。我们表明,适当的阈值参数的选择,即使没有知识的稀疏水平的信号和噪声的强度,可以导致准确的恢复没有错误的发现,因为数据的维数增加到无穷大。
2021-03-17 cs.IT eess.SP math.IT
Subspace Pursuit for Compressive Sensing Signal Reconstruction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出一种名为子空间追踪的新方法,用于有/无噪声干扰下的稀疏信号重建,具有低计算复杂度和高重建精度。
2009-01-08 cs.IT cs.NA math.IT
Matching Pursuit Based Scheduling for Over-the-Air Federated Learning
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);Princeton University(普林斯顿大学)
本文提出了一种基于匹配追踪的低复杂度空中联邦学习设备调度算法。所提出的方案密切跟踪接近最优的性能实现的差分凸规划,并显着优于著名的基准算法的基础上凸松弛。与现有技术相比,所提出的方案对系统造成了显著更低的计算负载:对于参数服务器处的$K$设备和$N$天线,基准复杂度随着$\left(N^2+K\right)^3 + N^6$而缩放,而所提出的方案的复杂度对于一些$0 < p,q \leq 2$随着$K^p N^q$而缩放。在CIFAR-10数据集上的数值实验证实了该方法的有效性。
2022-10-12 cs.IT cs.LG math.IT
Fast Matching Pursuit with Multi-Gabor Dictionaries
在冗余字典中寻找信号的最佳K-稀疏逼近是一个NP难问题。次优贪婪匹配追踪(MP)算法通常用于此任务。在这项工作中,我们提出了一种加速技术和实现的匹配追踪算法上的多个Gabor字典,即,多个Gabor型时频字典的级联,每个时频字典由可能不同的窗口以及时间和频率偏移参数的转换和调制组成。该技术基于原子之间的内积的预计算和阈值化以及直接在系数域中更新残差,即,而不需要到信号域的往返。由于建议的加速技术涉及一个近似的更新步骤,我们提供的理论和实验结果说明所得到的算法的收敛性。该实现是用C语言编写的(与C99和C++11兼容),我们还提供Matlab和GNU Octave接口。对于某些设置,该实现比标准的Matching Pursuit Toolkit(MPTK)快70倍。
2022-02-16 cs.IT cs.MS cs.NA
Tuning Free Orthogonal Matching Pursuit
正交匹配追踪(OMP)是一种广泛应用的压缩感知(CS)算法,用于恢复噪声线性回归模型中的稀疏信号。OMP的性能取决于其停止准则(SC)。在文献中讨论的用于OMP的SC通常假设要估计的信号的稀疏性$k_0$或噪声方差$σ^2$的知识,这两者在许多实际应用中是不可用的。在这篇文章中,我们开发了一个修改版本的OMP称为调谐自由OMP或TF-OMP,它不需要SC。TF-OMP被证明是成功的稀疏恢复在通常的假设下的限制等距常数(RIC)和设计矩阵的互相关。数值上显示,与具有$k_0$或$σ^2$的\textit{a priori}知识的OMP相比,TF-OMP提供高度竞争性的性能。贪婪鲁棒去噪算法(Greedy Algorithm for Robust De-noising,GARD)是一种OMP类算法,用于估计稀疏离群值破坏的超定线性回归模型。然而,GARD需要内点噪声方差的知识,这是很难估计的。我们还产生了一个调谐免费算法(TF-GARD)的有效估计稀疏离群值的存在下,通过扩展TF-OMP的工作原理GARD。TF-GARD的数字显示,以实现与GARD的现有实施的性能。
2017-03-15 cs.IT math.IT stat.ML
Weighted algorithms for compressed sensing and matrix completion
本文研究了压缩感知和矩阵完备问题的迭代重加权基追踪算法。在第一部分中,我们给出了一个理论解释的事实,重新加权基追踪可以改善基追踪在压缩感知的准确恢复了很多。我们展示了一个条件,链接的RIP和不相干常数的权重的准确性,这确保了准确的恢复。在第二部分中,我们介绍了一个新的算法矩阵完成,基于迭代加权的思想。由于加权核“范数”通常是非凸的,因此它不能容易地用作目标函数。因此,我们定义了一个新的估计的基础上的不动点方程。我们给出了经验证据的事实,这种新的算法导致强大的改进核模最小化的模拟和真实的矩阵完成问题。
2011-07-08 cs.IT math.IT math.ST
Modified Hard Thresholding Pursuit with Regularization Assisted Support Identification
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
硬阈值追踪(HTP)是最近提出的一种迭代稀疏恢复算法,它是将迭代硬阈值(IHT)的支持度选择步骤和正交匹配追踪(OMP)的估计步骤相结合的结果。HTP已被视为享有改善的恢复保证以及增强的收敛速度。HTP的成功很大程度上归功于其改进的支持选择能力,这是由于IHT的支持选择步骤。在本文中,我们提出了一种广义HTP算法,称为正则化HTP(RHTP),HTP的支持选择步骤被替换为IHT型支持选择,其中成本函数被替换为正则化成本函数,而估计步骤继续使用最小二乘函数。与可分解的正则化,满足一定的规律性条件下,RHTP算法产生一个序列动态等价于一个序列不断发展,根据HTTP样的演变,其中的识别阶段有一个梯度premultiplied与时变对角矩阵。RHTP也被证明,无论是在理论上,和数值上,享受更快的收敛速度与无噪声和噪声测量矢量的HTP。
2020-06-02 cs.IT cs.LG cs.NA
Distributed Basis Pursuit
Instituto de Sistemas e Robótica (ISR), Instituto Superior Técnico (IST), Technical University of Lisbon, Portugal(里斯本理工大学高等技术学院系统机器人研究所);Department of Electrical and Computer Engineering at Carnegie Mellon University, USA(卡内基梅隆大学电气与计算机工程系);Department of Computer Science at ETH Zurich, Switzerland(苏黎世联邦理工学院计算机科学系)
针对基追踪(BP)优化问题,提出一种分布式算法D-ADMM,通过交替方向乘子法在传感器网络等分布式平台上实现,显著减少节点间通信。
2012-03-14 cs.IT cs.SY eess.SY
Orthogonal Matching Pursuit with Noisy and Missing Data: Low and High Dimensional Results
许多稀疏回归模型通常假设协变量是完全已知的,并且没有噪声。特别是在高维应用中,情况往往并非如此。本文开发了高效的OMP类算法来处理正是这种设置。我们的算法是有效的OMP,并改善最知名的结果,在回归中的缺失和噪声数据,无论是在高维设置,我们试图从只有几个测量恢复稀疏向量,并在经典的低维设置,我们恢复一个非结构化的回归。在高维环境中,我们的支持恢复算法甚至不需要了解噪声的统计信息。一路上,我们还获得了改进的性能保证OMP的标准稀疏回归问题与高斯噪声。
2015-03-30 cs.IT math.IT math.ST
The greedy side of the LASSO: New algorithms for weighted sparse recovery via loss function-based orthogonal matching pursuit
本文提出基于损失函数推广 OMP 的加权稀疏恢复贪婪算法,给出多种加权 LASSO 形式的显式选择规则,并通过实验验证其继承 SR-LASSO 与 LAD-LASSO 的优良特性。
2025-02-16 cs.IT cs.NA math.IT
Iteratively Reweighted Least Squares for Basis Pursuit with Global Linear Convergence Rate
Johns Hopkins University(约翰斯·霍普金斯大学);Technical University of Munich(慕尼黑工业大学);KU Eichstätt–Ingolstadt(埃希施泰特-英戈尔施塔特天主教大学)
稀疏数据的恢复是机器学习和信号处理中许多应用的核心。虽然这样的问题可以使用$\ell_1$ -正则化来解决,如在LASSO估计器和基追踪方法中,但通常需要专门的算法来解决大实例的相应高维非光滑优化。迭代重加权最小二乘法(IRLS)是一种广泛使用的算法,用于此目的,由于其优良的数值性能。然而,虽然现有的理论能够保证该算法收敛到最小值,它不提供一个整体收敛率。在本文中,我们证明了IRLS的一个变体以全局线性速率收敛到稀疏解,即,如果测量满足通常的零空间性质假设,则从任何初始化开始立即发生线性误差减小。我们支持我们的理论,数值实验表明,我们的线性速率捕获正确的尺寸依赖。我们预计,我们的理论研究结果将为IRLS算法的许多其他用例带来新的见解,例如低秩矩阵恢复。
2021-11-12 cs.IT cs.LG cs.NA
Phase Retrieval Using Feasible Point Pursuit: Algorithms and Cramér-Rao Bound
Harbin Institute of Technology(哈尔滨工业大学);University of Minnesota(明尼苏达大学);Shenzhen University(深圳大学);City University of Hong Kong(香港城市大学)
本文提出两种基于非凸二次约束二次规划的相位恢复算法,并推导了Cramér-Rao界,通过仿真显示LS-FPP在性能上优于现有算法并接近Cramér-Rao界。
2016-03-28 cs.IT cs.NA math.IT