Greedy Sparsity-Promoting Algorithms for Distributed Learning
本文主要研究稀疏约束下分布式学习的贪婪算法。贪婪技术由于其较低的计算要求以及同时其在估计稀疏参数向量/信号方面的相对良好的性能而被广泛用于集中式系统中。本文报告了两个新的算法的背景下,稀疏-意识的学习。在这两种情况下,目标是首先识别未知信号的支持集,然后估计仅限于活动支持集的非零值。首先,提出了一种基于邻域合作策略的迭代贪婪多步算法,对观测数据进行批处理。接下来,扩展的算法的在线设置,基于扩散LMS的自适应性的理由,推导出。理论分析的算法,它示出了批处理算法收敛到未知向量,如果一个限制等距属性(RIP)举行。此外,在线版本收敛于平均解向量在一些一般的假设。最后,所提出的计划进行了测试,最近开发的稀疏性-促进算法和他们的增强性能通过仿真例子进行了验证。
2014-10-14 cs.IT math.IT
Bayesian compressed sensing with new sparsity-inducing prior
稀疏贝叶斯学习(SBL)是压缩感知(CS)中稀疏信号恢复的一种流行方法。在SBL中,信号稀疏性信息被利用,假设一个稀疏诱导的信号,然后使用贝叶斯推理估计先验。在本文中,一个新的稀疏诱导先验的信号恢复和有效的算法。的主要算法产生一个稀疏的解决方案比现有的SBL方法,同时保持其理想的性能。一维合成信号和二维图像的数值模拟验证了我们的分析,并表明,稀疏信号的信号恢复精度和计算速度的算法优于其SBL同行。其改进的性能也证明了在CS与其他国家的最先进的方法相比。
2012-08-31 cs.IT math.IT
Joint Sparsity Recovery for Spectral Compressed Sensing
压缩感知(Compressed Sensing,CS)是一种有效的方法,可以减少先验基础上重建稀疏信号所需的样本数,但可能会受到基础失配的严重影响。在本文中,我们研究的问题,同时恢复多个频谱稀疏的信号,支持在相同的频率位于任意单位圆。我们提出了一个原子范数最小化问题,它可以被看作是一个连续的对应的离散CS制定和有效地解决通过半定规划。通过数值实验,我们表明,每个信号的样本数可以进一步减少利用联合稀疏模式的多个信号。
2014-02-03 cs.IT math.IT
Sparsity-Aware Learning and Compressed Sensing: An Overview
本文基于一本关于机器学习的新书中的一章,由第一和第三作者撰写,目前正在编写中。我们提供了一个概述的主要理论进展,以及在稀疏感知学习和压缩感知领域的算法发展的主要趋势。同时考虑了批处理和在线处理技术。还介绍了信号的时频分析的背景下的案例研究。我们的目的是不时更新这篇评论,因为这是一个非常热门的研究领域,其势头和速度有时很难跟进。
2012-11-22 cs.IT math.IT
Blind Compressed Sensing
压缩感知的基本原理是,一个信号,这是稀疏下的一些基本表示,可以从少量的线性测量恢复。然而,先验知识的稀疏基础是必不可少的恢复过程。本文引入了盲压缩感知的概念,避免了在采样和恢复过程中需要知道稀疏基的问题。我们提出了三种可能的限制稀疏的基础上,可以添加到问题,以使其解决方案的唯一性。对于每个约束,我们证明条件的唯一性,并提出了一个简单的方法来检索的解决方案。在唯一性条件下,只要信号足够稀疏,我们通过仿真证明,在不知道稀疏性基础的情况下,我们的方法可以实现类似于标准压缩感知的结果,这依赖于稀疏性基础的先验知识。这提供了一个通用的采样和重建系统,适合所有稀疏信号,无论稀疏的基础上,在这项工作中提出的条件和约束。
2010-04-28 cs.IT math.IT
A Greedy Blind Calibration Method for Compressed Sensing with Unknown Sensor Gains
基于压缩感测原理的感测模态的实现通常受到其感测算子的数学模型(这在信号恢复期间是必要的)与其实际物理实现之间的差异的阻碍,实际物理实现可能与假设的模型有很大不同。在本文中,我们解决了双线性逆问题的恢复稀疏的输入信号和一些未知的,非结构化的乘法因素影响的传感器捕获每个压缩测量。我们的方法依赖于收集几个快照下的新绘制的传感算子,并应用一个贪心算法的基础上投影梯度下降和迭代硬阈值的原则。我们探索经验的样本复杂性的要求,该算法通过测试其相变,并显示在一个实际相关的情况下,这个问题的压缩成像,可以得到精确的解决方案,只有几个快照。
2018-02-20 cs.IT math.IT math.OC
Compressed Shattering
压缩感知的中心思想是利用大多数感兴趣的信号在某些域中是稀疏的这一事实,并使用这一点来减少要编码的测量数量。然而,如果输入信号的稀疏性不是精确已知的,而是已知位于指定范围内,则压缩感测本身不能利用这一事实,并且即使对于非常稀疏的信号也需要使用相同数量的测量。在本文中,我们提出了一种新的方法,称为压缩破碎,以适应压缩感知指定的稀疏范围,而不改变传感矩阵,通过创建破碎的信号,具有固定的稀疏性。这是通过首先适当地置换输入频谱,然后使用滤波器组来创建固定的稀疏破碎信号来实现的。通过确保所有破碎的信号是最大的1-稀疏,我们利用一个简单但有效的确定性传感矩阵,产生非常低的测量数量。对于长度为1000的离散时间信号,具有$5 - 25$的稀疏范围,传统的压缩感知需要$175$测量,而压缩破碎将仅需要$20 - 100$测量。
2016-01-10 cs.IT math.IT
On Asymptotic Incoherence and its Implications for Compressed Sensing of Inverse Problems
University of Cambridge(剑桥大学);Simon Fraser University(西蒙菲莎大学);University of Oslo(奥斯陆大学)
本文研究了渐近不相干及其对最优采样策略和高效稀疏基设计的影响,探讨了傅里叶采样和小波稀疏性在渐近不相干中的最优衰减特性。
2015-07-07 cs.IT cs.NA math.IT
Information Theoretic Limits for Standard and One-Bit Compressed Sensing with Graph-Structured Sparsity
在本文中,我们分析了信息论的下限恢复稀疏信号所需的样本数在不同的压缩感知设置。我们专注于加权图模型,这是Hegde等人(2015)提出的基于模型的框架,用于标准压缩感知以及1位压缩感知。我们研究了有噪声和无噪声两种情况。我们的分析是通用的,因为它适用于任何用于恢复信号的算法。我们仔细构造限制合奏不同的设置,然后应用法诺不等式建立必要的样本数量的下限。此外,我们表明,我们的界是紧的一位压缩感知,而对于标准的压缩感知,我们的界是紧的信号中的非零条目的数量的对数因子。
2018-11-16 cs.IT math.IT
Design and Analysis of a Greedy Pursuit for Distributed Compressed Sensing
我们考虑一个分布式压缩感知的情况下,许多传感器测量相关的稀疏信号和传感器通过网络连接。稀疏信号之间的相关性由部分公共支持集来建模。针对这种情况,本文的主要目标是开发一个贪婪追求算法。我们开发了一个分布式并行追踪(DIPP)算法的基础上交换信息的估计支持集在传感器。信息的交换有助于改善部分公共支持集的估计,这又有助于逐渐改善所有传感器中的支持集的估计,从而导致更好的质量重建性能。我们提供了基于限制等距性(RIP)的算法的收敛性和重建性能的理论分析。在一定的理论要求下,通过网络和RIP参数的传感器节点的信息交换的质量,我们表明,DIPP算法收敛到一个性能水平,取决于一个缩放的加性测量噪声功率(收敛理论)的缩放系数是RIP参数和信息处理质量参数的函数。使用模拟,我们展示了实际的重建性能的DIPP相对于欠采样量,信号测量噪声比和网络连接条件。
2015-01-13 cs.IT math.IT
Limits of Deterministic Compressed Sensing Considering Arbitrary Orthonormal Basis for Sparsity
它是以前示出,适当的随机线性样本的有限离散信号(矢量),它具有稀疏表示在正交基,使它有可能(概率为1)恢复原始信号。此外,线性样本的选择不依赖于稀疏域。在本文中,我们将表明,随机线性样本的信号(不一定是线性的)的确定性函数的替代将不会导致唯一的重建k-稀疏信号,除了k=1。我们将表明,存在确定性的非线性采样函数的唯一重建的1-稀疏信号,而确定性的线性样本无法做到这一点。
2009-01-22 cs.IT math.IT
Noise Resilient Recovery Algorithm for Compressed Sensing
在这篇文章中,我们讨论了一种新的贪心算法恢复压缩采样信号在噪声条件下。在文献中提出的大多数贪婪恢复算法需要已知信号的稀疏性,或者对于已知的表示基础,从测量的数量来估计稀疏性。这些算法恢复信号时,噪声水平显着低。我们提出了熵最小化匹配追踪(EMP),它有能力拒绝噪声,即使当噪声电平是可比的信号电平。该算法可以满足可压缩信号和信号的稀疏性是事先未知的。仿真结果表明,该算法与传统的贪婪恢复算法相比,对高斯白噪声具有更好的鲁棒性。
2014-12-17 cs.IT math.IT
Affine Frequency Division Multiplexing for Compressed Sensing of Time-Varying Channels
针对时延-多普勒双稀疏的 LTV 信道,本文提出带恢复保证的 AFDM 压缩感知算法,并证明其在估计开销与最低采样率上优于其他波形。
2024-07-03 cs.IT math.IT
An Information Theoretic Study for Noisy Compressed Sensing With Joint Sparsity Model-2
在本文中,我们研究了一个支持集重建问题,其中感兴趣的信号是联合稀疏与一个共同的支持集,并在噪声的存在下,联合稀疏模型-2(JSM-2)采样。使用数学工具,我们开发的支持集重建的稀疏性,周围的尺寸,最小信噪比,测量向量的数量和测量的数量方面的失败概率的上限和下限。这些界限可以用来提供一个指导方针,以确定在各种应用中的压缩感知与噪声JSM-2的系统参数。在此基础上,给出了可靠支撑集重构的充分必要条件。我们解释这些条件,给出理论解释的好处,使联合稀疏结构在嘈杂的JSM-2。我们比较了我们的充分条件与现有的结果噪声多测量向量模型(MMV)。因此,我们表明,嘈杂的JSM-2可能需要更少的测量比嘈杂的MMV可靠的支持集重建。
2016-04-04 cs.IT math.IT
Bernoulli-Gaussian Approximate Message-Passing Algorithm for Compressed Sensing with 1D-Finite-Difference Sparsity
提出了一种基于MMSE估计的一维有限差分稀疏压缩感知(CS)恢复的快速近似消息传递(AMP)算法。该算法(ssAMP-BGFD)具有计算量小、收敛速度快、每次迭代代价低的特点,其相位转换几乎接近最新技术水平。该算法源于和积消息传递规则,应用Bernoulli-Gaussian(BG)先验,寻求MMSE解。该算法的结构不仅包括传统的AMP技术的测量保真度,但也提出了一个简化的消息传递方法,以促进有限差分信号稀疏。此外,我们提供了一个EM调谐方法来学习BG先验参数,建议如何使用一些实际的测量矩阵满足RIP的要求下ssAMP-BGFD恢复。大量的实验结果证实了所提出的算法的性能,在相变,收敛速度和CPU运行时间,最近的算法相比。
2015-09-04 cs.IT math.IT
Sparsity Order Estimation from a Single Compressed Observation Vector
我们调查的问题,估计未知程度的稀疏压缩测量,而不需要进行稀疏恢复步骤。虽然在多个快照的情况下,可以直接从观测矩阵的有效秩推断稀疏度阶,但在更具挑战性的单快照情况下,这似乎是不可能的。我们表明,专门设计的测量矩阵允许重新排列的测量向量到一个矩阵,使其有效的秩与有效的稀疏顺序相一致。事实上,我们证明,矩阵组成的Khatri-Rao产品的较小的矩阵产生的测量,允许推断的稀疏顺序。此外,如果某些样本被使用了不止一次,则其中一个矩阵需要是Vandermonde。这些结构约束减少了选择测量矩阵的自由度,这可能导致可实现的相干性的劣化。因此,我们也解决了测量矩阵的适当选择。特别是,我们分析了Khatri-Rao和Vandermonde矩阵的一致性,并提供了一种新的设计Vandermonde矩阵,实现了低的一致性。
2017-06-16 cs.IT math.IT
Sparsity based sub-wavelength imaging with partially incoherent light via quadratic compressed sensing
我们证明,承担部分空间非相干光的亚波长光学图像可以恢复,从他们的远场或从模糊的图像,给定的先验知识,图像是稀疏的,只有这样。重建方法依赖于最近证明的基于稀疏的亚波长成像。然而,对于部分空间非相干光,测量和图像之间的关系是二次的,产生不符合先前使用的技术的非凸测量方程。因此,我们展示了新的算法方法,称为二次压缩感知,它可以应用于一系列其他问题,涉及信息恢复从部分相关测量,包括当相关函数具有本地依赖性。特别是对于显微镜,这种方法可以很容易地扩展到白光显微镜与光源光谱的额外知识。
2011-04-22 cs.IT math.IT physics.optics
Topics in Compressed Sensing
University of Nevada, Reno(内华达大学里诺分校);University of California, Davis(加州大学戴维斯分校)
本文综述了压缩感知的两种主要稀疏恢复方法:L1最小化(如基追踪)和贪婪算法(如ROMP和CoSaMP),并介绍了ROMP和CoSaMP在保证和速度上的优势。
2009-05-27 cs.IT cs.NA math.IT
Subspace Thresholding Pursuit: A Reconstruction Algorithm for Compressed Sensing
提出了一种新的迭代贪心算法,用于压缩感知中稀疏信号的重构。该算法称为\emph{subspace thresholding pursuit}(STP),本文中,是一个简单的子空间追求和迭代硬阈值的组合。首先,STP在约束等距性方面具有与$\ell_1$极小化相当的理论保证。其次,通过调整参数,一方面,在重构高斯信号时,该算法的性能大大优于其他现有的重构算法;另一方面,在重构具有随机符号的等幅信号时,该算法的性能优于其他现有的迭代贪心算法,在欠采样率不是很大的情况下,该算法的性能甚至优于$\ell_1$最小化算法。此外,我们提出了一个简单而有效的方法,以提高经验性能进一步,如果欠采样率是大的。最后,通过借鉴STP的思想,证明了其他迭代贪心算法可以提高其经验性能。
2014-05-21 cs.IT math.IT
Progressive Compressed Sensing and Reconstruction of Multidimensional Signals Using Hybrid Transform/Prediction Sparsity Model
压缩感知(CS)是一种创新的技术,允许通过少量的线性投影来表示信号。因此,CS可以被认为是用于获取多维信号的自然候选者,因为由常规传感器获取和处理的数据量可能在计算复杂性方面产生问题。在本文中,我们提出了一个框架的多维相关信号的采集和重建。该方法是通用的,可以应用于D维信号,即使我们提出的算法实际上实现这种架构适用于2-D和3-D信号。所提出的架构采用迭代局部信号重建的基础上的混合变换/预测相关模型,加上适当的初始化策略。
2013-10-04 cs.IT math.IT
Structure dependent sampling in compressed sensing: theoretical guarantees for tight frames
压缩感测的许多应用已经基于可变密度采样,其中采样系数的某些部分被更密集地采样。此外,已经观察到,这些采样方案不仅依赖于稀疏性,而且依赖于底层信号的稀疏性结构。本文将(Adcock,Hansen,Poon and Roman,arXiv:1302.0561,2013)的结果扩展到稀疏化系统形成紧框架的情况。通过将采样系数划分为多个级别,我们的主要结果将描述每个级别中的子采样量是如何由采样和稀疏化算子之间的局部相干性和局部级别稀疏性-稀疏化算子下每个级别的稀疏性决定的。
2015-09-23 cs.IT math.IT
Compressed sensing with structured sparsity and structured acquisition
压缩感知(CS)是磁共振成像(MRI)等应用的一个有吸引力的框架。然而,到目前为止,CS理论提出的传感方案是由随机孤立的测量,这通常是不兼容的物理采集。为了反映成像设备的物理约束,我们引入了测量块的概念:感测方案不再是一组孤立的测量,而是一组可以表示任何任意形状(例如平行或径向线)的测量组。使用测量块的结构化采集易于实现,并在实践中提供良好的重建结果。然而,在这种情况下,很少有结果存在CS重建的理论保证。在本文中,我们推导出新的CS结构化收购和信号满足事先结构稀疏的结果。所得到的结果提供了一个稀疏向量的恢复概率,明确地取决于他们的支持。因此,我们的结果是支持依赖的,并提供了灵活的假设稀疏结构的可能性。此外,结果是绘图相关的,因为我们突出了重建稀疏向量的概率和选择测量块的方式之间的显式依赖性。数值模拟表明,该理论是忠实于实验观察。
2016-06-13 cs.IT math.IT
The Sampling Rate-Distortion Tradeoff for Sparsity Pattern Recovery in Compressed Sensing
从有限数量的噪声线性测量中恢复未知稀疏向量的稀疏模式(或支持)是压缩感知中的一个重要问题。在高维设置中,它是已知的,如果测量速率和每个样本的信噪比(SNR)是有限的常数,独立于向量长度的误差的消失分数的恢复是不可能的。在本文中,它是一个任意小的,但恒定的错误分数的恢复是可能的,但是,在某些情况下,计算简单的估计是接近最优的。给出了几种不同的恢复算法的SNR和未知向量的各种关键参数方面的测量速率,以达到所需的误差分数的界限。的紧密性的界限,在缩放的意义上,作为SNR和错误的分数的函数,建立与现有的信息理论的必要界限的比较。近最优性示出了各种各样的实际动机的信号模型。
2012-06-25 cs.IT math.IT
Generalized Approximate Message-Passing for Compressed Sensing with Sublinear Sparsity
针对亚线性稀疏度下的广义线性测量信号重建问题,提出基于状态演化的广义近似消息传递(GAMP)算法,推导其样本复杂度的重建阈值,数值模拟表明该算法在样本复杂度上优于现有算法。
2025-02-20 cs.IT math.IT
A Greedy Algorithm for the Analysis Transform Domain
The Department of Electrical and Computer Engineering, Duke University(杜克大学电气与计算机工程系)
本文提出一种新的贪心算法,为帧作为分析算子提供理论恢复保证,解决了贪心与松弛技术间的差距,并在高维图像中展示了其高效性和有效性。
2015-02-07 cs.IT cs.NA math.IT
Inferring Sparsity: Compressed Sensing using Generalized Restricted Boltzmann Machines
École Normale Supérieure, PSL Research University(巴黎高等师范学院,PSL研究大学);Université Pierre et Marie Curie, Sorbonne Universités(皮埃尔和玛丽·居里大学,索邦大学);INRIA Paris(法国国家信息与自动化研究所巴黎中心)
在这项工作中,我们认为压缩感知重建$M$测量的$K$稀疏结构的信号,不具有可写的相关模型。假设一个生成的统计模型,如玻尔兹曼机,可以在一个无监督的方式对示例信号进行训练,我们演示了如何在贝叶斯信号重建框架内使用这个信号模型。通过推导出一般分布限制玻尔兹曼机的消息传递推断,我们能够将这些推断的信号模型集成到压缩感知重构的近似消息传递中。最后,我们证明了MNIST数据集,这种方法可以是非常有效的,即使是$M < K$。
2016-06-13 cond-mat.dis-nn cs.IT cs.LG
Analysis of Democratic Voting Principles used in Distributed Greedy Algorithms
任何用于压缩感知的贪婪追踪算法的一个关键方面是一个好的支持集检测方法。对于分布式压缩感知,我们考虑了一种设置,其中许多传感器测量稀疏信号,这些信号通过信号的交叉支持集的存在而相关。这个相交支撑集被称为联合支撑集。联合支持集的估计对分布式贪婪追踪算法的性能有很大的影响。这种估计可以通过交换本地支持集估计,然后通过(共识)投票方法来实现。在本文中,我们努力的概率分析两个民主投票原则,我们称之为多数和共识投票。在我们的分析中,我们首先模型的输入/输出关系的贪心算法(本地执行的传感器)由一个单一的参数称为未命中概率。在此模型的基础上,我们分析了投票原则,证明了民主投票原则在联合支持集检测方面的优点。
2014-07-16 cs.IT math.IT
Greedy Algorithms for Hybrid Compressed Sensing
本文针对混合压缩感知设计两种贪婪算法,利用一比特 CS 检测支撑集、传统 CS 更新残差与信号估计,并通过定理证明和仿真验证其在有限比特预算噪声环境中的有效性。
2019-08-18 cs.IT eess.SP math.IT
Sparse approximation of multivariate functions from small datasets via weighted orthogonal matching pursuit
Simon Fraser University(西蒙菲莎大学)
本文提出了一种加权正交匹配追踪算法,用于从小数据集近似多变量函数,通过改进的贪心策略在保持精度的同时提高了计算效率。
2019-05-02 cs.IT cs.NA math.IT
Successive Concave Sparsity Approximation for Compressed Sensing
本文基于$\ell_0$范数的逐次精度递增逼近,提出了一种从欠定测量中恢复稀疏向量的新算法。的近似实现了一定的凹函数,积极诱导稀疏性和他们的接近$\ell_0$规范可以控制。证明了当逼近精度从最差拟合变为最佳拟合时,逼近序列渐近符合$\ell_1$和$\ell_0$范数.当测量是无噪声的,提出了一个优化方案,导致一些加权$\ell_1$最小化程序,而在噪声的存在下,我们提出了两个迭代阈值的方法,计算上的吸引力。迭代阈值方法的收敛保证,并提供,对于一个特定的函数类的近似函数,我们推导出封闭形式的阈值算子。我们进一步提出了一些理论分析,通过限制等距,零空间,和球截面的性质。我们广泛的数值模拟表明,所提出的算法密切关注的Oracle估计的性能范围更广的稀疏性水平比那些国家的最先进的算法。
2016-04-26 cs.IT math.IT
Predictive refinement methodology for compressed sensing imaging
弱- $\ell^p$范数可用于定义稀疏性的度量$s$。当我们计算信号的离散余弦变换系数的$s$时,$s$的值与所述信号的信息内容有关。我们使用$s$的这个值来定义一个无参考的指数$\mathcal{E}$,称为稀疏指数,我们可以使用它来高精度地预测压缩感知成像设置中的信号重建质量。这样,当在采样理论的上下文中构建压缩感知时,我们可以使用$\mathcal{E}$来决定何时进一步划分采样空间并增加采样率,以在我们使用压缩感知技术时优化图像的恢复。
2020-02-22 cs.IT math.IT
Message Passing Algorithms for Compressed Sensing
压缩感知的目标是对某些高维信号进行欠采样,但通过利用信号特征来准确地重建它们。当要恢复的对象在已知的基础上足够稀疏时,精确的重建是可能的。目前,最著名的稀疏-欠采样折衷是在通过凸优化重建时实现的-这在重要的大规模应用中是昂贵的。快速迭代阈值算法已经被广泛研究,作为凸优化大规模问题的替代方案。不幸的是,已知的快速算法提供了比凸优化更差的稀疏欠采样折衷。我们引入了一个简单的无成本的修改迭代阈值的稀疏欠采样权衡的新算法相当于相应的凸优化程序。新的迭代阈值算法的灵感来自于图模型中的置信度传播。我们的经验测量的稀疏欠采样的权衡新算法同意与理论计算。我们表明,状态演化形式主义正确地推导出真正的稀疏欠采样的权衡。有一个令人惊讶的协议早期计算的基础上随机凸多面体和这个新的,显然非常不同的理论形式主义。
2009-07-21 cond-mat.dis-nn cs.IT math.IT
Multichannel group sparsity methods for compressive channel estimation in doubly selective multicarrier MIMO systems (extended version)
我们考虑在双选择性MIMO信道上传输的脉冲成形多载波多输入多输出(MIMO)系统中的信道估计。这种设置包括作为特殊情况的MIMO正交频分复用(MIMO-OFDM)系统。我们发现,在延迟-多普勒域的分量信道往往表现出近似的联合组稀疏结构。然后,我们开发了一个压缩信道估计,利用这种结构,以提高性能。提出的信道估计器使用多通道组稀疏压缩感知的方法,它结合了组稀疏压缩感知和多通道压缩感知的方法。我们推导了信道估计误差的上界,并分析了估计器的计算复杂性。通过引入基础扩展产生增强的联合组稀疏性,以及基础优化算法,该算法能够利用先前的统计信息,如果可用的话,估计器的性能进一步提高。使用基于几何的信道模拟器的模拟表明,由于利用联合组稀疏性和优化的基础的性能增益。
2016-08-01 cs.IT math.IT
A Novel Compressed Sensing Based Model for Reconstructing Sparse Signals Using Phase Sparse Character
相位调制是数字通信中常用的一种调制方式,它通常会给数字信号带来相位稀疏性。这是很自然的稀疏性与压缩感知(CS)的新出现的理论,它使亚奈奎斯特采样的高带宽稀疏信号。目前,压缩感知理论在通信领域的应用主要集中在频谱感知、稀疏信道估计等方面,而考虑相位稀疏特性的研究较少。本文基于相位稀疏性建立了相位调制信号的新模型,并将CS理论引入相位域。根据CS理论,这里所需的采样率与符号率成比例,而不是带宽,符号率通常比奈奎斯特速率低得多。本文为该模型提供了理论支持,并通过仿真验证了其有效性。
2014-12-31 cs.IT math.IT
Multiple Choice Hard Thresholding Pursuit (MCHTP) for Simultaneous Sparse Recovery and Sparsity Order Estimation
我们解决的问题,稀疏恢复使用贪婪压缩感知恢复算法,没有明确的知识的稀疏性。估计稀疏度阶数在许多实际场景中是一个至关重要的问题,例如,无线通信,其中未知信道的稀疏阶的精确值可能先验不可用。在本文中,我们提出了一种新的贪心算法,称为多选择硬阈值追踪(MCHTP),它修改了流行的硬阈值追踪(HTP)适当迭代恢复未知稀疏向量以及未知向量的稀疏顺序。我们提供了可证明的性能保证,确保MCHTP可以估计稀疏顺序准确,以及恢复未知的稀疏向量准确无噪声测量。仿真结果证实了理论研究结果,表明,即使没有确切的稀疏性知识,只有一个松散的上界的稀疏性的知识,MCHTP表现出突出的恢复性能,这是几乎相同的传统HTP与精确的稀疏性知识。此外,仿真结果表明,低得多的计算复杂性的MCHTP相比,其他国家的最先进的技术,如MSP。
2022-10-25 cs.IT math.IT
One-bit compressed sensing with partial Gaussian circulant matrices
在本文中,我们考虑无记忆的一位压缩感知随机子采样高斯循环矩阵。我们表明,在一个小的稀疏度制度和足够小的精度$δ$,$m\sim δ^{-4} s\log(N/sδ)$测量足以重建的任何$s$ -稀疏向量的方向,通过一个有效的程序的准确性$δ$。我们通过证明部分高斯循环矩阵满足$\ell_1/\ell_2$ RIP-性质得到这个结果。在对$δ$的依赖性稍差的情况下,我们建立了近似稀疏性的稳定性以及完整向量恢复结果。
2017-10-09 cs.IT math.IT math.PR
Phase Transitions for Greedy Sparse Approximation Algorithms
压缩感知和稀疏近似的一个主要企业是设计和分析计算上易于处理的算法,用于恢复欠定线性方程组的稀疏、精确或近似解。许多这样的算法现在已经被证明具有最优阶均匀恢复保证使用无处不在的限制等距属性(RIP)。然而,目前还不清楚,当RIP算法的充分条件得到满足。我们提出了一个框架,在其中可以实现这一任务,将这些条件转化为高斯测量矩阵的信号的稀疏性水平,长度和测量数量的要求。我们说明了这种方法上的三个国家的最先进的贪心算法:CoSaMP,子空间追踪(SP),迭代硬采样保持(IHT)。设计允许直接比较现有的理论,我们的框架意味着,根据最好的已知的界限,IHT需要最少数量的压缩感知测量,并具有最低的每迭代计算成本的三种算法比较这里。
2010-04-11 cs.IT math.IT
How little data is enough? Phase-diagram analysis of sparsity-regularized X-ray CT
我们介绍了相图分析,在压缩传感的标准工具,X射线CT社区作为一个系统的方法,用于确定如何少的投影足够精确的稀疏正则化重建。在压缩感知中,相图是研究和表达稀疏性和充分采样之间的某些理论关系的方便方法。我们适应相图分析的经验使用在X射线CT相同的理论结果不成立。我们在三个案例研究中展示了相位图分析的潜力,为欠采样问题提供定量答案:首先,我们证明了在某些情况下,X射线CT凭经验与最佳压缩传感策略进行比较,即采用高斯传感矩阵进行测量。其次,我们表明,与预期的相反,与标准结构化采样模式相比,随机CT测量并不会提高性能。最后,我们展示了如何以及相位图分析可以预测足够数量的预测准确地重建一个给定的稀疏性的大规模图像通过总变分正则化的初步结果。
2014-12-21 cs.IT math.IT math.OC
Estimating Unknown Sparsity in Compressed Sensing
在压缩感知(CS)理论中,||x||通常假定未知信号x \in \R^p的参数x_0是已知参数。然而,它在实践中通常是未知的。由于CS的许多方面取决于了解||x||_0时,以数据驱动的方式估计此参数非常重要。第二个实际问题是,||x||_0是x的高度不稳定函数。特别地,对于具有不完全等于0的条目的实信号,||x||_0=p不是有效坐标数的有用描述。在本文中,我们提出估计稀疏性s(x)的稳定度量:||x||_1^2/||x||_2^2,这是一个尖锐的下界,||x||_0。我们的估计过程只使用少量的线性测量,不依赖于任何稀疏性假设,并且需要很少的计算。提供了一个置信区间s(x),它的宽度被证明是没有依赖于信号的尺寸p。此外,这个结果自然延伸到矩阵恢复设置,其中软版本的矩阵秩可以估计类似的保证。最后,我们证明了随机测量的使用对于估计s(x)是必不可少的。这是通过证明当n<<p时,用确定性测量估计s(x)的极大极小风险很大来实现的。
2013-02-25 cs.IT math.IT math.ST
Anisotropic compressed sensing for non-Cartesian MRI acquisitions
在本说明中,我们开发的各向异性压缩感知理论,允许考虑到结构化稀疏和变密度结构化采样的一些理论结果。我们期望所得到的结果将是有用的,以获得明确的表达式,在非笛卡尔(径向,螺旋等)的最佳采样策略。在MRI中设置。
2019-10-31 cs.IT math.IT
Near Oracle Performance and Block Analysis of Signal Space Greedy Methods
本文分析了在存在高斯白噪声下的信号空间CoSaMP方法,证明其在任意字典下具有接近oracle的性能,并探讨了具有块结构支持的信号的块变体方法,扩展到基于模型的压缩感知框架。
2014-07-24 cs.IT cs.NA math.IT
Unknown sparsity in compressed sensing: Denoising and inference
压缩感知(CS)理论认为,如果$x$足够稀疏,则可以利用$n\ll p$从欠定的$n$线性测量集合中准确地恢复未知信号$x\in\mathbb{R}^p$。然而,在实际应用中,$\|x\|_0$的稀疏程度通常是未知的,直接估计$\|x\|_0$的问题一直是理论和实践之间的长期差距。一个密切相关的问题是,$\|x\|_0$是一个高度理想化的稀疏性度量,对于条目不等于0的真实信号,值$\|x\|_0=p$不是可压缩性的有用描述。在我们之前的会议论文[Lop13]中,我们研究了这些问题,我们考虑了“软”稀疏性的替代度量$\|x\|_1^2/\|x\|_2^2$,并设计了一个不依赖于稀疏性假设的估计$\|x\|_1^2/\|x\|_2^2$的过程。本文提出了一种新的基于反卷积的未知稀疏度估计方法,具有更广泛的适用性和更强的理论保证。特别是,我们引入了一个家庭的基于熵的稀疏措施$s_q(x):=\big(\frac{\|x\|_q}{\|x\|_1}\big)^{\frac{q}{1-q}}$参数化的$q\in[0,\infty]$。由于$q$的范围大于$[0,2]$,因此该系列介于$\|x\|_0=s_0(x)$和$\|x\|_1^2/\|x\|_2^2=s_2(x)$之间。对于任何$q\in (0,2]\setminus\{1\}$,我们提出了一个估计$\hat{s}_q(x)$的相对误…
2017-08-31 cs.IT math.IT math.ST
Multi-Dimensional Wireless Tomography with Tensor-Based Compressed Sensing
无线断层扫描是一种用于通过分析穿过区域的RF信号来推断监测区域内的物理环境的技术。在本文中,我们考虑在一个二维和更高的维度结构的监测区域的无线层析成像,并提出了一个多维的无线层析成像方案基于压缩感知估计的空间分布的阴影损失的监测区域。为了估计空间分布,我们考虑了两种压缩感知框架:基于矢量的压缩感知和基于张量的压缩感知。当遮蔽损失在监测区域内具有较高的空间相关性时,其空间分布在频域上具有稀疏性。现有的无线层析成像方案都是基于矢量压缩感知,利用稀疏性估计分布。另一方面,所提出的方案是基于张量的压缩感知,它估计的分布,利用其低秩属性。我们发现,基于张量的压缩感知具有高度准确的估计相比,基于矢量的压缩感知的潜力。
2014-07-09 cs.IT cs.NI math.IT
Adapted variable density subsampling for compressed sensing
针对压缩感知中最优子采样依赖难以获得的信号稀疏模式的问题,提出用稀疏信号支撑集上的概率分布表征稀疏模式以推导最优子采样策略,在数值实验中达到最先进性能并扩展至结构化采集。
2023-06-26 cs.IT math.IT math.OC
Linear Convergence of Stochastic Iterative Greedy Algorithms with Sparse Constraints
本文提出两种随机贪心算法变体,用于解决可能非凸优化问题中的稀疏约束,证明了在指定容差内的期望线性收敛性,并展示了在压缩感知、低秩矩阵恢复和协方差矩阵估计中的应用。
2014-07-01 cs.IT cs.NA math.IT
Orthogonal symmetric Toeplitz matrices for compressed sensing: Statistical isometry property
最近,统计限制等距属性(RIP)已经制定了压缩感知的确定性采样矩阵的性能分析。在本文中,我们提出了使用正交对称Toeplitz矩阵(OSTM)的压缩感知和研究其统计RIP利用Stein的方法。特别是,我们得出的统计RIP性能界的采样矩阵的最大值和输入信号的稀疏程度。基于这样的连接,我们表明,OSTM可以满足统计RIP的绝大多数信号与给定的稀疏水平,如果一个Golay序列用于生成OSTM。这样的感测矩阵是确定性的,Toeplitz的,并且实现起来是有效的。仿真结果表明,OSTM可以提供类似于随机矩阵的重建性能。
2012-10-24 cs.IT math.IT
Compressed Sensing for Denoising in Adaptive System Identification
提出了一种基于压缩感知理论的稀疏系统自适应辨识新方法。我们操纵发送的导频(输入信号)和接收信号,使得自适应滤波器的权重接近稀疏系统的压缩版本,而不是原始系统。为此,我们在发射端使用随机滤波器结构,根据CS框架形成测量矩阵。原始稀疏系统可以通过传统的恢复算法重建。因此,CS的去噪特性可以部署在所提出的方法在恢复阶段。实验结果表明,该方法的性能显着改善相比,传统的LMS方法,直接识别稀疏系统。此外,在低水平的稀疏性,我们的方法优于一个专门的识别算法,促进稀疏性。
2012-04-03 cs.IT math.IT
Block-length dependent thresholds in block-sparse compressed sensing
压缩感知中最基本的问题之一是求解欠定线性方程组。虽然这个问题看起来相当困难,但某些$\ell_1$ -优化算法在解决这个问题上似乎是非常成功的。\cite{CRT,DonohoPol}最近的工作严格证明了这一点(在一个大的维度和统计背景下),如果方程的数量(压缩感知术语中的测量)与未知向量的长度成比例,则存在稀疏性(未知向量的非零元素的数目)也与未知向量的长度成比例,使得$\ell_1$优化算法成功地求解该系统。在最近的论文\cite{StojnicICASSP09block,StojnicJSTSP09}中,我们考虑了所谓的\textbf{block}(稀疏未知向量)的设置。在一个大的维度和统计的背景下,我们确定了尖锐的下限值的允许稀疏性为任何给定数量(比例的未知向量的长度)的方程,使$\ell_2/\ell_1$优化算法成功地解决了系统。在\cite{StojnicICASSP09block,StojnicJSTSP09}中建立的结果假设块稀疏向量的块长度相当大。在本文中,我们考虑的块长度是一个参数的系统。因此,我们然后建立尖锐的下限值的允许块稀疏的块长度的函数。
2009-07-21 cs.IT math.IT
Thresholding Greedy Pursuit for Sparse Recovery Problems
我们在这里研究稀疏恢复问题的存在下,加性噪声。我们分析了一个阈值版本的CoSaMP算法,命名为贪婪的追求(TGP)。我们表明,适当的阈值参数的选择,即使没有知识的稀疏水平的信号和噪声的强度,可以导致准确的恢复没有错误的发现,因为数据的维数增加到无穷大。
2021-03-17 cs.IT eess.SP math.IT
A general framework for compressed sensing and parallel MRI using annihilating filter based low-rank Hankel matrix
并行MRI(pMRI)和压缩感知MRI(CS-MRI)被认为是两个不同的重建问题。受最近的k空间插值方法的启发,提出了一种基于零化滤波器的低秩汉克尔矩阵方法(ALOHA)作为稀疏驱动的k空间插值方法的一般框架,该方法将pMRI和CS-MRI统一起来。具体来说,我们的框架是基于基本的对偶变换域稀疏性在主空间和低秩的加权Hankel矩阵在倒易空间,它转换pMRI和CS-MRI的k空间插值问题使用结构化矩阵完成。利用最新压缩感知文献的理论结果,我们证明了ALOHA所需的采样率可以达到最佳速率。单/多线圈成像以及动态成像的体内数据的实验结果证实,所提出的方法优于最先进的pMRI和CS-MRI。
2015-12-30 cs.IT math.IT
Compressed Sensing with Nonlinear Observations and Related Nonlinear Optimisation Problems
非凸约束最近被证明是许多优化问题中的一个有价值的工具。特别是稀疏性约束对采样理论产生了重大影响,它们用于压缩感知,并允许结构化信号以远低于传统规定的速率进行采样。几乎所有为压缩感知信号恢复开发的理论都假设使用线性测量来获取样本。在本文中,我们而是解决压缩感知恢复问题的设置中的观察是非线性的。我们表明,在类似的条件下,所需的线性设置,迭代硬采样保持算法可以用来准确地恢复稀疏或结构化的信号从几个非线性观测。类似的想法也可以在更一般的非线性优化框架中开发。因此,在本文的第二部分中,我们提出了相关的结果,显示如何可以做到这一点下的稀疏性和工会的子空间的约束,每当广义的限制等距属性传统上施加在压缩感知系统举行。
2012-05-08 cs.IT math.IT math.OC
Kalman Filtered Compressed Sensing
我们认为,从有限数量的线性“非相干”测量,在实时的空间稀疏信号(未知和随时间变化的稀疏模式)的时间序列重建的问题。信号在称为稀疏基的某个变换域中是稀疏的。对于单个空间信号,解决方案由压缩感知(CS)提供。我们解决的问题是,对于稀疏信号序列,如果(a)信号的变换系数向量的稀疏模式随时间缓慢变化,并且(b)关于其当前非零元素的时间动态的简单先验模型可用,则我们可以做得比CS更好。我们的解决方案的总体思想是使用CS来估计初始信号的变换向量的支持集。在将来的时间,使用当前估计的支持运行降阶卡尔曼滤波器,并通过将CS应用于卡尔曼新息或滤波误差(每当它是“大”时)来估计对支持集的新添加。
2008-04-04 cs.IT math.IT math.ST
Structured Turbo Compressed Sensing for Downlink Massive MIMO-OFDM Channel Estimation
压缩感知已经被用于减少无线通信系统中的信道估计的导频开销。特别地,结构化turbo压缩感知(STCS)提供了用于结构化稀疏信号恢复的通用框架,其具有降低的计算复杂性和存储要求。本文研究了频分复用(FDD)下行链路中大规模多输入多输出(MIMO)正交频分复用(OFDM)信道估计问题。利用大规模MIMO-OFDM信道在角频域(AFD)和角时延域(ADD)的结构稀疏性,采用AFD和ADD概率模型表示信道,并在STCS框架下设计基于消息传递的信道估计器。利用结构稀疏性,提出了几种基于空时编码的MIMO-OFDM信道估计算法。我们表明,与其他现有的算法相比,所提出的算法具有更快的收敛速度,并在广泛的仿真设置下实现竞争力的错误性能。
2018-11-08 cs.IT math.IT
Distributed Greedy Pursuit Algorithms
对于任意连接网络上的压缩感知,我们考虑以分布式方式估计底层稀疏信号的问题。我们引入了一个新的信号模型,有助于描述连接的节点之间的信号间的相关性。基于这个信号模型,以及现有的贪心算法的简要调查,我们开发了分布式贪心算法与低通信开销。在对现有的正交匹配追踪和子空间追踪算法进行适当修改的基础上,设计了两种新的分布式算法。此外,通过结合这两个本地算法的优点,我们设计了一个新的贪心算法,非常适合于分布式场景。通过大量的模拟,我们证明了新的算法在稀疏连接的网络提供了良好的性能,接近集中式贪婪解决方案的性能。
2013-10-28 cs.IT math.IT