Compressed Sensing and Matrix Completion with Constant Proportion of Corruptions
当采样数据可能严重损坏时,我们改进了压缩感知和矩阵完备领域的现有结果。我们引入了三个新的定理。1)在压缩感知中,我们表明,如果m \times n传感矩阵具有独立的高斯条目,那么可以恢复稀疏信号x精确地通过易处理的\ell 1最小化,即使测量的正分数被任意损坏,提供的非零条目的数量在x是O(m/(log(n/m)+ 1))。2)在Candes和Plan的“A probabilistic and RIPless theory of compressed sensing”中介绍的非常一般的感知模型中,假设损坏的测量值的正分数,如果信号现在具有O(m/(log^2 n))非零条目,则精确恢复仍然成立。3)最后,我们证明了一个可以恢复一个n \times n低秩矩阵从m损坏的采样项通过易处理的优化提供的秩是O(m/(n log^2 n))的顺序;再次,这保持当有一个积极的分数损坏的样本。
2012-01-18 cs.IT math.IT stat.ML
Explicit RIP Matrices in Compressed Sensing from Algebraic Geometry
压缩感知是由E. J. Candés,J. Romberg,T. Tao和D. Donoho在2006年提出了稀疏信号的有效采样,在信号处理中有着广泛的应用。在实际应用中需要显式的限制等距性(RIP)测量矩阵。自2007年以来,R。DeVore,J. Bourgain et al和R. Calderbank等人从不同的数学对象给出了RIP矩阵的几种确定性构造。另一方面,Bajwa和Calderbank等人引入了测量矩阵的强相干性,用于噪声测量下的信号恢复。本文从代数几何的角度提出了一种新的压缩感知实值RIP测量矩阵的显式构造方法。我们的构造表明,使用更一般的代数几何对象,而不是曲线(AG码),RIP测量矩阵在压缩感知可以构建更小的相干性和更大的稀疏阶。代数几何中的RIP矩阵也有一个很好的渐近界,与Bourgain等人以前的构造和小偏差集的界相匹配。在否定的方面,我们证明了DeVore构造的RIP矩阵,它的直接代数几何推广和我们的一个新构造的RIP矩阵不满足强相干性质。然而,我们给出了一个修改后的版本的AG-RIP矩阵,它满足强相干性。因此,新的RIP矩阵在压缩感知从我们修改的代数几何结构可以用于恢复的信号从噪声测量。
2015-05-27 cs.IT math.IT
A remark on weaken restricted isometry property in compressed sensing
限制等距属性(RIP)已成为众所周知的压缩传感社区。最近,一个削弱版本的RIP提出了弱矩假设下的精确稀疏恢复。在这篇文章中,我们证明了削弱RIP也是足够的\textsl{stable and robust}稀疏恢复连接到最近推出的压缩感知的鲁棒宽度属性。此外,我们表明,它可以广泛应用于其他压缩感知的情况下。
2015-04-01 cs.IT math.IT
On Compressed Sensing Matrices Breaking the Square-Root Bottleneck
压缩感知是信号处理领域的一个重要框架,有着广泛的实际应用.压缩感知中最具挑战性的问题之一是构造具有约束等距性质的确定性矩阵。到目前为止,只有少数出版物提供了确定性RIP矩阵击败平方根瓶颈的稀疏水平。本文研究了模素数高次剩余定义的矩阵的RIP问题。此外,我们证明了广泛相信的广义Paley图猜想意味着这些矩阵有RIP打破平方根瓶颈。
2020-10-27 cs.IT math.CO math.IT
Small coherence implies the weak Null Space Property
在压缩感知领域,众所周知,给定具有$\ell_2$归一化列的矩阵$X \in \mathbb R^{n\times p}$,受限等距属性(RIP)意味着零空间属性(NSP)。还公知的是,小的相干$μ$意味着弱RIP,即,对于具有由$μ$和$δ$控制的大小的“大多数”索引子集$T \subset \{1,\ldots,p\}$,$X_T$的奇异值位于$1-δ$和$1+δ$之间。在这个简短的说明中,我们表明,一个小的相干意味着一个弱的零空间属性,即$\Vert h_T\Vert_2 \le C \ \Vert h_{T^c}\Vert_1/\sqrt{s}$的大多数$T \subset \{1,\ldots,p\}$与基数$|T|\le s$。此外,我们证明了一些奇异值扰动界,也可能证明对其他应用有用。
2016-06-29 math.ST stat.ML stat.TH
On the absence of the RIP in real-world applications of compressed sensing and the RIP in levels
University of Cambridge(剑桥大学)
本文指出压缩感知实际应用中RIP不成立,提出基于改进RIP定义的框架,展示在各级别内实现结构化恢复的可能性。
2015-10-16 cs.IT cs.NA math.IT
Generalized notions of sparsity and restricted isometry property. Part I: A unified framework
限制等距性(RIP)是分析稀疏模型下各种反问题的重要工具。受压缩感知和降维的低秩张量的应用,我们提出了广义的稀疏性的概念,并提供了一个统一的框架,相应的RIP,特别是当结合各向同性组动作。我们的结果扩展了一种方法,由Rudelson和Vershynin更广泛的范围内,包括交换和非交换函数空间。此外,我们的Banach空间的稀疏性概念适用于仿射群作用。广义方法特别适用于高阶张量积。
2017-06-30 math.PR stat.ML
The high-order block RIP for non-convex block-sparse compressed sensing
本文主要研究从线性测量中恢复块稀疏信号,块稀疏信号不仅是稀疏的,而且非零元素被排列成一些块(簇),而不是任意分布在整个向量上。本文建立了基于块RIP的高阶充分条件,保证了在无噪声情况下,通过混合$l_2/l_p$最小化方法精确恢复每个块$s$ -稀疏信号,以及在存在噪声的信号不精确块稀疏的情况下,稳定和鲁棒的恢复。此外,获得了条件以压倒性的概率为真所需的随机高斯测量数的下限。最后,通过数值实验验证了算法的有效性.
2020-06-11 cs.IT math.IT
Orthogonal symmetric Toeplitz matrices for compressed sensing: Statistical isometry property
最近,统计限制等距属性(RIP)已经制定了压缩感知的确定性采样矩阵的性能分析。在本文中,我们提出了使用正交对称Toeplitz矩阵(OSTM)的压缩感知和研究其统计RIP利用Stein的方法。特别是,我们得出的统计RIP性能界的采样矩阵的最大值和输入信号的稀疏程度。基于这样的连接,我们表明,OSTM可以满足统计RIP的绝大多数信号与给定的稀疏水平,如果一个Golay序列用于生成OSTM。这样的感测矩阵是确定性的,Toeplitz的,并且实现起来是有效的。仿真结果表明,OSTM可以提供类似于随机矩阵的重建性能。
2012-10-24 cs.IT math.IT
A probabilistic and RIPless theory of compressed sensing
本文介绍了一种简单而通用的压缩感知理论。在该理论中,感测机制简单地从概率分布F中随机独立地选择感测向量;它包括文献中讨论的所有模型-例如高斯,频率测量,但也为新的测量策略提供了框架。我们证明,如果概率分布F服从一个简单的不相干性和各向同性的属性,可以忠实地恢复近似稀疏的信号从最少数量的噪声测量。新颖之处在于,我们的恢复结果不需要限制等距属性(RIP)-它们使用一个弱得多的概念-或信号的随机模型。作为一个例子,该文件表明,一个信号与s非零项目可以忠实地恢复从约s log n傅立叶系数被噪声污染。
2010-11-19 cs.IT math.IT
Sparse Convex Optimization via Adaptively Regularized Hard Thresholding
MIT(麻省理工学院);Yahoo! Research(雅虎研究院)
稀疏凸优化的目标是在稀疏性约束$s\leq s^*γ$下优化凸函数$f$,其中$s^*$是可行解(稀疏性)中非零条目的目标数量,$γ\geq 1$是近似因子。已经有大量的工作来分析各种算法(LASSO,正交匹配追踪(OMP),迭代硬保序(IHT))的稀疏性保证的限制条件数$κ$。最著名的算法保证找到具有$γ= O\left(κ\min\left\{\log \frac{f(x^0)-f(x^*)}ε, κ\right\}\right)$的稀疏界的值$f(x^*)+ε$的近似解,其中$x^*$是目标解。我们提出了一个新的自适应正则化硬约束保持(ARHT)算法,使这个问题上的显着进展,使约束下降到$γ=O(κ)$,这已被证明是紧的一般类算法,包括LASSO,OMP,和IHT。与已知的最快算法相比,这是在没有显著牺牲运行时效率的情况下实现的。我们还提供了一个新的分析OMP与替换(OMPR)一般$f$,条件$s > s^* \frac{κ^2}{4}$下,这会产生压缩感知下的限制等距属性(RIP)的界限。当与其他压缩感知方法相比时,它具有在RIP条件和解稀疏性之间提供强折衷的优点,同时适用于满足RIP条件的任何通用函数$f$。
2020-06-25 cs.DS cs.LG stat.ML
Restricted Isometry Property under High Correlations
Amazon(亚马逊公司);University of Michigan(密歇根大学)
满足约束等距性(RIP)的矩阵在压缩感知和统计学习等领域中起着重要的作用。具有最优参数的RIP矩阵主要通过概率参数获得,因为显式构造似乎很难。因此,有趣的是问一个固定的矩阵是否可以纳入限制等距的建设。本文构造了一个新的广义相依随机矩阵系综,它满足限制等距性。我们从一个固定的(确定性的)矩阵$X$满足一些简单的稳定秩条件开始构造,并且我们证明了矩阵$XR$,其中$R$是从各种流行的概率模型(包括,亚高斯的,稀疏的,低随机性的,满足凸集中性质的)中抽取的随机矩阵,以高概率满足RIP.这些定理在信号恢复、随机矩阵理论、降维等方面具有各种应用。此外,受理解在自然语言处理和机器学习应用中流行的词向量嵌入的有效性的应用的激励,我们研究了矩阵$XR^{(l)}$的RIP,其中$R^{(l)}$是通过采取所有可能的(不考虑顺序)$l$ -随机矩阵$R$列的逐列乘积。
2019-10-31 cs.DS cs.LG stat.ML
RIPless compressed sensing from anisotropic measurements
压缩感知是从稀疏向量相对于随机选择的测量向量的小集合的内积重构稀疏向量的技术。通常假设测量向量的集合在相关协方差矩阵与单位矩阵成比例的意义上处于各向同性位置。在本文中,我们建立了各向异性的情况下,所需的测量的数量上的界限,其中的测量向量的合奏拥有一个非平凡的协方差矩阵。本质上,我们发现所需的采样率与协方差矩阵的条件数成比例地增长。与其他最近的贡献,这个问题,我们的论点不依赖于任何限制等距属性(RIP的),而是从凸几何的思想已被系统地研究了低秩矩阵恢复的理论。这允许一个简单的参数和稍微改进的界限,但可能会导致更差的依赖于噪声(我们不考虑在本文中)。
2013-10-08 cs.IT math.IT
Compressed Sensing: How sharp is the Restricted Isometry Property
压缩感知(CS)试图通过进行远少于$N$的测量来恢复具有$N$条目的未知向量;它假定压缩感知测量的数量应该与向量的信息内容相当,而不仅仅是$N$。CS将压缩的重要任务与测量任务直接结合起来。自2004年引入以来,已经有数百篇关于CS的手稿,其中很大一部分开发了从压缩测量中恢复信号的算法。由于CS的自相矛盾的性质-从表面上欠采样的测量精确重建-这是至关重要的接受一个算法,严格的分析验证欠采样的程度算法允许。在这种情况下,限制等距属性(RIP)已成为用于分析的主要工具。我们在这里提出了一个不对称形式的RIP,它提供了更严格的界限比通常的对称。我们给出了最好的已知的界限RIP常数的矩阵从高斯系综。我们的推导说明了CS的组合性质是控制的方式。我们对RIP的定量界限允许精确的声明,如何积极的信号可以被欠采样,从业者的基本问题。我们还记录了RIP提供精确的信息CS的真实性能限制的程度,通过比较从高维几何的方法。
2010-04-28 cs.IT math.IT
Linear Transformations and Restricted Isometry Property
由Candés和Tao提出的限制等距性质(RIP)是压缩感知理论中的一个基本性质。它说,如果采样矩阵满足与信号的稀疏度成比例的特定阶的RIP,则即使采样矩阵提供的样本向量在大小上比原始信号小得多,也可以重构原始信号。这个简短的说明解决了线性变换如何影响RIP的问题。这个问题产生于对扩展感知矩阵的考虑和在不同基础上使用压缩感知。作为应用,将所得结果应用于压缩感知中冗余字典的设置。
2009-01-05 cs.IT math.IT
Deterministic Construction of Binary, Bipolar and Ternary Compressed Sensing Matrices
在本文中,我们建立了正交光码(OOC)和二进制压缩传感矩阵之间的联系。我们还介绍了确定性双极$m\times n$ RIP满足$k$阶的$\pm 1$矩阵,使得$m\leq\mathcal{O}\big(k (\log_2 n)^{\frac{\log_2 k}{\ln \log_2 k}}\big)$。这些矩阵的列是二进制BCH码向量,其中零被-1替换。由于RIP是通过相干性建立的,因此简单的贪心算法如匹配追踪算法能够从无噪声样本中恢复稀疏解。由于BCH码的循环特性,我们表明,FFT算法可以用于重建方法,大大降低了计算复杂性。此外,我们结合二进制和双极矩阵,形成三进制传感矩阵($\{0,1,-1\}$元素),满足RIP条件。
2010-10-02 cs.IT math.IT
Achievable Angles Between two Compressed Sparse Vectors Under Norm/Distance Constraints Imposed by the Restricted Isometry Property: A Plane Geometry Approach
在压缩感知(compressive sensing,CS)问题的研究中,两个压缩稀疏向量之间的夹角受到感知矩阵的约束等距性(restricted isometric property,RIP)所施加的范数/距离约束,起着至关重要的作用。假设(i)u和v是两个稀疏的向量分开的角度theta,和(ii)的传感矩阵Φ满足RIP,本文的目的是在分析表征Φ *u和Φ * v之间的可实现的角度。出于RIP的几何解释和众所周知的余弦定律的帮助下,我们提出了一个平面几何为基础的制定所考虑的问题的研究。结果表明,所有RIP诱导的范数/距离的限制Phi*u和Phi*v可以共同描绘通过一个简单的几何图中的二维平面。这允许从几何角度对所有考虑的代数约束进行联合分析。通过进行平面几何分析的基础上所构造的图,最大和最小可达角的封闭形式的公式推导。计算机模拟证实,所提出的解决方案是严格的比现有的基于代数的估计使用极化身份。所得到的结果被用来推导出一个更严格的限制等距常数的结构化传感矩阵的某种,即,那些在产品的正交投影矩阵和随机传感矩阵的形式。后续应用程序的三个CS问题,即,压缩域干扰消除,基于RIP的分析的正交匹配追踪算法,和研究民主性质的随机感测矩阵进行了研究。
2012-02-06 cs.IT math.IT
Signal Recovery from Unlabeled Samples
在本文中,我们研究了从一组有噪声的线性投影(测量)中恢复信号,当这样的投影是未标记的时,即测量与投影向量集之间的对应关系(即,测量矩阵的行)不是先验已知的。我们考虑一个特殊的情况下,未标记的传感称为未标记的有序采样(UOS)的测量的顺序被保留。我们确定了这个问题和经典的压缩感知(CS)之间的自然对偶,在那里我们表明,未知的支持(非零元素的位置)的稀疏信号在CS对应于未知的指标的测量在UOS。虽然在CS中,可以从欠定的线性方程组(比信号维度更少的方程)恢复稀疏信号,但在UOS中成功恢复需要采取比信号维度更多的样本。出于这种二重性,我们开发了一个限制等距属性(RIP)类似于CS。我们还设计了一个低复杂度的交替最小化算法,实现了稳定的信号恢复下建立RIP。我们分析了我们提出的算法,不同的信号尺寸和数量的测量理论和经验,通过模拟研究其性能。结果是让人想起的相变发生在CS类似。
2017-09-01 cs.IT math.IT stat.ML
Near-Ideal Behavior of Compressed Sensing Algorithms
在最近的一篇论文中,它表明,LASSO算法表现出“接近理想的行为”,在以下意义上:假设$y = Az + η$,其中$A$满足限制等距属性(RIP)与一个足够小的常数,和$\Vert η\Vert_2 \leq ε$。然后最小化服从$\Vert y - Az \Vert_2 \leq ε$的$\Vert z \Vert_1$导致估计$\hat{x}$,其误差$\Vert \hat{x} - x \Vert_2$由通用常数乘以由知道$x$的非零分量的位置的“oracle”获得的误差来限定。在优化领域,LASSO算法已经在几个方向上推广,例如组LASSO,稀疏组LASSO,没有或具有树结构重叠组,以及最近的排序LASSO。在本文中,它表明,{ \it任何算法\/}表现出接近理想的行为,在上述意义上,只提供(i)用于定义稀疏指数的规范是“可分解的”,(ii)在努力执行稀疏性最小化的惩罚规范是“$γ$ -可分解的”,和(iii)一个“压缩性条件”在一组限制等距属性是满足的。具体地,组LASSO和稀疏组LASSO(在组中具有一些允许的重叠)以及排序的$\ell_1$范数最小化都表现出接近理想的行为。显式的残余误差的界限推导出包含以前已知的结果作为特殊情况。
2014-04-21 stat.ML
Compressed Sensing Using Binary Matrices of Nearly Optimal Dimensions
Stanford University(斯坦福大学);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
在本文中,我们研究的问题,压缩感知使用二进制测量矩阵和$\ell_1$ -范数最小化(基追求)的恢复算法。我们推导出测量数量的新上界和下界,以实现二进制矩阵的鲁棒稀疏恢复。我们建立了一个列正则二进制矩阵,以满足鲁棒零空间属性(RNSP)的充分条件,并表明相关的充分条件%稀疏边界的鲁棒稀疏恢复使用RNSP获得的$(3 \sqrt{3})/2 \approx 2.6$的一个因素更好的充分条件相比,使用限制等距属性(RIP)。接下来,我们推导出普遍的\textit{lower}界的测量的数量,任何二进制矩阵需要有,以满足较弱的充分条件的基础上RNSP,并表明,二部图的围长6是最佳的。然后我们给出了两类二元矩阵,即阵列码的奇偶校验矩阵和欧拉方阵,它们围长为6,在几乎满足下界的意义下是近最优的.原则上,随机生成的高斯测量矩阵是“阶数最优”的。因此,我们比较了使用二进制阵列码和高斯矩阵的基追踪公式的相变行为,并表明(i)在两种情况下的相变边界之间基本上没有区别,(ii)用二进制矩阵进行基追踪的CPU时间比用高斯矩阵快几百倍,而且所需的存储量少,因此,二进制矩阵是一种很好的基追踪方法。可行的替代高斯矩阵的压缩感知使用基追踪。\end{abstract}
2020-04-26 cs.LG stat.ML
Demodulation of Sparse PPM Signals with Low Samples Using Trained RIP Matrix
Urmia University(乌尔米耶大学)
压缩感知(CS)理论将约束等距性(RIP)作为测量矩阵的一个充分条件,保证从压缩后的测量中恢复出稀疏信号。RIP条件也保留了足够的信息,即使用较少的测量稀疏符号的分类。在这项工作中,我们利用RIP界作为训练一个简单的神经网络的成本函数,以利用近最佳的测量或等效的近最佳功能的分类一组已知的稀疏符号。作为一个例子,我们考虑脉冲位置调制(PPM)信号的解调。结果表明,该方法具有更好的性能比随机测量,并需要更少的样本比最佳匹配滤波器解调器,在一些性能损失的代价。此外,与传统接收机相比,所提出的方法不需要用于多径信道的均衡器。
2013-09-01 cs.IT cs.LG cs.OH
Universal low-rank matrix recovery from Pauli measurements
我们研究的问题,重建一个未知的矩阵M的秩r和维数d使用O(rd多log d)泡利测量。这在量子态层析成像中有应用,并且是压缩传感中的一个众所周知的问题的非交换模拟:从其傅立叶系数中的一些恢复稀疏向量。我们证明了几乎所有的O(rd log^6 d)泡利测量集都满足秩r限制等距性(RIP)。这意味着可以使用核范数最小化(例如,矩阵Lasso),具有接近最优的误差范围。一个类似的结果适用于任何类别的测量,使用正交算子基,其元素具有小的算子范数。我们的证明使用了高斯过程的达德利不等式,以及通过熵对偶获得的覆盖数的界限。
2011-11-03 cs.IT math.IT math.ST
Design and Analysis of a Greedy Pursuit for Distributed Compressed Sensing
我们考虑一个分布式压缩感知的情况下,许多传感器测量相关的稀疏信号和传感器通过网络连接。稀疏信号之间的相关性由部分公共支持集来建模。针对这种情况,本文的主要目标是开发一个贪婪追求算法。我们开发了一个分布式并行追踪(DIPP)算法的基础上交换信息的估计支持集在传感器。信息的交换有助于改善部分公共支持集的估计,这又有助于逐渐改善所有传感器中的支持集的估计,从而导致更好的质量重建性能。我们提供了基于限制等距性(RIP)的算法的收敛性和重建性能的理论分析。在一定的理论要求下,通过网络和RIP参数的传感器节点的信息交换的质量,我们表明,DIPP算法收敛到一个性能水平,取决于一个缩放的加性测量噪声功率(收敛理论)的缩放系数是RIP参数和信息处理质量参数的函数。使用模拟,我们展示了实际的重建性能的DIPP相对于欠采样量,信号测量噪声比和网络连接条件。
2015-01-13 cs.IT math.IT
The Computational Complexity of the Restricted Isometry Property, the Nullspace Property, and Related Concepts in Compressed Sensing
本文讨论了求欠定线性系稀疏解的NP难问题能用有效算法求解的条件的计算复杂性。在文献中,已经介绍了几个这样的条件。其中最著名的是互相干性、限制等距性(RIP)和零空间性(NSP)。虽然评估给定矩阵的互相干性很容易,但一段时间以来一直怀疑评估RIP和NSP通常在计算上难以处理。我们确认这些结构,表明对于一个给定的矩阵A和正整数k,计算RIP或NSP持有的最佳常数,在一般情况下,NP-困难。这些结果是基于确定矩阵的火花是NP难的事实,这也是本文所建立的。此外,我们还给出了与上述概念相关的几个问题的复杂性陈述。
2013-11-04 cs.IT math.IT math.OC
Sparse Recovery with Orthogonal Matching Pursuit under RIP
本文对正交匹配追踪(OMP)算法进行了新的分析。证明了在稀疏度为$O(\bar{k})$的情况下,若满足约束等距性(RIP),则OMP可以恢复2-范数下的$\bar{k}$ -稀疏信号.对于压缩感测应用,该结果意味着为了在$\Real^d$中均匀地恢复$\bar{k}$稀疏信号,仅需要$O(\bar{k} \ln d)$随机投影。该分析改进了OMP的早期结果,这些结果依赖于更强的条件,例如只能用$Ω(\bar{k}^2 \ln d)$随机投影满足的互不相干性。
2011-06-03 cs.IT math.IT
Certifying the restricted isometry property is hard
本文研究了压缩感知中一个重要的矩阵条件--约束等距性。我们证明了测试矩阵是否满足RIP是NP难的。由于我们的结果,它是不可能有效地测试RIP提供P \neq NP。
2012-09-10 cs.CC cs.IT math.FA
Modulated Unit-Norm Tight Frames for Compressed Sensing
在本文中,我们提出了一个压缩感知(CS)框架,由三个部分组成:一个单位范数紧框架(UTF),一个随机对角矩阵和一个列式正交矩阵。我们证明了这种结构满足限制等距属性(RIP)的概率很高,如果测量$m = O(s \log^2s \log^2n)$的数量为$s$ -稀疏信号的长度$n$,如果列的正交矩阵有界。一些现有的结构化传感模型可以在这个框架下进行研究,然后给出更严格的界限上所需的测量数量,以满足RIP。更重要的是,我们提出了几个结构化的传感模型,通过呼吁这个统一的框架,如一个通用的传感模型与任意/determinisic子采样器,一个快速,高效的块压缩传感方案,结构化的传感矩阵与确定性相位调制,所有这些都可以导致实际应用的改进。特别地,构造之一被应用于简化用于正交频分复用(OFDM)系统的基于CS的信道估计的收发器设计。
2014-11-27 cs.IT math.IT
Noisy 1-Bit Compressed Sensing Embeddings Enjoy a Restricted Isometry Property
我们研究了由高斯测量给出的1比特压缩感知的符号线性嵌入。人们可以给出简短的参数有关的限制等距性质的地图使用Vapnik-Chervonenkis维稀疏半球。这种方法对量化之前的加性白噪声的存在具有自然扩张。噪声一位映射示出,以满足RIP时的度量的领域是由噪声。
2016-04-12 cs.IT math.CA math.IT
Perfect Secrecy Using Compressed Sensing
本文研究了基于压缩感知的加密,给出了完全保密性的条件。我们证明了在满足限制等距性(RIP)且测量次数大于2倍稀疏度即M \geq 2k的情况下,如果消息块不等于零或具有无限长的块长度,则Shannon提出的完美保密条件是可实现的
2010-11-17 cs.CR cs.IT math.IT
Restricted $q$-Isometry Properties Adapted to Frames for Nonconvex $l_q$-Analysis
本文讨论了在信号稀疏或近似稀疏的情况下,利用$0<q\leq 1$进行$l_q$ -分析优化,在一般框架下从少量测量数据重构信号的问题。本文首先引入了适用于字典的受限$q$等距性($q$-RIP)的概念,它是标准$q$-RIP的自然推广,并通过$l_q$ -分析优化建立了信号近似重构的广义$q$-RIP条件.然后,我们确定需要多少随机高斯测量才能使条件以高概率成立。对于更小的$q$,比当$q=1$时更少的测量满足所得到的充分条件。所介绍的广义$q$ -RIP在压缩数据分离中也是有用的。在压缩数据分离中,人们考虑从很少的测量中重建信号的不同子分量的问题,这些子分量在形态上不同的字典中是(近似)稀疏的。通过广义$q$-RIP的概念,我们证明,在字典满足互相关条件的通常假设下,使用$0<q\leq1 $的$l_q$分裂分析可以在较小的$q$下从比$q=1$时更少的随机高斯测量中近似重建不同的分量
2016-02-20 cs.IT math.IT
Quasi-Linear Compressed Sensing
University of Vienna(维也纳大学);Technische Universität München(慕尼黑工业大学)
本文研究了准线性压缩感知框架,提出扩展的RIP性质以处理非线性测量,证明稀疏信号的唯一可识别性和恢复算法的收敛性,并分析了改进的OLS算法及替代算法在天体震学中的应用。
2013-11-07 cs.IT cs.NA math.IT
Windowed Compressed Spectrum Sensing with Block sparsity
针对压缩频谱感知受频谱泄漏影响的问题,提出一种考虑分量频率分布等因素的块稀疏CSS模型,通过引入EZC和WSC系数分析加窗矩阵的RIP特性,实现了高噪声基底和超稀疏信号的精确压缩与重构。
2024-10-17 cs.IT eess.SP math.IT
A Tight Bound of Hard Thresholding
Rutgers University(罗格斯大学);Baidu Research(百度研究院)
本文研究的是一种硬阈值算子,它将矢量中除$k$最大绝对值元素外的所有元素都设置为零。我们建立了一个{ \em紧}约束来定量表征给定信号的阈值解决方案的偏差。我们的理论结果是普遍的,因为它适用于所有参数的选择,并且基本的分析仅依赖于数学优化中的基本参数。我们讨论了两个领域的影响:压缩感知。由于至关重要的估计,我们之间的连接桥梁的限制等距属性(RIP)和稀疏参数的大量的硬阈值为基础的算法,这使得RIP条件的改善,特别是当真正的稀疏性是未知的。这表明,在本质上,更多种类的传感矩阵或更少的测量是可接受的数据采集过程。机器学习。在大规模机器学习方面,一个重要但具有挑战性的问题是以有效的方式学习精确的稀疏模型。在形成鲜明对比,以前的工作,试图促进稀疏性的$\ell_1$ -松弛,我们提出了一种新的随机算法,在每次迭代中执行硬阈值,从而确保这种简约的解决方案。在较弱的假设下,我们证明了一些流行的统计模型的{ \em全局线性收敛},即使问题是非凸的.
2018-06-28 cs.IT cs.LG cs.NA
A Note on Sparsification by Frames
本文的目的是建立一个新的广义字典限制等距属性(D-RIP)稀疏界常数的压缩感知。为了实现D-RIP,在定义中使用常数$δ_k$:$(1 -δ_k)\|D v\|_2^2 \le \|ΦD v\|_2^2 \le (1 + δ_k)\|D v\|^2$。我们证明了,如果$δ_{2k} < \frac{2}3$,则具有$k$ -稀疏$D$ -表示的信号可以被重构。本文中的方法可以扩展到获得其他D-RIP边界(即,$δ_{tk}$)。
2014-12-19 cs.IT math.IT
Deterministic Compressed Sensing Matrices from Additive Character Sequences
压缩感知是一种新的技术,它可以从欠采样测量中恢复稀疏信号。在这种对应关系中,一个$K \times N$测量矩阵的压缩感知确定性构造通过添加字符序列。Weil界,然后使用表明,矩阵具有渐近最佳的一致性$N=K^2$,并提出了一个充分条件的稀疏性水平的唯一稀疏恢复。此外,限制等距性质(RIP)的统计研究的确定性矩阵。利用小字母的加性字符序列,压缩感知矩阵可以通过线性反馈移位寄存器有效地实现。数值结果表明,确定性压缩感知矩阵保证可靠的匹配追踪恢复性能的无噪声和噪声的测量。
2010-09-30 cs.IT math.IT
The gap between the null space property and the restricted isometry property
零空间特性(NSP)和限制等距特性(RIP)是压缩感知领域中受到广泛关注的两个特性。顾名思义,NSP是仅取决于测量过程的零空间的属性,因此,具有相同零空间的任何两个矩阵将具有NSP,如果它们中的任何一个具有相同零空间。另一方面,RIP是测量过程本身的属性,并且给定RIP矩阵,可以直接构造另一个具有相同零空间的矩阵,该矩阵不是RIP。此外,RIP被认为意味着NSP,因此RIP是比NSP严格更强的假设。我们说一个矩阵是RIP-NSP,如果它有相同的零空间作为RIP矩阵。我们表明,这样的矩阵可以提供强大的恢复基础追求下的可压缩信号,在许多适用的设置相媲美的保证RIP提供。更重要的是,我们建设性地表明,RIP-NSP是强于NSP的帮助下,这个强大的恢复结果,这表明,RIP是从根本上强于NSP。
2016-03-16 cs.IT math.IT
Oblique Pursuits for Compressed Sensing
压缩感知是一种新的数据采集模式,通过利用稀疏信号模型实现通用、简单和降低成本的采集。最值得注意的是,通过计算上有效的算法的信号的恢复是保证某些随机化的采集系统。然而,在理论保证和实际应用之间存在差异。在包括各种模态的傅立叶成像的应用中,通过具有从帧中随机选择(采样)的向量的内积来获取测量。目前可用的保证是使用所谓的限制等距属性(RIP),这只被证明是在理想的假设下举行。例如,从框架中的采样需要独立同分布,并且框架必须是紧的。但在实践中,一个或多个理想假设通常会被违反,现有的保证都不适用。出于这种差异,我们提出了两个相关的变化,在现有的框架:(i)广义RIP称为限制双正交属性(RBOP);和(ii)相应的修改版本的现有贪婪的追求算法,我们称之为斜追求。斜追求保证使用RBOP不需要理想的假设,因此,保证适用于实际的收购计划。数值结果表明,斜向追踪也表现出竞争力,有时甚至比他们的传统同行。
2012-07-11 cs.IT math.IT
Lower Bound for RIP Constants and Concentration of Sum of Top Order Statistics
限制等距性(RIP)是压缩感知理论中的重要基础,是该领域中许多精确和鲁棒恢复保证的基础。RIP的定量描述涉及界定测量矩阵的所谓RIP常数。在这方面,值得注意的是,在有关RIP的文献中的大多数结果是RIP常数的上界,这可以解释为一个成功的稀疏恢复的理论保证。相反,RIP常数下限的土地仍然未开垦。RIP常数的下限,如果存在的话,可以解释为成功的稀疏恢复的基本限制方面。本文给出了高斯随机矩阵RIP常数的下界,并给出了推广到亚高斯随机矩阵RIP常数下界的指导。这提供了一个新的基本限制的证明,即执行$s$阶RIP所需的最小测量次数是$Ω(s\log({\rm e}N/s))$,这比经典的Gelfand宽度参数更直接。此外,在证明中,我们提出了一个有用的技术工具,它描述了i.i.d.序列的top- $k$和的集中现象.随机变量,它与统计学中的主流问题密切相关,具有独立的兴趣。
2019-07-13 cs.IT math.IT
Recovery of Sparse Signals Using Multiple Orthogonal Least Squares
Rutgers, The State University of New Jersey(罗格斯,新泽西州立大学)
我们研究了从压缩的线性测量中恢复稀疏信号的问题。这个问题,通常被称为稀疏恢复或稀疏重建,近年来产生了很大的兴趣。为了恢复稀疏信号,我们提出了一种新的方法,称为多个正交最小二乘(MOLS),它扩展了著名的正交最小二乘(OLS)算法,允许多个$L$指数选择每次迭代。由于在每次选择中包含多个支持度指标,MOLS算法在更少的迭代次数内收敛,并提高了传统OLS算法的计算效率。理论分析表明,如果测量矩阵满足等距常数为$δ_{LK} < \frac{\sqrt{L}}{\sqrt{K} + 2 \sqrt{L}}.$的限制等距性质(RIP),则MOLS($L > 1$)在$K$迭代内可以精确恢复所有$K$稀疏信号。结果表明,当信噪比与输入信号的稀疏程度成线性关系时,MOLS算法可以实现稀疏信号的稳定恢复。
2015-12-31 cs.IT cs.LG math.IT
Compressed Sensing Matrices: Binary vs. Ternary
二进制矩阵和三进制矩阵是压缩感知中两种常用的感知矩阵,它们具有很好的性能和较低的计算量。然而,据我们所知,似乎没有文献旨在评估他们的表现,如果他们持有同样的稀疏性,虽然它是有实际意义的。基于RIP分析和数值模拟,本文首次揭示了{0,1}二元矩阵在非零位置上具有相同的分布时,其综合性能优于{0,+1,-1}三元矩阵.
2014-02-07 cs.IT math.IT
Improved Bounds on RIP for Generalized Orthogonal Matching Pursuit
广义正交匹配追踪(gOMP)是OMP算法的自然扩展,其中与OMP不同,它可以在每次迭代中选择$N (\geq1)$原子。在本文中,我们证明了gOMP可以成功地重建一个$K$稀疏信号从一个压缩的测量$ {\bf y}={\bf Φx}$ $K^{th}$迭代,如果传感矩阵${\bf Φ}$满足限制等距性质(RIP)的顺序$NK$其中$δ_{NK} < \frac {\sqrt{N}}{\sqrt{K}+2\sqrt{N}}$。我们的界限提供了一个改进的非常近期的结果显示在\cite{wang_2012b}。此外,我们提出了另一个界的顺序$NK+1$与$δ_{NK+1} < \frac {\sqrt{N}}{\sqrt{K}+\sqrt{N}}$,它完全相关的OMP(N=1)的$δ_{K+1} < \frac {1}{\sqrt{K}+1}$的近最佳界的OMP(\cite{wang_2012a})。
2013-02-03 cs.IT math.IT
Compressed Sensing of Simultaneous Low-Rank and Joint-Sparse Matrices
在本文中,我们考虑从一组不完整且有噪声的线性测量中恢复高维数据矩阵的问题。我们引入了一个新的模型,可以有效地限制自由度的问题,是通用的,足以找到很多的应用,例如在多通道信号压缩传感(如传感器网络,高光谱成像)和压缩稀疏主成分分析(S-PCA)。我们假设数据矩阵同时具有低秩和联合稀疏结构,我们提出了一种新的方法,有效的压缩感知(CS)的数据。我们的CS恢复方法是基于一个凸最小化问题,结合了这种限制性的结构,共同正则化的解决方案,其核(迹)规范和L2/L1混合规范。我们的理论分析使用了一个新的概念,限制等距属性(RIP),并表明,采样方案满足RIP,我们的方法可以稳定地恢复所有低秩和联合稀疏矩阵。对于一类满足特定浓度界的随机抽样方案(例如,亚高斯系综),我们推导出CS测量的数量上的下限,表明我们的恢复方法的接近最优性以及与最先进的技术相比的显著增强。我们引入了一种基于邻近演算的迭代算法,以解决联合核和l2/l1范数极小化问题,最后通过一系列数值实验说明了这种方法的经验恢复相变。
2012-11-21 cs.IT math.IT
One-bit compressed sensing with partial Gaussian circulant matrices
在本文中,我们考虑无记忆的一位压缩感知随机子采样高斯循环矩阵。我们表明,在一个小的稀疏度制度和足够小的精度$δ$,$m\sim δ^{-4} s\log(N/sδ)$测量足以重建的任何$s$ -稀疏向量的方向,通过一个有效的程序的准确性$δ$。我们通过证明部分高斯循环矩阵满足$\ell_1/\ell_2$ RIP-性质得到这个结果。在对$δ$的依赖性稍差的情况下,我们建立了近似稀疏性的稳定性以及完整向量恢复结果。
2017-10-09 cs.IT math.IT math.PR
Deterministic Compressed Sensing Matrices from Multiplicative Character Sequences
压缩感知是一种新的技术,它可以从欠采样测量中恢复稀疏信号。本文利用乘性特征序列确定性地构造了压缩感知的$K \times N$测量矩阵。确切地说,通过调制单位的本原$M$次根,将$M$元幂剩余或Sidelnikov序列的循环移位的常数倍布置为矩阵的列向量。Weil界证明了矩阵对于大$K$和$M$具有渐近最优相干性,并给出了稀疏解唯一的稀疏水平充分条件.此外,限制等距性质(RIP)的统计研究的确定性矩阵。数值结果表明,确定性压缩感知矩阵保证可靠的匹配追踪恢复性能的无噪声和噪声的测量。
2010-11-11 cs.IT math.IT
Invariance of the spark, NSP order and RIP order under elementary transformations of matrices
压缩感知理论告诉我们,恢复所有k稀疏信号需要一个感知矩阵满足其spark大于2k,或其零空间性质(NSP)或限制等距性质(RIP)的阶数大于或等于2k。如果我们对感知矩阵进行初等行或列运算,其spark、NSP阶和RIP阶会发生什么变化?本文研究了这一问题,发现感知矩阵的这三个量化指标在除列加变换外的所有矩阵初等变换下都具有不变性。将这一结果以矩阵乘积的形式表示,得到了与感知矩阵相乘,并使乘积仍具有与感知矩阵相同的稀疏恢复性质的矩阵类型。根据这些类型的矩阵,我们发现了一个有趣的现象,即具有确定性结构的感知矩阵不具有具有随机结构的感知矩阵所具有的普适性。
2015-02-10 cs.IT math.IT
On the $\ell_1$-Norm Invariant Convex k-Sparse Decomposition of Signals
受Cai和Zhang的一个有趣思想的启发,我们给出并证明了关于$\ell_1$范数不变的向量的凸$k$ -稀疏分解。这个结果很适合在RIP下讨论压缩感知问题,但我们相信它也有独立的利益。作为应用,给出了RIP恢复条件$δ_k+θ_{k,k} < 1$的简单推导。
2013-11-11 cs.IT math.IT
Deterministic Construction of Partial Fourier Compressed Sensing Matrices Via Cyclic Difference Sets
压缩感知是一种新的技术,它可以从欠采样测量中恢复稀疏信号。研究了一种基于循环差集(CDS)确定性构造的压缩感知$K \times N$部分傅立叶测量矩阵。准确地说,该矩阵由$N\times N$逆离散傅立叶变换(IDFT)矩阵的$K$行构成,其中每行索引来自$(N, K, λ)$循环差集。为了保证稀疏信号的恢复,对确定性矩阵的限制等距性(RIP)进行了统计研究。然后,从矩阵的结构提出了一种计算效率高的重建算法。数值结果表明,该算法在允许的计算复杂性下具有较好的恢复性能。
2010-12-28 cs.IT math.IT
Note on RIP-based Co-sparse Analysis
在过去的几年里,有越来越多的兴趣恢复信号从欠采样数据,这些信号是稀疏的一些正交字典或紧的框架下,这被称为稀疏合成模型。最近,它的对应物,即,稀疏分析模型,也引起了研究者的关注,许多实际的信号是稀疏的,在真正的冗余字典。这篇短文是对现有文献中处理稀疏分析模型结果的重要补充。首先,我们给出了著名的限制等距性质(RIP)的自然推广,以处理稀疏分析模型,其中考虑了真正的任意非相干字典。其次,通过求解l1范数稀疏提升优化问题,研究了在一般冗余字典中稀疏信号精确恢复的理论保证。这项工作不仅表明,压缩感知是可行的稀疏分析的上下文中,但也可以通过解决l1-最小化问题,准确的恢复。
2012-02-09 cs.IT math.IT
Noise Folding based on General Complete Perturbation in Compressed Sensing
本文首先在标准压缩感知模型y=Ax+e的基础上,提出了一种新的广义完全扰动压缩感知模型y=(A+E)(x+u)+e,称为\emph{noise folding based on general completely perturbed CS system},其中$y\in R^m,~u \in R^m,~u\neq 0,~e\in R^m$,$A\in R^{m\times n},~m\ll n$,$E\in R^{m\times n}$同时将广义非零扰动E引入感知矩阵A,将噪声u引入信号x。我们的构造主要是对新提出的CS模型进行白化,并对白化后的新CS模型的A+E的RIP、~相干性进行探讨。
2016-04-01 cs.IT math.IT
Near-optimal Binary Compressed Sensing Matrix
压缩感知是一种很有前途的技术,它试图用尽可能少的线性和非自适应测量来忠实地恢复稀疏信号。其性能在很大程度上取决于传感矩阵的特性。近年来,由于其相对较低的复杂度和较好的性能,人们已经确定性地构造了几种0 - 1二元感知矩阵。考虑到实现的复杂性,如果能在不损失性能的前提下进一步提高二进制矩阵的稀疏性,将具有很大的实际意义。本文在研究限制等距性(RIP)的基础上,提出了一种近似最优的二进制感知矩阵,该矩阵在尽可能稀疏的分布下保证了接近最佳的性能。该近似最优二进制矩阵可以用渐进边增长(PEG)算法确定性地构造。其性能得到了广泛的模拟证实。
2013-10-02 cs.IT math.IT
Deterministic Construction of Compressed Sensing Matrices using BCH Codes
在本文中,我们介绍了确定性$m\times n$ RIP满足$k$阶$\pm 1$矩阵,使得$\frac{\log m}{\log k}\approx \frac{\log(\log_2 n)}{\log(\log_2 k)}$。这些矩阵的列是二进制BCH码向量,它们的零被替换为-1(不包括归一化因子)。由这些矩阵得到的样本可以很容易地转换为原始稀疏信号;更准确地说,对于无噪声样本,简单的匹配追踪技术,即使比常见的计算复杂性,精确地重建稀疏信号。此外,使用Devore的二元矩阵,我们扩展的二元计划与$\{0,1,-1\}$元素的矩阵。
2009-08-07 cs.IT math.IT
Restricted Isometry Property of Subspace Projection Matrix Under Random Compression
结构在信号处理领域起着重要的作用。低秩矩阵作为结构数据的代表,其约束等距性(RIP)一直是压缩信号处理中的重要研究课题。子空间投影矩阵是一种具有附加结构的低秩矩阵,它可以进一步降低其固有维数。这为改进其RIP留下了空间,可以作为压缩子空间投影矩阵恢复的基础。本文研究了子空间投影矩阵在随机正交压缩下的RIP问题。考虑到$\mathbb{R}^N$中的$s$维子空间的子空间投影矩阵构成$\mathbb{R}^{N\times N}$中的$s(N-s)$维子流形的事实,我们的主要关注点被转化为这类子流形到$\mathbb{R}^{N\times N}$中的稳定嵌入.结果表明,通过随机测量的$O(s(N-s)\log N)$次数,保证了子空间投影矩阵的RIP。
2015-02-08 cs.IT math.IT
Phase Transitions for Greedy Sparse Approximation Algorithms
压缩感知和稀疏近似的一个主要企业是设计和分析计算上易于处理的算法,用于恢复欠定线性方程组的稀疏、精确或近似解。许多这样的算法现在已经被证明具有最优阶均匀恢复保证使用无处不在的限制等距属性(RIP)。然而,目前还不清楚,当RIP算法的充分条件得到满足。我们提出了一个框架,在其中可以实现这一任务,将这些条件转化为高斯测量矩阵的信号的稀疏性水平,长度和测量数量的要求。我们说明了这种方法上的三个国家的最先进的贪心算法:CoSaMP,子空间追踪(SP),迭代硬采样保持(IHT)。设计允许直接比较现有的理论,我们的框架意味着,根据最好的已知的界限,IHT需要最少数量的压缩感知测量,并具有最低的每迭代计算成本的三种算法比较这里。
2010-04-11 cs.IT math.IT
Quantitative recovery conditions for tree-based compressed sensing
Mathematical Institute, University of Oxford(牛津大学数学研究所)
本文提出一种简化比例-维度渐近框架,用于评估基于树结构的压缩感知的恢复保证,通过改进分析方法,得出了更精确的测量数量与稀疏度关系的定量化结果。
2016-08-15 cs.IT cs.NA math.IT