Recovery of Structured Signals From Corrupted Non-Linear Measurements
本文研究了从相对少量的损坏的非线性测量中恢复结构化信号的问题。假设信号和腐败包含在一些结构提升的集合中,我们建议一个扩展的Lasso来解开信号和腐败。我们还提供了条件下,这种恢复过程可以成功地重建信号和腐败。
2019-01-24 cs.IT math.IT
Joint Design of Measurement Matrix and Sparse Support Recovery Method via Deep Auto-encoder
稀疏支持恢复出现在通信和信号处理的许多应用中。现有的方法解决稀疏支持恢复问题,为一个给定的测量矩阵,并不能灵活地利用稀疏模式的属性,以提高性能。在这封信中,我们提出了一种数据驱动的方法,用于联合设计复杂稀疏信号的测量矩阵和支持恢复方法,使用深度学习中的自动编码器。所提出的架构包括两个组件:自动编码器和硬阈值模块。建议的自动编码器成功地处理复杂的信号,使用标准的实数自动编码器。所提出的方法可以有效地利用稀疏模式的属性,并且当这些基本属性没有解析模型时特别有用。此外,该方法可以实现稀疏支持恢复与低计算复杂性。以大规模机器类型通信(mMTC)免授权大规模接入中的设备活动检测为应用实例进行了实验。数值结果表明,所提出的方法取得了显着更好的性能,大大减少了计算时间比经典的方法,在稀疏模式的额外结构的存在。
2019-10-10 cs.IT eess.SP math.IT
Recovery of Block-Sparse Representations from Noisy Observations via Orthogonal Matching Pursuit
我们研究的问题,从噪声损坏的测量块稀疏信号的稀疏模式的恢复。一个简单,有效的恢复方法,即块版本的正交匹配追踪(OMP)的方法,被认为是本文和它的行为恢复块稀疏模式进行了分析。我们提供了充分的条件下,块版本的OMP可以成功地恢复块稀疏表示存在噪声。我们的分析表明,利用块稀疏性可以提高恢复能力,并导致保证恢复更高的稀疏水平。数值结果证实了我们的理论主张。
2011-09-26 cs.IT math.IT
Analysis $\ell_1$-recovery with frames and Gaussian measurements
本文提供了新的结果恢复信号的欠采样测量的基础上分析$\ell_1$ -最小化,当分析算子是由一个框架。我们都提供了所谓的均匀和非均匀恢复保证cosparse(分析稀疏)信号使用高斯随机测量矩阵。非均匀结果依赖于通过切锥的恢复条件,并且均匀恢复保证基于零空间属性的分析版本。检查高斯随机矩阵的这些条件导致成功恢复所需的测量数量的精确界限。在标准稀疏的特殊情况下,我们的结果提高了一个界限,由于Rudelson和Vershynin关于精确重建稀疏信号从高斯测量相对于常数,并将其扩展到稳定性下通过近似稀疏信号和噪声下的测量的鲁棒性。
2014-11-03 cs.IT math.IT
Necessary and Sufficient Null Space Condition for Nuclear Norm Minimization in Low-Rank Matrix Recovery
University of Iowa(爱荷华大学)
低秩矩阵恢复在机器学习、信号处理、协同滤波、系统辨识和欧几里得嵌入等科学和工程领域有着广泛的应用。但低秩矩阵恢复问题是一个NP难问题,因此具有挑战性。一种常用的启发式方法是核范数最小化。在文献[12,14,15]中,作者建立了核范数极小化的充要零空间条件(强零空间条件),以恢复所有可能的秩不超过r的低秩矩阵。此外,在[12]中,Oymak等人利用核范数最小化建立了一个成功恢复给定低秩矩阵的零空间条件(弱零空间条件),并导出了核范数最小化的相变。本文证明了文[12]中的弱零空间条件只是利用核范数极小化成功恢复矩阵的一个充分条件,而不是文[12]中所声称的必要条件。本文进一步给出了低秩矩阵恢复的一个弱零空间条件,它是核范数极小化成功的充要条件。在我们的推导的核心是一个不等式的特征块矩阵的核范数,并在该不等式的等式成立的条件。
2018-02-14 cs.IT cs.LG eess.SP
Data-Time Tradeoffs for Optimal k-Thresholding Algorithms in Compressed Sensing
最优$k$ -阈值算法是一类$k$ -稀疏信号恢复算法,它克服了传统硬阈值算法由于残差函数振荡而导致的缺陷。本文对最优$k$ -阈值算法进行了新的收敛性分析,揭示了这些算法的数据-时间权衡。分析和数值结果都表明,当测量数较小时,算法不能收敛;当测量数较大时,成功恢复所需的迭代次数与测量数成负相关,算法可以实现线性收敛.此外,主要的定理表明,成功恢复所需的测量的数量级为$k \log({n}/{k})$,其中$n$是目标信号的维数。
2022-06-19 cs.IT math.IT
Proof methods for robust low-rank matrix recovery
低秩矩阵恢复问题作为各种逆问题的数学公式自然出现,例如矩阵完成,盲反卷积和相位恢复。在过去的二十年中,一些作品已经严格分析了这种情况下的重建性能,引起了一个相当普遍的理解的潜力和低秩矩阵模型在传感问题的局限性。在这篇文章中,我们比较了两种主要的证明技术,为严格的分析铺平了道路,讨论了它们的潜力和局限性,并调查了它们的成功应用。一方面,我们回顾了基于下降锥分析的方法,表明即使在存在对抗性噪声的情况下,它们通常也会产生强有力的保证,但在结构化观测方面面临限制。另一方面,我们讨论的技术,使用近似的双证书和高尔夫计划,这往往是更好地适合于处理实际的测量结构,但有时会导致较弱的保证。最后,我们回顾了最近在结构化场景中分析下降锥的进展-利用将锥分成多个部分的想法,通过不同的技术进行分析。
2021-06-08 cs.IT eess.SP math.IT
Recovery Analysis for Weighted $\ell_1$-Minimization Using a Null Space Property
我们研究的稀疏信号欠定线性测量时,一个潜在的错误的支持估计的恢复。我们的结果是双重的。首先,我们推导出必要和充分条件,从压缩采样测量使用加权$\ell_1$范数最小化信号恢复。这些条件取决于权重的选择以及支持度估计的大小和精度,它们位于测量矩阵的零空间上。即使标准$\ell_1$最小化失败,它们也能保证恢复。其次,我们推导出满足这些条件的高斯测量的数量的界限,即,用于加权的$\ell_1$最小化,以成功地恢复其支持已经被足够准确地估计的所有稀疏信号。我们的界限表明,加权$\ell_1$最小化需要显着较少的测量比标准的$\ell_1$最小化时,支持估计是相对准确的。
2014-12-04 cs.IT math.IT
Support Recovery of Sparse Signals in the Presence of Multiple Measurement Vectors
研究了基于多测量向量的稀疏信号支持度恢复问题。MMV支持恢复问题连接到单输入多输出(SIMO)多址信道(MAC)中的解码消息的问题,从而使信息理论框架,用于分析在恢复稀疏信号的支持的性能限制。尖锐的充分和必要条件,成功的支持恢复推导出的数量的测量每个测量向量,非零行的数量,测量噪声水平,特别是测量向量的数量。通过对结果的解释,特别是与多输出通信系统的连接,说明了具有用于稀疏信号恢复的MMV的益处,为在许多现有仿真结果中观察到的MMV所实现的性能改善提供了理论基础。特别是,它示出的结构(秩)的矩阵形成的非零条目上的支持恢复的性能限制起着重要的作用。
2011-09-09 cs.IT math.IT
Block-Sparsity: Coherence and Efficient Recovery
我们考虑块稀疏信号的压缩感知,即,稀疏信号具有出现在集群中的非零系数。基于块稀疏信号的不确定性关系,我们定义了一个块相干性的措施,我们表明,块版本的正交匹配追踪算法恢复块k-稀疏信号在不超过k步,如果块相干性足够小。块稀疏性上的相同条件示出通过混合L2/L1优化方法来保证成功恢复。结果的意义在于这样一个事实,即明确使用块稀疏性可以产生更好的重建性能,而不是在传统意义上将信号视为稀疏的,从而忽略了问题中的附加结构。
2008-12-01 cs.IT math.IT
Performance Analysis of Joint-Sparse Recovery from Multiple Measurements and Prior Information via Convex Optimization
为了更好地重建原始稀疏矩阵信号,我们解决了与先验信息相关联的多个测量向量的压缩感知问题。$\ell_{2,1}-\ell_{2,1}$最小化用于强调矩阵信号与先验信息之间的共稀疏性和相似性。然后,我们推导出成功地重建原始信号的必要和充分条件,并建立所需的测量的下限和上限,使条件从圆锥几何的角度来看。我们的边界进一步表明什么样的先验信息有助于提高CS的性能。实验结果验证了我们所有研究结果的有效性。
2015-10-22 cs.IT math.IT
Stable recovery of low-dimensional cones in Hilbert spaces: One RIP to rule them all
信号处理中的许多逆问题都涉及欠定线性观测值的未知数据的鲁棒估计。低维模型,当与适当的正则化器相结合,已被证明是有效地执行这一任务。具有1-范数的稀疏模型或具有核范数的低秩模型是这种成功组合的例子。在这些设置中的稳定恢复保证已经建立了一个共同的工具,适用于每种情况下:限制等距属性(RIP)的概念。在本文中,我们建立了通用RIP为基础的保证稳定恢复锥(正齐次模型集)与任意正则化。这些保证在选定的例子中加以说明。对于块结构的稀疏性在无限维的设置,我们使用的正则化的效率方面的RIP常数可以控制,导致更强和更尖锐的保证比国家的最先进的家庭的保证。
2016-12-06 cs.IT math.IT
Compressed Sensing of Block-Sparse Signals: Uncertainty Relations and Efficient Recovery
我们考虑块稀疏信号的压缩感知,即,具有非零系数的稀疏信号出现在簇中。块稀疏信号的不确定性关系,推导出基于块相干性措施,我们介绍。然后,我们表明,块版本的正交匹配追踪算法恢复块$k$稀疏信号在不超过$k$步骤,如果块的相干性是足够小的。块一致性的相同条件下,通过混合$\ell_2/\ell_1$优化方法,以保证成功恢复。这补充了以前的恢复结果的块稀疏的情况下,依赖于小块限制等距常数。本文提出的结果的意义在于,明确使用块稀疏性可以证明产生更好的重建性能比处理信号稀疏在传统意义上,从而忽略了问题中的附加结构。
2009-06-18 cs.IT math.IT
Heavy-Ball-Based Hard Thresholding Algorithms for Sparse Signal Recovery
硬阈值技术在稀疏信号恢复算法的发展中起着至关重要的作用。将该方法与传统梯度下降方法的多步扩展重球加速方法相结合,提出了基于重球的硬阈值追踪(HBHT)和基于重球的硬阈值追踪(HBHTP)算法。结果表明,当测量矩阵的约束等距常数分别满足$δ_{3k}<0.618 $和$δ_{3k}<0.577,$时,HBHT和HBHTP可以成功地恢复$k$稀疏信号. HBHT和HBHTP的保证成功也分别在条件$δ_{2k}<0.356$和$δ_{2k}<0.377,$下显示。此外,本文还证明了这两个算法的有限收敛性和稳定性.随机问题的情况下进行模拟,比较所提出的算法和几个现有的性能。实验结果表明,HBHTP的性能非常接近于现有的几种算法,它需要更少的平均时间来实现信号恢复比这些现有的方法。
2022-04-20 cs.IT math.IT
Orbit recovery under the rigid motions group
Tel Aviv University(特拉维夫大学);University of Missouri(密苏里大学)
本文提出在刚体运动群下通过样本复杂性分析和计算管道实现信号轨道恢复,适用于结构生物学中的电镜技术。
2025-12-08 cs.IT eess.SP math.IT
Near-optimal matrix recovery from random linear measurements
在从随机线性测量的矩阵恢复中,人们感兴趣的是从$n<MN$测量$y_i=Tr(A_i^T X_0)$恢复未知的$M$ × $N$矩阵$X_0$,其中每个$A_i$是具有i.i.d随机项的$M$ × $N$测量矩阵,$i=1,\ldots,n$ .我们提出了一种新的矩阵恢复算法,近似消息传递的基础上,迭代应用最佳奇异值收缩-一个专门为矩阵估计量身定制的非凸非线性。我们的算法通常以指数速度收敛,提供了一个显着的加速比以前建议的矩阵恢复算法,如核范数最小化(NNM)的迭代求解器。众所周知,在要恢复的对象$X_0$的信息内容(具体地,其矩阵秩$r$)与要尝试从其恢复的线性测量$n$的数量之间存在恢复折衷。在$r$和$n$之间的精确折衷(超过该折衷,通过给定算法的恢复变得可能)在$(r,n)$平面中描绘该算法的所谓相变曲线。该算法的相变曲线明显优于NNM算法。有趣的是,它接近矩阵恢复所需的最小测量数量的信息理论下限,这使得它不仅在收敛速度方面处于最先进水平,而且在成功恢复的矩阵方面也接近最优。
2018-06-30 cs.IT math.IT
Data recovery from corrupted observations via l1 minimization
本文研究了通过求解l1最小化问题,从一组受损的线性测量中恢复信号矢量和受损的噪声矢量的问题,其中传感矩阵是一个部分傅立叶矩阵,其行是从一个全傅立叶矩阵的行中随机均匀地选择的。在适当地选择l1最小化中的参数后,我们证明了即使当恒定分数的测量值被任意损坏时,恢复也可以成功,而且,只要信号矢量足够稀疏,损坏的测量值的比例可以任意增长到接近1。本文所要求的信号矢量稀疏性的上界是渐近最优的,并且优于文献[1,2]中通过ln(n)因子得到的结果。此外,与现有文献[1-3]相比,我们对信号向量和噪声向量的假设是宽松的,这使得我们的恢复保证更适用。广泛的数值实验的基础上合成以及现实世界的数据,以验证所提出的定理的结论,并证明潜在的l1最小化框架。
2016-01-22 cs.IT math.IT
Dictionary Adaptation in Sparse Recovery Based on Different Types of Coherence
在稀疏恢复中,欠定线性方程组的唯一稀疏解是主要的兴趣。该方案通常被提议应用于信号捕获。在大多数情况下,信号本身并不稀疏,因此,它们需要借助特定于相应信号族的所谓字典来稀疏地表示。字典不能用于优化所得到的欠定系统,因为它们被给定的信号族固定。然而,测量矩阵可用于优化,并且可以适应字典。所得到的线性系统的多个属性已被提出,可用作优化的目标函数。本文讨论了其中两个与向量的相干性有关的问题。一个属性旨在具有不一致的测量,而另一个属性旨在确保成功的重建。在下文中,这两个标准的影响进行了比较与不同的重建方法。
2013-07-15 cs.IT math.IT
Sparse Recovery of Positive Signals with Minimal Expansion
我们研究了从低维线性测量重建高维非负稀疏向量的稀疏恢复问题。虽然很多工作都集中在密集的测量矩阵,稀疏的测量方案是至关重要的应用,如DNA微阵列和传感器网络,密集的测量是不实际可行的。一种可能的构造使用扩展图的邻接矩阵,这通常导致比$\ell_1$最小化更有效的恢复算法。然而,到目前为止,基于扩展器的构造需要非常高的扩展系数,这可能会使这种图的构造变得困难,并且可恢复集的大小很小。在本文中,我们构造稀疏的测量矩阵的非负向量的恢复,利用扰动的邻接矩阵的膨胀系数小得多的膨胀图。我们提出了$\ell_1$优化成功地恢复未知向量的充分必要条件,并获得表达式的恢复阈值。对于某些类别的测量矩阵,这一必要和充分条件是进一步等价于存在的“唯一”向量的约束集,这打开了大门的替代算法$\ell_1$最小化。我们进一步表明,我们使用的最小扩展是必要的任何图的稀疏恢复是可能的,因此我们的建设是紧。最后,我们提出了一种新的恢复算法,利用扩展和速度比$\ell_1$优化。最后,我们通过理论界,以及模拟,我们的方法是强大的噪声和近似稀疏。
2009-02-24 cs.IT math.IT
On oracle-type local recovery guarantees in compressed sensing
我们提出了改进的采样复杂度界的压缩感知中的稳定和强大的稀疏恢复。我们基于l1最小化的统一分析包括以下情况:(i)测量是块结构样本,以反映在应用中经常遇到的结构化采集;(ii)信号具有任意结构化稀疏性,结果取决于其支持S。在这个框架内,并在一个随机符号的假设下,由l1最小化所需的测量的数量可以被证明是相同的顺序比一个Oracle最小二乘估计所需的。此外,这些界限可以通过使可变密度采样适应于信号支持上的给定先验和测量的相干性来最小化。我们说明了数值和分析,我们的研究结果可以成功地应用于恢复Haar小波系数,稀疏的水平从随机傅立叶测量在一维和二维,这可能是特别感兴趣的成像问题。最后,一个初步的数值研究表明,这种理论的潜力,设计自适应采样策略稀疏多项式逼近。
2019-12-10 cs.IT math.IT
On the Support Recovery of Jointly Sparse Gaussian Sources using Sparse Bayesian Learning
在这项工作中,我们提供了非渐近的,概率保证成功恢复共同的非零支持联合稀疏高斯源的多测量向量(MMV)问题。支持恢复问题被公式化为边缘化的最大似然(或第二类ML)估计的方差超参数的联合稀疏诱导高斯先验的源信号。我们推导出条件下,由此产生的非凸约束优化完美地恢复非零支持的联合稀疏高斯源合奏任意高的概率。的支持错误概率呈指数衰减的MMV的数量的速率取决于最小的限制奇异值和非负零空间属性的自Khatri-Rao产品的传感矩阵。我们的分析证实,非零支持的大小高达O($m^2$)是可恢复的$m$测量每个稀疏向量。我们推导出的支持一致性的充分条件,建议的约束II型ML解决方案也保证支持一致性的多稀疏贝叶斯学习(M-SBL)优化,其非零系数位于有界区间内的任何全局解决方案。对于无噪声测量的情况下,我们进一步表明,一个单一的MMV是足够的$k$稀疏支持M-SBL的完美恢复,所有子集的$k + 1$列的传感矩阵是线性独立的。
2021-07-26 cs.IT math.IT
Recovery guarantees for multifrequency chirp waveforms in compressed radar sensing
雷达成像系统发射调制的宽带波形以实现高距离分辨率,从而在接收机处产生与发射波形的带宽成比例的高采样率。模拟处理技术可以用于接收,以将测量的数量减少到N,即潜在延迟仓的数量。如果由雷达询问的场景被假设为稀疏的K点目标组成,从压缩感知的结果表明,测量的数量可以进一步减少到与K logN的规模,用于从具有加性噪声的测量中稳定地恢复稀疏场景。虽然非结构化的随机投影仪保证稀疏约束下的成功恢复,他们不能在雷达硬件中实现的实践。最近,结构化的随机Toeplitz和循环矩阵,从使用随机波形的时间延迟估计设置已被证明产生恢复保证类似于非结构化的传感矩阵。然而,相应的发射机和接收机结构具有高复杂度和大存储要求。在本文中,我们提出了一种替代的低复杂度压缩宽带雷达传感器,它结合了多频调信号啁啾波形的发射与接收器,利用模拟混频器其次是一个统一的子奈奎斯特采样阶段。我们得到的结构化测量矩阵和音调的数量的充分条件的恢复保证。我们设计的唯一随机组件是稀疏音调频谱,可有效地在硬件中实现。我们的分析和实验结果表明,我们的计划的性能与非结构化的随机传感矩阵和结构化的Toeplitz和循环矩阵的随机元素。
2015-10-07 cs.IT math.IT
An Estimation Theoretic Approach for Sparsity Pattern Recovery in the Noisy Setting
压缩感知处理稀疏信号的重建,使用少量的线性测量。压缩感知的主要挑战之一是找到稀疏信号的支持。在文献中,成功的支持恢复的测量的数量的缩放定律的几个界限已被导出,其中主要的焦点是随机高斯测量矩阵。在本文中,我们调查的噪声支持恢复问题,从估计理论的角度来看,没有具体的假设是对底层的测量矩阵。线性测量受到加性高斯白噪声的干扰。我们将支持度估计器的输出定义为一组按递增顺序排列的位置值。我们将真实支持度和估计支持度之间的误差设置为它们之差的$\ell_2$ -范数。一方面,这种选择允许我们使用$\ell_2$ -范数误差度量背后的机制,另一方面,将支持恢复转换为更直观的几何问题。首先,通过使用Hammersley-Chapman-Robbins(HCR)界,我们得到了一个基本的下界的性能的任何\emph{unbiased}估计的支持集。这个下限为我们提供了必要的条件,可靠的$\ell_2$范数支持恢复,我们专门评估均匀高斯测量矩阵的测量数量。然后,我们分析了最大似然估计和推导条件下,HCR界是可实现的。这导致我们的最佳解码器,这是足够的可靠的$\ell_2$范数支持恢复的测量的数量。使用这个框架,我们专门评估均匀高斯测量矩阵的充分条件。
2009-11-25 cs.IT math.IT
Typical $l_1$-recovery limit of sparse vectors represented by concatenations of random orthogonal matrices
我们考虑从$M(< N)$维度的线性变换$\vm{y}=\vm{D} \vm{x}$恢复$N$维度稀疏向量$\vm{x}$的问题。在约束$\vm{y} = \vm{D} \vm{x}$下最小化$\vm{x}$的$l_{1}$ -范数是恢复问题的标准方法,早期的研究报告指出,通常成功的$l_1$ -恢复的临界条件在各种随机构造的矩阵$\vm{D}$上是通用的。为了检查的普遍性的程度,我们专注于$\vm{D}$的情况下,其中$\vm{D}$是通过连接$\nb=N/M$矩阵$\vm{O}_{1}, \vm{O}_{2},..., \vm{O}_\nb$均匀绘制根据Haar措施上的$M \times M$正交矩阵。通过使用副本的方法结合发展的一个积分公式处理的随机正交矩阵,我们表明,级联矩阵可以导致更好的恢复性能比普遍性预测时,非零信号的密度是不均匀的$\nb$矩阵模块。对于均匀非零信号密度的特殊情况,再现了普遍条件。大量的数值实验支持理论预测。
2012-12-07 cond-mat.dis-nn cs.IT math.IT
Mathematics of Sparsity and Entropy: Axioms, Core Functions and Sparse Recovery
稀疏性和熵是现代信号处理理论和信息论的两个重要概念。然而,科学家们对这些概念的特征没有明确的共识。以前的努力有助于理解个别稀疏或熵从特定的研究兴趣。本文提出了一种数学形式,一个联合的公理化刻画,这有助于理解稀疏性和熵(美)。本文收集并介绍了作为公理和属性的内在和第一原理标准,共同表征稀疏性和熵。建议的公理集是建设性的,并允许导出简单或\emph{core functions}和进一步的推广。核心稀疏性推广了Hoyer测度、Gini指数和$pq$均值。核熵是Rényi熵和Tsallis熵的推广,而Rényi熵和Tsallis熵又是Shannon熵的推广。最后,核函数被成功地应用到压缩感知和最小熵给定的样本矩。更重要的是,(最简单的)核心稀疏增加了理论支持的$\ell_1$最小化方法在压缩感知。
2015-12-16 cs.IT math.IT
Tensor theta norms and low rank recovery
我们研究了压缩感知和低秩矩阵恢复的扩展,从不完全线性信息恢复低秩张量。虽然通过核范数最小化重构低秩矩阵是相当好的理解,现在,几乎没有理论可用于扩展到高阶张量由于各种理论和计算困难所产生的张量分解。事实上,核范数最小化矩阵恢复是一个易处理的凸松弛方法,但扩展的核范数张量一般是NP-难计算。在这篇文章中,我们引入了张量核范数的凸松弛,它可以通过半定规划在多项式时间内计算。我们的方法是基于θ机构,一个概念,从计算代数几何类似的拉萨尔松弛。我们引入了多项式理想,它是由对应于张量的不同矩阵化的二阶未成年人产生的(其中张量项被视为变量),使得核范数球是理想的代数簇的凸包。对于这样一个理想,$k$ -th θ体产生一个新的范数,我们称之为$θ_k$ -范数。我们表明,在矩阵的情况下,这些规范减少到核规范。然而,对于$d \geq 3$阶张量,我们得到了新的范数。相应的单位- $θ_k$ -范数球序列渐近收敛于单位张量核范数球。通过提供理想的格罗布纳基,我们明确地给出了半定程序的计算$θ_k$ -范数和最小化的$θ_k$ -范数下的仿射约束。通过$θ_1$ -范数最小化的3阶张量恢复的数值实验表明,我们的方法成功地重建张量的低秩不完整的线性(随机)测量。
2017-02-14 cs.IT math.IT
Close Encounters of the Binary Kind: Signal Reconstruction Guarantees for Compressive Hadamard Sampling with Haar Wavelet Basis
本文研究了利用Haar小波稀疏性先验从亚采样Hadamard测量中恢复一维和二维信号的问题。这些问题是感兴趣的,例如,依赖于光学多路复用或单像素成像的计算成像应用。然而,这种模式的实现往往受到阿达玛和哈尔基地之间的一致性。可变和多级密度采样策略通过将子采样过程分别调整到两个基之间的局部和多级相干性来解决这个问题;从而实现成功的信号恢复。在这项工作中,我们计算一个显式的样本复杂性界的Hadamard-Haar系统,以及均匀和非均匀的恢复保证,一个似乎失踪的结果在相关文献中。我们探讨了数值模拟对理论结果的忠实性,并在一个实际相关的实例中显示,例如,单像素相机,目标信号可以从几个阿达玛测量获得。
2019-07-23 cs.IT math.IT
Sparse Signal Recovery using Generalized Approximate Message Passing with Built-in Parameter Estimation
贝叶斯环境下的广义近似消息传递(GAMP)算法在从受损观测值中恢复欠采样稀疏信号方面具有优势。与传统的凸优化方法相比,它具有更低的复杂度,是计算易处理的。在GAMP框架中,稀疏信号和观测被视为根据输入和输出通道中的某些预先指定的概率分布生成。然而,在实践中,分布的参数通常是未知的。本文提出了一种具有内置的【形】参数估计的扩展GAMP算法(PE-GAMP),并给出了其经验收敛性分析。PE-GAMP将参数视为具有简单先验的未知随机变量,并与稀疏信号联合估计它们。与基于期望最大化(EM)的参数估计方法相比,PE-GAMP可以从参数的先验分布中提取信息进行参数估计。它也更强大,更简单,这使我们能够考虑更复杂的信号分布,除了通常的伯努利-高斯(BGm)混合分布。具体地,本文给出了Bernoulli-Exponential混合分布和Laplace分布的计算公式。仿真实验表明,该算法的性能与Oracle GAMP算法相当。仿真实验和真实图像恢复实验均表明,在有噪声存在的情况下,PE-GAMP仍能保持其鲁棒性,且在采样率较小时,性能优于EM参数估计方法。此外,使用BEm公式的PE-GAMP,我们可以成功地执行非负稀疏编码的局部图像补丁和图像分类任务提供有用的功能。
2017-01-11 cs.IT math.IT
Uniform Recovery from Subgaussian Multi-Sensor Measurements
本文针对并行采集系统提出亚高斯随机采样下的均匀恢复保证,通过证明非对称受限等距性质,推导出最优恢复条件,并给出比现有工作更优的稳定性、鲁棒性及更简单的测量常数。
2018-02-15 cs.IT math.FA math.IT
Perfect Recovery Conditions For Non-Negative Sparse Modeling
稀疏建模在计算机视觉、机器学习、模式识别等领域有着广泛而成功的应用。伴随着这些应用,有意义的研究是研究稀疏建模中凸松弛的理论限制和算法设计。然而,在文献中,对稀疏建模的非负版本的理论分析仅限于无噪声设置或具有特定统计噪声模型(如高斯噪声)的场景。研究了在观测信号具有未知任意失真的情况下,非负稀疏建模的性能,特别是针对非负约束和L1惩罚最小二乘问题,给出了该问题能够恢复正确信号元素的精确界.我们提出了两个条件,以保证正确的信号恢复:最小系数条件(MCC)和非线性与子集相干条件(NSCC)。前者定义了信号中存在的每个正确原子的最小权重,后者定义了相对于正子集相干性(PSC)(一种新型的“相干性”度量)的线性模型的可容忍偏差。我们提供严格的性能保证,这些条件的基础上,并通过实验验证其精确的预测能力在高光谱数据分解应用。
2016-09-20 cs.IT cs.LG math.IT
A Convex Formulation for Mixed Regression with Two Components: Minimax Optimal Rates
The University of California, Berkeley(加州大学伯克利分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文研究了在对抗噪声和随机噪声下的两个分量的混合回归问题。我们给出了一个凸优化公式,可证明恢复的真实解,并提供上界的恢复误差为任意噪声和随机噪声设置。我们还匹配极大极小下界(对数因子),表明在一定的假设下,我们的算法是信息理论上最优的。我们的研究结果代表了第一个易于处理的算法,保证成功恢复与紧界恢复错误和样本的复杂性。
2015-02-13 cs.IT cs.LG math.IT
Low rank matrix recovery from rank one measurements
我们研究了通过核范数最小化从欠采样测量中恢复厄米特低秩矩阵$X \in \mathbb{C}^{n \times n}$。我们考虑其中测量是Frobenius内积的特定场景,其中对于一些测量向量$a_1,...,a_m$,具有形式为$a_j a_j^*$的随机秩一矩阵,即,测量值由$y_j = \mathrm{tr}(X a_j a_j^*)$给出。要恢复的矩阵$X=x x^*$是秩1的情况减少到无相估计的问题(从测量,通过最近引入的PhaseLift方法的$y_j = |\langle x,a_j\rangle|^2$)。我们推导出的测量,保证成功的统一恢复的Hermitian秩$r$矩阵,无论是矢量$a_j$,$j=1,...,m$,被独立地随机选择根据一个标准的高斯分布,或$a_j$被独立地从一个(近似)复杂的投影$t$设计与$t=4$的测量数$m$的界限。在高斯情况下,我们需要$m \geq C r n$测量,而在$4$设计的情况下,我们需要$m \geq Cr n \log(n)$。我们的结果是一致的,在这个意义上,一个随机选择的测量向量$a_j$保证恢复所有秩$r$ -矩阵同时具有高概率。此外,我们证明了鲁棒性的恢复扰动下的测量噪声。近似$4$ -设计的结果推广和改进了最近的绑定由于格罗斯,Kueng和Krahmer的相位恢复。此外,它在量子态层析成像中也有应用。我们的…
2014-10-25 cs.IT math.IT math.PR
Recovering Jointly Sparse Signals via Joint Basis Pursuit
这项工作认为,在两个基地稀疏的信号恢复。例如,信号可能在时间和频率上都是稀疏的,或者矩阵可以同时是低秩和稀疏的。为了便于恢复,我们考虑最小化对应于每个基的$\ell_1$ -范数的和,这是一个易于处理的凸方法。我们发现新的最优性条件,这表明在传统的方法,其中$\ell_1$最小化只在一个基础上的增益。接下来,我们分析这些最优性条件的特定情况下的时间-频率基。分别由$k_1,k_2$表示在第一和第二基地的稀疏性,我们表明,对于一般类的信号,使用这种方法,需要小$O(\max\{k_1,k_2\}\log\log n)$测量成功恢复,从而克服了经典的要求$Θ(\min\{k_1,k_2\}\log(\frac{n}{\min\{k_1,k_2\}}))$ $\ell_1$最小化时,$k_1\approx k_2$。大量的模拟表明,我们的分析是近似紧。
2012-02-16 cs.IT math.IT math.OC
Irregular Invertible Bloom Look-Up Tables
我们考虑可逆布隆查找表(IBLT),这是概率数据结构,允许存储键值对。IBLT支持插入和删除键-值对,以及恢复所有已插入的键-值对,只要IBLT中存储的键-值对的数量不超过一定数量。IBLT上的恢复操作可以表示为二分图上的剥离过程。我们提出了一个密度演化分析的IBLT,它允许预测的最大数量的键-值对,可以插入到表中,使恢复仍然是成功的概率很高。这种分析适用于任意不规则度分布,并推广了文献中的结果。我们补充我们的分析,我们自己的IBLT设计的数值模拟,允许恢复大量的键值对作为国家的最先进的IBLT相同的大小。
2021-07-06 cs.DB cs.DS cs.IT
Bisparse Blind Deconvolution through Hierarchical Sparse Recovery
本文利用分层稀疏恢复算法HiHTP解决双稀疏盲反卷积问题,通过提升为线性问题并给出高斯测量下的恢复条件,证明了在特定稀疏度条件下可高概率恢复信号。
2024-11-10 cs.IT cs.NA math.IT
Separation-Free Super-Resolution from Compressed Measurements is Possible: an Orthonormal Atomic Norm Minimization Approach
University of Iowa(爱荷华大学);Hong Kong University of Science and Technology(香港科技大学)
我们考虑的问题恢复叠加的$R$不同的复指数函数从压缩的非均匀时域样本。文献中提出了全变差(TV)最小化或原子范数最小化来恢复$R$频率或缺失数据。然而,已知的是,为了TV最小化和原子范数最小化以恢复丢失的数据或频率,即使当测量是无噪声的时,也需要将基础$R$频率很好地分离。本文表明,汉克尔矩阵恢复方法可以超分辨的$R$复指数和它们的频率从压缩的非均匀测量,无论他们的频率是多么接近彼此。提出了一种新的正交原子范数最小化(OANM)概念,并证明了在无分离超分辨中Hankel矩阵恢复的成功来自于Hankel矩阵的核范数是正交原子范数这一事实.更具体地说,我们表明,在传统的原子范数最小化,底层的参数值$\textbf{must}$被很好地分离,以实现成功的信号恢复,如果原子不断变化的连续值的参数。相反,对于OANM,即使原始原子可以任意接近,OANM也可能是成功的。作为研究的副产品,我们给出了一个核范数的矩阵不等式,并从压缩感知理论的角度给出了证明。
2017-11-04 cs.IT cs.LG math.IT