Sparse Phase Retrieval with Redundant Dictionary via $\ell_q (0<q\le 1)$-Analysis Model
本文将稀疏相位恢复中 ℓ_1-分析模型的 NSP 与 S-DRIP 条件推广到 ℓ_q (0<q≤1)-分析模型,给出无噪声精确恢复与含噪稳定恢复的新条件,并补充了 t<4/3 时的 S-DRIP 结果。
2025-06-05 cs.IT math.IT
Dictionary Adaptation in Sparse Recovery Based on Different Types of Coherence
在稀疏恢复中,欠定线性方程组的唯一稀疏解是主要的兴趣。该方案通常被提议应用于信号捕获。在大多数情况下,信号本身并不稀疏,因此,它们需要借助特定于相应信号族的所谓字典来稀疏地表示。字典不能用于优化所得到的欠定系统,因为它们被给定的信号族固定。然而,测量矩阵可用于优化,并且可以适应字典。所得到的线性系统的多个属性已被提出,可用作优化的目标函数。本文讨论了其中两个与向量的相干性有关的问题。一个属性旨在具有不一致的测量,而另一个属性旨在确保成功的重建。在下文中,这两个标准的影响进行了比较与不同的重建方法。
2013-07-15 cs.IT math.IT
Can we allow linear dependencies in the dictionary in the sparse synthesis framework?
利用稀疏先验从给定的线性测量集合中恢复信号是近年来的一个主要研究课题。在这个模型中,假设信号在给定的字典下具有稀疏表示。处理这个主题的大部分工作都集中在信号表示的重建上,作为恢复信号本身的手段。这种方法迫使字典具有低一致性,并且在其列之间没有线性依赖关系。最近,一系列的贡献,专注于信号恢复使用的分析模型发现,线性依赖关系的分析字典实际上是允许的和有益的。在本文中,我们从理论上表明,同样适用于信号恢复的合成情况下的l0-合成最小化问题。此外,我们证明经验的相关性,我们的结论恢复信号使用l1-松弛。
2013-03-22 cs.IT math.IT
Sparse Time-Frequency decomposition by dictionary learning
在本文中,我们提出了一种时频分析的方法来获得瞬时频率和相应的分解,通过解决一个优化问题。在这个优化问题中,分解信号的基础是未知的。相反,它适应于信号,并作为优化问题的一部分被确定。从这个意义上说,这个优化问题可以看作是一个字典学习问题。这个字典学习问题通过使用增广拉格朗日乘子方法(ALM)迭代地解决。我们进一步加快收敛的ALM方法在每一个迭代,通过使用快速小波变换。我们应用我们的方法分解几个信号,包括信号与不良的尺度分离,信号与离群值和噪声污染和一个真正的信号。结果表明,该方法可以准确地恢复出瞬态频率和固有模态函数。
2014-10-11 cs.IT math.IT
Adaptive Recovery of Dictionary-sparse Signals using Binary Measurements
一比特压缩感知(CS)是稀疏恢复的高级版本,其中感兴趣的稀疏信号可以从极度量化的测量中恢复。也就是说,只有每个测量的符号对我们可用。在许多应用中,地面实况信号本身并不稀疏,但可以在冗余字典中表示。一个强大的研究线已经解决了传统的CS在这个信号模型,包括其扩展到一位测量。然而,一位CS遭受了实现预定义重构误差水平所需的极大量的测量。解决这个问题的一个常见的替代方案是利用自适应方案。自适应采样作用于采集的样本,以有效的方式跟踪信号。在这项工作中,我们利用自适应采样策略来恢复字典稀疏信号从二进制测量。对于这项任务,提出了一个多维阈值,将以前的信号估计到当前的采样过程。这种策略大大减少了精确恢复所需的测量次数。我们的证明方法是基于最近的工具,在高维几何,特别是随机超平面镶嵌和高斯宽度。我们通过严格的数值分析表明,该算法大大优于国家的最先进的方法。此外,我们的算法达到了指数误差衰减的量化测量的数量。
2019-10-19 cs.IT math.IT
Sparse Bayesian Dictionary Learning with a Gaussian Hierarchical Model
University of Electronic Science and Technology of China(电子科技大学);Stevens Institute of Technology(史蒂文斯理工学院)
我们考虑一个字典学习问题,其目标是设计一个字典,使得信号在学习过的字典上具有稀疏或近似稀疏表示。这样的问题发现了各种各样的应用,如图像去噪,特征提取等,在本文中,我们提出了一种新的分层贝叶斯模型的字典学习,其中高斯逆伽玛分层先验是用来促进稀疏的表示。合适的先验也被放置在字典和噪声方差上,使得它们可以从数据中合理地推断出来。基于层次模型,提出了贝叶斯推理的变分贝叶斯方法和吉布斯抽样方法。所提出的方法的优点是,它们不需要噪声方差\emph{a priori}的知识。数值结果表明,所提出的方法是能够学习字典的准确性比现有的方法,特别是对于有一个有限数量的训练信号的情况下。
2015-03-07 cs.IT cs.LG math.IT
Sparse Linear Representation
本文研究了一个信号在多大程度上可以用来自过完备字典的参考信号的稀疏线性组合来表示的问题。当字典大小在信号的维度上是指数时,则最优失真的精确表征被给出为字典大小指数和线性表示的参考信号的数目的函数。粗略地说,如果字典的大小是指数级的,那么每个信号都是稀疏的,不管指数有多小。此外,一个类似于匹配追踪的迭代法,在每个阶段连续找到最佳参考信号,给出了渐近最优表示。这种方法本质上等价于多描述的逐次加细,并为白高斯源的逐次加细性提供了一种简单的替代证明。
2009-05-14 cs.IT math.IT
Matrix Coherency Graph: A Tool for Improving Sparse Coding Performance
精确恢复的稀疏解的欠定线性方程组意味着充分搜索字典的所有可能的子集,这是计算上难以处理的,而l1最小化将做的工作时,一个限制等距属性的字典。然而,实际的稀疏恢复算法可能无法恢复系数的向量,即使字典偏离RIP只有轻微的。为了在更广泛的意义上享受l1最小化保证,提出了一种基于全搜索和l1最小化相结合的方法。这个想法是基于划分字典的原子,在某种意义上是良好的条件和那些是病态的。受此启发,本文提出了一种基于字典结构的抽取工具--矩阵相干图。该工具可用于减少稀疏编码算法的贪婪性,使恢复更可靠。我们对IRLS算法进行了改进,仿真结果表明,改进后的算法性能明显优于原算法。
2014-11-30 cs.IT math.IT
Fast Algorithms for Sparse Recovery with Perturbed Dictionary
在本文中,我们占的方法稀疏恢复大型欠定线性模型的扰动存在于测量和字典矩阵。现有方法计算量大,效率低。总体最小二乘(TLS)准则在解决线性回归问题方面具有广泛的优点,而FOCal欠定系统求解器(FOCALS)在稀疏恢复方面具有低计算复杂度。本文在TLS和FOTORS方法的基础上,提出了更快速、更鲁棒的TLS FOTORS和SD FOTORS算法。TLS-FOSS算法在求解稀疏约束下的TLS优化问题时,不仅具有近优性,而且速度快,适合于大规模计算。为了进一步降低算法的复杂度,设计了另一种次优算法D-FOTORS。SD-FOTORS可以应用于MMV(multiple-measurement-vectors)TLS模型,填补了稀疏约束下线性回归问题求解的空白。给出了TLS-FOTORS算法和SD-FOTORS算法的收敛性证明。仿真结果表明,与其他算法相比,TLS-FOTORS和SD-FOTORS在精度和稳定性方面具有优势。
2012-05-01 cs.IT math.IT
Estimating Sparse Signals Using Integrated Wideband Dictionaries
在本文中,我们介绍了一个宽带字典框架估计稀疏信号。通过制定跨越所考虑的参数空间的频带的集成字典元素,可以有效地找到并丢弃在信号中不活跃的参数空间的大部分。在每次迭代之后,字典的零值部分可以被丢弃以允许围绕活动元素形成细化的字典,从而导致在随后的迭代中使用缩放的字典。与直接形成跨越整个参数空间的较大字典或使用标准字典元素执行缩放过程相比,实现该方案允许以低得多的计算成本进行更准确的估计。与传统字典不同,宽带字典允许使用具有比可用样本的数量更少的元素的字典,而不损失分辨率。该技术可用于一维和多维信号,并可用于完善几个传统的稀疏估计,在这里示出的LASSO和SPICE估计。数值例子说明了改进的性能。
2017-10-15 cs.IT math.IT stat.ME
An Improved Analysis of Least Squares Superposition Codes with Bernoulli Dictionary
对于加性高斯白噪声信道,在平均功率受限的情况下,Barron和Joseph在2010年提出的稀疏叠加码可以达到该容量。虽然原始稀疏叠加码的码字是用从高斯分布绘制的字典矩阵制成的,但我们考虑它是从伯努利分布绘制的情况。我们使用最小二乘解码对其块错误概率进行了改进,这比我们之前在2014年的结果更加简化和严格。
2018-01-09 cs.IT math.IT
On the Computational Intractability of Exact and Approximate Dictionary Learning
TU Darmstadt(达姆施塔特工业大学)
在过去的十年中,通过线性观测的信号向量的有效稀疏编码和重构受到了极大的关注。在这种情况下,从用于稀疏表示的某些信号类别的训练数据集合中自动学习合适的基或过完备字典已经证明对于实际信号处理应用特别重要。大多数流行的字典学习算法在每次迭代中都涉及NP难稀疏恢复问题,这可能会给出一些关于字典学习复杂性的指示,但并不构成计算困难性的实际证明。在这篇技术笔记中,我们证明了学习一个字典,用它可以尽可能稀疏地表示一组给定的训练信号确实是NP困难的。此外,我们还建立了近似的解决方案的最佳稀疏水平的大因素内的硬度。此外,我们给出了NP-硬度和非近似性的结果,最近的字典学习变化称为传感器排列问题。在此过程中,我们还获得了一个新的非近似性结果的经典稀疏恢复问题的压缩感知。
2014-08-03 cs.IT cs.LG math.IT
Note on RIP-based Co-sparse Analysis
在过去的几年里,有越来越多的兴趣恢复信号从欠采样数据,这些信号是稀疏的一些正交字典或紧的框架下,这被称为稀疏合成模型。最近,它的对应物,即,稀疏分析模型,也引起了研究者的关注,许多实际的信号是稀疏的,在真正的冗余字典。这篇短文是对现有文献中处理稀疏分析模型结果的重要补充。首先,我们给出了著名的限制等距性质(RIP)的自然推广,以处理稀疏分析模型,其中考虑了真正的任意非相干字典。其次,通过求解l1范数稀疏提升优化问题,研究了在一般冗余字典中稀疏信号精确恢复的理论保证。这项工作不仅表明,压缩感知是可行的稀疏分析的上下文中,但也可以通过解决l1-最小化问题,准确的恢复。
2012-02-09 cs.IT math.IT
Dictionary Identification - Sparse Matrix-Factorisation via $\ell_1$-Minimisation
Centre de Recherche INRIA Rennes - Bretagne Atlantique(法国国家信息与自动化研究所雷恩-布列塔尼大西洋研究中心);IRISA(法国雷恩信息与自动化系统研究所);Johann Radon Institute for Computational and Applied Mathematics (RICAM)(约翰·拉东计算与应用数学研究所)
这篇文章对待的问题,学习字典提供稀疏表示为一个给定的信号类,通过$\ell_1$最小化。该问题还可以被看作是将训练信号的$\ddim \times \nsig$矩阵$Y=(y_1 >... y_\nsig), y_n\in \R^\ddim$分解为$\ddim \times \natoms$字典矩阵$\dico$和$\natoms \times \nsig$系数矩阵$\X=(x_1... x_\nsig), x_n \in \R^\natoms$,其是稀疏的。这里研究的确切问题是当一个字典系数对$(\dico,\X)$可以恢复为局部最小值的(非凸)$\ell_1$ -标准与输入$Y=\dico \X$。首先,对于一般字典和系数矩阵,代数条件,确保当地的可识别性推导,然后专门的情况下,字典是一个基础。最后,假设一个随机的Bernoulli-Gaussian稀疏模型的系数矩阵,它表明,足够的非相干基地是本地可识别的概率很高。可能令人惊讶的结果是,通常足够数量的训练样本$\nsig$仅与信号维度(即,$\nsig \approx C \natoms \log \natoms$)线性地增长到对数因子,这与需要组合地许多样本的先前方法形成对比。
2010-03-01 cs.IT cs.LG math.IT
Analysis of Sparse Representations Using Bi-Orthogonal Dictionaries
考虑了在给定字典D的情况下,从M < N个线性观测值y = Dx中恢复N维稀疏向量x的稀疏表示问题.标准的方法是让字典的元素是独立同分布(IID)的零均值高斯,并在约束y = Dx下最小化x的l1范数。本文分析了字典为双正交字典D = [O 1 O2]时的l1-重构性能,其中O 1,O2是独立的,且在正交矩阵群上按Haar测度一致地画.通过副本方法的应用,我们得到了双正交字典的完美l1-恢复是可能的临界条件。
2012-07-10 cs.IT math.IT
Exact Recovery of Sparsely-Used Dictionaries
Yale University(耶鲁大学);Columbia University(哥伦比亚大学)
我们考虑学习稀疏使用的字典与任意平方字典和随机,稀疏系数矩阵的问题。我们证明了$O (n \log n)$样本是足够的唯一确定的系数矩阵。在此基础上,我们设计了一个多项式时间的稀疏字典精确恢复算法(ER-SpUD),并证明了当系数矩阵足够稀疏时,该算法可以恢复字典和系数矩阵。仿真结果表明,ER-SpUD揭示了真正的字典以及系数的概率高于许多国家的最先进的算法。
2012-06-26 cs.IT cs.LG math.IT
An MDL framework for sparse coding and dictionary learning
从信号处理到统计推断和机器学习,稀疏信号建模与学习过完备字典的能力已经在各种应用和领域中得到了证明。然而,这些模型的统计特性,如欠拟合或过拟合给定的数据集,仍然没有很好地表征在文献中。因此,稀疏建模的成功取决于为每个数据和应用程序手动调整关键参数。这项工作的目的是解决这一问题,通过提供一个实际和客观的表征稀疏模型的最小描述长度(MDL)的原则-一个完善的信息理论的方法来选择模型的统计推断。由此产生的框架派生出一个家庭的有效稀疏编码和字典学习算法,凭借MDL原则,是完全无参数。此外,这种框架允许将额外的先验信息纳入现有模型,例如马尔可夫依赖关系,或者以自然的方式定义全新的问题公式,包括矩阵分析领域。这些优点将被证明与经典的图像去噪和分类问题的无参数算法,并在视频应用中的低秩矩阵恢复。
2011-10-11 cs.IT math.IT stat.ML
Efficient Sparse Coding using Hierarchical Riemannian Pursuit
Hong Kong University of Science and Technology(香港科技大学)
稀疏编码是一类无监督的方法,用于以字典和稀疏码的线性组合的形式学习输入数据的稀疏表示。这种学习框架在各种图像和视频处理任务中取得了最先进的成果。然而,经典的方法学习字典和稀疏代码的基础上交替优化,通常没有理论保证的最优性或收敛性,由于非凸性的问题。最近的工作稀疏编码与一个完整的字典提供了强有力的理论保证,由于非凸优化的发展。然而,初始非凸方法在稀疏编码问题中以原子接原子的方式顺序地学习字典,这导致了很长的执行时间。最近的作品寻求直接学习整个字典一次,这大大减少了执行时间。然而,相关联的恢复性能随着有限数量的数据样本而降低。在本文中,我们提出了一个有效的稀疏编码方案与两个阶段的优化。该方案利用了两阶段优化问题的全局和局部黎曼几何,并通过有限数量的样本实现了出色的字典恢复性能,而无需逐个原子计算。我们进一步证明,以高概率,所提出的计划可以准确地恢复任何原子在目标字典与有限数量的样本,如果采用恢复字典的一个原子。最后给出了该算法在无线传感器数据压缩中的应用。仿真和真实数据实验验证了该方法的有效性。
2021-07-20 cs.IT cs.LG eess.SP
Sparse coding and dictionary learning based on the MDL principle
具有学习字典的稀疏信号编码的能力已经在从信号处理到统计推断和机器学习的各种应用和领域中得到证明。然而,这些模型的统计特性,如欠拟合或过拟合给定的数据集,仍然没有很好地表征在文献中。这项工作的目的是填补这一空白的最小描述长度(MDL)的原则-一个完善的信息理论的方法来统计推断。由此产生的框架派生出一个家庭的有效稀疏编码和建模(字典学习)算法,凭借MDL原则,是完全无参数的。此外,这样的框架允许以自然的方式将额外的先验信息(例如马尔可夫依赖性)并入模型中。我们展示了所提出的框架的性能与图像去噪和分类任务的结果。
2010-10-22 cs.IT math.IT math.ST
On the uniqueness and stability of dictionaries for sparse representation of noisy signals
学习最佳字典稀疏编码暴露了许多自然信号的特征稀疏功能。然而,缺乏在存在噪声的情况下对这些特征的稳定性的普遍保证。在这里,我们提供了非常一般的条件,保证当字典产生的稀疏编码是唯一的和稳定的测量或建模误差。我们证明了一些或所有原始字典元素是可恢复的噪声数据,即使字典不满足火花条件,其大小被高估,或只有多项式数量的不同的稀疏支持出现在数据中。重要的是,我们得到这些保证,而不需要任何限制恢复字典超出其大小的自然上限。我们的研究结果也产生了一个有效的程序足以确认,如果一个建议的解决方案的字典学习问题是唯一的范围内相称的噪音。我们建议应用于数据分析,工程和神经科学,并结束了我们的工作留下的一些剩余的挑战。
2019-05-14 cs.IT math.IT stat.ML
Simultaneous Codeword Optimization (SimCO) for Dictionary Update and Learning
Imperial College London(帝国理工学院);University of Surrey(萨里大学)
我们考虑数据驱动的字典学习问题。我们的目标是寻求一个过完备的字典,每个训练信号可以最好地近似只有几个码字的线性组合。这个任务通常通过迭代地执行两个操作来实现:稀疏编码和字典更新。在文献中,有两种基准机制来更新字典。第一种方法,如MOD算法,其特征在于在固定稀疏系数的同时搜索最佳码字。在第二种方法中,由K-SVD方法表示,一个码字和相关的稀疏系数同时更新,而所有其他码字和系数保持不变。我们提出了一个新的框架,概括了上述两种方法。该算法的特点是可以同时更新任意码字集和相应的稀疏系数:当稀疏系数固定时,其优化问题与MOD算法类似,当只选择一个码字进行更新时,可以证明该算法与K-SVD方法等价;更重要的是,我们的方法允许我们同时更新所有码字和所有稀疏系数,因此称为同时码字优化(SimCO)。在该框架下,我们设计了两种算法,即原始SimCO算法和正则化SimCO算法.我们基于一个简单的梯度下降机制来实现这两个算法。仿真结果表明,所提出的算法的性能相比,两个基线算法MOD和K-SVD。结果表明,正则化SimCO在学习性能和运行速度方面都特别吸引人。
2012-04-18 cs.IT cs.LG math.IT
A null space property approach to compressed sensing with frames
压缩感知中的一个有趣的话题涉及在字典中利用稀疏表示来感知和恢复信号的问题。在本文中,我们研究了L1-综合方法在给定的字典D中精确恢复稀疏或近似稀疏信号的传感矩阵A的条件。特别是,我们提出了一个基于字典的零空间属性(D-NSP),据我们所知,这是第一个充分和必要条件的L1恢复成功。这个新的属性,然后利用检测一些字典的稀疏家庭不能被压缩普遍。此外,当字典是充分的火花,我们表明,AD是NSP,这是众所周知的,只有足够的稳定恢复通过L1合成方法,确实是必要的。
2013-09-08 cs.IT math.FA math.IT
New results on sparse representations in unions of orthonormal bases
该研究针对正交基并集下的稀疏表示问题,提出一种新的字典构造,可达到Gribonval和Nielsen给出的spark下界,拓展了Shen等人的相关研究成果。
2024-01-28 cs.IT math.CO math.IT
Communications using Sparse Signals
受压缩感知原理的启发,我们提出了新的通信系统中的差错控制编码技术。信息比特被编码在稀疏信号的支持项和非零项中。通过选择具有合适维度的字典矩阵,通过将字典矩阵与稀疏信号相乘来获得用于传输的码字。具体地,从字典矩阵的列的稀疏线性组合获得码字。在解码器,我们采用贪婪稀疏信号恢复算法的变化。利用Gold码序列和量子信息论中的互无偏基作为字典矩阵,研究了该方案在AWGN信道下的误块出错率性能.我们的研究结果表明,该计划具有相当的和有竞争力的性能,相对于几个广泛使用的线性码,非常小到中等的块长度。此外,我们的编码方案直接扩展到多用户的情况下,如多址信道,广播信道和干扰信道。在这些多用户信道中,如果用户被分组,使他们有类似的信道增益和噪声水平,我们提出的方案的整体误码率性能将符合一个等效的单用户的情况。
2021-02-06 cs.IT eess.SP math.IT
Self-Dictionary Sparse Regression for Hyperspectral Unmixing: Greedy Pursuit and Pure Pixel Search are Related
本文考虑了最近出现的高光谱解混配方的基础上稀疏回归的自字典多测量向量(SD-MMV)模型,其中测量的高光谱像素被用作字典。在纯像素假设下操作,这种SD-MMV形式主义是特殊的,因为它允许同时识别端元光谱特征和端元的数量。以前的SD-MMV研究主要集中在凸松弛。在这项研究中,我们探讨了贪婪追求的替代方案,它通常提供了高效和简单的算法。特别是,我们设计了一个贪婪的SD-MMV算法使用同时正交匹配追踪。有趣的是,所提出的贪婪算法被证明是密切相关的一些现有的纯像素搜索算法,特别是,连续投影算法(SPA)。因此,SD-MMV和纯像素搜索之间的联系被揭示出来。然后,我们进行精确的恢复分析,并证明所提出的贪婪算法是强大的噪声-包括其识别的(未知)数量的端元-在一个足够低的噪声水平。通过仿真实验和实际数据实验验证了该算法的辨识性能。
2015-03-03 cs.IT math.IT math.OC
On the Reconstruction Risk of Convolutional Sparse Dictionary Learning
Carnegie Mellon University(卡内基梅隆大学)
稀疏字典学习(SDL)已经成为一种流行的方法,用于自适应地识别数据集的简约表示,这是机器学习和信号处理中的一个基本问题。虽然SDL的大多数工作都假设独立和相同分布的样本的训练数据集,但称为卷积稀疏字典学习(CSDL)的变体放宽了这一假设,允许更一般的顺序数据源,如时间序列或其他相关数据。虽然最近的工作已经探讨了经典SDL的统计特性,CSDL的统计特性仍然没有得到研究。本文开始研究这一点,确定极小极大收敛速度的CSDL重建风险方面,既上限的风险建立CSDL估计和证明匹配的信息理论下界。我们的研究结果表明,重建风险的一致性在“超稀疏”设置中是可能的,其中稀疏性(即,特征出现的次数)在$o(N)$中,就训练序列的长度N而言。值得注意的是,我们的结果做出了非常弱的假设,允许任意字典和相关测量噪声。最后,我们验证了我们的理论结果与数值实验的合成数据。
2018-02-24 cs.IT cs.LG math.IT
Minimax Lower Bounds for Kronecker-Structured Dictionary Learning
Rutgers University(罗格斯大学)
字典学习是估计提供测量/收集的信号或数据的稀疏表示的原子元素的集合的问题。本文通过证明极大极小风险的下界,发现了张量数据估计字典的样本复杂性的根本限制。这个下限取决于张量的维度和生成模型的参数。本文的重点是二阶张量数据,与基础的字典构造两个较小的字典和观测数据的字典原子通过高斯白噪声观察到的稀疏线性组合的克罗内克积。在这方面,本文提供了一个一般的最小最大风险的下限,并采用稀疏和高斯系数模型的等价结果的证明技术。报告的结果表明,张量数据的字典学习的样本复杂度可以显着低于非结构化数据。
2016-05-17 cs.IT cs.LG math.IT
DOLPHIn - Dictionary Learning for Phase Retrieval
TU Darmstadt(达姆施塔特工业大学);Technion – Israel Institute of Technology(以色列理工学院);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
我们提出了一种新的算法来学习字典重建和稀疏编码信号的测量没有相位。具体而言,我们认为,估计一个二维图像的任务,从平方幅度测量的复值线性变换的原始图像。几个最近的相位恢复算法利用潜在的稀疏性的未知信号,以提高恢复性能。在这项工作中,我们认为这样一个稀疏的信号相位恢复的背景下,事先不知道的稀疏字典。我们的算法联合重建未知信号-可能被噪声破坏-并学习字典,使得估计图像的每个补丁可以稀疏表示。数值实验表明,我们的方法可以获得显着更好的重建相位恢复问题的噪声比方法,不能利用这种“隐藏”稀疏。此外,在理论方面,我们提供了我们的方法的收敛结果。
2016-08-03 cs.IT cs.LG math.IT
Conditioning of Random Block Subdictionaries with Applications to Block-Sparse Recovery and Regression
线性模型是统计学和信号处理文献的主要内容,在线性模型中,一组观测值被假定为由矩阵的列的线性组合给出。在线性模型下进行推理的一个特殊挑战是理解字典上的条件,在这些条件下可靠的推理是可能的。近年来,由于许多现代推理问题涉及“欠定”设置,其中观察的数量比字典中的列数要小于得多,因此这一挑战重新引起了人们的关注。本文作出了几个贡献,这种设置时,一组的意见是由一个线性组合的一小部分列的字典,被称为“块稀疏”的情况下。首先,它指定字典上的条件,在该条件下,大多数块子字典是良态的。这个结果从根本上不同于先前关于块稀疏推理的工作,因为(i)它提供了可以在多项式时间内显式计算的条件,(ii)给定的条件转化为块子字典的列数的接近最优的缩放,作为大类字典的观察数的函数,以及(iii)它表明字典的谱范数和二次平均块相干性(而不是最坏情况的相干性)从根本上限制了条件良好的块子字典的维度的缩放。其次,本文研究了欠定背景下的块稀疏恢复和块稀疏回归问题。只要字典满足容易计算的条件,并且描述列组的线性组合的系数可以通过温和的统计先验来建模,则对于某些字典,接近最优的块稀疏恢复和回归是可能的。
2016-08-28 cs.IT math.IT math.ST
Dictionary-Sparse Recovery From Heavy-Tailed Measurements
恢复不是在基中稀疏而是相对于过完备字典稀疏的信号是具有许多应用的压缩感测领域中最灵活的设置之一。如在标准压缩感测设置中那样,可以例如通过所谓的$\ell_1$合成方法从少量线性测量有效地重构信号。然而,它一直不太好理解,哪些测量矩阵可证明适用于这种设置。而在标准设置中,它已被证明,即使某些重尾测量矩阵可以被用于相同的样本复杂度制度的高斯矩阵,可比的结果仅适用于限制类的亚高斯测量向量,只要字典稀疏信号的恢复通过$\ell_1$合成关注。在这项工作中,我们填补了这一空白,并建立最佳的保证恢复向量是(近似)稀疏相对于字典通过$\ell_1$ -合成方法从线性,潜在的噪声测量的一大类随机测量矩阵。特别是,我们表明,随机测量,满足只有一个小球假设和弱的时刻假设,如随机向量的独立同分布。学生-具有对数数量的自由度的$t$条目导致与(亚)高斯测量相当的保证。作为一种技术工具,我们显示了一个约束的期望平方顺序统计量的总和非常一般的假设下,这可能是独立的利益。作为我们的结果的推论,我们也得到了一个轻微的改进,最弱的假设上的测量矩阵与i.i.d.行足以在标准压缩感知中均匀恢复,改进了Lecué和Mendelson以及Dirksen,Lecué和Rauhut的结果。
2021-09-29 cs.IT cs.NA eess.SP