Optimal Weighted Low-rank Matrix Recovery with Subspace Prior Information
矩阵检测是从少量线性测量值重构低秩矩阵的问题。在协同滤波、著名的Netflix奖问题和地震数据插值等应用中，存在关于地面真实低秩矩阵的列和行空间的先验信息。在本文中，我们利用这种先验信息，提出了一个加权优化问题，其目标函数促进秩和先验子空间信息。利用圆锥积分几何中的最新结果，我们得到了唯一的最优权重，使所需的测量次数最小化。仿真结果证实，所提出的凸规划与最佳权重需要显着减少测量比常规核范数最小化。
2019-04-29 cs.IT math.IT
Weighted Matrix Completion and Recovery with Prior Subspace Information
一个不相干的低秩矩阵可以有效地重建后，观察它的一些元素在随机，然后解决一个凸规划，最小化核范数。在许多应用中，除了这些条目之外，关于矩阵的列和行空间的潜在有价值的先验知识也可用于从业者。在本文中，我们将这种先验知识纳入矩阵完成--通过最小化加权核范数--并精确量化任何改进。特别是，我们发现，在理论上，可靠的先验知识减少了样本的复杂性矩阵完成的对数因子，和观察到的改善数值模拟是相当多的放大。我们也提出了类似的结果，从通用线性测量矩阵恢复密切相关的问题。
2018-03-12 cs.IT math.IT
Sparse Recovery of Fusion Frame Structured Signals
融合帧是提供信号空间的冗余表示的子空间的集合。他们通过用框架子空间代替框架向量来推广经典框架。本文考虑了从融合帧中稀疏恢复信号的问题。我们使用块稀疏模型的融合帧，然后表明，稀疏信号在此模型下可以压缩采样和重建的方式类似于标准的压缩感知（CS）。特别是，我们调用混合l1/l2范数最小化，以重建稀疏信号。在我们的工作中，我们表明，假设一定的不相干属性的子空间和先验知识，它允许我们提高恢复时，通常的块稀疏的情况下相比。
2018-04-05 cs.IT math.IT
Orthogonal subspace based fast iterative thresholding algorithms for joint sparsity recovery
从具有联合稀疏特性的多测量向量中恢复稀疏信号在信号、图像和视频处理中有着广泛的应用。当信号矩阵的快照在时间上相关时，问题变得更加复杂。考虑到信号的时间相关性，我们提供了一个基于阈值，功能反馈和零空间调整的迭代MMV算法的框架。建立了精确恢复的收敛性分析。与大多数在测量/解空间中选择索引的迭代贪心算法不同，我们基于迭代序列所跨越的正交子空间来确定索引。此外，一个功能性的反馈，控制量的能源搬迁的“尾巴”的实施和分析。结果表明，函数反馈原理可以减少迭代次数，加快算法的收敛速度。数值实验表明，该算法具有明显的优势，平衡的效率，自适应性和准确性相比，其他国家的最先进的算法。
2021-01-22 cs.IT math.IT
Decentralized and Collaborative Subspace Pursuit: A Communication-Efficient Algorithm for Joint Sparsity Pattern Recovery with Sensor Networks
在本文中，我们考虑的问题，联合稀疏模式恢复在分布式传感器网络。假设所有节点观测到的稀疏多测量矢量信号（MMVs）具有共同的（但未知的）稀疏模式。为了以分散的方式准确地恢复常见的稀疏模式，同时降低网络的通信开销，我们开发了一种名为分散和协作子空间追踪（DCSP）的算法。在DCSP中，每个节点需要在每次迭代中执行三种操作：1）通过找到其测量向量最可能位于的子空间来估计局部稀疏模式; 2）与单跳相邻节点共享其局部稀疏模式估计;以及3）通过基于多数投票的融合在其邻域中获得的所有局部稀疏模式估计来更新最终的稀疏模式估计。证明了DCSP的收敛性，并定量分析了其通信开销。我们还提出了另一种分散的算法，称为广义DCSP（GDCSP），允许更多的信息交换相邻节点之间，以进一步提高稀疏模式恢复的准确性，在增加通信开销的成本。实验结果表明：1）与现有的分散式算法相比，DCSP算法在通信开销相当的情况下，稀疏模式恢复的准确率更高; 2）GDCSP算法的准确率与集中式算法非常接近。
2016-01-18 cs.IT math.IT
Improving Noise Robustness in Subspace-based Joint Sparse Recovery
在多测量向量问题（MMV）中，多个信号共享一个共同的稀疏支持，并通过一个共同的传感矩阵进行采样，我们可以期望联合稀疏，使所需的测量数量进一步减少。虽然联合稀疏的分集增益已经证明了在使用$l_1/l_2$混合范数惩罚的凸松弛方法的情况下，直到最近才表明，类似的分集增益可以通过贪心算法实现，如果我们结合贪婪步骤与MUSIC样的子空间准则。然而，这些混合算法的主要限制是，它们通常需要大量的快照或高信噪比（SNR）的准确的子空间以及部分支持估计。这项工作的主要贡献之一是表明，这些算法的噪声鲁棒性可以显着提高，允许顺序子空间估计和支持滤波，即使当快照的数量是不够的。数值仿真结果表明，一种新的顺序压缩MUSIC（顺序CS-MUSIC）相结合的顺序子空间估计和支持滤波步骤显着优于现有的贪心算法，是相当的计算昂贵的最先进的算法。
2012-05-15 cs.IT math.IT
Algebraic hierarchical locally recoverable codes with nested affine subspace recovery
本文提出代数分层局部可恢复码，通过里德-穆勒码与纤维积码的统一，实现嵌套仿射子空间恢复，并支持每层可用性。
2025-01-22 cs.IT math.AG math.IT
Greedy Subspace Pursuit for Joint Sparse Recovery
在本文中，我们解决稀疏多测量向量（MMV）的问题，其目标是恢复一组稀疏的非零行向量或指数的信号矩阵不完整的测量。理想情况下，不管信号矩阵中的列数如何，稀疏度（k）加一个测量值对于几乎所有信号的信号向量的均匀恢复是足够的，即，不包括勒贝格测度为零的集合。为了在信号矩阵秩小于k的情况下仍能以较高的计算效率逼近“k+1”下界，本文提出了一种称为两阶段正交子空间匹配追踪（TSMP）的贪心算法，其理论结果比正交子空间匹配追踪（OSMP）和子空间增强多信号分类（SA-MUSIC）算法在更少的限制条件下逼近下界.我们提供非渐近的OSMP和TSMP的性能保证，覆盖无噪声和噪声的情况下。约束等距属性和互相关的变体被用来提高性能保证。数值模拟表明，该方案具有较低的复杂度，并优于大多数现有的贪婪方法。这表明，随着信号矩阵列数的增加，TSMP成功的最小测量次数比现有方法更快地收敛到下界。
2016-01-26 cs.IT math.IT
Subspace-Sparse Representation
给定过完备字典$A$和作为$A$的几个线性独立列的线性组合的信号$b$，经典稀疏恢复理论处理恢复唯一稀疏表示$x$使得$b = A x$的问题。已知在一定条件下，$A$上的$x$可以通过基追踪（BP）和正交匹配追踪（OMP）算法恢复。在这项工作中，我们考虑更一般的情况下，$b$在于一个低维子空间跨越的$A$，这可能是线性相关的一些列。在这种情况下，稀疏解$x$一般是不唯一的，我们研究的问题，表示$x$确定的子空间，即非零条目的$x$对应的字典原子的子空间。这样的表示$x$称为子空间稀疏。我们提出了保证子空间稀疏恢复的充分条件，这些条件具有清晰的几何解释，并解释了子空间稀疏恢复的性质。我们还证明了在随机化模型下，充分条件可以满足。我们的结果是适用于传统的稀疏恢复问题，我们得到的条件稀疏恢复的限制比规范的相互相干条件。我们还利用这些结果对基于稀疏表示的分类方法进行了分析，得到了证明其正确性的条件。
2015-07-06 cs.IT math.IT stat.ML
Sparse Signal Recovery in Hilbert Spaces
本文报告了一种努力，以巩固众多的相干为基础的稀疏信号恢复的结果，在文献中。我们提出了一个单一的理论，适用于一般的希尔伯特空间与稀疏的信号定义为参与信号的表示的子空间的数量（可能是无限维）。我们的一般结果恢复稀疏信号，块稀疏信号，多频带信号，移位不变空间中的信号，和（可能是无限维）子空间的有限联合中的信号的不确定性关系和基于相干的恢复阈值。此外，我们改进和推广现有的结果，在许多情况下，我们发现缩短和简化的证明。
2012-05-21 cs.IT math.IT
Robust Recovery of Subspace Structures by Low-Rank Representation
Shanghai Jiao Tong University（上海交通大学）；Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；National University of Singapore（新加坡国立大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Columbia University（哥伦比亚大学）
在这项工作中，我们解决子空间恢复问题。给定一组近似从多个子空间的并集中提取的数据样本（向量），我们的目标是将样本分割到各自的子空间中，并纠正可能的错误。为此，我们提出了一种新的方法，称为低秩表示（LRR），它寻求所有候选人中的最低秩表示，可以表示数据样本的线性组合的基础在一个给定的字典。结果表明，LRR算法很好地解决了子空间恢复问题：当数据是干净数据时，证明了LRR算法能准确地捕捉到真实的子空间结构;对于被离群点污染的数据，证明了在一定条件下，LRR算法能准确地恢复原始数据的行空间，同时也能检测出离群点;对于被任意错误破坏的数据，LRR也能近似地恢复具有理论保证的行空间。由于子空间隶属度是由行空间可证明地确定的，这些进一步意味着LRR可以以有效的方式执行鲁棒的子空间分割和纠错。
2012-05-06 cs.CV cs.IT cs.LG
Robust Subspace Learning: Robust PCA, Robust Subspace Tracking, and Robust Subspace Recovery
Iowa State University（爱荷华州立大学）；Université de La Rochelle（拉罗谢尔大学）；University of Warwick（华威大学）
PCA是最广泛使用的降维技术之一。一个相关的更简单的问题是“子空间学习”或“子空间估计”。给定相对干净的数据，两者都可以通过奇异值分解（SVD）轻松求解。存在离群值的子空间学习或PCA问题称为鲁棒子空间学习或鲁棒PCA（RPCA）。对于长数据序列，如果试图使用单个低维子空间来表示数据，则所需的子空间维度可能会非常大。对于这样的数据，一个更好的模型是假设它位于一个低维子空间，可以随着时间的推移而变化，尽管是逐渐变化的。跟踪这样的数据（和子空间），同时对离群值具有鲁棒性的问题被称为鲁棒子空间跟踪（Robust Subspace Tracking，简称SVM）。这篇文章提供了一个杂志式的概述整个领域的鲁棒子空间学习和跟踪。特别是三个问题的解决方案进行了详细讨论：通过稀疏+低秩矩阵分解（S+LR）的RPCA，通过S+LR，和“鲁棒子空间恢复（RSR）”的恢复。RSR假设整个数据向量要么是离群值，要么是内点。相反，S+LR公式假设离群值仅出现在少数数据向量索引上，因此被很好地建模为稀疏损坏。
2018-07-05 cs.CV cs.IT math.IT
Sparse Subspace Clustering via Two-Step Reweighted L1-Minimization: Algorithm and Provable Neighbor Recovery Rates
稀疏子空间聚类（SSC）依赖于稀疏回归来精确识别邻居。受压缩感知最新进展的启发，本文提出了一种新的基于两步重加权$\ell_1$ -最小化的SSC稀疏回归算法，该算法推广了E. J. Candès et al in [The Annals of Statistics，vol. 42，no. 2，pp. 669-699，2014]，而不会引起额外的算法复杂度。为了充分利用在第一步中计算的稀疏表示向量提供的先验信息，我们的方法对回归向量的每个分量放置权重，并在第二步中求解加权LASSO。我们提出了一个数据加权规则，适用于提高邻居识别精度。然后，在加权LASSO对偶问题的框架下，深入研究了该方案的理论邻居恢复率。具体而言，一个有趣的连接之间的位置的最优稀疏解加权LASSO和指数的对偶问题的主动约束。然后，在半随机模型下，推导了各种邻居恢复事件的解析概率上/下限。我们的分析结果证实，在数据加权的帮助下，如果先验邻居信息是足够准确的，所提出的方案具有更高的概率可以产生许多正确的邻居和一些不正确的邻居相比，没有数据加权的解决方案。计算机模拟提供了验证我们的分析研究和证据所提出的方法的有效性。
2019-07-17 cs.IT math.IT
Belief propagation for joint sparse recovery
压缩感知（CS）证明了稀疏信号可以从欠定线性测量中恢复。我们专注于联合稀疏恢复问题，其中多个信号共享相同的公共稀疏支持集，并且它们通过相同的感知矩阵进行测量。利用最近的信息理论表征的单信号CS，我们制定了最佳的最小均方误差（MMSE）估计问题，并推导出一个信念传播算法，其放松的版本，联合稀疏恢复问题和近似的消息传递算法。此外，利用密度演化，我们提供了一个充分条件的精确恢复。
2011-02-16 cs.IT math.IT
Alternating Subspace Method for Sparse Recovery of Signals
Hunan Normal University（湖南师范大学）
本文提出交替子空间法用于信号稀疏恢复，结合贪婪和分裂方法，实现高效准确的稀疏信号恢复。
2026-03-10 cs.IT math.IT math.OC
Joint-sparse recovery from multiple measurements
联合稀疏恢复问题的目的是恢复，从压缩测量集，未知的稀疏矩阵与非零条目限制到一个子集的行。这是在压缩感知中广泛研究的单测量向量（SMV）问题的扩展。我们分析了两种类型的恢复算法的恢复属性。首先，我们表明，使用范数最小化的总和的恢复不能超过连续SMV使用$\ell_1$最小化的统一恢复率，并有问题，可以解决一种方法，但不能与其他。其次，我们分析了ReMBo算法的性能[M. Mishali和Y. Eldar，IEEE Trans. Sig.程序、56（2008）]结合$\ell_1$最小化，并且示出了随着进行更多的测量，恢复如何改善。从该分析可以得出，具有比非零行数更多的测量值不会提高潜在的理论恢复率。
2009-04-14 cs.IT math.IT
Robust Recovery of Signals From a Structured Union of Subspaces
传统的采样理论考虑从一系列采样重构未知信号$x$的问题。通常保证从给定测量恢复的普遍假设是$x$位于已知子空间中。近年来，人们对非线性但结构化的信号模型越来越感兴趣，其中$x$位于子空间的并集中。在本文中，我们开发了一个通用的框架，从一组给定的样本强大和有效的恢复这样的信号。更具体地说，我们对待的情况下，其中$x$在于从一个更大的集合的$m$的可能性选择的$k$子空间的总和。样本被建模为具有任意一组采样函数的内积。为了得到一个有效的和强大的恢复算法，我们表明，我们的问题可以制定为恢复块稀疏向量的非零元素出现在固定的块。然后，我们提出了一个混合的$\ell_2/\ell_1$程序块稀疏恢复。我们的主要结果是一个等价的条件下，建议的凸算法是保证恢复原始信号。这个结果依赖于块限制等距属性（RIP）的概念，这是在压缩感知的上下文中广泛使用的标准RIP的推广。基于RIP，我们还证明了我们的方法在噪声和建模误差的存在下的稳定性。我们的框架的一个特殊情况是，恢复多个测量向量（MMV），共享一个联合稀疏模式。适应我们的结果，在这种情况下，导致新的MMV恢复方法以及等价条件下，整个集合可以有效地确定。
2009-03-30 cs.IT math.IT nlin.CG
Joint Sparsity Pattern Recovery with 1-bit Compressive Sensing in Sensor Networks
我们研究的问题，联合稀疏支持恢复与1位压缩测量传感器网络。传感器被假定为观察具有相同但未知的稀疏支持的稀疏信号。每个传感器将其测量矢量逐元素量化为1位，并将量化的观测值发送到融合中心。我们开发了一个计算上易于处理的支持恢复算法，最大限度地减少了成本函数定义的似然函数和$l_{1,\infty}$规范。我们观察到，即使有噪声的1位测量，联合稀疏支持可以准确地恢复与多个传感器，每个收集只有少量的测量。
2015-06-01 cs.IT math.IT
Sparse Recovery from Combined Fusion Frame Measurements
稀疏表示已经成为信号和信息处理中的一个强大工具，随着新的采集和处理技术（如压缩感知（CS））的成功而达到顶峰。融合框架是一种非常丰富的新的信号表示方法，它使用子空间的集合而不是向量来表示信号。这项工作结合这些令人兴奋的领域，介绍了一种新的稀疏模型融合帧。在新模型下稀疏的信号可以被压缩采样并以类似于使用标准CS的稀疏信号的方式唯一地重构。该组合提供了一组有前途的新的数学工具和信号模型，可用于各种应用。利用新模型，稀疏信号在融合帧的非常少的子空间中具有能量，尽管它不需要在它占据的每个子空间内都是稀疏的。该稀疏模型使用融合帧的混合l1/l2范数来捕获。融合帧中的信号稀疏可以使用非常少的随机投影来采样，并且使用最小化该混合l1/l2范数的凸优化来精确地重建。所提供的采样条件推广了标准CS理论中使用的相干性和RIP条件。结果表明，它们足以保证稀疏恢复的任何信号稀疏在我们的模型。此外，使用稀疏信号的随机模型，表明在非常温和的条件下，恢复失败的概率随子空间的维数增加呈指数衰减的概率分析。
2011-06-17 cs.IT math.IT
Joint Sparse Recovery Method for Compressed Sensing with Structured Dictionary Mismatches
在传统的压缩感知理论中，字典矩阵是先验给定的，而在实际应用中，这个矩阵会受到随机噪声和波动的影响。在本文中，我们考虑的信号模型中的字典矩阵中的每一列的结构性噪声的影响。该公式在雷达系统和阵列处理中遇到的离网目标的到达方向（DOA）估计中是常见的。我们建议使用联合稀疏信号恢复来解决结构化字典不匹配的压缩感知问题，并给出了这种联合稀疏恢复的分析性能界。我们表明，在温和的条件下，原始稀疏信号的重建误差是有界的稀疏性和噪声水平的测量模型。此外，我们实现了快速一阶算法，以加快计算过程。数值算例验证了所提算法的良好性能，同时也表明联合稀疏恢复方法比现有方法具有更好的重建效果。通过实现联合稀疏恢复方法，在被动和主动感知情况下，DOA估计的精度和效率都得到了提高。
2014-07-24 cs.IT math.IT
Two step recovery of jointly sparse and low-rank matrices: theoretical guarantees
我们介绍了一个两步算法的理论保证，以恢复一个联合稀疏和低秩矩阵的欠采样测量其列。该算法首先使用列的一组公共测量来估计矩阵的行子空间。在第二步中，使用简单的最小二乘算法解决矩阵的子空间感知恢复。在从欠采样测量中恢复CINE数据的背景下验证了结果;当采样条件满足时，我们获得了良好的恢复。
2015-06-02 cs.IT math.IT stat.ML
Analysis of equivalence relation in joint sparse recovery
联合稀疏恢复问题是压缩感知中广泛研究的单测量向量问题的推广，其目标是恢复一组联合稀疏向量。即具有集中在公共位置的非零条目。同时，在为该问题设计的大量算法中，广泛使用了矩阵约束下的l_p-极小化。因此，本文的主要贡献是关于这种技术的两个理论结果。第一个是证明了在每一个多重线性方程组中，存在一个常数p*，使得当0< p<p* 时，原唯一稀疏解也可以从l_p拟范数的极小值中恢复出来。另一个是给出了这样的p* 的解析表达式。最后，我们展示了一个例子的结果，以证实我们的结论的有效性。
2017-01-07 cs.IT math.IT
Algorithms and Hardness for Robust Subspace Recovery
IBM Research Almaden（IBM阿尔马登研究院）；MIT（麻省理工学院）
我们考虑无监督学习中的一个基本问题，称为\emph{subspace recovery}：给定$\mathbb{R}^n$中的$m$点的集合，如果这些点中的许多但不一定全部包含在$d$维子空间$T$中，我们可以找到它吗？包含在$T$中的点称为{ \em内点}，其余点称为{ \em外点}。这个问题在计算机科学和统计学中受到了相当大的关注。然而，来自计算机科学的有效算法对{ \em adversarial}离群值不鲁棒，并且来自鲁棒统计的估计量难以在高维中计算。是否有子空间恢复算法既对离群值又有效？我们给出了一个算法，发现$T$时，它包含超过一个$\frac{d}{n}$分数的点。因此，对于$d = n/2$，当存在恒定比例的离群值时，该估计量既易于计算又表现良好。我们证明了它是小集扩展很难找到$T$时的错误的分数是任何更大的，从而证明我们的估计是一个{ \em最优}的效率和鲁棒性之间的妥协。事实证明，这个基本问题与其他领域有着惊人的联系，包括我们在这里使用的小集合扩展，拟阵理论和泛函分析。
2013-12-03 cs.CC cs.DS cs.IT
Blind Compressed Sensing Over a Structured Union of Subspaces
本文讨论了基于压缩测量的同时信号恢复和字典学习的问题。在假设未知信号来自少量不相交子空间的联合的情况下，利用多个传感矩阵联合分析多个信号。该问题例如在图像修补应用中是重要的，其中多个信号由取自整个图像的（不完整的）图像块构成。这项工作扩展了标准字典学习和块稀疏字典优化，通过考虑压缩测量，例如，数据不完整）。通过使用多个感知矩阵和放松对学习字典的一些限制，也推广了盲压缩感知的先前工作。利用矩阵完成的背景下开发的结果，它被证明是字典和信号可以恢复压缩测量的概率很高。解是唯一的，直到字典原子的块排列和可逆线性变换。的恢复是视情况而定的测量每个信号的数量和信号的数量足够大，这些数量的界限推导。此外，本文提出了一种计算上实用的算法，进行字典学习和信号恢复，并建立其收敛到局部最优的条件。图像修补的实验结果证明了该方法的有效性。
2011-03-12 cs.IT math.IT
Subspace Expanders and Matrix Rank Minimization
矩阵秩最小化问题在机器学习、系统辨识和图形模型等领域有着广泛的应用。在RM问题中，人们的目标是找到满足一组线性约束的具有最低秩的矩阵。现有的算法包括核范数最小化（NNM）和奇异值阈值。到目前为止，大部分的注意力都集中在i.i.d.上。高斯测量算子。在这项工作中，我们引入了一类新的测量算子，和一种新的恢复算法，这是显着快于NNM。所提出的算子是基于我们所称的子空间扩展器，这是由众所周知的扩展图压缩感知中的测量矩阵的启发。我们表明，给定一个$n\times n$ PSD矩阵秩$r$，它可以唯一地恢复从一个最小的采样$O(nr)$测量使用所提出的结构，和恢复算法可以铸造后的几个初始处理步骤的矩阵求逆。
2011-02-19 cs.IT math.IT
Joint recovery algorithms using difference of innovations for distributed compressed sensing
分布式压缩感知关注的是使用尽可能少的线性测量来表示联合稀疏信号的集合。提出了两种新的分布式压缩感知联合重构算法。这些算法是基于使用的信号之一作为边信息的想法，这使得利用联合稀疏性在一个更有效的方式相对于现有的计划。它们提供了重建质量的增益，特别是当节点获得很少的测量时，使得系统能够以比其他现有方案所需的更少的测量来操作。我们表明，该算法实现了更好的性能相对于国家的最先进的。
2013-11-11 cs.IT math.IT
Joint Sparsity Recovery for Spectral Compressed Sensing
压缩感知（Compressed Sensing，CS）是一种有效的方法，可以减少先验基础上重建稀疏信号所需的样本数，但可能会受到基础失配的严重影响。在本文中，我们研究的问题，同时恢复多个频谱稀疏的信号，支持在相同的频率位于任意单位圆。我们提出了一个原子范数最小化问题，它可以被看作是一个连续的对应的离散CS制定和有效地解决通过半定规划。通过数值实验，我们表明，每个信号的样本数可以进一步减少利用联合稀疏模式的多个信号。
2014-02-03 cs.IT math.IT
On the Support Recovery of Jointly Sparse Gaussian Sources using Sparse Bayesian Learning
在这项工作中，我们提供了非渐近的，概率保证成功恢复共同的非零支持联合稀疏高斯源的多测量向量（MMV）问题。支持恢复问题被公式化为边缘化的最大似然（或第二类ML）估计的方差超参数的联合稀疏诱导高斯先验的源信号。我们推导出条件下，由此产生的非凸约束优化完美地恢复非零支持的联合稀疏高斯源合奏任意高的概率。的支持错误概率呈指数衰减的MMV的数量的速率取决于最小的限制奇异值和非负零空间属性的自Khatri-Rao产品的传感矩阵。我们的分析证实，非零支持的大小高达O（$m^2$）是可恢复的$m$测量每个稀疏向量。我们推导出的支持一致性的充分条件，建议的约束II型ML解决方案也保证支持一致性的多稀疏贝叶斯学习（M-SBL）优化，其非零系数位于有界区间内的任何全局解决方案。对于无噪声测量的情况下，我们进一步表明，一个单一的MMV是足够的$k$稀疏支持M-SBL的完美恢复，所有子集的$k + 1$列的传感矩阵是线性独立的。
2021-07-26 cs.IT math.IT
Structure Theorems (and Fast Algorithms) for List Recovery of Subspace-Design Codes
Massachusetts Institute of Technology（麻省理工学院）；University of California, Berkeley（加州大学伯克利分校）
本文提出了一种高效的算法，用于子空间设计码的列表恢复，通过紧凑描述实现高效处理，改进了现有算法性能。
2025-12-08 cs.CC cs.IT math.IT
The Sharp Phase Transition of Tyler's M-Estimator for Robust Subspace Recovery
School of Mathematics, University of Minnesota（明尼苏达大学数学系）；Department of Mathematics, University of Central Florida（中央佛罗里达大学数学系）
研究Tyler's M-估计器在临界信噪比DS-SNR=1时的行为，证明其收敛到真实子空间，建立尖锐相变。
2026-06-04 cs.IT cs.LG math.IT
Uniform recovery of fusion frame structured sparse signals
我们考虑的问题，恢复融合帧稀疏信号从不完整的测量。这些信号是由一个家庭的子空间的非零块的少数。首先，我们表明，通过使用与子空间之间的角度相关联的相干参数的先验知识，可以通过混合l^1/l^2最小化来均匀地恢复融合帧稀疏信号，其中向量值（子）高斯测量的数量显著减少。我们证明了这一点，通过建立一个适当的版本的限制等距属性。我们的结果补充了以前的非均匀恢复结果在这种情况下，并提供了更强的稳定性保证噪声测量和近似稀疏的信号。其次，我们确定了通过混合l^1/l^2-最小化均匀恢复所有融合帧稀疏信号所需的标量值测量的最小数量。这个界限是通过标量值亚高斯测量来实现的。特别是，我们的研究结果表明，数量的标量值亚高斯测量不能进一步减少使用知识的相干参数。作为一种特殊情况，它意味着最好的已知的块稀疏信号使用亚高斯测量的均匀恢复结果是最佳的。
2014-07-29 cs.IT math.IT
Super-Resolution Compressed Sensing: An Iterative Reweighted Algorithm for Joint Parameter Learning and Sparse Signal Recovery
在许多实际应用中，如波达方向（DOA）估计和线性谱估计，稀疏字典通常是由一组未知参数在一个连续的域。为了将传统的压缩感知应用于此类应用，必须将连续参数空间离散化为有限的网格点集。离散化，但是，招致错误，并导致恶化的恢复性能。为了解决这个问题，我们提出了一种迭代重加权的方法，联合估计未知参数和稀疏信号。具体地说，该算法是通过迭代减少代理函数优化给定的目标函数，这导致在一个渐进的和交织的迭代过程，以改善未知参数和稀疏信号。数值结果表明，该算法在分辨密集频率分量时具有优越的性能。
2014-01-17 cs.IT math.IT
Reduced-Rank DOA Estimation based on Joint Iterative Subspace Optimization and Grid Search
提出了一种基于最小方差功率谱估计的降秩DOA估计算法。该方法适用于大阵列的DOA估计，并可应用于任意阵列几何形状。提出的DOA估计算法是一个联合优化的子空间投影矩阵和辅助降秩参数向量的MV和网格搜索。采用约束最小二乘法求解该联合优化问题的输出功率在电网。该算法适用于在有或没有源数目精确信息的情况下的大量用户测向问题，并且不需要奇异值分解（SVD）。该算法还采用了空间平滑（SS）技术来处理相关源问题。仿真结果表明，该算法在不同场景下的性能得到了提高。
2013-03-05 cs.IT math.IT
Joint Sparse Recovery With Semisupervised MUSIC
离散多信号分类（MUSIC）以其计算量小、条件要求低等优点成为联合稀疏恢复（JSR）中一种重要的非迭代算法。然而，它无法在秩缺陷的问题所造成的相干或有限数量的多个测量向量（MMV）。在这封信中，我们提供了一个新的视角来解决这个问题，将JSR解释为关于原子的二元分类问题。同时，MUSIC本质上是基于标记的MMV构建监督分类器，因此其性能将严重依赖于这些训练样本的质量和数量。从这个角度出发，我们开发了一个半监督MUSIC（SS-MUSIC）的机器学习的精神，它宣布，在训练样本中的监督信息不足，可以从那些未标记的原子补偿。我们不是以完全监督的方式构建分类器，而是通过同时利用标记的MMVs和一些可靠的未标记原子来迭代地改进半监督分类器。通过这种方式，所需的条件和迭代可以大大放宽和减少。数值实验结果表明，SS-MUSIC算法在迭代次数和恢复概率方面均优于其他MUSIC扩展算法和JSR的典型贪心算法。
2017-05-26 cs.IT math.IT
OMP Based Joint Sparsity Pattern Recovery Under Communication Constraints
研究了资源受限分布式网络中基于低维多测量向量的联合稀疏模式恢复问题。我们假设分布式节点观察稀疏信号共享相同的稀疏模式，每个节点通过一个低维线性算子获得测量。当在通信网络中的分布式节点处收集测量结果时，通常需要在诸如通信带宽和发送/处理功率之类的固有资源约束下执行联合稀疏恢复。我们提出了两种方法来考虑通信约束，同时执行常见的稀疏模式恢复。首先，我们探讨使用一个共享的多路访问信道（MAC）在转发观察居住在每个节点的融合中心。使用MAC，虽然带宽要求不取决于节点的数量，但融合中心只能访问观测值的线性组合。我们讨论的条件下，共同稀疏模式可以可靠地估计。其次，我们开发了两个基于正交匹配追踪（OMP）的协作算法，以低通信开销的分散方式联合估计公共稀疏模式。在所提出的算法中，每个节点利用相邻节点之间的合作，通过共享少量的信息融合在不同的阶段，估计在贪婪的方式的真实支持度的指数。所提出的算法的效率和有效性，证明通过模拟与最相关的现有算法考虑性能增益和通信开销之间的权衡比较。
2014-02-28 cs.IT math.IT
Joint Channel Estimation and Signal Recovery in RIS-Assisted Multi-User MISO Communications
可重构智能表面（RISs）最近被认为是未来无线网络的节能解决方案。它们的动态和低功耗配置可实现覆盖范围扩展、大规模连接和低延迟通信。基于RIS的系统中的信道估计和信号恢复是最关键的技术挑战之一，由于大量的未知变量涉及RIS单元元素和发送的信号。本文针对RI辅助的多用户多输入单输出（MISO）通信系统的下行链路，提出了一种基于并行因子（PARAFAC）分解的联合信道估计和信号恢复方案。该分解展开级联信道模型，并使用双线性广义近似消息传递（BiG-AMP）算法促进信号恢复。所提出的方法包括一个交替最小二乘算法迭代估计的等效矩阵，其中包括发射信号和基站和RIS之间的信道，以及RIS和多个用户之间的信道。我们的选择性仿真结果表明，该方案优于基准计划，使用基因辅助信息知识。我们还提供了不同的RIS参数设置对所提出的方案的影响的见解。
2020-11-26 cs.IT math.IT
Jointly Sparse Support Recovery via Deep Auto-encoder with Applications in MIMO-based Grant-Free Random Access for mMTC
本文提出了一种数据驱动的方法，使用标准的实数深度自动编码器来联合设计公共感知（测量）矩阵并联合支持复信号的恢复方法。在所提出的方法中的自动编码器包括一个编码器，它模仿噪声线性测量过程的联合稀疏信号与一个共同的传感矩阵，和一个解码器，近似地执行联合稀疏支持恢复的基础上的经验协方差矩阵的噪声线性测量。该方法能有效地利用稀疏模式的公共支持度和稀疏模式的特性，获得较高的恢复精度，且计算时间明显短于现有方法。我们还研究了一个应用实例，即，用于大规模机器类型通信（mMTC）的基于多输入多输出（MIMO）的免授权随机接入中的设备活动检测。数值结果表明，该方法可以提供导频序列和设备活动检测具有更好的检测精度和更短的计算时间比众所周知的恢复方法。
2020-05-05 cs.IT eess.SP math.IT
Performance Analysis of Joint-Sparse Recovery from Multiple Measurements and Prior Information via Convex Optimization
为了更好地重建原始稀疏矩阵信号，我们解决了与先验信息相关联的多个测量向量的压缩感知问题。$\ell_{2,1}-\ell_{2,1}$最小化用于强调矩阵信号与先验信息之间的共稀疏性和相似性。然后，我们推导出成功地重建原始信号的必要和充分条件，并建立所需的测量的下限和上限，使条件从圆锥几何的角度来看。我们的边界进一步表明什么样的先验信息有助于提高CS的性能。实验结果验证了我们所有研究结果的有效性。
2015-10-22 cs.IT math.IT
Joint Channel Estimation and Signal Recovery for RIS-Empowered Multi-User Communications
可重构智能表面（RISs）最近被认为是未来无线网络中节能解决方案的一个有前途的候选人。它们的动态和低功耗配置可实现覆盖范围扩展、大规模连接和低延迟通信。由于存在大量与RIS单元元素和传输信号相关的未知变量，因此基于RIS的系统中的信道估计和信号恢复是最关键的技术挑战之一。针对这一问题，本文以RIS辅助的无线通信系统为研究对象，提出了两种基于消息传递算法的联合信道估计和信号恢复方案。具体而言，建议的双向计划适用于泰勒级数展开和高斯近似，以简化和产品的程序中制定的问题。此外，内部迭代采用了两种不同的近似消息传递算法，以确保鲁棒性和收敛性。文中还讨论了两种模糊度消除方法。我们的仿真结果表明，所提出的方案显示出优于国家的最先进的基准方法。我们还提供了不同的RIS参数设置对所提出的方案的影响的见解。
2022-07-03 cs.IT math.IT
Phase retrieval from low-rate samples
本文研究了N维复向量空间中的相位恢复问题。它提供了两组确定性测量向量，保证所有信号的信号恢复，只排除一个特定的子空间和子空间的联合，分别。给出了一个稳定的低复杂度解析重建过程。此外，它被证明，从这些测量信号恢复可以通过一个半定的程序来解决。一个实际的实施与4个确定性的衍射图案提供了一些数值实验与噪声测量补充的分析方法。
2014-07-18 cs.IT math.IT
Compressive MUSIC with optimized partial support for joint sparse recovery
多测量向量（MMV）问题解决了共享公共稀疏支持的未知输入向量的识别问题。MMV问题传统上通过传感器阵列信号处理或压缩感知来解决。然而，最近在该领域的突破，例如压缩MUSIC（CS-MUSIC）或子空间增强MUSIC（SA-MUSIC），最佳地组合了压缩感测（CS）和阵列信号处理，使得$k-r$支持首先由CS找到，并且剩余的$r$支持由广义MUSIC准则确定，其中$k$和$r$分别表示稀疏性和独立快照。即使这种混合方法显著优于传统算法，其性能在很大程度上取决于压缩感知步骤对$k-r$部分支持的正确识别，这通常会恶化整体性能。本文的主要贡献是，因此，表明，只要$k-r+1$正确的支持包括在任何$k$稀疏CS解决方案，最佳的$k-r$部分支持可以找到使用子空间拟合准则，显着提高CS-MUSIC的整体性能。此外，不同于单测量CS对应，需要无限的SNR的完美支持恢复，我们可以推导出一个信息理论的充分条件下，使用CS-MUSIC的完美恢复{ \em有限} SNR的情况下。
2011-06-01 cs.IT math.IT
Joint Sparse Recovery Using Signal Space Matching Pursuit
本文提出了一种新的联合稀疏恢复算法--信号空间匹配追踪算法（SSMP）。SSMP算法的核心思想是依次研究联合稀疏向量的支持度，以最小化子空间到残差空间的距离。我们的性能保证分析表明，SSMP准确地重建任何行$K$ -稀疏矩阵的秩$r$在满行秩的情况下，如果采样矩阵$\mathbf{A}$满足$\text{krank}(\mathbf{A}) \ge K+1$，这满足基本的最低要求$\mathbf{A}$，以确保准确的恢复。我们还表明，SSMP保证在大多数$K-r+\lceil \frac{r}{L} \rceil$迭代的准确重建，只要$\mathbf{A}$满足限制等距属性（RIP）的顺序$L(K-r)+r+1$与$$δ_{L(K-r)+r+1} < \max \left \{ \frac{\sqrt{r}}{\sqrt{K+\frac{r}{4}}+\sqrt{\frac{r}{4}}}, \frac{\sqrt{L}}{\sqrt{K}+1.15 \sqrt{L}} \right \},$$，其中$L$是在每次迭代中选择的索引的数量。这意味着当$r$增加时，对RIP常数的要求变得不那么严格。这种行为似乎是自然的，但尚未报道的大多数常规方法。我们进一步表明，如果$r=1$，那么通过运行更多的$K$迭代，SSMP的性能保证可以提高到$δ_{\lfloor 7.8K \rfloor}…
2020-03-09 cs.IT math.IT
Distributed Fronthaul Compression and Joint Signal Recovery in Cloud-RAN
云无线电接入网络（C-RAN）是用于未来移动通信的有前途的网络架构，并且其大规模实现的一个实际障碍是将分布式远程无线电头端（RRH）连接到C-RAN中的集中式基带池（BBU）的高容量和低延迟前传的严格要求。为了提高C-RAN网络的可扩展性，在信号检测中考虑前传负载是非常重要的，并且非常期望降低C-RAN系统中的前传负载。在本文中，我们考虑上行链路C-RAN系统，我们提出了一个分布式前传压缩方案在分布式RRH和联合恢复算法在BBU部署分布式压缩感知（CS）的技术。与传统的分布式CS不同，C-RAN系统中的CS问题需要考虑多址衰落的潜在影响，以便从用户端到端地恢复发送的信号。我们分析了所提出的端到端信号恢复算法的性能，我们表明，在C-RAN系统中的聚合测量矩阵，其中包含分布式前传压缩和多址衰落，仍然可以满足限制等距属性的概率很高。基于这些结果，我们推导出C-RAN系统中上行链路容量和前传负载之间的折衷结果。
2014-12-15 cs.IT math.IT
Subspace Recovery from Heterogeneous Data with Non-isotropic Noise
Stanford University（斯坦福大学）；Apple（苹果公司）
从数据中恢复线性子空间是统计学和机器学习中的一项基本而重要的任务。出于异质性的联邦学习设置，我们研究了这个问题的基本公式：主成分分析（PCA），重点是处理不规则的噪声。我们的数据来自$n$用户，其中用户$i$贡献来自具有平均值$μ_i$的$d$维分布的数据样本。我们的目标是使用来自所有用户的数据点来恢复$μ_1,\ldots,μ_n$共享的线性子空间，其中来自用户$i$的每个数据点通过向$μ_i$添加独立的均值零噪声向量来形成。如果我们只有一个数据点，从每个用户，子空间恢复是信息理论上不可能的噪声向量的协方差矩阵时，可以是非球形的，需要额外的限制性假设在以前的工作。我们通过利用来自每个用户的至少两个数据点来避免这些假设，这使我们能够在非球形和用户相关噪声下设计一个可有效计算的估计器。我们证明了我们的估计器的估计误差的上限在一般情况下，数据点的数量和噪声量可以在不同的用户，并证明了信息理论的误差下限，不仅匹配的上限到一个恒定的因素，但也持有即使是球形高斯噪声。这意味着我们的估计器不会由于噪声的不规则性而引入额外的估计误差（直到恒定因子）。我们展示了在类似设置中线性回归问题的其他结果。
2022-10-24 cs.IT cs.LG math.IT
Universal discretization and sparse sampling recovery
本文利用有限维子空间集合的通用离散化最新结果，建立了平方范数下最优稀疏恢复与一致范数下最佳稀疏逼近之间的不等式关系。
2023-05-16 cs.IT cs.NA math.CA
Asymptotic Signal Subspace Recovery in Softmax Attention Models
Faculty of Computer Science and Engineering（计算机科学与工程学院）；Ho Chi Minh City University of Technology（胡志明市技术大学）；Vietnam National University Ho Chi Minh City（越南胡志明市国家大学）；VNU-HCM
本文通过随机梯度上升学习查询向量，利用随机逼近和动力系统理论，证明在高维缩放假设下，学习到的查询几乎必然收敛到潜在信号子空间，从而从理论上解释了注意力机制作为信号提取过程。
2026-06-24 cs.IT cs.LG math.IT
Finding the Sparsest Vectors in a Subspace: Theory, Algorithms, and Applications
New York University（纽约大学）；University of Denver（丹佛大学）；Chinese University of Hong Kong（香港中文大学）；ShanghaiTech University（上海科技大学）；Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
在低维子空间中找到稀疏向量（方向）的问题可以被认为是稀疏恢复问题的齐次变体，其在鲁棒子空间恢复、字典学习、稀疏盲反卷积以及信号处理和机器学习中的许多其他问题中找到应用。然而，与经典的稀疏恢复问题相比，在子空间中寻找稀疏向量的最自然的公式通常是非凸的。在本文中，我们概述了最近的进展，解决这个问题的全局非凸优化理论，从几何分析的优化景观，有效的优化算法解决相关的非凸优化问题，在机器智能，表示学习，和成像科学的应用。最后，我们通过指出未来研究的几个有趣的开放问题来总结这篇评论。
2020-01-20 cs.IT cs.LG eess.IV
Jointly Sparse Signal Recovery via Deep Auto-Encoder and Parallel Coordinate Descent Unrolling
本文利用压缩感知、并行优化和深度学习等技术，基于实数标准自动编码器结构，提出了一种模型驱动的复稀疏信号公共测量矩阵联合设计方法和基于GROUP LASSO的联合稀疏信号恢复方法。编码器实现噪声线性压缩联合稀疏信号，与一个共同的测量矩阵。基于GROUP LASSO的解码器基于迭代并行坐标下降（PCD）算法实现联合稀疏信号恢复，该算法被提出来以并行方式求解GROUP LASSO。具体地，解码器由展开所提出的迭代算法以获得GROUP LASSO的近似解的近似部分和减小近似解与实际联合稀疏信号之间的差异的校正部分组成。所提出的模型驱动的方法实现了更高的恢复精度与更少的计算时间比经典的GROUP LASSO方法，和增益显着增加在稀疏模式中存在额外的结构。所提出的模型驱动方法得到的公共测量矩阵也适用于经典的GROUP LASSO方法。我们考虑一个应用示例，即，本发明涉及基于多输入多输出（MIMO）的免授权随机接入中的信道估计，所述免授权随机接入被提出来支持用于物联网（IoT）的大规模机器类型通信（mMTC）。数值结果表明，当联合稀疏信号的数量不是很大时，所提出的模型驱动方法在GROUP LASSO和AMP上具有很大的增益。
2020-02-07 cs.IT eess.SP math.IT
Joint Design of Measurement Matrix and Sparse Support Recovery Method via Deep Auto-encoder
稀疏支持恢复出现在通信和信号处理的许多应用中。现有的方法解决稀疏支持恢复问题，为一个给定的测量矩阵，并不能灵活地利用稀疏模式的属性，以提高性能。在这封信中，我们提出了一种数据驱动的方法，用于联合设计复杂稀疏信号的测量矩阵和支持恢复方法，使用深度学习中的自动编码器。所提出的架构包括两个组件：自动编码器和硬阈值模块。建议的自动编码器成功地处理复杂的信号，使用标准的实数自动编码器。所提出的方法可以有效地利用稀疏模式的属性，并且当这些基本属性没有解析模型时特别有用。此外，该方法可以实现稀疏支持恢复与低计算复杂性。以大规模机器类型通信（mMTC）免授权大规模接入中的设备活动检测为应用实例进行了实验。数值结果表明，所提出的方法取得了显着更好的性能，大大减少了计算时间比经典的方法，在稀疏模式的额外结构的存在。
2019-10-10 cs.IT eess.SP math.IT
Decentralized Joint-Sparse Signal Recovery: A Sparse Bayesian Learning Approach
Indian Institute of Science（印度科学院）
这项工作提出了一种分散的，迭代的，贝叶斯算法称为CB-DSBL的多个联合稀疏向量的网络估计的网络节点，使用噪声和欠定线性测量。所提出的算法利用未知稀疏向量的网络范围联合稀疏性，与独立稀疏信号恢复方案相比，从数量显著较少的本地测量中恢复未知稀疏向量。为了减少节点间通信量和相关开销，节点仅与其单跳邻居的一小部分交换消息。在这种通信方案下，我们分别分析了我们所提出的算法中使用的交替方向乘法（ADMM）迭代的收敛性，并建立了其线性收敛速度。从分散ADMM的收敛性分析的结果被用来加速所提出的CB-DSBL算法的收敛性。使用Monte Carlo模拟，我们证明了优越的信号重建，以及支持恢复性能相比，我们提出的算法现有的分散式算法：DRL-1，DCOMP和DCSP。
2015-12-18 cs.IT cs.LG math.IT
Low Rank Matrix Recovery for Joint Array Self-Calibration and Sparse Model DoA Estimation
在这项工作中，结合校准和DoA估计接近的单测量矢量（SMV）模型的自校准的多测量模型（MMV）的情况下，制定的扩展。利用多快拍的优点，提出了一种改进的核范数最小化问题，以恢复低秩的高维矩阵。我们还给出了MMV模型的线性算子的定义，并给出了相应的矩阵表示，以生成凸优化问题的一个变体。为了降低该方法的计算复杂度，奇异值分解（SVD）被用来减少问题的大小。所提出的方法的性能证明了数值模拟。
2017-12-16 cs.IT eess.SP math.IT
An extremal problem for integer sparse recovery
受整数稀疏恢复问题的启发，我们研究了以下问题。设$A$是一个$m \times d$整数矩阵，其元素的绝对值至多为$k$。如果$A$的所有$m \times m$子矩阵都是非退化的，那么$d=d(m,k)$可以有多大？我们得到了$d$上的新的上、下界，并回答了Brass，Moser和Pach关于用线性子空间覆盖$m$ -维$k \times \cdots\times k$网格问题的一个特例.
2019-10-10 cs.IT cs.NA math.CO
Distributed Coding of Multiview Sparse Sources with Joint Recovery
Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；Technical University of Denmark（丹麦技术大学）
在支持的应用程序，涉及多视角的源在分布式对象识别使用轻量级相机，我们提出了一种新的方法，用于分布式编码的稀疏源的视觉描述符直方图从多视角图像中提取。由于每个相机的计算和能量约束以及相机间通信的限制，该问题具有挑战性。我们的方法通过利用视觉描述符直方图的稀疏性以及它们的相机内和相机间的相关性来解决这些挑战。我们的方法耦合分布式信源编码的稀疏源与一个新的联合恢复算法，该算法采用了多个边信息信号，其中所有稀疏源的先验知识（低质量）最初发送利用它们的相关性。实验评估使用直方图的平移不变特征变换（SIFT）的描述符提取的多视点图像显示，我们的方法导致比特率节省高达43%相比，国家的最先进的分布式压缩感知方法与独立编码的来源。
2016-07-18 cs.CV cs.IT cs.MM
Finding a sparse vector in a subspace: Linear sparsity using alternating directions
Columbia University（哥伦比亚大学）
用$\mathrm{dim}(\mathcal{S})= n < p$在通用子空间$\mathcal{S} \subseteq \mathbb{R}^p$中找到稀疏向量（方向）是否可能？这个问题可以被认为是稀疏恢复问题的同质变体，并发现与稀疏字典学习，稀疏PCA以及信号处理和机器学习中的许多其他问题的联系。在本文中，我们专注于一个 ** 种植稀疏模型 ** 的子空间：目标稀疏向量嵌入在一个随机的子空间。当目标稀疏向量中的非零条目的分数大大超过$O(1/\sqrt{n})$时，用于该种植恢复问题的简单凸算法可证明地失效。相比之下，我们展示了一个相对简单的非凸方法的基础上交替的方向，证明成功，即使当非零条目的分数是$Ω(1)$。据我们所知，这是第一个在种植稀疏模型下实现线性缩放的实用算法。从经验上讲，我们提出的算法在更具有挑战性的数据模型中也取得了成功，例如，稀疏字典学习
2016-07-20 cs.CV cs.IT cs.LG
