Recovery Sets of Subspaces from a Simplex Code
本文研究分布式存储编码中 d 维子空间恢复集的最大两两不相交数量问题,利用单纯形码生成矩阵结构给出上下界,并证明这些界通常紧致或接近紧致。
2024-03-29 cs.IT math.IT
Spectrally Sparse Signal Recovery via Hankel Matrix Completion with Prior Information
本文研究了利用先验信息,通过低秩Hankel矩阵完备化,从时域样本的随机子集重构谱稀疏信号的问题。利用提升域谱稀疏信号的低秩结构和信号与先验信息的相似性,提出了一种基于凸函数的欠采样谱稀疏信号恢复方法.该方法将期望信号与其先验信息在提升域的内积集成到香草Hankel矩阵完备中,最大化了信号与其先验信息之间的相关性。理论分析表明,在先验信息可靠的情况下,该方法比香草Hankel矩阵完备化方法具有更好的性能,其测量次数减少了一个对数因子。我们还开发了一个ADMM算法来解决相应的优化问题。数值结果验证了所提出的方法和相应的算法的性能。
2020-08-05 cs.IT math.IT
Multi-weight Nuclear Norm Minimization for Low-rank Matrix Recovery in Presence of Subspace Prior Information
加权核范数最小化最近被认为是一种技术,用于从压缩采样测量重构低秩矩阵时,矩阵的行列子空间的一些先验信息是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权核范数最小化时,允许多个权重。当可以访问与地面实况矩阵的列子空间和行子空间形成多个角度的先前子空间时,可以使用该设置。虽然在这一领域的现有作品使用一个单一的权重来惩罚所有的角度,我们提出了一个多权重的问题,旨在惩罚每个角度独立使用一个不同的权重。具体来说,我们证明了我们提出的多权重问题是稳定的和强大的条件下较弱的条件下的测量算子比类似的条件为单权重的情况下,标准的核范数最小化。此外,它提供了比现有技术方法更好的重建误差。我们用大量的数值实验来说明我们的结果,这些实验证明了在恢复过程中允许多个权重的优点。
2022-04-26 cs.IT math.IT
A Greedy Algorithm for Matrix Recovery with Subspace Prior Information
矩阵恢复是从一些线性测量中恢复低秩矩阵的问题。近年来,该问题得到了广泛的关注,因为它被用于许多应用,如Netflix奖问题,地震数据插值和协同过滤。在这些应用中,可以访问关于矩阵的列和行空间的附加先验信息。这些额外的信息可以潜在地增强基质恢复性能。在本文中,我们提出了一个有效的贪心算法,利用先验信息的恢复过程。所提出的算法的性能进行测量的秩限制等距属性(R-RIP)。与不使用先验信息的情况相比,我们所提出的算法在R-RIP上收敛的条件更温和。此外,我们的算法表现出更好的计算复杂性和成功率方面的核范数最小化。
2019-07-27 cs.IT math.IT
Improving M-SBL for Joint Sparse Recovery using a Subspace Penalty
多测量向量问题(MMV)是压缩感知问题的推广,它解决了一组联合稀疏信号向量的恢复问题。本文的一个重要贡献是揭示了看似最不相关的最先进的MMV联合稀疏恢复算法- M-SBL(多稀疏贝叶斯学习)和基于子空间的混合贪心算法-有一个非常重要的联系。更具体地说,我们表明,取代M-SBL中的$\log\det(\cdot)$项的秩代理,利用火花减少属性发现基于子空间的联合稀疏恢复算法,提供了显着的改善。特别地,如果我们使用$p$准范数作为相应的秩代理,则所提出的算法的全局极小值与真实解$p \rightarrow 0$相同。此外,在相同的正则性条件下,我们表明,收敛到局部极小值是保证使用交替最小化算法,具有封闭形式的表达式,为每个最小化步骤,这是凸的。在不同的信噪比和信号幅度矩阵的条件数条件下的数值仿真表明,该算法的性能始终优于M-SBL算法和其他最先进的算法。
2015-03-25 cs.IT math.IT
Optimal Weighted Low-rank Matrix Recovery with Subspace Prior Information
矩阵检测是从少量线性测量值重构低秩矩阵的问题。在协同滤波、著名的Netflix奖问题和地震数据插值等应用中,存在关于地面真实低秩矩阵的列和行空间的先验信息。在本文中,我们利用这种先验信息,提出了一个加权优化问题,其目标函数促进秩和先验子空间信息。利用圆锥积分几何中的最新结果,我们得到了唯一的最优权重,使所需的测量次数最小化。仿真结果证实,所提出的凸规划与最佳权重需要显着减少测量比常规核范数最小化。
2019-04-29 cs.IT math.IT
Sparse Recovery of Fusion Frame Structured Signals
融合帧是提供信号空间的冗余表示的子空间的集合。他们通过用框架子空间代替框架向量来推广经典框架。本文考虑了从融合帧中稀疏恢复信号的问题。我们使用块稀疏模型的融合帧,然后表明,稀疏信号在此模型下可以压缩采样和重建的方式类似于标准的压缩感知(CS)。特别是,我们调用混合l1/l2范数最小化,以重建稀疏信号。在我们的工作中,我们表明,假设一定的不相干属性的子空间和先验知识,它允许我们提高恢复时,通常的块稀疏的情况下相比。
2018-04-05 cs.IT math.IT
From Quasi-Isometric Embeddings to Finite-Volume Property: A Theoretical Framework for Quantized Matrix Completion
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种理论框架,研究无记忆标量量化对矩阵补全的影响,分析了掺杂方案、符号翻转和预量化噪声对恢复性能的影响,并提供了理论保证。
2025-12-11 cs.IT math.IT
Orthogonal subspace based fast iterative thresholding algorithms for joint sparsity recovery
从具有联合稀疏特性的多测量向量中恢复稀疏信号在信号、图像和视频处理中有着广泛的应用。当信号矩阵的快照在时间上相关时,问题变得更加复杂。考虑到信号的时间相关性,我们提供了一个基于阈值,功能反馈和零空间调整的迭代MMV算法的框架。建立了精确恢复的收敛性分析。与大多数在测量/解空间中选择索引的迭代贪心算法不同,我们基于迭代序列所跨越的正交子空间来确定索引。此外,一个功能性的反馈,控制量的能源搬迁的“尾巴”的实施和分析。结果表明,函数反馈原理可以减少迭代次数,加快算法的收敛速度。数值实验表明,该算法具有明显的优势,平衡的效率,自适应性和准确性相比,其他国家的最先进的算法。
2021-01-22 cs.IT math.IT
High-Rank Matrix Completion and Subspace Clustering with Missing Data
Boston University(波士顿大学);University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
本文在矩阵列属于多个低秩子空间并的假设下,研究了多缺元矩阵的补问题。这将标准的低秩矩阵完备化问题推广到矩阵秩可以很高甚至满秩的情况。由于列属于子空间的并集,因此该问题也可以被视为子空间聚类问题的缺失数据版本。设X是一个n × N矩阵,其(完全)列位于至多k个子空间的并集中,每个子空间的秩<= r < n,并假设N >> kn。本文的主要结果表明,在温和的假设下,只要X的至少CrNlog^2(n)个元素是随机一致观测的,且C>1是一个常数,取决于通常的不相干条件、子空间的几何排列以及列在子空间上的分布,那么X的每一列都可以以很高的概率从不完整的版本完美地恢复。数值实验结果表明,并应用于互联网的距离矩阵完成和拓扑结构识别。
2011-12-27 cs.IT cs.LG math.IT
Subspace Methods for Joint Sparse Recovery
针对压缩感知中的联合稀疏恢复问题,提出了一种鲁棒高效的联合稀疏恢复算法,该算法能够同时从多个测量向量中恢复联合稀疏信号的支持度,这些测量向量是通过一个共同的感知矩阵获得的。在一个有利的情况下,未知矩阵,其中包括联合稀疏信号,具有线性无关的非零行。在这种情况下,MUSIC(多信号分类)算法,最初由施密特提出的传感器阵列处理中的到达问题的方向,后来提出和分析的联合稀疏恢复冯和Bresler,提供了一个保证与最小数量的测量。相反,我们专注于不利的,但实际上重要的情况下,秩缺陷或病态。这种情况在测量向量的数量有限或高度相关的信号分量的情况下出现。在这种情况下,MUSIC失败了,并且在实践中,现有方法中没有一种可以始终接近基本极限。我们提出了子空间增强的MUSIC(SA-MUSIC),它改进了MUSIC,使支持可靠地恢复在这种不利的条件下。结合本文提出和分析的基于子空间的贪心算法,SA-MUSIC提供了一种计算效率高、性能有保证的算法。性能保证给出了一个版本的限制等距属性。特别是,我们还提出了一个非渐近扰动分析的信号子空间估计,已失踪在以前的研究MUSIC。
2011-10-18 cs.IT math.IT
Well conditioned ptychograpic imaging via lost subspace completion
重叠关联法是相位恢复问题的一种特殊情况,是现代成像中的一种常用方法。它的测量是基于本地支持的窗口函数的移位。一般来说,从这样的测量中直接恢复物体被认为是一个不适定的问题。虽然对于某些窗口,条件可以控制,但对于许多重要情况,例如高斯窗口,这是不可能的。在本文中,我们开发了一个子空间完成算法,使稳定的重建更广泛的选择窗口,包括高斯窗口。与正则化技术的组合导致改进的调节和更好的噪声鲁棒性。
2020-04-09 cs.IT cs.NA math.IT
Decentralized and Collaborative Subspace Pursuit: A Communication-Efficient Algorithm for Joint Sparsity Pattern Recovery with Sensor Networks
在本文中,我们考虑的问题,联合稀疏模式恢复在分布式传感器网络。假设所有节点观测到的稀疏多测量矢量信号(MMVs)具有共同的(但未知的)稀疏模式。为了以分散的方式准确地恢复常见的稀疏模式,同时降低网络的通信开销,我们开发了一种名为分散和协作子空间追踪(DCSP)的算法。在DCSP中,每个节点需要在每次迭代中执行三种操作:1)通过找到其测量向量最可能位于的子空间来估计局部稀疏模式; 2)与单跳相邻节点共享其局部稀疏模式估计;以及3)通过基于多数投票的融合在其邻域中获得的所有局部稀疏模式估计来更新最终的稀疏模式估计。证明了DCSP的收敛性,并定量分析了其通信开销。我们还提出了另一种分散的算法,称为广义DCSP(GDCSP),允许更多的信息交换相邻节点之间,以进一步提高稀疏模式恢复的准确性,在增加通信开销的成本。实验结果表明:1)与现有的分散式算法相比,DCSP算法在通信开销相当的情况下,稀疏模式恢复的准确率更高; 2)GDCSP算法的准确率与集中式算法非常接近。
2016-01-18 cs.IT math.IT
Improving Noise Robustness in Subspace-based Joint Sparse Recovery
在多测量向量问题(MMV)中,多个信号共享一个共同的稀疏支持,并通过一个共同的传感矩阵进行采样,我们可以期望联合稀疏,使所需的测量数量进一步减少。虽然联合稀疏的分集增益已经证明了在使用$l_1/l_2$混合范数惩罚的凸松弛方法的情况下,直到最近才表明,类似的分集增益可以通过贪心算法实现,如果我们结合贪婪步骤与MUSIC样的子空间准则。然而,这些混合算法的主要限制是,它们通常需要大量的快照或高信噪比(SNR)的准确的子空间以及部分支持估计。这项工作的主要贡献之一是表明,这些算法的噪声鲁棒性可以显着提高,允许顺序子空间估计和支持滤波,即使当快照的数量是不够的。数值仿真结果表明,一种新的顺序压缩MUSIC(顺序CS-MUSIC)相结合的顺序子空间估计和支持滤波步骤显着优于现有的贪心算法,是相当的计算昂贵的最先进的算法。
2012-05-15 cs.IT math.IT
Algebraic hierarchical locally recoverable codes with nested affine subspace recovery
本文提出代数分层局部可恢复码,通过里德-穆勒码与纤维积码的统一,实现嵌套仿射子空间恢复,并支持每层可用性。
2025-01-22 cs.IT math.AG math.IT
SET: an algorithm for consistent matrix completion
提出了一种求解相容矩阵完备化问题的新算法--子空间演化与转移算法(SET)。在这种情况下,给定一个低秩矩阵的一个子集,并要求找到一个与给定观测值一致的低秩矩阵。我们表明,这个问题可以通过搜索一个列空间,匹配的意见。相应的算法由两部分组成--子空间进化和子空间转移。在演化部分,我们使用一个线搜索过程来细化列空间。然而,线搜索不能保证收敛,因为沿着搜索路径可能存在阻碍算法达到全局最优的障碍。为了解决这个问题,在传输部分,我们设计的机制来检测障碍和传输估计列空间从一侧的障碍到另一个。SET算法表现出很好的经验性能非常低秩矩阵。
2010-02-03 cs.IT math.IT
Greedy Subspace Pursuit for Joint Sparse Recovery
在本文中,我们解决稀疏多测量向量(MMV)的问题,其目标是恢复一组稀疏的非零行向量或指数的信号矩阵不完整的测量。理想情况下,不管信号矩阵中的列数如何,稀疏度(k)加一个测量值对于几乎所有信号的信号向量的均匀恢复是足够的,即,不包括勒贝格测度为零的集合。为了在信号矩阵秩小于k的情况下仍能以较高的计算效率逼近“k+1”下界,本文提出了一种称为两阶段正交子空间匹配追踪(TSMP)的贪心算法,其理论结果比正交子空间匹配追踪(OSMP)和子空间增强多信号分类(SA-MUSIC)算法在更少的限制条件下逼近下界.我们提供非渐近的OSMP和TSMP的性能保证,覆盖无噪声和噪声的情况下。约束等距属性和互相关的变体被用来提高性能保证。数值模拟表明,该方案具有较低的复杂度,并优于大多数现有的贪婪方法。这表明,随着信号矩阵列数的增加,TSMP成功的最小测量次数比现有方法更快地收敛到下界。
2016-01-26 cs.IT math.IT
Fast and Provable Algorithms for Spectrally Sparse Signal Reconstruction via Low-Rank Hankel Matrix Completion
$r$阶的频谱稀疏信号是$r$阻尼或无阻尼复正弦曲线的混合。本文研究了从$n$规则时域样本的随机子集重构谱稀疏信号的问题,该问题可以转化为一个低秩Hankel矩阵完备化问题。我们介绍了一种迭代硬阈值(IHT)算法和一种快速迭代硬阈值(FIHT)算法,通过低秩Hankel矩阵完成频谱稀疏信号的有效重建。已经建立了FIHT的理论回收率保证,表明$O(r^2\log^2(n))$样品数量足以实现高概率的精确回收。经验性能比较建立显着的计算优势IHT和FIHT。特别是,在$3$ D阵列上的数值模拟证明了FIHT处理大规模和高维真实数据的能力。
2016-06-05 cs.IT math.IT
Subspace-Sparse Representation
给定过完备字典$A$和作为$A$的几个线性独立列的线性组合的信号$b$,经典稀疏恢复理论处理恢复唯一稀疏表示$x$使得$b = A x$的问题。已知在一定条件下,$A$上的$x$可以通过基追踪(BP)和正交匹配追踪(OMP)算法恢复。在这项工作中,我们考虑更一般的情况下,$b$在于一个低维子空间跨越的$A$,这可能是线性相关的一些列。在这种情况下,稀疏解$x$一般是不唯一的,我们研究的问题,表示$x$确定的子空间,即非零条目的$x$对应的字典原子的子空间。这样的表示$x$称为子空间稀疏。我们提出了保证子空间稀疏恢复的充分条件,这些条件具有清晰的几何解释,并解释了子空间稀疏恢复的性质。我们还证明了在随机化模型下,充分条件可以满足。我们的结果是适用于传统的稀疏恢复问题,我们得到的条件稀疏恢复的限制比规范的相互相干条件。我们还利用这些结果对基于稀疏表示的分类方法进行了分析,得到了证明其正确性的条件。
2015-07-06 cs.IT math.IT stat.ML
Near-Optimal Weighted Matrix Completion
本文提出利用子空间先验信息的加权核范数最小化方法,实现近最优采样复杂度下的矩阵补全,并给出鲁棒误差界及实验验证。
2023-04-07 cs.IT math.IT
Robust Recovery of Subspace Structures by Low-Rank Representation
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);Peking University(北京大学);National University of Singapore(新加坡国立大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学)
在这项工作中,我们解决子空间恢复问题。给定一组近似从多个子空间的并集中提取的数据样本(向量),我们的目标是将样本分割到各自的子空间中,并纠正可能的错误。为此,我们提出了一种新的方法,称为低秩表示(LRR),它寻求所有候选人中的最低秩表示,可以表示数据样本的线性组合的基础在一个给定的字典。结果表明,LRR算法很好地解决了子空间恢复问题:当数据是干净数据时,证明了LRR算法能准确地捕捉到真实的子空间结构;对于被离群点污染的数据,证明了在一定条件下,LRR算法能准确地恢复原始数据的行空间,同时也能检测出离群点;对于被任意错误破坏的数据,LRR也能近似地恢复具有理论保证的行空间。由于子空间隶属度是由行空间可证明地确定的,这些进一步意味着LRR可以以有效的方式执行鲁棒的子空间分割和纠错。
2012-05-06 cs.CV cs.IT cs.LG
Iterative Null-space Projection Method with Adaptive Thresholding in Sparse Signal Recovery and Matrix Completion
自适应阈值方法已被证明产生高信噪比和快速收敛在寻找压缩感知(CS)问题的解决方案。最近,据观察,一类迭代稀疏恢复算法,如迭代方法与自适应采样保持(IMAT)的鲁棒性已优于著名的LASSO算法的重建质量,收敛速度,和对噪声的敏感性。在本文中,我们介绍了一种新的方法来解决CS问题。该方法的逻辑基于阈值化信号到感测矩阵的零空间上的迭代投影。通过在阈值化子空间上投影来恢复期望信号的支持,从而进行阈值化。仿真结果表明,该方法具有产生显着的输出SNR值的能力与约两倍的稀疏数一样多的样本,而其他方法无法恢复信号时,接近所需的样本数的代数界。正如模拟中观察到的那样,我们方法的计算复杂性也与其他方法相当。我们还扩展了我们的算法矩阵完成(MC)的情况下,并比较其效率,其他知名的方法MC在文献中。
2016-11-04 cs.IT math.IT stat.ME
Subspace-Informed Matrix Completion
本研究针对矩阵补全问题,利用已知子空间先验信息提出多权重核范数优化方法及最优权重选择策略,可显著减少所需观测数量,性能优于现有最优方法。
2024-06-24 cs.IT eess.SP math.IT
Sparse Subspace Clustering via Two-Step Reweighted L1-Minimization: Algorithm and Provable Neighbor Recovery Rates
稀疏子空间聚类(SSC)依赖于稀疏回归来精确识别邻居。受压缩感知最新进展的启发,本文提出了一种新的基于两步重加权$\ell_1$ -最小化的SSC稀疏回归算法,该算法推广了E. J. Candès et al in [The Annals of Statistics,vol. 42,no. 2,pp. 669-699,2014],而不会引起额外的算法复杂度。为了充分利用在第一步中计算的稀疏表示向量提供的先验信息,我们的方法对回归向量的每个分量放置权重,并在第二步中求解加权LASSO。我们提出了一个数据加权规则,适用于提高邻居识别精度。然后,在加权LASSO对偶问题的框架下,深入研究了该方案的理论邻居恢复率。具体而言,一个有趣的连接之间的位置的最优稀疏解加权LASSO和指数的对偶问题的主动约束。然后,在半随机模型下,推导了各种邻居恢复事件的解析概率上/下限。我们的分析结果证实,在数据加权的帮助下,如果先验邻居信息是足够准确的,所提出的方案具有更高的概率可以产生许多正确的邻居和一些不正确的邻居相比,没有数据加权的解决方案。计算机模拟提供了验证我们的分析研究和证据所提出的方法的有效性。
2019-07-17 cs.IT math.IT
Robust Subspace Learning: Robust PCA, Robust Subspace Tracking, and Robust Subspace Recovery
Iowa State University(爱荷华州立大学);Université de La Rochelle(拉罗谢尔大学);University of Warwick(华威大学)
PCA是最广泛使用的降维技术之一。一个相关的更简单的问题是“子空间学习”或“子空间估计”。给定相对干净的数据,两者都可以通过奇异值分解(SVD)轻松求解。存在离群值的子空间学习或PCA问题称为鲁棒子空间学习或鲁棒PCA(RPCA)。对于长数据序列,如果试图使用单个低维子空间来表示数据,则所需的子空间维度可能会非常大。对于这样的数据,一个更好的模型是假设它位于一个低维子空间,可以随着时间的推移而变化,尽管是逐渐变化的。跟踪这样的数据(和子空间),同时对离群值具有鲁棒性的问题被称为鲁棒子空间跟踪(Robust Subspace Tracking,简称SVM)。这篇文章提供了一个杂志式的概述整个领域的鲁棒子空间学习和跟踪。特别是三个问题的解决方案进行了详细讨论:通过稀疏+低秩矩阵分解(S+LR)的RPCA,通过S+LR,和“鲁棒子空间恢复(RSR)”的恢复。RSR假设整个数据向量要么是离群值,要么是内点。相反,S+LR公式假设离群值仅出现在少数数据向量索引上,因此被很好地建模为稀疏损坏。
2018-07-05 cs.CV cs.IT math.IT
Convex recovery of continuous domain piecewise constant images from non-uniform Fourier samples
我们考虑使用凸矩阵完成算法从其非均匀傅立叶样本中恢复连续域分段常数图像。我们假设图像的不连续性/边缘局部化到带限函数的零水平集。该假设导致图像的傅立叶系数之间的线性依赖性,这导致从低秩的傅立叶系数构造的两重块Toeplitz矩阵。该算法将未知傅立叶系数的恢复问题转化为一个结构化的低秩矩阵完备化问题,在结构和数据约束条件下,使矩阵的核范数最小化。我们表明,准确的恢复是可能的,当图像的边缘集满足一个不相干属性的高概率。我们还表明,不相干属性是依赖于边缘集曲线的几何形状,这意味着更高的采样负担较小的曲线。本文将近年来对孤立Dirac或有限新息率信号的超分辨率恢复的研究推广到分段常数图像的恢复。
2017-03-04 cs.IT math.IT
Strongly Convex Programming for Exact Matrix Completion and Robust Principal Component Analysis
National University of Defense Technology(国防科技大学);University of Iowa(爱荷华大学)
在矩阵完备(MC)和鲁棒主元分析(RPCA)中,一个共同的任务是从给定的数据矩阵中恢复一个低秩矩阵。近年来,特别是Cand`es等人的开创性工作发表后,这些问题引起了应用科学各领域的极大关注。MC和RPCA中的一个基本结果是,基于核范数的凸优化在适当的条件下导致精确的低秩矩阵恢复。在本文中,我们扩展了这一结果表明,强凸优化可以保证准确的低秩矩阵恢复以及。本文的结果不仅提供了强凸模型导致精确低秩矩阵恢复的充分条件,而且对实际算法中如何选择合适的参数具有指导意义。
2012-01-05 cs.IT cs.LG math.IT
Collaborative Spectrum Sensing from Sparse Observations in Cognitive Radio Networks
频谱感知是认知无线电实现的前提,其目的是检测频谱空洞。认知无线电节点间的协作频谱感知有望提高检测完整频谱使用情况的能力。由于硬件的限制,每个认知无线电节点只能感知相对较窄的无线电频谱。因此,可用的信道感测信息远不足以精确地识别宽范围的未占用信道。针对这一瓶颈,本文提出采用矩阵完备和联合稀疏恢复的方法来降低感知和传输的要求,提高感知效果。具体而言,配备了频率选择性滤波器,每个认知无线电节点感测多个信道信息的线性组合,并将其报告给融合中心,在融合中心,占用的信道然后通过使用新的矩阵完成和联合稀疏恢复算法从报告中解码。因此,从CR发送到融合中心的报告数量显著减少。我们提出了两种解码方法,一种是基于矩阵完成和联合稀疏恢复,这两种方法都允许从不完整的报告中准确恢复。数值结果验证了我们的方法的有效性和鲁棒性。特别是,在小规模网络中,矩阵完成方法实现了精确的信道检测,样本数量不超过网络中信道数量的50%,而联合稀疏恢复在大规模网络中实现了类似的性能。
2010-08-25 cs.IT math.IT
Alternating Subspace Method for Sparse Recovery of Signals
Hunan Normal University(湖南师范大学)
本文提出交替子空间法用于信号稀疏恢复,结合贪婪和分裂方法,实现高效准确的稀疏信号恢复。
2026-03-10 cs.IT math.IT math.OC
Joint CSIT Acquisition Based on Low-Rank Matrix Completion for FDD Massive MIMO Systems
发射机处的信道状态信息(CSIT)对于频分复用(FDD)大规模MIMO系统是必不可少的,但是传统的解决方案涉及用于下行链路信道训练和上行链路信道反馈的压倒性开销。在这封信中,我们提出了一个联合CSIT收购计划,以减少开销。特别是,不同于传统的方案,每个用户单独估计自己的信道,然后将其反馈给基站(BS),我们建议,所有的调度用户直接反馈导频观测到BS,然后联合CSIT恢复可以实现在BS。我们进一步制定联合CSIT恢复问题作为一个低秩矩阵完成问题,利用大规模MIMO信道矩阵的低秩属性,这是由用户之间的相关性。最后,我们提出了一种基于奇异值投影的混合低秩矩阵完备化算法来解决这个问题。仿真结果表明,该方案可以提供准确的CSIT与较低的开销比传统的计划。
2015-12-10 cs.IT math.IT
Massive MIMO Channel Estimation for Millimeter Wave Systems via Matrix Completion
实现定向波束形成的毫米波(mmWave)大规模多输入多输出(MIMO)系统需要对无线传播信道进行可靠的估计。然而,毫米波信道的特征在于高可变性,这严重挑战了它们在短训练周期内的恢复。现有的信道估计技术利用了波束域的信道稀疏性或天线域的低秩特性,但仍然需要大量的训练符号来获得满意的性能。在本文中,我们提出了一种新的信道估计算法,联合利用毫米波信道的后两个属性,以提供更准确的恢复,特别是对于较短的训练间隔。所提出的迭代算法是基于交替方向乘法(ADMM),并提供了全局最优解所考虑的凸毫米波信道估计问题的快速收敛性能。
2019-06-06 cs.IT math.IT
Robust Recovery of Signals From a Structured Union of Subspaces
传统的采样理论考虑从一系列采样重构未知信号$x$的问题。通常保证从给定测量恢复的普遍假设是$x$位于已知子空间中。近年来,人们对非线性但结构化的信号模型越来越感兴趣,其中$x$位于子空间的并集中。在本文中,我们开发了一个通用的框架,从一组给定的样本强大和有效的恢复这样的信号。更具体地说,我们对待的情况下,其中$x$在于从一个更大的集合的$m$的可能性选择的$k$子空间的总和。样本被建模为具有任意一组采样函数的内积。为了得到一个有效的和强大的恢复算法,我们表明,我们的问题可以制定为恢复块稀疏向量的非零元素出现在固定的块。然后,我们提出了一个混合的$\ell_2/\ell_1$程序块稀疏恢复。我们的主要结果是一个等价的条件下,建议的凸算法是保证恢复原始信号。这个结果依赖于块限制等距属性(RIP)的概念,这是在压缩感知的上下文中广泛使用的标准RIP的推广。基于RIP,我们还证明了我们的方法在噪声和建模误差的存在下的稳定性。我们的框架的一个特殊情况是,恢复多个测量向量(MMV),共享一个联合稀疏模式。适应我们的结果,在这种情况下,导致新的MMV恢复方法以及等价条件下,整个集合可以有效地确定。
2009-03-30 cs.IT math.IT nlin.CG
Sparse Recovery from Combined Fusion Frame Measurements
稀疏表示已经成为信号和信息处理中的一个强大工具,随着新的采集和处理技术(如压缩感知(CS))的成功而达到顶峰。融合框架是一种非常丰富的新的信号表示方法,它使用子空间的集合而不是向量来表示信号。这项工作结合这些令人兴奋的领域,介绍了一种新的稀疏模型融合帧。在新模型下稀疏的信号可以被压缩采样并以类似于使用标准CS的稀疏信号的方式唯一地重构。该组合提供了一组有前途的新的数学工具和信号模型,可用于各种应用。利用新模型,稀疏信号在融合帧的非常少的子空间中具有能量,尽管它不需要在它占据的每个子空间内都是稀疏的。该稀疏模型使用融合帧的混合l1/l2范数来捕获。融合帧中的信号稀疏可以使用非常少的随机投影来采样,并且使用最小化该混合l1/l2范数的凸优化来精确地重建。所提供的采样条件推广了标准CS理论中使用的相干性和RIP条件。结果表明,它们足以保证稀疏恢复的任何信号稀疏在我们的模型。此外,使用稀疏信号的随机模型,表明在非常温和的条件下,恢复失败的概率随子空间的维数增加呈指数衰减的概率分析。
2011-06-17 cs.IT math.IT
Two step recovery of jointly sparse and low-rank matrices: theoretical guarantees
我们介绍了一个两步算法的理论保证,以恢复一个联合稀疏和低秩矩阵的欠采样测量其列。该算法首先使用列的一组公共测量来估计矩阵的行子空间。在第二步中,使用简单的最小二乘算法解决矩阵的子空间感知恢复。在从欠采样测量中恢复CINE数据的背景下验证了结果;当采样条件满足时,我们获得了良好的恢复。
2015-06-02 cs.IT math.IT stat.ML
Algorithms and Hardness for Robust Subspace Recovery
IBM Research Almaden(IBM阿尔马登研究院);MIT(麻省理工学院)
我们考虑无监督学习中的一个基本问题,称为\emph{subspace recovery}:给定$\mathbb{R}^n$中的$m$点的集合,如果这些点中的许多但不一定全部包含在$d$维子空间$T$中,我们可以找到它吗?包含在$T$中的点称为{ \em内点},其余点称为{ \em外点}。这个问题在计算机科学和统计学中受到了相当大的关注。然而,来自计算机科学的有效算法对{ \em adversarial}离群值不鲁棒,并且来自鲁棒统计的估计量难以在高维中计算。是否有子空间恢复算法既对离群值又有效?我们给出了一个算法,发现$T$时,它包含超过一个$\frac{d}{n}$分数的点。因此,对于$d = n/2$,当存在恒定比例的离群值时,该估计量既易于计算又表现良好。我们证明了它是小集扩展很难找到$T$时的错误的分数是任何更大的,从而证明我们的估计是一个{ \em最优}的效率和鲁棒性之间的妥协。事实证明,这个基本问题与其他领域有着惊人的联系,包括我们在这里使用的小集合扩展,拟阵理论和泛函分析。
2013-12-03 cs.CC cs.DS cs.IT
Low-rank Matrix Recovery from Errors and Erasures
本文考虑从一个同时包含两个(a)擦除:大多数条目未被观察到,和(b)错误:(未知)位置的恒定分数的值被任意损坏的观察版本的低秩矩阵的恢复。我们提供了一个新的统一的性能保证时,最小化的秩加支持的自然凸松弛成功的精确恢复。我们的结果允许同时存在的随机和确定性的组件在错误和擦除模式。一方面,通过以不同的方式专门化这一单一结果而获得的推论恢复(直到多对数因子)矩阵完成以及稀疏和低秩矩阵恢复中的所有现有工作。另一方面,我们的结果也提供了第一个保证(a)恢复时,我们观察到一个消失的分数的条目损坏的矩阵,和(b)确定性矩阵完成。
2011-08-25 cs.IT math.IT stat.ML
Weighted algorithms for compressed sensing and matrix completion
本文研究了压缩感知和矩阵完备问题的迭代重加权基追踪算法。在第一部分中,我们给出了一个理论解释的事实,重新加权基追踪可以改善基追踪在压缩感知的准确恢复了很多。我们展示了一个条件,链接的RIP和不相干常数的权重的准确性,这确保了准确的恢复。在第二部分中,我们介绍了一个新的算法矩阵完成,基于迭代加权的思想。由于加权核“范数”通常是非凸的,因此它不能容易地用作目标函数。因此,我们定义了一个新的估计的基础上的不动点方程。我们给出了经验证据的事实,这种新的算法导致强大的改进核模最小化的模拟和真实的矩阵完成问题。
2011-07-08 cs.IT math.IT math.ST
Weighted matrix completion from non-random, non-uniform sampling patterns
我们研究了当观测模式是确定的且可能是非均匀的情况下的矩阵完备化问题。我们提出了一个简单而有效的去偏投影方案从噪声观测中恢复,并在适当的加权度量下分析了误差。我们引入了一个简单的函数的权重矩阵和采样模式,管理恢复矩阵的准确性。我们得到理论上的保证,上限的恢复误差和几乎匹配的下限,展示在几个政权的最优性。我们的数值实验证明了我们的方法的计算效率和精度,并表明,去偏置是必不可少的,当使用非均匀采样模式。
2019-10-30 cs.IT math.IT math.ST
Greedy Approach for Low-Rank Matrix Recovery
我们描述了简单的贪婪矩阵完成算法提供了一个有效的方法,从不完整的损坏的条目恢复低秩矩阵。我们提供的数值证据表明,即使在最简单的实现,贪婪的方法可能会增加现有算法的恢复能力显着。
2013-04-15 cs.IT cs.NA math.IT
Online Identification and Tracking of Subspaces from Highly Incomplete Information
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
提出GROUSE算法,利用Grassmann流形上的增量梯度下降,从高度不完整观测中在线跟踪子空间,并可用于低秩矩阵补全。
2011-07-12 cs.IT cs.SY eess.SY
Structure Theorems (and Fast Algorithms) for List Recovery of Subspace-Design Codes
Massachusetts Institute of Technology(麻省理工学院);University of California, Berkeley(加州大学伯克利分校)
本文提出了一种高效的算法,用于子空间设计码的列表恢复,通过紧凑描述实现高效处理,改进了现有算法性能。
2025-12-08 cs.CC cs.IT math.IT
The Sharp Phase Transition of Tyler's M-Estimator for Robust Subspace Recovery
School of Mathematics, University of Minnesota(明尼苏达大学数学系);Department of Mathematics, University of Central Florida(中央佛罗里达大学数学系)
研究Tyler's M-估计器在临界信噪比DS-SNR=1时的行为,证明其收敛到真实子空间,建立尖锐相变。
2026-06-04 cs.IT cs.LG math.IT
Deeply Learned Robust Matrix Completion for Large-scale Low-rank Data Recovery
School of Data, Mathematical, and Statistical Sciences and the Department of Computer Science, University of Central Florida(数据、数学与统计科学学院和计算机科学系,中央佛罗里达大学);School of Data, Mathematical, and Statistical Sciences, University of Central Florida(数据、数学与统计科学学院,中央佛罗里达大学);Damo Academy, Alibaba US(阿里云美国研究院)
本文提出了一种可扩展且可学习的非凸方法,即学得鲁棒矩阵补全(LRMC),用于大规模鲁棒矩阵补全问题,该方法具有低计算复杂度和线性收敛性,并通过深度展开有效学习自由参数以实现最优性能,同时在合成数据集和实际应用中验证了其优越的实验性能。
2026-01-27 cs.CV cs.IT cs.LG
A Rank-Corrected Procedure for Matrix Completion with Fixed Basis Coefficients
National University of Singapore(新加坡国立大学);South China University of Technology(华南理工大学)
针对核范数在固定基系数矩阵补全中的局限性,提出一种基于核半范数的秩校正方法,并证明其非渐近恢复误差界可降低约50%,同时给出秩一致性的充要条件。
2015-06-22 cs.IT cs.NA math.IT
PETRELS: Parallel Subspace Estimation and Tracking by Recursive Least Squares from Partial Observations
许多真实世界的数据集表现出在高维流形中嵌入低维结构。例子包括图像、视频和互联网流量数据。当数据维数较高时,降低存储需求和计算复杂度具有重要意义。因此,我们考虑从一个小的子集的条目,其中的数据被假定为位于一个低维的线性子空间,可能被噪声破坏的数据流的重建问题。我们进一步考虑跟踪底层子空间的变化,这可以应用于视频去噪,网络监控和异常检测等应用。我们的问题可以被看作是一个顺序的低秩矩阵完成的问题,其中的子空间是学习在一个在线的方式。所提出的算法,被称为并行估计和跟踪递归最小二乘(PETRELS),首先确定底层的低维子空间,通过递归过程的子空间矩阵的每一行并行折扣以前的意见,然后重建丢失的条目通过最小二乘估计,如果需要的话。数值例子提供了方向的到达估计和矩阵完成,比较PETRELS与国家的最先进的批处理算法。
2013-01-11 cs.IT math.IT stat.ME
Subspace Recovery from Heterogeneous Data with Non-isotropic Noise
Stanford University(斯坦福大学);Apple(苹果公司)
从数据中恢复线性子空间是统计学和机器学习中的一项基本而重要的任务。出于异质性的联邦学习设置,我们研究了这个问题的基本公式:主成分分析(PCA),重点是处理不规则的噪声。我们的数据来自$n$用户,其中用户$i$贡献来自具有平均值$μ_i$的$d$维分布的数据样本。我们的目标是使用来自所有用户的数据点来恢复$μ_1,\ldots,μ_n$共享的线性子空间,其中来自用户$i$的每个数据点通过向$μ_i$添加独立的均值零噪声向量来形成。如果我们只有一个数据点,从每个用户,子空间恢复是信息理论上不可能的噪声向量的协方差矩阵时,可以是非球形的,需要额外的限制性假设在以前的工作。我们通过利用来自每个用户的至少两个数据点来避免这些假设,这使我们能够在非球形和用户相关噪声下设计一个可有效计算的估计器。我们证明了我们的估计器的估计误差的上限在一般情况下,数据点的数量和噪声量可以在不同的用户,并证明了信息理论的误差下限,不仅匹配的上限到一个恒定的因素,但也持有即使是球形高斯噪声。这意味着我们的估计器不会由于噪声的不规则性而引入额外的估计误差(直到恒定因子)。我们展示了在类似设置中线性回归问题的其他结果。
2022-10-24 cs.IT cs.LG math.IT
On the convex geometry of blind deconvolution and matrix completion
Technische Universität München(慕尼黑工业大学);University of Southern California(南加州大学)
在过去的十年中,从结构化测量中恢复低秩矩阵一直是一个热门的研究课题,许多重要的问题,如矩阵补全和盲反卷积,都是在这个框架下提出的。解决这些问题的一个重要的基准方法是最小化核范数,一个凸代理的秩。一个常见的方法来建立恢复保证这个凸计划依赖于一个所谓的近似对偶证书的建设。然而,这种方法在各个方面只提供了有限的见解。最突出的是,噪声边界表现出看似次优的维度因子。在本文中,我们采取了一种新的,更几何的观点来分析矩阵完成和盲反卷积的情况。我们发现,对于这两个应用程序中的噪声界的尺寸因素是不是一个工件的证明,但问题本质上是条件很差。然而,我们发现,坏的条件只会出现非常小的噪声水平:在温和的假设,包括许多现实的噪声水平,我们得出接近最佳的误差估计盲反卷积对抗性噪声。
2020-04-09 cs.IT cs.LG math.IT
Universal discretization and sparse sampling recovery
本文利用有限维子空间集合的通用离散化最新结果,建立了平方范数下最优稀疏恢复与一致范数下最佳稀疏逼近之间的不等式关系。
2023-05-16 cs.IT cs.NA math.CA
Asymptotic Signal Subspace Recovery in Softmax Attention Models
Faculty of Computer Science and Engineering(计算机科学与工程学院);Ho Chi Minh City University of Technology(胡志明市技术大学);Vietnam National University Ho Chi Minh City(越南胡志明市国家大学);VNU-HCM
本文通过随机梯度上升学习查询向量,利用随机逼近和动力系统理论,证明在高维缩放假设下,学习到的查询几乎必然收敛到潜在信号子空间,从而从理论上解释了注意力机制作为信号提取过程。
2026-06-24 cs.IT cs.LG math.IT
Finding the Sparsest Vectors in a Subspace: Theory, Algorithms, and Applications
New York University(纽约大学);University of Denver(丹佛大学);Chinese University of Hong Kong(香港中文大学);ShanghaiTech University(上海科技大学);Columbia University(哥伦比亚大学);Johns Hopkins University(约翰斯·霍普金斯大学)
在低维子空间中找到稀疏向量(方向)的问题可以被认为是稀疏恢复问题的齐次变体,其在鲁棒子空间恢复、字典学习、稀疏盲反卷积以及信号处理和机器学习中的许多其他问题中找到应用。然而,与经典的稀疏恢复问题相比,在子空间中寻找稀疏向量的最自然的公式通常是非凸的。在本文中,我们概述了最近的进展,解决这个问题的全局非凸优化理论,从几何分析的优化景观,有效的优化算法解决相关的非凸优化问题,在机器智能,表示学习,和成像科学的应用。最后,我们通过指出未来研究的几个有趣的开放问题来总结这篇评论。
2020-01-20 cs.IT cs.LG eess.IV
Sample-efficient inductive matrix completion with noise and inexact side-information
Yale Department of Statistics and Data Sciences, Yale University(耶鲁大学统计与数据科学系);UChicago Department of Statistics, University of Chicago(芝加哥大学统计系)
本文研究了在存在噪声和不精确侧信息的情况下,通过非凸投影梯度下降算法实现样本高效的归纳矩阵补全,提出了一个适用于有效问题规模的正则性条件,实现了线性收敛和估计误差仅依赖于有效问题规模的结论。
2026-06-09 cs.IT cs.LG math.IT