On the robustness of noise-blind low-rank recovery from rank-one measurements
我们证明了新的结果著名的凸噪声盲优化配方的鲁棒性重建低秩矩阵欠定线性测量。我们的研究结果是适用于对称的秩一测量中使用的相位恢复问题的制定。我们得到这些结果,通过建立具有高概率的秩一测量算子定义的i.i.d.高斯向量表现出所谓的Schatten-1商性质,这对应于它们的核范数(Schatten-1)单位球的图像的内径的下界。我们补充我们的分析,通过数值实验比较噪声盲和噪声感知配方的解决方案。这些实验证实,噪声盲优化方法表现出相当的鲁棒性噪声感知配方。关键词:低秩矩阵恢复,相位恢复,商性质,噪声盲,鲁棒性,核范数最小化
2020-10-23 cs.IT math.IT
Structured low-rank recovery of piecewise constant signals with performance guarantees
我们推导出理论保证分段恒定的二维图像的精确恢复从最小数量的非均匀傅立叶样本使用凸矩阵完成算法。我们假设图像的不连续性被局部化到带限函数的零水平集,这在傅立叶域中引起一定的线性依赖性,使得从傅立叶数据构建的多重Toeplitz矩阵已知是低秩的。恢复算法将已知的傅立叶样本排列到结构化矩阵中,然后尝试通过最小化受到结构和数据约束的核范数来恢复丢失的傅立叶数据。这项工作适应陈和池的结果恢复孤立Diracs通过核范数最小化一个类似的多重汉克尔结构。我们表明,准确的恢复是可能的概率很高时,带限函数描述的边缘集满足不相干性。最后,我们展示了算法的恢复欠采样的MRI数据。
2016-04-17 cs.IT math.IT
Efficient Federated Low Rank Matrix Recovery via Alternating GD and Minimization: A Simple Proof
本文为使用AltGDmin算法解决低秩列向感知问题的样本复杂度保证提供了更简单、更短的证明,并给出了改进的保证。
2024-02-20 cs.IT math.IT
Optimal Sample Complexity for Stable Matrix Recovery
人们在稀疏恢复和低秩矩阵恢复的理论和算法方面进行了大量的研究。本文填补了基质回收的理论空白:稳定回收的最佳样品复杂性没有常数或对数因子。我们对待稀疏性,低秩,并可能在同一框架内的其他吝啬的结构:约束集,有小的覆盖数或Minkowski尺寸。我们考虑三种类型的随机测量矩阵(非结构化,秩-1,和对称秩-1矩阵),满足一些温和的条件下的概率分布。在所有这些情况下,我们证明了一个基本的结果-恢复矩阵的简约结构,使用最佳(或接近最佳)的测量数,是稳定的概率很高。
2017-12-22 cs.IT math.IT
The perturbation analysis of nonconvex low-rank matrix robust recovery
本文提出了一种完全扰动的非凸Schatten $p$ -极小化方法来解决完全扰动的低秩矩阵恢复问题。基于约束等距性,将研究推广到既考虑噪声又考虑扰动的完全扰动模型,给出了保证低秩矩阵恢复的约束等距性条件和相应的重构误差界。特别地,对结果的分析表明,对于完全扰动和低秩矩阵,当$p$使$0$和$a>1$减小时,该条件是最优充分条件$δ_{2r}<1$ \cite{Recht et al 2010} .数值实验表明,非凸Schatten $p$ -最小化方法在完全扰动情形下比凸核范数最小化方法具有更好的性能.
2020-06-11 cs.IT math.IT
Sufficient Conditions for Low-rank Matrix Recovery, Translated from Sparse Signal Recovery
低秩矩阵恢复(LMR)是一个线性等式约束下的秩最小化问题,它广泛存在于信号与图像处理、统计学、计算机视觉、系统辨识和控制等领域。这类优化问题是$\N¶$ -困难的,并且流行的方法用矩阵变量的核范数代替秩函数。在本文中,我们将稀疏信号恢复中的感知矩阵的$s$ -优度的概念(由Juditsky和Nemirovski [Math Program,2011]提出)扩展到LMR中的线性变换。然后,我们给出了LMR背景下的$s$ -优性的刻画。利用线性变换的两个特征$s$ -优度常数$γ_s$和$\hatγ_s$,我们不仅得到了线性变换是$s$ -优的充要条件,而且在温和的假设下,通过核范数极小化给出了精确稳定的$s$ -秩矩阵恢复的充分条件.此外,我们给出了可计算的上界之一的$s$ -善良的特点,从而导致可验证的充分条件,准确的低秩矩阵恢复。
2011-06-16 cs.IT math.IT math.OC
Sharp RIP Bound for Sparse Signal and Low-Rank Matrix Recovery
本文建立了稀疏信号恢复和低秩矩阵恢复的约束等距性(RIP)的一个严格条件。研究表明,如果测量矩阵$A$满足RIP条件$δ_k^A<1/3$,则通过基于$y=Aβ$的约束$\ell_1$最小化可以精确地恢复所有$k$稀疏信号$β$.类似地,如果线性映射$\cal M$满足RIP条件$δ_r^{\cal M}<1/3$,则通过基于$b={\cal M}(X)$的约束核范数最小化,可以精确地恢复秩至多为$r$的所有矩阵$X$。此外,在这两种情况下,当条件不成立时,一般不可能这样做。此外,考虑了噪声情况,在sharp RIP条件下给出了预言不等式。
2013-02-06 cs.IT math.IT
Tight oracle bounds for low-rank matrix recovery from a minimal number of random measurements
本文提出了几个新的理论结果,关于恢复一个低秩矩阵,从几个测量组成的矩阵元素的线性组合。我们表明,适当约束的核范数最小化稳定地恢复低秩矩阵,从一个恒定数量的噪声测量每个自由度,这似乎是第一个结果,这种性质。此外,来自噪声数据的恢复误差在三个目标的常数内:1)最小最大风险,2)如果矩阵的列空间已知则将可用的预言误差,以及3)更自适应的预言误差,其将在与矩阵的位于噪声之上的部分相对应的列空间的知识的情况下可用。最后,关于低秩矩阵的误差界进行了扩展,提供了一个误差界时,矩阵具有衰减奇异值满秩。本文的分析是基于[6]中对向量和[22]中对矩阵引入的限制等距性(RIP)。
2010-01-02 cs.IT math.IT
Block- and Rank-Sparse Recovery for Direction Finding in Partly Calibrated Arrays
提出了一种由位移未知的子阵组成的部分校准阵列的稀疏恢复测向方法。该方法基于混合核范数和1范数最小化,利用信号模型的块稀疏性和低秩结构。为了有效地实现一个紧凑的等价问题重新制定。新技术适用于任意拓扑结构的子阵列和子阵列流形的基于网格的采样。在一个共同的基线子阵列的特殊情况下,我们的新技术承认扩展到一个无网格的实现。如模拟所示,我们的新的块和秩稀疏的部分校准阵列的测向技术优于最先进的方法RARE在困难的情况下,低样本数,低信噪比或相关信号。
2017-02-17 cs.IT math.IT
Low-Rank Positive Semidefinite Matrix Recovery from Corrupted Rank-One Measurements
我们研究的问题,估计一个低秩半正定(PSD)矩阵从一组秩一测量使用感测向量组成的i.i.d.标准高斯项,可能被任意离群值破坏。这个问题出现在相位恢复,协方差素描,量子空间层析成像和功率谱估计等应用中。首先,我们提出了一个凸优化算法,寻求PSD矩阵的最小$\ell_1$范数的观察残差。我们的算法的优点是,它是免费的参数,因此消除了调整参数的需要,并允许容易实现。我们建立了高概率,低秩PSD矩阵可以准确地恢复,只要测量的数量是足够大的,即使当一小部分的测量被破坏的离群值与任意幅度。此外,恢复也是稳定的有界噪声。随着PSD矩阵的秩的上界的附加信息,我们提出了另一种非凸算法的基础上,次梯度下降,表现出良好的经验性能的计算效率和准确性。
2016-08-31 cs.IT math.IT
Optimal Weighted Low-rank Matrix Recovery with Subspace Prior Information
矩阵检测是从少量线性测量值重构低秩矩阵的问题。在协同滤波、著名的Netflix奖问题和地震数据插值等应用中,存在关于地面真实低秩矩阵的列和行空间的先验信息。在本文中,我们利用这种先验信息,提出了一个加权优化问题,其目标函数促进秩和先验子空间信息。利用圆锥积分几何中的最新结果,我们得到了唯一的最优权重,使所需的测量次数最小化。仿真结果证实,所提出的凸规划与最佳权重需要显着减少测量比常规核范数最小化。
2019-04-29 cs.IT math.IT
On Identity Testing of Tensors, Low-rank Recovery and Compressed Sensing
我们研究的问题,获得有效的,确定性的,黑盒多项式身份测试算法的深度3集多线性电路(在任意字段)。这类电路有一个有效的,确定性的,白盒多项式身份测试算法(由于Raz和Shpilka),但没有已知的黑盒算法。我们将这个问题重新定义为寻找一个低维子空间H,由秩为1的张量张成,使得对偶空间ker(H)中的任何非零张量都具有高秩。我们得到明确的结构,基本上最佳大小的击中2度张量(矩阵),并获得准多项式大小的击中任意张量(但这第二次击中集是不太明确)。我们还显示了连接到执行低秩恢复矩阵的任务,这是在压缩感知领域的研究。低秩恢复要求(比如说,在实数上)在保证M的秩<=r的情况下,从几个测量值中恢复矩阵M。我们还给出了低秩恢复和稀疏(向量)恢复任务之间的正式联系:任何稀疏恢复算法,精确恢复长度为n和稀疏度为2 r的向量,使用m个非自适应测量,产生一个低秩恢复方案,用于精确恢复秩<=r的nxn矩阵,进行2nm非自适应测量。此外,如果稀疏恢复算法在时间τ内运行,则低秩恢复算法在时间O(rn^2+nτ)内运行。我们使用线性代数技术获得这种减少,而不是使用凸优化,这是更常见的压缩感知算法。通过使用对偶Reed-Solomon码,我们能够(确定性地)构造在实数上进行4 nr次测量的低秩恢复方案,使得测量可以是所有秩1矩阵或所有稀疏矩阵。
2011-11-02 cs.CC cs.IT math.IT
Performance Guarantees for Schatten-$p$ Quasi-Norm Minimization in Recovery of Low-Rank Matrices
我们解决了一些理论保证$p$准范数最小化($p \in (0,1]$)在恢复低秩矩阵从压缩的线性测量。首先,利用测量算子的零空间性质,给出了低秩矩阵精确恢复的一个充分条件。这个条件保证了唯一的恢复矩阵的秩等于或大于核范数最小化所保证的。其次,这个充分条件导致了一个定理证明了所有基于限制等距性质(RIP)的$\ell_p$拟范数最小化的充分条件推广到Schatten- $p$拟范数最小化。基于这个定理,我们提供了一些基于RIP的恢复条件。
2014-10-26 cs.IT math.IT stat.ML
Rank Awareness in Joint Sparse Recovery
在本文中,我们重新审视稀疏多测量向量(MMV)的问题,其目的是恢复一组联合稀疏多通道向量从不完整的测量。这个问题已经收到越来越多的兴趣作为一个扩展的单通道稀疏恢复问题,这是在新兴领域的压缩感知的心脏。然而,稀疏逼近问题的起源,其中包括链接到阵列信号处理领域,我们找到了一个新的家庭的MMV算法的灵感的基础上的MUSIC算法。我们强调的作用的秩的系数矩阵X在确定的难度的恢复问题。我们得到了稀疏MMV解唯一性的充分必要条件,这表明X的秩越大,X的稀疏性越小,以确保唯一性。我们还表明,更大的秩X的计算工作量较少,需要通过组合搜索来解决MMV问题。在本文的第二部分,我们考虑实际的次优算法解决稀疏MMV问题。我们研究了流行的算法,如SOMP和混合范数最小化技术的排名意识,并显示它们是排名盲的最坏情况分析。然后,我们考虑一个家庭的贪心算法的排名意识。最简单的这种算法是离散版本的MUSIC,并保证在温和的条件下恢复稀疏向量的满秩MMV的情况下。我们扩展这个想法,开发一个秩感知的追求算法,自然减少到顺序递归匹配追求(ORMP)在单测量的情况下,也提供了保证恢复满秩多测量的情况下。数值仿真结果表明,秩感知算法在处理多个测量时明显优于现有算法。
2010-04-26 cs.IT math.IT
Greedy Approach for Low-Rank Matrix Recovery
我们描述了简单的贪婪矩阵完成算法提供了一个有效的方法,从不完整的损坏的条目恢复低秩矩阵。我们提供的数值证据表明,即使在最简单的实现,贪婪的方法可能会增加现有算法的恢复能力显着。
2013-04-15 cs.IT cs.NA math.IT
Recovery of Low-Rank Matrices under Affine Constraints via a Smoothed Rank Function
研究了仿射约束下矩阵秩最小化问题。国家的最先进的算法可以恢复矩阵的秩远远小于什么是足够的唯一性的解决方案,这个优化问题。我们提出了一个算法的基础上的秩函数,这实际上提高了恢复限制的解决方案的秩的平滑近似。这种近似导致非凸规划;因此,为了避免陷入局部解,我们使用以下方案。最初,优化服从仿射约束的秩函数的粗略近似。随着算法的进行,优化秩的更精细的近似,并且用先前近似的解初始化求解器,直到达到期望的精度。在理论方面,利用球截面的性质,我们将证明逼近函数的解序列收敛到最小秩解。在实验方面,它将表明,该算法,称为SRF代表平滑秩函数,可以恢复矩阵的秩最小化问题的唯一解决方案,但不能恢复核范数最小化。此外,它将被证明,在完成部分观测矩阵,SRF的准确性是相当大的,一贯优于一些著名的算法时,显示的条目的数量接近的最小数量的参数,唯一地代表一个低秩矩阵。
2013-12-26 cs.IT math.IT
Quantization for Low-Rank Matrix Recovery
我们研究Σ-Δ量化方法加上适当的重建算法,用于数字化随机采样的低秩矩阵。我们表明,与我们的方法相关的重建误差随过采样因子多项式衰减,我们利用我们的结果通过优化量化方案的选择来获得根指数精度。此外,我们表明,一个随机编码方案,适用于量化测量,产生一个接近最佳的指数比特率。作为一个额外的好处,我们的计划是强大的噪音和低秩假设的偏差。简而言之,我们提供了一个完整的推广类似的结果,在经典的设置中获得的带限函数采集,最近,在有限的框架和压缩感知设置的情况下,低秩矩阵采样与次高斯线性算子。最后,我们相信我们的技术,从压缩感知设置的结果推广到类似的低秩矩阵设置是适用于其他量化方案。
2018-04-17 cs.IT math.IT
Low-rank Matrix Recovery from Errors and Erasures
本文考虑从一个同时包含两个(a)擦除:大多数条目未被观察到,和(b)错误:(未知)位置的恒定分数的值被任意损坏的观察版本的低秩矩阵的恢复。我们提供了一个新的统一的性能保证时,最小化的秩加支持的自然凸松弛成功的精确恢复。我们的结果允许同时存在的随机和确定性的组件在错误和擦除模式。一方面,通过以不同的方式专门化这一单一结果而获得的推论恢复(直到多对数因子)矩阵完成以及稀疏和低秩矩阵恢复中的所有现有工作。另一方面,我们的结果也提供了第一个保证(a)恢复时,我们观察到一个消失的分数的条目损坏的矩阵,和(b)确定性矩阵完成。
2011-08-25 cs.IT math.IT stat.ML
Two step recovery of jointly sparse and low-rank matrices: theoretical guarantees
我们介绍了一个两步算法的理论保证,以恢复一个联合稀疏和低秩矩阵的欠采样测量其列。该算法首先使用列的一组公共测量来估计矩阵的行子空间。在第二步中,使用简单的最小二乘算法解决矩阵的子空间感知恢复。在从欠采样测量中恢复CINE数据的背景下验证了结果;当采样条件满足时,我们获得了良好的恢复。
2015-06-02 cs.IT math.IT stat.ML
Low-rank matrix recovery via rank one tight frame measurements
从不完整的线性测量重构低秩矩阵的任务出现在诸如机器学习、量子状态层析成像和相位恢复问题的领域中。在本文中,我们研究的特殊设置,采取的测量相对于秩一矩阵构造的随机紧框架的元素。我们考虑一个凸优化方法,并显示两个鲁棒性的重建相对于噪声的测量以及稳定性,通过约低秩矩阵。这是通过建立相应测量图的零空间属性的版本来实现的。
2016-12-09 cs.IT math.IT math.PR
Maximum entropy low-rank matrix recovery
在本文中,我们提出了一种新的,信息理论的方法,称为MaxEnt,有效的数据采集低秩矩阵恢复。该方法在图像处理和文本索引等领域有着广泛的应用。我们的设计方法的基础是所谓的最大熵原理,该原理指出使观测熵最大化的测量掩码也使未知矩阵$\mathbf{X}$上的信息增益最大化。结合$\mathbf{X}$的低秩随机模型,这样的原理(i)揭示了信息理论采样和子空间填充之间的新联系,以及(ii)产生用于矩阵恢复的有效掩模构造算法,其显著优于随机测量。我们说明了MaxEnt在模拟实验中的有效性,并证明了它的实用性在两个现实世界中的应用程序的图像恢复和文本文档索引。
2018-11-21 cs.IT math.IT stat.ME
Multi-weight Nuclear Norm Minimization for Low-rank Matrix Recovery in Presence of Subspace Prior Information
加权核范数最小化最近被认为是一种技术,用于从压缩采样测量重构低秩矩阵时,矩阵的行列子空间的一些先验信息是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权核范数最小化时,允许多个权重。当可以访问与地面实况矩阵的列子空间和行子空间形成多个角度的先前子空间时,可以使用该设置。虽然在这一领域的现有作品使用一个单一的权重来惩罚所有的角度,我们提出了一个多权重的问题,旨在惩罚每个角度独立使用一个不同的权重。具体来说,我们证明了我们提出的多权重问题是稳定的和强大的条件下较弱的条件下的测量算子比类似的条件为单权重的情况下,标准的核范数最小化。此外,它提供了比现有技术方法更好的重建误差。我们用大量的数值实验来说明我们的结果,这些实验证明了在恢复过程中允许多个权重的优点。
2022-04-26 cs.IT math.IT
Nonconvex Robust Low-rank Matrix Recovery
在本文中,我们研究的问题,恢复一个低秩矩阵从一些随机线性测量,被破坏的离群值采取任意值。我们考虑一个非光滑的非凸制定的问题,其中我们明确地执行低秩属性的解决方案,通过使用一个因子表示的矩阵变量,并采用$\ell_1$ -损失函数robustify解决方案对离群值。我们表明,即使当一个恒定的分数(这可能是几乎一半)的测量任意损坏,只要某些测量运营商所产生的测量模型满足所谓的$\ell_1/\ell_2$ -限制等距属性,地面实况矩阵可以完全恢复从任何全局最小的优化问题。此外,我们证明了优化问题的目标函数是尖锐的和弱凸的。因此,具有几何减小步长的次梯度方法(SubGM)在适当初始化时将线性收敛到地面真值矩阵。我们证明了SubGM的非凸鲁棒低秩矩阵恢复问题的各种数值实验的有效性。
2019-07-14 cs.IT math.IT
Tensor theta norms and low rank recovery
我们研究了压缩感知和低秩矩阵恢复的扩展,从不完全线性信息恢复低秩张量。虽然通过核范数最小化重构低秩矩阵是相当好的理解,现在,几乎没有理论可用于扩展到高阶张量由于各种理论和计算困难所产生的张量分解。事实上,核范数最小化矩阵恢复是一个易处理的凸松弛方法,但扩展的核范数张量一般是NP-难计算。在这篇文章中,我们引入了张量核范数的凸松弛,它可以通过半定规划在多项式时间内计算。我们的方法是基于θ机构,一个概念,从计算代数几何类似的拉萨尔松弛。我们引入了多项式理想,它是由对应于张量的不同矩阵化的二阶未成年人产生的(其中张量项被视为变量),使得核范数球是理想的代数簇的凸包。对于这样一个理想,$k$ -th θ体产生一个新的范数,我们称之为$θ_k$ -范数。我们表明,在矩阵的情况下,这些规范减少到核规范。然而,对于$d \geq 3$阶张量,我们得到了新的范数。相应的单位- $θ_k$ -范数球序列渐近收敛于单位张量核范数球。通过提供理想的格罗布纳基,我们明确地给出了半定程序的计算$θ_k$ -范数和最小化的$θ_k$ -范数下的仿射约束。通过$θ_1$ -范数最小化的3阶张量恢复的数值实验表明,我们的方法成功地重建张量的低秩不完整的线性(随机)测量。
2017-02-14 cs.IT math.IT
Two new algorithms for error support recovery of low rank parity check codes
针对低秩奇偶校验码,提出两种改进译码算法,在参数满足特定条件时优于原始算法,支持更高码率和更小 m 值。
2023-05-09 cs.IT math.IT
Low-Rank Matrix Recovery using Gabidulin Codes in Characteristic Zero
University of Ulm(乌尔姆大学)
提出了一种基于Gabidulin码的低秩矩阵恢复新方法。由于LRMR的大多数应用处理无限域上的矩阵,我们使用最近推出的推广Gabidulin码的特征零的字段。我们表明,LRMR可以减少到Gabidulin码的解码,并讨论哪些字段扩展可以用于代码的建设。
2016-09-15 cs.CV cs.IT math.IT
The Functional Structure of Post-Compression Recovery in Low-Rank LLMs
Duke University(杜克大学);Carnegie Mellon University(卡内基梅隆大学);University of Florida(佛罗里达大学);Wake Forest University(维克森林大学);University of Oxford(牛津大学)
本研究揭示低秩压缩大语言模型在恢复过程中的异质性源于可复现的压缩诱导功能结构(恢复压力),并开发了标准化表征方法,证明该结构演化与恢复响应相关,提供超越标量损失的互补视角。
2026-10-06 cs.AI cs.IT math.IT
Quantized Low-Rank Quantum State Tomography: Hyperbolic Quantization and Riemannian Least-Squares Recovery
University of Central Florida(中佛罗里达大学);Michigan State University(密歇根州立大学);Wuhan University(武汉大学)
该研究针对有限比特泡利批量响应的低秩量子态层析问题,提出HyperQuant量化器与QuantRGD方法,建立相关恢复保证与比特- shots权衡,通过实验验证其有效性。
2026-08-31 cs.IT math.IT quant-ph
Upper Bounds on the Error of Sparse Vector and Low-Rank Matrix Recovery
设欠定线性系统$\mathbf{b} = \mathbf{A} \mathbf{x}$的解$\widetilde{\mathbf{x}}$已给出. $\widetilde{\mathbf{x}}$是近似稀疏的,这意味着与其他小条目相比,它具有一些大的分量。然而,$\widetilde{\mathbf{x}}$的非零分量的总数是大到足以违反任何条件的唯一性的稀疏解决方案。另一方面,如果只考虑主导分量,则它将满足唯一性条件。人们直观地期望$\widetilde{\mathbf{x}}$应该不会远离真正的稀疏解$\mathbf{x}_0$。我们表明,这种直觉的情况下,通过提供一个上界的$\| \widetilde{\mathbf{x}} - \mathbf{x}_0\|$,这是一个功能的小组件的$\widetilde{\mathbf{x}}$,但独立于$\mathbf{x}_0$的幅度。这个结果被推广到$\mathbf{b}$受噪声干扰的情况。此外,我们推广到低秩矩阵恢复问题的上界。
2015-06-26 cs.IT math.IT
An analysis of noise folding for low-rank matrix recovery
先前关于低秩矩阵恢复的工作集中在矩阵无噪声且测量被噪声破坏的情况下。然而,在实际应用中,矩阵本身通常会受到随机噪声的干扰。本文简要地研究了这种情况下,并证明,对于大多数测量方案中使用的压缩感知,这两个模型是等效的,与(\ref{eq.3})相关的噪声是由一个因子大到$mn/M$,其中$m,~n$是矩阵的维数和$M$是测量的数量的中心区别。此外,本文还讨论了低秩矩阵的重构问题,基于关联零空间的性质,给出了保证鲁棒恢复的充分条件,并得到了观测值的个数。在此基础上,对非高斯噪声情况下的非高斯噪声进行了进一步的研究,并给出了相应的结果。仿真实验一方面显示了噪声方差对恢复性能的影响,另一方面验证了所提模型的可验证性。
2020-03-06 cs.IT math.IT math.OC
Stability of low-rank matrix recovery and its connections to Banach space geometry
压缩感知与有限维$\ell_p$空间的几何结构之间存在众所周知的关系。Kashin和Temlyakov的一个结果可以被描述为一个表征的稳定性恢复稀疏向量通过$\ell_1$ -最小化的Gelfand宽度的某些恒同映射之间的有限维$\ell_1$和$\ell_2$空间,而最近的结果Foucart,Pajor,Rauhut和Ullrich证明了一个类似的关系,甚至为$\ell_p$空间与$p < 1$。在本文中,我们证明了我们所说的矩阵或非交换的版本,这些结果:我们通过Schatten $p$ -(准)范数最小化的Gelfand宽度的有限维Schatten $p$ -空间之间的某些恒同映射的低秩矩阵恢复的稳定性进行了表征。
2015-06-19 cs.IT math.FA math.IT
Low rank matrix recovery from rank one measurements
我们研究了通过核范数最小化从欠采样测量中恢复厄米特低秩矩阵$X \in \mathbb{C}^{n \times n}$。我们考虑其中测量是Frobenius内积的特定场景,其中对于一些测量向量$a_1,...,a_m$,具有形式为$a_j a_j^*$的随机秩一矩阵,即,测量值由$y_j = \mathrm{tr}(X a_j a_j^*)$给出。要恢复的矩阵$X=x x^*$是秩1的情况减少到无相估计的问题(从测量,通过最近引入的PhaseLift方法的$y_j = |\langle x,a_j\rangle|^2$)。我们推导出的测量,保证成功的统一恢复的Hermitian秩$r$矩阵,无论是矢量$a_j$,$j=1,...,m$,被独立地随机选择根据一个标准的高斯分布,或$a_j$被独立地从一个(近似)复杂的投影$t$设计与$t=4$的测量数$m$的界限。在高斯情况下,我们需要$m \geq C r n$测量,而在$4$设计的情况下,我们需要$m \geq Cr n \log(n)$。我们的结果是一致的,在这个意义上,一个随机选择的测量向量$a_j$保证恢复所有秩$r$ -矩阵同时具有高概率。此外,我们证明了鲁棒性的恢复扰动下的测量噪声。近似$4$ -设计的结果推广和改进了最近的绑定由于格罗斯,Kueng和Krahmer的相位恢复。此外,它在量子态层析成像中也有应用。我们的…
2014-10-25 cs.IT math.IT math.PR
New Null Space Results and Recovery Thresholds for Matrix Rank Minimization
核范数最小化(NNM)最近获得了显着的关注,其用于秩最小化问题。类似于压缩感知,使用零空间表征,在\cite{arxiv,Recht_Xu_Hassibi}中研究了NNM的恢复阈值。然而,仿真结果表明,阈值是远离最佳的,特别是在低秩区域。在本文中,我们应用最近的分析Stojnic压缩感知\cite{mihailo}的零空间条件的NNM。由此产生的阈值明显更好,特别是我们的弱阈值似乎与模拟结果相匹配。此外,我们的曲线表明,对于任何秩与矩阵大小$n$线性增长,我们只需要三倍的过采样(模型复杂度)弱恢复。与\cite{arxiv}类似,我们分析了弱阈值、分段阈值和强阈值的条件。另外,对正半定矩阵的特殊情况,也作了单独的分析。最后,我们讨论了模拟结果和未来的研究方向。
2010-11-29 cs.IT math.IT math.OC
Low rank tensor recovery via iterative hard thresholding
RWTH Aachen University(亚琛工业大学);Technische Universität Berlin(柏林工业大学);University of Bonn(波恩大学)
本文研究了压缩感知和低秩矩阵恢复在高阶低秩张量恢复中的扩展,提出迭代硬阈值法在HOSVD、TT和HT分解中的应用,并证明了其收敛性及测量算子的张量受限等距性质。
2016-02-16 cs.IT cs.NA math.IT
Sparse Representation of a Polytope and Recovery of Sparse Signals and Low-rank Matrices
本文考虑压缩感知和仿射秩最小化在无噪和有噪情况下,并建立了尖锐的限制等距稀疏信号和低秩矩阵恢复条件。分析依赖于一个关键的技术工具,表示点的多面体的凸组合稀疏向量。该技术是基本的,但导致尖锐的结果。它示出,对于任何给定的常数$t\ge {4/3}$,在压缩感知$δ_{tk}^A < \sqrt{(t-1)/t}$保证精确恢复的所有$k$稀疏信号在无噪声的情况下,通过约束$\ell_1$最小化,并同样在仿射秩最小化$δ_{tr}^\mathcal{M}< \sqrt{(t-1)/t}$确保精确重建的所有矩阵的秩最多$r$在无噪声的情况下,通过约束核范数最小化。此外,对于任何$ε>0$,对于大的$k$,$δ_{tk}^A<\sqrt{\frac{t-1}{t}}+ε$不足以保证所有$k$稀疏信号的精确恢复。类似的结果也适用于基质回收。此外,条件$δ_{tk}^A < \sqrt{(t-1)/t}$和$δ_{tr}^\mathcal{M}< \sqrt{(t-1)/t}$也被证明是足够的,分别为稳定恢复的近似稀疏信号和低秩矩阵在噪声的情况下。
2013-10-22 cs.IT math.IT math.ST
Recovery of Low-Rank Plus Compressed Sparse Matrices with Application to Unveiling Traffic Anomalies
给定一个低秩矩阵的叠加加上一个已知的脂肪压缩矩阵乘以稀疏矩阵的产品,本文的目标是建立确定性的条件下,精确恢复的低秩和稀疏的组件成为可能。这一基本的可识别性问题与骨干网络中的流量异常检测有关,并包含压缩感知以及矩阵分解问题中遇到的及时低秩稀疏矩阵恢复任务。利用$\ell_1$ -和核范数恢复稀疏和低秩矩阵的能力,制定了一个凸规划来估计未知数。分析和仿真证实,所述凸程序可以恢复足够低的秩和足够稀疏的分量的未知数,随着压缩矩阵具有等距属性时,限制操作稀疏向量。当低秩、稀疏和压缩矩阵是从某些随机集合中提取时,可以确定精确的恢复是可能的,具有很高的概率。一阶算法被开发来解决具有可证明的迭代复杂性保证的非光滑凸优化问题。对合成和真实网络数据的深入测试证实了这种新方法在揭示流量和时间异常方面的有效性,以及其优于现有替代方案的能力。
2012-04-30 cs.IT cs.NI math.IT
Low-rank matrix recovery landscapes beyond RIP with application to rank-one measurements
CERMICS, ENPC, Institut Polytechnique de Paris, CNRS(巴黎高等师范学院计算数学与控制系统实验室,巴黎高等师范工程学校,巴黎理工学院,法国国家科学研究中心)
本文研究低秩矩阵恢复的非凸景观,提出在更弱的等距条件下(仅要求低秩切空间上的等距性)保证良性景观,并应用于秩一测量,获得统计上接近最优的样本复杂度和恢复误差。
2026-09-09 cs.IT math.IT math.OC
A Perturbation Inequality for the Schatten-$p$ Quasi-Norm and Its Applications to Low-Rank Matrix Recovery
本文建立了关于矩阵奇异值的扰动结果:设$A,B \in \mathbb{R}^{m\times n}$为给定矩阵,$f:\mathbb{R}_+\rightarrow\mathbb{R}_+$为满足$f(0)=0$的凹函数.然后,我们有$$ \sum_{i=1}^{\min\{m,n\}} \big| f(σ_i(A)) - f(σ_i(B)) \big| \le \sum_{i=1}^{\min\{m,n\}} f(σ_i(A-B)), $$,其中$σ_i(\cdot)$表示矩阵的第$i$个最大奇异值。这回答了压缩感知和线性代数社区都感兴趣的一个开放问题。特别是,通过采取$f(\cdot)=(\cdot)^p$的任何$p \in (0,1]$,我们得到了一个扰动不等式的所谓的Schatten $p$ -准范数,这使我们能够确认的有效性,以前的一些条件,通过流行的Schatten $p$ -准范数启发式的恢复低秩矩阵。我们相信,我们的结果将找到进一步的应用,特别是在低秩矩阵恢复的研究。
2014-06-27 cs.IT math.IT math.OC
Low Rank Matrix Recovery for Joint Array Self-Calibration and Sparse Model DoA Estimation
在这项工作中,结合校准和DoA估计接近的单测量矢量(SMV)模型的自校准的多测量模型(MMV)的情况下,制定的扩展。利用多快拍的优点,提出了一种改进的核范数最小化问题,以恢复低秩的高维矩阵。我们还给出了MMV模型的线性算子的定义,并给出了相应的矩阵表示,以生成凸优化问题的一个变体。为了降低该方法的计算复杂度,奇异值分解(SVD)被用来减少问题的大小。所提出的方法的性能证明了数值模拟。
2017-12-16 cs.IT eess.SP math.IT
Necessary and Sufficient Null Space Condition for Nuclear Norm Minimization in Low-Rank Matrix Recovery
University of Iowa(爱荷华大学)
低秩矩阵恢复在机器学习、信号处理、协同滤波、系统辨识和欧几里得嵌入等科学和工程领域有着广泛的应用。但低秩矩阵恢复问题是一个NP难问题,因此具有挑战性。一种常用的启发式方法是核范数最小化。在文献[12,14,15]中,作者建立了核范数极小化的充要零空间条件(强零空间条件),以恢复所有可能的秩不超过r的低秩矩阵。此外,在[12]中,Oymak等人利用核范数最小化建立了一个成功恢复给定低秩矩阵的零空间条件(弱零空间条件),并导出了核范数最小化的相变。本文证明了文[12]中的弱零空间条件只是利用核范数极小化成功恢复矩阵的一个充分条件,而不是文[12]中所声称的必要条件。本文进一步给出了低秩矩阵恢复的一个弱零空间条件,它是核范数极小化成功的充要条件。在我们的推导的核心是一个不等式的特征块矩阵的核范数,并在该不等式的等式成立的条件。
2018-02-14 cs.IT cs.LG eess.SP
Study of Noncoherent Sparse Subarrays for Direction Finding Based on Low-Rank and Sparse Recovery
本文针对非相干DOA估计问题,提出基于低秩与稀疏恢复的MMV模型,并设计I型和II型稀疏子阵列构造策略,实验表明II型稀疏非相干阵列性能更优。
2024-02-24 cs.IT eess.SP math.IT
Landscape Analysis of Simultaneous Blind Deconvolution and Phase Retrieval via Structured Low-Rank Tensor Recovery
Iowa State University(爱荷华州立大学);University of Michigan(密歇根大学);The Ohio State University(俄亥俄州立大学)
本文通过结构化低秩张量恢复框架分析同时盲反卷积与相位检索问题,引入易处理的张量感知替代模型,证明黎曼梯度下降在温和条件下线性收敛,并通过数值实验验证了理论结果。
2026-11-09 cs.IT eess.SP math.IT
Limits of Rank Recovery in Bilinear Observation Problems
Kyunghee University(庆熙大学);Graduate Program: Quantum Information Science(量子信息科学研究生项目)
研究双线性观测问题中秩恢复的极限,揭示问题修改与数值细化的区别。
2026-01-13 cs.IT math.IT quant-ph
The minimal measurement number for low-rank matrices recovery
LSEC, Inst. Comp. Math., Academy of Mathematics and System Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院计算数学研究所、拉格朗日计算科学中心)
本文研究低秩矩阵恢复中所需最小测量数,通过代数工具证明复数矩阵需4nr-4r²测量,实数矩阵在特定条件下证明该界限紧致,并通过构造实例推翻原有猜想。
2015-05-27 cs.IT cs.NA math.IT
Proof methods for robust low-rank matrix recovery
低秩矩阵恢复问题作为各种逆问题的数学公式自然出现,例如矩阵完成,盲反卷积和相位恢复。在过去的二十年中,一些作品已经严格分析了这种情况下的重建性能,引起了一个相当普遍的理解的潜力和低秩矩阵模型在传感问题的局限性。在这篇文章中,我们比较了两种主要的证明技术,为严格的分析铺平了道路,讨论了它们的潜力和局限性,并调查了它们的成功应用。一方面,我们回顾了基于下降锥分析的方法,表明即使在存在对抗性噪声的情况下,它们通常也会产生强有力的保证,但在结构化观测方面面临限制。另一方面,我们讨论的技术,使用近似的双证书和高尔夫计划,这往往是更好地适合于处理实际的测量结构,但有时会导致较弱的保证。最后,我们回顾了最近在结构化场景中分析下降锥的进展-利用将锥分成多个部分的想法,通过不同的技术进行分析。
2021-06-08 cs.IT eess.SP math.IT
Optimal Low-Rank Tensor Recovery from Separable Measurements: Four Contractions Suffice
Yahoo! Labs(雅虎实验室);UT Austin(得克萨斯大学奥斯汀分校);Colorado School of Mines(科罗拉多矿业学院)
张量在许多现代机器学习和信号处理应用中起着核心作用。在这样的应用中,目标张量通常是低秩的,即,可以表示为少量秩一张量的和。这促使我们考虑从一类称为可分离测量的线性测量中恢复低秩张量的问题。作为具体的例子,我们专注于两种不同类型的可分离测量机制(a)随机投影,其中每个测量对应于张量与合适的随机张量的内积,以及(b)完成问题,其中测量构成条目的随机集的揭示。我们提出了一个计算效率高的算法,严格和顺序最优的样本复杂性的结果(对数因子)张量恢复。我们的方法是基于减少矩阵完成的子问题和适应的Leeclans的方法张量分解。我们扩展的方法和样本复杂性的结果,高阶张量,并通过实验验证我们的理论结果。
2015-05-15 cs.IT cs.LG math.IT
Recovery of Coherent Data via Low-Rank Dictionary Pursuit
Cornell University(康奈尔大学);Rutgers University(罗格斯大学)
最近建立的RPCA方法为我们提供了一个方便的方法来恢复低秩矩阵从严重损坏的观察。虽然RPCA在理论上很优雅,在现实中很强大,但它可能不是低秩矩阵恢复问题的最终解决方案。事实上,即使数据是严格低秩的,它的性能也可能不完美。这是因为传统的RPCA忽略了在现代应用中普遍存在的数据的聚类结构。随着聚类数目的增加,数据的一致性不断增强,RPCA的恢复性能随之下降。我们表明,连贯数据(即,具有高一致性的数据)可以通过低秩表示(LRR)来缓解,只要LRR中的字典被适当地配置。更确切地说,我们从数学上证明,如果字典本身是低秩的,那么LRR是免疫的相干参数,增加了底层的集群数量。这为处理相干数据提供了一个基本原则。随后,我们设计了一个实用的算法,以获得适当的字典在无监督的环境。我们对随机生成矩阵的大量实验验证了我们的说法。
2014-07-16 cs.IT cs.LG math.IT
Unicity conditions for low-rank matrix recovery
本文研究了通过任意方法(包括不可行方法)恢复低秩矩阵所需的最少测量次数,给出了随机测量系综下保证秩最小化均匀恢复所有秩r矩阵的充分必要条件,并与核范数最小化的性能进行了比较。
2011-03-28 cs.IT cs.NA cs.SY
ROP: Matrix recovery via rank-one projections
低秩矩阵的估计在当代的一系列应用中具有重要意义。在本文中,我们引入了一个秩一投影模型的低秩矩阵恢复和提出了一个约束核范数最小化方法的稳定恢复低秩矩阵在噪声的情况下。该程序是自适应的秩和强大的小扰动。得到了Frobenius范数损失下估计精度的上界和下界。所提出的估计被证明是率最优在一定条件下。该估计器易于通过凸规划实现,并且在数值上表现良好。本文中的技术和主要结果对其他相关的统计问题也有影响。本文讨论了一维随机投影加标协方差阵的估计问题。结果表明,它仍然是可能的,准确估计的协方差阵的高维分布的基础上,只有一维投影。
2014-12-09 cs.IT math.IT math.ST
One-Bit Sensing of Low-Rank and Bisparse Matrices
本文研究了低秩与双稀疏矩阵在one-bit sensing下的最坏情况恢复误差,通过consistency width概念给出理论衰减估计,并提出了在factorized Gaussian sensing schemes下可实现恢复误差按最优速率六次方根衰减的算法。
2019-01-19 cs.IT cs.NA math.IT
RIP-based performance guarantee for low-tubal-rank tensor recovery
School of Mathematics and Statistics, Southwest University(西南大学数学与统计学院);Xi’an Jiaotong University(西安交通大学);College of Artificial Intelligence, Southwest University(西南大学人工智能学院)
提出正则化张量核范数最小化模型,通过定义张量受限等距性质,证明在t-RIP条件下可从少量线性噪声测量中稳定恢复三阶张量。
2019-09-17 cs.IT cs.NA math.IT
A Survey on Nonconvex Regularization Based Sparse and Low-Rank Recovery in Signal Processing, Statistics, and Machine Learning
Shanghai Jiao Tong University(上海交通大学)
在过去的十年中,稀疏和低秩恢复在信号/图像处理、统计学、生物信息学和机器学习等领域引起了广泛的关注。为了实现稀疏性和/或低秩诱导,$\ell_1$范数和核范数由于其凸性而成为最流行的正则化惩罚。虽然$\ell_1$和核范数是方便的,因为相关的凸优化问题通常是易处理的,但在许多应用中已经表明,非凸惩罚可以产生显着更好的性能。近年来,基于非凸正则化的稀疏和低秩恢复引起了人们的极大兴趣,事实上,它是非凸和非光滑优化的最新进展的主要驱动力。本文综述了这一主题在信号处理、统计和机器学习的各个领域,包括压缩感知(CS)、稀疏回归和变量选择、稀疏信号分离、稀疏主成分分析(PCA)、大协方差和逆协方差矩阵估计、矩阵完备和鲁棒PCA。我们目前的非凸正则化为基础的稀疏和低秩恢复在这些领域的最新发展,解决问题的惩罚选择,应用和非凸算法的收敛性。代码可在https://github.com/FWen/ncreg.git上获得。
2019-06-06 cs.IT cs.LG eess.SP
Compressed Sensing and Affine Rank Minimization under Restricted Isometry
本文建立了压缩感知和仿射秩最小化的新的约束等距条件。它示出的压缩感知,$δ_{k}^A+θ_{k,k}^A < 1$保证精确恢复的所有$k$稀疏信号在无噪声的情况下,通过约束$\ell_1$最小化。此外,上界1在以下意义上是尖锐的:对于任何$ε> 0$,条件$δ_k^A + θ_{k, k}^A < 1+ε$不足以保证使用任何恢复方法的这种精确恢复。类似地,对于仿射秩最小化,如果$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$,则所有秩至多为$r$的矩阵可以通过约束核范数最小化在无噪声情况下精确地重建;并且对于任何$ε> 0$,$δ_r^\mathcal{M} +θ_{r,r}^\mathcal{M} < 1+ε$不确保使用任何方法进行这样的精确恢复。此外,在噪声情况下,条件$δ_{k}^A+θ_{k,k}^A < 1$和$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$也足以分别稳定恢复稀疏信号和低秩矩阵。还讨论了应用和扩展。
2013-04-12 cs.IT math.IT math.ST
A Simplified Approach to Recovery Conditions for Low Rank Matrices
California Institute of Technology(加州理工学院);University of Washington, Seattle(华盛顿大学)
本文通过一种关键的奇异值不等式将向量恢复条件扩展到矩阵,简化了低秩矩阵恢复的鲁棒性条件分析,得到了目前最优的受限等距性和零空间条件。
2011-11-09 cs.IT cs.SY eess.SY