Approximate Subspace-Sparse Recovery with Corrupted Data via Constrained $\ell_1$-Minimization
高维数据通常位于与它们所属的不同类相对应的低维子空间中。在使用数据集合构建的字典中查找数据点的稀疏表示有助于发现低维子空间并解决聚类、分类、子集选择等问题。在本文中，我们解决的问题，恢复稀疏表示的噪声数据点的字典中的列对应于损坏的数据躺在靠近一个联盟的子空间。我们考虑一个约束$\ell_1$ -最小化和研究条件下，所提出的优化的解决方案满足近似子空间稀疏恢复条件。更具体地说，我们表明，每个嘈杂的数据点，扰动从一个子空间的$\varepsilon$的幅度的噪声，将使用数据点从同一子空间重建的顺序与小误差的$O(\varepsilon)$和对应于其他子空间中的数据点的系数将是足够小的，\ie的顺序为$O(\varepsilon)$。我们不对子空间的排列或每个子空间中数据点的分布施加任何随机性假设。我们的框架是基于一个新的推广的零空间属性的设置，其中数据位于多个子空间，在每个子空间中的数据点的数量超过了子空间的维度，所有的数据点被噪声破坏。此外，假设一个广义过程的数据点，我们进一步表明，从所需的支持系数不仅重建一个给定的点具有高精度，但也有足够大的值，\ie，顺序为$O(1)$。
2016-02-13 stat.ML
Low-rank matrix recovery landscapes beyond RIP with application to rank-one measurements
CERMICS, ENPC, Institut Polytechnique de Paris, CNRS（巴黎高等师范学院计算数学与控制系统实验室，巴黎高等师范工程学校，巴黎理工学院，法国国家科学研究中心）
本文研究低秩矩阵恢复的非凸景观，提出在更弱的等距条件下（仅要求低秩切空间上的等距性）保证良性景观，并应用于秩一测量，获得统计上接近最优的样本复杂度和恢复误差。
2026-09-09 cs.IT math.IT math.OC
Compressed Sensing and Affine Rank Minimization under Restricted Isometry
本文建立了压缩感知和仿射秩最小化的新的约束等距条件。它示出的压缩感知，$δ_{k}^A+θ_{k,k}^A < 1$保证精确恢复的所有$k$稀疏信号在无噪声的情况下，通过约束$\ell_1$最小化。此外，上界1在以下意义上是尖锐的：对于任何$ε> 0$，条件$δ_k^A + θ_{k, k}^A < 1+ε$不足以保证使用任何恢复方法的这种精确恢复。类似地，对于仿射秩最小化，如果$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$，则所有秩至多为$r$的矩阵可以通过约束核范数最小化在无噪声情况下精确地重建;并且对于任何$ε> 0$，$δ_r^\mathcal{M} +θ_{r,r}^\mathcal{M} < 1+ε$不确保使用任何方法进行这样的精确恢复。此外，在噪声情况下，条件$δ_{k}^A+θ_{k,k}^A < 1$和$δ_{r}^\mathcal{M}+θ_{r,r}^\mathcal{M}< 1$也足以分别稳定恢复稀疏信号和低秩矩阵。还讨论了应用和扩展。
2013-04-12 cs.IT math.IT math.ST
The Effective Number of Nonzeros: Theory and Regularization for Sparse Recovery
提出基于熵的有效稀疏度概念（ENZ），通过香农熵指数化衡量重要系数，证明其与ℓ0计数的关系，并引入Rényi族统一多种稀疏度量，在RIP条件下给出稳定性界，通过可分离熵代理实现高效计算。
2026-06-25 cs.LG stat.ML
Low-rank Matrix Recovery from Errors and Erasures
本文考虑从一个同时包含两个（a）擦除：大多数条目未被观察到，和（b）错误：（未知）位置的恒定分数的值被任意损坏的观察版本的低秩矩阵的恢复。我们提供了一个新的统一的性能保证时，最小化的秩加支持的自然凸松弛成功的精确恢复。我们的结果允许同时存在的随机和确定性的组件在错误和擦除模式。一方面，通过以不同的方式专门化这一单一结果而获得的推论恢复（直到多对数因子）矩阵完成以及稀疏和低秩矩阵恢复中的所有现有工作。另一方面，我们的结果也提供了第一个保证（a）恢复时，我们观察到一个消失的分数的条目损坏的矩阵，和（b）确定性矩阵完成。
2011-08-25 cs.IT math.IT stat.ML
Confidence-constrained joint sparsity recovery under the Poisson noise model
Oregon State University（俄勒冈州立大学）
我们的工作主要集中在联合稀疏恢复问题的共同稀疏模式被破坏的泊松噪声。我们制定了最小二乘（LS）和极大似然（ML）框架下的置信约束优化问题，并研究了原始行稀疏和行稀疏模式的完美重建的条件。然而，置信约束优化问题是非凸的。利用凸松弛，提出了一种替代的凸重新制定的问题。我们评估所提出的方法的性能，使用模拟结果的合成数据，并显示建议行稀疏和行稀疏模式恢复框架的有效性。
2013-10-09 cs.LG stat.ML
Low Rank Matrix Recovery with Simultaneous Presence of Outliers and Sparse Corruption
University of Central Florida（中佛罗里达大学）
本文研究了一个数据模型，其中数据矩阵D可以表示为D = L + S + C，其中L是低秩矩阵，S是元素稀疏矩阵，C是非零列为离群数据点的矩阵。到目前为止，强大的PCA算法只考虑S或C的模型，而不是两者都考虑。因此，现有的算法不能同时考虑元素和列的腐败。本文提出了一种新的鲁棒PCA算法，该算法对同时发生的腐败类型具有鲁棒性。我们的方法依赖于稀疏损坏列的稀疏近似，使得列相对于其他数据点的稀疏扩展用于区分稀疏损坏的内点列和外围数据点。我们还开发了一个随机设计，提供了一个可扩展的实施所提出的方法。稀疏近似的核心思想进行了分析，我们表明，潜在的ell_1-范数最小化可以获得一个内点的稀疏腐败的存在下的表示。
2017-02-07 cs.CV cs.LG stat.ML
Recovery of Sparse Signals Using Multiple Orthogonal Least Squares
Rutgers, The State University of New Jersey（罗格斯，新泽西州立大学）
我们研究了从压缩的线性测量中恢复稀疏信号的问题。这个问题，通常被称为稀疏恢复或稀疏重建，近年来产生了很大的兴趣。为了恢复稀疏信号，我们提出了一种新的方法，称为多个正交最小二乘（MOLS），它扩展了著名的正交最小二乘（OLS）算法，允许多个$L$指数选择每次迭代。由于在每次选择中包含多个支持度指标，MOLS算法在更少的迭代次数内收敛，并提高了传统OLS算法的计算效率。理论分析表明，如果测量矩阵满足等距常数为$δ_{LK} < \frac{\sqrt{L}}{\sqrt{K} + 2 \sqrt{L}}.$的限制等距性质（RIP），则MOLS（$L > 1$）在$K$迭代内可以精确恢复所有$K$稀疏信号。结果表明，当信噪比与输入信号的稀疏程度成线性关系时，MOLS算法可以实现稀疏信号的稳定恢复。
2015-12-31 cs.IT cs.LG math.IT
Robust High Dimensional Sparse Regression and Matching Pursuit
我们认为高维稀疏回归，并制定战略，能够处理任意-可能的，严重的或协调-在协方差矩阵$X$的错误。这些可能来自损坏的数据，持续的实验错误，或恶意的受访者在调查/推荐系统等非随机误差变量的问题是出了名的难以处理，正如我们所证明的，这个问题是特别明显的高维设置的主要目标是{ \em支持恢复}的稀疏回归。我们开发的算法支持稀疏回归恢复，当一些数字$n_1$出$n+n_1$总协变量/响应对{ \it任意（可能恶意）损坏}。我们感兴趣的是了解我们可以容忍多少离群值$n_1$，同时确定正确的支持。据我们所知，无论是标准的离群值拒绝技术，也不是最近开发的强大的回归算法（只关注损坏的响应变量），也不是最近的算法处理随机噪声或擦除，可以提供支持恢复的保证。也许令人惊讶的是，我们还表明，自然蛮力算法，搜索所有子集的$n$协变量/响应对，所有子集的可能的支持坐标，以尽量减少回归误差，是非常差的，无法正确地识别支持，甚至$n_1 = O(n/k)$损坏点，其中$k$是稀疏。即使在我们考虑的基本设置中也是如此，其中所有真实的测量和噪声都是独立的和亚高斯的。在这种情况下，我们提供了一个简单的算法--计算量不比OMP大--它提供了更强的性能保证，可以恢复多达$n_1 = O(n/(\sqrt{k} \log p))$损坏点的支持，其中$p$是要恢复的信号的维度。
2013-01-12 cs.IT cs.LG math.IT
Signal Recovery on Graphs: Variation Minimization
Carnegie Mellon University（卡内基梅隆大学）；HP Vertica（惠普Vertica）
我们把图上的信号恢复问题看作是把具有复杂结构的数据模型看作是图上的信号。图形信号恢复意味着从噪声、损坏或不完整的测量中恢复一个或多个平滑图形信号。我们提出了一个图形信号模型和制定信号恢复作为相应的优化问题。我们利用乘子交替方向法给出了一个一般解。接下来，我们将展示信号修复，矩阵补全，鲁棒主成分分析和异常检测如何与图形信号恢复相关，并提供相应的具体解决方案和理论分析。最后，我们验证了所提出的方法在现实世界中的恢复问题，包括在线博客分类，桥梁状态识别，温度估计，推荐系统，和专家意见的在线博客分类组合。
2015-05-29 cs.LG cs.SI stat.ML
Restricted Isometry Property under High Correlations
Amazon（亚马逊公司）；University of Michigan（密歇根大学）
满足约束等距性（RIP）的矩阵在压缩感知和统计学习等领域中起着重要的作用。具有最优参数的RIP矩阵主要通过概率参数获得，因为显式构造似乎很难。因此，有趣的是问一个固定的矩阵是否可以纳入限制等距的建设。本文构造了一个新的广义相依随机矩阵系综，它满足限制等距性。我们从一个固定的（确定性的）矩阵$X$满足一些简单的稳定秩条件开始构造，并且我们证明了矩阵$XR$，其中$R$是从各种流行的概率模型（包括，亚高斯的，稀疏的，低随机性的，满足凸集中性质的）中抽取的随机矩阵，以高概率满足RIP.这些定理在信号恢复、随机矩阵理论、降维等方面具有各种应用。此外，受理解在自然语言处理和机器学习应用中流行的词向量嵌入的有效性的应用的激励，我们研究了矩阵$XR^{(l)}$的RIP，其中$R^{(l)}$是通过采取所有可能的（不考虑顺序）$l$ -随机矩阵$R$列的逐列乘积。
2019-10-31 cs.DS cs.LG stat.ML
On unified view of nullspace-type conditions for recoveries associated with general sparsity structures
我们讨论了一个一般的概念，“稀疏结构”和相关的恢复稀疏信号从其线性图像的降维可能与噪声损坏。我们的方法允许统一处理（a）“通常的稀疏性”和“通常的$\ell_1$恢复”，（b）块稀疏性与可能重叠的块和相关的块- $\ell_1$恢复，和（c）低秩定向恢复核范数最小化。所提出的恢复例程是压缩感知中使用的通常的$\ell_1$最小化的自然扩张。具体来说，我们提出了零空间类型的充分条件的恢复是精确的稀疏信号在无噪声的情况下。然后，我们推导出不完美的误差界（近稀疏信号，存在观测噪声等）。在这种条件下恢复。在所有这些情况下，我们提出了有效地验证相关的零空间属性的有效性的充分条件。
2012-07-04 cs.IT math.IT math.OC
Exact Tensor Completion from Sparsely Corrupted Observations via Convex Optimization
Hong Kong Baptist University（香港浸会大学）
本文对多维数组，特别是三阶张量的可证明估计进行了严格的分析，从其损坏项的随机子集。我们的研究很大程度上依赖于最近提出的张量代数框架，在该框架中，我们可以获得张量奇异值分解（t-SVD），这是类似于矩阵的SVD，并定义了一个新的概念张量秩称为管秩。我们证明，通过简单地解决一个凸规划，它最小化的加权组合的管核范数，凸代理管秩，和$\ell_1$ -范数，可以恢复一个不相干的张量完全压倒性的概率，只要它的管秩不是太大，腐败是合理的稀疏。有趣的是，我们的结果包括恢复保证的问题，张量完成（TC）和张量主成分分析（TRPCA）在相同的代数设置的特殊情况下。提出了一种交替方向乘子法（ADMM）算法来求解该优化问题。数值实验验证了我们的理论和实际应用证明了我们的算法的有效性。
2017-08-02 cs.CV cs.IT cs.LG
Limits on Sparse Data Acquisition: RIC Analysis of Finite Gaussian Matrices
利用压缩感知（CS）获取稀疏数据的关键问题之一是测量矩阵的设计。高斯矩阵已被证明是信息理论上最优的最小化所需的测量稀疏恢复的数量。本文提出了一种分析有限维高斯测量矩阵的限制等距常数的新方法。所提出的方法依赖于Wishart矩阵的极端特征值的精确分布。首先，我们推导出的概率，限制等距属性是满足一个给定的充分恢复条件的RIC，并提出了一个概率框架来研究对称和非对称RIC。然后，我们通过稳定性和鲁棒性的统计特性分析了噪声中可压缩信号的恢复。所提出的框架确定有限大小的问题的各种稀疏恢复算法的限制。特别是，它提供了一个严格的下限上的最大稀疏秩序的采集数据，允许信号恢复与给定的目标概率。此外，我们推导出简单的近似RIC的Tracy-Widom分布的基础上。
2018-11-22 cs.IT eess.SP math.IT
Compressed Sensing and Matrix Completion with Constant Proportion of Corruptions
当采样数据可能严重损坏时，我们改进了压缩感知和矩阵完备领域的现有结果。我们引入了三个新的定理。1)在压缩感知中，我们表明，如果m \times n传感矩阵具有独立的高斯条目，那么可以恢复稀疏信号x精确地通过易处理的\ell 1最小化，即使测量的正分数被任意损坏，提供的非零条目的数量在x是O（m/（log（n/m）+ 1））。2)在Candes和Plan的“A probabilistic and RIPless theory of compressed sensing”中介绍的非常一般的感知模型中，假设损坏的测量值的正分数，如果信号现在具有O（m/（log^2 n））非零条目，则精确恢复仍然成立。3)最后，我们证明了一个可以恢复一个n \times n低秩矩阵从m损坏的采样项通过易处理的优化提供的秩是O（m/（n log^2 n））的顺序;再次，这保持当有一个积极的分数损坏的样本。
2012-01-18 cs.IT math.IT stat.ML
Completing Low-Rank Matrices with Corrupted Samples from Few Coefficients in General Basis
Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）；Shanghai Jiao Tong University（上海交通大学）
从损坏和丢失的数据中恢复子空间对于信号处理和信息论中的各种应用是至关重要的。为了完成缺失值和检测列损坏，现有的鲁棒矩阵完成（MC）方法大多集中于从少量损坏系数w.r.t.标准基础，但不适用于更一般的基础，例如，傅立叶基本文证明了秩为$r$的$m\times n$矩阵的值域空间可以由较少的系数w. r. t精确地恢复。一般的基础上，虽然$r$和损坏的样本的数量都高达$O(\min\{m,n\}/\log^3 (m+n))$。我们的模型涵盖了以前的特殊情况下，和强大的MC可以恢复具有更高的秩的内在矩阵。此外，我们建议一个通用的正则化参数，这是$λ=1/\sqrt{\log n}$的选择。通过我们的$\ell_{2,1}$滤波算法，这是有理论保证的，我们可以进一步减少我们的模型的计算成本。作为应用，我们还发现扩展的鲁棒低秩表示和扩展的鲁棒MC的解是相互可表达的，因此在一定条件下，我们的理论和算法都可以应用于具有缺失值的子空间聚类问题.实验验证了我们的理论。
2016-05-23 cs.IT cs.LG cs.NA
Guaranteed Low-Rank Tensor Recovery from Modewise Measurements via Normalized Block-Weighted Riemannian Gradient Descent
School of Mathematics and Statistics, Southwest University（西南大学数学与统计学院）
本文提出一种自适应块加权模向黎曼梯度下降方法，用于从线性测量中恢复低多线性秩张量，通过归一化加权策略改善收敛性，并在理论上建立线性收敛和采样保证，实验验证其高效性和可靠性。
2026-09-22 cs.LG
On Verifiable Sufficient Conditions for Sparse Signal Recovery via $\ell_1$ Minimization
我们提出了新的充要条件的传感矩阵是“$s$ -好”-允许精确的$\ell_1$ -恢复稀疏信号与$s$非零条目时，没有测量噪声存在。然后，我们表示不完美的$\ell_1$ -恢复（非零测量噪声，近$s$ -稀疏信号，产生$\ell_1$ -恢复的最优化问题的近最优解）的这些条件下的特征方面的误差界。此外，我们证明（这是本文的主要结果），这些特性，虽然难以评估，导致可验证的充分条件精确稀疏的$\ell_1$恢复和有效地计算上界的那些$s$，其中一个给定的传感矩阵是$s$ -好。我们还建立了我们的方法和压缩感知理论的基本概念之间的指导性联系，如限制等距或限制特征值属性。
2010-05-31 math.OC math.ST stat.TH
Robust Matrix Completion
本文研究了一个低秩矩阵在其大部分元素不可观测且部分观测元素被破坏的情况下的恢复问题。观测是我们希望恢复的低秩矩阵的和的噪声实现，第二个矩阵具有互补的稀疏结构，例如元素或列稀疏性。我们分析了一类估计通过解决一个约束凸优化问题，结合了核范数和凸松弛稀疏约束。我们的结果是同时存在的随机和确定性模式的抽样方案。我们提供了保证的低秩和稀疏成分的部分和损坏的观测在噪声的存在下，并表明所获得的收敛速度是最小最大最优的恢复。
2016-07-04 math.ST stat.TH
Fast-rate and optimistic-rate error bounds for L1-regularized regression
考虑了当协变量个数p相对于样本量n较大时，采用L1正则化的线性回归的预测误差。当模型是k-稀疏的且明确指定的，并且约束等距或类似条件成立时，预测中的超额平方误差可以限制在σ ^2 *（k*log（p）/n）的量级，其中σ ^2是噪声方差。尽管这些条件接近于准确恢复真实系数向量所需的条件，但可以在温和得多的条件下保证良好的预测准确性，避免受限制的等距条件，但仅确保阶数（k*log（p）/n）+sigma* \surd（k*log（p）/n）的过量误差界。在这里，我们表明，这确实是最好的约束可能（对数因子），而不引入更强的假设类似于限制等距。
2011-08-01 math.ST stat.TH
On the gap between RIP-properties and sparse recovery conditions
本文研究了利用$\ell_p$约束基追踪从欠定线性测量中恢复稀疏向量的问题。以前的分析，这个问题的基础上广义限制等距属性表明，两种现象发生，如果$p\neq 2$。首先，可能需要基本上多于$s \log(en/s)$的测量（对于$p=2$是最佳的）来均匀恢复所有$s$稀疏向量。第二，以最佳测量次数实现恢复的矩阵可能不是高斯的（对于$p=2$）。我们提出了一个新的，直接的分析表明，事实上，这两种现象都没有发生。通过一个合适的版本的零空间属性，我们表明，一个标准的高斯矩阵提供了$\ell_q/\ell_1$恢复保证$\ell_p$约束的基础上追求的最佳测量制度。我们的结果扩展到几个双尾测量矩阵。作为一个应用程序，我们表明，可以获得一致的重建均匀标量量化测量的最佳测量制度。
2015-04-20 cs.IT math.IT math.ST
Sparse recovery via nonconvex regularized $M$-estimators over $\ell_q$-balls
本文在真参数为软稀疏的假设下，分析了非凸正则化$M$ -估计的恢复性质。在统计方面，我们分别在损失函数和正则化子的强凸性和正则性条件下，建立了正则化$M$ -估计的恢复界.在算法方面，我们将目标函数进行了轻微的分解，然后利用近似梯度法求解非凸最优化问题，并证明了该方法具有线性收敛速率。特别是，我们注意到，对于常用的正则化器，如SCAD和MCP，由于我们对正则化器的假设，可以使用更简单的分解，这有助于构建具有更好恢复性能的估计器。最后，我们证明了我们的理论结果和假设的优势，通过几个数值实验上损坏的变量误差线性回归模型。在高维尺度下，模拟结果与我们的理论有很好的一致性。
2019-11-19 math.ST stat.ME stat.TH
ShapeFit: Exact location recovery from corrupted pairwise directions
Massachusetts Institute of Technology（麻省理工学院）；Rice University（莱斯大学）
令$t_1,\ldots,t_n \in \mathbb{R}^d$并考虑位置恢复问题：给定成对方向观测值的子集$\{(t_i - t_j) / \|t_i - t_j\|_2\}_{i<j \in [n] \times [n]}$，其中这些观测值的恒定部分被任意损坏，找到$\{t_i\}_{i=1}^n$直到全局平移和缩放。我们提出了一种新的算法的位置恢复问题，它由一个简单的凸规划$dn$实变量。我们证明了这个程序恢复一组$n$ i.i.d.如果观测值由\erdosrenyi图给出，则$d$足够大，并且假设涉及任何特定位置的观测值中最多有一个常数部分被逆向破坏。我们还证明，该计划完全恢复高斯位置$d=3$，如果损坏的观察在每个位置的分数是，多对数因子，最多是一个常数。这两个恢复定理是基于一组确定性的条件，我们证明是足够的精确恢复。
2015-07-04 cs.CV cs.IT math.CO
Exact simultaneous recovery of locations and structure from known orientations and corrupted point correspondences
Massachusetts Institute of Technology（麻省理工学院）；Rice University（莱斯大学）
设$t_1,\ldots,t_{n_l} \in \mathbb{R}^d$和$p_1,\ldots,p_{n_s} \in \mathbb{R}^d$并考虑二分位置恢复问题：给定成对方向观测值的子集$\{(t_i - p_j) / \|t_i - p_j\|_2\}_{i,j \in [n_l] \times [n_s]}$，其中这些观测值的常数部分被任意损坏，找到$\{t_i\}_{i \in [n_ll]}$和$\{p_j\}_{j \in [n_s]}$直到全局平移和缩放。我们研究了最近引入的Shapefit算法，作为解决此二分位置恢复问题的方法。在这种情况下，ShapeFit由$d(n_l + n_s)$实变量上的简单凸规划组成。我们证明了这个程序恢复一组$n_l+n_s$ i.i.d.如果观测值由二分Erdens-Rényi图给出，则$d$足够大，并且假设涉及任何特定位置的观测值中至多有一个常数部分被逆向破坏。这个恢复定理是基于一组确定性的条件，我们证明是足够的精确恢复。最后，我们提出了一个修改后的管道结构的运动问题，基于这个二分位置恢复问题。
2015-09-16 cs.CV cs.IT math.CO
Sparse linear regression with compressed and low-precision data via concave quadratic programming
我们考虑的问题，从压缩的线性测量数据时，被破坏的量化噪声的k-稀疏向量的恢复。当测量的数目不是足够大时，不同的$k$稀疏解可能存在于可行集中，并且经典的l1方法可能是不成功的。为此，我们提出了一种非凸二次规划方法，利用先验信息的大小的非零参数。这导致更有效的支持恢复。我们提供了成功恢复的充分条件和数值模拟，以说明所提出的方法的实际可行性。
2019-09-09 cs.LG math.OC stat.ML
Robust Subspace Recovery with Adversarial Outliers
研究了存在对抗性离群点时的鲁棒子空间恢复问题。也就是说，我们寻找一个包含大部分数据集的子空间，当一些数据点被任意损坏时。我们首先研究了一个理论估计，是难以计算和使用它来获得信息理论界的确切恢复。然后，我们提出了两个易于处理的估计：RANSAC的一个变种和一个简单的放松的理论估计。这两个估计是快速计算和实现最先进的理论性能在一个无噪声RSR设置对抗离群值。前者估计量在无噪声情况下实现了更好的理论保证，而后者估计量对小噪声具有鲁棒性，并且其保证显著改善了离群值的非对抗性模型。我们给出了对抗RSR问题的保证的完整比较，以及对仿射子空间估计的简短讨论。
2019-04-05 cs.LG math.OC stat.ML
Sparse Recovery Analysis of Generalized $J$-Minimization with Results for Sparsity Promoting Functions with Monotonic Elasticity
在本文中，我们从理论上研究精确恢复稀疏向量压缩测量最小化一般非凸函数，可以分解成属于一类光滑非凸稀疏促进函数的单变量函数的总和。其中，空间性质（NSP）和限制等距性质（RIP）是主要的理论工具。引入与稀疏性提升函数相关联的\emph{scale function}的概念，以推广$l_p$最小化问题的最新分析技术。分析是用来推导出一个上限的零空间常数（NSC）与这个一般的非凸最小化问题，这是进一步利用推导出的充分条件，精确的恢复作为上限的限制等距常数（RIC），以及最佳稀疏$K$的界限，精确的恢复发生。导出的界限显式计算时，稀疏促进功能$f$考虑拥有的属性，相关的\emph{elasticity function}，定义为，$ψ(x)=\frac{xdf(x)/dx}{f(x)}$，是单调的性质。数值模拟进行了验证的有效性的界限和有趣的结论得出不同的稀疏促进功能的比较性能的问题的$1$稀疏信号恢复。
2020-10-19 cs.IT math.IT math.OC
On partial sparse recovery
我们考虑的问题，恢复欠定线性方程组的部分稀疏的解决方案，通过最小化的$\ell_1$ -范数的一部分，已知是稀疏的解决方案向量。这样的问题与压缩感知中的经典问题密切相关，其中整个解向量的$\ell_1$范数被最小化。我们引入类似物的限制等距和零空间属性的恢复部分稀疏向量，并表明，这些新的属性是隐含的原来的同行。我们还展示了如何在噪声测量下将恢复扩展到部分稀疏的情况。
2013-04-09 cs.IT math.IT math.OC
Minimization of Nonsmooth Weakly Convex Function over Prox-regular Set for Robust Low-rank Matrix Recovery
Institute of Science Tokyo（东京科学大学）
本文提出了一种基于弱凸函数的非凸非光滑优化模型，用于鲁棒低秩矩阵恢复，通过投影变量平滑算法和收敛性分析，提升了对异常值的鲁棒性。
2026-02-02 eess.SP math.OC
Global and Local Analyses of Nonlinear Low-Rank Matrix Recovery Problems
限制等距性（RIP）是一个众所周知的条件，保证没有虚假的局部极小值的低秩矩阵恢复问题的线性测量。在本文中，我们引入了一个新的性质命名为界差性质（BDP）研究低秩矩阵恢复问题的非线性测量。使用RIP和BDP联合，我们首先专注于秩1矩阵恢复问题，为此，我们提出了一个新的标准来证明不存在虚假的局部极小在整个空间。然后，我们分析了一般情况下，任意的排名，并推导出一个条件，以排除有一个虚假的解决方案，在一个球周围的真正的解决方案的可能性。发达国家的条件导致更强的理论保证比现有的RIP的界限。
2020-12-11 math.OC
A Preconditioned Riemannian Gradient Descent Algorithm for Low-Rank Matrix Recovery
针对低秩矩阵恢复问题，本文提出基于行列范数加权的预处理黎曼梯度下降算法，在限制等距性质下给出理论保证，实验显示其较传统RGD最多提速十倍。
2023-05-04 math.OC
Improved RIP-Based Bounds for Guaranteed Performance of two Compressed Sensing Algorithms
迭代硬阈值（IHT）和压缩采样匹配追踪（CoSaMP）是两种主流的利用硬阈值算子进行信号恢复和逼近的压缩感知算法。主要分析了在感知矩阵的约束等距常数$ δ_K$（其中$K$是整数），小于间隔$(0,1).$中的某个阈值。用于确保利用特定算法的信号恢复成功的某个常数$ δ^* \leq 1 $的条件$ δ_{K}< δ^*$被称为限制等距性质。基于（RIP为基础的）边界保证算法的性能。目前，用于通过IHT保证恢复$k$稀疏信号的最知名的基于RIP的界限是$δ_{3k}< 1/\sqrt{3}\approx 0.5774,$，并且用于通过CoSaMP保证恢复的界限是$δ_{4k} < 0.4782. $。该领域的基本问题是这样的理论结果是否可以进一步改进。本文的目的是肯定地回答这个问题，并严格表明，RIP为基础的界限保证性能的IHT可以显着提高到$ δ_{3k} < (\sqrt{5}-1)/2 \approx 0.618, $和CoSaMP的界限可以提高和推到$ δ_{4k}< 0.5102. $这些改进是通过一个深属性的硬阈值算子。
2020-09-22 eess.SP math.OC
Square Root Principal Component Pursuit: Tuning-Free Noisy Robust Matrix Recovery
Columbia University（哥伦比亚大学）
我们提出了一个新的框架-平方根主成分追踪-低秩矩阵恢复与噪声和离群值损坏的观察。受平方根Lasso的启发，这种新的公式不需要噪声水平的先验知识。我们表明，一个单一的，普遍的正则化参数的选择足以实现重建误差成正比（先验未知）的噪声水平。相比之下，以前的配方，如稳定的PCP依赖于噪声相关的参数来实现类似的性能，因此在噪声水平未知的应用中部署具有挑战性。我们通过模拟和真实数据集上的实验验证了我们的新方法的有效性。我们的模拟证实了正则化参数的普遍选择在一系列噪声水平上产生接近最佳性能的说法，表明所提出的方法优于这里证明的（有点松散的）界限。
2021-10-28 cs.LG eess.SP math.OC
The Augmented Lagrange Multiplier Method for Exact Recovery of Corrupted Low-Rank Matrices
Key Laboratory of Machine Perception, School of EECS, Peking University（北京大学信息科学技术学院机器学习实验室）；Institute of Computing Technology, Chinese Academy of Sciences, China（中国科学院计算技术研究所）；Visual Computing Group, Microsoft Research Asia, Beijing 100190, China, and Electrical & Computer Engineering Department, University of Illinois at Urbana-Champaign, USA（微软亚洲研究院视觉计算组；伊利诺伊大学厄巴纳-香槟分校电气与计算机工程系）
针对鲁棒主成分分析问题，提出基于增广拉格朗日乘子法的可扩展快速算法，实现被任意破坏的低秩矩阵的精确恢复，并证明其最优性和收敛速率。
2013-10-18 cs.NA cs.SY eess.SY
Local and Global Linear Convergence of General Low-rank Matrix Recovery Problems
在约束等距性质的假设下，研究了基于梯度的局部搜索法在对称和非对称两种情形下求解一般目标的低秩矩阵恢复问题的收敛速度.首先，我们开发了一种新的技术来验证Polyak-Lojasiewicz不等式的全局极小，这导致了一个局部的线性收敛区域的梯度下降法的附近。其次，基于局部收敛结果和本文证明的一个严格鞍点性质，给出了扰动梯度下降法全局线性收敛的两个新条件.发展的局部和整体收敛结果提供了更强的理论保证比现有的结果。作为一个副产品，这项工作显着提高了现有的RIP常数的界限，以保证不存在虚假的解决方案。
2022-03-08 math.OC
Guaranteed Recovery of Planted Cliques and Dense Subgraphs by Convex Relaxation
本文研究了给定图中任意k结点子图的判定问题。我们把这个问题写为秩约束基数最小化的一个实例，然后使用核和11范数放松。虽然原来的组合问题是NP-困难的，我们证明了denominik-子图可以从我们的凸松弛的解决方案，某些程序的输入。特别是，我们建立准确的恢复的情况下，输入图包含一个单一的种植集团加噪声的形式损坏的邻接关系。我们考虑这种噪声的两种构造。在第一种情况下，噪声是由对手确定性地删除种植集团内的边缘，并放置转移边缘。在第二种情况下，随机执行这些边缘损坏。在二部图中，也建立了类似的恢复保证确定的denominant子图的固定大小，和随机生成的图的数值模拟的结果，包括证明我们的算法的有效性。
2015-05-17 math.OC
An analysis of noise folding for low-rank matrix recovery
先前关于低秩矩阵恢复的工作集中在矩阵无噪声且测量被噪声破坏的情况下。然而，在实际应用中，矩阵本身通常会受到随机噪声的干扰。本文简要地研究了这种情况下，并证明，对于大多数测量方案中使用的压缩感知，这两个模型是等效的，与（\ref{eq.3}）相关的噪声是由一个因子大到$mn/M$，其中$m,~n$是矩阵的维数和$M$是测量的数量的中心区别。此外，本文还讨论了低秩矩阵的重构问题，基于关联零空间的性质，给出了保证鲁棒恢复的充分条件，并得到了观测值的个数。在此基础上，对非高斯噪声情况下的非高斯噪声进行了进一步的研究，并给出了相应的结果。仿真实验一方面显示了噪声方差对恢复性能的影响，另一方面验证了所提模型的可验证性。
2020-03-06 cs.IT math.IT math.OC
