Factor Group-Sparse Regularization for Efficient Low-Rank Matrix Recovery
Cornell University（康奈尔大学）
本文提出了一类新的非凸正则化子，用于低秩矩阵的恢复。许多正则化子的动机是作为矩阵秩函数的凸松弛。我们的新的因子组稀疏正则化的动机是作为一个放松的非零列的矩阵分解的数量。这些非凸正则化子比核规范更尖锐，事实上，我们证明了它们与任意小$0 < p \leq 1$的Schatten-$p$规范有关。此外，这些因子组稀疏正则化器可以写成因子化的形式，从而实现高效和有效的非凸优化;值得注意的是，该方法不使用奇异值分解。我们提供了低秩矩阵完备化的泛化误差界，这表明随着$p$的减小，Schatten- $p$范数正则化的上界得到了改进。与核范数的最大范数和因子化形式相比，因子组稀疏正则化更有效，更准确，并且对秩的初始猜测具有鲁棒性。实验结果表明，因子组稀疏正则化方法在低秩矩阵完备化和鲁棒主成分分析中具有良好的性能。
2019-11-18 cs.LG stat.ML
Exact Low Tubal Rank Tensor Recovery from Gaussian Measurements
Carnegie Mellon University（卡内基梅隆大学）；National University of Singapore（新加坡国立大学）；Peking University（北京大学）；Shanghai Jiao Tong University（上海交通大学）；AI Institute（360人工智能研究院）
最近提出的张量核范数（TNN）[Lu et al.，2016; 2018 a]是由张量SVD引起的一个有趣的凸惩罚[Kilmer和Martin，2011]。它起着类似于矩阵核范数的作用，是矩阵秩的凸代理。考虑到基于TNN的张量鲁棒PCA [Lu等人，2018 a]是Robust PCA的一个优雅扩展，具有类似的紧恢复界，很自然地解决了从矩阵情况扩展的其他低秩张量恢复问题。然而，扩展和证明通常是繁琐的。一般原子范数提供了低复杂度结构诱导范数的统一视图，例如，$\ell_1$ -范数和核范数。精确恢复的基础上原子规范的通用测量所需的数量的尖锐估计是已知的文献。在本文中，通过对原子集的仔细选择，我们证明了TNN是一个特殊的原子范数。然后，通过计算高斯宽度的某些锥，这是必要的尖锐估计，我们得到了一个简单的界保证低管秩张量恢复高斯测量。具体来说，我们表明，通过解决TNN最小化问题，潜在的张量的大小$n_1\times n_2\times n_3$与管秩$r$可以完全恢复时，给定的高斯测量数是$O(r(n_1+n_2-r)n_3)$。与自由度$r(n_1+n_2-r)n_3$相比，它是阶次最优的.在高斯映射的基础上，通过TNN极小化给出了基于均匀随机映射的张量完备化的恢复保证。数值实验验证了我们的理论结果。
2018-06-07 cs.LG stat.ML
Guaranteed Tensor Recovery Fused Low-rankness and Smoothness
School of Mathematics and Statistics, Southwest University（西南大学数学与统计学院）；Macau Institute of Systems Engineering, Macau University of Science and Technology（澳门科技大学澳门系统工程研究所）
针对现有融合低秩性与光滑性的张量恢复方法缺乏理论保证的问题，本研究构建了可同时编码两种先验的单一正则化项，首次证明了张量补全与鲁棒主成分分析任务的精确恢复保证，且在高缺失率等场景下性能显著优于现有最优方法。
2023-02-04 cs.AI cs.CV cs.LG
Sparse Bayesian Methods for Low-Rank Matrix Estimation
提出基于稀疏贝叶斯学习的矩阵补全和鲁棒主成分分析算法，通过稀疏约束自动确定秩并实现高恢复性能。
2011-09-09 cs.LG cs.SY eess.SY
Greedy Approach for Low-Rank Matrix Recovery
我们描述了简单的贪婪矩阵完成算法提供了一个有效的方法，从不完整的损坏的条目恢复低秩矩阵。我们提供的数值证据表明，即使在最简单的实现，贪婪的方法可能会增加现有算法的恢复能力显着。
2013-04-15 cs.IT cs.NA math.IT
Iterative Hard Thresholding for Low-Rank Recovery from Rank-One Projections
Texas A&M University（德克萨斯农工大学）
本文提出并分析了一种新的算法，用于从压缩线性测量中恢复低秩矩阵，该算法在标准秩受限等距性质失效的情况下（如亚指数无结构测量或亚高斯秩一测量）仍能有效工作，通过独特的矩阵分析工具建立了算法的稳定性和鲁棒性，并通过数值实验验证了其性能。
2018-10-28 cs.NA math.NA
Low rank tensor recovery via iterative hard thresholding
RWTH Aachen University（亚琛工业大学）；Technische Universität Berlin（柏林工业大学）；University of Bonn（波恩大学）
本文研究了压缩感知和低秩矩阵恢复在高阶低秩张量恢复中的扩展，提出迭代硬阈值法在HOSVD、TT和HT分解中的应用，并证明了其收敛性及测量算子的张量受限等距性质。
2016-02-16 cs.IT cs.NA math.IT
Exploiting the structure effectively and efficiently in low rank matrix recovery
低秩模型起源于广泛的应用，包括机器学习、信号处理、计算机代数、计算机视觉和成像科学。低秩矩阵恢复是关于从不完整的测量重构低秩矩阵。在这项调查中，我们回顾了低秩矩阵恢复的最新进展，重点放在三个典型的情况下：矩阵传感，矩阵完成和相位检索。综述了该问题的有效和高效的方法，包括核范数最小化，基于矩阵分解的投影梯度下降，以及基于低秩矩阵嵌入流形的黎曼优化。数值配方不同的方法强调，同时伴随着相应的理论恢复保证。
2018-09-11 cs.NA math.NA
The minimal measurement number for low-rank matrices recovery
LSEC, Inst. Comp. Math., Academy of Mathematics and System Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院计算数学研究所、拉格朗日计算科学中心）
本文研究低秩矩阵恢复中所需最小测量数，通过代数工具证明复数矩阵需4nr-4r²测量，实数矩阵在特定条件下证明该界限紧致，并通过构造实例推翻原有猜想。
2015-05-27 cs.IT cs.NA math.IT
Sufficient recovery conditions for noise-buried low rank tensors
该研究提出依赖低秩表示类型、秩和张量维度的低秩张量逼近误差界，证明高维低秩结构逼近比同秩同元素数矩阵的噪声滤波性能更优，为噪声掩埋低秩张量恢复提供理论支撑。
2024-12-13 cs.NA math.NA
GNMR: A provable one-line algorithm for low rank matrix recovery
Weizmann Institute of Science（魏茨曼科学研究所）
低秩矩阵恢复问题，包括矩阵补全和矩阵检测，出现在广泛的应用。在这项工作中，我们提出了GNMR -一个非常简单的迭代算法低秩矩阵恢复，基于高斯-牛顿线性化。在理论方面，我们得到恢复保证GNMR在矩阵检测和矩阵完成设置。其中一些结果改进了目前已知的其他方法。GNMR的一个关键属性是它在整个迭代过程中隐式地保持因子矩阵近似平衡。在经验方面，我们表明，对于均匀采样的矩阵完成，GNMR比几种流行的方法表现得更好，特别是当给出非常少的观测接近信息限制时。
2022-04-27 cs.LG cs.NA math.NA
Riemannian thresholding methods for row-sparse and low-rank matrix recovery
在本文中，我们提出了修改的迭代硬阈值（IHT）方法恢复联合行稀疏和低秩矩阵。特别是一个黎曼版本的IHT被认为是显着降低计算成本的梯度投影的情况下，秩一测量算子，这在盲反卷积的具体应用。实验结果表明，高斯和秩一测量接近最佳的恢复，自适应步长提供了至关重要的改善。对于稀疏性未知的特殊情况，导出了一种黎曼近似梯度法.
2022-09-30 cs.NA math.NA math.OC
One-Bit Sensing of Low-Rank and Bisparse Matrices
本文研究了低秩与双稀疏矩阵在one-bit sensing下的最坏情况恢复误差，通过consistency width概念给出理论衰减估计，并提出了在factorized Gaussian sensing schemes下可实现恢复误差按最优速率六次方根衰减的算法。
2019-01-19 cs.IT cs.NA math.IT
RIP-based performance guarantee for low-tubal-rank tensor recovery
School of Mathematics and Statistics, Southwest University（西南大学数学与统计学院）；Xi’an Jiaotong University（西安交通大学）；College of Artificial Intelligence, Southwest University（西南大学人工智能学院）
提出正则化张量核范数最小化模型，通过定义张量受限等距性质，证明在t-RIP条件下可从少量线性噪声测量中稳定恢复三阶张量。
2019-09-17 cs.IT cs.NA math.IT
Low-rank matrix recovery via regularized nuclear norm minimization
本文在无约束正则核范数最小化（RNNM）框架下，从理论上研究了低秩矩阵恢复问题。我们的理论研究结果表明，RNNM方法能够提供一个强大的恢复任何矩阵$X$（不一定是完全低秩）从它的几个噪声测量$\textbf{b}=\mathcal{A}(X)+\textbf{n}$与有界约束$\|\textbf{n}\|_{2}\leqε$，提供的$tk$阶限制等距常数（RIC）的$\mathcal{A}$满足一定的约束有关$t>0$。具体地，发现在$t>4/3$的情况下获得的恢复条件与之前由Cai和Zhang（2014）建立的尖锐条件相同，以保证通过约束核范数最小化方法精确恢复任何秩- $k$矩阵。更重要的是，据我们所知，我们是第一个建立$tk$阶RIC的鲁棒零空间属性的系数估计的情况下，$0<t\leq1$。
2021-03-06 cs.NA math.NA
Soft Recovery Through $\ell_{1,2}$ Minimization with Applications in Recovery of Simultaneously Sparse and Low-Rank Matrice
Institut für Mathematik Technische Universität Berlin（柏林工业大学数学研究所）
本文提出了一种新的压缩感知技术分析方法，通过ℓ₁,₂范数最小化实现矩阵的软恢复，解决了同时稀疏和低秩矩阵的恢复问题。
2016-09-08 cs.NA math.NA
Unicity conditions for low-rank matrix recovery
本文研究了通过任意方法（包括不可行方法）恢复低秩矩阵所需的最少测量次数，给出了随机测量系综下保证秩最小化均匀恢复所有秩r矩阵的充分必要条件，并与核范数最小化的性能进行了比较。
2011-03-28 cs.IT cs.NA cs.SY
Stochastic Iterative Hard Thresholding for Low-Tucker-Rank Tensor Recovery
低秩张量恢复问题在信号处理和机器学习的许多应用中得到了广泛的研究。Tucker分解是张量框架中最流行的分解之一。近年来，研究人员开发了许多最先进的算法来解决低Tucker秩张量恢复问题。受随机算法（如随机梯度下降和随机迭代硬阈值）的良好特性的启发，我们的目标是将众所周知的随机迭代硬阈值算法扩展到张量框架，以解决从其线性测量恢复低Tucker秩张量的问题。我们还开发了所提出的方法的线性收敛分析，并进行了一系列的实验与合成和真实的数据来说明所提出的方法的性能。
2020-07-16 cs.NA math.NA
Robust recovery of low-rank matrices and low-tubal-rank tensors from noisy sketches
针对带噪声线性草图下的低秩矩阵恢复，本文分析双重草图算法，并基于非渐近随机矩阵理论首次给出误差保证，且推广至低秩矩阵逼近与低管秩张量恢复。
2023-07-14 cs.NA math.NA math.PR
Rank adaptive tensor recovery based model reduction for partial differential equations with high-dimensional random inputs
ShanghaiTech University（上海科技大学）
本文提出了一种基于秩自适应张量恢复的系统降维方法，用于处理具有高维随机参数的偏微分方程模型。通过核主成分分析在降维空间中构造随机格点近似，针对高维随机输入问题开发了新的高效秩自适应张量恢复方法，并提出了非凸优化问题中的新高效初始化策略，建立了总体降维方法的数学框架，分析了其稳定性，并通过数值实验展示了其效率。
2019-02-14 cs.NA math.NA
Guarantees of Riemannian Optimization for Low Rank Matrix Recovery
University of California at Davis（加州大学戴维斯分校）；Hong Kong University of Science and Technology（香港科技大学）
本文研究了低秩矩阵恢复中黎曼优化算法的理论保证，通过将算法解释为子空间投影的迭代硬阈值算法，证明在受限等距常数条件下，黎曼梯度下降和重启黎曼共轭梯度算法能线性收敛至目标矩阵。
2016-04-09 cs.NA math.NA
Recovery algorithms for high-dimensional rank one tensors
Universität Jena（耶拿大学）；Universität Göttingen（哥廷根大学）
本文提出确定性算法，用于从函数值中恢复高维秩一张量，针对不同M值分析问题的可处理性，提出更高效的确定性算法。
2018-08-18 cs.NA math.NA
Jointly Low-Rank and Bisparse Recovery: Questions and Partial Answers
我们调查的问题，恢复联合$r$秩和$s$双解析矩阵从尽可能少的线性测量，考虑任意测量以及秩一测量。在这两种情况下，我们表明，$m \asymp r s \ln(en/s)$测量使恢复在理论上是可能的，这意味着通过一个不切实际的算法。在任意测量的情况下，我们研究了当$m \asymp r s^γ\ln(en/s)$为某个指数$γ> 0$时，通过迭代硬阈值算法实现实际恢复的可能性。我们表明，这是可行的$γ= 2$，提出的分析不能涵盖的情况下$γ\leq 1$。最优指数$γ\in [1,2]$的精确值是本文提出但未解决的关于联合低秩双解析结构的头部投影的问题的目标。一些相关的问题在这里得到了部分的回答。对于秩一测量，我们建议在《双城之战》神秘的理由迭代硬阈值算法修改，以利用非标准的限制等距属性服从这类测量。
2019-10-23 cs.NA math.NA
Parameter optimization for low-rank matrix recovery in hyperspectral imaging
本文针对高光谱成像中的低秩矩阵恢复方法提出参数优化框架，以计算时间、内存和峰值信噪比为指标，在 Indian Pines、Pavia Centre 和 Pavia University 等公开数据集上验证了优化初始参数对降噪性能的改善。
2023-08-09 cs.NA math.NA math.OC
Recovery of Sparse and Low Rank Components of Matrices Using Iterative Method with Adaptive Thresholding
Advanced Communication Research Institute (ACRI), Electrical Engineering Department, Sharif University of Technology（德黑兰理工大学先进通信研究院）
本文提出一种利用自适应阈值迭代方法恢复矩阵稀疏和低秩成分的算法，通过阈值操作获取低秩和稀疏成分，具有高效性和易实现性，并在非稀疏噪声应用中表现出良好的性能。
2017-04-12 cs.NA math.NA stat.ML
Orthogonally weighted $\ell_{2,1}$ regularization for rank-aware joint sparse recovery: algorithm and analysis
Georgia Institute of Technology（佐治亚理工学院）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出一种名为正交加权 $\ell_{2,1}$ 的正则化方法解决联合稀疏恢复问题，该方法具备秩感知特性，能利用解矩阵的满秩特征，并提供了理论证明与高效收敛算法，数值实验验证了其有效性。
2023-11-21 cs.LG cs.NA math.NA
Triple Decomposition and Tensor Recovery of Third Order Tensors
本文介绍了一种新的三阶张量的张量分解，它将一个三阶张量均衡地分解为三个三阶低阶张量。我们称这样的分解为三重分解，相应的秩为三重秩。对于一个三阶张量，它的CP分解可以看作是它的三重分解的一个特例。三阶张量的三重秩不大于Tucker秩的中间值，并且对于一类基本例子严格小于Tucker秩的中间值.这表明，只要实际数据能用低秩CP或Tucker分解近似，就可以用低秩三重分解近似。这一理论发现在数值上得到了证实。数值实验表明，网络流量、视频图像等实际应用中的三阶张量数据具有较低的三阶秩。提出了一种基于低秩三重分解的张量恢复方法。证明了它的收敛性和收敛速度。数值实验证实了该方法的有效性。
2020-03-01 cs.NA math.NA
Color image recovery using low-rank quaternion matrix completion algorithm
四元数作为一种新的彩色图像表示工具，在彩色图像处理问题中取得了很好的效果。本文提出了一种新的低秩四元数矩阵补全算法来恢复彩色图像的丢失数据。受传统矩阵方法中的两种低秩近似方法（低秩分解和核范数最小化）的启发，我们将这两种方法结合到我们的四元数矩阵模型中。进一步地，用四元数矩阵的两个低秩因子四元数矩阵的Frobenius范数之和代替四元数矩阵的核范数。根据四元数矩阵与其等价复矩阵的关系，将问题最终从四元数数域转化为复数域。应用交替极小化方法求解该模型。对实际彩色图像恢复的仿真结果表明，该算法的性能和效率优于一些最先进的基于张量的算法。
2019-09-14 cs.NA eess.IV math.NA
On Trimming Tensor-structured Measurements and Efficient Low-rank Tensor Recovery
研究从张量结构线性测量中进行低秩张量恢复，提出局部修剪技术恢复张量结构映射特性，还给出两种新型张量IHT算法，经理论保证和数值实验验证，相比原始算法在低秩张量恢复上更高效。
2026-09-30 cs.NA math.NA
Robust Low-Tubal-rank tensor recovery Using Discrete Empirical Interpolation Method with Optimized Slice/Feature Selection
该研究基于t积将离散经验插值法推广到三阶张量得到TDEIM，用于张量重要切片/特征选择，经理论和数值验证其近似精度优于现有方法，并可应用于监督分类任务。
2023-05-07 cs.NA math.NA
Sensitivity of low-rank matrix recovery
本文研究低秩矩阵恢复与秩-r近似问题的一阶灵敏度，给出条件数计算算法和显式公式，并揭示其依赖于相对奇异值间隙。
2021-10-05 cs.NA math.NA
Provable Near-Optimal Low-Multilinear-Rank Tensor Recovery
我们考虑从少量的线性测量恢复低多线性秩张量的问题。我们表明，黎曼梯度算法初始化的一个步骤的迭代硬阈值可以重建一个顺序$d$张量的大小$n\times\ldots\times n$和多线性秩$(r,\ldots,r)$仅$O(nr^2 + r^{d+1})$测量的概率高，假设$d$是一个常数。这种采样复杂度在$n$中是最优的，与现有的结果相比，现有的结果在$n$中的采样复杂度都是不必要的大。分析依赖于张量限制等距属性（TRIP）和几何流形的所有张量与一个固定的多线性秩。我们的算法的高计算效率也实现了通过做高阶奇异值分解的大小只有$2r\times \ldots\times 2r$，而不是像往常一样大小$n\times \ldots\times n$张量的中间小张量。
2021-01-13 cs.NA math.NA
A Fast Algorithm for Convolutional Structured Low-Rank Matrix Recovery
University of Michigan（密歇根大学）；University of Iowa（爱荷华大学）
本文提出GIRAF算法，利用卷积结构在原始域中操作，有效降低计算复杂度和内存需求，提升大规模图像超分辨恢复效率。
2017-06-25 cs.NA math.NA math.OC
Subspace based low rank and joint sparse matrix recovery
Univ. Iowa（爱荷华大学）
本文研究从欠采样测量中恢复低秩和联合稀疏矩阵的问题，提出在不同测量矩阵下进行测量以减少总测量数，适用于动态MRI图像恢复。
2015-06-02 cs.CV cs.NA math.NA
Modewise Operators, the Tensor Restricted Isometry Property, and Low-Rank Tensor Recovery
从少量的线性测量中恢复稀疏向量和低秩矩阵是众所周知的，在对测量的各种模型假设下是可能的。对测量矩阵的关键要求通常是受限制的等距属性，即当作用于待恢复的子空间时近似正交。最广泛使用的随机矩阵测量模型是（a）独立的亚高斯模型和（b）随机化的基于傅立叶的模型，允许测量的有效计算。对于现在普遍存在的张量数据，直接应用已知的恢复算法的矢量化或矩阵化的张量是笨拙的和内存繁重的，因为巨大的测量矩阵被构造和存储。在本文中，我们提出了基于亚高斯和随机傅立叶测量的模式测量方案。这些模态算子分别作用于张量模的成对或其他小的子集。它们需要比在矢量化张量上工作的测量显著更少的存储器，可证明满足张量限制等距属性，并且实验上可以从更少的测量恢复张量数据，并且不需要不切实际的存储。
2021-09-21 cs.NA math.NA
Time-Varying Graph Signal Recovery Using High-Order Smoothness and Adaptive Low-rankness
针对时变图信号恢复问题，提出结合高阶Sobolev光滑性与误差函数加权核范数正则化的方法，设计两种高效算法并证明其一收敛性，实验验证其效果优于现有最优方法。
2024-05-16 cs.NA eess.SP math.NA
