Targeted matrix completion
University of Southern California（南加州大学）
矩阵补全是在许多数据分析设置中出现的问题，其中输入由部分观察的矩阵组成（例如，推荐系统、流量矩阵分析等）。经典的矩阵完备化方法假设输入的部分观测矩阵是低秩的。这些方法的成功取决于观察到的条目的数量和矩阵的秩;秩越大，为了准确地完成矩阵，需要观察的条目就越多。在本文中，我们处理矩阵，不一定是低秩本身，而是他们包含低秩子矩阵。我们提出了有针对性的，这是一个通用的框架，完成这样的矩阵。在这个框架中，我们首先提取低秩子矩阵，然后分别对这些低秩子矩阵和剩余矩阵应用矩阵完备化算法。虽然对于完成本身，我们使用国家的最先进的完成方法，我们的结果表明，有针对性的实现显着较小的重建误差比其他经典的矩阵完成方法。本文的关键技术贡献之一在于从输入部分可观测矩阵中识别出低秩子矩阵。
2017-04-30 cs.LG stat.ML
Fast Low-Rank Bayesian Matrix Completion with Hierarchical Gaussian Prior Models
University of Electronic Science and Technology of China（电子科技大学）；Stevens Institute of Technology（斯蒂文斯理工学院）
研究了低秩矩阵的完备化问题。为了利用数据矩阵的底层低秩结构，我们提出了一个分层高斯先验模型，其中假设低秩矩阵的列遵循具有零均值和公共精度矩阵的高斯分布，并将Wishart分布指定为精度矩阵的超先验。我们表明，这样的分层高斯先验有可能鼓励低秩的解决方案。基于所提出的层次先验模型，提出了一种矩阵完备化的变分贝叶斯方法，该方法将广义近似消息传递（GAMP）技术嵌入到变分贝叶斯推理中，以避免繁琐的矩阵求逆运算.仿真结果表明，我们提出的方法表现出优于现有的国家的最先进的矩阵完成方法。
2017-08-26 cs.LG stat.ML
Tensor Completion by Multi-Rank via Unitary Transformation
Weifang University（潍坊学院）；The University of Hong Kong（香港大学）；Central China Normal University（华中师范大学）
张量完备化中的一个关键问题是保证恢复所需的均匀随机样本的个数。本文主要研究了基于变换张量奇异值分解的$n_1 \times n_2 \times n_3$三阶张量完备化方法，并给出了所需样本项数目的一个界。我们的方法是利用底层张量的多秩而不是其在界中的管秩。在合成和成像数据集的数值实验中，我们证明了我们提出的样本条目数的有效性。此外，我们的理论结果适用于变换张量奇异值分解下$n_3$ -维的任何酉变换。
2022-01-24 cs.LG stat.ML
Consistent Collective Matrix Completion under Joint Low Rank Structure
我们解决了集体矩阵完成问题，共同恢复一组矩阵的共享结构，从部分（和潜在的噪声）的意见。为了确保适定性的问题，我们施加了一个联合低秩结构，其中每个组件矩阵是低秩和潜在空间的低秩因子对应于每个实体是共享的整个集合。首先，我们开发了一个严格的代数表示和操纵集体矩阵结构，并确定一致的集体矩阵估计的充分条件。然后，我们提出了一个易于处理的凸估计解决集体矩阵完成问题，并提供了第一个非平凡的理论保证集体矩阵完成的一致性。我们表明，在第3.1节中所述的合理假设下，具有很高的概率，只要满足定理1所规定的样本复杂性要求，所提出的估计量就可以精确地恢复真实矩阵。本文推导出的样本复杂性要求是最佳的对数因子，并显着提高了标准矩阵完成的平凡扩展所获得的要求。最后，我们提出了一个可扩展的近似算法来解决所提出的凸规划，并通过模拟实验证实了我们的结果。
2015-04-07 cs.LG stat.ML
Robust Low-Rank Tensor Ring Completion
University of Electronic Science and Technology of China（电子科技大学）
低秩张量补全基于不同的张量分解来恢复丢失的条目。低秩张量环由于其在开发高阶数据结构方面的优异性能，在张量完备化中得到了广泛的应用。为了进一步处理其在张量主成分分析中对稀疏分量的敏感性，我们提出了鲁棒张量环完备（RTRC），它将潜在的低秩张量分量从具有有限数量测量的稀疏分量中分离出来。低秩张量分量由其平衡开折的核范数的加权和约束，而稀疏分量由其l1范数正则化。我们分析了RTRC模型，并给出了准确的恢复保证。采用乘子交替方向法将问题分解为若干个子问题，并快速求解。在数值实验中，我们验证了所提出的方法在合成数据上的恢复条件，并表明所提出的方法在许多真实世界的基于数据的任务中，即，光场图像恢复，人脸图像中的阴影去除，以及彩色视频中的背景提取。
2020-04-23 cs.LG stat.ML
Online high rank matrix completion
Cornell University（康奈尔大学）
最近的进展，在矩阵完成使数据填补满秩矩阵，利用低维（非线性）的潜在结构。在本文中，我们开发了一个新的模型，高秩矩阵完成（HRMC），连同批处理和在线方法来拟合模型和样本外扩展，以完成新的数据。该方法的工作原理是使用核技巧将数据（隐式）映射到高维多项式特征空间;重要的是，即使原始数据矩阵是满秩的，数据也会占用该特征空间中的低维子空间。我们引入了一个明确的参数化的低维子空间，和一个在线拟合过程，以减少计算复杂性相比，最先进的在线方法也可以处理流或顺序数据，并适应非平稳的潜在结构。我们提供了这些方法成功所需的采样率的指导。在合成数据和运动捕捉数据上的实验结果验证了所提方法的性能。
2020-02-20 cs.LG stat.ML
A dual framework for low-rank tensor completion
Indian Institute of Science（印度科学学院）；Microsoft（微软）
低秩张量完备化的一种流行方法是使用潜在迹范数正则化。然而，大多数现有的作品在这个方向上学习张量的稀疏组合。在这项工作中，我们填补了这一空白，提出了一个变种的潜在的跟踪规范，有助于学习张量的非稀疏组合。我们开发了一个对偶框架来解决低秩张量完备化问题。我们首先展示了一个新的特征的对偶解空间的最优解的一个有趣的分解。总的来说，最优解位于黎曼流形的笛卡尔积上。此外，我们利用多功能的黎曼优化框架，提出计算效率的信赖域算法。实验结果表明，该算法在几个真实世界的数据集跨应用程序的有效性。
2018-11-10 cs.LG stat.ML
Uncertainty Quantification For Low-Rank Matrix Completion With Heterogeneous and Sub-Exponential Noise
Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
低秩矩阵完成与异构和次指数（相对于均匀和高斯）噪声的问题是特别相关的一些应用在现代商业。例子包括小组销售数据和从网络商务系统（如推荐引擎）收集的数据。一个重要的未解决的问题，这个问题是描述下常见的低秩估计估计矩阵元素的分布。这样的特性是必不可少的任何应用，需要量化的不确定性，在这些估计，迄今为止，只有在假设均匀高斯噪声。在这里，我们的特点估计矩阵条目的分布时，观察噪声是异构的次指数，并提供，作为一个应用程序，明确的公式，这种分布时，观察到的条目是泊松分布或二进制分布。
2021-10-22 cs.LG stat.ML
A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix Completion
Baidu Research（百度研究院）；Paradigm Inc.（第四范式公司）；Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）
矩阵学习是许多机器学习问题的核心。协同过滤、文本挖掘等实际应用都可以归结为低秩矩阵补全问题，即利用低秩假设恢复不完整矩阵。为了确保矩阵解具有低秩，最近的趋势是使用自适应惩罚奇异值的非凸正则化器。它们提供了良好的恢复性能，并具有良好的理论特性，但由于重复访问单个奇异值，计算量很大。本文基于奇异值自适应收缩提高经验性能的关键见解，提出了一种新的非凸低秩正则化器，称为“核范数减Frobenius范数”正则化器，它是可扩展的，自适应的和声音。我们首先证明了它具有自适应收缩特性。此外，我们发现它的因式分解的形式，绕过奇异值的计算，并允许快速优化一般的优化算法。保证了稳定的恢复和收敛。大量的合成和真实世界的数据集上的低秩矩阵完成实验表明，所提出的方法获得了最先进的恢复性能，同时是最快的相比，现有的低秩矩阵学习方法。
2021-02-22 cs.LG stat.ML
Relative Error Bound Analysis for Nuclear Norm Regularized Matrix Completion
National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）；the University of Iowa（爱荷华大学）；Michigan State University（密歇根州立大学）
本文针对核范数正则化矩阵补全，在目标矩阵顶部特征空间不连贯假设下，首次推导出恢复满秩矩阵最佳低秩逼近的相对误差上界，弥补了现有加性误差界无法刻画完美恢复及特征值偏斜分布的不足。
2024-05-29 cs.LG stat.ML
Matrix Completion Under Monotonic Single Index Models
Wisconsin Institutes for Discovery（威斯康星发现研究院）；UW-Madison（威斯康星大学麦迪逊分校）；University of Michigan Ann Arbor（密歇根大学安娜堡分校）
矩阵完备化的最新结果假设所考虑的矩阵是低秩的，或者列是低秩子空间的并集。然而，在现实世界中，这些模型的线性结构被（通常未知的）非线性变换扭曲。本文讨论的挑战，矩阵完成在面对这样的非线性。给定一个矩阵的几个观测值，通过对一个低秩矩阵应用Lipschitz单调函数得到，我们的任务是估计剩余的未观测项。我们提出了一种新的矩阵补全方法，交替低秩矩阵估计和单调函数估计丢失的矩阵元素。均方误差界限提供了对基于矩阵的大小、秩和非线性变换的性质来估计矩阵的程度的洞察。合成和真实世界的数据集上的实证结果证明了所提出的方法的竞争力。
2015-12-29 cs.LG stat.ML
Bayesian Low Rank Tensor Ring Model for Image Completion
低秩张量环模型是一种很好的图像补齐方法，它可以恢复数据采集和转换过程中丢失的条目。最近提出的基于张量环（TR）的完备化算法通常通过预先定义秩的交替最小二乘方法来解决低秩优化问题，当未知秩设置得太大且只有少数测量可用时，这可能容易导致过拟合。本文通过自动学习数据的低秩结构，提出了一种贝叶斯低秩张量环模型用于图像补全。提出了一种适用于低秩张量环分解的乘性相互作用模型，通过假设核心因子的项服从Student- T分布，使核心因子具有稀疏性.与现有方法相比，该方法无需参数调整，TR秩可以通过贝叶斯推断得到。数值实验，包括合成数据，不同大小的彩色图像和YaleFace数据集B相对于一个姿势，表明所提出的方法优于国家的最先进的，特别是在恢复精度方面。
2020-06-29 cs.LG cs.MM stat.ML
Tensor p-shrinkage nuclear norm for low-rank tensor completion
基于张量奇异值分解（t-SVD），提出了一种新的张量p收缩核范数（p-TNN）的定义.特别地，可以证明当p < 1时，p-TNN比张量核范数更好地逼近张量平均秩。因此，通过使用p-收缩核范数，提出了一种新的低秩张量完备（LRTC）模型，从其部分观测值估计张量。在统计上，给出了LRTC模型的恢复误差上界。此外，一个有效的算法，加速的自适应动量计划，开发解决由此产生的非凸优化问题。在光滑性假设下，可以进一步保证算法具有全局收敛速度。在合成数据集和真实数据集上进行的数值实验验证了我们的结果，并证明了我们的p-TNN在LRTC问题中的优越性。
2019-07-09 cs.LG stat.ML
Tensor Completion for Weakly-dependent Data on Graph for Metro Passenger Flow Prediction
The Hong Kong University of Science and Technology（香港科技大学）；Arizona State University（亚利桑那州立大学）；Tsinghua University（清华大学）
由于张量数据的普遍存在，低秩张量分解和完备化引起了学术界的极大兴趣。然而，低秩结构是一个全局属性，当数据呈现复杂和弱依赖性时，给定特定的图结构，这将无法实现。一个特定的应用，激发这项研究是时空数据分析。如初步研究所示，弱依赖性会恶化低秩张量完成性能。本文通过引入$L_{1}$ -范数惩罚和图拉普拉斯惩罚，提出了一种新的低秩CANDECOMP / PARAFAC（CP）张量分解和完成框架，用于对图的弱依赖进行建模.我们进一步提出了一个有效的优化算法的基础上的块坐标下降有效的估计。基于香港地铁客流数据进行了案例研究，以证明改进的性能比常规张量完成方法。
2019-12-11 cs.LG stat.ML
GRNet: Gridding Residual Network for Dense Point Cloud Completion
Harbin Institute of Technology（哈尔滨工业大学）；SenseTime Research（商汤科技研究院）；Nanyang Technological University（南洋理工大学）；The Chinese University of Hong Kong（香港中文大学）；Peng Cheng Laboratory（鹏城实验室）
从不完整的点云中估计完整的3D点云是许多视觉和机器人应用中的关键问题。主流方法（例如，PCN和TopNet）使用多层感知器（MLP）直接处理点云，这可能会导致细节丢失，因为没有充分考虑点云的结构和上下文。为了解决这个问题，我们引入3D网格作为中间表示来规则化无序点云。因此，我们提出了一种新的网格残差网络（GRNet）的点云完成。特别是，我们设计了两个新的微分层，命名为网格和网格反向，点云和3D网格之间的转换，而不会丢失结构信息。我们还提出了可微立方特征采样层来提取相邻点的特征，它保留了上下文信息。此外，我们设计了一个新的损失函数，即Gridding Loss，用于计算预测点云和地面真实点云的三维网格之间的L1距离，这有助于恢复细节。实验结果表明，所提出的GRNet在ShapeNet，Completion3D和KITTI基准测试中表现良好。
2020-07-20 cs.CV cs.LG eess.IV
Low-rank matrix completion theory via Plucker coordinates
Key Laboratory of Mathematics Mechanization, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院数学机械化重点实验室）
尽管低秩矩阵完备化的流行，其理论的大部分已经发展的假设下的随机观测模式，而很少有人知道的实际相关的情况下，非随机模式。具体来说，一个基本但很大程度上开放的问题是描述允许唯一或多个完成的模式。本文提供了两个这样的家庭模式的任何秩。实现这一点的关键是一个新的配方低秩矩阵完成Plucker坐标，后者是传统的计算机视觉的工具。这种连接是潜在的意义，一个广泛的家庭矩阵和子空间学习问题与不完整的数据。
2023-02-23 cs.LG math.AG stat.ML
Low-rank optimization for distance matrix completion
University of Liège（列日大学）
本文研究了低秩距离矩阵的完备化问题。当数据嵌入空间的维度可能未知但与所考虑的数据点的数量相比很小时，这个问题相当于恢复距离矩阵的缺失条目。重点是高维问题。我们将所考虑的问题转化为低秩正半定矩阵集合上的最优化问题，并提出了两个有效的低秩距离矩阵完备化算法。此外，我们提出了一种策略来确定嵌入空间的维数。由此产生的算法规模高维问题和单调收敛到一个全球性的解决方案的问题。最后，数值实验表明所提出的算法在基准测试中具有良好的性能。
2013-04-25 cs.LG math.OC stat.ML
Disjunctive Branch-and-Bound for Certifiably Optimal Low-Rank Matrix Completion
本文提出了一种基于离散分支限界法的低秩矩阵补全方法，通过凸松弛和优化策略，实现可证明最优的矩阵补全，显著降低最优性差距并提升测试误差表现。
2026-03-11 cs.LG math.OC stat.ML
Asymptotic Convergence Rate of Alternating Minimization for Rank One Matrix Completion
Boston University（波士顿大学）
我们研究交替最小化矩阵完成在最简单的可能设置：完成一个秩一矩阵从一个显示的子集的条目。通过对一个可逆一致问题的特征值的变分刻画，给出了渐近收敛速度的界。这导致了一个多项式上界的渐近速率的节点数以及最大程度的图中透露的条目。
2020-08-11 cs.LG cs.NA math.NA
Nonnegative Low-Rank Tensor Completion via Dual Formulation with Applications to Image and Video Completion
IIIT, Hyderabad（海得拉巴印度信息技术学院）
本文针对张量补全中忽略非负结构的问题，提出基于对偶理论的新颖分解，解耦非负与低秩约束，并采用黎曼共轭梯度变体求解，在图像和视频补全任务上优于现有方法。
2023-05-13 cs.CV cs.LG
A Characterization of Deterministic Sampling Patterns for Low-Rank Matrix Completion
University of Wisconsin - Madison（威斯康星大学麦迪逊分校）
低秩矩阵完备化（LRMC）问题出现在各种各样的应用中。以往的理论主要提供了随机抽样缺失下的完备性条件。本文研究了完备性的确定性条件。不完全的$d \times N$矩阵是秩- $r$可完全的，如果最多有1000个秩- $r$矩阵与它的所有观测项一致.有限可完成性是LRMC的临界点，因为一个可完成矩阵的一些额外样本保证了它的唯一可完成性。本文的主要贡献是有限完备性的确定性抽样条件。我们用它来获得确定性的采样条件，可以有效地验证独特的可完成性。我们还表明，在均匀随机抽样方案下，如果观察到每列的$O(\max\{r,\log d\})$条目，则这些条件以高概率满足。这些发现有几个LRMC上的下界，样本和计算的复杂性，一致性的作用，自适应设置和任何完成算法的验证的影响。我们补充我们的理论结果与实验，支持我们的研究结果和激励未来的分析未知的采样制度。
2016-10-11 cs.LG math.AG stat.ML
Tensor Ring Decomposition with Rank Minimization on Latent Space: An Efficient Approach for Tensor Completion
Saitama Institute of Technology（埼玉工业大学）；RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所先进智能项目中心）；Imperial College London（帝国理工学院）；Hangzhou Dianzi University（杭州电子科技大学）；Guangdong University of Technology（广东工业大学）
传统的低秩张量分解模型在张量补全任务中，由于模型敏感性高，存在模型选择困难的问题。特别地，对于张量环（TR）分解，模型可能性的数量随着张量阶数呈指数增长，这使得找到最佳TR分解变得相当具有挑战性。在本文中，通过利用TR潜在空间的低秩结构，我们提出了一种新的张量完成方法，这是强大的模型选择。与对数据空间施加低秩约束不同，我们在潜在TR因子上引入核范数正则化，从而在更小的尺度上执行使用奇异值分解（SVD）的优化步骤。利用交替方向乘子法（ADMM）方案，可以同时获得具有最佳秩的潜在TR因子和恢复张量。我们提出的算法被证明可以有效地减轻TR秩选择的负担，从而大大降低了计算成本。在合成数据和真实数据上的大量实验结果表明，所提出的方法对最先进的算法具有优越的性能和效率。
2018-11-30 cs.CV cs.LG stat.ML
Rank regularization and Bayesian inference for tensor completion and extrapolation
University of Minnesota（明尼苏达大学）
本文提出了一种新的正则化的PARAFAC分解因子捕获张量的秩，作为完成的三路数据阵列的缺失条目的关键使能器。在贝叶斯框架中，张量完成方法结合了先验信息，以增强其平滑和预测能力。这种概率方法可以自然地适应数据分布的一般模型，从而适应各种拟合标准，从而在最大后验意义上产生最佳估计。特别是，两个算法的高斯分布和泊松分布的数据，最小化秩正则化最小二乘误差和Kullback-Leibler发散，分别设计。所提出的技术是能够恢复“地面实况”的张量秩测试时，合成数据，并完成脑成像和酵母基因表达数据集分别与50%和15%的缺失条目，导致在-10 dB和-15 dB的恢复误差。
2013-01-31 cs.IT cs.LG math.IT
Matrix Completion from Fewer Entries: Spectral Detectability and Rank Estimation
École Normale Supérieure（巴黎高等师范学院）；PSL Research University（巴黎文理研究大学）；Sorbonne Universités, UPMC Univ Paris 06（索邦大学（巴黎第六大学））；ESPCI（巴黎高等物理化工学院）；CNRS UMR 7083 Gulliver（法国国家科学研究中心格列佛实验室（UMR 7083））；Institut de Physique Théorique, CEA Saclay（法国原子能和替代能源委员会萨克莱核研究中心理论物理研究所）；CNRS（法国国家科学研究中心）
由少量元素求低秩矩阵的完备化是一个有许多实际应用的问题。我们在这里考虑这个问题的两个方面：可检测性，即从最少的可能随机条目可靠地估计秩$r$的能力，以及实现小的重建误差的性能。我们提出了一个频谱算法，这两个任务称为MaCBetH（矩阵完成与贝特海森）。秩被估计为Bethe Hessian矩阵的负特征值的数量，并且相应的特征向量被用作估计矩阵与所揭示的条目之间的差异最小化的初始条件。我们分析了随机矩阵设置中的性能，使用的Hopfield神经网络的统计力学的结果，并特别表明，MaCBetH有效地检测从$C(r)r\sqrt{nm}$条目，其中$C(r)$是一个常数接近$1$的大型$n\times m$矩阵的秩$r$。我们还评估了相应的均方根误差的经验，并表明，MaCBetH相比有利的其他现有的方法。
2016-01-28 cond-mat.dis-nn cs.LG stat.ML
Adaptive Noisy Matrix Completion
Carnegie Mellon University（卡内基梅隆大学）
低秩矩阵完备化在各种范畴下得到了广泛的研究。该问题可以归类为噪音补全或精确补全，也可以归类为主动或被动补全算法。在本文中，我们专注于自适应矩阵完成与有界类型的噪声。我们假设我们要恢复的矩阵$\mathbf{M}$是由低秩矩阵加上有界小噪声组成的。这个问题以前已经研究了\cite{nina}，在一个固定的抽样模型。在这里，我们研究这个问题在自适应设置，我们不断估计的角度与底层的低秩子空间和噪声添加子空间的上界。此外，这里建议的方法，可以被证明需要比上述方法小得多的观察。
2022-03-16 cs.LG
Matrix Completion under Low-Rank Missing Mechanism
Fudan University（复旦大学）；Texas A&M University（德州农工大学）；Peking University（北京大学）
矩阵完备化是一个现代的缺失数据问题，其中缺失的结构和底层参数都是高维的。虽然缺失结构是任何缺失数据问题的关键组成部分，现有的矩阵补全方法通常假设一个简单的统一缺失机制。在这项工作中，我们研究了一种新的低秩缺失机制下的矩阵完成损坏的数据。通过高维低秩矩阵估计过程估计观测的概率矩阵，并进一步通过逆概率加权来完成目标矩阵。由于高维和极端（即，非常小）的真实概率矩阵的性质，需要仔细研究逆概率加权的效果。我们得到的最佳渐近收敛速度的估计的观测概率和目标矩阵。
2020-03-20 cs.LG math.ST stat.ME
A Combinatorial Algebraic Approach for the Identifiability of Low-Rank Matrix Completion
Berlin Institute of Technology (TU Berlin)（柏林工业大学）；FU Berlin（柏林自由大学）；University of Tokyo（东京大学）
本文通过组合代数方法，首次给出了任意秩矩阵从一组矩阵条目中可辨识的充要组合条件，并提出了新算法。
2012-06-27 cs.DM cs.LG cs.NA
R3MC: A Riemannian three-factor algorithm for low-rank matrix completion
University of Liège（列日大学）；University of Cambridge（剑桥大学）
我们利用商流形上的黎曼优化的通用框架来开发R3MC，一个用于低秩矩阵完备化的非线性共轭梯度法。固定秩矩阵的底层搜索空间被赋予了一个新的黎曼度量，是专门为最小二乘成本。数值比较表明，R3MC鲁棒性优于国家的最先进的算法在不同的问题实例，特别是那些几乎没有采样和病态的数据相结合。
2014-09-20 cs.LG math.OC
On Deterministic Sampling Patterns for Robust Low-Rank Matrix Completion
Columbia University（哥伦比亚大学）；Purdue University（普渡大学）
在这封信中，我们研究了确定性采样模式的低秩矩阵的完成，当破坏与稀疏噪声，也被称为鲁棒矩阵完成。我们推广了最近的结果确定性抽样模式的基础上的几何分析的格拉斯曼流形上的噪音。一个特殊的情况下，每列有一定数量的噪声条目被认为是，我们的概率分析执行非常有效。此外，假设原始矩阵的秩没有给出，我们提供了一个分析，以确定是否一个有效的完成的秩确实是与稀疏噪声损坏的数据的实际秩通过验证一些条件。
2017-12-05 cs.CV cs.IT cs.LG
High-Rank Matrix Completion and Subspace Clustering with Missing Data
Boston University（波士顿大学）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）
本文在矩阵列属于多个低秩子空间并的假设下，研究了多缺元矩阵的补问题。这将标准的低秩矩阵完备化问题推广到矩阵秩可以很高甚至满秩的情况。由于列属于子空间的并集，因此该问题也可以被视为子空间聚类问题的缺失数据版本。设X是一个n × N矩阵，其（完全）列位于至多k个子空间的并集中，每个子空间的秩<= r < n，并假设N >> kn。本文的主要结果表明，在温和的假设下，只要X的至少CrNlog^2（n）个元素是随机一致观测的，且C>1是一个常数，取决于通常的不相干条件、子空间的几何排列以及列在子空间上的分布，那么X的每一列都可以以很高的概率从不完整的版本完美地恢复。数值实验结果表明，并应用于互联网的距离矩阵完成和拓扑结构识别。
2011-12-27 cs.IT cs.LG math.IT
Low Permutation-rank Matrices: Structural Properties and Noisy Completion
CMU（卡内基梅隆大学）；UC Berkeley（加州大学伯克利分校）
我们考虑的问题，噪声矩阵完成，其中的目标是重建一个结构化的矩阵，其条目部分观察到的噪音。这个欠定逆问题的标准方法是基于假设基础矩阵具有低秩，或者由低秩矩阵很好地近似。在本文中，我们提出了一个更丰富的模型的基础上，我们所谓的“置换秩”的矩阵。我们首先描述了经典的非负秩模型如何强制执行在实践中可能不受欢迎的限制，以及如何通过使用更丰富的置换秩模型来避免这些限制。其次，我们建立了新的置换为基础的模型下的最小最大估计率，并证明了令人惊讶的是，最小最大的估计率的对数因子下的典型的低秩模型。第三，我们分析了一个计算效率高的奇异值阈值算法，已知是最佳的低秩设置，并表明它也同时产生一个相合估计量的低排列秩设置。最后，我们提出了各种结构的结果，其特征的唯一性的置换秩分解，并表征凸近似的置换秩多面体。
2017-09-01 cs.IT cs.LG math.IT
Low-rank Distributional Matrix Completion
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Texas A&M University（德克萨斯农工大学）
针对每个条目为概率分布的矩阵，提出基于核均值嵌入和Tucker秩的低秩结构，通过函数展开算子连接无限维与有限维，实现分布矩阵补全并给出非渐近误差界。
2026-06-02 cs.LG math.ST stat.ML
A generalizable framework for low-rank tensor completion with numerical priors
Duke University（杜克大学）；Duke Kunshan University（昆山杜克大学）
针对现有低秩张量补全方法未系统利用数值先验导致精度受限的问题，提出首个整合数值先验的通用框架GCDTC，其实例SPTC算法在非负张量补全任务上性能显著优于现有最优方法，且代码开源。
2024-06-18 cs.AI cs.CV cs.LG
Low-rank matrix completion and denoising under Poisson noise
Georgia Institute of Technology（佐治亚理工学院）
本文针对泊松噪声下的低秩矩阵去噪与补全问题，分析三种估计器并给出依赖秩、观测比例及行列和的上界误差，证明其极小极大最优性，并扩展到多项情形。
2020-04-30 cs.LG math.ST stat.ML
Graph-Regularized Low-Rank Matrix Completion by Variable Projection
Royal Meteorological Institute of Belgium（比利时皇家气象研究所）
研究低秩矩阵填充问题，核心方法是将图正则化纳入RTRMC框架得到GR-RTRMC，利用矩阵行列内在关系，主要贡献是提高矩阵填充在行列强相关场景下的准确性与鲁棒性。
2026-07-13 cs.LG cs.NA math.NA
Efficient Low Rank Tensor Ring Completion
Purdue University（普渡大学）；Tufts University（塔夫茨大学）
使用最近提出的张量环分解的矩阵乘积状态（MPS）表示，在本文中，我们提出了一个张量完成算法，这是一个交替的最小化算法，交替在MPS表示的因素。这种发展的动机部分是由矩阵完成算法的成功，交替（低秩）的因素。本文提出了张量环完备化算法的谱初始化方法，并分析了该算法的计算复杂性。我们数值比较它与现有的方法，采用低秩张量训练近似数据完成，并表明我们的方法优于现有的各种真正的计算机视觉设置，从而证明了张量环的表达能力的改善相比，张量训练。
2017-07-23 cs.IT cs.LG math.IT
Uniqueness of Low-Rank Matrix Completion by Rigidity Theory
Princeton University（普林斯顿大学）
在协同过滤、计算机视觉和控制等领域中，分析不完整数据集的潜在因子模型时，经常会遇到从其元素的子集完成低秩矩阵的问题。最近的工作主要集中在构造有效的算法，以便精确或近似地恢复丢失的矩阵条目，并证明已知条目数目的下限，以保证以高概率成功恢复。从数学和算法的角度来看，一个相关的问题是距离几何问题，即从给定的成对距离子集中实现欧几里得空间中的点。刚性理论回答了关于满足给定部分距离集的实现的唯一性的基本问题。我们观察到，刚性理论的基本思想和工具，可以适用于确定低秩矩阵完成的唯一性，其中内积发挥的作用，距离发挥刚性理论。这一观察导致一个有效的随机算法测试本地和全球唯一完成。对我们的分析至关重要的是一个新的矩阵，我们称之为完成矩阵，它作为刚度矩阵的模拟。
2009-02-23 cs.LG
Orthogonal Rank-One Matrix Pursuit for Low Rank Matrix Completion
Arizona State University（亚利桑那州立大学）；The University of Georgia（佐治亚大学）；Simon Frasor University（西蒙弗雷泽大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
本文提出一种高效可扩展的低秩矩阵补全算法，通过将正交匹配追踪方法扩展到矩阵领域，并引入新的权重更新规则降低计算和存储复杂度，具有线性收敛速度和单一可调参数，适用于大规模学习问题。
2014-04-16 cs.LG cs.NA math.NA
Introducing the Huber mechanism for differentially private low-rank matrix completion
IIT Madras（印度理工学院马德拉斯分校）
对敏感的用户数据执行低秩矩阵补全需要隐私保护方法。在这项工作中，我们提出了一种新的噪声添加机制，以保持差分隐私的噪声分布的启发Huber损失，一个众所周知的损失函数在鲁棒统计。建议的Huber机制进行评估，对现有的差分隐私机制，同时解决矩阵完成问题，使用交替最小二乘法。我们还建议使用迭代重加权最小二乘算法来完成低秩矩阵，并研究不同噪声机制在合成和真实数据集中的性能。我们证明了该机制实现了类似于拉普拉斯机制的ε-差分隐私。此外，实证结果表明，Huber机制优于拉普拉斯和高斯在某些情况下，是可比的，否则。
2022-06-16 cs.CR cs.LG
Ranking Recovery from Limited Comparisons using Low-Rank Matrix Completion
School of Electrical Engineering, Tel-Aviv University（特拉维夫大学电气工程学院）；Electrical Engineering Department, University of Colorado Denver（科罗拉多大学丹佛分校电气工程系）
本文提出利用低秩矩阵补全方法解决经典排名聚合问题，通过矩阵形式处理部分噪声比较数据，结合交替最小化算法和最大似然估计，重建真实偏好强度。
2018-06-14 cs.LG cs.NA math.NA
The Algebraic Combinatorial Approach for Low-Rank Matrix Completion
Aalto University（阿尔托大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
本文提出一种基于代数几何和拟阵理论的代数组合新视角，通过研究少量条目间的关系来解决低秩矩阵补全问题，并给出概率为1的算法判断特定条目是否可补全、从少量条目补全该条目及估计补全误差。
2014-08-19 cs.LG cs.NA math.AG
Low rank tensor completion with sparse regularization in a transformed domain
University of Electronic Science and Technology of China（电子科技大学）
张量完备化是一个具有挑战性的问题，有着广泛的应用。基于张量的低秩先验，已经提出了许多相关的模型。然而，低秩先验可能不足以从观察到的不完整张量恢复原始张量。本文利用张量的低秩和稀疏先验，提出了一种张量完备化方法。具体地，张量完成任务可以被公式化为具有稀疏正则化器的低秩最小化问题。基于张量奇异值分解（T-SVD）的张量截断核范数刻画了其低秩性质，与张量核范数相比，T-SVD是张量管秩的一种更好的近似.而稀疏正则化子是在离散余弦变换（DCT）域中通过$\ell_{1}$ -范数来实现的，它能更好地利用完备数据的局部稀疏性。为了解决最优化问题，我们采用了交替方向法的乘法器（ADMM），其中我们只需要解决几个子问题，有封闭形式的解决方案。在真实图像和视频上的大量实验表明，该方法具有更好的性能比现有的国家的最先进的方法。
2019-11-19 cs.LG cs.NA math.NA
Cross: Efficient Low-rank Tensor Completion
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
张量或高阶数组的完备化在最近的研究中引起了极大的关注。目前关于张量完备化的文献主要集中在从一组均匀随机测量的条目中恢复，并且实现恢复所需的测量数量不能保证是最优的。此外，以前的一些方法的实现是NP难的。在这篇文章中，我们提出了一个框架，通过一个新的张量测量计划，我们命名为十字架低秩张量完成。所提出的程序是有效的，易于实施。特别是，我们表明，三阶张量的塔克秩- $(r_1, r_2, r_3)$在$p_1$- $p_2$ - $p_3$维空间可以恢复从尽可能少的$r_1r_2r_3 + r_1(p_1-r_1) + r_2(p_2-r_2) + r_3(p_3-r_3)$无噪声测量，这符合样本的复杂性下限。在噪声测量的情况下，我们还开发了一个理论上的上限和匹配的Minimax下界恢复误差在某些类别的低秩张量的建议的程序。结果可以进一步推广到四阶或更高阶张量。仿真研究表明，该方法在各种设置下都有很好的性能。最后，通过一个真实的神经成像数据集说明了该过程。
2018-11-27 cs.LG math.ST stat.ME
Bayesian Low-rank Matrix Completion with Dual-graph Embedding: Prior Analysis and Tuning-free Inference
The University of Hong Kong（香港大学）；Zhejiang University（浙江大学）
最近，通过双图正则化的镜头，基于低秩矩阵完成的无监督学习重新引起了人们的兴趣，它显著提高了多学科机器学习任务的性能，例如推荐系统，基因型填充和图像修补。虽然双图正则化贡献了成功的主要部分，但通常涉及计算成本高的超参数调整。为了克服这一缺陷，提高矩阵完备化的性能，提出了一种新的贝叶斯学习算法，该算法能够自动学习与对偶图正则化相关的超参数，同时保证矩阵完备化的低秩性.值得注意的是，一个新的先验设计，以促进低秩矩阵和编码的双图信息的同时，这是更具有挑战性的单图。一个非平凡的条件共轭之间的建议先验和似然函数，然后探索，从而得到一个有效的算法下变分推理框架。使用合成和真实世界的数据集进行的大量实验证明了所提出的学习算法在各种数据分析任务中的最新性能。
2022-09-05 cs.LG math.PR
Application Performance Modeling via Tensor Completion
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出用低秩CP张量分解对应用性能建模，结合张量补全优化，在六个应用中实现高维性能预测，精度和内存效率优于网格模型和监督学习模型。
2023-08-29 cs.DC cs.LG cs.PF
ProPPA: A Fast Algorithm for $\ell_1$ Minimization and Low-Rank Matrix Completion
提出了一种求解一类优化问题的投影邻近点算法（ProPPA）.该算法迭代计算最后估计的解的邻近点投影到一个仿射空间，这本身是平行的，并接近可行集。我们提供了理论上支持的一般算法的收敛性分析，然后将其应用于解决$\ell_1$ -最小化问题和矩阵完成问题。这些问题出现在许多应用中，包括机器学习、图像和信号处理。我们比较我们的算法与现有的国家的最先进的算法。实验结果表明，该算法是非常有效的和有竞争力的解决这些问题。
2012-05-19 cs.LG math.OC
A Parameter-free Nonconvex Low-rank Tensor Completion Model for Spatiotemporal Traffic Data Recovery
Southeast University（东南大学）
交通数据长期遭受丢失和损坏，导致后续智能交通系统（ITS）应用的准确性和实用性降低。注意到交通数据固有的低秩属性，许多研究将丢失的交通数据恢复描述为低秩张量完成（LRTC）问题。由于LRTC中秩最小化的非凸性和离散性，现有的方法要么用远离秩函数的凸代理函数代替秩，要么用涉及多个参数的非凸代理函数近似秩。在这项研究中，我们提出了一个无参数的非凸张量完成模型（TC-PFNC）的交通数据恢复，其中基于日志的松弛项被设计来近似张量代数秩。此外，以前的研究通常假设观察结果是可靠的，没有任何离群值。因此，我们扩展了TC-PFNC到一个强大的版本（RTC-PFNC）通过建模潜在的流量数据离群值，它可以恢复部分和损坏的观测值的缺失值，并删除观测值中的异常。阐述了基于交替方向乘子法的TC-PFNC和RTC-PFNC的数值解。在四个真实流量数据集上进行的大量实验结果表明，所提出的方法在丢失和损坏的数据恢复方面优于其他最先进的方法。本文中使用的代码可在https://github.com/YoungHe49/T-ITSPFNC上获得。
2022-09-28 cs.LG eess.SP
A framework to generate sparsity-inducing regularizers for enhanced low-rank matrix completion
针对半二次优化得到的正则化项通常不具稀疏诱导性的问题，提出一种可生成带闭式邻近算子的稀疏诱导正则化项的框架，结合常用损失函数生成的正则化项用于低秩矩阵补全，实验验证了方法在恢复性能和运行时间上的有效性。
2023-10-08 cs.IR cs.LG eess.AS
Low-rank Matrix Completion with Noisy Observations: a Quantitative Comparison
Stanford University（斯坦福大学）
本文通过仿真平台定量比较了三种主流低秩矩阵补全算法（OptSpace、ADMiRA和FPCA）在噪声观测下的性能，并展示了它们在真实数据和随机生成数据上的准确重建能力。
2009-11-03 cs.LG cs.NA math.NA
Scaled stochastic gradient descent for low-rank matrix completion
Amazon Development Centre India（亚马逊印度研发中心）；University of Liège（列日大学）；University of Cambridge（剑桥大学）
本文着眼于一个缩放的变种的随机梯度下降算法的矩阵完成问题。具体而言，我们提出了一种新的矩阵缩放的偏导数，作为一个有效的预处理标准的随机梯度下降算法。该矩阵缩放提供了局部和全局二阶信息之间的折衷。它还解决了矩阵分解模型中存在的尺度不变性问题。整体计算复杂性与已知条目的数量成线性关系，从而扩展到大规模设置。数值比较表明，该算法的竞争有利的国家的最先进的算法在各种不同的基准。
2016-10-05 cs.LG math.OC
Revisiting Trace Norm Minimization for Tensor Tucker Completion: A Direct Multilinear Rank Learning Approach
The University of Hong Kong（香港大学）；Zhejiang University（浙江大学）；Harbin Engineering University（哈尔滨工程大学）
针对 Tucker 张量补全中展开矩阵迹范数难以有效最小化多线性秩的问题，提出面向因子矩阵的直接迹范数建模与不动点迭代算法，提升秩学习和信号恢复性能。
2024-09-10 cs.LG eess.SP
Fourier Low-rank and Sparse Tensor for Efficient Tensor Completion
University of Michigan Ann Arbor（密歇根大学安娜堡分校）
针对传统低秩张量补全模型无法捕捉科学数据独特时空模式的问题，提出沿时间维傅里叶分解的FLoST模型，以低秩+稀疏结构分别建模高低频，参数量更少、效率更高，在准确率和可解释性上均优于现有模型。
2025-05-16 cs.LG stat.ME
Projected Wirtinger Gradient Descent for Low-Rank Hankel Matrix Completion in Spectral Compressed Sensing
University of Iowa（爱荷华大学）
本文考虑从少量随机观测的时域样本中重建频谱稀疏信号。感兴趣的信号是$R$不同频率的复正弦曲线的线性组合。频率可以采用归一化频域$[0,1)$中的任何连续值。在将频谱稀疏信号恢复问题转化为低秩结构矩阵完备化问题后，提出了一种有效的可行点方法--投影Wirtinger梯度下降（PWGD）算法，有效地解决了该结构矩阵完备化问题.我们进一步加速我们提出的算法的FISTA启发的计划。我们给出了我们提出的算法的收敛性分析。大量的数值实验来说明我们所提出的算法的效率。与以前的方法不同，我们的算法可以非常有效地解决非常大的维度的问题。
2015-07-14 cs.IT cs.LG math.IT
Low-Rank Approximation and Completion of Positive Tensors
University of California, Berkeley（加州大学伯克利分校）
与矩阵情况不同，计算张量的低秩近似是NP困难的，并且通常是数值不适定的。即使是张量的最佳秩-1近似也是NP困难的。在本文中，我们使用凸优化发展多项式时间算法的低秩逼近和完善的正张量。我们的方法是使用代数拓扑定义一个新的（数值适定性）分解的正张量，我们证明是等价的标准张量分解在重要的情况下。虽然计算这个分解是一个非凸的最优化问题，我们证明了它可以精确地转化为凸优化问题。这使我们能够构造多项式时间的随机算法来计算这种分解和解决低秩张量近似问题。结果之一是，正张量的最佳秩1近似可以在多项式时间内计算。我们的框架下一个扩展到张量完成问题，其中张量的噪声条目被观察到，然后用于估计丢失的条目。我们提供了一个多项式时间算法，对于特定的情况下，需要一个多项式（张量顺序）数量的测量，与现有的方法，需要一个指数数量的测量。这些算法被扩展到利用张量的稀疏性，以减少所需的测量次数。最后，我们提供了一个新的解释统计回归问题的分类变量张量完成问题，和合成数据和数据从生物工程代谢网络的数值例子表明，我们的方法在这个问题上的改进性能。
2016-09-13 cs.LG math.ST stat.TH
