Nonnegative Tensor Completion via Integer Optimization
University of California, Berkeley(加州大学伯克利分校);The Ohio State University(俄亥俄州立大学)
与矩阵完备化不同,张量完备化没有已知的算法来实现信息论样本复杂度。本文对非负张量完备化的特殊情况提出了一种新的算法。我们证明了我们的算法收敛在一个线性(数值公差)的预言步骤数,同时实现信息理论的速度。我们的方法是使用一个特定的0-1多面体的规范定义一个新的规范的非负张量;整数线性规划,反过来,可以用来解决这个多面体的线性分离问题。我们结合这一见解与弗兰克-沃尔夫算法的一个变种,构建我们的数值算法,我们证明了它的有效性和可扩展性,通过计算实验使用笔记本电脑上的张量高达一亿个条目。
2022-05-23 cs.LG math.OC stat.ML
On Tensor Completion via Nuclear Norm Minimization
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Rutgers University(罗格斯大学)
本文提出通过直接最小化张量核范数进行张量补全,证明该方法能提升采样需求,发展了张量核范数的子微分刻画和张量鞅集中不等式等技术。
2014-05-07 cs.IT cs.NA math.IT
Exact tensor completion with sum-of-squares
Institute for Advanced Study(高等研究院);Cornell University(康奈尔大学)
我们获得了第一个多项式时间算法的精确张量完成,提高了减少矩阵完成所隐含的界限。该算法从$r\cdot \tilde O(n^{1.5})$随机观察到的张量条目中恢复出一个未知的3-张量,其中$r$是$\mathbb R^n$中的非相干正交分量。这个界限改善了以前的最好的一个$r\cdot \tilde O(n^{2})$减少到确切的矩阵完成。我们的界也与最著名的结果相匹配,因为近似张量完成的问题更容易(Barak & Moitra,2015)。我们的算法和分析通过平方和方法将精确矩阵完成(Candes & Recht,2009)的开创性结果扩展到张量设置。主要的技术挑战是要证明少量随机选择的单项式就足以在球面上构造一个具有精确种植的正交全局最优解的3次多项式,并且这个事实可以在平方和证明系统中得到证明。
2017-06-23 cs.CC cs.DS cs.IT
Canonical Tensor Decomposition for Knowledge Base Completion
Facebook AI Research(Facebook人工智能研究院);Université Paris-Est(巴黎东大学);Ecole des Ponts ParisTech(巴黎高等桥路学院)
知识库完备化问题可以归结为一个三阶二元张量完备化问题。在这种情况下,正则张量分解(CP)(希区柯克,1927)似乎是一个自然的解决方案;然而,目前在标准知识库完成基准上实现的CP落后于竞争对手。在这项工作中,我们试图了解知识库完成CP的限制。首先,我们激励和测试一个新的正则化,基于张量核$p$规范。然后,我们提出了一个重新制定的问题,使其不变的任意选择,包括在数据集中的谓词或其倒数。这两种方法相结合,使我们能够在几个数据集上使用CP分解击败当前的最新技术,并使用更先进的ComplEx模型获得更好的结果。
2018-06-19 cs.AI cs.LG cs.SI
Tensor Completion for Weakly-dependent Data on Graph for Metro Passenger Flow Prediction
The Hong Kong University of Science and Technology(香港科技大学);Arizona State University(亚利桑那州立大学);Tsinghua University(清华大学)
由于张量数据的普遍存在,低秩张量分解和完备化引起了学术界的极大兴趣。然而,低秩结构是一个全局属性,当数据呈现复杂和弱依赖性时,给定特定的图结构,这将无法实现。一个特定的应用,激发这项研究是时空数据分析。如初步研究所示,弱依赖性会恶化低秩张量完成性能。本文通过引入$L_{1}$ -范数惩罚和图拉普拉斯惩罚,提出了一种新的低秩CANDECOMP / PARAFAC(CP)张量分解和完成框架,用于对图的弱依赖进行建模.我们进一步提出了一个有效的优化算法的基础上的块坐标下降有效的估计。基于香港地铁客流数据进行了案例研究,以证明改进的性能比常规张量完成方法。
2019-12-11 cs.LG stat.ML
Noisy Tensor Completion via Low-rank Tensor Ring
Guangdong University of Technology(广东工业大学);RIKEN(理化学研究所)
张量补全是不完整数据分析的基本工具,其目标是从部分观测值中预测缺失项。然而,现有的方法往往显式或隐式地假设观测条目是无噪声的,以提供精确恢复丢失条目的理论保证,这在实践中受到很大的限制。为了弥补这些缺陷,本文提出了一种新的噪声张量完成模型,它补充了现有的工作在处理高阶和噪声观测退化的不足。具体地说,张量环核范数(TRNN)和最小二乘估计分别采用正则化的基础张量和观察到的条目。此外,一个非渐近上界的估计误差描述所提出的估计器的统计性能。两个有效的算法来解决的优化问题的收敛保证,其中之一是专门针对处理大规模的张量,通过替换TRNN的原始张量的最小化等效的一个小得多的异构张量分解框架。合成和真实世界的数据上的实验结果表明,该模型在恢复噪声不完整的张量数据的有效性和效率相比,国家的最先进的张量完成模型。
2022-03-14 cs.AI cs.LG stat.ML
Improving Group Fairness in Tensor Completion via Imbalance Mitigating Entity Augmentation
Department of Computer Science and Engineering, University of California, Riverside, Riverside, CA, USA(计算机科学与工程系,加州大学河滨分校);Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign, Urbana, IL, USA(计算与数据科学学院,伊利诺伊大学厄巴纳-香槟分校)
针对张量分解中群体公平方法导致性能下降的问题,提出 STAFF,通过含充足观测条目的实体增强缓解稀疏张量不平衡与偏差,在多类模型和数据集上实现误差与公平性的最佳权衡。
2025-07-28 cs.LG stat.ML
Structured low-rank matrix completion for forecasting in time series analysis
Cardiff University(卡迪夫大学);CNRS(法国国家科学研究中心)
本文研究了低秩矩阵补全问题,应用于时间序列预测。基于Hankel矩阵的补全方法和核范数松弛,通过理论和实验证明了适当选择已知观测加权方案的重要性。
2018-02-22 cs.NA cs.SY eess.SY
Robust Low-Rank Tensor Ring Completion
University of Electronic Science and Technology of China(电子科技大学)
低秩张量补全基于不同的张量分解来恢复丢失的条目。低秩张量环由于其在开发高阶数据结构方面的优异性能,在张量完备化中得到了广泛的应用。为了进一步处理其在张量主成分分析中对稀疏分量的敏感性,我们提出了鲁棒张量环完备(RTRC),它将潜在的低秩张量分量从具有有限数量测量的稀疏分量中分离出来。低秩张量分量由其平衡开折的核范数的加权和约束,而稀疏分量由其l1范数正则化。我们分析了RTRC模型,并给出了准确的恢复保证。采用乘子交替方向法将问题分解为若干个子问题,并快速求解。在数值实验中,我们验证了所提出的方法在合成数据上的恢复条件,并表明所提出的方法在许多真实世界的基于数据的任务中,即,光场图像恢复,人脸图像中的阴影去除,以及彩色视频中的背景提取。
2020-04-23 cs.LG stat.ML
T-SVD Based Non-convex Tensor Completion and Robust Principal Component Analysis
Peking University(北京大学)
张量完备化和鲁棒主元分析在机器学习中得到了广泛的应用,但其关键问题是如何最小化张量秩,这是一个非常具有挑战性的问题。解决这一问题的一种常用方法是基于张量奇异值分解(T-SVD),用奇异值的$\ell_1-$范数来近似张量秩。此外,张量的稀疏性也可以用它的$\ell_1-$范数来度量。然而,$\ell_1$罚分本质上是有偏差的,因此结果将偏离。为了避免这种偏差,我们提出了一种新的非凸张量秩代理函数和一种新的非凸稀疏性度量。在这种新的设置中,通过使用的凸性,而不是一个优化最小化算法进一步设计张量完成和鲁棒的主成分分析。此外,我们分析了它的理论性质。最后,自然和高光谱图像上的实验证明了我们提出的方法的有效性和效率。
2021-05-25 cs.CV cs.LG stat.ML
Algebraic-Combinatorial Methods for Low-Rank Matrix Completion with Application to Athletic Performance Prediction
本文提出了新的算法,利用矩阵完成任务的内在代数和组合结构,估计在一般低秩设置的缺失条目。对于积极的数据,我们在模拟和从部分观察到的数据预测运动表现的任务中,在准确性和计算效率方面都取得了优于最先进的核规范的结果。
2014-06-11 stat.ML
Time-series imputation using low-rank matrix completion
本文提出基于时间序列块-Hankel矩阵低秩补全的HI插补方法,并通过仿真与五种传统技术比较,验证其在缺失数据插值及尖锐峰值重现方面的竞争力。
2024-08-05 stat.ME
Targeted matrix completion
University of Southern California(南加州大学)
矩阵补全是在许多数据分析设置中出现的问题,其中输入由部分观察的矩阵组成(例如,推荐系统、流量矩阵分析等)。经典的矩阵完备化方法假设输入的部分观测矩阵是低秩的。这些方法的成功取决于观察到的条目的数量和矩阵的秩;秩越大,为了准确地完成矩阵,需要观察的条目就越多。在本文中,我们处理矩阵,不一定是低秩本身,而是他们包含低秩子矩阵。我们提出了有针对性的,这是一个通用的框架,完成这样的矩阵。在这个框架中,我们首先提取低秩子矩阵,然后分别对这些低秩子矩阵和剩余矩阵应用矩阵完备化算法。虽然对于完成本身,我们使用国家的最先进的完成方法,我们的结果表明,有针对性的实现显着较小的重建误差比其他经典的矩阵完成方法。本文的关键技术贡献之一在于从输入部分可观测矩阵中识别出低秩子矩阵。
2017-04-30 cs.LG stat.ML
Asymptotic Convergence Rate of Alternating Minimization for Rank One Matrix Completion
Boston University(波士顿大学)
我们研究交替最小化矩阵完成在最简单的可能设置:完成一个秩一矩阵从一个显示的子集的条目。通过对一个可逆一致问题的特征值的变分刻画,给出了渐近收敛速度的界。这导致了一个多项式上界的渐近速率的节点数以及最大程度的图中透露的条目。
2020-08-11 cs.LG cs.NA math.NA
Brain-Computer Interface with Corrupted EEG Data: A Tensor Completion Approach
脑-机接口中的一个重要问题是如何处理以多维数据集形式组织的脑电测量数据。另一方面,最近,在利用张量分解模型来捕获多维信号中的条目之间的复杂关系的多维信号补全算法中已经取得了重大进展。我们建议使用张量完成应用于EEG数据,以提高分类性能的运动图像BCI系统与损坏的测量。噪声测量被认为是从张量分解模型推断的未知量。我们评估了四个最近提出的张量完成算法的性能,加上一个简单的插值策略,首先与随机丢失的条目,然后与丢失的样本约束有一个特定的结构(随机丢失的通道),这是一个更现实的假设在BCI应用。我们测量了这些算法从观测数据重建张量的能力。然后,我们测试的分类准确性的想象运动的BCI实验与缺失的样本。我们表明,对于随机缺失的条目,所有张量完成算法可以恢复丢失的样本,增加分类性能相比,一个简单的插值方法。对于随机丢失通道的情况下,我们表明,张量补全算法有助于重建丢失的通道,显着提高运动想象分类的准确性,但是,不是在同一水平的干净的数据。张量补全算法在实际的BCI应用中是有用的。所提出的策略可以允许使用运动图像BCI系统,即使当EEG数据受到丢失通道和/或样本的高度影响时,避免在校准阶段需要新的采集。
2018-07-26 eess.SP q-bio.QM stat.ML
Fast Low-Rank Bayesian Matrix Completion with Hierarchical Gaussian Prior Models
University of Electronic Science and Technology of China(电子科技大学);Stevens Institute of Technology(斯蒂文斯理工学院)
研究了低秩矩阵的完备化问题。为了利用数据矩阵的底层低秩结构,我们提出了一个分层高斯先验模型,其中假设低秩矩阵的列遵循具有零均值和公共精度矩阵的高斯分布,并将Wishart分布指定为精度矩阵的超先验。我们表明,这样的分层高斯先验有可能鼓励低秩的解决方案。基于所提出的层次先验模型,提出了一种矩阵完备化的变分贝叶斯方法,该方法将广义近似消息传递(GAMP)技术嵌入到变分贝叶斯推理中,以避免繁琐的矩阵求逆运算.仿真结果表明,我们提出的方法表现出优于现有的国家的最先进的矩阵完成方法。
2017-08-26 cs.LG stat.ML
Low-rank matrix completion theory via Plucker coordinates
Key Laboratory of Mathematics Mechanization, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院数学机械化重点实验室)
尽管低秩矩阵完备化的流行,其理论的大部分已经发展的假设下的随机观测模式,而很少有人知道的实际相关的情况下,非随机模式。具体来说,一个基本但很大程度上开放的问题是描述允许唯一或多个完成的模式。本文提供了两个这样的家庭模式的任何秩。实现这一点的关键是一个新的配方低秩矩阵完成Plucker坐标,后者是传统的计算机视觉的工具。这种连接是潜在的意义,一个广泛的家庭矩阵和子空间学习问题与不完整的数据。
2023-02-23 cs.LG math.AG stat.ML
Knowledge Graph Completion with Mixed Geometry Tensor Factorization
HSE University(高等经济大学);AIRI(人工智能研究所)
本文提出一种结合欧几里得与双曲几何的混合张量分解方法,通过引入双曲相互作用项修正Tucker分解模型,在显著减少参数的同时实现了SOTA的知识图谱链接预测精度。
2025-04-03 cs.AI cs.IR cs.LG
Exact nuclear norm, completion and decomposition for random overcomplete tensors via degree-4 SOS
The University of Chicago(芝加哥大学)
在本文中,我们表明,简单的半定程序的启发程度$4$ SOS可以精确地解决张量的核模,张量分解,张量完成问题的张量随机非对称组件。更确切地说,对于张量核范数和张量分解,我们证明了w. h. p.这些半定程序可以精确地找到具有$m\leq n^{3/2}/polylog(n)$随机非对称分量的$(n\times n\times n)$ -张量$\mathcal{T}$的核范数和分量。与大多数以前的算法不同,我们的算法提供了一个证书的分解,不需要了解分解中的组件的数量,也不做任何假设的分解中的系数的大小。作为一个副产品,我们表明,w. h. p.核范数分解正好符合最低秩分解张量与$m\leq n^{3/2}/polylog(n)$随机不对称组件。对于张量完备化,我们证明了Potechin & Steurer(2017)为具有正交分量的张量引入的半定程序w. h. p.可以仅从$n^{3/2}m polylog(n)$随机观察到的条目中精确地恢复具有$m$随机非对称分量的$(n\times n\times n)$ -张量$\mathcal{T}$。对于非正交张量,这提高了依赖于$m$的条目的数量所需的精确恢复在所有以前已知的算法,并提供了第一个理论保证,在过完备制度的精确张量完成。
2021-10-28 cs.CC cs.DS cs.LG
Algebraic Variety Models for High-Rank Matrix Completion
我们考虑低秩矩阵完成的情况下,数据属于代数簇,即每个数据点是一个系统的多项式方程的解决方案的推广。在这种情况下,原始矩阵可能是高秩的,但是在将每列映射到单项式特征的高维空间之后,它变成低秩的。许多线性模型的扩展,包括仿射子空间及其并集,都可以用一个模型来描述。此外,品种可以用来模拟更丰富的一类非线性二次和更高的次数曲线和曲面。我们研究了矩阵完备化的采样要求,重点是仿射子空间的并集。我们还提出了一个有效的矩阵完成算法,最大限度地减少了一个凸或非凸代理的秩矩阵的单项功能。我们的算法使用著名的“内核技巧”,以避免直接与高维单项矩阵。我们表明,该算法是能够恢复合成生成的数据预测采样复杂度的界限。该算法也优于标准的低秩矩阵完成和子空间聚类技术在实验中与真实数据。
2017-03-28 stat.ML
Symmetric Tensor Completion from Multilinear Entries and Learning Product Mixtures over the Hypercube
UC Berkeley(加州大学伯克利分校)
我们给出了一个算法,完成一个阶$m$对称低秩张量从它的多线性项在时间大致成正比的张量条目的数量。我们应用我们的张量完成算法的学习混合产品分布的超立方体的问题,获得新的算法结果。如果产品分布的中心是线性独立的,那么我们恢复尽可能多的$Ω(n)$中心的分布在多项式时间和样本的复杂性。在一般情况下,我们恢复尽可能多的分布$\tildeΩ(n)$中心在准多项式时间,回答了一个公开的问题费尔德曼等人。对于具有非相干偏置向量的分布的特殊情况。我们的主要算法工具是迭代应用的低秩矩阵完成算法的矩阵与adversarially失踪的条目。
2015-11-23 cs.DS cs.LG stat.ML
Tensor Ring Decomposition with Rank Minimization on Latent Space: An Efficient Approach for Tensor Completion
Saitama Institute of Technology(埼玉工业大学);RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所先进智能项目中心);Imperial College London(帝国理工学院);Hangzhou Dianzi University(杭州电子科技大学);Guangdong University of Technology(广东工业大学)
传统的低秩张量分解模型在张量补全任务中,由于模型敏感性高,存在模型选择困难的问题。特别地,对于张量环(TR)分解,模型可能性的数量随着张量阶数呈指数增长,这使得找到最佳TR分解变得相当具有挑战性。在本文中,通过利用TR潜在空间的低秩结构,我们提出了一种新的张量完成方法,这是强大的模型选择。与对数据空间施加低秩约束不同,我们在潜在TR因子上引入核范数正则化,从而在更小的尺度上执行使用奇异值分解(SVD)的优化步骤。利用交替方向乘子法(ADMM)方案,可以同时获得具有最佳秩的潜在TR因子和恢复张量。我们提出的算法被证明可以有效地减轻TR秩选择的负担,从而大大降低了计算成本。在合成数据和真实数据上的大量实验结果表明,所提出的方法对最先进的算法具有优越的性能和效率。
2018-11-30 cs.CV cs.LG stat.ML
Tensor factorization based method for low rank matrix completion and its application on tensor completion
本文通过建立矩阵秩与张量管秩的关系将矩阵补全转化为张量补全,提出基于张量分解的两阶段策略及双重管秩模型,显著提升了低秩矩阵与三阶张量补全的精度和效率。
2022-01-23 math.OC
The geometry of rank-one tensor completion
研究了秩一张量对某些坐标的限制集的几何性质。这给洞察的问题秩一完成部分张量。特别强调的是把半代数性质的问题,这是真正的张量与参数的约束。可完成区域的代数边界描述张量参数化的概率分布和观察到的条目的数量等于参数的数量。如果观测值在格式为$d\times\dots\times d$的张量的对角线上,则找到可完成区域的完整半代数描述。
2016-12-02 math.AG math.OC math.ST
Low-M-Rank Tensor Completion and Robust Tensor PCA
在本文中,我们提出了一种新的方法来解决低秩张量完成和鲁棒张量PCA。我们的方法是基于一些新的概念(偶数阶)张量秩,被称为M-秩,对称M-秩和强对称M-秩。讨论了这些新的张量秩与偶阶张量的CP秩和对称CP秩之间的关系。我们表明,M-秩提供了一个可靠的和易于计算的近似CP-秩。因此,我们建议在低CP秩张量完备化和鲁棒张量PCA中用M秩代替CP秩。数值结果表明,我们的新方法的基础上的M-秩优于现有的方法是基于低n-秩,t-SVD和KBR方法解决低秩张量完成和强大的张量PCA时,底层张量具有低CP-秩。
2018-10-10 math.OC
Deterministic tensor completion with hypergraph expanders
Western Washington University(西华盛顿大学);University of California, San Diego(加利福尼亚大学圣地亚哥分校)
我们提供了一个新的分析低秩张量完成的超图扩展的基础上。作为秩的代理,我们最小化张量的最大拟不动点,这推广了矩阵的最大范数。我们的分析是确定性的,并表明,所需的样本数量近似恢复的顺序$t$张量与最多$n$条目每维是线性的$n$,假设张量的秩和顺序是$O(1)$。作为证明的步骤,我们发现了一个新的$t$ -部,$t$ -一致正则超图模型的扩展混合引理,并证明了张量极大拟不变性的几个新性质.据我们所知,这是张量完备化的第一次确定性分析。我们开发了一个实用的算法,解决了放松版本的最大拟不变最小化问题,我们证明了它的有效性与数值实验。
2021-07-29 cs.LG math.OC math.ST
Incoherent Tensor Norms and Their Applications in Higher Order Tensor Completion
本文研究了高阶张量完备化核范数极小化方法的样本量要求。我们通过允许不同水平的相干性来引入一类张量范数,这使我们能够利用张量的不相干性。特别是,我们表明,$k$阶张量的秩$r$和尺寸$d\times\cdots\times d$可以完美地恢复从尽可能少的$O((r^{(k-1)/2}d^{3/2}+r^{k-1}d)(\log(d))^2)$均匀采样条目通过适当的非相干核范数最小化。我们的研究结果证明了完成矩阵和高阶张量之间的一些关键差异:它们不仅指出了通常的核范数最小化的潜在改进空间,而且还强调了在处理高阶张量时明确考虑不相干性的重要性。
2016-06-10 cs.IT math.IT math.OC
Exponential-Family Tensor Completion via Nonconvex Dual Total-Variation Regularization
Shaanxi Normal University(陕西师范大学);RIKEN AIP(理化学研究所先进工业科学技术研究所);University of Birmingham(伯明翰大学);Systems Research Institute of Polish Academy of Science(波兰科学院系统研究所)
针对指数族噪声下的张量补全问题,提出基于变换L1函数的对偶全变差正则化方法,理论推导了恢复误差上界并证明其可逼近极小极大下界,实验验证了有效性。
2026-07-01 math.OC math.ST stat.ME
Rank Estimation for Third-Order Tensor Completion in the Tensor-Train Format
本文针对tensor-train格式三阶张量补全,基于切锥参数化提出秩上界估计方法,并通过理论证明与合成数据实验验证其有效性和抗噪稳健性。
2023-09-26 math.OC
Riemannian Conjugate Gradient Descent Method for Third-Order Tensor Completion
张量补全的目标是在低秩约束下填充部分已知张量的缺失条目。本文主要研究了光滑流形上的低秩三阶张量完备化问题,并利用Riemannian最优化方法进行了研究。这里张量秩被定义为一组矩阵秩,其中矩阵是通过将傅立叶相关变换应用到原始张量的管上而获得的变换张量的切片。我们表明,适当的不相干条件下的底层低秩张量,建议的黎曼最优化方法是保证收敛,并找到这样的低秩张量具有很高的概率。此外,研究并推导了不同初始化方法下求解低秩张量完备化问题所需的样本项数目。合成和图像数据集的数值例子表明,所提出的方法是能够恢复低秩张量。
2020-11-20 math.OC
A Riemannian rank-adaptive method for low-rank matrix completion
低秩矩阵完备化问题可以通过固定秩流形上的黎曼优化来解决。然而,已知方法的缺点是秩参数必须是先验固定的。本文考虑有界秩矩阵集上的最优化问题。提出了一种黎曼秩自适应方法,该方法包括固定秩优化、秩增加和秩减少步骤。我们探讨其应用于低秩矩阵完成问题的性能。在合成数据集和真实数据集上的数值实验表明,所提出的秩自适应方法与最先进的算法相比毫不逊色。此外,它表明,可以将这个排名自适应框架的每个方面分别到现有的算法,以提高性能的目的。
2021-03-26 math.OC
Rank One Completion for Higher Order Tensors
University of California San Diego(加州大学圣地亚哥分校)
研究高阶张量的秩一补全问题,引入秩一可确定张量概念,提出递归算法计算秩一张量补全,仅需求解线性系统和计算奇异向量,在无噪声时可得到唯一解,有噪声时计算结果接近真实解。
2026-04-25 cs.NA math.NA math.OC
Uncertainty quantification for nonconvex tensor completion: Confidence intervals, heteroscedasticity and optimality
Princeton University(普林斯顿大学)
我们研究的分布和不确定性的非凸优化噪声张量完成-估计一个低秩张量的不完整和损坏的观察其条目的问题。专注于Cai等人提出的两阶段估计算法。(2019),我们将这种非凸估计量的分布特征描述为精细尺度。这种分布理论又允许我们为未知的张量项和未知的张量因子构造有效且短的置信区间。所提出的推理过程具有以下几个重要特征:(1)它完全适应噪声异方差,(2)它是数据驱动的,并自动适应未知的噪声分布。此外,我们的研究结果揭示了非凸张量完成的统计最优性:当估计未知张量和潜在张量因子时,它达到了不可改进的$\ell_{2}$精度-包括速率和预常数。
2020-06-15 cs.IT cs.LG math.IT
Multi-Tubal Rank of Third Order Tensor and Related Low Rank Tensor Completion Problem
针对现有低管秩张量补全方法仅利用单模式低秩结构的不足,提出多管秩概念及对应低秩补全模型,结合时空特征改进模型,实验表明该方法在图像、视频等数据补全上优于现有方法。
2020-12-09 math.OC
Uniqueness of Low Rank Matrix Completion and Schur Complement
本文利用Schur补的工具研究了低秩矩阵的完备化问题。给出了完备矩阵对给定数据全局唯一的一个充分和必要条件。我们假设观察到的矩阵项遵循一个特殊的“楼梯”结构。在这个假设下,矩阵完备化问题要么是全局唯一的,要么有无穷多个解(因此排除了局部唯一性)。实际上,矩阵完备化问题的唯一性完全取决于“阶梯”角上的子矩阵的秩。定理的证明广泛地利用了Schur补。
2022-06-30 math.OC
Tensor Completion via Tensor Train Based Low-Rank Quotient Geometry under a Preconditioned Metric
本文将预条件度量从矩阵推广到张量列车格式,研究固定张量列车秩流形的商几何,并提出黎曼梯度下降、共轭梯度及高斯-牛顿等张量补全算法,实验验证其恢复能力、收敛性能与重建质量具有竞争力。
2023-04-18 math.OC
Fast and Provable Tensor-Train Format Tensor Completion via Precondtioned Riemannian Gradient Descent
The Hong Kong University of Science and Technology(香港科技大学);Shanghai Jiao Tong University(上海交通大学)
本文提出预条件黎曼梯度下降算法(PRGD)解决张量列车格式的低秩张量补全问题,证明线性收敛,并在模拟与真实数据上大幅减少计算时间和迭代次数。
2025-01-23 cs.LG cs.NA math.NA
Robust Completion for Rank-1 Tensors with Noises
University of California San Diego(加州大学圣地亚哥分校);Hong Kong Baptist University(香港浸会大学);Xiangtan University(湘潭大学)
针对带噪声的观测张量,提出鲁棒双二次优化模型实现秩一张量补全,并给出高效凸松弛方法,通过SDPNAL+求解。
2026-06-08 math.OC
The Rank-1 Completion Problem for Cubic Tensors
本文研究三次张量的秩-1补全问题,将其等价转化为秩-1矩阵恢复问题,并提出核范数松弛与矩松弛方法,保证获得补全或判定不存在。
2024-10-22 cs.NA math.NA math.OC
On phase retrieval via matrix completion and the estimation of low rank PSD matrices
给出了已知低秩$K$的半正定(PSD)矩阵$X$的欠定测量,基于非凸优化方案的最新进展,我们提出了一种新的算法来估计$X$。我们特别适用于傅立叶数据的相位恢复问题,它可以被配制为一个秩1 PSD矩阵恢复问题。此外,我们提供了理论如何过采样影响的稳定性解除反问题。
2019-09-30 math.OC
iFCTN: an intra-block Fully-Connected Tensor Network Decomposition for Tensor Completion
School of Mathematical Sciences, Beihang University(北京航空航天大学数学科学学院)
本文提出iFCTN分解,通过Khatri-Rao积参数化张量因子,减少中间子网络重建复杂度,设计高效算法实现张量补全任务,理论证明全局收敛性,实验显示计算效率更高。
2026-04-10 math.OC
Near-optimal sample complexity for convex tensor completion
University of British Columbia(不列颠哥伦比亚大学)
我们分析低秩张量完成(TC)使用噪声测量的张量的子集。假设秩为- $r$,阶为- $d$,$N \times N \times \cdots \times N$张量,其中$r=O(1)$,所实现的最佳采样复杂度为$O(N^{\frac{d}{2}})$,其通过求解张量核范数最小化问题来获得。然而,这个界限是显着大于自由变量的数量在一个低秩张量是$O(dN)$。在本文中,我们表明,通过使用一个原子范数的原子秩$1$符号张量,可以得到一个样本复杂度为$O(dN)$。此外,我们推广矩阵最大范数的定义张量,这将导致一个最大准范数(max-qnorm)的单位球具有小的Rademacher复杂度。我们证明,解决约束最小二乘估计使用凸原子范数或非凸max-qnorm结果在低秩张量完成问题的最佳样本复杂度。此外,我们表明,这些界限是近极大极小率最优的。我们还提供了有前途的数值结果最大qnorm约束张量完成,显示出改善的恢复结果相比,矩阵化和交替最小二乘。
2017-11-14 cs.LG math.OC stat.ML
A Note On the Rank of the Optimal Matrix in Symmetric Toeplitz Matrix Completion Problem
本文针对对称Toeplitz矩阵补全问题,利用三角矩和半无限问题定理,给出了最小化矩阵秩目标的上界,并证明该上界小于线性约束数的两倍,属该领域首批研究。
2019-05-03 math.OC
Implicit Regularization and Entrywise Convergence of Riemannian Optimization for Low Tucker-Rank Tensor Completion
本文研究了低Tucker秩张量补全问题,在近乎最优的采样复杂度下,利用留一法技术证明了原始黎曼梯度方法的逐元素收敛性并揭示了其隐式正则化现象。
2023-08-02 math.OC
Variable T-Product and Zero-Padding Tensor Completion with Applications
本文提出变元T-积与零填充离散傅里叶变换(ZDFT),结合TV正则化构建张量补全方法VTCTF-TV,实验证明其优越性,且零填充接近管维数时效果更佳。
2023-05-13 math.OC
Minimal Rank Completions for Overlapping Blocks
研究了块下三角形矩阵的左下块元素的选择问题,以使所有块子矩阵的秩最小为目标的多目标最优化问题。通过构造所有极小元的完备集,证明了存在一个同时秩极小元。
2021-06-21 cs.NA math.NA math.OC
A two-phase rank-based algorithm for low-rank matrix completion
本文提出一种两阶段基于秩的矩阵补全算法,结合拟Fejér收敛分析和Nesterov型加速机制,为加速Soft-Impute提供热启动,实验表明其恢复低秩矩阵的精度和速度均优于现有成熟算法。
2022-04-11 cs.NA math.NA math.OC
New Riemannian preconditioned algorithms for tensor completion via polyadic decomposition
UCLouvain(鲁汶天主教大学)
我们提出了新的黎曼预条件算法的低秩张量完成通过张量的多元分解。这些算法利用了多元分解形式的低秩张量的因子矩阵的积空间上的非欧度量。该度量是利用张量完备化费用函数的Hessian对角块的近似来设计的,因此对这些算法具有预处理作用。我们证明了所提出的黎曼梯度下降算法全局收敛到张量完成问题的一个稳定点,收敛速度估计使用$Ł$ ojasiewicz属性。对合成数据和真实数据的数值结果表明,所提出的算法在内存和时间上比最先进的算法更有效。此外,所提出的算法表现出更大的容忍度高估的秩参数的张量恢复性能,从而使一个灵活的选择的秩参数。
2022-06-02 cs.LG cs.NA math.NA
A Riemannian trust-region method for low-rank tensor completion
Universität Trier(特里尔大学)
本文提出了一种基于黎曼优化的低秩张量补全方法,通过Weingarten映射计算目标函数的黎曼Hessian,并分析了信任区域方法的收敛性及与现有方法的对比。
2017-03-29 cs.NA math.DG math.NA
R3MC: A Riemannian three-factor algorithm for low-rank matrix completion
University of Liège(列日大学);University of Cambridge(剑桥大学)
我们利用商流形上的黎曼优化的通用框架来开发R3MC,一个用于低秩矩阵完备化的非线性共轭梯度法。固定秩矩阵的底层搜索空间被赋予了一个新的黎曼度量,是专门为最小二乘成本。数值比较表明,R3MC鲁棒性优于国家的最先进的算法在不同的问题实例,特别是那些几乎没有采样和病态的数据相结合。
2014-09-20 cs.LG math.OC
Exact matrix completion based on low rank Hankel structure in the Fourier domain
矩阵补全是关于从其部分显示的元素中恢复矩阵,并且它通常可以通过利用目标矩阵的固有简单性或低维结构来实现。例如,矩阵简单性的一个典型概念是低秩。本文研究了基于另一种低维结构,即傅立叶域上的低秩Hankel结构的矩阵完备化。它表明,这种结构的矩阵可以通过求解凸优化程序提供的采样复杂度是接近最优的准确恢复。实验结果也证明了凸方法的有效性。
2019-10-07 cs.IT math.IT math.OC
Tensor Completion via Integer Optimization
The Ohio State University(俄亥俄州立大学);University of California Berkeley(加州大学伯克利分校)
本文提出一种基于整数线性优化和 Frank-Wolfe 变体的张量补全算法,在线性 oracle 步骤内同时实现可证明收敛与信息论样本复杂度速率,并在千万级元素张量上验证了可扩展性。
2024-04-03 cs.LG math.OC
Graph-Regularized Low-Rank Matrix Completion by Variable Projection
Royal Meteorological Institute of Belgium(比利时皇家气象研究所)
研究低秩矩阵填充问题,核心方法是将图正则化纳入RTRMC框架得到GR-RTRMC,利用矩阵行列内在关系,主要贡献是提高矩阵填充在行列强相关场景下的准确性与鲁棒性。
2026-07-13 cs.LG cs.NA math.NA
"Sparse + Low-Rank'' Tensor Completion Approach for Recovering Images and Videos
Hangzhou Dianzi University(杭州电子科技大学);Ningbo University(宁波大学);Huawei Technologies Co., Ltd.(华为技术有限公司);The Hong Kong Polytechnic University(香港理工大学)
从严重欠采样的数据中恢复彩色图像和视频是人脸识别和计算机视觉中一项基本而具有挑战性的任务。针对彩色图像和视频的多维性,提出了一种新的张量完备化方法,该方法能够有效地挖掘离散余弦变换(DCT)下张量数据的稀疏性。具体来说,我们介绍了两个“稀疏+低秩”张量完成模型,以及两个可实现的算法,找到他们的解决方案。第一种是基于离散余弦变换的稀疏加加权核范数诱导的低秩极小化模型。第二种是基于离散余弦变换的稀疏加$p$-收缩映射诱导的低秩优化模型。此外,我们相应地提出了两个可实现的增广拉格朗日为基础的算法来解决底层的优化模型。彩色图像修补和视频数据恢复的一系列数值实验表明,该方法的性能优于许多现有的最先进的张量补全方法,特别是在丢失数据率较高的情况下。
2022-08-19 cs.CV math.OC