A Unified Framework for Coupled Tensor Completion
University of Electronic Science and Technology of China(中国电子科技大学)
耦合张量分解通过结合来自潜在耦合因子的先验知识来揭示联合数据结构。张量环(TR)分解在不同模态性质张量的排列下保持不变,保证了分解因子和模态属性的一致性。TR具有强大的表达能力,在多维数据处理中取得了成功。为了让耦合张量在缺失分量估计中相互帮助,本文利用TR来实现耦合补全,共享部分潜在因子。采用新的Frobenius范数建立了耦合TR完井优化模型。该算法采用块坐标下降法求解,有效地解决了由采样模式引起的一系列二次问题。与其他基于核范数的方法相比,该优化模型的超额风险界显示了理论性能的提高。在合成数据上的数值实验验证了该方法的有效性,在真实数据上的实验结果表明了该方法在恢复精度方面优于现有方法.
2020-11-08 cs.LG stat.ML
Faster Matrix Completion Using Randomized SVD
Tsinghua University(清华大学);Old Dominion University(奥多明尼昂大学)
矩阵补全是图像修补和个性化推荐系统等领域广泛使用的一种技术。在这项工作中,我们专注于使用更快的随机奇异值分解(rSVD)来加速矩阵补全。首先,提出了两种处理稀疏矩阵的快速随机算法(rSVD-PI和rSVD-BKI)。它们使用eigSVD过程和几个加速技巧。然后,利用rSVD-BKI算法和一种新的子空间循环技术,对文献[1]中的奇异值阈值(SVT)方法进行加速,实现快速的矩阵完备化。实验表明,在保持相同精度的前提下,本文提出的rSVD算法比基本的rSVD算法[2]快6倍。对于图像修补和电影收视率估计问题,所提出的加速SVT算法消耗的CPU时间分别比使用svds和lansvd的方法少15倍和8倍,而不损失精度。
2018-10-16 cs.LG stat.ML
Low-Rank Approximation and Completion of Positive Tensors
University of California, Berkeley(加州大学伯克利分校)
与矩阵情况不同,计算张量的低秩近似是NP困难的,并且通常是数值不适定的。即使是张量的最佳秩-1近似也是NP困难的。在本文中,我们使用凸优化发展多项式时间算法的低秩逼近和完善的正张量。我们的方法是使用代数拓扑定义一个新的(数值适定性)分解的正张量,我们证明是等价的标准张量分解在重要的情况下。虽然计算这个分解是一个非凸的最优化问题,我们证明了它可以精确地转化为凸优化问题。这使我们能够构造多项式时间的随机算法来计算这种分解和解决低秩张量近似问题。结果之一是,正张量的最佳秩1近似可以在多项式时间内计算。我们的框架下一个扩展到张量完成问题,其中张量的噪声条目被观察到,然后用于估计丢失的条目。我们提供了一个多项式时间算法,对于特定的情况下,需要一个多项式(张量顺序)数量的测量,与现有的方法,需要一个指数数量的测量。这些算法被扩展到利用张量的稀疏性,以减少所需的测量次数。最后,我们提供了一个新的解释统计回归问题的分类变量张量完成问题,和合成数据和数据从生物工程代谢网络的数值例子表明,我们的方法在这个问题上的改进性能。
2016-09-13 cs.LG math.ST stat.TH
Robust Low-Rank Tensor Ring Completion
University of Electronic Science and Technology of China(电子科技大学)
低秩张量补全基于不同的张量分解来恢复丢失的条目。低秩张量环由于其在开发高阶数据结构方面的优异性能,在张量完备化中得到了广泛的应用。为了进一步处理其在张量主成分分析中对稀疏分量的敏感性,我们提出了鲁棒张量环完备(RTRC),它将潜在的低秩张量分量从具有有限数量测量的稀疏分量中分离出来。低秩张量分量由其平衡开折的核范数的加权和约束,而稀疏分量由其l1范数正则化。我们分析了RTRC模型,并给出了准确的恢复保证。采用乘子交替方向法将问题分解为若干个子问题,并快速求解。在数值实验中,我们验证了所提出的方法在合成数据上的恢复条件,并表明所提出的方法在许多真实世界的基于数据的任务中,即,光场图像恢复,人脸图像中的阴影去除,以及彩色视频中的背景提取。
2020-04-23 cs.LG stat.ML
The Poisson tensor completion parametric estimator
Sandia National Laboratories(桑迪亚国家实验室)
本文提出了一种基于泊松张量分解的估计器,用于改进亚高斯分布的直方图估计,通过非负性保证和规范集中现象实现更精确的估计。
2026-03-07 math.ST stat.ME stat.TH
Orthogonalized ALS: A Theoretically Principled Tensor Decomposition Algorithm for Practical Use
Stanford University(斯坦福大学)
流行的交替最小二乘(ALS)算法张量分解是有效的,易于实现,但往往收敛到穷人的局部最优-特别是当权重的因素是不均匀的。我们提出了一种修改的ALS方法,是有效的标准ALS,但可证明恢复真实的因素与随机初始化下的张量的因素的标准不相干假设。我们证明了显着的实际优势,我们的方法比传统的ALS的各种任务的合成数据-包括张量因式分解的准确,嘈杂和过完整的张量,以及张量完成-和计算词嵌入从三阶词三次出现张量。
2017-09-23 cs.LG stat.ML
Subzero matrix completion for sparse data analysis: large-scale learning of latent low-rank structure
Flatiron Institute(弗莱堡研究所);Courant Institute, NYU(纽约大学库朗数学研究所);Google Research(谷歌研究院)
本文针对稀疏非负矩阵补全问题,提出可扩展的随机交替最小二乘算法,结合稀疏优化与CUDA内核加速,成功应用于果蝇连接组突触权重矩阵分析,揭示其潜在低秩结构的预测能力。
2026-08-25 cs.LG stat.ML
Knowledge Graph Completion with Mixed Geometry Tensor Factorization
HSE University(高等经济大学);AIRI(人工智能研究所)
本文提出一种结合欧几里得与双曲几何的混合张量分解方法,通过引入双曲相互作用项修正Tucker分解模型,在显著减少参数的同时实现了SOTA的知识图谱链接预测精度。
2025-04-03 cs.AI cs.IR cs.LG
Bayesian Low Rank Tensor Ring Model for Image Completion
低秩张量环模型是一种很好的图像补齐方法,它可以恢复数据采集和转换过程中丢失的条目。最近提出的基于张量环(TR)的完备化算法通常通过预先定义秩的交替最小二乘方法来解决低秩优化问题,当未知秩设置得太大且只有少数测量可用时,这可能容易导致过拟合。本文通过自动学习数据的低秩结构,提出了一种贝叶斯低秩张量环模型用于图像补全。提出了一种适用于低秩张量环分解的乘性相互作用模型,通过假设核心因子的项服从Student- T分布,使核心因子具有稀疏性.与现有方法相比,该方法无需参数调整,TR秩可以通过贝叶斯推断得到。数值实验,包括合成数据,不同大小的彩色图像和YaleFace数据集B相对于一个姿势,表明所提出的方法优于国家的最先进的,特别是在恢复精度方面。
2020-06-29 cs.LG cs.MM stat.ML
T-SVD Based Non-convex Tensor Completion and Robust Principal Component Analysis
Peking University(北京大学)
张量完备化和鲁棒主元分析在机器学习中得到了广泛的应用,但其关键问题是如何最小化张量秩,这是一个非常具有挑战性的问题。解决这一问题的一种常用方法是基于张量奇异值分解(T-SVD),用奇异值的$\ell_1-$范数来近似张量秩。此外,张量的稀疏性也可以用它的$\ell_1-$范数来度量。然而,$\ell_1$罚分本质上是有偏差的,因此结果将偏离。为了避免这种偏差,我们提出了一种新的非凸张量秩代理函数和一种新的非凸稀疏性度量。在这种新的设置中,通过使用的凸性,而不是一个优化最小化算法进一步设计张量完成和鲁棒的主成分分析。此外,我们分析了它的理论性质。最后,自然和高光谱图像上的实验证明了我们提出的方法的有效性和效率。
2021-05-25 cs.CV cs.LG stat.ML
Fast Tensor Completion via Approximate Richardson Iteration
MIT(麻省理工学院);Google Research(谷歌研究)
本研究提出一种基于近似 Richardson 迭代的提升方法,通过将结构化 TD 回归算法作为黑盒子程序解决 TC 回归问题中代数结构丢失的难题,实现了次线性时间复杂度,在真实张量 CP 补全上比直接方法快 100 倍。
2025-08-12 cs.DS cs.LG math.ST
Exact tensor completion using t-SVD
Tufts University(塔夫茨大学)
本文基于t-SVD提出张量补全方法,通过凸优化最小化张量核范数以保证恢复概率,验证了在随机采样下张量补全的最优性。
2015-02-27 cs.LG cs.NA math.NA
Incoherence-Optimal Matrix Completion
The University of California, Berkeley(加州大学伯克利分校)
本文考虑矩阵完备化问题。我们表明,这是没有必要假设联合不连贯,这是一个标准的,但不直观的和限制性的条件,是由以前的研究。这导致样本复杂度界,其相对于不相干参数(以及秩$r$和矩阵维度$n$直到对数因子)是逐阶最优的。因此,我们将恢复半定矩阵的样本复杂度从$O(nr^{2}\log^{2}n)$提高到$O(nr\log^{2}n)$,并将最高允许秩从$Θ(\sqrt{n}/\log n)$提高到$Θ(n/\log^{2}n)$。证明中的关键步骤是获得$\ell_{\infty,2}$ -范数的新界,定义为矩阵的行范数和列范数的最大值。为了说明我们的技术的适用性,我们讨论了扩展SVD投影,结构化矩阵完成和半监督聚类,我们提供了有序的改进现有的结果。最后,我们转向密切相关的低秩加稀疏矩阵分解问题。我们表明,联合不相干条件是不可避免的多项式时间算法的条件种植集团猜想。这意味着一般来说,将秩- $ω(\sqrt{n})$半正定矩阵和稀疏矩阵分开是困难的。有趣的是,我们的研究结果表明,标准和联合不相干条件分别与矩阵分解问题的信息(统计)和计算方面。
2015-02-13 cs.IT cs.LG math.IT
Brain-Computer Interface with Corrupted EEG Data: A Tensor Completion Approach
脑-机接口中的一个重要问题是如何处理以多维数据集形式组织的脑电测量数据。另一方面,最近,在利用张量分解模型来捕获多维信号中的条目之间的复杂关系的多维信号补全算法中已经取得了重大进展。我们建议使用张量完成应用于EEG数据,以提高分类性能的运动图像BCI系统与损坏的测量。噪声测量被认为是从张量分解模型推断的未知量。我们评估了四个最近提出的张量完成算法的性能,加上一个简单的插值策略,首先与随机丢失的条目,然后与丢失的样本约束有一个特定的结构(随机丢失的通道),这是一个更现实的假设在BCI应用。我们测量了这些算法从观测数据重建张量的能力。然后,我们测试的分类准确性的想象运动的BCI实验与缺失的样本。我们表明,对于随机缺失的条目,所有张量完成算法可以恢复丢失的样本,增加分类性能相比,一个简单的插值方法。对于随机丢失通道的情况下,我们表明,张量补全算法有助于重建丢失的通道,显着提高运动想象分类的准确性,但是,不是在同一水平的干净的数据。张量补全算法在实际的BCI应用中是有用的。所提出的策略可以允许使用运动图像BCI系统,即使当EEG数据受到丢失通道和/或样本的高度影响时,避免在校准阶段需要新的采集。
2018-07-26 eess.SP q-bio.QM stat.ML
Noisy Tensor Completion via Low-rank Tensor Ring
Guangdong University of Technology(广东工业大学);RIKEN(理化学研究所)
张量补全是不完整数据分析的基本工具,其目标是从部分观测值中预测缺失项。然而,现有的方法往往显式或隐式地假设观测条目是无噪声的,以提供精确恢复丢失条目的理论保证,这在实践中受到很大的限制。为了弥补这些缺陷,本文提出了一种新的噪声张量完成模型,它补充了现有的工作在处理高阶和噪声观测退化的不足。具体地说,张量环核范数(TRNN)和最小二乘估计分别采用正则化的基础张量和观察到的条目。此外,一个非渐近上界的估计误差描述所提出的估计器的统计性能。两个有效的算法来解决的优化问题的收敛保证,其中之一是专门针对处理大规模的张量,通过替换TRNN的原始张量的最小化等效的一个小得多的异构张量分解框架。合成和真实世界的数据上的实验结果表明,该模型在恢复噪声不完整的张量数据的有效性和效率相比,国家的最先进的张量完成模型。
2022-03-14 cs.AI cs.LG stat.ML
Provable Tensor-Train Format Tensor Completion by Riemannian Optimization
Hong Kong University of Science and Technology(香港科技大学)
张量训练(TT)格式在处理结构高阶张量方面具有吸引人的优势。近十年来,TT格式张量在不同学科中得到了广泛的应用,其中张量完备化引起了广泛的关注。许多快速算法,包括黎曼梯度下降(RGrad),已经提出了TT格式张量完成。然而,这些算法的理论保证在很大程度上是缺失的或次优的,部分原因是TT格式分解中复杂的递归代数运算。此外,为其他格式的张量建立的现有结果,例如,Tucker和CP,是不适用的,因为处理TT格式张量的算法是实质上不同的,并且涉及更多。在本文中,我们提供,据我们所知,第一理论保证的收敛性RGrad算法的TT格式张量完成,在一个接近最佳的样本量条件下。RGrad算法以恒定的收缩率线性收敛,该收缩率不受张量条件数的限制,无需重新调节。我们还提出了一种新的方法,称为顺序二阶矩方法,以在类似的样本量要求下实现热初始化。作为一个副产品,我们的结果甚至显着细化矩阵完成的RGrad算法的先前调查。最后,如果观测项由随机亚高斯噪声组成,则推导出RGrad算法的统计(近)最优速率。数值实验证实了我们的理论发现,并展示了TT格式分解所获得的计算加速比。
2022-03-21 cs.IT cs.LG math.IT
Online Matrix Completion Through Nuclear Norm Regularisation
本文的主要目的是提出一种在线完成矩阵补全的新方法。出于各种各样的应用,从推荐系统的设计,传感器网络定位,通过地震数据重建,我们认为矩阵完成问题时,项目的兴趣矩阵逐渐观察。准确地说,我们将自己置于预测规则应该逐步细化的情况下,而不是每次观察到的条目样本增加时都从头开始重新计算。将现有的矩阵补全方法扩展到序列预测环境确实是大数据时代的一个主要问题,但文献中很少涉及。本文中提出的算法建立在Mazumder等人(2010)中介绍的软插补方法的基础上。主要的新颖性主要来自于使用随机技术来计算和更新算法中涉及的奇异值分解(SVD)。虽然解除武装的简单性,提出的方法证明是非常有效的,同时需要减少计算。几个数值实验的基础上,真实的数据集说明了它的性能,连同初步的结果,给它的理论基础。
2014-01-10 stat.ML
Calibrated Elastic Regularization in Matrix Completion
本文讨论了矩阵完备化问题,即根据一个小的指数子集的观测值估计一个矩阵。我们提出了一个校准谱弹性网方法与核和Frobenius罚款的总和,并开发了一个迭代算法来解决凸极小化问题。迭代算法在通过当前猜测估算不完整矩阵中的缺失条目和通过估算矩阵的缩放软阈值奇异值分解估计矩阵之间交替,直到所得矩阵收敛。随后进行校准步骤以校正由Frobenius罚分引起的偏差。在适当的相干性条件和适当的惩罚水平下,我们证明了所提出的估计器达到了接近最优阶的误差界,并与噪声水平成比例。这提供了一个统一的分析噪声和无噪声矩阵完成问题。仿真结果比较我们的建议与以前的。
2012-11-09 math.ST stat.ML stat.TH
Learning Mixtures of Discrete Product Distributions using Spectral Decompositions
Microsoft Research India(微软研究院印度);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们研究了从样本中学习分布的问题,当底层分布是离散域上的乘积分布的混合时。这个问题是由几个实际应用,如众包,推荐系统,学习布尔函数的动机。现有的解决方案要么严重依赖于混合物中组分的数量是有限的这一事实,要么具有在组分数量上呈指数的样本/时间复杂度。在本文中,我们介绍了一个多项式时间/样本复杂性的方法来学习混合的$r$离散产品分布在$\{1, 2, \dots, \ell\}^n$,一般$\ell$和$r$。我们表明,我们的方法是统计上一致的,并进一步提供有限的样本保证。我们使用的技术,从最近的工作张量分解高阶矩匹配。这些矩匹配方法的关键步骤是构造一个特定的矩阵和一个特定的张量与低秩谱分解。这些张量通常直接从样本中估计。学习离散乘积分布的混合物的主要挑战是这些低秩张量不能直接从样本矩中获得。相反,我们将张量估计问题简化为:$a$)仅使用非对角块元素来估计低秩矩阵;以及$b$)使用少量线性测量来估计张量。利用矩阵完备化的最新发展,我们给出了一种基于交替最小化的方法来估计低秩矩阵,并将张量完备化问题表示为最小二乘问题。
2014-05-17 cs.CC cs.IT cs.LG
Low Permutation-rank Matrices: Structural Properties and Noisy Completion
CMU(卡内基梅隆大学);UC Berkeley(加州大学伯克利分校)
我们考虑的问题,噪声矩阵完成,其中的目标是重建一个结构化的矩阵,其条目部分观察到的噪音。这个欠定逆问题的标准方法是基于假设基础矩阵具有低秩,或者由低秩矩阵很好地近似。在本文中,我们提出了一个更丰富的模型的基础上,我们所谓的“置换秩”的矩阵。我们首先描述了经典的非负秩模型如何强制执行在实践中可能不受欢迎的限制,以及如何通过使用更丰富的置换秩模型来避免这些限制。其次,我们建立了新的置换为基础的模型下的最小最大估计率,并证明了令人惊讶的是,最小最大的估计率的对数因子下的典型的低秩模型。第三,我们分析了一个计算效率高的奇异值阈值算法,已知是最佳的低秩设置,并表明它也同时产生一个相合估计量的低排列秩设置。最后,我们提出了各种结构的结果,其特征的唯一性的置换秩分解,并表征凸近似的置换秩多面体。
2017-09-01 cs.IT cs.LG math.IT
Exact Tensor Completion from Sparsely Corrupted Observations via Convex Optimization
Hong Kong Baptist University(香港浸会大学)
本文对多维数组,特别是三阶张量的可证明估计进行了严格的分析,从其损坏项的随机子集。我们的研究很大程度上依赖于最近提出的张量代数框架,在该框架中,我们可以获得张量奇异值分解(t-SVD),这是类似于矩阵的SVD,并定义了一个新的概念张量秩称为管秩。我们证明,通过简单地解决一个凸规划,它最小化的加权组合的管核范数,凸代理管秩,和$\ell_1$ -范数,可以恢复一个不相干的张量完全压倒性的概率,只要它的管秩不是太大,腐败是合理的稀疏。有趣的是,我们的结果包括恢复保证的问题,张量完成(TC)和张量主成分分析(TRPCA)在相同的代数设置的特殊情况下。提出了一种交替方向乘子法(ADMM)算法来求解该优化问题。数值实验验证了我们的理论和实际应用证明了我们的算法的有效性。
2017-08-02 cs.CV cs.IT cs.LG
Intelligent Initialization and Adaptive Thresholding for Iterative Matrix Completion; Some Statistical and Algorithmic Theory for Adaptive-Impute
在过去的十年中,已经开发了各种矩阵完成算法。奇异值分解(SVD)是一种流行的技术,在实现其中的许多。大量的研究已经表明了它的理论和实证优势,但选择正确的阈值水平仍然是一个关键的实证困难。本文提出了一种新的矩阵完备化算法,该算法迭代阈值SVD与理论证明和数据依赖的阈值参数的值。所提出的算法的估计享有极大极小错误率,并显示出突出的经验性能。我们使用的阈值方案可以被看作是一个非凸优化问题的解决方案,其理论收敛保证的理解是有限的。我们研究这个问题,通过引入一个更简单的算法,广义- \SI,分析其收敛行为,并将其连接到所提出的算法。
2016-05-07 stat.ME
Robust Matrix Decomposition with Outliers
Rutgers University(罗格斯大学);University of Pennsylvania(宾夕法尼亚大学)
研究通过ℓ1范数和迹范数最小化从观测矩阵中恢复低秩矩阵和稀疏离群值矩阵的条件,给出了比以往更强的恢复保证,且不假设离群值的空间模式是随机的。
2010-12-04 cs.LG cs.NA math.NA
On Tensor Completion via Nuclear Norm Minimization
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Rutgers University(罗格斯大学)
本文提出通过直接最小化张量核范数进行张量补全,证明该方法能提升采样需求,发展了张量核范数的子微分刻画和张量鞅集中不等式等技术。
2014-05-07 cs.IT cs.NA math.IT
Bayesian matrix completion: prior specification
最近,由于出现了一些具有挑战性的应用,例如推荐系统,来自不完整测量的低秩矩阵估计受到了越来越多的关注;特别是着名的Netflix挑战。虽然基于核范数最小化的算法的行为现在已经很好地理解,但尚未探索的研究途径是贝叶斯算法在这种情况下的行为。在本文中,我们简要地回顾了贝叶斯文献中使用的矩阵完成的先验。一个标准的方法是分配一个逆伽马之前的奇异值的某个奇异值分解的矩阵的兴趣;这个先验是共轭的。然而,我们表明,其他两种类型的先验(再次为奇异值)可能是共轭的这个模型:伽玛先验,和离散先验。共轭是非常方便的,因为它可以实现吉布斯抽样或变分贝叶斯。有趣的是,这些不同先验的最大后验概率与核范数最小化问题有关。我们还比较了模拟数据集上的所有这些先验,以及经典的MovieLens和Netflix数据集。
2014-10-22 math.ST stat.CO stat.ML
Low-Rank and Sparse Enhanced Tucker Decomposition for Tensor Completion
Hangzhou Dianzi University(杭州电子科技大学);Ningbo University(宁波大学);The Hong Kong Polytechnic University(香港理工大学);Huawei Tech. Investment Co., Ltd(华为技术投资有限公司)
张量补全是指从不完整的测量或观察中估计缺失数据的任务,这是大数据分析、计算机视觉和网络工程领域经常出现的核心问题。由于高阶张量的多维性质,矩阵方法,例如,矩阵分解和张量的直接矩阵化,对于张量的完成和恢复来说往往不是理想的。本文提出了一种统一的低秩稀疏增强Tucker分解张量完备模型。我们的模型具有稀疏的正则化项,以促进稀疏的核心张量的Tucker分解,这是有益的张量数据压缩。此外,我们对Tucker分解的因子矩阵施加低秩正则化项,以廉价的计算成本诱导张量的低秩性。在数值上,我们提出了一个定制的ADMM足够容易的子问题来解决底层模型。值得注意的是,我们的模型能够处理不同类型的现实世界的数据集,因为它利用了潜在的周期性和内在的相关性出现在张量。一系列的计算实验对现实世界的数据集,包括互联网流量数据集,彩色图像,人脸识别,表明我们的模型比许多现有的最先进的矩阵化和张量化方法在实现更高的恢复精度方面表现得更好。
2021-05-20 cs.LG math.OC stat.ML
Matrix Completion for Survey Data Prediction with Multivariate Missingness
全国健康和营养调查(NHANES)通过全面的身体检查和问卷调查研究整个美国人口的营养和健康状况。然而,由于几乎所有变量都不可避免地缺失,调查数据分析变得具有挑战性。本文提出了一种利用矩阵完备化处理多元随机缺失的插补方法。与现有的插补方案进行行或列方式插补相比,我们把数据矩阵作为一个整体,允许利用行和列模式来插补整个数据矩阵中的缺失值在同一时间。我们采用列空间分解模型的人口数据矩阵,易于获得的人口数据作为协变量和低秩结构的残差矩阵。一个独特的挑战出现,由于缺乏确定的参数在样本数据矩阵。我们提出了一个投影策略,以唯一地确定参数和相应的惩罚估计,这是计算效率和所需的统计特性。仿真研究表明,采用所提出的矩阵补插的双抗差估计器具有较小的均方误差。为了证明实际相关性,我们将所提出的方法应用于2015-2016年NHANES问卷数据。
2019-08-02 stat.ME
Eigenvector Spatial Filters Nuclear Norm Matrix Completion with Application to Air Quality Data
针对环境面板数据中缺失观测的可靠重建问题,提出特征向量空间滤波核范数矩阵补全方法,通过引入Moran型特征向量捕获空间自相关,采用块坐标下降法求解多凸优化问题,在模拟和实际空气质量数据中显著提升插补精度。
2026-08-25 stat.AP stat.ME
Tensor Completion by Multi-Rank via Unitary Transformation
Weifang University(潍坊学院);The University of Hong Kong(香港大学);Central China Normal University(华中师范大学)
张量完备化中的一个关键问题是保证恢复所需的均匀随机样本的个数。本文主要研究了基于变换张量奇异值分解的$n_1 \times n_2 \times n_3$三阶张量完备化方法,并给出了所需样本项数目的一个界。我们的方法是利用底层张量的多秩而不是其在界中的管秩。在合成和成像数据集的数值实验中,我们证明了我们提出的样本条目数的有效性。此外,我们的理论结果适用于变换张量奇异值分解下$n_3$ -维的任何酉变换。
2022-01-24 cs.LG stat.ML
Low-rank Tensor Grid for Image Completion
University of Electronic Science and Technology of China(电子科技大学)
张量补全通过利用多路数据的低秩结构来估计缺失的分量。最近提出的基于张量训练(TT)和张量环(TR)的方法在图像恢复方面表现出比经典方法更好的性能。与TT和TR相比,投影纠缠对态(PEPS),也称为张量网格(TG),允许更多的不同维度之间的相互作用,并可能导致更紧凑的表示。在本文中,我们提出了低秩张量网格的基础上进行图像完成。采用两阶段密度矩阵重整化群算法对由多个TT分解组成的TG分解进行初始化。通过求解交替最小二乘问题,可以交替地获得潜在TG因子。为了进一步提高计算效率,采用并行矩阵分解的方法,提出了一种低秩TG完备化的多线性矩阵分解方法。在合成数据和真实图像上的实验结果表明,所提出的方法在恢复精度方面优于现有的方法。
2020-04-23 cs.LG stat.ML
Provable Tensor Ring Completion
University of Electronic Science and Technology of China (UESTC)(电子科技大学);School of Information and Communication Engineering, University of Electronic Science and Technology of China (UESTC)(电子科技大学信息与通信工程学院)
张量完成从有限数量的测量恢复多维数组。利用最近提出的张量环(TR)分解,本文证明了在给定n^{d/2} r^2 ln^7(n^{d/2})个样本的情况下,通过求解凸优化程序,可以以很高的概率精确地恢复维数为n、TR秩为r的d阶张量.所提出的TR不相干条件下的结果保持类似的矩阵不相干条件。通过对合成数据的实验,验证了该方法对TR完成的恢复保证。此外,在真实数据上的实验表明,我们的方法提高了恢复性能相比,国家的最先进的方法。
2020-01-09 cs.LG stat.ML
TuckER: Tensor Factorization for Knowledge Graph Completion
University of Edinburgh(爱丁堡大学);Samsung AI Centre(三星人工智能中心)
知识图谱是现实世界事实的结构化表示。然而,它们通常只包含所有可能事实的一小部分。链接预测是基于现有事实推断缺失事实的任务。我们提出了TuckER,一个相对简单,但功能强大的线性模型的基础上塔克分解的二进制张量表示的知识图谱三元组。TuckER在标准链接预测数据集上的表现优于以前最先进的模型,为更精细的模型提供了强大的基线。我们表明,TuckER是一个充分表达的模型,推导出其嵌入维数的足够的界限,并表明,以前介绍的几个线性模型可以被视为特殊情况下的TuckER。
2019-08-24 cs.LG stat.ML
Robust Tensor Completion Using Transformed Tensor SVD
Weifang University(潍坊学院);Hong Kong Baptist University(香港浸会大学);Central China Normal University(华中师范大学)
本文利用变换张量奇异值分解(SVD)研究了张量完备化的鲁棒性问题,该方法采用酉变换矩阵代替传统张量SVD中的离散傅立叶变换矩阵。其主要动机是利用其他酉变换矩阵可以得到比离散傅立叶变换矩阵更低的管秩张量。这对于鲁棒的张量完备化将更有效。对高光谱、视频和人脸数据集的实验结果表明,采用变换张量奇异值分解的鲁棒张量补全方法在PSNR方面优于采用傅立叶变换和其他鲁棒张量补全方法。
2019-07-02 cs.CV cs.LG stat.ML
Tensor p-shrinkage nuclear norm for low-rank tensor completion
基于张量奇异值分解(t-SVD),提出了一种新的张量p收缩核范数(p-TNN)的定义.特别地,可以证明当p < 1时,p-TNN比张量核范数更好地逼近张量平均秩。因此,通过使用p-收缩核范数,提出了一种新的低秩张量完备(LRTC)模型,从其部分观测值估计张量。在统计上,给出了LRTC模型的恢复误差上界。此外,一个有效的算法,加速的自适应动量计划,开发解决由此产生的非凸优化问题。在光滑性假设下,可以进一步保证算法具有全局收敛速度。在合成数据集和真实数据集上进行的数值实验验证了我们的结果,并证明了我们的p-TNN在LRTC问题中的优越性。
2019-07-09 cs.LG stat.ML
Noisy Nonnegative Tucker Decomposition with Sparse Factors and Missing Data
Department of Mathematics, Hong Kong Baptist University(香港浸会大学数学系)
针对含噪且不完整的多维非负数据,提出利用 ℓ0 稀疏因子的非负 Tucker 分解与补全方法,并建立匹配极小极大下界的误差界。
2024-12-02 cs.LG stat.ML
Noisy Tensor Completion for Tensors with a Sparse Canonical Polyadic Factor
在本文中,我们研究的问题,噪音张量完成的张量,承认一个典型的polyadic或CANDECOMP/PARAFAC(CP)分解的因素之一是稀疏的。我们提出了一般的理论误差界的估计,通过使用复杂性正则化的极大似然原则,然后实例化这些边界的情况下,加性高斯白噪声。我们还提供了一个ADMM型的算法来解决复杂性正则化的极大似然问题,并通过实验验证了理论发现在合成数据集上。
2017-04-08 stat.ML
Bayesian Sparse Tucker Models for Dimension Reduction and Tensor Completion
RIKEN Brain Science Institute(理化学研究所脑科学研究所);Shanghai Jiao Tong University(上海交通大学)
本文提出一种概率生成Tucker模型,通过结构稀疏性在多线性潜在空间中实现张量降维与补全,自动适应模型复杂度并提升泛化性能。
2015-05-10 cs.LG cs.NA math.NA
Scalable and Robust Tensor Ring Decomposition for Large-scale Data
University of Central Florida(中佛罗里达大学)
针对大规模张量数据中缺失条目与异常值损坏问题,提出一种可扩展且鲁棒的TR分解算法,通过自适应加权最速下降法填补缺失并识别异常值,结合快速Gram矩阵计算和随机子张量素描策略降低复杂度,在精度和速度上均优于现有方法。
2023-05-15 cs.LG stat.ML
Smooth Robust Tensor Completion for Background/Foreground Separation with Missing Pixels: Novel Algorithm with Convergence Guarantee
Virginia Tech(弗吉尼亚理工大学)
本研究的目的是通过将视频采集、视频恢复、背景/前景分离结合到一个框架中来解决具有缺失像素的背景/前景分离问题。为了实现这一点,平滑鲁棒张量完成(SRTC)模型被提出来恢复数据,并将其分解为静态背景和平滑前景,分别。具体地说,静态背景建模的低秩塔克分解和平滑的前景(运动物体)建模的时空连续性,这是由总变分正则化。基于张量近似交替最小化(tensor proximate alternative minimization,tenPAM)的有效算法实现求解所提出的模型,在非常温和的条件下具有全局收敛性保证。大量的实验表明,该方法显着优于国家的最先进的方法,背景/前景分离与丢失像素。
2022-04-11 cs.CV cs.LG stat.ML
Rank regularization and Bayesian inference for tensor completion and extrapolation
University of Minnesota(明尼苏达大学)
本文提出了一种新的正则化的PARAFAC分解因子捕获张量的秩,作为完成的三路数据阵列的缺失条目的关键使能器。在贝叶斯框架中,张量完成方法结合了先验信息,以增强其平滑和预测能力。这种概率方法可以自然地适应数据分布的一般模型,从而适应各种拟合标准,从而在最大后验意义上产生最佳估计。特别是,两个算法的高斯分布和泊松分布的数据,最小化秩正则化最小二乘误差和Kullback-Leibler发散,分别设计。所提出的技术是能够恢复“地面实况”的张量秩测试时,合成数据,并完成脑成像和酵母基因表达数据集分别与50%和15%的缺失条目,导致在-10 dB和-15 dB的恢复误差。
2013-01-31 cs.IT cs.LG math.IT
A generalizable framework for low-rank tensor completion with numerical priors
Duke University(杜克大学);Duke Kunshan University(昆山杜克大学)
针对现有低秩张量补全方法未系统利用数值先验导致精度受限的问题,提出首个整合数值先验的通用框架GCDTC,其实例SPTC算法在非负张量补全任务上性能显著优于现有最优方法,且代码开源。
2024-06-18 cs.AI cs.CV cs.LG
Low-rank tensor completion: a Riemannian manifold preconditioning approach
The University of Electro-Communications(电气通信大学);Amazon Development Centre India(亚马逊印度开发中心)
本文提出了一种基于黎曼流形预条件的方法用于具有秩约束的张量补全问题,通过引入新的黎曼度量利用最小二乘结构和Tucker分解的对称性,开发出预条件非线性共轭梯度和随机梯度下降算法,实验表明其在不同数据集上优于现有方法。
2016-05-26 cs.LG cs.NA math.NA
On Tensor Train Rank Minimization: Statistical Efficiency and Scalable Algorithm
张量训练(TT)分解为高阶张量提供了空间有效的表示。尽管它的优势,我们面临着两个关键的限制,当我们应用TT分解的机器学习问题:缺乏统计理论和可扩展的算法。在本文中,我们解决的局限性。首先,我们引入了一个凸松弛的TT分解问题,并推导出其误差界的张量完成任务。接下来,我们开发了一个交替优化方法与随机化技术,其中的时间复杂度是有效的空间复杂度。在实验中,我们在数值上确认了推导的界限,并以经验证明了我们的方法与一个真正的高阶张量的性能。
2017-08-02 stat.ML