Hierarchical Prior Regularized Matrix Factorization for Image Completion
最近的低秩先验模型有效地解决了张量完成问题。然而,这些模型未能利用张量的局部模式,这损害了张量完成的性能。本文提出了一种新的张量完备化的分层先验正则化矩阵分解模型。该模型将低秩先验、全变差先验和稀疏编码先验分层融合到矩阵分解中,同时刻画了张量的全局低秩性和局部光滑性.对于所提出的模型,我们使用乘子的交替方向法来建立我们的算法。此外,还对算法的复杂度和收敛性进行了分析,进一步验证了算法的有效性.然后通过各种数据集对所提出的方案进行评估。实验结果表明,该方法优于几种现有的方法。
2021-04-10 cs.NA math.NA
A Bayesian Tensor Factorization Model via Variational Inference for Link Prediction
本文提出基于变分贝叶斯推断的张量分解模型,用于解决链接预测问题,相比最大似然方法在大规模数据集上表现更优。
2014-09-29 cs.LG cs.NA math.NA
A Biased Deep Tensor Factorization Network For Tensor Completion
张量分解是一种常用的张量完备化技术,但现有的方法大多基于线性或浅层模型,当数据张量变大而观测数据很小时,容易出现过拟合,性能明显下降。为了解决这个问题,提出了基于有偏深度张量分解网络(BDTFN)的张量完备化方法。该方法不仅克服了传统张量分解的缺点,而且能够处理复杂的非线性数据。首先,将输入张量的观测值对应的水平和侧向张量作为输入进行投影,得到其水平(侧向)潜在特征张量。其次,水平(横向)潜在的特征张量分别构造成一个多层感知器网络。最后,通过构造双线性池化层融合水平和横向输出张量。张量前向传播由这三个步骤组成,其参数由张量反向传播使用多变量链式法则更新。在本文中,我们考虑了大规模的5分钟交通速度数据集,并使用它来解决大规模时空交通数据的缺失数据填补问题。此外,我们比较了所提出的算法的数值性能与那些国家的最先进的方法对视频恢复和彩色图像恢复。数值实验结果表明,该方法不仅比现有方法具有更高的精度,而且具有更高的速度。
2021-05-20 cs.NA math.NA
ST-SVD Factorization and s-Diagonal Tensors
通过离散傅里叶变换、标准矩阵奇异值分解和逆离散傅里叶变换,将一个三阶实张量映射成一个特殊的f-对角张量。我们称这样的f-对角张量为s-对角张量。f-对角张量是s-对角张量当且仅当它在上述过程中映射到自身。将三阶张量空间划分为正交等价类。每个正交等价类都有唯一的s-对角张量。如果两个s-对角张量正交等价,则它们相等。正交等价类中的三阶张量具有相同的张量管秩和T-奇异值。给出了s-对角张量的四个有意义的必要条件。然后给出了s-对角张量的一组充分和必要条件。这样的条件涉及一个特殊的复数。在第三模维数为$2, 3$和$4$的情形下,给出了不涉及这种复数的直接充分条件和必要条件.
2021-08-09 cs.NA math.NA
GOCPT: Generalized Online Canonical Polyadic Tensor Factorization and Completion
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IQVIA(艾昆纬)
低秩张量因式分解或完成被充分研究并应用于各种在线设置,例如在线张量因式分解(其中时间模式增长)和在线张量完成(其中不完整切片逐渐到达)。然而,在许多现实世界中,张量可能具有更复杂的演化模式:(i)一个或多个模式可以增长;(ii)缺失的条目可以被填充;(iii)现有的张量元素可以改变。现有的方法无法支持这种复杂的场景。为了填补这一空白,本文提出了一个广义在线正则多矢(CP)张量分解和完成框架(名为GOCPT),在这个一般的设置,我们保持CP结构的动态张量在进化过程中。我们表明,现有的在线张量因式分解和完成设置可以在GOCPT框架下统一。此外,我们提出了一个名为GOCPTE的变体,用于处理历史张量元素不可用的情况(例如,隐私保护),其实现了与GOCPT类似的适应性,但具有少得多的计算成本。实验结果表明,我们的GOCPT可以在JHU Covid数据上提高高达2:8%的适应度,在专有患者索赔数据集上提高9:2%的适应度。我们的变体GOCPTE在两个数据集上显示了高达1:2%和5:5%的适应度改进,与最佳模型相比,加速了约20%。
2022-05-08 cs.LG cs.MS cs.NA
Non-negative Einstein tensor factorization for unmixing hyperspectral images
提出一种基于 Einstein 积的非负张量分解模型,结合正则与稀疏约束、张量乘性更新及 RRE、TEA 加速收敛,用于高光谱图像去噪和线性解混。
2024-06-17 cs.NA math.NA
Accelerating Block Coordinate Descent for Nonnegative Tensor Factorization
Université de Mons(蒙斯大学);Université de Rennes(雷恩大学);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);IRISA(雷恩第一大学计算机科学研究所)
研究了改进块坐标下降算法的经验收敛速度问题。我们提出了一个外推策略之间的块更新,称为启发式外推与重启(HER)。HER显着加快了大多数现有的块坐标算法的经验收敛速度密集NTF,特别是具有挑战性的计算场景,同时需要一个可以忽略不计的额外的计算预算。
2020-11-20 cs.LG cs.NA math.NA
Approximate Rank-Detecting Factorization of Low-Rank Tensors
Berlin Institute of Technology (TU Berlin)(柏林工业大学);FU Berlin(柏林自由大学);Mathematisches Forschungsinstitut Oberwolfach(奥伯沃尔法赫数学研究所)
提出AROFAC2算法,通过检测三阶张量的CP秩并分解为秩一分量,具有内在检测真实秩、避免虚假分量、对异常值和非高斯噪声鲁棒的优势。
2012-11-30 cs.LG cs.NA math.NA
Ricci-Notation Tensor Framework for Numerical Algebraic Geometry via Any-Degree Unitary-Triangular Factorization
University of Alberta(阿尔伯塔大学)
提出任意度酉三角(Qr)分解,将多项式系统系数表示为向量形稀疏张量,通过张量框架实现数值三角化,保持解集,并与Gröbner基方法比较。
2026-07-01 cs.MS cs.NA math.NA
Sparse Nonnegative Tensor Factorization and Completion with Noisy Observations
Central China Normal University(华中师范大学);The University of Hong Kong(香港大学)
本文研究了三阶张量的稀疏非负张量分解和完备化问题。由于稀疏性和非负性,底层张量被分解为一个稀疏非负张量和一个非负张量的张量积。我们提出了最小化的极大似然估计的非负约束的观察和张量$\ell_0$范数的稀疏因子的总和。我们表明,所提出的模型的估计的误差界可以建立在一般的噪声观测。在特定的噪声分布下,包括加性高斯噪声,加性拉普拉斯噪声,和泊松观测的详细误差范围可以推导出来。此外,极大极小下界与所建立的上界相匹配,最高可达底层张量大小的对数因子。张量的这些理论结果优于矩阵的结果,这说明了使用非负稀疏张量模型完成和去噪的优势。数值实验验证了所提出的基于张量的方法相比,基于矩阵的方法的优越性。
2021-10-20 cs.CV cs.LG cs.NA
Parallel Algorithms for Constrained Tensor Factorization via the Alternating Direction Method of Multipliers
Technical University of Crete(克里特理工大学);University of Minnesota(明尼苏达大学)
本文提出基于交替方向乘子法的约束张量分解框架,简化计算并支持分布式并行实现,适用于大数据应用。非负性作为基准约束,展示了该方法在非负张量分解中的潜力。
2015-05-05 cs.DC cs.IT cs.NA
GIFT: Guided and Interpretable Factorization for Tensors - An Application to Large-Scale Multi-platform Cancer Analysis
Seoul National University(首尔大学);The State University of New York (SUNY) Korea(纽约州立大学韩国分校)
本文提出GIFT方法,通过将先验知识作为正则化项整合到目标函数中,实现多平台基因数据中患者与基因之间可解释的潜在关系提取,提升分解质量和速度。
2018-01-09 cs.NA math.NA q-bio.GN
On Tensors, Sparsity, and Nonnegative Factorizations
University of California, Los Angeles(加州大学洛杉矶分校);Sandia National Laboratories(桑迪亚国家实验室)
针对稀疏计数数据,提出基于泊松分布的张量因子分解模型CP-APR算法,证明其收敛性并实现大规模稀疏张量处理。
2012-08-14 cs.NA math.NA
Global Optimality in Tensor Factorization, Deep Learning, and Beyond
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出一个通用框架,分析非凸分解问题,证明局部最小值为全局最小值,并指导深度网络架构和正则化策略以提高优化效率。
2015-06-24 cs.LG cs.NA math.NA
Stratified Non-Negative Tensor Factorization
University of California, Los Angeles(加州大学洛杉矶分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
针对分层NMF处理多模态数据时需展平张量导致几何结构丢失的问题,提出分层非负张量分解方法,开发乘法更新规则并引入正则化版本,实验表明其内存需求更低且能识别可解释主题。
2024-11-27 cs.LG cs.NA math.NA
Fast Hypergraph Regularized Nonnegative Tensor Ring Factorization Based on Low-Rank Approximation
Guangdong University of Technology(广东工业大学);RIKEN(理化学研究所)
对于高维数据的表示,非负张量环(NTR)分解结合流形学习已经成为一种很有前途的模型,可以利用多维结构从张量数据中提取特征。然而,现有的方法,如图正则化张量环分解(GNTR)只建模对象的成对相似性。对于具有复杂流形结构的张量数据,图不能精确地构造相似关系。为了有效地利用对象间高维复杂的相似性,将超图引入到NTR框架中,进一步增强了特征提取,并在此基础上提出了一种超图正则化非负张量环分解(HGNTR)方法.为了降低计算复杂性和抑制噪声,我们应用低秩近似技巧来加速HGNTR(称为LraHGNTR)。实验结果表明,与现有的聚类算法相比,本文提出的HGNTR和LraHGNTR算法在聚类任务上具有更高的性能,并且LraHGNTR算法在不降低聚类精度的前提下,可以大大减少运行时间.
2021-09-06 cs.LG cs.NA math.NA
Coseparable Nonnegative Tensor Factorization With T-CUR Decomposition
School of Mathematical Sciences, Fudan University(复旦大学数学科学学院);Michigan State University(密歇根州立大学)
本文提出共可分离非负张量分解(NTF),通过交替索引选择和 t-CUR 采样等方法,在张量设置下保留多维相关性,实验证明其比共可分离 NMF 更高效。
2025-01-22 cs.LG cs.NA math.NA
Distributed Methods for High-dimensional and Large-scale Tensor Factorization
Seoul National University(首尔大学);KAIST(韩国科学技术院)
本文提出两种分布式张量分解方法SALS和CDTF,能高效处理高维大规模张量,实验证明其在收敛速度与内存需求间取得良好平衡,能分解5维含10亿观测值的张量。
2015-07-11 cs.DB cs.IR cs.NA
Tensor Decompositions: A New Concept in Brain Data Analysis?
RIKEN BSI(理化学研究所脑科学综合研究中心)
本文综述了张量分解在多向BSS/ICA、特征提取、分类和多向PLS回归中的新模型与方法,涵盖约束Tucker和CP模型及惩罚张量分解。
2013-05-02 cs.LG cs.NA math.NA