Tensor CUR Decomposition under the Linear-Map-Based Tensor-Tensor Multiplication
Pusan National University(釜山国立大学);Kyungpook National University(庆北国立大学)
本文提出基于线性映射的张量CUR分解方法,用于视频前景-背景分离,并与多种现有方法进行比较,同时提供了理论分析。
2026-02-10 cs.NA math.NA
Faster Tensor Train Decomposition for Sparse Data
近年来,张量的应用在涉及数据分析和数值计算的领域中变得更加广泛。由于数据的爆炸式增长,低秩张量分解已经成为一个强大的工具,以利用臭名昭著的灾难的维数。张量分解的主要形式有CP分解、Tucker分解、张量训练(TT)分解等。现有的TT分解算法,包括TT-SVD和随机TT-SVD,在该领域都是成功的,但都不能准确有效地分解大规模稀疏张量。在前人研究的基础上,提出了一种新的大规模稀疏张量准最佳快速TT分解算法,并证明了该算法的正确性,推导了其复杂度的上界。在数值实验中,我们验证了该算法比TT-SVD更快地分解稀疏张量,比随机TT-SVD具有更高的速度、精度和通用性,并且可以在非零元素数量有限的情况下分解任意高维张量而不损失效率。新算法实现了以前无法实现的大规模稀疏矩阵TT分解,使基于张量分解的算法能够应用于更大规模的场景。
2020-11-02 cs.NA math.NA
Efficient construction of tensor ring representations from sampling
在本文中,我们提出了一种有效的方法来压缩高维函数到张量环格式,交替最小二乘(ALS)的基础上。由于函数在$d$中具有大小指数,其中$d$是维数,因此我们提出了有效的采样方案来获得$O(d)$重要样本以学习张量环。此外,我们设计了一个初始化方法ALS,允许在实践中快速收敛。数值算例表明,对于精度相近的函数,该方法所提供的张量环格式比张量列格式具有更少的参数,并且更好地尊重了原函数的结构。
2019-06-27 cs.NA math.NA
Hermitian Tensor Decompositions
厄米特张量是埃尔米特矩阵的推广,但它们具有非常不同的性质。每个复厄米张量都是复厄米秩-1张量的和。然而,这对于真实的情况是不正确的。我们研究厄米张量的基本性质,如厄米分解和厄米秩。对于正则基张量,我们确定了它们的厄米特秩和分解。对于实厄米特张量,我们给出了它们在实域上具有厄米特分解的充分刻画。除了传统的平坦化外,厄米张量还具有特殊的厄米和克罗内克环,它们可以给出厄米秩的不同下界。我们还研究了其他主题,如特征值,正半定,平方和表示,可分性。
2020-04-28 cs.NA math.NA
Three decompositions of symmetric tensors have similar condition numbers
本文揭示了对称张量的规范多元分解、Waring分解和Tucker压缩Waring分解三者条件数之间的内在联系,并据此将条件数计算速度提升数个数量级。
2021-10-08 cs.NA math.NA
Low-rank Tensor Train Decomposition Using TensorSketch
本文提出了一种基于TensorSketch和快速傅里叶变换的随机近端ALS算法,用于解决大型张量低秩张量列分解中的维度灾难问题,并给出了草图大小的理论下界及实验验证。
2023-09-15 cs.NA math.NA
CS decomposition and GSVD for tensors based on the T-product
本文利用T-积导出了正交张量的CS分解(T-CSD)和两张量的广义奇异值分解(T-GSVD)。详细分析了这两种分解的结构,并与矩阵分解的结构一致。然后分别提出了相应的算法。最后,利用T-GSVD给出了张量Tikhonov正则化解的显式表达式。数值算例验证了T-GSVD在解决图像复原问题中的有效性。
2021-06-30 cs.NA math.NA
A randomized singular value decomposition for third-order oriented tensors
由Zeng和Ng提出的定向奇异值分解(O-SVD)提供了一种基于t积的三阶张量奇异值分解的混合方法,其变换矩阵是高阶奇异值分解的因子矩阵。继续沿着这条思路,本文探讨了实现O-SVD更有效的张量列秩-1分解,并给出了截断O-SVD。受概率算法成功的启发,我们开发了一个随机版本的O-SVD,并提出了详细的误差分析。与现有的张量分解算法相比,新算法在保持良好精度的同时,在效率上具有优势。我们的主张是支持从实际应用中的几个定向张量的数值实验。
2023-02-27 cs.NA math.NA
Symmetric Orthogonal Tensor Decomposition is Trivial
我们考虑将实值对称张量分解为实值两两正交向量的外积之和的问题。这样的分解一般不存在,但我们证明了一些对称张量分解问题可以按照Anandkumar等人(2012)提出的白化过程转换为正交问题。如果一个$m$ -路$n$ -维对称张量的正交分解存在,我们提出了一种新的方法来计算它,减少到一个$n \times n$对称矩阵特征值问题。我们提供的数值结果证明了该方法的有效性。
2015-03-04 cs.NA math.NA
Tracking Tensor Ring Decompositions of Streaming Tensors
本文研究流式张量的张量环分解跟踪问题,提出一种高效算法及基于随机化技术的流式TR分解,利用TR结构并支持任意草图类型,理论与数值结果表明其在保持相似精度的同时显著提升了计算效率。
2023-07-03 cs.NA math.NA
Practical Sketching-Based Randomized Tensor Ring Decomposition
基于草图技术,我们提出了两个张量环(TR)分解的随机化算法。具体来说,通过定义新的张量积并研究其性质,将Kronecker子采样随机傅里叶变换和TensorSketch应用于TR分解最小化问题的交替最小二乘问题,设计了随机化算法。在此基础上,提出了一种基于随机投影的随机TR分解算法框架。理论结果的草图大小和复杂性分析的两个算法。我们比较我们的建议与国家的最先进的方法,使用合成和真实的数据。数值结果表明,它们在精度和计算时间上都有较好的性能
2022-09-12 cs.NA math.NA
Computing the unique CANDECOMP/PARAFAC decomposition of unbalanced tensors by homotopy method
National University of Kaohsiung(高雄大学);National Sun Yat-sen University(国立中山大学)
本文研究了张量最大维度大于其秩时的CP分解唯一性,推导了保证通用唯一性的秩上界,并基于此提出同伦持续法计算CP分解的算法。
2016-07-25 cs.NA math.NA
Learning Diagonal Gaussian Mixture Models and Incomplete Tensor Decompositions
研究了对角混合高斯模型中参数的学习问题。该问题可以表述为计算不完全对称张量分解。我们使用生成多项式来计算不完全对称张量分解和近似。然后采用张量逼近方法学习对角高斯混合模型。我们还做了稳定性分析。当一阶和三阶矩足够精确时,我们证明了高斯混合模型的参数也是高度精确的。数值实验也提供。
2021-06-08 cs.NA math.NA
Generalized Tensor Function via the Tensor Singular Value Decomposition based on the T-Product
本文利用张量T-积的张量奇异值分解(T-SVD)给出了广义张量函数的定义。利用T-积给出了张量的紧奇异值分解(T-CSVD),并由此得到了张量的投影算子和Moore-Penrose逆.利用偏等距张量建立了张量的柯西积分公式,并将其应用于张量方程的求解。在此基础上,建立了广义张量的张量幂幂和泰勒展开式.还列出了显式广义张量函数。定义了张量双线性型和半双线性型,并给出了广义张量函数保持结构的定理。对于复张量,我们建立了复张量与实张量之间的同构。在本文的最后一部分,我们发现块循环算子建立了张量和矩阵之间的同构。利用这种同构证明了F-随机结构在广义张量函数下是不变的。提出了不变张量锥的概念。
2019-10-16 cs.NA math.NA
Iterative Methods for Symmetric Outer Product Tensor Decompositions
Clarkson University(克拉克森大学);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
本文提出用于第三阶部分对称张量和第四阶完全对称张量的迭代算法,通过数值实验显示其收敛速度优于标准交替最小二乘法。
2013-12-30 cs.NA math.NA
Biquadratic Tensors, Biquadratic Decomposition and Norms of Biquadratic Tensors
双二次张量在许多科学领域中起着核心作用。例子包括固体力学中的弹性张量和Eshelby张量,以及相对论中的黎曼曲率张量。一般三阶张量的奇异值和谱范数是双二次张量的M-特征值和谱范数的平方根。张量积运算对双二次张量是封闭的。这些都促使我们研究双二次张量、双二次分解和双二次张量的范数。证明了利用双二次张量的双二次结构可以计算其谱范数和核范数。然后,要么减少变量的数量,要么减少可行域。我们建设性地表明,对于一个双二次张量,一个双二次秩一分解总是存在的,并表明,双二次张量的双二次秩下保持一个独立的双二次塔克分解。给出了双二次张量核范数的一个下界和一个上界。最后,我们定义了可逆双二次张量,并给出了可逆双二次张量的核范数与其逆的核范数乘积的下界和可逆双二次张量的核范数与其逆的谱范数乘积的下界.
2019-10-05 cs.NA math.NA
Randomized Algorithms for Low-Rank Matrix and Tensor Decompositions
Oden Institute & Dept. of Mathematics, University of Texas at Austin(德克萨斯大学奥斯汀分校奥登研究所与数学系)
本文提出随机算法用于加速低秩矩阵和张量分解,涵盖SVD、ID、CUR等方法,并探讨其在张量分解中的应用。
2025-12-30 cs.NA math.NA
Rank properties and computational methods for orthogonal tensor decompositions
正交分解将张量分解为秩孔张量的正交列表的和。给出了正交秩的几个性质。我们发现子张量的正交秩可以大于整个张量的正交秩,并证明了正交秩的下半连续性。下半连续性保证了低正交秩逼近的存在性。为了适应正交分解,我们提出了一种基于增广拉格朗日方法的算法,并通过一种新的正交化过程来保证正交性。数值实验表明,与现有的强正交分解方法相比,该方法在逼近误差方面具有很大的优势。
2021-03-23 cs.NA math.NA
On Koopman Mode Decomposition and Tensor Component Analysis
Koopman模式分解和张量分量分析(也称为CANDECOMP/PARAFAC或规范多元分解)是将高维数据集分解为低维模式的两种流行方法,这些模式捕获最相关的特征和/或动态。尽管它们的目标相似,但这两种方法在很大程度上被不同的科学团体使用,并以不同的数学语言表达。我们一起研究这两个,并表明,在一定的(合理的)条件下的数据,张量分量分析给出的理论分解是\textit{same}的Koopman模式分解。这提供了一座“桥梁”,两族应能通过这座桥梁更有效地沟通。当不满足这个条件时,Koopman模式分解仍然提供具有\textit{a priori}可计算误差的张量分解,提供张量分量分析所需的非凸优化的替代方案。我们的工作提供了新的可能性的算法方法Koopman模式分解和张量分量分析,提供了一个新的视角张量分量分析的成功,并建立在一个越来越多的工作表明,动力系统,特别是Koopman算子理论,可以是有用的问题,历史上利用优化理论。
2021-04-15 cs.NA math.NA
Online Low-Rank Tensor Subspace Tracking from Incomplete Data by CP Decomposition using Recursive Least Squares
The University of Electro-Communications(电气通信大学)
本文提出基于CP分解和递归最小二乘法的在线张量子空间跟踪算法OLSTEC,实验证明其在每轮迭代中的收敛速度优于现有方法。
2016-08-19 cs.NA math.NA
Transform-Based Multilinear Algebra via Tensor Decomposition
Yale University(耶鲁大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
该研究将张量列车分解(TTD)、分层塔克分解(HTD)融入基于变换的多线性代数,开发相关公式并推广至高阶张量-张量积,应用于多线性模型降阶,通过数值示例验证其有效性与效率。
2026-08-25 cs.NA math.NA
Computation of $M$-QDR decomposition of tensors and applications
本研究基于M-积提出三阶张量的新型满秩分解与$M$-QDR分解,设计了对应分解及张量Moore-Penrose逆、外逆的计算算法,推导了符号张量外逆的精确表达式,还将该分解应用于彩色图像有损压缩。
2024-09-13 cs.NA math.NA
The average condition number of most tensor rank decomposition problems is infinite
本文证明随机秩-2及大多数更高秩张量的秩分解条件数期望为无穷大,而秩-2张量的角度条件数期望有限,揭示了张量秩分解问题的高计算复杂度及其对算法设计与测试的启示。
2022-09-20 cs.NA math.NA
Decomposition of tensors
Universidad de Zaragoza(萨拉戈萨大学);Universität Passau(帕绍大学)
研究张量作为可分解张量之和的表示,证明存在唯一有限强正交分解,确定多线性形式在扭体上的临界点数量,回应Friedland的有限性猜想。
2014-09-18 cs.NA math.NA
A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法,用于计算张量展开格式下的层次奇异值分解,改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
HOID: Higher Order Interpolatory Decomposition for tensors based on Tucker representation
基于插值分解,我们导出了Tucker格式张量的一个CUR-type分解,我们将其称为高阶插值分解(HOID)。给定张量$\mathcal{X}$,该算法提供一组列向量$\{ \mathbf{C}_n\}_{n=1}^d$,它们是从模式- $n$张量展开中提取的列,以及核心张量$\mathcal{G}$,它们一起满足某些误差界.与高阶奇异值分解(HOSVD)算法相比,HOID提供了一种分解,保留了原始张量的某些重要特征,如稀疏性、非负性、整数值等。提供了误差界以及计算成本的详细估计。本文提出的算法已被验证对精心挑选的数值例子突出了有利的性能的算法。矩阵CUR分解,如离散经验插值方法(DEIM)和杠杆得分抽样,提出了相关的方法进行子集选择,也被扩展到张量,并对我们提出的算法进行比较。
2016-06-30 cs.NA math.NA
The condition number of many tensor decompositions is invariant under Tucker compression
本文证明多类加性张量分解的条件数在Tucker压缩下不变,从而大幅加速条件数计算,并在食品科学张量上实现四个数量级的提速。
2021-06-24 cs.NA math.NA
Tensor Completion via Tensor QR Decomposition and $L_{2,1}$-Norm Minimization
本文考虑了机器学习领域许多研究人员特别关心的张量完备问题。我们的快速和精确的方法是建立在扩展的$L_{2,1}$ -范数最小化和卡塔尔里亚尔分解(LNM-QR)的矩阵完成张量完成方法,并不同于流行的张量完成方法,使用张量奇异值分解(t-SVD)。在缩短计算时间方面,用基于卡塔尔里亚尔分解的近似t-SVD(CTSVD-QR)方法代替t-SVD,迭代计算最大$r \left(r>0 \right)$奇异值(管)及其相关奇异向量(管)。此外,我们使用张量$L_{2,1}$ -范数而不是张量核范数来最小化我们的模型,因为它很容易优化。然后,在提高精度方面,ADMM,一个基于梯度搜索的方法,在我们的方法中起着至关重要的作用。数值实验结果表明,该方法比现有算法速度快,精度高。
2020-11-09 cs.NA math.NA
Symmetric Tensor Decompositions On Varieties
讨论了给定簇$X$上的对称张量分解问题:将对称张量分解为包含在$X$中的向量的张量幂和.本文首先研究了这种可分张量的几何和代数性质,这些性质对这种分解的实际计算是至关重要的。对于一个给定的张量,我们还开发了一个标准的存在的对称分解$X$。其次,也是最重要的,我们提出了一种计算任意$X$上对称张量分解的方法。作为一个具体的应用,该算法可以计算非对称张量的Vandermonde分解。
2020-03-22 cs.NA math.AG math.NA
A Generating Polynomial Based Two-Stage Optimization Method for Tensor Rank Decomposition
Louisiana State University(路易斯安那州立大学);Xiangtan University(湘潭大学)
本文提出一种基于生成多项式的两阶段优化算法,用于求解秩不超过最大维数的三阶非对称张量分解,即使分解不唯一也能高效鲁棒地得到结果,并在理论上证明了与CP分解的等价性。
2025-11-07 cs.NA math.NA math.OC
Tensor Networks for Latent Variable Analysis. Part I: Algorithms for Tensor Train Decomposition
Brain Science Institute, RIKEN(RIKEN脑科学研究所);Systems Research Institute PAS(波兰科学院系统研究所);University of Bonn(波恩大学);Institute of Information Theory and Automation(信息与自动化研究所);Georgetown University(乔治城大学);Imperial College(帝国理工学院)
本文提出新的张量网络分解算法,重点在张量列车分解及其变体,通过交替更新核心张量提升大规模数据处理能力,在盲源分离、去噪和特征提取中表现优异。
2016-09-29 cs.NA math.NA math.OC
Implicit Multiple Tensor Decomposition
The School of Mathematics, Hunan University(湖南大学数学学院)
针对三重分解仅适用于三阶张量且因子张量低维度需一致的局限,提出多重分解框架以推广至任意阶张量并允许因子张量短维度不同,结合隐式神经表示(INR)处理非网格数据,建立无KL收敛分析,数值实验验证其有效性。
2025-11-13 cs.NA math.NA math.OC
Tensor Train decomposition on TensorFlow (T3F)
National Research University Higher School of Economics(国立高等经济大学);Institute of Numerical Mathematics RAS(俄罗斯科学院计算数学研究所);Cornell University(康奈尔大学);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院)
本文提出T3F库,基于TensorFlow实现Tensor Train分解,支持GPU计算、批量处理、自动微分和Riemannian优化框架,为依赖Tensor Train分解的机器学习研究提供更便捷的实现方式。
2020-03-02 cs.MS cs.NA math.NA
Finding tensor decompositions with sparse optimization
本文提出一种基于LASSO稀疏优化的新方法,用于寻找使用更少秩1张量的CP分解,并为4×4行列式张量找到了表示为12个秩1张量之和的新公式。
2023-05-23 cs.NA math.AC math.NA
Sampling-Based Decomposition Algorithms for Arbitrary Tensor Networks
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);UC Berkeley(加州大学伯克利分校)
我们将展示如何开发基于采样的交替最小二乘(ALS)算法,用于将张量分解为任何张量网络(TN)格式。如果TN格式满足某些温和的假设,则所得到的算法将具有输入次线性每次迭代成本。与以往大多数基于采样的张量分解ALS方法的工作不同,在我们的框架中的采样是根据ALS子问题中的设计矩阵的精确杠杆分数分布来完成的。我们实现和测试两个张量分解算法,使用我们的采样框架在特征提取实验中,我们将它们与其他一些分解算法进行比较。
2022-10-07 cs.LG cs.NA math.NA
Decomposition of linear tensor transformations
Università Politecnica delle Marche(马尔凯理工大学)
本文针对张量分解中秩确定困难及现有优化算法易受噪声影响的问题,提出了一个精确张量分解的数学框架,将张量表示为有限个低秩张量之和,并推导了非负自伴算子、线性变换及一般张量三种分解。
2023-09-14 cs.CV cs.NA math.NA
Tensors as module homomorphisms over group rings
Braman [B08]描述了一种构造,其中三阶张量恰好是作用于以向量为标量的矩阵集合的线性变换的集合。这扩展了一个熟悉的概念,即矩阵形成了实标量向量上所有线性变换的集合。该结果基于Kilmer等人[KMP08]提出的基于循环的张量乘法。在这项工作中,我们通过在群环的自然框架中观察这种结构来进一步推广这些观察结果。基于循环的积作为这些代数结构中的卷积出现。我们的推广允许任何阿贝尔群来代替循环群,任何具有单位元的交换环来代替实数域,以及一个任意阶张量来代替三阶张量,前提是基础环是交换的。
2010-05-11 cs.NA math.NA math.RA
Generating Polynomials and Symmetric Tensor Decompositions
University of California San Diego(加州大学圣迭戈分校)
本文研究对称张量分解,通过生成多项式描述其递归关系,并利用生成矩阵计算分解,探讨其性质及高效算法。
2015-10-02 cs.NA math.AG math.NA
Rank Minimization on Tensor Ring: A New Paradigm in Scalable Tensor Decomposition and Completion
Graduate School of Engineering, Saitama Institute of Technology, Japan(日本萨它马工学院工程研究生院);Tensor Learning Unit, RIKEN Center for Advanced Intelligence Project (AIP), Japan(日本RIKEN高级智能项目(AIP)张量学习单元);School of Automation, Guangdong University of Technology, China(中国广东技术大学自动化学院);School of Computer Science and Technology, Hangzhou Dianzi University, China(中国杭州电子科技大学计算机科学与技术学院);Department of Electrical and Electronic Engineering, Imperial College London, United Kingdom(英国伦敦帝国理工学院电子与电气工程系)
本文提出基于张量环的秩最小化方法,通过引入凸替代项解决传统方法的高计算成本和模型复杂度敏感问题,提出两种算法以不同结构的Schatten范数优化张量环因子,实验显示其高效性与高性能。
2018-05-22 cs.LG cs.NA math.NA
More Efficient Sampling for Tensor Decomposition With Worst-Case Guarantees
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
最近的论文已经开发了交替最小二乘(ALS)的CP和张量环分解的每次迭代的成本是次线性的低秩分解的输入张量条目的数量的方法。然而,这些方法的每次迭代的成本仍然具有指数依赖于张量模式的数量时,选择参数,以实现某些最坏情况下的保证。在本文中,我们提出了基于采样的ALS方法的CP和张量环分解,其成本不具有这种指数依赖性,从而显着提高了以前的国家的最先进的。我们提供了详细的理论分析,并在特征提取实验中应用的方法。
2022-06-17 cs.LG cs.NA math.NA
Riemannian preconditioned algorithms for tensor completion via tensor ring decomposition
本文提出基于张量环分解的黎曼预处理梯度下降与共轭梯度算法,通过新度量近似Hessian对角块并利用张量结构降低计算成本,实验证明其在张量补全中更高效且重建能力更优。
2023-11-14 cs.NA math.NA math.OC
Decomposition of Big Tensors With Low Multilinear Rank
RIKEN, Brain Science Institute(理化学研究所脑科学研究所);Systems Research Institute(系统研究所);Faculty of Automation, Guangdong University of Technology(广东工业大学自动化学院)
本文提出FFCP算法和分布式随机Tucker分解方法,解决大规模张量分解的可扩展性问题,提升处理密集张量的效率与有效性。
2014-12-29 cs.DC cs.NA math.NA
Stochastic Gradients for Large-Scale Tensor Decomposition
Sandia National Laboratories(桑迪亚国家实验室);University of Michigan(密歇根大学)
张量分解是一个著名的多路数据分析工具。这项工作提出了使用随机梯度有效的广义正则多元(GCP)张量分解的大规模张量。GCP张量分解是最近提出的张量分解的一个版本,它允许各种损失函数,例如用于二进制数据的Bernoulli损失或用于鲁棒估计的Huber损失。随机梯度由张量的随机采样元素形成,并且是有效的,因为它可以使用稀疏矩阵化张量乘以Khatri-Rao乘积(MTTKRP)张量核来计算。对于稠密张量,我们简单地使用均匀采样。对于稀疏张量,我们提出了两种类型的分层抽样,优先考虑采样非零。数值结果表明,所提出的方法和其可扩展性的大规模问题的优势。
2020-07-08 cs.LG cs.NA math.NA
On the Nuclear Norm and the Singular Value Decomposition of Tensors
求张量的秩是一个有许多应用的问题。不幸的是,通常很难确定给定张量的秩。受凸松弛理论的启发,我们考虑了核范数而不是张量的秩。我们确定各种感兴趣的张量的核范数。同时,我们还系统地研究了张量积空间中正交性的各种度量,并将奇异值分解推广到高阶张量。
2014-04-21 cs.NA math.NA math.OC
Quotient geometry of tensor ring decomposition
State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学)
本文提出张量环分解的商几何,通过满秩条件和规范不变性分析,为张量分解提供了新的几何框架,并通过实验验证其有效性。
2026-09-24 cs.NA math.NA math.OC
Tensor Ring Decomposition: Optimization Landscape and One-loop Convergence of Alternating Least Squares
本文研究了张量环分解及其数值算法。随着键维数的增加,我们建立了最优化问题的算法难度的急剧转变:一方面,即使当张量环格式被过度参数化时,我们也显示了优化景观的伪局部极小值的存在,即,键的尺寸远大于真正的目标张量。另一方面,当键维数进一步增加时,我们建立了张量环分解的交替最小二乘算法的单圈收敛性。数值实验验证了交替最小二乘算法的局部极小值和单圈收敛性。
2020-06-16 cs.NA math-ph math.MP
Mode-wise Tensor Decompositions: Multi-dimensional Generalizations of CUR Decompositions
University of California, Los Angeles(加州大学洛杉矶分校);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
低阶张量近似是现代机器学习和数据科学中的基本工具。在本文中,我们研究了两个主要的张量CUR近似,即Chidori和纤维CUR的特征,扰动分析,和一个有效的采样策略。我们刻画了低多线性秩张量的精确张量CUR分解。我们还提出了理论误差界的张量CUR近似(对抗或高斯)噪声出现时。此外,我们表明,低成本的均匀采样是足够的张量CUR近似,如果张量有一个不相干的结构。经验性能评估,与合成和真实世界的数据集,建立张量CUR近似的速度优势,比其他国家的最先进的低多线性秩张量近似。
2021-06-25 cs.IT cs.LG cs.NA
Proper Generalized Decomposition for Nonlinear Convex Problems in Tensor Banach Spaces
Universidad CEU Cardenal Herrera(卡迪纳尔埃雷拉斯CEU大学)
本文针对定义在自反张量巴拿赫空间上的凸泛函最小化问题,对渐进式和更新式适当广义分解方法进行了数学分析。
2011-12-01 cs.NA math.FA math.NA
On the Compression of Translation Operator Tensors in FMM-FFT-Accelerated SIE Simulators via Tensor Decompositions
提出了张量分解方法,以减少快速多极子方法-快速傅里叶变换(FMM-FFT)-加速表面积分方程(SIE)模拟器中平移算子张量的内存需求。这些方法利用Tucker、分层Tucker(H-Tucker)和张量训练(TT)分解来压缩以三维(3D)和四维(4D)阵列格式存储的FFT变换算子张量。进行了大量的数值试验,以证明不同的模拟参数,这些方法所带来的内存节省和计算开销。数值结果表明,基于H-Tucker的方法为4D阵列格式产生最大的内存节省,而基于Tucker的方法为3D阵列格式引入了最小的计算开销。对于许多实际场景,所有方法都显著降低了翻译算子张量的内存需求,同时施加了可忽略/可接受的计算开销。
2020-09-25 cs.NA eess.SP math.NA
Fast and Accurate Randomized Algorithms for Low-rank Tensor Decompositions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
低秩Tucker和CP张量分解是数据分析中的强大工具。广泛使用的交替最小二乘(ALS)方法,它解决了一系列超定最小二乘子问题,是昂贵的大型和稀疏张量。我们提出了一个快速,准确的草图ALS算法的塔克分解,解决了一系列的草图秩约束线性最小二乘法子问题。理论草图大小上界提供实现$O(ε)$相对误差的每个子问题与两个草图技术,TensorSketch和杠杆得分采样。实验结果表明,这种新的ALS算法,结合一个新的初始化方案的基础上随机测距仪,产量高达$22.0\%$相对分解残留的改善相比,国家的最先进的草图随机算法的各种合成和真实数据集的塔克分解。该Tucker-ALS算法进一步用于加速CP分解,通过使用随机化Tucker压缩,然后对Tucker核心张量进行CP分解。实验结果表明,该算法不仅收敛速度快,而且CP分解精度高。
2021-08-25 cs.DS cs.LG cs.NA
Tensor-Ring Decomposition with Index-Splitting
Institute for Solid State Physics, University of Tokyo(东京大学固体物理研究所)
本文提出了一种张量环分解方法,通过索引分裂解决局部极小值陷阱问题,重点在于识别相关结构以克服拓扑结构中的极小值。
2018-07-06 cs.NA math-ph math.MP
Tensor Decompositions: A New Concept in Brain Data Analysis?
RIKEN BSI(理化学研究所脑科学综合研究中心)
本文综述了张量分解在多向BSS/ICA、特征提取、分类和多向PLS回归中的新模型与方法,涵盖约束Tucker和CP模型及惩罚张量分解。
2013-05-02 cs.LG cs.NA math.NA
On Complexity of Stability Analysis in Higher-order Ecological Networks through Tensor Decompositions
本文研究高阶生态网络线性稳定性判定的复杂度问题,基于高阶广义 Lotka-Volterra 模型,利用多种张量分解高效计算 Jacobian 矩阵,并通过数值算例验证框架有效性。
2024-04-03 cs.NA cs.SY eess.SY
Counting tensor rank decompositions
张量秩分解是量子引力正则张量模型(CTM)中张量几何解释的一个有用工具。为了理解这种解释的稳定性,重要的是能够估计有多少张量秩分解可以近似给定的张量。更确切地说,找到具有误差容限$Δ$的对称张量$Q$的近似对称张量秩分解是找到满足$\|Q-\sum_{i=1}^R ϕ^i\otimes ϕ^i\cdots \otimes ϕ^i\|^2 \leq Δ$的向量$ϕ^i$。所有可能的这种$ϕ^i$的体积是一个有趣的量,它测量了张量$Q$在允许范围内可能分解的量。虽然很难为每个$Q$计算这个量,但我们通过对所有单位范数的$Q$进行积分,找到了一个类似量的显式公式。作为$Δ$的函数的表达式由超几何函数和幂函数的乘积给出。我们还将公式推广到非对称张量的一般分解。推导依赖于出现在CTM上下文中的矩阵模型的配分函数的存在性(收敛性)。
2021-07-20 cs.NA gr-qc hep-th