Faster Tensor Train Decomposition for Sparse Data
近年来，张量的应用在涉及数据分析和数值计算的领域中变得更加广泛。由于数据的爆炸式增长，低秩张量分解已经成为一个强大的工具，以利用臭名昭著的灾难的维数。张量分解的主要形式有CP分解、Tucker分解、张量训练（TT）分解等。现有的TT分解算法，包括TT-SVD和随机TT-SVD，在该领域都是成功的，但都不能准确有效地分解大规模稀疏张量。在前人研究的基础上，提出了一种新的大规模稀疏张量准最佳快速TT分解算法，并证明了该算法的正确性，推导了其复杂度的上界。在数值实验中，我们验证了该算法比TT-SVD更快地分解稀疏张量，比随机TT-SVD具有更高的速度、精度和通用性，并且可以在非零元素数量有限的情况下分解任意高维张量而不损失效率。新算法实现了以前无法实现的大规模稀疏矩阵TT分解，使基于张量分解的算法能够应用于更大规模的场景。
2020-11-02 cs.NA math.NA
The trouble with tensor ring decompositions
Delft University of Technology（代尔夫特理工大学）
本文探讨了张量环分解的局限性，指出其无法从次优秩分解中精确计算最小秩分解，并通过简单示例展示了张量环圆化过程在使用收缩操作和Hadamard乘积时的失败。
2018-11-09 cs.NA math.NA
Hermitian Tensor Decompositions
厄米特张量是埃尔米特矩阵的推广，但它们具有非常不同的性质。每个复厄米张量都是复厄米秩-1张量的和。然而，这对于真实的情况是不正确的。我们研究厄米张量的基本性质，如厄米分解和厄米秩。对于正则基张量，我们确定了它们的厄米特秩和分解。对于实厄米特张量，我们给出了它们在实域上具有厄米特分解的充分刻画。除了传统的平坦化外，厄米张量还具有特殊的厄米和克罗内克环，它们可以给出厄米秩的不同下界。我们还研究了其他主题，如特征值，正半定，平方和表示，可分性。
2020-04-28 cs.NA math.NA
Three decompositions of symmetric tensors have similar condition numbers
本文揭示了对称张量的规范多元分解、Waring分解和Tucker压缩Waring分解三者条件数之间的内在联系，并据此将条件数计算速度提升数个数量级。
2021-10-08 cs.NA math.NA
Low-rank Tensor Train Decomposition Using TensorSketch
本文提出了一种基于TensorSketch和快速傅里叶变换的随机近端ALS算法，用于解决大型张量低秩张量列分解中的维度灾难问题，并给出了草图大小的理论下界及实验验证。
2023-09-15 cs.NA math.NA
CS decomposition and GSVD for tensors based on the T-product
本文利用T-积导出了正交张量的CS分解（T-CSD）和两张量的广义奇异值分解（T-GSVD）。详细分析了这两种分解的结构，并与矩阵分解的结构一致。然后分别提出了相应的算法。最后，利用T-GSVD给出了张量Tikhonov正则化解的显式表达式。数值算例验证了T-GSVD在解决图像复原问题中的有效性。
2021-06-30 cs.NA math.NA
A randomized singular value decomposition for third-order oriented tensors
由Zeng和Ng提出的定向奇异值分解（O-SVD）提供了一种基于t积的三阶张量奇异值分解的混合方法，其变换矩阵是高阶奇异值分解的因子矩阵。继续沿着这条思路，本文探讨了实现O-SVD更有效的张量列秩-1分解，并给出了截断O-SVD。受概率算法成功的启发，我们开发了一个随机版本的O-SVD，并提出了详细的误差分析。与现有的张量分解算法相比，新算法在保持良好精度的同时，在效率上具有优势。我们的主张是支持从实际应用中的几个定向张量的数值实验。
2023-02-27 cs.NA math.NA
Symmetric Orthogonal Tensor Decomposition is Trivial
我们考虑将实值对称张量分解为实值两两正交向量的外积之和的问题。这样的分解一般不存在，但我们证明了一些对称张量分解问题可以按照Anandkumar等人（2012）提出的白化过程转换为正交问题。如果一个$m$ -路$n$ -维对称张量的正交分解存在，我们提出了一种新的方法来计算它，减少到一个$n \times n$对称矩阵特征值问题。我们提供的数值结果证明了该方法的有效性。
2015-03-04 cs.NA math.NA
Tracking Tensor Ring Decompositions of Streaming Tensors
本文研究流式张量的张量环分解跟踪问题，提出一种高效算法及基于随机化技术的流式TR分解，利用TR结构并支持任意草图类型，理论与数值结果表明其在保持相似精度的同时显著提升了计算效率。
2023-07-03 cs.NA math.NA
Computing the unique CANDECOMP/PARAFAC decomposition of unbalanced tensors by homotopy method
National University of Kaohsiung（高雄大学）；National Sun Yat-sen University（国立中山大学）
本文研究了张量最大维度大于其秩时的CP分解唯一性，推导了保证通用唯一性的秩上界，并基于此提出同伦持续法计算CP分解的算法。
2016-07-25 cs.NA math.NA
Learning Diagonal Gaussian Mixture Models and Incomplete Tensor Decompositions
研究了对角混合高斯模型中参数的学习问题。该问题可以表述为计算不完全对称张量分解。我们使用生成多项式来计算不完全对称张量分解和近似。然后采用张量逼近方法学习对角高斯混合模型。我们还做了稳定性分析。当一阶和三阶矩足够精确时，我们证明了高斯混合模型的参数也是高度精确的。数值实验也提供。
2021-06-08 cs.NA math.NA
Generalized Tensor Function via the Tensor Singular Value Decomposition based on the T-Product
本文利用张量T-积的张量奇异值分解（T-SVD）给出了广义张量函数的定义。利用T-积给出了张量的紧奇异值分解（T-CSVD），并由此得到了张量的投影算子和Moore-Penrose逆.利用偏等距张量建立了张量的柯西积分公式，并将其应用于张量方程的求解。在此基础上，建立了广义张量的张量幂幂和泰勒展开式.还列出了显式广义张量函数。定义了张量双线性型和半双线性型，并给出了广义张量函数保持结构的定理。对于复张量，我们建立了复张量与实张量之间的同构。在本文的最后一部分，我们发现块循环算子建立了张量和矩阵之间的同构。利用这种同构证明了F-随机结构在广义张量函数下是不变的。提出了不变张量锥的概念。
2019-10-16 cs.NA math.NA
Iterative Methods for Symmetric Outer Product Tensor Decompositions
Clarkson University（克拉克森大学）；University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
本文提出用于第三阶部分对称张量和第四阶完全对称张量的迭代算法，通过数值实验显示其收敛速度优于标准交替最小二乘法。
2013-12-30 cs.NA math.NA
Biquadratic Tensors, Biquadratic Decomposition and Norms of Biquadratic Tensors
双二次张量在许多科学领域中起着核心作用。例子包括固体力学中的弹性张量和Eshelby张量，以及相对论中的黎曼曲率张量。一般三阶张量的奇异值和谱范数是双二次张量的M-特征值和谱范数的平方根。张量积运算对双二次张量是封闭的。这些都促使我们研究双二次张量、双二次分解和双二次张量的范数。证明了利用双二次张量的双二次结构可以计算其谱范数和核范数。然后，要么减少变量的数量，要么减少可行域。我们建设性地表明，对于一个双二次张量，一个双二次秩一分解总是存在的，并表明，双二次张量的双二次秩下保持一个独立的双二次塔克分解。给出了双二次张量核范数的一个下界和一个上界。最后，我们定义了可逆双二次张量，并给出了可逆双二次张量的核范数与其逆的核范数乘积的下界和可逆双二次张量的核范数与其逆的谱范数乘积的下界.
2019-10-05 cs.NA math.NA
Randomized Algorithms for Low-Rank Matrix and Tensor Decompositions
Oden Institute & Dept. of Mathematics, University of Texas at Austin（德克萨斯大学奥斯汀分校奥登研究所与数学系）
本文提出随机算法用于加速低秩矩阵和张量分解，涵盖SVD、ID、CUR等方法，并探讨其在张量分解中的应用。
2025-12-30 cs.NA math.NA
Rank properties and computational methods for orthogonal tensor decompositions
正交分解将张量分解为秩孔张量的正交列表的和。给出了正交秩的几个性质。我们发现子张量的正交秩可以大于整个张量的正交秩，并证明了正交秩的下半连续性。下半连续性保证了低正交秩逼近的存在性。为了适应正交分解，我们提出了一种基于增广拉格朗日方法的算法，并通过一种新的正交化过程来保证正交性。数值实验表明，与现有的强正交分解方法相比，该方法在逼近误差方面具有很大的优势。
2021-03-23 cs.NA math.NA
On Koopman Mode Decomposition and Tensor Component Analysis
Koopman模式分解和张量分量分析（也称为CANDECOMP/PARAFAC或规范多元分解）是将高维数据集分解为低维模式的两种流行方法，这些模式捕获最相关的特征和/或动态。尽管它们的目标相似，但这两种方法在很大程度上被不同的科学团体使用，并以不同的数学语言表达。我们一起研究这两个，并表明，在一定的（合理的）条件下的数据，张量分量分析给出的理论分解是\textit{same}的Koopman模式分解。这提供了一座“桥梁”，两族应能通过这座桥梁更有效地沟通。当不满足这个条件时，Koopman模式分解仍然提供具有\textit{a priori}可计算误差的张量分解，提供张量分量分析所需的非凸优化的替代方案。我们的工作提供了新的可能性的算法方法Koopman模式分解和张量分量分析，提供了一个新的视角张量分量分析的成功，并建立在一个越来越多的工作表明，动力系统，特别是Koopman算子理论，可以是有用的问题，历史上利用优化理论。
2021-04-15 cs.NA math.NA
Online Low-Rank Tensor Subspace Tracking from Incomplete Data by CP Decomposition using Recursive Least Squares
The University of Electro-Communications（电气通信大学）
本文提出基于CP分解和递归最小二乘法的在线张量子空间跟踪算法OLSTEC，实验证明其在每轮迭代中的收敛速度优于现有方法。
2016-08-19 cs.NA math.NA
Transform-Based Multilinear Algebra via Tensor Decomposition
Yale University（耶鲁大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
该研究将张量列车分解（TTD）、分层塔克分解（HTD）融入基于变换的多线性代数，开发相关公式并推广至高阶张量-张量积，应用于多线性模型降阶，通过数值示例验证其有效性与效率。
2026-08-25 cs.NA math.NA
Practical Sketching-Based Randomized Tensor Ring Decomposition
基于草图技术，我们提出了两个张量环（TR）分解的随机化算法。具体来说，通过定义新的张量积并研究其性质，将Kronecker子采样随机傅里叶变换和TensorSketch应用于TR分解最小化问题的交替最小二乘问题，设计了随机化算法。在此基础上，提出了一种基于随机投影的随机TR分解算法框架。理论结果的草图大小和复杂性分析的两个算法。我们比较我们的建议与国家的最先进的方法，使用合成和真实的数据。数值结果表明，它们在精度和计算时间上都有较好的性能
2022-09-12 cs.NA math.NA
Computation of $M$-QDR decomposition of tensors and applications
本研究基于M-积提出三阶张量的新型满秩分解与$M$-QDR分解，设计了对应分解及张量Moore-Penrose逆、外逆的计算算法，推导了符号张量外逆的精确表达式，还将该分解应用于彩色图像有损压缩。
2024-09-13 cs.NA math.NA
The average condition number of most tensor rank decomposition problems is infinite
本文证明随机秩-2及大多数更高秩张量的秩分解条件数期望为无穷大，而秩-2张量的角度条件数期望有限，揭示了张量秩分解问题的高计算复杂度及其对算法设计与测试的启示。
2022-09-20 cs.NA math.NA
Decomposition of tensors
Universidad de Zaragoza（萨拉戈萨大学）；Universität Passau（帕绍大学）
研究张量作为可分解张量之和的表示，证明存在唯一有限强正交分解，确定多线性形式在扭体上的临界点数量，回应Friedland的有限性猜想。
2014-09-18 cs.NA math.NA
A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法，用于计算张量展开格式下的层次奇异值分解，改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
HOID: Higher Order Interpolatory Decomposition for tensors based on Tucker representation
基于插值分解，我们导出了Tucker格式张量的一个CUR-type分解，我们将其称为高阶插值分解（HOID）。给定张量$\mathcal{X}$，该算法提供一组列向量$\{ \mathbf{C}_n\}_{n=1}^d$，它们是从模式- $n$张量展开中提取的列，以及核心张量$\mathcal{G}$，它们一起满足某些误差界.与高阶奇异值分解（HOSVD）算法相比，HOID提供了一种分解，保留了原始张量的某些重要特征，如稀疏性、非负性、整数值等。提供了误差界以及计算成本的详细估计。本文提出的算法已被验证对精心挑选的数值例子突出了有利的性能的算法。矩阵CUR分解，如离散经验插值方法（DEIM）和杠杆得分抽样，提出了相关的方法进行子集选择，也被扩展到张量，并对我们提出的算法进行比较。
2016-06-30 cs.NA math.NA
The condition number of many tensor decompositions is invariant under Tucker compression
本文证明多类加性张量分解的条件数在Tucker压缩下不变，从而大幅加速条件数计算，并在食品科学张量上实现四个数量级的提速。
2021-06-24 cs.NA math.NA
Tensor Completion via Tensor QR Decomposition and $L_{2,1}$-Norm Minimization
本文考虑了机器学习领域许多研究人员特别关心的张量完备问题。我们的快速和精确的方法是建立在扩展的$L_{2,1}$ -范数最小化和卡塔尔里亚尔分解（LNM-QR）的矩阵完成张量完成方法，并不同于流行的张量完成方法，使用张量奇异值分解（t-SVD）。在缩短计算时间方面，用基于卡塔尔里亚尔分解的近似t-SVD（CTSVD-QR）方法代替t-SVD，迭代计算最大$r \left(r>0 \right)$奇异值（管）及其相关奇异向量（管）。此外，我们使用张量$L_{2,1}$ -范数而不是张量核范数来最小化我们的模型，因为它很容易优化。然后，在提高精度方面，ADMM，一个基于梯度搜索的方法，在我们的方法中起着至关重要的作用。数值实验结果表明，该方法比现有算法速度快，精度高。
2020-11-09 cs.NA math.NA
A constructive arbitrary-degree Kronecker product decomposition of tensors
本文提出了张量Kronecker积奇异值分解TKPSVD，它将一个实$k$ -路张量$\mathcal{A}$分解为一个张量Kronecker积与任意个数的$d$因子$\mathcal{A} = \sum_{j=1}^R σ_j\, \mathcal{A}^{(d)}_j \otimes \cdots \otimes \mathcal{A}^{(1)}_j$的线性组合.我们将矩阵Kronecker积推广到张量，使得TKPSVD中的每个因子$\mathcal{A}^{(i)}_j$是$k$ -路张量。该算法依赖于重塑和置换成一个$d$方式张量的原始张量，然后计算与正交秩-1项的polyadic分解。我们证明了，对于许多不同的结构张量，克罗内克积因子$\mathcal{A}^{(1)}_j,\ldots,\mathcal{A}^{(d)}_j$保证继承这种结构。此外，我们还引入了广义对称张量的概念，它包括了对称张量、过对称张量、中心对称张量、Toeplitz张量和Hankel张量等多种结构。
2016-03-08 cs.NA math.NA
High-Order Coupled Fully-Connected Tensor Network Decomposition for Hyperspectral Image Super-Resolution
高光谱图像超分辨率处理是将低分辨率高光谱图像（LR-HSI）和高分辨率多光谱图像（HR-MSI）融合生成高分辨率高光谱图像（HR-HSI）。张量分析是一种有效的高光谱图像处理方法。然而，现有的基于张量的高光谱图像超分辨率方法，如张量训练和张量环分解，只建立了相邻两个因子之间的运算，对张量模式的排列高度敏感，导致表示不够充分和灵活。利用全连通张量网络分解中高阶张量的特殊性质，提出了一种高光谱图像超分辨率的新方法。该方法首先将目标HR-HSI张量化为具有多尺度空间结构的高阶张量。在此基础上，提出了一种耦合的全连通张量网络分解模型来融合LR-HSI和HR-MSI的高阶张量。此外，一个加权图正则化施加在谱核张量，以保持谱信息。在所提出的模型中，全连通张量网络分解的优越性在于充分表征任何两个模式的张量之间的内在相关性和转置的本质不变性的突出能力。在三个数据集上的实验结果表明，与其他高光谱图像超分辨率方法相比，该方法是有效的。
2022-09-15 cs.NA math.NA
An NPDo Approach for Tensor Block-Diagonalization
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
本文提出NPDo方法用于张量块对角化，通过正交矩阵的模式乘法最大化块对角部分，结合Gauss-Seidel更新实现全局收敛，验证了方法的效率。
2026-05-13 cs.NA math.NA
Symmetric Tensor Decomposition by an Iterative Eigendecomposition Algorithm
我们提出了一个迭代算法，称为对称张量特征秩一迭代分解（STERDO），分解成一个真正的线性组合的对称秩1单位范数外因子，仅使用特征分解和最小二乘拟合的对称张量。最初设计的一个对称张量的顺序是一个权力的2，STERESTRUCTURE是适用于任何顺序，通过创新的张量嵌入技术。数值算例表明，该格式即使对大规模问题也具有较高的效率和精度。此外，我们展示了STERESTRON如何很容易地解决了非线性块结构系统辨识和非线性状态空间辨识中的问题。
2016-02-17 cs.NA math.NA
Scalable symmetric Tucker tensor decomposition
针对对称张量最优低秩Tucker分解及高阶多元矩分解需求，提出适配样本矩张量的可扩展PGD与HOEVD方法，借隐式流式技术降本，实验验证效率与实用性，还证明了PGD在Grassmann流形上的一、二阶临界收敛性。
2023-06-10 cs.NA math.NA
Quaternion tensor singular value decomposition using a flexible transform-based approach
针对$L$阶（$L\geq 3$）四元数张量，提出了一种基于柔性变换的张量积，称为$\star_{\rm{QT}}$ -积.基于$\star_{\rm{QT}}$ -积，我们定义了$L$阶（$L\geq 3$）四元数张量的相应的奇异值分解TQt-SVD和秩TQt-rank.此外，通过正交四元数变换，TQt-SVD可以提供任何$L$第（$L\geq 3$）四元数张量的最佳TQt-rank- $s$近似。在实验中，我们已经验证了所提出的TQt-SVD的最佳TQt-rank- $s$近似的三阶四元数张量表示的彩色视频中的应用的有效性。
2021-12-16 cs.NA math.NA
On the average condition number of tensor rank decompositions
Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克科学促进研究所数学系）；KU Leuven（荷语鲁汶大学）
本文研究了随机张量秩分解的几何条件数的期望值，发现n1×n2×2张量的条件数期望值为无穷大，表明此类分解对扰动敏感，而更大尺寸的张量具有有限的平均条件数，揭示了张量格式间条件数敏感性的差异。
2019-01-02 cs.NA math.NA
Fast and Accurate Interpolative Decompositions for General, Sparse, and Structured Tensors
本研究针对两类张量插值分解，提出带与张量规模无关误差界的自适应方法，结合随机草图实现高效精确计算，还为稀疏及CP格式张量设计专用算法，经理论与实验验证有效。
2025-03-24 cs.NA math.NA
Symmetric Tensor Decompositions On Varieties
讨论了给定簇$X$上的对称张量分解问题：将对称张量分解为包含在$X$中的向量的张量幂和.本文首先研究了这种可分张量的几何和代数性质，这些性质对这种分解的实际计算是至关重要的。对于一个给定的张量，我们还开发了一个标准的存在的对称分解$X$。其次，也是最重要的，我们提出了一种计算任意$X$上对称张量分解的方法。作为一个具体的应用，该算法可以计算非对称张量的Vandermonde分解。
2020-03-22 cs.NA math.AG math.NA
A Generating Polynomial Based Two-Stage Optimization Method for Tensor Rank Decomposition
Louisiana State University（路易斯安那州立大学）；Xiangtan University（湘潭大学）
本文提出一种基于生成多项式的两阶段优化算法，用于求解秩不超过最大维数的三阶非对称张量分解，即使分解不唯一也能高效鲁棒地得到结果，并在理论上证明了与CP分解的等价性。
2025-11-07 cs.NA math.NA math.OC
Tensor Networks for Latent Variable Analysis. Part I: Algorithms for Tensor Train Decomposition
Brain Science Institute, RIKEN（RIKEN脑科学研究所）；Systems Research Institute PAS（波兰科学院系统研究所）；University of Bonn（波恩大学）；Institute of Information Theory and Automation（信息与自动化研究所）；Georgetown University（乔治城大学）；Imperial College（帝国理工学院）
本文提出新的张量网络分解算法，重点在张量列车分解及其变体，通过交替更新核心张量提升大规模数据处理能力，在盲源分离、去噪和特征提取中表现优异。
2016-09-29 cs.NA math.NA math.OC
Implicit Multiple Tensor Decomposition
The School of Mathematics, Hunan University（湖南大学数学学院）
针对三重分解仅适用于三阶张量且因子张量低维度需一致的局限，提出多重分解框架以推广至任意阶张量并允许因子张量短维度不同，结合隐式神经表示（INR）处理非网格数据，建立无KL收敛分析，数值实验验证其有效性。
2025-11-13 cs.NA math.NA math.OC
Tensor Train decomposition on TensorFlow (T3F)
National Research University Higher School of Economics（国立高等经济大学）；Institute of Numerical Mathematics RAS（俄罗斯科学院计算数学研究所）；Cornell University（康奈尔大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）
本文提出T3F库，基于TensorFlow实现Tensor Train分解，支持GPU计算、批量处理、自动微分和Riemannian优化框架，为依赖Tensor Train分解的机器学习研究提供更便捷的实现方式。
2020-03-02 cs.MS cs.NA math.NA
Finding tensor decompositions with sparse optimization
本文提出一种基于LASSO稀疏优化的新方法，用于寻找使用更少秩1张量的CP分解，并为4×4行列式张量找到了表示为12个秩1张量之和的新公式。
2023-05-23 cs.NA math.AC math.NA
Sampling-Based Decomposition Algorithms for Arbitrary Tensor Networks
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；UC Berkeley（加州大学伯克利分校）
我们将展示如何开发基于采样的交替最小二乘（ALS）算法，用于将张量分解为任何张量网络（TN）格式。如果TN格式满足某些温和的假设，则所得到的算法将具有输入次线性每次迭代成本。与以往大多数基于采样的张量分解ALS方法的工作不同，在我们的框架中的采样是根据ALS子问题中的设计矩阵的精确杠杆分数分布来完成的。我们实现和测试两个张量分解算法，使用我们的采样框架在特征提取实验中，我们将它们与其他一些分解算法进行比较。
2022-10-07 cs.LG cs.NA math.NA
Decomposition of linear tensor transformations
Università Politecnica delle Marche（马尔凯理工大学）
本文针对张量分解中秩确定困难及现有优化算法易受噪声影响的问题，提出了一个精确张量分解的数学框架，将张量表示为有限个低秩张量之和，并推导了非负自伴算子、线性变换及一般张量三种分解。
2023-09-14 cs.CV cs.NA math.NA
Generating Polynomials and Symmetric Tensor Decompositions
University of California San Diego（加州大学圣迭戈分校）
本文研究对称张量分解，通过生成多项式描述其递归关系，并利用生成矩阵计算分解，探讨其性质及高效算法。
2015-10-02 cs.NA math.AG math.NA
More Efficient Sampling for Tensor Decomposition With Worst-Case Guarantees
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
最近的论文已经开发了交替最小二乘（ALS）的CP和张量环分解的每次迭代的成本是次线性的低秩分解的输入张量条目的数量的方法。然而，这些方法的每次迭代的成本仍然具有指数依赖于张量模式的数量时，选择参数，以实现某些最坏情况下的保证。在本文中，我们提出了基于采样的ALS方法的CP和张量环分解，其成本不具有这种指数依赖性，从而显着提高了以前的国家的最先进的。我们提供了详细的理论分析，并在特征提取实验中应用的方法。
2022-06-17 cs.LG cs.NA math.NA
Decomposition of Big Tensors With Low Multilinear Rank
RIKEN, Brain Science Institute（理化学研究所脑科学研究所）；Systems Research Institute（系统研究所）；Faculty of Automation, Guangdong University of Technology（广东工业大学自动化学院）
本文提出FFCP算法和分布式随机Tucker分解方法，解决大规模张量分解的可扩展性问题，提升处理密集张量的效率与有效性。
2014-12-29 cs.DC cs.NA math.NA
Generalized cyclic symmetric decompositions for the matrix multiplication tensor
本文为非方阵矩阵乘法张量的多元分解提出广义循环对称结构，通过减少优化变量改善收敛，并在现有数值优化算法中验证其能找到更多实用分解。
2025-03-18 cs.NA math.NA math.OC
Stochastic Gradients for Large-Scale Tensor Decomposition
Sandia National Laboratories（桑迪亚国家实验室）；University of Michigan（密歇根大学）
张量分解是一个著名的多路数据分析工具。这项工作提出了使用随机梯度有效的广义正则多元（GCP）张量分解的大规模张量。GCP张量分解是最近提出的张量分解的一个版本，它允许各种损失函数，例如用于二进制数据的Bernoulli损失或用于鲁棒估计的Huber损失。随机梯度由张量的随机采样元素形成，并且是有效的，因为它可以使用稀疏矩阵化张量乘以Khatri-Rao乘积（MTTKRP）张量核来计算。对于稠密张量，我们简单地使用均匀采样。对于稀疏张量，我们提出了两种类型的分层抽样，优先考虑采样非零。数值结果表明，所提出的方法和其可扩展性的大规模问题的优势。
2020-07-08 cs.LG cs.NA math.NA
CANDECOMP/PARAFAC Decomposition of High-order Tensors Through Tensor Reshaping
一般来说，三阶CANDECOMP/-PARAFAC（CP）算法，也被称为规范多元分解（CPD），易于实现，并可扩展到高阶CPD。不幸的是，这些算法的计算量很大，而且它们通常不适用于高阶和相对大规模的张量。本文利用CPD的唯一性以及Kruskal形式张量与其展开张量的关系，提出了一种快速处理该问题的方法。代替直接因式分解高阶数据张量，该方法分解具有较低阶的展开张量，例如，三阶张量在3阶估计张量的基础上，生成与数据张量维数相同的结构化Kruskal张量，并利用结构化CPD的快速算法对其进行分解，得到最终解。
2012-11-16 cs.NA math.NA math.OC
Numerical CP Decomposition of Some Difficult Tensors
本文提出了一种小尺寸张量正则多进（CP）分解的数值方法。重点主要是分解对应于小矩阵乘法的张量。这里，张量的秩等于完成矩阵乘法所需的最小数量的标量乘法。该方法基于约束Levenberg-Marquardt优化。数值结果显示了对应于大小为2x 3和3x 2、3x 3和3x 2、3x 3和3x 3以及3x 4和4x 3的矩阵相乘的张量的秩和边界秩。排名分别为11、15、23和29。特别地，提出了一种新的算法，用于将大小为3x 3和3x 2的矩阵乘以15次乘法。
2016-03-04 cs.NA math.NA stat.CO
Equivalent Polyadic Decompositions of Matrix Multiplication Tensors
矩阵乘法张量的多进分解的不变性变换定义了这种分解的集合上的等价关系。本文给出了一个判定矩阵乘张量的两个多元分解是否等价的算法。利用该算法分析了几种矩阵乘法张量分解的等价类。这种分析是相关的快速矩阵乘法的研究，因为它涉及到有多少本质上不同的快速矩阵乘法算法存在的问题。这个问题首先由de~Groote研究，他证明了对于$2\times2$矩阵与$7$有效乘法的乘法，所有算法本质上都等价于Strassen算法。相反，我们的分析结果表明，对于较大矩阵的乘法，（例如，$2\times3$乘$3\times2$或$3\times3$乘$3\times3$矩阵），两种分解很可能本质上不同。我们进一步提供了一个必要的标准，一个多元分解是等价的多元分解与整数条目。具有特定整数项的分解，例如，2的幂，提供了具有更好的效率和稳定性的快速矩阵乘法算法。这个条件可以测试算法，我们提出的结论得到的分解的小/中矩阵乘法张量。
2022-04-14 cs.CC cs.NA math.NA
Analysis of the Stochastic Alternating Least Squares Method for the Decomposition of Random Tensors
随机交替最小二乘法（SALS）是一种近似采样随机张量平均值的典型分解的方法。它的简单性和高效的内存使用使SALS成为在线环境中分解张量的理想工具。我们表明，在温和的正则化和易于验证的假设上的数据的有界性，SALS算法是全局收敛的。数值实验验证了我们的理论研究结果，并展示了算法的性能和复杂度。
2020-04-27 cs.NA math.NA math.OC
A condition number for the tensor rank decomposition
KU Leuven（荷语鲁汶大学）
本文研究了张量秩分解问题，提出并分析了衡量该问题参数对张量微小变化敏感性的条件数，证明该条件数与Terracini矩阵的最小奇异值的倒数一致，并探讨了该条件数的基本性质。
2016-03-31 cs.NA math.AG math.NA
On the Nuclear Norm and the Singular Value Decomposition of Tensors
求张量的秩是一个有许多应用的问题。不幸的是，通常很难确定给定张量的秩。受凸松弛理论的启发，我们考虑了核范数而不是张量的秩。我们确定各种感兴趣的张量的核范数。同时，我们还系统地研究了张量积空间中正交性的各种度量，并将奇异值分解推广到高阶张量。
2014-04-21 cs.NA math.NA math.OC
