Tensor and Matrix Inversions with Applications
Clarkson University(克拉克森大学)
本文通过Einstein积建立张量群与一般线性群的同构,提出新张量分解并用于求解高维PDE和量子模型,同时处理了最小二乘意义下的多线性系统,并采用双共轭梯度和Jacobi迭代方法数值求解。
2011-09-18 cs.NA math.NA
A tensor Alternating Anderson-Richardson method for solving multilinear systems with M-tensors
本文针对带非奇异 M-张量和正右端项的多重线性系统,提出张量交替 Anderson-Richardson 方法,通过周期结合张量 Richardson 迭代与 Anderson 加速,有效加速张量分裂方法求解唯一正解。
2024-01-15 cs.NA math.NA
Structure-preserving low multilinear rank approximation of antisymmetric tensors
Faculty of Chemical Engineering and Technology, University of Zagreb(萨格勒布大学化学工程与技术学院);EPF Lausanne(洛桑联邦理工学院)
本文研究反称张量的低多线性秩近似,讨论了保持反称性的算法适应性,特别是当秩等于张量阶数时,通过无结构秩-1近似应用高阶幂方法。
2017-06-25 cs.NA math.NA
A multilinear Nyström algorithm for low-rank approximation of tensors in Tucker format
本文提出多线性Nyström技术,通过小幅修改获得强稳定性,作为随机高阶SVD算法的可行替代方案,用于逼近Tucker格式的低秩张量。
2024-04-23 cs.NA math.NA
HOQRI: Higher-order QR Iteration for Low Multilinear Rank Approximation of Large and Sparse Tensors
University of Florida(佛罗里达大学)
本文提出 HOQRI 算法,以 QR 正交化和 TTMcTC 稀疏运算实现大型稀疏张量的 Tucker 低秩逼近,并基于流形优化证明其收敛性。
2025-10-19 cs.NA math.NA
Decomposition of Big Tensors With Low Multilinear Rank
RIKEN, Brain Science Institute(理化学研究所脑科学研究所);Systems Research Institute(系统研究所);Faculty of Automation, Guangdong University of Technology(广东工业大学自动化学院)
本文提出FFCP算法和分布式随机Tucker分解方法,解决大规模张量分解的可扩展性问题,提升处理密集张量的效率与有效性。
2014-12-29 cs.DC cs.NA math.NA
Efficient Alternating Least Squares Algorithms for Low Multilinear Rank Approximation of Tensors
Peking University(北京大学);Chinese Academy of Sciences(中国科学院)
低多线性秩逼近,也称为截断塔克分解,已广泛应用于许多涉及高阶张量的应用中。目前流行的低秩多线性近似方法通常直接依赖于矩阵奇异值分解,因此经常遭受臭名昭著的中间数据爆炸问题,并且不容易并行化,特别是当输入张量很大时。在本文中,我们提出了一类新的截断HOSVD算法的交替最小二乘(ALS)的基础上有效地计算低多线性秩近似的张量。所提出的基于ALS的方法能够消除中间矩阵的奇异向量的冗余计算,因此没有数据爆炸。此外,新方法更灵活,收敛容差可调,在高性能计算机上本质上是可并行的。理论分析表明,所提算法中的ALS迭代是q-线性收敛的,具有较宽的收敛域。数值实验与大规模张量从合成和现实世界的应用表明,基于ALS的方法可以大大降低原来的总成本,是高度可扩展的并行计算。
2021-04-02 cs.LG cs.NA math.NA
Better Late Than Never: Filling a Void in the History of Fast Matrix Multiplication and Tensor Decompositions
Lehman College of the City University of New York(纽约市立大学莱曼学院);The Graduate Center of the City University of New York(纽约市立大学研究生院)
本文填补了1972年俄文发表的张量分解在快速矩阵乘法历史中的空白,并介绍了其对两个领域的影响。
2014-11-06 cs.NA math.NA
Extrapolation Methods for fixed-point Multilinear PageRank computations
非负张量在许多涉及大型复杂数据流的应用中非常自然地出现。由于对内存和每步操作次数的要求相对较小,(移位)高阶幂方法是计算这类张量的正Z特征向量的最常用技术之一。然而,与矩阵的情况下,该方法可能无法收敛,甚至不可约张量。而且,当它收敛时,它的收敛速度可能非常慢。这两个缺点往往使计算的特征向量要求或不可行的大型问题。在这项工作中,我们考虑了一类特殊的非负张量相关联的高阶马尔可夫链的多线性PageRank修改。基于简化的拓扑$ε$ -算法的重新启动形式,我们介绍了一种基于外推的加速幂方法类型的算法,即移位不动点方法和内-外方法。加速方法显示出显著更好的性能,具有更快的收敛速度和减少的总计算时间。在合成数据集和真实数据集上进行的大量数值实验证明了所引入的外推技术的优点。
2019-08-26 cs.NA math.NA
Restarted Nonnegativity Preserving Tensor Splitting Methods via Relaxed Anderson Acceleration for Solving Multi-linear Systems
本文提出一种带松弛Anderson加速的张量分裂方法求解多线性系统,新方法在每步迭代保持非负性并改进了现有方法,同时给出了收敛性分析且数值实验验证了其有效性。
2024-10-17 cs.NA math.NA
Quasi-Newton methods on Grassmannians and multilinear approximations of tensors
Linköping University(林雪平大学);Institute for Computational Engineering and Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校计算工程与科学研究所);Department of Mathematics, University of California, Berkeley(加州大学伯克利分校数学系)
本文针对定义在格拉斯曼流形或其乘积上的目标函数,提出了BFGS和L-BFGS拟牛顿方法,并证明其在局部坐标下与欧氏空间中的BFGS具有相同的最优性,应用于张量多线性秩逼近问题得到快速鲁棒算法。
2010-05-30 cs.NA math.NA math.OC
Multilinear analysis of quaternion arrays: theory and computation
CNRS, CRAN(法国国家科学研究中心,自动与控制研究实验室);CNRS, LIS UMR 7020(法国国家科学研究中心,信息系统实验室)
本文提出四元数张量的多线性框架,定义$\mathbb{H}\mathbb{R}$-多线性形式,建立Tucker分解与Q-CPD,研究其性质并给出两种算法,为四元数张量分解提供理论与计算工具。
2025-10-10 cs.NA eess.SP math.NA
Multilinear POD-DEIM model reduction for 2D and 3D semilinear systems of differential equations
我们主要研究二维和三维耦合非线性偏微分方程的数值解。在一定的假设下的域,我们利用Kronecker结构中产生的标准空间离散的微分算子,并说明如何得到的系统的常微分方程(ODE)可以直接在矩阵或张量的形式。此外,在适当的正交分解(POD)和离散经验插值方法(DEIM)的框架下,我们推导出一个双边和三边模型降阶策略,直接应用到常微分方程系统的矩阵和张量的形式分别。我们讨论了如何集成降阶模型,特别是,如何解决张量值线性系产生的每一个时间步的半隐式时间离散计划。我们说明了所提出的方法的效率,通过比较现有的技术对经典的基准问题,如二维和三维Burgers方程。
2021-07-20 cs.NA math.NA
Multilinear Control Systems Theory
在本文中,我们提供了一个新的一类多线性时不变(MLTI)系统的理论处理,其中的状态,输入和输出是张量,系统的发展是由多重线性算子。MLTI系统表示基于爱因斯坦乘积和偶数阶成对张量。有一个特殊的张量开折,它产生了从这个张量空间到一般线性群的同构,即可逆矩阵的群。通过利用这种展开操作,人们可以将经典的线性时不变(LTI)系统的概念,包括稳定性,可达性和可观测性扩展到MLTI系统。虽然基于展开的公式是一个强大的理论构造,但MLTI系统的计算优势只能在使用张量形式时才能完全实现,其中隐藏的模式/结构可以用于有效的表示和计算。沿着这些路线,我们建立了新的结果,使人们能够表达张量展开为基础的稳定性,可达性和可观测性标准的张量秩/分解的更标准的概念。此外,我们开发了一个广义的CANDECOMP/PARAFAC分解和张量训练分解的模型降阶框架,它可以显着减少MLTI系统参数的数量。我们证明了我们的框架与数值例子。
2020-12-11 cs.NA cs.SY eess.SY
Bayesian Sparse Tucker Models for Dimension Reduction and Tensor Completion
RIKEN Brain Science Institute(理化学研究所脑科学研究所);Shanghai Jiao Tong University(上海交通大学)
本文提出一种概率生成Tucker模型,通过结构稀疏性在多线性潜在空间中实现张量降维与补全,自动适应模型复杂度并提升泛化性能。
2015-05-10 cs.LG cs.NA math.NA
A Kernelizable Primal-Dual Formulation of the Multilinear Singular Value Decomposition
Delft University of Technology(代尔夫特理工大学)
本文为多线性奇异值分解(MLSVD)建立了原始-对偶表述,统一了PCA与SVD,并通过特征映射提出核化非线性扩展,从而在信号分析和深度学习中实现计算增益与非线性建模能力。
2024-10-21 cs.LG cs.NA math.NA
Block Tensor Unfoldings
在数值多重线性代数领域,块张量越来越重要。因此,开发一种支持块张量计算推理的基础设施是合适的。本文建立了适合于块张量算法分析和发展的简明符号,证明了几个有用的块张量恒等式,并使块张量开折的概念更加精确。
2011-10-02 cs.NA math.NA
Tensor Decompositions: A New Concept in Brain Data Analysis?
RIKEN BSI(理化学研究所脑科学综合研究中心)
本文综述了张量分解在多向BSS/ICA、特征提取、分类和多向PLS回归中的新模型与方法,涵盖约束Tucker和CP模型及惩罚张量分解。
2013-05-02 cs.LG cs.NA math.NA
An Iterative Reweighted Method for Tucker Decomposition of Incomplete Multiway Tensors
Stevens Institute of Technology(史蒂文斯理工学院)
本文提出一种基于组log-sum惩罚函数的迭代加权方法,用于处理不完整多维张量的低秩分解,通过多线性操作实现紧凑表示,并自动确定多线性秩。
2015-11-15 cs.LG cs.NA math.NA
Low Tensor Train- and Low Multilinear Rank Approximations for De-speckling and Compression of 3D Optical Coherence Tomography Images
本文提出了低张量序列(TT)秩和低多线性(ML)秩近似去散斑和压缩的3D光学相干断层扫描(OCT)图像对于一个给定的压缩比(CR)。为此,我们推导出交替方向法的乘数为基础的算法的相关问题的限制与低TT-和低ML秩。秩约束通过展开矩阵的Schatten-p(Sp)范数pe {0,1/2,2/3,1}来实现。证明了这两种算法均能实现整体收敛。秩调整后的3D OCT图像张量最终通过张量训练-和Tucker交替最小二乘分解来近似。我们比较验证了低TT-和低ML秩的方法在22个三维OCT图像与JPEG 2000和3D SPIHT压缩方法,以及与无压缩的二维双边滤波(BF),二维中值滤波(MF),和增强的低秩加稀疏矩阵分解(ELRpSD)的方法。对于CR<10,具有pe{0,1/2,2/3}的低Sp TT秩方法产生比原始图像和图像压缩方法更高或相当的信噪比(SNR)、相当或更好的对比度噪声比(CNR)、视网膜层的平均分割误差(SE)和基于专家的图像质量评分(EIQS)。它在CNR方面比较有利,在SE和EIQS方面与没有图像压缩方法相当。因此,对于CR<10,低S2/3 TT秩近似可以被认为是基于视觉检查的诊断的良好选择。对于2<CR<60,低S1 ML秩方法在SE方面与图像压缩方法以及与2D BF和ELRpSD相比是有利的。它略低于2D MF。因此,对于2<CR<60,低S1 ML等级近似可以…
2020-08-28 cs.NA eess.IV math.NA
From computation to comparison of tensor decompositions
高阶张量分解为简单项的和是普遍存在的。我们表明,为了验证两个张量是由相同的(可能缩放)条款,它是没有必要计算的个人分解。一般来说,这种分解的显式计算可能具有高复杂度并且可能是病态的。我们现在表明,在某些假设下,验证可以简化为张量的相应矩阵表示的列和行空间的比较。我们考虑秩1项以及低多线性秩项(也称为块项),并表明这些项的数量及其多线性秩也可以推断。比较仅依赖于数值线性代数,并且可以以数值可靠的方式进行。我们还说明了我们的结果可以应用于解决多标签分类问题,出现在盲源分离的背景下。
2019-12-10 cs.NA math.NA math.SP
Low-Rank Tensor Networks for Dimensionality Reduction and Large-Scale Optimization Problems: Perspectives and Challenges PART 1
RIKEN Brain Science Institute(理化学研究所脑科学研究所);SKOLTECH(斯科尔科沃科学技术学院);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Institute of Numerical Mathematics of Russian Academy of Sciences(俄罗斯科学院计算数学研究所);Imperial College(帝国理工学院)
本文探讨低秩张量网络在处理大规模数据和优化问题中的应用,重点介绍张量分解方法及其扩展,分析其在降维和数据挖掘中的核心贡献与挑战。
2017-09-11 cs.NA math.NA
Mode-wise Tensor Decompositions: Multi-dimensional Generalizations of CUR Decompositions
University of California, Los Angeles(加州大学洛杉矶分校);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
低阶张量近似是现代机器学习和数据科学中的基本工具。在本文中,我们研究了两个主要的张量CUR近似,即Chidori和纤维CUR的特征,扰动分析,和一个有效的采样策略。我们刻画了低多线性秩张量的精确张量CUR分解。我们还提出了理论误差界的张量CUR近似(对抗或高斯)噪声出现时。此外,我们表明,低成本的均匀采样是足够的张量CUR近似,如果张量有一个不相干的结构。经验性能评估,与合成和真实世界的数据集,建立张量CUR近似的速度优势,比其他国家的最先进的低多线性秩张量近似。
2021-06-25 cs.IT cs.LG cs.NA
Topological Optimization of the Evaluation of Finite Element Matrices
University of Chicago(芝加哥大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
提出一种拓扑框架,通过最小生成树算法优化多线性形式有限元方法中单元刚度矩阵的计算,显著减少操作次数。
2012-05-14 cs.NA math.NA
Tensor Ring Decomposition
RIKEN Brain Science Institute(理化学研究所脑科学研究所);Shanghai Jiao Tong University(上海交通大学)
本文提出张量环分解,通过循环多线性乘积表示高维张量,具有循环维度不变性,改进了传统张量分解方法,通过不同算法优化隐含核心并验证其有效性。
2016-06-17 cs.CV cs.DS cs.NA
A Riemannian trust-region method for low-rank tensor completion
Universität Trier(特里尔大学)
本文提出了一种基于黎曼优化的低秩张量补全方法,通过Weingarten映射计算目标函数的黎曼Hessian,并分析了信任区域方法的收敛性及与现有方法的对比。
2017-03-29 cs.NA math.DG math.NA
A homogeneous geometry of low-rank tensors
KU Leuven(荷语天主教鲁汶大学)
本文研究低秩张量的均匀几何结构,推导出其作为光滑流形的条件,并利用该结构构建高效的黎曼度量。
2025-12-30 cs.NA math.DG math.NA
The Number of Eigenvalues of a Tensor
University of California(加利福尼亚大学)
本文通过将张量的特征向量视为射影空间自映射的不动点,确定了一般张量的特征向量和特征值个数,并证明了对称张量的归一化特征值总是有限的,同时研究了特征多项式及其系数与判别式和结式的关系。
2010-05-14 cs.NA math.AG math.NA