Inner Rank and Lower Bounds for Matrix Multiplication
我们开发了一个概念{ \em内秩}作为一种工具，获得下界矩阵乘法张量的秩。我们用它来给出一个简短的证明，即在任意域上与$n\times n$矩阵乘法相关的张量的边界秩（因此秩）至少是$2n^2-n+1$。虽然内部排名并不能改善目前已知的下限，但我们认为这个概念值得进一步研究。
2019-05-13 cs.CC cs.DS
Faster Quantum Number Factoring via Circuit Synthesis
实现Shor的量子数分解算法的一个主要障碍是模幂电路的大尺寸。我们减少了这个瓶颈定制可逆电路的模乘个人运行的肖尔算法。我们的电路合成程序利用乘法运算符的频谱特性，并从适当的GCD算法的执行轨迹构造优化电路。从经验上讲，门数减少了4-5倍，电路延迟减少了更大的因素。
2013-01-15 cs.DS cs.ET quant-ph
Limits on All Known (and Some Unknown) Approaches to Matrix Multiplication
我们研究了设计矩阵乘法算法的已知技术。两种主要的方法是斯特拉森的激光方法，以及科恩和乌曼斯的群论方法。我们定义了一个基于归零的推广，它包含这两种方法，我们称之为太阳能方法，以及一个更一般的方法，我们称之为银河系方法。然后，我们设计了一套技术证明下限值的$ω$，矩阵乘法的指数，这可以通过使用许多张量$T$和银河方法的算法来实现。我们的一些技术利用$T$的“局部”性质，如找到$T$的一个子张量，该子张量是如此“弱”，以至于$T$本身不能用于在$ω$上实现良好的绑定，而另一些技术利用“全局”性质，如$T$是一个群代数的结构张量的单项退化。我们的主要结果是，存在一个普适常数$\ell>2$，使得对于任何$q$，推广Coppersmith-Winograd张量$CW_q$的一大类张量不能在银河方法中使用，以显示$ω$上的界优于$\ell$。我们给出的证据表明，以前的下界技术不足以证明这一点。我们还证明了一些互补的结果，包括对于任何组$G$，结构张量的$\mathbb{C}[G]$可以用来恢复最好的约束$ω$的Coppersmith-Winograd方法得到使用$CW_{|G|-2}$，只要渐近秩的结构张量不是太大。
2018-10-19 cs.CC cs.DS
Derivation of a low multiplicative complexity algorithm for multiplying hyperbolic octonions
提出了一种双曲八元数相乘的有效算法。两个双曲八元数的直接乘法需要64次实乘法和56次实加法。更有效的解决方案仍然不存在。我们展示了如何计算一个产品的双曲八元数与26个真正的乘法和92个真正的加法。在所讨论的算法的合成过程中，我们使用了两个双曲八元数的乘积可以表示为矩阵向量乘积的事实。参与乘积计算的矩阵被乘数具有独特的结构性质，允许执行其有利的因式分解。即这种因式分解导致双曲八元数乘法的计算复杂性的显著降低。
2015-02-22 cs.DS
Further limitations of the known approaches for matrix multiplication
我们认为，目前最好的矩阵乘法算法背后的技术。我们的成果有三个方面。(1)我们提供了一个统一的框架，表明所有已知的矩阵乘法运行时间，自1986年以来，可以实现从一个非常自然的张量-结构张量$T_q$的模的整数$q$。(2)我们表明，如果一个人适用于推广的已知技术（任意零出张量的权力，以获得独立的矩阵产品，以使用的渐近和不等式Schönhage）的任意单项退化的$T_q$，然后有一个明确的下限，取决于$q$，上界的矩阵乘法指数$ω$，可以实现。我们还显示了上界值$α$，可以实现，其中$α$是这样的$n\times n^α\times n$矩阵乘法可以计算在$n^{2+o(1)}$时间。(3)我们证明了当$q$趋于无穷大时，$ω$的下界接近$2$。这表明了一种有希望的方法来改善$ω$上的结合：对于可变的$q$，找到$T_q$的单项退化，使用已知的技术，产生作为$q$的函数的$ω$上的上界。然后，将$q$带到无穷大。不排除，因此可能的是，可以以这种方式获得$ω=2$。
2017-12-19 cs.CC cs.DS
Matrix multiplication algorithms from group orbits
我们展示了如何构造高度对称的矩阵乘法算法。特别是，我们考虑的算法，矩阵乘法张量分解成一个和秩1张量，分解本身由轨道下的一些有限群作用。我们展示了如何使用相应的组的表示理论，以获得简单的约束的分解，我们解决了手为n= 2，3，4，5，恢复斯特拉森的算法（在一个特别对称的形式）和新的算法更大的n。虽然这些新的算法不提高已知的上界张量秩或矩阵乘法指数，他们是美丽的，在自己的权利，我们指出修改这个想法，可能会导致进一步的改进。我们的构造还提出了可以为新算法挖掘的进一步模式，包括与格的诱人联系。特别是，使用格，我们给最透明的证明日期Strassen的算法;相同的证明工程的所有n，产生一个分解与$n^3 - n + 1$条款。
2016-12-12 cs.CC cs.DS math.AG
A Computational Model for Tensor Core Units
Stony Brook University（石溪大学）；University of Padova（帕多瓦大学）；Free University of Bozen（博岑自由大学）
为了满足深度神经网络的高效训练和推理需求，已经引入了大量特定于领域的硬件架构，例如Google Tensor Processing Units和NVIDIA Tensor Cores。这些架构的共同特征是用于有效地计算给定小尺寸的密集矩阵乘法的硬件电路。为了拓宽利用这些系统的算法的类，我们提出了一个计算模型，命名为TCU模型，它捕获的能力，本机乘小矩阵。然后，我们使用TCU模型设计快速算法的几个问题，包括矩阵运算（密集和稀疏乘法，高斯消元），图形算法（传递闭包，所有对最短距离），离散傅立叶变换，模板计算，整数乘法，多项式评估。最后，我们强调TCU模型和外部存储器模型之间的关系。
2020-07-09 cs.AR cs.DC cs.DS
Fast algorithm for overcomplete order-3 tensor decomposition
ETH Zürich（苏黎世联邦理工学院）
我们开发了第一个快速谱算法来分解一个随机的三阶张量的秩高达$O(d^{3/2}/\text{polylog}(d))$的$\mathbb{R}^d$。该算法只涉及简单的线性代数运算，在当前矩阵乘法时间下，能及时恢复所有分量$O(d^{6.05})$。在此之前，只能通过平方和实现类似的保证[Ma，Shi，Steurer 2016]。相比之下，快速算法[Hopkins，Schramm，Shi，Steurer 2016]只能分解最多$O(d^{4/3}/\text{polylog}(d))$的秩张量。我们的算法结果依赖于两个关键因素。三阶张量到六阶张量的干净提升，可以用张量网络的语言表达。一个仔细的张量网络分解成一个序列的矩形矩阵乘法，这使我们能够有一个快速实现的算法。
2022-06-28 cs.DS cs.LG
Limits on the Universal Method for Matrix Multiplication
在这项工作中，我们证明了已知的方法设计矩阵乘法算法的局限性。Alman和Vassilevska Williams最近定义了通用方法，它基本上推广了所有已知的方法，包括Strassen的激光方法和Cohn和Umans的群论方法。我们证明了具体的下界的算法，可以设计的通用方法，许多不同的张量。我们的证明使用新的工具上界的渐近切片秩的张量范围很广。我们的主要结果是，适用于任何Coppersmith-Winograd张量$CW_q$的通用方法不能产生一个比$2.16805$更好的$ω$上的界，矩阵乘法的指数。相比之下，以前只知道应用于$CW_q$的较弱的“银河系方法”不能达到$2$的指数。我们还研究了激光方法（这是，在原则上，一个非常特殊的情况下，通用方法），并证明它是“完整的”矩阵乘法算法：当它适用于张量$T$，它实现$ω= 2$当且仅当它是可能的通用方法应用于$T$实现$ω= 2$。因此，最初用作算法工具的激光方法也可以被视为下边界工具。例如，在他们具有里程碑意义的论文中，Coppermith和Winograd通过将激光方法应用于$CW_q$，实现了$ω\leq 2.376$的边界。根据我们的结果，他们没有实现$ω=2$的事实意味着应用于$CW_q$的通用方法的下限。事实上，如果将通用方法应用于$CW_q$可以获得$ω=2$，那么Coppersmith和Winograd应用激光方法就可…
2019-05-01 cs.CC cs.DS math.CO
A Parallel Scan Algorithm in the Tensor Core Unit Model
针对张量核心单元（TCU）计算模型，提出一种并行扫描算法，在(s², ℓ)-TCU模型中实现深度至多2⌊logₛ(n)⌋、特定时间复杂度的前缀和计算，等价执行O(n/s²)次s阶方阵乘法。
2024-11-26 cs.DC cs.DS
Wedderburn rank reduction and Krylov subspace method for tensor approximation. Part 1: Tucker case
提出了3张量的塔克近似的新算法，仅使用张量乘向量乘向量乘法子例程访问它。在矩阵的情况下，Krylov方法是通过矩阵向量乘法子例程来近似稀疏或结构化矩阵的主要列和行子空间的方法。使用Wedderburn秩减少公式，我们提出了一个算法的矩阵近似计算Krylov子空间，并允许推广到张量的情况下。提出的张量算法的几种变体在旋转策略、总体成本和近似质量方面有所不同。通过令人信服的数值实验，我们表明，所提出的方法是更快，更准确的最小Krylov递归，最近提出的Elden和Savas。
2010-10-19 cs.DS cs.NA math.NA
An Exact 56-Addition, Rank-23 Scheme for General 3*3 Matrix Multiplication
Purdue University（普渡大学）
本文提出一个通用3×3矩阵乘法的秩23算法，使用56次加减和23次乘法，总操作数为79次标量运算，优于之前的58次加法方案，适用于任意结合但可能非交换的系数环。
2026-04-30 cs.CC cs.DS
GPU-Accelerated Search for Fast Matrix Multiplication over $\mathbb{F}_2$
Northeastern University（东北大学）
提出GPU加速搜索矩阵乘法翻转图算法，每秒超十亿步，证明$\mathbb{F}_2$上翻转图强连通，找到$7\times7$矩阵乘法245次乘法的新纪录。
2026-10-28 cs.DS cs.SC
Fast Matrix Multiplication: Limitations of the Laser Method
直到几年前，Coppermith和Winograd（1990）提出的已知最快的矩阵乘法算法是在时间上运行的$O(n^{2.3755})$。最近，Stothers，Vassilevska-Williams和Le Gall的活动激增，导致了一个改进的算法在时间上运行$O(n^{2.3729})$。这些算法是通过分析Coppermith和Winograd的一个恒等式的张量幂的不断提高而得到的。我们表明，这种精确的方法不能导致运行时间的算法$O(n^{2.3725})$，并确定了广泛的一类变种，这种方法不能导致运行时间的算法$O(n^{2.3078})$，特别是，这种方法不能证明的猜想，对于每个$ε> 0$，两个$n\times n$矩阵可以乘以时间$O(n^{2+ε})$。我们描述了一个新的框架，扩展了原来的激光方法，这是前面提到的算法的基础方法。我们的框架可以容纳Coppermith和Winograd，Stothers，Vassilevska-Williams和Le Gall的算法。通过对该框架的分析，我们得到了主要结果。该框架也是第一个解释为什么采用Coppersmith-Winograd恒等式的张量幂会导致更快的算法。
2014-11-20 cs.CC cs.DS
Bipartite Carrier Compression and Machine-Certified Bounds in Schönhage Trilinear Multiplication Tensors
Anadolu University（阿纳多卢大学）；ITouch Systems（ITouch系统公司）；Mersin University（梅尔辛大学）；Yusuf Kalkavan Anadolu Lisesi（尤苏夫·卡尔卡万阿纳多卢高中）；Toros Science High School, MEV (Toros University)（托罗斯科学高中，MEV（托罗斯大学））
本研究针对舍恩哈奇三线性乘法张量，通过二分载体压缩优化，将线宽缩减377,890，确立更精确的条件指数κ，完成形式验证，超越先前记录。
2026-10-14 cs.CC cs.DS math.CO
Fast matrix multiplication using coherent configurations
Microsoft Research New England（微软研究院新英格兰）；Computing + Mathematical Sciences, California Institute of Technology（加州理工学院计算与数学科学系）
本文引入张量秩的松弛概念s-秩，证明矩阵乘法张量的s-秩上界可导出普通秩上界，并通过一致构形的邻接代数推广Cohn-Umans的群论方法，最终证明交换一致构形可能足以证明ω=2。
2012-12-27 cs.DS cs.NA math.NA
