Designing Strassen's algorithm
1969年,Strassen震惊了世界,他证明了两个n × n矩阵的相乘时间可以渐近地小于$O(n^3)$。虽然他的算法中的递归构造非常清楚,但关键的增益是通过显示2 x 2矩阵乘法可以仅用7次乘法而不是8次来执行。后一种结构是通过排除过程得出的,似乎是凭空产生的。在这里,我们给出了我们所知道的Strassen算法的最简单和最透明的证明,只使用一个简单的酉2-设计和几行简单的计算。此外,使用有限群表示论的基本事实,我们使用来自群轨道的2-设计将我们的构造推广到所有n(尽管所得算法对于n至少为3不是最优的)。
2017-08-30 cs.CC cs.DS cs.SC
Ruling Out Low-rank Matrix Multiplication Tensor Decompositions with Symmetries via SAT
该研究聚焦二元域上3×3矩阵乘法张量的低秩分解问题,通过限定秩≤21且引入对称性约束,利用布尔SAT求解器证明满足特定对称性的这类分解不存在,为矩阵乘法快速算法的探索排除了一类可能路径。
2024-02-01 cs.CC
Graph Expansion Analysis for Communication Costs of Fast Rectangular Matrix Multiplication
University of California, Berkeley(加州大学伯克利分校);Technische Universität Berlin(柏林工业大学)
本文通过图扩展分析方法,为快速矩形矩阵乘法算法推导通信成本下界,并证明部分下界最优。
2012-09-11 cs.CC cs.DS cs.NA
Subrank and Optimal Reduction of Scalar Multiplications to Generic Tensors
自从Strassen和Valiant的开创性工作以来,理解代数问题的相对复杂性一直是代数复杂性理论的中心主题,也就是说,理解哪些代数问题(无论是Strassen工作中的双线性映射,如矩阵乘法,还是Valiant工作中的行列式和永久多项式)可以相互约简(在适当的约简概念下)。在本文中,我们精确地确定有多少独立的标量乘法可以减少到一个给定的双线性映射(这个数字被称为子秩,并扩展矩阵对角化的概念张量),基本上所有(即通用)双线性映射。也就是说,我们证明了一般的双线性映射$T : V \times V \to V$,其中$\dim(V) = n$,$θ(\sqrt{n})$独立的标量乘法可以减少到$T$。我们的结果显著改进了Strassen(1991)和Bürgisser(1990)工作的上界,即$n^{2/3 + o(1)}$。我们的完整结果是更一般的,不仅适用于双线性映射和3张量,但也$k$张量,我们发现,通用子秩是$θ(n^{1/(k-1)})$。作为应用,证明了子秩在直和下是不可加的。子秩在复杂性理论(矩阵乘法算法,障碍结果)和组合学(例如,帽集问题和向日葵问题)。由于我们的结果,我们得到了几个大的分离之间的子秩和张量的方法,最近收到了很大的兴趣,特别是切片秩(陶,2016),分析秩(高尔斯-沃尔夫,2011年;洛维特,2018年; Bhrushundi-Harsha-Hatami…
2022-06-09 cs.CC math.AG
Rank and border rank of Kronecker powers of tensors and Strassen's laser method
证明了小Coppersmith-Winograd张量$T_{cw,q}$的Kronecker方的边秩是它对$q > 2$的边秩的平方,它的Kronecker方的边秩是它对$q > 4$的边秩的立方.这回答了在[Coppersmith-Winograd,1990]中隐含和在[Bläser,2013]中明确提出的问题,并排除了在此范围内使用小Coppersmith-Winograd张量的平方或立方证明矩阵乘法指数的新上界的可能性。在积极的方向上,我们扩大了显式张量的列表可能有用的斯特拉森的激光方法,介绍了斜对称版本的Coppersmith-Winograd张量,$T_{skewcw,q}$。对于$q = 2$,该张量的克罗内克平方与$3\times 3$行列式多项式$\det_3 \in \mathbb{C}^9\otimes \mathbb{C}^9\otimes \mathbb{C}^9$(被视为张量)一致。我们表明,这个张量可能被用来表明,矩阵乘法的指数是2。我们确定新的上限(华林)秩和(华林)边界秩的$\det_3$,表现出严格的submultiplicative行为$T_{skewcw,2}$这是有前途的激光方法。我们建立了张量的Kronecker幂的边界秩的一般结果,并对$\mathbb{C}^3\otimes \mathbb{C}^3\otimes \mathbb{C}^…
2021-12-27 cs.CC math.AG
Bad and good news for Strassen's laser method: Border rank of the 3x3 permanent and strict submultiplicativity
我们确定的边界秩张量,可能会提前已知的上界矩阵乘法的指数$ω$。小$q=2$ Coppersmith-Winograd张量的克罗内克平方等于$3\times 3$永久式,并且可以潜在地用于显示$ω=2$。我们证明了复杂性理论的否定结果,即它的边界秩是$16$,解决了一个长期存在的问题。关于它在$ C^5\otimes C^5\otimes C^5$中的$q=4$偏斜表兄弟,它可能被用来证明$ω\leq 2.11$,我们证明了它的克罗内克平方的边界秩至多是$42$,这是一个显著的次乘法结果,因为它的边界秩的平方是$64$。我们还确定了小Coppersmith-Winograd张量的模空间$\underline{VSP}$。
2020-09-23 cs.CC math.AG
Matrix multiplication algorithms from group orbits
我们展示了如何构造高度对称的矩阵乘法算法。特别是,我们考虑的算法,矩阵乘法张量分解成一个和秩1张量,分解本身由轨道下的一些有限群作用。我们展示了如何使用相应的组的表示理论,以获得简单的约束的分解,我们解决了手为n= 2,3,4,5,恢复斯特拉森的算法(在一个特别对称的形式)和新的算法更大的n。虽然这些新的算法不提高已知的上界张量秩或矩阵乘法指数,他们是美丽的,在自己的权利,我们指出修改这个想法,可能会导致进一步的改进。我们的构造还提出了可以为新算法挖掘的进一步模式,包括与格的诱人联系。特别是,使用格,我们给最透明的证明日期Strassen的算法;相同的证明工程的所有n,产生一个分解与$n^3 - n + 1$条款。
2016-12-12 cs.CC cs.DS math.AG
Weighted slice rank and a minimax correspondence to Strassen's spectra
本文提出加权切片秩,建立其渐近版本与量子泛函之间的极小极大对应,从而将量子泛函的秩型刻画从复数域推广到所有域。
2023-04-19 cs.CC math.RT quant-ph
Asymptotic Rank Speedup Theorems, Revisited
Columbia University(哥伦比亚大学)
本文基于快速矩阵乘法和渐近张量秩与细粒度复杂性之间的联系,重新审视经典矩阵乘法文献中的工具,并开发了一个框架,以获得比矩阵乘法更优的张量渐近秩上界。
2026-09-24 cs.CC cs.DS
Symmetries of matrix multiplication algorithms. I
在这项工作中,矩阵的快速乘法算法被认为是。任何算法都有一定的自同构群。这些自同构群被发现的一些著名的算法,包括算法的Hopcroft,Laderman和潘。对于Hopcroft算法和Laderman算法,自同构群分别同构于$S_3\times Z_2$和$S_4$.算法的对称性研究对于寻找快速算法可能是一个富有成效的想法,通过与众所周知的代码,格和图的优化问题进行类比。{ \em Keywords}:Strassen算法,对称性,快速矩阵乘法。
2015-08-05 cs.CC cs.DS math.GR
Barriers for fast matrix multiplication from irreversibility
确定矩阵乘法的渐近代数复杂度,简洁地表示为矩阵乘法指数$ω$,是代数复杂度理论中的一个中心问题。通过Strassen的激光方法和Coppersmith和Winograd的推广,已经获得了$ω$的最佳上界,从而得到了最新的$ω\leq 2.37..$。最近的势垒结果表明,这些和相关的方法,以提高上界$ω$的局限性。我们引入了一个新的和更一般的障碍,提供更强的限制比以前的工作。具体地,我们引入张量的“不可逆性”的概念,并且我们证明(在某种精确意义上)任何在中间步骤中使用不可逆张量的方法(例如,作为激光方法中的起始张量)不能给出$ω= 2$。在定量方面,我们证明了最好的上限是下界的两倍的中间张量的不可逆性。量子泛函和Strassen支持泛函给出了(到目前为止,最好的)不可逆性的下界。我们提供的关键中间张量,包括小和大的Coppersmith-Winograd张量的不可逆性的下限,提高了在以前的工作中所示的限制。最后,我们讨论的障碍群论方法的“单项”不可逆性。
2022-03-05 cs.CC math.AC quant-ph
Graph Expansion and Communication Costs of Fast Matrix Multiplication
算法的通信成本(也称为I/O复杂度)与相应计算图的扩展特性密切相关。我们证明了这对Strassen的和其他快速矩阵乘法算法,并获得第一个下界的通信成本。在顺序情况下,其中处理器具有大小为$M$的快速存储器,其太小而不能存储三个$n$ × $n$矩阵,对于许多矩阵乘法算法,在快速和慢速存储器之间移动的字的数目的下限是$Ω((\frac{n}{\sqrt M})^{ω_0}\cdot M)$,其中$ω_0$是算术计数中的指数(例如,用于Strassen的$ω_0 = \lg 7$和用于常规矩阵乘法的$ω_0 = 3$)。对于$p$并行处理器,每个处理器具有大小为$M$的快速存储器,下限小$p$倍。这些界限是可达到的顺序和并行算法,因此最佳的。这些界限也可以通过线性代数中的许多快速算法来获得(例如,用于LU、QR和求解Sylvester方程的算法)。
2011-09-08 cs.CC cs.DC cs.DS
Bounds on complexity of matrix multiplication away from CW tensors
我们提出了三个家庭的最小边界秩张量:他们来自最高权向量,光滑代数,或单项式代数。我们用Strassen的激光方法分析了它们,得到了$ω$上的一个上界$2.431$.我们还解释了如何在某些单项的情况下,直接使用激光方法比第一次退化更有利可图。我们的结果形成可能的路径中寻找有价值的张量的激光方法远离Coppersmith-Winograd张量。
2022-04-11 cs.CC math.AC math.AG
Bounds for Bilinear Complexity of Noncommutative Group Algebras
研究了非交换群代数中乘法运算的复杂性,它与矩阵乘法运算的复杂性密切相关。我们刻画了这样的半单群代数的最小双线性复杂性,并显示了非平凡的下界为其余的组代数。这些下界是建立在Bläser的半单代数和具有大根的代数的结果以及Alder和Strassen的任意结合代数的下界之上的。我们还显示了次二次上界的所有群代数变成“几乎线性”的矩阵乘法的指数等于2。
2010-03-24 cs.CC math.RT
Universal points in the asymptotic spectrum of tensors
张量的渐近限制问题是,给定张量$s$和$t$,当$n$趋于无穷大时,通过将线性映射应用于张量支腿(我们称之为限制),是否可以从t的$(n+o(n))$次张量幂获得$s$的第n次张量幂。在这种背景下,Volker Strassen,努力理解矩阵乘法的复杂性,在1986年引入了张量的渐近谱。本质上,张量族$X$的渐近限制问题,在直和和张量积下是封闭的,归结为找到从$X$到实数的所有映射,这些映射在限制下是单调的,在对角张量上是归一化的,在直和下是加法的,在张量积下是乘法的,斯特拉森将其命名为谱点。Strassen创建了支撑泛函,它是斜张量的谱点,斜张量是所有张量的严格子族。泛谱点是所有张量族的谱点。非平凡泛谱点的构造是一个三十多年来的公开问题。利用量子熵和协变:量子泛函,我们首次构造了复数上的一类非平凡泛谱点。在这个过程中,我们将渐近谱与量子边际问题和纠缠多面体联系起来。为了证明渐近谱,我们reprove(事后)最近的结果帽集问题,减少这个问题的计算渐近谱的减少多项式乘法张量,斯特拉森的一个主要例子。更好地理解我们的普适谱点构造可能会导致相关问题的进一步进展。我们还证明了复张量的量子泛函的渐近切片秩。
2018-05-26 cs.CC math.CO quant-ph
Asymptotic tensor rank of graph tensors: beyond matrix multiplication
我们提出了一个上界的指数的渐近行为的张量秩的张量族定义的完全图上$k$顶点。对于$k\geq4$,我们表明,每边的指数是最多0.77,优于最好的已知的上界上的指数每边矩阵乘法($k=3$),这是大约0.79。我们提出的问题是否为一些$k$的指数每边可以低于$2/3$,即可以优于矩阵乘法,即使矩阵乘法指数等于2。为了得到我们的结果,我们推广到高阶张量的结果由Strassen的渐近子秩紧张量和结果由Coppermith和Winograd的渐近矩阵的秩乘法。我们的结果在纠缠理论和通信复杂性方面有应用。
2019-09-10 cs.CC math.CO quant-ph
The isotropy group of the matrix multiplication tensor
通过张量$t\in V_1 \otimes V_2\otimes V_3=\widetilde V$的{ \em各向同性群},我们表示$\widetilde V$的所有可逆线性变换的群,这些变换使$t$不变并且与~ $\widetilde V$上的张量积的结构相容(在明显的意义上)。考虑了$t$是矩形矩阵乘法映射的结构张量的情形。这个张量的各向同性群在1970年代由de Groote、Strassen和Brockett-Dobkin研究。在目前的工作中,我们扩大,使更精确,暴露在语言的群体行动张量空间,并赋予证明以前已知的结果。这对于研究允许对称的快速矩阵乘法算法是必要的。后者似乎是一个很有前途的新方法来构建快速算法。
2022-10-29 cs.CC math.RT
Disjoint and nearly disjoint sums of matrix multiplication tensors and their centroids
Cornell University(康奈尔大学);Texas A&M University(德克萨斯农工大学);Sidney Sussex College, Cambridge(剑桥大学西丁尼思学院)
本文构造了具有大质心的矩阵乘法张量等,开发了利用质心的几何技术,证明相关张量的最小边界秩,为矩阵乘法指数上界及Strassen激光方法提供了新进展。
2026-08-28 cs.CC math.AC math.AG
Fast integer multiplication using generalized Fermat primes
近35年来,Sch{<$}nhage-Strassen的算法一直是已知的最快的整数乘法算法,其时间复杂度为O(n $\times$ log n $\times$ log log n)。在2007年,F{ü}rer证明了存在K > 1和一个算法执行此操作的时间复杂度为O(n $\times$ log n $\times$ K log n)。Harvey、van der Hoeven和Lecerf最近的工作表明,这个复杂性估计可以得到改进,以使K = 8,实际上K = 4。使用另一种算法,它依赖于算术模广义费马素数,我们得到了同样的结果K = 4,通过仔细的复杂性分析,在确定性的多带图灵模型。
2018-04-17 cs.CC cs.DM cs.DS
Geometric rank of tensors and subrank of matrix multiplication
本文提出几何秩这一新工具,证明其可上界张量子秩与超图独立数,并用于给出矩阵乘法张量(边界)子秩的紧上界。
2023-04-26 cs.CC math.AG math.CO
Equivalent Polyadic Decompositions of Matrix Multiplication Tensors
矩阵乘法张量的多进分解的不变性变换定义了这种分解的集合上的等价关系。本文给出了一个判定矩阵乘张量的两个多元分解是否等价的算法。利用该算法分析了几种矩阵乘法张量分解的等价类。这种分析是相关的快速矩阵乘法的研究,因为它涉及到有多少本质上不同的快速矩阵乘法算法存在的问题。这个问题首先由de~Groote研究,他证明了对于$2\times2$矩阵与$7$有效乘法的乘法,所有算法本质上都等价于Strassen算法。相反,我们的分析结果表明,对于较大矩阵的乘法,(例如,$2\times3$乘$3\times2$或$3\times3$乘$3\times3$矩阵),两种分解很可能本质上不同。我们进一步提供了一个必要的标准,一个多元分解是等价的多元分解与整数条目。具有特定整数项的分解,例如,2的幂,提供了具有更好的效率和稳定性的快速矩阵乘法算法。这个条件可以测试算法,我们提出的结论得到的分解的小/中矩阵乘法张量。
2022-04-14 cs.CC cs.NA math.NA
Nondeterministic quantum communication complexity: the cyclic equality game and iterated matrix multiplication
我们研究非确定性多方量子通信与量子广义广播。我们表明,与数字在手的经典输入,在这个通信模型中的布尔函数的通信复杂度等于相应的张量的支持秩的对数,而在这个模型中的近似复杂度等于边界支持秩的对数。这个特征使我们能够证明Villagra等人提出的对数秩猜想。对于具有消息传递的非确定性多方量子通信。通信模型的支持秩刻画将量子通信复杂性与渐近纠缠变换理论和代数复杂性理论紧密联系起来。在这种情况下,我们介绍了graphwise平等问题。对于一个循环图,这个通信问题的复杂度与矩阵相乘计算问题的复杂度密切相关,或者更准确地说,它等于迭代矩阵乘法张量的渐近支持秩的对数。我们采用Strassen的激光方法表明,渐近存在非平凡的协议,每一个奇数玩家循环等式问题。我们展示了一个有效的协议,为5-玩家的问题,小的投入,我们展示了如何杨双胞胎产生非平凡的复杂性下界。
2016-04-02 cs.CC quant-ph
Faster Convolutions: Yates and Strassen Revisited
本文通过多线性代数视角分析乘积域卷积,利用快速矩阵乘法理论推导出改进的$O(|D|^{1.582})$时间算法,并指出Strassen渐近秩猜想将意味着准线性时间算法。
2025-05-28 cs.CC cs.DS
The edge of the asymptotic spectrum of tensors
Columbia University(哥伦比亚大学)
本文研究了张量渐近谱中边缘情况下的支撑功能,证明其为唯一确定的谱点,并展示了其在任意域中的存在性。
2026-09-29 cs.CC math.CO math.RT
Limits on All Known (and Some Unknown) Approaches to Matrix Multiplication
我们研究了设计矩阵乘法算法的已知技术。两种主要的方法是斯特拉森的激光方法,以及科恩和乌曼斯的群论方法。我们定义了一个基于归零的推广,它包含这两种方法,我们称之为太阳能方法,以及一个更一般的方法,我们称之为银河系方法。然后,我们设计了一套技术证明下限值的$ω$,矩阵乘法的指数,这可以通过使用许多张量$T$和银河方法的算法来实现。我们的一些技术利用$T$的“局部”性质,如找到$T$的一个子张量,该子张量是如此“弱”,以至于$T$本身不能用于在$ω$上实现良好的绑定,而另一些技术利用“全局”性质,如$T$是一个群代数的结构张量的单项退化。我们的主要结果是,存在一个普适常数$\ell>2$,使得对于任何$q$,推广Coppersmith-Winograd张量$CW_q$的一大类张量不能在银河方法中使用,以显示$ω$上的界优于$\ell$。我们给出的证据表明,以前的下界技术不足以证明这一点。我们还证明了一些互补的结果,包括对于任何组$G$,结构张量的$\mathbb{C}[G]$可以用来恢复最好的约束$ω$的Coppersmith-Winograd方法得到使用$CW_{|G|-2}$,只要渐近秩的结构张量不是太大。
2018-10-19 cs.CC cs.DS
Partition Rank and Algebraic Circuit Lower Bounds
University of Regensburg(雷根斯堡大学);Aalto University(阿尔托大学);University of Helsinki(赫尔辛基大学)
本文通过推广张量秩到划分秩,建立与乘法复杂度的联系,从而在任意常数的多重线性度下给出算术电路下界,并应用于超团猜想等细粒度算法问题。
2026-08-06 cs.CC cs.DS
Limits on the Universal Method for Matrix Multiplication
在这项工作中,我们证明了已知的方法设计矩阵乘法算法的局限性。Alman和Vassilevska Williams最近定义了通用方法,它基本上推广了所有已知的方法,包括Strassen的激光方法和Cohn和Umans的群论方法。我们证明了具体的下界的算法,可以设计的通用方法,许多不同的张量。我们的证明使用新的工具上界的渐近切片秩的张量范围很广。我们的主要结果是,适用于任何Coppersmith-Winograd张量$CW_q$的通用方法不能产生一个比$2.16805$更好的$ω$上的界,矩阵乘法的指数。相比之下,以前只知道应用于$CW_q$的较弱的“银河系方法”不能达到$2$的指数。我们还研究了激光方法(这是,在原则上,一个非常特殊的情况下,通用方法),并证明它是“完整的”矩阵乘法算法:当它适用于张量$T$,它实现$ω= 2$当且仅当它是可能的通用方法应用于$T$实现$ω= 2$。因此,最初用作算法工具的激光方法也可以被视为下边界工具。例如,在他们具有里程碑意义的论文中,Coppermith和Winograd通过将激光方法应用于$CW_q$,实现了$ω\leq 2.376$的边界。根据我们的结果,他们没有实现$ω=2$的事实意味着应用于$CW_q$的通用方法的下限。事实上,如果将通用方法应用于$CW_q$可以获得$ω=2$,那么Coppersmith和Winograd应用激光方法就可…
2019-05-01 cs.CC cs.DS math.CO
Asymptotic tensor rank is characterized by polynomials
University of Copenhagen(哥本哈根大学);University of Amsterdam(阿姆斯特丹大学);Budapest University of Technology and Economics(布达佩斯技术与经济大学)
本文证明渐近张量秩是“从上可计算的”,即存在算法通过有限多项式列表判断其是否不超过给定值,并揭示其子水平集为Zariski闭集,从而推出渐近张量秩取值构成良序集。
2026-06-07 cs.CC math.AG quant-ph
A universal sequence of tensors for the asymptotic rank conjecture
本文构造零一张量通用序列以捕获最坏情形张量指数,并将其用于刻画 Strassen 渐近秩猜想及推导渐近秩上界。
2024-04-09 cs.CC cs.DS math.AG