Fast Approximate Matrix Multiplication by Solving Linear Systems
在本文中，我们提出了新的确定性算法乘以两个$n \times n$矩阵近似。给定两个矩阵$A,B$，我们返回一个矩阵$C'$，它是$C = AB$的\emph{approximation}。我们考虑近似矩阵乘法的概念，其目标是使误差矩阵$C-C'$的Frobenius范数任意小。我们的主要贡献是首先减少矩阵乘法问题，解决一组线性方程组，然后使用标准的技术，找到一个近似的解决方案，该系统在$\tilde{O}(n^2)$时间。据我们所知，这是第一次检查到设计二次时间确定性算法的近似矩阵乘法，保证任意低的\emph{absolute error} w.r.t.弗罗贝纽斯·诺姆。
2014-08-20 cs.DS
A Hardware-oriented Algorithm for Complex-valued Constant Matrix-vector Multiplication
本文提出了一种面向硬件的常数矩阵-向量积的算法，当向量和矩阵的元素都是复数时。所提出的算法与朴素的模拟计算方法相比，大大减少了FPGA实现复值常数矩阵向量乘法所需的乘法器数量。用于复值矩阵-向量乘法的（教科书）方法需要4 MN个乘法器、2 M个N输入加法器和2 MN个两输入加法器，该算法只需要3 N（M+1）/2个乘法器和3 M（N+2）+1，5N +2个二输入加法器和3个（M+1）N/2输入加法器。
2014-10-25 cs.DS
Sparsifying the Operators of Fast Matrix Multiplication Algorithms
快速矩阵乘法算法可能是有用的，只要它们的运行时间在实践中是好的。特别地，它们的算术复杂度的前导系数需要小。许多次立方算法具有大的前导系数，使得它们不切实际。Karstadt和Schwartz（SPAA'17，JACM'20）演示了如何通过稀疏化算法的双线性算子来减少这些系数。不幸的是，寻找最佳稀疏化的问题是NP-难的。为此，我们得到了三个新的方法，并将其应用到现有的快速矩阵乘法算法，从而提高其领先系数。这些方法在最坏情况下的运行时间是指数级的，但在实际中运行速度很快，并提高了许多快速矩阵乘法算法的性能。其中两种方法保证产生领先系数，在某些假设下，是最佳的。
2020-08-09 cs.DS
An Improved Combinatorial Algorithm for Boolean Matrix Multiplication
我们提出了一个新的组合算法三角形查找和布尔矩阵乘法，运行在$\hat{O}(n^3/\log^4 n)$时间，其中$\hat{O}$符号抑制聚（loglog）的因素。这改进了Chan提出的在$\hat{O}(n^3/\log^3 n)$时间内运行的最佳组合算法。该算法推广了Chan算法的分治策略。此外，我们提出了一个通用的框架，检测三角形图和计算布尔矩阵乘法。粗略地说，如果我们能有效地找到给定实例的“容易部分”，我们就能比$n^3$更快地解决整个问题。
2015-05-26 cs.DS
Towards Faster Feasible Matrix Multiplication by Trilinear Aggregation
针对现有快速矩阵乘法算法多不适用于实际可行输入规模的问题，采用三线性聚合结合de Groote等价性替换、稀疏分解等优化，得到基例28起即更优、适用规模同Pan算法的$O(n^{2.773203})$算法，推动实用快速矩阵乘法发展。
2025-08-03 cs.DS
Solving Linear Programs in the Current Matrix Multiplication Time
本文给出了如何求解$\min_{Ax=b,x\geq0} c^\top x$形式的线性规划，其中$n$变量是时间变量$$O^*((n^ω+n^{2.5-α/2}+n^{2+1/6}) \log(n/δ))$$，其中$ω$是矩阵乘法的指数，$α$是矩阵乘法的对偶指数，$δ$是相对精度。对于$ω\sim2.37$和$α\sim0.31$的当前值，我们的算法需要$O^*(n^ω \log(n/δ))$时间。当$ω= 2$时，我们的算法需要$O^*(n^{2+1/6} \log(n/δ))$时间。我们的算法利用了几个新的概念，我们相信可能是独立的利益：$\bullet$我们定义了一个随机中心路径方法。$\bullet$我们展示了如何在对角矩阵$W$中的$\ell_{2}$乘性变化下在次二次时间中保持投影矩阵$\sqrt{W}A^{\top}(AWA^{\top})^{-1}A\sqrt{W}$。
2020-10-20 cs.DS
Strassen $2\times2$ Matrix Multiplication from a 3-dimensional Volume Form
AMD（超威半导体）
斯特拉森提出基于三维体积形式的2×2矩阵乘法算法，通过商空间结构实现高效计算。
2026-01-02 cs.CC cs.DS
Inner Rank and Lower Bounds for Matrix Multiplication
我们开发了一个概念{ \em内秩}作为一种工具，获得下界矩阵乘法张量的秩。我们用它来给出一个简短的证明，即在任意域上与$n\times n$矩阵乘法相关的张量的边界秩（因此秩）至少是$2n^2-n+1$。虽然内部排名并不能改善目前已知的下限，但我们认为这个概念值得进一步研究。
2019-05-13 cs.CC cs.DS
Quantum Worst-Case to Average-Case Reduction for Matrix-Vector Multiplication
本研究提出一种更高效、更简单的量子最坏情况到平均情况归约方法，用于矩阵向量乘法问题，改善了对成功概率的依赖性，为量子细粒度复杂性研究奠定基础。
2025-10-17 cs.CC cs.DS quant-ph
GPU-Accelerated Search for Fast Matrix Multiplication over $\mathbb{F}_2$
Northeastern University（东北大学）
提出GPU加速搜索矩阵乘法翻转图算法，每秒超十亿步，证明$\mathbb{F}_2$上翻转图强连通，找到$7\times7$矩阵乘法245次乘法的新纪录。
2026-10-28 cs.DS cs.SC
Sparse Matrix Multiplication in the Low-Bandwidth Model
我们研究低带宽模型中的矩阵乘法：有$n$计算机，我们需要计算两个$n \times n$矩阵的乘积。最初，计算机$i$知道每个输入矩阵的行$i$。在一个通信回合中，每台计算机可以发送和接收一个$O(\log n)$位消息。最后，计算机$i$必须输出乘积矩阵的行$i$。我们试图理解这个问题的复杂性，在均匀稀疏的情况下：每个输入矩阵的每一行和每一列最多有$d$非零，在产品矩阵，我们只需要知道在每一行或每一列中的最多$d$元素的值。这正是我们所拥有的设置，例如，当我们在最大度$d$的图中应用矩阵乘法进行三角形检测时。我们专注于支持的设置：矩阵的结构是已知的，只有非零元素的数值是未知的。有一种简单的算法可以在$O(d^2)$轮中解决该问题，但是对于大的$d$，已知存在更好的算法;在适度密集的状态下，该问题可以在$O(dn^{1/3})$通信循环中解决，并且对于非常大的$d$，主要解决方案是使用$O(n^{1.158})$通信循环的快速矩阵乘法算法（用于支持快速矩阵乘法的域和环上的矩阵乘法）。在这项工作中，我们表明，有可能克服二次障碍的所有值的$d$：我们提出了一个算法，解决了这个问题，在$O(d^{1.907})$轮的领域和环支持快速矩阵乘法和$O(d^{1.927})$轮的半环，独立的$n$。
2022-06-01 cs.DC cs.DS
A Simple Sparse Matrix Vector Multiplication Approach to Padded Convolution
Johns Hopkins School of Medicine（约翰斯·霍普金斯医学院）
该研究提出一种将带零填充和步幅的卷积表示为稀疏变换矩阵的算法，通过SpMV实现高效计算，给出非零乘法数量的显式表达式并验证了CPU/GPU性能，为稀疏矩阵技术在卷积算法中的应用奠定基础。
2024-11-29 cs.DS cs.LG
Adaptive Flip Graph Algorithm for Matrix Multiplication
提出自适应翻转图算法，结合自适应搜索与翻转图，解决大型矩阵乘法中探索受限和搜索低效问题，在特征2下将4×5乘5×5矩阵乘法次数从76降至73，5×5乘5×5从95降至94。
2024-03-16 cs.DS cs.SC
Error correction in fast matrix multiplication and inverse
我们提出了新的算法来检测和纠正错误的产品中的两个矩阵，或逆矩阵，在任意字段。我们的算法不需要任何额外的信息或编码以外的原始输入和错误的输出。当错误的数量足够小时，它们的运行时间在这些矩阵中的非零条目的数量上是软线性的，并且它们还包含快速矩阵乘法，以便当错误的数量很大时，成本可以很好地缩放。这些算法建立在Gasieniec等人（2017）关于校正矩阵乘积的最新结果，以及验证算法，稀疏低秩线性代数和稀疏多项式插值的现有工作基础上。
2018-02-07 cs.DS cs.SC
Improved Rectangular Matrix Multiplication using Powers of the Coppersmith-Winograd Tensor
在过去的几年里，通过开发新的方法来分析Coppersmith-Winograd张量的幂，连续改进了方阵乘法的渐近复杂性，这是三十年前引入的基本构造。在本文中，我们将展示如何推广这种方法，使矩形矩阵乘法的复杂性取得进展，以及通过开发一个框架，以非对称的方式分析张量的权力。通过将这种方法应用于Coppersmith-Winograd张量的四次幂，我们成功地提高了矩形矩阵乘法的复杂性。令$α$表示最大值，使得对于任何$ε>0$，可以用$O(n^{2+ε})$算术运算来计算$n\times n^α$矩阵与$n^α\times n$矩阵的乘积。通过分析Coppersmith-Winograd张量的四次幂，我们得到了新的下界$α>0.31389$，改进了Le Gall（FOCS'12）五年前通过分析Coppersmith-Winograd张量的二次幂得到的下界$α>0.30298$.更一般地说，我们给出了更快的算法计算产品的$n\times n^k$矩阵的$n^k\times n$矩阵的任何值$k\neq 1$。(In在$k=1$的情况下，我们恢复了最近获得的方阵乘法的界）。这些改进立即导致改进的复杂性的许多基本问题的瓶颈是矩形矩阵乘法，如计算所有对最短路径有界权重的有向图。
2017-11-06 cs.CC cs.DS
Fast Commutative Matrix Algorithm
我们证明了交换环上的n × 3矩阵和3 × 3矩阵的乘积可以用6 n +3次乘法来计算。对于两个3x 3矩阵，这给了我们一个使用21次乘法的算法。这是相对于使用22次乘法的Makarov算法的改进[13]。本文将结果推广到n × 3和3 × 3矩阵，给出了一个计算交换环上1 × n矩阵与n × m矩阵乘积的算法，当m为奇数时，用n（lm+l+m-1）/2次乘法，当m为偶数时，用（n（lm+l+m-1）+l-1）/2次乘法. Waksman和Islam的奇数n算法需要（n-1）（lm+l+m-1）/2+lm次乘法[10，19]，因此在这两种情况下，我们的算法需要较少的乘法。我们还给出了一个算法，即使n使用n（lm+l+m-1）/2乘法，而不使用除法，因为Waksman和伊斯兰的算法使用了一些除以2 [10，19]。此外，我们提出了一个新颖的矩阵乘法：在本文中，我们表明，一些具有特殊性质的非双线性算法可以用作递归算法。与双线性算法相比，对于小的n × n矩阵，比如n<20，我们得到了一些更好的结果。从这些非双线性算法，我们最终得到近似的非双线性算法。例如，我们得到了一个近似的非双线性算法的5x 5矩阵，只使用89乘法。如果有可能将该算法与双线性算法进行比较，我们将获得比Smirnov算法更好的结果[15]。
2020-07-27 cs.CC cs.DS
Symmetries of matrix multiplication algorithms. I
在这项工作中，矩阵的快速乘法算法被认为是。任何算法都有一定的自同构群。这些自同构群被发现的一些著名的算法，包括算法的Hopcroft，Laderman和潘。对于Hopcroft算法和Laderman算法，自同构群分别同构于$S_3\times Z_2$和$S_4$.算法的对称性研究对于寻找快速算法可能是一个富有成效的想法，通过与众所周知的代码，格和图的优化问题进行类比。{ \em Keywords}：Strassen算法，对称性，快速矩阵乘法。
2015-08-05 cs.CC cs.DS math.GR
Fast Matrix Multiplication with Sketching
本文提出基于矩阵抽样技术的近似矩阵乘法算法，通过稀疏化矩阵降低计算成本，证明在样本数足够大时算法精度与现有方法相当。
2014-06-11 cs.DS cs.NA math.NA
Faster Rectangular Matrix Multiplication by Combination Loss Analysis
本文利用组合损失分析方法，结合Coppersmith-Winograd张量四次幂分析，改进了矩形矩阵乘法的指数上界。
2023-12-27 cs.CC cs.DS cs.SC
OpenTensor: Reproducing Faster Matrix Multiplication Discovering Algorithms
School of Data Science, Fudan University（复旦大学数据科学学院）
OpenTensor复现了AlphaTensor框架，通过清理算法流程、澄清技术细节并改进训练过程，成功利用深度强化学习发现了高效的矩阵乘法算法。
2024-05-31 cs.AI cs.DS cs.LG
Powers of Tensors and Fast Matrix Multiplication
本文给出了一种分析三线性形式（一种特殊的代数结构，也称为张量）的幂的方法，并得到了矩阵乘法的渐近复杂性的上界。与现有方法相比，该方法基于凸优化，具有多项式时间复杂度。作为应用，我们用这种方法研究了Coppermith和Winograd [Journal of符号计算，1990]给出的结构的幂，得到了方阵乘法指数的上界$ω<2.3728639$，它改进了已知的上界.
2014-01-30 cs.CC cs.DS cs.SC
Constant-Depth and Subcubic-Size Threshold Circuits for Matrix Multiplication
McCulloch-Pitts阈值门布尔电路是20世纪后期作为一般计算模型而被大量研究的神经计算的经典模型。大规模神经计算硬件的最新进展使其实际实现成为近期的可能性。我们描述了一种理论方法，用于乘以两个$N$的$N$矩阵，集成了阈值门逻辑与传统的快速矩阵乘法算法，执行$O(N^ω)$算术运算的正常数$ω< 3$。我们的方法将这样一个快速矩阵乘法算法转换成一个恒定深度的阈值电路，大约$O(N^ω)$门。在此之前，我们的工作，这是不知道是否$Θ(N^3)$门矩阵乘法障碍是克服了恒定深度的阈值电路。稠密矩阵乘法是卷积神经网络训练中的核心运算。在神经架构上执行这项工作，而不是将其卸载到GPU上可能是一个有吸引力的选择。
2020-06-25 cs.DC cs.DS cs.NE
A Note on Random Sampling for Matrix Multiplication
School of Engineering, University of Edinburgh（爱丁堡大学工程学院）
本文扩展了随机矩阵乘法框架，提出了一种新的算法作为经典算法的补充，特别是在后者最优概率分布接近均匀时。新算法提高了2范数下小近似误差的可能性，并且弗罗贝尼乌斯范数下的平方近似误差被经典算法所限制。
2019-05-16 cs.DS cs.NA math.NA
Fast Matrix Multiplication Without Tears: A Constraint Programming Approach
University of Toronto（多伦多大学）
本文提出约束规划方法求解快速矩阵乘法的约束满足问题，通过对称性破除、有效不等式、稀疏分解及求解器性能波动，发现算法或证明不可行，并在 CP Optimizer 上快速找到至 $3\ imes3$ 矩阵的算法。
2023-07-17 cs.AI cs.DS math.CO
Analysis of a randomized approximation scheme for matrix multiplication
Microsoft Research（微软研究院）；Rutgers University（罗格斯大学）
本文分析了Sarlos (2006)提出的基于随机旋转和均匀列采样的矩阵乘法随机近似方案，利用矩阵Bernstein不等式和次高斯随机向量二次型的尾部不等式给出简单分析。
2012-11-23 cs.DS cs.LG cs.NA
Faster Algorithms for Rectangular Matrix Multiplication
设α是最大值，使得n × n^α矩阵与n^α × n矩阵的乘积可以用n^{2+o（1）}次算术运算来计算。本文证明了α>0.30298，改进了Coppermith（Journal of Complexity，1997）的先前记录α>0.29462。更一般地，我们构造了一个新的算法，用于将n x n^k矩阵乘以n^k x n矩阵，对于任何值k \neq 1。该算法的复杂度优于所有已知的矩形矩阵乘法算法。在方矩阵乘法的情况下（即，对于k=1），我们精确地恢复了Coppermith和Winograd（Journal of符号计算，1990）的算法的复杂性。这些新的上界可以用来改善依赖于矩形矩阵乘法的几个已知算法的时间复杂度。例如，我们直接得到了小整数权值有向图上所有对最短路径问题的O（n^{2.5302}）时间算法，改进了Zwick（JACM 2002）的O（n^{2.575}）时间算法，同时也改进了稀疏方阵乘法的时间复杂度.
2012-04-09 cs.CC cs.DS cs.SC
Strong Scaling of Matrix Multiplication Algorithms and Memory-Independent Communication Lower Bounds
如果并行算法在P个处理机上的运行时间是1/P线性的，包括所有的通信开销，则该并行算法具有完美的强标度性。具有完美强标度的矩阵乘法的分布式内存并行算法最近才被发现。一种是基于经典矩阵乘法（Solomonik and Demmel，2011），另一种是基于Strassen的快速矩阵乘法（Ballard，Demmel，Holtz，Lipshitz，and Schwartz，2012）。这两种算法都可以完美地扩展，但只能扩展到处理器间通信不再扩展的处理器数量。我们得到了一个内存独立的通信成本的经典和基于Strassen的分布式存储矩阵乘法算法的下界。这些界限意味着，没有经典的或基于Strassen的并行矩阵乘法算法可以强大的规模完全超出上述两个并行算法已经达到的范围。记忆无关的边界和强缩放边界推广到其他算法。
2012-02-14 cs.CC cs.DC cs.DS
PMV: Pre-partitioned Generalized Matrix-Vector Multiplication for Scalable Graph Mining
我们如何分析包括Web和社交网络在内的庞大网络，这些网络拥有数千亿个节点和边？网络分析已通过各种图挖掘方法进行，包括最短路径计算、PageRank、连通分量计算、带重启的随机游走等。这些图挖掘方法可以表示为广义矩阵向量乘法，它由受典型矩阵向量乘法启发的少量运算组成。最近，几个图形处理系统的基础上矩阵向量乘法或自己的原语已被提出来处理大型图形，但是，他们都失败了Web规模的图形，由于内存空间不足或缺乏考虑的I/O成本。本文提出了一种基于广义矩阵向量乘法的可扩展分布式图挖掘方法PMV（Pre-partitioned Generalized Matrix-Vector Multiplication）。PMV通过预先划分输入图并根据预划分子矩阵的密度明智地应用执行策略，显著降低了分布式系统的主要瓶颈通信开销。实验表明，PMV成功地处理高达16倍的图比现有的分布式基于内存的图挖掘方法，并需要9倍的时间比以前的基于磁盘的图挖掘方法，通过减少I/O成本显着。
2017-09-26 cs.DB cs.DC cs.DS
On cap sets and the group-theoretic approach to matrix multiplication
在2003年，Cohn和Umans描述了一个通过将矩阵乘法简化为群代数乘法来证明矩阵乘法的指数$ω$上界的框架，并且在2005年，Cohn，Kleinberg，Szegedy和Umans提出了如何获得$ω=2$的具体方法。在本文中，我们排除了获得$ω=2$在这个框架下，从阿贝尔群的有界指数。要做到这一点，我们绑定的大小三色和自由集在这样的群体，扩展了突破性的成果，克鲁特，列夫，帕奇，艾伦伯格和Gijswijt帽集。作为我们的证明的副产品，我们表明，由于陶张量秩的一个变体给出了定量的理解不稳定张量的概念，从几何不变理论。
2017-01-14 cs.DS math.CO math.GR
Simple, Fast and Practicable Algorithms for Cholesky, LU and QR Decomposition Using Fast Rectangular Matrix Multiplication
Universidad de Cantabria（坎塔布里亚大学）
本文提出了一种基于快速矩形矩阵乘法的Cholesky/LU/QR分解算法，时间复杂度为O(n^{2.529})，并展示了其在实际应用中的优势。
2018-12-05 cs.DS cs.NA math.NA
Fast matrix multiplication techniques based on the Adleman-Lipton model
在分布式存储器电子计算机上，快速并行矩阵乘法算法的实现和关联已经产生了惊人的结果和见解。在这篇论文中，我们使用分子生物学的工具来证明Strassen的快速矩阵乘法算法与DNA的理论编码的基础上的$n$ -模集的剩余数系统，从而证明计算数学与DNA的可行性。其结果是，一般可扩展的实现该模型的DNA计算范式，并可以推广到DNA计算机上的应用程序的\emph{all}快速矩阵乘法算法。我们还讨论了这种可扩展的实现的实际能力和问题。用DNA进行矩阵计算的快速方法很重要，因为它们也允许用DNA有效地实现其他算法（即求逆、计算行列式和图论）。
2011-12-19 cs.DS cs.ET q-bio.QM
A 51-Addition Alternative-Basis Kernel for Rank-23 $3\times3$ Matrix Multiplication
本文提出一种秩23的3×3矩阵乘法算法，在交替基下用51次加法，加上转换共56次，结合线性规划与稀疏基搜索，并给出机器可验证的证书。
2026-09-29 cs.CC cs.DS cs.SC
A 60-Addition, Rank-23 Scheme for Exact 3x3 Matrix Multiplication
本文提出一种无需改变基的 3x3 矩阵乘法方案，将加法代价从 61/62 次降至 60 次，秩为 23，达到新的最优水平。
2025-08-17 cs.CC cs.DS cs.NA
Communication-Optimal Parallel Algorithm for Strassen's Matrix Multiplication
并行矩阵乘法是分布式高性能计算中研究最多的基本问题之一。我们得到了一个新的并行算法，该算法是基于Strassen的快速矩阵乘法和最小化通信。该算法优于所有已知的并行矩阵乘法算法，经典的和基于Strassen的，无论是渐进的，并在实践中。并行化Strassen算法的一个关键瓶颈是处理器之间的通信。Ballard，Demmel，Holtz和Schwartz（SPAA'11）使用底层计算图的扩展特性证明了这些通信成本的下限。我们的算法匹配这些下限，因此是通信最优的。它在最大可能范围内表现出完美的强缩放性。基准测试我们的实现在Cray XT4上，我们获得了超过经典和基于Strassen的算法的加速比，范围从24%到184%，对于固定的矩阵维数n=94080，其中节点的数量范围从49到7203。我们的并行化方法推广到其他快速矩阵乘法算法。
2012-02-14 cs.CC cs.DC cs.DS
The Simultaneous Triple Product Property and Group-theoretic Results for the Exponent of Matrix Multiplication
该研究通过群论方法探讨矩阵乘法指数，利用同时三重乘积性质得到指数界，并展示特定群结构可使指数低于2.84甚至接近2.02。
2025-12-29 cs.CC cs.DS math.GR
Fast matrix multiplication is stable
本文对一类递归矩阵乘法算法进行前向误差分析，证明矩阵乘法指数可通过数值稳定算法实现，并表明群论算法也属于稳定算法。
2006-12-07 cs.CC cs.DS cs.NA
Graph Expansion Analysis for Communication Costs of Fast Rectangular Matrix Multiplication
University of California, Berkeley（加州大学伯克利分校）；Technische Universität Berlin（柏林工业大学）
本文通过图扩展分析方法，为快速矩形矩阵乘法算法推导通信成本下界，并证明部分下界最优。
2012-09-11 cs.CC cs.DS cs.NA
