All Pairs Shortest Paths using Bridging Sets and Rectangular Matrix Multiplication
本文提出了两个求解加权有向图的{ \em所有对最短路径}(APSP)问题的新算法。这两种算法都使用快速矩阵乘法算法。第一个算法解决了加权有向图的APSP问题,其中边的权重是在$\Ot(n^{2+μ})$时间的小绝对值的整数,其中$μ$满足方程$ω(1,μ,1)=1+2μ$和$ω(1,μ,1)$是$n\times n^μ$矩阵乘以$n^μ\times n$矩阵的指数。目前,由Coppermith获得的关于$ω(1,μ,1)$的最佳可用界限意味着$μ<0.575$。因此,我们的算法的运行时间是$O(n^{2.575})$。该算法改进了$\Ot(n^{(3+ω)/2})$时间算法,其中$ω=ω(1,1,1)<2.376$是矩阵乘法的常用指数,由Alon,Galil和Margalit得到,其运行时间仅为$O(n^{2.688})$ .第二个算法解决了APSP问题{ \em almost}精确的有向图与{ \em arbitrary}非负实权重。该算法以$\Ot((n^ω/\eps)\log (W/\eps))$时间运行,其中$\eps>0$是误差参数,W是图中的最大边权重,在边权重被缩放之后,使得图中的最小非零边权重为1。它返回图中所有距离的估计值,最多为$1+\eps$。也可以有效地找到相应的路径。
2000-08-16 cs.DS
New Bounds for Matrix Multiplication: from Alpha to Omega
本文改进 laser 方法,在 Duan 等人 2023 年技术基础上引入新要素,将矩阵乘法指数 $ω$ 降至 2.371552,并改进矩形矩阵乘法的对偶指数 $α$ 等多项界。
2023-11-04 cs.CC cs.DS
Centralized, Parallel, and Distributed Multi-Source Shortest Paths via Hopsets and Rectangular Matrix Multiplication
考虑一个无向加权图$G = (V,E,w)$。我们研究的问题计算$(1+ε)$ -近似最短路径的$S \times V$,一个子集$S \subseteq V$的$|S| = n^r$源,一些$0 < r \le 1$。我们设计了一个显着改进的算法,这个问题在整个范围内的参数$r$,在经典的集中式和并行(PRAM)模型的计算,并在广泛的$r$中的分布式(拥塞集团)模型。具体来说,我们的集中式算法这个问题需要时间$\tilde{O}(|E| \cdot n^{o(1)} + n^{ω(r)})$,其中$n^{ω(r)}$是所需的时间乘以一个$n \times n$矩阵的$n^r \times n$。我们的PRAM算法具有多对数时间$(\log n)^{O(1/ρ)}$,它的工作复杂度是$\tilde{O}(|E| \cdot n^ρ+ n^{ω(r)})$,对于任何任意小的常数$ρ>0$。特别地,对于$r \le 0.313\ldots$,我们的集中式算法计算$S \times V$ $(1+ε)$ -在$n^{2 + o(1)}$时间内的近似最短路径。对于任意小的常数$ρ>0$,我们的PRAM多步时间算法的工作复杂度为$O(|E| \cdot n^ρ+ n^{2+o(1)})$。先前存在的解决方案要么需要$O(|E| \cdot |S|)$的集中时间/并行工作,要么提供弱得多的近似…
2021-02-12 cs.DS
Graph Expansion and Communication Costs of Fast Matrix Multiplication
算法的通信成本(也称为I/O复杂度)与相应计算图的扩展特性密切相关。我们证明了这对Strassen的和其他快速矩阵乘法算法,并获得第一个下界的通信成本。在顺序情况下,其中处理器具有大小为$M$的快速存储器,其太小而不能存储三个$n$ × $n$矩阵,对于许多矩阵乘法算法,在快速和慢速存储器之间移动的字的数目的下限是$Ω((\frac{n}{\sqrt M})^{ω_0}\cdot M)$,其中$ω_0$是算术计数中的指数(例如,用于Strassen的$ω_0 = \lg 7$和用于常规矩阵乘法的$ω_0 = 3$)。对于$p$并行处理器,每个处理器具有大小为$M$的快速存储器,下限小$p$倍。这些界限是可达到的顺序和并行算法,因此最佳的。这些界限也可以通过线性代数中的许多快速算法来获得(例如,用于LU、QR和求解Sylvester方程的算法)。
2011-09-08 cs.CC cs.DC cs.DS
New modular multiplication and division algorithms based on continued fraction expansion
在本文中,我们应用结果的基础上连分数扩展的模运算的数系统。给出了两种新的模乘和模除算法。所提出的算法是基于欧几里德算法和二次复杂度。
2013-03-14 cs.DS cs.SC
Output-Sparse Matrix Multiplication Using Compressed Sensing
本文提出两种输出稀疏矩阵乘法算法,分别基于确定性两遍压缩感知归约和随机化压缩感知与矩阵乘法验证归约,并证明其运行时间最优。
2025-08-14 cs.DS
Streaming Verification in Data Analysis
流交互式证明(SIP)是一个框架,用于推理外包计算,其中数据所有者(验证者)将计算外包给云(证明者),但希望验证云服务提供的解决方案的正确性。在本文中,我们提出了数据分析中的问题的流交互式证明。我们提出的协议聚类和形状拟合问题,以及矩形矩阵乘法的改进协议。后者又可以用于验证(流式传输的)$n \times n$矩阵的$k$特征向量。一般来说,我们的解决方案使用多对数轮通信和多对数总通信和验证器空间。对于特殊情况下(当最优证书可以很容易地验证),我们提出了类似的成本恒定轮协议。对于矩形矩阵乘法和特征向量验证,我们的协议工作在更受限制的注释数据流模型中,并使用次线性(但不是多对数)通信。
2015-09-18 cs.DS
More Asymmetry Yields Faster Matrix Multiplication
Columbia University(哥伦比亚大学);Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Massachusetts Institute of Technology(麻省理工学院);Carnegie Mellon University(卡内基梅隆大学)
该研究通过在激光方法分析中引入更多不对称性,结合数值优化进展,将平方矩阵乘法指数界从ω<2.371552提升至ω<2.371177,同时改进了矩形矩阵乘法的指数界。
2026-08-20 cs.CC cs.DS
Communication-Optimal Parallel Algorithm for Strassen's Matrix Multiplication
并行矩阵乘法是分布式高性能计算中研究最多的基本问题之一。我们得到了一个新的并行算法,该算法是基于Strassen的快速矩阵乘法和最小化通信。该算法优于所有已知的并行矩阵乘法算法,经典的和基于Strassen的,无论是渐进的,并在实践中。并行化Strassen算法的一个关键瓶颈是处理器之间的通信。Ballard,Demmel,Holtz和Schwartz(SPAA'11)使用底层计算图的扩展特性证明了这些通信成本的下限。我们的算法匹配这些下限,因此是通信最优的。它在最大可能范围内表现出完美的强缩放性。基准测试我们的实现在Cray XT4上,我们获得了超过经典和基于Strassen的算法的加速比,范围从24%到184%,对于固定的矩阵维数n=94080,其中节点的数量范围从49到7203。我们的并行化方法推广到其他快速矩阵乘法算法。
2012-02-14 cs.CC cs.DC cs.DS
An Efficient Reversible Algorithm for Linear Regression
本文提出了一种有效的线性回归可逆算法,包括岭回归和非岭回归。我们的可逆算法与该问题的标准不可逆算法的渐进时间和空间复杂度相匹配。这个结果所需要的是有效的可逆矩阵乘法的矩形矩阵和矩阵求逆的分析的扩展。
2021-11-30 cs.DS cs.ET
A 51-Addition Alternative-Basis Kernel for Rank-23 $3\times3$ Matrix Multiplication
本文提出一种秩23的3×3矩阵乘法算法,在交替基下用51次加法,加上转换共56次,结合线性规划与稀疏基搜索,并给出机器可验证的证书。
2026-09-29 cs.CC cs.DS cs.SC
The Input/Output Complexity of Sparse Matrix Multiplication
本文研究了半环上非零元素个数大于主存数的稀疏矩阵的乘法问题。在Hong和Kung(STOC '81)的经典论文中,证明了为了计算密集$U \times U$矩阵的乘积,在具有内部存储器大小$M$和存储器块大小$B$的I/O模型中,$Θ\left(U^3 / (B \sqrt{M}) \right)$ I/O是必要且充分的。本文将Hong和Kung的上、下界推广到稀疏情形。我们的边界依赖于$A$和$C$中非零项的数量$N = \mathtt{nnz}(A)+\mathtt{nnz}(C)$,以及$AC$中非零项的数量$Z = \mathtt{nnz}(AC)$。我们表明,$AC$可以计算使用$\tilde{O} \left(\tfrac{N}{B} \min\left(\sqrt{\tfrac{Z}{M}},\tfrac{N}{M}\right) \right)$ I/O,具有很高的概率。太紧了(直至多对数因子)仅允许半环运算时,即使对于稠密矩形矩阵:我们展示了$Ω\left(\tfrac{N}{B} \min\left(\sqrt{\tfrac{Z}{M}},\tfrac{N}{M}\right) \right)$ I/O的下限。虽然我们的下限使用了相当标准的技术,但上限使用了“压缩矩阵乘法”草图,这在I/O高效算法的上下文中是新的,以及一种新的矩阵乘积大小估计技术,它避免了“无抵…
2014-03-14 cs.DS
A New Algorithm for Double Scalar Multiplication over Koblitz Curves
Koblitz曲线是一种特殊的椭圆曲线集,由于Frobenius自同态,在椭圆曲线密码中计算标量乘法时具有更好的性能。Frobenius展开的双基数系统方法提高了单标量乘法的性能。本文提出了一种新的标量对稀疏联合$τ$ -adic表示的生成算法及其在双标量乘中的应用。新算法的灵感来自双基数系统。与最先进的$τ$ -adic联合稀疏形式相比,我们的速度提高了12%。
2018-01-25 cs.CR cs.DS
Faster Multi-Source Directed Reachability via Shortcuts and Matrix Multiplication
本文针对多源有向可达性问题,提出基于矩形矩阵乘法和有向捷径的新算法,在特定源点规模范围内改进现有时间复杂度,并给出一系列算法框架及进一步改进的充分条件。
2024-01-12 cs.DS
An Improved Cutting Plane Method for Convex Optimization, Convex-Concave Games and its Applications
University of Washington(华盛顿大学);Microsoft Research Redmond(微软研究院雷德蒙德分院);Princeton University(普林斯顿大学);Institute for Advanced Study(高等研究院)
给定一个凸集$K \subset \mathbb{R}^n$的分离预言,它包含在一个半径为$R$的盒子中,目标是计算$K$中的一个点,或者证明$K$不包含半径为$ε$的球。我们提出了一个新的切割平面算法,使用一个最佳的$O(n \log (κ))$评估的oracle和一个额外的$O(n^2)$时间每次评估,其中$κ= nR/ε$。$\bullet$这改进了Vaidya的$O( \text{SO} \cdot n \log (κ) + n^{ω+1} \log (κ))$时间算法[Vaidya,FOCS 1989 a]在$n$的多项式依赖性方面,其中$ω< 2.373$是矩阵乘法的指数,$\text{SO}$是oracle求值的时间。$\bullet$这在对$κ$的依赖性方面改进了Lee-Sidford-Wong的$O( \text{SO} \cdot n \log (κ) + n^3 \log^{O(1)} (κ))$时间算法[Lee,Sidford and Wong,FOCS 2015]。对于经济学中的许多重要应用,$κ= Ω(\exp(n))$和这导致$\log(κ)$和$\mathrm{poly}(\log (κ))$之间的显著差异。我们还提供证据表明,$n^2$每次评估的时间无法提高,因此我们的运行时间是最佳的。以前的切割平面方法的一个瓶颈是计算杠杆分数,过去的约束的相对重…
2020-04-08 cs.DS cs.LG stat.ML
Optimal Deterministic Fully Sparse Matrix Multiplication
该研究提出首个达最优运行时间指数的完全稀疏矩阵乘法确定性算法,将确定性适用的δ_out上限从0.642668提升至1.321334,运行时间接近二次。
2026-08-20 cs.DS
Multiplication of 0-1 matrices via clustering
Graduate School of Informatics, Kyoto University(京都大学信息科学研究科);Institute of Informatics, University of Warsaw(华沙大学信息学研究所);Department of Computer Science, Lund University(隆德大学计算机科学系);Department of Computer Science and Media Technology, Malmö University(马尔默大学计算机科学与媒体技术系)
研究聚类在计算两个0-1矩形矩阵近似和精确算术矩阵积算法设计中的应用,给出简单高效确定性算法,还基于随机聚类给出改进算法。
2026-07-07 cs.DS
Fast algorithm for overcomplete order-3 tensor decomposition
ETH Zürich(苏黎世联邦理工学院)
我们开发了第一个快速谱算法来分解一个随机的三阶张量的秩高达$O(d^{3/2}/\text{polylog}(d))$的$\mathbb{R}^d$。该算法只涉及简单的线性代数运算,在当前矩阵乘法时间下,能及时恢复所有分量$O(d^{6.05})$。在此之前,只能通过平方和实现类似的保证[Ma,Shi,Steurer 2016]。相比之下,快速算法[Hopkins,Schramm,Shi,Steurer 2016]只能分解最多$O(d^{4/3}/\text{polylog}(d))$的秩张量。我们的算法结果依赖于两个关键因素。三阶张量到六阶张量的干净提升,可以用张量网络的语言表达。一个仔细的张量网络分解成一个序列的矩形矩阵乘法,这使我们能够有一个快速实现的算法。
2022-06-28 cs.DS cs.LG
The Time Complexity of Fully Sparse Matrix Multiplication
本文提出一种将稀疏矩阵乘法转化为稠密矩形矩阵乘法的新算法,在几乎所有的输入与输出非零元素组合下改进了时间复杂度上界,并基于全边三角形问题提供了最优性证据。
2023-09-12 cs.DS
Fast Computation of the Discrete Fourier Transform Rectangular Index Coefficients
本文将DFT的平方索引系数推广为矩形索引系数(RICs),提出一种仅需复数加法的信号压缩算法,结合FFT实现特定频率系数的快速计算。
2025-05-03 cs.CC cs.DS eess.SP
Faster Multi-Source Reachability and Approximate Distances via Shortcuts, Hopsets and Matrix Multiplication
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Reykjavik Uniersity(雷克雅未克大学)
本文提出了一种基于捷径、跳转集和矩阵乘法的算法,用于加速多源可达性计算和近似距离计算,改进了现有方法的复杂度。
2026-05-11 cs.DC cs.DS
An algorithm to evaluate the spectral expansion
设$X$是有限阶$n$的连通$(q+1)$ -正则无向图.令$A$表示$X$的邻接矩阵。令$λ_1=q+1>λ_2\geq λ_3\geq \ldots \geq λ_n$表示$A$的特征值。根据Alon-Boppana定理,当$$ Δ(X)=λ_1-\max_{2\leq i\leq n}|λ_i|. $$足够大时,如果$$ μ(X)=q^{-\frac{1}{2}} \max_{2\leq i\leq n}|λ_i| $$接近$2$,则$Δ(X)$相当高。本文设计了一种算法,以$A$和一个实数$\varepsilon>0$为输入,在$O(n^ω\log \log_{1+\varepsilon} n )$时间内估计$μ(X)\leq 2+\varepsilon$,其中$ω<2.3729$是矩阵乘法的指数。
2021-06-09 cs.DM cs.DS math.CO