Almost Universally Optimal Distributed Laplacian Solvers via Low-Congestion Shortcuts
在本文中,我们改进(几乎)\emph{existentially optimal}分布式拉普拉斯求解器最近开发的福斯特,Goranci,刘,彭,孙,叶(FOCS '21)到一个(几乎)\emph{universally optimal}分布式拉普拉斯求解器。具体而言,当拓扑结构是已知的,我们表明,任何拉普拉斯系统的$n$节点图与\emph{shortcut quality} $\text{SQ}(G)$可以解决$n^{o(1)} \text{SQ}(G) \log(1/\varepsilon)$轮,其中$\varepsilon$是所需的准确性。这几乎与我们的下限相匹配,该下限保证了$G$上的任何正确算法都需要$\widetildeΩ(\text{SQ}(G))$轮,即使是对于使用$\varepsilon \le 1/2$的粗糙解。即使在未知拓扑的情况下(即,标准CONGEST),相同的界限也适用于大多数感兴趣的网络。此外,在低拥塞捷径的最新构造中的有约束的改进的条件下,CONGEST结果将与已知拓扑结构的结果相匹配。此外,最近的工作线在分布式算法,我们考虑了一个混合通信模型,提高了CONGEST有限的全球权力的形式的节点容量限制集团(NCC)模型。在这个模型中,我们证明了存在一个拉普拉斯求解轮复杂性$n^{o(1)} \log(1/\varepsilon)$。这些结果的统一线索,我…
2022-05-14 cs.DC cs.DS
Evaluating the Potential of a Dual Randomized Kaczmarz Solver for Laplacian Linear Systems
Kelner等人提出了一种求解Laplacian线性方程组的新方法,该方法涉及到图中基本圈的随机采样和更新。Kelner等人证明了这种方法复杂性的渐近界,但没有报告实验结果。我们寻求既评估这种方法的性能,并探讨在实践中改进它。我们比较这种方法的性能,其他拉普拉斯求解器在各种现实世界的图形。我们考虑不同的方式来提高这种方法的性能,通过探索不同的方式选择的周期和更新的顺序,提供更多的灵活性和潜在的并行性的目标。我们提出了一个并行模型的Kelner等人。方法,用于评估潜在的并行性在每次迭代更新的边缘的跨度。我们提供的实验结果比较潜在的并行性的基本周期的基础和我们的扩展周期集。我们的初步实验表明,选择一个非基本的一组周期可以节省显着的工作相比,一个基本的周期的基础。
2015-10-06 cs.DS
Efficient $1$-Laplacian Solvers for Well-Shaped Simplicial Complexes: Beyond Betti Numbers and Collapsing Sequences
本文提出了高精度近似求解形状良好单纯复形 $1$-Laplacian 线性方程组的高效算法,将专用求解器推广至无坍缩序列和有界 Betti 数的几何结构,并改进了 Nested Dissection 运行时间。
2023-07-31 cs.DS cs.NA math.NA
A New Approach to Laplacian Solvers and Flow Problems
本文研究了最小和消息传递方案在求解图的拉普拉斯矩阵中的线性方程组和计算电流时的行为。电压和潮流问题涉及到二次函数的最小化,是出现在几个领域的基本原语。已经提出的算法通常是集中式的,并且涉及多个图论结构或采样机制,这使得它们难以实现和分析。另一方面,消息传递例程是分布式的,简单且易于实现。在本文中,我们建立了一个框架,分析最小和解决电压和潮流问题。我们描述了一般加权图的首中时的随机游动的计算树,支持操作的算法与时间的算法所犯的错误。对于等权的$d$ -正则图,我们证明了算法的收敛性是由定义在原图上的非回溯随机游动分布之间的全变差距离控制的.我们引入的框架扩展的最小和分析设置在文献中以前考虑的收缩参数(基于假设的步行求和或缩放对角优势)不能使用,可能在存在约束。
2019-03-07 cs.DS math.OC stat.ML
The Laplacian Paradigm in the Broadcast Congested Clique
在本文中,我们把拉普拉斯范式的主要工具,广播拥塞集团。我们介绍了一种算法来计算谱稀疏在多对数轮数,这直接导致了一个有效的拉普拉斯求解器。基于这个原语,我们考虑Lee和Sidford的线性规划求解器(FOCS 2014)。我们展示了如何解决某些线性规划的添加剂错误$ε$与$n$约束的$n$ -顶点广播拥塞集团网络在$\tilde O(\sqrt{n}\log(1/ε))$轮。利用这一点,我们展示了如何找到一个精确的解决方案,以最小成本流问题的$\tilde O(\sqrt{n})$轮。
2022-05-24 cs.DS
Sparsified Cholesky Solvers for SDD linear systems
我们发现,拉普拉斯和对称对角占优(SDD)矩阵可以很好地近似线性规模的稀疏Cholesky分解。我们发现,这些矩阵的形式$L L^{T}$,其中$L$是一个下三角矩阵的常数因子近似的非零项线性在其维度。此外,$L$和$L^{T}$中的线性系统可以在$O (n)$工作和$O(\log{n}\log^2\log{n})$深度中求解,其中$n$是矩阵的维数。我们提出了近线性时间算法,构造求解器,几乎是这种效率。在这样做的时候,我们给出了第一个近线性的工作例程,用于构造谱顶点稀疏器-也就是拉普拉斯矩阵的Schur补的谱近似。
2015-08-13 cs.DS
Minor Sparsifiers and the Distributed Laplacian Paradigm
我们研究了基于minor的顶点稀疏器的分布式算法,并给出了在CONGEST模型中求解图拉普拉斯矩阵中的线性系统的高精度算法。我们的Laplacian求解器的轮复杂度为$O(n^{o(1)}(\sqrt{n}+D))$,因此几乎与$\widetildeΩ(\sqrt{n}+D)$的下界匹配,其中$n$是网络中的节点数,$D$是其直径。我们表明,我们的分布式求解器产生新的次线性轮算法的几个基石问题,组合优化。这是通过在分布式图算法的背景下利用内点方法(IPM)和拉普拉斯范式的强大算法框架来实现的,这需要通过一系列拉普拉斯系统数值求解图上的优化问题。受益于我们的分布式算法范式的问题,包括精确的最小成本流,负权重最短路径,最大流,和稀疏有向图的二分匹配。对于最大流问题,这是第一个适用于有向图的精确分布式算法,而以前的工作[Ghaffari et al. SICOMP'18]考虑了近似设置,仅适用于无向图。对于最小费用流和负权最短路径问题,我们的结果构成了第一个精确的分布式算法运行在一个次线性轮数。考虑到IPM和拉普拉斯范式之间的混合已被证明是有用的,在集中式设置中处理众多的优化问题,我们相信,我们的分布式求解器将找到未来的应用。
2022-02-05 cs.DC cs.DS
Robust and Practical Solution of Laplacian Equations by Approximate Elimination
本研究提出基于近似Cholesky分解的SDDM矩阵线性方程组求解算法,用Julia实现两个版本,实验表明其鲁棒性优于现有主流求解器,且公开了代码与SDDM2023基准测试集。
2023-06-14 cs.DS cs.MS cs.NA
SF-GRASS: Solver-Free Graph Spectral Sparsification
Stevens Institute of Technology(史蒂文斯理工学院);Michigan Technological University(密歇根理工大学)
最近的谱图稀疏化技术在加速许多数值和图形算法方面表现出了良好的性能,例如用于求解大型稀疏矩阵的迭代法,无向图的谱划分,电力/热网格的无向量验证,大型图的表示学习等。然而,先前的谱图稀疏化方法依赖于快速拉普拉斯矩阵求解器,这些求解器通常在实践中具有挑战性。这项工作,第一次,介绍了一种无求解器的方法(SF-GRASS)的频谱图稀疏化,利用新兴的频谱图粗化和图形信号处理(GSP)技术。我们引入了一个局部谱嵌入方案,用于有效地识别谱临界边缘,这些边缘是保持图谱特性的关键,例如前几个拉普拉斯特征值和特征向量。由于SF-GRASS中的关键核函数可以使用稀疏矩阵向量乘法(SpMV)有效地实现,因此所提出的谱方法易于实现并且具有固有的并行友好性。我们广泛的实验结果表明,所提出的方法可以产生一个层次的高品质的光谱稀疏在近线性时间的各种现实世界中,大规模的图形和电路网络相比,与现有的国家的最先进的谱方法。
2020-08-17 cs.DS cs.LG cs.NA
Hardness of Graph-Structured Algebraic and Symbolic Problems
本文研究了有限域$\mathbb{Z}_p$和多项式环$\mathbb{F}[x_1,\ldots,x_t]$上的图结构线性方程组的求解困难性。我们减少解决一般线性系统在$\mathbb{Z}_p$解决单位重量的低度图拉普拉斯算子在$\mathbb{Z}_p$上的非零的数量上的多对数开销。考虑到在$\mathbb{Z}_p$ [Casacuberta-Kyng 2022]中求解一般线性系统的难度,该结果表明,我们不太可能将$\mathbb{R}$上的拉普拉斯求解器或一般$\mathbb{R}$上的基于有限元的方法推广到有限场设置。我们还减少求解一般线性系统$\mathbb{Z}_p$求解线性系统的系数矩阵是行走矩阵(矩阵与所有的对角线上)和正规化拉普拉斯算子(拉普拉斯算子,也是行走矩阵)在$\mathbb{Z}_p$。我们经常需要将线性系统求解器应用于随机线性系统,在这种情况下,上面的最坏情况分析可能不太相关。例如,我们经常需要用随机值替换符号矩阵中的变量。这里,符号矩阵仅仅是其元素在多项式环$\mathbb{F}[x_1, \ldots, x_t]$中的矩阵。我们正式定义的符号矩阵类,这是分类的条目和变量的出现次数的程度之间的约简。我们证明了多项式次数$1$和变量多重性至多$3$的符号矩阵的行列式恒等式检验问题至少与$\mathbb{R}$上的一般矩阵的同一问题一样难。
2022-11-08 cs.DS
Faster High Accuracy Multi-Commodity Flow from Single-Commodity Techniques
本文将单商品流中的expander decomposition图数据结构用于多商品流,首次在不依赖通用LP求解器改进的情况下提升非稀疏图上的高精度求解复杂度。
2023-04-25 cs.DS math.OC
Sparsified Block Elimination for Directed Laplacians
本研究将无向拉普拉斯线性系统的稀疏化块消去法推广至有向拉普拉斯系统,通过增广矩阵舒尔补编码误差矩阵的分析核心,结合稀疏化算法提升了强连通有向图、PageRank矩阵等线性系统的求解效率。
2023-05-08 cs.DS
Quantum Speedup for Graph Sparsification, Cut Approximation and Laplacian Solving
该研究提出针对图谱稀疏化的多项式量子加速算法,可在亚线性时间内生成带权图的谱稀疏器并达近似最优复杂度,同时实现拉普拉斯系统求解与多类割问题近似的量子加速。
2023-05-08 cs.CC cs.DS quant-ph
SF-SGL: Solver-Free Spectral Graph Learning from Linear Measurements
Stevens Institute of Technology(史蒂文斯理工学院)
这项工作介绍了一个高度可扩展的谱图致密化框架(SGL),用于学习具有线性测量的电阻网络,如节点电压和电流。我们证明了所提出的图学习方法等价于求解具有Laplacian精度矩阵的经典图形Lasso问题。我们证明,给定$O(\log N)$对的电压和电流测量,它是可能的,以恢复稀疏的$N$节点电阻网络,可以很好地保持原始图上的有效电阻距离。此外,学习的图还保留了原始图的结构(频谱)属性,这可能会在许多电路设计和优化任务中得到利用。为了实现更可扩展的性能,我们还引入了一种无求解器方法(SF-SGL),该方法利用图形的多级谱近似,并允许将整个图形谱(待学习)可扩展且灵活地分解为多个不同的特征值簇(频带)。这种无求解器的方法使我们能够更有效地识别最关键的频谱边缘,以减少各种范围的频谱嵌入失真。通过大量的实验,各种现实世界的测试案例,我们表明,所提出的方法是高度可扩展的学习稀疏电阻网络,而不牺牲解决方案的质量。我们还介绍了一种数据驱动的EDA算法,用于无矢量功率/热完整性验证,通过利用几个电压/温度测量值来估计整个芯片的最坏情况下的电压/温度(梯度)分布。
2023-02-09 cs.DS cs.LG
An Efficient Parallel Algorithm for Spectral Sparsification of Laplacian and SDDM Matrix Polynomials
对于连续概率密度函数(p.d.f.)的“大”类$\mathcal{C}$,我们证明了对于每个$w\in\mathcal{C}$,存在离散二项分布(MDBD)与$T\geq N\sqrt{ϕ_{w}/δ}$不同的二项分布$B(\cdot,N)$的混合,$δ$ -逼近离散p.d. f。所有$i\in[3:N-3]$的$\widehat{w}(i/N)\triangleq w(i/N)/[\sum_{\ell=0}^{N}w(\ell/N)]$,其中$ϕ_{w}\geq\max_{x\in[0,1]}|w(x)|$。此外,我们给出了两个有效的并行算法来找到这样的MDBD。此外,我们提出了一个顺序算法,在输入MDBD与$N=2^k$的$k\in\mathbb{N}_{+}$,诱导一个离散的p.d.f. $β$、作为拉普拉斯或SDDM矩阵的$B=D-M$和参数$ε\in(0,1)$在$\widehat{O}(ε^{-2}m + ε^{-4}nT)$时间中输出矩阵多项式的频谱稀疏因子$D-\widehat{M}_{N} \approx_ε D-D\sum_{i=0}^{N}β_{i}(D^{-1} M)^i$,其中$\widehat{O}(\cdot)$表示法隐藏$\mathrm{poly}(\log n,\log N)$因子。这改进了Cheng et al.的[CCLPT 15]算法,其运行…
2016-04-21 cs.DM cs.DS
Faster Algorithms for Computing the Stationary Distribution, Simulating Random Walks, and More
在本文中,我们提供了更快的算法来计算与有向图上的随机游走相关的各种基本量,包括静态分布,个性化的PageRank向量,命中时间和逃逸概率。特别是,在有向图与$n$顶点和$m$边,我们展示了如何计算每个数量的时间$\tilde{O}(m^{3/4}n+mn^{2/3})$,其中的$\tilde{O}$符号抑制多对数因子在$n$,所需的准确性,和适当的条件数(即混合时间或重新开始概率)。我们的结果提高了以前的最快的运行时间为这些问题,以前的结果调用一个通用的线性系统求解器上的$n\times n$矩阵与$m$非零条目,或多项式依赖于所需的错误或自然条件数与问题(即混合时间或重新启动概率)。对于稀疏图,我们获得了运行时间的$\tilde{O}(n^{7/4})$,打破了$O(n^{2})$的障碍,最好的运行时间可以希望实现使用快速矩阵乘法。我们实现了我们的结果,通过提供一个类似的运行时间的改善解决有向拉普拉斯系统,一个自然的有向或不对称的模拟研究对称或无向拉普拉斯系统。我们展示了如何解决这样的系统的时间$\tilde{O}(m^{3/4}n+mn^{2/3})$,并有效地减少了广泛的问题,解决$\tilde{O}(1)$有向拉普拉斯系统的欧拉图。我们希望这些结果和我们的分析打开大门,进一步研究有向谱图理论。
2016-11-02 cs.DS
Almost-Linear-Time Algorithms for Markov Chains and New Spectral Primitives for Directed Graphs
本文引入了有向图的谱逼近概念。虽然有许多潜在的方法可以定义有向图的近似,但它们中的大多数都太强而不允许稀疏近似。相比之下,我们证明,我们的近似概念,这样的稀疏存在,我们展示了如何计算它们在几乎线性的时间。使用这种近似的概念,我们提供了一个解决非对称线性系统的一般框架,该框架受到[Peng-Spielman,STOC '14]工作的广泛启发。应用这个框架结合我们的稀疏化算法,我们得到了一个几乎线性时间算法求解与欧拉图相关的有向拉普拉斯系统。在最近的框架中使用这个求解器[Cohen-Kelner-Peebean-Peng-Sidford-Vladu,FOCS '16],我们获得了几乎线性时间算法,用于求解有向拉普拉斯线性系统,计算马尔可夫链的平稳分布,计算有向图中的预期通勤时间等。对于这些问题中的每一个,我们的算法提高了以前的最佳运行时间的$O((nm^{3/4} + n^{2/3} m) \log^{O(1)} (n κε^{-1}))$到$O((m + n2^{O(\sqrt{\log{n}\log\log{n}})}) \log^{O(1)} (n κε^{-1}))$,其中$n$是图中的顶点数,$m$是边数,$κ$是一个自然条件数与问题,和$ε$是所需的精度。我们希望这些结果打开大门,进一步研究有向谱图理论,并将作为一个垫脚石,设计新一代的快速算法的有向图。
2016-11-02 cs.DS
Tackling Parallelization Challenges of Randomized Preconditioners With Dependency Tracking
University of California, Berkeley(加州大学伯克利分校);North Carolina State University(北卡罗来纳州立大学);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室);Rice University(莱斯大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Amazon Web Services(亚马逊云服务)
针对随机预条件子并行化瓶颈,提出ParAC,通过动态依赖追踪和架构感知内存管理在CPU/GPU上并行化rchol算法,在不规则图拉普拉斯系统上实现显著加速且保证收敛。
2026-11-19 cs.DC cs.DS cs.NA