Simple non-extensive sparsification of the hierarchical matrices
Institute of Numerical Mathematics Russian Academy of Sciences(俄罗斯科学院计算数学研究所);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院)
本文提出一种非广泛稀疏分解方法,用于替代直接求解H2矩阵的系统,通过等效稀疏矩阵实现高效求解,验证了其在HODLR、H2Lib和IFMM等方法中的有效性。
2018-04-28 cs.NA math.NA
Hierarchical Matrices with Tucker Blocks: Construction and Forward Evaluation
School of Mathematical Sciences, Fudan University(复旦大学数学科学学院);Shanghai Key Laboratory for Contemporary Applied Mathematics, Fudan University(复旦大学当代应用数学上海市重点实验室)
本文提出分层Tucker低秩矩阵,以线性复杂度逼近非振荡核函数,构造和乘法算法分别达线性和拟线性复杂度,实验验证其内存和运行时间优势,并支持拟均匀网格。
2026-10-30 cs.NA math.NA
Divide and conquer methods for functions of matrices with banded or hierarchical low-rank structure
本文研究带状矩阵、分层半可分矩阵及相关结构的近似矩阵函数。我们开发了一种新的分治方法的基础上(理性)Krylov子空间方法进行低秩更新的矩阵函数。我们的收敛性分析的新提出的方法收益建立关系,最佳多项式和有理逼近。当只有跟踪或矩阵函数的对角线是感兴趣的,我们证明-在实践中和理论上-收敛可以更快。对于带状矩阵的特殊情况下,我们表明,分治法减少到一个更简单的算法,通过计算小的子矩阵的矩阵函数。数值实验证实了新开发的算法计算大规模矩阵函数的各种应用的有效性。
2021-07-09 cs.NA math.NA
HODLR2D: A new class of Hierarchical matrices
本文介绍了HODLR 2D,一个新的层次低秩表示的一类稠密矩阵所产生的$N$体问题的二维。使用这个新的分层框架,我们提出了一个新的快速矩阵向量积,规模几乎线性。我们应用这种快速矩阵向量积来加速由径向基函数插值和离散积分方程引起的大型稠密线性系的迭代求解。HODLR 2D矩阵-向量积的空间和计算复杂性按比例缩放为$\mathcal{O}(pN \log(N))$,其中$p$是压缩矩阵子块的最大秩。我们还证明了$p \in \mathcal{O}(\log(N)\log(\log(N)))$,这确保了HODLR 2D矩阵矢量产品的存储和计算复杂性仍然易于处理的大型$N$。此外,作为本文的一部分,我们还介绍了HODLR 2D的并行可伸缩性。
2022-04-12 cs.NA math.NA
A hierarchical random compression method for kernel matrices
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Southern Methodist University(南方卫理公会大学)
本文提出了一种用于快速核求和的分层随机压缩方法(HRCM),结合H矩阵的分层框架和随机采样技术,实现低秩压缩,具有O(N logN)复杂度,验证了方法在电静力和亥姆霍兹波核中的效率和精度。
2018-03-13 cs.NA math.NA
On the best approximation of the hierarchical matrix product
Technical University of Darmstadt(达姆施塔特工业大学);University of Basel(巴塞尔大学);ETH Zurich(苏黎世联邦理工学院)
本文提出了一种改进的分层矩阵乘法框架,通过降低乘法复杂度,实现对矩阵乘积和的低秩近似,从而获得最佳近似,且计算效率更高。
2018-05-23 cs.NA math.NA
Tree quasi-separable matrices: a simultaneous generalization of sequentially and hierarchically semi-separable representations
本文提出树拟可分(TQS)矩阵,统一并推广了顺序半可分(SSS)与层次半可分(HSS)表示,证明其在加法、乘法和求逆下保持优良代数性质,并给出快速算法构造。
2024-08-09 cs.NA math.NA
Hierarchical matrix arithmetic with accumulated updates
分层矩阵可以用来构造有效的预条件的偏微分和积分方程,利用低秩结构的三角分解和逆的相应的刚度矩阵。这些预处理器的设置阶段严重依赖于低秩更新,这些更新占算法总运行时间的很大一部分,特别是对于三维问题产生的矩阵。本文提出了一种新的算法,可以显著减少低秩更新的数量,并可以将设置时间减少50%或更多。
2019-06-12 cs.NA math.NA
Boundary Element Methods for the Wave Equation based on Hierarchical Matrices and Adaptive Cross Approximation
时域边界元法(BEM)已成功地应用于声学、光学和弹性动力学等领域,用于数值求解瞬态问题。然而,存储要求是巨大的,因为必须针对大量的时间步长或频率来计算完全填充的系统矩阵。在这篇文章中,我们提出了一个新的近似方案的卷积求积法(CQM)供电的边界元法,我们适用于散射问题的波动方程。我们使用$\mathcal{H}^2$ -矩阵压缩在空间域和采用自适应交叉近似(ACA)算法在频域。以这种方式,存储和计算成本显着降低,而该方法的准确性得到保留。
2020-06-09 cs.NA math.NA
Second Order Accurate Hierarchical Approximate Factorization of Sparse SPD Matrices
我们描述了一个二阶精确的方法来稀疏对称正定矩阵的分层近似分解的非对角块稀疏化。新方法所产生的误差的范数依赖于给定块的低秩近似中的误差的平方,而不是线性。对所得到的两电平预条件子的分析表明,该预条件子也具有二阶精度。我们将新的方法到最近的稀疏嵌套解剖算法[SIAM J.矩阵分析。应用程序、41(2020),pp. 715-746],并在广泛的问题上进行测试。新方法将收敛所需的共轭梯度迭代次数减半,具有几乎相同的因式分解复杂度,提高了算法的总运行时间。我们的方法可以结合到其他的秩结构的方法来解决稀疏线性系。
2020-08-04 cs.NA math.NA
A Hierarchical Singular Value Decomposition Algorithm for Low Rank Matrices
Indian Institute of Technology-Madras(印度马德拉斯理工学院)
本文提出了一种基于树结构的合并-截断算法,用于高效计算低秩矩阵的截断奇异值分解,该方法适用于任意大小的矩阵,且在单核运行时能显著提升速度,误差通常低于3%。
2019-05-10 cs.NA math.NA
Efficient arithmetic operations for rank-structured matrices based on hierarchical low-rank updates
本文提出基于分层低秩更新的算法,实现对H²矩阵的乘积、逆及分解的近线性复杂度运算,通过递归过程和局部低秩更新提升计算效率。
2014-07-03 cs.NA math.NA
Block-encoding dense and full-rank kernels using hierarchical matrices: applications in quantum numerical linear algebra
数值线性代数的许多量子算法假设黑盒访问感兴趣矩阵的块编码,这在矩阵不稀疏时是一个强假设。核矩阵是核函数$k(x,x')$离散化的结果,在数学和工程中有着广泛的应用。他们通常是密集和全秩。经典的快速多极子方法是利用层次矩阵的线性代数框架,在时间上几乎线性地对$N$维的核矩阵进行矩阵乘法运算,即在$N$维上进行矩阵乘法运算。鉴于这一成功,我们提出了量子计算机上的分层矩阵结构的块编码方案。当应用于多个物理核矩阵时,我们的方法可以将求解$N$维量子线性系统的时间提高到$O(κ\operatorname{polylog}(\frac{N}{\varepsilon}))$维,其中$κ$和$\varepsilon$是矩阵运算的条件数和误差界.这个运行时间是接近最优的,并且在$N$方面,在密集和满秩核矩阵的情况下,指数地改进了先前的量子线性系统算法。我们讨论了我们的方法在求解积分方程和加速计算N体问题的可能应用。
2022-12-07 cs.NA math.NA quant-ph
Scalable Physics-based Maximum Likelihood Estimation using Hierarchical Matrices
基于物理的协方差模型提供了一种系统的方法来构建与高斯过程分析中的基本物理定律一致的协方差模型。协方差模型中的未知参数可以使用极大似然估计来估计,但是协方差矩阵的直接构造和用其计算的经典策略需要$n$物理模型运行、$n^2$存储复杂性和$n^3$计算复杂性。为了解决这样的挑战,我们提出了近似的离散协方差函数使用分层矩阵。通过对单个非对角块进行随机化范围绘制,分层协方差近似的构建过程需要$O(\log{n})$物理模型应用程序,并且极大似然计算每次迭代需要$O(n\log^2{n})$。我们提出了一种新的方法来精确计算层次矩阵的乘积的迹,这使得期望的Fischer信息矩阵也可以在$O(n\log^2{n})$中计算。构造是完全无矩阵的,并且协方差矩阵的导数可以通过区分整个过程而近似于相同的分层结构。数值结果表明,该方法的有效性,准确性和效率的参数估计和不确定性量化。
2023-03-17 cs.NA math.NA stat.CO
HLIBCov: Parallel Hierarchical Matrix Approximation of Large Covariance Matrices and Likelihoods with Applications in Parameter Identification
RWTH Aachen(亚琛工业大学);Max-Planck-Institut für Mathematik in den Naturwissenschaften(马克斯·普朗克自然科学数学研究所);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文提出HLIBCov包,利用并行分层矩阵高效近似大规模不均匀协方差矩阵,通过最大化联合高斯对数似然函数估计协方差函数的未知参数,包括方差、平滑度和协方差长度。
2019-05-01 cs.NA math.NA stat.CO
Complexity estimates for triangular hierarchical matrix algorithms
本文研究了三角形分层矩阵算法的复杂性,通过理论估计证明了LR分解与矩阵乘法和逆运算的复杂性关系,并改进了矩阵乘法的复杂性上界。
2019-05-26 cs.NA math.NA
H2-MG: A multigrid method for hierarchical rank structured matrices
本文提出H2-MG算法,将H2矩阵逼近与多重网格方法结合,用于高效求解含核矩阵的大型系统,兼具时间和内存效率及快速收敛性,并验证了其线性复杂度和有效性。
2025-09-11 cs.NA math.NA
Randomized Strong Recursive Skeletonization: Simultaneous Compression and LU Factorization of Hierarchical Matrices using Matrix-Vector Products
The Ohio State University(俄亥俄州立大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一种利用矩阵-向量乘积同时压缩和分解H²矩阵的算法,具有低采样复杂度和对不定性和病态的鲁棒性。
2025-11-13 cs.NA math.NA
Fast symmetric factorization of hierarchical matrices with applications
本文给出了一个计算弱容许条件下对称正定分层矩阵对称分解的快速直接算法,即$A = WW^T$。对于分层非对角低秩矩阵,对称因式分解的计算成本按比例缩放为$\mathcal{O}(n \log^2 n)$。一旦获得该因式分解,反演、应用和行列式计算的成本按比例缩放为$\mathcal{O}(n \log n)$。特别地,这允许在$A$是协方差阵的情况下,相关随机变量的接近最优的生成。这种对称因式分解算法依赖于两个关键因素。首先,我们提出了一个新的对称因式分解公式低秩更新的形式$I+UKU^T$的身份。如果扰动的秩足够小,则可以在$\mathcal{O}(n)$时间内计算该因式分解。第二,将该公式与递归分治策略相结合,可以得到层次结构矩阵的近似线性复杂度对称分解。我们提出的数值结果矩阵相关的问题,概率\统计(高斯过程),插值(径向基函数),和布朗动力学计算流体力学(Rotne-Prager-Yamakawa张量)。
2016-12-30 cs.NA math.NA physics.flu-dyn
Adaptive Finite Element Method for fractional differential equations using Hierarchical Matrices
Beijing Computational Science Research Center(北京计算科学研究中心);Southeast University(东南大学);Tufts University(塔夫茨大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Brown University(布朗大学)
本文提出一种基于分层矩阵的自适应有限元方法,用于高效求解包含Riesz分数导数的分数微分方程,结合几何多网格方法和后验误差估计,实现高精度解并有效处理奇异性和低阶项。
2017-04-03 cs.NA math.NA
Using hierarchical matrices in the solution of the time-fractional heat equation by multigrid waveform relaxation
本文研究非均匀时间网格上时间分数阶热传导方程的有效数值解。非均匀网格对于捕捉时间分数阶问题的“典型”解的奇异性是必不可少的。我们提出了一种基于波形松弛技术的时空多重网格方法,该方法考虑了分数阶微分算子的非局部特性。为了保持一个最佳的复杂性,这可以得到的情况下,均匀的网格,我们近似的系数矩阵对应的时间离散化的分层矩阵(${\cal H}$ -矩阵)表示。特别地,所提出的方法具有${\cal O}(k N M \log(M))$的计算成本,其中$M$是时间步长的数量,$N$是空间网格点的数量,并且$k$是控制${\cal H}$ -矩阵近似的精度的参数。该算法的效率和良好的收敛性,这可以从理论上证明了半代数模式分析,通过数值实验在一维和二维空间。
2020-05-07 cs.NA math.NA
HODLR3D: Hierarchical matrices for $N$-body problems in three dimensions
本文提出 HODLR3D 层次化矩阵,利用三维 $N$ 体问题中非对角子块的低秩特性加速矩阵-向量乘法,实现近线性存储与计算复杂度,适用于大规模系统。
2023-07-30 cs.NA math.NA
Efficient Numerical Method for Models Driven by Lévy Process via Hierarchical Matrices
Stanford University(斯坦福大学)
本文提出了一种基于分层矩阵技术的高效求解器,用于求解由莱维过程的无穷小生成元作为算子的对流扩散方程,该方法在理论上具有O(h²+Δt²)的收敛速度,并在空间和计算复杂度上优于直接方法。
2018-12-18 cs.NA math.NA
$\mathcal{H}^2$-matrices for translation-invariant kernel functions
本文针对平移不变核函数的边界积分算子,提出一种改进的$\mathcal{H}^2$-矩阵构造方法,利用平移不变性和盒子均匀性显著降低存储需求,并在简单假设下证明了存储复杂度估计。
2024-06-07 cs.NA math.NA
Scalable Gaussian Process Computations Using Hierarchical Matrices
Argonne National Laboratory(阿贡国家实验室);University of Chicago(芝加哥大学)
本文提出了一种不依赖核的方法,利用分层矩阵解决高斯过程的最大似然估计问题,通过准线性复杂度O(n log²n)高效计算梯度、Hessian和期望Fisher信息矩阵。
2019-03-22 cs.NA math.NA math.OC
On Memory Footprints of Partitioned Sparse Matrices
Czech Technical University in Prague(布拉格捷克理工大学)
研究通过分析563个稀疏矩阵在均匀分块存储下的内存占用,比较不同分块大小和存储方式,发现单精度和双精度下内存节省可达42.3%和28.7%,且平均接近理论下限。
2017-01-10 cs.NA math.NA
A note on the O(n)-storage implementation of the GKO algorithm
Scuola Normale Superiore(高等师范学校)
针对Cauchy型线性系统,提出一种新的O(n)空间实现GKO-Cauchy算法,通过更高效利用处理器缓存,在矩阵规模大于500-1000时优于现有算法,并展示了主对角线不可重构的Cauchy型矩阵的应用案例。
2009-12-01 cs.NA math.NA
Computing Functions of Symmetric Hierarchically Semiseparable Matrices
本文针对对称分层半可分矩阵,提出基于 telescopic 分解和有理 Krylov 子空间低秩更新的快速矩阵函数近似算法,避免求解大规模线性系统,在指数、逆平方根、符号函数及矩阵求逆等任务上优于现有方法。
2024-02-27 cs.NA math.NA
Solving an Integral Equation Eigenvalue Problem via a New Domain Decomposition Method and Hierarchical Matrices
Institut für Geometrie und Praktische Mathematik, RWTH Aachen University(几何学与实用数学研究所,亚琛工业大学)
本文提出一种新的域分解方法,结合递归方法和分层矩阵,用于求解积分方程本征值问题,解决传统方法在处理密集矩阵时的效率问题。
2017-12-28 cs.NA math.NA
Adaptive Error-Bounded Hierarchical Matrices for Efficient Neural Network Compression
本文提出一种针对PINNs的动态误差有界层次矩阵压缩方法,通过局部误差估计自适应细化近似,在降低计算复杂度与内存需求的同时保持NTK特性,优于传统压缩方法并提升推理速度。
2024-09-25 cs.LG cs.NA math.NA
Fast hierarchical solvers for sparse matrices using extended sparsification and low-rank approximation
用标准的直接求解方案求稀疏矩阵的逆是鲁棒的,但是计算昂贵。另一方面,迭代求解器表现出更好的可扩展性;但是,需要与适当的预处理器一起使用(例如,ILU、AMG、Gauss-Seidel等)为了正确的收敛。有效预条件子的选择是高度依赖于问题的。提出了一种新的全代数稀疏矩阵求解算法,该算法的复杂度与问题规模成线性关系。我们的方案是基于高斯消元法。对于一个给定的矩阵,我们近似的LU分解与先验确定的可调精度。该方法可以作为一个独立的直接求解器,具有线性复杂度和可调精度,或者它可以作为一个黑盒预处理器与迭代法,如GMRES。建议的求解器是基于低秩近似的消除过程中产生的填充。类似于H矩阵,对应于邻接图中良好分离的块的填充通过分层结构来表示。算法的线性复杂度是有保证的,如果块对应于良好分离的变量集群是数值低秩。
2016-12-15 cs.DS cs.NA math.NA
Identification of unknown parameters and prediction with hierarchical matrices
大规模数据集的统计分析往往意味着大量密集矩阵的昂贵线性代数运算。典型的任务是估计基础统计模型的未知参数和预测缺失值。我们开发了H-MLE程序,它解决了这些任务。未知参数可以通过最大化联合高斯对数似然函数来估计,该似然函数取决于协方差阵。为了减少高的计算成本,我们近似的协方差阵的分层(H-)矩阵格式。H矩阵技术允许我们处理非齐次协方差阵和几乎任意的位置。特别地,H-矩阵可以应用于所考虑的矩阵是稠密的和非结构化的情况。出于验证目的,我们实现了三种机器学习方法:k-最近邻(kNN)、随机森林和深度神经网络。最好的结果(对于给定的数据集)是通过kNN方法获得的,根据数据集有三个或七个邻居。用H-MLE方法计算的结果与kNN方法得到的结果进行了比较。开发的H矩阵代码和所有数据集都可以在网上免费获得。
2021-04-14 cs.NA math.NA stat.AP
Hierarchical matrix approximability of inverse of convection dominated finite element matrices
POEMS;CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);ENSTA(国立高等先进技术学院);Institut Polytechnique de Paris(巴黎理工学院)
本文提出基于
2025-12-04 cs.NA math.AP math.NA
GP-HMAT: Scalable, ${O}(n\log(n))$ Gaussian Process Regression with Hierarchical Low-Rank Matrices
高斯过程(GP)是一种功能强大且广泛使用的回归技术。GP回归的主要构建块是协方差核,它表征了随机场中对之间的关系。然而,找到最佳核的优化需要几个大规模且通常非结构化的矩阵求逆。我们通过引入一种分层矩阵方法(称为HMAT)来解决这一挑战,该方法可以有效地将矩阵结构以递归方式分解为显着较小的矩阵,其中可以使用直接方法进行求逆。我们的矩阵划分使用一个特定的聚合策略的数据点,这促进了低秩结构的非对角块的分层核矩阵。我们采用了一种随机线性代数方法,在不分解大矩阵的情况下,对低秩非对角块进行矩阵约简。我们提供了分析误差和成本估计的矩阵求逆,调查他们的经验与数值计算,并展示了我们的方法的应用程序的三个数值例子涉及GP回归工程问题和大规模的真实数据集。我们提供了GP-HMAT的计算机实现,适用于GP似然和导数计算的HMAT,以及最后一个数值例子在真实数据集上的实现。我们展示了优越的可扩展性的HMAT方法相比,内置的$\backslash$运营商在MATLAB中的大规模线性解决$\bf{A}\bf{x} = \bf{y}$通过可重复和可验证的实证研究。作为未来的研究,层次半可分(HSS)矩阵的扩展进行了讨论。
2021-12-17 cs.CE cs.NA math.NA
hm-toolbox: Matlab software for HODLR and HSS matrices
具有层次低秩结构的矩阵,包括HODLR和HSS矩阵,构成了一个通用的工具,以开发快速算法来解决大规模问题。虽然用于这种矩阵的现有软件包通常集中在线性系上,但它们的应用范围实际上要宽得多,并且包括例如矩阵函数和本征值问题。在这项工作中,我们提出了一个新的Matlab工具箱,称为HM工具箱,它包括这种多功能性与广泛的工具,HODLR和HSS矩阵,现有的软件无法比拟的。虽然主要基于可以在文献中找到的算法,但我们的工具箱也包含一些新算法以及新颖的辅助函数。由于完全基于Matlab,我们的实现并不追求最佳性能。然而,它保持了分层低秩矩阵的有利复杂性,同时提供了一种方便的原型设计和算法实验的方法。一些应用程序说明了hm-toolbox的使用。
2020-01-29 cs.NA math.NA
A fast direct solver for network matrices
Dept. of Applied Mathematics, University of Colorado at Boulder(科罗拉多大学博尔德分校应用数学系)
提出一种针对二维椭圆偏微分方程离散化产生的大规模稀疏线性系统的快速直接求逆方案,在均匀正方形网格上达到O(N log^2 N)运算和O(N log N)存储,数值示例显示可在四分钟内求解百万阶矩阵。
2007-06-29 cs.NA math.NA
Hierarchical Orthogonal Factorization: Sparse Square matrices
在这项工作中,我们开发了一个新的快速算法,spaQR -稀疏QR,解决大型,稀疏线性系。我们的方法的关键是使用低秩近似来稀疏化基于嵌套解剖的Householder QR分解中的分离器。首先,使用嵌套解剖的修改版本来识别内部/分隔符并重新排序矩阵。然后,经典的Householder QR被用来分解内部,从叶子到根到消除树。在每一级内部分解之后,我们通过使用低秩近似来稀疏剩余的分离器。该操作减小了分离器的尺寸,而不会在基质中引入任何填充物。然而,它引入了一个小的近似误差,可以由用户控制。所得到的近似因式分解被存储为稀疏正交和稀疏上三角因子的序列。因此,它可以有效地应用于解决线性系。此外,我们进一步改进了算法,通过使用块对角缩放。然后,我们展示了一个系统的分析的逼近误差和有效性的算法在解决线性系。最后,我们对基准非对称问题进行了数值测试,以评估算法的性能。因式分解时间尺度为$\mathcal{O}(N \log N)$,求解时间尺度为$\mathcal{O}(N)$。
2020-10-14 cs.NA math.NA
A flexible sparse matrix data format and parallel algorithms for the assembly of sparse matrices in general finite element applications using atomic synchronisation primitives
有限元法要求由局部有限元贡献组成全局刚度矩阵。合成过程将单元刚度矩阵的计算和它们的组装组合成全局刚度矩阵,其通常是稀疏的。在本文中,我们专注于组装过程中的整体刚度矩阵和探讨不同的算法和它们的效率在共享内存系统使用C++。我们的调查的一个关键方面是使用原子同步原语的数据竞争自由的算法和数据结构的推导。此外,我们提出了一种新的灵活的稀疏矩阵的存储格式,并比较其性能与压缩行存储格式的基础上,有限元问题的共同特点,使用抽象的基准。
2021-07-15 cs.NA math.AP math.NA
Hierarchical Block Low-rank Approximation of Cavity Radiation
本文提出结合块低秩近似与分层矩阵处理腔体辐射中的稠密有限元离散化,利用ACA方法提升效率,数值实验显示相比稠密矩阵方法显著加速并降低内存。
2023-05-11 cs.NA math.NA
Estimating Hierarchically Rank Structured Covariance Matrices
Universität Potsdam(波茨坦大学);Cornell University(康奈尔大学)
本文提出通过施加层级秩结构来正则化小样本协方差矩阵估计,相比稀疏性方法适用更广,并给出高效算法,实验证明其估计误差更小。
2026-09-11 cs.NA math.NA stat.CO
Fast Kalman Filter using Hierarchical-matrices and low-rank perturbative approach
Tufts University(塔夫茨大学);Stanford University(斯坦福大学)
本文提出一种快速卡尔曼滤波算法,用于随机游走预测模型。通过高效表示估计协方差矩阵,结合过程噪声协方差矩阵和低秩项,实现O(N log N)的计算复杂度。
2015-05-12 cs.NA math.NA
A fast semi-direct least squares algorithm for hierarchically block separable matrices
Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所);Program in Computational Biology, New York University(纽约大学计算生物学项目);Department of Mathematics, Stanford University(斯坦福大学数学系)
提出一种基于递归骨架化、稀疏QR分解和迭代加权最小二乘的半直接算法,用于高效求解分层块可分离矩阵的最小二乘问题,具有最优或近最优复杂度。
2014-04-10 cs.NA math.NA
Approximate Inversion of Discrete Fourier Integral Operators via Hierarchically Semiseparable Matrices
Fudan University(复旦大学)
本文提出一种基于蝶形分解和层级半可分矩阵的离散傅里叶积分算子近似求逆方法,具有近线性复杂度,可作为直接求解器或预处理器,数值实验验证了其有效性。
2026-09-11 cs.NA math.NA
A hierarchical preconditioner for wave problems in quasilinear complexity
本文介绍了一种新的,分层预条件子的基础上嵌套的剖分和分层矩阵压缩。该预条件子用于求解椭圆问题的连续和不连续Galerkin公式。我们利用的性质,Schur补在这样的问题中产生的可以很好地近似分层矩阵。近似因式分解可以在无矩阵的情况下以(准)线性数量的运算来计算。嵌套分解是专门设计来帮助使用分层矩阵的因式分解过程。我们证明了一系列的二维问题,包括亥姆霍兹方程和弹性波方程的预条件的可行性。在所有的测试中,包括高波数的波动现象,广义最小残差方法(GMRES)与建议的预处理收敛在一个非常低的迭代次数。我们证明,这是由于我们的方法,使高波数限制管理的层次性质。
2021-05-17 cs.DS cs.NA math.NA
Batched QR and SVD Algorithms on GPUs with Applications in Hierarchical Matrix Compression
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);American University of Beirut (AUB)(贝鲁特美国大学)
本文提出在GPU上高效实现批量小矩阵的QR和SVD,利用Jacobi算法进行低秩块的随机化SVD,实现分层矩阵压缩的高效计算。
2017-07-13 cs.DS cs.MS cs.NA
Truncated hierarchical preconditioning for the stochastic Galerkin FEM
University of Southern California(南加州大学);Academy of Sciences of the Czech Republic(捷克科学院)
本文提出两种新型预处理方法,用于求解随机伽辽金有限元得到的线性系统,利用分层结构和刚度矩阵范数衰减特性,通过截断矩阵向量乘法和子矩阵近似求解,提高求解效率。
2013-09-03 cs.NA math.NA math.PR
Hierarchical Jacobi Iteration for Structured Matrices on GPUs using Shared Memory
对物理现象进行建模的高保真科学模拟通常需要求解大型线性方程组,这些方程组是通过某种数值方法对偏微分方程(PDE)进行离散化而得到的。这一步通常需要大量的计算时间来完成,因此在模拟工作中存在瓶颈。有效地求解这些线性系统需要使用具有高计算吞吐量的大规模并行硬件,以及开发尊重这些硬件体系结构的存储层次结构以实现高内存带宽的算法。在本文中,我们提出了一种算法,以加速Jacobi迭代解决结构化问题的图形处理单元(GPU)使用层次化的方法,在片上共享存储器内进行多次迭代,每个周期。采用了区域分解的方式,将问题域划分为多个子域,将子域的数据复制到每个GPU块的共享内存中。Jacobi迭代在每个块的共享内存内部执行,避免了每一步都需要执行昂贵的全局内存访问。我们测试我们的算法的线性系统所产生的离散化的泊松方程在1D和2D,并观察加速收敛,使用我们的共享内存的方法相比,传统的Jacobi实现,只使用全局内存的GPU。我们观察到的x8加速收敛的1D问题和近x6加速在2D的情况下,从使用共享内存相比,传统的GPU方法。
2020-06-30 cs.MS cs.NA math.NA
CSR5: An Efficient Storage Format for Cross-Platform Sparse Matrix-Vector Multiplication
Niels Bohr Institute, University of Copenhagen(哥本哈根大学尼尔斯玻尔研究所)
本文提出CSR5存储格式,通过低开销转换实现跨平台高效稀疏矩阵-向量乘法,对规则和不规则矩阵均有效,并在多个平台上取得显著性能提升。
2015-04-09 cs.DC cs.MS cs.NA
Asymmetric Multiresolution Matrix Factorization
University of Chicago(芝加哥大学);CSAIL, MIT(麻省理工学院计算机科学与人工智能实验室);Flatiron Institute(弗莱提荣研究所)
多分辨率矩阵分解(MMF)最近被引入作为占主导地位的低秩范式的替代方案,以捕获多个不同尺度下的矩阵结构。利用多分辨分析的思想,通过构造一系列小波基,梳理出对称矩阵的层次结构。虽然对这样的矩阵有效,但有大量的数据更自然地表示为非对称矩阵(例如有向图),但仍然具有类似的分层结构。在本文中,我们探讨的技术,扩展MMF到任何方阵。我们在许多矩阵压缩任务上验证了我们的方法,与低秩方法相比,证明了它的有效性。此外,我们还表明,一个组合的低秩和MMF的方法,这相当于删除一个小的全球规模的组成部分的矩阵,然后提取层次结构的残差,是更有效的比每两个互补的矩阵压缩方法。
2019-10-10 cs.LG cs.NA math.NA
Diagonally-Addressed Matrix Nicknack: How to improve SpMV performance
本文提出对角寻址(DA)存储技术以减少稀疏矩阵存储空间,应用于CSR格式,通过利用低带宽特性,在SpMV计算中平均提升11%(单线程)和17.5%(多线程)性能,并验证了95%以上矩阵可用16位索引。
2023-07-12 cs.DS cs.NA cs.PF