A multiscale neural network based on hierarchical nested bases
Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文提出一种基于快速多极子方法和H²矩阵中分层嵌套基思想的多尺度人工神经网络,用于高效近似高维非线性映射,该方法在参数空间维度线性增长的情况下减少参数数量,通过非线性薛定谔方程、辐射转移方程和Kohn-Sham映射的求解来验证其性能。
2019-02-25 cs.NA math.NA
Hierarchical multiscale finite element method for multi-continuum media
由于多尺度和高对比度,在具有多个连续体的介质中进行模拟,其中每个连续体相互作用,通常具有挑战性。我们需要某种类型的模型简化。其中一种方法是多连续体技术,其中每个连续体中的每个过程被单独建模,并添加相互作用项。多尺度介质的直接数值模拟通常是不可行的。为此,我们构造了相应的齐次化方程。本文提出了一种分层的方法来解决细胞的问题,在一个密集的网络的宏观点,基本上是最佳的计算成本。该方法利用了相邻的代表性体积元具有相似的特征,且有效性质相近的特点。分层方法通过在不同宏观点上对单元问题使用不同的分辨率来降低计算成本。该方法需要一个宏观网格点的层次结构和相应的嵌套的近似空间具有不同的分辨率水平。每一层的宏观点被分配到一个近似有限元(FE)空间,用于解决细胞问题的宏观点在该级别。我们严格证明,这种分层的方法达到了相同的精度水平,在每个宏观点的细胞问题的解决使用的FE空间的分辨率最高的水平,但在本质上是最优的计算成本的完全解决。数值实现,计算有效的渗透率的两个尺度的多连续系统通过数值解的细胞问题支持的分析结果。最后,我们证明了我们的多尺度多连续统系统的均匀化收敛性。
2019-06-11 cs.NA math.NA
Computing homogenized coefficients via multiscale representation and hierarchical hybrid grids
Aalto University(阿尔托大学);Ecole normale supérieure, CNRS, PSL University(巴黎高等师范学院,法国国家科学研究中心,巴黎文理研究大学)
本文提出了一种高效方法,用于计算具有随机系数的散度型算子的均质系数,采用多尺度表示方法,并利用有限元方法结合分层混合网格进行数值实现,展示了该方法在二维和三维示例中的效率,能够在几秒或几分钟内在笔记本电脑上完成计算。
2019-05-16 cs.NA math.AP math.NA
Fast and Multiscale Formation of Isogeometric matrices of Microstructured Geometric Models
高阶离散化的矩阵形成是已知的数值要求。基于现有的插值和查找过程,我们设计了一个多尺度的组装过程,以减少过高的组装时间的背景下,通过样条组合物建模的复杂微结构几何形状的等几何线弹性。所开发的等几何方法涉及发生在宏观尺度的多项式逼近和使用的查找表与预先计算的积分纳入微观尺度的信息。我们提供了理论见解和数值例子来研究该程序的性能。该策略被证明是非常感兴趣的,不仅形成有限元算子,而且以快速的方式计算其他量,例如通常用于设计优化的灵敏度分析。
2021-07-20 cs.GR cs.NA math.NA
Hierarchical dynamic domain decomposition for the multiscale Boltzmann equation
本文提出基于矩可实现性矩阵的分层动态区域分解方法,将二维空间域动态划分为Euler、ES-BGK和完整玻尔兹曼三种区域,结合渐近保持格式与并行化实现,在保证精度的同时显著降低多尺度玻尔兹曼方程的计算成本。
2025-05-06 cs.NA math.NA
Multiscale estimates for the condition number of non-harmonic Fourier matrices
本文针对非谐波傅里叶矩阵,在m≥6s且对节点集合无限制的条件下,利用节点间距离的多尺度结构给出了最小奇异值的显式下界,显著改进了经典条件数估计。
2024-09-30 cs.NA math.NA
Hierarchical Deep Learning of Multiscale Differential Equation Time-Steppers
University of Washington(华盛顿大学)
非线性微分方程很少有封闭形式的解,因此需要数值时间步进算法来近似解。此外,许多系统的特点是多尺度物理表现出动态的时间尺度范围很广,使数值积分计算昂贵,由于数值刚度。在这项工作中,我们开发了一个层次的深度神经网络时间步进近似的动态系统在不同的时间尺度范围内的流图。由此产生的模型纯粹是数据驱动的,并利用了多尺度动态的特征,实现了精确和高效的数值积分和预测。此外,类似的想法可以用来耦合基于神经网络的模型与经典的数值时间步进。我们的多尺度分层时间步进方案提供了优于当前时间步进算法的重要优势,包括(i)避免由于不同的时间尺度而导致的数值刚度,(ii)与领先的神经网络架构相比提高了精度,(iii)由于慢时间尺度动态的显式训练而在长时间模拟/预测中的效率,以及(iv)可并行化并且可以与标准数值时间步进算法集成的灵活框架。该方法被证明在广泛的非线性动力系统,包括范德波尔振荡器,洛伦兹系统,Kuramoto-Sivashinsky方程,和流体流动通过一个圆柱体;音频和视频信号也进行了探索。在序列生成示例中,我们将我们的算法与最先进的方法进行基准测试,例如LSTM,储备池计算和时钟RNN。尽管我们的方法结构简单,它优于竞争的方法数值积分。
2020-08-22 cs.LG cs.NA math.NA
Multiscale multimesh finite element method | $\text{M}^2$-FEM: Hierarchical mesh-decoupling for integral structural theories
本研究提出一种广义多尺度多网格有限元法($\text{M}^2$ -FEM),解决了积分结构理论的数值模拟中的几个长期存在的挑战,通常用于模拟多尺度和非局部效应。积分边值问题的数值模拟的主要挑战主要是植根于耦合的空间离散化的全球(父)和积分(子)域,严重限制了计算效率的现有算法施加一个隐含的权衡子域实现的精度和专用于整个父域的模拟的资源。本研究的最具定义性的贡献之一在于开发了一种网格解耦技术,该技术生成孤立的网格集,使得父域和子域可以独立地离散和近似。这种网格解耦对积分理论的模拟具有多重影响,与现有的最先进的技术相比,所提出的算法同时实现了更好的数值精度和效率(因此允许在网格步长和计算成本权衡决定中的更大灵活性),采用广义积分核函数的更大能力,以及通过非结构化网格处理非规则(非矩形)域的能力。在这项研究中,我们选择了一个基准问题的基础上的扩展版本的埃林根的非局部弹性理论(隐含的,多尺度理论),利用广义衰减内核和非定域的非恒定视野。尽管如此,建议的$\text{M}^2$ -FEM算法是非常普遍的,它可以应用于各种积分理论,甚至超越结构弹性。
2022-10-26 cs.NA math.AP math.NA
Parametric Hierarchical Matrix Approximations to Kernel Matrices
本文提出参数化分层矩阵新类,通过离线多项式逼近与张量压缩、在线高效实例化,避免重复核函数求值,实现对核矩阵超参数相关计算超过100倍加速。
2025-11-06 cs.NA math.NA
Data-driven Construction of Hierarchical Matrices with Nested Bases
层次矩阵提供了一种强有力的表示方法,可以显著降低与稠密核矩阵相关的计算复杂性。对于一般的核函数,基于插值的方法被广泛用于高效构造分层矩阵。在本文中,我们提出了一个快速的层次数据约简(HiDR)过程与$O(n)$复杂度的内存有效的构造层次矩阵与嵌套基地,其中$n$是数据点的数量。HiDR旨在以分层方式减少给定数据,以便获得所有近场和远场相互作用的$O(1)$表示。基于HiDR,提出了一种线性复杂度的$\mathcal{H}^2$矩阵构造算法。数据驱动方法的使用使{比其他通用方法更高的效率}和灵活的计算成为可能,而无需访问核函数。实验表明,显着提高内存效率的建议数据驱动的方法相比,插值为基础的方法在广泛的内核。虽然该方法没有优化任何特殊的内核,库仑内核的基准实验表明,所提出的通用算法提供了竞争力的性能相比,几个国家的最先进的算法的库仑内核的层次矩阵的建设。
2022-06-04 cs.NA math.NA
Preconditioners for hierarchical matrices based on their extended sparse form
Institute of Numerical Mathematics Russian Academy of Sciences(俄罗斯科学院计算数学研究所);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院)
本文研究了由边界积分方程数值解法得到的稠密矩阵的预条件子,提出基于扩展稀疏形式的分层矩阵预条件子,实验表明反Schur预条件技术最有效。
2014-12-03 cs.NA math.NA
Isogeometric Boundary Element Method with Hierarchical Matrices
Graz University of Technology(格拉茨工业大学);University of Newcastle(纽卡斯尔大学)
本文提出一种基于NURBS片的几何二分策略,结合层次矩阵,解决等几何边界元法的计算复杂性问题,适用于线弹性问题。
2014-06-11 cs.NA math.NA
Tree-Adaptive Multiscale Kernel Lasso in Samplet Coordinates
IDSIA USI-SUPSI, Università della Svizzera italiana(IDSIA USI-SUPSI,瑞士意大利大学)
本文提出一种基于样本点表示的多尺度核近似框架,通过自适应数据点选择策略减少问题规模,并利用正则化最小二乘法实现高效重建。
2026-10-20 cs.NA math.NA
Simple non-extensive sparsification of the hierarchical matrices
Institute of Numerical Mathematics Russian Academy of Sciences(俄罗斯科学院计算数学研究所);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院)
本文提出一种非广泛稀疏分解方法,用于替代直接求解H2矩阵的系统,通过等效稀疏矩阵实现高效求解,验证了其在HODLR、H2Lib和IFMM等方法中的有效性。
2018-04-28 cs.NA math.NA
Hierarchical Matrices with Tucker Blocks: Construction and Forward Evaluation
本文提出分层Tucker低秩矩阵,以线性复杂度逼近非振荡核函数,构造和乘法算法分别达线性和拟线性复杂度,实验验证其内存和运行时间优势,并支持拟均匀网格。
2026-10-30 cs.NA math.NA
Divide and conquer methods for functions of matrices with banded or hierarchical low-rank structure
本文研究带状矩阵、分层半可分矩阵及相关结构的近似矩阵函数。我们开发了一种新的分治方法的基础上(理性)Krylov子空间方法进行低秩更新的矩阵函数。我们的收敛性分析的新提出的方法收益建立关系,最佳多项式和有理逼近。当只有跟踪或矩阵函数的对角线是感兴趣的,我们证明-在实践中和理论上-收敛可以更快。对于带状矩阵的特殊情况下,我们表明,分治法减少到一个更简单的算法,通过计算小的子矩阵的矩阵函数。数值实验证实了新开发的算法计算大规模矩阵函数的各种应用的有效性。
2021-07-09 cs.NA math.NA
Mitigating spectral bias for the multiscale operator learning
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Shanghai Jiao Tong University(上海交通大学);University of Missouri-Kansas City(密苏里大学堪萨斯分校)
针对多尺度偏微分方程中神经算子的低频谱偏差问题,本文提出层次注意力神经算子HANO,通过尺度自适应交互、多层次自注意力和经验$H^1$损失增强高频学习,在代表性多尺度问题上超越SOTA方法。
2024-06-09 cs.AI cs.LG cs.NA
HODLR2D: A new class of Hierarchical matrices
本文介绍了HODLR 2D,一个新的层次低秩表示的一类稠密矩阵所产生的$N$体问题的二维。使用这个新的分层框架,我们提出了一个新的快速矩阵向量积,规模几乎线性。我们应用这种快速矩阵向量积来加速由径向基函数插值和离散积分方程引起的大型稠密线性系的迭代求解。HODLR 2D矩阵-向量积的空间和计算复杂性按比例缩放为$\mathcal{O}(pN \log(N))$,其中$p$是压缩矩阵子块的最大秩。我们还证明了$p \in \mathcal{O}(\log(N)\log(\log(N)))$,这确保了HODLR 2D矩阵矢量产品的存储和计算复杂性仍然易于处理的大型$N$。此外,作为本文的一部分,我们还介绍了HODLR 2D的并行可伸缩性。
2022-04-12 cs.NA math.NA
A hierarchical random compression method for kernel matrices
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Southern Methodist University(南方卫理公会大学)
本文提出了一种用于快速核求和的分层随机压缩方法(HRCM),结合H矩阵的分层框架和随机采样技术,实现低秩压缩,具有O(N logN)复杂度,验证了方法在电静力和亥姆霍兹波核中的效率和精度。
2018-03-13 cs.NA math.NA
On the best approximation of the hierarchical matrix product
Technical University of Darmstadt(达姆施塔特工业大学);University of Basel(巴塞尔大学);ETH Zurich(苏黎世联邦理工学院)
本文提出了一种改进的分层矩阵乘法框架,通过降低乘法复杂度,实现对矩阵乘积和的低秩近似,从而获得最佳近似,且计算效率更高。
2018-05-23 cs.NA math.NA
Hybrid hierarchical matrices with adaptive mixed precision storage
Department of Numerical Mathematics, Faculty of Mathematics and Physics, Charles University(查理大学数学与物理学院数值数学系)
本文提出混合层次矩阵框架$\mathcal{H}_h$,通过混合适应条件实现自适应混合精度存储,降低存储成本并保持精度。
2026-04-10 cs.NA math.NA
An improved implicit sampling for Bayesian inverse problems of multi-term time fractional multiscale diffusion models
College of Mathematics and Econometrics, Hunan University(湖南大学数学与统计学院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院)
本文提出了一种改进的隐式采样方法,用于解决多项时间分数多尺度扩散模型的贝叶斯反问题,通过引入新的权重公式和重采样方法,提高了后验估计的精度和高维反问题的应用能力。
2018-11-26 cs.NA math.NA
Hierarchical matrix arithmetic with accumulated updates
分层矩阵可以用来构造有效的预条件的偏微分和积分方程,利用低秩结构的三角分解和逆的相应的刚度矩阵。这些预处理器的设置阶段严重依赖于低秩更新,这些更新占算法总运行时间的很大一部分,特别是对于三维问题产生的矩阵。本文提出了一种新的算法,可以显著减少低秩更新的数量,并可以将设置时间减少50%或更多。
2019-06-12 cs.NA math.NA
Boundary Element Methods for the Wave Equation based on Hierarchical Matrices and Adaptive Cross Approximation
时域边界元法(BEM)已成功地应用于声学、光学和弹性动力学等领域,用于数值求解瞬态问题。然而,存储要求是巨大的,因为必须针对大量的时间步长或频率来计算完全填充的系统矩阵。在这篇文章中,我们提出了一个新的近似方案的卷积求积法(CQM)供电的边界元法,我们适用于散射问题的波动方程。我们使用$\mathcal{H}^2$ -矩阵压缩在空间域和采用自适应交叉近似(ACA)算法在频域。以这种方式,存储和计算成本显着降低,而该方法的准确性得到保留。
2020-06-09 cs.NA math.NA
Second Order Accurate Hierarchical Approximate Factorization of Sparse SPD Matrices
我们描述了一个二阶精确的方法来稀疏对称正定矩阵的分层近似分解的非对角块稀疏化。新方法所产生的误差的范数依赖于给定块的低秩近似中的误差的平方,而不是线性。对所得到的两电平预条件子的分析表明,该预条件子也具有二阶精度。我们将新的方法到最近的稀疏嵌套解剖算法[SIAM J.矩阵分析。应用程序、41(2020),pp. 715-746],并在广泛的问题上进行测试。新方法将收敛所需的共轭梯度迭代次数减半,具有几乎相同的因式分解复杂度,提高了算法的总运行时间。我们的方法可以结合到其他的秩结构的方法来解决稀疏线性系。
2020-08-04 cs.NA math.NA
A Hierarchical Singular Value Decomposition Algorithm for Low Rank Matrices
Indian Institute of Technology-Madras(印度马德拉斯理工学院)
本文提出了一种基于树结构的合并-截断算法,用于高效计算低秩矩阵的截断奇异值分解,该方法适用于任意大小的矩阵,且在单核运行时能显著提升速度,误差通常低于3%。
2019-05-10 cs.NA math.NA
New refinable spaces and local approximation estimates for hierarchical splines
Istituto di Matematica Applicata e Tecnologie Informatiche ‘E. Magenes’ (CNR)(应用数学与信息技术研究所‘E.马格内斯’(意大利国家研究委员会));Instituto de Matemática Aplicada del Litoral (CONICET-UNL)(拉普拉塔河沿岸应用数学研究所(阿根廷国家科学研究委员会-国立圣路易斯大学));Facultad de Ingeniería Química (UNL)(化学工程学院(国立圣路易斯大学))
本文研究分层样条空间中的局部逼近性质,通过多尺度拟插值算子构建子空间,保留原有空间本质属性,利用父-子关系构造B-样条基函数,适用于局部细化算法。
2015-07-23 cs.NA math.NA
A multiscale flux basis for mortar mixed discretizations of reduced Darcy-Forchheimer fracture models
University of Bergen(卑尔根大学)
本文提出了一种多尺度通量基底算法,用于高效求解裂隙多孔介质中的流体问题。通过考虑混合维度的离散裂隙矩阵模型,将裂隙网络表示为低维对象,并结合线性达西模型和非线性福克海默模型,将矩阵-裂隙问题转化为仅裂隙网络问题,从而显著降低计算成本。
2018-10-30 cs.NA math.NA
Efficient arithmetic operations for rank-structured matrices based on hierarchical low-rank updates
本文提出基于分层低秩更新的算法,实现对H²矩阵的乘积、逆及分解的近线性复杂度运算,通过递归过程和局部低秩更新提升计算效率。
2014-07-03 cs.NA math.NA
Multi-Order Monte Carlo IMEX hierarchies for uncertainty quantification in multiscale hyperbolic systems
University of Ferrara(费拉拉大学);Université Savoie Mont Blanc, CNRS(萨瓦蒙布朗大学,法国国家科学研究中心);Heriot-Watt University(赫瑞-瓦特大学)
本文提出了一种多阶蒙特卡洛方法,用于多尺度时间依赖偏微分方程的不确定性量化,通过隐式-显式Runge-Kutta时间积分器实现渐近保持性质,有效减少方差并适应多尺度问题。
2026-04-07 cs.NA math.NA
Multiscale Transforms for Signals on Simplicial Complexes
本文提出将图信号多尺度变换推广至单纯复形上的信号,利用Hodge拉普拉斯算子分层划分单纯形并构建局部基函数,在合成与真实数据集上验证了其有效性。
2023-10-17 cs.NA cs.SI eess.SP
Block-encoding dense and full-rank kernels using hierarchical matrices: applications in quantum numerical linear algebra
数值线性代数的许多量子算法假设黑盒访问感兴趣矩阵的块编码,这在矩阵不稀疏时是一个强假设。核矩阵是核函数$k(x,x')$离散化的结果,在数学和工程中有着广泛的应用。他们通常是密集和全秩。经典的快速多极子方法是利用层次矩阵的线性代数框架,在时间上几乎线性地对$N$维的核矩阵进行矩阵乘法运算,即在$N$维上进行矩阵乘法运算。鉴于这一成功,我们提出了量子计算机上的分层矩阵结构的块编码方案。当应用于多个物理核矩阵时,我们的方法可以将求解$N$维量子线性系统的时间提高到$O(κ\operatorname{polylog}(\frac{N}{\varepsilon}))$维,其中$κ$和$\varepsilon$是矩阵运算的条件数和误差界.这个运行时间是接近最优的,并且在$N$方面,在密集和满秩核矩阵的情况下,指数地改进了先前的量子线性系统算法。我们讨论了我们的方法在求解积分方程和加速计算N体问题的可能应用。
2022-12-07 cs.NA math.NA quant-ph
Scalable Physics-based Maximum Likelihood Estimation using Hierarchical Matrices
基于物理的协方差模型提供了一种系统的方法来构建与高斯过程分析中的基本物理定律一致的协方差模型。协方差模型中的未知参数可以使用极大似然估计来估计,但是协方差矩阵的直接构造和用其计算的经典策略需要$n$物理模型运行、$n^2$存储复杂性和$n^3$计算复杂性。为了解决这样的挑战,我们提出了近似的离散协方差函数使用分层矩阵。通过对单个非对角块进行随机化范围绘制,分层协方差近似的构建过程需要$O(\log{n})$物理模型应用程序,并且极大似然计算每次迭代需要$O(n\log^2{n})$。我们提出了一种新的方法来精确计算层次矩阵的乘积的迹,这使得期望的Fischer信息矩阵也可以在$O(n\log^2{n})$中计算。构造是完全无矩阵的,并且协方差矩阵的导数可以通过区分整个过程而近似于相同的分层结构。数值结果表明,该方法的有效性,准确性和效率的参数估计和不确定性量化。
2023-03-17 cs.NA math.NA stat.CO
HLIBCov: Parallel Hierarchical Matrix Approximation of Large Covariance Matrices and Likelihoods with Applications in Parameter Identification
RWTH Aachen(亚琛工业大学);Max-Planck-Institut für Mathematik in den Naturwissenschaften(马克斯·普朗克自然科学数学研究所);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文提出HLIBCov包,利用并行分层矩阵高效近似大规模不均匀协方差矩阵,通过最大化联合高斯对数似然函数估计协方差函数的未知参数,包括方差、平滑度和协方差长度。
2019-05-01 cs.NA math.NA stat.CO
Fast symmetric factorization of hierarchical matrices with applications
本文给出了一个计算弱容许条件下对称正定分层矩阵对称分解的快速直接算法,即$A = WW^T$。对于分层非对角低秩矩阵,对称因式分解的计算成本按比例缩放为$\mathcal{O}(n \log^2 n)$。一旦获得该因式分解,反演、应用和行列式计算的成本按比例缩放为$\mathcal{O}(n \log n)$。特别地,这允许在$A$是协方差阵的情况下,相关随机变量的接近最优的生成。这种对称因式分解算法依赖于两个关键因素。首先,我们提出了一个新的对称因式分解公式低秩更新的形式$I+UKU^T$的身份。如果扰动的秩足够小,则可以在$\mathcal{O}(n)$时间内计算该因式分解。第二,将该公式与递归分治策略相结合,可以得到层次结构矩阵的近似线性复杂度对称分解。我们提出的数值结果矩阵相关的问题,概率\统计(高斯过程),插值(径向基函数),和布朗动力学计算流体力学(Rotne-Prager-Yamakawa张量)。
2016-12-30 cs.NA math.NA physics.flu-dyn
Scalable Gaussian Process Computations Using Hierarchical Matrices
Argonne National Laboratory(阿贡国家实验室);University of Chicago(芝加哥大学)
本文提出了一种不依赖核的方法,利用分层矩阵解决高斯过程的最大似然估计问题,通过准线性复杂度O(n log²n)高效计算梯度、Hessian和期望Fisher信息矩阵。
2019-03-22 cs.NA math.NA math.OC
Causality and Bayesian network PDEs for multiscale representations of porous media
提出基于贝叶斯网络将因果关系构建到随机多尺度模型中,通过微分互信息的全局敏感性分析量化微观参数对宏观特性的影响,为多孔材料设计提供新方法。
2019-01-06 cs.NA math.NA stat.ML
Adaptive Error-Bounded Hierarchical Matrices for Efficient Neural Network Compression
本文提出一种针对PINNs的动态误差有界层次矩阵压缩方法,通过局部误差估计自适应细化近似,在降低计算复杂度与内存需求的同时保持NTK特性,优于传统压缩方法并提升推理速度。
2024-09-25 cs.LG cs.NA math.NA
Fast hierarchical solvers for sparse matrices using extended sparsification and low-rank approximation
用标准的直接求解方案求稀疏矩阵的逆是鲁棒的,但是计算昂贵。另一方面,迭代求解器表现出更好的可扩展性;但是,需要与适当的预处理器一起使用(例如,ILU、AMG、Gauss-Seidel等)为了正确的收敛。有效预条件子的选择是高度依赖于问题的。提出了一种新的全代数稀疏矩阵求解算法,该算法的复杂度与问题规模成线性关系。我们的方案是基于高斯消元法。对于一个给定的矩阵,我们近似的LU分解与先验确定的可调精度。该方法可以作为一个独立的直接求解器,具有线性复杂度和可调精度,或者它可以作为一个黑盒预处理器与迭代法,如GMRES。建议的求解器是基于低秩近似的消除过程中产生的填充。类似于H矩阵,对应于邻接图中良好分离的块的填充通过分层结构来表示。算法的线性复杂度是有保证的,如果块对应于良好分离的变量集群是数值低秩。
2016-12-15 cs.DS cs.NA math.NA
Hierarchical matrix approximability of inverse of convection dominated finite element matrices
本文提出基于
2025-12-04 cs.NA math.AP math.NA
GP-HMAT: Scalable, ${O}(n\log(n))$ Gaussian Process Regression with Hierarchical Low-Rank Matrices
高斯过程(GP)是一种功能强大且广泛使用的回归技术。GP回归的主要构建块是协方差核,它表征了随机场中对之间的关系。然而,找到最佳核的优化需要几个大规模且通常非结构化的矩阵求逆。我们通过引入一种分层矩阵方法(称为HMAT)来解决这一挑战,该方法可以有效地将矩阵结构以递归方式分解为显着较小的矩阵,其中可以使用直接方法进行求逆。我们的矩阵划分使用一个特定的聚合策略的数据点,这促进了低秩结构的非对角块的分层核矩阵。我们采用了一种随机线性代数方法,在不分解大矩阵的情况下,对低秩非对角块进行矩阵约简。我们提供了分析误差和成本估计的矩阵求逆,调查他们的经验与数值计算,并展示了我们的方法的应用程序的三个数值例子涉及GP回归工程问题和大规模的真实数据集。我们提供了GP-HMAT的计算机实现,适用于GP似然和导数计算的HMAT,以及最后一个数值例子在真实数据集上的实现。我们展示了优越的可扩展性的HMAT方法相比,内置的$\backslash$运营商在MATLAB中的大规模线性解决$\bf{A}\bf{x} = \bf{y}$通过可重复和可验证的实证研究。作为未来的研究,层次半可分(HSS)矩阵的扩展进行了讨论。
2021-12-17 cs.CE cs.NA math.NA
Identification of unknown parameters and prediction with hierarchical matrices
大规模数据集的统计分析往往意味着大量密集矩阵的昂贵线性代数运算。典型的任务是估计基础统计模型的未知参数和预测缺失值。我们开发了H-MLE程序,它解决了这些任务。未知参数可以通过最大化联合高斯对数似然函数来估计,该似然函数取决于协方差阵。为了减少高的计算成本,我们近似的协方差阵的分层(H-)矩阵格式。H矩阵技术允许我们处理非齐次协方差阵和几乎任意的位置。特别地,H-矩阵可以应用于所考虑的矩阵是稠密的和非结构化的情况。出于验证目的,我们实现了三种机器学习方法:k-最近邻(kNN)、随机森林和深度神经网络。最好的结果(对于给定的数据集)是通过kNN方法获得的,根据数据集有三个或七个邻居。用H-MLE方法计算的结果与kNN方法得到的结果进行了比较。开发的H矩阵代码和所有数据集都可以在网上免费获得。
2021-04-14 cs.NA math.NA stat.AP