On the Compression of Translation Operator Tensors in FMM-FFT-Accelerated SIE Simulators via Tensor Decompositions
提出了张量分解方法,以减少快速多极子方法-快速傅里叶变换(FMM-FFT)-加速表面积分方程(SIE)模拟器中平移算子张量的内存需求。这些方法利用Tucker、分层Tucker(H-Tucker)和张量训练(TT)分解来压缩以三维(3D)和四维(4D)阵列格式存储的FFT变换算子张量。进行了大量的数值试验,以证明不同的模拟参数,这些方法所带来的内存节省和计算开销。数值结果表明,基于H-Tucker的方法为4D阵列格式产生最大的内存节省,而基于Tucker的方法为3D阵列格式引入了最小的计算开销。对于许多实际场景,所有方法都显著降低了翻译算子张量的内存需求,同时施加了可忽略/可接受的计算开销。
2020-09-25 cs.NA eess.SP math.NA
Accelerated decomposition of bistochastic kernel matrices by low rank approximation
Dartmouth College(达特茅斯学院)
本文提出一种加速算法,用于对对称归一化核矩阵进行近似特征值分解,采用 pivoted partial Cholesky 算法构建低秩近似,减少 full kernel matrix 的计算成本,并推导了两类归一化核矩阵的迹范数误差界。
2026-10-15 cs.NA math.NA physics.comp-ph
Acceleration of multiple precision matrix multiplication based on multi-component floating-point arithmetic using AVX2
本文报道了用AVX 2加速多二进制64型多精度矩阵乘法的结果。我们的目标是通过某些类型的无错误变换(EFT)算法设计的双精度(DD)、三倍精度(TD)和四倍精度(QD)算法。在x86_64计算环境下,实现了四个二进制64数同时计算的SIMD化EFT函数,并利用它们开发了SIMD化DD、TD和QD加法和乘法。此外,还采用了AVX 2加载/存储功能,以有效地加快从/向存储器读取和存储矩阵元素的速度。由于这些组合技术,我们实现的多精度矩阵乘法与非加速的相比加速了三倍以上。我们的加速矩阵乘法修改与OpenMP并行化的性能。
2021-01-17 cs.MS cs.NA cs.PF
Mixed-Precision Performance Portability of FFT-Based GPU-Accelerated Algorithms for Block-Triangular Toeplitz Matrices
Oden Institute, The University of Texas at Austin(德克萨斯大学奥斯汀分校奥登研究所);Advanced Micro Devices, Inc.(超威半导体公司);Oden Institute, Walker Department of Mechanical Engineering(德克萨斯大学奥斯汀分校奥登研究所沃克机械工程系);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究针对HPC硬件多样性与低精度GPU性能优势,提出基于hipify的性能可移植框架与动态混合精度方案,将原仅支持CUDA的FFTMatvec移植到AMD GPU并优化,在多款AMD GPU及Frontier超算4096块GPU上验证了效果。
2025-10-02 cs.DC cs.NA cs.PF
Accelerated Polynomial Evaluation and Differentiation at Power Series in Multiple Double Precision
问题是用多重双精度的算法求一个多元多项式及其在截断到某一有限次的幂级数上的梯度。为了补偿多个双精度的和幂级数运算的开销,提出了通用图形处理器的数据并行算法。算法微分的反向模式被组织成截断幂级数的许多卷积和加法的大规模并行计算。实验结果表明,在152次幂级数截断的情况下,在十双精度的下获得了万亿次性能。该算法可以很好地扩展,以提高精度和增加度。
2021-03-13 cs.DC cs.MS cs.NA
A GPU-Accelerated Blocked Adaptive Randomized Range Finder Based on an Implicit Householder QR Decomposition
Jülich Supercomputing Centre Forschungszentrum Jülich(于利希超级计算中心 于利希研究中心)
本文提出一种基于隐式Householder QR分解的GPU加速分块自适应随机范围查找器,通过混合CPU-GPU实现,可在异构系统上高效稳定地完成低秩近似,提升矩阵运算速度。
2026-10-30 cs.MS cs.NA math.NA
Efficient FMM accelerated vortex methods in three dimensions via the Lamb-Helmholtz decomposition
Fantalgo, LLC.(Fantalgo有限责任公司)
本文基于Lamb-Helmholtz分解提出一种涡旋方法公式,通过引入转换算子解决该分解在平移下的不变性问题,使得仅需两个标量调和FMM求和即可高效计算速度和涡量演化项。
2012-10-03 cs.NA math-ph math.MP
Multiple-GPU accelerated high-order gas-kinetic scheme for direct numerical simulation of compressible turbulence
高阶气体动力学格式(HGKS)已成为湍流直接数值模拟(DNS)的有效工具。本文采用统一计算设备架构(CUDA),在图形处理器(GPU)上实现了HGKS,以加速计算。为了进行更大规模的湍流DNS,HGKS还可以进一步升级为使用消息传递接口(MPI)和CUDA架构的多个GPU。可压缩湍流的基准案例,包括泰勒-格林涡和湍流通道流,提出了评估与Nvidia TITAN RTX和特斯拉V100 GPU的HGKS的数值性能。对于单GPU计算,与在Intel Core i7-9700上运行的具有开放多处理(OpenMP)指令的并行中央处理单元(CPU)代码相比,TITAN RTX实现了7倍的加速,Tesla V100实现了16倍的加速。对于多GPU计算,在1024个Intel Xeon E5-2692核心上运行并支持MPI的并行CPU代码的计算时间大约是使用8个Tesla V100 GPU并支持MPI和CUDA的GPU代码的3倍。数值结果证实了多GPU加速的HGKS在大规模湍流DNS中的优异性能。在GPU上对HGKS进行FP 32精度的编译,以评估数字格式精度的影响。合理地,与FP 64精度的计算相比,FP 32精度的计算提高了效率,降低了内存开销。对于槽道湍流,FP 32和FP 64精度解之间的长时间统计湍流量差异是可以接受的。但在可压缩湍流中,瞬时湍流量的计算结果存在明显的差异,这表明FP …
2022-07-04 cs.NA math.NA
Accelerated solution of Helmholtz equation with Iterative Krylov Methods on GPU
本文对图形处理器(GPU)上双精度复数运算的线性代数运算进行了分析和评价。已知这些操作的性能,迭代Krylov方法被认为是有效地解决声学问题。对一组声学矩阵进行了数值实验,所产生的建模的声学现象在一个气缸和汽车车厢内暴露,表现出我们的算法的性能,鲁棒性和效率,与一个比率高达27倍的点积,10倍的稀疏矩阵-矢量积和求解器在复杂的双精度运算。
2021-12-13 cs.DC cs.NA math.NA
Iterative Refinement of Schur decompositions
方阵$A$的Schur分解是求解本征值问题、矩阵函数和矩阵方程的最新数值算法的重要中间步骤。这项工作涉及以下任务:计算一个(更)准确的Schur分解$A$从一个给定的近似Schur分解。例如,在参数相关的本征值问题和混合精度计算的背景下,这个任务出现。我们已经开发了一个牛顿算法,需要解决一个三角形矩阵方程和一个近似正交化的步骤,在每一个迭代。我们证明了局部平方收敛矩阵相互不同的特征值和观察快速收敛在实践中。在混合低-高精度环境中,我们的算法基本上减少到每次迭代只有四个高精度矩阵-矩阵乘法。当将精度从两倍提高到四倍时,它通常只需要3-4次迭代,这将计算四倍精度Schur分解的时间减少了10-20倍。
2022-03-21 cs.NA math.NA
A Tensor-Train accelerated solver for integral equations in complex geometries
我们提出了一个框架,使用量化张量训练(QTT)分解,以准确和有效地解决体积和边界积分方程在三维空间。我们描述了如何QTT分解可以被用来作为一个分层的压缩和反演方案所产生的矩阵离散化的积分方程。对于广泛的问题,反演方案的计算和存储成本非常适中$O(\log N)$,并且一旦计算出逆,就可以将其应用于$O(N \log N)$中。我们分析了层次低秩矩阵的QTT秩,并讨论了它与常用的层次压缩技术(如FMM和HSS)的关系。我们证明了QTT秩是有界的平移不变系统,并认为这种行为扩展到非平移不变体积和边界积分。对于体积积分,QTT分解提供了一个高效的直接求解器,需要显着更少的内存相比,其他快速直接求解器。我们目前的结果表明显着的性能QTT为基础的求解器时,适用于平移和非平移不变体积积分在3D。对于边界积分方程,我们证明,使用QTT分解构造预条件的Krylov子空间方法导致一个高效和强大的求解器与一个小的内存占用。我们测试的QTT预条件在迭代求解的外部椭圆边值问题(拉普拉斯)制定为边界积分方程在复杂的,多连通的几何形状。
2016-10-01 cs.NA math.NA
Mixed precision matrix interpolative decompositions for model reduction
由于数据容量和带宽的不断增长以及GPU的进步,人们对混合精度算法重新产生了兴趣,这使得低精度算法能够显着加速。鉴于此,我们提出了一种混合精度算法,以产生一个双精度精确矩阵插值分解近似在一组给定的标准。尽管低精度算法遭受更快的舍入误差累积,但是对于许多数据丰富的应用,我们仍然获得可行的近似精度,因为使用低精度算法引起的误差由低秩近似固有的误差主导。然后,我们进行了几个模拟数值试验,以证明算法的有效性和相应的误差估计。最后,我们提出了我们的算法的应用程序中的一个问题,在模型减少颗粒载货湍流。
2020-12-11 cs.NA math.NA physics.comp-ph
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题,提出基于随机投影与幂迭代的固定精度算法,可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Accelerated Canonical Polyadic Decomposition by Using Mode Reduction
Guangdong University of Technology(广东工业大学)
针对高阶张量CP分解中频繁展开至N个模式导致的效率瓶颈,提出一种将N阶张量先转化为3阶张量再分解的方法,避免逐模式展开,同时保持分解唯一性并提升效率。
2013-06-25 cs.LG cs.NA math.NA
Error Analysis and Precision Selection for Mixed-Precision DEIM-CUR Decompositions
Faculty of Mathematics and Physics, Charles University(查理大学数学与物理学院)
本研究放宽了CUR分解中SVD精确计算的假设,分析有限精度算术对DEIM-CUR方法的影响,提出精度选择指导,表明低精度计算不影响近似质量,并通过数值实验验证。
2026-09-23 cs.NA math.NA
GPU Accelerated Newton for Taylor Series Solutions of Polynomial Homotopies in Multiple Double Precision
针对多项式同伦解的坐标关于参数的多倍双精度幂级数精确计算问题,提出利用GPU大规模并行性的加速牛顿法,通过多项式求值求导后求解分块下三角线性系统,在多款NVIDIA GPU上验证了不同多倍精度下的有效性,代码已开源。
2024-06-18 cs.DC cs.MS cs.NA
A Mixed Precision Eigensolver Based on the Jacobi Algorithm
本文提出一种结合单精度近似特征分解、Newton–Schulz 正交化和逐行循环 Jacobi 迭代的混合精度谱分解算法,可在双精度下以约30%的耗时更快收敛。
2025-08-30 cs.NA math.NA
Low-Rank Dependence Decomposition via Accelerated Symmetric Non-negative Matrix Factorization
NVIDIA(英伟达)
研究通过加速对称非负矩阵分解进行低秩相依性分解,在绝对皮尔逊相关和尾部成对相依矩阵上对七个算法家族超30种配置做大规模GPU研究,给出多节点扩展结果,比较不同算法在不同谱上表现,还将球形K - means作为基线测试。
2026-07-28 cs.LG cs.NA math.NA
A GPU-accelerated mixed-precision WENO method for extremal black hole and gravitational wave physics computations
提出 GPU 加速的混合精度 WENO 求解器,用于 Teukolsky 方程及极端黑洞、引力波问题,无需额外耗散并实现 3.3 倍加速。
2020-10-09 cs.NA gr-qc math.AP
Accelerated Tensor Completion via Trace-Regularized Fully-Connected Tensor Network
School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院)
本文提出一种基于迹正则化全连接张量网络的张量补全模型,通过离散二阶导数惩罚增强局部恢复,并设计中间张量重用机制降低10%-30%运行时间,实验验证其优于现有方法。
2025-10-26 cs.NA math.NA
Split Bregman Isotropic and Anisotropic Image Deblurring with Kronecker Product Sum Approximations using Single Precision Enlarged-GKB or RSVD Algorithms to provide low rank truncated SVDs
本文提出用单精度扩展GKB算法获取Kronecker积近似的低秩截断SVD,并结合分裂Bregman各向同性与各向异性正则化高效求解大规模$\ell_1$图像去模糊问题。
2024-09-30 cs.NA math.NA
Evaluation of data driven low-rank matrix factorization for accelerated solutions of the Vlasov equation
本文提出基于卷积神经网络的数据驱动低秩分解以加速 Vlasov 模拟,验证其插值和推理加速效果,但发现其难以对时间序列后 30% 进行有效外推。
2024-12-27 cs.NA math.NA stat.ML
Fast prediction of plasma instabilities with sparse-grid-accelerated optimized dynamic mode decomposition
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Virginia Tech(弗吉尼亚理工大学);University of Twente(特文特大学)
本文提出利用稀疏网格加速的优化动态模式分解方法,用于快速预测等离子体微不稳定性,通过减少计算成本实现高效模拟。
2026-02-02 cs.CE cs.NA math.NA
Accelerating Multiple-Precision LU Decomposition with Ozaki Scheme II
Otemon Gakuin University(大东文化大学)
本文提出基于 Ozaki 方案 II 的分块部分主元 LU 分解,用整数模乘积和 CRT 重构替代多精度 GEMM,并实现直接格式转换及多种 GPU 后端,在病态系统求解中达到高达 2.84 倍加速。
2026-09-25 cs.NA math.NA
QRkit: Sparse, Composable QR Decompositions for Efficient and Stable Solutions to Problems in Computer Vision
USI Lugano(卢加诺大学);Microsoft HoloLens(微软全息眼镜)
QRkit通过高效计算稀疏矩阵的QR分解,解决计算机视觉中单精度下精度丢失问题,适用于块对角、水平垂直拼接和带状等常见稀疏结构。
2018-02-11 cs.MS cs.NA math.NA
Complete Decomposition of Symmetric Tensors in Linear Time and Polylogarithmic Precision
本文研究三阶对称张量在向量线性无关且 r=n 条件下的完全分解,提出首个在有限算术模型中仅需多对数精度、并以 O(n^3) 线性时间运行的随机化分解算法。
2025-03-11 cs.CC cs.DS cs.NA