A Preliminary Study on Accelerating Simulation Optimization with GPU Implementation
本研究初步探索用GPU加速三类采用一/二阶算法的仿真优化任务,实验表明GPU依托并行处理矩阵向量运算的优势可提升计算效率,且优势随问题规模增大而增强。
2024-04-17 cs.DC
Accelerating Recommender Systems using GPUs
我们描述了GPU实现的矩阵推荐算法CCD++和ALS。我们比较的处理时间和预测能力的GPU实现与现有的多核版本的相同的算法。GPU上的结果优于多核版本(最大加速比为14.8)。
2015-11-08 cs.DC cs.IR
GPU-accelerating ImageJ Macro image processing workflows using CLIJ
本章介绍ImageJ/FIJI中GPU加速的图像处理。读者应该对ImageJ宏编程有一些预先存在的知识。变量、for循环和函数等核心概念是必不可少的。本章提供了在典型的图像处理工作流中提高性能的基本准则。我们在一个分步教程中介绍了如何将预先存在的ImageJ宏转换为GPU加速的宏。
2020-08-26 cs.DC cs.MS q-bio.QM
Accelerating Intra-Node GPU-to-GPU Communication Through Multi-Path Transfers with CUDA Graphs
Queen’s University(女王大学)
本文提出利用CUDA图与UCX框架结合,通过多路径提升GPU通信效率,实验显示在多路径下实现2.95倍带宽提升。
2026-04-27 cs.DC
Accelerating Sparse MTTKRP for Small Tensor Decomposition on GPU
针对稀疏张量分解中spMTTKRP的运算瓶颈,提出GPU模式专属张量布局与张量划分方案,显著提升了小张量分解的运算速度。
2025-03-23 cs.DC
Compression-Based Optimizations for Out-of-Core GPU Stencil Computation
核外模板计算代码处理大小超出GPU内存容量的大数据。然而,这样的代码需要频繁地将数据流式传输到GPU和从GPU流式传输数据。因此,CPU和GPU之间的数据移动通常会限制性能。在这项工作中,提出了基于压缩的优化。首先,将动态压缩技术应用于核外模板代码,从而减少CPU-GPU内存复制。其次,采用单工作缓冲区技术来降低GPU的内存消耗。实验结果表明,在NVIDIA Tesla V100 GPU上,使用该技术的模板代码实现了1.1倍的速度,并减少了33.0%的GPU内存消耗.
2022-04-24 cs.DC
Accelerating GPU-Based Out-of-Core Stencil Computation with On-the-Fly Compression
空间计算是一类重要的科学应用,可以通过图形处理单元(GPU)有效地执行。核外方法有助于运行大规模模板代码,这些代码处理的数据大小大于GPU内存的有限容量。然而,基于GPU的核外模板计算的性能总是受到CPU和GPU之间的数据传输的限制。人们已经探索了许多优化方法来减少这种数据传输,但对使用动态压缩技术的研究还远远不够。在这项研究中,我们提出了一种方法,加速基于GPU的核外模板计算与即时压缩。我们介绍了一种新的数据压缩方法,解决了两个相邻的分解数据块之间的数据依赖。我们还修改了一个广泛使用的基于GPU的压缩库,以支持重叠的CPU/GPU数据传输与GPU计算的流水线。实验结果表明,该方法与未压缩的方法相比,实现了1.2倍的加速比。此外,虽然压缩所涉及的精度损失随着时间步长的增加而增加,但精度损失在高达4,320个时间步长时是微不足道的,这证明了所提出的方法的有用性。
2021-09-12 cs.DC
AMPED: Accelerating MTTKRP for Billion-Scale Sparse Tensor Decomposition on Multiple GPUs
本文提出多GPU并行算法AMPED,通过分区策略与动态负载均衡方案加速十亿级稀疏张量分解中的MTTKRP,在单节点4个GPU上相比SOTA实现了5.1倍几何平均加速。
2025-08-09 cs.DC
Accelerating HDC-CNN Hybrid Models Using Custom Instructions on RISC-V GPUs
Shimane University, Interdisciplinary Faculty of Science and Engineering(广岛大学,科学与工程跨学科 faculty)
本文针对HDC-CNN混合模型在RISC-V GPU上设计并实现自定义HDC指令,微基准测试显示性能最高提升56.2倍,验证了RISC-V GPU用于节能高性能计算的潜力。
2025-11-07 cs.AI cs.DC cs.GR
Accelerating Deep Learning Inference with Cross-Layer Data Reuse on GPUs
加速深度学习推理对于实时应用非常重要。本文提出了一种新的方法来融合卷积神经网络(CNN)的层在图形处理单元(GPU)上,该方法在存储层次结构的不同级别上应用数据重用分析和访问优化。为了实现计算和内存访问之间的平衡,我们探索了CNN计算图中的融合机会,并提出了卷积神经网络的三种融合模式:直接、合并和分裂。在此基础上,设计了一种高效的融合代码生成方法,该方法更深入地研究了多级内存使用,以实现跨层数据重用。我们的方法的有效性是在两个不同的GPU平台上,NVIDIA TITAN Xp和Tesla P4上使用最先进的CNN网络层进行评估的。实验表明,CNN的代表性结构的平均加速比为2.02倍,SqueezeNet的端到端推理的平均加速比为1.57倍。
2020-07-29 cs.DC
APNN-TC: Accelerating Arbitrary Precision Neural Networks on Ampere GPU Tensor Cores
University of California, Santa Barbara(加州大学圣巴巴拉分校);Pacific Northwest National Laboratory(太平洋西北国家实验室)
多年来,利用量化加速神经网络已被广泛研究。不幸的是,具有不同精度的先前努力(例如,1-位权重和2位激活)通常受到GPU上的有限精度支持的限制(例如,int 1和int 4)。为了打破这种限制,我们引入了第一个任意精度神经网络框架(APNN-TC),以充分利用Ampere GPU张量核心的量化优势。具体来说,APNN-TC首先采用了一种新的仿真算法,以支持任意短位宽计算与int 1计算原语和XOR/AND布尔运算。第二,APNN-TC集成了任意精度的层设计,以有效地将我们的仿真算法映射到具有新颖的并行策略和专门的内存组织的张量核心。第三,APNN-TC体现了一种新的任意精度NN设计,以最大限度地减少跨层的内存访问,并进一步提高性能。广泛的评估表明,APNN-TC可以在CUTLASS内核和各种NN模型(如ResNet和VGG)上实现显着的加速。
2021-11-16 cs.AI cs.AR cs.CV
Accelerating QDP++/Chroma on GPUs
提供了对QCD数据并行接口的C++实现的扩展,从而能够加速NVIDIA GPU上的表达式计算。利用便携式表达式模板引擎并使用实时编译技术,将单个表达式卸载到设备内存和执行域。内存管理是由控制GPU内存的缓存的软件实现自动化的。与现有的Krylov空间求解器的互操作性进行了演示,并特别注意“色度准备”。格点量子色动力学计算中的非核心例程通常不受手动调谐优化的加速,这可以减少Amdahl定律的影响。
2011-11-23 cs.DC hep-lat
Accelerating Channel Estimation and Demodulation of Uplink OFDM symbols for Large Scale Antenna Systems using GPU
前端天线数量的增加增加了后端要处理的数据量。这就需要加速后端处理。为了解决后端的大容量数据处理问题,使用了GPU。通过在后端使用CPU和GPU的组合来提供对上行链路OFDM符号的最小二乘信道估计和解调的加速。单用户上行链路方案是在近实时的方式使用USRP平台目前在大规模天线系统在ORBIT测试床。天线的数量和FFT长度是不同的,以提供不同的场景进行比较。CPU和GPU的性能进行了比较,为每个进程。
2019-01-23 cs.DC
QGTC: Accelerating Quantized Graph Neural Networks via GPU Tensor Core
近年来,量化图神经网络(QGNN)由于其高鲁棒性和低计算和存储开销而吸引了大量的研究和工业界的关注。不幸的是,QGNN的性能提升从未在现代GPU平台上实现。为此,我们提出了第一个基于Tensor Core(TC)的计算框架QGTC,以支持GPU上QGNN的任何位宽计算。提出了一种基于低比特数据表示和比特分解计算的量化低比特算术设计。我们通过结合3D堆栈位压缩、零瓦片跳跃和非零瓦片重用技术,设计了一种新颖的TC定制的CUDA内核设计,以系统地提高性能。我们采用了一种有效的带宽优化子图包装策略,以最大限度地提高CPU主机和GPU设备之间的传输效率。我们将QGTC与Pytorch集成,以获得更好的可编程性和可扩展性。大量的实验表明,与最先进的Deep Graph Library框架相比,QGTC在各种设置中平均实现了2.7倍的加速。
2021-12-30 cs.DC
Trash Talk: Accelerating Garbage Collection on Integrated GPUs is Worthless
将异构处理器与统一存储器集成的系统以最小的开发复杂性在这些处理器之间提供了无缝集成。这些系统将GPU等加速器与CPU内核集成在同一芯片上,以适应不同并行度的并行应用程序。这种集成在现代芯片架构上变得非常普遍,并且它给应用和系统程序员带来了利用这种集成芯片的全部潜力的负担(或机会)。在本文中,我们评估我们是否可以获得任何性能的好处,从运行垃圾回收集成GPU系统,并讨论如何实现这些收益的程序员的困难。从手持移动设备到数据中心,运行在各种平台上的垃圾收集语言的激增使得垃圾回收成为在这些平台上研究的有趣目标,并可以为其他应用程序提供有价值的经验教训。我们提出了我们的分析运行垃圾回收集成系统,并发现这些系统的当前状态并没有提供一个优势,加速这样的任务。我们建立了一个框架,使我们能够卸载垃圾回收任务的集成GPU系统从JVM中。我们确定了垃圾回收的主要阶段,并研究了将它们卸载到集成GPU的可行性。我们表明,性能优势是有限的,部分原因是集成的GPU在CPU的内存带宽的优势有限,部分原因是昂贵的原子操作。
2020-12-11 cs.DC
HetCCL: Accelerating LLM Training with Heterogeneous GPUs
snu-cse(首尔国立大学计算机科学与工程系);snu-ds(首尔国立大学数据科学研究院);moreh(Moreh公司);samsung(三星研究)
HetCCL通过统一异构GPU的集体通信库,实现跨供应商的高效训练,提升异构环境下的大语言模型训练性能。
2026-01-30 cs.DC cs.LG
Accelerating convolutional neural network by exploiting sparsity on GPUs
针对CNN卷积运算耗时及特征图稀疏性导致的冗余计算与数据传输问题,提出两种GPU加速方法,分别通过减少零值计算和融合卷积池化层,在VGG-19等模型上实现最高4.3倍于cuDNN的加速。
2023-07-31 cs.DC
DynaSOAr: Accelerating Single-Method Multiple-Objects Applications on GPUs
面向对象编程(OOP)长期以来一直被认为对于SIMD高性能计算来说效率太低,尽管许多重要的HPC应用程序都具有固有的对象结构。我们发现了OOP的一个广泛的子集,可以在大规模并行SIMD加速器上有效地实现。我们称之为单方法多对象(SMMO),因为并行性是通过在一种类型的所有对象上运行一个方法来表达的。为了让GPU编程经验不足的领域专家能够快速编程,我们开发了DynaSOAr,这是一个用于SMMO应用程序的CUDA框架。DynaSOAr通过SOA数据布局提高了已分配内存的使用率,并通过无锁分层位图有效管理空闲和已分配内存块来实现低内存碎片。
2019-05-29 cs.DC cs.PL
Accelerating the Convex Hull Computation with a Parallel GPU Algorithm
凸包是许多应用的基本几何结构,其中点组必须由凸多边形包围或表示。虽然存在有效的顺序凸包算法,并且在应用中不断使用,但是它们的计算时间通常被认为是时间敏感任务的问题,例如实时碰撞检测、聚类或用于虚拟现实的图像处理等,其中需要快速的响应时间。在这项工作中,我们提出了一个并行的基于GPU的适应heaphull,这是一个国家的最先进的CPU算法,计算的凸包首先做一个有效的过滤阶段,然后由实际的凸包计算。更具体地说,这项工作并行化的过滤阶段,使其适应GPU编程模型作为一系列的并行减少。实验结果表明,该算法显著提高了凸包计算的性能,其加速比达到了$4\times$,而$3\times \sim 4\times$的加速比则达到了$4\times$.
2022-09-25 cs.DC
Accelerating Compact Fractals with Tensor Core GPUs
这项工作提出了一个GPU线程映射方法,允许使用其紧凑的表示离散分形做快速并行模板般的计算。其背后的直觉是使用两个GPU张量核加速线程映射$λ(ω)$和$ν(ω)$,它们分别充当线程空间到数据空间和数据空间到线程空间的函数。通过组合这些映射,线程可以访问紧凑的空间并与它们的邻居交互。映射的成本是$\mathcal{O}(\log \log(n))$时间,$n$是扩展形式的分形的$n \times n$嵌入的一侧。该技术适用于属于离散分形的非重叠边界盒(NBB)类的任何分形,并且也可以扩展到三维。使用A100 GPU对Sierpinski Triangle进行的案例研究结果表明,相对于限界框方法,加速高达$\sim11\times$,内存使用减少了$234\times$。这些结果表明,所提出的紧凑方法可以让科学界解决以前不适合GPU内存的较大问题,并且运行速度甚至比限界框方法更快。
2021-10-25 cs.DC
Accelerating QDP++ using GPUs
图形处理单元(GPU)作为科学高性能计算(HPC)中的目标架构变得越来越重要。NVIDIA建立了CUDA作为一种并行计算架构,控制和利用GPU的计算能力。CUDA为C++语言元素提供了足够的支持,以在设备内存域中启用表达式模板(ET)技术。QDP++是一个适用于量子场论的C++矢量类库,它提供了矢量数据类型和表达式,并形成了格点量子色动力学软件套件Chroma的基础。在这项工作中,利用ET技术和使用即时(JIT)编译成功实现了将QDP++表达式计算加速到GPU。可移植表达式模板引擎(PETE)和CUDA内核参数的C API用于在主机和设备内存域之间建立桥梁。这提供了将色度例程加速到GPU的可能性,这些GPU通常不受特殊优化的影响。作为一个应用实例,在GPU上加速了一个涂抹例程。可以测量到与正常CPU执行相比的显著加速。
2011-05-11 cs.DC cs.PL hep-lat
On the Accelerating of Two-dimensional Smart Laplacian Smoothing on the GPU
本文提出了一种GPU加速实现的二维的【形】智能拉普拉斯平滑。该实现是在我们的范例的指导下开发的,用于加速基于Laplacian的网格平滑[13]。两种类型的常用数据布局,阵列的结构(AoS)和阵列的结构(SoA)被用来表示三角形网格在我们的实现。采用了两种迭代形式,对中间数据的交换有不同的选择。此外,CUDA动态并行(CDP)功能,实现智能拉普拉斯平滑嵌套并行。实验结果表明:(1)在GPU GT 640上,我们的实现可以获得高达44倍的加速比;(2)数据布局AoS总是可以获得比SoA布局更好的效率;(3)需要交换中间节点坐标的表单总是比不交换数据的表单慢;(4)使用CDP功能的实现版本比不采用CDP的版本稍快。
2015-02-02 cs.DC
Accelerating Drug Discovery in AutoDock-GPU with Tensor Cores
针对 AutoDock-GPU 评分函数中归约操作的性能瓶颈,提出利用 NVIDIA Tensor Cores 矩阵运算加速四元素向量求和归约的方法,使归约速度提升 4-7 倍,实际对接平均时间缩短 27%。
2024-10-14 cs.DC
Optimizing Error-Bounded Lossy Compression for Scientific Data on GPUs
误差受限的有损压缩是显著减少科学数据量的关键技术。随着异构高性能计算(HPC)体系结构的不断涌现,基于GPU加速的错误限制压缩器(如cuSZ+和cuZFP)也应运而生。然而,它们遭受低性能或低压缩比。为此,我们建议cuSZ+以高压缩比和吞吐量为目标。我们确定,数据稀疏性和数据平滑度是高压缩吞吐量的关键因素。我们在这项工作中的主要贡献是四个方面:(1)我们提出了一个有效的压缩工作流程,自适应地执行行程长度编码和/或可变长度编码。(2)将解压缩过程中的Lorenzo重构归结为多维部分和计算,提出了一种适用于GPU架构的细粒度Lorenzo重构算法。(3)我们通过利用最先进的CUDA并行原语来仔细优化每个cuSZ+内核。(4)我们使用V100和A100 GPU上的七个真实HPC应用程序数据集来评估cuSZ+。实验表明,cuSZ+在测试数据集上的压缩吞吐量和压缩比分别比cuSZ提高了18.4倍和5.3倍。
2021-09-03 cs.DC
Accelerating Communication for Parallel Programming Models on GPU Systems
随着越来越多的领先级系统在向亿级的竞争中采用GPU加速器,GPU数据的有效通信正在成为高性能计算的最关键组件之一。对于并行编程模型的开发人员来说,使用GPU(如CUDA)的本机API实现对GPU感知通信的支持可能是一项艰巨的任务,因为它需要相当大的努力,性能几乎没有保证。在这项工作中,我们展示了统一通信X(UCX)框架组成GPU感知通信层的能力,该层为Charm++生态系统的多个并行编程模型提供服务:Charm++,自适应MPI(AMPI)和Charm4py。我们使用改编自OSU基准测试套件的微基准测试来展示我们设计的性能影响,在Charm++中获得了高达10.1倍的延迟改进,在AMPI中获得了11.7倍的延迟改进,在Charm4py中获得了17.4倍的延迟改进。我们还观察到Charm++的带宽增加了10.1倍,AMPI增加了10倍,Charm4py增加了10.5倍。通过评估Jacobi迭代法的代理应用程序,我们展示了我们的设计对现实世界应用程序的潜在影响,在Charm++中将通信性能提高了12.4倍,在AMPI中提高了12.8倍,在Charm4py中提高了19.7倍。
2022-03-22 cs.DC
cuSZ: An Efficient GPU-Based Error-Bounded Lossy Compression Framework for Scientific Data
误差受限的有损压缩是HPC应用中最先进的数据缩减技术,因为它不仅可以显著降低存储开销,而且可以保持分析后的高保真度。由于超级计算机和HPC应用程序使用基于加速器的架构(特别是GPU)变得异构,因此一些开发团队最近发布了其有损压缩器的GPU版本。然而,现有的基于GPU的有损压缩器存在压缩和解压缩吞吐量低或压缩质量低的问题。在本文中,我们提出了一个优化的GPU版本,cuSZ,最好的错误有界有损压缩机之一,SZ。据我们所知,cuSZ是GPU上第一个用于科学数据的错误有限有损压缩器。我们的贡献是四方面的。(1)我们提出了一种双量化方案,以完全消除SZ的预测步骤中的数据依赖性,使得这一步骤可以在GPU上非常有效地执行。(2)我们开发了一个有效的定制哈夫曼编码的SZ压缩器上的GPU。(3)我们使用CUDA实现cuSZ,并通过提高GPU内存带宽的利用率来优化其性能。(4)我们在来自科学数据简化基准的五个真实世界HPC应用程序数据集上评估了cuSZ,并将其与CPU和GPU上的其他最先进方法进行了比较。实验表明,我们的cuSZ提高了SZ的压缩吞吐量高达370.1倍和13.1倍,分别在单个和多个CPU内核上运行的生产版本,同时获得相同质量的重建数据。与另一种最先进的GPU支持的有损压缩器相比,它还将测试数据的压缩比提高了3.48倍。
2020-09-21 cs.DC
NCCLZ: Compression-Enabled GPU Collectives with Decoupled Quantization and Entropy Coding
Stevens Institute of Technology(史蒂文斯理工学院)
NCCLZ通过解耦量化与熵编码,提升多节点GPU工作负载的通信效率,实验显示比NCCL快9.65倍,比现有压缩辅助库提升3.34倍。
2026-09-18 cs.DC
HPAC-Offload: Accelerating HPC Applications with Portable Approximate Computing on the GPU
本文提出HPAC-Offload,一种基于pragma的可移植近似计算编程模型,在GPU上扩展OpenMP应用,实现显著加速(LULESH最高1.64倍)且质量损失极小(0.1%)。
2023-08-31 cs.DC
GPULZ: Optimizing LZSS Lossless Compression for Multi-byte Data on Modern GPUs
针对现有GPU上LZSS压缩器吞吐量低、仅支持单字节数据的问题,本文提出GPULZ方案,通过算法与架构层面优化实现多字节数据高效压缩,在A4000上最高达272.1倍加速,压缩比最高提升1.4倍。
2023-05-02 cs.DC
Accelerating wave-propagation algorithms with adaptive mesh refinement using the Graphics Processing Unit (GPU)
Clawpack是一个使用基于黎曼解算器和限制器的高分辨率有限体积法求解非线性双曲型偏微分方程的库。它支持自适应网格细化(AMR),这在解决多尺度问题中至关重要。最近,我们增加了使用图形处理单元(GPU)加速代码的功能。添加了管理CPU和GPU AMR数据并促进GPU内核执行的工具。定制和CPU线程安全内存管理器旨在管理GPU和CPU内存池,这对于消除内存分配和释放的开销至关重要。该算法在每个时间步进行全局约简,根据柯朗数约束动态调整时间步。一些小的GPU内核被合并到更大的内核中,这大大降低了内核启动开销。在声学基准问题中观察到$2$和$3$之间的总运行时间的加速。
2018-08-08 cs.DC cs.MS cs.NA
Accelerating Graph Sampling for Graph Machine Learning using GPUs
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Northeastern University(东北大学)
表示学习算法自动学习数据的特征。图数据的几种表示学习算法,如DeepWalk,node 2 vec和GraphSAGE,对图进行采样以产生适合于训练DNN的小批量。然而,采样时间可能是训练时间的很大一部分,并且现有系统不能有效地并行采样。采样是一个非常复杂的并行问题,可能会出现GPU加速,但图形的不规则性使得很难有效地使用GPU资源。本文介绍了NextDoor,一个旨在有效地在GPU上执行图形采样的系统。NextDoor采用了一种新的图形采样方法,我们称之为transit-parallelism,它允许负载均衡和边缘缓存。NextDoor为最终用户提供了编写各种图形采样算法的高级抽象。我们实现了几个图形采样应用程序,并表明NextDoor运行它们的数量级比现有的系统更快。
2021-05-11 cs.DC cs.LG
Accelerating Translational Image Registration for HDR Images on GPU
Middle East Technical University(中东技术大学)
高动态范围(HDR)图像是使用场景的多次曝光生成的。当使用手持相机捕捉静态场景时,需要通过在两个维度上全局移动每个图像来对齐这些图像。为了实现快速和稳健的对齐,通常使用中值阈值位图(MTB)和创建图像金字塔来计算移位量。在这项研究中,我们优化这些计算使用并行处理的方法,利用GPU。实验结果表明,该实现实现的速度高达6.24倍的基线多线程CPU实现的对齐的一个图像对。源代码可在https://github.com/kadircenk/WardMTBCuda上获得
2020-07-13 cs.CV cs.DC
Accelerating JPEG Decompression on GPUs
JPEG压缩格式几十年来一直是有损图像压缩的标准,在图像质量的微小感知损失下提供高压缩率。对于GPU加速的计算机视觉和深度学习任务,例如图像分类模型的训练,由于内存带宽的限制,高效的JPEG解码至关重要。由于许多解码器实现都是基于CPU的,因此解码后的图像数据必须通过PCI-E等互连传输到GPU等加速器,这意味着吞吐率降低。因此,JPEG解码代表了这些流水线中的相当大的瓶颈。相比之下,通过使用GPU加速的解码器可以大大提高效率。在这种情况下,只需要传输压缩数据,因为解码将由加速器处理。为了设计这种基于GPU的解码器,必须在细粒度级别上并行化各个算法。然而,单个JPEG文件的并行解码代表了一项复杂的任务。在本文中,我们提出了一种有效的方法,JPEG图像解压缩的GPU上,实现了一个重要的子集的JPEG标准。所提出的算法在任意位置的比特流中的码字位置进行评估,从而使独立块的并行解压缩。我们的性能评估表明,在A100(V100)GPU上,我们的实现可以超过最先进的实现libjpeg-turbo(CPU)和nvJPEG(GPU)的一个因素高达51(34)和8.0(5.7)。此外,它在A100上使用专用硬件JPEG解码器加速的nvJPEG上实现了高达3.4的加速比。
2021-11-17 cs.DC
gZCCL: Compression-Accelerated Collective Communication Framework for GPU Clusters
本文提出gZCCL框架,通过精度感知设计优化GPU集群上有损压缩集合通信,在512块A100 GPU上实现Allreduce和Scatter性能最高超越NCCL与Cray MPI达4.5倍和28.7倍。
2024-05-06 cs.DC
Accelerating Matrix Multiplication: A Performance Comparison Between Multi-Core CPU and GPU
本文在消费级异构平台上比较顺序 C++、OpenMP 多核 CPU 与带共享内存优化的 CUDA GPU 矩阵乘法,证明 GPU 在大矩阵上可获得最高约593倍加速。
2025-07-26 cs.DC
Accelerating Maximal Biclique Enumeration on GPUs
针对极大双团枚举在大规模图上计算效率低的问题,提出基于GPU优化的cuMBE算法,通过紧凑数组、混合并行、细粒度优化与工作窃取机制实现显著加速。
2025-05-22 cs.DC
cuSZ-$i$: High-Ratio Scientific Lossy Compression on GPUs with Optimized Multi-Level Interpolation
本文提出 GPU 误差有界科学有损压缩器 cuSZ-$i$,通过 GPU 优化的多级插值预测、高效 Huffman 编码和集成 NVIDIA Bitcomp-lossless,在相同误差界下压缩比较次优方法提升 476%。
2024-10-01 cs.DC
Accelerating Parallel Write via Deeply Integrating Predictive Lossy Compression with HDF5
有损压缩是减少HPC应用程序的存储开销和提高I/O性能的最有效解决方案之一。然而,现有的并行I/O库不能充分利用有损压缩,以加速并行写,由于缺乏深入的了解压缩写性能。为此,我们建议将预测有损压缩与HDF 5深度集成,以显着提高并行写入性能。具体来说,我们提出了分析模型来预测压缩和并行写的时间之前,实际的压缩,使压缩写重叠。我们还在这个过程中引入了一个额外的空间来处理由于压缩比的预测不确定性而导致的可能的数据溢出。此外,我们提出了一个优化,重新排序的压缩任务,以提高重叠的效率。Summit的4,096个核心的实验表明,我们的解决方案将写入性能分别提高了非压缩和有损压缩解决方案的4.5倍和2.9倍,在两个真实世界的HPC应用程序上只有1.5%的存储开销(与原始数据相比)。
2022-06-29 cs.DC cs.PF
Accelerating In-transit Isosurface Generation With Topology Preserving Compression
本文提出一种利用有损压缩的框架,通过压缩分层表示和拓扑保持压缩技术,在保证保真度的前提下加速传输中等值面生成,实现高达4倍的可视化工作流加速。
2024-08-10 cs.DC cs.GR
Trie Compression for GPU Accelerated Multi-Pattern Matching
图形处理单元允许运行大规模并行应用程序,将CPU从计算密集型资源中卸载,但GPU的内存量有限。本文提出了一种用于大规模并行模式匹配的trie压缩算法,该算法比原来的高效并行无故障aho-corasick算法减少了85%的空间需求,同时具有超过22 Gbps的吞吐量。该算法利用GPU上的压缩行存储矩阵以及共享和纹理存储器。
2017-02-13 cs.DC cs.DS
Accelerating High-Order Mesh Optimization Using Finite Element Partial Assembly on GPUs
本文提出了一种基于高阶有限元的面向GPU的网格优化方法。我们的方法依赖于固定拓扑的节点移动,通过目标矩阵优化范式(TMOP),并在整个计算网格上使用全局非线性求解,即,所有网格节点一起移动。该方法的一个关键特性是网格优化过程是在有限元运算方面进行重铸的,这使我们能够利用GPU加速高阶有限元算法领域的最新进展。例如,我们通过使用张量分解和无矩阵方法来减少数据移动,与传统的全有限元矩阵组装相比,这些方法具有更优越的性能特征,并为基于GPU的HPC硬件提供优势。我们描述的主要数学组件的方法,以及其高效的面向GPU的实现。此外,我们提出了一个易于重现的网格优化测试,可以作为网格优化社区的性能基准。
2022-12-02 cs.DC cs.MS physics.comp-ph
FZ-GPU: A Fast and High-Ratio Lossy Compressor for Scientific Computing Applications on GPUs
针对现有科学数据有损压缩器无法兼顾高压缩比与高吞吐量的问题,本文提出GPU端的FZ-GPU压缩器,通过优化压缩流水线与CUDA架构实现更优性能。
2023-05-02 cs.DC
Combining GPU and CPU for accelerating evolutionary computing workloads
本文提出一种依据基准结果动态分配 CPU 与 GPU 模拟任务的混合方案,并通过多类物理模拟模型评估其在进化计算工作负载中的加速潜力。
2025-02-16 cs.DC
Magnum.np.distributed: Accelerating Finite Difference Micromagnetic Simulations with Multiple GPUs
Kyushu University(九州大学)
本文通过PyTorch Distributed扩展Python原生微磁框架magnum.np,首次实现多GPU加速,在8个NVLink连接的GPU上对退磁有效场计算获得7.0倍加速,并通过MPI后端在CPU上实现6.8倍加速。
2026-05-31 cond-mat.mes-hall cs.DC
BlockMGARD: Accelerating Adaptive Scientific Data Reduction with Region-of-Interest Error Control on GPUs
University of Oregon(俄勒冈大学);Oak Ridge National Laboratory(橡树岭国家实验室);New Jersey Institute of Technology(新泽西理工学院);Oregon State University(俄勒冈州立大学)
本文提出支持关注区域的GPU有损压缩器BlockMGARD,通过缓存内块分解等四项改进,在真实数据集上实现了比MGARD-X更高的吞吐量、压缩比与线性扩展性,降低了I/O成本。
2026-09-02 cs.DC
Understanding GPU-Based Lossy Compression for Extreme-Scale Cosmological Simulations
为了帮助更好地了解我们的宇宙,研究人员和科学家目前正在领导超级计算机上运行极端规模的宇宙学模拟。然而,这样的模拟可以生成大量的科学数据,这通常导致与数据移动和存储相关联的数据的昂贵成本。有损压缩技术已经变得有吸引力,因为它们显著地减小了数据大小并且可以保持用于后分析的高数据保真度。在本文中,我们建议使用基于GPU的有损压缩的极端规模的宇宙学模拟。我们的贡献有三个方面:(1)我们在开源压缩基准和分析框架Focal中实现了多个基于GPU的有损压缩器;(2)我们使用Focal基于一系列评估指标,在两个真实世界的极端尺度宇宙学模拟HACC和Nyx上全面评估了使用基于GPU的有损压缩的实用性;(3)对于不同的压缩机和宇宙学模拟,我们给出了一个确定最佳构型的通用优化准则。实验结果表明,基于GPU的有损压缩可以为宇宙学模拟的后分析提供必要的精度,对测试数据集的压缩比可达5~ 15倍,压缩和解压缩吞吐量远高于基于CPU的压缩器。
2020-07-02 astro-ph.IM cs.DC physics.comp-ph
Accelerating Adaptive IDW Interpolation Algorithm on a Single GPU
本文重点研究了GPU加速的自适应逆距离加权插补算法的设计与实现。AIDW是标准IDW的改进版本,它可以根据空间点分布模式自适应地确定功率参数,实现比IDW更准确的预测。在本文中,我们首先提出了两个版本的GPU加速的AIDW,天真的版本没有从共享内存中获利和平铺的版本利用共享内存。我们还使用数据布局,数组结构(AoS)和对齐结构数组(AoaS),在单精度和双精度的上实现了朴素版本和平铺版本。然后,我们评估的GPU加速AIDW的性能进行比较,它与原来的CPU版本。实验结果表明:在单精度的上,朴素版本和平铺版本可以分别实现大约270和400的加速比。此外,在单精度的上,使用布局SoA的实现总是比使用布局AoaS的实现稍快。然而,在双精度的上,加速比仅约为8;我们还观察到:(1)与朴素版本相比,平铺版本没有获得性能提升;(2)使用SoA和AoaS不会导致计算效率的显着差异。
2015-12-10 cs.DC
Optimizing Huffman Decoding for Error-Bounded Lossy Compression on GPUs
越来越多的HPC应用需要快速有效的压缩技术来处理存储和传输中的大量数据。这些应用程序不仅需要在模拟过程中有效地压缩数据,而且还需要有效地执行解压缩以进行事后分析。SZ是一个用于科学数据的错误限制有损压缩器,cuSZ是SZ的一个版本,旨在利用GPU的功能。目前,cuSZ的压缩性能已得到显着优化,而其解压缩仍然遭受相当低的性能,因为其复杂的无损压缩步骤-定制的霍夫曼解码。在这项工作中,我们的目标是显着提高cuSZ的霍夫曼解码性能,从而进而提高整体解压缩性能。为此,我们首先深入研究了两种最先进的GPU霍夫曼解码器。然后,我们提出了一个深层次的架构优化这两种算法。具体来说,我们充分利用CUDA GPU架构,在解码/写入阶段使用共享内存,在线调整共享内存的使用量,改善内存访问模式,并减少翘曲发散。最后,我们使用八个代表性的科学数据集在Nvidia V100 GPU上评估了我们优化的解码器。我们的新的解码解决方案获得了3.64倍的平均加速比cuSZ的霍夫曼解码器,并提高其整体解压缩性能平均2.43倍。
2022-03-10 cs.DC
Cuckoo-GPU: Accelerating Cuckoo Filters on Modern GPUs
Johannes Gutenberg University Mainz(约翰内斯·古腾堡美因茨大学)
本文提出Cuckoo-GPU,一种高性能GPU上的Cuckoo过滤器库,通过随机访问模式充分利用全局内存带宽,实现比现有动态AMQ结构更高的吞吐量,且在性能上超越CPU实现。
2026-03-16 cs.DB cs.DC
Accelerating Gaussian beam tracing method with dynamic parallelism on graphics processing units
本研究利用CUDA在GPU上重构高斯波束追踪算法,通过动态并行和内存优化,在城市及开阔平面环境中分别实现高达790倍和188倍的加速,并建立了性能评估策略。
2025-01-23 cs.DC cs.PF
GPU-Accelerated Compression and Visualization of Large-Scale Vessel Trajectories in Maritime IoT Industries
自动识别系统(AIS)是一种自动船舶跟踪系统,已被广泛用于海上物联网(IoT)行业的智能交通管理和避碰服务。随着海上交通的快速发展,大量基于AIS的船舶航迹数据被采集,使得航迹数据压缩成为迫切需要和具有挑战性的问题。本文主要研究大规模血管轨迹的压缩和可视化及其图形处理单元(GPU)加速实现。通过可视化研究了压缩对血管轨迹数据质量的影响。特别是,Douglas-Peucker(DP)和核密度估计(KDE)算法,分别用于轨迹压缩和可视化,通过GPU架构的大规模并行计算能力显着加速。本文对三个不同水域的大规模AIS船舶运动数据进行了轨迹压缩和可视化的综合实验,长江口南港、成山角和舟山群岛。实验结果表明:(1)所提出的基于GPU的并行实现框架可以显著减少轨迹压缩和可视化的计算时间;(2)如果选择合适的压缩阈值,压缩血管轨迹对轨迹可视化的影响可以忽略不计;(3)通过与其他7种核函数的比较,发现高斯核函数能够产生更合适的基于KDE的可视化性能。
2020-04-19 cs.DC eess.SP
Accelerating Domain Propagation: an Efficient GPU-Parallel Algorithm over Sparse Matrices
线性约束的快速域传播已经成为当今最好的混合整数规划和伪布尔优化算法和求解器的关键组成部分,以实现峰值求解性能。输入数据中的动态算法行为、依赖结构和稀疏模式形式的干扰使得在GPU上以及更一般地在并行架构上有效实现域传播具有挑战性。这就是为什么最先进的求解器中的域传播仅是单线程的主要原因之一。在本文中,我们提出了一种新的算法域传播(a)避免了这些问题,并允许在GPU上的有效实现,是(b)能够运行传播轮完全在GPU上,而不需要任何同步或与CPU的通信。我们提出了大量的计算结果,证明了我们的方法的有效性,并表明在实际相关的问题上有可能实现充分的加速:在最先进的GPU上,我们对合理大的实例的几何平均加速约为10倍至20倍,在相当大的实例上可以高达180倍。
2021-08-25 cs.DC cs.DM cs.DS
Accelerating Number Theoretic Transformations for Bootstrappable Homomorphic Encryption on GPUs
同态加密(HE)由于提供了一种对加密消息进行隐私保护计算的方法而引起了极大的关注。数论变换(NTT)是有限整数域上离散傅立叶变换(DFT)的一种特殊形式,是实现HE加密密文快速计算的关键算法。先前的工作已经通过利用DFT优化技术在流行的并行处理平台GPU上加速了NTT及其逆变换。然而,这些基于GPU的研究缺乏对NTT和DFT之间的主要差异的全面分析,或者仅考虑小的HE参数,这些HE参数在不解密的情况下可以执行的算术运算的数量方面具有严格的约束。在本文中,我们分析了NTT和DFT的算法特征,并评估了在现代GPU上应用通常适用于DFT和NTT的优化时NTT的性能。从分析中,我们确定,NTT遭受严重的主内存带宽瓶颈的大型HE参数集。为了解决主内存带宽的问题,我们提出了一种新的NTT特定的对飞根生成计划被称为对飞旋转(OT)。与基线基2 NTT实现相比,在应用所有优化(包括OT)后,我们在现代GPU上实现了4.2倍的加速。
2020-12-03 cs.CR cs.DC
GPU Volume Rendering with Hierarchical Compression Using VDB
本文提出利用OpenVDB和NanoVDB对大规模体数据进行分层压缩与即时解压,实现快速、低内存的GPU体渲染,并可直接替代现有3D纹理渲染方案。
2025-04-10 cs.DC cs.GR