On the Accelerating of Two-dimensional Smart Laplacian Smoothing on the GPU
本文提出了一种GPU加速实现的二维的【形】智能拉普拉斯平滑。该实现是在我们的范例的指导下开发的,用于加速基于Laplacian的网格平滑[13]。两种类型的常用数据布局,阵列的结构(AoS)和阵列的结构(SoA)被用来表示三角形网格在我们的实现。采用了两种迭代形式,对中间数据的交换有不同的选择。此外,CUDA动态并行(CDP)功能,实现智能拉普拉斯平滑嵌套并行。实验结果表明:(1)在GPU GT 640上,我们的实现可以获得高达44倍的加速比;(2)数据布局AoS总是可以获得比SoA布局更好的效率;(3)需要交换中间节点坐标的表单总是比不交换数据的表单慢;(4)使用CDP功能的实现版本比不采用CDP的版本稍快。
2015-02-02 cs.DC
Accelerating Adaptive IDW Interpolation Algorithm on a Single GPU
本文重点研究了GPU加速的自适应逆距离加权插补算法的设计与实现。AIDW是标准IDW的改进版本,它可以根据空间点分布模式自适应地确定功率参数,实现比IDW更准确的预测。在本文中,我们首先提出了两个版本的GPU加速的AIDW,天真的版本没有从共享内存中获利和平铺的版本利用共享内存。我们还使用数据布局,数组结构(AoS)和对齐结构数组(AoaS),在单精度和双精度的上实现了朴素版本和平铺版本。然后,我们评估的GPU加速AIDW的性能进行比较,它与原来的CPU版本。实验结果表明:在单精度的上,朴素版本和平铺版本可以分别实现大约270和400的加速比。此外,在单精度的上,使用布局SoA的实现总是比使用布局AoaS的实现稍快。然而,在双精度的上,加速比仅约为8;我们还观察到:(1)与朴素版本相比,平铺版本没有获得性能提升;(2)使用SoA和AoaS不会导致计算效率的显着差异。
2015-12-10 cs.DC
BigGraphVis: Leveraging Streaming Algorithms and GPU Acceleration for Visualizing Big Graphs
图形布局是探索海量图形的关键。大量的节点和边不允许网络分析软件产生有意义的普适网络的可视化。长计算时间,内存和显示限制包围软件的能力,探索大量的图形。介绍了一种新的并行图形可视化方法BigGraphVis,该方法利用GPU的并行处理和社区发现算法来实现图形社区的可视化。将并行流媒体社区发现算法与概率数据结构相结合,充分利用图形处理器(GPU)的并行处理。据我们所知,这是第一次尝试将流算法的强大功能与GPU计算相结合,以应对大图形可视化挑战。我们的方法提取社区信息,在几个通过的边缘列表,并使用Forcephilas2算法呈现社区结构。我们对大量真实图形的实验表明,通过可视化图形社区可以实现大约70%到95%的加速,并且可视化似乎是有意义和可靠的。我们检查的最大的图包含超过300万个节点和3400万条边,布局计算大约花了五分钟。我们还观察到,BigGraphVis着色策略可以成功地应用于生成信息量更大的Forcebrahas2布局。
2021-08-01 cs.CG cs.DC cs.GR
PortLBM: A Portable Lattice Boltzmann Tool Leveraging SYCL on AMD, NVIDIA, and Intel GPUs
University of Stuttgart(斯图加特大学)
研究针对GPU加速下LBM的跨平台可移植性问题,提出基于SYCL的PortLBM框架,评估其在不同GPU架构上多种数据布局和算法变体对模拟吞吐量的影响,强调在异构计算环境中便携式LBM软件的必要性。
2026-07-24 cs.DC cs.PF
ADHA: Automatic Data layout framework for Heterogeneous Architectures
数据布局在确定运行在给定架构上的给定应用程序的性能方面起着至关重要的作用。现有的多核和异构系统的并行编程框架将选择数据布局的责任留给了程序员。因此,将数据布局选择的负担转移到优化编译器上可以极大地提高程序员的生产力和应用程序的性能。在这项工作中,我们介绍{ \ADHA }:一个两级的分层制定的数据布局问题的现代异构体系结构。我们已经创建了一个参考实现ADHA在异构Habanero-C(H2 C)并行编程系统。对于在CPU+GPU异构平台上运行的两个基准程序,与手动指定的布局相比,ADHA显示出高达6.92 $\times$的显著性能优势。
2014-07-18 cs.DC
LEGO: A Layout Expression Language for Code Generation of Hierarchical Mapping
University of Utah(犹他大学);University of Copenhagen(哥本哈根大学)
LEGO是一种用于生成分层映射代码的布局表达语言,通过布局规范生成索引表达式,可集成至编译器和模板中,实现数据和计算优化。
2025-12-15 cs.DC cs.PF cs.PL
A new GPU implementation for lattice-Boltzmann simulations on sparse geometries
我们描述了一个高性能的实现的格子玻尔兹曼方法(LBM)稀疏的3D几何图形处理器(GPU)。这项工作的主要贡献是一个数据布局,允许在LBM的传播步骤,以尽量减少冗余的内存事务的数量。我们表明,通过使用小的三维瓦片的均匀网格和仔细的数据放置,可以利用D3Q19网格和双精度的数的最大理论GPU内存带宽的70%以上。我们的实现的性能进行了彻底检查,并与其他GPU实现的LBM。所提出的方法执行最好的稀疏的几何形状具有良好的空间局部性。
2017-10-07 cs.DC cs.PF
GPU-Accelerated Selected Basis Diagonalization with Thrust for SQD-based Algorithms
IBM Quantum IBM Research - Tokyo(IBM量子IBM研究-东京);Center for Computational Science RIKEN(理化学研究所计算科学中心)
本文提出基于Thrust的GPU加速选基对角化方法,实现对SQD算法的高效加速,实验显示在CPU上速度提升达40倍。
2026-01-23 cs.DC
GPU Scheduler for De Novo Genome Assembly with Multiple MPI Processes
针对从头基因组组装算法ELBA的成对比对性能瓶颈,提出3种适配多MPI进程与多GPU的轮询式GPU调度器,实验验证其可显著提升性能,最优实现相比基线实现7-8倍加速。
2023-10-10 cs.DC
A Parallel Sparse Tensor Benchmark Suite on CPUs and GPUs
张量计算提出了重大的性能挑战,影响了从机器学习、医疗分析、社会网络分析、数据采掘到量子化学和信号处理的广泛应用。提高张量计算性能的努力包括探索常见张量内核中的数据布局、执行调度和并行性。这项工作提出了一个基准套件的任意阶稀疏张量内核使用国家的最先进的张量格式:坐标(COO)和层次坐标(HiCOO)的CPU和GPU。它提出了一组参考张量核实现,这些实现与从合成图生成技术扩展的真实世界张量和幂律张量兼容。我们还提出了这些内核的Roofline性能模型,以提供从稀疏张量视图的计算机平台的见解。
2020-01-02 cs.DC cs.PF
Optimizing Bloom Filters on Modern GPUs
NVIDIA Corporation(英伟达);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Johannes Gutenberg University(约翰内斯·古腾堡大学)
为现代GPU架构优化布洛赫滤波器,通过向量化、线程合作和计算延迟的优化,提升吞吐量并平衡速度与精度。
2026-08-12 cs.DC
Efficient GPU-Centered Singular Value Decomposition Using the Divide-and-Conquer Method
针对传统SVD方法在异构系统中面板分解慢、CPU-GPU数据传输频繁的问题,提出GPU中心化SVD算法,融合基于GPU的双对角分治方法,重构计算流程消除数据传输,优化BLAS利用率,在AMD MI210和NVIDIA V100上实现显著加速。
2025-08-15 cs.DC cs.PF
Advancing the distributed Multi-GPU ChASE library through algorithm optimization and NCCL library
本文通过重构内存布局、并行化、通信避免算法及 NCCL 替换 MPI 优化分布式多 GPU ChASE,使其可求解百万阶稠密 Hermitian 问题并扩展到 900 节点。
2023-09-27 cs.CE cs.DC
SIVF: GPU-Resident IVF Index for Streaming Vector Search
Tacoma School of Engineering and Computing(塔科马工程与计算学院);Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学系);University of Washington(华盛顿大学)
SIVF是一种GPU原生的IVF索引,通过冲突自由的slab分配和非连续内存的合并搜索算法,实现流式向量搜索中的高效原地修改,显著降低删除延迟并展现接近线性的扩展性。
2026-03-26 cs.DB cs.DC cs.IR
Optimizing Memory Efficiency for Deep Convolutional Neural Networks on GPUs
North Carolina State University(北卡罗来纳州立大学);NEC Labs America(NEC美国实验室)
利用大型数据集,深度卷积神经网络(CNN)实现了最先进的识别精度。然而,由于大量的计算和存储器操作,它们需要大量的执行时间。GPU的大规模并行计算能力使其成为加速CNN的理想平台之一,并且已经开发了许多基于GPU的CNN库。虽然现有的工作主要集中在CNN的计算效率,CNN的内存效率在很大程度上被忽视。然而,CNN具有复杂的数据结构,并且它们的存储器行为可以对性能产生重大影响。在这项工作中,我们研究了各种CNN层的内存效率,并揭示了数据布局和内存访问模式的性能影响。实验表明,我们提出的优化对单层和各种网络的普遍效果,单层高达27.9倍,整个网络高达5.6倍。
2016-10-12 cs.DC cs.LG cs.NE
WarpCore: A Library for fast Hash Tables on GPUs
哈希表无处不在。诸如插入和查询的摊销常数时间复杂度以及紧凑的存储器布局等属性使它们成为具有多种应用的通用关联数据结构。在许多领域中出现的快速增长的数据量激发了为现代并行架构设计的加速哈希表的需求。在这项工作中,我们利用现代GPU的快速存储器接口与并行哈希方案,以改善全局内存访问模式,设计WarpCore -一个通用的哈希表数据结构库。独特的设备端操作允许完全在GPU上构建高性能数据处理管道。我们的实现在单个GV 100 GPU上实现了每秒高达16亿次的插入和高达43亿次的检索,从而超越了最先进的解决方案cuDPP、SlabHash和NVIDIA RAPIDS cuDF。对于超过$90\%$的高负载因数,此性能优势变得更加明显。为了克服单个GPU的内存限制,我们在密集的NVLink拓扑上扩展我们的方法,这使我们在DGX服务器上接近最佳的弱扩展。我们进一步展示了WarpCore如何用于加速现实世界的生物信息学应用程序(宏基因组分类),与最先进的基于CPU的解决方案相比,加速比超过两个数量级。WC是用C++/CUDA-C编写的,可在https://github.com/sleeepyjack/warpcore上公开获取。
2020-11-11 cs.DC
HC-SpMM: Accelerating Sparse Matrix-Matrix Multiplication for Graphs with Hybrid GPU Cores
针对真实图不规则性导致GPU上SpMM效率低的问题,提出HC-SpMM算法,利用混合GPU核心并结合数据划分、核心选择等优化,还集成至GNN流水线,在14个数据集上实现优于现有方案的加速效果。
2024-12-12 cs.DC
SPLASH: Switching Parallel Layouts of Attention with Seamless Handoff for LLM Serving
University of Chinese Academy of Sciences(中国科学院大学)
SPLASH提出一种在请求运行期间无缝切换注意力并行布局的服务系统,利用KV缓存与权重分片解耦实现近乎零开销的布局转换,显著提升LLM服务吞吐量。
2026-09-30 cs.AI cs.DC
JZ-Tree: GPU friendly neighbour search and friends-of-friends with dual tree walks in JAX plus CUDA
University of Vienna(维也纳大学)
本文提出一种针对GPU架构的Morton(z-order)平面树层级结构,实现高效的双树遍历,显著提升大规模问题的性能,支持多GPU分布式计算。
2026-04-07 astro-ph.CO cs.DC physics.comp-ph
SaberLDA: Sparsity-Aware Learning of Topic Models on GPUs
Tsinghua Universtiy(清华大学)
针对现有GPU上LDA系统因稠密结构无法支持大量主题的问题,提出稀疏感知的SaberLDA系统,通过新型数据布局等优化实现亚线性复杂度,单卡即可处理数十亿词元、上万主题的任务。
2016-10-12 cs.DC cs.IR cs.LG
A Feature-Major Codebook for Memory-Efficient Sparse-Binary Self-Organizing Maps: Scaling a MEDLINE Atlas to 1.05 Million Neurons on a Single Consumer GPU
College of Medicine and Dentistry, James Cook University(詹姆斯库克大学医学与牙科学院)
本文提出特征主导码本的稀疏-二元自组织映射,通过优化码本布局将BMU搜索加速4.5-8.5倍,在单24 GB GPU上训练MEDLINE图谱达105万神经元,是目前最大的自组织映射,性能远超现有方法。
2026-09-03 cs.DC cs.LG
Scalable semi-supervised dimensionality reduction with GPU-accelerated EmbedSOM
Faculty of Mathematics and Physics of Charles University(查理大学数学与物理学院);Luxembourg Centre for Systems Biomedicine, University of Luxembourg(卢森堡大学卢森堡系统生物医学中心);Institute of Haematology and Blood Transfusion(血液学与输血研究所);Institute of Organic Chemistry and Biochemistry(有机化学与生物化学研究所)
简化方法作为可视化工具在不同的科学领域有着广泛的应用。虽然存在许多不同的方法,但它们的性能通常不足以提供对许多当代数据集的快速洞察,并且无监督的使用模式阻止用户利用这些方法进行数据集探索和微调细节以提高可视化质量。我们提出了一种高性能的半监督降维软件,用于对具有数百万个数据点的高维数据集进行交互式用户可操纵的可视化。RISTOSOM建立在嵌入式SOM算法的GPU加速实现基础上,并辅以几种基于地标的算法,用于将无监督模型学习算法与用户监督相结合。我们展示了在现实数据集上的CNOSOM应用,它有助于生成高质量的可视化,其中包含用户指定的布局并专注于某些功能。我们相信半监督降维将提高单细胞细胞计数等科学领域的数据可视化可能性,并为数据集探索和注释的新方向提供快速有效的基础方法。
2022-01-03 cs.DC cs.LG stat.ML
A Distributed-memory Tridiagonal Solver Based on a Specialised Data Structure Optimised for CPU and GPU Architectures
本文提出分布式内存三对角求解器DistD2-TDS,利用对角占优特性和专用数据结构减少通信并优化CPU/GPU性能,大规模测试显示可维持约66%的理论峰值带宽。
2024-11-20 cs.DC physics.comp-ph
Accelerator-Oriented Algorithm Transformation for Temporal Data Mining
时态数据采掘算法在包括计算神经科学在内的许多应用领域,特别是在尖峰训练数据的分析中变得越来越重要。虽然应用科学家已经能够很容易地收集多神经元数据集,但由于缺乏强大的算法和无法访问强大的硬件平台,分析能力一直落后。GPU架构(如Nvidia的GTX 280)的出现提供了一个具有成本效益的选择,可以将这些功能带到神经科学家的桌面上。与其将现有的算法移植到这个架构上,我们提倡算法转换的需要,即,重新考虑算法的设计,不必严格反映其串行实现。我们提出了一种新的实现频繁发作发现算法,通过重新审视“在大”的问题,如问题分解以及“在小”的问题,如数据布局和内存访问模式。这是不平凡的,因为频繁的情节发现并不适合GPU友好的数据并行映射策略。许多数据集的应用程序和CPU以及以前的GPU实现的比较展示了我们的方法的优势。
2009-05-13 cs.DB cs.DC
Hector: An Efficient Programming and Compilation Framework for Implementing Relational Graph Neural Networks in GPU Architectures
本文提出 Hector 两级中间表示与代码生成框架,通过减少内存访问、灵活数据访问及解耦优化,在 GPU 上高效实现 RGNN,并显著降低编程成本。
2024-04-09 cs.DC cs.NE
DB-SpMSpV: Dual-View Blocked Sparse Matrix-Sparse Vector Multiplication for Dynamic GPU Workloads
Beihang University(北京航空航天大学)
本文提出面向动态GPU工作负载的双视角分块SpMSpV框架DB-SpMSpV,集成至DB-BFS和DB-Decoding后,在A100和RTX 4090上相比现有方法实现了显著加速。
2026-08-18 cs.DC
Compiler-supported reduced precision and AoS-SoA transformations for heterogeneous hardware
Department of Computer Science, Institute for Data Science, Durham University(达勒姆大学计算机科学与数据科学研究所)
本研究通过编译器支持的降精度和AoS-SoA转换优化异构硬件上的粒子模拟性能,探讨了不同GPU平台下的加速效果与转换策略。
2025-12-05 cs.DC cs.MS cs.PL
Ave: Guiding Agentic GPU Optimization Using Data-Flow Invariants
CausalFlow Inc.(CausalFlow公司);HKUST(香港科技大学);Tsinghua University(清华大学);Stanford University(斯坦福大学);UCAS;UC Riverside(UC河滨分校)
ARGUS通过数据流不变量指导代理生成高效GPU内核,解决传统代理在关键计算任务中的性能不足问题,实现接近人工优化的性能和广泛的任务泛化能力。
2026-09-16 cs.AI cs.DC cs.PL
Multi-GPU Hybrid Particle-in-Cell Monte Carlo Simulations for Exascale Computing Systems
KTH Royal Institute of Technology(皇家理工学院);Max Planck Institute for Plasma Physics(马克斯·普朗克等离子体物理研究所);Faculty of Mechanical Engineering, University of Ljubljana(卢布尔雅那大学机械工程学院);Max Planck Computing and Data Facility(马克斯·普朗克计算与数据中心);Institute of Plasma Physics of the CAS(捷克科学院等离子体物理研究所);University of Oregon(俄勒冈大学)
本文提出一种多GPU混合MPI+OpenMP实现,通过OpenMP目标任务重叠计算与通信,提升异构HPC系统中PIC蒙特卡洛模拟的可扩展性与效率。
2026-06-08 cs.DC cs.PF physics.plasm-ph