Efficient GPU Implementation of Static and Incrementally Expanding DF-P PageRank for Dynamic Graphs
本文提出了高效的静态和动态图 DF-P PageRank 的 GPU 实现，通过基于拉取的无原子计算和顶点度数划分优化性能，在 NVIDIA A100 上显著超越现有方法，并在动态图上实现 2.1-3.1 倍加速。
2024-04-24 cs.DC cs.SI
PGAbB: A Block-Based Graph Processing Framework for Heterogeneous Platforms
设计灵活的图形内核，可以在各种平台上运行良好，是一个至关重要的研究问题，由于频繁使用的图形建模数据和最近的架构的进步和品种。在这项工作中，我们提出了一种新的图形处理框架，PGAbB（块并行图算法），现代共享内存异构平台。我们的框架实现了一个基于块的编程模型。这允许用户使用对子图进行操作的内核来表达图算法。PGAbB支持适合主机DRAM但不适合GPU设备存储器的图形计算，并提供简单但有效的调度技术，以将计算调度到异构架构中的所有可用资源。我们已经证明，可以很容易地实现一组不同的图算法在我们的框架中开发五个算法。我们的实验结果表明，PGAbB实现实现更好的或有竞争力的性能相比，手工优化的实现。基于我们对五种图形算法和44种图形的实验，在中值中，PGAbB分别比GAPBS、Galois、Ligra、LAGraph Galois-GPU和Gunrock图形处理系统的性能高1.6、1.6、5.7、3.4、4.5和2.4倍。
2022-09-09 cs.DC cs.DS
An Adaptive Load Balancer For Graph Analytical Applications on GPUs
图形分析工作负载的GPU线程之间的负载平衡是困难的，因为图形应用程序的不规则性和顶点度的高度可变性，特别是在幂律图中。我们描述了一种新的负载均衡计划来解决这个问题。我们的计划是在IrGL编译器中实现的，允许用户从高级顺序程序中为GPU生成高效的负载平衡代码。我们评估了多达16个分布式GPU上的几个图形分析应用程序，使用IrGL来编译代码，并使用Gluon基板进行GPU间通信。我们的实验表明，该计划可以实现平均速度提高2.2倍的输入，遭受严重的负载不平衡问题时，以前的国家的最先进的负载平衡计划使用。
2020-02-27 cs.DC
Graph Traversal on Tensor Cores: A BFS Framework for Modern GPUs
Department of Computer Science and Engineering, Faculty of Engineering and Natural Sciences, Sabancı University（萨班哲大学工程与自然科学学院计算机科学与工程系）；Center of Excellence in Data Analytics, Sabancı University（萨班哲大学数据卓越中心）
提出BLEST框架，通过将广度优先搜索重构为位级稀疏矩阵-向量计算，并引入二值化虚拟切片集、优化张量核心布局和惰性顶点更新等机制，在GPU上实现了平均22.0倍于GAP等现有方法的加速。
2026-06-03 cs.DC cs.DS
Multi-GPU Graph Analytics
我们提出了一个单节点，多GPU可编程图形处理库，允许程序员轻松地扩展单GPU图形算法，以实现可扩展的性能与数十亿条边的大型图形。直接使用单GPU实现，我们的设计只需要程序员指定一些算法相关的问题，隐藏大多数多GPU相关的实现细节。我们分析了在不同的图形原语和数据集的背景下，可扩展性的理论和实践限制。我们描述了几个优化，如方向优化遍历，和一个刚刚足够的内存分配方案，更好的性能和更小的内存消耗。与以前的工作相比，我们在操作和数据集上实现了一流的性能，包括随着系统中GPU数量的增加，在大多数原语上具有出色的强可扩展性和弱可扩展性。
2017-03-01 cs.DC
PPipe: Efficient Video Analytics Serving on Heterogeneous GPU Clusters via Pool-Based Pipeline Parallelism
本文提出 PPipe 推理服务系统，利用基于池的流水线并行、MILP 控制平面和自适应批处理，在异构 GPU 集群上提升视频分析推理吞吐量与低端 GPU 利用率。
2025-07-24 cs.DC
A Comparative Study on Exact Triangle Counting Algorithms on the GPU
我们使用三种不同的方法在GPU上实现精确的三角形计数：子图匹配到三角形模式;可编程图形分析，集合相交方法;和基于稀疏矩阵矩阵乘法的矩阵公式。这三种方法都提供了优于CPU实现和可比GPU实现的一流性能，其中图分析方法实现了最佳性能，因为它能够利用有效的过滤步骤来消除不必要的工作及其高性能的集合相交核心。
2018-04-18 cs.DC
Fast Integral Histogram Computations on GPU for Real-Time Video Analytics
在许多多媒体内容分析框架中，表示为直方图的特征似然图在整个算法中起着关键作用。积分直方图为在恒定时间内提取多尺度基于直方图的区域描述符提供了有效的计算框架，这些区域描述符被认为是许多视频内容分析框架的主要构建块。我们评估四个不同的映射的积分直方图计算到图形处理单元（GPU）使用不同的内核优化策略。我们的内核以交叉编织或波前扫描顺序对行和列直方图执行累积求和，使用不同的数据组织和调度方法，这些方法严重影响GPU资源（核心和共享内存）的利用率。与基于条带的组织相比，将3D阵列平铺成更小的规则数据块显著加快了计算效率。与单线程顺序CPU实现相比，使用GTX Titan X图形卡，使用对角波前扫描的平铺积分直方图对于640 x 480图像和32个仓具有约300.4帧/秒的最佳性能，加速因子约为120。双缓冲已被利用来重叠跨图像序列的计算和通信。将积分直方图箱计算映射到多个GPU上使我们能够以0.73 Hz的帧速率和比单线程CPU实现高153倍的加速因子以及比16线程CPU实现高45倍的加速因子来处理32千兆字节的积分直方图数据（64 MB图像和128个箱）。
2017-11-06 cs.DC
A Data as a Service (DaaS) Model for GPU-based Data Analytics
具有要为消费者提供的资源的基于云的服务越来越成为规范，特别是对于大数据、时空数据采掘和应用服务，这些服务强加用户同意的服务质量（QoS）规则或服务水平协议（SLA）。考虑到数据中心和云系统的普遍性，需要考虑成本，效用和能源的系统的实时分析。本文提出了一种用于数据即服务（DaaS）的GPU系统的覆盖模型，以提供来自数据中心或云系统的网络数据、客户、投资者和用户数据的实时数据分析。使用一个模型层来定义一个学习协议和系统，我们给出了一个定制的，有利可图的系统在GPU上的DaaS。如结果所示，支持GPU的聚类模型分析的预处理和初始操作是有希望的。我们在真实世界的数据集上检查模型，以建模大数据集或时空数据采掘服务。我们还使用聚类、神经网络的自组织特征映射（SOFM或SOM）来生成我们的模型的结果，以生成DaaS模型的聚类分布。到目前为止的实验结果表明，一个有前途的模型，可以提高SLA和/或QoS的DaaS。
2018-02-05 cs.DC
Specializing Coherence, Consistency, and Push/Pull for GPU Graph Analytics
这项工作提供了第一项研究，以探索更新传播的相互作用，有和没有细粒度的同步（推与拉），新兴的一致性协议（GPU与DeNovo一致性），和以软件为中心的一致性模型（DRF 0，DRF 1和DRFrlx）的图形工作负载与本地统一共享内存的新兴集成GPU-CPU系统。我们研究了6个图形应用程序，其中6个图形输入用于在12个系统（硬件+软件）配置上运行的总共36个工作负载，这些配置反映了更新传播，一致性和内存一致性的上述设计空间。我们做出了三个重要贡献。首先，我们表明，对于所有工作负载，没有单一的最佳系统配置，激励系统具有灵活的一致性和一致性支持。其次，我们开发了一个模型，以准确地预测最佳的系统配置-该模型可以由软件设计人员使用，以决定推与拉和一致性模型和灵活的硬件调用适当的一致性和一致性配置为给定的工作负载。第三，我们表明，这里探索的设计维度是相互依赖的，加强了上述设计维度的软硬件协同设计的需要。例如，软件设计人员在决定推还是拉时必须考虑硬件支持的一致性模型--在某些情况下，如果硬件支持DRFrlx，推可能更好，而如果硬件不支持DRFrlx，拉可能更好。
2020-02-25 cs.DC
AGILE: Lightweight and Efficient Asynchronous GPU-SSD Integration
针对GPU内存不足及现有GPU-centric同步I/O导致线程停滞的问题，提出AGILE轻量级异步I/O库，通过消除死锁风险、集成HBM软件缓存及重叠计算与I/O，在多类工作负载上实现显著性能提升与开销降低。
2025-08-26 cs.DC
Performance Impact of Memory Channels on Sparse and Irregular Algorithms
图形处理通常被认为是一个内存限制的问题，而不是计算限制的问题。一种常见的思路是，更多的可用内存带宽对应于更好的图形处理性能。然而，在这项工作中，我们表明，在利用内存系统的图形算法的关键因素不一定是原始带宽，甚至内存请求的延迟。相反，我们表明，性能是成正比的内存通道的数量有限的空间局部性处理小数据传输。使用几个广泛使用的图形框架，包括Gunrock（在GPU上）和GAPBS \& Ligra（用于CPU），我们使用两个独特的存储层次结构（基于DDR和HBM/MCDRAM）来评估关键图分析内核。我们的研究结果表明，几个Pascal代GPU内存子系统的峰值带宽差异并没有反映在各种分析的性能中。此外，我们在CPU和Xeon Phi系统上的实验表明，在几个不同的应用程序中，使用的内存通道数量可能是性能的决定性因素。对于具有较小线程计数的CPU系统，内存通道可能未被充分利用，而具有高线程计数的系统可能使内存子系统过饱和，这导致有限的性能。最后，我们模型的潜在的性能改进，增加更多的内存通道，更窄的访问宽度比在当前的平台上发现，我们分析了性能权衡的两个最突出的类型的内存访问中发现的图形算法，流和随机访问。
2019-10-08 cs.AR cs.DC cs.PF
Vortex: Overcoming Memory Capacity Limitations in GPU-Accelerated Large-Scale Data Analytics
针对GPU内存容量有限及PCIe通信瓶颈问题，提出Vortex框架，通过优化IO原语利用多GPU系统所有PCIe链路为单目标GPU提供IO支持，分离内核开发与IO调度，延迟物化技术提升性能5.7倍，性价比提升2.5倍。
2025-02-13 cs.DB cs.DC
A Fine-Grained Hybrid CPU-GPU Algorithm for Betweenness Centrality Computations
介数中心性（BC）是大规模图的一个重要的图分析应用。虽然有许多努力在多核CPU和众核GPU上并行化介数中心算法，在这项工作中，我们提出了一种新的细粒度CPU-GPU混合算法，将图形划分为CPU和GPU分区，并同时在CPU和GPU资源上执行BC计算，同时具有非常少量的CPU-GPU通信。在我们的混合BC算法的正向阶段利用BC问题中固有的多源属性。我们还执行了一个新的混合和异步向后阶段，执行最小的CPU-GPU同步。使用大量具有不同特征的图进行的评估表明，我们的混合方法比基于流行的批量同步范式（BSP）方法的现有混合算法在性能上提高了80%，并且CPU-GPU通信减少了80 - 90%。
2020-08-13 cs.DC
Technical Report: Accelerating Dynamic Graph Analytics on GPUs
由于图形分析通常涉及计算密集型操作，因此GPU已被广泛用于加速处理。然而，在诸如社交网络、网络安全和欺诈检测的许多应用中，它们的代表图频繁地演变，并且必须在GPU上执行图结构的重建以并入更新。因此，图的重建成为处理高速图流的瓶颈。在本文中，我们提出了一个基于GPU的动态图存储方案，以支持现有的图形算法容易。此外，我们提出了并行更新算法，以支持高效的流更新，使维护的图形是立即可用于GPU上的高速分析处理。我们在大规模真实数据集和合成数据集上使用三个流应用程序进行了广泛的实验，证明了我们所提出的方法的优越性能。
2018-06-27 cs.DC cs.DS
Anonymized Network Sensing using C++26 std::execution on GPUs
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
本文探讨使用 C++26 Senders 模型在密集 GPU 系统上开发匿名网络感知图挑战，该方法将 GPU 视为一等资源，在 8 个 NVIDIA A100 上相比串行 GraphBLAS 基线实现高达 55 倍性能提升。
2025-10-15 cs.DC
SOLANET: Distributed Neighbor Graph Construction on GPU-Accelerated Systems
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
提出SOLANET，一种在GPU加速分布式系统上通过本地图构建和远程近似最近邻搜索实现高效邻居图构建的工具，在MI300A APU上单GPU性能优于现有方法，并在大规模数据上展示近线性加速。
2026-05-26 cs.DC
Accelerating Sparse Matrix-Matrix Multiplication on GPUs with Processing Near HBMs
SOLAB, SK hynix America（SK海力士美国公司 SOLAB）；AMS, SK hynix（SK海力士 AMS）；Texas State University（德克萨斯州立大学）
本文提出了一种基于哈希的多阶段SpGEMM方法和AIA技术，通过近内存处理优化GPU HBM上的稀疏矩阵矩阵乘法，显著提升性能，尤其在图分析和GNN训练任务中表现突出。
2025-12-12 cs.DC
Mosaic: GPU Sharing with Latency Guarantees through Kernel-Level Interference Prediction
ETH Zurich（苏黎世联邦理工学院）；University of Oxford（牛津大学）；Wayve
Mosaic通过内核级干扰预测模型显式建模GPU干扰机制，结合分析与轻量学习，降低预测误差达一个数量级，并集成调度器实现延迟保证与吞吐量最大化。
2026-10-07 cs.DC
The GPU vs Phi Debate: Risk Analytics Using Many-Core Computing
再保险投资组合的风险覆盖全球发生的自然灾害，如地震和飓风，量化采用模拟。这些模拟是计算密集型的，需要处理大量的数据。使用众核硬件加速器（如英特尔至强融核和NVIDIA图形处理单元（GPU））是实现高性能风险分析的理想选择。在本文中，我们着手研究如何加速器可以在风险分析中使用，重点是开发并行算法的聚合风险分析，模拟计算的可能最大损失的投资组合考虑主要和次要的不确定性。关键的结果是，这两种硬件加速器在不同的环境中都很有用;在不考虑数据传输时间的情况下，Phi在独立使用时的执行时间最低，而GPU与混合平台中的主机一起产生了最佳性能。
2015-01-26 cs.CE cs.DC
GNNAdvisor: An Adaptive and Efficient Runtime System for GNN Acceleration on GPUs
作为基于图的深度学习的新兴趋势，图神经网络（GNN）因其生成高质量节点特征向量（嵌入）的能力而脱颖而出。然而，现有的一刀切的GNN实现不足以赶上不断发展的GNN架构，不断增加的图形大小和不同的节点嵌入维度。为此，我们提出了\textbf{GNNAdvisor}，一个自适应和高效的运行时系统，以加速GPU平台上的各种GNN工作负载。首先，GNNAvisor从GNN模型和输入图中探索并识别出几个与性能相关的特征，并将其用作GNN加速的新驱动力。其次，GNNAvisor实现了一种新颖高效的2D工作负载管理，专为GNN计算量身定制，以提高不同应用设置下的GPU利用率和性能。第三，GNNAvisor利用GPU的存储层次结构，根据GPU内存结构和GNN工作负载的特点，优雅地协调GNN的执行，从而实现加速。此外，为了实现自动运行时优化，GNNAvisor集成了一个轻量级的分析模型，用于有效的设计参数搜索。广泛的实验表明，GNNAvisor在各种数据集的主流GNN架构上的性能优于最先进的GNN计算框架，例如Deep Graph Library（平均速度快于$3.02\times$）和NeuGraph（快于$4.10\times$）。
2021-06-20 cs.DC
GPU-Tile-Sim: A Tile-Centric GPU Simulation Framework for LLM Hardware-Software Co-Design
Shanghai Jiao Tong University（上海交通大学）；National University of Singapore（新加坡国立大学）；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
研究针对大语言模型中GPU内核给性能模型带来的挑战，提出GPU-Tile-Sim框架，以瓦片图表示内核执行，设计前后端，在多种工作负载上评估，精度高，还扩展到Blackwell验证其对设计分析的有效性。
2026-07-14 cs.DC
Parallel GPU-Enabled Algorithms for SpGEMM on Arbitrary Semirings with Hybrid Communication
Cornell University（康奈尔大学）
本文提出了一种基于GPU的分布式内存SpGEMM算法，通过混合通信方案优化进程间通信，实现对大输入矩阵的加速
2025-12-22 cs.DC
Serving Compound Inference Systems on Datacenter GPUs
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
JigsawServe通过自适应模型选择和GPU空间划分，高效优化复合推理系统的延迟、准确率和成本
2026-03-09 cs.DC
MERBIT: A GPU-Based SpMV Method for Iterative Workloads
Sun Yat-sen University（中山大学）；Guangdong University of Finance and Economics（广东财经大学）
MERBIT通过合并路径分区和紧凑位字段描述优化稀疏矩阵-向量乘法，提升工作负载平衡和内存访问效率，实验表明其在多种大规模不规则数据集上优于现有方法。
2026-05-08 cs.DC
HC-SpMM: Accelerating Sparse Matrix-Matrix Multiplication for Graphs with Hybrid GPU Cores
针对真实图不规则性导致GPU上SpMM效率低的问题，提出HC-SpMM算法，利用混合GPU核心并结合数据划分、核心选择等优化，还集成至GNN流水线，在14个数据集上实现优于现有方案的加速效果。
2024-12-12 cs.DC
TileSight: A First-Principles Tile-Centric Analytical GPU Performance Model from Cores to Clusters
Imperial College London（帝国理工学院）；Peking University（北京大学）；Shanghai Jiao Tong University（上海交通大学）；Tile-AI；Microsoft Research（微软研究院）；University of Edinburgh（爱丁堡大学）
研究针对GPU编程框架中性能分析工具滞后问题，提出TileSight工具，以瓦片为中心从核心到集群进行性能建模，能预测单GPU内核延迟、缓存命中率，在多GPU场景也有良好表现，优化时可选择有竞争力的瓦片配置。
2026-07-27 cs.DC cs.PF
Serverless GPU Architecture for Enterprise HR Analytics: A Production-Scale BDaaS Implementation
Department of Engineering Management and Systems Engineering, George Washington University, USA（工程管理与系统工程系，乔治华盛顿大学）；Workday, Inc.（Workday公司）；Department of Computer Science and Information Technology, Youngstown State University, USA（计算机科学与信息技术系，扬斯敦州立大学）
本文提出了一种结合无服务器GPU和TabNet的BDaaS架构，实现了高吞吐量、低延迟和合规性的企业人力资源分析解决方案。
2026-01-29 cs.AI cs.DC cs.LG
Beyond BFS: A Comparative Study of Rooted Spanning Tree Algorithms on GPUs
Indian Institute of Technology Tirupati（印度理工学院提鲁帕蒂分校）
本文研究了GPU上根spanning树算法的比较，提出基于连接性框架的RST构建方法，在高直径图上实现300倍加速，推动GPU图分析方法的革新。
2026-03-12 cs.DC cs.DS
Scalable Graph Embedding LearningOn A Single GPU
图嵌入技术由于能将图数据转换成连续的低维空间而引起了人们越来越多的兴趣。有效的图形分析为用户提供了对数据背后内容的更深入理解，因此可以使各种机器学习任务受益。随着当前现实世界应用的规模，大多数图分析方法都具有较高的计算和空间成本。这些方法和系统可以处理具有数千到几百万个节点的网络。然而，扩展到大规模网络仍然是一个挑战。训练图嵌入系统的复杂性需要使用现有的加速器，如GPU。在本文中，我们介绍了一个混合的CPU-GPU框架，解决了学习嵌入大规模图的挑战。我们的方法的性能进行了比较，定性和定量与现有的嵌入系统的共同基准。我们还表明，我们的系统可以将训练扩展到比单个机器的总内存容量大一个数量级的数据集。在多个下游应用中评估学习嵌入的有效性。实验结果表明，学习嵌入的有效性的性能和准确性。
2022-01-19 cs.DC cs.LG
Ocean: Fast Estimation-Based Sparse General Matrix-Matrix Multiplication on GPU
Cornell University（康奈尔大学）
本文提出基于估计的SpGEMM方法，通过轻量级HyperLogLog估计器和动态分析策略优化GPU性能，实现1.4x-2.8x的加速。
2026-04-21 cs.DC cs.MS
High-Performance Filters For GPUs
过滤器近似存储一组项目，同时权衡空间效率的准确性，并可以解决加速器（如GPU）上有限的内存问题。然而，由于过滤器研究的大多数进展都集中在CPU上，因此缺乏高性能和功能丰富的GPU过滤器。在本文中，我们将探索滤波器的设计空间，目标是为GPU开发大规模并行、高性能和功能丰富的滤波器。我们从性能、可用性和支持的功能方面评估了各种滤波器设计，并确定了两种滤波器设计，它们在性能、功能和可用性方面提供了正确的权衡。我们提出了两个新的基于GPU的过滤器，TCF和GQF，可以在各种高性能的数据分析应用。TCF是一个集合成员过滤器，支持更快的插入和查询，而GQF支持计数，这会带来额外的性能成本。GQF和TCF都提供点和批量插入API，旨在利用GPU中的大量并行性，而不会牺牲可用性和必要的功能。TCF和GQF比我们的基准测试中以前的GPU过滤器快$4.4\times$和$1.4\times$，同时克服了当前GPU过滤器在性能和可用性方面的基本限制。
2022-12-18 cs.DC cs.DS
Efficient FFT mapping on GPU for radar processing application: modeling and implementation
通用多处理器（在我们的例子中，英特尔IvyBridge和英特尔Haswell）越来越多地为以前的多核架构添加GPU计算能力。当用于具有密集信号处理要求的嵌入式应用（对我们来说，合成孔径雷达）时，它们必须不断计算卷积算法，例如著名的快速傅立叶变换。由于其“分形”性质（典型的蝴蝶形状，较大的FFT定义为较小FFT与辅助数据阵列转置函数的组合），人们可以希望分析计算可以在基本GPU计算块上本地执行的最大FFT的大小。然后，整个应用程序必须围绕这个给定的构建块大小进行组织。现在，由于CPU和GPU之间的各种内存级别之间的数据传输所涉及的现象，这种方案的最优性只能粗略预测（因为通信往往会及时克服计算的复杂性）。因此，这里需要（理论）分析方法和（实际）运行时验证的混合。正如我们将说明的，这发生在两个阶段，首先在决定给定的基本FFT块大小的级别，然后在完整的应用级别。
2015-05-29 cs.DC cs.MS cs.PF
ZipFlow: a Compiler-based Framework to Unleash Compressed Data Movement for Modern GPUs
KAIST（韩国科学技术院）；Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft Gray Systems Lab（微软灰系统实验室）；Microsoft Research（微软研究院）
ZipFlow是一种基于编译器的框架，通过优化压缩数据传输提升GPU加速数据处理的性能。
2026-02-09 cs.AR cs.DB cs.DC
HeAT -- a Distributed and GPU-accelerated Tensor Framework for Data Analytics
German Aerospace Center (DLR)（德国航空航天中心）；Forschungszentrum Jülich (FZJ)（于利希研究中心）；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
为了应对可用数据的快速增长，数据分析和机器学习库的效率最近受到越来越多的关注。虽然传统的基于阵列的计算已经取得了很大的进步，但大多数都受到单个计算节点上可用资源的限制。因此，必须采用新的方法来利用分布式资源，例如分布式存储器架构。为此，我们引入了HeAT，这是一个基于数组的数值编程框架，用于大规模并行处理，具有易于使用的NumPy类API。HeAT利用PyTorch作为节点本地的急切执行引擎，并通过MPI将工作负载分配到任意大的高性能计算系统上。它既提供低级数组计算，也提供各种高级算法。使用HeAT，NumPy用户可以充分利用其可用资源，大大降低分布式数据分析的障碍。与类似的框架相比，HeAT实现了高达两个数量级的加速。
2020-11-11 cs.DC cs.LG cs.MS
Wattchmen: Watching the Wattchers -- High Fidelity, Flexible GPU Energy Modeling
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Oak Ridge National Lab（橡树岭国家实验室）；NVIDIA（英伟达）
本文提出Wattchmen，一种灵活的GPU能耗测量和预测方法，通过微基准测试构建每条指令能耗模型，降低能耗预测误差，适用于多种GPU架构和应用。
2026-03-27 cs.AR cs.DC
GPU-Initiated On-Demand High-Throughput Storage Access in the BaM System Architecture
图形处理单元（GPU）传统上依赖于主机CPU来发起对数据存储的访问。这种方法非常适合具有已知数据访问模式的GPU应用程序，这些模式使其数据集的分区能够在GPU中以流水线方式处理。然而，新兴的应用程序，如图形和数据分析，推荐系统，或图神经网络，需要细粒度的，数据相关的访问存储。由于CPU-GPU同步开销高、I/O流量放大和CPU处理延迟长，因此CPU启动存储访问不适合这些应用程序。GPU启动的存储从存储控制路径中消除了这些开销，因此可以以更高的速度支持这些应用程序。然而，缺乏系统架构和软件堆栈来实现有效的GPU启动的存储访问。这项工作提出了一种新的系统架构，BaM，填补了这一空白。BaM具有细粒度的软件缓存，可以合并数据存储请求，同时最大限度地减少I/O流量放大。该软件缓存通过高吞吐量队列与存储系统通信，使现代GPU中的大量并发线程能够以高速率发出I/O请求，以充分利用存储设备和系统互连。实验结果表明，BaM为BFS和CC图形分析基准提供了1.0倍和1.49倍的端到端速度，同时将硬件成本降低了21.7倍，而不是从主机内存访问图形数据。此外，BaM在相同硬件上将数据分析工作负载的速度提高了5.3倍。
2023-02-06 cs.AR cs.DC cs.OS
MGG: Accelerating Graph Neural Networks with Fine-grained intra-kernel Communication-Computation Pipelining on Multi-GPU Platforms
University of Rochester（罗切斯特大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
提出MGG系统，通过动态软件流水线实现多GPU平台GNN内核内细粒度计算与通信重叠，结合负载均衡与运行时优化，性能显著优于现有系统。
2023-06-27 cs.DC cs.LG
Lit Silicon: A Case Where Thermal Imbalance Couples Concurrent Execution in Multiple GPUs
University of Central Florida（中佛罗里达大学）；Advanced Micro Devices, Inc.（超威半导体）
本文研究了多GPU系统中热不平衡与并发执行的关系，提出Lit Silicon效应，并设计了检测和缓解技术，通过实验验证了在LLM训练中可提升性能和节省电力成本。
2026-05-12 cs.AR cs.DC
Accelerating Dynamic Graph Clustering on GPU Architectures with cuGraph
University of Pisa（比萨大学）；National Research Council（国家研究委员会）
该研究基于NVIDIA RAPIDS生态系统，将静态图的谱聚类与模块度算法扩展至GPU，实现动态图社区检测，在相同计算资源下较CPU加速约三个数量级，支持多GPU，且为开源软件。
2026-08-07 cs.DC cs.LG
EMOGI: Efficient Memory-access for Out-of-memory Graph-traversal In GPUs
现代分析和推荐系统越来越多地基于捕获被分析实体之间关系的图形数据。实际的图有很大的尺寸，提供大量的并行性，并以稀疏矩阵格式存储，如CSR。为了利用大规模的并行性，开发人员对使用GPU进行图遍历越来越感兴趣。然而，由于它们的大小，图形通常不适合GPU内存。先前的工作已经使用输入数据预处理/分区或UVM来将数据块从主机存储器迁移到GPU存储器。然而，图形数据的大、多维和稀疏性质对这些方案提出了重大挑战，并导致数据移动的显著放大和有效数据吞吐量的降低。在这项工作中，我们提出了EMOGI，一种替代方法来遍历图形，不适合在GPU内存中使用直接缓存大小的访问存储在主机内存中的数据。本文解决了一个开放的问题，是否可以维持足够大的数量的重叠缓存大小的访问1）容忍主机内存的长延迟，2）充分利用可用带宽，3）实现良好的执行性能。我们分析了几个图形遍历应用程序的数据访问模式在GPU上PCIe使用FPGA来了解外部带宽利用率低的原因。通过仔细合并和对齐外部存储器请求，我们表明，我们可以尽量减少PCIe事务的数量，几乎完全利用PCIe带宽，即使直接高速缓存行访问主机内存。EMOGI实现了2.92 $\times$的平均加速比相比，优化的UVM实现在各种图遍历应用程序。我们还表明，EMOGI的规模比基于UVM的解决方案时，系统使用更高的带宽互连，如PCIe 4.0。
2021-01-14 cs.DB cs.DC
OneAdapt: Fast Configuration Adaptation for Video Analytics Applications via Backpropagation
University of Chicago（芝加哥大学）；Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
针对视频分析应用现有配置自适应技术的不足，提出OneAdapt框架，利用DNN可微性计算AccGrad实现梯度上升式配置适配，在多场景下显著降低资源开销或提升推理精度。
2024-12-12 cs.AI cs.DC cs.LG
