Safe and Practical GPU Acceleration in TrustZone
我们提出了一个整体设计的GPU加速计算在TrustZone TEE。无需将复杂的GPU软件堆栈拉入TEE,我们遵循一种简单的方法:提前记录CPU/GPU交互,并在运行时间在TEE中重放交互。本文解决了该方法的关键缺失部分-录制环境,该环境需要强大的安全性和对各种移动GPU的访问。为此,我们提出了一种新的架构,称为CODY,其中一个移动终端(拥有GPU硬件)和一个值得信赖的云服务(运行GPU软件)行使GPU硬件/软件的协作,分布式的方式。为了克服大量的网络往返和长时间延迟,CODY提供了针对移动GPU的优化:寄存器访问延迟,推测和仅元状态同步。通过这些优化,记录计算工作负载只需数十秒,比原始方法节省高达95%;与不安全的本机执行相比,重播的延迟降低了25%。
2021-11-04 cs.CR cs.DC cs.OS
CPU-GPU Heterogeneous Code Acceleration of a Finite Volume Computational Fluid Dynamics Solver
本文研究有限体积CFD求解器SENSEI的CPU-GPU异构加速,提出考虑ghost cell交换的性能模型,并通过超声速进气道算例验证异构计算相比纯CPU或纯GPU的性能优势。
2023-05-29 cs.DC cs.PF
GPU Acceleration of an Established Solar MHD Code using OpenACC
GPU加速器对许多学科的高性能计算产生了显着的影响。它们以低成本/低功耗提供高性能,因此已成为许多大型超级计算机的主要计算资源。在这里,我们使用OpenACC以完全可移植的单源方式在Solar MHD代码(MAS)中实现多GPU加速。我们的初步实施是集中在MAS运行在一个减少物理“零测试”模式。虽然它本身很有价值,但我们的主要目标是为一个完整的物理学,热力学MHD实现铺平道路。我们描述了OpenACC的实施方法和挑战。在多CPU和多GPU系统上显示了生产级磁通绳喷发模拟的“时间解决方案”性能结果。我们发现,GPU加速的MAS代码有能力在一个单一的多GPU服务器上运行“零测试”模拟的速度,以前需要多个CPU服务器节点的超级计算机。
2018-11-06 astro-ph.SR cs.DC cs.PL
GNNAdvisor: An Adaptive and Efficient Runtime System for GNN Acceleration on GPUs
作为基于图的深度学习的新兴趋势,图神经网络(GNN)因其生成高质量节点特征向量(嵌入)的能力而脱颖而出。然而,现有的一刀切的GNN实现不足以赶上不断发展的GNN架构,不断增加的图形大小和不同的节点嵌入维度。为此,我们提出了\textbf{GNNAdvisor},一个自适应和高效的运行时系统,以加速GPU平台上的各种GNN工作负载。首先,GNNAvisor从GNN模型和输入图中探索并识别出几个与性能相关的特征,并将其用作GNN加速的新驱动力。其次,GNNAvisor实现了一种新颖高效的2D工作负载管理,专为GNN计算量身定制,以提高不同应用设置下的GPU利用率和性能。第三,GNNAvisor利用GPU的存储层次结构,根据GPU内存结构和GNN工作负载的特点,优雅地协调GNN的执行,从而实现加速。此外,为了实现自动运行时优化,GNNAvisor集成了一个轻量级的分析模型,用于有效的设计参数搜索。广泛的实验表明,GNNAvisor在各种数据集的主流GNN架构上的性能优于最先进的GNN计算框架,例如Deep Graph Library(平均速度快于$3.02\times$)和NeuGraph(快于$4.10\times$)。
2021-06-20 cs.DC
Heterogeneous Parallelization and Acceleration of Molecular Dynamics Simulations in GROMACS
诸如图形处理单元(GPU)之类的加速器设备的引入已经对分子动力学模拟产生了深远的影响,并且使得能够使用商品硬件实现数量级的性能进步。为了充分获得这些好处,有必要重新制定一些最基本的算法,包括Verlet列表,对搜索和截断。在这里,我们提出了异构并行化和加速设计的分子动力学实现的GROMACS代码库在过去的十年。该设置涉及一种基于集群的通用方法来实现对列表和非绑定对交互,该方法有效地利用了GPU和CPU SIMD加速,包括在CPU和GPU之间负载平衡任务的能力。算法的工作效率针对每种类型的硬件进行了调整,并且为了更有效地使用加速器,我们引入了具有滚动修剪更新的双对列表。结合新的直接GPU-GPU通信以及GPU集成,通过跨多个GPU的强大可扩展性和高效的多节点并行化,可实现单GPU模拟的卓越性能。
2020-09-07 cs.DC cs.DS cs.PF
GPU Acceleration for Faster Evolutionary Spatial Cyclic Game Systems
本文针对演化空间循环博弈仿真计算开销大的问题,基于Metal和CUDA设计了GPU加速框架,实现最高28倍加速并支持3200x3200规模系统,同时复现并扩展了近期ESCG研究。
2025-08-17 cs.DC
State-of-the-Art on Query & Transaction Processing Acceleration
现代图形处理单元(GPU)提供的巨大处理能力和内存带宽使其成为数据密集型应用程序的平台。数据库社区将GPU视为数据处理的有效协处理器。在过去的几年里,有许多方法可以在数据库系统的不同级别上使用GPU。在本内部技术报告中,基于[1]和其他一些研究论文,我们确定了LIP6中GPU加速数据库管理系统的可能研究领域。我们描述了一些关键属性,GPU感知数据库架构的典型挑战,并确定主要的开放挑战。
2019-06-27 cs.DB cs.DC cs.PF
AGAThA: Fast and Efficient GPU Acceleration of Guided Sequence Alignment for Long Read Mapping
针对长读长序列比对计算负担重、现有GPU加速方案易破坏算法结构的问题,提出AGAThA精确GPU加速方案,解决内存访问与负载不平衡问题,实现显著性能提升。
2024-03-11 cs.DC
Acceleration of low-latency gravitational wave searches using Maxwell-microarchitecture GPUs
引力波(GW)的低延迟探测对于通过常规望远镜对天体物理瞬变进行及时的后续观测至关重要。我们已经开发了一个低延迟流水线使用的技术称为求和并行无限脉冲响应(SPIIR)滤波,实现了图形处理单元(GPU)。在本文中,我们开发了新的\textit{Maxwell}存储器访问架构的NVIDIA GPU,即只读数据缓存,翘曲洗牌,交叉翘曲原子技术。我们报告了3倍的速度比我们以前的实现这种过滤技术。为了用相对较少的滤波器来处理SPIIR,我们开发了一种新的GPU线程配置,具有近10倍的加速。此外,我们使用Maxwell GPU实现了一种多速率SPIIR滤波方案。对于多速率滤波方案,我们在单核CPU上实现了超过100倍的加速。这使得整个SPIIR流水线的CPU使用量减少了21倍。
2017-02-08 astro-ph.IM cs.DC
Full Speed Ahead: 3D Spatial Database Acceleration with GPUs
许多行业依靠视觉洞察来支持其业务中的决策过程。在采矿中,对钻头和地质形状(以3D几何图形表示)的分析是帮助地质学家寻找新矿床的重要工具。在设计新飞机时,航空学通过空气动力学的数值模拟来操纵高分辨率的几何形状。通常,这些行业需要可扩展的数据库来计算空间关系和测量,以便可以无延迟地进行决策。然而,正如我们在这项研究中所展示的那样,大多数数据库系统要么缺乏对处理3D几何图形的支持,要么在处理大量数据时表现不佳。本文提出了一种可插拔的空间数据库加速引擎,通过GPU卸载,可以将空间操作的性能提高3000倍以上。我们专注于我们的PostgreSQL数据库系统的插件的设计和评估。
2018-08-28 cs.DC
GPU Accelerated AES Algorithm
图形处理单元(GPU)是一种很有前途的加密加速方案,它支持整数和逻辑运算等复杂的数学运算,使加密加速的实现更加容易,但并行粒度、内存分配等复杂问题仍然给实际应用带来负担。在本文中,我们提出了一种新的方法,高级加密标准的加速,包括加密和解密。具体来说,我们适应的电子代码簿模式的密码转换,查找表计划的快速查找,和线程调度的一个线程的状态的粒度。我们的实验结果为研究人员提供了一个很好的理解GPU架构和软件加速。此外,我们的源代码和实验结果都是免费提供的。
2019-02-14 cs.DC
Acceleration-as-a-μService: A Cloud-native Monte-Carlo Option Pricing Engine on CPUs, GPUs and Disaggregated FPGAs
云应用程序向松耦合微服务的演进为硬件加速器提供了新的机会,以提高工作负载性能。现有的云加速器技术牺牲了微服务的整合优势。本文介绍了CloudiFi,这是一个将加速器作为云服务进行部署和比较的框架。我们在财务工作负载的背景下评估了我们的框架,并给出了早期结果,表明微服务响应时间提高了485倍。
2021-06-11 cs.AR cs.DC cs.NI
Sparse MTTKRP Acceleration for Tensor Decomposition on GPU
针对稀疏张量分解瓶颈spMTTKRP,提出基于GPU的算法设计,通过消除线程块全局原子操作、减少中间值内存传输、均衡负载及支持动态张量重映射,实现显著加速,且是唯一支持模式数大于4张量的GPU实现。
2024-05-14 cs.AR cs.DC
GPU Acceleration of Sparse Neural Networks
University of Nevada Reno(内华达大学雷诺分校)
在本文中,我们使用图形处理单元(GPU)来加速稀疏和任意结构的神经网络。稀疏网络中的节点与前一层和后一层中的节点不完全连接,而任意结构的神经网络在每层中具有不同数量的节点。具有任意结构的稀疏神经网络通常在神经网络修剪和进化机器学习策略等过程中产生。我们表明,我们可以获得显着的加速完全激活这样的神经网络使用图形处理单元。我们做了一个预处理步骤来确定网络中所有节点的依赖组,并使用该信息来指导神经网络中的激活进程。然后,我们在GPU中计算每个节点在其自己的单独线程中的激活,这允许大规模并行化。我们使用CUDA框架来实现我们的方法,并比较顺序和GPU实现的结果。我们的研究结果表明,稀疏神经网络的激活非常适合GPU加速,可以帮助加速机器学习策略,这些策略可以生成此类网络或具有类似结构的其他过程。
2020-05-09 cs.DC cs.LG cs.NE
GPU acceleration of the particle filter: the Metropolis resampler
我们考虑部署的粒子滤波器的现代大规模并行硬件架构,如图形处理单元(GPU),专注于rescue阶段。虽然标准多项式和分层重采样器需要在线程之间共同计算的重要性权重的总和,但Metropolis重采样器有利地仅需要由线程独立计算的权重之间的成对比率,并且可以通过调整其迭代次数来进一步调整性能。在分层和多项式重采样器取得令人尊敬的结果的同时,我们证明了Metropolis重采样器可以更快,其中重要性权重的方差是适度的,因此值得考虑在性能关键的上下文中,如粒子马尔可夫链蒙特卡罗和实时应用。
2012-02-28 cs.DC stat.CO
Acceleration for Timing-Aware Gate-Level Logic Simulation with One-Pass GPU Parallelism
针对 GPU 上 VLSI 门级时序仿真的并行同步与数据传输瓶颈,提出基于波形的单遍 GPU 并行方法及动态数据结构,并在工业级开源基准上验证其加速效果。
2023-04-26 cs.AR cs.DC cs.DS
Speed, power and cost implications for GPU acceleration of Computational Fluid Dynamics on HPC systems
本文利用ANSYS Fluent评估HPC上CFD工作流GPU加速的速度、功耗与成本,发现GPU计算更快,但初始化、功耗和成本优势因GPU型号及数量而异。
2024-04-03 cs.DC cs.NA cs.PF
PilotANN: Memory-Bounded GPU Acceleration for Vector Search
提出PilotANN混合CPU-GPU系统,通过三阶段图遍历和快速入口选择,在1亿规模数据集上实现3.9-5.4倍吞吐量加速,支持比GPU内存大12倍的数据集。
2025-03-27 cs.DC
Multi-GPU Acceleration of PALABOS Fluid Solver using C++ Standard Parallelism
University of Geneva(日内瓦大学);Institute for Advanced Study, Beijing Normal - Hong Kong Baptist University, Zhuhai(北京师范大学-香港浸会大学联合国际学院前沿研究院)
该研究通过C++标准并行性实现Palabos流体求解器的多GPU加速,采用混合CPU-GPU执行模型,利用现代C++技术提升性能并保持兼容性。
2026-01-09 cs.DC
GPU-acceleration for Large-scale Tree Boosting
University of California, Davis(加州大学戴维斯分校);Google Research(谷歌研究院)
在本文中,我们提出了一种新的大规模并行算法来加速GPU(图形处理单元)上的决策树构建过程,这是梯度提升决策树(GBDT)和随机森林训练的关键步骤。以前的基于GPU的树构建算法是基于并行多扫描或基数排序来找到确切的树分裂,因此遭受可扩展性和性能问题。我们表明,使用基于直方图的算法来近似地找到最佳分割是更有效和可扩展的GPU上。通过比较传统的基于GPU的图像直方图构造与决策树训练中的特征直方图构造的差异,提出了一种基于GPU的快速特征直方图构造内核,并设计了计算和内存访问顺序,以减少原子更新冲突,最大限度地提高GPU利用率。我们的算法可以被用来作为一个下降的替代直方图建设在流行的树提升系统,以提高其可扩展性。作为一个例子,为了在GPU数据集上训练GBDT,我们使用主流GPU的方法比LightGBM中基于CPU的直方图算法快7-8倍,比XGBoost中的精确分裂查找算法快25倍,同时达到类似的预测精度。
2017-06-26 cs.DC cs.LG stat.ML
OpenMP GPU Acceleration and Portability of TRIMEG-C1 for Electromagnetic Gyrokinetic Simulations in Tokamak Plasmas
Max Planck Institute for Plasma Physics(马克斯·普朗克等离子体物理研究所);Chalmers University of Technology(查尔姆斯理工大学)
采用OpenMP框架在NVIDIA和AMD GPU上加速TRIMEG-C1回旋动理学代码,实现粒子推动和粒子-网格操作的GPU执行,在2个AMD MI300A APU上获得约9倍加速,并验证了ITG模式模拟的正确性。
2026-06-24 cs.DC physics.comp-ph physics.plasm-ph
GPU Acceleration of Learning With Errors KEMs Using OpenACC for Post-Quantum Cryptography
E4 Computer Engineering SpA(E4计算机工程股份公司);Roma Tre University(罗马三大学);Cineca(Cineca超级计算应用与创新部);Università di Padova(帕多瓦大学);INFN, Sezione di Padova(意大利国家核物理研究所帕多瓦分部)
本文提出基于LWE的密钥封装机制,并利用OpenACC开发GPU实现,在多种NVIDIA GPU上获得高达208倍加速,且能耗效率提升约2倍。
2026-05-31 cs.CR cs.DC
RTop-K: Ultra-Fast Row-Wise Top-K Selection for Neural Network Acceleration on GPUs
本文提出专为GPU设计的高效并行按行top-k选择算法RTop-K,利用二分搜索优化选择并结合提前停止机制,在保持模型精度的同时实现最高11.49倍加速,并使MaxK-GNN训练流程加速11.97%至33.29%。
2025-04-02 cs.DC
A Precision Emulation Approach to the GPU Acceleration of Ab Initio Electronic Structure Calculations
Texas Advanced Computing Center, The University of Texas at Austin(德克萨斯大学奥斯汀分校高级计算中心);Pittsburgh Computing Center, Carnegie Mellon University(卡内基梅隆大学匹兹堡计算中心)
本文通过SCILIB-Accel工具在MuST套件的LSMS CPU应用中实现FP64矩阵乘法的INT8仿真,展示了通过可调精度仿真的方法在保持算法原貌的同时优化硬件利用率,提升准确性和性能。
2026-03-31 cs.DC cs.PF physics.comp-ph
SPEED: Streaming Partition and Parallel Acceleration for Temporal Interaction Graph Embedding
Fudan University(复旦大学);University of California, Davis(加州大学戴维斯分校);Tencent Weixin Group(腾讯微信事业群)
针对时序交互图无法并行处理且难以扩展至GPU的问题,提出SPEED方法,通过流式边划分与并行加速组件实现多GPU训练加速,最高提速19.29倍并降低69%资源消耗,同时保持下游任务竞争力。
2023-09-11 cs.DC cs.LG cs.SI
GPU Acceleration and Portability of the TRIMEG Code for Gyrokinetic Plasma Simulations using OpenMP
TRIMEG代码利用OpenMP和GPU加速提升等离子体模拟的计算效率和可移植性。
2026-01-17 cs.DC physics.comp-ph physics.plasm-ph
GPU acceleration of non-equilibrium Green's function calculation using OpenACC and CUDA FORTRAN
本文针对Kadanoff-Baym方程求解非平衡格林函数的高计算复杂度问题,在CPU和GPU平台上实现了高效并行算法,采用MPI/OpenMP、MPI/OpenACC及MPI/CUDA FORTRAN三种方案,并通过优化策略使GPU版本获得显著加速和良好扩展性。
2025-05-26 cs.DC
Speeding up Local Optimization in Vehicle Routing with Tensor-based GPU Acceleration
School of Management, Huazhong University of Science and Technology(华中科技大学管理学院)
本文提出基于张量的GPU加速方法,用于加速车辆路径问题中的局部优化,通过高效计算提升计算效率和解质量。
2026-01-29 cs.AI cs.DC
On the Feasibility of FPGA Acceleration of Molecular Dynamics Simulations
经典分子动力学(MD)模拟是生命和材料科学中的重要工具,因为它们可以详细研究化学和生物过程。然而,粒子-粒子相互作用的固有可扩展性问题和后续时间步长的顺序依赖性使得MD计算密集且难以扩展。为此,专门的基于FPGA的加速器已经被反复提出来改善这个问题。然而,到目前为止,没有一个领先的MD仿真软件包完全支持FPGA加速,并且到目前为止,GPU与FPGA加速代码的直接比较仍然难以捉摸。在这份报告中,我们的目标是通过比较GPU密集计算节点上测量的应用程序性能与基于FPGA的单节点系统的性能和成本估计来澄清这个问题。我们的研究结果表明,基于FPGA的系统确实可以优于类似配置的基于GPU的系统,但由于主机上的软件开销,整体应用程序级加速仍然保持在2倍左右。考虑到GPU和FPGA解决方案的价格,我们观察到基于GPU的解决方案提供了更好的成本/性能权衡,因此纯基于FPGA的解决方案可能不会在商业上可行。然而,我们还注意到,扩展的多节点系统可能会从混合组合中受益,其中GPU用于计算密集型部件,FPGA用于延迟和通信敏感任务。
2018-08-08 cs.DC cs.PF physics.comp-ph
BigGraphVis: Leveraging Streaming Algorithms and GPU Acceleration for Visualizing Big Graphs
图形布局是探索海量图形的关键。大量的节点和边不允许网络分析软件产生有意义的普适网络的可视化。长计算时间,内存和显示限制包围软件的能力,探索大量的图形。介绍了一种新的并行图形可视化方法BigGraphVis,该方法利用GPU的并行处理和社区发现算法来实现图形社区的可视化。将并行流媒体社区发现算法与概率数据结构相结合,充分利用图形处理器(GPU)的并行处理。据我们所知,这是第一次尝试将流算法的强大功能与GPU计算相结合,以应对大图形可视化挑战。我们的方法提取社区信息,在几个通过的边缘列表,并使用Forcephilas2算法呈现社区结构。我们对大量真实图形的实验表明,通过可视化图形社区可以实现大约70%到95%的加速,并且可视化似乎是有意义和可靠的。我们检查的最大的图包含超过300万个节点和3400万条边,布局计算大约花了五分钟。我们还观察到,BigGraphVis着色策略可以成功地应用于生成信息量更大的Forcebrahas2布局。
2021-08-01 cs.CG cs.DC cs.GR
Balancing Efficiency and Flexibility for DNN Acceleration via Temporal GPU-Systolic Array Integration
Shanghai Jiao Tong University(上海交通大学);University of Rochester(罗切斯特大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
近年来,针对深度神经网络(DNN)的专用硬件加速器由于其优越的性能和效率而引起了人们的研究兴趣。然而,今天的DNN加速器主要专注于加速特定的“内核”,如卷积和矩阵乘法,这是至关重要的,但只是端到端DNN应用程序的一部分。对整个应用程序进行有意义的加速通常需要支持计算,而这些计算虽然大规模并行,但不适合DNN加速器。集成CPU或GPU等通用处理器会产生显著的数据移动开销,并导致DNN加速器上的资源利用不足。我们提出了同步多模式架构(SMA),这是一种新型的架构设计和执行模型,可在DNN加速器上提供通用可编程性,以加速端到端应用程序。SMA的关键是脉动执行模型与类似GPU的SIMD执行模型的时间集成。SMA利用了系统阵列加速器和GPU之间共享的通用组件,并提供了轻量级的重新配置功能,以在两种模式之间进行原位切换。SMA实现了高达63%的性能提升,同时比使用TensorCore的基准Volta架构节省了23%的能源。
2020-06-10 cs.DC cs.LG
GPU Acceleration of a Conjugate Exponential Model for Cancer Tissue Heterogeneity
针对癌症组织异质性分析中传统算法计算慢的问题,提出一种可并行的共轭指数模型,通过GPU加速变分方法计算细胞比例,在合成与真实基因表达数据上表现优于MCMC和期望最大化算法。
2024-01-18 cs.DC q-bio.QM
GPU Acceleration of Monte Carlo Tallies on Unstructured Meshes in OpenMC with PUMI-Tally
本文提出PUMI-Tally库,利用网格邻接信息在CPU和GPU上加速聚变反应堆蒙特卡罗模拟中的非结构化网格计数,实现了最高20倍的计算加速和6.69倍的能耗改善。
2025-04-26 cs.DC physics.comp-ph
Virtual reservoir acceleration for CPU and GPU: Case study for coupled spin-torque oscillator reservoir
Kanazawa University(金泽大学);Kyoto University(京都大学);National Institute of Advanced Industrial Science and Technology(产业技术综合研究所);University of Tokyo(东京大学)
本文针对 N 个耦合自旋扭矩振荡器储层模拟提出 CPU 与 GPU 高速实现,基准测试显示加速比最高达 78.9 倍,证明 GPU 在储层模拟中具有显著优势。
2023-12-02 cs.DC cs.LG
GPU-Resident CUDA Acceleration for OCUDU 5G PHY and O-RAN Fronthaul: Architecture and Preliminary Performance
DeepSig, Inc.(DeepSig公司)
本文提出面向OCUDU 5G物理层与O-RAN前传的GPU驻留CUDA加速架构,在NVIDIA DGX Spark平台上实现多类5G链路处理的显著加速,且性能与CPU基准偏差极小,还支持AI-RAN相关研究运行。
2026-08-06 cs.DC cs.NI eess.SP
Investigating Matrix Repartitioning to Address the Over- and Undersubscription Challenge for a GPU-based CFD Solver
针对OpenFOAM中基于插件的GPU加速局限性,提出矩阵重分区策略以平衡CPU矩阵组装与GPU求解,缓解过度订阅问题,提升异构环境下的求解器性能与资源利用率。
2025-10-09 cs.DC cs.SE
Efficient techniques to GPU Accelerations of Multi-Shot Quantum Computing Simulations
本文针对 GPU 上多 shot 量子计算模拟效率低的问题,提出将多个 shot 聚合到单个 GPU 内核并引入 shot 分支减少计算与内存开销的优化方法,相比此前实现实现了 10 倍加速。
2023-08-07 cs.DC quant-ph
GPU acceleration of Newton's method for large systems of polynomial equations in double double and quad double arithmetic
University of Illinois at Chicago(芝加哥伊利诺伊大学)
本文研究了通过NVIDIA Tesla K20C GPU加速双双精度和四双精度算术中大规模多项式方程组的牛顿法,通过算法微分的逆模式重构为二叉树结构,提升计算效率。
2014-05-13 cs.DC cs.MS cs.NA
Linear-Complexity Relaxed Word Mover's Distance with GPU Acceleration
基于非结构化文本的数据量每天都在增长。查询、聚类和分类这些大数据需要在大量文档中进行相似性计算。虽然低复杂度的相似性度量是可用的,但注意力已经转向实现更高准确度的更复杂的方法。特别是,Kusner等人提出的词移动器距离(WMD)方法是一种很有前途的新方法,但其时间复杂度随着文档中唯一词的数量呈三次方增长。由Kusner等人再次提出的放松词移动者距离(RWMD)方法,将时间复杂度从二次型降低到二次型,并且与WMD相比导致有限的精度损失。我们的工作有助于一个低复杂度的RWMD的实现,降低了平均时间复杂度线性操作时,对大型文件集。我们的线性复杂度RWMD实现,以下简称为LC-RWMD,可以很好地映射到GPU上,并且可以有效地分布在GPU集群中。我们在真实数据集上的实验表明:1)相对于我们基于GPU的二次RWMD分布式实现,性能提高了两个数量级; 2)相对于我们使用基于GPU的RWMD进行修剪的分布式WMD实现,性能提高了三到四个数量级。
2017-11-20 cs.DC cs.DS cs.IR
GPU Acceleration of Sparse Fully Homomorphic Encrypted DNNs
University of Glasgow(格拉斯哥大学);University of Murcia(穆尔西亚大学);Northeastern University(东北大学);AMD(超威半导体公司)
本文提出在AMD GPU上加速深度神经网络中矩阵乘法的方法,利用FIDESlib库优化稀疏矩阵运算,提升运行效率并降低时间复杂度。
2026-04-13 cs.CR cs.DC cs.DS
Improvement of Automatic GPU Offloading Technology for Application Loop Statements
近年来,随着摩尔定律的放缓,CPU以外的硬件(如GPU或FPGA)的利用率正在增加。然而,当使用CPU以外的异构硬件时,CUDA和HDL等技术技能的障碍很高。在此基础上,我提出了环境自适应软件,可以根据要放置的硬件自动转换,配置和高性能操作一次编写的代码。部分卸载到GPU和FPGA之前是自动化的。在本文中,我改进并提出了一个自动GPU卸载方法,以扩大适用的软件和提高性能更多。我评估所提出的方法在多个应用程序的有效性。
2020-02-27 cs.DC
OpenACC Acceleration of an Agent-Based Biological Simulation Framework
计算生物学越来越多地转向基于代理的建模来探索复杂的生物系统。生物扩散(扩散、衰变、分泌和吸收)是生物组织的关键驱动力。GPU计算可以极大地加速用于表示基于代理的生物建模系统中的生物运输的偏微分方程中的扩散和衰减算子。在本文中,我们利用OpenACC加速PhysiCell,一个跨平台的基于代理的生物模拟框架的扩散部分。我们展示了在最先进的NVIDIA A100 GPU上运行的速度比在AMD EPYC 7742上串行运行的速度快近40倍。我们还展示了在64核AMD EPYC 7742多核平台上的9倍加速。通过将OpenACC用于CPU和GPU,我们维护了一个源代码库,从而创建了一个可移植且高性能的解决方案。随着模拟器最重要的计算瓶颈显著减少,我们可以在更长的时间内继续进行癌症模拟。
2021-10-26 cs.DC
A Competitive Edge: Can FPGAs Beat GPUs at DCNN Inference Acceleration in Resource-Limited Edge Computing Applications?
当作为生成模型进行训练时,深度学习算法在涉及高维数据的任务(如图像去噪和超分辨率)上表现出卓越的性能。在一个由移动和边缘设备主导的日益互联的世界中,对这些算法在嵌入式平台上本地运行的需求激增。FPGA凭借其可重编程性和低功耗特性,是这些边缘计算应用的理想候选者。因此,我们设计了一个时空并行的硬件架构,能够加速一个去卷积算法优化的电源效率的推理资源有限的FPGA。我们提出了这种基于FPGA的加速器,用于低功耗边缘计算应用中的解卷积神经网络(DCNN)推理。为此,我们开发了系统地利用微观建筑创新,设计空间探索和统计分析的方法。使用Xilinx PYNQ-Z2 FPGA,我们利用我们的架构来加速使用Wasserstein GAN框架在MNIST和CelebA数据集上训练的两个DCNN的推理。在这些网络上,与NVIDIA Jetson TX 1边缘计算GPU相比,我们的FPGA设计实现了更高的吞吐量与功率比,同时降低了运行间变化。
2021-03-09 cs.AR cs.DC eess.IV
Accelerating Channel Estimation and Demodulation of Uplink OFDM symbols for Large Scale Antenna Systems using GPU
前端天线数量的增加增加了后端要处理的数据量。这就需要加速后端处理。为了解决后端的大容量数据处理问题,使用了GPU。通过在后端使用CPU和GPU的组合来提供对上行链路OFDM符号的最小二乘信道估计和解调的加速。单用户上行链路方案是在近实时的方式使用USRP平台目前在大规模天线系统在ORBIT测试床。天线的数量和FFT长度是不同的,以提供不同的场景进行比较。CPU和GPU的性能进行了比较,为每个进程。
2019-01-23 cs.DC
DAG-based Scheduling with Resource Sharing for Multi-task Applications in a Polyglot GPU Runtime
GPU在云计算和个人设备中很容易使用,但由于它们与常见程序设计语言(如Python或Java)的集成有限,它们用于数据处理加速的速度已经放缓。此外,要充分利用GPU,需要具备异步编程的专业知识。在这项工作中,我们提出了一种新的GPU运行时间调度器的多任务GPU计算,透明地提供异步执行,空间共享和传输计算重叠,而不需要提前任何信息的程序依赖结构。我们利用GrCUDA多语言API将我们的调度器与多种高级语言集成,并提供一个快速原型设计和轻松GPU加速的平台。我们验证了我们在6个基准上的工作,这些基准是为了评估任务并行性而创建的,并且与使用C++ CUDA Graphs API编写的手动优化的主机代码相比,同步执行的平均加速率为44%,并且没有执行时间减慢。
2021-01-19 cs.AR cs.DC
GPU Acceleration of Awkward Arrays: Using Python cuda.compute
Princeton University(普林斯顿大学)
本文提出基于 Python CCCL 的 Awkward Array CUDA 执行模型,消除自定义内核,支持操作融合与惰性优化,提升高能物理分析中 GPU 性能与可扩展性。
2026-10-07 cs.DC cs.PF cs.SE
Cutting the cost of pulsar astronomy: Saving time and energy when searching for binary pulsars using NVIDIA GPUs
使用傅立叶域加速搜索(FDAS)方法来搜索二进制序列是计算成本高的过程。下一代射电望远镜必须实时执行FDAS,因为数据量太大而无法存储。FDAS是一种匹配滤波方法,用于搜索具有近似线性加速度的二元双星的时域射电天文数据集。在本文中,我们将探讨如何利用NVIDIA GPU上的混合精度计算和动态频率缩放组合,降低AstroAccelerate中类似SKA的FDAS实施的能源成本。结合这两种方法,我们已经成功地节省了58%的FDAS的总能源成本与(<3%)牺牲的数值灵敏度。
2022-11-24 astro-ph.IM cs.DC
The Floyd-Warshall Algorithm Re-implemented Using 3D-Tensors and Hardware Acceleration
本研究重实现了基于PyTorch等GPU库加速的Floyd-Warshall算法与R-Kleene算法,配套了可控规模的随机图生成器,实验验证其运行时间远优于NetworkX的传统实现。
2023-05-19 cs.DC
GPU Acceleration of 3D Agent-Based Biological Simulations
生物学研究人员正面临着为日益复杂的基于主体的模型开发高性能计算机模拟的严峻挑战。BioDynaMo是一个开源的基于代理的仿真平台,旨在减轻研究人员在开发高性能计算时的复杂性。通过高级接口,研究人员可以在BioDynaMo的多线程核心执行引擎上实现他们的模型,以快速开发有效利用并行计算硬件的模拟。在基于生物代理的建模中,通常计算密集型的操作类型是那些涉及代理与其本地邻域交互的操作。在这项工作中,我们研究了目前实施的方法处理附近的细胞代理在BioDynaMo的相互作用,以及如何提高性能,使大规模和复杂的模拟。我们建议取代kd树实现,找到和覆盖的邻居,每个代理与一个统一的网格方法,使我们能够利用大规模并行架构的图形处理单元(GPU)。我们在CUDA和OpenCL中实现了统一网格方法,以解决所有主要供应商的GPU问题,并评估了几种技术以进一步提高性能。此外,我们分析了我们的实现模型的性能与不同密度的相邻代理。因此,与多线程基线版本相比,机械交互方法的性能提高了两个数量级。这些实现是开源的,并在Github上公开提供。
2021-04-30 cs.DC cs.PF
Parallel Collaborative ADMM Privacy Computing and Adaptive GPU Acceleration for Distributed Edge Networks
College of Cyber Security, Jinan University(暨南大学网络空间安全学院);Department of Electrical and Computer Engineering, Western University(韦仕敦大学电气与计算机工程系);School of Computer Science, Guangzhou University(广州大学计算机科学与工程学院)
本文提出了一种结合并行协作ADMM与自适应GPU加速的隐私计算算法,用于优化分布式边缘网络中的协作计算任务,提升了计算效率和隐私保护能力。
2026-01-21 cs.DC