Recognition of convolutional neural network based on CUDA Technology
针对具有高浮点运算性能的流处理器图形处理器(GPU)是否适用于神经网络的问题,提出了卷积神经网络(CNN)的并行识别算法,该算法采用统一计算设备架构(CUDA)技术,定义了并行数据结构,描述了计算任务在CUDA上的映射机制。比较了在GTX200硬件架构的GPU上实现的并行识别算法和在CPU上实现的串行识别算法。速度提高近60倍。结果表明,基于GPU的流处理器架构比CPU更适用于与神经网络相关的一些应用。
2018-08-27 cs.DC cs.NE
Improving the performance of the linear systems solvers using CUDA
并行计算可以为几乎任何领域的大型应用程序提供巨大的性能优势:科学计算、计算机视觉、数据库、数据采掘和经济学。GPU是高性能众核处理器,可以获得非常高的FLOP速率。自从第一个使用GPU进行通用计算的想法以来,事情已经发展,现在有几种GPU编程方法:NVIDIA的CUDA和AMD的Stream。CUDA现在是C/C++程序员在GPU上进行通用计算的流行编程模型。大量应用程序被移植到CUDA编程模型,与优化的CPU实现相比,它们获得了数量级的加速提升。在本文中,我们提出了一个实现的图书馆解决线性系统使用CCUDA框架。我们提出的性能测试结果表明,使用GPU可以获得约80倍的CPU实现相比,加速比。
2015-11-23 cs.DC
GPU acceleration of non-equilibrium Green's function calculation using OpenACC and CUDA FORTRAN
本文针对Kadanoff-Baym方程求解非平衡格林函数的高计算复杂度问题,在CPU和GPU平台上实现了高效并行算法,采用MPI/OpenMP、MPI/OpenACC及MPI/CUDA FORTRAN三种方案,并通过优化策略使GPU版本获得显著加速和良好扩展性。
2025-05-26 cs.DC
Performance assessment of CUDA and OpenACC in large scale combustion simulations
GPU已经爬到了超级计算机系统的顶端,这使得许多传统科学代码的生存变得更加困难。如今,许多食谱都在使用这样的代码的可移植性,没有任何明确的是最好的选择。我们提出了一个比较分析的两个最常见的方法,CUDA和OpenACC,到多物理场CFD代码Alya。我们的重点是燃烧问题,这是计算要求最高的CFD模拟之一。详细分析了代码中计算最密集的部分。已经创建了用于矩阵组装步骤的新的数据结构以促进有利于CPU中的向量化和GPU中的流处理的SIMD执行。因此,CPU代码将其性能提高了25%。在GPU执行中,CUDA已经证明比OpenACC快2倍。相反,在与线性求解器中使用的向量运算相关的内核中获得了类似的性能,其中存在最小的存储器重用。
2021-07-31 cs.DC
Performance Comparison Between OpenCV Built in CPU and GPU Functions on Image Processing Operations
图像处理是数字信号处理的一个专门领域,它包含各种数学和代数运算,如矩阵求逆、矩阵转置、导数、卷积、傅立叶变换等。这些运算需要比计算机日常使用目的更高的计算能力。在这一点上,随着图像大小的增加和更复杂的操作,CPU可能无法令人满意,因为它们默认使用串行处理。GPU是与CPU相比速度更快的解决方案,因为它们的并行处理/计算性质。CUDA是NVIDIA公司开发的一种并行计算平台和编程模型,由NVIDIA公司生产的图形处理器(GPU)实现。本文将在OpenCV的内置的CPU和使用CUDA的GPU函数上比较一些常用的图像处理操作的计算性能。
2019-06-20 cs.DC
A Hybrid Multi-GPU Implementation of Simplex Algorithm with CPU Collaboration
单纯形算法已成功地用于求解线性规划问题多年。由于所需的密集计算(特别是对于大型LP问题的解决方案),并行方法也得到了广泛的研究。现代GPU提供的计算能力以及多核CPU系统的快速发展,使OpenMP和CUDA编程模型在过去几年中成为首选。然而,通过结合使用上述编程模型,CPU和GPU之间所需的高效协作仍然被认为是一个很难的研究问题。在上述背景下,我们在这里展示了标准单工的高效实现,目标是在具有多个支持CUDA的GPU的多核平台上最大限度地利用所有计算资源的并发使用。更具体地说,我们提出了一种新的混合协作方案,这是基于适当的分散CPU分配(通过多线程)和GPU卸载计算的并发执行。通过在一个非常强大的现代混合平台(由32个核心和两个高规格GPU组成,Titan Rtx和Rtx 2080 Ti)上合作使用OpenMP和CUDA提取的实验结果突出显示,这里提出的混合GPU/CPU协作方案的性能在几乎所有条件下都明显优于仅GPU实现。相应的测量验证了并发使用所有资源的价值,即使是在多GPU配置平台的情况下。此外,给定的实现与参考书目中的其他相关尝试完全相当(在大多数情况下略优于),并且明显优于具有32个内核的本机CPU实现。
2022-11-20 cs.DC
LLM-Based Porting of Optimized C++ to CUDA Through Deoptimization and Reoptimization
Nagoya University(名古屋大学)
提出Deopt-Reopt工作流,通过先简化CPU优化代码再重新翻译优化为CUDA,利用LLM提升移植性能,实验表明该方法在部分内核上有效但非普遍适用。
2026-06-04 cs.DC
GPU-Resident CUDA Acceleration for OCUDU 5G PHY and O-RAN Fronthaul: Architecture and Preliminary Performance
DeepSig, Inc.(DeepSig公司)
本文提出面向OCUDU 5G物理层与O-RAN前传的GPU驻留CUDA加速架构,在NVIDIA DGX Spark平台上实现多类5G链路处理的显著加速,且性能与CPU基准偏差极小,还支持AI-RAN相关研究运行。
2026-08-06 cs.DC cs.NI eess.SP
Support Vector Machine Implementation on MPI-CUDA and Tensorflow Framework
Ain Shams University(艾因沙姆斯大学)
本文比较了支持向量机在MPI-CUDA和TensorFlow框架上的并行实现,发现MPI-CUDA实现加速更高,而TensorFlow实现提供跨平台解决方案以减少开发时间。
2023-11-25 cs.DC cs.LG
HPCTransCompile: An AI Compiler Generated Dataset for High-Performance CUDA Transpilation and LLM Preliminary Exploration
Tongji University(同济大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Tsinghua University(清华大学)
本文提出HPCTransCompile框架,利用AI编译器自动生成高性能CUDA转译数据集并引入图增强方法和HPCTransEval基准,实验表明LLM在CUDA到CPU转译中平均加速比提升43.8%。
2025-07-04 cs.AI cs.DC
A Performance Comparison of CUDA and OpenCL
CUDA和OpenCL是两种不同的GPU编程框架。OpenCL是一种开放标准,可用于对来自不同供应商的CPU、GPU和其他设备进行编程,而CUDA则专用于NVIDIA GPU。虽然OpenCL承诺为GPU编程提供一种可移植的语言,但其通用性可能会带来性能损失。在本文中,我们使用来自量子蒙特卡罗应用程序的复杂的,几乎相同的内核来比较CUDA和OpenCL的性能。我们表明,使用NVIDIA编译器工具时,将CUDA内核转换为OpenCL内核涉及最小的修改。使用ATI的构建工具编译这样的内核涉及到更多的修改。我们的性能测试测量并比较了CUDA和OpenCL的GPU之间的数据传输时间、内核执行时间以及端到端应用程序执行时间。
2011-05-16 cs.DC cs.PF physics.comp-ph
cuVegas: Accelerate Multidimensional Monte Carlo Integration through a Parallelized CUDA-based Implementation of the VEGAS Enhanced Algorithm
本研究提出基于CUDA的VEGAS+算法实现cuVegas,优化GPU多维积分的工作负载分配,相比CPU实现提速2-3个数量级,比现有最优GPU实现快2倍。
2024-08-17 cs.DC
A Review of CUDA, MapReduce, and Pthreads Parallel Computing Models
高性能计算(HPC)和图形处理单元(GPU)的出现为需要并行处理以进行鲁棒和及时的数据分析的大数据事务(大数据)提供了巨大的计算资源。虽然已经提出了许多HPC框架,但并行编程模型提出了许多挑战,例如,如何充分利用不同编程模型中的功能,通过CPU和GPU中的多线程来实现和管理并行性。在本文中,我们将概述三种并行编程模型,CUDA,MapReduce和Pthreads。目标是探索有关该主题的文献,并提供编程模型中呈现的功能的高级视图,以帮助高性能用户简明地理解并行编程概念,从而使用高性能计算更快地实现大数据项目。
2014-10-16 cs.DC
GPU implementation of a ray-surface intersection algorithm in CUDA (Compute Unified Device Architecture)
这些注释伴随着GitHub上发布的开源代码,该代码在CUDA中实现了基于GPU的线段,曲面三角形相交算法。它提到了一些相关的工作,并讨论了具体的问题,这一实施。目标是提供软件文档和更清晰的冲突缓冲区管理,这在在线文献中有时会被忽略。对于现实世界的应用程序,基于CPU的测试实现通常被认为太慢而没有用处。相比之下,这里描述的代码针对Nvidia GPU设备,并提供了一个更高效和可扩展的解决方案。主要的API也是用Python包装的。该几何检验方法可应用于各种工程问题中,因此所开发的软件可在新的情况下重用。
2022-09-07 cs.DC
Gravitational tree-code on graphics processing units: implementation in CUDA
我们提出了一种新的非常快速的树代码,它运行在大规模并行图形处理单元(GPU)与NVIDIA CUDA架构。树的构建和多极矩的计算是在主机CPU上进行的,而力的计算,其中包括树行走和相互作用列表的评估是在GPU上进行的。通过这种方式,我们实现了约100 GFLOP/s的持续性能和约50 GB/s的数据传输速率。计算一百万个张开角为$θ\approx 0.5$的粒子上的力大约需要一秒钟。该代码有一个方便的用户界面,并可免费使用\footnote{\tt http://castle.strw.leidenuniv.nl/software/octgrav.html}。
2010-05-28 astro-ph.IM cs.DC
A Way For Accelerating The DNA Sequence Reconstruction Problem By CUDA
传统的DNA组装方法是利用鸟枪法将DNA序列切割成片段,然后从片段中重组出原始的DNA序列,这是目前广泛使用的DNA组装方法。新兴的DNA测序技术为分子生物学开辟了更多的机会。本文介绍了一种基于CUDA编程模型的后缀数组法来提高DNA序列重构效率的新方法。实验结果表明,在Intel(R)Core(TM)i3- 3110 K四核和NVIDIA GeForce 610 M GPU上,使用GPU构造后缀数组是一种更有效的方法,研究表明,我们的方法的性能比CPU串行实现的性能提高了20倍以上。我们相信我们的方法为生物信息学社区提供了一个具有成本效益的解决方案。
2014-04-14 cs.CE cs.DC
Parallel Sub-Structuring Methods for solving Sparse Linear Systems on a cluster of GPU
本文的主要目的是分析子结构方法并行求解由有限元、有限体积和有限差分等偏微分方程离散化所产生的矩阵稀疏线性系。结合通用图形处理器(GPGPU)上的成功应用,提出了一种多GPU和CPU混合的子结构算法。GPU计算与CUDA一起用于加速在每个处理器上执行的操作。数值实验已经进行了一组矩阵所产生的工程问题。我们比较了C+MPI在经典CPU集群上的实现和C+MPI+CUDA在GPU集群上的实现。性能比较表明,使用CUDA子结构方法的速度提高了19倍,在双精度。
2021-08-08 cs.DC cs.MS cs.NA
Performance Evaluation of Advanced Features in CUDA Unified Memory
CUDA统一内存提高了GPU的可编程性,并支持GPU内存超额订阅。最近,引入了两个高级内存特性:内存建议和异步预取。在这项工作中,我们评估了两个平台上的新功能,这些平台具有不同的CPU,GPU和互连。我们推导出一个基准套件的实验和压力的内存系统,以评估在内存和超额认购的性能。结果表明,内存建议的Intel-Volta/Pascal-PCIe平台带来的内存执行的改善微不足道。但是,当GPU内存超额使用约50%时,与基本CUDA统一内存相比,使用内存建议可带来高达25%的性能提升。相比之下,Power 9-Volta-NVLink平台可以从内存建议中受益匪浅,实现高达34%的内存执行性能增益。然而,当GPU内存在此平台上被超额预订时,使用内存建议会增加GPU页面错误并导致相当大的性能损失。CUDA预取在两个平台上也显示出不同的性能影响。它在Intel-Volta/Pascal-PCI-E平台上将性能提高了50%,但对Power 9-Volta-NVLink平台几乎没有带来任何好处。
2019-10-21 cs.DC
AccFFT: A library for distributed-memory FFT on CPU and GPU architectures
我们提出了一个新的库并行分布式快速傅立叶变换(FFT)。FFT在科学和工程中的重要性以及高性能计算的进步需要进一步改进。AccFFT将支持CUDA的图形处理单元(GPU)的现有FFT库扩展到分布式内存集群。我们使用重叠的通信方法来减少PCIe从/到GPU的传输开销。我们目前的数值计算结果小牛平台在得克萨斯州高级计算中心(TACC)和泰坦系统在橡树岭国家实验室(ORNL)。我们将库扩展到Titan的4,096个K20 GPU。
2016-05-25 cs.DC
LightScan: Faster Scan Primitive on CUDA Compatible Manycore Processors
扫描(或前缀和)是并行计算中的基本且广泛使用的原语。在本文中,我们提出了LightScan,一个更快的并行扫描原语CUDA使GPU,它研究了一个混合模型相结合的块内计算和块间通信来执行扫描。该算法采用warp shuffle函数实现快速块内计算,并利用全局一致的L2缓存和相关的并行线程执行(PTX)汇编指令实现轻量级块间通信。使用单个Tesla K40 c GPU进行的性能评估表明,LightScan优于现有的GPU算法和实现,与在同一GPU上运行的领先CUDPP、Thrust、ModernGPU和CUB实现相比,其加速比分别高达2.1、2.4、1.5和1.2。此外,LightScan在16个CPU内核和英特尔至强融核5110P协处理器上的运行速度分别比英特尔TBB快8.9倍和257.3倍。LightScan的源代码可在http://cupbb.sourceforge.net上获得。
2016-04-17 cs.DC
GPU Parallelization Strategies for Forward and Backward Propagation in Shallow Neural Networks: A CUDA-Based Comparative Study
本研究比较了浅层神经网络中前向和反向传播的三种CUDA优化策略(平铺共享内存、预转置权重矩阵、融合MatMul+ReLU核),在NVIDIA Tesla T4上实现1.41倍加速。
2026-06-29 cs.DC cs.LG
GPGPU Computing
自从第一个将GPU用于通用计算的想法出现以来,多年来事情已经发展,现在有几种GPU编程的方法。GPU计算实际上始于NVIDIA推出的CUDA(计算统一设备架构)和AMD推出的Stream。这些是GPU供应商设计的API,与他们提供的硬件一起使用。OpenCL(Open Computing Language)是一种新兴的标准,它试图统一不同的GPU通用计算API实现,并为编写跨CPU和GPU组成的异构平台执行的程序提供了一个框架。OpenCL使用基于任务和基于数据的并行性提供并行计算。本文将重点介绍NVIDIA推出的CUDA并行计算架构和编程模型。我们将介绍CUDA编程模型的优点。我们还将比较两种主要的方法,CUDA和AMD APP(STREAM)以及试图统一GPGPU计算模型的新框架OpenCL。
2014-08-29 cs.DC
Lessons Learned Migrating CUDA to SYCL: A HEP Case Study with ROOT RDataFrame
本文以ROOT RDataFrame的直方图填充操作为案例,详述从CUDA到SYCL的迁移过程与集成挑战,并通过对比AdaptiveCpp、DPC++和CUDA的性能分析,为SYCL开发者提供实践指导。
2025-01-06 cs.DC
GPU-CFR: 80x Faster Counterfactual Regret Minimization by Compiling the Game to Static Dataflow and CUDA Graph Replay
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院)
GPU-CFR 通过将博弈编译为静态数据流和 CUDA 图重放,消除内核启动开销,实现比先前 GPU 实现快 80 倍、比 CPU 实现快 258 倍的加速。
2026-09-11 cs.AI cs.DC cs.GT
Performance Analysis of Noise Subspace-based Narrowband Direction-of-Arrival (DOA) Estimation Algorithms on CPU and GPU
阵列信号处理问题的高性能计算是一项关键任务,因为许多应用都需要实时系统性能。基于噪声子空间的波达方向(DOA)估计算法因其具有较高的角分辨率和鲁棒性而受到广泛关注。在这项研究中,我们研究了各种优化策略的高性能DOA估计GPU和比较分析替代实现(MATLAB,C/C++和CUDA)。实验表明,与基准多线程CPU实现相比,GPU上可以实现高达3.1倍的加速比。源代码可在以下链接中公开获得:https://github.com/erayhamza/NssDOACuda
2020-07-28 cs.DC eess.SP
General-purpose molecular dynamics simulations on GPU-based clusters
我们提出了一个GPU实现的LAMMPS,广泛使用的并行分子动力学(MD)的软件包,并显示5倍至13倍的单节点加速比仅CPU版本的LAMMPS。这个新的LAMMPS CUDA包还支持在混合异构集群上进行多GPU模拟,使用MPI进行节点间通信,GPU上的CUDA内核用于处理粒子数据的所有方法,以及用于CPU执行的标准LAMMPS C++代码。比较了单元和邻居列表方法在GPU上的最佳性能,每原子线程和每原子块邻居列表变体分别在低邻居计数和高邻居计数时显示出最佳性能。GPU支持的LAMMPS的计算性能结果针对各种材料类别(例如生物分子,聚合物,金属,半导体),以及与其他可用的GPU支持的MD软件的速度比较。最后,我们展示了使用多达128个双GPU节点的CPU/GPU集群上的强和弱扩展性能。
2011-03-06 cond-mat.mtrl-sci cs.DC cs.PF
Solving the Resource Constrained Project Scheduling Problem Using the Parallel Tabu Search Designed for the CUDA Platform
Czech Technical University in Prague(布拉格捷克理工大学)
本文提出了一种求解资源受限项目调度问题的并行禁忌搜索算法。为了处理这个NP-难的组合问题,已经进行了许多优化。例如,通过启发式算法选择资源评估算法,并设计了有效的禁忌表。除此之外,提出了一种容量索引的资源评估算法,GPU(图形处理单元)版本使用同构模型来减少所需的通信带宽。实验结果表明,GPU版本在计算时间和解的质量方面优于优化的并行CPU版本。与其他现有的算法相比,所提出的解决方案往往给出更好的质量解决方案。
2017-11-13 cs.AI cs.DC
Understanding NVIDIA Grace-Blackwell Unified Memory Through Placement-Controlled Microbenchmarks
University of Delaware(特拉华大学)
本文通过位置控制微基准测试,结合多平台验证,揭示NVIDIA Grace-Blackwell统一内存的性能受位置、访问历史等因素影响,修正了单一带宽指标的误导性,为理解该内存系统提供了校准模型。
2026-10-14 cs.DC
Solving The Longest Overlap Region Problem for Noncoding DNA Sequences with GPU
GPU的早期硬件限制(缺乏同步基元和有限的内存缓存机制)可能会使基于GPU的计算效率低下。生物技术的发展为生物信息学和生物工程学的发展带来了新的机遇。本文介绍了一种在计算统一设备架构(CUDA)平台Intel(R)Core(TM)i3- 3110 m四核上求解非编码DNA序列最长重叠区的方法。与标准CPU实现相比,CUDA性能证明了非编码DNA最长重叠区识别方法是一种高性能生物信息学应用的有效途径。研究表明,GPU性能的效率是CPU串行实现的20倍以上的加速比。我们相信,我们的方法提供了一个具有成本效益的解决方案,生物信息学社区解决最长重叠区域识别问题和其他相关领域。
2014-10-28 cs.CE cs.DC
Parallelizing the Unpacking and Clustering of Detector Data for Reconstruction of Charged Particle Tracks on Multi-core CPUs and Many-core GPUs
我们提出的结果从并行化的解包和聚类步骤的原始数据从硅带模块重建带电粒子轨道。通过在CPU上使用嵌套的OpenMP并行性或在GPU上使用CUDA流来并发处理多个事件,吞吐量得到进一步改进。新的实现以及早期的工作,在开发一个并行化和矢量化的组合卡尔曼滤波器算法的实现,使整个事件的有效的全球重建现代计算机架构。我们展示了在英特尔至强和NVIDIA GPU架构上的新实现的性能。
2021-01-27 cs.DC hep-ex
Study of Automatic Offloading Method in Mixed Offloading Destination Environment
近年来,除了诸如GPU、FPGA或多核CPU的小核CPU之外的异构硬件的利用率正在增加。然而,当使用异构硬件时,诸如OpenMP、CUDA和OpenCL等技术技能的障碍很高。在此基础上,我提出了环境适应软件,根据要放置的硬件,可以自动转换,配置和高性能操作一次编写的代码。然而,包括现有的技术,还没有研究适当地和自动地卸载混合卸载目标环境,如GPU、FPGA和多核CPU。本文作为环境自适应软件的一个新元素,研究了在GPU、FPGA和多核CPU混合卸载环境下,应用程序的合理自动卸载方法。我评估所提出的方法在多个应用程序的有效性。
2021-07-10 cs.DC
Integration of CUDA Processing within the C++ library for parallelism and concurrency (HPX)
经验表明,在当今的高性能系统上,很难将不同的加速卡的利用与系统的所有其它部分的高利用结合起来。随着内核数量的增加以及存储层次结构的加深,未来的架构(如百亿亿次集群)预计会加剧这一问题。分布式应用程序的一个重要方面是保证所有可用资源的高利用率,包括集群上的本地或远程加速卡,同时充分利用所有可用的CPU资源,并将GPU工作集成到整个编程模型中。对于CUDA代码的集成,我们扩展了HPX,一个通用的C++运行时间系统,用于任何规模的并行和分布式应用程序,并使异步数据传输和GPU设备和异步调用CUDA内核对这些数据。这两个操作都很好地集成到HPX的通用编程模型中,允许将任何GPU操作与主内核上的工作无缝重叠。任何用户定义的CUDA内核都可以在分布式应用程序可用的任何(本地或远程)GPU设备上启动。我们提出了异步实现的数据传输和内核启动CUDA代码的HPX异步执行图的一部分。使用这种方法,我们可以在集群上组合所有远程和本地可用的加速卡,以充分利用其性能。开销测量表明,作为HPX执行图的一部分,异步操作(数据传输+内核启动)的集成不会带来额外的计算开销,并显着简化了主内核和所使用的GPU设备上的协调和并发工作。
2018-10-26 cs.DC cs.PL
Analyzing the Performance Portability of SYCL across CPUs, GPUs, and Hybrid Systems with SW Sequence Alignment
本研究通过SW序列比对案例,系统评估了SYCL在NVIDIA、Intel和AMD的CPU、GPU及混合架构上的性能可移植性,证明其可作为异构计算环境中可行的统一编程模型。
2025-04-14 cs.DC
CUDA MPC: A GPU-Native Solver for Model Predictive Control
本文提出GPU原生MPC框架CUDA MPC,通过协同设计优化算法等实现低开销,在多机器人基准测试中实时性远超CPU及同类框架,是首个实现10智能体集群无碰撞协调的实时求解器。
2026-08-05 cs.DC cs.RO cs.SY
Deep Learning and Machine Learning with GPGPU and CUDA: Unlocking the Power of Parallel Computing
本研究探讨GPGPU和CUDA在深度学习与机器学习中的并行计算应用,分析架构特性、优化策略及多框架实践案例,为不同经验从业者提供综合指南,助力释放GPU并行计算潜力以推动AI发展。
2025-11-19 cs.AR cs.DC
Secure Federated XGBoost with CUDA-accelerated Homomorphic Encryption via NVIDIA FLARE
本文提出Secure Federated XGBoost,通过同态加密保护中间梯度统计信息,并利用NVIDIA FLARE插件接口集成CPU与CUDA加速HE插件,在垂直联邦场景实现高达30倍加速,兼顾数据隐私与高性能。
2025-04-04 cs.CR cs.DC cs.ET
Study of Automatic GPU Offloading Method from Various Language Applications
近年来,除了诸如GPU、FPGA或多核CPU的小核CPU之外的异构硬件的利用率正在增加。然而,当使用异构硬件时,CUDA等技术技能的障碍很高。在此基础上,我提出了环境适应软件,根据要放置的硬件,可以自动转换,配置和高性能操作一次编写的代码。然而,目前用于卸载的源语言主要是C/C++语言应用,还没有针对不同语言应用的通用卸载研究。在本文中,我研究了一种通用的方法,自动卸载各种语言的应用程序,不仅在C语言,而且在Python和Java。
2020-11-06 cs.DC
GPU-Resident Gaussian Process Regression Leveraging Asynchronous Tasks with HPX
University of Stuttgart(斯图加特大学)
本研究通过在GPU上实现高斯过程回归,利用异步任务和HPX框架提升大规模数据集的计算效率。
2026-02-23 cs.DC
Scalable communication for high-order stencil computations using CUDA-aware MPI
高性能计算中的现代计算节点提供了巨大的并行性和处理能力。然而,由于已经观察到算术性能相对于存储器和网络带宽以更快的速率增加,因此优化数据移动对于在许多通信繁重的应用中实现强大的可扩展性变得至关重要。随着图形处理单元的引入,这种性能差距进一步加剧,图形处理单元可以通过多种因素提供比中央处理单元更高的数据并行任务吞吐量。在这项工作中,我们探讨了迭代模板循环的计算方面,并实现了一个通用的通信方案,使用CUDA感知MPI,我们用它来加速基于高阶有限差分和三阶龙格库塔积分的磁流体力学模拟。我们特别关注提高工作负载的节点内局部性。我们的GPU实现可在$50\%$上从一个$64$设备强烈扩展--基于理论性能模型的预期效率的$87\%$。与多核CPU求解器相比,我们的实现在$16$节点上的计算约束基准测试中表现出$20$-$60\times$加速和$9$ - $12\times$提高的能量效率。
2022-05-10 cs.DC physics.comp-ph physics.flu-dyn
cuPC: CUDA-based Parallel PC Algorithm for Causal Structure Learning on GPU
Sharif University of Technology(谢里夫理工大学)
在经验科学的许多领域中,主要目标是从观测数据中发现一组变量之间的因果关系。PC算法是一种很有前途的解决方案,通过执行一些条件独立性测试来学习潜在的因果结构。在本文中,我们提出了一种新的基于GPU的并行算法,称为cuPC,执行一个订单独立版本的PC。所提出的解决方案有两个变体,cuPC-E和cuPC-S,它们以两种不同的方式并行化PC,用于多变量正态分布。实验结果表明,所提出的算法相对于变量的数量,样本的数量,和不同的图密度的可扩展性。例如,在一个最具挑战性的数据集中,运行时间从11个多小时减少到大约4秒。平均而言,与CPU上的串行实现相比,cuPC-E和cuPC-S分别实现了500倍和1300倍的加速。cuPC的源代码可以在网上找到[1]。
2019-09-23 cs.DC cs.LG q-bio.QM
Characterizing CPU-Induced Slowdowns in Multi-GPU LLM Inference
Georgia Institute of Technology(佐治亚理工学院)
通过分析多GPU大语言模型推理负载,发现CPU资源不足导致GPU利用率低下,增加CPU核心数可显著提升性能并降低首令牌延迟。
2026-08-28 cs.AR cs.DC
Accelerating QDP++ using GPUs
图形处理单元(GPU)作为科学高性能计算(HPC)中的目标架构变得越来越重要。NVIDIA建立了CUDA作为一种并行计算架构,控制和利用GPU的计算能力。CUDA为C++语言元素提供了足够的支持,以在设备内存域中启用表达式模板(ET)技术。QDP++是一个适用于量子场论的C++矢量类库,它提供了矢量数据类型和表达式,并形成了格点量子色动力学软件套件Chroma的基础。在这项工作中,利用ET技术和使用即时(JIT)编译成功实现了将QDP++表达式计算加速到GPU。可移植表达式模板引擎(PETE)和CUDA内核参数的C API用于在主机和设备内存域之间建立桥梁。这提供了将色度例程加速到GPU的可能性,这些GPU通常不受特殊优化的影响。作为一个应用实例,在GPU上加速了一个涂抹例程。可以测量到与正常CPU执行相比的显著加速。
2011-05-11 cs.DC cs.PL hep-lat
VaultxGPU: GPU-Accelerated Blockchain Consensus
College of Computing Illinois Institute of Technology Chicago, USA
提出VaultxGPU,利用GPU加速Blake3哈希流水线,实现Proof-of-Space绘图速度比单线程CPU提升59.2倍,K=31绘图仅需45.4秒。
2026-06-15 cs.DC
GPU-Accelerated Discontinuous Galerkin Methods: 30x Speedup on 345 Billion Unknowns
本文提出了一种在笛卡尔网格上离散无粘流体动力学控制方程--可压缩欧拉方程的间断Galerkin方法,并通过OCCA(一种统一的多线程硬件结构性能移植方法)将其应用于图形处理单元。与使用非CUDA感知MPI通信的仅CPU实现相比,在多达1,536个NVIDIA V100 GPU上实现了30倍的求解时间加速,并且在多达6,144个NVIDIA V100 GPU上实现了并行强大的可扩展性,解决了包含3,450亿个未知数的问题。CUDA-Aware MPI通信与非GPUDirect通信的比较表明,在由32个NVIDIA V100 GPU组成的8个节点上,速度提高了24%。
2020-08-31 cs.DC cs.NA cs.PF
A sparse octree gravitational N-body code that runs entirely on the GPU processor
我们提出了并行算法的构建和遍历稀疏八叉树的图形处理单元(GPU)。该算法是基于并行扫描和排序方法。为了测试性能和可行性,我们在CUDA中以重力树代码的形式实现了它们,该代码完全在GPU上运行。(The代码可在http://castle.strw.learnuniv.nl/software.html公开获得)树构造和遍历算法可移植到支持CUDA或OpenCL编程语言的众核设备。重力树代码在树构造期间优于调优的CPU代码,并且总体上显示出超过20倍的性能改进,导致每秒超过280万个粒子的处理速率。
2012-04-10 astro-ph.IM cs.DC
CUDA-MPQS: A GPU-Resident Self-Initializing Quadratic Sieve, and the Factorization of RSA-155
Paderborn University(帕德博恩大学)
提出CUDA-MPQS,一种全阶段在GPU上执行的自初始化二次筛法,成功分解RSA-155,创下二次筛法最大整数纪录,并在RSA-100上显著快于CPU实现。
2026-10-07 cs.DC cs.MS math.NT
Evaluation of computational and energy performance in matrix multiplication algorithms on CPU and GPU using MKL, cuBLAS and SYCL
该研究评估了CPU和GPU上不同矩阵乘法库(MKL、cuBLAS、SYCL)的计算与能耗性能,发现MKL和带张量核心的cuBLAS性能最佳但精度略降,CPU可实现接近GPU的性能但功耗更高。
2024-05-27 cs.AR cs.DC
Assessing Opportunities of SYCL for Biological Sequence Alignment on GPU-based Systems
本文研究将CUDA开发的生物序列比对工具SW\#迁移到SYCL标准的过程,利用Intel oneAPI实现,实验表明仅需少量手工编码即可完成迁移,且跨多种GPU和CPU架构移植时性能无明显下降,证明SYCL对生物信息学领域具有良好应用前景。
2024-02-23 cs.DC cs.PL
Extending DD-$α$AMG on heterogeneous machines
针对格点量子色动力学的DD-$α$AMG求解器,本文通过HIP转换代码适配ORISE超级计算机,扩展平滑器(Richardson平滑表现优异)、移植预处理求解器版本并向量化粗网格操作,提升其在异构机器上的性能。
2025-08-20 cs.DC cs.NA hep-lat
KineticSim: A Lightweight, High-Performance Execution Engine for Real-Time Market Simulators
University of Central Florida(中佛罗里达大学)
针对传统CPU模拟器顺序处理瓶颈和GPU框架开销问题,提出持久化状态清除并行模式,在KineticSim中实现每秒547亿代理事件吞吐量,相比CPU加速3406倍,且内存占用更低。
2026-06-23 cs.DC cs.PF q-fin.TR
JZ-Tree: GPU friendly neighbour search and friends-of-friends with dual tree walks in JAX plus CUDA
University of Vienna(维也纳大学)
本文提出一种针对GPU架构的Morton(z-order)平面树层级结构,实现高效的双树遍历,显著提升大规模问题的性能,支持多GPU分布式计算。
2026-04-07 astro-ph.CO cs.DC physics.comp-ph