FPGA or GPU? Analyzing comparative research for application-specific guidance
Western New England University, Member IEEE, Springfield, MA, USA(西部新英格兰大学);Department of ECE , The Citadel , Charleston, NC, USA(电子与计算机工程系,特 CITADEL,查尔斯顿,NC,USA)
本文通过综合比较FPGA与GPU的研究文献,分析其性能、能效和可编程性,为不同领域应用选择合适加速器提供指导。
2025-11-09 cs.AR cs.CL cs.DC
GPU Parallelization Strategies for Forward and Backward Propagation in Shallow Neural Networks: A CUDA-Based Comparative Study
本研究比较了浅层神经网络中前向和反向传播的三种CUDA优化策略(平铺共享内存、预转置权重矩阵、融合MatMul+ReLU核),在NVIDIA Tesla T4上实现1.41倍加速。
2026-06-29 cs.DC cs.LG
Comparative Performance Analysis of Intel Xeon Phi, GPU, and CPU
我们调查和表征一类重要的GPU和许多集成核心(MIC)架构上的操作的性能。我们的工作是由应用程序,分析低维的空间数据集捕获的高分辨率传感器,如图像数据集从整个幻灯片组织标本使用显微图像扫描仪。我们确定了对象分割和特征计算类别中的操作的数据访问和计算模式。我们系统地实现和评估这些核心操作的性能在现代CPU,GPU和MIC系统的显微图像分析应用程序。我们的研究结果表明:(1)数据访问模式和操作所采用的并行化策略强烈影响其性能。虽然执行常规数据访问的操作的MIC上的性能与GPU上的性能相当或有时更好;(2)对于不规则访问数据的操作和算法,GPU比MIC更有效。这是由于后者在随机数据访问方面性能较低的结果;(3)使用性能感知任务调度策略在MIC和CPU上充分协调执行,比先来先服务策略提高了约1.29倍。示例应用程序在192个节点(3072个CPU内核和192个MIC)的执行中获得了84%的效率。
2013-11-02 cs.DC cs.PF
GPU-optimized Approaches to Molecular Docking-based Virtual Screening in Drug Discovery: A Comparative Analysis
COVID-19显示了对流行病做出快速反应的重要性。发现一种新药是一个非常漫长和复杂的过程,并且可以通过使用计算机模拟来加速初步阶段。特别是,虚拟筛选是一个计算机模拟阶段,需要将大量可能的候选药物筛选到可管理的数量。本文介绍了实现和比较分析的两个GPU优化实现的虚拟筛选算法针对新的GPU架构。第一种方法采用传统的方法,将评估单个分子所需的计算分散到整个GPU中。第二种使用批处理方法,该方法利用GPU的并行架构并行评估更多分子,而不考虑处理单个分子的延迟。本文介绍了所提出的解决方案的优点和缺点,突出了影响性能的实施细节。实验结果突出了两种方法在NVIDIA A100 GPU上运行时在几个目标分子数据库上的不同性能。这两种实现方式对于要处理的数据具有很强的依赖性。对于这两种情况,性能都在提高,同时降低了目标分子的尺寸(原子和可旋转键的数量)。这两种方法显示了不同的行为,相对于要筛选的分子数据库的大小。虽然延迟时间更快(分子更少)达到吞吐量方面的性能平台,但批量处理需要更大的分子集。然而,在初始过渡期之后的性能要高得多(高达5倍加速)。最后,为了检查这两种实现的效率,我们使用指令屋顶线方法深入分析了它们的工作负载特性。
2022-09-12 cs.DC
GPGPU Computing
自从第一个将GPU用于通用计算的想法出现以来,多年来事情已经发展,现在有几种GPU编程的方法。GPU计算实际上始于NVIDIA推出的CUDA(计算统一设备架构)和AMD推出的Stream。这些是GPU供应商设计的API,与他们提供的硬件一起使用。OpenCL(Open Computing Language)是一种新兴的标准,它试图统一不同的GPU通用计算API实现,并为编写跨CPU和GPU组成的异构平台执行的程序提供了一个框架。OpenCL使用基于任务和基于数据的并行性提供并行计算。本文将重点介绍NVIDIA推出的CUDA并行计算架构和编程模型。我们将介绍CUDA编程模型的优点。我们还将比较两种主要的方法,CUDA和AMD APP(STREAM)以及试图统一GPGPU计算模型的新框架OpenCL。
2014-08-29 cs.DC
Parallel Computing of Discrete Element Method on GPU
我们研究了GPU对DEM的适用性。NVIDIA的代码在计算时间上获得了优于CPU的性能。NVIDIA代码中的接触力模型对于实际应用来说过于简单。我们修改这个模型,用实际模型代替它。仿真结果表明,该模型在CPU上的计算速度比实际模型快6倍,在GPU上的计算速度比简单模型慢7倍。并对结果进行了分析。
2013-01-08 cs.CE cs.DC
Efficient Resource Sharing Through GPU Virtualization on Accelerated High Performance Computing Systems
高性能计算(HPC)领域正在见证图形处理单元(GPU)作为传统同构集群的协处理器的广泛采用。基于GPU的并行处理采用流行的单程序多数据(SPMD)编程范式,带来了处理器/协处理器分布不对称、资源利用率低的挑战。换句话说,在SPMD下,需要均衡的CPU/GPU分布以确保充分的资源利用率。在本文中,我们提出了一种GPU资源虚拟化的方法,使未充分利用的微处理器,有效地共享GPU。我们提出了一个有效的GPU共享方案,通过GPU虚拟化实现,并通过执行模型分析性能潜力。我们进一步提出的虚拟化基础设施的实施细节,其次是实验分析。结果表明,GPU虚拟化带来了可观的性能提升。此外,所提出的解决方案能够充分利用非对称资源,通过有效的GPU共享之间的微处理器,同时由于增加的虚拟化层,导致低开销。
2015-11-24 cs.DC cs.PF
FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
针对无服务器机器学习推理中现有数据传递方案依赖主机内存导致I/O开销高的问题,提出FaaSTube系统,通过GPU内存池直接交换数据、细粒度带宽共享与弹性内存池,大幅降低端到端延迟并提升吞吐量。
2024-11-04 cs.DC
Cost-Performance Analysis: A Comparative Study of CPU-Based Serverless and GPU-Based Training Architectures
Oakland University(奥克兰大学);École de technologie supérieure (ETS)(高等技术学院);University of Quebec at Chicoutimi(尚布尔克大学)
本文比较分析了SPIRT等无服务器分布式ML架构,发现SPIRT通过并行批处理和RedisAI数据库内操作显著降低了训练时间与通信开销,尽管初始成本较高但具有长期经济效益。
2025-09-18 cs.DC
GPU-accelerated machine learning inference as a service for computing in neutrino experiments
机器学习算法在基于加速器的中微子实验中的事件重建中变得越来越普遍和高效。这些复杂的算法在计算上可能是昂贵的。与此同时,此类实验的数据量正在迅速增加。用许多机器学习算法推理来处理数十亿个中微子事件的需求产生了计算挑战。我们探讨了一种计算模型,其中异构计算与GPU协处理器是作为一个Web服务。协处理器可以有效和弹性地部署,为给定的处理任务提供适当的计算量。通过我们的协处理器优化网络推理服务(SONIC),我们专门为ProtoDUNE-SP重建链集成了GPU加速,而不会中断本地计算工作流程。通过我们的集成框架,我们将最耗时的任务,跟踪和粒子簇射命中识别加速了17倍。与仅使用CPU的生产相比,这导致总处理时间减少了2.7倍。对于这个特定的任务,每68个CPU线程只需要1个GPU,提供了一个具有成本效益的解决方案。
2021-03-22 cs.DC hep-ex physics.comp-ph
GPU PaaS Computation Model in Aneka Cloud Computing Environment
由于产生的数据量的激增以及人工智能(AI)技术(如机器学习和深度学习)的快速发展,现有的传统计算模型已经不足以处理用于提取内在信息的巨大数据量和复杂的应用逻辑。诸如图形处理单元(GPU)的计算加速器已经成为许多大数据和机器学习应用的事实上的SIMD计算系统。另一方面,传统的计算模式也逐渐从传统的基于所有权的计算转向基于订阅的云计算模式。然而,缺乏以无缝方式开发云原生应用程序以利用云中的CPU和GPU资源的编程模型和框架已成为快速应用程序开发的瓶颈。为了支持这种应用程序对同时使用异构资源的需求,需要编程模型和新的框架来有效地管理底层资源。Aneka是一种流行的PaaS计算模型,用于在单个容器.NET平台中使用多个编程模型(如Thread,Task和MapReduce)开发云应用程序。由于Aneka解决了使用基于CPU的资源的MIMD应用程序开发问题,而GPU编程(如CUDA)是为SIMD应用程序开发而设计的,因此本章讨论了Aneka Cloud的GPU PaaS计算模型,以实现.NET平台的快速云应用程序开发。流行的开源GPU库被利用并集成到现有的Aneka任务编程模型中。扩展了调度策略,可以自动识别GPU机器并相应地调度相应的任务。最后,以图像处理为例,介绍了基于PaaS Aneka SDK和CUDA库构建的系统。
2018-08-20 cs.DC
BLASX: A High Performance Level-3 BLAS Library for Heterogeneous Multi-GPU Computing
基本线性代数子程序(Basic Linear Algebra Subprograms,BLAS)是一组低级线性代数内核,广泛应用于深度学习和科学计算。新兴GPU架构带来的巨大而经济的计算能力推动了在多GPU系统上实现计算密集型3级BLAS的兴趣。在本文中,我们调查了现有的多GPU 3级BLAS,并提出1)问题,如不适当的负载均衡,低效的通信,GPU流级并发和数据缓存不足,阻碍了当前的实现充分利用异构计算资源; 2)和GPU间的对等(P2P)通信仍然没有探索。然后,我们提出BLASX:一个高度优化的多GPU 3级BLAS。我们采用了算法的概念,由瓦片处理矩阵瓦片作为基本的数据单元和瓦片上的操作作为基本任务。任务由一个动态异步运行时引导,它是缓存和位置感知的。BLASX下的通信成本变得微不足道,因为它完美地重叠了异步任务进程中跨多个流的通信和计算。它还通过提出一种创新的2级分层切片缓存,利用GPU间的P2P通信,将当前的切片缓存方案向前推进了一步。因此,BLASX在多GPU配置下可观察到线性加速;广泛的基准测试表明,BLASX始终优于相关的领先工业和学术项目,如cuBLAS-XT,SuperMatrix,MAGMA和PaRSEC。
2015-10-16 cs.DC
Computing Treewidth on the GPU
我们提出了一种在GPU上计算图的树宽的并行算法。我们在OpenCL中实现了该算法,并对其性能进行了实验评估。我们的算法是基于一个$O^*(2^{n})$的时间算法,探讨消除排序的图形使用Held-Karp一样的动态规划方法。我们使用Bloom过滤器来检测重复的解决方案。GPU编程提出了独特的挑战和限制,例如对内存使用的限制以及限制分支发散的需要。我们尝试各种优化,看看是否有可能解决这些问题。与在CPU上运行相同的算法相比,我们实现了非常大的速度提升(高达$77\times$)。
2017-09-28 cs.DC
Democratizing AI: A Comparative Study in Deep Learning Efficiency and Future Trends in Computational Processing
North South University(南北大学);Pennsylvania State University(宾夕法尼亚州立大学);United International University(联合国际大学);King Fahd University of Petroleum and Minerals (KFUPM)(法赫德国王石油矿产大学)
本文通过比较四种深度学习模型在CPU和GPU上的训练效率,发现GPU能带来11至246倍的加速,同时分析了GPU内存使用趋势及未来需求,强调共享GPU资源对推动研究创新的重要性。
2026-04-02 cs.AI cs.DC cs.LG
Comparative benchmarking of cloud computing vendors with High Performance Linpack
我们对Linpack基准测试在多个云提供商公开提供的计算密集型硬件上实现的最大性能进行了比较分析。我们研究了单个计算节点内的性能,以及多达32个节点或至少512个计算核心的分布式内存计算的加速。我们区分超线程和非超线程的情况下,估计每个计算核心的性能。我们还比较了结果与传统的超级计算系统的参考。我们的研究结果提供了一种对云提供商进行排名的方法,并证明了云在高性能计算应用中的可行性。
2017-02-09 cs.DC cs.PF
Importance of Explicit Vectorization for CPU and GPU Software Performance
当前高性能计算的大部分焦点是多线程、多计算和图形处理单元(GPU)计算。然而,向量化和非并行优化技术,往往可以采用额外的,不经常讨论。在本文中,我们提出了一个分析的几个优化上完成的中央处理器(CPU)和GPU实现的一个特定的计算密集型大都市蒙特卡罗算法。显式向量化的CPU和等价的,显式内存合并,在GPU上被发现是至关重要的,以实现良好的性能,该算法在这两种环境中。完全优化的CPU版本实现了9倍到12倍的速度比原来的CPU版本,除了从多线程加速。这比完全优化的GPU版本快2倍。
2010-03-31 cs.DC cs.PF physics.comp-ph
Towards Fast Setup and High Throughput of GPU Serverless Computing
针对GPU无服务器计算中粗粒度管理导致的设置时间长和吞吐量低的问题,提出SAGE框架,通过并行化函数设置和共享内存管理机制,显著缩短函数持续时间并提升函数密度。
2024-04-23 cs.DC
GPU Computing with Python: Performance, Energy Efficiency and Usability
在这项工作中,我们研究了使用Python开发在GPU上运行的HPC代码时的性能,能效和可用性。我们调查了CUDA和OpenCL之间的性能和能效的可移植性; GPU之间的世代;以及低端,中端和高端GPU之间的可移植性。我们的研究结果表明,使用Python对我们的应用程序的影响可以忽略不计,此外,CUDA和OpenCL应用程序调整到同等水平,在许多情况下可以获得相同的计算性能。我们的实验表明,一般来说,不同GPU之间的性能差异比使用CUDA和OpenCL之间的差异更大。我们还表明,调整性能是一个很好的方式调整能源效率,但具体的调整需要获得最佳的能源效率。
2019-12-05 cs.DC
Hybrid CPU-GPU Framework for Network Motifs
由于最近数据的激增,诸如GPU的大规模并行架构变得越来越重要。在本文中,我们提出了一类关键的混合并行graphlet算法,利用多个CPU和GPU同时计算k-顶点诱导子图统计(称为graphlet)。除了混合多核CPU-GPU框架之外,我们还研究了单GPU方法(使用多核)和多GPU方法,这些方法同时利用所有可用的GPU来计算诱导子图统计。这两种方法都只利用GPU设备,而混合多核CPU-GPU框架利用所有可用的多核CPU和多个GPU来计算大型网络中的graphlet。与最近的方法相比,我们的方法速度快了几个数量级,同时也更具成本效益,人均和每瓦性能优越。特别是,该方法比最近的最先进的方法快300倍。据我们所知,这是第一个同时利用多个CPU和GPU来计算诱导子图统计的工作。
2016-10-28 cs.DC cs.SI stat.ML
RAFI -- A Ray/Work Forwarding Infrastructure for Data Parallel Multi-Node/Multi-GPU Computing
NVIDIA(英伟达);Bilkent University(比尔肯特大学);SCI Institute, University of Utah(犹他大学计算研究所);University of Cologne(科隆大学);NASA Ames Research Center(NASA艾姆斯研究中心);IT4Innovations, VSB -Technical University of Ostrava(Ostrava理工大学IT4创新中心)
提出基于CUDA和MPI的软件框架RaFI,简化GPU数据并行计算中射线等工作项在不同GPU间迁移的实现,通过统一接口管理底层通信。
2026-05-28 cs.DC cs.GR
Expanding IceCube GPU computing into the Clouds
IceCube协作依赖GPU计算来满足其许多需求,包括光线追踪模拟和机器学习活动。然而,GPU在科学资源提供商社区中仍然是一种相对稀缺的商品,因此我们使用商业云提供商提供的GPU扩展了可用资源池。调配的资源通过开放科学网格(OSG)基础设施完全集成到正常的IceCube工作负载管理系统中,并使用CloudBank进行预算管理。其结果是,IceCube在两周内使用的GPU墙时数大约翻了一番,增加了超过3.1 fp32 EFLOP时数,价格约为5.8万美元。本文介绍了使用的设置和操作经验。
2021-07-08 cs.DC
GPU-Based Parallel Computing Methods for Medical Photoacoustic Image Reconstruction
针对医学光声成像重建计算量大的问题,提出基于GPU的并行计算方法,通过并行化迭代重建代码与优化内存访问,在保证精度的前提下显著提升重建速度,助力光声成像在医疗与药物研发等领域推广。
2024-04-16 cs.DC
CPU-GPU Heterogeneous Code Acceleration of a Finite Volume Computational Fluid Dynamics Solver
本文研究有限体积CFD求解器SENSEI的CPU-GPU异构加速,提出考虑ghost cell交换的性能模型,并通过超声速进气道算例验证异构计算相比纯CPU或纯GPU的性能优势。
2023-05-29 cs.DC cs.PF
Torpor: GPU-Enabled Serverless Computing for Low-Latency, Resource-Efficient Inference
针对现有无服务器平台缺乏高效GPU支持的问题,提出Torpor平台,通过延迟绑定、模型交换及多种优化技术实现GPU高效共享,试点部署为用户和平台分别降低70%和65%的GPU配置成本。
2025-07-08 cs.DC
Enabling GPU Accelerated Computing in the SUNDIALS Time Integration Library
作为Exascale Computing Project(ECP)的一部分,非线性和差分/代数方程求解器套件(SUNDIALS)最近的开发重点是在极端尺度下的科学应用中实现GPU加速的时间积分。这一努力导致了几个新的GPU启用的实现核心SUNDIALS数据结构,支持编程范式,这是意识到异构体系结构,并引入实用程序,以提供新的灵活性点。在本文中,我们讨论了我们的考虑,内部和外部,当设计这些新功能,并提出自己的功能。我们还介绍了Summit超级计算机和Frontier超级计算机的抢先体验硬件上的几个功能的性能结果,这些结果表明,使用NVIDIA和AMD GPU时,额外的基础设施和显着的加速带来的性能开销可以忽略不计。
2021-12-08 cs.DC cs.MS
Belief Propagation by Message Passing in Junction Trees: Computing Each Message Faster Using GPU Parallelization
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
将贝叶斯网络(BN)编译为连接树并在其上执行置信传播是计算BN中后验的最突出方法之一。然而,连接树上的信念传播是已知的,在一般情况下是计算密集型的。它的复杂性可能会显着增加贝叶斯网络节点的连通性和状态空间基数。在本文中,我们使用GPU并行化来解决这个计算挑战。我们开发的数据结构和算法,扩展现有的连接树技术,并专门开发一种新的方法来计算每个信念传播消息并行。我们实现了我们的方法上的NVIDIA GPU和测试它使用BN从几个应用程序。在实验中,我们研究了连接树参数如何影响并行化的机会,因此我们的算法的性能。我们实现了从0.68到9.18的BN研究的加速比。
2012-02-14 cs.AI cs.DC
An Improved Framework of GPU Computing for CFD Applications on Structured Grids using OpenACC
本文的重点是提高多GPU性能的研究CFD代码上的结构化网格。MPI和OpenACC指令用于将代码扩展到16个GPU。本文表明,对于三种不同的测试用例,使用16个P100 GPU和16个V100 GPU分别比16个Xeon CPU E5- 2680 v4内核快30 $\times$和70 $\times$。一系列的性能问题相关的多块CFD代码的缩放处理通过应用各种优化。性能优化,如打包/解包消息方法,删除作为过程调用参数的临时数组,为限制器和连接的边界数据分配全局内存,重新排序非阻塞MPI I\_send/I\_recv和Wait调用,减少主机和设备之间不必要的隐式派生类型成员数据移动,以及使用GPUDirect可以提高计算利用率,内存吞吐量,使用现代编程功能在多块CFD代码中实现异步推进。
2020-12-05 cs.DC
Literature Review and Implementation Overview: High Performance Computing with Graphics Processing Units for Classroom and Research Use
在本报告中,我将讨论GPU HPC系统的历史和现状。虽然高功率GPU只存在了很短的时间,但它们在深度学习应用中得到了快速采用。我还将讨论用于深度学习研究和学术教学的商用硬件NVIDIA GPU HPC集群的实现。
2020-05-13 cs.DC
Optimizing Task Scheduling in Heterogeneous Computing Environments: A Comparative Analysis of CPU, GPU, and ASIC Platforms Using E2C Simulator
本研究利用E2C模拟器在CPU、GPU、ASIC构成的异构计算环境中,对比了四种任务调度算法在不同负载下的性能与能效,发现MECT和MEET算法综合表现更优,为资源受限场景的调度决策提供参考。
2024-05-13 cs.DC cs.OS
Matrix representation and GPU-optimized parallel B-spline computing
针对CAD系统中复杂模型B样条计算的CPU算法不足问题,提出将B样条转换为规则矩阵结构并结合GPU优化调度的方法,实现关键操作速度提升约两个数量级。
2025-04-15 cs.DC
A Survey of Multi-Tenant Deep Learning Inference on GPU
深度学习(DL)模型已经取得了卓越的性能。与此同时,NVIDIA GPU等计算硬件也表现出强劲的计算扩展趋势,每一代的吞吐量和内存带宽都是2倍。随着GPU的强大计算扩展,通过将多个DL模型共同定位到同一GPU上的多租户深度学习推理变得广泛部署,以提高资源利用率,增强服务吞吐量,降低能源成本等。然而,实现高效的多租户DL推理具有挑战性,需要彻底的全栈系统优化。本调查旨在总结和分类GPU上多租户DL推理的新兴挑战和优化机会。通过概述整个优化堆栈,总结多租户计算创新,并阐述最新的技术进步,我们希望这项调查可以揭示新的优化视角,并在未来的大规模DL系统优化中激发新的工作。
2022-05-24 cs.AR cs.DC
Efficient techniques to GPU Accelerations of Multi-Shot Quantum Computing Simulations
本文针对 GPU 上多 shot 量子计算模拟效率低的问题,提出将多个 shot 聚合到单个 GPU 内核并引入 shot 分支减少计算与内存开销的优化方法,相比此前实现实现了 10 倍加速。
2023-08-07 cs.DC quant-ph
Confidential Computing on NVIDIA Hopper GPUs: A Performance Benchmark Study
Phala Network;Fudan University(复旦大学)
本研究评估了NVIDIA Hopper GPU上启用TEE对LLM推理的性能影响,发现GPU内计算开销极小,主要瓶颈为PCIe数据传输,典型查询开销低于7%。
2024-11-05 cs.AI cs.DC cs.PF
Scalable Traffic Predictive Analysis using GPU in Big Data
本文利用Spark大数据平台,在CPU和GPU上采用并行计算系统进行预测分析。交通数据集被用来预测洛杉矶县的交通拥堵。它是从美国一个流行的平台收集的,用于使用用户共享的设备信息和报告跟踪道路信息。在这个可扩展的大数据系统中,可以使用GPU和CPU来存储和处理大规模的交通数据集。本文的主要贡献是提高机器学习在基于GPU的分布式并行计算系统中的性能,以预测交通拥堵。我们表明,并行计算可以实现使用GPU和CPU与现有的Apache Spark平台。该方法也适用于不同领域的大规模数据集。过程建模以及结果使用计算时间和指标进行解释:AUC,Precision和Recall。它应该有助于智慧城市的交通管理。
2021-06-29 cs.DC
Thread-safe lattice Boltzmann for high-performance computing on GPUs
本文提出基于Hermite投影重构碰撞后分布的线程安全格子玻尔兹曼方法,在GPU上实现二维和三维峰值性能并显著降低数十亿节点模拟的内存占用。
2023-04-13 cs.DC physics.flu-dyn
HPAC-Offload: Accelerating HPC Applications with Portable Approximate Computing on the GPU
本文提出HPAC-Offload,一种基于pragma的可移植近似计算编程模型,在GPU上扩展OpenMP应用,实现显著加速(LULESH最高1.64倍)且质量损失极小(0.1%)。
2023-08-31 cs.DC
Sorting with GPUs: A Survey
排序是计算机科学中的一个基本运算,也是许多重要领域的瓶颈。排序对于数据库应用程序、在线搜索和索引、生物医学计算以及许多其他应用程序至关重要。GPU协处理器的计算能力和可用性的爆炸性增长使得GPU上的排序操作比任何同等价格的CPU都要快得多。GPU计算的当前趋势表明,GPU能力的这种爆炸性增长可能会持续一段时间。因此,需要开发算法来有效地利用GPU的能力来实现关键应用,例如排序。
2017-09-08 cs.DC
A Framework for Developing Real-Time OLAP algorithm using Multi-core processing and GPU: Heterogeneous Computing
存储数据量的压倒性增长促使研究人员寻求不同的方法,以最佳地利用它,其中大多数都面临着响应时间的问题,由于这种巨大的数据量。大多数解决方案都建议物化作为一个最受欢迎的解决方案。然而,这样的解决方案无论如何也不能获得实时的答案.在本文中,我们提出了一个框架,说明了障碍和建议的解决方案,在实现实时的OLAP答案,显着地用于决策支持系统和数据仓库的方式。
2014-02-16 cs.DC
Analyzing the Performance Portability of SYCL across CPUs, GPUs, and Hybrid Systems with SW Sequence Alignment
本研究通过SW序列比对案例,系统评估了SYCL在NVIDIA、Intel和AMD的CPU、GPU及混合架构上的性能可移植性,证明其可作为异构计算环境中可行的统一编程模型。
2025-04-14 cs.DC
Performance Analysis Cluster and GPU Computing Environment on Molecular Dynamic Simulation of BRV-1 and REM2 with GROMACS
分子数据库是需要高性能计算资源的应用之一。有一些软件可用于执行分子动力学,其中之一是众所周知的GROMACS。我们以前的实验模拟印尼种植的草药化合物的分子动力学显示足够的速度在32节点集群计算环境。为了获得可靠的模拟,通常需要在数百个节点的规模上运行实验。但这是昂贵的开发和维护。自从图形处理单元的发明也适用于通用编程,许多应用程序已经开发出来运行在此。本文报告了我们的实验,评估GROMACS的性能,运行在两个不同的环境,集群计算资源和基于GPU的PC机。我们对BRV-1和REM 2化合物进行了实验。四种不同的GPU安装在相同类型的四核PC上;它们是Gefore GTS 250,GTX 465,GTX 470和Quadro 4000。我们基于这四个四核PC构建了一个16节点的集群。初步实验表明,在GTX 470上运行的系统性能优于其他类型的GPU和集群计算资源。计算速度提高了11和12左右,而使用GPU的计算机成本仅为我们构建的集群的25%左右。
2012-10-16 cs.CE cs.DC q-bio.BM
Extending the ARC Information Providers to report information on GPU resources
图形处理单元上的通用计算(GPGPU)已被引入许多科学研究领域,例如生物信息学、密码学、计算机视觉和深度学习。然而,高能物理(HEP)社区的计算模型仍然主要围绕传统的CPU资源。轨迹拟合、粒子重建和蒙特卡罗模拟等任务可以从高吞吐量GPGPU计算模型中受益匪浅,从而简化分析周转中的瓶颈。本技术说明描述了在GRID中间件中实现集成GPU发现机制以促进GPGPU的基础。
2019-07-22 cs.DC hep-ex
Neutron particle transport 3D method of characteristic Multi GPU platform Parallel Computing
针对三维中子输运特征线方法大规模计算耗时久的问题,将相关技术移植到GPU平台,结合特征线预加载与负载均衡策略,实现了较传统方法300-400倍的计算效率提升且精度有保障。
2025-03-22 cs.DC
CPU and/or GPU: Revisiting the GPU Vs. CPU Myth
使用加速器的并行计算在过去几年中获得了广泛的研究关注。特别是,使用GPU进行通用计算已经在时间、成本、功耗和其他指标方面取得了一些成功。然而,基于加速器的计算已经显著地降低了CPU在计算中的作用。随着CPU的发展,也提供了匹配的计算资源,在计算中也包括CPU是很重要的。我们称之为混合计算模型。实际上,当代的大多数计算机系统提供一定程度的异质性,因此这样的模型是相当自然的。我们重新评估的索赔最近的一份文件,李等人。(ISCA 2010年)。我们认为Lee等人(ISCA 2010)提出的正确问题应该是如何有效地使用CPU+GPU平台,而不是应该专门使用CPU还是GPU。为此,我们实验了一组13个不同的工作负载,从数据库,图像处理,稀疏矩阵内核和图形。我们使用两种不同的混合平台进行实验:一种由6核Intel i7- 980 X CPU和NVidia Tesla T10 GPU组成,另一种由Intel E7400双核CPU和NVidia GT 520 GPU组成。在这两个平台上,我们表明,混合解决方案提供了良好的优势,CPU或GPU单独的解决方案。在这两个平台上,我们还证明了我们的解决方案平均具有90%的资源效率。因此,我们的工作表明,混合计算不仅可以在研究规模的平台上提供巨大的优势,而且可以在更现实的规模系统中为大规模用户社区提供显着的性能增益和资源效率。
2013-03-09 cs.DC
stdgpu: Efficient STL-like Data Structures on the GPU
并行计算和图形硬件的巨大进步在计算机视觉、计算机图形以及增强现实(AR)和虚拟现实(VR)领域开辟了若干新颖的实时GPU应用。尽管这些应用程序构建在提供高度优化算法的已建立的开源框架上,但它们通常带有自定义的自编写数据结构来管理底层数据。在这项工作中,我们提出了stdgpu,一个开源库,它定义了几个通用的GPU数据结构的快速和可靠的数据管理。我们的库并没有放弃以前建立的框架,而是旨在扩展它们,从而弥合CPU和GPU计算之间的差距。通过这种方式,它提供了干净和熟悉的界面,并无缝集成到新的和现有的项目中。我们希望促进统一CPU和GPU计算的进一步发展,并欢迎社区的贡献。
2019-08-16 cs.DC cs.GR
Genetic Algorithm Modeling with GPU Parallel Computing Technology
提出了一种多用途遗传算法,并采用GPGPU / CUDA并行计算技术进行了设计和实现。该模型源自一个名为GAME的多核CPU串行实现,该实现已经通过专门基于机器学习范式的数据挖掘的Web应用程序资源(DAMEWARE)在天体物理学海量数据分类问题上进行了科学成功的测试和验证。由于遗传算法本质上是并行的,GPGPU计算范式提供了一个利用模型的内部训练功能,允许在处理性能和可扩展性方面进行强大的优化。
2012-11-23 astro-ph.IM cs.DC cs.NE
FZ-GPU: A Fast and High-Ratio Lossy Compressor for Scientific Computing Applications on GPUs
针对现有科学数据有损压缩器无法兼顾高压缩比与高吞吐量的问题,本文提出GPU端的FZ-GPU压缩器,通过优化压缩流水线与CUDA架构实现更优性能。
2023-05-02 cs.DC
Parallel Collaborative ADMM Privacy Computing and Adaptive GPU Acceleration for Distributed Edge Networks
College of Cyber Security, Jinan University(暨南大学网络空间安全学院);Department of Electrical and Computer Engineering, Western University(韦仕敦大学电气与计算机工程系);School of Computer Science, Guangzhou University(广州大学计算机科学与工程学院)
本文提出了一种结合并行协作ADMM与自适应GPU加速的隐私计算算法,用于优化分布式边缘网络中的协作计算任务,提升了计算效率和隐私保护能力。
2026-01-21 cs.DC
A Comparative Study of Load Balancing Algorithms in Cloud Computing Environment
云计算是IT环境中出现的一种新趋势,对基础设施和资源有着巨大的需求。负载均衡是云计算环境的一个重要方面。高效的负载均衡方案通过按需向云用户提供资源,以按需付费的方式确保高效的资源利用率。负载均衡甚至可以通过应用适当的调度标准来支持对用户进行优先级排序。根据服务水平协议(SLA)的要求,提出了不同云环境下的各种负载均衡方案。
2014-03-27 cs.DC
HybridGen: Efficient LLM Generative Inference via CPU-GPU Hybrid Computing
University of California, Merced(加州大学默塞德分校);NVIDIA(英伟达)
HybridGen通过CPU-GPU混合计算解决长上下文LLM推理中的内存带宽和负载不平衡问题,采用注意力logit并行、反馈调度器和语义感知的KV缓存映射,提升效率1.41倍至3.2倍。
2026-04-20 cs.DC cs.PF
Combining GPU and CPU for accelerating evolutionary computing workloads
本文提出一种依据基准结果动态分配 CPU 与 GPU 模拟任务的混合方案,并通过多类物理模拟模型评估其在进化计算工作负载中的加速潜力。
2025-02-16 cs.DC
Computing trends using graphic processor in high energy physics
对大量的实验数据和模拟数据进行快速分析是重能量物理学的主要挑战之一。在LHC-CERN,一个p-p事件的大小约为1 Mb。分析数据和快速获得结果所需的时间取决于高计算能力。使用GPU(图形处理器单元)编程相对于传统CPU编程的主要优点是图形卡以非常低的价格带来了大量的计算能力。今天,大量的应用程序(科学,金融等)开始移植或开发GPU,包括蒙特卡罗工具或高能物理数据分析工具。在本文中,我们将目前的现状和趋势,在HEP使用GPU。
2011-06-30 cs.DC hep-ex physics.comp-ph
Contention-Aware GPU Partitioning and Task-to-Partition Allocation for Real-Time Workloads
为了满足时间约束,现代实时的【形】应用需要大规模并行加速器,例如通用图形处理单元(GPGPU)。一代又一代,在新的GPU架构中可用的计算集群的数量正在稳步增加,因此,现在必须研究合适的调度方法。这样的调度方法涉及在GPU计算集群内映射不同的和并发的计算内核,因此将GPU计算集群分组到可并行的分区中。在本文中,我们提出了新的技术来定义GPU分区,这使我们能够定义合适的任务到分区的分配机制,其中任务是GPU计算内核具有不同的时序要求。这种机制将考虑GPU内核在重叠时间窗口中运行时所经历的干扰。因此,一个有效的和简单的方法来量化这种干扰的大小。我们证明了所提出的方法对经典技术,认为GPU作为一个单一的,不可分割的资源的效率。
2021-05-21 cs.DC cs.SY eess.SY
FaST-GShare: Enabling Efficient Spatio-Temporal GPU Sharing in Serverless Computing for Deep Learning Inference
FaST-GShare提出一种面向FaaS的时空GPU共享架构,通过资源隔离、性能分析和启发式调度,在保证SLO的同时将吞吐量提升3.15倍,GPU利用率提升1.34倍。
2023-09-01 cs.DC
Optimizing performance per watt on GPUs in High Performance Computing: temperature, frequency and voltage effects
大型射电天文天线阵所面临的实时数字信号处理的巨大挑战促使人们使用高性能计算系统。远程观测站对高能效(每瓦性能)的需求与HPC中的需求大致相同,其中效率是一个新兴的关键指标。我们研究了图形处理单元(GPU)的每瓦性能如何受到温度,核心时钟频率和电压的影响。我们的研究结果突出了管理晶体管操作的基本物理过程如何影响功率效率。特别是,我们的实验表明,GPU的功耗与温度和电源电压的非线性增长,预测的物理晶体管模型。我们发现,在运行xGPU(射电天文学中使用的计算密集型代码)时,降低GPU电源电压并提高时钟频率,同时保持较低的芯片温度,可使NVIDIA K20 GPU的能效比默认设置提高37-48%。我们将讨论如何使用温度感知功耗模型来降低未来HPC安装的功耗。自动温度感知和应用相关的电压和频率缩放(T-DVFS和A-DVFS)可以提供一种机制,以针对在GPU上运行的更宽范围的代码实现更好的功率效率
2015-10-20 astro-ph.IM cs.DC