3DES ECB Optimized for Massively Parallel CUDA GPU Architecture
现代计算机的图形卡具有比传统CPU高得多的理论效率。本文提出了应用的可能性GPU CUDA加速加密的数据使用的新架构量身定制的3DES算法,其特点是增加了安全性相比,正常的DES。ECB模式(电子码本)中使用的算法,其中64位数据块由流处理器(CUDA内核)独立加密。
2013-05-19 cs.DC
Revisiting Co-Processing for Hash Joins on the Coupled CPU-GPU Architecture
在图形处理器(GPU)上进行查询协同处理已成为提高内存数据库性能的有效手段。然而,PCI-e总线的相对低的带宽和高延迟通常是协处理的瓶颈问题。最近,耦合的CPU-GPU架构受到了很多关注,例如,AMD APU将CPU和GPU集成到单个芯片中。这为优化查询协同处理提供了新的机会。在本文中,我们实验重温哈希连接,最重要的连接算法之一的主存数据库,在一个耦合的CPU-GPU架构。特别是,我们研究了细粒度的协同处理机制的散列连接和不分区。协同处理勾勒出一个有趣的设计空间。我们扩展了现有的成本模型,以自动指导设计空间的决策。我们在最新的AMD APU上的实验结果表明:(1)耦合架构能够实现细粒度的协处理和缓存重用,这在分立的CPU-GPU架构上是低效的;(2)成本模型可以自动指导设计和设计空间中的调整旋钮;(3)细粒度协处理比仅CPU、仅GPU和传统CPU-GPU协处理分别实现高达53%、35%和28%的性能提升。我们相信,从这项研究的见解和影响是初步的,但重要的是进一步研究耦合CPU-GPU架构上的查询协同处理。
2013-07-08 cs.DC
AccFFT: A library for distributed-memory FFT on CPU and GPU architectures
我们提出了一个新的库并行分布式快速傅立叶变换(FFT)。FFT在科学和工程中的重要性以及高性能计算的进步需要进一步改进。AccFFT将支持CUDA的图形处理单元(GPU)的现有FFT库扩展到分布式内存集群。我们使用重叠的通信方法来减少PCIe从/到GPU的传输开销。我们目前的数值计算结果小牛平台在得克萨斯州高级计算中心(TACC)和泰坦系统在橡树岭国家实验室(ORNL)。我们将库扩展到Titan的4,096个K20 GPU。
2016-05-25 cs.DC
Agora: A System for Consumption-Based GPU Pricing
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);NVIDIA(英伟达)
针对云GPU时间定价对带宽密集型负载的低效问题,提出基于特征的定价框架Agora,将成本与资源消耗挂钩,实现近乎理想的定价,提升市场透明度与效率。
2026-09-25 cs.DC
An Online Fragmentation-Aware GPU Scheduler for Multi-Tenant MIG-based Clouds
Fondazione Bruno Kessler (FBK)(布鲁诺·克莱斯勒基金会)
本文提出了一种面向多租户MIG云的在线碎片感知GPU调度器,通过引入碎片度量指标和贪心算法,有效减少GPU碎片化,提高工作负载调度效率。
2025-11-24 cs.DC cs.NI
Analyzing the Performance Portability of SYCL across CPUs, GPUs, and Hybrid Systems with SW Sequence Alignment
本研究通过SW序列比对案例,系统评估了SYCL在NVIDIA、Intel和AMD的CPU、GPU及混合架构上的性能可移植性,证明其可作为异构计算环境中可行的统一编程模型。
2025-04-14 cs.DC
SparkAttention: High-Performance Multi-Head Attention for Large Models on Volta GPU Architecture
针对Volta GPU架构张量核心单元(TCU)计算形状特殊导致MHA加速不足的问题,提出SparkAttention库,通过利用TCU和核融合减少HBM访问与开销,在V100上相比PyTorch平均加速1.80倍(最高2.46倍),提升大型Transformer模型训练效率。
2025-08-21 cs.DC
Heterogeneous CPU/GPU co-execution of CFD simulations on the POWER9 architecture: Application to airplane aerodynamics
高保真计算流体动力学模拟通常与大型计算需求相关联,随着每一代新的超级计算机的出现,这种需求越来越尖锐。然而,需要大量的研究工作来解锁前沿系统的计算能力,目前被称为pre-Exascale系统,基于日益复杂的架构。在本文中,我们提出了在计算力学代码Alya中实现的方法。我们详细描述的并行化策略,充分利用不同层次的并行性,以及一种新的协同执行方法,异构CPU/GPU架构的有效利用。后者是基于多代码协同执行的方法与动态负载均衡机制。所有提出的策略的性能评估已经进行了飞机模拟的POWER 9架构与NVIDIA伏打V100 GPU加速。
2020-07-06 cs.CE cs.DC
HPAC-Offload: Accelerating HPC Applications with Portable Approximate Computing on the GPU
本文提出HPAC-Offload,一种基于pragma的可移植近似计算编程模型,在GPU上扩展OpenMP应用,实现显著加速(LULESH最高1.64倍)且质量损失极小(0.1%)。
2023-08-31 cs.DC
Serving Hybrid LLM Loads with SLO Guarantees Using CPU-GPU Attention Piggybacking
University of Macau(澳门大学)
本文提出OmniServe系统,利用CPU和GPU资源缓解LLM服务间的干扰,提升吞吐量。通过注意力并行机制将BE服务的注意力计算卸载到CPU,同时动态批处理策略提升密集模块计算效率,实验表明在满足LS服务SLO的同时,BE服务吞吐量提升达9.85倍。
2026-03-17 cs.DC
CUDA Leaks: Information Leakage in GPU Architectures
图形处理单元(GPU)部署在大多数现有的服务器、桌面甚至移动平台上。如今,越来越多的应用程序利用这种架构提供的高并行性来加速通用计算。这种现象被称为GPGPU计算(General Purpose GPU Computing)。这项工作的目的是发现和突出与CUDA相关的安全问题,CUDA是GPGPU计算最广泛的平台。特别是,我们提供了有关CUDA架构所面临的一组新漏洞的详细信息和概念验证,这些漏洞可能会被利用来导致严重的信息泄漏。根据基于可靠工程安全性的(详细)直觉,我们针对最后两代CUDA设备:费米和开普勒进行了几次实验。我们发现,这两个家庭确实存在信息泄露漏洞。特别是,两种架构之间共享一些漏洞,而另一些则是开普勒架构的特质。作为一个案例研究,我们报告的影响,这些漏洞之一的GPU实现的AES加密算法。我们还建议软件补丁和替代方法来解决所提出的漏洞。据我们所知,这是第一个工作表明,在CUDA中的信息泄漏是可能的,只使用标准的CUDA指令。我们希望我们的工作为该领域的进一步研究铺平道路。
2013-07-15 cs.CR cs.DC
Reliable Transactions in Serverless-Edge Architecture
现代边缘应用程序需要新的解决方案,其中边缘应用程序不必依赖于单个云提供商(无法在每个边缘设备附近)或专用边缘服务器(无法扩展为云)来处理计算密集型任务。最近的计算哲学,天空计算,建议让每个用户能够选择可用的云提供商。在本文中,我们介绍了我们的无服务器边缘协同设计,它扩展了天空计算的愿景。在我们的无服务器边缘协同设计中,我们希望边缘设备能够协作并产生所需数量的无服务器功能。这提出了几个关键挑战:(1)这种协作将如何进行,(2)如果某些边缘设备受到损害,以及(3)如果选定的云提供商是恶意的,该怎么办。因此,我们设计了ServerlessBFT,这是第一个保证边缘设备和无服务器功能之间的拜占庭容错(BFT)事务流的协议。我们在我们的无服务器边缘协同设计上提供了一个详尽的攻击及其解决方案列表。此外,我们广泛的基准我们的架构上的各种参数。
2022-08-27 cs.DB cs.DC
Next Generation Cloud Computing: New Trends and Research Directions
云计算的格局在过去十年中发生了重大变化。不仅有更多的提供商和服务产品占据了这个空间,而且传统上仅限于单一提供商数据中心的云基础设施现在也在不断发展。在本文中,我们首先讨论了不断变化的云基础设施,并考虑了使用来自多个提供商的基础设施以及将计算从数据中心分散开来的好处。这些趋势导致了对未来云基础设施将提供的各种新计算架构的需求。这些架构预计将影响多个领域,例如连接人与设备、数据密集型计算、服务空间和自学系统。最后,我们列出了实现下一代云系统潜力所需解决的挑战路线图。
2017-09-08 cs.DC
A Study of Performance Programming of CPU, GPU accelerated Computers and SIMD Architecture
该研究梳理CPU、GPU、SIMD三类并行计算实现方式及现有研究瓶颈,汇总并行编程技术资料,呈现其现状与趋势,为后续研究提供背景支撑。
2024-09-16 cs.DC
High-Throughput Parallel Viterbi Decoder on GPU Tensor Cores
在GPU平台上实现Vitrerbi解码算法的研究工作很多,因为GPU平台提供了相当大的灵活性,除了良好的性能。最近,现代GPU架构中最近推出的Tensor核心提供了令人难以置信的计算能力。提出了一种基于Tensor核的Viterbi译码算法在现代GPU架构中的并行实现方法。所提出的并行算法进行了优化,以有效地利用张量核的计算能力。实验表明,相当大的吞吐量的改善与以前的作品相比。
2020-11-27 cs.DC eess.SP
GPGPU Processing in CUDA Architecture
计算的未来是图形处理单元,即GPU。图形卡在图像处理和3D场景加速渲染领域所显示出的潜力,以及这些GPU所拥有的计算能力,它们正在发展成为巨大的并行计算单元。对图形处理器进行编程以执行一般并行任务是相当简单的。但是在理解了图形处理器的各种架构方面之后,它也可以用来执行其他繁重的任务。在本文中,我们将展示CUDA如何充分利用这些GPU的巨大功能。CUDA是NVIDIA的并行计算架构。它通过利用GPU的强大功能,大幅提高了计算性能。本文介绍了CUDA及其体系结构。它将CUDA C/C++与其他并行程序设计语言(如OpenCL和DirectCompute)进行了比较。本文还列出了关于CUDA的常见神话,以及CUDA的未来似乎是多么有希望。
2012-02-20 cs.DC
Optimization and Portability of a Fusion OpenACC-based FORTRAN HPC Code from NVIDIA to AMD GPUs
本文介绍了将基于 FORTRAN 和 OpenACC 的融合模拟工具 CGYRO 从 NVIDIA 移植到 AMD GPU 的经验,通过针对 AMD 的代码优化使其达到预期性能,并在 NVIDIA GPU 上获得了意外的速度提升。
2023-05-17 cs.DC cs.PF physics.plasm-ph
Towards a High-performance and Secure Memory System and Architecture for Emerging Applications
在这篇论文中,我们提出了一个内存和计算协调的方法,充分利用基于GPU的异构系统的特点和能力,有效地优化应用程序的性能和隐私。具体而言,1)我们提出了一个任务感知和动态的存储管理机制,以共同优化应用程序的延迟和内存占用,特别是在多任务的情况下。2)我们提出了一种新的延迟感知的存储管理框架,分析应用程序的特点和硬件功能,以减少应用程序的初始化延迟和响应时间。3)我们开发了一种新的模型窃取攻击,该攻击探索GPU统一内存系统的漏洞,以准确窃取私有DNN模型。4)我们提出了一种CPU/GPU协同加密机制,可以在集成的CPU/GPU平台上防御时间相关攻击,为边缘应用提供安全的执行环境。本论文旨在GPU异构平台上开发一种高性能、安全的存储系统和架构,以高效、安全地部署新兴的AI应用。
2022-09-06 cs.CR cs.DC
Cloud Computing Avoids Downfall of Application Service Providers
企业已经变得依赖于不断增加的电子信息量和快速的交易速度。Diffie等专家推测,孤立计算即将结束,在未来十年内,大多数企业将转向实用计算。为了在实施日益复杂的信息技术服务的同时降低成本,许多公司转向应用服务提供商(ASP)。由于糟糕的商业模式,过度竞争,以及互联网可用性和带宽差,许多ASP都因dot com崩溃而失败。然而,其他接受Web服务架构和真正的互联网交付的ASP作为早期云采用者处于有利地位。随着当今互联网服务的渗透率和带宽的扩大,更好的商业计划和广泛的产品多样化,云计算正在避免ASP的垮台,并将成为计算领域的一个持久范例
2015-11-30 cs.CR cs.DC
AIvailable: A Software-Defined Architecture for LLM-as-a-Service on Heterogeneous and Legacy GPUs
Computer Science and Communication Research Centre(计算机科学与通信研究中心);Polytechnic University of Leiria(利尔亚理工学院)
针对现有LLM推理框架依赖同构高端GPU、难以适配资源受限场景的问题,提出软件定义LLMaaS平台AIvailable,可充分利用异构及老旧GPU资源实现高可用推理,推动生成式AI普惠。
2025-11-06 cs.AI cs.DC cs.NI
Universal Quantum Computer Simulation of 50 Qubits on Europe`s First Exascale Supercomputer Harnessing Its Heterogeneous CPU-GPU Architecture
Jülich Supercomputing Centre, Forschungzentrum Jülich(于利希超级计算中心,于利希研究中心);NVIDIA(英伟达)
本文提出了一种新的高性能通用量子计算机模拟器JUQCS-50,利用GH200超级芯片的关键特性,在欧洲首个exascale超级计算机上实现了50个量子比特的通用量子计算机模拟,通过三个创新方法实现了16.6倍的速度提升。
2026-05-20 cs.DC physics.comp-ph quant-ph
GPU-Initiated On-Demand High-Throughput Storage Access in the BaM System Architecture
图形处理单元(GPU)传统上依赖于主机CPU来发起对数据存储的访问。这种方法非常适合具有已知数据访问模式的GPU应用程序,这些模式使其数据集的分区能够在GPU中以流水线方式处理。然而,新兴的应用程序,如图形和数据分析,推荐系统,或图神经网络,需要细粒度的,数据相关的访问存储。由于CPU-GPU同步开销高、I/O流量放大和CPU处理延迟长,因此CPU启动存储访问不适合这些应用程序。GPU启动的存储从存储控制路径中消除了这些开销,因此可以以更高的速度支持这些应用程序。然而,缺乏系统架构和软件堆栈来实现有效的GPU启动的存储访问。这项工作提出了一种新的系统架构,BaM,填补了这一空白。BaM具有细粒度的软件缓存,可以合并数据存储请求,同时最大限度地减少I/O流量放大。该软件缓存通过高吞吐量队列与存储系统通信,使现代GPU中的大量并发线程能够以高速率发出I/O请求,以充分利用存储设备和系统互连。实验结果表明,BaM为BFS和CC图形分析基准提供了1.0倍和1.49倍的端到端速度,同时将硬件成本降低了21.7倍,而不是从主机内存访问图形数据。此外,BaM在相同硬件上将数据分析工作负载的速度提高了5.3倍。
2023-02-06 cs.AR cs.DC cs.OS
SGDRC: Software-Defined Dynamic Resource Control for Concurrent DNN Inference on NVIDIA GPUs
针对GPU上并发DNN推理的资源分配难题,提出软件定义的SGDRC,通过逆向工程与缓存着色消除VRAM冲突,动态分配带宽和计算单元,提升SLO达标率与吞吐量。
2025-03-26 cs.AR cs.DC cs.PF