String Matching with Multicore CPUs: Performing Better with the Aho-Corasick Algorithm
多字符串匹配是指在任意字符串中定位给定数量的模式的所有出现。它用于生物计算应用,其中算法通常用于检索信息,如序列分析和基因/蛋白质鉴定。在这种生物计算应用中,必须处理字符串形式的极大量数据。因此,提高多字符串匹配算法的性能一直是人们所期望的。多核架构能够通过并行化多个字符串匹配算法来提供更好的性能。Aho-Corasick算法是精确多字符串匹配算法中常用的算法。本文的重点是Aho-Corasick算法的加速,通过多核CPU的软件实现。通过我们的实施和结果的评估,我们证明了我们的方法相比,最先进的性能更好。
2014-03-06 cs.DC
Analyzing the Performance Portability of SYCL across CPUs, GPUs, and Hybrid Systems with SW Sequence Alignment
本研究通过SW序列比对案例,系统评估了SYCL在NVIDIA、Intel和AMD的CPU、GPU及混合架构上的性能可移植性,证明其可作为异构计算环境中可行的统一编程模型。
2025-04-14 cs.DC
Accelerating finite-rate chemical kinetics with coprocessors: comparing vectorization methods on GPUs, MICs, and CPUs
高效的化学动力学常微分方程求解器必须考虑底层硬件的可用线程和并行级并行性,特别是在众核协处理器上,以及数值效率。使用OpenCL实现了刚性Rosenbrock和非刚性Runge-Kutta求解器,使用单指令多线程(SIMT)和单指令多数据(SIMD)范式。这些并行实现的性能进行了测量,在几个多核和众核平台上的三个化学动力学模型。进行了两个运行时基准测试,以清楚地确定任何一种方法提供的性能优势:并行评估右侧源项,并使用Rosenbrock和Runge-Kutta求解器集成一系列恒压均质反应器。在主机多核Xeon CPU和众核Xeon Phi协处理器上使用SIMD并行性进行的右侧评估的执行速度比基线多线程代码快约三倍。主机和Phi上的SIMT模型比基线慢13-35%,而GPU上的SIMT模型提供了与Phi上的SIMD模型大致相同的性能。与基线并行代码相比,两个ODE求解器的运行时间减少了2.5- 2.7倍(在主机CPU上实现SIMD)和4.7- 4.9倍(使用Xeon Phi协处理器)。GPU上的SIMT实现比基准多线程CPU代码快1.4-1.6倍;然而,这比主机CPU或Xeon Phi上的SIMD版本慢得多。三个平台之间的性能差异归因于ODE积分器内的自适应步长引起的线程发散。分析表明,GPU的更宽矢量宽度比更窄的Sandy Bridge或Xeon Phi产生更高的发散水平。
2017-08-29 cs.DC physics.chem-ph physics.comp-ph
Improved vectorization of OpenCV algorithms for RISC-V CPUs
Lobachevsky State University of Nizhni Novgorod(下诺夫哥罗德罗巴切夫斯基国立大学)
本文针对RISC-V架构计算加速需求,优化OpenCV库中计算机视觉与机器学习算法的向量化,实现了现有RISC-V设备原型上数十个百分点的计算速度提升。
2023-09-19 cs.CV cs.DC cs.PF
Accelerating Particle-Mesh Algorithms with FPGAs and OmpSs@OpenCL
本研究利用FPGA和OmpSs@OpenCL加速粒子-网格算法,通过瓦片排序、显式缓存和流水线复制提升性能,在功耗效率和性能上优于GPU和CPU实现。
2025-01-11 cs.DC
Inference Acceleration for Large Language Models on CPUs
本文提出利用现代CPU并行能力、请求批处理及NUMA隔离的多worker方案加速LLM推理,实现最高22倍吞吐提升并降低48.9%功耗。
2024-03-04 cs.CL cs.DC
Accelerating Nearest Neighbor Search on Manycore Systems
我们开发了加速度量相似性搜索的方法,这些方法在现代硬件上是有效的。我们的算法考虑到易于并行化的组件,使它们易于部署,在多核CPU和GPU上高效。尽管我们的算法结构简单,但它们的搜索性能在数据库的大小上是可证明的次线性的,其中一个因素仅取决于其内在维度。我们证明了我们的方法在一系列数据集和硬件平台上提供了大量的加速。特别是,我们目前的结果在48核服务器上的机器,图形硬件,和多核桌面。
2011-03-30 cs.CG cs.DB cs.DC
Vector operations for accelerating expensive Bayesian computations -- a tutorial guide
贝叶斯统计中的许多应用都是计算密集型的。然而,它们通常本质上是并行的,这使得它们成为现代大规模并行处理器的主要目标。多核和分布式计算广泛应用于贝叶斯社区,然而,很少有人关注使用单指令多数据(SIMD)操作的细粒度并行化,这些操作在大多数现代商品CPU上可用,并且是GPGPU计算的基础。在这项工作中,我们实际上证明,使用标准的编程库,实用程序的SIMD方法的几个专题贝叶斯应用。我们表明,SIMD可以提高浮点运算的性能,导致串行算法的性能提高到$6\times$。重要的是,这些改进是通过多核处理实现的任何增益的倍增。我们说明了潜在的SIMD加速贝叶斯计算,并为读者提供利用现代大规模并行处理环境中使用标准工具的技术。
2020-12-14 cs.DC cs.MS cs.PF
Accelerating Matrix Multiplication: A Performance Comparison Between Multi-Core CPU and GPU
本文在消费级异构平台上比较顺序 C++、OpenMP 多核 CPU 与带共享内存优化的 CUDA GPU 矩阵乘法,证明 GPU 在大矩阵上可获得最高约593倍加速。
2025-07-26 cs.DC
Leveraging SIMD for Accelerating Large-number Arithmetic
Indian Institute of Technology Gandhinagar(印度海得拉巴理工学院);The University of Edinburgh(爱丁堡大学)
本文提出DigitsOnTurbo,通过数据并行操作而非传统算法向量化,提升大数运算速度,实现科学计算和密码学的性能提升。
2026-10-11 cs.AR cs.DC
Accelerating key bioinformatics tasks 100-fold by improving memory access
大多数实验科学现在都依赖于计算,生物科学也不例外。随着数据集变得越来越大,计算成本也随之增加,这使得科学家使用的代码的适当优化变得越来越重要。近年来开发的许多代码都基于基于Python的NumPy,因为它易于使用和良好的性能特性。然而,NumPy的可组合性通常不能很好地与现代CPU的多层性质相匹配,使得任何非平凡的多步算法都受到外部存储器访问速度的限制,这比CPU的计算能力慢数百倍。为了充分利用CPU的计算能力,必须保持工作内存占用足够小,以适应CPU缓存,这需要将问题分成更小的部分,并尽可能多地融合在一起。在本文中,我们基于这些原则对scikit-bio库中的两个重要功能进行了更改,即主坐标分析和Mantel测试,这些广泛使用的通用工具的速度提高了100倍以上。
2021-04-19 cs.DC q-bio.GN
Combining GPU and CPU for accelerating evolutionary computing workloads
本文提出一种依据基准结果动态分配 CPU 与 GPU 模拟任务的混合方案,并通过多类物理模拟模型评估其在进化计算工作负载中的加速潜力。
2025-02-16 cs.DC
Accelerating Dedispersion using Many-Core Architectures
针对射电天文数据色散消除处理的实时性需求,提出基于NVIDIA GPU、Intel和AMD CPU的暴力非相干色散消除优化实现,速度较现有方案提升4倍,比实时处理快至少20倍,已集成入AstroAccelerate包。
2023-11-09 astro-ph.IM cs.DC
Accelerating a Cloud-Based Software GNSS Receiver
在本文中,我们讨论了如何减少软件全球导航卫星系统(GNSS)接收器,这意味着在云环境中离线操作的执行时间。客户端设备记录他们接收到的卫星信号,并将其发送到云端,由该软件进行处理。该项目的目标是尽可能快地处理每个客户端请求,同时通过确保在单位时间内处理尽可能多的请求来提高系统的总吞吐量。我们的应用程序的特点提供了机会和挑战,以提高性能。我们描述了通过使软件能够利用多核CPU和GPGPU获得的加速比。我们会提到哪些技术对我们有效,哪些技术对我们无效。为了提高吞吐量,我们描述了如何控制分配给软件的每次调用的资源来处理客户端请求,以便应用程序的多个副本可以同时运行。我们使用有效运行时间的概念来衡量系统的吞吐量时,同时运行多个实例,并显示我们如何可以确定系统的计算资源已经饱和。
2013-10-15 cs.CE cs.DC cs.PF
Accelerating Binarized Neural Networks via Bit-Tensor-Cores in Turing GPUs
Pacific Northwest National Laboratory(西北太平洋国家实验室);U.S. Army Research Laboratory(美国陆军研究实验室)
尽管与传统的深度神经网络相比,二值化神经网络(BNN)的性能优势得到了巨大的提升,但它仅仅在CPU和GPU等通用处理器上得到了展示。事实上,由于无法利用基于字的架构的位级并行性,GPU在执行BNN时的利用率极低(1%)。因此,NVIDIA Turing GPU中的最新tensorcore开始实验性地支持位计算。在这项工作中,我们将研究这种全新的位计算能力,并描述其独特的功能。我们表明,内存访问的步幅可以显着影响性能交付,并且非常需要数据格式协同设计来支持tensorcore,以实现比没有tensorcore的现有软件解决方案更优越的性能。实现了张量核加速的BNN设计,特别是全连接层和卷积层的主要功能--位矩阵乘法和位卷积。在两个NVIDIA Turing GPU上的评估表明,使用ResNet-18,我们的BTC-BNN设计可以以每秒5.6K图像的速度处理ImageNet,比最先进的速度快77%。我们的BNN方法发布在www.example.com上。
2020-12-15 cs.DC cs.LG
Accelerating Data Chunking in Deduplication Systems using Vector Instructions
University of Waterloo(滑铁卢大学)
VectorCDC通过向量指令加速无哈希CDC算法,显著提升去重系统的吞吐量,同时保持空间节省效果。
2026-01-26 cs.AR cs.DC
A Way For Accelerating The DNA Sequence Reconstruction Problem By CUDA
传统的DNA组装方法是利用鸟枪法将DNA序列切割成片段,然后从片段中重组出原始的DNA序列,这是目前广泛使用的DNA组装方法。新兴的DNA测序技术为分子生物学开辟了更多的机会。本文介绍了一种基于CUDA编程模型的后缀数组法来提高DNA序列重构效率的新方法。实验结果表明,在Intel(R)Core(TM)i3- 3110 K四核和NVIDIA GeForce 610 M GPU上,使用GPU构造后缀数组是一种更有效的方法,研究表明,我们的方法的性能比CPU串行实现的性能提高了20倍以上。我们相信我们的方法为生物信息学社区提供了一个具有成本效益的解决方案。
2014-04-14 cs.CE cs.DC
Taking Cryptography Out of the Data Path via Near-Memory Processing in DRAM
University of Trento(特伦托大学);ETH Zurich(苏黎世联邦理工学院)
本文研究了通过近内存处理在DRAM中加速密码算法的潜力与限制,采用UPMEM架构评估算法可扩展性,发现多rank分布显著提升性能,实现实时PIM加速密码算法。
2026-05-19 cs.AR cs.CR cs.DC
Accelerating Machine Learning Inference with GPUs in ProtoDUNE Data Processing
本文研究在ProtoDUNE中微子数据处理中利用云端GPU加速推理服务器提升事件重建速度,通过数千并发网格作业验证100-GPU服务器可轻松满足需求且GPU处理速度比最新CPU快两倍,同时指出需注意网络带宽限制并讨论未来改进方向。
2023-10-28 cs.DC hep-ex physics.data-an
GPTPU: Accelerating Applications using Edge Tensor Processing Units
神经网络(NN)加速器已经被集成到广泛的计算机系统中,以适应对人工智能(AI)和机器学习(ML)应用的快速增长的需求。NN加速器共享为多维张量数据上的操作提供本地硬件支持的想法。因此,NN加速器理论上是张量处理器,可以提高任何使用张量作为输入/输出的问题的系统性能。不幸的是,商业上可用的NN加速器仅通过AI/ML特定的接口暴露计算能力。此外,NN加速器揭示了很少的硬件设计细节,因此应用程序无法轻松利用NN加速器提供的张量操作。本文介绍了边缘张量处理单元(GPTPU)上的通用计算,这是一个开源的开放架构框架,允许开发人员和研究社区发现NN加速器为应用程序提供的机会。GPTPU包括一个强大的编程接口,具有高效的运行时系统级支持--类似于GPGPU计算中的CUDA/OpenCL--以弥合应用需求和不匹配的硬件/软件接口之间的差距。我们构建的GPTPU机器使用边缘张量处理单元(Edge TPU),这些单元广泛可用,并代表许多商业NN加速器。我们确定了几个新的用例,并重新审视了算法。通过利用底层边缘TPU来执行基于张量算法的计算内核,我们的结果表明,GPTPU可以实现比高端CPU高2.46倍的加速,并将能耗降低40%。
2021-07-13 cs.DC cs.PF eess.SP
Accelerating Maximal Biclique Enumeration on GPUs
针对极大双团枚举在大规模图上计算效率低的问题,提出基于GPU优化的cuMBE算法,通过紧凑数组、混合并行、细粒度优化与工作窃取机制实现显著加速。
2025-05-22 cs.DC
DP-HLS: A High-Level Synthesis Framework for Accelerating Dynamic Programming Algorithms in Bioinformatics
本文提出DP-HLS框架,基于高层次综合简化生物信息学中动态规划算法的硬件开发,将开发时间从数月缩短至数天,实现15个内核,吞吐量较GPU/CPU提升1.3-32倍,性能差距在7.7%-16.8%以内。
2024-11-05 cs.AR cs.DC
A Hybrid Parallel Implementation of the Aho-Corasick and Wu-Manber Algorithms Using NVIDIA CUDA and MPI Evaluated on a Biological Sequence Database
多个匹配算法被用来从一个有限的模式集在一个大的输入字符串中定位模式的出现。Aho-Corasick和Wu-Manber是两种最著名的多重匹配算法,它们需要更高的计算能力,特别是在必须处理大规模数据集的情况下,这在计算生物学应用中很常见。在过去的几年里,图形处理单元(GPU)已经发展成为强大的并行处理器,在科学计算中优于中央处理单元(CPU)。此外,可以并行使用多个GPU,形成混合计算机集群配置,以实现更高的处理吞吐量。本文评估的Aho-Corasick和Wu-Manber算法在混合GPU集群上的并行实现的加速比,当用于处理人类基因组的表达序列标签的快照和不同的问题参数。
2014-07-10 cs.CE cs.DC
Chunkflow: Distributed Hybrid Cloud Processing of Large 3D Images by Convolutional Nets
Princeton University(普林斯顿大学);Princeton Neuroscience Institute, Princeton University(普林斯顿大学普林斯顿神经科学研究所);Massachusetts Institute of Technology(麻省理工学院)
现在通常使用3D卷积网络(ConvNets)处理体积生物医学图像。这对于今天通过光学或电子显微镜获取的teravoxel甚至petavoxel图像来说可能是具有挑战性的。在这里,我们介绍了chunkflow,这是一个用于在本地和云GPU和CPU上分发ConvNet处理的软件框架。图像体积被划分为重叠的块,每个块由ConvNet处理,结果混合在一起以产生输出图像。前端将ConvNet任务提交到云队列。这些任务由本地和云GPU和CPU执行。由于Chunkflow的容错架构,可以通过使用廉价的不稳定云实例来大大降低成本。Chunkflow目前支持GPU的PyTorch和CPU的PZnet。为了说明它的使用,一个大型的3D脑图像从连续切片电子显微镜处理的3D ConvNet与U-Net风格的架构。Chunkflow提供了一些通用的块操作,这些操作可以在命令行界面中灵活组合。
2019-05-02 cs.CV cs.DC q-bio.NC
Accelerating an Iterative Eigensolver for Nuclear Structure Configuration Interaction Calculations on GPUs using OpenACC
为了加速在配备通用图形处理单元(GPU)的分布式内存并行系统上解决核物理多体计算中产生的大型本征值问题,我们修改了之前开发的本征值求解器的混合MPI/OpenMP实现。使用基于OpenACC指令的编程模型,以FORTRAN 90编写。这种方法需要对原始代码进行最小的更改,并且能够将大规模核结构模拟从分布式存储器众核CPU系统平滑迁移到分布式GPU系统。然而,为了使基于OpenACC的特征值求解器在GPU上高效运行,我们需要考虑众核CPU和GPU设备之间的架构差异。因此,插入OpenACC指令的最佳方式可能与插入OpenMP指令的原始方式不同。我们指出这些差异的实施稀疏矩阵矩阵乘法(SpMM),这构成了本征解算器的主要成本,以及其他差异的预处理步骤和密集的线性代数运算。我们比较了基于OpenACC的实现在多个GPU上执行的性能与分布式内存众核CPU上的性能,并证明了GPU上实现的显着加速比众核CPU的节点上性能。我们还表明,多个GPU上的特征值求解器的整体性能提高是更温和的,由于不同的MPI行列之间的通信开销。
2021-09-01 cs.DC cs.MS cs.NA
Accelerating Microswimmer Simulations via a Heterogeneous Pipelined Parallel-in-Time Framework
Beijing Forestry University(北京林业大学);University of Washington(华盛顿大学)
本文提出一种异构CPU-GPU框架,通过两级并行策略加速黏性流体中长时微游泳者模拟,克服传统Parareal方法的串行瓶颈,实现大规模生物物理系统复杂行为的可扩展模拟。
2026-04-13 cs.DC
An Evaluation and Comparison of GPU Hardware and Solver Libraries for Accelerating the OPM Flow Reservoir Simulator
本文评估并比较了多种GPU求解器库及定制BiCGStab求解器在OPM Flow油藏模拟器中的加速效果,发现单个GPU可加速双线程MPI进程最多5.6倍,性能约相当于8个双线程MPI进程。
2025-04-11 cs.AR cs.DC
Parallelized Kendall's Tau Coefficient Computation via SIMD Vectorized Sorting On Many-Integrated-Core Processors
Georgia Institute of Technology(佐治亚理工学院)
成对关联度量是数据分析中的一个重要操作。Kendall的tau系数是一种广泛使用的相关系数,用于识别有序变量之间的非线性关系。本文研究了一种基于Intel Xeon Phis的单指令多数据(SIMD)向量化排序并行算法,该算法利用多个处理核和512位SIMD向量指令,加速所有对Kendall的tau系数计算。为了促进工作负载平衡和克服片上存储器的限制,我们提出了一个通用的框架,对称所有对计算之间的作业标识符和坐标空间的可证明双射函数。性能评估表明,我们的算法在一个5110 P Phi实现了两个数量级的加速比16线程的MATLAB和三个数量级的加速比顺序R,都运行在高端CPU。此外,我们的算法表现出相当好的分布式计算的可扩展性方面的Phis的数量。源代码和数据集可在http://lightpcc.sourceforge.net上公开获取。
2017-04-12 cs.AI cs.DC
Power Consumption Analysis of Parallel Algorithms on GPUs
由于其高度并行的多核架构,GPU越来越多地用于各种计算密集型应用。与CPU相比,GPU可以以节能的方式加速程序的执行,从而实现更高的性能。因此,GPGPU计算对于高性能计算应用和许多科学研究领域是有用的。为了进一步提高性能,GPU集群越来越多地被采用。GPU消耗的能量不容忽视。因此,基于其截止日期以及分配的优先级,可以部署将要由并行GPU执行的程序的节能时间调度,以面对其精力充沛的贪婪。出于这个原因,我们在本文中提出了一个模型,使测量的功耗和时间的一些基本操作运行在一个单一的GPU上使用一个新开发的能源测量协议的执行。因此,使用我们的方法,能源需求的程序可以预测,允许更好的任务调度。
2021-09-28 cs.DC cs.MS cs.NA
Tinker-HP : Accelerating Molecular Dynamics Simulations of Large Complex Systems with Advanced Point Dipole Polarizable Force Fields using GPUs and Multi-GPUs systems
我们提出了Tinker-HP包的扩展(Lagardère等人,化学科学,2018,9,956-972)涉及使用图形处理单元(GPU)卡来加速使用可极化多体力场的分子动力学模拟。新的高性能模块允许有效使用单GPU和多GPU架构,从研究实验室到现代超级计算机中心。在详细分析了我们依赖于OpenACC和CUDA的通用可扩展策略之后,我们讨论了该包的各种功能。其中,多精度的可能性的代码进行了讨论。如果提供一个有效的双精度实现,以保持快速参考计算的可能性,我们表明,一个较低的精度的算法是首选提供类似的准确性分子动力学,同时表现出优越的性能。由于Tinker-HP主要致力于使用新一代点偶极极化力场加速模拟,因此我们的研究重点是AMOEBA模型的实现。测试各种NVIDIA平台,包括2080 Ti,3090,V100和A100卡,我们提供了说明性的基准代码的单卡和多卡模拟的大型生物系统,包括多达数百万个原子。新的代码大大减少了解决方案的时间,并提供了最好的性能,迄今为止获得的AMOEBA极化力场。展望我们的多节点大规模并行化策略,无监督自适应采样和大规模的适用性的修补匠HP代码在生物物理学的强缩放性能进行了讨论。目前的软件已在GitHub上提前发布,与高性能计算社区COVID-19研究工作相关,并对学术界免费开放(见https://github.com/TinkerTools/tinker-hp)…
2021-03-03 cs.DC cs.MS physics.chem-ph
Accelerating Irregular Applications via Efficient Synchronization and Data Access Techniques
不规则应用程序构成了许多领域日益重要的工作负载领域,包括生物信息学、化学、物理学、社会科学和机器学习。因此,在执行新兴的非常规应用程序时实现高性能和高能效至关重要。本文研究了现代计算系统中不规则应用程序效率低下的根本原因,并从根本上解决了这些问题,提出了低开销的并行线程之间的同步技术,配合精心设计的数据访问策略。我们对加速不同环境中的非常规应用程序做出了四个主要贡献,包括CPU和近数据处理(NDP)(或内存处理(PIM))系统。首先,我们设计了ColorTM,一种新的并行图着色算法的CPU系统,权衡使用同步与较低的数据访问成本。其次,我们提出了SmartPQ,一个自适应的优先级队列,在所有各种竞争的情况下,在非均匀内存访问CPU系统实现高性能。第三,我们介绍了同步,第一个实用的硬件同步机制为NDP系统量身定制。第四,我们设计了SparseP,这是第一个在真实PIM系统上进行高性能稀疏矩阵向量乘法的库。我们证明了在CPU和NDP/PIM架构中执行不规则应用程序可以通过共同设计轻量级同步方法以及精心制作的数据访问策略来显着加速。本论文的桥梁之间的差距,以处理器为中心的CPU系统和以内存为中心的PIM系统在非常规应用程序的关键重要领域。我们希望这篇论文能启发未来的工作,在共同设计软件算法与尖端的计算平台,以显着加速新兴的不规则应用程序。
2022-11-14 cs.AR cs.DC cs.DS