On parallel implementation of a discrete optimization random search algorithm
考虑了一种求解离散优化问题的随机搜索算法。我们概述了该算法的主要组件,然后更详细地描述它。我们展示了如何算法可以在并行计算机系统上实现。给出了算法的串行和并行性能分析,并讨论了解决测试问题的相关结果。
2013-11-12 cs.DC math.OC
A large-scale distributed parallel discrete event simulation engines based on Warped2 for Wargaming simulation
针对Warped2在兵棋PDES中的资源分配与实体交互瓶颈,提出异步监听、METIS负载均衡、约束求解和空间哈希优化,实现最高16倍加速并降低58.18%同步开销。
2025-07-24 cs.DC
Parallel Computing of Discrete Element Method on GPU
我们研究了GPU对DEM的适用性。NVIDIA的代码在计算时间上获得了优于CPU的性能。NVIDIA代码中的接触力模型对于实际应用来说过于简单。我们修改这个模型,用实际模型代替它。仿真结果表明,该模型在CPU上的计算速度比实际模型快6倍,在GPU上的计算速度比简单模型慢7倍。并对结果进行了分析。
2013-01-08 cs.CE cs.DC
Data Races and the Discrete Resource-time Tradeoff Problem with Resource Reuse over Paths
如果两个或多个逻辑上并行的指令访问同一个内存位置,并且其中至少有一个试图修改其内容,则会发生确定性竞争。竞争经常导致不确定性和不正确的程序行为。数据竞争是确定性竞争的一种特殊情况,可以通过关联互斥锁或允许对内存位置的原子访问来消除。然而,这样的解决方案可以通过串行化对该位置的所有访问来减少并行性。对于关联和交换更新,归约器允许并行的无竞争更新,但代价是使用一些额外的空间。我们提出以下问题。给定一个固定的额外空间预算,以减轻并行程序中的竞争成本,哪些内存位置应该分配给reducer,以及应该如何在reducer之间分配空间,以最大限度地减少总运行时间?我们认为,竞争可以被捕获的有向无环图(DAG),节点代表存储单元和弧代表读-写单元之间的依赖关系。然后,我们制定我们的优化问题的DAG。我们专注于这个问题的一个变体,其中通过沿着DAG的源到宿路径路由额外的空间并将其用于沿着路径的归约器的构造来允许归约器之间的空间重用。作为空间预算的函数的缩减时间)。我们推广我们的种族避免空间-时间权衡问题的离散资源-时间权衡问题,一般不增加的持续时间函数和资源重用路径。对于一般的DAG,离线问题是强NP-困难的所有三个持续时间函数下,我们给近似算法。我们还证明了一般资源时间权衡问题的近似困难性,并给出了串并行DAG的伪多项式时间算法。
2019-04-19 cs.DC
Parallel Implementations of Cellular Automata for Traffic Models
Biham-Middleton-Levine(BML)交通模型是一个简单的二维离散元胞自动机(CA)模型,用于研究交通流中的自组织和相变。从计算的角度来看,BML模型表现出离散CA的通常特征,其中自动机的状态根据取决于每个单元及其邻居的状态的简单规则进行更新。在本文中,我们研究了各种优化的影响,加快CA计算的BML模型作为一个案例研究。特别是,我们描述和分析的影响,依赖于CPU的功能,如多个核心或SIMD指令,并在GPU上的几个并行实现。实验评估提供了定量措施的回报,每种技术的加速方面,一个简单的串行实现。我们的研究结果表明,CPU和GPU实现的BML流量模型之间的性能差距可以通过巧妙地利用所有CPU功能来减少。
2018-04-21 cs.DC
A Unified Cloud-Enabled Discrete Event Parallel and Distributed Simulation Architecture
Universidad Complutense de Madrid(马德里康普顿斯大学);The MITRE Corporation(米特雷公司)
如今的云仿真环境主要用于对复杂系统进行建模和仿真,以满足远程访问和可变容量需求。在这方面,建模与仿真(M\&S)计算需求中的可扩展性问题可以通过按需云部署的弹性来解决。然而,按照这些弹性原则实现高性能云M\&S框架并不是一项简单的任务,因为并行化和分布现有架构是具有挑战性的。事实上,并行和分布式M\&S的发展都是按照不同的方式发展的。并行解决方案一直专注于ad-hoc解决方案,而分布式方法,另一方面,导致了标准分布式框架的定义,如高层体系结构(HLA)或影响了分布式技术的使用,如消息传递接口(MPI)。只有少数开发能够随着计算硬件资源部署的当前弹性而发展,主要集中在模拟即服务(SaaS)的实现上,尽管独立于并行ad-hoc方法分支。在本文中,我们提出了一个统一的并行和分布式M\&S架构,具有足够的灵活性,部署并行和分布式仿真在云中,以较低的努力,而无需修改底层模型的源代码,并达到重要的加速比对顺序模拟,特别是在并行实现。我们的框架是基于离散事件系统规范(DEVS)的形式主义。使用xDEVS M\&S工具,应用程序编程接口(API)和DEVStone基准测试多达8个计算节点的并行和分布式框架的性能,分别获得最大的加速比$15.95\times$和$1.84\times$。
2023-02-22 cs.AI cs.DC
Update statistics in conservative parallel discrete event simulations of asynchronous systems
我们模拟了一个理想的封闭链的L处理元素,以异步方式并行工作的性能。它们的状态更新遵循通用的保守算法。保守更新规则决定了虚拟时间面的增长。这种增长的物理特性反映在利用率(工作处理器的比例)和接口宽度上。我们表明,它是可能的nake的利用和虚拟时间界面的宏观结构之间的显式连接。我们利用这种连接,在一个近似模型内的系统中的更新的理论概率分布。因此,对于L>3,计算加速的理论下限为s=(L+1)/4。我们的方法使用简单的统计数据来计算不同的表面配置类与模型的增长规则一致。它使人们能够计算解析微观性质的界面,这是不可用连续介质方法。
2003-06-09 cond-mat cs.DC
Suppressing Roughness of Virtual Times in Parallel Discrete-Event Simulations
在并行离散事件仿真(PDES)方案中,任务分布在处理单元(PE)之间,其进程由同步方案控制。对于具有短程相互作用的晶格系统,保守的PDES格式的进展由来自非平衡表面生长理论的Kardar-Parisi-Zhang方程控制。尽管PE的模拟(虚拟)时间以非零速率进展,但它们的标准偏差(散布)随PE的数量而发散,从而阻碍了有效的数据收集。我们发现,弱随机相互作用之间的PE可以使这种传播nondivergent。然后,PE以非零、接近均匀的速率前进,而不需要全局同步。
2003-02-03 cond-mat.dis-nn cond-mat.stat-mech cs.DC
Large-Scale Discrete Fourier Transform on TPUs
在这项工作中,我们提出了两个并行算法的大规模离散傅立叶变换(DFT)的张量处理单元(TPU)集群。这两种并行算法与DFT的两种公式相关联:一种是基于Kronecker积,具体地说,是输入数据和Vandermonde矩阵之间的稠密矩阵乘法,在这项工作中表示为KDFT;另一种是基于著名的Cooley-Tukey算法和相位调整,在这项工作中表示为FFT。KDFT和FFT公式都充分利用了TPU在矩阵乘法中的优势。KDFT公式允许直接使用非均匀输入,而无需额外的步骤。在这两种并行算法中,对输入数据采用相同的数据分解策略。通过数据分解,KDFT和FFT中的密集矩阵乘法在TPU核内保持本地化,可以完全并行执行。两种并行算法均采用one-shuffle机制实现TPU核间的通信,在互连网络上相邻两核之间沿同一方向同时发送和接收数据。一次混洗方案是针对TPU集群的互连拓扑而设计的,最大限度地减少了TPU核之间的通信所需的时间。KDFT和FFT都在TensorFlow中实现。三维复数DFT是在具有完整TPU Pod的维度$8192 \times 8192 \times 8192$的示例上执行的:KDFT的运行时间是12.66秒,FFT的是8.3秒。缩放分析,证明了高并行效率的两个DFT的TPU上实现。
2020-12-11 cs.DC cs.MS
Accelerating Discrete Diffusion Models with Parallel-In-Time Sampling
The University of Tokyo(东京大学);The University of Sydney(悉尼大学);RIKEN AIP(日本理化学研究所革新智能研究中心);The Institute of Statistical Mathematics(统计数理研究所)
提出基于连续时间马尔可夫链框架的并行τ-leaping算法,利用Picard迭代实现时间并行采样加速,将复杂度从O(d log S)降至O(log(d log S)·log d),在合成和真实数据上实现7-9倍加速。
2026-07-02 cs.DC cs.DS cs.LG
Parallel Domain Decomposition techniques applied to Multivariate Functional Approximation of discrete data
通过多元函数逼近(MFA)来表达大规模数据集对于分析和可视化以推动科学发现至关重要。解决这些问题需要可扩展的数据划分方法来计算MFA表示在顺从的挂钟时间。我们引入了一个完全并行的计划,以减少每项任务的总工作量,结合重叠的添加剂施瓦茨为基础的迭代方案来计算MFA与张量展开的B样条基,同时保持完整的程度连续性子域边界。虽然MFA的先前工作已被成功地证明是有效的,但在单个进程上编码大型数据集的计算复杂性可能是严重禁止的。从MFA生成重建的并行算法不得不依赖于后处理技术来混合子域边界上的不连续性。相比之下,一个强大的约束最小化基础设施,直接施加高阶连续性的MFA表示在这里。我们证明了与区域分解求解器的并行方法的有效性,以尽量减少解码的MFA的子域误差残差,更具体地说,以恢复跨非匹配边界的连续性的规模。分析的分析和科学数据集的1-,2-和3-维的方案。广泛的强和弱的可扩展性性能也证明了大规模的数据集,以评估并行加速的基于MPI的算法实现的领导计算机器。
2022-10-12 cs.DC cs.NA math.NA
From Massively Parallel Algorithms and Fluctuating Time Horizons to Non-equilibrium Surface Growth
我们研究了离散事件模拟的大规模并行算法的渐近标度特性,其中离散事件是泊松到达。模拟时间范围的演变类似于非平衡表面。蒙特卡罗模拟和粗粒度近似表明,在稳态下的宏观景观是由爱德华-威尔金森哈密顿量。由于该算法的效率对应于相关表面中的局部极小点的密度,我们的结果意味着该算法是渐近可扩展的。
2000-02-01 cond-mat.stat-mech cs.DC physics.comp-ph
Accurate Reaction-Diffusion Operator Splitting on Tetrahedral Meshes for Parallel Stochastic Molecular Simulations
生物学中的空间随机分子模拟受到在离散时间或离散空间框架中跟踪空间中的分子所需的密集计算的限制,这意味着在亚细胞模型中已经达到了序列极限。这就需要利用现代超级计算机的并行模拟;然而,已知精确的方法本质上是串行的。我们介绍了一种新的方法,以提高精度的不规则网格的运营商分裂实现,并展示了可扩展的并行模拟在初始MPI版本的潜力。我们预计,这一基础工作将使更大规模的,全细胞随机模拟在不久的将来。
2015-12-10 cs.DC physics.bio-ph physics.chem-ph
Algorithmic scalability in globally constrained conservative parallel discrete event simulations of asynchronous systems
我们考虑采用L处理元素,安排在一个环上的异步系统的并行模拟。处理器只在最近的邻居之间通信,并且只有在保证不违反因果关系的情况下才提前它们的本地模拟时间。在没有约束的模拟中,在无限L限制中,利用率缩放(Korniss等人,PRL 84,2000);但是,虚拟时间范围的宽度发散(即,算法的测量阶段不成比例)。在这项工作中,我们引入了一个移动窗口的全局约束,修改算法,使测量相位尺度以及。我们提出了系统研究的结果,其中系统的大小(即,L和每个处理器的体积负载)以及约束是变化的。该约束消除了虚拟时间范围的极端波动,提供了其宽度的界限,并控制了平均进度速率。窗口约束的宽度可以用作调谐参数,对于每个处理器的给定容量负载,可以调整该调谐参数以优化利用率,从而使效率最大化。这一结果可能会发现许多应用在一般的空间扩展的短距离相互作用系统的演化与异步动力学建模,包括动态蒙特卡罗研究。
2002-11-12 cond-mat.stat-mech cs.DC cs.DS
Exact Parallelization of the Stochastic Simulation Algorithm for Scalable Simulation of Large Biochemical Networks
对细胞整个生物化学过程的全面模拟具有巨大的潜力,可以帮助医生治疗疾病,帮助工程师设计生物机器。但这样的模拟必须模拟数百万种分子种类和反应的网络。随机模拟算法(SSA)被广泛用于模拟生物化学过程,特别是那些种群数量很小,离散性和随机性起着重要作用的系统。然而,现有的串行SSA方法对于全面的网络来说是非常慢的,并且现有的并行SSA方法使用周期性同步,牺牲了精度。为了实现快速,准确和可扩展的生物化学模拟,我们提出了一个精确的并行算法SSA的生化网络划分成许多SSA的过程,并行模拟。我们的并行SSA算法正是协调这些SSA过程和物种之间的相互作用,他们共享的状态,通过构造算法作为一个并行离散事件模拟(DES)的应用程序,并使用一个乐观的并行DES模拟器同步的相互作用。我们预计,我们的方法将实现前所未有的生化模拟。
2020-05-20 cs.DC cs.DS q-bio.MN
TriADA: Massively Parallel Trilinear Matrix-by-Tensor Multiply-Add Algorithm and Device Architecture for the Acceleration of 3D Discrete Transformations
The University of Aizu(秋田大学)
本文提出TriADA,一种大规模并行三线性矩阵-张量乘加算法与同构设备架构,通过低秩算法、解耦内存的GEMM内核、全分布式3D网络及弹性稀疏外积方法,高效加速3D离散变换,显著提升AI和HPC工作负载的能效与计算性能。
2025-06-28 cs.AI cs.AR cs.DC
FastDOG: Fast Discrete Optimization on GPU
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland Informatics Campus(萨尔兰信息学园区)
提出了一种求解结构预测中0- 1整数线性规划问题的大规模并行Lagrange分解方法。我们提出了一个新的迭代更新方案解决拉格朗日对偶和扰动技术解码原始解。为了表示子问题,我们遵循Lange et al.(2021)并使用二元决策图(BDD)。我们的原始和对偶算法需要很少的子问题之间的同步和优化BDD只需要基本的操作,没有复杂的控制流。这使我们能够利用GPU为我们方法的所有组件提供的并行性。我们目前的实验结果组合问题的MAP推理马尔可夫随机场,二次分配和细胞跟踪发育生物学。我们的高度并行GPU实现将Lange等人(2021)算法的运行时间提高了数量级。特别是,我们接近或优于一些国家的最先进的专业化物流,同时是问题不可知论。我们的实现可以在https://github.com/LPMP/BDD上获得。
2022-04-19 cs.CV cs.DC cs.GT
Exploring the Limits of GPUs With Parallel Graph Algorithms
在本文中,我们探讨了通用并行计算的图形处理器(GPU)的限制,通过研究问题,需要高度不规则的数据访问模式:列表排名和连接组件的并行图算法。这样的图形问题代表了合并GPU上的并行存储器访问的最坏情况,这对于良好的GPU性能至关重要。我们的实验研究表明,PRAM算法是一个很好的起点,开发高效的并行GPU方法,但需要非平凡的修改,以确保良好的GPU性能。我们提出了一套指导方针,帮助算法设计人员适应PRAM图算法的并行GPU计算。我们指出,GPU的并行图形算法的研究是更广泛的兴趣,一般的离散和组合问题,因为这些问题中的许多需要类似的不规则的数据访问模式。
2010-02-24 cs.CC cs.DC cs.DS
Parallelizing asymptotically optimal algorithms for large-scale dualization problems
对偶问题是离散枚举问题中的一个关键问题。目前还不知道这个问题是否是多项式时间可解的。渐近最优对偶算法是已知的对偶算法中最快的,这是支持本文所描述的各种数据的新的实验。30多年前,E.V. Djukova给出了这些算法平均效率的理论证明。在本文中,新的结果构造的并行算法的棘手的枚举问题。提出了一种新的渐近最优对偶算法的静态并行化方案。该方案是基于统计估计的子任务的大小。
2016-05-31 cs.CC cs.DC cs.DM
Programmable Cellular Automata Based Efficient Parallel AES Encryption Algorithm
元胞自动机(CA)是一种离散计算模型,它为模拟复杂系统和进行基于邻域信息的复杂计算提供了简单、灵活、高效的平台。CA由两个部分组成:1)一组单元格和2)一组规则。可编程元胞自动机(PCA)是在元胞自动机(CA)结构上引入控制信号。可编程元胞自动机已成功地应用于生物系统、物理系统的模拟,最近还被用于设计解决任务密度和同步问题的并行和分布式算法。本文将PCA应用于密码算法的开发。本文研究了一种基于可编程元胞自动机的并行AES加密算法的密码体制。该算法基于对称密钥系统。
2011-12-09 cs.DC cs.NI nlin.CG
Bi-objective Optimisation of Data-parallel Applications on Heterogeneous Platforms for Performance and Energy via Workload Distribution
性能和能量是现代并行平台优化的两个最重要的目标。最新研究表明,在同构多核集群的性能和能源双目标优化中,工作负载分布作为决策变量的重要性。在这项工作中,我们表明,异构处理器的性能和能源的双目标优化的结果在大量的帕累托最优的最佳解决方案(工作负载分布),即使在简单的情况下,线性性能和能源配置文件。然后,我们研究了现实生活中的数据并行应用程序的性能和能量配置文件,发现它们的形状是非线性的,复杂的和非光滑的。因此,我们提出了一种高效和精确的全局优化算法,它需要作为输入最一般的离散性能和动态能量配置文件的异构处理器,并解决了双目标优化问题。该算法也被用来作为一个积木,以解决性能和总能量的双目标优化问题。我们还提出了一种新的方法来建立离散的动态能量配置文件的个人计算设备,这是输入到算法。该方法完全基于系统级测量,并解决了在集成CPU和加速器的异构平台上运行的混合数据并行应用程序的准确组件级能量建模的根本挑战。我们实验验证所提出的方法,使用两个数据并行的应用程序,矩阵乘法和二维快速傅立叶变换(2D-FFT)。
2019-07-09 cs.DC cs.PF cs.SY