Exploiting Parallelism for Hard Problems in Abstract Argumentation: Technical Report
University of Aberdeen(阿伯丁大学);University of Huddersfield(哈德斯菲尔德大学);University of Brescia(布雷西亚大学)
抽象论证框架(\AFname)是一个能够涵盖各种非单调推理方法、逻辑程序设计和计算论证的统一框架。然而,大多数与\AFname相关的决策和枚举问题的有效方法缺失,从而潜在地限制了基于论证的方法在实际领域中的功效。在本文中,我们提出了一个算法,枚举的抽象论证框架,利用并行计算的首选扩展。为此,采用SCC递归语义定义模式,在特定子框架的级别上定义扩展。该算法在大型框架中在找到的解决方案数量和加速方面显示出显着的性能改进。
2014-11-18 cs.AI cs.DC
Exploiting nested task-parallelism in the $\mathcal{H}-LU$ factorization
本文针对边界元法产生的分层矩阵LU分解并行化问题,提出利用OmpSs模型在执行时发现数据流并行性,通过将数据结构与依赖检测解耦,并引入OmpSs-2的弱操作数和依赖提前释放机制,有效加速了嵌套细粒度任务的并行执行。
2019-06-03 cs.DC cs.MS cs.NA
Exploiting Parallelism Opportunities with Deep Learning Frameworks
Harvard University(哈佛大学);Facebook
最先进的机器学习框架支持各种各样的设计特征,以实现灵活的机器学习编程接口,并减轻机器学习开发人员的可编程性负担。然而,在功能丰富的框架中识别和使用性能最佳设置涉及到大量的性能分析工作,并且通常依赖于特定领域的知识。本文深入分析了机器学习框架中关键设计特性的性能影响,并量化了并行性的作用。观察和见解提炼成一组简单的指导方针,可以用来实现更高的训练和推理加速。在一组不同的真实世界深度学习模型中,评估结果显示,建议的性能调优准则分别比英特尔和TensorFlow推荐的设置高出1.29倍和1.34倍。
2020-06-29 cs.DC cs.LG cs.PF
Exploiting Multiple Levels of Parallelism in Sparse Matrix-Matrix Multiplication
稀疏矩阵-矩阵乘法(Sparse matrix-matrix multiplication,简称SpGEMM)是许多高性能图算法以及一些线性求解器(如代数多重网格)的关键原语。SpGEMM的现有并行实现的缩放严重受限于通信。尽管在基于Erdos-Renyi矩阵的平面MPI模型中已经提出了3D(或2.5D)算法并进行了理论分析,但这些算法还没有在实际中实现,也没有对一般情况下的算法复杂度进行分析。在这项工作中,我们提出了有史以来第一次实现的三维SpGEMM制定,也利用多个(节点内和节点间)的并行级别,实现显着的速度比国家的最先进的公开可用的代码在所有级别的并发。我们广泛评估我们的实施情况,并确定应进一步研究的瓶颈。
2016-11-16 cs.DC cs.NA math.NA
Exploiting Fine-Grain Ordered Parallelism in Dense Matrix Algorithms
密集的线性代数内核对于无线应用至关重要,而即将到来的5G扩散只会放大它们的重要性。许多这样的矩阵算法是归纳的,并且表现出大量的细粒度有序并行性-当多个计算流具有细粒度生产者/消费者依赖性时,并且迭代域不容易平铺。同步开销使得多核并行无效,并且不可分块的迭代使得向量VLIW方法效率较低,特别是对于通常中等大小的矩阵。由于CPU和DSP会损失数量级的性能/硬件利用率,因此信号处理管道中通常采用昂贵且不灵活的ASIC。具有类似性能/功率/面积的可编程加速器将是高度期望的。我们发现,细粒度有序并行可以利用支持:1。基于细粒度流的通信/同步; 2.归纳数据重用和存储器访问模式; 3.部分向量的隐式向量掩码; 4.低关键性的硬件专业化。在这项工作中,我们建议,REVEL,作为下一代DSP架构。它在其ISA和微架构中支持上述功能,并进一步使用新的矢量流控制范式来减少控制开销。在一套线性代数内核中,REVEL在延迟方面比同等配置的DSP高出4.6 - 37倍,每mm 2的性能达到8.3倍。它的功耗仅为理想ASIC的2.2倍,仅占总面积的55%。
2019-05-09 cs.AR cs.DC
A Trust and Reputation System for IoT Exploiting Distributed Ledger Technology
比特币的出现,以及随之而来的区块链,开启了一个去中心化的新时代。区块链使相互不信任的实体能够协同工作以实现共同目标。然而,目前的区块链技术缺乏可扩展性,这限制了它们在物联网(IoT)应用中的使用。互联网上的许多设备都具有计算和通信能力,以促进决策。这些设备将很快成为一个500亿节点的网络。此外,传感器即服务(SaaS)等新的物联网业务模式需要强大的信任和信誉系统(TRS)。在本文中,我们介绍了一种结合Tangle和区块链作为物联网TRS框架的创新分布式账本。Tangle和区块链的结合提供了前者的可维护性和后者的可扩展性。拟议的分类账可以处理大量的物联网设备交易,并促进低功耗节点的加入和贡献。采用分布式账本可以减轻许多威胁,例如粉饰攻击。结合支付和评级协议,所提出的方法为上层信誉算法提供了更干净的数据。
2021-11-26 cs.CR cs.DC
Exploiting Task-Based Parallelism for the Red-Black Gauss-Seidel Method on 2D Grids
KTH Royal Institute of Technology(皇家理工学院);Forschungszentrum Jülich GmbH(于利希研究中心有限公司);Bergische Universität Wuppertal(伍珀塔尔大学);University of Groningen(格罗宁根大学)
针对红黑高斯-赛德尔方法中传统并行策略的同步开销和负载不均问题,采用基于任务的编程模型实现细粒度并行,在二维泊松方程求解中达到与传统方法相当的性能,并增强对硬件异步性的鲁棒性。
2026-07-03 cs.DC cs.NA math.NA
POAS: A high-performance scheduling framework for exploiting Accelerator Level Parallelism
异构计算在各个领域都成为主流。计算机体系结构的这个新时代带来了一种称为加速器级并行化(ALP)的新范式。在ALP中,同时使用加速器以提供前所未有的性能和能效水平。要实现这一目标,有许多问题需要解决,其中最具挑战性的是共同执行。本文开发了一个称为POAS的调度框架,一种通用的方法,为通用应用程序提供协同执行。与其他调度方法不同,POAS不直接调度应用程序。相反,它是一个通用模型,可以转换任何应用程序,使其适合于协同执行,以便可以在ALP环境中执行。我们的建议由四个不同的步骤组成:预测,优化,适应和调度。在这些阶段中,在应用程序中实现不同的修改,使其适合在ALP环境中执行。在这项工作中,我们还将我们的框架应用到矩阵乘法案例研究中,概述了将应用程序与POAS相结合的关键和最重要的步骤。我们评估了在使用CPU核、CUDA核和张量核(XPU)的CPU/GPU/XPU环境上基于POAS的矩阵乘法实现。我们的实验证明,在所研究的情况下,共同执行可以受益于ALP,产生高达45%的加速比只使用一个加速器。POAS已被证明的灵活性和潜力使其成为在未来计算机系统中实现ALP的优秀候选者。
2022-09-21 cs.DC
Exploiting Data Parallelism in the yConvex Hypergraph Algorithm for Image Representation using GPGPUs
VIT University(VIT大学)
为了定义和识别数字图像中的感兴趣区域(ROI),必须根据其边界特征来描述ROI的形状描述符。为了解决轮廓跟踪的一般问题,Kanna等人[1]提出了y凸超图(yCHG)模型。在这项工作中,我们提出了一种并行的方法来实现yCHG模型,利用NVIDIA的计算统一设备架构(CUDA)的大规模并行内核。我们进行我们的实验,由美国宇航局的MODIS卫星图像数据库,并根据我们的分析,我们观察到,串行实现的性能更好的较小的图像,但一旦达到阈值的图像分辨率,并行实现优于其顺序对应的2至10倍(2x-10 x)。我们还得出结论,在一个给定的大小的ROI中的超边的数量的增加不会影响整个算法的性能。
2013-06-23 cs.CV cs.DC
Exploiting Parallelism in Optical Network Systems: A Case Study of Random Linear Network Coding (RLNC) in Ethernet-over-Optical Networks
随着并行性在半导体技术、高性能计算和云应用中变得至关重要,并行网络系统将越来越多地效仿。今天,并行性是40/100/400千兆以太网标准的基本架构特征,由此高速以太网系统配备有多个并行网络接口。这就产生了新的网络拓扑抽象和新的技术要求:多个以太网端点和接口需要与离散并行路径形式的多个链路一起考虑,而不是单个高容量网络链路。这种新的范例使各种新功能的实现能够提高整体系统性能。在本文中,我们分析了网络编码的并行网络系统的性能。特别是,通过使用随机LNC(RLNC),一种无需解码的代码,我们可以利用这样一个事实,即我们拥有分布式(无需协调或优化资源)和可组合(无需交换代码信息)的代码,从而实现完全无状态的操作。我们提出了一种新的理论建模框架,包括推导的上限和下限,以及期望值的差分延迟的并行路径,并在接收器的队列大小。结果表明,网络系统的并行性与RLNC相结合的一个很大的承诺:与一组适当的设计参数,差分延迟和缓冲区的大小在以太网接收器可以显着减少,而跨层的设计和路由可以大大简化。
2017-07-10 cs.DC cs.PF
MARS: Exploiting Multi-Level Parallelism for DNN Workloads on Adaptive Multi-Accelerator Systems
Shanghai Jiao Tong University(上海交通大学);Zhejiang University(浙江大学);Sun Yat-sen University(中山大学);Fudan University(复旦大学)
针对多加速器系统中深度神经网络的加速器组合选择与映射策略优化问题,提出新型映射框架MARS,通过感知计算的加速器选择与感知通信的分片策略最大化并行性,有效降低了典型工作负载与异构模型的推理延迟。
2023-07-23 cs.AI cs.AR cs.DC
Exploiting Parallelism on Shared Memory in the QED Particle-in-Cell Code PICADOR with Greedy Load Balancing
采用粒子网格法对激光等离子体进行数值模拟,计算量非常大。因此,越来越需要开发有效利用现代超级计算机资源的方法。在本文中,我们解决的问题,一个基本上不均匀的和动态变化的宏观粒子分布在一个计算区域中模拟量子电动力学(QED)级联。我们提出并评估了共享内存系统的负载平衡方案,它允许将计算域的各个单元细分为工作部分,随后动态分配这些部分之间的OpenMP线程。一维,二维和三维QED模拟的计算实验表明,该方案优于先前开发的标准和自定义计划的PICADOR代码的2.1至10倍时,采用几个英特尔级联湖CPU。
2019-05-20 cs.DC cs.PF physics.comp-ph
PopPy: Opportunistically Exploiting Parallelism in Python Agentic Workflows
University of Pennsylvania(宾夕法尼亚大学);Independent Researcher(独立研究者);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出PopPy系统,通过识别Python应用中调用外部组件的并行化机会,从而在复合AI应用的端到端延迟上实现6.4倍的加速,同时保持顺序程序语义。
2026-10-06 cs.AI cs.DC cs.PL
Improving Strong-Scaling of CNN Training by Exploiting Finer-Grained Parallelism
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
扩展CNN训练对于跟上不断增长的数据集并减少训练时间是必要的。我们还看到了一个新的需求,即处理具有非常大样本的数据集,其中训练的内存需求很大。现有的训练框架使用一种数据并行方法,将样本划分为一个小批量,但对小批量大小和内存消耗的限制使得这对于大样本来说是站不住脚的。我们描述和实现新的卷积方法,使用空间分解或样本和空间分解的组合进行并行化。这为网络引入了许多性能旋钮,因此我们为CNN开发了一个性能模型,并提出了一种使用它来自动确定有效并行化策略的方法。我们评估我们的算法与微基准和图像分类与ResNet-50。我们的算法使我们能够原型模型的网格缠结数据集,其中样本量非常大。我们表明,我们的并行化实现了出色的强和弱缩放,并能够训练以前无法访问的数据集。
2019-03-15 cs.DC cs.LG
A Scalable Multi-Layered Blockchain Architecture for Enhanced EHR Sharing and Drug Supply Chain Management
针对医疗数字化中的数据安全、隐私与可扩展性问题,提出含五层结构的可扩展多层区块链架构,用于EHR共享与药品供应链管理,经Caliper基准测试验证提升了交易吞吐量、降低了通信开销,兼具安全互操作与供应链监控能力。
2024-12-09 cs.CR cs.DC
Para-Pipe: Exploiting Hierarchical Operator Parallelism of ML Computational Graphs on SoCs
School of Computing, National University of Singapore(新加坡国立大学计算机学院);the University of Amsterdam(阿姆斯特丹大学);Black Sesame Technologies(黑芝麻智能科技)
Para-Pipe是整合算子并行性的分层映射框架,可平衡SoC上深度学习的吞吐量与延迟,提升能效,在两款SoC上分别实现11.0%和23.3%的能效提升。
2026-09-04 cs.DC cs.LG cs.PF
HyPar-Flow: Exploiting MPI and Keras for Scalable Hybrid-Parallel DNN Training using TensorFlow
The Ohio State University(俄亥俄州立大学)
为了减少大规模DNN的训练时间,科学家们已经开始探索数据并行、模型并行和混合并行等并行化策略。虽然数据并行已经得到了广泛的研究和发展,但在有效实现模型并行和混合并行方面还存在一些问题。我们关注的四个主要问题是:1)定义跨进程的分布式模型的概念,2)实现跨进程边界的前向/反向传播,这需要显式通信,3)在固有的顺序任务上获得并行加速,以及4)实现可扩展性而不损失模型的准确性。为了解决这些问题,我们创建了HyPar-Flow --一个模型大小/类型不可知的,可扩展的,实用的和用户透明的系统,用于通过利用MPI,Keras和TensorFlow进行混合并行训练。HyPar-Flow提供了一个API,可用于对任何Keras模型进行大规模的数据、模型和混合并行训练。我们创建了用户提供的Keras模型的内部分布式表示,利用TF的Eager执行功能进行跨进程的分布式前向/反向传播,利用流水线来提高性能,并利用高效的MPI原语进行可扩展的通信。在模型分区之间,我们使用send和recv来交换层数据/部分错误,而allreduce用于累积/平均模型副本之间的梯度。除了HyPar-Flow的设计和实现,我们还提供了三个最先进的HPC系统的全面正确性和性能结果,包括TACC Frontera(Top500.org上排名第5)。对于超深度模型ResNet-1001,HyPar-Flow提供:1)基于Horo…
2020-02-19 cs.AI cs.DC cs.LG
Byzantine Attacks Exploiting Penalties in Ethereum PoS
本文研究以太坊 PoS 中不活跃泄漏机制的安全影响,发现拜占庭验证者可利用该惩罚机制加速冲突分支最终确定、突破三分之一安全阈值,并通过概率弹跳攻击造成概率性安全破坏。
2024-06-06 cs.CR cs.DC
Thread Parallelism for Highly Irregular Computation in Anisotropic Mesh Adaptation
在具有可变数据依赖性的不规则应用程序中的线程级并行性提出了挑战,因为底层数据在算法执行期间被广泛修改,并且必须在保持代码无竞争的同时实现高度并行性。在这篇文章中,我们描述了一种方法,利用线程并行的一类图变异的工作列表算法,保证安全的并行执行,通过处理轮的独立集,并使用延迟更新策略提交更改的底层数据结构。可伸缩性通过原子获取和添加操作来创建工作列表,并通过工作窃取来平衡共享内存工作负载。这项工作的动机是网格自适应算法,我们显示了60%和50%的并行效率分别在英特尔(R)至强(R)桑迪桥和AMD Opteron(TM)Magny-Cours系统,使用这些技术。
2015-05-18 cs.DC
Opara: Exploiting Operator Parallelism for Expediting DNN Inference on GPUs
East China Normal University(华东师范大学);University of Louisiana at Lafayette(路易斯安那大学拉法叶分校);Sun Yat-sen University(中山大学);Peng Cheng Laboratory(鹏城实验室);Huazhong University of Science and Technology(华中科技大学)
本文提出Opara框架,通过CUDA Streams和CUDA Graph自动并行化DNN算子执行,并基于算子资源需求调整启动顺序以重叠计算与内存密集型算子,有效提升GPU推理速度,较现有系统最高提升1.68倍。
2024-05-30 cs.AI cs.DC
Threads and Or-Parallelism Unified
逻辑编程(LP)的主要优点之一是它为程序的并行执行提供了一个很好的框架。在这项工作中,我们研究新的技术,有效地利用低成本的多核架构中的实际应用的并行性。为了实现这些目标,我们恢复和重新设计的YapOr系统,利用或并行的基础上多线程实现。我们的新方法充分利用了最先进的快速和优化的YAP Prolog引擎,并共享底层执行环境,调度程序和大多数用于支持YapOr模型的数据结构。我们的新方法的初始实验一致地实现几乎线性的加速比的大多数应用程序,证明自己作为一个很好的替代利用隐式并行在目前可用的低成本多核架构。
2010-07-26 cs.DC
SupraSNN: Exploiting Synapse-Level Parallelism in Spiking Neural Network Accelerators through Co-Optimized Mapping and Scheduling
University of Tehran(德黑兰大学)
受超标量架构启发,提出硬件-软件协同设计框架SupraSNN,通过物理解耦突触和神经元计算实现突触级并行,结合分区与启发式调度优化映射,在FPGA上实现低延迟和高能效。
2026-06-12 cs.AR cs.DC cs.NE
Block-STM: Scaling Blockchain Execution by Turning Ordering Curse to a Performance Blessing
Block-STM是一个智能合约的并行执行引擎,围绕软件事务内存的原则构建。事务被分组在块中,并且块的每次执行都必须产生相同的确定性结果。Block-STM进一步强制执行结果与根据预设顺序执行事务一致,利用该顺序动态检测依赖关系并避免推测性事务执行期间的冲突。Block-STM的核心是一种新颖的、低开销的执行和验证任务协作调度器。Block-STM在Diem Blockchain代码库的主要分支上实现,并在Aptos的生产中运行。我们的评估表明,块STM是适应不同的冲突率的工作负载,并利用其中固有的并行性。Block-STM在Diem基准测试中实现了高达$110k$ tps的性能,在Aptos基准测试中实现了高达$170k$ tps的性能,这分别比使用$32$线程的顺序基线提高了$20$ x和$17$ x。在Diem和Aptos基准测试中,竞争工作负载的吞吐量分别高达$50k$ tps和$80k$ tps。
2022-08-25 cs.DC cs.PF
SoK: Concurrency in Blockchain -- A Systematic Literature Review and the Unveiling of a Misconception
本文首次系统综述智能合约并发性,提出并发层次分类法并分析漏洞与对策,同时揭示一个主要研究类别中的错误并发假设,以纠正误解并指明未来研究方向。
2025-07-22 cs.CR cs.DC cs.PF
FAFO: Over 1 million TPS on a single node running EVM while still Merkleizing every block
FAFO 是首个通过在区块形成前重排交易以最大化并发的区块链交易调度器,结合 REVM 在单节点上实现超 110 万 TPS,且保持每区块 Merkle 化,为 ZK vApps 提供支持。
2025-07-14 cs.DC cs.NI
Polly's Polyhedral Scheduling in the Presence of Reductions
多面体模型提供了强大的数学抽象,以实现关于给定优化目标的循环嵌套的有效优化,例如,利用并行性。未利用的约简属性是多面体优化器假设并行禁止依赖的常见原因。据我们所知,在任何生产编译器中都没有多面体循环优化器提供对约简的支持。在本文中,我们表明,利用并行减少可以导致显着的性能提高。我们给出了一个精确的,依赖性为基础的,减少的定义和讨论的方法来扩展多面体优化利用减少计算的结合性和交换性。我们在Polly多面体优化器中实现了一种支持约简的调度方法,并在标准的Polybench 3.2基准套件上对其进行了评估。我们能够检测和建模所有52个算术减少,并实现加速高达2.21 $\times$的四核机器上利用多维减少的BiCG基准。
2015-05-28 cs.DC cs.PL
The Blockchain Execution Dilemma: Optimizing Revenue XOR Fair Ordering
Delft University of Technology(代尔夫特理工大学);IOTA Foundation(IOTA基金会)
本文提出动态优化框架,通过基因算法优化交易序列,提升验证者收益并缓解拥堵,同时量化公平排序对收益的影响。
2026-08-10 cs.DC
Batch-Schedule-Execute: On Optimizing Concurrent Deterministic Scheduling for Blockchains (Extended Version)
本文研究区块链中同一区块内交易冲突图上的最大并行度,提出严格可串行化的主动状态机复制框架和图调度概念,证明最小延迟调度问题NP难,并揭示其对现有并发方案的安全影响。
2024-08-19 cs.DB cs.DC
Timing Analysis for DAG-based and GFP Scheduled Tasks
现代嵌入式系统已经从单核架构过渡到多核架构,通过并行性而不是更高的时钟频率来提高性能。DAG被认为是实时领域中最通用的任务模型之一,非常适合利用这种并行性。在本文中,我们提供了一个可扩展性测试,利用响应时间分析,探索和界定自我干扰的DAG任务。此外,我们限制了高优先级任务对低优先级任务的干扰。
2014-06-04 cs.DC cs.OS
Massively-Parallel Lossless Data Decompression
如今,数据量呈指数级增长,存储成本高昂,这使得压缩对于大数据行业至关重要。虽然研究集中在高效压缩上,但快速解压缩对于重复读取压缩数据的分析查询至关重要。虽然解压缩可以通过将每个数据块分配给不同的进程来实现某种程度的并行化,但突破性的加速需要利用现代多核处理器和GPU的大规模并行性来进行块内的数据解压缩。我们提出了两种新的技术,以增加在解压缩的并行度。第一种技术利用GPU和SIMD架构的大规模并行性。第二个牺牲了一些压缩效率,以消除在解压缩过程中限制并行性的数据依赖性。我们评估这些技术的DEFLATE方案,称为膨胀,这是基于LZ77压缩和霍夫曼编码的解压。与几个基于多核CPU的库进行头对头比较,我们实现了2倍的速度提升,同时在压缩比相当的情况下实现了17%的节能。
2016-06-02 cs.DC
PAPI: Exploiting Dynamic Parallelism in Large Language Model Decoding with a Processing-In-Memory-Enabled Computing System
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);King’s College London(伦敦国王学院);ETH Zürich(苏黎世联邦理工学院);University of Toronto(多伦多大学);Vector Institute(向量研究所);NVIDIA(英伟达公司)
PAPI提出一种支持存内计算的异构架构,通过在线内核表征和动态调度,加速大语言模型解码,在三个LLM上分别比异构和纯PIM加速器快1.8倍和11.1倍。
2025-02-27 cs.AI cs.AR cs.DC
Distributed Runtime Verification of Metric Temporal Properties for Cross-Chain Protocols
涉及多个区块链的交易通过跨链协议实现。这些协议基于智能合约,即在区块链上运行的程序,由计算机网络执行。由于智能合约可以在不信任的各方之间自动转移加密货币,电子证券和其他有价值资产的所有权,因此验证智能合约的运行时正确性是一个具有实际意义的问题。这种验证具有挑战性,因为智能合约的执行是时间敏感的,并且不同区块链上的时钟可能无法完全同步。本文描述了一种用于区块链执行的运行时监控方法。首先,我们提出了一个广义的运行时验证技术,验证部分同步分布式计算的度量时序逻辑(MTL),利用有界偏斜时钟同步。其次,我们介绍了一个基于进展的公式重写计划监测\MTL规格采用SMT解决技术和报告的实验结果。
2022-04-20 cs.DC cs.FL
Analyzing Solana's Blocks and Transactions
Technion - Israel Institute of Technology(以色列理工学院)
本文通过分析近百万个 Solana 区块,统计区块规模、交易执行成本、调用程序等信息,并基于交易读写集分析区块内冲突与冲突图,为理解 Solana 并行潜力提供数据支撑,相关资源已开源。
2026-09-28 cs.CR cs.DC
Robust Blockchained Federated Learning with Model Validation and Proof-of-Stake Inspired Consensus
University of Delaware(特拉华大学);Deakin University(迪肯大学);University of Oulu(奥卢大学)
联邦学习(FL)是一种很有前途的分布式学习解决方案,它只交换模型参数而不泄露原始数据。然而,FL的集中式架构容易受到单点故障的影响。此外,FL不会检查本地模型的合法性,因此即使是一小部分恶意设备也会破坏全局训练。为了解决FL的这些鲁棒性问题,在本文中,我们提出了一个基于区块链的分散FL框架,称为VBFL,通过在区块链架构中利用两种机制。首先,我们引入了一种新的去中心化验证机制,使得本地模型更新的合法性由单个验证器检查。其次,我们设计了一个专用的权益证明共识机制,其中权益更频繁地奖励给诚实的设备,这通过增加它们指定附加到区块链的块的机会来保护合法的本地模型更新。我们对MNIST分类的仿真结果证实,在15%的恶意设备中,VBFL实现了87%的准确性,比Vanilla FL高7.4倍。
2021-01-09 cs.AI cs.CR cs.DC
EVM Workloads in the Wild: Evidence for Multi-Dimensional Gas Metering, State Growth, Delayed Execution, and Parallelism
Category Labs
通过分析2025年以太坊L1和Base L2的区块追踪,发现资源组合不稳定、状态增长被低估、执行结果对历史状态敏感,为多维Gas计量和状态增长显式定价提供了实证基础。
2026-09-22 cs.DC
A Flexible Framework for Parallel Multi-Dimensional DFTs
多维离散傅立叶变换(DFT)通常被分解为多个1D变换。因此,任何多维DFT的并行实现都集中在1D DFT内或1D DFT之间的并行化。现有的DFT包利用了1D DFT的固有并行性,并提供了严格的框架,无法扩展到包含两种形式的并行性和各种数据布局,以实现一些并行性。然而,在exascale时代,系统具有数千个节点和复杂的网络拓扑结构,灵活性和并行效率是所有多维DFT框架需要的关键方面,以便适当地映射和缩放计算。在这项工作中,我们提出了一个灵活的框架,建立在重分布操作和张量表达式(ROTE)框架,有利于开发一个家庭的并行多维DFT算法1)统一在一个单一的框架内的两个并行化方案,2)在不同程度上利用两种不同的并行化方案,以及3)使用不同的数据布局来跨计算节点分布数据。我们证明了需要一个通用的框架,因此需要一个家庭的并行多维DFT算法的K-计算机,在那里我们显示几乎线性强缩放结果的问题大小为1024^3的32 k计算节点。
2019-12-22 cs.DC cs.MS
Hierarchical Dynamic Loop Self-Scheduling on Distributed-Memory Systems Using an MPI+MPI Approach
计算密集型循环是科学应用中并行性的主要来源。这样的循环通常是不规则的,并且它们的循环迭代的平衡执行对于实现高性能是至关重要的。然而,有几个因素可能导致不平衡的负载执行,例如问题特征、算法和系统变化。动态循环自调度(DLS)技术的目的是减轻这些因素,从而提高应用程序的性能。在分布式存储器系统上,DLS技术可以使用分层的主-工作者执行模型来实现,因此被称为分层DLS技术。这些技术在两个硬件并行级别上自调度循环迭代:跨计算节点和计算节点内。结合消息传递接口(MPI)和开放多处理(OpenMP)的混合编程方法主导了分层DLS技术的实现。MPI-3标准包括在MPI进程之间共享内存区域的特性。该特性引入了MPI+MPI方法,简化了并行科学应用程序的实现。本工作设计和实现分层DLS技术,利用MPI+MPI的方法。四个众所周知的DLS技术被认为是在这里提出的评估。结果表明,所提出的方法相比,混合MPI+OpenMP方法的某些性能优势。
2019-03-22 cs.DC
P-ARC: Exploiting Subproblem Independence for Parallel Multi-Robot Motion Planning
Parasol Lab, School of Computing and Data Science, University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校计算与数据科学学院Parasol实验室)
提出P-ARC并行算法,通过并行化ARC的三个阶段并采用OR并行多启动策略,在多机器人运动规划中实现近4倍加速。
2026-08-07 cs.DC cs.RO
Rubick: Exploiting Job Reconfigurability for Deep Learning Cluster Scheduling
针对现有深度学习集群调度将可重构训练作业视为黑盒导致的性能与利用率低下问题,提出Rubick调度系统,联合优化作业执行方案与多资源分配,在64-GPU集群上显著提升作业完成速度与集群效率。
2024-08-16 cs.DC
ParaGraph: Weighted Graph Representation for Performance Optimization of HPC Kernels
Iowa State University(爱荷华州立大学);Stony Brook University(石溪大学);Brookhaven National Laboratory(布鲁克海文国家实验室)
本文提出ParaGraph,一种扩展AST并引入边权重的加权图程序表示方法,通过训练GNN预测OpenMP代码在CPU和GPU上的运行时来优化HPC内核性能,归一化RMSE低至0.004。
2023-04-07 cs.DC cs.LG cs.PF