Optimisation of ATLAS computing resource usage through a modern HEP Benchmark Suite via HammerCloud and Big PanDA
本文利用HammerCloud和PanDA在136个站点部署增强型HEP Benchmark Suite,系统评估HEPScore23基准下ATLAS计算资源的实际性能与声明能力差异,识别配置问题并优化资源使用效率。
2025-02-07 cs.DC hep-ex
HEPchain: Novel Proof-of-Useful-Work blockchain consensus for High Energy Physics
本文提出HEPchain区块链与新型Proof-of-Useful-Work共识,将高能物理所需Monte Carlo模拟转化为有用工作量,在保障链安全的同时补充WLCG和BOINC计算资源。
2023-01-25 cs.DC cs.GT
Scheduling on Grid with communication Delay
并行处理是高性能计算(HPC)的核心,过去是,现在仍然是提高计算机系统速度的最有效途径。在过去的几年里,处理器的计算能力和网络速度的大幅发展已经显著改变了HPC的格局。地理分布的异构系统现在可以合作和共享资源来执行一个应用程序。这种计算基础设施被称为计算网格或网格计算。网格可以看作是一种分布式的大规模集群计算。从另一个角度来看,它构成了云计算系统的主要部分,除了瘦客户端和实用计算[1,2,3]。因此,网格计算吸引了众多的研究者[4]。人们对网格计算的兴趣已经超越了传统的网格计算的范式,转向了无线网格计算[5,6]。
2015-12-09 cs.DC
Utility Computing and Global Grids
本章重点介绍如何使用网格技术来实现效用计算。网格如何支持效用计算的概述首先通过效用网格的体系结构。然后,基于效用的资源分配详细描述了在每个层次的架构。最后讨论了效用计算的一些工业解决方案。
2006-05-12 cs.DC
Scheduling in Grid Computing Environment
网格计算中的调度问题从一开始就成为研究的热点。然而,由于网格计算的学习曲线很大,初学者很难理解相关概念。因此,有必要对网格计算领域的调度有一个简明的理解。本文力求给出对调度的简明理解以及对网格计算系统的相关理解。本文描述了网格计算的总体情况,并讨论了使网格计算成为可能的重要子系统。讨论了资源调度和应用调度的概念,并对调度算法进行了分类。此外,本文还提出了用于评估调度算法,包括真实系统和基于仿真的方法的方法。本文对网格调度系统、调度算法、调度方法等方面的研究成果进行了简要的介绍,对用户和研究人员具有一定的参考价值
2014-07-15 cs.DC
Cloud Computing and Grid Computing 360-Degree Compared
云计算已经成为继Web 2.0之后的又一个流行词。然而,对于云计算有几十种不同的定义,而且对于什么是云似乎没有达成共识。另一方面,云计算并不是一个全新的概念;它与相对较新但已经建立了13年的网格计算范式以及其他相关技术(如效用计算、集群计算和分布式系统)有着错综复杂的联系。本文力求从多个角度对云计算和网格计算进行比较和对比,并对两者的本质特征进行深入的剖析。
2008-12-31 cs.DC
Alchemi: A .NET-based Grid Computing Framework and its Integration into Global Grids
耦合地理上分布的资源的计算网格正在成为解决科学、工程和商业中大规模问题的事实上的计算平台。支持网格计算的软件主要是为Unix类操作系统编写的,因此严重限制了有效利用绝大多数台式计算机(即,运行Microsoft Windows操作系统的变体的计算机)的计算资源的能力。从软件行业的角度来看,解决基于Windows的网格计算问题尤为重要,因为软件行业对网格的兴趣正在迅速兴起。Microsoft的.NET Framework在为基于Windows的平台实现商业分布式系统方面已经变得几乎无处不在,在这种情况下,它被定位为网格计算的理想平台。在本文中,我们提出了Alchemi,一个基于. NET的网格计算框架,它提供了构建桌面网格和开发网格应用程序所需的运行时机制和编程环境。除了网格作业模型之外,它还支持面向对象的网格应用程序编程模型,从而允许灵活的应用程序组合。通过Web服务接口提供跨平台支持,灵活的执行模型支持网格节点的专用和非专用(自愿)执行。
2004-02-10 cs.DC
Experimental Study of Remote Job Submission and Execution on LRM through Grid Computing Mechanisms
远程作业提交和执行是利用集群计算实现分布式计算的基本要求。然而,集群计算限制了在单个组织内的使用。网格计算环境可以允许使用在其他组织中可用的资源来执行远程作业。本文讨论了使用LRM和使用网格的批处理作业执行的概念。本文讨论了两种方法来准备测试网格计算环境,我们使用的实验测试的概念。本文通过LRM的特定方式和网格计算的方式对远程作业提交和执行机制进行了实验测试。此外,本文还讨论了在网格计算环境下工作时所面临的各种问题,并讨论了解决这些问题的方法。本文提出的理解和实验测试将成为非常有用的研究人员谁是新的网格作业管理领域。
2014-07-15 cs.DC
Classification and Characterization of Core Grid Protocols for Global Grid Computing
网格计算在过去的几年里吸引了许多研究人员,因此,许多新的协议已经出现,并且自十年前开始以来也在不断发展。网格协议在实现各种服务方面发挥着重要作用,这些服务促进了不同组织之间的协调资源共享。在本文中,我们提供了全面的覆盖不同的核心网格协议,可用于全球网格计算。我们建立分类的核心网格协议到i)网格网络通信和网格数据传输协议,ii)网格信息安全协议,iii)网格资源信息协议,iv)网格管理协议,和v)网格接口协议,根据这些协议处理的活动的种类。所有分类的协议也被组织到网格体系结构的沙漏模型的层,以了解这些协议之间的依赖关系。我们还介绍了每个协议的特点。为了更好地理解这些协议,我们还讨论了应用协议的例子,无论是Globus工具包或其他流行的网格中间件项目。我们相信,我们的网格协议的分类和特征,将使更好地了解核心网格协议,并将激励在全球网格计算领域的进一步研究。
2013-02-22 cs.DC
Gridlan: a Multi-purpose Local Grid Computing Framework
在科学计算中,更多的计算能力通常意味着更快和可能更详细的结果。本研究的目标是开发一个框架,提交计算工作的强大的工作站未充分利用的非密集型任务。这是通过在这些工作站中的每一个中使用虚拟机来实现的,在这些工作站中进行计算。这组虚拟机称为Gridlan。Gridlan框架介于集群和网格计算范例之间。Gridlan能够从现有的集群软件工具中获益,例如像Torque这样的资源管理器,因此具有集群操作经验的用户可以无缝地分派作业。Gridlan实现的基准测试显示了该系统对计算任务的适用性,主要是在并行计算中。
2016-09-22 cs.DC
A Survey of Current Trends in Distributed, Grid and Cloud Computing
从20世纪90年代到2012年,互联网彻底改变了计算世界。在发展到分布式计算和进一步发展到网格计算之后,它开始了并行计算之旅。在目前的情况下,它创造了一个新的世界,被称为云计算[1]。这三个术语有不同的含义。云计算基于后向计算方案,如集群计算、分布式计算、网格计算和效用计算。云计算的基本概念是虚拟化。它为各种请求程序提供虚拟硬件和软件资源。本文对集群计算、网格计算和云计算进行了详细的介绍,并对它们的实现进行了分析。我们试图列出所有这些技术出现的灵感。我们还占一些目前的情况下的网格计算的故障,并讨论了新的云计算项目正在管理的印度政府的学习。本文还回顾了现有的工作,并涵盖(分析),在一定程度上,一些创新的想法,可以实施。
2013-08-08 cs.DC
Dedicated Analysis Facility for HEP Experiments
高能物理(HEP)提供了越来越多的数据。为了分析这些,需要通过扩展存储容量来并行地不断发展计算能力。这些发展在这一领域的未来发挥着关键作用,但是,这些也可以通过优化现有的IT资源来实现。HEP软件工作流程中的主要计算能力消耗者之一是探测器模拟和数据分析。为了优化这些目标的资源需求,欧洲核子研究中心的ALICE实验提出了运行3专用分析设施(AF)的概念。这些AF是特殊的计算中心,结合了CPU和快速互连的磁盘存储模块,允许在专用数据子集上快速周转分析任务。这反过来又允许在全球LHC计算网格上对大数据样本进行分析之前优化分析过程和代码。本文介绍了2020-2022年期间维格纳分析设施(Wigner AF)的结构和进展情况。
2023-03-09 cs.DC physics.comp-ph
Emulating a computing grid in a local environment for feature evaluation
本文提出在本地环境中构建计算网格迷你克隆的仿真方法,以在受控条件下评估新功能,避免干扰CERN ALICE等生产网格的运行。
2024-11-19 cs.DC
Recent Advances in Mobile Grid and Cloud Computing
网格和云计算系统已被广泛用于解决科学和工程领域中的大型和复杂问题。这些系统包括通过高速网络连接的强大计算资源。由于移动计算和联网技术的最新进展,将诸如机器人、飞行器、传感器和智能电话的各种移动设备与网格和云计算系统集成已经变得可行。这种集成使下一代应用程序的设计和开发,通过在移动环境中的资源共享,也引入了一些挑战,由于动态和不可预测的网络。本文讨论了移动网格和云计算系统的设计和开发中的应用、研究挑战以及该领域的最新进展。
2018-10-16 cs.DC
From Grid Middleware to a Grid Operating System
网格计算在过去十年中取得了长足的进步。网格中间件(如Globus)在实现这一点方面做出了巨大贡献。然而,在其他领域采用网格计算还存在很大的障碍,尤其是在日常用户计算环境中。我们将在本文中证明,这主要是由于现有的网格中间件的局限性,不考虑日常的科学和商业用户的需求。在本文中,我们将正式倡导网格操作系统,并提出了一个架构迁移网格计算到网格操作系统,我们相信这将有助于消除大部分的技术障碍,采用网格计算,使其相关的日常用户。我们相信,这种向网格操作系统的过渡将在未来推动更广泛的网格计算研究和应用程序开发与部署。
2006-08-08 cs.DC
An Advanced Approach On Load Balancing in Grid Computing
随着广域网的快速发展和低成本、强大的计算资源,网格计算得到了广泛的应用。随着网格计算的出现,可以克服传统分布式系统的空间限制,并且可以将世界各地不同位置处未充分利用的计算资源用于分布式作业。网格服务和资源管理是网格基础设施服务层的主要关键服务,其中负载均衡是网格开发人员关注的主要问题。负载是服务器面临的主要问题,特别是当用户数量增加时。在负载管理领域进行了大量的研究。本文介绍了网格计算中负载均衡的各种机制,以便读者了解哪种算法适用于不同的情况。关键词:广域网,分布式计算,负载均衡。
2014-09-12 cs.DC
Mining the Workload of Real Grid Computing Systems
自20世纪90年代中期以来,网格计算系统已经作为一种类比而出现,它使计算能力像电力网一样普及和容易访问。从那时起,网格计算系统已被证明能够提供非常大的存储量和计算能力,主要支持广泛的地理范围内的科学和工程研究。了解这些系统的工作负载特性是设计和调整有效的资源管理策略的一个里程碑。这是通过工作负载特性来实现的,其中分析工作负载特性并获得这些特性的可能现实的模型。在本文中,我们研究了一些真正的网格系统的工作负载,通过使用数据采掘的方法来建立一个工作负载模型的作业到达间隔时间和运行时间,和贝叶斯方法来捕捉用户的相关性和使用模式。最后的模型,然后对来自一个真正的网格系统的工作负载进行验证。
2015-01-28 cs.DC
Fog Computing for Smart Grids: Challenges and Solutions
智能电网(SG)能够整合包括可再生能源在内的各种电源。它们可以有助于减少有害气体排放,并支持双向信息流动,以提高能源效率,以及小规模微电网,作为一个有前途的解决方案,以应对环境问题。然而,随着关键任务和延迟敏感型应用的出现,传统的基于云的数据处理模式变得越来越不令人满意。使用雾计算来增强智能电网系统的边缘侧处理能力被认为是解决该问题的潜在解决方案。在本章中,我们的目的是提供一个全面的分析雾计算在智能电网中的应用。我们首先概述智能电网和雾计算。然后,通过对现有研究的综述,总结了雾计算在智能电网中的主要应用、关键问题和可能的解决方法。我们通过讨论研究挑战和未来方向来结束本章。
2020-08-31 cs.DC
Translating the Grid: How a Translational Approach Shaped the Development of Grid Computing
生物学知识的进步和改善的健康结果之间的差距越来越大,这激发了转化医学这一新学科的发展,在这一学科中,新知识的应用是研究计划的一个明确部分。艾布拉姆森和帕拉沙尔认为,复杂的计算技术和更具挑战性的应用之间存在类似的差距,需要类似的转化计算机科学学科,其中将研究成果有意识地转移到大规模实践中成为中心研究焦点,而不是事后的想法。我们从这个角度重新审视网格计算的发展和应用,从20世纪90年代中期开始,并发现一个翻译框架是有用的理解技术的发展和影响。我们讨论了如何发展的网格计算基础设施,特别是Globus工具包,受益于一个翻译的方法。我们确定的经验教训,可以适用于其他翻译计算机科学的举措。
2020-08-21 cs.DC
The Gridbus Toolkit for Service Oriented Grid and Utility Computing: An Overview and Status Report
网格旨在利用自治分布式实体合作产生的协同效应。网格合作产生的协同效应包括共享、交换、选择和聚合地理上分布的资源,如计算机、数据库、软件和科学仪器,以解决科学、工程和商业中的大规模问题。为了使这种合作可持续,参与者需要有经济激励。因此,“激励”机制应被视为网格体系结构的关键设计参数之一。在这篇文章中,我们提出了一个开源的网格工具包,称为Gridbus,其体系结构是从根本上驱动的网格经济的需求的概述和状态。网格总线技术为计算网格和数据网格提供服务,为新兴的电子科学和电子商务应用提供动力。
2004-04-13 cs.DC
A Serverless Engine for High Energy Physics Distributed Analysis
欧洲核子研究中心的大型强子对撞机(LHC)在过去十年中为高能物理(HEP)领域产生了前所未有的数据量。对分析这些数据感兴趣的科学合作通常需要超出单个机器的计算能力。这个问题已经解决了传统的分布式环境中运行的分析,使用有状态的,管理的批处理计算系统。虽然这种方法到目前为止是有效的,但目前对该领域未来计算需求的估计提出了大规模的挑战。这种管理方法可能不是解决这些问题的唯一可行方法,无服务器架构可以提供一种有趣的替代方案,以实现更大的扩展潜力。这项工作描述了一种通过分布式无服务器计算引擎运行真正的HEP科学应用程序的新方法。该引擎基于ROOT(一种成熟的HEP数据分析软件)构建,并将其计算分发到Amazon Web Services Lambda Serverless Platform上的大型并发执行池。由于开发的工具,物理学家能够访问存储在CERN的数据集(也包括那些受限制访问策略限制的数据集),并在其典型环境之外的远程基础设施上处理它。在运行时监控无服务器功能的分析,以收集数据和计算密集型工作负载的性能指标。
2022-06-02 cs.DC
An Easy-to-Use-and-Deploy Grid Computing Framework
一些网格计算工具可供公众使用。然而,此类系统通常相当复杂,需要几个月的时间来设置。如果用户希望在短时间内建立一个自组织网格,则无法使用这些工具。此外,它们提供的复杂服务,如可靠的文件传输,额外的安全层等,在网络较小且可靠的情况下,这会成为性能的开销。在本文中,我们描述了我们的网格计算框架,它可以实现和使用,很容易在一个中等规模的网络结构。
2020-10-05 cs.DC
Virtual Environments for multiphysics code validation on Computing Grids
在本文中,我们提倡使用基于网格的基础设施,这些基础设施是为数字专家用户设计的无缝方法,即,多物理场应用设计师。它依赖于基于计算网格的复杂计算环境,连接异构计算资源:大型机、PC集群和运行多物理场代码和实用软件的工作站,例如,可视化工具。该方法基于HEAVEN* 联盟定义的概念。HEAVEN是一个欧洲科学联盟,包括来自航空航天,电信和软件行业的工业合作伙伴以及学术研究机构。目前,HEAVEN联盟正在进行一个旨在创建高级服务平台的项目。它旨在使“虚拟专用网格”支持各种环境,供用户操作适当的高级界面。这将成为未来通用服务的基础,允许集成各种服务,而无需部署特定的网格基础设施。
2005-10-26 cs.DC
An Overview of a Grid Architecture for Scientific Computing
本文概述了NorduGrid项目的网格测试平台架构建议。该项目的目的是建立一个北欧国家间的试验台设施,用于实施广域计算和数据处理。该体系结构应该定义一个网格系统,适用于解决在欧洲核子研究中心的大型强子对撞机的数据密集型问题。我们提出了这样一个系统所需的各种架构组件。之后,我们继续通过显示任务流来描述动态。
2002-05-14 cs.DC
A Taxonomy of Workflow Management Systems for Grid Computing
随着网格技术和应用技术的出现,科学家和工程师们正在构建越来越复杂的应用程序来管理和处理大型数据集,并在分布式资源上执行科学实验。这样的应用场景需要用于组成和执行复杂工作流的手段。因此,许多努力已经朝着网格计算的工作流管理系统的发展。在本文中,我们提出了一个分类的特点和分类网格上的工作流的建设和执行的各种方法。我们还调查了几个有代表性的网格工作流系统开发的各种项目在世界范围内展示分类的全面性。该分类法不仅突出了设计和工程的相似性和差异,国家的最先进的网格工作流系统,但也确定了需要进一步研究的领域。
2005-04-13 cs.DC
GridSim: A Toolkit for the Modeling and Simulation of Distributed Resource Management and Scheduling for Grid Computing
集群、网格和对等(P2P)网络已成为下一代并行和分布式计算的流行范例。在这种大规模的分布式系统中,资源的管理和应用程序的调度是一项复杂的任务。为了证明资源代理和相关调度算法的有效性,需要在不同的场景下评估它们的性能,例如不同数量的资源和具有不同需求的用户。在网格环境中,由于资源和用户分布在多个组织中,并且具有各自的策略,因此很难甚至不可能以可重复和可控的方式执行调度器性能评估。为了克服这个限制,我们已经开发了一个基于Java的离散事件网格仿真工具包GridSim。该工具包支持异构网格资源(时间和空间共享)、用户和应用程序模型的建模和仿真。它为应用程序任务的创建、任务到资源的映射及其管理提供了原语。为了证明GridSim工具包的适用性,我们模拟了Nimrod-G网格资源代理和评估的最后期限和预算约束的成本和时间最小化调度算法的性能。
2002-03-14 cs.DC
Surrogate Modeling for Scalable Evaluation of Distributed Computing Systems for HEP Applications
本文评估了三种机器学习模型作为分布式计算系统仿真代理,以解决传统模拟器在准确性与可扩展性间的权衡问题,实现快速且准确的计算作业核心观测量预测。
2025-10-13 cs.DC cs.PF hep-ex
A Computational Economy for Grid Computing and its Implementation in the Nimrod-G Resource Brok
计算网格,耦合地理上分布的资源,如个人电脑,工作站,集群,和科学仪器,已经成为下一代的计算平台,解决大规模的问题,在科学,工程和商业。然而,这些环境中的应用程序开发、资源管理和调度仍然是一项复杂的任务。在这篇文章中,我们将讨论我们的努力,在开发一个资源管理系统调度计算分布在世界各地的资源,不同的服务质量。我们的面向服务的网格计算系统称为Nimrod-G管理与远程执行相关的所有操作,包括资源发现,交易,基于经济原则和用户定义的服务质量要求的调度。Nimrod-G资源代理是通过利用Globus等现有技术实现的,并提供了构建工业强度网格所必需的新服务。我们讨论的初步实验结果调度一些参数计算使用Nimrod-G资源代理在一个世界范围内的网格测试平台,跨越五大洲。
2001-11-17 cs.DC
A Taxonomy of Performance Prediction Systems in the Parallel and Distributed Computing Grids
由于网格是地理上分布的异构资源的松散耦合集合,因此网格资源的有效利用需要一个良好的性能预测系统(PPS)的支持。网格资源的性能预测有助于资源管理系统和网格用户做出优化的资源使用决策。已经有许多PPS项目在多个维度上跨越多个网格资源。在本文中,分类描述PPS体系结构进行了讨论。分类法是用来分类和识别的方法,在现有的PPS网格的实施。分类法和调查结果用于确定研究中尚未充分探讨的方法和问题。
2013-07-12 cs.DC
Data Grid Concepts for Data Security in Distributed Computing
数据网格是一种将大量数据和计算资源集成到单个虚拟数据管理系统中的分布式计算体系结构。它能够共享和协调使用来自各种资源的数据,并提供各种服务,以满足高性能分布式和数据密集型计算的需求。本文研究了数据网格中的数据划分和动态复制问题。其中系统的安全性和访问性能是有效的。数据网格有几个重要的需求,包括信息的可生存性、安全性和访问性能。更具体地说,调查的问题是敏感数据对象的最优分配,使用秘密共享方案或擦除编码方案划分和复制。数据分区(DATA PARTITIONING)是指可以将单个数据划分为多个对象。复制被称为共享信息的过程。在多个系统中存储相同的数据。复制技术经常用于提高数据可用性。单点故障不会影响该系统。在那里数据将得到保护。
2013-08-28 cs.DC
Towards an HPC Complementary Computing Facility
这封信考虑了计算设施的设计,这些设施是对领导级高性能计算(HPC)设施的补充。这种设计设想了一个未来,资助机构正在为领导级设施分配更多的资源,这些设施将为HEP实验提供总计算周期的重要部分。虽然领导级设施(LCF)可以提供周期和高级架构,但是该设施不一定提供帮助HEP用户充分利用HPC设施所需的所有服务,以及为不适合HPC设施的工作流提供计算所需的服务。本函概述了旨在提供这些服务和能力的设施的一些必要组成部分。
2022-03-15 cs.DC hep-ex
PhantomOS: A Next Generation Grid Operating System
网格计算在过去的十年中取得了长足的进步,这主要归功于标准化网格中间件的采用。然而,网格计算还没有普及,因为我们认为,一些障碍,已造成采用中间件为中心的方法。这些障碍包括:缺乏对主要类型应用程序(如交互式应用程序)的支持;缺乏灵活、自主和可伸缩的网格体系结构;缺乏即插即用的网格计算,最重要的是,没有直接的方法来设置和管理网格。AtomtomOS是一个旨在解决这些障碍的项目。它的目标是创建一个用户友好的普及网格计算平台,促进快速部署和易于维护的网格,同时提供支持的主要类型的应用程序在网格上的几乎任何拓扑结构。在本文中,我们提出了详细的系统架构及其实施的概述。
2007-07-05 cs.DC
Grid Technologies
本文包含了计算网格的最重要的方面。网格计算允许高性能的分布式系统充当单个计算机。为了理解网格的工作方式,给出了网格结构和技术的概述。
2009-03-04 cs.DC
Improving Grid Computing Performance by Optimally Reducing Checkpointing Effect
网格计算是一个计算机资源的集合,这些资源从各个领域聚集在一起,以提供诸如存储、数据或应用服务等计算资源。这是为了允许客户端访问这一巨大的处理资源,而不需要知道在哪里可以找到这些资源以及使用了什么技术,例如硬件设备和操作系统。可靠性和性能是网格计算环境中面临的主要困难。文献中已经提出了各种系统来处理网格计算环境中资源故障的恢复。这种系统的一个例子是检查点。检查点是一种在资源失败时容忍错误的系统。检查点方法的优点是减少了由于资源故障而造成的工作量损失。然而,检查点会带来巨大的运行时开销。在本文中,我们提出了一个改进的检查点系统,以降低运行时开销。添加副本是为了确保资源的可用性。这将所有检查点文件复制到其他机器上,而不是使用专用的检查点机器。使用GridSim的仿真结果表明,保持固定的资源数量和改变网格数量,在最大完工时间,吞吐量和周转时间上分别实现了高达11%,9%和11%的增益,而改变资源数量和保持固定的网格数量,在最大完工时间,吞吐量和周转时间上分别实现了高达11%,8%和9%的增益,和周转时间分别实现
2020-06-04 cs.DC
Economic-based Distributed Resource Management and Scheduling for Grid Computing
计算网格作为下一代计算的基础设施,能够共享、选择和聚合地理上分布的资源,以解决科学、工程和商业中的大规模问题。由于网格中的资源是异构的,并且在地理上分布,具有不同的可用性以及针对不同用户在不同时间的各种使用和成本策略,并且优先级以及目标随时间而变化。在这样一个大型的分布式环境中,资源管理和应用程序调度是一项复杂的任务。本论文提出了一个分布式计算经济作为一个有效的隐喻资源管理和应用程序调度。提出了一种支持资源交易和基于服务质量的调度的体系结构框架。它使资源的供应和需求的监管,并提供了一个激励资源所有者参与网格和动机的用户之间的最后期限,预算和所需的服务质量水平进行权衡。论文通过开发用户服务质量需求驱动的调度策略和算法,展示了基于经济的系统用于对等分布式计算的能力。它证明了他们的有效性,通过执行调度实验在全球范围内的网格解决参数扫描应用程序。
2002-04-22 cs.DC
An Economic-based Resource Management and Scheduling for Grid Computing Applications
在网格计算环境中,资源管理和调度是实现资源高效利用的关键。在网格系统中,由于资源的异构性,应用程序的调度是一项非常复杂和具有挑战性的任务。在这方面的研究大多集中在提高网格系统的性能。基于可分负载理论,针对不同类型的工作负载和单个源处理器,已经提出了一些分配模型。本文介绍了一种新的资源分配模型,该模型以多个负荷源处理机作为经济模型。通过线性规划方法,得到了以电网用户成本最小为目标的最优负荷分配方案。结果表明,该资源分配模型能够有效地将工作负载分配到合适的资源上。实验结果表明,该模型在成本和时间上都得到了较好的解决方案。
2010-04-20 cs.DC
Future Computing Platforms for Science in a Power Constrained Era
功耗将是高能物理(HEP)使用的分布式高吞吐量计算(DHTC)未来增长的关键制约因素。这使得性能功耗比成为选择经济高效的计算解决方案的关键指标。在本文中,我们对市场上可用的当前和新兴架构进行了广泛的调查,包括x86-64变体,ARMv7 32位,ARMv 8 64位,众核和GPU解决方案,以及较新的片上系统(SoC)解决方案。我们使用一套不断发展的标准化HEP相关基准和我们一直在开发的功率测量技术来比较性能和能效。我们评估的DHTC系统,如全球大型强子对撞机计算网格(WLCG)的背景下使用这种计算解决方案的潜力。
2015-07-28 cs.DC hep-ex
The ShareGrid Portal: an easy way to submit jobs on computational Grids
网格计算是一种分布式计算模式,其目标是以一种动态、透明和协调的方式聚合多个异构的、分布的、属于不同的、独立的组织的资源。自引入以来,网格计算已经成功地应用于解决一些具有挑战性的科学应用。尽管它的许多方面得到了巩固,但仍有一些问题尚未解决。其中之一是透明性:在许多真正的网格系统中,用户仍然需要了解网格计算,或者使他们的应用程序适应这种范式,或者将它们包装在合适的软件框架中。在本文中,我们提出了ShareGrid门户,一个Web门户和门户框架,建立在ShareGrid项目基础设施之上。它的目的是简化网格系统中用户应用程序的执行,并允许开发人员灵活地添加新的门户功能。在这项工作中,我们比较它与其他知名的网格门户网站,我们展示了它的用户界面和它的体系结构。最后,我们讨论了用户体验和未来的扩展。
2018-12-23 cs.DC
Economic Models for Management of Resources in Grid Computing
网格和对等计算的快速发展使其成为有前途的下一代计算平台。它们可以创建虚拟企业(VE),以共享分布在世界各地的资源。然而,这些环境中的资源管理、应用程序开发和使用模型是一项复杂的任务。这是由于不同组织拥有的资源的地理分布。这些资源中的每一个的资源所有者具有不同的使用或访问策略和成本模型,以及变化的负载和可用性。为了解决复杂的资源管理问题,我们提出了一个计算经济的资源分配和调节供应和需求的网格计算环境中的框架。该框架提供了通过交易和中介服务优化资源提供者和消费者目标函数的机制。在现实世界的市场中,存在各种经济模型,用于根据供求关系及其对用户的价值来设定商品价格。它们包括商品市场、标价、招标和拍卖。在本文中,我们将讨论使用这些模型的网格组件之间的互动,在决定资源的价值和必要的基础设施,以实现它们。除了网格计算系统提供的常规服务之外,我们还需要一个基础设施来支持交互协议、分配机制、货币、安全银行和强制服务。此外,我们展示了使用这些经济模型中的一些资源经纪人通过Nimrod/G的最后期限和基于成本的调度两种不同的优化策略上的万维网(WWG)的测试平台。
2001-06-11 cs.DC
A Fuzzy Differential Evolution Algorithm for Job Scheduling on Computational Grids
网格计算是近年来兴起的一个跨地域共享数据、存储和计算的计算领域。本文提出了一种新的模糊方法,利用差分进化(DE)的计算网格上的作业调度。基于模糊的DE生成一个最优的计划,在最短的时间内完成的工作。我们用遗传算法、模拟退火算法、差分进化算法和模糊粒子群算法对所提出的模糊DE算法进行了性能评估。实验结果表明,与其他算法相比,新算法能产生更多的最优解。
2014-07-23 cs.DC
The History of the Grid
随着高速网络的广泛使用,将计算外包给远程提供商并联合来自许多位置的资源变得可行。从20世纪90年代中期开始,这些观察激发了一系列创新的网格技术、应用程序和基础设施的开发。回顾了网格计算的历史、现状和未来展望。
2022-04-08 cs.DC
JClarens: A Java Framework for Developing and Deploying Web Services for Grid Computing
高能物理(High Energy Physics,HEP)和其他科学团体已经采用面向服务的体系结构(Service Oriented Architectures,SOA)作为更大的网格计算工作的一部分。这项工作涉及到将许多遗留应用程序和编程库集成到SOA框架中。网格分析环境(GAE)是一个基于Clarens网格服务框架的面向服务的体系结构,正在开发中,作为欧洲粒子物理实验室(CERN)大型强子对撞机(LHC)紧凑型μ子螺线管(CMS)实验的一部分。Clarens提供了一组授权、访问控制和发现服务,以及对所有已部署服务的XMLRPC和SOAP访问。Clarens Web Services Framework的两个实现(Python和Java)为广泛的程序设计语言提供了集成的可能性。本文描述了名为JClarens的Clarens Web服务框架的Java实现。以及科学界和网格社区感兴趣的几个Web服务,它们都是使用JClarens部署的。
2005-04-11 cs.DC
FOSS-Based Grid Computing
在本文中,我们将主要关注网格和网格计算的核心方面,使用免费和开源软件,重点是效用计算。它是基于一个技术报告,题为“网格计算使用GNU/Linux”的作者。这篇文章写于2006年,应该有历史意义。
2015-07-17 cs.DC cs.PL
Mapping Cloud Computing onto Useful e-Governance
在网格和云计算的上下文中看到的大多数服务大多局限于可用于智力目的的服务。网格或云计算是大规模的分布式系统。大规模分销的本质只有在服务于普通人的情况下才能实现,唯一与几乎每一个居民都有联系的组织是各国政府。随着人口规模的增加,因此需要更大的权限。大规模的在线服务网格可以解决大权限的问题。政府服务可以通过完全定制的面向服务的云来提供。在本文中,我们提出了紧密的相似性之间的通用政府职能和面向服务的网格/云的方法。同时,我们也将讨论建立面向服务的政府组织网格的主要问题。
2010-09-13 cs.DC
A Security Monitoring Framework For Virtualization Based HEP Infrastructures
Goethe-University Frankfurt(法兰克福歌德大学);CERN(欧洲核子研究中心)
高能物理(HEP)分布式计算基础设施需要自动化工具来监控、分析潜在的安全事件并做出反应。这些工具应收集和检查资源消耗、日志和系统调用序列等数据,以检测表明存在恶意代理的异常情况。他们还应该能够在没有管理员干预的情况下对攻击执行自动反应。我们描述了一个新的框架,完成这些要求,在欧洲核子研究中心的ALICE实验的概念实现的证明。我们展示了如何实现一个完全虚拟化的环境,通过隔离服务和作业来提高安全性,而不会对性能产生重大影响。我们还描述了一个收集的数据集机器学习为基础的入侵预防和检测系统的网格计算。该数据集由资源消耗度量(如CPU、RAM和网络流量)、来自操作系统服务的日志文件以及从ALICE Grid测试站点中运行的生产作业收集的系统调用数据和大量恶意软件组成。该恶意软件是从安全研究网站收集的。基于此数据集,我们将继续开发能够检测恶意作业的机器学习算法。
2017-04-16 cs.AI cs.CR cs.DC
The Distributed Computing Paradigms: P2P, Grid, Cluster, Cloud, and Jungle
分布式计算是在多个系统上进行的,以解决大规模问题。发达国家和发展中国家高速宽带网络的发展、计算能力的不断提高以及互联网的迅速发展改变了这种方式。在信息技术中,社会管理信息和信息服务。从历史上看,计算的状态经历了一系列的平台和环境变化。分布式计算是有效利用计算机系统的重要保证。因此,超级计算机站点和数据中心已经从提供高性能浮点计算能力转变为同时服务来自数十亿用户的大量请求。分布式计算系统使用多台计算机通过互联网解决大规模问题。它变得数据密集型和以网络为中心。分布式计算的应用越来越广泛。在分布式计算中,大规模的资源共享是计算的重点,其目标总是追求最佳性能。在本文中,我们回顾了在分布式计算范例领域所做的工作。主要的重点是云计算的发展领域。
2013-11-13 cs.DC
A Novel Self-Recognition Method for Autonomic Grid Networks Case Study: Advisor Labor Law Software Application
近年来,网格计算系统提供了广泛的资源集成使用。网格计算系统提供了以集成方式共享、选择和聚集分布式资源如计算机、存储系统或其他设备的能力。网格计算系统解决了科学、工程和商业领域的许多问题。本文介绍了一种网格网络的自识别算法,并引入该算法对自治网格网络进行独占管理控制。该算法基于二项式堆来分配和识别网格中的任意节点。我们尝试在顾问劳动法软件应用程序中使用此算法作为案例研究,并在此应用程序中显示如何将此方法用于网络上的任何顾问应用程序。通过这个实现模型表明,该方法可以得到更好的答案,任何问题,作为一个最好的劳动法律顾问。
2014-02-10 cs.DC
Alternative Mixed Integer Linear Programming Optimization for Joint Job Scheduling and Data Allocation in Grid Computing
本文针对网格计算中的作业调度与数据分配联合优化问题,提出一种交替固定决策变量并利用MILP求解的混合整数二次约束规划方法,实验证明其显著优于现有启发式方法且具强泛化性与鲁棒性。
2025-02-01 cs.DC
A Generic Deployment Framework for Grid Computing and Distributed Applications
在大型系统上部署分布式应用程序,特别是在网格基础设施上,变得越来越复杂。网格用户花费大量的时间在节点上准备、安装和配置中间件和应用程序二进制文件,并最终启动他们的应用程序。问题在于部署过程由许多异构任务组成,这些任务必须以特定的正确顺序编排。因此,部署过程的自动化目前很难实现。为了解决这个问题,我们在本文中提出了一个通用的部署框架,允许自动执行异构任务组成的整个部署过程。我们的方法是基于一个具体的软件组件的所有必要的部署机制或现有的工具。网格用户只需要用简单的自然语言描述要部署的配置,而不需要编写部署过程的执行程序或脚本。作为一个玩具的例子,这个框架是用来部署基于CORBA组件的应用程序和OpenCCM中间件上的法国Grid5000基础设施的一千个节点。
2007-06-20 cs.DC
New Approaches with Chord in Efficient P2P Grid Resource Discovery
网格计算是一种分布式计算,它允许通过Internet共享计算机资源。它不仅允许我们共享文件,还允许我们共享大部分软件和硬件资源。高效的资源发现机制是网格计算系统的基本要求,它支持应用程序的资源管理和调度。在众多的发现机制中,P2P(Peer-to-Peer)技术发展迅速,而P2P技术的高效查找应用是其成功的关键。Chord是一种P2P结构模型,被广泛用作网格环境下资源发现的路由协议。为了提高Chord协议在网格环境下的查找性能,研究者们提出了许多改进的方法。本文讨论了Chord结构P2P协议的最新研究成果,提出了一种基于最近访问节点(RVN)地址和模糊技术的网格资源定位方法,降低了消息复杂度和时间复杂度。
2014-01-09 cs.DC
A Model for Grid User Management
在大规模网格计算环境中,用户的注册和管理提出了新的挑战,现有的协议没有很好地解决。在单个虚拟组织(VO)中,数千名用户可能需要访问数百个计算站点,而用户在每个站点注册本地帐户的传统模式将带来重大的扩展问题。然而,计算站点必须保持对站点访问的控制,并且站点策略通常要求每个用户具有单独的本地帐户。我们在这里提出了一个模型,允许用户注册一次VO,但仍然提供所有的计算站点的信息,他们需要与所需的信任级别。我们已经开发了工具,使网站自动管理本地帐户和网格身份和本地帐户之间的映射。
2003-06-13 cs.DC
Thermal Analysis of Climate Regions using Remote Sensing and Grid Computing
气候区域分析对于设计师和建筑师来说非常重要,因为密度和建筑空间的增加以及开放空间和绿地的减少会导致热量增加,特别是在城市地区,从而使环境恶化并导致健康问题。本研究分析了土地表面温度(LST)的差异,在该地区的Dobrogea,罗马尼亚,土地利用和土地覆盖类型,利用TM和ETM+数据的1989年和2000年进行比较。由于分析是在大数据集上进行的,我们利用网格计算实现了一个基于Web的客户端服务,这对于那些利用Landsat TM/ETM+波段进行地面热环境和热岛效应研究的人来说是非常有用和方便的,并且具有典型的工作站,没有用于计算密集型卫星图像处理的特殊计算和存储资源,并且没有用于商业图像处理工具的许可证。基于卫星遥感影像,本文还讨论了监督分类算法和计算两个指标,归一化差异植被指数(NDVI),分别陆面植被指数(LSE)在水资源管理中的重要价值。
2011-01-24 cs.DC
Simulating Data Access Profiles of Computational Jobs in Data Grids
由于近年来高速局域网和广域网的迅速发展,在计算网格中运行的应用程序的数据访问模式正在发生变化。不再严格要求数据密集型作业在相应输入数据所在的计算站点处运行。相反,作业可以使用数据放置、分段和远程数据访问的任意组合来访问数据。这些数据访问配置文件表现出部分不重叠的吞吐量瓶颈。可以利用这一事实来最小化作业等待输入数据的时间。在这项工作中,我们提出了一种新的网格计算模拟器,它把重点放在各种数据访问配置文件。基于我们的模拟器的基本假设是合理的,在欧洲核子研究中心的全球大型强子对撞机计算网格(WLCG)进行的经验实验。我们演示了如何校准模拟器的参数,根据真实的系统使用后验推理与似然无马尔可夫链蒙特卡罗。此后,我们验证了模拟器的输出相对于一个真实的生产工作量从WLCG,证明其显着的准确性。
2019-03-12 cs.DC
Grid Computing in the Collider Detector at Fermilab (CDF) scientific experiment
费米实验室对撞机探测器(CDF)科学实验的计算模型自实验开始以来一直在发展。最初,CDF计算由位于世界各地计算机农场的专用资源组成。随着网格计算在高能物理中的广泛应用,CDF计算已经广泛地应用于网格计算。CDF在世界各地使用计算网格。每个计算网格都需要不同的解决方案。使用门户作为协作计算资源的接口已被证明是一种非常有用的技术,允许CDF物理学家透明地从使用专用计算机农场迁移到使用位于网格农场的计算,通常远离费米实验室。CDF的网格计算随着网格标准和实践的变化而不断发展。
2008-10-20 cs.DC hep-ex physics.data-an