Computing the Schulze Method for Large-Scale Preference Data Sets
针对大规模选举下Schulze投票方法直接实现扩展性不足的问题,提出基于Pregel框架的高度优化并行计算算法,同时证明该方法胜者确定问题为NL完全,比ranked pairs方法更适配并行计算。
2025-06-18 cs.DC cs.GT
NOP - A Simple Experimental Processor for Parallel Deployment
使用几千甚至多达一百万个处理器的并行计算系统的设计要求处理单元简单且因此空间小,以使尽可能多的处理单元适合于单个管芯。本文所介绍的设计远未优化,它并不意味着与工业性能设备竞争。它的主要目的是允许一个动态软件系统的原型实现作为概念的证明。
2016-12-20 cs.AR cs.DC
FogGIS: Fog Computing for Geospatial Big Data Analytics
云地理信息系统(GIS)已成为分析、处理和传输地理空间数据的工具。雾计算是一种范例,其中雾设备有助于提高吞吐量并减少客户端边缘的延迟。本文开发了一个基于雾的框架命名为雾地理信息系统从地理空间数据挖掘分析。我们用Intel Edison做了一个原型,一个嵌入式微处理器。我们通过初步分析验证了FogGIS。包括压缩和覆盖分析。结果表明,雾计算在地理空间数据分析方面有很大的潜力。我们使用了几种开源压缩技术来减少向云的传输。
2016-12-10 cs.DC
Big Data Computing and Clouds: Trends and Future Directions
本文讨论了在大数据应用程序的云上执行分析的方法和环境。它围绕着分析和大数据的四个重要领域,即(i)数据管理和支持架构;(ii)模型开发和评分;(iii)可视化和用户交互;以及(iv)商业模式。通过详细的调查,我们确定了技术上可能存在的差距,并就云支持的大数据计算和分析解决方案的未来方向为研究社区提供了建议。
2014-08-22 cs.DC
Making Serverless Computing Extensible: A Case Study of Serverless Data Analytics
本文提出可扩展的无服务器计算设计原则,并在 Proteus 系统中通过决策工作流抽象实现,允许开发者定制控制面行为以优化数据分析性能并支持细粒度资源共享。
2025-07-16 cs.DC
MalStone: Towards A Benchmark for Analytics on Large Data Clouds
开发适合于云计算平台的数据挖掘算法是当前活跃的研究领域,开发适合于数据采掘的云计算平台也是如此。目前,最常见的云计算基准是Terasort(及相关)基准。尽管Terasort Benchmark非常有用,但它本身并不是为数据采掘而设计的。在本文中,我们介绍了一个基准称为MalStone,是专门设计来衡量性能的云计算中间件,支持类型的数据密集型计算时,常见的数据采掘模型。我们还介绍了MalGen,这是一个用于生成云数据的实用程序,可以与MalStone一起使用。
2010-07-07 cs.DC
Approximate Edge Analytics for the IoT Ecosystem
支持IoT的设备继续生成大量数据。将这些不断到达的原始数据转化为及时的见解对于许多现代在线服务至关重要。对于此类设置,对整个数据集进行传统形式的数据分析对于支持实时流分析来说将具有极大的限制性且成本高昂。在这项工作中,我们为物联网环境中的数据分析提供了近似计算的案例。近似计算的目的是高效地执行工作流,其中近似输出就足够了,而不是精确输出。近似计算背后的想法是在一个代表性的样本而不是整个输入数据集上进行计算。因此,近似计算-基于所选择的样本大小-可以在输出精度和计算效率之间进行系统的权衡。这激发了APPROXIOT的设计-物联网近似计算的数据分析系统。为了实现这一想法,我们设计了一个在线分层分层水库采样算法,使用边缘计算资源,以产生具有严格误差界的近似输出。为了展示我们算法的有效性,我们基于Apache Kafka实现了APPROXIOT,并使用一组微基准测试和真实案例研究来评估其有效性。我们的研究结果表明,与简单随机采样相比,APPROXIOT在80%到10%的采样率下实现了1.3X-9.9X的加速。
2018-05-15 cs.DC
Big Data Analytics-Enhanced Cloud Computing: Challenges, Architectural Elements, and Future Directions
云计算的出现使得弹性容量的动态配置成为可能。云数据中心包含数千台物理服务器,托管数量级更多的虚拟机,这些虚拟机可以按需分配给按需付费的用户。然而,并非所有系统都能够通过添加更多虚拟机来扩展。因此,即使对于可扩展的系统,也必须提前规划工作负载,而不是使用纯粹的反应式方法。考虑到生成实时的监控信息的现代云基础设施的规模,以及操作系统和应用程序生成的所有信息,这些数据带来了大数据方法所解决的数量、速度和多样性问题。在本文中,我们研究如何利用大数据分析有助于增强云计算环境的操作。我们讨论了大数据分析在云中的各种应用,通过大数据分析增强云操作的开放问题,以及云异常检测和预防的架构以及未来的研究方向。
2015-10-22 cs.DC
A Multidimensional Elasticity Framework for Adaptive Data Analytics Management in the Computing Continuum
针对计算连续体中资源与数据分析需求动态波动带来的管理挑战,本文提出一种基于多维弹性的框架,利用编排器动态调整资源并调节分析要求,以实现系统平衡高效运行。
2025-01-20 cs.DC
Cloud Big Data Mining and Analytics: Bringing Greenness and Acceleration in the Cloud
自过去十年以来,大数据正在获得压倒性的关注。云计算范式是一种利用计算节点上的大量可用资源进行高效存储的更高效的大数据处理和挖掘模式。云数据采掘引入了利用云资源对云中的海量数据进行数据采掘和分析的概念。但我们能做得更好吗?是的,当然!本章的主要贡献是确定了四种改变游戏规则的技术,用于加速云中数据采掘任务的计算和分析。图形处理单元可用于进一步加速挖掘或分析过程,称为GPU加速分析。此外,近似计算也可以引入大数据分析,通过减少时间和能源来提高过程的效率,从而促进整个计算过程的绿色化。量子计算是近年来发展迅速的一种范式,它还可以在很短的时间内促进高效和快速的大数据分析。我们已经调查了这三种技术,并通过将这三种改变游戏规则的技术与大数据的观点相结合,建立了它们在大数据采掘中的重要性。我们还谈到了另一种未来技术,即,神经处理单元或神经加速器,供研究人员探索各种可能性。这里还简要介绍了大数据和云数据采掘概念。
2021-04-12 cs.DC
ServerMix: Tradeoffs and Challenges of Serverless Data Analytics
无服务器计算今天已经变得非常流行,因为它在很大程度上简化了云编程。开发人员不再需要担心配置或操作服务器,他们只需为代码运行时使用的计算资源付费。这种新的云模式非常适合许多应用程序,研究人员已经开始研究无服务器计算用于数据分析的可行性。不幸的是,今天的无服务器计算存在重要的限制,使得它很难支持各种分析工作负载。本文首先分析了当今无服务器计算模型的三个基本权衡及其与数据分析的关系。它研究了如何通过放松分解,隔离和简单的调度来提高整体计算性能,但代价是模型的基本方面,如弹性,安全性或亚秒级激活。这些权衡的结果是,分析应用程序最终可能会拥抱由无服务器和有服务器组件组成的混合系统,我们在本文中称之为Servermix。我们将回顾现有的相关工作,以表明大多数应用程序实际上可以归类为Servermix。最后,本文将介绍CloudButton研究项目管理这些权衡的主要挑战。
2019-07-26 cs.DC
Analytical Insight of Earth: A Cloud-Platform of Intelligent Computing for Geospatial Big Data
本文介绍AI Earth,一个基于阿里云的遥感智能计算平台,提供公开数据集、计算工具、深度学习模型及大视觉分割模型,支持用户训练和部署模型,以应对海量地球观测数据处理的挑战。
2023-12-27 cs.DC
Distributed Edge Analytics in Edge-Fog-Cloud Continuum
针对云中心物联网应用的高延迟、高负载与隐私问题,本文提出边缘-雾-云连续体下的分布式边缘分析,从无服务器数据流水线、分布式计算、联邦学习三个维度结合自研框架验证了该方案的可行性。
2024-07-11 cs.DC
Big Data Analytics = Machine Learning + Cloud Computing
大数据对不同的人意味着不同的东西。大数据的规模和挑战通常使用三个属性来描述,即数量,速度和多样性(3V),这只反映了数据的某些方面。在本章中,我们回顾了“大数据”一词的历史和相关的分析。我们用大数据的其他属性来增强3V,使其更加全面和相关。我们发现,大数据不仅仅是3V,而是32 V,即9 V,涵盖了大数据背后的根本动机,即基于不同假设或统计模型的商业智能(BI),以便大数据分析(BDA)能够使决策者对一些关键决策或研究结果做出有用的预测。大数据的历史已经证明,执行BDA最具成本效益的方法是在基于云计算(CC)的基础设施上使用机器学习(ML),或者简单地说,ML + CC -> BDA。本章致力于帮助决策者将BDA定义为解决其业务需求的解决方案和机会。
2016-01-13 cs.DC
SoA-Fog: Secure Service-Oriented Edge Computing Architecture for Smart Health Big Data Analytics
智能健康模式采用互联网连接的可穿戴设备进行远程监测,诊断以提供廉价的医疗保健解决方案。雾计算通过处理身体传感器网络附近的数据来减少延迟并提高吞吐量。在本文中,我们提出了一种安全的面向服务的边缘计算架构,并在最近发布的公共数据集上进行了验证。结果和讨论支持智能健康应用程序的建议架构的适用性。我们提出了SoA-Fog,即使用雾设备有效管理健康数据的三层安全框架。分别从客户层、雾层和云层三个方面讨论了安全问题。采用双赢螺旋模型,结合用例和顺序图设计了原型系统。使用2011年至2014年印度马哈拉施特拉邦疟疾病媒传播疾病阳性地图的拟议框架进行重叠分析。移动客户端作为测试用例。我们提出的安全雾框架和最先进的基于云的框架之间进行了比较分析。
2017-12-25 cs.DC
Distributed Machine Learning for Predictive Analytics in Mobile Edge Computing Based IoT Environments
基于物联网(IoT)的移动边缘计算(MEC)中的预测分析在许多现实应用中正成为一个高需求。基于MEC的IoT环境中的预测问题通常对应于任务的集合,其中每个任务基于本地积累的数据在特定MEC环境中求解,这可以被视为多任务学习(MTL)问题。然而,跨不同MEC环境积累的数据的异质性(非IID性)挑战了在这样的设置中应用一般MTL技术。联邦MTL(FMTL)最近出现,试图解决这个问题。除了FMTL之外,还有另一种强大但尚未开发的分布式机器学习技术,称为网络套索(NL),它与FMTL有着内在的联系,但有自己独特的功能。在本文中,我们对这两种技术在代表现实世界应用场景的三个不同物联网数据集上进行了深入的评估和比较。实验结果表明,NL在基于MEC的物联网环境中,在准确性和计算效率方面都优于FMTL。
2020-07-29 cs.DC
Approximate Stream Analytics in Apache Flink and Apache Spark Streaming
近似计算的目的是高效地执行工作流,其中近似输出就足够了,而不是精确输出。近似计算背后的想法是在一个代表性的样本而不是整个输入数据集上进行计算。因此,近似计算-基于所选择的样本大小-可以在输出精度和计算效率之间进行系统的权衡。不幸的是,用于近似计算的现有技术系统主要针对批量分析,其中输入数据在采样过程中保持不变。因此,它们不太适合流分析。这激发了StreamApprox的设计-一个用于近似计算的流分析系统。为了实现这一思想,我们设计了一个在线分层水库采样算法,以产生具有严格误差界的近似输出。重要的是,我们提出的算法是通用的,可以应用于两种主要类型的流处理系统:(1)批处理流处理,如Apache Spark Streaming,以及(2)流水线流处理,如Apache Flink。我们使用一组微基准测试和真实案例研究对StreamApprox进行了评估。我们的研究结果表明,基于Spark和Flink的StreamApprox系统与各自的原生Spark Streaming和Flink执行相比,实现了$1.15\times$ - $3\times$的加速,其中$80\%$到$10\%$的采样比例不同。此外,除了原生执行基线之外,我们还实现了一个改进的基线-一个基于Spark的近似计算系统,利用Apache Spark中现有的采样模块。与改进的基线相比,我们的结果表明,StreamApprox…
2017-09-09 cs.DC
Literature Study on Operational Data Analytics Frameworks in Large-scale Computing Infrastructures
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Universiteit van Amsterdam(阿姆斯特丹大学)
本文研究了大规模计算基础设施中操作数据分析框架的核心方法与贡献,提出更全面的框架以提升效率并促进相关研究。
2026-03-19 cs.DC
Big Data Analytics on Traditional HPC Infrastructure Using Two-Level Storage
数据密集型计算已经成为传统高性能计算(HPC)集群的主要工作负载之一。目前,在HPC集群上部署数据密集型计算软件框架仍然面临性能和可扩展性问题。在本文中,我们开发了一个新的两级存储系统,集成Tachyon,一个内存中的文件系统和OrangeFS,一个并行文件系统。我们模拟了四种存储结构的I/O吞吐量:HDFS,OrangeFS,Tachyon和两级存储。我们进行了计算实验来描述两级存储的I/O吞吐量行为,并使用TeraSort基准测试将其性能与HDFS和OrangeFS进行了比较。理论模型和实验测试都表明,两级存储系统可以提高聚合I/O吞吐量。这项工作为将来设计和构建HPC系统奠定了坚实的基础,这些HPC系统可以在保留现有计算资源的情况下为I/O密集型工作负载提供更好的支持。
2015-10-10 cs.DC
Towards Stochastically Optimizing Data Computing Flows
随着内存密集型应用程序产生的非结构化数据量的快速增长,大规模数据分析最近引起了越来越多的兴趣。处理、管理和分析这些海量数据给云和数据中心计算领域带来了一些挑战。特别地,用于分布式数据分析的传统框架基于不同数据处理节点的同质性和非随机分布的假设。本文讨论了扩展大数据计算的基本限制因素。结果表明,随着串行和并行计算服务器的数量增加,尾部(平均值和方差)的作业执行时间增加。我们将首先提出一个模型来预测高度分布式处理任务的响应时间,然后提出一个新的实用计算算法来优化响应时间。
2016-08-25 cs.DC
On Designing a Generic Framework for Cloud-based Big Data Analytics
大数据分析最近引起了广泛的研究关注,因为它能够从大量数据中利用有用的信息。云计算被认为是实施大数据分析的最佳基础设施解决方案之一。这篇研究论文提出了一个基于云的大数据分析的五层模型,该模型使用了dew计算和边缘计算概念。此外,本文还提出了一种基于应用程序识别的数据和计算模型选择技术来创建自定义大数据堆栈的方法
2017-11-04 cs.CY cs.DC
Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析,以实现低延迟流处理?回答这个问题:我们描述的设计,实施和评估的PRIVAPPROX,数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性:(i)隐私:为用户提供零知识隐私保证,比最先进的差分隐私更严格的隐私约束;(ii)效用:数据分析师系统地探索输出准确性之间的权衡的接口(具有误差估计)和查询执行预算;(iii)延迟:基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起:即采样(用于近似计算的背景下)和随机响应(用于隐私保护分析的背景下)。由此产生的婚姻是互补的-它实现了更强的隐私保证,并提高了性能,这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
Towards Confidential Computing: A Secure Cloud Architecture for Big Data Analytics and AI
Leibniz Supercomputing Centre(莱布尼茨超级计算中心)
本文针对生物医学等领域在云环境中面临的数据安全风险,提出一种安全云架构,实现工作流打包与调度,并保障数据、逻辑和计算在传输、使用及静态存储中的安全。
2023-05-28 cs.AI cs.DC
FpgaHub: Fpga-centric Hyper-heterogeneous Computing Platform for Big Data Analytics
FpgaHub提出以FPGA为中心的超异构计算平台,利用可重构计算和丰富IO接口作为数据与控制枢纽,协同CPU、GPU、DPU等处理器,以突破专用硬件IO限制并提升大数据分析性能。
2025-03-12 cs.AR cs.DC
Developing an edge computing platform for real-time descriptive analytics
移动物联网包括由传感器生成的流数据,拉和推这些数据流的网络通信,以及运行处理和分析,可以有效地利用可操作的信息进行交通规划,管理和业务优势。边缘计算作为一种新的范式出现,它将通信,计算,控制和存储资源从云端分散到网络边缘。本文提出了一种边缘计算平台,其中移动边缘节点是部署在公交车上的物理设备,其中描述性分析用于从实时的【形】公交数据流中发现有意义的模式。一个应用实验是用来评估我们提出的平台的优点和缺点,以支持描述性分析在移动边缘节点,并生成可操作的信息,运输管理人员。
2018-12-17 cs.CY cs.DC cs.NI
Edge-Based Video Analytics: A Survey
Sun Yat-sen University(中山大学);Macquarie University(麦考瑞大学)
随着网络边缘数据的不断增加,边缘计算的发展势头越来越强劲。特别是,由于高带宽消耗和高延迟,大量的视频数据及其实时处理要求已经越来越阻碍传统的云计算方法。边缘计算本质上旨在通过利用边缘服务器处理大多数视频数据来克服这一障碍,例如小规模的本地服务器集群,移动基站的服务器级计算资源,甚至是智能手机和平板电脑等移动设备;因此,术语基于边缘的视频分析。然而,这种分析的实际实现需要的不仅仅是边缘服务器的简单、集体使用。在本文中,我们调查了基于边缘的视频分析在应用程序,架构,技术,资源管理,安全性和隐私方面的最先进的作品。我们提供了一个全面和详细的审查,什么工作,什么不工作,为什么。这些发现为下一代基于边缘的视频分析提供了见解和建议。我们还确定了开放的问题和研究方向。
2023-03-25 cs.CV cs.DC
The AutoSPADA Platform: User-Friendly Edge Computing for Distributed Learning and Data Analytics in Connected Vehicles
本文提出并实现 AutoSPADA 边缘计算平台,使开发者可用通用 Python 脚本在网联汽车内直接进行分布式数据分析,从而缩短开发周期并兼顾可扩展、可靠、安全与隐私。
2023-11-29 cs.DC cs.NI
Collection and harmonization of system logs and prototypal Analytics services with the Elastic (ELK) suite at the INFN-CNAF computing centre
University of Bologna(博洛尼亚大学);INFN(意大利国家核物理研究所)
日内瓦大型强子对撞机(LHC)高能物理实验的分布式网格基础设施包括一组分布在世界各地的计算中心,作为全球LHC计算网格(WLCG)的一部分。在意大利,一级功能由INFN-CNAF数据中心提供,该中心还为20多个非LHC实验提供计算和存储资源。出于这个原因,每天从各种来源收集大量日志,这些日志高度异构,难以协调。在这方面的贡献,一个系统的工作实现,收集,解析和显示来自CNAF数据源的日志信息和调查的机器学习为基础的预测性维护系统,提出。
2021-05-13 cs.DC cs.LG physics.comp-ph
Accelerator Virtualization in Fog Computing: Moving From the Cloud to the Edge
云上的硬件加速器可用于增强分析。下一代云的目标是使用加速器将增强的分析功能更接近网络边缘的用户设备,通过最小化端到端延迟和响应时间来提高服务质量。在包括云、边缘和用户设备的多层层次结构中利用云边缘连续体处的资源的集体计算模型被称为雾计算。本文确定了使加速器在边缘可访问的挑战和机遇。雾架构的整体视图是在这一领域进行有意义的研究的关键。
2018-10-14 cs.DC cs.NI
The GPU vs Phi Debate: Risk Analytics Using Many-Core Computing
再保险投资组合的风险覆盖全球发生的自然灾害,如地震和飓风,量化采用模拟。这些模拟是计算密集型的,需要处理大量的数据。使用众核硬件加速器(如英特尔至强融核和NVIDIA图形处理单元(GPU))是实现高性能风险分析的理想选择。在本文中,我们着手研究如何加速器可以在风险分析中使用,重点是开发并行算法的聚合风险分析,模拟计算的可能最大损失的投资组合考虑主要和次要的不确定性。关键的结果是,这两种硬件加速器在不同的环境中都很有用;在不考虑数据传输时间的情况下,Phi在独立使用时的执行时间最低,而GPU与混合平台中的主机一起产生了最佳性能。
2015-01-26 cs.CE cs.DC
Combining edge and cloud computing for mobility analytics
使用从移动物联网(IoMT)生成的数据进行移动性分析面临着许多挑战,从摄取来自大量雾节点和IoMT设备的数据流,到避免无用的大量数据流溢出云,这些数据流可能会引发瓶颈[1]。管理数据流正在成为IoMT的重要组成部分,因为它将决定未来应该在哪个平台上运行分析任务。数据流通常是具有高数据输入速率的乱序元组序列,并且移动性分析需要从边缘到云的双向实时数据流,反之亦然。在将数据流拉到云之前,除了识别到达时间无序的元组之外,还需要边缘数据流处理来检测丢失、损坏和重复的元组。数据过滤、数据清理和低级数据上下文化等分析任务可以在网络边缘执行。相比之下,更复杂的分析任务(如图形处理)可以部署在云中,并且ad-hoc查询和流式图形分析的结果可以根据用户应用程序的需要推送到边缘。图表是移动分析中使用的有效表示,因为它们统一了有关移动事物之间的连接,邻近和交互的知识。这张海报描述了我们为支持交通系统而开发的实验原型的初步结果,其中边缘和云计算相结合,处理从雾节点转发到云中的交通数据流。本研究的动机是了解如何通过结合云计算和雾计算架构对交通馈送执行有意义的移动性分析,以改善车队管理、公共交通和远程资产监控
2017-06-20 cs.CY cs.DC cs.NI
Lambada: Interactive Data Analytics on Cold Data using Serverless Cloud Infrastructure
无服务器计算的最终弹性和操作简单性的承诺最近导致了这一领域的研究爆炸。在数据分析的背景下,这一概念听起来很有吸引力,但由于目前产品的局限性,这种方法在技术和经济上是否可行还没有达成共识。在本文中,我们将冷数据的交互式数据分析确定为无服务器计算的一个用例。我们设计并实现了Lambada,一个遵循纯无服务器架构的系统,以说明何时以及如何将无服务器计算用于数据分析。我们提出了几个系统组件,克服了以前已知的固有的限制,在无服务器的范例,以及额外的,我们在这项工作中确定。我们可以证明,由于精心设计,与商业查询即服务系统相比,无服务器查询处理系统可以同时快一个数量级,便宜两个数量级,这是唯一具有类似操作简单性的替代方案。
2019-12-02 cs.DB cs.DC
Optimising cost vs accuracy of decentralised analytics in fog computing environments
Institute for Informatics
互联网边缘的设备和数据呈指数级增长,这加剧了对完全基于远程云平台的方法的可扩展性和隐私问题的担忧。数据重力是雾计算的一个基本概念,它指向数据分析的计算分散化,作为解决这些问题的可行替代方案。将人工智能任务分散到几个合作设备上意味着在完全集中化(即,所有数据在单个设备上)和完全分散(即,源位置的数据)。我们提出了一个分析框架,能够在这个连续体中找到最佳操作点,将学习任务的准确性与相应的网络和移动数据的计算成本联系起来,并在CP上运行分布式训练。我们通过模拟表明,该模型准确地预测了最佳的权衡,往往是完全集中和完全分散之间的中间点,也显示了显着的成本节约w.r.t.两个都是。最后,分析模型承认封闭形式或数值解,使其不仅是一个性能评估工具,但也是一个设计工具,以配置一个给定的分布式学习任务最佳部署之前。
2021-08-02 cs.DC cs.LG cs.NI
Strategies for Democratization of Supercomputing: Availability, Accessibility and Usability of High Performance Computing for Education and Practice of Big Data Analytics
除了量子物理学和生物学的相对成熟的超级计算领域之外,在诸如文本分析、商业领域分析、预测和自然语言处理(NLP)的领域中,对通常被称为超级计算的高性能计算(HPC)的兴趣和需求也在增加。HPC已被广泛用于计算机科学(CS)和其他传统的计算密集型学科中,但在很大程度上仍然与大量的社会、行为、商业和经济学科隔离。然而,随着无处不在的大数据,迫切需要使HPC在技术上和经济上可访问,易于使用和操作民主化。因此,本研究的重点是作出两个关键的贡献,第一个是阐明战略的基础上的可用性,可访问性和可用性的去神秘化和民主化的HPC,基于分析审查的Caliburn,一个显着的超级计算机在其成立之初。第二个贡献是一组HPC采用的原则,基于HPC使用的经验叙述,从第一次用户的角度进行文本分析和社交媒体数据的NLP。总结了HPC使用过程和早期分析的输出。这项研究综合了HPC民主化战略的专家意见,并从多学科的角度记录了快速采用超级计算进行文本分析和NLP的挑战和机遇。演绎逻辑用于确定策略,这些策略可以导致研究人员,教师,专业人员和学生在广泛的学科中有效地参与,采用,生产和持续使用研究,教学,应用和创新。
2021-04-19 cs.CY cs.DC cs.HC
A Review on Edge Analytics: Issues, Challenges, Opportunities, Promises, Future Directions, and Applications
National Institute of Technology Silchar(锡尔查尔国家理工学院);Ericsson(爱立信)
边缘技术旨在将云资源(特别是计算、存储和网络)带到边缘设备附近,即,生产和消费数据的智能设备。将计算和应用嵌入到边缘设备中,导致边缘技术中出现了两个新概念,即边缘计算和边缘分析。边缘分析使用一些技术或算法来分析边缘设备生成的数据。随着边缘分析的出现,边缘设备已经成为一个完整的集合。目前,边缘分析无法为分析技术的执行提供全面支持。边缘设备无法执行先进和复杂的分析算法,受到各种限制,如有限的电源,小内存大小,有限的资源等,本文旨在提供关于边缘分析的详细讨论。明确解释边缘技术的三个概念,即边缘设备,边缘计算和边缘分析,以及它们的问题。此外,本文还讨论了边缘分析的实施,以解决零售、农业、工业和医疗保健等各个领域的许多问题。此外,本文还对最新边缘分析的研究论文进行了严格的回顾,以探讨存在的问题,新出现的挑战,研究机会及其方向和应用。
2021-07-01 cs.AI cs.DB cs.DC
Blockchain as a Service: A Decentralized and Secure Computing Paradigm
Purdue University(普渡大学);NASA Glenn Research Center(NASA格伦研究中心)
由于机器学习的进步,数据驱动的分析工具已经成为各种应用的有价值的解决方案。然而,由于需要获取大量数据并具有足够的计算能力来处理数据,因此仍然存在开发有效的数据驱动方法的基本挑战。在许多情况下,这些挑战是通过依赖占主导地位的云计算供应商来解决的,但是,尽管商业云供应商提供了有价值的数据分析平台,但它们可能缺乏透明度,安全性和隐私保护。此外,对云服务器的依赖阻碍了在计算能力分散的环境中应用大数据分析。为了解决这些挑战,提出了一种分散的、安全的和隐私保护的计算范例,以在可能具有有限的计算能力和计算智能的分散的和不可信的计算节点之间实现分布式的协作计算过程。这种范式是通过探索区块链、去中心化学习、同态加密和软件定义网络(SDN)技术来设计的。所提出的范例的性能进行评估,通过不同的情况下,在模拟部分。
2019-09-04 cs.CR cs.CY cs.DC