Cross-Domain Acceleration of Open Modification Search: From Commodity Platforms to Emerging Memory and Storage Devices
University of California San Diego(加利福尼亚大学圣迭戈分校);Georgia Institute of Technology(佐治亚理工学院);Stanford University(斯坦福大学)
研究质谱分析中开放修改搜索(OMS)的跨平台加速,涵盖商品及新兴内存存储架构。基于二进制超维计算(HDC)公式,实现稳健执行,确定相关架构为关键突破,大幅提升加速和能源效率。
2026-07-21 cs.AR cs.ET cs.PF
HEMERA: A Heterogeneous Memory-Centric Accelerator with Recursive Dataflow for Edge-Constrained State-Space-Duality Models Inference
Peking University(北京大学);Unigroup Guoxin Microelectronics Co., Ltd.(紫光国芯微电子有限公司);Yangtze Memory Technologies Co., Ltd.(长江存储科技有限责任公司);Beijing Advanced Innovation Center for Integrated Circuits(北京集成电路创新中心)
针对结构化状态空间模型推理中SSD存在系统级开销的问题,本文提出异构内存中心加速器HEMERA,将SSD计算重新表述为流递归数据流以避免二次中间存储,在不同规模Mamba - 2模型上加速效果显著,展示了边缘约束下高效部署的潜力。
2026-07-27 cs.AR
Memory-Centric Computing: Security Benefits and Challenges of Processing-in-DRAM
ETH Zürich(苏黎世联邦理工学院)
本文探讨以内存为中心的计算(特别是处理-in-DRAM)的安全优势与挑战,包括新型DRAM真随机数生成器和物理不可克隆函数,以及DRAM读取干扰和内存时序通道等安全问题。
2026-06-23 cs.AR cs.CR cs.DC
The Case for Replication-Aware Memory-Error Protection in Disaggregated Memory
本文针对分离式内存中错误保护存储成本过高的问题,提出复制感知内存错误保护方法,通过削弱单副本保护并利用多副本集体保护,在保持强保护目标的同时降低存储开销。
2024-06-07 cs.AR
An RDMA-First Object Storage System with SmartNIC Offload
ETH Zurich(苏黎世联邦理工学院);Hewlett Packard Labs(惠普实验室);Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对AI训练I/O压力,提出RDMA优先的对象存储系统ROS2,将DAOS客户端卸载至BlueField-3 SmartNIC,实验证明该设计在保留RDMA高效性的同时支持DPU驻留功能,为现代LLM训练环境提供了可扩展的数据交付基础。
2025-09-17 cs.AR
Designing, Modeling, and Optimizing Data-Intensive Computing Systems
在存储器单元和计算单元之间移动数据的成本是计算系统中现代工作负载的执行时间和能耗的主要贡献者。与此同时,我们正在目睹跨多个应用程序域生成的大量数据。这些趋势表明,需要向以数据为中心的方法进行范式转变,在这种方法中,计算靠近数据所在的位置进行。此外,以数据为中心的方法可以实现数据驱动的视图,我们可以利用大量可用数据来改进架构决策。作为迈向现代体系结构的一步,本文对以数据为中心的方法的各个方面做出了贡献,并提出了几种数据驱动机制。首先,我们设计了NERO,这是一个以数据为中心的加速器,用于现实世界的天气预测应用程序。其次,我们探讨了不同的数字格式的适用性,包括固定点,浮点,和浮点数,为不同的模板内核。第三,我们提出了NAPEL,一个基于ML的应用程序性能和能源预测框架,以数据为中心的架构。第四,我们介绍了LEAPER,它首次使用少样本学习在不同的硬件平台和应用程序之间传输基于FPGA的计算模型。第五,我们提出了Siphon,第一个基于强化学习的混合存储系统中的数据放置机制。总体而言,本论文提供了两个关键结论:(1)FPGA+HBM结构上的硬件加速是克服当前计算系统数据移动瓶颈的一个有前途的解决方案;(2)数据应该通过利用固有的数据特性来驱动系统和设计决策,使我们的计算系统更高效。
2022-08-18 cs.AR
SCRec: A Scalable Computational Storage System with Statistical Sharding and Tensor-train Decomposition for Recommendation Models
Samsung Electronics Co., Ltd.(三星电子有限公司)
提出可扩展计算存储推荐系统SCRec,结合基于MIP的软件框架与硬件加速器,在单服务器器上实现TB级DLRM的高效推理,相比CPU和多GPU系统分别实现55.77倍加速和13.35倍能效提升。
2025-04-01 cs.AR cs.LG
From Block to Byte: Transforming PCIe SSDs with CXL Memory Protocol and Instruction Annotation
本文提出利用CXL协议与注解机制将PCIe块存储改造为字节寻址内存,原型验证显示性能提升10.9倍,延迟降低5.4倍,接近DRAM性能。
2025-06-18 cs.AR
Augmented Memory Computing: Dynamically Augmented SRAM Storage for Data Intensive Applications
在本文中,我们提出了一种新的以存储器为中心的方案,基于CMOS SRAM的数据密集型应用的加速。我们的建议旨在动态增加片上存储器存储容量的SRAM阵列的需求。所提出的方案称为增强存储器计算允许SRAM单元在两种不同的模式下操作:1)正常模式和2)增强模式。在正常操作模式下,SRAM单元的功能类似于标准的6晶体管(6T)SRAM单元,以静态格式存储一位数据。在增强模式下,每个SRAM单元可以存储> 1位的数据(以动态方式)。具体来说,我们提出了两个新的SRAM单元-8晶体管(8T)双位存储增强单元和7晶体管(7T)三进制位存储增强单元。所提出的8T双位SRAM单元在增强模式下操作时,可以存储静态数据位,同时还可以以动态形式存储另一位。因此,当在增强模式下操作时,8T SRAM单元可以存储两个数据位-一个类似SRAM的数据和一个类似DRAM的数据,从而增加或扩充存储器存储容量。另一方面,所提出的7T三进制位存储扩充单元可以在正常模式下存储单个SRAM数据,或者可以被配置为在扩充模式下操作,其中它可以以动态方式存储三进制数据(3个电平(0,0)、(0,1)、(1,0))。因此,基于操作模式,所提出的扩充存储器位单元可以存储一个静态位的数据或> 1位的动态格式的数据。我们通过在Globalfoundries 22 nm FDX节点上进行的大量模拟,展示了我们提出的位单元的可行性。值得一提的…
2021-07-25 cs.AR
NVLLM: A 3D NAND-Centric Architecture Enabling Edge on-Device LLM Inference
School of Integrated Circuits, Southeast University(东南大学集成电路学院)
NVLLM通过将前馈网络计算移至Flash并利用轻量CMOS逻辑执行注意力,实现边缘设备上的高效LLM推理,其在参数规模达30B的模型上实现了显著的加速。
2026-08-05 cs.AR
Field-Programmable Crossbar Array (FPCA) for Reconfigurable Computing
几十年来,根据摩尔定律,CMOS晶体管的缩放直接推动了电子技术的进步。然而,CMOS缩放和经典的计算机体系结构都正在接近基本和实用的极限,而基于新兴设备(例如阻性随机存取存储器(RRAM)设备)的新计算体系结构预计将维持计算能力的指数级增长。在这里,我们提出了一种新的内存为中心的,可重新配置的,通用的计算平台,能够处理爆炸性的数据量在一个快速和节能的方式。所提出的计算架构基于统一的、物理的、电阻性的、以存储器为中心的结构,该结构可以被最佳地重新配置并用于以大规模并行方法执行不同的计算和数据存储任务。通过动态地分配用于存储、算术和包括类脑计算任务的模拟计算的基本计算结构,可以定制系统以基于数据流实现最大能量效率。
2017-07-20 cs.AR cs.ET cs.NE
An Energy-Efficient Near-Data Processing Accelerator for DNNs that Optimizes Data Accesses
本文提出近数据处理加速器 QeiHaN,利用 3D 堆叠内存权重存储和对数量化激活的隐式内存内位移,减少 DNN 推理的内存访问,实现 4.3 倍加速和 3.5 倍节能。
2023-10-27 cs.AR
FpgaHub: Fpga-centric Hyper-heterogeneous Computing Platform for Big Data Analytics
FpgaHub提出以FPGA为中心的超异构计算平台,利用可重构计算和丰富IO接口作为数据与控制枢纽,协同CPU、GPU、DPU等处理器,以突破专用硬件IO限制并提升大数据分析性能。
2025-03-12 cs.AR cs.DC
ARENA: Asynchronous Reconfigurable Accelerator Ring to Enable Data-Centric Parallel Computing
由于硬件专业化的趋势和数据驱动应用的出现,下一代HPC和数据中心可能是可重构的和以数据为中心的。在本文中,我们提出了ARENA -一个异步可重构的加速器环架构作为一个潜在的场景,未来的HPC和数据中心将是什么样子。尽管使用粗粒度可重构阵列(CGRAs)作为基板平台,我们的主要贡献不仅是CGRA集群设计本身,而且还集成了一个新的架构和编程模型,使异步任务跨集群的可重构节点,从而使专门的计算数据,而不是相反。我们假设分布式数据存储,而不断言任何关于数据分布的先验知识。当任务发现它所需的大部分数据在当前节点可用时,硬件专门化发生在运行时。换句话说,我们动态生成数据驻留的专用CGRA加速器。通过在由快速环形网络连接的CGRA集群之间循环任务令牌来实现将计算带到数据的异步任务,该任务令牌描述了要为任务执行的数据流图。对不同领域的一组HPC和数据驱动应用程序的评估表明,ARENA可以提供更好的并行可扩展性,减少数据移动(53.9%)。与当代以计算为中心的并行模型相比,ARENA可以带来平均4.37倍的加速比。在45 nm工艺条件下,所合成的CGRA及其任务调度器仅占用2.93mm^2的芯片面积,工作频率为800 MHz,平均功耗为759.8mW。ARENA还支持多应用程序的并发执行,为未来的高性能并行计算和数据分析系统提供理想的架构支持。
2021-04-19 cs.AR cs.DC
MARS: Processing-In-Memory Acceleration of Raw Signal Genome Analysis Inside the Storage Subsystem
本文提出存储中心化系统MARS,通过硬件/软件协同设计在存储内部加速原始信号基因组分析,利用过滤、量化及近存/存内处理减少数据移动,相比现有方案实现最高93倍加速和427倍降耗。
2025-07-03 cs.AR q-bio.GN
PAM: Processing Across Memory Hierarchy for Efficient KV-centric LLM Serving System
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);State Key Lab of Processors(处理器重点实验室)
PAM通过跨内存层次处理,优化键值中心LLM服务系统的带宽与容量,提升效率和可扩展性。
2026-02-12 cs.AR cs.DC
HDDB: Efficient In-Storage SQL Database Search Using Hyperdimensional Computing on Ferroelectric NAND Flash
UCSD(加州大学圣地亚哥分校);EPFL(洛桑联邦理工学院);IBM(国际商业机器公司)
HDDB利用铁电NAND闪存和超维计算实现高效存储内SQL数据库搜索,通过大规模并行性和最小数据移动,降低延迟和能耗。
2025-11-23 cs.AR cs.DB
Intelligent Architectures for Intelligent Computing Systems
计算是由数据来检验的。大量的应用程序数据压倒了我们今天设计的现代机器的存储能力、通信能力和计算能力。我们认为,一个智能架构的设计应该很好地处理数据。我们表明,处理好数据需要基于三个关键原则设计架构:1)以数据为中心,2)数据驱动,3)数据感知。我们给出了几个例子,如何利用这些原则来设计一个更有效和高性能的计算系统。我们将讨论如何采用这种从根本上更智能的架构,我们认为这是效率、性能和可持续性的关键。我们的结论与未来的计算架构和系统设计的一些指导原则。这篇随附的短文提供了2021年日期的相关邀请演讲的摘要,并指出读者可能有益于研究的进一步工作。
2020-12-22 cs.AR
GRAINS: Storage-Aware Algorithm-Architecture Co-Design Enabling High-Performance and Low-Cost Graph-Based Genome Analysis
ETH Zürich(苏黎世联邦理工学院);Johns Hopkins University(约翰斯·霍普金斯大学);University of Cantabria(坎塔布里亚大学);POSTECH(浦项科技大学)
针对大规模基因组图分析中存储系统数据移动开销大的问题,提出GRAINS系统,通过存储感知的算法-架构协同设计,实现批处理执行流、闪存内处理和轻量级调度,显著提升性能并降低能耗。
2026-06-26 cs.AR cs.DC q-bio.GN
A Modern Primer on Processing in Memory
本文系统梳理了内存中处理(PIM)的研究动机、利用内存处理与近内存处理两类设计方法及其跨层挑战,指出从以处理器为中心向以内存为中心转变是 PIM 实际应用的最大障碍。
2025-02-06 cs.AR cs.DC