Multi-Objective Hardware-Mapping Co-Optimisation for Multi-DNN Workloads on Chiplet-based Accelerators
本文提出MOHaM框架,针对基于chiplet的加速器,通过定制遗传算子的多目标进化算法协同优化多DNN工作负载的硬件设计与映射,在延迟和能耗上实现帕累托最优,最高分别降低96%和96.12%。
2024-08-23 cs.AR
Compass: Co-Exploration of Mapping and Hardware for Heterogeneous Multi-Chiplet Accelerators Targeting LLM Inference Service Workloads
University of Science and Technology of China(中国科学技术大学)
针对LLM推理服务的动态请求类型和可变序列长度,提出Compass框架,通过基于计算执行图的映射编码方案和协同优化引擎,在异构多芯粒加速器上实现延迟降低63.92%、能耗降低40.32%。
2026-06-16 cs.AR
Hardware Trojan Threats to Multi-Chiplet Photonic Neural Network Accelerators
Colorado State University(科罗拉多州立大学)
本文研究多芯粒光子神经网络加速器面临的硬件木马威胁,从机密性、完整性和可用性三个维度分析其安全风险。
2026-09-09 cs.AI cs.AR cs.LG
Mozart: A Chiplet Ecosystem-Accelerator Codesign Framework for Composable Bespoke Application Specific Integrated Circuits
University of Michigan(密歇根大学)
Mozart是一个芯粒生态系统-加速器协同设计框架,通过算子级解聚和8个精选芯粒构建低成本定制ASIC,在能耗、EDP及成本等多指标上较同构加速器降低25%-79%,并适配数据中心、边缘等场景。
2025-10-10 cs.AR
Occamy: A 432-Core 28.1 DP-GFLOP/s/W 83% FPU Utilization Dual-Chiplet, Dual-HBM2E RISC-V-based Accelerator for Stencil and Sparse Linear Algebra Computations with 8-to-64-bit Floating-Point Support in 12nm FinFET
本研究提出基于RISC-V的双核粒2.5D加速器Occamy,通过定制核心集群、低延迟互连与32 GiB HBM2E存储,在模板及稀疏线性代数计算中实现了领先的硬件利用率。
2024-06-21 cs.AR
Beacon: LLM Multi-Agent Driven Hardware Design Space Exploration for Heterogeneous Multi-Chiplet Deep Learning Accelerators
University of Science and Technology of China(中国科学技术大学);Suzhou Institute for Advanced Research, University of Science and Technology of China(中国科学技术大学苏州高等研究院)
Beacon是一种报告驱动的LLM多智能体框架,用于异构多小芯片深度学习加速器的HW-DSE,可在有限迭代预算下将延迟-能耗-金钱成本的综合目标降低25.1%-93.5%。
2026-09-01 cs.AR
Machine Learning Accelerators in 2.5D Chiplet Platforms with Silicon Photonics
Colorado State University(科罗拉多州立大学)
特定领域的机器学习(ML)加速器,如谷歌的TPU和苹果的神经引擎,现在主导着CPU和GPU的节能ML处理。然而,由于单片处理芯片的有限计算密度和对缓慢金属互连的依赖,电子加速器的发展正面临根本性的限制。在本文中,我们提出了如何将光学计算和通信集成到2.5D小芯片平台中的愿景,以推动一类全新的可持续且可扩展的机器学习硬件加速器。我们描述了光学器件、电路和架构的跨层设计和制造以及硬件/软件协同设计如何帮助设计高效的基于光子学的2.5D小芯片平台,以加速新兴的机器学习工作负载。
2023-01-28 cs.AI cs.AR cs.LG
CiFHER: A Chiplet-Based FHE Accelerator with a Resizable Structure
本文提出基于芯粒的可重构FHE加速器CiFHER,通过灵活核心架构和通用数据映射方法,以多芯片模块设计实现与单片ASIC相当的性能,同时显著降低功耗和制造成本。
2024-04-01 cs.AR cs.CR
HYDRA: A Heterogeneous Chiplet DSE Framework for Serving Dynamic Hybrid LLM Workloads
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);University of Ulsan(蔚山大学)
本文提出HYDRA框架,针对异构小芯片系统上混合LLM服务的设计空间开展联合探索,实现了吞吐量与首token生成时间的显著提升,凸显架构与运行时策略协同设计的重要性。
2026-08-21 cs.AI cs.AR cs.LG
Inter-Layer Scheduling Space Exploration for Multi-model Inference on Heterogeneous Chiplets
University of California, Irvine(加州大学欧文分校)
针对多模型工作负载的高计算需求,提出基于异构芯粒MCM的加速器及先进调度框架,实验验证其在4芯粒系统上可显著提升吞吐量与能效。
2023-12-14 cs.AI cs.AR cs.DC
Hecaton: Training Large Language Models with Scalable Chiplet Systems
针对LLM训练并行化带来的通信开销问题,本工作提出Hecaton小芯片系统,通过定制架构调度和分布式训练方法优化DRAM访问与NoP通信,实现弱扩展性,在Llama3.1-405B上性能提升5.29倍、能耗降低3.46倍。
2024-11-27 cs.AR
PICNIC: Silicon Photonic Interconnected Chiplets with Computational Network and In-memory Computing for LLM Inference Acceleration
National University of Singapore(新加坡国立大学)
本文提出PICNIC加速器,通过硅光互连、存内计算和芯粒聚类与功耗门控方案,显著提升LLM推理的加速比与能效。
2025-11-06 cs.AR
Performance Implications of Multi-Chiplet Neural Processing Units on Autonomous Driving Perception
University of California, Irvine(加州大学欧文分校)
本文以Tesla Autopilot感知流水线为案例,分析芯粒NPU上各感知模型的性能特征,提出一种新颖的多芯片调度策略,在MAESTRO模拟器上实现吞吐量提升82%、处理引擎利用率提升2.8倍。
2024-11-24 cs.AI cs.AR cs.DC
SCAR: Scheduling Multi-Model AI Workloads on Heterogeneous Multi-Chiplet Module Accelerators
Univ. of California, Irvine(加利福尼亚大学欧文分校)
针对同构MCM AI加速器适配异构多模型工作负载能力不足的问题,提出集成芯粒间流水线的启发式调度器SCAR,在数据中心多租户和AR/VR场景下均显著降低能效延迟积。
2024-09-14 cs.AI cs.AR cs.DC
Taming the Tail: NoI Topology Synthesis for Mixed DL Workloads on Chiplet-Based Accelerators
Indraprastha Institute of Information Technology Delhi(印度普拉斯塔信息技术学院德里);Washington State University(华盛顿州立大学);Microsoft Research(微软研究院)
针对异构芯粒加速器中内存突发传输导致NoI尾部延迟超标问题,提出干扰得分量化争用影响,构建多目标优化的PARL拓扑生成器,可在保持竞争力的平均吞吐量的同时将最坏情况减速降至1.2倍,满足SLA要求。
2025-10-28 cs.AI cs.AR cs.LG
Sangam: Chiplet-Based DRAM-PIM Accelerator with CXL Integration for LLM Inferencing
针对大语言模型推理因KV缓存增大而内存受限的问题,提出基于小芯片的DRAM-PIM加速器Sangam,通过CXL集成解耦逻辑与内存,提升带宽并支持先进处理组件,显著降低延迟、提高吞吐量且节省能耗。
2025-11-15 cs.AI cs.AR
Occamy: A 432-Core Dual-Chiplet Dual-HBM2E 768-DP-GFLOP/s RISC-V System for 8-to-64-bit Dense and Sparse Computing in 12nm FinFET
针对现有CPU/GPU难以高效处理稠密与稀疏异构计算负载的问题,研究团队推出采用12nm FinFET工艺的432核双芯粒RISC-V系统Occamy,通过层级互连与核内流单元设计,在多类计算任务上的效率与密度均显著超越现有最先进处理器,且RTL开源。
2025-01-13 cs.AR
Designing High-Performance and Thermally Feasible Multi-Chiplet Architectures enabled by Non-bendable Glass Interposer
本文提出热、翘曲与性能感知的架构-封装协同优化框架,通过解耦表面和嵌入式小芯片,设计不可弯曲玻璃中介层多小芯片架构,最高提升64.7%性能并降低40%功耗。
2025-07-24 cs.AR
Expert Streaming: Accelerating Low-Batch MoE Inference via Multi-chiplet Architecture and Dynamic Expert Trajectory Scheduling
AI Chip Center for Emerging Smart Systems(新兴智能系统芯片中心);The Hong Kong University of Science and Technology(香港科技大学);Shanghai UniVista Industrial Software Group Co., Ltd.(上海华大九天工业软件集团有限公司)
本文提出FSE-DP架构,通过多芯片组上的细粒度专家流调度,解决低批次MoE推理中的内存限制和负载不均问题,实现性能提升和内存节省。
2026-03-29 cs.AI cs.AR
Fleet: Hierarchical Task-based Abstraction for Megakernels on Multi-Die GPUs
AMD Research(AMD研究院)
Fleet 提出了一种多级任务模型,通过引入 Chiplet 任务抽象,提升多芯片 GPU 上内存密集型任务的性能。
2026-04-15 cs.AR
Chiplet Cloud: Building AI Supercomputers for Serving Large Generative Language Models
针对大语言模型服务成本高的问题,提出基于芯粒的ASIC超级计算机架构Chiplet Cloud,通过软硬件协同设计与可扩展片上内存系统优化单token总拥有成本,性能远超GPU/TPU云且支持更大规模稀疏模型。
2024-05-20 cs.AR
SHIFT: Dynamic Compute Relocation Framework for Communication-Aware Chiplet-Based Systems
University of California, Irvine(加州大学尔湾分校);University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of California Los Angeles(加州大学洛杉矶分校)
提出SHIFT框架,通过动态迁移计算节点上下文和数据到更优位置,结合改进的最短路径算法和轻量级ML辅助策略,在芯粒架构上实现通信感知的负载放置与路由优化,显著提升延迟、吞吐量和能效。
2026-07-06 cs.AR cs.ET
CHIPSMORE: Compute-in-Interconnect and -Memory Chiplets for Multi-Mode Multi-Request LLM Inference Acceleration
National University of Singapore(新加坡国立大学)
CHIPSMORE是一款集成互连内计算与CIM的LLM推理加速器,通过异构处理单元、分层KV内存、非复制多请求管道等设计,在Mistral-7B上较Nvidia H100实现2.38倍吞吐量与27倍能效提升,消除多请求权重复制。
2026-09-01 cs.AR
ODIN-Based CPU-GPU Architecture with Replay-Driven Simulation and Emulation
Intel Corporation(英特尔公司);Intel Corporation/Nvidia Corp(英特尔公司/英伟达公司);Synopsys Inc(Synopsys公司)
本文提出了一种基于ODIN芯片组架构的CPU-GPU架构,利用回放驱动的仿真与仿真方法,通过确定性波形捕获和回放,加速调试并提高集成信心,实现单季度内端到端系统启动和工作负载执行。
2026-03-17 cs.AI cs.AR cs.DC
Exploring the Potential of Wireless-enabled Multi-Chip AI Accelerators
Universitat Politècnica de Catalunya(巴塞罗那理工大学)
本文探讨了无线技术作为多小芯片AI加速器中有线互连补充的潜力,通过最先进框架评估显示无线互连可带来平均10%、最高20%的加速,并强调了负载均衡的重要性。
2025-04-28 cs.AI cs.AR
Affinity Tailor: Dynamic Locality-Aware Scheduling at Scale
Google(谷歌)
本文提出Affinity Tailor系统,通过动态局部性感知调度提升多核系统性能,实现芯片let和非芯片let系统的吞吐量提升,并减少内存驻留时间。
2026-04-30 cs.AR cs.DC cs.OS
AccelForge: Comprehensive Modeling and Co-Design Framework for AI Accelerators
MIT(麻省理工学院);NVIDIA(英伟达)
AccelForge是一个统一的AI加速器建模与协同设计框架,通过可组合模型、快速映射器和高性能Python实现,显著提升评估速度与易用性。
2026-09-11 cs.AR
Messaging-based Adaptive Vector Computing (MAVeC) Accelerator for AI Workloads
University of Missouri-Kansas City (UMKC)(密苏里大学堪萨斯城分校)
MAVeC是一种基于消息的自适应向量计算加速器,通过高效的数据移动和调度机制,在AI工作负载中实现高吞吐量和低延迟。
2026-02-04 cs.AR
Enabling Flexibility for Sparse Tensor Acceleration via Heterogeneity
最近,已经提出了用于深度神经网络(DNN)、图神经网络(GNN)和科学计算应用的众多稀疏硬件加速器。所有这些加速器的一个共同特点是它们都以张量代数(通常是矩阵乘法)为目标;然而,每一个新的应用都提出了几十个新的加速器。动机是工作负载的大小和稀疏性严重影响哪种架构最适合内存和计算效率。为了满足大型数据中心上各种工作负载的高效计算需求,我们建议部署一个灵活的“异构”加速器,其中包含许多“子加速器”(较小的专用加速器)一起工作。为此,我们提议:(1)HARD TACO,一种快速和高效的C++到RTL设计流程,用于生成用于稀疏和密集计算的多种类型的子加速器,以进行公平的设计空间探索,(2)AESPA,一种利用从HARD TACO生成的子加速器构建的异构稀疏加速器设计模板,以及(3)一组调度策略,用于将张量核映射到异构稀疏加速器上,具有高效率和利用率。AESPA与优化调度相比,性能提高了1.96倍,能量延迟产品(EDP)提高了7.9倍。
2022-01-21 cs.AR
MAHL: Multi-Agent LLM-Guided Hierarchical Chiplet Design with Adaptive Debugging
University of Minnesota - Twin Cities(明尼苏达大学-双城分校)
MAHL提出多智能体LLM分层芯片设计框架,通过六智能体协作实现算法硬件映射,显著提升生成准确率,Pass@5从0升至0.72,并优化PPA。
2025-10-09 cs.AI cs.AR cs.MA
Contour: Extensible Mapping Surfaces for Agentic Accelerator Kernel Generation
University of Michigan(密歇根大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对新兴加速器内核生成的现有方法反复重建无关语义的问题,提出编译器介导的Zomboss框架,将语义编译为可复用接口,在20个Gemmini和36个PLENA工作负载上实现全实例正确,且性能优于基线方法、推理成本更低。
2026-11-19 cs.AR
Modeling and Optimizing Performance Bottlenecks for Neuromorphic Accelerators
Harvard University(哈佛大学);Politecnico di Torino(都灵理工大学);Intel(英特尔);LMU Munich(慕尼黑大学);Accenture Labs(埃森哲实验室);BootLoop AI;TU Delft(代尔夫特理工大学);Wordly
本文提出神经形态加速器的性能瓶颈分析与优化方法,通过理论建模和实证研究,建立三种瓶颈状态模型,并结合稀疏性感知训练与分区方法,实现显著的性能提升。
2025-11-26 cs.AR
Fast and Fusiest: An Optimal Fusion-Aware Mapper for Accelerator Design
MIT(麻省理工学院);Nvidia(英伟达)
本文提出FFM映射器,通过剪枝非最优映射快速找到最优融合映射,实现能量延迟乘积降低1.8倍,比现有状态最先进加速器更高效。
2026-05-02 cs.AR
AMMA: A Multi-Chiplet Memory-Centric Architecture for Low-Latency 1M Context Attention Serving
University of California, San Diego(加州大学圣迭戈分校);Columbia University(哥伦比亚大学);Yonsei University(延世大学);NVIDIA(NVIDIA公司);Samsung Semiconductor, Inc.(三星半导体公司)
AMMA是一种面向低延迟1M上下文注意力服务的多芯片片内存架构,通过提高内存带宽和优化并行计算方案,显著降低注意力延迟和能耗。
2026-11-02 cs.AI cs.AR cs.DC
Silicon Photonic 2.5D Interposer Networks for Overcoming Communication Bottlenecks in Scale-out Machine Learning Hardware Accelerators
Colorado State University(科罗拉多州立大学)
针对单片ML加速器无法满足能效与吞吐量需求、2.5D电子加速器受金属互连限制的问题,本文提出在2.5D平台中利用光通信与光计算,构建高能效高吞吐量的2.5D ML加速器架构。
2024-03-07 cs.AR cs.LG eess.SP
Dynamic Resource Partitioning for Multi-Tenant Systolic Array Based DNN Accelerator
深度神经网络(DNN)已成为云服务器和边缘设备中的重要应用。与此同时,这些平台上越来越多的DNN增加了在同一设备上执行多个DNN的需求。本文提出了一种动态分区算法,在基于系统数组的加速器上执行多个DNN的并发处理。跨多个DNN共享加速器的存储和处理资源可以提高资源利用率,并减少计算时间和能耗。为此,我们提出了一个分区的重量固定的处理元素的逻辑中的一个小的修改的卷积。我们评估的能量消耗和计算时间与重和轻的工作负载。模拟结果显示,与单租户相比,在重负载和轻负载下,能耗分别提高了35%和62%,计算时间分别提高了56%和44%。
2023-02-21 cs.AR
Compiler and Hardware Co-Design for Accelerator Architectures
Technical University of Denmark(丹麦技术大学)
针对异构加速器全栈集成难的问题,提出EAAC编译器与硬件协同设计架构,基于MLIR支持快速原型,原型GEMM加速器较RISC-V基线实现28倍加速,并指出信号量分配优化方向。
2026-09-25 cs.AR
Towards Efficient IMC Accelerator Design Through Joint Hardware-Workload Co-optimization
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);Rain Neuromorphics(Rain Neuromorphics公司)
针对通用内存计算硬件设计空间探索难题,提出硬件-工作负载联合优化框架,识别最优芯片架构参数,相比单负载优化显著提升能效-延迟-面积得分,并量化了通用设计的性能权衡。
2025-02-01 cs.AI cs.AR
Dijkstra-Through-Time: Ahead of time hardware scheduling method for deterministic workloads
以前大多数关于机器学习硬件加速器的数据流优化的工作都试图找到算法重构,例如循环重新排序和循环平铺。然而,它们提供的分析和信息仍然处于非常高的水平,必须进一步将它们映射到硬件可以理解的指令上。本文提出了一种面向确定性工作负载的计算和存储映射算法--“Dijkstra-Through-Time”(DTT)。它提供了一个简单的实现,并支持具有复杂NoC配置的加速器,代价是漫长的编译过程。这篇初始论文说明了合并调度和数据缓存一致性机制以获得更优化的数据流的概念实现的证明。
2021-12-20 cs.AR
System and Design Technology Co-optimization of SOT-MRAM for High-Performance AI Accelerator Memory System
针对AI加速器内存受限问题,提出基于DTCO定制SOT-MRAM的高容量高带宽片上存储系统,在CV和NLP训练基准上分别实现8倍能效和9倍/4.5倍延迟改善,面积仅为SRAM的一半。
2023-11-14 cs.AR
A Multicast-Capable AXI Crossbar for Many-core Machine Learning Accelerators
ETH Zurich(苏黎世联邦理工学院);Integrated Systems Laboratory (IIS)(集成系统实验室)
本文提出一种支持多播的轻量级AXI交叉开关,以12%面积和6%时序开销提升众核机器学习加速器的数据移动效率,并在288核加速器的矩阵乘法上实现29%加速。
2025-02-26 cs.AR
HCiM: ADC-Less Hybrid Analog-Digital Compute in Memory Accelerator for Deep Learning Workloads
针对模拟CiM加速器中ADC带来的高功耗与面积开销问题,提出无ADC的混合模数加速器HCiM,结合模拟交叉阵列与数字CiM阵列处理缩放因子,实现最高28%的能耗降低。
2024-03-20 cs.AR
NTX: An Energy-efficient Streaming Accelerator for Floating-point Generalized Reduction Workloads in 22nm FD-SOI
用于深度学习等多重累积(MAC)密集型工作负载的专用协处理器在从GPU到移动SoC的SoC平台中越来越普遍。在本文中,我们重新审视NTX(一种为大规模训练深度神经网络而开发的高效加速器),将其作为广义MAC和简化流引擎。该架构由一组32位浮点流协处理器组成,这些协处理器松散耦合到负责编排数据移动和计算的RISC-V核心。最近在22 nm FD-SOI技术中的硅实现的布局后结果显示,该加速器在1.25 GHz和168 mW下能够提供高达20 Gflop/s的性能。基于这些结果,我们表明,缩小到14 nm的NTX版本可以在10.4倍的硅面积上实现比当代GPU高3倍的能效,以及1.4 Tflop/s的计算性能,用于训练具有全浮点精度的大型最先进网络。对MAC密集型内核的扩展评估表明,NTX在机器学习之外的一般减少工作负载中可以始终实现高达87%的峰值性能。其模块化架构支持从高性能GPU级到低功耗嵌入式场景的不同规模部署。
2018-12-01 cs.AR cs.DC
Leveraging Application-Specific Knowledge for Energy-Efficient Deep Learning Accelerators on Resource-Constrained FPGAs
本文针对资源受限FPGA上深度学习加速器能效不足的问题,提出一个融合RTL优化、工作负载感知策略和应用特定知识的加速器生成框架,系统探索设计配置以在满足资源与推理性能约束的同时提升能效。
2025-04-12 cs.AR
Workload-Aware Hardware Accelerator Mining for Distributed Deep Learning Training
提出一种基于启发式和关键路径的硬件加速器架构搜索技术,首次解决分布式张量与流水线并行场景,相比Spotlight搜索快31倍且吞吐量提升12倍,并比TPU架构提升12%。
2024-04-23 cs.AR cs.DC
MARS: Exploiting Multi-Level Parallelism for DNN Workloads on Adaptive Multi-Accelerator Systems
Shanghai Jiao Tong University(上海交通大学);Zhejiang University(浙江大学);Sun Yat-sen University(中山大学);Fudan University(复旦大学)
针对多加速器系统中深度神经网络的加速器组合选择与映射策略优化问题,提出新型映射框架MARS,通过感知计算的加速器选择与感知通信的分片策略最大化并行性,有效降低了典型工作负载与异构模型的推理延迟。
2023-07-23 cs.AI cs.AR cs.DC
MEDEM: Multi-Engine DL Accelerator Design Methodology
Chalmers University of Technology and University of Gothenburg(查尔姆斯理工大学和哥德堡大学)
MEDEM提出多引擎深度学习加速器系统化设计方法,通过引擎抽象与协同设计高效搜索指数级设计空间,在多种资源预算下实现EDP最高4.84倍、吞吐量1.59倍的提升。
2026-09-30 cs.AR cs.DC cs.PF
Terastal: Layer-Variant-based Scheduling for Real-Time Multi-DNN Workloads on Heterogeneous Accelerators
nd IEEE International Conference on Embedded and Real-Time Computing Systems and Applications(第32届IEEE嵌入式与实时计算系统与应用国际会议)
针对异构DNN加速器上多DNN执行中因层延迟差异导致的调度灵活性不足和截止时间错过率增加问题,提出层变体概念和Terastal框架,通过离线虚拟预算分配和层变体设计结合在线调度,优化加速器映射和变体选择,实验表明截止时间错过率降低30%以上且精度损失仅2.24%。
2026-06-05 cs.AR cs.DC cs.LG
HARP: A Taxonomy for Heterogeneous and Hierarchical Processors for Mixed-reuse Workloads
本文提出 HARP 分类法,系统梳理分层异构加速器设计空间,并扩展 Timeloop 以建模和分析不同存储层级异构性对混合复用张量工作负载的影响。
2025-02-18 cs.AR cs.DC
BRIM: Workload-Balanced Dual-Sided Bit-Serial Sparse Inference Accelerator
University of Southern California(南加州大学);Yale University(耶鲁大学)
研究针对双边位串行稀疏推理加速器工作负载不平衡问题,提出BRIM。它采用循环平衡剪枝和成对时隙捐赠两种机制,在等面积约束下评估,能提高PE利用率,实现显著加速和能效提升。
2026-07-23 cs.AI cs.AR
Balancing Generality and Specialization: A Survey on AI Datacenter Hardware Architecture
University of Michigan(密歇根大学)
该综述将AI加速器分为四类,分析其计算、内存及互连演进,并探讨通用性与专用性权衡在数据中心规模的设计挑战。
2026-09-24 cs.AR
A Time-Encoded Analog Photonic Interposer for Energy-EfficientIntegration of Analog Vision Sensors and Analog Accelerators
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Case Western Reserve University(凯斯西储大学)
本研究提出时间编码模拟光子中介层,通过ATC转换模拟信号为时间间隔传输,实现模拟视觉传感器与加速器的高能效集成,在VWW数据集上EDP提升2.04倍,泛化性能优异。
2026-09-04 cs.AR
Architecting the Next Generation of Asynchronous, Distributed GPUs for the AI Era
Purdue University(普渡大学)
针对AI时代GPU架构模拟基础设施滞后的问题,提出可建模Ampere等现代GPU的周期级模拟框架,经H100验证精度达标,用于评估小芯片拓扑等新兴设计轨迹。
2026-08-25 cs.AR
Hardware-Software Co-design for 3D-DRAM-based LLM Serving Accelerator
Peking University(北京大学);Xi’an UniIC Semiconductors(西安联芯集成电路);Houmo AI(厚墨智能);HKUST(香港科技大学)
Helios通过软硬件协同设计,优化LLM服务加速器的动态KV缓存管理和分布式内存抽象,实现3.25倍加速和3.36倍能效提升。
2026-03-05 cs.AR