FZ-GPU: A Fast and High-Ratio Lossy Compressor for Scientific Computing Applications on GPUs
针对现有科学数据有损压缩器无法兼顾高压缩比与高吞吐量的问题，本文提出GPU端的FZ-GPU压缩器，通过优化压缩流水线与CUDA架构实现更优性能。
2023-05-02 cs.DC
CEAZ: Accelerating Parallel I/O via Hardware-Algorithm Co-Designed Adaptive Lossy Compression
随着HPC系统继续增长到亿亿级，需要保存或传输的数据量正在爆炸式增长。为此，许多以前的作品研究使用错误有界有损压缩器，以减少数据的大小，提高I/O性能。然而，几乎没有工作已经做了有效地卸载有损压缩到基于FPGA的SmartFlash，以减少压缩开销。在本文中，我们提出了一种硬件算法协同设计的高效和自适应有损压缩器的科学数据的FPGA（称为CEAZ），这是第一个有损压缩器，可以同时实现高压缩比和吞吐量。具体来说，我们提出了一种有效的霍夫曼编码方法，可以自适应更新霍夫曼码字在线离线生成的码字的基础上，从各种代表性的科学数据集。此外，我们推导出一个理论分析，以支持一个精确的控制下的误差有界压缩模式的压缩比，使准确的离线霍夫曼码字生成。这还有助于我们创建固定比率压缩模式，以实现一致的吞吐量。此外，我们开发了一个有效的压缩管道，采用cuSZ的双量化算法，我们的硬件用例。最后，我们在五个真实世界的数据集上使用单个FPGA板和128个节点（以加速并行I/O）评估CEAZ。实验结果表明，CEAZ比第二好的基于FPGA的有损压缩器的吞吐量和比率分别提高了2.3倍和3.0倍。它还将MPI_File_write和MPI_Gather吞吐量分别提高了28.9倍和37.8倍。
2022-05-13 cs.DC cs.NI
SZx: an Ultra-fast Error-bounded Lossy Compressor for Scientific Datasets
当今的科学高性能计算（HPC）应用程序或先进仪器正在广泛的领域中产生大量数据，这给数据传输和存储带来了严重的负担。误差有界有损压缩由于其能有效地减少数据量，并能在用户指定的误差范围内严格控制数据失真，因此在科学界得到了广泛的应用。然而，现有的有损压缩器不能提供超快的压缩速度，这是相当多的应用或用例（诸如存储器内压缩和在线仪器数据压缩）高度要求的。在本文中，我们提出了一种新的超快速错误有界有损压缩器，它可以获得相当高的压缩性能的CPU和GPU上，也有相当高的压缩比。主要贡献有三个方面：（1）提出了一种新的通用超快速错误有界有损压缩框架--UFZ，通过将我们的设计限制为仅由超轻量级操作（如按位和加/减操作）组成，仍然保持一定的高压缩比。(2)我们在CPU和GPU上实现了UFZ，并根据它们的体系结构仔细优化了性能。(3)我们在CPU和GPU上使用6个真实的生产级科学数据集进行全面评估。实验结果表明，UFZ在CPU和GPU上的压缩和解压缩速度是第二快的现有错误有界有损压缩器（SZ或ZFP）的2~ 16倍。
2022-01-31 cs.DC
EXaCTz: Guaranteed Extremum Graph and Contour Tree Preservation for Distributed- and GPU-Parallel Lossy Compression
The Ohio State University（俄亥俄州立大学）；Oregon State University（俄勒冈州立大学）；University of Utah（犹他大学）
本文提出EXaCTz算法，通过并行方法在损失压缩的标量场数据中保持极值图和轮廓树。算法通过理论证明收敛性，实现高吞吐量和拓扑一致性，实验显示其在单GPU上达到4.52GB/s的吞吐量，远超现有方法。
2026-09-24 cs.DC
Understanding GPU-Based Lossy Compression for Extreme-Scale Cosmological Simulations
为了帮助更好地了解我们的宇宙，研究人员和科学家目前正在领导超级计算机上运行极端规模的宇宙学模拟。然而，这样的模拟可以生成大量的科学数据，这通常导致与数据移动和存储相关联的数据的昂贵成本。有损压缩技术已经变得有吸引力，因为它们显著地减小了数据大小并且可以保持用于后分析的高数据保真度。在本文中，我们建议使用基于GPU的有损压缩的极端规模的宇宙学模拟。我们的贡献有三个方面：（1）我们在开源压缩基准和分析框架Focal中实现了多个基于GPU的有损压缩器;（2）我们使用Focal基于一系列评估指标，在两个真实世界的极端尺度宇宙学模拟HACC和Nyx上全面评估了使用基于GPU的有损压缩的实用性;（3）对于不同的压缩机和宇宙学模拟，我们给出了一个确定最佳构型的通用优化准则。实验结果表明，基于GPU的有损压缩可以为宇宙学模拟的后分析提供必要的精度，对测试数据集的压缩比可达5~ 15倍，压缩和解压缩吞吐量远高于基于CPU的压缩器。
2020-07-02 astro-ph.IM cs.DC physics.comp-ph
pMSz: A Distributed Parallel Algorithm for Correcting Extrema and Morse Smale Segmentations in Lossy Compression
The Ohio State University（俄亥俄州立大学）；Argonne National Laboratory（阿贡国家实验室）；Oregon State University（俄勒冈州立大学）；University of Utah（犹他大学）
本文提出一种分布式并行算法pMSz，用于在损失性压缩中高效纠正极值和莫尔斯-斯马尔细分，通过简化计算流程提升大规模数据处理效率。
2026-01-05 cs.DC
Lessons Learned on the Path to Guaranteeing the Error Bound in Lossy Quantizers
针对科学计算数据规模激增，本文分析了有损压缩中误差界被违反的原因，并在LC框架中提出解决方案，保证所有量化器类型的误差界，同时保持高压缩比和吞吐量稳定。
2024-07-21 cs.DC
SIMD Lossy Compression for Scientific Data
现代HPC应用程序产生的数据量越来越大，这限制了当前极端规模系统的性能。诸如有损压缩之类的数据缩减技术通过减小这些应用程序生成的数据的大小来帮助缓解该问题。SZ是目前最先进的有损压缩器，能够实现高压缩比，但是所使用的预测/量化方法引入了相关性，这阻止了压缩的该步骤的并行化。最近的工作提出了一种并行的双重预测/量化算法的GPU，消除这些依赖关系。然而，一些HPC系统和应用程序不使用GPU，并且仍然可以从这种方法的细粒度并行性中受益。使用双量化技术，我们实现和优化的SIMD向量化的CPU版本的SZ，并创建一个启发式选择最佳的块大小和向量长度。我们还研究了非零块填充值的效果，以减少沿压缩块边界的不可预测值的数量。我们使用双量化、pSZ以及SZ-1.4来测量vecSZ对O3优化CPU版本SZ的性能。我们使用真实世界的科学数据集在Intel Skylake和AMD Rome架构上评估我们的矢量化版本vecSZ。我们发现，应用替代填充减少了100\%的一些配置的离群值的数量。与SZ-1.4相比，该算法的率失真性能提高了32%，$\times$加速比提高了15倍，预测和量化带宽超过3.4 GB/s。
2022-01-12 cs.DC
BlockMGARD: Accelerating Adaptive Scientific Data Reduction with Region-of-Interest Error Control on GPUs
University of Oregon（俄勒冈大学）；Oak Ridge National Laboratory（橡树岭国家实验室）；New Jersey Institute of Technology（新泽西理工学院）；Oregon State University（俄勒冈州立大学）
本文提出支持关注区域的GPU有损压缩器BlockMGARD，通过缓存内块分解等四项改进，在真实数据集上实现了比MGARD-X更高的吞吐量、压缩比与线性扩展性，降低了I/O成本。
2026-09-02 cs.DC
Toward GPU-Resident Climate Models: A Feasibility Study on Lossy Compression for the Spherical Harmonic Transform's Communication Bottleneck
University of Trento（特伦托大学）
本研究针对气候模型中球谐变换的通信瓶颈，提出GPU驻留有损压缩方案，证明ZFP压缩在相近或更低误差下显著减少通信时间，优于float16截断。
2026-09-22 cs.DC physics.ao-ph
Fast Topology-Aware Lossy Data Compression with Full Preservation of Critical Points and Local Order
Texas State University（德克萨斯州立大学）；University of Utah（犹他大学）
本文提出一种快速压缩方法，完整保留关键点和局部顺序，比传统拓扑保持压缩器快得多，压缩比更高且输出一致。
2026-03-27 cs.DC
Evaluating LLM Coding Agents on SZ-Family Lossy Compression Across Architectures
Oregon State University（俄勒冈州立大学）；Florida State University（佛罗里达州立大学）；Argonne National Laboratory（阿贡国家实验室）
评估LLM编码代理在SZ系列有损压缩内核上的表现，发现GPU上强模型性能高但对提示敏感，Cerebras上主要挑战是生成可运行程序，且代理在模块化内核上更有效。
2026-06-17 cs.DC
FaCTz: Fast Critical-Point and Topology-Aware GPU Compression for Scientific Vector Fields
Oregon State University（俄勒冈州立大学）；The Ohio State University（俄亥俄州立大学）；Argonne National Laboratory（阿贡国家实验室）；Oakland University（奥克兰大学）；University of Kentucky（肯塔基大学）；University of Utah（犹他大学）
FaCTz是首个基于GPU的带误差界有损压缩器，可保留科学向量场的所有临界点，吞吐量最高达60 GB/s，比cpSZ的多线程CPU实现快约640倍，还提供优化压缩比的推测逐点模式
2026-08-12 cs.DC
gZCCL: Compression-Accelerated Collective Communication Framework for GPU Clusters
本文提出gZCCL框架，通过精度感知设计优化GPU集群上有损压缩集合通信，在512块A100 GPU上实现Allreduce和Scatter性能最高超越NCCL与Cray MPI达4.5倍和28.7倍。
2024-05-06 cs.DC
MSz: An Efficient Parallel Algorithm for Correcting Morse-Smale Segmentations in Error-Bounded Lossy Compressors
提出 MSz 并行算法，在误差有界有损压缩中通过交替修复极值与积分线，精确保留二维/三维标量场的 Morse-Smale 分割，并利用 GPU 显著加速。
2024-07-05 cs.DC cs.GR
Accelerating Communication in Deep Learning Recommendation Model Training with Dual-Level Adaptive Lossy Compression
Indiana University（印第安纳大学）；Meta；University of Rochester（罗切斯特大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
本文针对DLRM训练中全对全通信瓶颈，提出基于误差有界有损压缩的双层自适应方法，在表级和迭代级动态调整误差界，并针对GPU优化压缩器，最终实现1.38倍训练加速且精度损失极小。
2024-10-01 cs.DC cs.LG
Accelerating JPEG Decompression on GPUs
JPEG压缩格式几十年来一直是有损图像压缩的标准，在图像质量的微小感知损失下提供高压缩率。对于GPU加速的计算机视觉和深度学习任务，例如图像分类模型的训练，由于内存带宽的限制，高效的JPEG解码至关重要。由于许多解码器实现都是基于CPU的，因此解码后的图像数据必须通过PCI-E等互连传输到GPU等加速器，这意味着吞吐率降低。因此，JPEG解码代表了这些流水线中的相当大的瓶颈。相比之下，通过使用GPU加速的解码器可以大大提高效率。在这种情况下，只需要传输压缩数据，因为解码将由加速器处理。为了设计这种基于GPU的解码器，必须在细粒度级别上并行化各个算法。然而，单个JPEG文件的并行解码代表了一项复杂的任务。在本文中，我们提出了一种有效的方法，JPEG图像解压缩的GPU上，实现了一个重要的子集的JPEG标准。所提出的算法在任意位置的比特流中的码字位置进行评估，从而使独立块的并行解压缩。我们的性能评估表明，在A100（V100）GPU上，我们的实现可以超过最先进的实现libjpeg-turbo（CPU）和nvJPEG（GPU）的一个因素高达51（34）和8.0（5.7）。此外，它在A100上使用专用硬件JPEG解码器加速的nvJPEG上实现了高达3.4的加速比。
2021-11-17 cs.DC
Accelerating Multigrid-based Hierarchical Scientific Data Refactoring on GPUs
科学数据的快速增长以及计算速度和I/O带宽之间的差距越来越大，使得存储和共享科学模拟产生的所有数据变得越来越不可行。相反，我们需要减少数据量的方法：理想情况下，可以自适应地扩展数据量的方法，以便在不同情况下进行性能和保真度权衡的协商。基于多重网格的分层数据表示有望解决这个问题，允许不同分辨率之间的灵活转换，例如，数据可以以高保真度创建，然后通过逻辑简单和数学上合理的操作以较低的保真度传输或存储。然而，直到现在，创建、访问、减少和以其他方式操作这些表示的相对高的成本阻碍了这些表示的有效使用。我们在这里描述了用于GPU加速器的高度优化的数据重构内核，这些内核能够以基于多网格的分层形式有效地创建和操作数据。我们证明，我们的优化设计可以实现高达250 TB/s的聚合数据重构吞吐量-理论峰值的83%-在1024个节点的首脑会议超级计算机。我们展示了我们的优化设计，将其应用到一个大规模的科学可视化工作流程和MGARD有损压缩软件。
2021-02-27 cs.DC
GPU Volume Rendering with Hierarchical Compression Using VDB
本文提出利用OpenVDB和NanoVDB对大规模体数据进行分层压缩与即时解压，实现快速、低内存的GPU体渲染，并可直接替代现有3D纹理渲染方案。
2025-04-10 cs.DC cs.GR
Scalable Multigrid-based Hierarchical Scientific Data Refactoring on GPUs
科学数据的快速增长以及计算速度和I/O带宽之间的差距越来越大，使得存储和共享科学模拟产生的所有数据变得越来越不可行。相反，我们需要减少数据量的方法：理想情况下，可以自适应地扩展数据量的方法，以便在不同情况下进行性能和保真度权衡的协商。基于多重网格的分层数据表示有望解决这个问题，允许不同分辨率之间的灵活转换，例如，数据可以以高保真度创建，然后通过逻辑简单和数学上合理的操作以较低的保真度传输或存储。然而，直到现在，创建、访问、减少和以其他方式操作这些表示的相对高的成本阻碍了这些表示的有效使用。我们在这里描述了用于GPU加速器的高度优化的数据重构内核，这些内核能够以基于多网格的分层形式有效地创建和操作数据。我们证明，我们的优化设计可以实现高达264 TB/s的聚合数据重构吞吐量-理论峰值的92%-在1024个节点的首脑会议超级计算机。我们展示了我们的优化设计，将其应用到一个大规模的科学可视化工作流程和MGARD有损压缩软件。
2021-05-26 cs.DC
PackKV: Reducing KV Cache Memory Footprint through LLM-Aware Lossy Compression
Temple University（特伦大学）；Argonne National Laboratory（阿贡国家实验室）
PackKV通过LLM-aware的有损压缩技术，显著减少KV缓存内存占用并提升计算效率。
2026-01-07 cs.AI cs.DC
HPDR: High-Performance Portable Scientific Data Reduction Framework
本文提出高性能可移植数据缩减框架 HPDR，通过支持多处理器架构并优化内存传输与多 GPU 扩展，在 Frontier 超算上实现 103 TB/s 吞吐量和最高 4 倍并行 I/O 加速。
2025-03-08 cs.DC
A Novel Memory-Efficient Deep Learning Training Framework via Error-Bounded Lossy Compression
Washington State University（华盛顿州立大学）；University of Iowa（爱荷华大学）；University of Sydney（悉尼大学）
深度神经网络（DNN）由于对预测精度和分析质量的需求不断增长而变得越来越深、更宽和非线性。在训练DNN模型时，中间激活数据必须在前向传播期间保存在内存中，然后恢复用于后向传播。然而，由于硬件设计的限制，最先进的加速器（如GPU）只配备了非常有限的内存容量，这极大地限制了最大批量大小，从而限制了训练大规模DNN时的性能加速。在本文中，我们提出了一种新的内存驱动的高性能DNN训练框架，该框架利用错误有界有损压缩来显着降低训练的内存需求，以允许训练更大的网络。与采用基于图像的有损压缩器（如JPEG）来压缩激活数据的最新解决方案不同，我们的框架有目的地设计了具有严格错误控制机制的错误有界有损压缩。具体来说，我们提供了从改变的激活数据到梯度的压缩误差传播的理论分析，然后实证研究了改变的梯度对整个训练过程的影响。基于这些分析，我们然后提出了一个改进的有损压缩器和一个自适应方案，动态配置的有损压缩误差范围和调整的训练批量大小，以进一步利用节省的内存空间，额外的加速。我们使用四种流行的DNN和ImageNet数据集来评估我们的设计。结果表明，我们提出的框架可以显着减少训练内存消耗高达13.5倍和1.8倍，分别超过基线训练和最先进的压缩框架，几乎没有或没有准确性损失。
2020-11-18 cs.CV cs.DC
FZModules: A Heterogeneous Computing Framework for Customizable Scientific Data Compression Pipelines
FZModules是一个异构计算框架，通过模块化接口和异步任务执行库，组装误差有界的自定义压缩管线，在四个科学数据集上实现了与GPU压缩器相当的速度和与CPU压缩器相似的率失真。
2025-09-24 cs.DC
MoE-Compression: How the Compression Error of Experts Affects the Inference Accuracy of MoE Model?
Department of Computing（计算系）；Hong Kong Polytechnic University（香港理工大学）；Mathematics and Computer Science Division（数学与计算机科学 division）；Argonne National Laboratory（阿贡国家实验室）；The University of Hong Kong（香港大学）；Stevens Institute of Technology（史蒂文斯理工学院）；Department of Computer Science and Engineering（计算机科学与工程系）；University of California, Merced（加州大学默塞德分校）
针对MoE模型在有限GPU内存下服务效率问题，提出用有界误差有损压缩算法压缩未激活专家以减少传输开销，并分析发现浅层专家对误差不敏感、中层敏感、深层误差有时提升精度。
2025-09-09 cs.DC cs.LG
COMET: A Novel Memory-Efficient Deep Learning Training Framework by Using Error-Bounded Lossy Compression
Washington State University（华盛顿州立大学）；McGill University（麦吉尔大学）；University of Washington（华盛顿大学）；University of Massachusetts（马萨诸塞大学）；University of Iowa（爱荷华大学）；University of Sydney（悉尼大学）
训练宽而深的神经网络（DNN）需要大量的存储资源，例如存储器，因为中间激活数据必须在前向传播期间保存在存储器中，然后恢复用于后向传播。然而，由于硬件设计的限制，最先进的加速器（如GPU）只配备了非常有限的内存容量，这极大地限制了最大批量大小，从而限制了训练大规模DNN时的性能加速。传统的存储器节省技术要么受到性能开销的影响，要么受到有限的互连带宽或特定互连技术的约束。在本文中，我们提出了一种新的内存高效的CNN训练框架（称为COMET），该框架利用误差有界有损压缩来显着降低训练的内存需求，以允许训练更大的模型或加速训练。与采用基于图像的有损压缩器（如JPEG）来压缩激活数据的最新解决方案不同，我们的框架故意采用具有严格错误控制机制的错误有界有损压缩。具体来说，我们对从改变的激活数据到梯度的压缩误差传播进行了理论分析，并根据经验研究了改变的梯度对训练过程的影响。基于这些分析，我们优化了误差有界有损压缩，并提出了一种自适应误差有界控制方案的激活数据压缩。我们使用五种广泛采用的CNN和ImageNet数据集来评估我们的设计。实验表明，我们提出的框架可以显着减少训练内存消耗高达13.5倍的基线训练和1.8倍的另一个国家的最先进的基于压缩的框架，分别很少或没有准确性损失。
2021-11-18 cs.AI cs.DC
UCCL-Zip: Lossless Compression Supercharged GPU Communication
UC Davis（加州大学戴维斯分校）；Harvard University（哈佛大学）；Amazon Web Services（亚马逊网络服务）；UC Berkeley（加州大学伯克利分校）
UCCL-Zip通过无损压缩提升GPU通信效率，支持点对点和集体通信，无需修改API且保持数值精度，实测加速强化学习权重同步达47.5%。
2026-04-21 cs.AI cs.DC
Preserving Clusters in Error-Bounded Lossy Compression of Scientific Particle Data
The Ohio State University（俄亥俄州立大学）；Argonne National Laboratory（阿贡国家实验室）
本文提出一种基于修正的技术，在压缩粒子数据时保留单链接聚类，通过空间分区和局部邻域搜索识别脆弱粒子对，并通过投影梯度下降优化聚类一致性，实验显示其在保持压缩性能的同时有效保留聚类结果。
2026-07-21 cs.DC cs.LG
FFCz: Fast Fourier Correction for Spectrum-Preserving Lossy Compression of Scientific Data
The Ohio State University（俄亥俄州立大学）；Argonne National Laboratory（阿贡国家实验室）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
FFCz通过快速傅里叶校正算法，在科学数据压缩中同时保留空间和频率域的特征，提升压缩效率与科学信息保真度。
2026-01-04 astro-ph.IM cs.DC
Reducing the GPU Memory Bottleneck with Lossless Compression for ML -- Extended
University of Washington（华盛顿大学）
提出无损压缩算法IBP，通过识别和消除张量组中的不变位，利用GPU优化的解压缩和异步PCIe传输，显著减少数据传输时间，加速GNN训练、DLRM嵌入查找和LLM推理。
2026-05-29 cs.DC cs.LG
What Operations can be Performed Directly on Compressed Arrays, and with What Error?
University of Perpignan（佩皮尼昂大学）
针对大型矩阵和张量需先解压缩再计算的问题，本文提出并实现基于 PyTorch 的有损压缩器 PyBlaz，支持直接在压缩域执行多种基础操作，并在三个应用中验证其可扩展性、压缩性能与可控误差。
2024-06-17 cs.DC cs.LG
3D Gaussian Splatting for Scientific Particle Data Compression and Rendering
Temple University（天普大学）；Argonne National Laboratory（阿贡国家实验室）
针对大规模粒子模拟带来的存储等压力及现有压缩器问题，提出基于3D高斯点渲染的ParticleGS框架，结合多种技术，在HACC模拟中表现出色，压缩率高且渲染速度快，并能推广到其他模拟。
2026-07-28 cs.DC cs.GR
Optimizing Data Processing in Space for Object Detection in Satellite Imagery
School of Computing Science, University of Glasgow（格拉斯哥大学计算科学学院）
每年发射的卫星数量激增，导致每天下行传输数TB的数据。地面站收到的数据往往未经处理，考虑到数据量大，而且并非所有数据都有用，因此这是一个昂贵的过程。这一点，加上对实时数据处理的需求不断增加，导致对在轨处理解决方案的需求不断增长。在这项工作中，我们研究了基于CNN的对象检测器的性能受限的设备，通过应用不同的图像压缩技术的卫星数据。我们研究了NVIDIA Jetson Nano和NVIDIA Jetson AGX Xavier的功能;低功耗，高性能计算机，集成GPU，小到足以安装在纳米卫星上。我们将仔细研究对象检测网络，包括Single Shot MultiBox Detector（SSD）和基于区域的全卷积网络（R-FCN）模型，这些模型在DOTA上进行了预训练-DOTA是一种用于航空图像中目标检测的大规模数据集。性能从执行时间、内存消耗和准确性方面进行衡量，并与包含两个强大GPU的服务器的基线进行比较。结果表明，通过应用图像压缩技术，我们能够改善执行时间和内存消耗，实现一个完全可运行的数据集。无损压缩技术实现了大约10%的执行时间减少和大约3%的内存消耗减少，而对准确性没有影响。而有损压缩技术将执行时间提高了144%，存储器消耗减少了97%。然而，它对精度有很大的影响，取决于压缩比。因此，这些压缩技术的应用和比率可以根据特定任务所需的精度水平而不同。
2021-07-08 cs.CV cs.DC cs.LG
