2-in-1 Accelerator: Enabling Random Precision Switch for Winning Both Adversarial Robustness and Efficiency
Rice University（莱斯大学）
本文提出算法与硬件协同设计的 2-in-1 Accelerator，通过 RPS 随机量化防御和精度可扩展架构，在多种攻击下同时提升 DNN 加速器鲁棒性与效率。
2025-01-04 cs.AR cs.CR cs.LG
pychop: Emulating Low-Precision Arithmetic in Numerical Methods and Neural Networks
Department of Numerical Mathematics, Charles University（数值数学系，查尔斯大学）；LIP6, Sorbonne Université, CNRS（LIP6，索邦大学，CNRS）
Pychop通过提供低精度算术模拟工具，支持神经网络和数值方法中的高效混合精度算法研究与应用。
2026-08-26 cs.LG cs.NA math.NA
Low-Precision Arithmetic for Fast Gaussian Processes
New York University（纽约大学）
低精度算法对神经网络的训练产生了变革性的影响，减少了计算、内存和能量需求。然而，尽管它的承诺，低精度算法很少受到关注的高斯过程（GP），主要是因为GP需要复杂的线性代数例程是不稳定的低精度。我们研究了在半精度训练GP时可能发生的不同故障模式。为了规避这些故障模式，我们提出了一个多方面的方法，涉及共轭梯度与重新正交化，混合精度，和预处理。我们的方法显着提高了数值稳定性和实际性能的共轭梯度在低精度在广泛的设置，使全球定位系统训练$1.8$百万数据点在$10$小时在一个单一的GPU上，没有任何稀疏近似。
2022-07-14 cs.LG
Simple and Scalable Algorithms for Cluster-Aware Precision Medicine
Weill Cornell Medicine（威尔康奈尔医学院）
针对高维少观测精准医疗中维度灾难与数据聚类结构的联合挑战，提出一种结合标准嵌入与凸聚类惩罚的简单可扩展簇感知嵌入方法，无需预设簇数即可生成可解释的分层树图，在欠定与大样本数据上均优于现有方法。
2023-05-17 cs.LG q-bio.QM stat.ML
GRINQH: Graded Input-based Quantization Hierarchy for Efficient LLM Generation
Fakultät für Informatik, RWTH Aachen（亚琛工业大学计算机科学系）；Fakultät für Elektrotechnik und Informationstechnik, RWTH Aachen（亚琛工业大学电气工程与信息技术系）；Peter Grünberg Institut, Forschungszentrum Jülich GmbH（于利希研究中心彼得·格林贝格研究所）
提出GRINQH框架，利用激活幅度动态分配权重通道精度，统一量化与稀疏化，加速LLM解码阶段，在Llama3和Qwen3上优于现有方法，实现2位生成。
2026-06-23 cs.AI cs.LG
MPX: Mixed Precision Training for JAX
Institute for Data Science in Mechanical Engineering (DSME)（数据科学与机械工程研究所（DSME））；RWTH Aachen University（亚琛工业大学）
针对JAX缺乏混合精度训练支持的问题，提出MPX工具箱，通过半精度转换和动态损失缩放，无缝集成Equinox和Flax，简化并加速大规模神经网络训练，同时保持模型精度。
2025-10-27 cs.LG
CoNLoCNN: Exploiting Correlation and Non-Uniform Quantization for Energy-Efficient Low-precision Deep Convolutional Neural Networks
New York University Abu Dhabi（纽约大学阿布扎比分校）；Technische Universität Wien (TU Wien)（维也纳工业大学）；Politecnico di Torino（都灵理工大学）
在当今智能网络物理系统的时代，深度神经网络（DNN）由于其在复杂的现实世界应用中的最先进性能而变得无处不在。这些网络的高计算复杂性转化为增加的能耗，是在资源受限系统中部署大型DNN的最大障碍。通过训练后量化实现的定点（FP）实现通常用于减少这些网络的能耗。然而，FP中的均匀量化间隔将数据结构的比特宽度限制为大值，这是由于需要以足够的分辨率表示大多数数字并避免高量化误差。在本文中，我们利用了关键的见解，即（在大多数情况下）DNN权重和激活大多集中在零附近，只有少数具有较大的幅度。我们提出了CoNLoCNN，这是一种通过利用以下内容实现节能低精度深度卷积神经网络推理的框架：（1）权重的非均匀量化，从而简化复杂的乘法运算;以及（2）激活值之间的相关性，从而能够以低成本部分补偿量化误差，而无需任何运行时开销。为了从非均匀量化中显著受益，我们还提出了一种新的数据表示格式，编码低精度二进制有符号数字，以压缩权重的位宽，同时确保直接使用编码权重进行处理，使用新的乘法和累加（MAC）单元设计。
2022-07-31 cs.AR cs.LG
SFMP: Fine-Grained, Hardware-Friendly and Search-Free Mixed-Precision Quantization for Large Language Models
College of Electronic Information and Optical Engineering, Nankai University（南开大学电子信息与光工程学院）
提出SFMP框架，通过分数位宽、块级混合精度、行列重排序和统一GEMM内核，实现免搜索、硬件友好的混合精度量化，在相同内存约束下优于现有方法。
2026-06-03 cs.LG
BAPS: A Fine-Grained Low-Precision Scheme for Softmax in Attention via Block-Aware Precision reScaling
Taylor Lab, Huawei（华为塔利实验室）；HiSilicon, Huawei（华为海思）；Key Laboratory of Interdisciplinary Research of Computation and Economics（计算与经济学交叉研究重点实验室）
BAPS提出了一种细粒度低精度方案，通过块意识精度重标定和HiF8格式实现高效softmax，减少数据带宽和指数运算单元面积，提升Transformer推理吞吐量。
2026-02-02 cs.LG
Efficient Arbitrary Precision Acceleration for Large Language Models on GPU Tensor Cores
School of Electronic Science and Engineering, Nanjing University（南京大学电子科学与工程学院）；School of Integrated Circuits, Sun Yat-sen University（中山大学集成电路学院）
针对任意精度超低比特 LLM 推理受限于 Tensor Core 与内存管理的问题，提出 bipolar-INT、比特级矩阵乘、预处理及恢复导向内存管理方案，实现最高 6.7 倍推理加速。
2024-10-18 cs.AI cs.AR cs.LG
Efficient Precision Control in Object Detection Models for Enhanced and Reliable Ovarian Follicle Counting
Capgemini Invent（凯捷创新）；Paris-Saclay University（巴黎-萨克雷大学）；Université Paris-Saclay（巴黎-萨克雷大学）；AP-HP（巴黎公共医疗集团）；INSERM（法国国家健康与医学研究院）
本研究提出一种模型无关的上下文决策阈值选择方法，结合多重检验程序控制精度，提升卵巢卵泡计数模型的F1分数，无需重新训练即可增强性能。
2025-01-23 cs.LG
Mixed Low-precision Deep Learning Inference using Dynamic Fixed Point
Intel Labs（英特尔实验室）
我们提出了一种基于聚类的量化方法，将预训练的全精度权重转换为三进制权重，对精度的影响最小。此外，我们还将激活限制为8位，从而实现子8位全整数推理流水线。我们的方法使用较小的N个滤波器的集群与一个共同的缩放因子，以最大限度地减少量化损失，同时也最大限度地提高了三进制操作的数量。我们表明，在Resnet-101上，当集群大小为N=4时，可以实现71.8%的TOP-1精度，在最佳全精度结果的6%以内，同时用8位累加替换约85%的乘法。使用相同的方法，4位权重达到76.3%的TOP-1精度，在2%的全精度结果。我们还研究了集群大小对性能和精度的影响，较大的集群大小N=64可以用三元运算代替~98%的乘法，但精度会显著下降，这需要对参数进行微调，并以较低的精度重新训练网络。为了解决这个问题，我们还通过使用全精度权重预初始化网络，训练了具有8位激活和三进制权重的低精度Resnet-50，并在4个额外的epoch内实现了68.9%的TOP-1精度。我们最终的量化模型可以在完整的8位计算管道上运行，与基线全精度模型相比，性能可能提高16倍。
2017-02-01 cs.LG cs.NE
Accelerating Generalized Linear Models with MLWeaving: A One-Size-Fits-All System for Any-precision Learning (Technical Report)
Systems Group, Department of Computer Science ETH Zurich（苏黎世联邦理工学院计算机科学系系统组）；ETH Zurich（苏黎世联邦理工学院）；Department of Computer Science ETH Zurich（苏黎世联邦理工学院计算机科学系）；Computer Science ETH Zurich（苏黎世联邦理工学院计算机科学）
从存储在数据库中的数据中学习是关系引擎中越来越多的重要功能。使用较低精度输入数据的方法特别令人感兴趣，因为它们的整体效率更高，但是在数据库中，这些方法具有隐藏成本：将实际值量化为较小的数字是昂贵的步骤。为了解决这个问题，在本文中，我们提出MLWeaving，一个数据结构和硬件加速技术，旨在加快学习数据库中的广义线性模型。ML-Weaving提供了一种紧凑的内存表示，支持以任何精度级别检索数据。MLWeaving还利用基于FPGA的加速器的日益增加的可用性来提供随机梯度下降的高效实现。MLWeaving中采用的解决方案在空间（因为它可以在同一设计上处理任何分辨率）和资源（通过使用位串行乘法器）方面比现有设计更有效。MLWeaving还支持运行时精度调优，而不是在训练期间使用固定的精度级别。我们用一个简单的，动态的精度时间表来说明这一点。实验结果表明，MLWeaving实现了高达16的性能提高了低精度的CPU实现的一阶方法。
2019-03-28 cs.DS cs.LG
MixFrag: Fragility-Guided Mixed-Precision Post-Training Quantization for Vision Transformers
Khulna University of Engineering & Technology (KUET)（库尔纳工程技术大学）
针对现有PTQ方法精度分配低效问题，提出MixFrag框架，通过KL散度估计量化脆弱性并将位分配建模为MCKP，在ImageNet、COCO任务上实现最优混合精度PTQ性能。
2026-07-31 cs.CV cs.LG
From Fewer Samples to Fewer Bits: Reframing Dataset Distillation as Joint Optimization of Precision and Compactness
InterDigital Communications, Inc.（InterDigital通讯公司）
QuADD通过联合优化数据集紧凑性和精度，在固定位预算下提升数据集蒸馏的效率和性能。
2026-03-02 cs.AI cs.CV cs.LG
Neural Quantum States in Mixed Precision
Center for Computational Quantum Physics, Flatiron Institute（计算量子物理中心，Flatiron研究所）；Department of Mathematical Sciences, Rutgers University（数学科学系，罗格斯大学）；Center for Computational Mathematics, Flatiron Institute（计算数学中心，Flatiron研究所）
本研究探讨了混合精度算术在神经网络变分蒙特卡洛方法中的应用，证明在保持准确性的同时可提升计算效率和能效。
2026-01-28 cond-mat.str-el cs.LG quant-ph
SQFT: Low-cost Model Adaptation in Low-precision Sparse Foundation Models
Intel Labs（英特尔实验室）；Intel Corporation（英特尔公司）
针对大型预训练模型微调的资源受限问题，提出低精度稀疏参数高效微调方案SQFT，实现稀疏权重与低秩适配器无损合并、不同精度量化权重与适配器的目标格式合并，经多场景多模型验证有效，且开源了代码与模型。
2024-10-01 cs.AI cs.CL cs.LG
Lossless Compression of Neural Network Components: Weights, Checkpoints, and K/V Caches in Low-Precision Formats
Intel（英特尔）
本文将ZipNN无损压缩方法从FP32/BF16扩展到FP8和FP4低精度格式，通过分离压缩指数与尾数实现BF16最高62%、FP8最高83%的压缩率，并发现LLM的K/V缓存同样具有可压缩性。
2025-08-20 cs.AI cs.LG cs.NE
iFairy: the First 2-bit Complex LLM with All Parameters in $\{\pm1, \pm i\}$
本文提出 Fairy±i，首个面向复数值大语言模型的 2 比特量化框架，通过将权重映射到四次单位根并利用免乘法推理，在保持存储与计算效率的同时超越了现有 2 比特量化方法的精度天花板。
2025-08-16 cs.CL cs.LG
GAMMA: Global Bit Allocation for Mixed-Precision Models under Arbitrary Budgets
Beihang University（北航）；Tsinghua University（清华）；ByteDance Inc（字节跳动）
本文提出GAMMA框架，通过后训练流水线学习模块级精度偏好，优化教师强制隐藏状态重建目标并利用整数规划实现精确预算分配，从而在任意预算下提升大语言模型的精度，优于固定精度基线和搜索基混合精度方法。
2026-08-28 cs.AI cs.LG
Neural Network-Inspired Analog-to-Digital Conversion to Achieve Super-Resolution with Low-Precision RRAM Devices
Washington University（华盛顿大学）
最近的工作提出了神经网络-（NN-）启发的模数转换器（NADC），并证明了它们在许多新兴应用中的巨大潜力。这些NNADC通常依赖于电阻式随机存取存储器（RRAM）器件来实现NN操作，并且需要高精度RRAM单元（6~12位）来实现适度的量化分辨率（4~8位）。然而，RRAM阵列在大规模生产过程中的制造数据并不支持RRAM分辨率的这种乐观假设。在本文中，我们提出了一种基于低精度RRAM器件的NN启发的超分辨率ADC，利用协同设计方法，结合了流水线硬件架构与自定义NN训练框架。SPICE仿真结果表明，该方法能够有效地利用3位RRAM器件实现14位超分辨率ADC的鲁棒设计，并具有更高的功耗和速度性能以及具有竞争力的品质因数（FoM）。除了线性均匀量化之外，所提出的ADC还可以支持可配置的高分辨率非线性量化，具有高转换速度和低转换能量，为近传感器分析和处理提供未来的智能模拟到信息接口。
2019-11-28 cs.AR cs.ET cs.LG
KVmix: Gradient-Based Layer Importance-Aware Mixed-Precision Quantization for KV Cache
Fei Li, Song Liu, Weiguo Wu, Shiqiang Nie, Jinyu Wang（作者）
KVmix通过基于梯度的重要性分析实现KV缓存的混合精度量化，有效平衡精度与效率，实现低内存高吞吐的LLM推理
2026-02-02 cs.AI cs.LG
Kitty: Accurate and Efficient 2-bit KV Cache Quantization with Dynamic Channel-wise Precision Boost
Kitty通过混合精度KV缓存的算法-系统协同设计，实现2位量化在保持高精度的同时显著降低内存占用，提升推理效率。
2025-11-23 cs.AI cs.LG
Low Precision Decentralized Distributed Training over IID and non-IID Data
Purdue University（普渡大学）
去中心化分布式学习是在边缘设备上实现大规模机器学习（训练）的关键，它利用私人用户生成的本地数据，而不依赖于云。然而，这种设备上培训的实际实现受到通信和计算瓶颈的限制。在本文中，我们提出并展示了低精度分散训练的收敛性，旨在降低分散训练的计算复杂性和通信成本。在文献中已经提出了许多基于反馈的压缩技术以降低通信成本。据我们所知，没有工作应用并显示计算有效的训练技术，如量化，修剪等，去中心化学习的平台。由于现实世界的应用程序在数据分布上有很大的偏差，我们设计了“Range-EvoNorm”作为归一化激活层，它更适合于非IID数据的低精度训练。此外，我们表明，所提出的低精度训练可以与其他通信压缩方法协同使用，进一步降低通信成本。我们的实验表明，即使使用非IID数据，8位分散式训练与其全精度训练相比，精度损失也最小。然而，当低精度训练伴随着通过稀疏化进行的通信压缩时，我们观察到精度下降了1-2%。所提出的低精度分散式训练将计算复杂性、存储器使用和通信成本降低了4倍，并且将计算能量降低了约20倍，同时折衷了IID和非IID数据的小于$1\%$的精度。特别是，对于更高的偏斜值，我们观察到在低精度训练的情况下准确度增加（约0.5%），这表明量化的正则化效果。
2022-09-11 cs.CV cs.LG cs.MA
PiERN: Token-Level Routing for Integrating High-Precision Computation and Reasoning
Peking University（北京大学）；Peking University Changsha Institute for Computing and Digital Economy（北京大学长沙计算与数字经济研究院）；Beihang University（北京航空航天大学）；Tsinghua University（清华大学）
PiERN通过内生整合计算能力，提升语言模型在复杂系统中的精度与效率，实现高准确性、低延迟和可扩展性。
2026-10-07 cs.CE cs.CL cs.LG
Precision Medicine Informatics: Principles, Prospects, and Challenges
Sejong University（世宗大学）；Kyung Hee University（庆熙大学）
精准医学（PM）是一种新兴的方法，它改变了现有的医疗实践模式。技术创新和遗传学方面的最新进展以及健康数据的日益可用性为研究设定了新的步伐，并对不同的利益攸关方提出了一系列新的要求。迄今为止，已有一些研究讨论了PM的不同方面。然而，在应用和挑战方面，被认为赋予技术视角的那些方面的整体表现大多被忽视。在此背景下，本文调查的进展，PM从信息学的观点和审查的使能工具和技术分类的方式。此外，该研究还讨论了如何利用包括大数据、人工智能和物联网在内的其他技术范式来提升PM的潜力。此外，本文提供了一些指导方针，为未来的研究无缝实施和大规模部署PM的基础上确定的开放问题和相关的挑战。为此，本文提出了一个整合的整体框架PM激励情报学研究人员设计他们的相关研究工作在适当的情况下。
2019-11-04 cs.AI cs.CY cs.LG
Dynamic Range Reduction via Branch-and-Bound
University of Bonn（波恩大学）
针对QUBO等问题的精度缩减需求，本文提出以动态范围为复杂度度量的分支定界算法，可降低精度需求，实验在真实量子退火机上验证了其有效性。
2025-09-04 cs.LG math.OC quant-ph
TORQUE: Optimizing What (not) to Quantize Before and After Rotation
University College London（伦敦大学学院）；Harvard University（哈佛大学）；VMware Research by Broadcom（博通旗下威睿研究院）
TORQUE通过联合优化旋转前后高精度保留的坐标数量与选择，在固定比特预算下改进随机旋转量化，实现更优的重建精度与存储成本权衡。
2026-09-30 cs.AI cs.IT cs.LG
Deployment-Aligned Low-Precision Neural Architecture Search for Spaceborne Edge AI
Sapienza University of Rome（萨皮恩扎罗马大学）；Φ \Phi -lab, ESA ESRIN（Φ实验室，欧洲航天局ESRIN）；University of Pisa（比萨大学）；Argotec Srl（Argotec公司）
本文提出一种部署对齐的低精度神经网络架构搜索方法，通过在训练和评估中引入FP16数值约束，实现架构效率与数值鲁棒性的联合优化，提升边缘AI在资源受限环境下的性能。
2026-04-27 cs.AI cs.CV cs.ET
AMPLE: Event-Driven Accelerator for Mixed-Precision Inference of Graph Neural Networks
Imperial College London（帝国理工学院）
针对现有FPGA加速器双缓冲机制未考虑图节点非规则分布的问题，提出事件驱动加速器AMPLE，采用混合精度量化和预取技术，在2K至700K节点数据集上实现比CPU和GPU分别快243倍和7.2倍的平均加速。
2025-02-28 cs.AI cs.AR cs.LG
Precision-Scalable Microscaling Datapaths with Optimized Reduction Tree for Efficient NPU Integration
本文提出了一种混合精度可扩展的缩减树用于MX MACs，以实现高效混合精度累积，并将其集成到SNAX平台中，提高了NPU的能效和吞吐量。
2025-11-09 cs.AI cs.AR cs.LG
