Approximate rational arithmetics and arbitrary precision computations
本文提出一种用户可控误差的近似有理算术，基于连分数展开进行舍入，并通过实验比较不同算术与舍入方法的效率与精度。
2001-01-18 cs.NA math.NA
On Stochastic Rounding with Few Random Bits
Graphcore Cambridge, UK（Graphcore剑桥）
本文研究了少位随机舍入（FBSR）的多种实现方式，发现部分自然实现会引入显著偏差，并探讨了这些偏差在机器学习中的影响，为低精度浮点计算提供了配置参数参考。
2025-04-29 cs.AI cs.LG cs.MS
On the influence of stochastic roundoff errors and their bias on the convergence of the gradient descent method with low-precision floating-point computation
Eindhoven University of Technology（埃因霍温理工大学）；Università di Pisa（比萨大学）
当在低精度下实现梯度下降方法时，采用随机舍入方案有助于防止由消失梯度效应引起的收敛停滞。无偏随机舍入通过保留与其相对大小成比例的概率的小更新来产生零偏差。该研究为梯度下降法在低精度计算中的停滞现象提供了理论解释。此外，我们提出了两个新的随机舍入方案，以更大的概率交易零偏置属性，以保持小梯度。我们的方法产生一个恒定的舍入偏差，平均而言，在于下降的方向。对于凸问题，我们证明了所提出的舍入方法通常对梯度下降的收敛速度有有益的影响。我们验证了我们的理论分析，通过比较性能的各种舍入方案时，优化多项逻辑回归模型和训练一个简单的神经网络与8位浮点格式。
2023-02-25 cs.LG cs.NA math.NA
What is New in Stochastic Rounding: a Survey on Theory, Hardware, and Applications
Sorbonne University, CNRS, LIP6（索邦大学）；University of Leeds（利兹大学）；Université de Rennes, Inria, CNRS, IRISA（雷恩大学）
本文综述随机舍入（SR），其在长度\(n\)求和中最坏情况误差以\(\sqrt{n}\)增长，优于标准舍入模式。介绍了SR的新研究进展，重点探讨有限精度随机舍入，为其在硬件中更广泛应用提供方向。
2026-07-07 cs.NA math.NA
Mixed-precision finite element kernels and assembly: Rounding error analysis and hardware acceleration
本文提出有限元单元核与组装的首个细粒度舍入误差分析，设计了独立于条件数等因素的硬件加速混合精度实现策略，并在Intel CPU上实现了AMX加速，速度较双精度提升60倍且精度优于全半精度。
2024-10-16 cs.AR cs.MS cs.NA
Improved stochastic rounding
Eindhoven University of Technology（埃因霍温理工大学）
由于浮点或定点运算中的位数有限，舍入是许多计算中的必要步骤。虽然舍入方法可以针对不同的应用进行调整，但舍入误差通常是不可避免的。当执行一系列计算时，可能会放大或累积舍入误差。舍入误差的放大可能导致严重的故障。随机舍入（SR）是一种无偏舍入方法，广泛应用于神经网络（NN）训练等领域，即使在低精度计算中也有良好的训练效果。尽管在训练神经网络中使用随机共振的情况不断增加，但随机共振的误差分析仍有待改进。此外，SR的无偏舍入结果总是伴随着大的方差。在这项研究中，SR的一些一般性质的陈述和证明。此外，引入并验证了舍入方差的上界。通过求解多目标最优化问题，提出了两种新的随机共振的概率分布，研究了方差和偏差之间的权衡。在仿真研究中，研究了在特定舍入精度下，求和、牛顿迭代平方根计算和内积计算等不同操作下SR的舍入方差、偏差和相对误差。
2020-05-31 cs.LG cs.NA math.NA
Algebraic error analysis for mixed-precision multigrid solvers
本文建立了第一个理论框架，分析舍入误差的多重网格方法使用混合精度迭代细化求解器的影响。虽然由离散线性椭圆偏微分方程产生的稀疏对称正定（SPD）矩阵方程激发，但该框架是纯代数的，因此它适用于不一定来自连续统的矩阵。基于所谓的能量或$A$范数，这是自然规范的许多问题，涉及SPD矩阵，我们提供了一个规范的向前误差分析，并介绍了渐进精度的多重网格求解器的概念。多重网格层次结构的每一级都使用三种不同的精度，每一种精度都随着级别的精细度而增加，但以不同的速率增加，从而确保大部分计算使用尽可能低的精度。在这里开发的理论结果的能量规范显着不同，从以前的理论基础上的欧几里德规范的重要方式。特别是，我们表明，简单地四舍五入一个确切的结果，有限的精度会导致错误的能量范数，是成比例的平方根的$κ$，相关的矩阵条件数。(By相反，当以欧几里德范数测量时，该误差为$1$阶。）鉴于这一观察，我们表明，V-周期和完整的多重网格的限制精度是最佳的意义上说，它也是成比例的$κ^{1/2}$的能量。此外，我们表明，由于四舍五入的收敛速度的损失成比例增长的$κ^{1/2}$，但认为这种损失是微不足道的，在实践中。本文的理论是第一次在迭代加密能量范数下的向前误差分析，也是第一次一般意义上的多重网格舍入误差分析。
2020-07-13 cs.NA math.NA
Stochastic Rounding 2.0, with a View towards Complexity Analysis
本文探讨了Stochastic Rounding（SR）作为一种概率舍入模式在大规模计算和低精度算术中的有效性，其通过促进误差抵消减缓误差增长，并主张将其作为算法复杂度分析的基础工具，同时提出了多个研究方向。
2024-10-14 cs.DS cs.NA math.NA
Precision Arithmetic: A New Floating-Point Arithmetic
本文提出一种新的确定性浮点算术——精确算术，通过新颖舍入方案和基于统计的误差跟踪，在正常使用中比区间算术更紧地跟踪和界定不确定性。
2014-04-12 cs.DM cs.DS cs.NA
On the Convergence of the Gradient Descent Method with Stochastic Fixed-point Rounding Errors under the Polyak-Lojasiewicz Inequality
Eindhoven University of Technology（埃因霍温理工大学）；Università di Pisa（比萨大学）
本文证明在Polyak-Lojasiewicz条件下，有偏随机舍入误差可消除梯度消失并引导下降，且收敛速率上界优于无偏随机舍入，实验验证了理论。
2025-01-18 cs.LG cs.NA math.NA
Statistical Rounding Error Analysis for Random Matrix Computations
本文提出了一种针对随机矩阵计算的统计舍入误差分析方法，通过假设相对误差为独立随机变量推导出期望和方差的近似闭式表达式，数值实验表明其比传统最坏情况界限至少紧致两个数量级。
2025-11-01 cs.NA math.NA
A Probabilistic Approach to Floating-Point Arithmetic
高精度浮点运算必然会引入舍入误差，传统上使用最坏情况分析来限制舍入误差。然而，最坏情况分析可能过于保守，因为最坏情况错误在实践中可能非常罕见。在这里，我们开发了一个概率模型的舍入误差，它变得有可能估计的可能性，舍入误差的算法位于一个给定的区间内。给定一个输入分布，我们展示了如何计算舍入误差的分布。对于低精度的算术，我们这样做，对于高精度的算术，我们得到一个简单的近似。然后，该模型是完全组合的：给定一个用简单的命令式编程语言编写的数值程序，我们可以递归地计算每一步计算中的舍入误差分布，并将其传播到每个程序指令。这是通过应用最初由Kozen开发的形式主义来形式化概率程序的语义。然后，我们讨论了该模型的实现，并使用它来执行概率范围分析的一些基准。
2019-12-10 cs.NA cs.PL math.NA
A mixed precision preconditioned Jacobi method for the symmetric eigenvalue problem
针对对称特征值问题，提出混合精度预条件雅可比方法，结合低精度特征分解与高精度正交化生成初始猜测，完成误差分析并拓展至奇异值问题，实验验证其效率优于原始雅可比方法。
2025-02-24 cs.NA math.NA
The Influence of the Cluster Point on Rounding Errors and Sensitivity in the Spectral Limited-Memory Preconditioner
Eindhoven University of Technology（埃因霍温理工大学）
本文研究谱有限记忆预条件器中簇点选择对舍入误差和敏感性的影响，提出加权中位数和加权算术平均最小化误差界，并强调有限精度下需综合考虑收敛、误差和谱信息不准确性。
2026-09-24 cs.NA math.NA
Rounding-Error Analysis of Multigrid V-Cycles
本文基于浮点运算分析了在粗化前后各执行一次松弛步的两重网格方法的舍入误差，该理论可推广至一般的 $V(μ,ν)$-cycles、full multigrid (FMG) 及混合精度迭代求精 (IR)，且推导方式更简洁透明。
2023-07-01 cs.NA math.NA
Function Approximation in Numerically Rank-Deficient Bases
KU Leuven（荷语鲁汶大学）
本文研究了在有限基下进行线性函数逼近的数值稳定性问题，提出数值跨度的概念并证明了正则化在逼近中的作用，同时探讨了正则化在随机采样中的应用及对函数离散化的影响。
2026-03-16 cs.NA math.NA
Finite-Precision Symmetric Krylov Methods: Exact Rounding Examples, Block Paige Identities,and a Variable-Block Lanczos Model
本文研究有限精度下对称 Krylov 方法的数值分歧，通过精确舍入示例和块 Paige 恒等式，提出变块 Lanczos 模型，并给出精度界和收敛性分析。
2026-09-09 cs.NA math.NA
The limits of quantum circuit simulation with low precision arithmetic
研究了薛定谔公式和低精度算法模拟量子线路的局限性。目标是估计在涉及随机的、最大纠缠的量子态的模拟中可以节省多少内存。为每个量子幅度定义了$B$位的算术极坐标表示，并开发了归一化过程以最小化舍入误差。然后建立了一个模型来量化$Q$量子位和$G$门电路上的累积误差。取决于该制度的电路操作，该模型产生明确的表达式，可以模拟舍入误差之前，占主导地位的计算的最大数量的有效门。结果与随机电路和量子傅里叶变换说明。
2020-07-27 cs.NA math.NA quant-ph
A quantitative investigation into the accumulation of rounding errors in the numerical solution of ODEs
通过理论分析和数值实验，研究了确定性ODE求解器中舍入误差的随机性积累及其对长期解发散行为的影响。
2005-12-15 cs.NA math.NA math.PR
Satire: Computing Rigorous Bounds for Floating-Point Rounding Error in Mixed-Precision Loop-Free Programs
本文提出工具Satire，通过抽象引导优化和全局误差分析，为含条件语句与混合精度算术的无循环程序计算严格浮点舍入误差界限，并展示其在共轭梯度求解器设计中的应用。
2025-03-07 cs.NA cs.PL cs.SC
On the robustness of double-word addition algorithms
该研究证明QD库中的双字加法算法在输入适度重叠时仍有稳定误差界，可简化双字乘加运算步骤以近翻倍提升性能且精度损失极小，还验证了其在有向舍入下的特性及与Sterbenz引理的关联，表明算法鲁棒性优于此前认知。
2024-04-10 cs.NA math.NA
Analyzing the effect of local rounding error propagation on the maximal attainable accuracy of the pipelined Conjugate Gradient method
University of Antwerp（安特卫普大学）；Istanbul Kemerburgaz University（伊斯坦布尔凯梅尔巴扎大学）；Inria Bordeaux - Sud-Ouest（法国国家信息与自动化研究所波尔多西南中心）
本文研究了流水线共轭梯度方法中局部舍入误差对最大可实现精度的影响，提出自动残差替换策略以提升精度并保持并行性能。
2017-11-29 cs.NA math.NA
Mixed-precision iterative refinement for low-rank Lyapunov equations
Max Planck Institute for Dynamics of Complex Technical Systems（马克斯·普朗克复杂技术系统动力学研究所）
本文提出一种混合精度迭代精炼框架，用于求解低秩李雅普诺夫矩阵方程，通过误差分析确定不同精度设置下的残差条件，展示如何选择算法参数以提高求解效率。
2026-11-03 cs.NA math.NA
Numerical Calculation With Arbitrary Precision
Universidade do Estado do Rio de Janeiro（里约热内卢州立大学）
针对计算机有限精度导致截断和舍入误差的问题，开发了一个提供任意精度数值和计算的软件包，以最小化此类误差。
2007-07-11 cs.MS cs.NA math.NA
Computing accurate eigenvalues using a mixed-precision Jacobi algorithm
University of Manchester（曼彻斯特大学）
本文提出了一种混合精度Jacobi算法，通过低精度预处理和高精度计算提高特征值计算的精度，并验证了其有效性。
2025-08-18 cs.NA math.NA
Running error bounds in finite element kernels
University of Luxembourg（卢森堡大学）；Basque Center for Applied Mathematics（巴斯克应用数学中心）；Ikerbasque（伊克拉巴斯科基金会）；University of the Basque Country（巴斯克大学）
本文提出首个基于运行误差分析的有限元内核自动化舍入误差估计框架，并开源实现，可检测灾难性抵消，性能开销仅2-4倍，适用于低精度计算与PDE调试。
2026-09-30 cs.MS cs.NA math.NA
Single-pass Nyström approximation in mixed precision
该研究针对半正定矩阵的单遍Nyström低秩逼近问题，开展双精度舍入误差分析，提出低精度选择启发式方法，还可构建共轭梯度法的低成本预处理器，数值实验验证了混合精度方法的实用性。
2023-07-21 cs.NA math.NA
Mixed Precision Iterative Refinement with Sparse Approximate Inverse Preconditioning
随着混合精度硬件的商业化，基于混合精度GMRES的迭代精化方案已经成为求解稀疏线性系的流行方法。然而，这些方法的现有分析是基于使用全LU分解来构建在GMRES中在每个细化步骤中使用的预条件。在实际应用中，不精确的预处理技术，如不完全LU或稀疏近似逆，经常被用于性能的原因。在这项工作中，我们研究了使用稀疏近似逆预条件的基础上Frobenius范数最小化基于GMRES的迭代细化。我们分析了有限精度的稀疏近似逆的计算，并推导出满足用户指定的停止准则的约束条件。然后，我们分析的行为和收敛约束的五精度GMRES为基础的迭代加细计划，使用稀疏近似逆预处理，我们称之为SPAI-GMRES-IR。我们的数值实验证实了理论分析，并说明预处理稀疏和GMRES-IR收敛速度之间的权衡。
2022-08-31 cs.NA math.NA
pychop: Emulating Low-Precision Arithmetic in Numerical Methods and Neural Networks
Department of Numerical Mathematics, Charles University（数值数学系，查尔斯大学）；LIP6, Sorbonne Université, CNRS（LIP6，索邦大学，CNRS）
Pychop通过提供低精度算术模拟工具，支持神经网络和数值方法中的高效混合精度算法研究与应用。
2026-08-26 cs.LG cs.NA math.NA
A nested MLMC framework for efficient simulations on FPGAs
本文提出一种嵌套MLMC框架，通过在FPGA上使用低精度计算（近似随机变量、定点运算及优化精度）生成SDE路径，结合舍入误差模型优化变量位宽，实现比现有混合精度MLMC框架更高的计算成本节省。
2025-02-10 cs.NA math.NA q-fin.CP
LRAMM -- Low precision approximates GEMM via RSVD
提出LRAMM算法，结合混合精度量化矩阵乘法与RSVD及低秩分解技术，在低精度误差范围内提升矩阵乘法计算效率。
2024-05-27 cs.NA cs.PF math.NA
FPScan: An Automated Constraint-Based Analyzer for Floating-Point Anomaly Detection
Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse（ENAC ISAE-SUPAERO ONERA 联合会，图卢兹大学）
FPScan是一种基于约束的自动化分析工具，通过静态分析和SMT求解，检测浮点程序中的灾难性抵消与吸收异常，并在FPBench基准上验证了有效性。
2026-09-09 cs.NA cs.SE math.NA
