Low-rank tensor product Richardson iteration for radiative transfer in plane-parallel geometry
本文针对平面平行几何辐射传输方程,提出低秩张量积框架,利用Kronecker积和预条件Richardson迭代,实现维度问题的有效求解与误差秩控制。
2025-05-27 cs.NA math.NA
D-iteration based asynchronous distributed computation
Alcatel-Lucent Bell Labs(阿尔卡特-朗讯贝尔实验室)
本文通过简单示例解释D-迭代方法如何用于高效的异步分布式计算。
2012-02-14 cs.DC cs.NA math.NA
Transformers Can Implement Preconditioned Richardson Iteration for In-Context Gaussian Kernel Regression
Department of Mathematics, University of California, Santa Barbara, CA(加州大学圣芭芭拉分校数学系)
本文研究了上下文核岭回归,证明标准softmax注意力transformer可通过预条件Richardson迭代近似高斯核回归预测器,展示了transformer架构中的功能分解。
2026-09-28 cs.AI cs.LG cs.NA
Residual, restarting and Richardson iteration for the matrix exponential, revised
University of Twente(特温特大学)
针对矩阵指数迭代计算中缺乏公认残差定义的问题,提出基于常微分方程初值问题的残差概念,并展示其在多种迭代方法中的高效计算方式,同时利用该残差构建新的迭代方法,包括用于重启Krylov子空间方法的Richardson变体。
2011-12-23 cs.CE cs.NA math.NA
Convergence Analysis of An Alternating Nonlinear GMRES on Linear Systems
University of Houston(休斯顿大学)
本研究提出用于线性系统的交替非线性GMRES算法aNGMRES(m,p),证明其与GMRES的周期等价性,分析收敛特性,该算法无需每步解最小二乘问题,成本更低且抗停滞鲁棒性更强。
2025-10-29 cs.NA math.NA
Asynchronous iterations of HSS method for non-Hermitian linear systems
本文提出一种异步交替迭代模型,适用于HSS方法,理论保证收敛性,实验表明在非Hermitian系统上比GMRES和标准HSS显著节省执行时间。
2023-12-27 cs.DC cs.NA math.NA
More Iterations per Second, Same Quality -- Why Asynchronous Algorithms may Drastically Outperform Traditional Ones
Department of Mathematics, University of California, Los Angeles(加州大学洛杉矶分校数学系)
本文研究了异步并行算法ARock的收敛性,证明在大规模问题中,异步算法所需的额外迭代次数可忽略,从而证明其在分布式计算中的潜力。
2017-08-17 cs.DC cs.NA math.NA
Asynchronous parareal time discretization for partial differential equations
在高性能计算平台上,异步迭代越来越多地被用于扩展和容错目的。虽然到目前为止,他们已经专门应用于空间域分解框架,本文主张一个新的应用方向,针对时间分解的时间并行方法。具体地说,异步迭代模型推导出的Parareal计划,然后进行收敛性和加速比分析。事实证明,Parareal和Pararec Parareal具有非常接近的收敛条件,渐近等价,包括有限时间终止属性。基于一个计算成本模型,知道不稳定的通信延迟,我们的加速比分析显示了潜在的性能增益异步迭代,这是证实了一些实验情况下的热演化的同质超级计算机。这一主要工作清楚地表明了异步迭代可能带来的进一步好处。
2021-10-20 cs.DC cs.NA math.NA
Convergence of the D-iteration algorithm: convergence rate and asynchronous distributed scheme
Alcatel-Lucent Bell Labs(阿尔卡特朗讯贝尔实验室);INRIA(法国国家信息与自动化研究所)
本文定义正矩阵扩散算子的通用框架,通过向量条目级分解矩阵-向量乘积,证明并改进了矩阵迭代方案中不动点问题的收敛性,包括分布式计算场景。
2013-01-14 cs.DC cs.NA math.NA
D-iteration: Evaluation of the Asynchronous Distributed Computation
Alcatel-Lucent Bell Labs(阿尔卡特-朗讯贝尔实验室)
本文评估了基于流体扩散的D-迭代方法在异步分布式计算中的性能,实验表明该方法在K台虚拟机上可实现内存线性减少和计算速度几乎线性提升。
2012-02-28 cs.DC cs.NA math.NA
DFPI, A unified framework for deflated linear solvers: bridging the gap between Krylov subspace methods and Fixed-Point Iterations
本文提出统一框架DFPI,融合降阶技术与不动点迭代,弥合Krylov子空间方法与Richardson迭代的鸿沟,统一多种加速技术,并给出收敛性分析及CFD数值验证。
2025-02-27 cs.NA math.NA
Fault Tolerance of Accelerated Asynchronous Fixed-Point Iterations on Flexible Computing Infrastructure
University of Mary Washington(玛丽华盛顿大学);Old Dominion University(老道明大学)
研究异步迭代中收敛加速器(如Anderson加速)对掉队处理器引起的收敛退化的补偿效果,发现加速器在评估级扰动下有效,在迭代级损坏下失效。
2026-05-27 cs.DC cs.NA math.NA
Resilient asynchronous primal Schur method
本文提出一种基于异步迭代的原始Schur域分解方法,设计松弛方案并证明在谱半径条件下收敛,数值实验表明在节点故障时优于共轭梯度法。
2023-12-22 cs.NA math.NA
Efficient deconvolution methods for astronomical imaging: algorithms and IDL-GPU codes
Università di Modena e Reggio Emilia(摩德纳和雷焦艾米利亚大学);Università di Genova(热那亚大学)
本文应用缩放梯度投影方法到天文成像问题,提出比Richardson-Lucy方法效率高4到30倍以上的算法,并实现IDL和GPU并行加速。
2012-10-09 astro-ph.IM cs.NA math.NA
An Uncertainty-Weighted Asynchronous ADMM Method for Parallel PDE Parameter Estimation
Emory University(埃默里大学)
本文提出了一种不确定性加权异步ADMM方法,用于解决大规模PDE参数估计问题,通过异步并行处理和数据分片,提高了早期迭代的收敛速度,并在多源和多物理场PDE参数估计中表现出色。
2019-04-30 cs.NA math.NA
Asynchronous global-local non-invasive coupling for linear elliptic problems
本文介绍了第一个异步版本的全球/本地非侵入性耦合,能够有效地处理多个,可能相邻的补丁。我们给出了一个新的解释的耦合的原始区域分解方法,我们证明了放松异步迭代的收敛性。异步范例解除了全局/局部耦合性能的许多瓶颈。我们举例说明的方法在热和弹性研究中遇到的几个线性椭圆问题。
2022-11-23 cs.DC cs.NA math.NA
Supremum-Norm Convergence for Step-Asynchronous Successive Overrelaxation on M-matrices
研究步异步超松弛法在M矩阵上的收敛性,证明其能以几何速率减小误差的w-范数,并展示如何通过选择合适的w向量来估计绝对误差的上界。
2014-04-12 cs.DS cs.NA math.NA
On the Convergence of Asynchronous Parallel Iteration with Unbounded Delays
Rensselaer Polytechnic Institute(伦斯勒理工学院);Michigan State University(密歇根州立大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文从概率角度分析了异步并行方法在无界延迟下的收敛性,给出了依赖延迟统计的显式步长公式,并通过实验验证了理论模型的正确性,展示了传统最大延迟诱导步长过于保守的问题。
2017-11-15 cs.DC cs.NA math.NA
Convergence analysis of a family of Zermelo-type iterations for the Bradley--Terry model
The Hong Kong Polytechnic University(香港理工大学);University of Kentucky(肯塔基大学)
研究布拉德利 - 特里模型中策梅洛型迭代的收敛性,通过推导同步和异步更新下局部收敛因子的闭式表达式及谱分析,发现异步更新时α = 0最优,其加速不仅因参数选择,更因异步更新,数值实验证实理论。
2026-07-27 cs.LG cs.NA math.NA
On the equivalence between the Scheduled Relaxation Jacobi method and Richardson's non-stationary method
Universidad de Valencia(瓦伦西亚大学)
本文通过分析调度松弛雅可比方法与里德伯格非平稳方法的等价性,提出了一种优化松弛因子的计算方法,该方法通过计算最大和最小频率代替矩阵A的特征值计算,从而加速收敛并提高并行效率。
2016-07-13 astro-ph.HE cs.NA math.NA