A cross-product free Jacobi-Davidson type method for computing a partial generalized singular value decomposition (GSVD) of a large matrix pair
提出了一种计算大型正则矩阵对$(A,B)$的部分广义奇异值分解（GSVD）的无向量积（CPF）Jacobi-Davidson（JD）方法.它隐式地解决了$(A^TA,B^TB)$的数学等价的广义本征值问题，但没有显式地形成向量积矩阵，从而避免了计算广义奇异值和广义奇异向量可能带来的精度损失.该方法是一种内-外迭代方法，其中右搜索子空间的扩展形成近似求解所涉及的校正方程的内迭代，而外迭代提取关于子空间的近似GSVD分量。建立了内迭代和外迭代的收敛性结果，并根据这些结果设计了内迭代的实用停止准则。提出了一种带收缩的厚重启动CPF-JDGSVD算法，用于计算多个GSVD分量。数值实验验证了算法的有效性。
2021-03-09 cs.NA math.NA
Policy iteration for nonconvex viscous Hamilton--Jacobi equations
本文使用时空离散格式研究了非凸粘性 Hamilton--Jacobi 方程的策略迭代收敛速率，分析了不可控扩散项情形，并获得了指数收敛结果与离散化误差分析。
2025-03-04 cs.NA math.AP math.NA
A Jacobi-Type Eigensolver for Diagonally Dominant Symmetric Matrices
Università di Pisa（比萨大学）
提出一种Jacobi型迭代方法计算对称矩阵的指定特征对，对于一类对角占优矩阵，该方法以线性速率收敛，每次迭代成本为二次，从而在二次时间内逼近所需特征对。
2026-06-26 cs.NA math.NA
Generalized Jacobi Method for Computing Eigenvalues of Dual Quaternion Hermitian Matrices
本文将雅可比方法推广用于计算对偶四元数埃尔米特矩阵的所有特征对，提出带消元策略的改进版及针对特定特征值的三步雅可比方法，证明了收敛性与有限终止性，实验表明算法有效稳定且优于幂法和瑞利商迭代法。
2024-06-25 cs.NA math.NA
On Inner Iterations in the Shift-Invert Residual Arnoldi Method and the Jacobi--Davidson Method
Tsinghua University（清华大学）
本文通过新的分析框架，建立了移位反演残差Arnoldi (SIRA) 方法计算给定目标σ最近简单特征值及特征向量的通用收敛理论，并推广到Jacobi-Davidson (JD) 方法，证明了低精度内迭代下外迭代次数与精确方法几乎相同，设计了实用内迭代停止准则。
2015-03-16 cs.NA math.NA
Hierarchical Jacobi Iteration for Structured Matrices on GPUs using Shared Memory
对物理现象进行建模的高保真科学模拟通常需要求解大型线性方程组，这些方程组是通过某种数值方法对偏微分方程（PDE）进行离散化而得到的。这一步通常需要大量的计算时间来完成，因此在模拟工作中存在瓶颈。有效地求解这些线性系统需要使用具有高计算吞吐量的大规模并行硬件，以及开发尊重这些硬件体系结构的存储层次结构以实现高内存带宽的算法。在本文中，我们提出了一种算法，以加速Jacobi迭代解决结构化问题的图形处理单元（GPU）使用层次化的方法，在片上共享存储器内进行多次迭代，每个周期。采用了区域分解的方式，将问题域划分为多个子域，将子域的数据复制到每个GPU块的共享内存中。Jacobi迭代在每个块的共享内存内部执行，避免了每一步都需要执行昂贵的全局内存访问。我们测试我们的算法的线性系统所产生的离散化的泊松方程在1D和2D，并观察加速收敛，使用我们的共享内存的方法相比，传统的Jacobi实现，只使用全局内存的GPU。我们观察到的x8加速收敛的1D问题和近x6加速在2D的情况下，从使用共享内存相比，传统的GPU方法。
2020-06-30 cs.MS cs.NA math.NA
A Mixed Precision Eigensolver Based on the Jacobi Algorithm
本文提出一种结合单精度近似特征分解、Newton–Schulz 正交化和逐行循环 Jacobi 迭代的混合精度谱分解算法，可在双精度下以约30%的耗时更快收敛。
2025-08-30 cs.NA math.NA
New Jacobi--Davidson type methods for the large SVD computations
Soochow University（苏州大学）；Tsinghua University（清华大学）
本文提出了一种改进的JDSVD方法，通过优化校正方程求解提高效率，显著提升大规模SVD计算性能。
2026-02-15 cs.NA math.NA
Hamilton-Jacobi Based Policy-Iteration via Deep Operator Learning
Chung-Ang University（中央大学）；SeoulTech（首尔科技大学）
本文将 DeepONet 与策略迭代结合求解最优控制及 HJB 方程，实现对不同终端函数的快速推断，并通过粘性解比较原理分析精度，在 10 维 LQR 等算例中验证有效性。
2024-06-16 cs.AI cs.LG cs.NA
Fast Nonoverlapping Block Jacobi Method for the Dual Rudin--Osher--Fatemi Model
本文研究了Rudin-Osher-Fatemi~（ROF）模型的非重叠区域分解方法。将图像域划分为矩形子区域，并行求解子区域内的局部问题。局部问题可以采用ROF模型的现有最先进的求解器。我们表明，非重叠松弛块Jacobi方法的ROF模型的对偶制定的能量泛函的$O(1/n)$收敛速度，其中$n$是迭代次数。此外，通过利用该方法的前向后分裂结构，我们提出了一个加速版本，其收敛速度为$O(1/n^2)$。该方法在理论上和实际应用中都比现有的区域分解方法收敛得更快，而每次迭代的主要计算量保持不变。我们还提供了块Jacobi方法的收敛速度对图像大小和子域数的依赖性。与现有的方法进行比较的数值结果。
2019-08-04 cs.NA math.NA
Note: interpreting iterative methods convergence with diffusion point of view
Alcatel-Lucent Bell Labs（阿尔卡特-朗讯贝尔实验室）
本文通过流体扩散视角解释线性不动点问题中不同迭代方案的收敛速度，有助于理解幂迭代或Jacobi迭代为何比Gauss-Seidel迭代收敛更快或更慢。
2013-04-05 cs.NA math.NA
On the convergence of Jacobi-type algorithms for Independent Component Analysis
实（或复）对称张量同时对角化的Jacobi型算法由于其良好的性能而被广泛应用于独立分量分析（ICA）中。在Jacobi型算法中，选择索引对的一种自然方式是经典的循环排序，而另一种方式是基于每次迭代中的黎曼梯度。本文主要以一种通俗易懂的方式回顾了我们最近在一系列关于Jacobi型算法的弱收敛性和整体收敛性的文章中所得到的结果。这些结果主要基于Lojasiewicz梯度不等式。
2020-06-15 cs.NA math.NA
Policy Iteration for Stationary Discounted Hamilton--Jacobi--Bellman Equations: A Viscosity Approach
Gachon University（嘉泉大学）；Yonsei University（延世大学）
本文提出了一种针对 stationary 折扣 HJB 方程的策略迭代方法，通过引入人工粘性阶 O(h) 的空间离散方案，恢复了比较性并保证了单调性，实现了几何收敛到唯一解，并推导了误差分解与非平凡耦合机制。
2026-09-16 cs.NA math.NA math.OC
Solving nonconvex Hamilton--Jacobi--Isaacs equations with PINN-based policy iteration
National Institute for Mathematical Sciences（数学科学研究院）；Department of Applied Artificial Intelligence（应用人工智能系）
本文提出结合PINN与策略迭代的无网格框架，可求解高维非凸HJI方程，在两类数值实验中表现优于直接PINN求解器，具理论依据与应用潜力。
2026-08-19 cs.AI cs.NA math.AP
Monotone Neural Policy Iteration for High-Dimensional First-Order Hamilton--Jacobi--Bellman Equations
Seoul National University of Science and Technology（首尔科学技术大学）；POSTECH；Gachon University（成均馆大学）
本文提出稳定神经HJB求解器，通过混合方法分析误差并应用于强化学习，验证了求解器在模型误差和策略不匹配下的稳定性。
2026-09-11 cs.AI cs.LG cs.NA
Fine numerical analysis of the crack-tip position for a Mumford-Shah minimizer
本文提出一种确定Mumford-Shah泛函极小解裂纹位置的新算法，利用复变函数映射将自由不连续问题转化为新的自由边界问题，并采用改进的迭代方法高效求解。
2015-11-24 cs.NA math.NA
Convergence of Adaptive Filtered Schemes for First Order Evolutionary Hamilton-Jacobi Equations
本文考虑了一阶不定常Hamilton-Jacobi方程的一类“过滤”格式，并证明了这类格式的一个一般收敛性结果。根据滤波函数$F$混合高阶方案和单调方案获得典型的滤波方案，该滤波函数决定方案必须从一个方案切换到另一个方案的位置。对于每次迭代$n$，当时间和空间步长$(Δt,Δx)$变为0时，参数$\varepsilon=\varepsilon({Δt,Δx})>0$变为0，并且不依赖于时间$t_n$，该参数对该切换起关键作用。在代码中调整这个参数是相当微妙的，并对过滤方案的全局精度有影响。在这里，我们介绍了一个自适应和自动选择的$\varepsilon=\varepsilon ^n (Δt, Δx)$在每次迭代修改经典的设置。自适应性由平滑度指示器控制，该平滑度指示器选择我们修改规律性阈值$\varepsilon^n$的区域。证明了新的自适应滤波方案的收敛性结果和一些误差估计，这种分析依赖于该方案和平滑指标的性质。最后，我们给出了一些数值试验，比较自适应滤波方案与其他方法。
2020-01-29 cs.NA math.NA
Solving high-dimensional Hamilton-Jacobi-Bellman equation with functional hierarchical tensor
本文提出一种基于泛函分层张量拟设的数值方案，通过结合 Bellman 一致性误差与 Sobolev 惩罚项的回归方法及草图绘制子程序，有效解决了布朗运动下随机控制中的高维 Hamilton-Jacobi-Bellman 方程，并加速了值函数近似的收敛。
2025-06-28 cs.NA math.NA
Convergence analysis of a polyenergetic SART algorithm
Oregon State University（俄勒冈州立大学）
本文分析了多能SART算法的收敛性，通过计算迭代的雅可比矩阵，发现其收敛性不保证，但实际应用中可能收敛于与SART相近的速度。
2015-05-12 cs.NA math.NA
Splitting Schemes for Coupled Differential Equations: Block Schur-Based Approaches and Partial Jacobi Approximation
本研究针对耦合多物理场问题求解成本高、迭代易发散的问题，提出基于近似Schur补的部分雅可比松弛分裂格式，推导收敛条件，经一维、二维数值测试验证了方法有效性，且结果可推广至非线性高维问题。
2023-11-06 cs.NA math.NA physics.comp-ph
Physics-Informed Policy Iteration for High-Dimensional Hamilton--Jacobi--Bellman Equations: Interior Error Bounds without Boundary Data
该研究提出无边界数据的物理信息策略迭代方法求解高维HJB方程，推导内部误差界，在多个控制问题上验证其有效性，同时揭示局限性并给出保障措施。
2026-08-11 cs.CE cs.LG cs.NA
Convergence of a Jacobi-type method for the approximate orthogonal tensor diagonalization
本文提出一种 Jacobi 型算法，通过迭代优化子张量对角元素平方和，实现三阶张量的近似正交对角化，并证明其收敛性，可推广至高阶张量。
2022-07-29 cs.NA math.NA
A data driven heuristic for rapid convergence of Scheduled Relaxation Jacobi schemes
调度松弛雅可比（SRJ）方法是求解椭圆型偏微分方程（PDE）的一种可行的高性能线性求解器。该方法通过在算法的每个循环中应用一系列精心选择的$M$超松弛因子和欠松弛因子来有效地衰减解的误差，从而大大改善了标准Jacobi迭代的收敛性。在以前的工作中，最佳SRJ计划（套松弛因子）已被推导出加速收敛的椭圆偏微分方程的特定离散。在这项工作中，我们开发了一个家庭的SRJ计划，可以适用于解决椭圆型偏微分方程，无论具体的离散化。为了实现良好的收敛性，我们训练一种算法，根据将这些方案应用于一维泊松方程所收集的收敛数据，在线性求解过程的每个循环中选择该族中的哪种方案。自动选择启发式，是基于这一有限的数据被发现提供了良好的收敛范围广泛的问题。
2022-04-20 cs.NA math.NA
Transformers Can Implement Preconditioned Richardson Iteration for In-Context Gaussian Kernel Regression
Department of Mathematics, University of California, Santa Barbara, CA（加州大学圣芭芭拉分校数学系）
本文研究了上下文核岭回归，证明标准softmax注意力transformer可通过预条件Richardson迭代近似高斯核回归预测器，展示了transformer架构中的功能分解。
2026-09-28 cs.AI cs.LG cs.NA
A Generalized Alternating Anderson Acceleration Method
University of Houston（休斯顿大学）；Charles University（查理大学）
本文提出了一种通用的交替安德森加速方法，通过结合固定点迭代和安德森加速步骤，提高求解线性和非线性问题的效率。
2026-01-30 cs.NA math.NA
Jacobi-accelerated FFT-based solver for smooth high-contrast data
University of Freiburg（弗赖堡大学）；Czech Technical University in Prague（布拉格捷克理工大学）；Nantes Université, École Centrale Nantes（南特大学，中央理工学院南特分校）
本文提出了一种基于Jacobi加速的FFT求解器，用于解决具有光滑高对比数据的多尺度建模问题，显著提高了求解效率。
2026-02-17 cs.NA math.NA
Robust iterative method for symmetric quantum signal processing in all parameter regimes
针对对称QSP相位因子求解中的非线性、病态问题，提出实数算术重构与利用矩阵乘积态结构的新型Newton迭代法，实现全参数区间快速鲁棒收敛并集成于QSPPACK。
2023-07-24 cs.NA math.NA quant-ph
Convergence of implicit schemes for Hamilton-Jacobi-Bellman quasi-variational inequalities
University of Michigan（密歇根大学）；David R. Cheriton School of Computer Science, University of Waterloo（滑铁卢大学大卫R.切里顿计算机科学学院）
本文研究隐式方案对于Hamilton-Jacobi-Bellman拟变分不等式的收敛性，通过引入非局部一致性概念并采用Barles-Souganidis类型的分析方法，给出了严谨的收敛性证明，仅依赖于已知的比较原理，与干预算子的具体形式无关。
2026-09-09 cs.NA math.AP math.NA
Improved Convergence Factor of Windowed Anderson Acceleration for Symmetric Fixed-Point Iterations
本文针对对称不动点迭代的加窗安德森加速算法，首次证明其在线性对称算子及非线性对称雅可比场景下的收敛因子提升效果，并通过仿真和泰勒M估计实验验证了算法的优越性。
2025-07-31 cs.NA math.NA math.OC
The asymptotics of Wilkinson's shift iteration
本文研究Wilkinson移位迭代在简单谱Jacobi矩阵上的收敛速率，证明对无算术级数谱收敛为三次，并构造了收敛为二次的极限矩阵及初始条件集合的Cantor结构。
2006-09-05 cs.NA math.NA math.SP
Sparse online variational Bayesian regression
这项工作认为变分贝叶斯推断作为一个廉价的和可扩展的替代方案，完全贝叶斯方法的背景下，稀疏促进先验。特别是，考虑的先验产生的正态分布与广义逆高斯混合分布的尺度混合。这包括变分贝叶斯LASSO作为[65]中引入的贝叶斯LASSO的廉价且可扩展的替代方案。它还包括一个家庭的先验更强烈地促进稀疏。对于线性模型，该方法只需要迭代求解确定性最小二乘问题。此外，对于p个未知协变量，该方法可以精确地在线实现，每次迭代的计算成本为$O(p^3)$，存储器成本为$O(p^2)$-换句话说，每次迭代的成本与n无关，并且原则上可以考虑无限的数据。对于大的$p$的近似是能够实现有希望的结果，每次迭代的成本$O(p)$，在计算和存储器。超参数调整的策略也被认为是。该方法是实现真实和模拟数据。结果表明，性能的变量选择和不确定性量化的变贝叶斯LASSO可以媲美贝叶斯LASSO的问题，这是易于处理的方法，并为一小部分的成本。本方法在膝上型计算机上在不到30分钟内舒适地处理$n = 65536$、$p = 131073$，并且在一夜之间处理$n = 10^5$、$p = 2.1 \times 10^6$。
2021-12-22 cs.NA math.NA math.OC
Iterative Refinement for $\ell_p$-norm Regression
本文提出了改进的 $\ell_p$-回归算法，通过基于平滑 $\ell_p$-范数的迭代细化方案，在较少迭代次数内实现高精度求解，并可与图拉普拉斯求解器结合，显著提升了运行时间。
2019-01-21 cs.DS cs.NA math.NA
