Chiral rank-$k$ truncations for the multigrid preconditioner of Wilson fermions in lattice QCD
本文提出对Wilson费米子多重网格预条件子采用手征奇异值分解对测试向量进行秩-k截断，以改进延拓与限制矩阵的构造，并在两组不同格点配置上验证了该方法能提升线性方程组求解的收敛性。
2025-02-05 cs.NA hep-lat math.NA
A Direct Elliptic Solver Based on Hierarchically Low-rank Schur Complements
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出一种并行快速直接求解器，针对可压缩块三对角线性系统，通过循环缩减与分层矩阵运算的协同，实现O(N log²N)的计算复杂度和O(N logN)的内存占用，验证了其在Hierarchical Matrices基础上的性能与适用性。
2016-04-03 cs.NA math.NA
Note: low-rank tensor train completion with side information based on Riemannian optimization
我们认为，低秩张量训练完成问题时，额外的边信息的形式，包含模式- $k$光纤跨度的子空间。我们提出了一个基于黎曼优化的算法来解决这个问题。数值实验表明，该算法需要更少的已知条目，以恢复张量相比，标准的张量训练完成方法。
2020-06-23 cs.NA math.NA
Guarantees of Riemannian Optimization for Low Rank Matrix Recovery
University of California at Davis（加州大学戴维斯分校）；Hong Kong University of Science and Technology（香港科技大学）
本文研究了低秩矩阵恢复中黎曼优化算法的理论保证，通过将算法解释为子空间投影的迭代硬阈值算法，证明在受限等距常数条件下，黎曼梯度下降和重启黎曼共轭梯度算法能线性收敛至目标矩阵。
2016-04-09 cs.NA math.NA
A Geometric Multigrid Preconditioning Strategy for DPG System Matrices
Demkowicz和Gopalakrishnan [15，17]的不连续Petrov-Galerkin（DPG）方法保证了能量范数下解的最优性，并提供了几个便于自适应方案的特征。一个关键的问题，尚未回答一般-虽然有一些结果，泊松，例如-是如何最好地预处理的DPG系统矩阵，使迭代求解器可以用来解决大规模的问题。在本文中，我们详细介绍了预处理的DPG系统矩阵使用几何多重网格，我们已经实现了Camellia [26]的一部分，并通过数值实验证明其有效性的上下文中的几个变分公式。我们观察到，在我们的一些实验中，预条件的行为是紧密联系在一起的离散测试空间丰富。我们包括实验，涉及自适应网格与悬挂节点的盖子驱动的空腔流，证明了预条件可以应用在具有挑战性的问题的背景下。我们还包括一个可扩展性的研究表明，该方法-和我们的实现-规模以及许多MPI的行列。
2016-08-08 cs.CE cs.NA math.NA
Multilevel Adaptive-Rank Methods for Linear and Nonlinear Systems in the Hierarchical Tucker Format
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Sandia National Laboratories（桑迪亚国家实验室）
针对高维偏微分方程，提出多水平自适应秩迭代方法，通过扩展投影法实现灵活预条件、构建多水平预条件策略并集成到非精确牛顿框架中，实验表明该方法鲁棒且可扩展。
2026-06-23 cs.NA math.NA physics.comp-ph
Low-rank solutions to a class of parametrized systems using Riemannian optimization
Gran Sasso Science Institute（格兰萨索科学研究所）；Politecnico di Torino（都灵理工大学）
本文提出利用黎曼优化方法求解参数化系统的低秩近似，通过将参数化系统重新解释为优化问题的最优性条件，实现对固定秩矩阵的优化，适用于线性和非线性问题，通过理论分析和数值实验验证了方法的有效性。
2026-04-08 cs.NA math.NA
Implicit low-rank Riemannian schemes for the time integration of stiff partial differential equations
National Center for Theoretical Sciences（国家理论科学中心）；University of Geneva（日内瓦大学）
针对刚性非线性偏微分方程的低秩时间积分，提出两种隐式数值格式，采用预条件黎曼信赖域方法，避免了固定点迭代对时间步长的限制，并在Allen-Cahn和Fisher-KPP方程上验证了效率。
2023-05-19 cs.NA math.NA
Preconditioned low-rank Riemannian optimization for linear systems with tensor product structure
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Université de Genève（日内瓦大学）
本文提出基于低秩张量流形的预条件梯度方法，用于求解具有张量积结构的线性系统，通过比较不同方法的效率，展示所提的黎曼牛顿方案在运算成本高的情况下具有显著优势。
2015-08-12 cs.NA math.NA
Riemannian thresholding methods for row-sparse and low-rank matrix recovery
在本文中，我们提出了修改的迭代硬阈值（IHT）方法恢复联合行稀疏和低秩矩阵。特别是一个黎曼版本的IHT被认为是显着降低计算成本的梯度投影的情况下，秩一测量算子，这在盲反卷积的具体应用。实验结果表明，高斯和秩一测量接近最佳的恢复，自适应步长提供了至关重要的改善。对于稀疏性未知的特殊情况，导出了一种黎曼近似梯度法.
2022-09-30 cs.NA math.NA math.OC
Preconditioned Low-Rank Riemannian Optimization for Symmetric Positive Definite Linear Matrix Equations
University of Pavia（帕维亚大学）；EPFL（洛桑联邦理工学院）；University of Pisa（比萨大学）
针对多右端项形式的大规模对称正定线性矩阵方程，提出固定秩流形上的黎曼CG及多种预条件与秩自适应策略。
2024-12-03 cs.NA math.NA
A Riemannian Trust Region Method for the Canonical Tensor Rank Approximation Problem
Max-Planck-Institute for Mathematics in the Sciences（马普科学数学研究所）；KU Leuven（荷语鲁汶大学）
本文提出了一种基于黎曼几何的高斯-牛顿信任区域方法，用于解决小规模密集的规范张量秩近似问题，通过将约束集参数化为Segre流形的笛卡尔积，提出了一种新的retraction算子，并引入了热重启机制以提高优化效率。
2018-07-11 cs.NA math.NA
Four-Level Overlapping Schwarz as Multigrid Coarse Solver for Incompressible Non-Newtonian Flow in Complex Geometries
Technische Universität Bergakademie Freiberg（弗莱贝格工业大学）
针对复杂几何中多重网格粗问题过大的问题，提出递归应用两层 GDSW 构造的四层重叠 Schwarz 预条件子，并在挤出模具的 Carreau 非牛顿 Stokes 问题上验证其可扩展性。
2026-05-31 cs.NA math.NA
Low-rank Riemannian eigensolver for high-dimensional Hamiltonians
ETH Zurich（苏黎世联邦理工学院）；Seminar for Applied Mathematics, ETH Zurich（苏黎世联邦理工学院应用数学研讨会）；Marchuk Institute of Numerical Mathematics of the Russian Academy of Sciences（俄罗斯科学院马丘克数值数学研究所）；National Research University Higher School of Economics（国立高等经济大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）
该研究提出了一种低秩黎曼特征值求解器，用于高效求解高维哈密顿量的本征值问题，通过张量方法和矩阵积态表示实现多本征态的计算，并利用TensorFlow实现CPU和GPU并行化。
2018-11-27 cs.NA math.NA
The effect of approximate coarsest-level solves on the convergence of multigrid V-cycle methods
本文分析近似最粗层求解对对称正定问题多重网格V循环收敛性的影响，并推导停止准则，使近似求解保持接近精确求解的迭代效率。
2024-05-07 cs.NA math.NA
Riemannian Metric and Geometric Mean for Positive Semidefinite Matrices of Fixed Rank
University of Liège（列日大学）
本文针对固定秩半正定矩阵集合，提出一种基于黎曼商几何的新度量与均值，该度量具有测地完备性和不变性，并给出基于SVD的高效距离近似与保持秩的几何平均。
2009-10-21 cs.NA math.NA math.OC
Automatic differentiation for Riemannian optimization on low-rank matrix and tensor-train manifolds
Marchuk Institute of Numerical Mathematics of the Russian Academy of Sciences（俄罗斯科学院马尔丘克计算数学研究所）；HSE University（高等经济学院）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）
在科学计算和机器学习应用中，矩阵和更一般的多维数组（张量）通常可以在低秩分解的帮助下近似。由于固定秩的矩阵和张量形成光滑的黎曼流形，所以寻找低秩近似的流行工具之一是使用黎曼优化。然而，在黎曼优化算法中需要的黎曼梯度和海森的有效实现在实践中可能是一个不平凡的任务。此外，在某些情况下，甚至没有解析公式。在本文中，我们建立在自动微分，并提出了一种方法，给定的实现的功能，以最小化，有效地计算黎曼梯度和矩阵之间的近似黎曼海森和给定的向量向量的矢量产品。
2021-10-23 cs.LG cs.MS cs.NA
A Riemannian trust-region method for low-rank tensor completion
Universität Trier（特里尔大学）
本文提出了一种基于黎曼优化的低秩张量补全方法，通过Weingarten映射计算目标函数的黎曼Hessian，并分析了信任区域方法的收敛性及与现有方法的对比。
2017-03-29 cs.NA math.DG math.NA
Coarsening and parallelism with reduction multigrids for hyperbolic Boltzmann transport
针对双曲玻尔兹曼输运方程的约化多重网格并行化难题，提出并行双程CF分裂方法，结合粗网格重分区等优化策略，实现了优于hypre中ℓAIR的求解效率与良好弱缩放性能。
2024-08-15 cs.NA math.NA physics.comp-ph
Guarantees of Riemannian Optimization for Low Rank Matrix Completion
University of California at Davis（加州大学戴维斯分校）；Hong Kong University of Science and Technology（香港科技大学）
研究了低秩矩阵补全问题中嵌入黎曼流形上的优化方法，证明了在特定采样条件下，黎曼梯度下降和共轭梯度下降算法能线性收敛，且通过改进的初始化方法进一步降低了采样复杂度。
2016-04-09 cs.NA math.NA math.OC
Riemannian optimization on low-rank tensor train manifolds for the Gross-Pitaevskii equation
Université Lyon 1, Centrale Lyon, INSA Lyon, Université Jean Monnet, CNRS, ICJ UMR5208（里昂第一大学、中央里昂学院、里昂国立应用科学学院、让·莫内大学、法国国家科学研究中心、ICJ联合研究实验室）；HSE University（高等经济大学）
针对Gross-Pitaevskii基态计算，提出在固定TT秩单位范数流形上的一阶黎曼优化方法，保持质量约束与低秩，显著降低计算时间并保持精度。
2026-09-30 cs.NA math.NA math.OC
Riemannian optimization using three different metrics for Hermitian PSD fixed-rank constraints: an extended version
针对埃尔米特半正定固定秩约束的光滑优化问题，统一三种现有方法为带不同黎曼度量的商几何框架，以非线性共轭梯度法为例验证等价性，分析条件数差异并通过数值实验证明Burer--Monteiro方法在极小值点秩亏时收敛更慢。
2025-04-15 cs.NA math.NA math.OC
Two Newton methods on the manifold of fixed-rank matrices endowed with Riemannian quotient geometries
Université catholique de Louvain（天主教鲁汶大学）；Université Paul Sabatier（保罗·萨巴蒂尔大学）；University of Liège（列日大学）
本文考虑固定秩矩阵流形上的两种黎曼几何，通过黎曼淹没理论推导几何对象，并给出相应的黎曼牛顿方法，其收敛性分析优于欧几里得方法，计算开销小，适用于低秩矩阵补全等问题。
2012-09-01 cs.NA math.DG math.NA
A Riemannian rank-adaptive method for higher-order tensor completion in the tensor-train format
本文提出一种黎曼秩自适应方法（RRAM），通过黎曼共轭梯度算法在固定秩流形上优化并结合切锥下降方向与TT-rounding算法实现秩的自适应增减，有效解决了张量列车格式的低秩张量补全问题，且计算时间优于现有方法。
2024-02-19 cs.NA math.NA math.OC
Scalable Nuclear-norm Minimization by Subspace Pursuit Proximal Riemannian Gradient
The University of Adelaide（阿德莱德大学）；Charles Sturt University（查尔斯特大学）
本文提出一种基于子空间追求的近端黎曼梯度方法，用于高效求解核范数正则化问题，避免大秩SVD，提升矩阵补全和子空间聚类等任务的性能。
2015-03-18 cs.LG cs.NA math.NA
Low-Rank Tensor Completion using Tensor Train Decomposition via Riemannian Optimization on the Quotient Geometry
Tsinghua University（清华大学）；Hangzhou Dianzi University（杭州电子科技大学）；The Hong Kong Polytechnic University（香港理工大学）
利用张量列分解的左正交性质构造商流形，提出基于递归极分解和QR分解的两种回缩，并导出黎曼梯度下降和共轭梯度法，显著降低每块未知数，实现高效低秩张量补全。
2026-06-29 cs.NA math.NA math.OC
Fast Tensor Product Schwarz Smoothers for High-Order Discontinuous Galerkin Methods
在这篇文章中，我们讨论了高效的实现功能强大的区域分解光滑的多重网格方法的高阶间断伽辽金（DG）有限元法。特别是，我们分别研究了与网格单元和顶点周围的补丁相关的矩阵的求逆，以获得快速的局部求解器，用于加法和乘法子空间校正方法。利用微分算子的可分性，将$k$阶张量积多项式的局部矩阵求逆的工作从$\mathcal O(k^{3d})$减少到$\mathcal O(dk^{d+1})$，并将其逆的低秩表示作为更一般的低秩表示的原型.
2019-10-24 cs.NA math.NA
Riemannian Newton optimization methods for the symmetric tensor approximation problem
对称张量逼近问题（STA）由通过对称秩1张量或低对称秩线性形式的幂的线性组合来逼近对称张量或齐次多项式组成。本文提出了两种新的复系数对称张量低秩逼近的黎曼牛顿型方法.第一种方法利用权和单位向量对秩至多为$r$的张量集进行参数化.利用齐次多项式上非极性积的性质，结合复优化的有效工具，我们给出了一个显式的黎曼梯度和Hessian公式，导致具有局部平方收敛的牛顿迭代。我们证明了在初始点邻域内的非亏损张量上满足一定的正则性条件下，Newton迭代（用信赖域方法完成）收敛于局部极小值.第二种方法是Veronese流形上的笛卡儿积上的RiemannianGauss-Newton方法.描述了这种黎曼流形的切空间的一个显式正交基。我们推导出了黎曼梯度和黎曼Hessian的Gauss-Newton逼近。在Veronese流形上提出了一种新的收缩算子，并分析了这两种方法的数值行为，初始点由同时矩阵对角化（SMD）提供，数值实验表明这两种方法在不同情况下都具有良好的数值行为，并与现有的最先进的方法进行了比较.
2021-12-22 cs.NA math.NA math.OC
Fast Optimization Algorithm on Riemannian Manifolds and Its Application in Low-Rank Representation
Beijing Key Laboratory of Multimedia and Intelligent Technology（北京多媒体与智能技术重点实验室）；College of Metropolitan Transportation, Beijing University of Technology（北京理工大学城市交通学院）；School of Computing and Mathematics, Charles Sturt University（查尔斯·斯特劳特大学计算机与数学学院）
本文提出了一种具有快速收敛速度的新型一阶优化算法FOA，并在低秩表示模型中应用了基于FOA的快速子空间追踪方法，实验表明其在收敛速度和准确性方面优于其他方法。
2015-12-07 cs.CV cs.LG cs.NA
Solving systems of phaseless equations via Riemannian optimization with optimal sampling complexity
Hong Kong University of Science and Technology（香港科技大学）；Fudan University（复旦大学）
本文提出基于秩1正定矩阵嵌入流形的黎曼梯度下降算法及其截断变体，证明截断变体在方程数量与未知数数量成比例时能有效恢复解，且在理论和实验上均优于其他非凸优化方法。
2018-09-08 cs.NA math.NA
Low-rank tensor completion: a Riemannian manifold preconditioning approach
The University of Electro-Communications（电气通信大学）；Amazon Development Centre India（亚马逊印度开发中心）
本文提出了一种基于黎曼流形预条件的方法用于具有秩约束的张量补全问题，通过引入新的黎曼度量利用最小二乘结构和Tucker分解的对称性，开发出预条件非线性共轭梯度和随机梯度下降算法，实验表明其在不同数据集上优于现有方法。
2016-05-26 cs.LG cs.NA math.NA
A Riemannian geometry for low-rank matrix completion
Indian Institute of Technology Bombay（印度理工学院孟买分校）
针对低秩矩阵补全问题，提出一种新的固定秩矩阵的黎曼几何，通过调节商空间的度量来适配最小二乘代价函数，并开发了梯度下降和信赖域算法，实现了与最先进算法LMaFit竞争的性能。
2012-11-12 cs.LG cs.NA math.NA
Gauss-Southwell type descent methods for low-rank matrix optimization
本文研究低秩矩阵优化的梯度相关方法，作用于单个因子并结合交替与黎曼优化，比较两种Gauss-Southwell型搜索方向，发现基于黎曼梯度的版本鲁棒性更强，并得出交替最小二乘法的新收敛结果。
2025-05-05 cs.NA math.NA math.OC
New vector transport operators extending a Riemannian CG algorithm to generalized Stiefel manifold with low-rank applications
本文提出两种基于Cayley变换的向量传输算子，用于广义Stiefel流形上的共轭梯度法，满足非扩张条件，并证明算法全局收敛，数值实验验证了其在广义特征值问题和典型相关分析中的效率。
2024-05-25 cs.NA math.NA math.OC
New Riemannian preconditioned algorithms for tensor completion via polyadic decomposition
UCLouvain（鲁汶天主教大学）
我们提出了新的黎曼预条件算法的低秩张量完成通过张量的多元分解。这些算法利用了多元分解形式的低秩张量的因子矩阵的积空间上的非欧度量。该度量是利用张量完备化费用函数的Hessian对角块的近似来设计的，因此对这些算法具有预处理作用。我们证明了所提出的黎曼梯度下降算法全局收敛到张量完成问题的一个稳定点，收敛速度估计使用$Ł$ ojasiewicz属性。对合成数据和真实数据的数值结果表明，所提出的算法在内存和时间上比最先进的算法更有效。此外，所提出的算法表现出更大的容忍度高估的秩参数的张量恢复性能，从而使一个灵活的选择的秩参数。
2022-06-02 cs.LG cs.NA math.NA
Low-rank matrix completion by Riemannian optimization---extended version
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
提出一种基于黎曼流形上非线性共轭梯度的矩阵补全算法，利用度量投影作为回缩，向量传输获取共轭搜索方向，并在受限等距性质下证明正则化版本的收敛性，数值实验表明算法在大规模问题上扩展性好且优于现有方法。
2012-09-18 cs.NA math.DG math.NA
A Riemannian gossip approach to decentralized matrix completion
Amazon Development Centre India（亚马逊印度开发中心）；The University of Electro-Communications（电气通信大学）
本文提出基于黎曼流形的新型 gossip 算法，用于低秩去中心化矩阵补全问题，实现局部矩阵补全和全局低秩因子的渐近一致性，具有可扩展性和并行性。
2016-05-23 cs.LG cs.NA math.NA
Riemannian Langevin Monte Carlo schemes for sampling PSD matrices with fixed rank
Brown University（布朗大学）；Purdue University（普渡大学）；Duke University（杜克大学）
本文提出两种显式数值格式，基于黎曼Langevin方程的Euler-Maruyama离散化，从固定秩半正定矩阵流形上的Gibbs分布中采样，并验证了其有效性。
2023-09-08 cs.LG cs.NA math.NA
Low-rank Tensor Estimation via Riemannian Gauss-Newton: Statistical Optimality and Second-Order Convergence
University of Chicago（芝加哥大学）；Duke University（杜克大学）
本文针对含噪线性测量下的低 Tucker 秩张量估计问题，提出黎曼高斯-牛顿方法，首次证明其在含噪环境下的局部二次收敛性，并给出匹配的误差上下界以证明统计最优性，通过张量回归和张量 SVD 应用及仿真验证了理论结果。
2023-07-09 cs.LG cs.NA math.NA
Rank-one Riemannian Subspace Descent for Nonlinear Matrix Equations
本文提出了一种秩一黎曼子空间下降算法，用于高效求解高维稠密对称正定约束的非线性矩阵方程。
2026-01-21 cs.NA cs.SY eess.SY
Riemannian Preconditioned LoRA for Fine-Tuning Foundation Models
Stanford University（斯坦福大学）
本文提出一种基于黎曼度量的预条件子以增强 LoRA 微调，理论证明其能稳定无限宽网络的特征学习，实验表明该方法显著提升了 SGD 和 AdamW 的收敛性与鲁棒性且几乎不增加开销。
2024-06-05 cs.LG cs.NA math.NA
Fast and Provable Tensor-Train Format Tensor Completion via Precondtioned Riemannian Gradient Descent
The Hong Kong University of Science and Technology（香港科技大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出预条件黎曼梯度下降算法（PRGD）解决张量列车格式的低秩张量补全问题，证明线性收敛，并在模拟与真实数据上大幅减少计算时间和迭代次数。
2025-01-23 cs.LG cs.NA math.NA
Weighted Riemannian Optimization for Solving Quadratic Equations from Gaussian Magnitude Measurements
Hong Kong University of Science and Technology（香港科技大学）；Hangzhou Normal University（杭州师范大学）
本文研究了广义相位恢复问题，通过在黎曼流形上建立新的度量，提出加权黎曼梯度下降算法以提高收敛速度和稳定性。
2026-04-15 cs.IT cs.NA math.IT
LoRA meets Riemannion: Muon Optimizer for Parametrization-independent Low-Rank Adapters
HSE University（俄罗斯高等经济大学）
本研究提出一种完全黎曼框架的LoRA方法，通过在固定秩流形上直接优化低秩适配器消除参数化歧义，整合新型黎曼优化器Riemannion、黎曼梯度初始化及高效实现方案，在LLM和扩散模型上实现了收敛速度与任务性能的双重提升。
2025-10-01 cs.CL cs.LG cs.NA
A homogeneous geometry of low-rank tensors
KU Leuven（荷语天主教鲁汶大学）
本文研究低秩张量的均匀几何结构，推导出其作为光滑流形的条件，并利用该结构构建高效的黎曼度量。
2025-12-30 cs.NA math.DG math.NA
Natural Riemannian gradient for learning functional tensor networks
Institute of Mathematics, University of Augsburg（奥格斯堡大学数学研究所）；Department of Mathematics, Technical University of Munich（慕尼黑工业大学数学系）；Institute of Mathematics & Centre for Advanced Analytics and Predictive Sciences, University of Augsburg（奥格斯堡大学数学研究所与高级分析与预测科学中心）
本文提出基于Amari自然梯度的自然黎曼梯度下降方法，用于优化低秩功能树张量网络在各类损失函数下的学习任务，提升收敛性能。
2026-04-10 cs.LG cs.NA math.NA
Nonconvex Matrix Factorization is Geodesically Convex: Global Landscape Analysis for Fixed-rank Matrix Optimization From a Riemannian Perspective
Rutgers University（罗格斯大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
研究固定秩半正定约束的矩阵优化问题，利用Burer-Monteiro分解和黎曼商几何，刻画分解目标函数全局景观，为普通梯度下降优越性能提供几何解释，还给出弱条件下测地凸性及相关凸性半径定量界。
2026-07-21 cs.IT cs.LG cs.NA
