High curvature means low-rank: On the sectional curvature of Grassmann and Stiefel manifolds and the underlying matrix trace inequalities
本文研究Stiefel和Grassmann流形的截面曲率,通过精细的矩阵迹不等式证明典范度量下5/4和欧几里得度量下1的全局曲率界,并揭示高曲率对应低秩的结构特征。
2024-04-19 cs.NA math.NA
An new polar factor retraction on the Stiefel manifold with closed-form inverse
SDU Odense(欧登塞南丹麦大学)
提出Stiefel流形上一种新的二阶收缩,具有闭式逆,在欧几里得度量下高效,并通过数值实验验证其在插值和黎曼重心计算中的性能。
2026-07-02 cs.NA math.DG math.NA
Comparison of two numerical methods for Riemannian cubic polynomials on Stiefel manifolds
本文比较了Stiefel流形上积分黎曼三次多项式的调整后de Casteljau算法与辛积分器两种数值方法,通过n=3、k=1和k=2的数值实验分析各自优势。
2024-04-30 cs.NA cs.SY eess.SY
Efficient Quasi-Geodesics on the Stiefel Manifold
解决所谓的测地线端点问题,即,找到连接流形上两个给定点的测地线是几乎所有数据处理操作的基础,包括平均、聚类、插值和优化。在标准正交标架的Stiefel流形上,这个问题涉及到计算。一种补救方法是用拟测地线代替黎曼测地线。准测地线的特征在于恒定速度和协变加速度,具有恒定(但可能非零)范数。对于一个著名的类型的准测地线,我们推导出一个新的表示,适合于大规模的计算。此外,我们引入了一种新的准测地线,原来是更接近黎曼测地线。
2021-05-14 cs.NA math.DG math.NA
The real symplectic Stiefel and Grassmann manifolds: metrics, geodesics and applications
实辛Stiefel流形是固定维数的辛子空间的辛基的流形。它在物理学和工程学中有着广泛的应用。在这项工作中,我们研究这个流形的目标是提供理论和基于矩阵的数值工具,适合基本的数据处理。测地线是数据处理的基础。然而,这些是迄今未知的。追求一个李群的方法,我们关闭这个差距,并获得有效的计算公式的测地线都相对于一个自然的伪黎曼度量和一个新的黎曼度量。此外,我们提供有效的可计算和可逆的撤回。此外,我们引入了实辛格拉斯曼流形,即,辛子空间的流形再次,我们推导出有效的伪黎曼和黎曼测地线和可逆收缩公式。数值实验结果表明,我们认为通过梯度下降的优化流形上,并比较所提出的方法与最先进的状态。特别是,我们对待的“最近的辛矩阵”的问题和问题的最佳数据表示通过低秩辛子空间。后者的任务是与找到一个“适当的辛分解”,这是重要的结构保持模型的哈密顿系统的降阶问题。
2021-08-27 cs.NA math.DG math.NA
Symplectic Stiefel manifold: tractable metrics, second-order geometry and Newton's methods
该研究针对辛约束优化问题,在辛Stiefel流形上构建易处理度量的黎曼优化几何要素,开发显式二阶几何与多种黎曼牛顿法,提出兼具全局与局部快速收敛性的混合算法,数值实验验证了方法有效性。
2024-06-20 cs.NA math.NA math.OC
Shortest Geodesic Loops, Sectional Curvature, and Injectivity Radius of the Stiefel Manifold
TU Braunschweig(布伦瑞克工业大学);UCLouvain(天主教鲁汶大学);University of Southern Denmark(南丹麦大学)
本文确定了Stiefel流形在Hüper等人引入的单参数黎曼度量族下非平凡测地线环的最短长度,并结合截面曲率界限精确计算了该流形在广泛度量参数下的单射半径。
2026-06-24 cs.NA math.DG math.NA
Shooting methods for computing geodesics on the Stiefel manifold
本文提出使用打靶法计算 Stiefel 流形上的黎曼距离,首次给出了雅可比矩阵的显式表达式,并通过数值实验验证了算法精度与性能,展示了在统计、形状分析与模型降阶中的应用。
2023-09-07 cs.NA math.NA
A polar-factor retraction on the symplectic Stiefel manifold with closed-form inverse
University of Southern Denmark(南丹麦大学)
本文提出一种辛斯蒂夫流形上的新重参数化方法,具有闭式反演特性,通过数值实验比较其性能,填补了该流形上已有闭式反演重参数化方法的空白。
2026-05-07 cs.NA math-ph math.DG
The injectivity radius of the compact Stiefel manifold under the Euclidean metric
本文研究欧几里得度量下紧斯蒂弗尔流形的单射半径,通过证明其测地线为常弗雷内曲率空间曲线,最终确定该流形的单射半径为π。
2024-05-03 cs.NA math.DG math.NA
A single shooting method with approximate Fréchet derivative for computing geodesics on the Stiefel manifold
National Center for Theoretical Sciences, National Taiwan University(台湾大学国家理论科学中心)
提出一种使用近似Fréchet导数的单点打靶法,用于计算Stiefel流形上的黎曼距离,数值实验表明该方法在精度和性能上具有竞争力。
2024-07-07 cs.NA math.NA
The leapfrog algorithm as nonlinear Gauss-Seidel
优化、图像和信号处理中的几个应用程序处理属于Stiefel流形St(n,p)的数据,即具有正交列的n × p矩阵的集合。一些应用,如黎曼质心,需要计算St(n,p)上任意两点之间的黎曼距离。这可以通过显式构造连接这两个点的测地线来完成。现有的一种求测地线的方法是J.L.诺克斯该算法与Gauss-Seidel方法有关,Gauss-Seidel方法是一种经典的迭代法,用于求解线性方程组,可以扩展到非线性系统。我们提出了一个收敛性证明的蛙跳作为一个非线性Gauss-Seidel方法。我们的讨论仅限于Stiefel流形的情况,然而,它可以推广到其他嵌入子流形。我们讨论了蛙跳的其他方面,并提出了一些数值实验。
2023-01-28 cs.NA math.NA
A Dynamical Approximation Scheme on the Stiefel manifold for Wasserstein Gradient Flows
该研究提出无网格拉格朗日动力学方法逼近瓦瑟斯坦梯度流,通过在特定线性子空间中逼近传输映射,利用狄拉克 - 弗伦克尔原理在施蒂费尔流形上演化正交框架,证明其能诱导概率测度曲线,保留能量耗散结构,数值实验验证了方法的有效性。
2026-07-21 cs.NA math.NA
High-Order Retractions on Matrix Manifolds using Projected Polynomials
University of California, San Diego(加州大学圣地亚哥分校)
本文基于Bessel多项式提出高阶结构保持的Riemannian指数映射近似方法,应用于单位ary矩阵、Grassmann流形和Stiefel流形,同时研究了酉矩阵几何与算术平均的超接近性。
2017-05-16 cs.NA math.NA
Simple matrix models for the flag, Grassmann, and Stiefel manifolds
本文为格拉斯曼、旗和施蒂费尔流形分别推导了三族正交等变矩阵子流形模型,证明其穷尽性,并指出这些模型具有闭式解析、最小维度及低条件数等计算优势,其中施蒂费尔模型族由嘉当流形参数化。
2024-07-18 cs.NA math.DG math.NA
Conditioning and interpolation error bounds for second-order Stiefel retractions with closed-form inverses
Department of Mathematics and Computer Science, SDU Odense(欧登塞南丹麦大学数学与计算机科学系)
本文针对Stiefel流形上带闭式逆的两类二阶收缩映射,分析其条件数与逆映射的局部存在性,推导插值误差界,并将其应用于Hermite插值,验证其性能可与经典方法媲美。
2026-08-31 cs.NA math.DG math.NA
Hermite interpolation and data processing errors on Riemannian matrix manifolds
本文的主要贡献有两个方面:一方面,给出了在黎曼流形上进行Hermite插值的一般框架。该方法是适用的,如果算法相关联的黎曼指数和对数映射可用。这包括在实际黎曼计算应用中出现的许多矩阵流形,例如数据分析和信号处理,计算机视觉和图像处理,结构化矩阵最优化问题和模型简化。另一方面,我们揭示了数据处理误差和截面曲率的问题之间的自然关系。这为依赖于黎曼法坐标的流形数据处理方法提供了一般误差界。对矩形列-正交矩阵的紧致Stiefel流形进行了数值实验.作为用例,我们计算正交矩阵分解(如奇异值分解和QR分解)的Hermite插值曲线。
2019-09-11 cs.NA math.NA
Optimization on the symplectic Stiefel manifold: SR decomposition-based retraction and applications
光学、量子物理、稳定性分析和动力系统控制中的许多问题都可以归结为矩阵变量受辛性约束的最优化问题。由于该约束很好地形成了所谓的辛Stiefel流形,所以黎曼优化是优选的,因为人们可以在准备必要的几何工具之后从无约束最优化方法借用思想。撤回可以说是最重要的一个,它决定了给定搜索方向的迭代更新方式。到目前为止,已经构建了两个收缩:一个依赖于凯莱变换,另一个是使用准测地线曲线。在本文中,我们提出了一种新的收缩,这是基于SR矩阵分解。我们证明了它的域包含开放单位球,这是必不可少的证明相关的基于梯度的优化算法的整体收敛。此外,我们考虑三个应用-辛目标矩阵问题,辛特征值计算,和辛模型约化的哈密顿系统-与各种例子。大量的数值比较揭示了所提出的优化算法的优势。
2022-11-17 cs.NA math.NA math.OC
Directions That Don't Drift: Stiefel Manifold Routing for Transformer Attention
NeuroTechNet S.A.S.(NeuroTechNet 公司)
该研究将Transformer注意力投影矩阵约束到Stiefel流形并用黎曼Adam优化,发现其步长尺度自由特性带来显著性能提升,且权重衰减的零黎曼梯度使几何得以保持。
2026-10-02 cs.LG cs.NA math.NA
Accelerated Optimization on Riemannian Manifolds via Discrete Constrained Variational Integrators
Wibisono等人最近提出了一种在赋范向量空间上加速优化的变分公式,后来推广到Duruisseaux和Leok的黎曼流形。这种变分框架在Duruisseaux等人的赋范向量空间上被利用,使用时间自适应几何积分器来设计用于辛加速优化的有效显式算法,并且观察到,尊重拉格朗日流和哈密顿流的时间重新缩放不变性和辛性的几何离散化实质上不太容易出现稳定性问题,因此更鲁棒、可靠,并且计算效率高。因此,发展时间自适应的哈密顿变分积分器来加速黎曼流形上的优化是很自然的。在本文中,我们考虑的情况下,黎曼流形嵌入在欧几里得空间,可以表征为水平集的浸没。我们将探讨如何完整约束可以纳入离散变分积分约束的数值离散的黎曼哈密顿系统黎曼流形,我们将测试所得到的算法的性能,通过解决本征值和Procrustes问题制定为最优化问题的单位球和Stiefel流形。
2022-03-17 cs.NA math.NA
On the globalization of Riemannian Newton method
为了寻找定义在黎曼流形上的向量场的奇异性,本文提出了一种新的Newton方法的全局化策略,并证明了其具有超线性速率的整体收敛.特别是,这种全球化一般化的一般收回现有的阻尼牛顿法。所提出的整体收敛分析不需要对向量场的奇异性作任何假设。应用该方法求解了两个Stiefel流形乘积上的截断奇异值问题、对称正定矩阵锥上的双曲手抓取问题和球面上的Rayleigh商问题.解决了一些学术问题。数值实验表明,该算法具有更好的鲁棒性与上述方法相比。
2020-08-14 cs.NA math.NA math.OC
Riemannian Newton methods for energy minimization problems of Kohn-Sham type
本文针对计算物理和化学中的约束能量最小化问题,提出了无限维 Stiefel 和 Grassmann 流形上的黎曼牛顿方法,推导了适用于变分空间离散化的黎曼 Hessian 表达式,数值实验证明其优于自洽场迭代和梯度下降等成熟方案。
2024-06-27 cs.NA math.NA math.OC
Inexact Adaptive Cubic Regularization Algorithms on Riemannian Manifolds and Application
本文在一般黎曼流形上提出一种基于非精确梯度和Hessian的自适应三次正则化算法,给出近似二阶最优性的迭代复杂度,并将其应用于Stiefel流形上的联合对角化问题,数值实验表明其优于非精确信赖域算法。
2024-05-04 cs.NA math.NA math.OC
Energy-Adaptive Riemannian Conjugate Gradient Method for Density Functional Theory
针对密度泛函理论中的Kohn-Sham能量最小化问题,提出带能量自适应度量的黎曼共轭梯度法,结合移位策略等改进,性能媲美优化后的自洽场迭代,为DFT电子结构计算提供高效可靠新选择。
2025-03-20 cs.NA math.NA
Fast Quadratic Manifold Learning For Nonlinear Dimensionality Reduction in Large-scale Systems using Riemannian Optimization
Texas A&M University(德克萨斯农工大学);Brigham Young University(杨百翰大学)
提出FastQM方法,将二次流形学习中的最优基选择转化为Stiefel流形上的连续优化问题,通过旋转约简基实现坐标对齐,并利用特征空间公式使优化成本与全状态空间维度无关,在湍流翼型尾流大涡模拟中验证了有效性。
2026-05-26 cs.NA math.NA
A thorough study of Riemannian Newton's Method
本文针对Grassmann与Stiefel流形上的优化问题,系统比较RNM与欧几里得牛顿法,并通过125个分子的Hartree–Fock实验验证其收敛、迭代与初值鲁棒性优势。
2025-06-16 cs.NA math.NA math.OC
Riemannian conjugate Sobolev gradients and their application to compute ground states of BECs
本文针对旋转玻色-爱因斯坦凝聚体基态计算,提出结合自适应度量的黎曼共轭梯度方法,并系统研究动量参数选择的影响,发现采用Polak-Ribiére或Hestenes-Stiefel型参数的方案在迭代效率和鲁棒性上表现最优。
2025-07-06 cs.NA math.NA
Momentum Stiefel Optimizer, with Applications to Suitably-Orthogonal Attention, and Optimal Transport
Georgia Institute of Technology(佐治亚理工学院)
Stiefel流形上的优化问题,即,满足正交性约束的(不一定是正方形的)矩阵的最小化函数已经被广泛研究。然而,提出了一种新的方法的基础上,第一次,精心设计的连续和离散动态之间的相互作用。它导致了一个基于梯度的优化器,具有内在的附加动量。该方法精确地保持了流形结构,但不需要额外的操作来保持变化的(余)切空间中的动量,因此具有较低的计算成本和令人满意的精度。它的推广自适应学习率也证明。在实际任务中观察到显著的性能。例如,我们发现,当使用我们的优化器时,对从头开始训练的视觉Transformer [Dosovitskiy et al. 2022]的注意力头部设置正交约束可以显著提高其性能,并且每个头部最好在其自身内正交,但不一定与其他头部正交。该优化器还使投影鲁棒Wasserstein距离[Paty & Cuturi 2019; Lin et al. 2020]的有用概念对于高维度最优传输更加有效。
2023-03-02 cs.LG cs.NA math.DS
Spectral Residual Method for Nonlinear Equations on Riemannian Manifolds
本文将非线性方程谱算法(SANE)应用于求解黎曼流形上切向量场的零点问题。SANE的广义版本以系统的方式使用切向量场作为搜索方向和适应该方向的连续实值函数,并确保其验证相关优值函数的下降条件。为了加快所提出的方法的收敛速度,我们将黎曼自适应谱参数结合非单调全球化技术。在一些标准假设下证明了该方法的整体收敛性。数值结果表明,该算法能有效地求解不同黎曼流形上的切向量场,并能与最近发表的Polak-Ribiére-Polyak方法及其它已有的方法相媲美.
2020-11-27 cs.NA math.NA
Hermite interpolation with retractions on manifolds
本文针对黎曼流形上的 Hermite 插值问题,提出一种基于收缩映射的新方法,可适用于固定秩矩阵流形等难以计算指数映射的流形,并通过引入收缩凸集证明方法的适定性,同时将经典渐近误差结果推广到流形情形,数值实验验证了方法的有效性。
2024-02-24 cs.NA math.DG math.NA
A Riemannian rank-adaptive method for higher-order tensor completion in the tensor-train format
本文提出一种黎曼秩自适应方法(RRAM),通过黎曼共轭梯度算法在固定秩流形上优化并结合切锥下降方向与TT-rounding算法实现秩的自适应增减,有效解决了张量列车格式的低秩张量补全问题,且计算时间优于现有方法。
2024-02-19 cs.NA math.NA math.OC
Qualitative and Quantitative Analysis of Riemannian Optimization Methods for Ground States of Rotating Multicomponent Bose-Einstein Condensates
Institut f\"ur Mathematik \& Centre for Advanced Analytics
本文提出并分析了瑞利安优化方法用于计算旋转多组分玻色-爱因斯坦凝聚体基态,通过引入相一致迭代和固定点收敛理论,建立了统一的局部收敛框架,并展示了拉格朗日基方法在局部收敛速度上的优势。
2025-12-05 cs.NA math.NA physics.comp-ph
Riemannian thresholding methods for row-sparse and low-rank matrix recovery
在本文中,我们提出了修改的迭代硬阈值(IHT)方法恢复联合行稀疏和低秩矩阵。特别是一个黎曼版本的IHT被认为是显着降低计算成本的梯度投影的情况下,秩一测量算子,这在盲反卷积的具体应用。实验结果表明,高斯和秩一测量接近最佳的恢复,自适应步长提供了至关重要的改善。对于稀疏性未知的特殊情况,导出了一种黎曼近似梯度法.
2022-09-30 cs.NA math.NA math.OC
Geometric Optimization Methods for Adaptive Filtering
Harvard University(哈佛大学)
本文提出基于黎曼流形的优化方法,解决自适应信号处理中的子空间跟踪问题,改进了约束优化方法,并在黎曼结构下分析了两种新算法的收敛性。
2013-05-08 cs.CG cs.NA math.DG
Primal-Dual Methods for Nonsmooth Nonconvex Optimization with Orthogonality Constraints
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院H. Milton Stewart工业与系统工程系);Department of Systems Engineering and Engineering Management, The Chinese University of Hong Kong(香港中文大学系统工程与工程管理系)
本文提出一种无退化对偶方法,用于解决具有正交约束的非光滑非凸优化问题,方法单循环且无需求解子问题,具有O(ε^{-3})的迭代复杂度,并通过数值实验验证其高效性。
2026-04-05 cs.LG cs.NA math.NA
High-order Accurate Inference on Manifolds
Columbia University(哥伦比亚大学);Duke University(杜克大学)
本文提出了一种在黎曼流形上实现高阶精度推断的框架,通过二阶重新traction建立渐近性,适用于多种流形设置并验证了其有效性。
2026-01-31 cs.NA math.NA math.OC