Geometric Moment Alignment for Domain Adaptation via Siegel Embeddings
Department of Computer Science University of Helsinki(计算机科学系 哈尔滨大学)
本文提出一种基于Siegel嵌入的几何矩对齐方法,利用黎曼距离在SPD流形上同时对齐源域和目标域的一阶与二阶矩,以改进无监督域自适应,并在图像去噪和分类任务上验证了有效性。
2025-10-16 cs.LG
Probabilistic Learning Vector Quantization on Manifold of Symmetric Positive Definite Matrices
Shenyang Institute of Automation, Chinese Academy of Sciences(中国科学院沈阳自动化研究所);Institutes for Robotics and Intelligent Manufacturing, Chinese Academy of Sciences(中国科学院机器人与智能制造创新研究院);University of Chinese Academy of Sciences(中国科学院大学);University of Birmingham(伯明翰大学);Beijing Normal University(北京师范大学);Zhejiang University(浙江大学)
在本文中,我们开发了一种新的分类方法的流形值数据的概率学习矢量量化的框架。在许多分类场景中,数据可以自然地由对称正定矩阵表示,这些矩阵本质上是存在于弯曲黎曼流形上的点。由于黎曼流形的非欧几何性,传统的欧几里德机器学习算法在这类数据上的效果很差。在本文中,我们推广的概率学习矢量量化算法的数据点生活在流形上的对称正定矩阵配备黎曼自然度量(仿射不变度量)。利用导出的黎曼距离,推导出概率学习的黎曼空间量化算法,通过黎曼梯度下降得到学习规则。对合成数据、图像数据和运动想象脑电数据的实证研究证明了所提出方法的优越性能。
2021-02-01 cs.LG stat.ML
Riemannian joint dimensionality reduction and dictionary learning on symmetric positive definite manifold
The University of Electro-Communications(电气通信大学);Microsoft(微软)
字典学习(DL)和降维(DR)是分析高维噪声信号的有力工具。本文提出了一种新的黎曼联合降维和字典学习(R-JDRDL)对称正定(SPD)流形分类任务的建议。联合学习通过将降维和字典学习过程连接到一个统一的框架中来考虑它们之间的相互作用。我们利用黎曼优化框架来解决DL和DR问题。最后,我们证明了建议的R-JDRDL优于现有的国家的最先进的算法时,用于图像分类任务。
2019-02-11 cs.AI cs.CV cs.LG
Riemannian Metric Learning for Symmetric Positive Definite Matrices
University of Maryland, College Park(马里兰大学帕克分校)
在过去的几年里,对称正定(SPD)矩阵一直受到计算机视觉界的广泛关注。虽然在过去已经提出了各种距离措施比较SPD矩阵,两个最广泛使用的措施是仿射不变距离和对数欧几里德距离。这是因为这两个测度是由黎曼几何导出的真测地距离。在这项工作中,我们专注于对数欧几里德黎曼几何,并提出了一个数据驱动的方法来学习黎曼度量/测地距离SPD矩阵。我们表明,使用所提出的方法学习的测地线距离比各种现有的距离措施进行评估时,人脸匹配和聚类任务。
2015-01-10 cs.CV cs.LG
Riemannian optimization on the simplex of positive definite matrices
Microsoft(微软);Waseda University(早稻田大学)
在这项工作中,我们将概率单纯形约束推广到矩阵,即,$\mathbf{X}_1 + \mathbf{X}_2 + \ldots + \mathbf{X}_K = \mathbf{I}$,其中$\mathbf{X}_i \succeq 0$是对于所有$i = \{1,\ldots,K \}$的大小为$n\times n$的正半定矩阵。通过假设矩阵的正定性,我们证明了由矩阵单形产生的约束集具有光滑黎曼子流形的结构。我们讨论了一种新的黎曼几何的矩阵单纯形流形,并显示一阶和二阶优化相关成分的推导。
2020-11-17 cs.LG math.OC
Gaussian kernels on non-simply-connected closed Riemannian manifolds are never positive definite
Siran Li: School of Mathematical Sciences \& CMA-Shanghai, Shanghai Jiao Tong University, No. 6 Science Buildings, 800 Dongchuan Road, Minhang District, Shanghai, China (200240)
研究证明非单连通闭黎曼流形上的高斯核不具有正定性,结合了经典比较定理和最近预印本的分析。
2023-03-12 cs.LG math.DG math.FA
On Riemannian Optimization over Positive Definite Matrices with the Bures-Wasserstein Geometry
University of Sydney(悉尼大学);Microsoft India(微软印度)
在本文中,我们比较分析了Bures-Wasserstein(BW)几何和流行的仿射不变(AI)几何的对称正定(SPD)矩阵流形上的黎曼优化。我们的研究开始于观察到BW度量对SPD矩阵具有线性依赖性,而AI度量则具有二次依赖性。在此基础上,我们表明,BW度量是一个更合适的和强大的选择几个黎曼最优化问题病态SPD矩阵。我们表明,BW几何有一个非负曲率,这进一步提高了算法的收敛速度的非正弯曲的AI几何。最后,我们验证了几个流行的费用函数,这是已知的测地凸下的AI几何,也是测地凸下的BW几何。各种应用程序的广泛实验支持我们的研究结果。
2021-06-01 cs.LG math.OC
An Alternative to EM for Gaussian Mixture Models: Batch and Stochastic Riemannian Optimization
University of Tehran(德黑兰大学);Massachusetts Institute of Technology(麻省理工学院);School of ECE, College of Engineering, University of Tehran(德黑兰大学工程学院电子与计算机工程系)
本文研究高斯混合模型的极大似然估计。这个任务几乎总是通过期望最大化(EM)算法来解决(在理论和实践中)。EM的成功得益于多方面的因素,其中以封闭形式满足正定性约束的能力至关重要。我们提出了一种替代EM呼吁丰富的黎曼几何正定矩阵,使用它,我们铸造Gmm参数估计作为一个黎曼优化问题。令人惊讶的是,这样一个开箱即用的黎曼公式完全失败,并证明比EM差得多。这促使我们更仔细地研究问题的几何形状,并推导出更适合黎曼优化的更好的公式。然后,我们开发(黎曼)批处理和随机梯度算法,优于EM,往往大幅。我们提供了一个非渐近收敛分析我们的随机方法,这也是第一个(据我们所知)这样的整体分析黎曼随机梯度。大量的实证结果证明了我们的方法的有效性。
2017-06-10 cs.LG stat.ML
Vector Transport Free Riemannian LBFGS for Optimization on Symmetric Positive Definite Matrix Manifolds
Ferdowsi University of Mashhad(马什哈德菲尔多西大学);University of Waterloo(滑铁卢大学);University of Tehran(德黑兰大学)
本文主要研究黎曼流形上的优化问题。有限记忆Broyden-Fletcher-Goldfarb-Shanno(LBFGS)算法是欧几里得空间中数值优化的一种常用的拟牛顿法。黎曼LBFGS(RLBFGS)是将这种方法推广到黎曼流形上。RLBFGS涉及计算昂贵的向量传输以及使用伴随向量传输的展开递归。本文利用逆二次根和Cholesky分解在切空间中提出了两个映射。这些映射使得矢量输运和伴随矢量输运都是同一的,因此是等距的。单位向量的传输使得RLBFGS的计算量更小,它的等距性在RLBFGS的收敛性分析中也是非常有用的。此外,在建议的映射下,黎曼度量减少到欧几里得内积,这是计算成本低得多。我们专注于对称正定(SPD)流形,这在数据科学和统计学等各个领域都很有用。这项工作开辟了一个研究机会,建议的映射扩展到其他知名的流形。
2021-10-03 cs.LG cs.NA math.NA
Handling the Positive-Definite Constraint in the Bayesian Learning Rule
University of British Columbia(英属哥伦比亚大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
贝叶斯学习规则是一种自然梯度变分推断方法,它不仅包含了许多现有的学习算法作为特例,而且还可以设计新的算法。不幸的是,当变分参数位于一个开放的约束集,规则可能不满足约束,需要线搜索,这可能会减慢算法。在这项工作中,我们提出了一个改进的规则,自然处理的约束,正定约束解决这个问题。我们的修正是通过使用黎曼梯度方法获得的,并且当近似达到\emph{block-coordinate natural parameterization}(例如,高斯分布及其混合)。我们提出了一个原则性的方法,从零开始推导黎曼梯度和收缩。我们的方法优于现有的方法,没有任何显着增加计算。我们的工作使得它更容易适用于规则中存在的正定约束参数空间。
2020-10-25 cs.LG stat.ML
Sparse Coding and Dictionary Learning for Symmetric Positive Definite Matrices: A Kernel Approach
NICTA(澳大利亚国家信息与通信技术研究院);University of Queensland(昆士兰大学);Australian National University(澳大利亚国立大学)
最近的进展表明,广泛的计算机视觉问题可以更适当地解决考虑非欧几里德几何。本文研究了对称正定矩阵空间中的稀疏编码和字典学习问题,这些对称正定矩阵构成了一个黎曼流形。借助最近引入的Stein内核(与Bregman矩阵发散的对称版本有关),我们建议通过将黎曼流形嵌入到再生核Hilbert空间中来进行稀疏编码。这导致了Lasso问题的凸和核版本,可以有效地解决。此外,我们提出了一个算法学习黎曼字典(用于稀疏编码),紧密联系的斯坦内核。几个分类任务(人脸识别,纹理分类,人的重新识别)的实验表明,所提出的稀疏编码方法实现了显着的改善,在歧视的准确性,在比较国家的最先进的方法,如张量稀疏编码,黎曼局部保持投影,和局部特征的累积驱动。
2013-04-16 cs.CV cs.LG stat.ML
Variance reduction for Riemannian non-convex optimization with batch size adaptation
University of Sydney(悉尼大学)
方差缩减技术在欧几里得空间和黎曼流形上定义的最优化问题的加速梯度下降和随机梯度下降中很流行。本文进一步改进了已有的求解非凸黎曼优化问题的方差缩减方法,包括R-SVRG和R-SRG/R-SPIDER。我们表明,这种策略可以实现较低的总复杂性优化一般非凸和梯度主导的功能下,有限和在线设置。因此,我们还提供了更简单的收敛性分析R-SVRG和有限和设置下,提高R-SRG的复杂性界限。具体来说,我们证明了R-SRG实现了相同的接近最优的复杂性,R-SPIDER,而不需要一个小的步长。在多种任务上的实验结果证明了所提出的自适应批量策略的有效性。
2020-07-03 cs.LG math.OC stat.ML
Low-complexity subspace-descent over symmetric positive definite manifold
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
针对 SPD 流形优化,本文提出基于 Cholesky 因子与稀疏矩阵乘积的单向及多向黎曼子空间下降算法,将迭代复杂度降至 $O(n)$ 和 $O(n^2)$。
2023-12-18 cs.LG eess.SP math.OC
Simplifying Momentum-based Positive-definite Submanifold Optimization with Applications to Deep Learning
University of British Columbia(不列颠哥伦比亚大学);University of California San Diego(加利福尼亚大学圣迭戈分校);Sony Computer Science Laboratories Inc.(索尼计算机科学实验室公司);RIKEN Center for Advanced Intelligence Project(理化学研究所高级智能中心);CIFAR AI Chair(加拿大高级研究所人工智能讲席);Alberta Machine Intelligence Institute(阿尔伯塔省机器智能研究所)
本文提出一种广义黎曼法坐标方法,将带动量的正定子流形优化问题转化为欧几里得无约束问题,并据此开发了仅用矩阵乘法的无逆二阶优化器,适用于低精度深度学习。
2024-03-16 cs.LG stat.ML
Geodesic Exponential Kernels: When Curvature and Linearity Conflict
University of Copenhagen(哥本哈根大学)
我们考虑一般测地度量空间上的核方法,并提供了否定和肯定的结果。首先,我们证明了在测地度量空间上,如果空间是平坦的,则普通高斯核只能推广为正定核。因此,对于黎曼流形上的数据,测地高斯核只有在黎曼流形是欧几里得流形时才是正定的。这意味着任何在弯曲黎曼流形上设计测地高斯核的尝试都是徒劳的。然而,我们发现,空间的有条件负定距离的测地拉普拉斯核可以推广,同时保持正定性。这意味着测地拉普拉斯核可以推广到一些弯曲空间,包括球和双曲空间。我们的理论结果得到了经验验证。
2014-11-17 cs.CV cs.LG
Large-Scale Riemannian Meta-Optimization via Subspace Adaptation
Beijing Institute of Technology(北京理工大学);Shenzhen MSU-BIT University(深圳北理莫斯科大学)
本文提出一种基于子空间自适应的黎曼元优化方法,通过分别自适应梯度行列子空间使学习优化器可跨不同大小参数共享,在ResNet50上将内存消耗降低六个数量级并提升性能。
2025-02-06 cs.CV cs.LG
Learning Graphical Factor Models with Riemannian Optimization
Univ Gustave Eiffel(古斯塔夫·埃菲尔大学);IGN(法国国家地理与森林信息研究所);ENSG(国立地理科学学院);Univ Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);CentraleSupélec(中央理工-高等电力学院);Univ Savoie Mont Blanc(萨瓦大学);Univ Lyon(里昂大学);Inria(法国国家信息与自动化研究所);ENS de Lyon(里昂高等师范学院);UCB Lyon 1(里昂第一大学);Univ Paris-Nanterre(巴黎南泰尔大学)
本文提出一种灵活的算法框架,通过黎曼优化在协方差矩阵低秩结构约束下进行图学习,解决了图模型与因子分析的联合利用问题,并在真实数据集上验证了其有效性。
2023-08-01 cs.LG stat.ML
Invariant kernels on Riemannian symmetric spaces: a harmonic-analytic approach
Nanyang Technological University(南洋理工大学);Université Grenoble-Alpes(格勒诺布尔大学)
本文利用调和分析证明非Euclid对称空间上的经典Gaussian核恒非正定,并以L$^p$-Godement定理给出可检验的正定充要条件。
2024-09-06 cs.LG math.DG stat.ML
Spectral-factorized Positive-definite Curvature Learning for NN Training
Vector Institute(向量研究所);Cambridge University(剑桥大学);University of Toronto(多伦多大学)
提出一种基于黎曼优化的谱分解正定曲率学习方法,动态适应曲率估计,高效支持任意矩阵根,适用于正定矩阵优化、无梯度优化及神经网络训练。
2025-03-28 cs.LG stat.ML
A Riemannian Approach to Ground Metric Learning for Optimal Transport
Microsoft India(微软印度公司);The University of Sydney(悉尼大学)
该研究针对最优传输中嵌入空间基础度量的关键影响问题,提出利用对称正定矩阵的黎曼几何结构,联合学习OT距离与由该矩阵参数化的潜在基础度量,验证了其在域适应任务中的有效性。
2024-09-16 cs.AI cs.LG
Domain Adaptation with Optimal Transport on the Manifold of SPD matrices
Technion, Israel Institute of Technology(以色列理工学院);Technical University of Munich(慕尼黑工业大学);Johns Hopkins University(约翰斯·霍普金斯大学)
在本文中,我们解决的问题,领域自适应(DA)使用最佳运输(OT)黎曼流形。我们模型的两个域之间的差异,通过一个同构和使用极分解定理,声称OT确实是最佳的DA在一个定义明确的意义上,体积保持地图。然后,我们专注于流形的对称和正定(SPD)矩阵,其结构提供了一个有用的背景下,在最近的应用。证明了该流形上的极分解定理。由于加权黎曼平均的唯一性,并利用现有的正则化OT算法,我们制定了一个简单的算法,将源域映射到目标域。我们在两个脑机接口(BCI)数据集上测试了我们的算法,并观察了最先进的性能。
2020-07-27 cs.LG stat.ML
Riemannian batch normalization for SPD neural networks
Thales Air Systems(泰雷兹空中系统公司);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心)
协方差矩阵由于其能够捕捉数据中有趣的结构而在机器学习应用中引起了人们的关注。主要的挑战是需要考虑它们所属的对称正定(SPD)矩阵的黎曼流形的特殊几何。在深度网络的背景下,最近已经提出了这些矩阵的几种架构。在我们的文章中,我们介绍了一个黎曼批量归一化(batchnorm)算法,它推广了欧几里德网中使用的算法。这个新的层利用流形上的几何运算,特别是黎曼重心,并行传输和非线性结构矩阵变换。我们推导出一个新的流形约束梯度下降算法工作在SPD矩阵的空间,允许学习batchnorm层。我们验证了我们提出的方法与实验在三个不同的上下文中不同的数据类型:从雷达观测的无人机识别数据集,并从视频和动作捕捉数据的情感和动作识别数据集。实验结果表明,黎曼批范数系统地给出了更好的分类性能相比,领先的方法和一个显着的鲁棒性缺乏数据。
2019-09-12 cs.LG stat.ML
DisRFM: Polar Riemannian Flow Matching for Structure-Preserving Graph Domain Adaptation
The Chinese University of Hong Kong(香港中文大学);National University of Defense Technology(国防科学技术大学);Hebei University of Technology(河北工业大学);City University of Hong Kong(香港城市大学)
本文提出DisRFM框架,通过黎曼流匹配解决图域适应中的结构退化和优化不稳定问题,利用极坐标表示和几何感知学习提升跨域分类性能。
2026-05-07 cs.LG
Persistence Fisher Kernel: A Riemannian Manifold Kernel for Persistence Diagrams
RIKEN Center for Advanced Intelligence Project(理化学研究所高级智能项目中心);Kyoto University(京都大学)
代数拓扑方法近年来在复杂几何结构数据(如形状、链接扭曲图和材料数据)的统计分析中发挥了重要作用。其中,\textit{persistent homology}是一个众所周知的工具,以提取鲁棒的拓扑特征,并输出为\textit{persistence diagrams}(PD)。然而,PD是点多集,不能用于矢量数据的机器学习算法。一种新兴的方法是使用核方法,而合适的几何形状是衡量PD相似性的重要因素。PD的常用几何形状是\textit{Wasserstein metric}。然而,瓦瑟斯坦距离不是\textit{negative definite}。因此,在瓦瑟斯坦距离\textit{without approximation}上构建正定核是有限的。在这项工作中,我们依赖于替代\textit{Fisher information geometry}提出一个正定核PD \textit{without approximation},即持久性Fisher(PF)内核。然后,我们分析了核机器的积分算子的特征系统。在此基础上,我们通过覆盖数和Rademacher平均值推导出具有PF核的核机器的泛化误差界。此外,我们展示了一些很好的性质,如稳定性和无限整除建议的内核。此外,我们还提出了一个线性的时间复杂度在PD的点的数量近似我们提出的内核有界误差。在各种基准数据集上进行的许多不同任务的实验中,我…
2018-10-27 cs.LG math.AT stat.ML
geomstats: a Python Package for Riemannian Geometry in Machine Learning
Stanford University(斯坦福大学);Froglabs AI(Froglabs人工智能公司);Inria Sophia-Antipolis(法国国家信息与自动化研究所索菲亚-安蒂波利斯分院)
我们将介绍geomstats,这是一个Python软件包,可以在超球面、双曲空间、对称正定矩阵空间和变换李群等流形上执行计算。我们提供了这些流形的有效和广泛的单元测试实现,以及有用的黎曼度量和相关的指数和对数映射。相应的测地线距离提供了一系列机器学习损失函数的直观选择。我们也给出了相应的黎曼梯度。geomstats中实现的操作可用于不同的计算后端,如numpy,tensorflow和keras。我们已经启用了GPU实现,并将geomstats流形计算集成到keras深度学习框架中。本文还介绍了机器学习中流形的回顾和geomstats包的概述,并举例说明其用于高效和用户友好的黎曼几何。
2018-11-06 cs.LG cs.MS stat.ML
Geometric Feature Learning for Functional Data Valued on the Symmetric Positive Definite Manifold
Trinity College Dublin(都柏林圣三一学院)
本文提出函数型神经网络MatFAE,用于学习SPD流形上的轨迹,通过内在层和函数层编码动态信息,并在fMRI数据上验证了其高效性与可解释性。
2026-09-28 cs.LG stat.ML
MC-RFM: Geometry-Aware Few-Shot Adaptation via Mixed-Curvature Riemannian Flow Matching
Talan Research Center(塔兰研究中心)
本文提出MC-RFM框架,通过混合曲率黎曼流匹配实现少样本适应,结合双曲因子和欧几里得因子构建产品流形,提升视觉识别性能。
2026-05-08 cs.AI cs.CV cs.LG
GeomNet: A Neural Network Based on Riemannian Geometries of SPD Matrix Space and Cholesky Space for 3D Skeleton-Based Interaction Recognition
CY Cergy Paris Université(赛尔齐-蓬图瓦兹大学);ENSEA(法国高等电力学院);CNRS(法国国家科学研究中心)
在本文中,我们提出了一种新的方法表示和分类的两人互动的三维骨架序列。我们的方法的关键思想是使用高斯分布来捕捉统计的R n和对称正定(SPD)矩阵的空间。主要的挑战是如何将这些分布参数化。为此,我们开发的方法嵌入高斯分布在矩阵群的李群和黎曼对称空间的理论的基础上。我们的方法依赖于基础流形的黎曼几何,并具有从3D关节位置编码高阶统计的优势。我们表明,所提出的方法实现了竞争力的结果,在两个人的互动识别的三个基准的三维人类活动的理解。
2021-11-25 cs.CV cs.LG stat.ML
Spatiotemporal Analysis Using Riemannian Composition of Diffusion Operators
Technion - Israel Institute of Technology(以色列理工学院);Duke University(杜克大学)
近年来,随着许多数据采集系统通过多个传感器同时记录信息,多元时间序列变得丰富。在本文中,我们假设的变量属于一些几何形状,并提出了一个基于运营商的时空分析方法。我们的方法结合了三个组成部分,通常被认为是分开的:(i)流形学习的建设运营商表示的变量的几何,(ii)黎曼几何对称正定矩阵的多尺度组成的运营商对应于不同的时间样本,和(iii)频谱分析的复合运营商提取不同的动态模式。我们提出了一种类似于经典小波分析的方法,我们称之为黎曼多分辨率分析(RMRA)。我们提供了一些理论结果的谱分析的复合运营商,我们证明了所提出的方法模拟和真实数据。
2022-01-21 cs.LG eess.SP stat.ML
EEG Representation Using Multi-instance Framework on The Manifold of Symmetric Positive Definite Matrices for EEG-based Computer Aided Diagnosis
Amirkabir University of Technology(阿米尔卡比尔理工大学);Atieh Clinical Neuroscience Center(阿提耶临床神经科学中心)
基于脑电(EEG)的计算机辅助诊断系统的通用性和鲁棒性是实际临床实践中的关键要求。为了实现这些目标,我们提出了一种新的EEG表示,通过应用多实例(MI)框架来考虑EEG信号的非平稳性,提供了一个更真实的大脑功能视图。通过将脑电信号描述为一组相关和不相关的概念,考虑了脑电信号的非平稳特性。这些概念由使用空间协方差矩阵的EEG信号的同质段的鲁棒表示提供。由于协方差矩阵的空间的非线性几何,我们确定的基础上自适应分割的信号在黎曼框架的均匀段的边界。每个主题被描述为一个袋的协方差矩阵的同质段和袋级的判别信息用于分类。为了评估所提出的方法的性能,我们研究它在注意缺陷多动/双相情感障碍检测和抑郁症/正常诊断应用。实验结果证实了该方法的优越性,这是由于协方差描述符的鲁棒性,黎曼几何的有效性,并考虑大脑固有的非平稳性质的好处。
2017-02-08 cs.LG
Riemannian stochastic quasi-Newton algorithm with variance reduction and its convergence analysis
The University of Electro-Communications(电气通信大学);Tokyo University of Science(东京理科大学)
随机方差缩减算法最近变得流行,用于最小化大的但有限数量的损失函数的平均值。提出了一种具有方差缩减的黎曼随机拟牛顿算法(R-SQN-VR)。平均,添加和减去多个梯度的关键挑战是解决与收缩和矢量传输的概念。在收缩算子和向量迁移算子下,我们给出了R-SQN-VR在非凸函数和收缩凸函数上的收敛性分析。在对称正定流形上的Karcher均值计算和Grassmann流形上的低秩矩阵完备化上对该算法进行了评价。在所有情况下,该算法优于最先进的黎曼批处理和随机梯度算法。
2017-09-16 cs.LG cs.NA math.NA
Dimensionality Reduction on Riemannian Manifolds in Data Analysis
Université du Littoral Cote d’Opale(杜瓦利尔海岸大学)
本文提出基于黎曼几何的降维方法,通过扩展PCA和判别分析,提升流形数据的表示质量和分类性能。
2026-02-05 cs.LG
Supervised LogEuclidean Metric Learning for Symmetric Positive Definite Matrices
The University of Tokyo(东京大学)
度量学习已被证明是非常有效的,以提高最近邻分类的性能。在本文中,我们解决了对称正定(SPD)矩阵,如协方差矩阵,在许多现实世界的应用中出现的度量学习的问题。在欧几里得几何下对SPD矩阵简单地使用标准的马氏度量学习方法是不合适的,因为SPD矩阵的差可以是非SPD矩阵,因此所获得的解可能是不可解释的。为了解决这个问题,我们建议使用适当参数化的对数欧几里德距离,并优化相对于内核-目标对齐的度量,这是内核学习的监督标准。然后利用黎曼几何求解所得到的非平凡优化问题。最后,我们通过实验证明了我们的LogEuclidean度量学习算法对EEG信号和纹理补丁的真实分类任务的有用性。
2015-02-12 cs.LG
Universal kernels via harmonic analysis on Riemannian symmetric spaces
School of Physical and Mathematical Sciences, Nanyang Technological University(物理与数学科学学院,南洋理工大学);Laboratoire Jean Kuntzman, Université Grenoble-Alpes(Jean Kuntzman实验室,格勒诺布尔阿尔卑斯大学)
本文通过黎曼对称空间上的调和分析建立工具,证明多个正定核的通用性,为流形值数据应用提供理论支持。
2025-06-24 cs.LG math.DG
Expressivity of congruence-based architectures for DNNs on positive-definite matrices
Antonin Oswald;Estelle Massart
研究同余层(输入矩阵左乘和右乘权重矩阵及其转置)在正定矩阵分类中的表达能力,发现半正交约束会限制网络表达能力,导致退化为单隐藏层等价结构,并分析了不同黎曼分类器与同余层特征图的兼容性。
2026-06-01 cs.LG
Riemannian Geometry-Preserving Variational Autoencoder for MI-BCI Data Augmentation
本文提出保黎曼几何的变分自编码器,用于生成具有对称正定性质的EEG协方差矩阵,以提升MI-BCI的数据增强效果。
2026-03-11 cs.LG
Riemannian Networks over Full-Rank Correlation Matrices
Department of Information Engineering and Computer Science, University of Trento, Trento, Italy(特伦托大学信息工程与计算机科学系);School of Artificial Intelligence and Computer Science, Jiangnan University, Wuxi, China(江南大学人工智能与计算机科学学院)
本文提出了一种在全秩相关矩阵上进行Riemannian网络的研究,通过扩展基本层并引入准确的反向传播方法,展示了其在对比现有SPD和Grassmannian网络时的有效性。
2026-05-18 cs.AI cs.LG
Multifidelity Covariance Estimation via Regression on the Manifold of Symmetric Positive Definite Matrices
Center for Computational Science and Engineering, MIT(麻省理工学院计算科学与工程中心);Courant Institute of Mathematical Sciences, NYU(纽约大学柯朗数学科学研究院)
本文提出一种基于对称正定矩阵流形回归的多保真度协方差估计器MRMF,兼具正定性与最大似然性质,并在实验中显著降低估计误差。
2024-09-05 cs.LG cs.NA math.NA
Deep Optimal Transport for Domain Adaptation on SPD Manifolds
College of Computing and Data Science, Nanyang Technological University(计算与数据科学学院,南洋理工大学);Université Paris-Saclay, Inria, CEA, Palaiseau, France(巴黎-萨克雷大学,法国国家信息与自动化技术研究所,法国原子能委员会,Palaiseau)
本文提出一种结合最优传输与SPD流形几何的域自适应框架,在三个跨会话脑机接口数据集上验证其能有效减少分布差异并优于基线方法。
2025-05-08 cs.AI cs.LG eess.SP
Geomstats: A Python Package for Riemannian Geometry in Machine Learning
Inria(法国国家信息与自动化研究所)
我们介绍Geomstats,一个开源Python工具箱,用于非线性流形的计算和统计,例如双曲空间,对称正定矩阵空间,变换李群等等。我们提供面向对象和广泛的单元测试的实现。其中,流形配备了黎曼度量的家庭,与相关的指数和对数映射,测地线和平行运输。统计学和学习算法为流形上的估计、聚类和降维提供了方法。所有相关的操作都是矢量化的,用于批量计算,并为不同的执行后端提供支持,即NumPy,PyTorch和TensorFlow,从而实现GPU加速。本文介绍了该软件包,并将其与相关库进行了比较,并提供了相关的代码示例。我们表明,Geomstats提供了可靠的构建块,以促进微分几何和统计学的研究,并在机器学习应用程序中民主化黎曼几何的使用。源代码可以在\url{geomstats.ai}的MIT许可下免费获得。
2020-04-07 cs.LG cs.MS