Semi-Supervised Generative Learning via Latent Space Distribution Matching
School of Computing & Data Science, University of Hong Kong(香港大学计算与数据科学学院)
LSDM通过潜在空间分布匹配实现半监督生成学习,利用非配对数据提升生成质量。
2026-03-04 cs.LG stat.ML
Tilted Schrödinger Bridge Matching
Applied AI Institute(应用人工智能研究所)
提出TSBM后训练方法,通过交替优化和伴随匹配,将预训练薛定谔桥微调至奖励倾斜目标,在MNIST和CelebA上验证了无配对翻译性能。
2026-09-29 cs.LG
ISCL: Interdependent Self-Cooperative Learning for Unpaired Image Denoising
UNIST(蔚山国立科学技术院);Korea University(高丽大学)
随着自监督学习的进步,在基于深度学习的图像去噪中不再需要成对的干净噪声数据。然而,现有的盲去噪方法仍然需要关于噪声特性的假设,例如零均值噪声分布和逐像素噪声信号独立性;这阻碍了该方法在医学领域的广泛适应。另一方面,非配对学习可以克服与噪声特性假设相关的限制,这使得在真实世界场景中收集训练数据更加可行。在本文中,我们提出了一种新的图像去噪方案,相互依赖的自协作学习(ISCL),利用非配对学习结合循环对抗学习和自监督残差学习。与现有的依赖于不同领域中匹配数据分布的不成对图像去噪方法不同,ISCL中的两种架构针对不同的任务而设计,相互补充并促进学习过程。为了评估所提出的方法的性能,我们进行了广泛的实验,在各种生物医学图像退化的情况下,如电子显微镜(EM)设备(电影和充电噪声)的物理特性所造成的噪声,和低剂量计算机断层扫描(CT)中发现的结构噪声。我们证明了我们方法的图像质量优于传统和当前最先进的基于深度学习的图像去噪方法,包括监督学习。
2021-09-09 cs.CV cs.LG eess.IV
Unsupervised Imaging Inverse Problems with Diffusion Distribution Matching
Univ. Grenoble Alpes(格勒诺布尔-阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院)
针对图像复原逆问题中前向模型未知、配对数据难获取的痛点,提出基于条件流匹配和分布匹配损失的无监督方法,仅需小型非配对数据集,在多项任务上性能优异,可低成本实现镜头校准等真实应用。
2025-06-17 cs.CV cs.LG eess.IV
Propensity Score Alignment of Unpaired Multimodal Data
University of British Columbia(不列颠哥伦比亚大学);Valence Labs
针对多模态表示学习中未配对样本难对齐的问题,本文借鉴因果推断Rubin框架,通过估计各模态倾向得分定义样本距离,验证发现最优传输匹配在合成和真实单细胞数据上均优于现有对齐方法。
2024-10-29 cs.LG stat.ME stat.ML
FLUX: Geometry-Aware Longitudinal Flow Matching with Mixture of Experts
Yale University(耶鲁大学)
FLUX通过几何感知的纵向流匹配框架,结合混合专家方法,解决无配对纵向数据中的轨迹建模与隐式状态发现问题。
2026-05-09 cs.LG q-bio.NC
QS-ADN: Quasi-Supervised Artifact Disentanglement Network for Low-Dose CT Image Denoising by Local Similarity Among Unpaired Data
Northeastern University(东北大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Stevens Institute of Technology(史蒂文斯理工学院)
深度学习已成功应用于低剂量CT(LDCT)图像去噪,以降低潜在的辐射风险。然而,广泛报道的监督LDCT去噪网络需要成对图像的训练集,这是昂贵的获得,不能完美地模拟。无监督学习利用不成对的数据,并且非常适合LDCT去噪。例如,伪影消除网络(ADN)依赖于未配对的图像,避免了监督的需要,但伪影减少的结果不如通过监督学习的效果好。一个重要的观察是,可以利用的未配对数据之间通常存在隐藏的相似性。本文提出了一种新的学习模式--准监督学习,对每幅LDCT图像,首先从非配对的正常剂量CT(NDCT)数据集中找到最佳匹配图像,然后利用该模型对LDCT图像进行去噪。然后,利用匹配对和匹配度作为先验信息,构造并训练ADN型网络进行LDCT去噪,该方法不同于(但兼容)监督和半监督学习模式,可以通过修改现有网络实现。实验结果表明,该方法是竞争与国家的最先进的方法在噪声抑制和上下文保真度。代码和工作数据集可在https://github.com/ruanyuhui/ADN-QSDL.git上公开获得。
2023-02-08 cs.LG
Joint Velocity-Growth Flow Matching for Single-Cell Dynamics Modeling
School of Mathematics and Statistics, Xi’an Jiaotong University(西安交通大学数学与统计学学院);LMAM and School of Mathematical Sciences, Peking University(北京大学理学院);Center for Machine Learning Research, Peking University(北京大学机器学习研究中心)
本文提出联合速度-增长流匹配(VGFM),通过流匹配同时学习单细胞状态转移与质量增长,解决快照数据不配对和不平衡问题,并在合成与真实数据上验证其优于现有单细胞动力学建模方法。
2025-11-08 cs.LG
M3C: A Framework towards Convergent, Flexible, and Unsupervised Learning of Mixture Graph Matching and Clustering
Shanghai Jiao Tong University(上海交通大学)
本文提出M3C框架及其无监督扩展UM3C,通过Minorize-Maximization保证收敛、松弛聚类提升灵活性,并引入边级亲和度学习与伪标签选择,在混合图匹配与聚类任务上取得领先的精度和效率。
2023-10-27 cs.LG
Pre-Training Transformer Decoder for End-to-End ASR Model with Unpaired Speech Data
Microsoft Research Asia(微软亚洲研究院)
本文研究了一种新的预训练技术Speech 2C,用于基于编解码器的自动语音识别(ASR)。在多任务学习框架内,我们使用声学单元为编码器-解码器网络引入两个预训练任务,即,伪代码,源自离线集群模型。一种是通过编码器输出中的掩码语言建模(如HuBERT模型)来预测伪代码,而另一种是让解码器学习自回归地重建伪代码,而不是生成文本脚本。通过这种方式,解码器在学习生成正确的文本之前学习用代码重构原始语音信息。在LibriSpeech语料库上的综合实验表明,与不进行解码器预训练的方法相比,Speech 2C可以将词出错率(WER)降低19.2%,并且在10 h和100 h的微调子集上也明显优于最先进的wav 2 vec 2.0和HuBERT。我们在https://github.com/microsoft/SpeechT5/tree/main/Speech2C上发布我们的代码和模型。
2022-06-20 cs.LG cs.SD eess.AS
Mix-Domain Contrastive Learning for Unpaired H&E-to-IHC Stain Translation
Toronto Metropolitan University(多伦多都会大学);Zhengzhou University(郑州大学);The First Affiliated Hospital of Zhengzhou University(郑州大学第一附属医院);Zhongyuan University of Technology(中原工学院)
本文提出混合域对比学习(MDCL)方法,通过聚合域间与域内病理信息解决非配对H&E到IHC染色转换问题,在MIST和BCI数据集上取得最优性能。
2024-08-30 cs.CV cs.LG eess.IV
Scalable Sparse Subspace Clustering by Orthogonal Matching Pursuit
Johns Hopkins University(约翰斯·霍普金斯大学)
基于$\ell_1$、$\ell_2$或核范数正则化的子空间聚类方法由于其简单性、理论保证和经验成功而变得非常流行。然而,正则化子的选择可以极大地影响理论和实践。例如,保证$\ell_1$正则化给出子空间保持亲和性(即,在来自不同子空间的点之间没有连接)在广泛的条件下(例如,任意子空间和损坏的数据)。然而,它需要解决一个大规模的凸优化问题。另一方面,$\ell_2$和核范数正则化提供了有效的封闭形式解,但是需要非常强的假设来保证子空间保持亲和性,例如,独立的子空间和未损坏的数据。本文研究了一种基于正交匹配追踪的子空间聚类方法。我们表明,该方法是计算效率和保证在广泛的条件下,给一个子空间保持亲和力。在合成数据上的实验验证了理论分析的正确性,并在手写数字和人脸聚类中的应用表明,该方法在准确率和效率之间取得了最佳的平衡。
2016-05-05 cs.CV cs.LG stat.ML
Schrödinger Bridge Flow for Unpaired Data Translation
Google DeepMind(谷歌DeepMind)
针对现有无配对数据翻译方法无法近似最优输运映射、相关OT近似技术训练成本高或误差大的问题,提出无需训练多类DDM模型的薛定谔桥流算法,在多项无配对数据翻译任务中验证了性能。
2024-09-14 cs.LG stat.ML
Restricted Connection Orthogonal Matching Pursuit For Sparse Subspace Clustering
Information Security Lab, Institute of Big Data Technologies,\ Graduate School, Peking University
稀疏子空间聚类(SSC)是将数据点聚类到其底层子空间的最流行的方法之一。然而,SSC可能遭受沉重的计算负担。应用于SSC的正交匹配追踪加速了计算,但代价是聚类精度的损失。本文提出了一种抗噪声的稀疏子空间聚类算法--限制连接正交匹配追踪算法(RCOMP-SSC),该算法通过限制OMP迭代过程中每个数据点的连接数来提高聚类精度并保持较低的计算时间。此外,我们开发了一个控制矩阵的框架,实现RCOMP-SCC。该框架可扩展到其他数据点选择策略。我们的分析和实验合成数据和两个真实世界的数据库(EYaleB & USPS)证明了我们的算法相比,其他聚类方法的精度和计算时间的优越性。
2019-05-01 cs.LG stat.ML
Non-Negative Spherical Relaxations for Universe-Free Multi-Matching and Clustering
Halmstad University(哈尔姆斯塔德大学);University of Bonn(波恩大学)
提出一种非负球面松弛方法解决二进制矩阵单射约束优化问题,通过条件幂迭代自动调整连续参数,无需后处理即可获得二进制结果,在多重匹配和聚类任务中表现优异。
2023-10-20 cs.CV cs.LG math.OC
Active Orthogonal Matching Pursuit for Sparse Subspace Clustering
Tsinghua University(清华大学)
稀疏子空间聚类(SSC)是一种对低维子空间中的高维数据点进行聚类的方法。然而,虽然基于$\ell_1$优化的SSC算法遭受高计算复杂性,但是SSC的其他变体,诸如基于正交匹配追踪的SSC(OMP-SSC),在追求提高时间效率时损失聚类准确性。在这封信中,我们提出了一种新的主动OMP-SSC,它提高了OMP-SSC的聚类精度,通过自适应更新数据点和随机丢弃的数据点在OMP过程中,同时仍然享受低计算复杂性的贪婪追求算法。我们提供启发式分析我们的方法,并解释这两个积极的步骤如何实现更好的连接和分离之间的权衡。对合成数据和实际数据的数值结果验证了我们的分析,并显示了所提出的主动算法的优点。
2017-08-16 cs.CV cs.IT cs.LG
MPCC: Matching Priors and Conditionals for Clustering
Universidad de Chile(智利大学);Millennium Institute of Astrophysics(千禧天体物理研究所);Universidad Austral de Chile(智利南方大学);Harvard University(哈佛大学)
聚类是无监督学习中的一项基本任务,它在很大程度上取决于所使用的数据表示。深度生成模型已经成为学习信息丰富的低维数据表示的一种有前途的工具。我们提出了用于聚类的匹配先验和条件(MPCC),这是一种基于GAN的模型,具有从数据中推断潜在变量和聚类类别的编码器,以及从条件潜在空间生成样本的灵活解码器。通过MPCC,我们证明了深度生成模型在聚类任务中可以与区别性方法竞争/优于各种基准数据集上的最新技术。我们的实验表明,添加可学习的先验知识并增加编码器更新的数量可以提高生成样本的质量,获得9.49 $\pm$ 0.15的初始得分,并在CIFAR 10中将Fréchet初始距离提高了46.9%。
2020-08-21 cs.LG
Sims: An Interactive Tool for Geospatial Matching and Clustering
Microsoft(微软公司)
本文提出无代码Web工具Sims,基于Google Earth Engine实现地理空间数据的聚类与相似性搜索,通过Rwanda玉米产量案例验证其特征探索能力,助力推进地理空间建模。
2024-12-20 cs.CV cs.LG physics.geo-ph
SMART: Semantic Matching Contrastive Learning for Partially View-Aligned Clustering
College of Computer Science and Technology, Huaqiao University(华侨大学计算机科学与技术学院);Department of Computer Science, Shantou University(汕头大学计算机科学系);Chongqing Key Laboratory of Nonlinear Circuits and Intelligent Information Processing, College of Electronic and Information Engineering, Southwest University(西南大学电子信息工程学院非线性电路与智能信息处理重点实验室);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系)
SMART通过语义匹配对比学习解决部分视图对齐聚类中的分布偏移问题,提升对齐和非对齐数据的语义利用效果。
2025-12-17 cs.AI cs.CV cs.LG
Clustering Internet Memes Through Template Matching and Multi-Dimensional Similarity
Vrije Universiteit(自由大学)
本文提出一种基于模板匹配与多维相似度特征的互联网模因聚类新方法,利用局部和全局特征跨形式、视觉、文本等维度聚类,无需预定义数据库,优于现有方法且更符合人类直觉。
2025-05-02 cs.CL cs.IR cs.LG
Text-Based Product Matching -- Semi-Supervised Clustering Approach
NASK National Research Institute(NASK国家研究院);AGH University of Kraków(克拉科夫AGH大学);University of Technology Sydney(悉尼科技大学)
本文提出一种基于半监督聚类的产品匹配新方法,通过在真实数据集上结合IDEC算法与模糊字符串匹配进行实验,证明了少量标注样本增强的无监督匹配可作为主流监督策略的有效替代方案。
2024-02-01 cs.AI cs.DB cs.LG
A matching based clustering algorithm for categorical data
Yerevan State University(埃里温国立大学)
聚类分析是数据采掘和知识发现中的一项重要任务。每种类型的数据在实现将数据相对有效地划分为同质组方面都提出了独特的挑战。虽然在文献中对数值数据的算法进行了相对较好的研究,但在分类数据的情况下仍然存在挑战。主要问题是分类数据的无序结构,这使得实现聚类算法的标准概念变得困难。例如,对象之间的距离的评估,分类数据的代表的选择并不像连续数据那样简单。因此,本文提出了一种新的框架划分分类数据,它不使用距离测量作为一个关键的概念。基于匹配的聚类算法是基于相似性矩阵和一个框架,后者使用特征重要性标准更新设计的。实验结果表明,该算法可以作为现有算法的替代,可以成为一个有效的知识发现工具。
2018-12-09 cs.LG stat.ML
SerpentFlow: Generative Unpaired Domain Alignment via Shared-Structure Decomposition
EDF Lab Paris-Saclay(巴黎萨克雷法国电力实验室);INRIA Paris(法国国家信息与自动化研究所巴黎中心);Université Paris-Saclay(巴黎-萨克雷大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
SerpentFlow通过共享结构分解实现无配对域对齐,利用生成模型生成伪配对以学习目标域的条件分布。
2026-01-05 cs.LG cs.NE
Concept Matching: Clustering-based Federated Continual Learning
New Jersey Institute of Technology(新泽西理工学院)
提出基于聚类的联邦持续学习框架概念匹配(CM),通过概念聚类与匹配算法解决灾难性遗忘和客户端干扰,优于现有系统且扩展性好。
2023-11-12 cs.DC cs.LG
Discrete Action Matching: Learning Stochastic Dynamics from Samples via State Graphs
Applied AI Institute(应用人工智能研究所)
提出离散动作匹配(DAM),利用状态图和离散Wasserstein几何从样本学习随机动力学,通过估计密度比率与学习动作势实现边际重建与插值。
2026-10-06 cs.AI cs.LG
Looking For A Match: Self-supervised Clustering For Automatic Doubt Matching In e-learning Platforms
Vedantu Innovations Pvt. Ltd.(Vedantu创新私人有限公司)
最近,电子学习平台已经发展成为一个地方,学生可以发布疑问(用智能手机拍摄的快照),并在几分钟内解决它们。然而,学生在这些平台上发布的质量差异很大的疑问数量显著增加,这不仅对教师的导航提出了挑战,而且增加了每个疑问的解决时间。两者都是不可接受的,因为高疑问解决时间阻碍了学生的学习进度。这就需要自动识别知识库中是否存在类似的疑问,然后将其作为合理的解决方案提供给教师,以验证并与学生沟通。监督学习技术(如暹罗体系结构)需要标签来识别匹配,这是不可行的,因为标签是稀缺和昂贵的。在这项工作中,我们,因此,开发了一个标签不可知的怀疑匹配范式的基础上,通过自我监督技术学习的表示。基于BYOL(引导你自己的潜在空间)的理论见解,我们提出了自定义BYOL,它将特定领域的增强与不同的适当构建的数据视图集的对比目标相结合。结果表明,自定义BYOL与BYOL和监督学习实例相比,分别将前1匹配准确率提高了约6%和5%。我们进一步表明,这两个基于BYOL的学习实例的性能与人类标记不相上下或更好。
2022-08-20 cs.LG
Consistent Amortized Clustering via Generative Flow Networks
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出GFNCP,一种基于生成流网络的摊销聚类框架,通过共享能量参数化实现顺序不变性,并在合成与真实数据上超越现有方法。
2025-02-26 cs.CV cs.LG
Align then Fusion: Generalized Large-scale Multi-view Clustering with Anchor Matching Correspondences
National University of Defense Technology(国防科技大学);Zhejiang Normal University(浙江师范大学)
多视图锚点图聚类选择具有代表性的锚点,以避免完全的成对相似性,从而降低图方法的复杂性。虽然在大规模应用中得到广泛应用,但现有方法没有充分注意在视图之间建立锚点集之间的正确对应关系。具体而言,从不同视图获得的锚点图不按列对齐。这样的\textbf{A} nchor- \textbf{U} naligned \textbf{P} problem(AUP)将导致不准确的图融合并且降低聚类性能。在多视图场景下,生成正确的对应关系可能非常困难,因为锚点在特征维度上不一致。为了解决这个具有挑战性的问题,我们提出了第一个研究的广义和灵活的锚图融合框架,称为\textbf{F} ast \textbf{M} ulti-\textbf{V} view \textbf{A} nchor- \textbf{C} orrespondence \textbf{C} lustering(FMVACC)。具体来说,我们展示了如何找到锚对应的特征和结构信息,锚图融合后,列明智地执行。此外,我们从理论上表明FMVACC和现有的多视图后期融合\cite{liu2018late}和部分视图对齐聚类\cite{huang2020partially}之间的联系,这进一步证明了我们的通用性。在七个基准数据集上的实验证明了该方法的有效性和效率。此外,所提出的对齐模块也显示出显着的性能改善,适用于现有的多视图锚图的竞争对手,表明…
2022-10-24 cs.LG
Noisy subspace clustering via matching pursuits
ETH Zurich(苏黎世联邦理工学院)
基于稀疏性的子空间聚类算法因其在实际应用中的优异性能而受到广泛关注。一个突出的例子是Elhamifar和Vidal的稀疏子空间聚类(SSC)算法,该算法基于通过Lasso稀疏地表示每个数据点的所有其他数据点获得的邻接矩阵来执行谱聚类。当数据点的数量很大或周围空间的维数很高时,SSC的计算复杂性很快变得令人望而却步。Dyer等人观察到,通过用贪婪正交匹配追踪(OMP)算法替换Lasso获得的SSC-OMP导致显著更低的计算复杂性,同时通常产生相当的性能。本文的中心目标是分析性能表征的SSC-OMP噪声数据。此外,我们介绍和分析的SSC-MP算法,它采用匹配追踪(MP)代替OMP。SSC-OMP和SSC-MP都被证明是成功的,即使当子空间相交,当数据点被严重的噪声污染。聚类条件,我们得到的SSC-OMP和SSC-MP是类似的SSC和基于阈值的子空间聚类(TSC)算法由于Heckel和Bölcskei。分析结果与数值结果相结合表明,SSC-OMP和SSC-MP与数据相关的停止标准自动检测的数据下的子空间的尺寸。此外,合成和真实数据上的实验表明,SSC-MP相比非常有利的SSC,SSC-OMP,TSC,和最近子空间邻居算法,无论是在聚类性能和运行时间。此外,我们发现,相比于SSC-OMP,SSC-MP的性能是非常强大的停止标准中的参数的选择。
2018-06-08 cs.IT cs.LG math.IT
Cross-Scenario Deraining Adaptation with Unpaired Data: Superpixel Structural Priors and Multi-Stage Pseudo-Rain Synthesis
School of Information Engineering, Guangdong University of Technology(广东工业大学信息工程学院);School of Computer Science and Engineering, Nanjing University of Science and Technology(南京理工大学计算机科学与工程学院)
本文提出一种无需配对雨天数据的跨场景去雨适应框架,通过超像素生成模块提取结构先验,结合多阶段伪雨合成提升去雨性能,实验表明在未知分布领域取得显著PSNR提升。
2026-03-23 cs.AI cs.CV cs.GR
Categorical Schrödinger Bridge Matching
本文针对离散空间中的薛定谔桥问题,提出类别型薛定谔桥匹配(CSBM)算法,并从理论上证明了离散时间迭代马尔可夫拟合的收敛性,在合成数据和图像VQ表示上验证了其有效性。
2025-08-16 cs.LG
Conditional out-of-sample generation for unpaired data using trVAE
Institute of Computational Biology, Helmholtz Center Munich(亥姆霍兹慕尼黑中心计算生物学研究所);School of Life Sciences Weihenstephan, Technical University of Munich(慕尼黑工业大学魏恩施蒂芬生命科学学院);Department of Mathematics, Technische Universität München(慕尼黑工业大学数学系);Department of Computer Engineering, Sharif University of Technology(谢里夫理工大学计算机工程系)
虽然生成模型在以低维描述符为条件生成高维样本方面取得了巨大的成功(学习例如MNIST中的笔画粗细,CelebA中的头发颜色或Wavenet中的说话者身份),但它们的生成样本外存在根本问题。条件变分自编码器(CVAE)作为简单的条件生成模型在训练期间不显式地关联条件,并且因此没有激励学习跨条件的紧凑联合分布。我们克服了这一限制,匹配他们的分布使用最大均值差异(MMD)在解码器层以下的瓶颈。这引入了强正则化,用于在相同条件下重建样本和跨条件转换样本,从而大大提高了泛化能力。我们将该体系结构称为\emph{transformer} VAE(trVAE)。在高维图像和表格数据上对trVAE进行基准测试,我们表现出比现有方法更高的鲁棒性和更高的准确性。特别是,我们通过解决以前存在问题的少数群体和多种条件,基于高维单细胞基因表达数据,对细胞扰动对治疗和疾病的反应进行了定性改进的预测。对于一般任务,我们提高皮尔逊相关性的高维估计的均值和方差与他们的地面真理从0.89到0.97和0.75到0.87,分别。
2019-10-30 cs.LG eess.IV q-bio.CB
A Clustering-Based Combinatorial Approach to Unsupervised Matching of Product Titles
随着电子商务行业的不断发展,产品检索问题变得尤为重要。随着越来越多的企业将其活动转移到Web上,与产品相关的信息的数量和多样性迅速增加。这些因素使得用户很难识别和比较他们想要的产品的特征。最近的研究表明,标准的相似性度量不能有效地识别相同的产品,因为相似的标题往往是指不同的产品,反之亦然。其他研究采用外部数据源(搜索引擎)来丰富标题;这些解决方案是相当不切实际的,主要是因为外部数据提取缓慢。在本文中,我们介绍了UPM,一个无监督的算法匹配产品的标题。UPM独立于任何外部来源,因为它分析标题并从中提取单词组合。这些组合根据几个标准进行评估,其中最合适的组合构成了产品分类的集群。UPM也是无参数的,它避免了产品成对比较,并包括一个后处理验证阶段,纠正错误的匹配。UPM的实验评估证明了其在效率和有效性方面优于最先进的方法。
2019-03-07 cs.IR cs.LG stat.ML
A High-Performance External Validity Index for Clustering with a Large Number of Clusters
Isfahan University of Technology(伊斯法罕理工大学)
本文提出SMBP算法,利用稳定匹配框架配对不同聚类方法的簇,将计算复杂度降至$O(N^2)$,在保持准确度的同时显著提升了大规模多簇聚类评估的计算效率。
2024-09-22 cs.DS cs.GT cs.LG
Accelerated Sparse Subspace Clustering
University of Texas at Austin(德克萨斯大学奥斯汀分校)
用于稀疏子空间聚类的现有技术算法对相似性矩阵执行谱聚类,该相似性矩阵通常通过使用基追踪(BP)或正交匹配追踪(OMP)将每个数据点表示为其他点的稀疏组合来获得。基于BP的方法在实践中往往令人望而却步,而基于OMP的方案的性能并不令人满意,特别是在数据点高度相似的情况下。在本文中,我们提出了一种新的算法,利用正交最小二乘的加速变量,有效地找到底层的子空间。我们表明,在一定条件下,该算法返回一个子空间保持的解决方案。仿真结果表明,所提出的方法与基于BP的方法相比,在运行时间方面,而显着更准确的基于OMP的计划。
2017-10-31 cs.CV cs.LG stat.ML
Trajectory inference via Acceleration Matching
University of Padova(帕多瓦大学);École polytechnique(巴黎综合理工学院);Yale University(耶鲁大学)
针对轨迹推断现有算法计算成本高的问题,提出加速度匹配(AM)算法,通过提升至相空间回归条件加速度场,在基准问题上表现优于或相当现有算法。
2026-08-05 cs.LG math.OC stat.ML
Metric Flow Matching for Smooth Interpolations on the Data Manifold
University of Oxford(牛津大学);Mila(米拉(魁北克人工智能研究所));Université de Montréal(蒙特利尔大学);AITHYRA(艾西拉(机构名))
本文提出度量流匹配(MFM),一种无模拟的条件流匹配框架,通过最小化数据诱导黎曼度量的动能学习近似测地线插值,使生成模型匹配数据流形上的向量场,在LiDAR导航、非配对图像转换和细胞动力学建模等任务中优于欧几里得基线,并在单细胞轨迹预测上达到最先进性能。
2024-11-04 cs.LG stat.ML
Template-Based Graph Clustering
Institut Polytechnique de Paris(巴黎理工学院);Télécom Paris(巴黎电信学院);PSL Research University(巴黎文理研究大学);Université Paris-Dauphine(巴黎多芬大学);University of São Paulo(圣保罗大学)
我们提出了一种新的图形聚类方法指导下的集群(或社区)的底层结构的额外信息。该问题被公式化为一个图匹配到一个较小的维度的模板,因此匹配$n$顶点的观察图(要聚类)的$k$顶点的模板图,使用其边缘作为支持信息,并放松的正交矩阵的集合,以找到一个$k$维嵌入。与相关的先验知识,编码的集群的密度和它们之间的关系,我们的方法优于经典的方法,特别是对于具有挑战性的情况下。
2021-07-05 cs.LG cs.SI stat.ML
A General Framework for Clustering and Distribution Matching with Bandit Feedback
National University of Singapore(新加坡国立大学)
针对带博弈反馈的聚类与分布匹配问题,提出通用框架,推导相关非渐近下界,开发基于Track-and-Stop和Frank--Wolfe的高效在线算法,其平均臂拉动次数渐近匹配下界且揭示收敛速度新界。
2025-01-09 cs.IT cs.LG math.IT
Provable Noisy Sparse Subspace Clustering using Greedy Neighbor Selection: A Coherence-Based Perspective
稀疏子空间聚类(SSC)使用基于贪婪的邻居选择,如匹配追踪(MP)和正交匹配追踪(OMP),已被称为是一种流行的计算效率高的替代传统的基于L1最小化的方法。在确定性有界噪声腐败,在本文中,我们推导出基于相干性的充分条件,保证正确的邻居识别使用MP/OMP。我们的分析利用了两个噪声数据点之间的最大/最小内积受到一个已知的上限的噪声水平。所得到的充分条件清楚地揭示了噪声对基于贪婪的邻居恢复的影响。具体地说,它断言,只要噪声足够小,使得所得到的扰动残差向量保持接近所需的子空间,MP和OMP都成功地返回正确的邻居子集。一个惊人的发现是,当地面真值子空间彼此分离并且噪声不大时,基于MP的迭代在享受较低算法复杂度的同时,产生较小的残差扰动,从而能够更好地识别正确的邻居,进而实现更高的全局数据聚类精度。大量的数值实验被用来证实我们的理论研究。
2020-02-02 cs.LG stat.ML
Scalable Gromov-Wasserstein Learning for Graph Partitioning and Matching
Infinia ML Inc.(Infinia ML公司);Duke University(杜克大学)
我们提出了一个可扩展的Gromov-Wasserstein学习(S-GWL)方法,并建立了一个新的和理论支持的大规模图分析的范例。所提出的方法是基于Gromov-Wasserstein差异是一个伪度量的事实。给定两个图,与它们的Gromov-Wasserstein差异相关联的最优传输提供了它们的节点之间的对应关系,并实现了图匹配。当其中一个图具有孤立但自连接的节点($i.e.$,不连通图)时,最优传输指示另一个图的聚类结构并实现图划分。使用这个概念,我们通过学习多个观察图的Gromov-Wasserstein重心图,将我们的方法扩展到多图分区和匹配;重心图扮演断开图的角色,因为它是学习的,所以聚类也是。我们的方法结合了递归的$K$划分机制和正则化的邻近梯度算法,对于具有$E$和$V$节点的图,其时间复杂度为$\mathcal{O}(K(E+V)\log_K V)$.据我们所知,我们的方法是第一次尝试,使Gromov-Wasserstein差异适用于大规模的图分析和统一的图分割和匹配到同一个框架。它优于最先进的图划分和匹配方法,实现了准确性和效率之间的平衡。
2019-10-09 cs.LG cs.SI stat.ML
Generating automatically labeled data for author name disambiguation: An iterative clustering method
University of Michigan(密歇根大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
为了训练用于监督作者姓名消歧的算法,许多研究依赖于手工标记的真实数据,这些数据生成起来非常费力。本文表明,标记的训练数据可以自动生成的信息功能,如电子邮件地址,合著者的名字,并引用参考文献,可从出版记录。为此,使用外部权威数据库来决定用于匹配每个特征上的名称实例的高精度规则。然后,在目标歧义数据中选择名称实例进行基于规则的成对匹配过程。接下来,通过通用实体解析算法将它们合并到聚类中。聚类过程在其他特征上重复,直到进一步合并是不可能的。在228 K个作者姓名实例中的26,566个实例上进行测试,这种迭代聚类产生了精确标记的数据,成对F1 = 0.99。标记的数据代表人口数据的名称种族和共同消除歧义的名称组大小分布。此外,在标记数据上训练的机器学习算法消除了测试数据中的24 K个名称的歧义,成对F1 = 0.90 ~ 0.92。讨论了应用这种方法解决大规模学术数据中作者姓名歧义的几个挑战。
2021-02-05 cs.DL cs.IR cs.LG
A Novel Efficient Approach with Data-Adaptive Capability for OMP-based Sparse Subspace Clustering
Shenzhen Graduate School, Peking University(北京大学深圳研究生院)
正交匹配追踪算法在数据科学及其稀疏子空间聚类、图像处理等应用中有着重要的作用。然而,现有的基于OMP的方法缺乏数据自适应性,从而不能很好地表示数据,并可能失去准确性。本文提出了一种新的方法,以提高基于OMP的稀疏子空间聚类的数据自适应能力。在我们的方法中,参数选择过程的基础上调整的数据分布的信息表示的参数。我们的理论分析表明,参数选择过程可以有效地协调任何OMP为基础的方法,以提高聚类性能。此外,一个新的自我表达的亲和力(SEA)比率度量的定义来衡量稀疏表示转换效率的谱聚类,以获得数据分割。实验结果表明,与其他基于OMP的稀疏子空间聚类算法相比,该算法在聚类精度、SEA比和表示质量等方面均具有更好的性能,同时保持了时间效率和抗噪能力。
2019-08-30 cs.LG stat.ML
Diffusion enabled Optimal Transport distances for graph matching
研究提出用于图匹配的DsrFGW方法,通过纳入扩散过程统一节点特征与结构连通性。在合成成对图匹配任务评估中,该方法相比srFGW优势明显,能降低对噪声等的敏感度,适应问题难度,是结构不确定下图比较的稳健框架。
2026-07-09 cs.AI cs.LG
Clustered Graph Matching for Label Recovery and Graph Classification
University of Maryland(马里兰大学);Texas A&M University(得克萨斯农工大学);Johns Hopkins University(约翰斯·霍普金斯大学)
给定一个顶点对齐的网络和一个额外的标签洗牌网络的集合,我们提出了利用顶点对齐的集合中的信号来恢复洗牌网络的标签的过程。我们考虑将混洗网络与不同粒度级别的顶点对齐集合中的网络平均值进行匹配。我们在理论和实践中证明,如果图来自不同的网络类,然后聚类网络到类,然后匹配新的图集群平均可以产生更高的保真度匹配性能比匹配到全局平均图。此外,通过最小化关于每个聚类平均值的图匹配目标函数,该方法同时分类和恢复洗牌图的顶点标签。这些理论的发展进一步加强通过一个启发性的真实数据实验匹配人类连接体。
2023-03-29 cs.LG stat.ME stat.ML