arXivDaily arXiv每日学术速递 周一至周五更新
​通知:联邦节假日调休:哥伦布日 / 原住民日(Columbus Day / Indigenous Peoples' Day),今日(13日)无更新。
arXiv 2411.13014cs.LG

属性图上的可扩展深度度量学习

Scalable Deep Metric Learning on Attributed Graphs

The Ohio State University(俄亥俄州立大学);University of Georgia(佐治亚大学);Kent State University(肯特州立大学)

Xiang Li, Gagan Agrawal, Ruoming Jin, Rajiv Ramnath

AI总结:

本文提出基于深度度量与无偏对比学习的属性图嵌入方法,给出半监督 DMT 和无监督 DMAT-i 两种算法,首次建立 tuplet 损失与对比学习的联系,并在节点聚类、分类和链接预测任务上取得优于单一现有方法的一致性表现。

摘要:

我们考虑构建大型属性图的嵌入并支持多个下游学习任务的问题。我们开发了一种图嵌入方法,该方法基于扩展深度度量和无偏对比学习技术,以 1) 处理属性图,2) 支持基于小批量的方法,3) 实现可扩展性。基于多类 tuplet 损失函数,我们提出两种算法——用于半监督学习的 DMT 和用于无监督情况的 DMAT-i。通过分析我们的方法,我们为下游节点分类任务提供了泛化界,并首次将 tuplet 损失与对比学习联系起来。通过大量实验,我们展示了表示构建的高可扩展性,并在将该方法应用于三个下游任务(节点聚类、节点分类和链接预测)时,表现出比任何单一现有方法更好的一致性。

英文摘要:

We consider the problem of constructing embeddings of large attributed graphs and supporting multiple downstream learning tasks. We develop a graph embedding method, which is based on extending deep metric and unbiased contrastive learning techniques to 1) work with attributed graphs, 2) enabling a mini-batch based approach, and 3) achieving scalability. Based on a multi-class tuplet loss function, we present two algorithms -- DMT for semi-supervised learning and DMAT-i for the unsupervised case. Analyzing our methods, we provide a generalization bound for the downstream node classification task and for the first time relate tuplet loss to contrastive learning. Through extensive experiments, we show high scalability of representation construction, and in applying the method for three downstream tasks (node clustering, node classification, and link prediction) better consistency over any single existing method.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑