AutoRDF2GML: Facilitating RDF Integration in Graph Machine Learning
ScaDS.AI & TU Dresden（ScaDS.AI与德累斯顿工业大学）；metaphacts GmbH（metaphacts有限公司）；Fujitsu Ltd.（富士通有限公司）
本文提出 AutoRDF2GML 框架，通过自动化提取基于内容和拓扑的特征，将 RDF 数据转换为图机器学习可用的表示，并提供了四个新基准数据集，有效弥合了图机器学习与语义网社区的差距。
2024-07-26 cs.AI cs.IR cs.LG
Robust Graph Data Learning via Latent Graph Convolutional Representation
School of Computer Science and Technology（计算机科学与技术学院）
图卷积表示（GCR）在图数据表示方面取得了令人印象深刻的性能。然而，现有的GCR一般定义在输入固定图上，这可能会限制表示能力，并且容易受到结构攻击和噪声的影响。为了解决这个问题，我们提出了一种新的潜在图卷积表示（LatGCR），用于鲁棒的图数据表示和学习。我们的LatGCR的基础上，从图的邻域重建方面重新制定图卷积表示。给定输入图$\textbf{A}$，LatGCR的目标是生成一个灵活的潜在图$\widetilde{\textbf{A}}$用于图卷积表示，这明显提高了表示能力，并且对图结构攻击和噪声具有鲁棒性.此外，LatGCR是以自监督的方式实现的，因此为监督和无监督图学习任务提供了一个基本块。在多个数据集上的实验证明了LatGCR的有效性和鲁棒性。
2021-10-13 cs.CV cs.LG
Making Graph Neural Networks Worth It for Low-Data Molecular Machine Learning
University College London（伦敦大学学院）；Alan Turing Institute（艾伦·图灵研究所）
图神经网络由于其学习表征的表达能力而在分子上的机器学习中变得非常流行。然而，分子机器学习是一种典型的低数据机制，目前尚不清楚图神经网络是否可以避免在低资源环境中的过拟合。相比之下，指纹方法是低数据环境的传统标准，因为它们减少了参数数量和手动设计的功能。在这项工作中，我们调查图神经网络是否有竞争力的小数据设置相比，参数“更便宜”的指纹方法的替代品。当我们发现它们不是时，我们探索预训练和元学习方法MAML（以及变体FO-MAML和ANIL），通过相关任务的迁移学习来提高图神经网络的性能。我们发现，MAML和FO-MAML确实使图神经网络的性能优于基于指纹的模型，即使在数据可用性受到严格限制的情况下，也为使用图神经网络提供了一条途径。与以前的工作相比，我们发现ANIL在这种分子环境中的表现比其他元学习方法更差。我们的研究结果表明两个原因：分子机器学习任务可能需要显着的任务特定的适应，和分布偏移在测试任务相对于训练任务可能会导致更差的ANIL性能。
2020-11-24 cs.AI cs.LG
Introduction to Graph Neural Networks for Machine Learning Engineers
The MITRE Corporation（MITRE公司）；National Cancer Institute（国家癌症研究所）
本文通过编码器-解码器框架介绍图神经网络，并通过同质图上的理论和实验分析不同训练规模和复杂度下的行为，重点讨论过平滑和过挤压问题。
2026-06-01 cs.AI cs.LG
Curriculum Graph Machine Learning: A Survey
Tsinghua University（清华大学）
本文首次全面综述课程图机器学习（Graph CL），针对现有图模型随机训练导致的次优问题，按节点级、链接级和图级任务分类总结方法，并展望未来方向。
2024-03-12 cs.LG
Graph-based Ensemble Machine Learning for Student Performance Prediction
学生表现预测是了解学生需求、提供适当的学习机会/资源、提高教学质量的重要研究课题。然而，传统的机器学习方法无法产生稳定和准确的预测结果。在本文中，我们提出了一个基于图的集成机器学习方法，旨在提高稳定性的单一机器学习方法通过多个方法的共识。具体来说，我们利用监督预测方法和无监督聚类方法，构建一种迭代方法，该方法在二分图中传播，并收敛到更稳定和准确的预测结果。大量的实验表明，我们提出的方法在预测更准确的学生表现的有效性。具体来说，我们的模型在预测准确率方面比最好的传统机器学习算法高出14.8%。
2021-12-22 cs.AI cs.CY cs.LG
How do some Bayesian Network machine learned graphs compare to causal knowledge?
Queen Mary University of London（伦敦玛丽女王大学）
贝叶斯网络（BN）的图可以是机器学习的，由因果知识确定的，或者两者的组合。在生物信息学等学科中，应用BN结构学习算法可以揭示新的见解，否则将仍然未知。然而，当输入数据在样本大小方面受到限制时，这些算法不太有效，这在处理真实数据时经常是这种情况。本文重点关注纯机器学习和纯知识为基础的BN，并研究它们在图形结构方面的差异以及隐含的统计模型如何解释数据。测试是基于四个以前的案例研究，其BN结构是由领域知识。使用各种指标，我们将基于知识的图与TETRAD中实现的跨越所有三个学习类别的各种算法生成的机器学习图进行比较。结果表明，虽然算法产生的图形具有更高的模型选择得分，但基于知识的图形是感兴趣变量的更准确的预测器。在样本量有限的情况下，最大化分数拟合是无效的，因为拟合在有限的数据下变得越来越失真，将算法引导到共享更高拟合分数但却大大偏离真实图形的图形模式。这突出了因果知识在这些情况下的价值，以及需要更合适的拟合分数适合有限的数据。最后，这些实验还提供了新的证据，支持模拟数据的结果几乎没有告诉我们实际的真实世界性能。
2021-02-02 cs.AI cs.LG
The Power of the Weisfeiler-Leman Algorithm for Machine Learning with Graphs
Polytechnique Montréal（蒙特利尔理工学院）；TU Dortmund University（多特蒙德工业大学）；University of Vienna（维也纳大学）
近年来，基于Weisfeiler-Leman算法的算法和神经架构，一个著名的启发式图同构问题，出现了一个强大的工具（监督）机器学习与图形和关系数据。在这里，我们全面概述了该算法在机器学习环境中的使用。我们讨论的理论背景，展示如何使用它的监督图和节点分类，讨论最近的扩展，以及它的连接到神经架构。此外，我们还概述了当前的应用和未来的方向，以刺激研究。
2021-11-22 cs.AI cs.DS cs.LG
Improving Graph Embeddings in Machine Learning Using Knowledge Completion with Validation in a Case Study on COVID-19 Spread
University of Messina（梅西纳大学）
本文提出一种整合知识补全的图机器学习流程，通过重塑图拓扑和嵌入动态，提升图表示质量，以新冠传播案例验证其有效性。
2025-11-15 cs.AI cs.LG
Tile Embedding: A General Representation for Procedural Level Generation via Machine Learning
近年来，通过机器学习的过程级生成（PLGML）技术已经被应用于利用机器学习生成游戏级。这些方法依赖于人类注释的游戏水平表示。为游戏创建带注释的数据集需要领域知识，并且非常耗时。因此，尽管存在大量的视频游戏，但注释数据集只针对少数几个。因此，目前的PLGML技术已经在有限的领域进行了探索，超级马里奥兄弟是最常见的例子。为了解决这个问题，我们提出了瓷砖嵌入，一个统一的，负担得起的表示为基于瓷砖的2D游戏。为了学习这种嵌入，我们使用了自动编码器，这些编码器是根据一组现有的人类注释游戏中的瓦片的视觉和语义信息进行训练的。我们评估这种表示的能力，预测启示看不见的瓷砖，并作为一个PLGML表示注释和未注释的游戏。
2021-10-07 cs.CV cs.LG
GPML: Graph Processing for Machine Learning
EPITA；ICube UMR7357, Université de Strasbourg, CNRS（ICube UMR7357，斯特拉斯堡大学，CNRS）
本文介绍GPML库，其将原始网络流量转换为图表示并提取社群与谱指标，用于异常检测、社群变化识别、实时监测和取证分析。
2025-05-13 cs.AI cs.CR cs.LG
Spectral Graph Wavelet Transform as Feature Extractor for Machine Learning in Neuroimaging
Politecnico di Milano（米兰理工大学）；IMT Atlantique（大西洋矿业电信学院）
图信号处理已经成为一个非常有用的框架，信号操作和表示定义在不规则域。当图对信号之间的关系进行编码时，利用图模型上定义的转换可能非常有益。在这项工作中，我们提出了使用谱图小波变换（SGWT）作为脑图上的机器学习的特征提取器的好处。首先，我们考虑一个合成回归问题，其中平滑的图信号被生成为带有加性噪声的输入，而目标是从没有噪声的输入中导出的。这使我们能够使用不同的小波形状来优化频谱覆盖。最后，我们提出了SGWT在功能性磁共振成像（fMRI）开放数据集上对人类受试者的好处，有几个图形和小波形状，通过展示显着的性能改进相比，最先进的。
2019-10-11 cs.CV cs.LG eess.IV
Federated Graph Machine Learning: A Survey of Concepts, Techniques, and Applications
University of Virginia（弗吉尼亚大学）
图机器学习近年来在学术界和工业界都得到了极大的关注。大多数图机器学习模型，如图神经网络（GNN），都是在海量图数据上训练的。然而，在许多现实场景中，例如医疗保健系统中的住院预测，图形数据通常存储在多个数据所有者处，并且由于隐私问题和法规限制，无法由任何其他方直接访问。联邦图机器学习（FGML）是通过以联邦方式训练图机器学习模型来应对这一挑战的有前途的解决方案。在这项调查中，我们进行了全面的回顾FGML的文献。具体来说，我们首先提供了一个新的分类法，将现有的问题在FGML分为两个设置，即FL与结构化数据和结构化FL。然后，我们回顾了在每个设置的主流技术，并阐述了他们如何解决FGML下的挑战。此外，我们还从不同的领域总结了FGML的实际应用，并介绍了FGML所采用的开放图数据集和平台。最后，我们提出了一些限制在现有的研究与有前途的研究方向在这一领域。
2022-10-17 cs.LG
A Library for Representing Python Programs as Graphs for Machine Learning
Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）
程序的图形表示通常是用于代码研究的机器学习的核心元素。我们介绍了一个开源Python库python_graphs，它应用静态分析来构建适合于训练机器学习模型的Python程序的图表示。我们的库允许构建控制流图、数据流图和组合“程序图”，这些图结合了关于程序的控制流、数据流、语法和词汇信息。我们提出的功能和限制的图书馆，执行一个案例研究，将图书馆数百万的竞争性编程提交，并展示图书馆的效用机器学习研究。
2022-08-15 cs.LG cs.PL cs.SE
Extreme Learning Machine for Graph Signal Processing
KTH Royal Institute of Technology（瑞典皇家理工学院）
在本文中，我们使用基于正则化的图信号处理来改进回归任务的极端学习机器。我们假设用于预测或回归的目标信号是图形信号。在这个假设下，我们使用正则化来强制极端学习机的输出在给定的图上是平滑的。真实数据的仿真结果证实，当可用的训练数据大小有限且被噪声破坏时，这种正则化有显著的帮助。
2018-03-12 cs.LG eess.SP stat.ML
Graph Signal Recovery Using Restricted Boltzmann Machines
University of Southern California（南加州大学）
我们提出了一个模型不可知的管道恢复图形信号的专家系统，利用限制玻尔兹曼机的内容可寻址存储器属性和神经网络的代表性能力。所提出的管道需要在具有干净数据的向下机器学习任务上训练的深度神经网络，该数据没有任何形式的损坏或不完整。我们表明，对深度神经网络学习的表示进行去噪通常比对数据本身进行去噪更有效。虽然这个管道可以处理任何数据集中的噪声，但它对图结构数据集特别有效。
2020-11-20 cs.AI cs.LG cs.NE
Machine Learning on Dynamic Graphs: A Survey on Applications
Michigan State University（密歇根州立大学）
本文综述了动态图学习在交通、脑网络、社交网络等较少被探索领域的应用，揭示了其在关联度有限领域中的挑战应对潜力。
2024-01-16 cs.LG cs.SI
Privacy and Transparency in Graph Machine Learning: A Unified Perspective
Delft University of Technology（代尔夫特理工大学）
图机器学习（GraphML），其中经典的机器学习被推广到不规则的图形域，最近已经享受了复兴，导致了令人眼花缭乱的模型阵列及其在几个领域的应用。随着它越来越适用于敏感领域和政府机构对可信人工智能系统的监管，研究人员已经开始研究图学习的透明度和隐私问题。然而，这些主题主要是独立研究的。在这份立场文件中，我们提供了一个关于GraphML中隐私和透明度相互作用的统一观点。特别是，我们描述的挑战和可能的研究方向，在GraphML的隐私透明度权衡的正式调查。
2022-10-19 cs.CR cs.LG
Machine learning on knowledge graphs for context-aware security monitoring
Siemens Technology（西门子技术）
针对现有入侵检测方法告警数量多、相关性不足的问题，研究了知识图谱机器学习在入侵检测中的应用，评估了一种链接预测方法，证实其可生成校准良好且可解释的告警，展现了关系机器学习的应用潜力。
2021-05-18 cs.AI cs.CR cs.LG
GraphFM: Graph Factorization Machines for Feature Interaction Modeling
Chinese Academy of Science（中国科学院）；University of California（加利福尼亚大学）；Alibaba Group（阿里巴巴集团）；DAMO Institute（达摩院）；Institute of Information Engineering（信息工程学院）
针对传统FM无法捕捉高阶特征交互且易引入噪声的问题，提出GraphFM，通过图结构表示特征、筛选有益交互并结合GNN聚合策略建模任意阶交互，实验验证了其有效性。
2025-02-21 cs.AI cs.IR cs.LG
Explore Brain-Inspired Machine Intelligence for Connecting Dots on Graphs Through Holographic Blueprint of Oscillatory Synchronization
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
本文提出HoloGraph框架，通过振荡同步机制改进图神经网络，解决过平滑问题并提升图推理能力。
2026-01-20 cs.AI cs.LG q-bio.NC
Graph Neural Machine: A New Model for Learning with Tabular Data
University of Peloponnese（伯罗奔尼撒大学）；École Polytechnique（巴黎综合理工学院）；IP Paris（巴黎理工学院）；LIX（LIX实验室）
本文提出图神经机器（GNM），用几乎完整的图替换MLP的有向无环图并采用同步消息传递，在表格数据分类和回归任务中多数情况下优于MLP。
2024-02-05 cs.LG stat.ML
Graph coarsening: From scientific computing to machine learning
IBM Research（IBM研究院）；University of Minnesota（明尼苏达大学）
图粗化或图约简的一般方法在科学计算中已经是一个非常有用和普遍存在的工具，它现在刚刚开始在机器学习中产生类似的影响。本文的目标是广泛研究已成功部署在科学计算中的粗化技术，并了解类似的原理如何在与机器学习相关的最新应用中找到自己的方式。在科学计算中，粗化在代数多重网格方法以及相关的多级不完全LU分解类中起着核心作用。在机器学习中，图粗化有各种名称，例如，图形下采样或图形缩减。在大多数情况下，它的目标是用一个节点数较少，但结构和特征与原始图相似的图来替换原始图。如将看到的，这些方法中的常见策略是依赖于谱特性来定义粗略图。
2021-06-22 cs.DS cs.LG cs.NA
Graph Robustness Benchmark: Benchmarking the Adversarial Robustness of Graph Machine Learning
Tsinghua University（清华大学）；Microsoft Research（微软研究院）；Fudan University（复旦大学）；Zhejiang University（浙江大学）
图上的对抗攻击对图机器学习（GML）模型的鲁棒性构成了重大威胁。当然，攻击者和防御者之间的军备竞赛不断升级。但是，双方背后的战略往往不能在相同和现实的条件下进行公平的比较。为了弥合这一差距，我们提出了图鲁棒性基准（GRB），目标是为GML模型的对抗鲁棒性提供可扩展的，统一的，模块化的和可重现的评估。GRB通过1）开发可扩展和多样化的数据集，2）模块化攻击和防御实现，以及3）在细化的场景中统一评估协议来简化攻击和防御过程。通过利用GRB管道，最终用户可以专注于开发具有自动数据处理和实验评估的强大GML模型。为了支持关于图对抗学习的开放和可复制的研究，GRB还在不同的场景中托管公共排行榜。作为一个起点，我们进行了广泛的实验，基准基线技术。GRB是开源的，欢迎社区的贡献。数据集、代码、排行榜可在https://cogdl.ai/grb/home上获得。
2021-11-08 cs.AI cs.CR cs.LG
Reconciled Polynomial Machine: A Unified Representation of Shallow and Deep Learning Models
Florida State University（佛罗里达州立大学）；University of Chinese Academy of Sciences（中国科学院大学）
本文旨在介绍一种新的机器学习模型，即调和多项式机，它可以为现有的浅层和深层机器学习模型提供统一的表示。多项式机器通过计算特征核函数和变量协调函数的内积来预测输出。本文将分析几个具体的模型，包括线性模型，FM，MVM，感知器，MLP和深度神经网络，这些模型都可以归结为协调的多项式机器表示。本文还将从函数逼近的角度，基于这些模型的简化表示，详细分析这些模型的学习误差。
2018-05-19 cs.LG cs.NE stat.ML
Graph Data Augmentation for Graph Machine Learning: A Survey
Snap Inc.（Snap公司）；University of Notre Dame（圣母大学）；Michigan State University（密歇根州立大学）；Cornell University（康奈尔大学）；Technical University of Munich（慕尼黑工业大学）
数据增强最近在图机器学习中引起了越来越多的兴趣，因为它被证明能够通过添加训练数据来提高模型性能和泛化能力。尽管最近出现了这种激增，但由于图数据的复杂非欧几里德结构带来的挑战，该领域仍然相对未被充分探索，这限制了对其他类型的图像，视频或文本数据的传统增强操作的直接类比。我们的工作的目的是给现有的图形数据增强方法的必要和及时的概述，值得注意的是，我们提出了一个全面和系统的调查图数据增强的方法，总结文献结构化的方式。我们首先介绍了三种不同的分类法，分别从数据，任务和学习的角度对图数据增强方法进行分类。接下来，我们将介绍图数据增强的最新进展，按其方法和应用区分。最后，我们概述了目前未解决的挑战和未来的研究方向。总的来说，我们的工作旨在澄清图数据增强的现有文献的情况，并激励在这一领域的额外工作，为更广泛的图机器学习领域的研究人员和从业人员提供有用的资源。此外，我们在https://github.com/zhao-tong/graph-data-augmentation-papers上提供了一个不断更新的阅读清单。
2023-01-19 cs.LG
Graph Partitioning via Parallel Submodular Approximation to Accelerate Distributed Machine Learning
Carnegie Mellon University（卡内基梅隆大学）
分布式计算擅长处理大规模数据，但是同步共享参数的通信成本可能会降低整体性能。幸运的是，在许多问题中，参数和数据之间的交互是稀疏的，这允许有效的划分，以减少通信开销。在本文中，我们制定的数据放置图分区问题。我们提出了一个分布式划分算法。我们提供理论保证和高效的实施。我们还提供了一个高效的实现算法，并证明其有前途的结果，文本数据集和社交网络。我们表明，该算法通过消除90%的网络通信，导致1.6倍的加速的状态的开始分布式机器学习系统。
2015-05-18 cs.AI cs.DC cs.LG
Towards Rational Pesticide Design with Graph Machine Learning Models for Ecotoxicology
Faculty of Computer Science, AGH University of Krakow（计算机科学系，AGH克拉科夫大学）
本研究聚焦合理农药设计，创建最大蜜蜂毒性数据集ApisTox，评估多种图机器学习模型后发现药物化学模型难以泛化到农用化学品，强调领域特定模型与基准的必要性。
2025-09-23 cs.LG
ModRes: A modification of the ResPlan dataset ready for floor plan analysis and graph machine learning
School of Computational and Mathematical Sciences（计算与数学科学学院）；Cardiff University（卡迪夫大学）；Welsh School of Architecture（威尔士建筑学院）
本文提出面向平面图分析与图机器学习的ModRes数据集，其为ResPlan的清洗增强版本，含8431个住宅平面图，提供多维度表示与图特征，经案例研究验证可支持建筑相关机器学习工作流。
2026-10-14 cs.LG
Future Directions in the Theory of Graph Machine Learning
RWTH Aachen University（亚琛工业大学）；Technion - Israel Institute of Technology（以色列理工学院）；NVIDIA Research（英伟达研究院）；University of Oxford（牛津大学）；MIT（麻省理工学院）；TU Munich（慕尼黑工业大学）
本文针对 GNN 理论偏重表达能力、却与随机优化训练下的泛化实践脱节的问题，呼吁建立兼顾表达能力、泛化与优化相互作用的平衡图机器学习理论。
2024-06-14 cs.AI cs.DM cs.LG
Graph Filters for Signal Processing and Machine Learning on Graphs
Delft University of Technology（代尔夫特理工大学）；Rice University（莱斯大学）；Franklin W. Olin College of Engineering（富兰克林·W·奥林工程学院）
本文系统综述了图滤波器的类别、设计策略与权衡，并探讨其扩展为滤波器组和图神经网络以增强表示能力，旨在为信号处理与机器学习交叉研究提供统一框架。
2024-02-19 cs.LG eess.SP
Condensed Representation of Machine Learning Data
Istanbul Technical University（伊斯坦布尔技术大学）
机器学习模型的训练需要足够的数据。数据的充分性并不总是与数量有关，而是与相关性和减少冗余有关。数据生成过程会产生大量数据。当使用原始数据时，这样的大数据会导致大量的计算资源使用。代替使用原始数据，可以使用适当的压缩表示。结合K-means，一个著名的聚类方法，一些校正和细化设施，一个新的凝聚表示方法的机器学习的应用。为了有意义地和直观地呈现这种新方法，采用了综合生成的数据。已经表明，通过使用压缩表示而不是原始数据，可以进行可接受的准确模型训练。
2022-12-29 cs.LG
Estimating the Cheeger constant using machine learning
Indian Institute of Science Education and Research Bhopal（印度科学教育与研究学院博帕尔分院）
本文利用机器学习证明了连通正则图的Cheeger常数对图谱的最大两个特征值具有显著的线性依赖性。我们还表明，在较小尺寸的图上训练的深度神经网络可以用作估计较大图的Cheeger常数的有效估计器。
2020-05-12 cs.LG math.CO
Graph Machine: Exploring Edge Mechanisms as an Inductive Bias
该研究提出Graph Machine架构，含边增强注意力与以边为中心的引用两种边机制，在数独任务上优于Transformer基线，证明显式边机制是有前景的架构设计。
2026-08-21 cs.LG
Scale-invariant representation of machine learning
Seoul National University（首尔国立大学）；Korea Institute for Advanced Study（韩国高等研究院）
机器学习的成功源于其数据的结构化表示。相似数据具有紧密的内部表示，如用于分类的压缩代码或用于聚类的新兴标签。我们观察到，内部代码或标签的频率在监督和无监督学习模型中都遵循幂律。这种尺度不变分布意味着机器学习在很大程度上压缩了频繁的典型数据，同时将许多非典型数据区分为离群值。在这项研究中，我们推导出这些幂律在机器学习中自然出现的过程。根据信息论，尺度不变表示对应于保证给定学习精度的可能表示中的最大不确定数据分组。
2022-03-23 cs.IT cs.LG math.IT
Distributed Representations of Atoms and Materials for Machine Learning
University of Reading（雷丁大学）；SciML（科学机器学习实验室）；Rutherford Appleton Laboratory（卢瑟福·阿普尔顿实验室）
机器学习在计算材料科学中的应用越来越普遍。为了建立有效的材料化学模型，需要原子及其化合物的有用的基于机器的表示。我们只从化合物的化学式中获得化合物的分布式表示，通过原子的分布式表示的池化操作。这些化合物表示评估十个不同的任务，如形成能量和带隙的预测，并发现与现有的基准，利用结构，甚至优越的情况下，只有组合物是可用的。最后，我们介绍了一种新的方法来学习原子的分布式表示，命名为SkipAtom，它利用材料结构数据库中不断增长的信息。
2021-07-30 cond-mat.mtrl-sci cs.LG
Privacy-Preserving Graph Machine Learning from Data to Computation: A Survey
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）
本文系统综述了图机器学习中的隐私保护技术，涵盖隐私保护图数据生成、隐私保护信息传输与优化计算，并展望了统一的安全图机器学习系统。
2023-07-10 cs.CR cs.LG
Machine Learning-Based Graph Simplification for Symbolic Accelerators
University of South Carolina（南卡罗来纳大学）
本文提出AutoSlim框架，利用数据驱动方法修剪自动机图以提高硬件加速器效率，通过随机森林分类器识别并移除低影响节点和边，减少FPGA资源使用并提升吞吐量和能效。
2026-05-09 cs.LG
Graph topology inference benchmarks for machine learning
IMT Atlantique（大西洋国立高等工业技术与矿业学校）；University of Rochester（罗切斯特大学）
图现在在信号处理和机器学习领域中无处不在。作为用于表达对象之间的关系的工具，图可以被部署到各种目的：I）顶点的聚类，II）顶点的半监督分类，III）图信号的监督分类，以及IV）图信号的去噪。然而，在许多实际情况下，图表并不明确，因此必须从数据中推断。验证是一项具有挑战性的工作，自然取决于学习图形的下游任务。因此，通常难以比较不同算法的功效。在这项工作中，我们介绍了几个易于使用和公开发布的基准，专门设计来揭示图推理方法的相对优点和局限性。我们还对比了文献中一些最突出的技术。
2020-07-16 cs.LG stat.ML
Macroeconomic Message Passing for Anticipating Foreign Exchange Regime Changes: A Deep Logical Learning Approach using Graph Tsetlin Machines
Centre for Artificial Intelligence Research, University of Agder（人工智能研究中心，阿格德大学）；La Jolla Private Wealth Group, Wells Fargo Advisors（拉贾尔私人财富集团，沃尔索尔顾问公司）
该研究提出用图论方法预测外汇货币价格市场制度，纳入宏观经济变量，利用GraphTM框架更新节点特征，通过超向量化有向多重图构建逻辑子句，实证证明此方法对美元兑日元货币对市场制度预测有效。
2026-07-09 cs.CE cs.LG
Analysis of Gene Interaction Graphs as Prior Knowledge for Machine Learning Models
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；Ottawa Hospital Research Institute（渥太华医院研究所）；University of Ottawa（渥太华大学）；Institute for Research in Immunology and Cancer（免疫学与癌症研究所）
基因相互作用图旨在捕捉基因之间的各种关系，可以代表数十年的生物学研究。当试图从基因组数据进行预测时，这些图可以用来克服维数灾难，使机器学习模型更稀疏，更符合生物常识。在这项工作中，我们专注于评估如何以及这些图捕捉依赖关系中看到的基因表达数据，以评估这些图提供的先验知识的充分性。我们提出了一个条件图应该满足提供良好的先验知识，并使用“单基因推理”任务进行测试。我们还与随机生成的图进行了比较，旨在衡量在这种情况下使用生物相关图的真正好处，并通过五项临床任务验证我们的研究结果。我们发现一些图捕获了大多数基因的相关依赖关系，同时非常稀疏。我们对随机图的分析发现，依赖性几乎可以随机捕获，这表明，就基因表达水平而言，有关细胞状态的相关信息分布在许多基因中。
2020-01-13 cs.AI cs.LG q-bio.GN
Quantum Machine Learning Algorithm for Knowledge Graphs
Ludwig Maximilian University of Munich（慕尼黑大学）；Siemens CT（西门子中央研究院）
语义知识图是用于知识表示和推理的大规模三元数据库。隐含知识可以通过建模和重构从知识图生成的张量表示来推断。然而，随着知识图的规模不断增长，经典建模变得越来越计算资源密集。本文研究了如何利用量子资源来加速知识图的建模。特别是，我们提出了第一个量子机器学习算法，用于对张量化数据进行推理，例如，知识图谱由于大多数张量问题都是NP困难的，因此设计量子算法来支持这项任务是具有挑战性的。我们简化了问题，提出一个合理的假设，张量表示的知识图可以近似其低秩张量奇异值分解，这是由我们的实验验证。所提出的基于采样的量子算法实现了指数加速，其运行时间在知识图张量的维度上是多对数的。
2020-11-24 cs.LG quant-ph
Marius: Learning Massive Graph Embeddings on a Single Machine
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们提出了一个新的框架，用于在一台机器上计算大规模图的嵌入。图嵌入是图中每个节点（和/或边类型）的固定长度向量表示，并且已经成为在图上应用现代机器学习的事实上的方法。我们发现，目前用于学习大规模图嵌入的系统受到数据移动的影响，这导致资源利用率低下和训练效率低下。这些限制要求最先进的系统在多台机器上分配训练。我们提出了Marius，一个有效训练图嵌入的系统，它利用分区缓存和缓冲区感知数据排序来最大限度地减少磁盘访问，并将数据移动与计算交织在一起，以最大限度地提高利用率。我们将Marius与两种最先进的工业系统在各种基准上进行比较。我们证明，马吕斯达到相同的精度水平，但高达一个数量级的速度更快。我们还表明，Marius可以将训练扩展到数据集，其数量级超过单机的GPU和CPU内存容量，从而能够在具有16 GB GPU内存和64 GB CPU内存的单机上训练具有超过10亿条边和550 GB总参数的配置。Marius在www.marius-project.org上开源。
2021-05-26 cs.DB cs.DC cs.LG
Scalable Feature Learning on Huge Knowledge Graphs for Downstream Machine Learning
Inria Saclay（法国国家科学研究中心萨克雷实验室）
SEPAL通过在小实体核心上优化嵌入并利用消息传递传播至整个图，实现大规模知识图谱的高质量嵌入，提升下游任务性能。
2026-03-17 cs.LG
RDFFrames: Knowledge Graph Access for Machine Learning Tools
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）；College of Science and Engineering, HBKU（哈马德·本·哈利法大学科学与工程学院）；Bluescape（Bluescape公司）；Technische Universität Berlin（柏林工业大学）
表示为RDF数据集的知识图是许多机器学习应用程序的组成部分。RDF得到了一个丰富的数据管理系统和工具生态系统的支持，最值得注意的是提供SPARQL查询接口的RDF数据库系统。令人惊讶的是，用于知识图谱的机器学习工具并不使用SPARQL，尽管使用数据库系统具有明显的优势。这是由于SPARQL和机器学习工具在数据模型和编程风格方面的不匹配。机器学习工具处理表格格式的数据，并使用命令式编程风格进行处理，而SPARQL是声明式的，其基本操作是将图模式匹配到RDF三元组。我们认为，一个好的接口，知识图从机器学习软件栈应该使用一个命令式的，导航编程范式的基础上图遍历，而不是SPARQL查询范式的基础上图模式。在本文中，我们提出了RDFFrames，一个框架，提供了这样一个接口。RDFFrames提供了一个命令式的Python API，可以在内部转换为SPARQL，并且它与PyData机器学习软件栈集成。RDFFrames使用户能够进行一系列Python调用，以定义要从存储在RDF数据库系统中的知识图谱中提取的数据，并将这些调用转换为紧凑的SPQARL查询，在数据库系统上执行，并以标准表格格式返回结果。因此，RDFFrames是一个有用的数据准备工具，它将PyData的可用性与RDF数据库系统的灵活性和性能相结合。
2021-09-06 cs.DB cs.LG
GraphStorm: all-in-one graph machine learning framework for industry applications
Amazon（亚马逊）
GraphStorm是一个面向工业应用的一体化图机器学习框架，通过单命令端到端流程、先进建模技术和数十亿节点规模的可扩展能力，支持大规模图构建、训练与推理。
2024-06-10 cs.DC cs.LG
Restricted Boltzmann Machine Assignment Algorithm: Application to solve many-to-one matching problems on weighted bipartite graph
Sapienza, University of Rome（罗马大学（萨皮恩扎））
在这项工作中，提出了一种基于无监督学习的迭代算法，特别是在限制玻尔兹曼机（RBM）上解决二分加权图上的完美匹配问题。迭代地计算使能量函数最大化的权重$w_{ij}$和偏置参数$θ= ( a_i, b_j) $，并将元素$i$分配给元素$j$。最后给出了一个实际问题的算例，说明了该算法的有效性.
2019-05-02 cs.LG math.OC stat.ML
A Machine Learning Approach for Predicting Human Preference for Graph Layouts
University of Sydney（悉尼大学）
由于人类大脑中高度复杂的视觉感知和认知系统，了解人类喜欢什么样的图形布局以及为什么喜欢图形布局是非常重要和具有挑战性的。在本文中，我们提出了第一个机器学习方法来预测人类的偏好图布局。一般来说，带有人类偏好标签的数据集是有限的，不足以训练深度网络。为了解决这个问题，我们通过采用迁移学习方法来训练我们的深度学习模型，例如，利用质量度量，例如基于形状的度量、边缘交叉和应力，这些被示出为与人类对图布局的偏好相关。使用地面真实人类偏好数据集的实验结果表明，我们的模型可以成功地预测人类对图形布局的偏好。据我们所知，这是第一种使用人类偏好实验数据预测图形布局定性评价的方法。
2021-03-01 cs.HC cs.LG
Graph signal processing for machine learning: A review and new perspectives
大规模结构化数据的有效表示、处理、分析和可视化，特别是涉及网络和图形等复杂领域的数据，是现代机器学习的关键问题之一。图形信号处理（GSP）是信号处理模型和算法的一个充满活力的分支，旨在处理图形上支持的数据，为解决这一挑战开辟了新的研究途径。在这篇文章中，我们回顾了GSP概念和工具，如图过滤器和变换，新的机器学习算法的发展作出的一些重要贡献。特别是，我们的讨论集中在以下三个方面：利用数据结构和关系先验，提高数据和计算效率，提高模型的可解释性。此外，我们提供了新的前景，未来发展的GSP技术，可以作为一个桥梁之间的应用数学和信号处理的一方，机器学习和网络科学的其他。这些不同学科之间的交叉可能有助于解开现代复杂数据分析的众多挑战。
2020-07-31 cs.LG cs.SI eess.SP
Accelerating Graph Sampling for Graph Machine Learning using GPUs
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Northeastern University（东北大学）
表示学习算法自动学习数据的特征。图数据的几种表示学习算法，如DeepWalk，node 2 vec和GraphSAGE，对图进行采样以产生适合于训练DNN的小批量。然而，采样时间可能是训练时间的很大一部分，并且现有系统不能有效地并行采样。采样是一个非常复杂的并行问题，可能会出现GPU加速，但图形的不规则性使得很难有效地使用GPU资源。本文介绍了NextDoor，一个旨在有效地在GPU上执行图形采样的系统。NextDoor采用了一种新的图形采样方法，我们称之为transit-parallelism，它允许负载均衡和边缘缓存。NextDoor为最终用户提供了编写各种图形采样算法的高级抽象。我们实现了几个图形采样应用程序，并表明NextDoor运行它们的数量级比现有的系统更快。
2021-05-11 cs.DC cs.LG
Size-Invariant Graph Representations for Graph Classification Extrapolations
Purdue University（普渡大学）
通常，图表示学习方法假设训练和测试数据来自相同的分布。在这项工作中，我们考虑一个未充分探索的领域，否则迅速发展的领域的图表示学习：分布外（OOD）图分类的任务，其中训练和测试数据具有不同的分布，与测试数据在训练过程中不可用。我们的工作表明，使用因果模型来学习近似不变的表示是可能的，这些表示可以更好地在训练和测试数据之间进行外推。最后，我们得出结论与合成和真实世界的数据集实验展示的好处，是不变的训练/测试分布偏移的表示。
2021-07-06 cs.LG
Deploying Customized Data Representation and Approximate Computing in Machine Learning Applications
University of Southern California（南加州大学）
构建通用和定制硬件方面的重大进步是机器学习模型（如深度神经网络）多功能性和普及性的关键推动因素之一。为了维持机器学习模型的这种无处不在的部署并应对其计算和存储复杂性，已经采用了若干解决方案，例如使用定点表示和部署近似算术运算的模型参数的低精度表示。研究这些解决方案在不同应用中的潜力需要将它们集成到现有的机器学习框架中进行高级仿真，并在硬件中实现它们，以分析它们对功率/能耗，吞吐量和芯片面积的影响。Lop是一个用于设计空间探索的库，它弥合了机器学习和高效硬件实现之间的差距。它包括一个Python模块，可以与现有的一些机器学习框架集成，并实现各种可定制的数据表示，包括定点和浮点以及近似算术运算。此外，它还包括一个高度参数化的Scala模块，允许基于所述数据表示和算术运算合成硬件。Lop允许研究人员和设计人员使用Python中的各种数据表示和算术运算来快速比较他们的模型的质量，并通过在他们的目标平台上合成它们来对比可行表示的硬件成本（例如，FPGA或ASIC）。据我们所知，Lop是第一个允许使用定制数据表示和近似计算技术进行软件仿真和硬件实现的库。
2018-06-03 cs.LG stat.ML
Distributed Training of Graph Convolutional Networks using Subgraph Approximation
Chalmers University of Technology（查尔姆斯理工大学）；University of Southern California（南加州大学）
现代机器学习技术正在成功地适应以图形建模的数据。然而，许多真实世界的图通常非常大，不适合内存，这通常使得在它们上训练机器学习模型的问题变得棘手。分布式训练已被成功地用于缓解记忆问题并加速机器学习领域中的训练，其中输入数据被假设为独立相同分布（i.i.d）。然而，在图卷积网络（GCN）中分布非独立同分布数据（例如用作训练输入的图）的训练会导致准确性问题，因为在图划分边界处丢失了信息。在本文中，我们提出了一种训练策略，通过子图近似方案来减轻图的多个分区之间的信息丢失。我们提出的方法增加了每个子图与少量的边缘和顶点信息，近似从所有其他子图。子图近似方法有助于分布式训练系统以单机精度收敛，同时保持内存占用低，并最大限度地减少机器之间的同步开销。
2020-12-09 cs.DC cs.LG
An End-to-End Graph Convolutional Kernel Support Vector Machine
School of Computer Science & Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院）
提出了一种新的基于核的支持向量机（SVM）的图分类方法。SVM特征空间映射由一系列图卷积层组成，该卷积层为每个顶点生成向量空间表示，然后是一个池化层，该池化层为图生成再生核希尔伯特空间（RKHS）表示。RKHS的使用提供了使用核函数在该空间中隐式操作的能力，而没有显式映射到它的计算复杂性。所提出的模型以监督的端到端的方式进行训练，从而卷积层，核函数和SVM参数相对于正则化分类损失进行联合优化。这种方法不同于现有的基于核的图分类模型，后者使用特征工程或无监督学习来定义核函数。实验结果表明，该模型优于现有的深度学习基线模型在一些数据集上。
2020-08-04 cs.LG stat.ML
