Graph Neural Networks are Heuristics
Department of Computer Science（计算机科学系）；Cornell University（康奈尔大学）；Ithaca, NY, USA（纽约州伊萨卡市）
研究表明图神经网络在组合优化中辅助角色非固有，可自身作启发式算法。以欧几里得旅行商问题为例，训练无标签等的非自回归图神经网络，仅用可微哈密顿循环目标监督，模型能快速生成完整路线且多样，优于贪心基线。
2026-07-07 cs.AI cs.LG
One Model, Any CSP: Graph Neural Networks as Fast Global Search Heuristics for Constraint Satisfaction
RWTH Aachen（亚琛工业大学）
我们提出了一个通用的图神经网络架构，可以训练作为一个端2端搜索启发式的任何约束满足问题（CSP）。我们的体系结构可以通过策略梯度下降进行无监督训练，以纯粹的数据驱动方式为任何CSP生成特定于问题的算法。该方法是基于一种新的图形表示CSP，这是通用的和紧凑的，使我们能够处理每一个可能的CSP实例与一个GNN，无论约束arity，关系或域的大小。与以前的基于RL的方法不同，我们在全局搜索动作空间上操作，并允许我们的GNN在随机搜索的每一步中修改任何数量的变量。这使得我们的方法能够适当地利用GNN的固有并行性。我们进行了一个彻底的实证评估，我们从随机数据，包括图着色，MaxCut，3-SAT和MAX-k-SAT中学习著名的和重要的CSP的算法。我们的方法优于以前的神经组合优化方法的大幅利润。它可以在测试实例上与传统的搜索算法竞争，甚至改进传统的搜索算法，这些测试实例比训练过程中看到的要大几个数量级，结构上也更复杂。
2022-08-22 cs.AI cs.LG cs.NE
Can GNNs Learn Link Heuristics? A Concise Review and Evaluation of Link Prediction Methods
Faculty of Engineering and Information Technology, University of Technology Sydney（工程与信息技术学院，悉尼大学）；Faculty of Engineering and Information Sciences, University of Wollongong（工程与信息科学学院，沃林戈大学）；College of Electrical Engineering, Zhejiang University（电气工程学院，浙江大学）
本文研究了图神经网络在链接预测中的能力，发现可训练节点嵌入能提升性能，且图密度越高提升越显著，为未来算法发展提供指导。
2025-12-07 cs.LG cs.SI
Learning Branching Heuristics from Graph Neural Networks
Okanagan College（奥肯那根学院）；University of British Columbia Okanagan（不列颠哥伦比亚大学奥肯那根校区）
回溯法在人工智能中被广泛用于求解约束满足问题和组合优化问题。良好的分支算法可以有效地提高回溯算法的性能，修剪搜索空间，并将搜索引向最有希望的方向。在本文中，我们首先提出了一个新的图神经网络（GNN）模型设计使用概率的方法。从GNN模型，我们介绍了一种方法来学习分支启发式组合优化问题。特别是，我们的GNN模型学习给定图中顶点的适当概率分布，从中提取分支启发式并用于回溯搜索。我们的实验结果（最小）占主导地位的集团问题表明，这种学习分支启发式执行优于最小剩余值启发式在整个搜索树的分支数。我们的方法引入了一种新的方式，将GNNs应用于增强AI中使用的经典回溯算法。
2022-11-26 cs.AI
Learning Search-Space Specific Heuristics Using Neural Networks
University of Toronto（多伦多大学）；The University of Tokyo（东京大学）
本文提出一种系统，仅用单个PDDL实例并通过后向搜索生成数据，训练神经网络估计到目标距离，从而为经典规划学习搜索空间特定启发式函数，并在24-puzzle等领域展现出与领域无关启发式竞争的性能。
2023-06-06 cs.AI
Refining Heuristic-Based Bitcoin Address Clustering with Graph Neural Networks
École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本研究针对比特币地址聚类的启发式方法模块化不足、易合并不同用户的问题，提出用图神经网络的对比嵌入优化聚类的方法，发布相关数据集并提供可疑合并的定量标记标准。
2026-09-03 cs.LG
Link Scheduling using Graph Neural Networks
Rice University（莱斯大学）；US Army’s DEVCOM Army Research Laboratory（美国陆军DEVCOM陆军研究实验室）
针对无线网络中最优链路调度需解NP难的最大加权独立集问题，提出基于图卷积网络的集中式与分布式快速启发式调度算法，采用强化学习训练，性能优于传统贪心方法且泛化性好。
2022-11-15 cs.LG eess.SP
Inability of a graph neural network heuristic to outperform greedy algorithms in solving combinatorial optimization problems like Max-Cut
Emory University（埃默里大学）
在Nature Machine Intelligence 4，367（2022）中，Schuetz等人提供了一种采用图神经网络（GNN）作为启发式算法来解决各种经典的NP难组合优化问题的方案。它描述了如何在样本实例上训练网络，并使用广泛使用的技术评估生成的GNN启发式算法，以确定其成功的能力。显然，利用这种网络的强大能力，以这种不干涉的方式“学习”复杂的多模式能源景观的错综复杂，这一想法似乎很诱人。并且基于观察到的性能，该启发式算法有望具有高度可扩展性，其计算成本与输入大小$n$成线性关系，尽管由于GNN本身的原因，前因子中可能存在显著的开销。然而，更仔细的检查表明，该GNN的报告结果仅比梯度下降的结果好一点点，并且被贪婪算法（例如Max-Cut）超越。讨论还强调了我认为是一些常见的误解，在评估的竞争力。
2022-10-02 cond-mat.dis-nn cs.AI cs.LG
Graph Neural Reasoning for 2-Quantified Boolean Formula Solvers
Purdue University（普渡大学）；Sun Yat-Sen University（中山大学）
在本文中，我们研究了学习GNN（图神经网络）为基础的解决方案和基于GNN的算法为指定的QBF（量化布尔公式）问题的可行性。我们设计并评估了几种2 QBF公式的GNN结构，并推测GNN在学习2 QBF求解器方面存在局限性。然后，我们展示了如何学习启发式CEGAR 2 QBF求解器。我们进一步探索将基于GNN的算法推广到更大的不可见实例，并发现一些有趣的挑战。总之，本文提供了将GNN嵌入应用于指定QBF求解器的全面调查视图，旨在为将ML应用于更复杂的符号推理问题提供指导。
2019-04-27 cs.AI cs.LG cs.LO
LPFormer: An Adaptive Graph Transformer for Link Prediction
Michigan State University（密歇根州立大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；Colorado School of Mines（科罗拉多矿业学院）
针对链接预测中成对编码存在强归纳偏置的问题，提出LPFormer模型，通过注意力模块自适应学习每个链接的成对编码，在多个数据集上实现了SOTA性能且保持高效。
2024-06-27 cs.LG
Learning Graph Search Heuristics
University of Cambridge（剑桥大学）；Yale University（耶鲁大学）；MIT（麻省理工学院）；DeepMind（深度思维）；Stanford University（斯坦福大学）
在图中寻找两个结点之间的路径是计算机科学中研究最多的基本问题之一。在机器人、人工智能或生物学等众多领域，从业者开发搜索引擎来加速他们的寻路算法。然而，根据给定用例的问题和结构手工设计算法是一个费力而复杂的过程。在这里，我们提出了PHIL（路径启发式与模仿学习），一种新的神经架构和训练算法，通过利用模仿学习和图表示学习的最新进展，从数据中发现图搜索和导航算法。在训练时，我们聚集搜索轨迹和地面实况最短路径距离的数据集，我们使用这些数据集通过寻路过程的步骤使用反向传播来训练一个专门的基于图神经网络的启发式函数。我们的启发式函数学习用于推断节点距离的图嵌入，在恒定的时间内运行，与图的大小无关，并且可以在测试时轻松地将其纳入A* 等算法中。实验表明，与基准数据集上的最先进方法相比，PHIL平均将探索节点的数量减少了58.5%，可以直接应用于从生物网络到道路网络的各种图形，并允许在时间关键的机器人领域进行快速规划。
2023-01-11 cs.AI cs.LG
Plain Transformers are Surprisingly Powerful Link Predictors
Department of Computer Science and Engineering, Michigan State University, East Lansing, MI, USA.（计算机科学与工程系，密歇根州立大学，东兰辛，MI，美国。）；Department of Computer Science（计算机科学系）；Engineering, Michigan State University, East Lansing, MI, USA.（工程，密歇根州立大学，东兰辛，MI，美国。）
提出PENCIL，一种仅编码器的普通Transformer，通过采样局部子图的注意力机制替代手工先验，在保持标准Transformer可扩展性的同时，隐式泛化多种启发式方法，实现高效且参数经济的链接预测。
2026-09-29 cs.AI cs.LG
Solving the Kidney-Exchange Problem via Graph Neural Networks with No Supervision
King’s College London（伦敦国王学院）；A*STAR（新加坡科技研究局）
针对NP难的肾脏交换问题，提出无监督GNN结合确定性搜索启发式的两阶段方法，实验表明其解质量优于整数规划、贪心启发式和单独GNN，平均价值为确定性启发式的1.1倍。
2023-04-19 cs.AI cs.LG
Graph Neural Networks as Ordering Heuristics for Parallel Graph Coloring
University of Bergen（卑尔根大学）
本文提出一种基于 GNN 的并行图着色排序启发式方法，结合监督与无监督训练，在着色质量、运行时间和并行扩展性上优于 LF 与 SL。
2024-08-09 cs.DC cs.LG
Reply to: Inability of a graph neural network heuristic to outperform greedy algorithms in solving combinatorial optimization problems
Amazon Quantum Solutions Lab（亚马逊量子解决方案实验室）；AWS Center for Quantum Computing（AWS量子计算中心）
我们对Stefan Boettcher [arXiv：2210.00623]撰写的评论提供了全面的回复，并认为该评论挑出了一个特定的非代表性示例问题，完全集中在稀疏图上的最大割问题（MaxCut）上，预计贪心算法将表现良好。相反，我们强调了我们原始工作背后更广泛的算法开发，并（在我们原始的框架内）提供了额外的数值结果，显示了我们原始数据的显著改进，从而反驳了评论的原始性能陈述。此外，已经证明物理启发的图神经网络（PI-GNN）可以胜过贪心算法，特别是在硬的、密集的实例上。我们还认为，图神经网络的内部（并行）解剖是非常不同的贪心算法的（顺序）性质，并（基于他们的使用在现实世界的社交网络的规模）指出，图神经网络已经证明了他们的潜力，优越的可扩展性相比，现有的算法，如极值优化。最后，我们得出结论，强调我们的工作的概念新颖性，并概述了一些潜在的扩展。
2023-02-03 cond-mat.dis-nn cs.AI cs.LG
Neural Improvement Heuristics for Graph Combinatorial Optimization Problems
针对现有神经改进模型无法处理边编码信息的图组合优化问题，提出可适配节点、边或两者信息的新型NI模型，在三类经典问题上性能均优于传统方法。
2023-10-07 cs.AI cs.DM cs.LG
Pure Message Passing Can Estimate Common Neighbor for Link Prediction
University of Notre Dame（圣母大学）；Lucy Family Institute for Data and Society, University of Notre Dame（圣母大学露西数据与社会家族研究所）；Computer Science and Engineering, University of Notre Dame（圣母大学计算机科学与工程学院）
针对MPNNs在链接预测中难以编码联合结构特征的问题，提出利用输入向量正交性的纯消息传递模型MPLP，通过准正交向量估计链接级结构特征，在多领域基准数据集上持续优于基线方法。
2024-10-14 cs.IR cs.LG cs.SI
Neural-Network-Driven Reward Prediction as a Heuristic: Advancing Q-Learning for Mobile Robot Path Planning
State Key Laboratory of Robotics and Systems, Harbin Institute of Technology（哈尔滨工业大学机器人技术与系统国家重点实验室）
针对Q-learning收敛慢的问题，提出NDR-QL方法，利用神经网络输出作为启发式信息，通过改进双输出模型和偏置初始化，将收敛速度提升90%，预测精度提升5%。
2024-12-17 cs.AI cs.LG cs.RO
Path-aware Siamese Graph Neural Network for Link Prediction
Zhejiang Lab（之江实验室）
在本文中，我们提出了一个路径感知的连体图神经网络（PSG）的链接预测任务。首先，PSG捕获节点和给定的两个节点的边缘特征，即k-邻域的结构信息和节点的中继路径信息。此外，提出了一种新的多任务GNN框架与自监督对比学习的区别的积极的链接和消极的链接，而内容和行为的节点可以同时捕获。我们评估所提出的算法PSG上的两个链接属性预测数据集，ogbl-ddi和ogbl-collab。PSG在提交前在ogbl-ddi上获得了前1名的性能，在ogbl-collab上获得了前3名的性能。实验结果验证了我们提出的PSG的优越性
2022-11-17 cs.AI cs.LG
Solving nonograms using Neural Networks
Research Institute of Health Sciences (IUNICS)（健康科学研究所（IUNICS））；Universitat de les Illes Balears（巴利阿里群岛大学）
本文比较启发式算法、遗传算法及神经网络增强启发式算法在数织求解中的表现，并公开训练数据集与代码，证明结合神经网络的方法效果最佳且具有新颖性。
2025-01-10 cs.AI cs.NE
FLASH: Flexible Learning of Adaptive Sampling from History in Temporal Graph Neural Networks
Ben-Gurion University of the Negev（本·古里安大学）；Purdue University（普渡大学）；University of Cambridge（剑桥大学）
研究时态图未来链接预测汇总历史交互信号时，长历史会消耗资源，常用启发式采样静态且不适应图结构。提出FLASH可学习且图自适应的邻域选择机制，集成到TGNNs并端到端训练，实验证明性能提升。
2026-07-07 cs.LG cs.SI
Understanding the Design Principles of Link Prediction in Directed Settings
Block, Inc.（布洛克公司）
针对现有图表示学习多基于无向假设、难以捕捉有向交互的问题，本文将无向场景的核心启发式方法适配到有向链路预测任务，通过实验验证其竞争力，并据此提出性能超越基线和现有最优GNNs的新型有向链路预测框架。
2025-02-20 cs.LG
Motif Prediction with Graph Neural Networks
ETH Zurich（苏黎世联邦理工学院）；University of Geneva（日内瓦大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）
链接预测是图挖掘的核心问题之一。然而，最近的研究强调了高阶网络分析的重要性，其中称为基序的复杂结构是一等公民。我们首先表明，现有的链接预测计划未能有效地预测图案。为了缓解这一点，我们建立了一个一般的主题预测问题，我们提出了几个算法，评估一个指定的主题出现的机会。为了使分数真实，我们的算法考虑了链接之间的相关性，即，在给定的主题中，一些到达的链接对其他链接的外观的潜在影响。最后，为了获得最高的准确度，我们开发了一个用于模体预测的图神经网络（GNN）架构。我们的架构提供了顶点功能和采样方案，捕捉图案丰富的结构特性。虽然我们的算法速度很快，不需要任何训练，但GNN确保了预测基序的最高准确性，无论是对于密集（例如，k-团）和对于稀疏团（例如，k-stars）。我们的表现始终优于最佳竞争对手，平均超过10%，曲线下面积高达32%。重要的是，我们的方法的优势，不相关的链接预测的基础上的计划增加的主题的大小和复杂性。我们还成功地应用我们的架构来预测更任意的集群和社区，说明了它的潜力，图挖掘超越主题分析。
2022-05-21 cs.LG cs.SI
Analysis of a Nature Inspired Firefly Algorithm based Back-propagation Neural Network Training
优化算法通常受到元启发式方法的影响。近年来，为了寻找更好的优化解，发展了几种混合优化方法。提出的工作使用元启发式自然启发式算法与反向传播方法施加到训练前馈神经网络。萤火虫算法是一种自然启发式算法，在训练前馈神经网络时，将萤火虫算法与反向传播算法相结合，以提高收敛速度。所提出的技术进行了测试，在一些标准的数据集。结果表明，该方法在很小的迭代次数内就能获得较好的收敛性。这种性能也进行了分析和比较，遗传算法基于反向传播。据观察，所提出的方法消耗更少的时间来收敛，并提供最小的前馈神经网络设计的改进的收敛速度。
2012-06-23 cs.AI cs.NE
Generative Graph Neural Networks for Link Prediction
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Xidian University（西安电子科技大学）；Chengdu University of Information Technology（成都信息工程大学）；Chongqing Normal University（重庆师范大学）
基于观察到的图来推断丢失的链接或检测虚假的链接，称为链接预测，是图数据分析中的一个长期挑战。随着深度学习的最新进展，图神经网络已被用于链接预测，并取得了最先进的性能。然而，现有的为此目的开发的方法通常是歧视性的，计算两个相邻节点周围的局部子图的特征，并从子图分类的角度预测它们之间的潜在链接。在这种形式主义中，封闭子图和启发式结构特征的子图分类的选择显着影响的方法的性能。为了克服这一局限性，本文提出了一种新的和根本不同的链接预测算法的基础上的网络重构理论，称为GraphLP。GraphLP利用深度学习模型的特征学习能力，在假设真实世界的图不是局部孤立的情况下，自动提取图的结构模式进行链接预测，而不是对正链接和负链接进行采样并逐层计算其封闭子图的特征。此外，GraphLP探索高阶连接模式，以利用图的分层组织结构进行链接预测。我们在不同应用程序的所有常见基准数据集上的实验结果表明，该方法始终优于其他最先进的方法。与用于链接预测的判别式神经网络模型不同，GraphLP是生成式的，这为基于神经网络的链接预测提供了一种新的范例。
2022-12-31 cs.AI cs.SI
Link Prediction without Graph Neural Networks
Rice University（莱斯大学）
针对图神经网络在链路预测中因图稀疏性导致的类别不平衡问题，提出拓扑中心框架Gelato，结合图学习增强与N-pair损失训练，准确率提升145%且大幅降低参数量和计算开销。
2023-05-23 cs.LG cs.SI
Benchmarking Graph Neural Networks on Link Prediction
Auburn University（奥本大学）
在本文中，我们基准测试几个现有的图神经网络（GNN）模型在不同的数据集上的链接预测。特别地，图卷积网络（GCN）、GraphSAGE、图注意力网络（GAT）以及变分图自动编码器（VGAE）被实现为专用于链接预测任务，执行深入分析，并且复制来自几篇不同论文的结果，还提供了更公平和系统的比较。我们的实验表明，这些GNN架构执行类似的各种基准链接预测任务。
2021-02-24 cs.LG
Analyzing Modularity Maximization in Approximation, Heuristic, and Graph Neural Network Algorithms for Community Detection
University of Toronto（多伦多大学）；Polytechnique Montreal（蒙特利尔综合理工学院）
本文在104个网络上比较了启发式、图神经网络和Bayan近似算法与精确整数规划在模块度最大化社区发现中的表现，发现常用方法很少得到最优划分，建议采用近似优化算法以更合理地使用模块度。
2024-01-10 cond-mat.stat-mech cs.LG cs.SI
Learning Domain-Independent Heuristics for Grounded and Lifted Planning
The Australian National University（澳大利亚国立大学）
本文提出三种基于GNN的规划任务图表示，并首次仅用提升表示学习领域无关启发式，理论与实验均证明其表达能力和大规模泛化性能优于STRIPS-HGN。
2023-12-20 cs.AI
Two-Stage Stance Labeling: User-Hashtag Heuristics with Graph Neural Networks
UNC-Charlotte（北卡罗来纳大学夏洛特分校）
针对社交媒体内容体量庞大、演变迅速导致的用户立场研究难题，提出结合用户-话题标签二分图启发式标注与用户交互图半监督GNN的两阶段方法，在气候变化、枪支管制推文数据集上性能优于文本分类器与GPT4零样本分类。
2024-05-17 cs.CL cs.LG cs.SI
How Neural Processes Improve Graph Link Prediction
The University of Sydney（悉尼大学）
链接预测是图数据分析中的一个基本问题。虽然大多数文献集中在需要所有图节点和大多数链接进行训练的转导链接预测上，但仅使用一部分节点及其链接进行训练的归纳链接预测在各种现实世界应用中是更具挑战性的问题。在本文中，我们提出了一个元学习方法与图神经网络的链接预测：神经过程图神经网络（NPGNN），它可以执行两个转导和归纳学习任务，并适应模式在一个大的新的图训练后，一个小的子图。在真实世界的图上进行实验来验证我们的模型，结果表明，与其他最先进的模型相比，所提出的方法具有更强的性能，同时在较小的子图上训练时具有很好的泛化能力。
2021-09-30 cs.LG stat.ML
Learning Scalable Structural Representations for Link Prediction with Bloom Signatures
Rice University（Rice大学）；Purdue University（Purdue大学）
针对现有图神经网络链接预测表达不足、边级模型扩展性差的问题，提出融入Bloom签名的GNN结构链接表示方法，兼具强表达力与高扩展性，在基准上性能优异且推理速度提升显著。
2023-12-28 cs.LG cs.SI
Graph neural networks and the energetic cavity method for combinatorial optimization
University of Cambridge（剑桥大学）
本研究通过将平均场启发式融入图神经网络，提升其求解伊辛模型基态的性能，但发现同等计算成本下模拟退火仍具竞争力。
2026-09-09 cond-mat.dis-nn cs.LG
Multi-Dimensional AGV Path Planning in 3D Warehouses Using Ant Colony Optimization and Advanced Neural Networks
School of Software Technology, Zhejiang University（浙江大学软件技术学院）；Loctek Ergonomic Technology Co.（乐歌人体工学科技股份有限公司）
针对3D仓库动态交通与拥堵问题，提出结合ACO与深度学习的NAHACO框架，通过多维张量建模、拥堵感知损失函数和自适应注意力机制优化路径规划，在TSP基准和仓库测试中显著降低成本与拥堵。
2025-03-30 cs.AI cs.RO
The tip-of-the-tongue phenomenon: Irrelevant neural network localization or disruption of its interneuron links ?
在最近提出的舌尖（tip-of-the-tongue，TOT）现象的三阶段定量神经网络模型的基础上，研究了神经网络中间神经元连接中断导致TOT状态出现的可能性。使用数值例子，发现由interneron链接的中断引起的TOT的概率比由不相关（不完全）神经网络定位引起的TOT的概率小（1.5 +-0.3）× 1000倍。结果表明，延迟性TOT状态的病因与神经网络神经元间连接的中断无关。
2002-04-04 cs.AI cs.CL q-bio.NC
Structure Enhanced Graph Neural Networks for Link Prediction
Alibaba Group（阿里巴巴集团）
图神经网络（GNNs）在各种任务中表现出了良好的效果，其中链接预测是一个重要的任务。GNN模型通常遵循以节点为中心的消息传递过程，该过程递归地将邻域信息聚合到中心节点。在这种范式下，节点的特征通过边传递，而不关心节点位于何处以及它们扮演的角色。然而，被忽视的拓扑信息被证明是有价值的链接预测任务。在本文中，我们提出了结构增强图神经网络（SEG）的链接预测。SEG引入路径标记方法来获取目标节点周围的拓扑信息，然后将其结构融入到普通的GNN模型中。通过联合训练结构编码器和深度GNN模型，SEG融合拓扑结构和节点特征，充分利用图信息。在OGB链接预测数据集上的实验表明，SEG在所有三个公共数据集上都取得了最先进的结果。
2022-01-14 cs.LG
Graph Sequential Neural ODE Process for Link Prediction on Dynamic and Sparse Graphs
Monash University（莫纳什大学）；Griffith University（格里菲斯大学）
动态图上的链接预测是图挖掘中的一个重要任务。基于动态图神经网络（DGNN）的现有方法通常需要大量的历史数据（随时间的交互），这在实践中并不总是可用的。随着时间的推移，丢失的链接是图形数据中的一种常见现象，它进一步加剧了这个问题，从而创建了极其稀疏和动态的图形。为了解决这个问题，我们提出了一种新的方法，基于神经过程，称为图顺序神经ODE过程（GSNOP）。具体来说，GSNOP结合了神经过程和神经常微分方程的优点，将动态图上的链接预测建模为动态变化的随机过程。通过定义函数上的分布，GSNOP将不确定性引入到预测中，使其推广到更多的情况，而不是过度拟合稀疏数据。GSNOP对于可以与任何DGNN集成以考虑用于链接预测的时间和几何信息的模型结构也是不可知的。在三个动态图数据集上的大量实验表明，GSNOP可以显着提高现有DGNN的性能，并优于其他神经过程变体。
2022-11-15 cs.LG cs.SI
Link Prediction using Graph Neural Networks for Master Data Management
IBM Research, India（IBM研究院（印度））；IBM Data and AI（IBM数据与人工智能）
n元关系数据的学习图表示有许多现实世界的应用，如反洗钱，欺诈检测和客户尽职调查。COVID 19阳性者的接触者追踪也可以被视为链接预测问题。使用图神经网络预测人与人之间的联系需要仔细的道德和隐私考虑，而不是在迄今为止通常应用GNN的领域。我们介绍了新的方法匿名化数据，模型训练，解释和验证主数据管理中的链接预测，并讨论我们的结果。
2020-08-28 cs.AI cs.SI
Heuristical Comparison of Vision Transformers Against Convolutional Neural Networks for Semantic Segmentation on Remote Sensing Imagery
School of Computing Sciences and Computer Engineering, University of Southern Mississippi（计算科学与计算机工程学院，密西西比大学）
针对遥感影像语义分割任务，在iSAID数据集上启发式比较ViT与CNN模型，提出新型组合加权损失函数，证实其可显著提升CNN性能，优于ViT迁移学习效果。
2025-02-13 cs.AI cs.CV
Scalable Graph Neural Network-based framework for identifying critical nodes and links in Complex Networks
Kansas State University（堪萨斯州立大学）；Columbia University（哥伦比亚大学）
识别图中的关键节点和链接是一项至关重要的任务。这些节点/链路通常表示在系统性能中起关键作用的关键元件/通信链路。然而，文献中关于识别关键节点/链接的大多数方法都是基于迭代方法，该方法一次探索图中的每个节点/链接，对图中的所有节点/链接重复。这种方法具有高计算复杂性，并且所得到的分析也是网络特定的。为了克服这些挑战，本文提出了一个可扩展的和通用的图神经网络（GNN）为基础的框架，以确定在大型复杂网络中的关键节点/链路。该框架定义了一个基于GNN的模型，该模型学习节点/链路的一个小的代表性子集上的节点/链路关键度得分。可以采用适当训练的模型来预测大型图中看不见的节点/链接的得分，从而识别最关键的节点/链接。该框架的可扩展性通过预测大规模合成网络和真实网络中的节点/链接得分来证明。所提出的方法是相当准确的近似的临界分数，并提供了一个显着的计算优势，传统的方法。
2021-05-10 cs.LG cs.SI
Evaluating Graph Neural Networks for Link Prediction: Current Pitfalls and New Benchmarking
Michigan State University（密歇根州立大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；Snap Inc.（Snap公司）；Baidu Inc.（百度公司）
针对图神经网络链接预测评估中的基线偏低、缺乏统一划分及负样本简单等陷阱，本文在统一设置下公平比较现有方法，并提出基于HeaRT的困难负样本评估新基准以贴近现实场景。
2023-11-18 cs.LG cs.SI
Heuristics for Link Prediction in Multiplex Networks
JPMorgan AI Research（摩根大通人工智能研究院）
链接预测，或对实体之间未来或缺失的连接的推断，是网络分析中的一个被充分研究的问题。在具有单一类型连接的普通网络中，存在用于链接预测的多种算法。然而，多路复用网络或具有多种类型连接的网络中的链接预测不是一个很好理解的问题。我们提出了一个新的一般框架和三个家庭的多路复用网络链接预测，是简单的，可解释的，并利用丰富的连接类型的相关结构，存在于许多现实世界的网络。我们进一步推导出一个理论阈值，用于确定何时使用不同的连接类型的基础上的链接，重叠与Erdos-Renyi随机图的数量。通过模拟和现实世界的科学合作，运输和全球贸易网络的实验，我们证明，所提出的算法显示出更高的性能与丰富的连接类型的相关性结构，并显着优于其基线算法的普通网络与一个单一的连接类型。
2020-04-09 cs.LG cs.SI stat.ML
Heuristic Search Planning with Deep Neural Networks using Imitation, Attention and Curriculum Learning
Czech Technical University in Prague（布拉格捷克理工大学）
学习一个消息灵通的启发式函数的硬任务规划域是一个难以捉摸的问题。虽然已知有神经网络体系结构来表示这种启发式知识，但学习到什么具体信息以及旨在理解结构的技术是否有助于提高启发式知识的质量并不明显。本文提出了一种网络模型，学习启发式能够通过最优计划模仿的状态空间的遥远的部分，使用注意力机制，这大大提高了学习一个好的启发式功能。为了克服该方法在创建难度越来越大的问题时的局限性，我们演示了课程学习的使用，将新解决的问题实例添加到训练集中，这反过来有助于解决更高复杂性的问题，远远超过了所有现有基线的性能，包括经典的规划算法。我们证明了它的有效性网格型PDDL域。
2021-12-03 cs.AI cs.LG
Learning Empirically Admissible Neural Heuristics for Combinatorial Search
Independent Researcher（独立研究者）
针对组合搜索问题，提出一种结合可容许贝尔曼算子与非对称损失函数的验证校准框架，训练出经验可容许的神经启发式，在保证路径最优性的同时显著减少搜索节点扩展。
2026-06-03 cs.AI cs.LG
Scaling Combinatorial Optimization Neural Improvement Heuristics with Online Search and Adaptation
本研究提出有限滚动束搜索LRBS，用于基于深度强化学习的组合优化改进启发式算法，可提升分布内性能与大实例泛化能力，结合离线在线自适应进一步超越现有自适应构造式启发式方法。
2024-12-13 cs.AI cs.LG
Noisy Heuristics NAS: A Network Morphism based Neural Architecture Search using Heuristics
NAAMII；University College London（伦敦大学学院）
基于网络形态学的神经结构搜索（NAS）是最有效的方法之一，然而，知道在何处以及何时添加新的神经元或删除功能障碍的神经元通常留给黑盒强化学习模型。在本文中，我们提出了一个新的网络形态的NAS称为噪声启发式NAS，它使用人工开发的神经网络模型和生物神经元动力学的启发式学习。首先，我们随机添加新的神经元，并修剪掉一些，只选择最适合的神经元。其次，我们使用隐单元与输入输出连接数的关系来控制网络的层数。我们的方法可以在线增加或减少模型的容量或非线性，这是由用户指定的几个元参数。我们的方法既适用于玩具数据集，也适用于真实世界的数据集，如MNIST，CIFAR-10和CIFAR-100。性能与具有类似参数的手工设计架构ResNet-18相当。
2022-07-10 cs.AI cs.LG cs.NE
On the Generalization of Neural Combinatorial Optimization Heuristics
NAVER LABS Europe（NAVER LABS欧洲）
神经组合优化方法最近利用深度神经网络的表达能力和灵活性来学习用于困难组合优化（CO）问题的有效算法。然而，目前的大多数方法缺乏泛化能力：对于给定的CO问题，在具有某些特征的实例上训练的算法在具有不同特征的实例上测试时表现不佳。虽然以前的一些工作集中在改变训练实例的属性，但我们假设一个一刀切的模型是遥不可及的。相反，我们将在给定的实例分布上解决CO问题形式化为一个单独的学习任务，并研究元学习技术来学习各种任务的模型，以优化其适应新任务的能力。通过大量的实验，在两个CO问题上，使用合成和现实的实例，我们表明，我们提出的元学习方法显着提高了两个国家的最先进的模型的泛化。
2022-10-03 cs.AI cs.LG
Training Feedforward Neural Networks with Bayesian Hyper-Heuristics
本文提出基于种群的贝叶斯超启发式算法 BHH，在十四个分类与回归数据集上自动选择并组合多种梯度和元启发式方法，以训练前馈神经网络。
2023-03-29 cs.LG
Efficient Meta Neural Heuristic for Multi-Objective Combinatorial Optimization
Sun Yat-sen University（中山大学）；Singapore Management University（新加坡管理大学）
本文提出高效元神经启发式算法EMNH，通过架构共享多任务模型并行训练元模型并采用缩放对称采样稳定训练，再以分层方法微调求解子问题，在MOTSP、MOCVRP和MOKP上实现了优于现有神经启发式的解质量与学习效率。
2023-10-22 cs.AI cs.LG
Heuristic-Informed Mixture of Experts for Link Prediction in Multilayer Networks
University of Calabria（卡拉布里亚大学）
本文提出首个专为多层链路预测设计的混合专家框架MoE-ML-LP，基于多层启发式综合多专家决策，在多项指标上显著超越基线方法，并支持新专家的无缝集成。
2025-01-29 cs.LG cs.SI physics.soc-ph
Constrained Neural Networks for Interpretable Heuristic Creation to Optimise Computer Algebra Systems
University of Bath（巴斯大学）；Coventry University（考文垂大学）
提出将柱形代数分解中变量排序的人工启发式表示为约束神经网络，并利用机器学习优化生成复杂度相似的新启发式，为计算机代数系统提供事前可解释性。
2024-04-26 cs.LG cs.SC
Neural-Network Heuristics for Adaptive Bayesian Quantum Estimation
Eberhard-Karls-Universität Tübingen（图宾根大学）；The University of Nottingham（诺丁汉大学）；University of Oxford（牛津大学）
量子精密测量承诺前所未有的测量精度，但在实践中受到诸如探针数量、它们的相干时间或非经典量子态的资源的有限可用性的影响。参数估计的自适应贝叶斯方法由于自适应实验设计而允许有效地利用资源。对于它的实际成功，贝叶斯更新和自适应实验设计的快速数值解是至关重要的。在这里，我们展示了神经网络可以通过进化策略和强化学习的结合来训练成为快速而强大的实验设计算法。神经网络算法的性能优于已建立的算法的技术上重要的例子的频率估计的量子比特，遭受失相。我们创建神经网络的方法是非常普遍的，并补充了研究的贝叶斯更新的顺序蒙特卡罗方法，形成一个完整的框架，自适应贝叶斯量子估计。
2021-04-07 cs.LG quant-ph
Learning to Condition: A Neural Heuristic for Scalable MPE Inference
Department of Computer Science（计算机科学系）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）
提出 L2C 神经启发式框架，从 MPE 求解器搜索轨迹中学习条件化策略，以在高树宽 PGM 上显著缩减搜索空间并保持或提升解质量。
2025-09-22 cs.AI cs.LG
Large Neighborhood Search meets Iterative Neural Constraint Heuristics
Department of Mechanical \& Industrial Engineering, University of Toronto Vector Institute
本文将迭代神经启发式与大邻域搜索结合，改进ConsFormer方法，通过实验发现该方法在Sudoku、图着色和MaxCut任务中性能提升显著，揭示了LNS在设计迭代神经方法中的有效性。
2026-03-21 cs.LG
