On the Expressive Power of GNNs for Boolean Satisfiability
ETH Zürich（苏黎世联邦理工学院）
本文研究了GNNs在SAT求解中的表达能力，通过WL测试发现其无法区分可满足与不可满足实例，并分析了不同SAT实例对表达性需求的影响。
2026-02-09 cs.AI cs.LG
An Average Analysis of Backtracking on Random Constraint Satisfaction Problems
在本文中，我们提出了一个随机CSP模型，称为GB模型，这是一个自然推广的标准模型B。证明了当变量个数趋于无穷大时，每个约束都容易满足的GB模型表现出非平凡的行为（非平凡可满足或不可满足）。本文还详细分析了GB模型上回溯算法所用的搜索树中平均结点数的渐近估计（好于1+o（1））。它示出，所需的节点的平均数量找到所有的解决方案或证明没有解决方案存在的变量的数量呈指数增长。因此，该模型可能是一个有趣的分布研究的性质的硬实例和评估的CSP算法的性能。此外，我们还进一步研究了平均节点数随r（约束与变量之比）变化的行为。结果表明，随着r的增加，随机CSP实例变得越来越容易求解，并且当r接近无穷大时，r中指数的平均节点数的基数趋于1。因此，尽管回溯算法在随机CSP上使用的平均节点数是指数级的，但当r足够大时，许多CSP实例将非常容易求解。
2000-05-09 cs.AI cs.CC
Fast Analysis of the OpenAI O1-Preview Model in Solving Random K-SAT Problem: Does the LLM Solve the Problem Itself or Call an External SAT Solver?
University of Florence（佛罗伦萨大学）
本文分析了OpenAI O1-preview模型在求解随机K-SAT问题时的表现，发现其通过调用外部SAT求解器而非直接求解，且输出常含错误赋值，并提出方法量化其展现智能火花还是随机猜测。
2024-09-20 cond-mat.dis-nn cs.AI cs.CL
A New Approach to Constraint Weight Learning for Variable Ordering in CSPs
University of Regina（里贾纳大学）
约束满足问题（CSP）是用于建模和求解约束问题的框架。树搜索算法（如回溯）试图通过一个接一个地选择问题的变量来构造CSP的解决方案。这些算法选择变量的顺序可能对搜索性能有显着影响。已经提出了各种算法来选择好的变量排序。许多强大的变量排序算法首先对约束进行加权，然后利用权重来选择变量的良好顺序。约束加权基本上用于识别CSP中的全局瓶颈。在本文中，我们提出了一种新的方法，学习权的约束，使用竞争协同进化遗传算法（GA）。由共同进化GA学习的权重稍后有助于在搜索中为前几个变量做出更好的选择。在竞争协同进化遗传算法中，约束和候选解决方案的CSP一起进化，通过逆适应度的相互作用过程。我们已经进行了几个随机，准随机和模式化的情况下，以衡量所提出的方法的效率进行了实验。实验结果和分析表明，该方法能够很好地学习权值，区分由RB模型生成的准随机实例和强制可满足随机实例的硬约束。对于其他类型的实例，正如我们的实验所示，RNDI似乎仍然是最好的方法。
2013-12-25 cs.AI
Efficient Parallel Algorithm for Decomposing Hard CircuitSAT Instances
institutetext: ISDCT SB RAS, Irkutsk, Russia（ISDCT SB RAS研究院，伊尔库茨克俄罗斯）
本文提出一种高效并行算法，用于分解硬电路SAT实例，通过参数调整和并行计算估计实现高质量分解。
2026-02-19 cs.AI
Multiple Instance Learning Framework with Masked Hard Instance Mining for Whole Slide Image Classification
Chongqing University（重庆大学）；The Hong Kong University of Science and Technology（香港科技大学）；Walmart Global Tech（沃尔玛全球技术）
提出MHIM-MIL框架，通过孪生结构挖掘困难实例，提升全切片图像分类性能，在多个数据集上优于现有方法。
2023-12-21 cs.AI cs.CV
Learning to Solve Travelling Salesman Problem with Hardness-adaptive Curriculum
Tsinghua University（清华大学）
已经提出了各种神经网络模型来解决组合优化问题，例如旅行商问题（TSP）。现有的基于学习的TSP方法采用简单的设置，即训练和测试数据是独立同分布的。然而，现有的文献未能解决TSP的情况下，训练和测试数据具有不同的分布。具体地说，我们发现不同的训练和测试分布将导致更困难的TSP实例，即，模型得到的解与最优解有较大差距。为了解决这个问题，在这项工作中，我们研究了基于学习的TSP方法时，训练和测试数据具有不同的分布使用自适应硬度，即，TSP实例对于求解器来说有多困难。这个问题是具有挑战性的，因为它是不平凡的（1）定量定义硬度测量;（2）在模型训练时有效地和连续地生成足够硬的TSP实例;（3）充分利用具有不同硬度水平的实例来学习更强大的TSP求解器。为了解决这些挑战，我们首先提出了一个原则性的硬度测量来量化TSP实例的硬度。然后，我们提出了一个硬度自适应生成器来生成不同硬度的实例。我们进一步提出了一个课程学习者充分利用这些实例训练TSP求解器。实验表明，我们的硬度自适应生成器可以生成的实例比现有的方法难十倍，我们提出的方法实现了显着的改进，最先进的模型在最优性差距。
2022-04-07 cs.AI cs.LG
Solving Hard AI Planning Instances Using Curriculum-Driven Deep Reinforcement Learning
Cornell University（康奈尔大学）
尽管人工智能规划取得了重大进展，但某些领域仍然超出了当前人工智能规划系统的范围。Sokoban是一个PSPACE完整的规划任务，代表了当前AI规划者最难的领域之一。由于硬实例上的指数搜索复杂性，即使是特定于领域的专门搜索方法也会很快失败。我们的方法基于深度强化学习，并采用了一种基于知识驱动的方法，这是第一个在一天的训练时间内解决困难实例的方法，而其他现代求解器无法在任何合理的时间限制内解决这些实例。与以前的努力，使用精心手工修剪技术，我们的方法自动发现域结构。我们的研究结果表明，深度强化学习为解决以前未解决的人工智能规划问题提供了一个有前途的框架，前提是可以设计适当的培训课程。
2020-06-04 cs.AI cs.LG
A Novel Automated Curriculum Strategy to Solve Hard Sokoban Planning Instances
Cornell University（康奈尔大学）
近年来，我们见证了深度强化学习（RL）在围棋、国际象棋、视频游戏和机器人控制等任务中的巨大进步。然而，其他组合领域，如人工智能规划，仍然对RL方法提出了相当大的挑战。在这些领域的关键困难是，一个积极的奖励信号成为{ \em指数罕见}的最小解长度增加。因此，RL方法会丢失其训练信号。最近，通过使用一种旨在解决单个硬实例的基于知识驱动的学习方法，已经取得了令人鼓舞的进展。我们提出了一种新的{ \em automated}课程的方法，动态地选择从我们的{ \em难度量子动量}策略的指导下，不同的任务复杂性的未标记的训练实例池。我们展示了任务难度的平滑度如何影响最终的学习结果。特别是，随着实例池的大小增加，“硬度差距”减小，这有助于更顺畅的基于自动化课程的学习过程。我们的自动化课程方法大大改进了以前的方法。我们展示了我们的结果推箱子，这是一个传统的PSPACE完整的规划问题，并提出了一个很大的挑战，即使是专业的解决方案。我们的RL代理可以解决任何以前最先进的推箱子求解器都无法解决的困难实例。特别是，我们的方法可以发现需要数百个步骤的计划，而以前最好的搜索方法需要多年的计算时间来解决这些问题。此外，我们表明，我们可以进一步提高强化学习的性能与我们的自动化课程的方法与好奇心驱动的搜索策略和图形神经网络表示的复杂耦合。
2021-10-03 cs.AI
Features for the 0-1 knapsack problem based on inclusionwise maximal solutions
KU Leuven（鲁汶大学）；Flanders Make（法兰德斯制造研究院）；University of Antwerp（安特卫普大学）
几十年来对0-1背包问题的研究导致了非常有效的算法，能够快速解决大型问题实例的最优性。这促使研究人员也调查是否存在相对较小的问题实例，这些问题对于现有的解决者来说很难，并调查哪些特征表征了它们的难度。在此之前，作者提出了一类新的硬0-1背包问题实例，并证明了所谓的包含最大解（IMS）的属性可以是这类问题的重要硬度指标。在当前的文件中，我们制定了几个新的计算挑战性的问题，与任意0-1背包问题实例的IMS。在前人工作的基础上，结合IMSs的新结构，提出了多项式和伪多项式时间算法。由此，我们得到了一组14个计算昂贵的功能，我们计算了两个大型数据集的超级计算机在大约540 CPU小时。我们表明，所提出的功能包含重要的信息相关的经验硬度的问题实例，这是失踪的早期功能从文献中训练机器学习模型，可以准确地预测各种各样的0-1背包问题实例的经验硬度。使用实例空间分析方法，我们还表明，硬0-1背包问题的实例聚集在一起，围绕一个相对密集的区域的实例空间和几个功能表现不同的实例空间的容易和困难的部分。
2022-11-16 cs.AI cs.DS
Deep Instance-Level Hard Negative Mining Model for Histopathology Images
The University of Queensland（昆士兰大学）
组织病理学图像分析可以被认为是一个多实例学习（MIL）问题，其中整个切片组织病理学图像（WSI）被视为一袋实例（即补丁），任务是预测WSI的单个类别标签。然而，在许多现实生活中的应用，如计算病理学，发现触发袋标签的关键实例是非常感兴趣的，因为它提供了由系统作出的决定的原因。在本文中，我们提出了一种深度卷积神经网络（CNN）模型，该模型解决了WSI上行李分类的主要任务，并学会识别每个实例的响应，为最终预测提供可解释的结果。我们将注意力机制引入到所提出的模型中，以操作实例的转换并学习注意力权重，从而找到关键补丁。为了执行均衡的训练，我们在每个训练包中引入自适应权重来显式调整权重分布，以便更多地集中于硬样本的贡献。基于学习到的注意力权重，我们进一步开发了一种解决方案，通过生成具有硬否定实例的袋子来提高分类性能。我们对结肠癌和乳腺癌组织病理学数据进行了广泛的实验，并表明我们的框架达到了最先进的性能。
2019-06-27 cs.AI cs.CV
An Ensemble Generation Method Based on Instance Hardness
Centro de Informática - Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）；École de Technologie Supérieure - Université du Québec（魁北克大学高等技术学院）
在机器学习中，集成方法受到了广泛的关注。诸如Bagging和Boosting之类的技术已经成功地应用于各种问题。然而，这样的技术仍然容易受到训练数据中的噪声和异常值的影响。我们提出了一种新的方法，用于生成基于Bagging的分类器池，其中，在重新排序过程中，实例被选择的概率与其实例硬度成反比，这可以被理解为实例被误分类的可能性，而不管分类器的选择。所提出的方法的目标是去除噪声数据，而不牺牲硬的情况下，很可能会被发现类边界。我们在19个公共数据集上评估了该方法的性能，并将其与Bagging和随机子空间算法的性能进行了比较。实验结果表明，在高噪声环境下，该方法的识别精度明显优于Bagging方法。
2018-04-30 cs.AI cs.LG stat.ML
Hard instance learning for quantum adiabatic prime factorization
Fudan University（复旦大学）；Shanghai Qi Zhi Institute（上海期智研究院）
素数分解是经典计算中的一个难题，其指数硬度是RSA密码学的基础。利用可编程量子器件，绝热量子计算被提出作为解决素因子分解的一种可行方法，具有优于经典计算的前景。在这里，我们发现有一些困难的情况下，是一贯棘手的经典模拟退火和未配置的绝热量子计算（AQC）。针对量子绝热因式分解最优配置的自动化架构，我们应用深度强化学习（RL）方法来配置AQC算法。通过将最坏情况问题实例的成功概率设置为RL的奖励，我们表明RL配置显著提高了硬实例上的AQC性能。成功概率在不同的问题实例上也变得更均匀地分布，这意味着与未配置的情况相比，配置的AQC更稳定。通过迁移学习技术，我们发现了AQC配置框架可扩展的突出证据-在五个量子位上训练的配置AQC仍然有效地在九个量子位上工作，并且额外的训练成本最小。
2021-10-10 cond-mat.dis-nn cs.AI cs.LG
Feature-Based Diversity Optimization for Problem Instance Classification
Zhengzhou University（郑州大学）；University of Cambridge（剑桥大学）；University of Adelaide（阿德莱德大学）
理解启发式搜索方法的行为是一个挑战。这甚至适用于简单的本地搜索方法，如2-OPT的旅行推销员问题。在本文中，我们提出了一个通用的框架，能够构建一组不同的实例，是硬或容易的给定的搜索启发式。这样一个多样化的集合是通过使用进化算法来构建相对于底层问题的不同特征而不同的难或易实例来获得的。检查构造的实例集，我们表明，许多组合的两个或三个功能提供了一个很好的分类的TSP实例，他们是否很难解决的2-OPT.
2020-05-29 cs.AI cs.NE
Decomposing Hard SAT Instances with Metaheuristic Optimization
ITMO University（圣彼得堡国立信息技术机械与光学大学）
本文在SAT问题框架下提出分解难度（d-hardness）概念，将其表示为随机变量期望，用蒙特卡洛方法计算、进化算法优化最小d-hardness的变量子集，验证了该方法在困难不可满足SAT实例求解中的适用性。
2023-12-16 cs.AI cs.DS
Learning with Instance-Dependent Noisy Labels by Anchor Hallucination and Hard Sample Label Correction
Inventec Corporation（英业达公司）；University at Albany, State University of New York（纽约州立大学奥尔巴尼分校）
针对实例依赖噪声标签场景下传统方法易误判复杂干净样本的问题，提出结合锚点生成与难样本标签修正的方法，通过半监督训练实现更优的噪声标签学习性能。
2024-07-10 cs.AI cs.CV
