Explainable Verbal Reasoner Plus (EVR+): A Natural Language Reasoning Framework that Supports Diverse Compositional Reasoning
University of Arizona（亚利桑那大学）
针对语言模型组合泛化能力不足的问题，提出支持嵌套循环、多类型递归等多样推理的EVR+框架，通过显式生成执行符号算子、灵活分解任务提升组合推理能力，微调模型在5项合成任务上表现更优，还探讨了与少样本提示模型结合的可能与挑战。
2023-04-28 cs.AI cs.CL
TimeThink: Eliciting Compositional Reasoning in Timeseries Large Language Models
Dartmouth College（达特茅斯学院）
TimeThink提出合成数据生成与可验证奖励强化学习框架，激发时间序列大语言模型的显式组合推理，仅用合成数据即在合成及真实基准上显著超越强基线。
2026-09-15 cs.AI
Compositional Reasoning in Language Models under Reinforcement Learning Post-Training
Stanford University（斯坦福大学）；Amazon AGI Labs（亚马逊AGI实验室）
本文提出依赖图框架形式化组合推理，通过数据结构任务发现分解到组合训练迁移的不对称性，并提供理论解释及现实工具调用基准的初步验证。
2026-09-18 cs.AI cs.LG
Neural Compositional Rule Learning for Knowledge Graph Reasoning
UCLA（加州大学洛杉矶分校）；Intel Labs（英特尔实验室）
学习逻辑规则对于提高幼儿园的推理能力至关重要。这是由于它们在用于预测时能够提供逻辑和可解释的解释，以及它们概括到其他任务、领域和数据的能力。虽然最近的方法已经被提出来学习逻辑规则，但这些方法中的大多数要么受到其计算复杂性的限制，并且不能处理大规模KG的大搜索空间，要么在暴露于训练集之外的数据时表现出较差的泛化能力。在本文中，我们提出了一个端到端的神经模型学习组合逻辑规则称为NCRL。NCRL检测规则体的最佳组合结构，并将其分解为小的组合以推断规则头。通过递归合并规则体中的组合与递归注意单元，NCRL最终预测单个规则头。实验结果表明，NCRL学习到的规则质量较高，具有较好的泛化能力。具体来说，我们表明，NCRL是可扩展的，高效的，并产生国家的最先进的结果，知识图谱完成大规模的KG。此外，我们测试NCRL的系统推广，学习原因小规模的观察图和评估较大的看不见的。
2023-03-07 cs.AI
CARV: A Diagnostic Benchmark for Compositional Analogical Reasoning in Multimodal LLMs
Pennsylvania State University（宾夕法尼亚州立大学）
本文提出CARV任务及5500样本数据集，评估多模态大语言模型在组合类比推理中的能力，发现Gemini-2.5 Pro准确率仅为40.4%，远低于人类水平，揭示模型在规则提取与组合变换上的局限。
2026-07-21 cs.AI
Plug-and-Play Emotion Graphs for Compositional Prompting in Zero-Shot Speech Emotion Recognition
本文提出CCoT-Emo框架，通过引入结构化情感图谱提升零样本语音情感识别的性能。
2026-02-03 cs.AI
RECON: Benchmarking Agent Memory for Compositional Reasoning over Long Contexts
RV College of Engineering（RV工程学院）；Department of Computer Science and Engineering（计算机科学与工程系）
该研究引入RECON基准测试，用于评估长上下文组合推理，跨越三个领域24个案例文件，测试智能体六个内存密集型任务，揭示当前架构在内存相关任务上存在重大局限，非预言机系统准确率低，检索和推理有挑战。
2026-07-21 cs.AI
Compositional Neuro-Symbolic Reasoning
CoreThink AI；Stanford University（斯坦福大学）
本文提出一种结合神经和符号方法的推理框架，通过提取网格对象结构、利用神经先验提出变换候选方案并过滤假设，提升ARC-AGI-2任务表现，无需任务特定微调或强化学习。
2026-11-04 cs.AI
Compositional-ARC: Assessing Systematic Generalization in Abstract Spatial Reasoning
本研究通过元学习方法在抽象空间推理领域实现系统泛化，展示了一个小型模型在组合变换任务上的优越表现。
2026-02-26 cs.AI
Leveraging Textual Compositional Reasoning for Robust Change Captioning
CORTEX通过整合文本线索和组合推理，提升图像变化描述的鲁棒性与准确性。
2025-11-28 cs.AI cs.CV
Composition Collapse: Stable Factual Knowledge Does Not Imply Compositional Reasoning
Zhejiang University（浙江大学）；Binjiang Institute of Zhejiang University（浙江大学滨江研究院）；Hong Kong Baptist University（香港 Baptist大学）；Harbin Institute of Technology（哈尔滨工业大学）；Hangzhou Dianzi University（杭州电子科技大学）
本文提出组合崩溃现象，即模型在稳定掌握原子事实的情况下仍无法将其组合成链式推理，并通过双门控协议分解后训练增益，揭示聚合指标掩盖的组合能力变化。
2026-05-26 cs.AI
Explain Before You Answer: A Survey on Compositional Visual Reasoning
Monash University（墨尔本大学）；Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Griffith University（格里菲斯大学）；Princeton University（普林斯顿大学）；Allen Institute for Artificial Intelligence（人工智能研究院）
综述2023年至2025年组合视觉推理文献，形式化核心定义，追溯范式转变，编目基准指标，提炼见解、识别挑战并概述方向，为该领域提供统一分类、历史路线图和批判性展望。
2026-07-09 cs.AI cs.CV
OC-NMN: Object-centric Compositional Neural Module Network for Generative Visual Analogical Reasoning
Mila（米拉研究所）；ServiceNow Research（ServiceNow研究院）
本文提出OC-NMN，通过模块化将视觉生成推理任务分解为对象原语组合，无需领域特定语言即可生成新训练任务，从而提升模型在MNIST数字算术运算基准上的分布外泛化能力。
2023-10-28 cs.AI cs.CV
CROP: Expert-Aligned Image Cropping via Compositional Reasoning and Optimizing Preference
Southeast University（东南大学）；Key Laboratory of New Generation Artificial Intelligence Technology（新一代人工智能技术重点实验室）；Alibaba Group（阿里巴巴集团）
本文提出CROP方法，通过组合推理和优化偏好，解决传统图像裁剪方法在复杂场景中难以做出组合权衡和缺乏适应性推理的问题，提升裁剪结果与专家审美的一致性。
2026-05-09 cs.AI cs.CV
The Scattering Compositional Learner: Discovering Objects, Attributes, Relationships in Analogical Reasoning
University of Toronto（多伦多大学）；Vector Institute（Vector研究所）
在这项工作中，我们专注于类比推理任务，包含丰富的组成结构，乌鸦的进步矩阵（RPM）。为了发现数据的组合结构，我们提出了分散组合学习器（SCL），一种按顺序组成神经网络的架构。我们的SCL在两个RPM数据集上实现了最先进的性能，与之前的最先进技术相比，Balanced-RAVEN和PGM的相对改进分别为48.7%和26.4%。我们还表明，我们的模型发现了对象属性的组成表示（例如，形状、颜色、大小），以及它们的关系（例如，进步，联盟）。我们还发现，成分表示使SCL显着更强大的测试时域移位，并大大提高了zero-shot推广到以前看不见的类比。
2020-07-08 cs.AI cs.LG cs.LO
MultihopSpatial: Multi-hop Compositional Spatial Reasoning Benchmark for Vision-Language Model
Electronics and Telecommunications Research Institute, South Korea（韩国电信研究院）；Korea Advanced Institute of Science and Technology, South Korea（韩国科学技术院）；Sungkyunkwan University, South Korea（成均馆大学）；DeepAuto, South Korea（DeepAuto）
本文提出MultihopSpatial基准，针对多跳组合空间推理问题，引入Acc@50IoU指标，并通过大规模训练集提升视觉语言模型的空间推理能力。
2026-09-07 cs.AI cs.CV
Generalizable Reasoning through Compositional Energy Minimization
University of Barcelona（巴塞罗那大学）；Harvard University（哈佛大学）
提出通过组合子问题能量景观并引入并行能量最小化，实现推理模型向更大更复杂问题的泛化，优于现有最先进方法。
2025-10-23 cs.AI cs.LG
Predictive Reasoning with Augmented Anomaly Contrastive Learning for Compositional Visual Relations
School of Computer Science, University of Nottingham Ningbo China（诺丁汉大学宁波校区计算机科学学院）；Institute of Biomedical Engineering, Ningbo institute of materials technology and engineering, Chinese Academy of Sciences（中国科学院宁波材料技术与工程研究所生物医学工程研究所）；School of Electrical & Electronic Engineering, Nanyang Technological University（南洋理工大学电子与电气工程学院）
PR-A$^2$CL通过增强异常对比学习和预测验证范式，有效提升了组合视觉关系推理任务的性能。
2026-03-01 cs.AI cs.CV
A Benchmark for Compositional Visual Reasoning
Carney Institute for Brain Science（卡尼脑科学研究所）；Brown University（布朗大学）；Centre de Recherche Cerveau et Cognition（脑与认知研究中心）；CNRS（法国国家科学研究中心）；Université de Toulouse（图卢兹大学）；Artificial and Natural Intelligence Toulouse Institute（图卢兹人工智能与自然智能研究所）
人类视觉的一个基本组成部分是我们解析复杂视觉场景并判断其组成对象之间关系的能力。近年来，视觉推理的人工智能基准测试推动了快速发展，最先进的系统现在在其中一些基准测试上达到了人类的准确性。然而，在人类和人工智能系统学习新的视觉推理任务的样本效率方面仍然存在重大差距。人类在学习方面的非凡效率至少部分归因于他们利用组合性的能力-这样他们就可以在学习新任务时有效地利用以前获得的知识。在这里，我们介绍了一种新的视觉推理基准，组合视觉关系（CVR），以推动更数据有效的学习算法的发展。我们从流体智能和非语言推理测试中获得灵感，并描述了一种用于大规模创建抽象规则和相关图像数据集组合的新方法。我们提出的基准测试包括样本效率，泛化和跨任务规则的传输，以及利用组合性的能力。我们系统地评估了现代神经架构，并发现令人惊讶的是，在大多数数据体系中，卷积架构在所有性能指标上都超过了基于transformer的架构。然而，所有的计算模型都比人类的数据效率低得多，即使在使用自我监督学习信息丰富的视觉表示之后。总的来说，我们希望我们的挑战将激发人们对开发神经架构的兴趣，这些神经架构可以学会利用组合性实现更有效的学习。
2022-06-11 cs.AI cs.CV
Knowledge Graphs are Implicit Reward Models: Path-Derived Signals Enable Compositional Reasoning
Department of Electrical and Computer Engineering, Princeton University, New Jersey, USA（电气与计算机工程系，普林斯顿大学，新泽西州，美国）
本文提出利用知识图谱作为隐式奖励模型，通过路径衍生信号提升模型在复杂推理任务中的组合推理能力。
2026-03-06 cs.AI cs.CL
Compositional Causal Reasoning Evaluation in Language Models
Harvard University（哈佛大学）；Microsoft Research Cambridge（微软研究院剑桥）
本文提出组合因果推理（CCR）统一视角与评估框架，系统测试LLama、Phi和GPT系列模型，发现除o1外错误随因果路径复杂度上升。
2025-06-10 cs.AI cs.CL cs.LG
Layer Specialization Underlying Compositional Reasoning in Transformers
ENS, Université PSL, EHESS, CNRS（高等科学研究院、巴黎高等科学研究所、国家科学研究中心）
该研究利用 Random Hierarchy Model 分析 Transformer 的组合推理，揭示层特化随训练逐步形成，并与不同泛化条件下的性能相关。
2025-10-20 cs.AI cs.LG
Prompting Large Vision-Language Models for Compositional Reasoning
Indiana University（印第安纳大学）；University of Wisconsin（威斯康星大学）
针对视觉-语言模型组合推理不足的问题，本文提出提示 GPT-4 等大型视觉-语言模型描绘图像并逐步推理，在 Winoground 上优于嵌入方法，最优描述可再提升最高 10% 准确率。
2024-01-20 cs.AI cs.CV
Compositional Language Understanding with Text-based Relational Reasoning
Mila（米拉研究所）；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Facebook AI Research (FAIR)（脸书人工智能研究院）；Samsung Advanced Institute of Technology (SAIT)（三星综合技术院）
用于自然语言推理的神经网络主要集中在提取、基于事实的问答（QA）和常识推理。然而，了解神经网络可以从自然语言执行关系推理和组合概括的程度也至关重要-这些能力通常被注释工件和标准QA基准中语言建模的主导地位所掩盖。在这项工作中，我们提出了一个新的基准数据集的语言理解，隔离性能的关系推理。我们还提出了一个神经消息传递基线，并表明，该模型，其中包括一个关系归纳偏差，是优于组合推广相比，传统的递归神经网络方法。
2018-11-08 cs.AI cs.CL
Exploring the Compositional Deficiency of Large Language Models in Mathematical Reasoning
School of Computer Science, Fudan University（复旦大学计算机科学学院）；Shanghai Key Laboratory of Intelligent Information Processing, Fudan University（复旦大学上海智能信息处理重点实验室）
本研究构建含逻辑陷阱的MathTrap数据集，发现LLMs虽具备所需知识却无法自发组合以处理数学推理中的新案例，并验证了提示、微调及类人“慢思考”可部分缓解此组合性缺陷。
2024-10-10 cs.AI cs.CL
On the Potential of CLIP for Compositional Logical Reasoning
Franklin and Marshall College（富兰克林与马歇尔学院）
本文分析CLIP在组合逻辑推理中的潜力，通过几何分析其嵌入配置，得出结论：常规配置下CLIP无法进行逻辑一致的视觉推理。
2023-08-30 cs.AI cs.CV cs.LG
REXUP: I REason, I EXtract, I UPdate with Structured Compositional Reasoning for Visual Question Answering
The University of Sydney（悉尼大学）
视觉问答（VQA）是一项具有挑战性的多模态任务，它不仅需要对图像和问题的语义理解，还需要对一个逐步推理过程的正确感知。到目前为止，VQA中大多数成功的尝试都集中在一个方面，要么是图像的视觉像素特征与问题的文字特征的交互，要么是在图像中用简单对象回答问题的推理过程。在本文中，我们提出了一个深度推理VQA模型与明确的视觉结构感知的文本信息，它可以很好地捕捉一步一步的推理过程，并检测一个复杂的对象关系，在照片级真实感图像。REXUP网络由面向图像对象和面向场景图两个分支组成，与超对角融合合成注意力网络协同工作。我们在GQA数据集上对REXUP进行了定量和定性评估，并进行了广泛的消融研究，以探索REXUP有效性背后的原因。我们最好的模型明显优于最先进的模型，后者在验证集上的表现为92.7%，在测试开发集上的表现为73.1%。
2020-09-14 cs.AI cs.CV
Compositional Questions Do Not Necessitate Multi-hop Reasoning
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Irvine（加州大学欧文分校）
多跳阅读理解（RC）问题具有挑战性，因为它们需要阅读和推理多个段落。我们认为，它可以是难以构建大型多跳RC数据集。例如，即使是高度组合的问题，如果它们针对特定的实体类型，或者回答它们所需的事实是多余的，也可以通过单跳来回答。我们的分析以HotpotQA为中心，在那里我们表明单跳推理可以解决比以前想象的更多的数据集。我们介绍了一个单跳的BERT为基础的RC模型，达到67 F1-国家的最先进的多跳模型相媲美。我们还设计了一个评估设置，其中人类没有显示所有必要的段落，用于预期的多跳推理，但仍然可以回答超过80%的问题。连同详细的错误分析，这些结果表明，应该有一个越来越多的关注证据在多跳推理的作用，甚至可能转向信息检索风格的评估与大型和多样化的证据收集。
2019-06-07 cs.AI cs.CL
A Multi-Stage Rule-Chaining Framework for Compositional and Interpretable Cognitive Reasoning
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
提出多阶段规则链框架，整合三个求解器在符号、结构、概念层面进行组合推理，在ARC基准上实现超95%准确率，提升可解释性与泛化能力。
2026-09-11 cs.AI cs.LG
AlgoTrace: Algorithmic Primitives and Compositional Geometry of Reasoning in Language Models
Microsoft Research NYC（微软研究院纽约分部）；Center for Theoretical Neuroscience（理论神经科学中心）；Department of Psychology（心理学系）；University of California Los Angeles（加州大学洛杉矶分校）；Institute for Pure and Applied Mathematics（纯粹与应用数学研究所）；Emory University（埃默里大学）；Rice University（里士满大学）；Mount Holyoke College（马里兰霍克学院）；Technische Universität Berlin（柏林技术大学）；BIFOLD-Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）
研究通过分析语言模型中的算法原语，揭示其推理过程的组合几何结构，并展示原语在跨任务和跨模型中的可迁移性。
2026-08-27 cs.AI cs.LG
NePTune: A Neuro-Pythonic Framework for Tunable Compositional Reasoning on Vision-Language
Michigan State University（密歇根州立大学）
本文提出免训练神经符号框架 NePTune，将自然语言查询动态转为含软逻辑算子的 Python 程序，以增强 VLM 的组合推理、泛化与适应能力。
2025-09-30 cs.AI cs.CL cs.CV
SCITAB: A Challenging Benchmark for Compositional Reasoning and Claim Verification on Scientific Tables
National University of Singapore（新加坡国立大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）；Sea AI Lab（Sea人工智能实验室）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
针对现有科学事实核查基准的偏差和过度依赖文本证据的问题，提出包含1.2K条专家验证声明的SCITAB基准，要求基于科学表格进行组合推理验证，实验表明现有先进模型在该任务上面临重大挑战。
2023-10-23 cs.AI cs.CL
Visual Programming: Compositional visual reasoning without training
Allen Institute for AI（艾伦人工智能研究所）
我们提出了VISPROG，神经符号的方法来解决复杂的和组成的视觉任务的自然语言的指令。VISPROG避免了任何针对特定任务的培训。相反，它使用大语言模型的上下文学习能力来生成类似Python的模块化程序，然后执行这些程序以获得解决方案以及全面和可解释的原理。生成的程序的每一行都可以调用若干现成的计算机视觉模型、图像处理例程或python函数中的一个，以产生可以由程序的后续部分消耗的中间输出。我们展示了VISPROG的灵活性4个不同的任务-组成的视觉问答，zero-shot推理的图像对，事实知识对象标记，和语言引导的图像编辑。我们相信，像VISPROG这样的神经符号方法是一个令人兴奋的途径，可以轻松有效地扩展人工智能系统的范围，为人们可能希望执行的复杂任务的长尾服务。
2022-11-18 cs.AI cs.CL cs.CV
CRIC: A VQA Dataset for Compositional Reasoning on Vision and Commonsense
Chinese Academy of Sciences（中国科学院）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
或者，对视觉事实和常识进行推断是高级VQA系统的基础。这种能力要求模型超越对常识的字面理解。系统不应该仅仅将对象作为查询背景知识的入口，而是将常识充分扎根于视觉世界，想象对象之间可能的关系，例如，“叉，可以举起，食物”。为了全面评估这些能力，我们提出了一个VQA基准，CRIC，它引入了新类型的问题，关于组合推理的vIsion和常识，和一个评估指标集成的答案和常识接地的正确性。为了收集这些问题和丰富的附加注释来支持度量，我们还提出了一种自动算法来从与图像和相关知识图谱相关联的场景图中生成问题样本。我们进一步分析了CRIC数据集上几种代表性的VQA模型。实验结果表明，将常识知识与图像区域相结合，以及基于视觉和常识知识的联合推理对于现有方法来说仍然是一个挑战。该数据集可在https://cricvqa.github.io上获得。
2021-10-27 cs.AI cs.CV
Towards Truly Zero-shot Compositional Visual Reasoning with LLMs as Programmers
Google DeepMind（谷歌DeepMind）
本研究针对LLM作为视觉推理控制器时需人工设计特定上下文示例的问题，提出含时空抽象例程、用少量标注自动生成上下文示例的框架，提升了性能与鲁棒性，免去人工设计成本。
2024-05-14 cs.AI cs.CV cs.LG
RAVU: Retrieval Augmented Video Understanding with Compositional Reasoning over Graph
Fujitsu Research of India Private Limited（日本富士通印度研究私有限公司）
RAVU提出通过时空图构建视频长期记忆，并将查询分解为组合推理步骤进行检索增强，从而在仅使用5-10帧的情况下显著提升长视频多跳推理与对象跟踪的问答性能。
2025-05-06 cs.AI cs.CV
Extending Compositional Attention Networks for Social Reasoning in Videos
National Technical University of Athens（雅典国立技术大学）；Institute for Speech and Language Processing（言语与语言处理研究所）
我们提出了一种新的深度架构，用于推理视频中的社交互动。我们利用组合注意力网络（MAC）的多步推理能力，并提出了一个多模态扩展（MAC-X）。MAC-X是基于一个循环的细胞，执行迭代中级融合的输入模态（视觉，听觉，文本）在多个推理步骤，通过使用时间注意力机制。然后，我们将MAC-X与LSTM结合起来，在端到端架构中进行时间输入处理。我们的消融研究表明，建议的MAC-X架构可以有效地利用多模态输入线索使用中级融合机制。我们将MAC-X应用于Social IQ数据集中的社交视频问答任务，并在当前最先进的技术水平上获得了2.5%的二进制准确度绝对提高。
2022-10-03 cs.AI cs.CL cs.CV
Recursive Concept Evolution for Compositional Reasoning in Large Language Models
Purdue University（普渡大学）
递归概念演化（RCE）通过动态生成低秩概念子空间，使大语言模型在推理过程中能够构建新抽象，从而提升组合推理任务的性能。
2026-02-17 cs.AI cs.CL cs.LG
Local Success Does Not Compose: Benchmarking Large Language Models for Compositional Formal Verification
Shanghai AI Lab（上海人工智能实验室）
提出含300个多功能程序的 DafnyCOMP 基准，评估 LLM 的 Dafny 组合式规约生成能力，揭示其跨函数推理存在系统性失败。
2025-09-27 cs.AI cs.PL
CompA: Addressing the Gap in Compositional Reasoning in Audio-Language Models
University of Maryland, College Park（马里兰大学帕克分校）；Adobe（奥多比公司）；NVIDIA（英伟达公司）
本文提出 CompA 基准评估音频语言模型的组合推理能力，发现现有模型表现接近随机猜测，并通过组合感知困难负样本和模块化对比损失微调 CLAP 提出 CompA-CLAP，显著提升了组合推理性能。
2024-07-30 cs.AI cs.CL cs.SD
TMCS: Tool-Grounded Multi-Agent Reasoning for Compositional Chemical Problem Solving
East China Normal University（华东师范大学）；Shanghai Innovation Institute（上海创新研究院）；University College London（伦敦大学学院）
TMCS提出一种工具接地多智能体框架，将化学问题求解形式化为可解释的工作流，通过任务级智能体与闭环流水线提升组合化学推理性能。
2026-09-29 cs.AI cs.CV
Compositional Generalization from Learned Skills via CoT Training: A Theoretical and Structural Analysis for Reasoning
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院）；Beijing Key Laboratory of Research on Large Models and Intelligent Governance（北京大型模型与智能治理研究重点实验室）；Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（下一代智能搜索与推荐工程研究中心，教育部）；Tianjin University of Science and Technology（天津科技大学）；Beijing Institute of Technology（北京理工大学）
本文通过理论和结构分析揭示CoT训练通过组合学习技能提升模型推理泛化能力的核心机制。
2026-02-12 cs.AI cs.CL cs.LG
CounterCurate: Enhancing Physical and Semantic Visio-Linguistic Compositional Reasoning via Counterfactual Examples
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；Microsoft Research（微软研究院）
CounterCurate框架通过物理基础数据增强和语义反事实微调，显著提升了CLIP和LLaVA等模型的视觉-语言组合推理能力。
2024-06-12 cs.AI cs.CL cs.CV
Grounding vs. Compositionality: On the Non-Complementarity of Reasoning in Neuro-Symbolic Systems
Place-Beyond-Bytes
研究指出神经符号系统中组成性推理并非符号 grounding 的副产品，通过 iLTN 实验证明仅依赖 grounding 无法实现泛化，联合训练 grounding 与推理可提升零样本准确性。
2026-04-29 cs.AI cs.CV cs.LG
Compositional Attention Networks for Interpretability in Natural Language Question Answering
Saama AI Research（萨马人工智能研究院）
MAC网是一个为视觉问答设计的合成注意网络。我们提出了一种改进的MAC网络结构的自然语言问答。问答通常需要语言理解和多步推理。MAC网独特的体系结构-存储和控制分离，有利于数据驱动的迭代推理。这使得它成为解决涉及逻辑推理的任务的理想候选人。我们的实验与20 bAbI任务证明了MAC网的价值作为一个数据高效和可解释的架构自然语言问答。MAC网络的透明性提供了一个高度粒度的视图，网络在回答查询时所采取的推理步骤。
2018-10-30 cs.AI cs.CL cs.LG
LLM Guided Inductive Inference for Solving Compositional Problems
Anarchy, Extensional, Inc（Anarchy Extensional公司）；Yoyodyne Inc（Yoyodyne公司）
本文提出REBEL方法，通过递归问题分解、动态规划和前向链式策略，使LLM能够利用仅以自然语言描述的外部工具，解决开放世界中需要深度嵌套工具调用的组合推理问题。
2023-09-20 cs.AI cs.CL
Transcoding compositionally: using attention to find more generalizable solutions
University of Amsterdam（阿姆斯特丹大学）；Universitat Pompeu Fabra（庞培法布拉大学）
虽然序列到序列模型在几个自然语言任务中表现出了显着的泛化能力，但它们的解决方案构造被认为比类似人类的泛化组合性更低。在本文中，我们提出了seq 2attn，一个新的架构，专门设计用于利用注意力在输入中找到组合模式。在seq 2attn中，编码器-解码器模型的两个标准组件通过代码转换器连接，代码转换器调制它们之间的信息流。我们表明，seq 2attn可以成功地概括，而不需要任何额外的监督，在两个任务，这是专门构造的神经网络的组成技能的挑战。该模型发现的解决方案具有高度的可解释性，可以轻松分析发现的解决方案类型和错误的潜在原因。我们利用这个机会引入一个新的范式来测试组合性，研究模型在遇到异常时过度概括的程度。我们发现，seq 2attn表现出这样的过度泛化到一个更大的程度比一个标准的序列到序列模型。
2019-06-06 cs.AI cs.CL
Reasoning about Affordances: Causal and Compositional Reasoning in LLMs
University College London（伦敦大学学院）
本研究通过两个实验考察LLMs与人类在对象可供性上的因果与组合推理，发现GPT-4o和Claude 3.5在思维链提示下表现接近人类，且优于前代，表明模型在该领域推理能力持续提升。
2025-02-23 cs.AI cs.CL
Enhancing Compositional Reasoning in CLIP via Reconstruction and Alignment of Text Descriptions
Seoul National University（首尔国立大学）；Oracle（Oracle公司）；Yonsei University（延世大学）；Intel Labs（英特尔实验室）
本文提出 READ 微调方法，通过 token 级描述重构和句子级释义对齐增强 CLIP 的组合推理，并在五个基准上取得最先进结果。
2025-10-18 cs.AI cs.CV
VACS: Value-Aligned Compositional Shielding for Multi-Agent Reasoning
University of Wollongong（伍伦贡大学）；Adelaide University（阿德莱德大学）
VACS提出四层组合屏蔽框架，通过逆强化学习推断价值、形式化屏蔽保障安全、核仁与哈密顿共识解决冲突，在三个基准上提升准确率并降低逻辑不一致率。
2026-10-20 cs.AI cs.MA
Siamese recurrent networks learn first-order logic reasoning and exhibit zero-shot compositional generalization
University of Amsterdam（阿姆斯特丹大学）
神经网络可以学习逻辑吗？我们用当前的方法来处理这个经典问题，并证明了递归神经网络可以学习识别表达式之间的一阶逻辑蕴涵关系。我们在一阶谓词逻辑中定义了一种人工语言，生成了一个大型的样本“数据集”，并使用自动定理证明器来推断这些句子的随机对之间的关系。我们描述了一个暹罗神经架构训练预测的逻辑关系，并与递归和递归网络的实验。Siamese递归网络在蕴涵识别任务中取得了惊人的成功，在新句子（由已知单词组成）上达到了近乎完美的性能，甚至优于递归网络。我们报告了一系列的实验，以测试的能力的模型进行组合泛化。特别是，我们研究他们如何处理看不见的长度的句子，和句子包含看不见的话。我们发现，设置使用LSTM和GRU在这些测试中获得高分，表现出一种形式的组合。
2019-06-01 cs.AI cs.CL cs.LG
ComPhy: Compositional Physical Reasoning of Objects and Events from Videos
MIT-IBM Watson AI Lab（麻省理工-IBM沃森人工智能实验室）；Harvard University（哈佛大学）；MIT（麻省理工学院）；The University of Hong Kong（香港大学）
自然界中物体的运动是由复杂的相互作用及其性质决定的。虽然一些属性，如形状和材料，可以通过物体的视觉外观来识别，但其他属性，如质量和电荷，则无法直接看到。可见和隐藏属性之间的组合性对人工智能模型从物理世界进行推理提出了独特的挑战，而人类可以毫不费力地通过有限的观察来推断它们。现有的视频推理研究主要集中在视觉上可观察的元素，如对象的外观，运动，接触互动。在本文中，我们首先通过引入组合物理推理（ComPhy）数据集来强调推断隐藏的物理特性的重要性。对于给定的一组对象，ComPhy包括一些在不同初始条件下移动和交互的视频。该模型的评估是基于其解开组成隐藏属性（如质量和电荷）的能力，并使用这些知识来回答其中一个视频上发布的一组问题。几个国家的最先进的视频推理模型在ComPhy的评估结果显示不令人满意的性能，因为他们无法捕捉这些隐藏的属性。我们进一步提出了一个名为Compositional Physics Learner（CPL）的Oracle神经符号框架，将视觉感知，物理属性学习，动态预测和符号执行结合到一个统一的框架中。CPL可以有效地识别物体的物理特性，从他们的相互作用和预测他们的动态回答问题。
2022-05-02 cs.AI cs.CV cs.LG
VELOCITI: Benchmarking Video-Language Compositional Reasoning with Strict Entailment
IIIT Hyderabad（印度国际信息技术研究所）；CVIT（计算机视觉与图像技术中心）；Inria（法国国家信息与自动化研究所）
研究短视频组合推理问题，提出VELOCITI基准及StrictVLE分类方法评估Video-LLMs，发现当前最优模型远低于人类准确率，验证了多帧视觉输入的必要性。
2025-03-30 cs.AI cs.CV cs.LG
Learning Attention as Disentangler for Compositional Zero-shot Learning
The University of Hong Kong（香港大学）
构图零样本学习（CNOML）旨在学习视觉概念（即，属性和对象），并将概念知识组合到看不见的组合中。CNOML的关键是学习如何解开属性-对象组合的纠缠。为此，我们建议利用交叉注意作为成分解缠器来学习解缠的概念嵌入。例如，如果我们想识别一个看不见的成分“黄色的花”，我们可以分别从不同的黄色对象和不同的花中学习属性概念“黄色”和对象概念“花”。为了进一步约束解缠器学习兴趣的概念，我们在注意力水平上采用了正则化。具体来说，我们适应推土机的距离（EMD）作为一个特征相似性度量的交叉注意力模块。此外，受益于概念解纠缠，我们改进了推理过程，并通过组合多个概念概率来调整预测得分。在三个CNOGL基准数据集上的综合实验表明，我们的方法在封闭和开放世界环境中的性能都明显优于以前的作品，建立了一个新的最先进的技术。
2023-03-27 cs.AI cs.CV
