Neural networks for abstraction and reasoning: Towards broad generalization in machines
University of Cambridge(剑桥大学)
本研究探索多种神经网络方法(包括改进的DreamCoder和大型语言模型)解决抽象与推理语料库(ARC)任务,通过新语言、识别模型、编码方案及集成分析提升广泛泛化能力,并发布arckit库。
2024-02-05 cs.AI cs.CL cs.LG
AbstRaL: Augmenting LLMs' Reasoning by Reinforcing Abstract Thinking
AbstRaL通过强化学习提升LLM的抽象推理能力,有效缓解GSM扰动基准测试中的性能下降,并提升模型在OD数学和一般推理任务上的泛化能力。
2026-02-23 cs.AI cs.CL cs.SC
AR$^2$: Adversarial Reinforcement Learning for Abstract Reasoning in Large Language Models
Department of Mathematical Sciences National Chengchi University Taipei Taiwan(数学科学系 国立政治大学 台北 台湾);Department of Computer Science National Chengchi University Taipei Taiwan(计算机科学系 国立政治大学 台北 台湾);Institute of Information Science Academia Sinica Taipei Taiwan(信息科学研究所 中国学术院 台北 台湾);National Chengchi University(国立政治大学)
针对现有大语言模型强化学习训练忽略抽象能力显式培养的问题,提出AR²对抗强化学习框架,通过教师模型改写问题、学生模型提取核心求解的方式,显著提升模型在陌生高难度编程任务上的准确率与泛化能力。
2025-08-27 cs.AI cs.CL cs.LG
Abstract Activation Spaces for Content-Invariant Reasoning in Large Language Models
Human Centric ART, University of Rome Tor Vergata(人类中心ART,罗马大学托尔维加塔分校);ILCC, School of Informatics, University of Edinburgh(ILCC,信息学院,爱丁堡大学);School of Computer Science, University of Sheffield(计算机科学学院,谢菲尔德大学);Almawave S.p.A.(Almawave公司)
本研究提出了一种抽象引导推理框架,通过分离结构推理与词法语义,减少语义干扰对形式推理的影响,提升大语言模型的推理鲁棒性。
2026-02-02 cs.AI cs.CL
ArcMemo: Abstract Reasoning Composition with Lifelong LLM Memory
针对大语言模型推理轨迹中模式易丢失的问题,提出概念级终身记忆方法ArcMemo,在ARC-AGI基准上较无记忆基线获7.5%相对提升,实现测试时持续自我提升。
2025-10-04 cs.AI cs.CL cs.LG
Learning to Reason With Relational Abstractions
Stanford University(斯坦福大学);NYU(纽约大学)
大语言模型最近在数学推理方面取得了可喜的进展,当与人类生成的序列进行微调时,通过一系列解决方案步骤。然而,解决方案序列没有正式结构化,并且由此产生的模型生成的序列可能无法反映我们可能期望专家人类产生的那种系统推理。本文研究了如何利用关系抽象的思想在语言模型中建立更强的推理能力。我们引入了新类型的序列,更明确地提供了一个抽象的表征过渡到目标状态的中间解决方案的步骤。我们发现,提供此类序列作为提示的模型可以以更高的准确性解决任务,并且经过训练以产生此类序列的模型比使用先前使用的人类生成的序列和其他基线训练的模型更好地解决问题。因此,我们的工作采取了几个步骤,阐明和改善语言模型如何执行需要多步数学推理的任务。
2022-12-05 cs.AI cs.CL cs.LG
Enhancing Structural Mapping with LLM-derived Abstractions for Analogical Reasoning in Narratives
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Southern California(南加州大学)
本文提出YARN框架,利用LLM分解叙事并抽象单元,提升叙事类比推理能力,实验表明抽象显著提升性能,揭示了抽象层级、隐含因果关系和类比模式分类的挑战。
2026-03-31 cs.AI cs.CL
Concept-Reversed Winograd Schema Challenge: Evaluating and Improving Robust Reasoning in Large Language Models via Abstraction
Zhejiang University(浙江大学);HKUST(香港科技大学);University of Edinburgh(爱丁堡大学)
本文提出了概念反转的CR-WSC数据集以评估LLMs的鲁棒推理能力,并提出Abstraction-of-Thought(AoT)提示方法,通过概念抽象将对抗样本恢复为正常样本,显著提升了LLMs推理的鲁棒性和一致性。
2024-10-15 cs.AI cs.CL
A Modular Dataset to Demonstrate LLM Abstraction Capability
SES AI
本研究提出新型谜题数据集ArrangementPuzzle,通过训练分类器发现LLM能内部区分推理正误,中后层表征最强,且中间层编码抽象推理概念,为提升AI可靠性与可解释性提供支持。
2025-03-22 cs.AI cs.LG
Multi-Viewpoint and Multi-Evaluation with Felicitous Inductive Bias Boost Machine Abstract Reasoning Ability
State Key Laboratory for Management and Control of Complex Systems, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所复杂系统管理与控制国家重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
大量的努力已经被用来研究人工智能的抽象推理能力,随着RAVEN的渐进矩阵(RPM)的不同版本被提出作为基准。以前的工作暗示,没有复杂的设计或额外的元数据包含语义信息,神经网络可能仍然是优柔寡断的决策有关RPM问题,经过不懈的训练。通过全面的实验和消融研究证明,我们展示了端到端的神经网络体现了巧妙的归纳偏见,有意设计或偶然匹配,可以优雅地解决RPM问题,而无需增加任何额外的元数据或任何特定骨干的偏好。我们的研究还表明,多视角多评价是成功推理的关键学习策略。最后,可能的解释失败的连接主义模型的推广。我们希望这些结果将作为对人工智能超越感知和抽象推理能力的检验。源代码可以在https://github.com/QinglaiWeiCASIA/RavenSolver上找到。
2023-03-29 cs.AI cs.LG
IconQA: A New Benchmark for Abstract Diagram Understanding and Visual Language Reasoning
Sun Yat-sen University(中山大学);East China Normal University(华东师范大学);Columbia University(哥伦比亚大学)
当前的视觉问答任务主要考虑回答自然图像的人工标注问题。然而,除了自然图像之外,具有语义丰富性的抽象图在视觉理解和推理研究中仍然是不足的。在这项工作中,我们引入了一个新的挑战图标问答(IconQA)的目标是回答一个问题的图标图像的上下文中。我们发布了IconQA,这是一个大规模的数据集,包括107,439个问题和三个子任务:多图像选择,多文本选择和填空。IconQA数据集的灵感来自现实世界的图表文字问题,这些问题突出了抽象图表理解和全面认知推理的重要性。因此,IconQA不仅需要对象识别和文本理解等感知技能,还需要多种认知推理技能,如几何推理,常识推理和算术推理。为了方便潜在的IconQA模型学习图标图像的语义表示,我们进一步发布了一个图标数据集Icon 645,其中包含377个类的645,687个彩色图标。我们进行了广泛的用户研究和盲实验,并复制了广泛的先进的VQA方法,以基准测试IconQA任务。此外,我们开发了一个强大的IconQA基线Patch-TRM,它应用了一个金字塔跨模态Transformer,并在图标数据集上预先训练了输入图嵌入。IconQA和Icon 645可在https://iconqa.github.io上获得。
2022-07-25 cs.AI cs.CL cs.CV
Navigating Semantic Relations: Challenges for Language Models in Abstract Common-Sense Reasoning
University of Southern California(南加州大学)
该研究针对大语言模型抽象常识推理能力不足的问题,提出指令提示和少样本提示两种方法,基于ConceptNet的实验揭示了商用模型的性能差距与偏差,验证了选择性检索提示工程的优化潜力。
2025-02-19 cs.AI cs.CL
A2RBench: An Automatic Paradigm for Formally Verifiable Abstract Reasoning Benchmark Generation
Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education(教育部多媒体可信感知与高效计算重点实验室);Institute of Artificial Intelligence(人工智能研究院)
本文提出A2RBench自动范式,通过生成、扩展、评估和分析流程提升抽象推理基准生成效率,发现当前LLM在抽象推理能力上存在根本缺陷,且高信息复杂度输入可简化推理过程。
2026-05-17 cs.AI cs.LG
Human-Level Reasoning: A Comparative Study of Large Language Models on Logical and Abstract Reasoning
Universidade Federal de Santa Catarina(联邦圣卡塔琳娜大学)
本文通过八个定制推理问题比较了多个LLM在逻辑和抽象推理能力上的表现,揭示了模型在推理任务上的差异及不足。
2025-10-28 cs.AI
ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Qualcomm(高通)
本文通过黑盒攻击方法,首次系统研究了具备推理能力的视觉-语言-行动模型在自动驾驶中面对真实输入扰动时的脆弱性,发现其推理和轨迹生成均易受攻击,导致碰撞率上升。
2026-05-27 cs.CR cs.LG cs.RO
Probabilistic Abduction for Visual Abstract Reasoning via Learning Rules in Vector-symbolic Architectures
IBM Research – Zurich(IBM苏黎世研究院);ETH Zurich(苏黎世联邦理工学院)
本研究提出Learn-VRF方法,利用向量符号架构的分布式计算,仅需一次训练遍历即可学习瑞文渐进矩阵的规则公式,参数紧凑且可解释,在分布内与分布外任务上均优于纯连接主义基线。
2024-01-29 cs.AI cs.LG
Leveraging the Inductive Bias of Large Language Models for Abstract Textual Reasoning
Brigham Young University(杨百翰大学)
大型自然语言模型(如GPT-3或T5)在一系列一般NLP任务中表现出令人印象深刻的能力。在这里,我们表明,嵌入在这样的模型中的知识提供了一个有用的归纳偏见,不仅在传统的NLP任务,而且在训练符号推理引擎的非传统任务。我们观察到,这些引擎学习速度很快,并以反映人类直觉的自然方式进行概括。例如,训练这样一个系统来建模块堆叠可能会自然地推广到堆叠其他类型的对象,因为在现实世界中的结构,已经部分地被描述它的语言所捕获。我们研究了几个抽象的文本推理任务,如对象操作和导航,并展示了多种类型的泛化到新的场景和组成它们的符号。我们还展示了令人惊讶的实用程序的\textit{compositional learning},其中一个学习者致力于掌握一个复杂的任务获得的优势,通过训练相关的简单的任务,而不是直接跳到复杂的任务。
2021-10-05 cs.AI cs.CL
Large Language Model (LLM) as a System of Multiple Expert Agents: An Approach to solve the Abstraction and Reasoning Corpus (ARC) Challenge
National University of Singapore(新加坡国立大学)
本研究提出将LLM构建为多专家智能体系统,通过文本抽象空间转换、联想推导动作程序及迭代环境反馈解决ARC挑战,在111道训练题上达45%准确率,证明了该思路的可行性与拓展潜力。
2023-10-08 cs.AI cs.CL
Temporal Knowledge Question Answering via Abstract Reasoning Induction
Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
针对大语言模型时序知识推理能力不足的问题,提出将时序推理分为知识无关与知识相关阶段的ARI框架,结合建构主义引导模型主动从历史推理样本学习,在两个时序问答数据集上分别取得29.7%与9.27%的相对提升。
2024-05-17 cs.AI cs.CL
On Data Synthesis and Post-training for Visual Abstract Reasoning
Nanjing University(南京大学);Baidu VIS(百度视觉智能部)
本文提出创新的数据合成与后训练方法,使LLaVA-NeXT 7B模型在抽象视觉推理任务上显著超越GPT-4o等大模型,且保持通用多模态能力。
2025-04-02 cs.AI cs.CL cs.CV
Question Answering as Global Reasoning over Semantic Abstractions
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Pennsylvania(宾夕法尼亚大学);Allen Institute for Artificial Intelligence (AI2)(艾伦人工智能研究所(AI2))
我们提出了一种新的方法,利用文本的语义结构来回答多项选择题。该方法特别适用于需要对不同语言结构进行推理但训练数据有限的领域。为了解决这些挑战,我们提出了第一个系统,据我们所知,原因在广泛的语义抽象的文本,这是使用现成的,通用的,预先训练的自然语言模块,如语义角色标签,共指解析器和依赖解析器。代表多个抽象作为一个家庭的图形,我们翻译问答(QA)到一个最佳的子图,满足一定的全球和当地的属性搜索。该公式概括了几个先前的结构化QA系统。我们的系统SEMANTICILP同时在两个领域表现出强大的性能。特别是,在一系列具有挑战性的科学QA数据集上,它的表现优于各种最先进的方法,包括神经模型、广泛覆盖的信息检索和使用结构化知识库的专业技术,提高了2%-6%。
2019-06-09 cs.AI cs.CL
Symbolic Grounding Reveals Representational Bottlenecks in Abstract Visual Reasoning
Applied Artificial Intelligence Group, Tallinn University of Technology, Estonia(塔林技术大学应用人工智能小组,爱沙尼亚);Kimova AI, Tallinn, Estonia(Kimova AI,塔林,爱沙尼亚)
本文通过Bongard-LOGO基准测试,发现符号输入能显著提升抽象视觉推理性能,揭示了表征能力是核心瓶颈。
2026-04-23 cs.AI cs.CL cs.CV
Reasoning Abilities of Large Language Models: In-Depth Analysis on the Abstraction and Reasoning Corpus
GIST(光州科学技术院);Electrical Engineering and Computer Science, GIST(光州科学技术院电气工程与计算机科学系);AI Graduate School, GIST(光州科学技术院人工智能研究生院)
本文提出基于思维语言假说的过程导向评估方法,利用ARC基准分析LLMs在逻辑连贯性、组合性和生成性上的推理能力,发现其仍显著落后于人类水平,为发展人类级AI推理提供了新视角。
2024-11-23 cs.AI cs.CL cs.ET
AdaGuard: Enhancing Safety and Policy Compliance with Reasoning-Enabled LLM-As-A-Judge Guardrails
Capital One(第一资本)
AdaGuard提出一种自适应LLM作为评判框架,通过动态策略执行和推理预算分配,兼顾安全合规与低延迟,媲美更大模型。
2026-10-08 cs.AI
Multi-Granularity Modularized Network for Abstract Visual Reasoning
University of the Chinese Academy of Sciences(中国科学院大学);Huazhong University of Science and Technology(华中科技大学);National University of Singapore(新加坡国立大学)
抽象视觉推理将心理能力与物理世界联系起来,这是认知发展的关键因素。大多数蹒跚学步的孩子对这种技能表现出敏感,但对机器来说并不容易。针对这一点,我们专注于乌鸦进步矩阵测试,旨在衡量认知推理。最近的工作设计了一些黑盒来解决它在一个端到端的方式,但他们是令人难以置信的复杂和难以解释。受认知研究的启发,我们提出了一种多粒度模块化网络(MMoN),以弥合原始感官信息处理和符号推理之间的差距。具体地说,它学习模块化的推理功能,从视觉基础建模的语义规则的神经符号和半监督的方式。为了全面评估MMoN,我们的实验是在可见和不可见的推理规则数据集上进行的。实验结果表明,MMoN模型适用于抽象视觉推理,在泛化测试中也具有可解释性。
2020-07-10 cs.AI cs.CV
Beyond Task-Specific Reasoning: A Unified Conditional Generative Framework for Abstract Visual Reasoning
Shanghai Key Laboratory of Intelligent Information Processing, School of Computer Science, Fudan University(上海智能信息处理重点实验室,计算机科学学院,复旦大学)
本文提出统一条件生成求解器(UCGS),将多个抽象视觉推理任务转化为估计目标图像可预测性问题,通过单轮多任务训练一个条件生成模型即可解决多种任务,并具备零样本推理能力。
2025-07-15 cs.AI cs.CV
MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables
本文提出了基于历史寓言的基准 MORABLES,通过多项选择和对抗性变体评估 LLMs 的抽象道德推理能力,发现大模型虽表现更好但仍易受对抗操纵,且性能提升主要依赖规模而非推理能力。
2025-09-15 cs.AI cs.CL
Large Language Models Show Signs of Alignment with Human Neurocognition During Abstract Reasoning
本研究通过抽象图案补全任务对比了8个开源LLM与人类的神经表征,发现最大模型不仅准确率与人类相当,其中间层表征也与人类额叶脑电信号正相关,揭示了人工与生物智能在抽象推理上的共享机制。
2025-08-12 cs.AI cs.CL q-bio.NC
Measuring abstract reasoning in neural networks
DeepMind(深度思维)
神经网络是否能够学习抽象推理,或者它们是否仅仅依赖于表面的统计数据,这是最近争论的一个话题。在这里,我们提出了一个数据集和挑战,旨在探索抽象推理,灵感来自一个著名的人类智商测试。为了在这一挑战中取得成功,模型必须应对各种泛化“制度”,其中训练和测试数据以明确定义的方式不同。我们发现,像ResNets这样的流行模型表现不佳,即使训练集和测试集只有最小的差异,我们提出了一种新的架构,其结构旨在鼓励推理,这一点要好得多。当我们改变测试问题和训练数据不同的方式时,我们发现我们的模型在某些形式的概括方面非常精通,但在其他方面却非常薄弱。我们进一步表明,该模型的概括能力显着提高,如果它被训练来预测其答案的符号解释。总之,我们介绍和探索的方法来衡量和诱导更强的抽象推理的神经网络。我们免费提供的数据集应该会推动这方面的进一步进展。
2018-07-11 cs.LG stat.ML
LLMs and the Abstraction and Reasoning Corpus: Successes, Failures, and the Importance of Object-based Representations
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所);Scale AI Research(Scale AI研究)
本文系统分析了GPT在抽象和推理语料库(ARC)上的表现,发现其识别和推理对象的能力受文本序列性影响,提出基于对象的表示方法,使任务解决率近乎翻倍,显著提升了LLM在非语言领域的推理能力。
2024-02-14 cs.AI cs.CL
Untrained neural networks can demonstrate memorization-independent abstract reasoning
The Edmond and Lily Safra Center for Brain Sciences, The Hebrew University(希伯来大学埃德蒙与莉莉·萨夫拉脑科学中心);The Hebrew University(希伯来大学)
本研究探索了无需预先训练的人工神经网络能否通过利用问题数据优化权重来实现抽象推理,在视觉推理任务上表现良好且不依赖记忆,并揭示了问题求解与知识积累的联系。
2024-11-08 cs.AI cs.CV
Your Reasoning Benchmark May Not Test Reasoning: Revealing Perception Bottleneck in Abstract Reasoning Benchmarks
研究发现抽象推理基准中的性能差距主要源于视觉感知限制,而非推理能力不足,需设计分离感知与推理的评估方法。
2026-01-09 cs.CL
What Makes a Maze Look Like a Maze?
Stanford University(斯坦福大学);MIT(麻省理工学院)
本文提出 DSG 框架,通过大型语言模型提取抽象概念的依赖图 schema,并用视觉-语言模型分层落地到图像,从而显著提升视觉抽象推理能力。
2025-02-17 cs.AI cs.CL cs.CV
VisuRiddles: Fine-grained Perception is a Primary Bottleneck for Multimodal Large Language Models in Abstract Visual Reasoning
本文提出AVR基准VisuRiddles与自动合成框架PRS,通过细粒度感知描述监督中间推理,验证视觉感知是MLLMs抽象推理的主要瓶颈并显著提升性能。
2025-10-21 cs.AI cs.CV
ACCESS : A Benchmark for Abstract Causal Event Discovery and Reasoning
Monash University(莫纳什大学)
针对现有NLP事件因果识别方法在分布外场景的不足,提出抽象因果事件发现与推理基准ACCESS,从GLUCOSE提取1.4K抽象因果对,实验显示其可提升LLMs的问答推理性能,同时揭示相关任务的挑战。
2025-02-12 cs.AI
Toward an AI Reasoning-Enabled System for Patient-Clinical Trial Matching
University of Kentucky(肯塔基大学);Markey Cancer Center(马基癌症中心)
本文提出基于AI推理的患者-临床试验匹配系统,通过结构化评估和可解释推理链,提升匹配效率与安全性。
2025-12-08 cs.AI
Connecting the Dots: Evaluating Abstract Reasoning Capabilities of LLMs Using the New York Times Connections Word Game
Barnard College, Columbia University(哥伦比亚大学巴纳德学院);Stony Brook University(石溪大学)
本文使用438个《纽约时报》Connections游戏评估LLMs的抽象推理能力,发现表现最好的Claude 3.5 Sonnet仅解决18%的游戏且不及人类玩家,并构建知识类型分类法揭示了LLMs在百科知识等非语义推理上的不足。
2024-10-14 cs.AI cs.CL
Beyond Perception: Evaluating Abstract Visual Reasoning through Multi-Stage Task
The University of Melbourne(墨尔本大学);University of Sydney(悉尼大学)
针对多模态大语言模型在抽象视觉推理中多阶段过程评估缺失的问题,提出基于RAVEN的多阶段基准MultiStAR及考虑中间步骤正确性的新指标MSEval,实验表明模型在复杂规则检测阶段仍面临挑战。
2025-05-30 cs.AI cs.CV
A Reasoning-Enabled Vision-Language Foundation Model for Chest X-ray Interpretation
CheXOne模型通过生成诊断预测和临床依据的推理轨迹,提升胸部X光解读的可解释性与准确性,在多个评估任务中表现优异。
2026-04-01 cs.AI cs.CV cs.LG
Stratified Rule-Aware Network for Abstract Visual Reasoning
Beihang University(北京航空航天大学)
抽象推理是指分析信息,在无形的层面上发现规则,并以创新的方式解决问题的能力。Raven's Progressive Matrices(RPM)测验是一种用来测试抽象推理能力的测验。要求受试者从答案集中识别正确的选择,以填充RPM右下角的缺失面板(例如,3 $\times$ 3矩阵),遵循矩阵内的基本规则。最近的研究,利用卷积神经网络(CNN),取得了令人鼓舞的进展,完成RPM测试。然而,他们部分地忽略了RPM求解器的必要的归纳偏差,如每行/列内的顺序敏感性和增量规则归纳。为了解决这个问题,在本文中,我们提出了一个分层的规则感知网络(SRAN)生成的规则嵌入两个输入序列。我们的SRAN学习多粒度的规则嵌入在不同的水平,并通过门控融合模块逐步集成分层的嵌入流程。在嵌入的帮助下,应用规则相似性度量来保证SRAN不仅可以使用元组损失进行训练,而且可以有效地推断出最佳答案。本文进一步指出了目前流行的RPM测试数据集RAVEN存在的严重缺陷,这些缺陷阻碍了对抽象推理能力的公正评价。针对上述缺陷,本文提出了一种属性二分法(Attribute Bisection Tree,ABT)的答案集生成算法,形成了一种改进的答案集,即Impartial-RAVEN(简称I-RAVEN)。在PGM和I-RAVEN数据集上进行了大量的实验,结果表明我们的SRAN在相当大的程度上优于最先进的模型。
2022-06-07 cs.AI cs.CV cs.LG
Fast and flexible: Human program induction in abstract reasoning tasks
New York University(纽约大学)
抽象和推理语料库(ARC)是Chollet(2019)最近提出的一个具有挑战性的程序归纳数据集。在这里,我们报告了从人类解决ARC任务子集(1000个中的40个)的行为研究中收集的第一组结果。虽然这个任务子集包含相当大的变化,但我们的研究结果表明,人类能够推断出底层程序,并为新的测试输入示例生成正确的测试输出,每个参与者平均解决了80%的任务,并且65%的任务由超过80%的参与者解决。此外,我们发现有趣的模式的行为一致性和变化的动作序列在生成过程中,自然语言的描述,以描述每个任务的转换,以及人们犯的错误。我们的研究结果表明,人们可以快速可靠地确定任务的相关特征和属性,以组成正确的解决方案。未来的建模工作可以结合这些发现,可能通过连接我们在这里收集的自然语言描述的ARC的底层语义。
2021-03-10 cs.AI cs.HC cs.LG
$R^2$-Guard: Robust Reasoning Enabled LLM Guardrail via Knowledge-Enhanced Logical Reasoning
UIUC(伊利诺伊大学厄巴纳-香槟分校);Uchicago(芝加哥大学)
针对现有LLM护栏模型独立处理安全类别、易受攻击等局限,提出融合数据驱动类别学习与知识增强逻辑推理的$R^2$-Guard,构建新基准TwinSafety,在多基准和越狱攻击测试中性能显著优于SOTA方法。
2024-07-08 cs.AI
Advancing Generalization Across a Variety of Abstract Visual Reasoning Tasks
Warsaw University of Technology(华沙理工大学);AGH University of Krakow(AGH科技大学)
针对抽象视觉推理任务中分布外泛化难的问题,提出具备组卷积、归一化和并行设计的PoNG模型,在多个基准上展现出更强的泛化能力。
2025-05-19 cs.AI cs.CV cs.LG
Matching Object or Relation? Tracing Abstract Reasoning Inside VLMs
The University of Tokyo(东京大学);Google DeepMind(谷歌DeepMind)
本研究通过关系匹配到样本范式与机制分析,揭示VLM抽象推理由早期对象特征与晚期关系两个竞争回路实现,并发现能力层级、规模等四杠杆影响关系匹配。
2026-10-07 cs.AI
MARVEL: Multidimensional Abstraction and Reasoning through Visual Evaluation and Learning
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Tencent AI Lab(腾讯人工智能实验室);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
针对多模态大语言模型抽象视觉推理能力评估不足的问题,提出多维基准MARVEL,包含770个谜题及分层评估框架。实验表明模型表现接近随机且远逊于人类,其根本原因在于视觉感知与计数能力低下。
2024-04-24 cs.CV cs.LG
Impact of Noise on LLM-Models Performance in Abstraction and Reasoning Corpus (ARC) Tasks with Model Temperature Considerations
Enkefalos Technologies(恩凯法洛斯科技);MQube Cognition(MQube认知)
本研究系统评估了噪声和温度设置对GPT-4o、DeepSeek R1和LLaMA 3.2在ARC任务上性能的影响,发现噪声持续损害所有模型性能,揭示了当前LLM在抽象推理中对输入扰动的高度脆弱性,强调了开发更鲁棒AI系统的必要性。
2025-04-23 cs.AI
A Review of Emerging Research Directions in Abstract Visual Reasoning
Warsaw University of Technology(华沙理工大学)
抽象视觉推理(AVR)问题通常用于近似人类智能。他们测试在全新的环境中应用以前获得的知识,经验和技能的能力,这使得他们特别适合这项任务。最近,AVR问题已经成为流行的代理研究机器智能,这导致了新的不同类型的问题和多个基准集的出现。在这项工作中,我们回顾了这一新兴的AVR研究,并提出了一个分类法来分类AVR任务沿5个维度:输入形状,隐藏规则,目标任务,认知功能,和主要的挑战。在本次调查中采取的角度允许AVR的问题,其共享和独特的属性,提供了一个统一的观点,解决AVR任务的现有方法,显示如何AVR的问题与实际应用,并概述了未来工作的前景。其中之一是,在机器学习文献中,不同的任务被孤立地考虑,这与AVR任务被用来测量人类智力的方式形成鲜明对比,在AVR任务中,多种类型的问题被组合在一个智商测试中。
2022-03-07 cs.AI cs.CV cs.LG
A-I-RAVEN and I-RAVEN-Mesh: Two New Benchmarks for Abstract Visual Reasoning
Warsaw University of Technology(华沙理工大学);AGH University of Krakow(AGH克拉科夫大学)
针对抽象视觉推理领域的模型泛化与知识迁移评估需求,提出A-I-RAVEN与I-RAVEN-Mesh两个新基准,经13个主流模型测试揭示了现有方法的相关缺陷。
2025-05-16 cs.AI cs.CV cs.LG
Standardization of Psychiatric Diagnoses -- Role of Fine-tuned LLM Consortium and OpenAI-gpt-oss Reasoning LLM Enabled Decision Support System
Old Dominion University(旧 Dominion 大学);McDonald Army Health Center(麦克唐纳陆军医疗中心);Blanchfield Army Community Hospital(布兰奇菲尔德陆军社区医院)
针对精神科诊断主观性强、结果不一致的问题,本研究提出结合微调LLM联盟与OpenAI-gpt-oss推理LLM的决策支持系统,通过共识决策与智能体协调实现标准化诊断,为AI电子健康系统铺路。
2025-10-29 cs.AI
Investigating Video Reasoning Capability of Large Language Models with Tropes in Movies
National Taiwan University(台湾大学);Columbia University(哥伦比亚大学);MobileDrive Technology(魔驾科技)
本文提出电影叙事套路数据集TiM,用于评估大语言模型的抽象感知与长程组合推理能力,并通过FEVoRI和ConQueR增强视觉编程,显著提升性能但仍低于人类水平。
2024-06-16 cs.CL cs.CV cs.LG
ReGraP-LLaVA: Reasoning enabled Graph-based Personalized Large Language and Vision Assistant
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究所);School of Engineering, Westlake University(西湖大学工程学院);University of Minnesota – Twin Cities(明尼苏达大学双城分校);University of Toronto(多伦多大学)
针对现有个性化多模态大语言模型忽略概念关联的局限,本文构建ReGraP数据集与基准,提出ReGraP-LLaVA模型,实现个性化关系推理,在对比基准中性能最优。
2026-09-01 cs.AI cs.CV
Abstract Visual Reasoning: An Algebraic Approach for Solving Raven's Progressive Matrices
Singapore University of Technology and Design(新加坡科技设计大学);Nanyang Technological University(南洋理工大学);Singapore Polytechnic(新加坡理工学院)
我们介绍代数机器推理,一个新的推理框架,非常适合抽象推理。有效地,代数机器推理减少了新的问题解决常规代数计算的困难过程。基本的代数对象的兴趣是理想的一些适当的初始化多项式环。我们将解释如何解决乌鸦的渐进矩阵(RPM)可以实现为计算问题的代数,其中结合了各种著名的代数子程序,包括:计算格罗布纳基的理想,检查理想的包容性等至关重要的是,额外的代数结构满足理想允许更多的操作理想以外的集理论操作。我们的代数机器推理框架不仅能够从给定的答案集中选择正确的答案,而且还能够仅用给定的问题矩阵生成正确的答案。在I-RAVEN数据集上的实验产生了整体$93.2\%$准确度,其显著优于当前最先进的$77.0\%$准确度,并且在$84.4\%$准确度方面超过了人类表现。
2023-03-21 cs.AI cs.CV cs.SC
An Analysis of Architectural Impact on LLM-based Abstract Visual Reasoning: A Systematic Benchmark on RAVEN-FAIR
本研究在RAVEN-FAIR数据集上系统评估四种LLM模型(如GPT-4.1-Mini)结合四种推理架构的抽象视觉推理性能,发现模型对架构敏感且单次评估不可靠,提供了多运行基准结果。
2025-11-14 cs.AI
Exploring the Hidden Reasoning Process of Large Language Models by Misleading Them
Department of Automation, Tsinghua University(自动化系,清华大学);College of Computer and Cyber Security, Fujian Normal University(计算机与网络安全学院,福建师范大学)
本文通过误导性训练方法探索LLMs的隐藏推理过程,发现其具备在任务抽象前进行推理的内部机制。
2025-11-20 cs.LG