Synergy-of-Thoughts: Eliciting Efficient Reasoning in Hybrid Language Models
Tsinghua University（清华大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
受双过程理论启发，本文提出SoT框架，利用小模型生成直觉思维并交叉评估，冲突时调用大模型反思纠正，在保证准确率与多样性的同时大幅降低API成本。
2024-08-24 cs.AI cs.CL cs.LG
Interpretable by AI Mother Tongue: Native Symbolic Reasoning in Neural Models
PARRAWA AI
该框架让神经模型发展出原生符号语言AI母语，通过嵌入推理、门控归纳和顺序训练，实现透明推理，在AI任务上兼顾准确性与可验证性。
2025-08-26 cs.AI cs.CL cs.LG
A Tutorial on LLM Reasoning: Relevant Methods behind ChatGPT o1
UCL Centre for Artificial Intelligence（伦敦大学学院人工智能中心）
本文围绕OpenAI o1所体现的LLM慢思考推理范式，形式化推理问题并梳理强化学习在训练与解码中的作用，探讨基于模型和无模型方法。
2025-02-15 cs.AI cs.CL
Chain of Images for Intuitively Reasoning
Peking University（北京大学）；BIGAI（北京通用人工智能研究院）
提出图像链（CoI）方法，通过生成一系列图像作为中间表示，将复杂语言推理转化为模式识别，并构建涵盖15个领域的评估数据集，实验显示CoI显著优于纯语言思维链基线。
2023-11-09 cs.AI cs.CV cs.LG
Automatic Question Generation for Intuitive Learning Utilizing Causal Graph Guided Chain of Thought Reasoning
Stellar Learning Technologies（Stellar学习技术公司）；Northwestern University（西北大学）
本文提出利用因果图引导的推理链和多智能体架构，生成准确且符合课程要求的问题，以提高直观学习的效果。
2026-01-02 cs.AI
Deliberate Practice: Learning Robot Skills under a Budget
研究有限预算下机器人序列任务技能学习问题，提出刻意练习算法，通过双线性规划计算预算最优分配，经仿真与真实实验验证可提升机器人长程规划能力。
2026-08-14 cs.AI cs.RO
IntPhys: A Framework and Benchmark for Visual Intuitive Physics Reasoning
Ecole Normale Supérieur（巴黎高等师范学院）；INRIA（法国国家信息与自动化研究所）；Facebook AI Research（Facebook人工智能研究院）；CNRS/Université Paris Descartes（法国国家科学研究中心/巴黎笛卡尔大学）；CoML（认知与机器学习中心（CoML））；ENS/CNRS/EHESS/INRIA/PSL Research University（巴黎高等师范学院/法国国家科学研究中心/巴黎高等社会科学研究院/法国国家信息与自动化研究所/巴黎文理研究大学）
为了在复杂的视觉任务中达到人类的表现，人工系统需要结合对宏观物体、运动、力等方面的世界的大量理解。我们提出了一个评估基准，它通过测试一个给定的系统是否能区分出用一个游戏引擎该测试要求系统计算整个视频的物理可扩展性。它没有偏见，可以测试一系列基本的物理推理概念。然后，我们描述了两个深度神经网络系统，旨在以无监督的方式学习直观的物理学，只使用物理上可能的视频。该系统用未来语义掩码预测目标进行训练，并在可能与不可能的区分任务上进行测试。与人类数据相比，对他们的结果的分析为下一帧预测架构的潜力和局限性提供了新的见解。
2020-02-11 cs.AI cs.CV
Tree of Thoughts: Deliberate Problem Solving with Large Language Models
Princeton University（普林斯顿大学）；Google DeepMind（谷歌DeepMind）
本文提出思维树（ToT）框架，通过多路径探索、自我评估、前瞻与回溯，使语言模型实现深思熟虑的决策，并在 24 点游戏等任务上显著超越思维链提示。
2023-12-03 cs.AI cs.CL cs.LG
IMBench: A Benchmark for Intuitive Robotic Manipulation
IMBench旨在评估直观机器人操作这一综合能力，其任务含物理结构推断与动作序列生成。通过35个任务等进行实验，发现视觉语言模型和视觉 - 语言 - 动作模型的不足，为评估和发展物理智能提供基准。
2026-07-20 cs.AI cs.RO
GIFARC: Synthetic Dataset for Leveraging Human-Intuitive Analogies to Elevate AI Reasoning
GIST（光州科学技术院）
针对ARC任务中AI推理能力不足的问题，提出GIFARC合成数据集，利用LLM和VLM从GIF图像生成嵌入人类直觉类比的ARC任务，引导模型先类比后搜索，提升推理效率并接近人类水平。
2025-05-27 cs.AI
Humanity's Sixth Sense: Benchmarking Intuitive Visual Reasoning in Multimodal Models
ScaleAI；Elorian；University of California, Santa Cruz（加州大学圣克鲁兹分校）
提出HSS基准，测试多模态模型在图像和视频中的直觉视觉推理能力，发现前沿模型远逊于人类（93.1% vs 53.6%），即使智能体操作也未能完全弥合差距。
2026-10-09 cs.AI cs.MM
Think Clearly: Improving Reasoning via Redundant Token Pruning
KAIST（韩国科学技术院）；Korea University（韩国大学）；Amazon AGI（亚马逊人工智能实验室）
本文提出一种无需训练的冗余Token剪枝方法，通过测量对特殊思考结束Token的注意力分数识别并移除推理路径中的冗余，显著提升了大型语言模型在AIME等推理密集型基准上的准确率。
2025-06-17 cs.AI cs.CL cs.LG
Ineq-Comp: Benchmarking Human-Intuitive Compositional Reasoning in Automated Theorem Proving on Inequalities
Princeton Language and Intelligence（普林斯顿语言与智能）；Princeton University（普林斯顿大学）；Peking University（北京大学）；Tsinghua University（清华大学）；Amazon（亚马逊）
本文提出 Ineq-Comp 不等式组合推理基准，通过变量复制、代数重写和多步组合测试 LLM 证明器，发现主流模型即使获得子证明仍存在显著组合推理缺陷。
2025-10-20 cs.AI cs.CL cs.LG
AGENT: A Benchmark for Core Psychological Reasoning
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；Harvard University（哈佛大学）
为了让机器智能体在现实世界中成功地与人类互动，它们需要了解人类的精神生活。直觉心理学，即对驱动可观察行为的隐藏心理变量进行推理的能力，对人们来说是天生的：即使是语言前的婴儿也能区分物体和主体，期望主体在给定约束条件下有效地行动以实现目标。尽管最近人们对机器智能体对其他智能体的推理感兴趣，但尚不清楚这些智能体是否学习或掌握了驱动人类推理的核心心理学原理。受直觉心理学认知发展研究的启发，我们提出了一个由程序生成的3D动画，代理（行动，目标，效率，约束，uTility），围绕四个场景（目标偏好，行动效率，未观察到的约束和成本-回报权衡），探测核心直觉心理学的关键概念的大型数据集组成的基准。我们验证代理人的评级，提出了一个评估协议，强调泛化，并比较两个强大的基线建立在贝叶斯逆规划和心理理论神经网络。我们的研究结果表明，要在人类水平上通过核心直觉心理学的设计测试，模型必须获得或具有代理计划的内置表示，结合效用计算和对象和物理的核心知识。
2021-07-26 cs.AI cs.CV cs.LG
Defeasible Reasoning with Knowledge Graphs
W3C/ERCIM
本文提出一种面向不完美知识的可废止推理表示法与模型，将其与论证理论关联，并探讨了声明式推理策略语法及大语言模型时代符号化方法的前景。
2023-09-22 cs.AI
From Heuristic to Analytic: Cognitively Motivated Strategies for Coherent Physical Commonsense Reasoning
University of Michigan（密歇根大学）；LG AI Research（LG AI研究院）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文提出启发式-分析式推理（HAR）策略，将认知心理学中的双重过程融入预训练语言模型的微调与上下文学习，显著提升了物理常识推理的连贯性，并在TRIP基准上取得最优结果。
2023-10-24 cs.AI cs.CL
From System 1 to System 2: A Survey of Reasoning Large Language Models
本综述探讨了从基础LLMs的快速决策向System 2慢推理的演进，分析了OpenAI o1/o3和DeepSeek R1等推理LLMs的构建方法、核心技术与基准表现，并展望了未来发展方向。
2025-06-25 cs.AI
Reasoning, Metareasoning, and Mathematical Truth: Studies of Theorem Proving under Limited Resources
Microsoft Research（微软研究院）；Center for the Study of Language and Information（语言与信息研究中心）；Stanford University（斯坦福大学）
在早期的工作中，我们引入了灵活推理和决策理论元推理来解决规范推理的棘手问题。在这里，而不是追求的任务，计算信念和行动的决策模型组成的区别不确定的事件，我们研究的方法推断信念的数学真理之前，自动定理证明完成证明。我们采用贝叶斯分析来更新对真理的信念，给出了定理证明的进展，并展示了如何使用决策理论方法来确定在时间紧迫的情况下继续审议与立即采取行动的价值。
2013-02-20 cs.AI
Solving Physics Puzzles by Reasoning about Paths
Bielefeld University（比勒费尔德大学）；Indian Institute of Information Technology（印度信息技术学院）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Nvidia（英伟达）
我们提出了一个新的深度学习模型，用于目标驱动的任务，这些任务需要直观的物理推理和场景干预来实现预期的最终目标。其模块化结构的动机是假设人类在尝试解决此类任务时应用的一系列直观步骤。该模型首先预测目标对象在没有干预的情况下将遵循的路径，以及目标对象为了解决任务而应该遵循的路径。接下来，它预测动作对象的期望路径并生成动作对象的放置。模型的所有组件都以监督的方式联合训练;每个组件都接收自己的学习信号，但学习信号也通过整个架构反向传播。为了评估模型，我们使用PHYRE -一个基准测试的目标驱动的物理推理在2D力学难题。
2020-11-14 cs.AI cs.LG cs.RO
Large Language Models Fail on Trivial Alterations to Theory-of-Mind Tasks
Harvard University（哈佛大学）
直觉心理学是常识推理的支柱。在机器智能中复制这种推理是通往类人人工智能的重要垫脚石。最近的几个任务和基准检查这种推理在大-大模型特别集中在信念归因理论的心灵任务。这些任务有成功也有失败。我们认为，特别是最近声称的成功案例，并表明，小的变化，保持理论的原则，把他们的头上的结果。我们认为，在一般情况下，零假设模型评估直觉心理学应该是持怀疑态度的，外围的失败案例应该超过平均成功率。我们还考虑了更强大的LLM在心理理论任务上未来可能取得的成功对人们的心理理论任务意味着什么。
2023-03-14 cs.AI cs.CL
SLOW: Strategic Logical-inference Open Workspace for Cognitive Adaptation in AI Tutoring
Shanghai Institute of Artificial Intelligence for Education（上海人工智能教育研究院）
SLOW框架通过透明决策工作区实现学习者状态推理与教学决策分离，提升个性化、情感敏感性和清晰度。
2026-03-30 cs.AI
David Poole's Specificity Revised
Hochschule Harz（哈尔茨应用科学大学）
在20世纪80年代中期，David Poole向人工智能界引入了一个语义学的模型理论的特异性概念。从那时起，它在非单调推理中得到了进一步的应用，特别是在可废止推理中。普尔试图接近人类直觉的特异性概念，这似乎是必不可少的推理在日常生活中与其部分和不一致的信息。他的概念，然而，原来是复杂和有问题的，这-正如我们所示-可以克服在某种程度上由一个更接近人类的直觉概念的特异性。除了直观的优势，我们的新的特异性订购普尔的特异性关系在经典的例子中的文献，我们还报告了一些硬的数学事实：与之前声称的相反，我们表明，普尔的关系是不传递的。目前的方法来确定我们的新的特异性关系，然而，显示只有一个轻微的改进，比已知的Poole的关系，在这方面还需要进一步的工作。
2013-11-24 cs.AI
System-2 Mathematical Reasoning via Enriched Instruction Tuning
Tencent（腾讯）；University of Technology Sydney（悉尼科技大学）
针对LLMs多步数学推理数据稀缺问题，提出EIT方法，通过ERP和ERS结合人类与AI反馈生成细粒度推理轨迹微调模型，无需符号验证即在GSM8K和MATH上超越现有方法。
2024-12-24 cs.AI cs.CL
Hallucination-Free Automatic Question & Answer Generation for Intuitive Learning
Stellar Learning Technologies（Stellar学习技术公司）；Northwestern University（西北大学）
本文提出无幻觉的多代理生成框架，通过结构化协作减少教育内容中的幻觉，提升问答生成的准确性与教育价值。
2026-01-13 cs.AI cs.CL
Logical Reasoning with Outcome Reward Models for Test-Time Scaling
Department of Data Science & AI, Monash University（数据科学与人工智能系，莫纳什大学）；College of Engineering and Computer Science, VinUniversity（工程与计算机科学学院，文大学）
本文提出用于演绎逻辑推理的结果奖励模型，并通过回声生成技术扩展训练数据中的错误类型，在FOLIO、JustLogic和ProverQA数据集上提升了多个LLMs的推理性能。
2025-08-27 cs.AI cs.CL
PRIME: Planning and Retrieval-Integrated Memory for Enhanced Reasoning
Center for Healthcare Organization and Implementation Research, VA Bedford Health Care（VA Bedford Health Care 医疗组织与实施研究中心）；Manning College of Information and Computer Sciences, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校信息与计算机科学学院）；Miner School of Computer and Information Sciences, University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校 Miner 信息与计算机科学学院）
受人类认知双过程理论启发，提出多智能体推理框架PRIME，动态整合系统1快速思考与系统2结构化推理（含规划、检索等专用智能体），提升开源LLM在多跳推理任务中的性能，可与顶尖闭源模型竞争。
2025-11-11 cs.AI cs.CL
Neural Reasoning About Agents' Goals, Preferences, and Actions
University of Stuttgart（斯图加特大学）
本研究提出融合图神经网络与transformer的IRENE模型，用于智能体直觉心理推理，在Baby Intuitions Benchmark的三项任务上达SOTA，最高提升48.9%，并验证了其泛化能力。
2023-12-12 cs.AI
Step Guided Reasoning: Improving Mathematical Reasoning using Guidance Generation and Step Reasoning
Huawei Technologies Co., Ltd.（华为技术有限公司）；Shanghai Jiaotong University（上海交通大学）
本文提出免训练的Step Guided Reasoning框架，通过在推理阶段引入逐步反思引导机制，使通用大语言模型无需额外训练即可显著提升数学推理性能，并在多个模型上验证了其优于数学专用模型的效果。
2025-09-21 cs.AI cs.CL cs.HC
NYT-Connections: A Deceptively Simple Text Classification Task that Stumps System-1 Thinkers
Universidad Autónoma de San Luis Potosí（圣路易斯波托西自治大学）；Brock University（布鲁克大学）
本文提出NYT-Connections基准，通过358个单词分类谜题评估LLM推理，发现即使GPT-4也比人类低近30%，且高级提示技术收益递减，为测试系统1思维缺陷提供新工具。
2025-02-25 cs.AI cs.CL
A simulation-heuristics dual-process model for intuitive physics
Institute for Artificial Intelligence, Peking University（人工智能研究院，北京大学）；State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI）；School of Psychological and Cognitive Sciences and Beijing Key Laboratory of Behavior and Mental Health, Peking University（心理学与认知科学学院及北京行为与心理健康重点实验室，北京大学）
该研究通过倒弹珠任务发现人类直觉物理推理存在心理模拟与启发式两种模式并依模拟成本切换，提出Simulation-Heuristics Model (SHM)双过程框架，更精准匹配人类行为，深化了对直觉物理推理适应性的认识。
2025-05-19 cs.AI physics.ed-ph
Exploring Generalization Ability of Pretrained Language Models on Arithmetic and Logical Reasoning
Zhejiang University（浙江大学）；Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；Johns Hopkins University（约翰斯·霍普金斯大学）；Imperial College London（帝国理工学院）
为了定量和直观地探索预训练语言模型（PLM）的泛化能力，我们设计了几个算术和逻辑推理任务。我们都分析了当测试数据与训练数据处于相同分布时PLM的泛化能力如何，以及当测试数据与训练数据处于不同分布时PLM的泛化能力如何，对于后者的分析，我们还设计了一个交叉分布测试集而不是分布内测试集。我们进行了实验，最先进的和公开发布的生成PLM之一-BART。我们的研究发现，PLM可以很容易地概括时，分布是相同的，但是，它仍然是很难为他们概括出的分布。
2021-10-19 cs.AI cs.CL
HDFlow: Enhancing LLM Complex Problem-Solving with Hybrid Thinking and Dynamic Workflows
Tencent AI Lab（腾讯AI实验室）
针对LLM复杂推理受限的问题，提出HDFlow框架，通过动态工作流分解任务并结合快慢混合思维，显著提升了模型的复杂问题求解能力与计算效率。
2024-09-25 cs.AI cs.CL
Representation-Based Exploration for Language Models: From Test-Time to Post-Training
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）
研究语言模型中强化学习探索新行为的价值，提出基于预训练模型隐藏状态的表示奖励探索方法，在推理时和训练后都显著提升了模型性能，如验证效率和测试时样本效率，为发现新行为提供实用途径。
2026-07-16 cs.AI cs.LG
OThink-R1: Intrinsic Fast/Slow Thinking Mode Switching for Over-Reasoning Mitigation
Zhejiang University（浙江大学）；OPPO Research Institute（OPPO研究院）
OThink-R1通过整合快速和缓慢思考模式，实现自动模式切换，从而在减少token使用的同时保持高准确性。
2026-01-06 cs.AI
Beyond Static Vision: Scene Dynamic Field Unlocks Intuitive Physics Understanding in Multi-modal Large Language Models
Shanghai Jiao Tong University（上海交通大学）；Tianjin University（天津大学）；Shanghai Innovation Institute（上海创新研究院）
研究探讨多模态大语言模型在物理理解上的不足，提出Scene Dynamic Field方法提升对连续物体动态的理解能力，实现20.7%的改进并展现良好的泛化能力。
2026-03-30 cs.AI cs.CV
DeepTool: Scaling Interleaved Deliberation in Tool-Integrated Reasoning via Process-Supervised Reinforcement Learning
Research Center for Social Computing（社会计算研究中心）；Interactive Robotics, Harbin Institute of Technology, China（交互机器人，哈尔滨工业大学，中国）
针对工具集成推理中缺乏逐步监督和自纠正能力的问题，提出DeepTool框架，通过合成交错轨迹和基于动作中心过程奖励的GRPO强化学习，显著提升模型在多个基准上的性能。
2026-05-28 cs.AI
HiRO-Nav: Hybrid ReasOning Enables Efficient Embodied Navigation
Nanyang Technological University（南洋理工大学）；Tencent（腾讯）；Independent Researcher（独立研究员）
HiRO-Nav通过混合推理策略，在导航任务中根据动作熵动态决定是否进行推理，提升决策质量并降低计算开销。
2026-04-09 cs.AI
