System 2 Reasoning Capabilities Are Nigh
Vector Institute(矢量研究所)
本文梳理机器学习类人推理相关研究现状,指出构建具备人类级System 2推理能力的神经模型仅需少量额外进展,相关能力已接近实现。
2024-10-29 cs.AI cs.LG
Unlocking Out-of-Distribution Generalization in Transformers via Recursive Latent Space Reasoning
Department of Statistics & Data Science, Yale University(统计与数据科学系,耶鲁大学)
本研究提出四种架构机制(输入自适应递归、算法监督、离散瓶颈锚定表示、显式纠错),在计算图模块化算术任务上显著提升Transformer的分布外泛化,并通过可解释性分析揭示其内在机理。
2025-10-15 cs.AI cs.LG
Layer Specialization Underlying Compositional Reasoning in Transformers
ENS, Université PSL, EHESS, CNRS(高等科学研究院、巴黎高等科学研究所、国家科学研究中心)
该研究利用 Random Hierarchy Model 分析 Transformer 的组合推理,揭示层特化随训练逐步形成,并与不同泛化条件下的性能相关。
2025-10-20 cs.AI cs.LG
Disentangling Recall and Reasoning in Transformer Models through Layer-wise Attention and Activation Analysis
研究通过可控数据集和激活分析,揭示Transformer模型中回忆与推理的分离电路,为模型泛化和安全部署提供依据。
2026-03-13 cs.AI cs.LG
Beyond the Known: Decision Making with Counterfactual Reasoning Decision Transformer
Applied AI Institute, Deakin University, Australia(应用人工智能研究所,德肯大学,澳大利亚);School of IT, Deakin University, Australia(信息学院,德肯大学,澳大利亚)
本文提出CRDT框架,通过生成和利用反事实经验增强DT在数据有限、动态变化及未见场景中的决策与轨迹拼接能力,并在Atari和D4RL上验证其优于传统DT。
2025-05-14 cs.AI cs.LG
The Kinetics of Reasoning: How Chain-of-Thought Shapes Learning in Transformers?
The University of Chicago(芝加哥大学);Amazon Web Services(亚马逊网络服务)
思想链(CoT)监督可以大大提高Transformer的性能,但模型学习遵循CoT并从中受益的机制仍然知之甚少。我们调查这些学习动态通过镜头grokking预训练Transformers器上的符号推理任务与可调的算法复杂性和可控的数据组成,以研究其泛化。模型在两种设置下进行训练:(i)仅产生最终答案,以及(ii)在回答之前发出明确的CoT轨迹。我们的研究结果表明,虽然CoT通常可以提高任务性能,但它的好处取决于任务的复杂性。为了量化这些影响,我们用三参数逻辑曲线对对数训练步骤的准确性进行了建模,揭示了学习速度和形状如何随任务复杂性、数据分布和CoT监督的存在而变化。我们还发现了一个短暂的跟踪不忠诚阶段:在训练的早期,模型通常会在跳过或反驳CoT步骤的同时产生正确的答案,然后再将其推理轨迹与答案对齐。从经验上讲,我们(1)证明CoT加速了泛化,但不能克服算法复杂度较高的任务,例如查找列表交集;(2)引入一个动力学建模框架来理解Transformer学习;(3)将跟踪忠实性描述为在训练过程中出现的动态属性;(4)显示CoT机械地改变了内部Transformer计算。
2025-10-28 cs.AI cs.LG
Invariant Learning Dynamics of Transformers in Inductive Reasoning Tasks
ETH Zurich(苏黎世联邦理工学院);Stanford(斯坦福大学)
该研究提出理论框架解释Transformer语言模型归纳推理能力,研究广义归纳任务,证明其训练动态可限制在低维不变流形,刻画数据统计对学习竞争的影响,探讨初始化作用并展示坐标框架用途,向Transformer学习预测理论迈进。
2026-07-15 cs.AI cs.LG
Enhancing Reasoning Capabilities of Small Language Models with Blueprints and Prompt Template Search
Microsoft(微软)
提出结合LLM生成蓝图与提示模板搜索的框架,在不训练、不扩模的情况下提升SLM在GSM8K、MBPP和BBH上的推理表现。
2025-06-10 cs.AI cs.LG
Attention as Binding: A Vector-Symbolic Perspective on Transformer Reasoning
Sahil Rajesh Dhayalkar(独立研究者)
本文提出将Transformer的注意力机制视为软向量符号计算,通过向量符号架构视角解释其推理行为,并提出改进架构和训练目标以提升逻辑可靠性和可解释性。
2025-12-08 cs.AI cs.LG
CircuitProbe: Predicting Reasoning Circuits in Transformers via Stability Zone Detection
Independent Researcher(独立研究员)
CircuitProbe通过激活统计预测Transformer中的推理电路,利用稳定性区和幅度区检测,提升推理效率,验证了其在多种模型上的有效性。
2026-04-01 cs.AI cs.LG
Loop, Think, & Generalize: Implicit Reasoning in Recurrent-Depth Transformers
The Ohio State University(俄亥俄州立大学)
本文研究了隐式推理能力,探讨了递归深度变换器在系统泛化和深度扩展中的作用,发现其能有效提升多跳推理能力,但过度递归会导致泛化能力下降。
2026-08-12 cs.AI cs.CL cs.LG
Principled Understanding of Generalization for Generative Transformer Models in Arithmetic Reasoning Tasks
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);ShanghaiTech University(上海科技大学);University of Hong Kong(香港大学);Fudan University(复旦大学)
本文提出统一理论框架,通过分析加法、乘法及模运算,揭示平移不变性与相对位置编码对长度泛化的作用,并经GPT系列实验验证,强调任务结构与数据分布的重要性。
2025-05-30 cs.AI cs.LG
Apriel-H1: Towards Efficient Enterprise Reasoning Models
SLAM Lab(SLAM实验室);ServiceNow
针对transformer推理吞吐量受限的问题,提出混合SSM与注意力机制的Apriel-H1模型,通过增量蒸馏和监督微调,在保持推理质量的同时实现超2倍的吞吐量提升。
2025-11-04 cs.AI cs.LG
Reasoning in Transformers -- Mitigating Spurious Correlations and Reasoning Shortcuts
University of Gothenburg(哥德堡大学);Chalmers University of Technology(查尔姆斯理工大学)
本文研究Transformer在命题逻辑推理中如何避免虚假相关导致的推理捷径,提出神经符号模型SIP-BART并验证其有效性,同时识别出四类新的推理错误。
2024-03-17 cs.CL cs.LG
ChessArena: A Chess Testbed for Evaluating Strategic Reasoning Capabilities of Large Language Models
State Key Laboratory of Novel Software Technology(新型软件技术国家重点实验室);Baidu(百度);University of Electronic Science and Technology of China(电子科技大学)
本文提出ChessArena测试平台,用于评估大语言模型的战略推理能力,测试了13个模型在800多局游戏中表现,发现无模型能击败业余水平的Maia-1100,但经过微调的Qwen3-8B模型表现显著提升。
2026-04-23 cs.AI cs.LG
Outcome-Based RL Provably Leads Transformers to Reason, but Only With the Right Data
Tel Aviv University(特拉维夫大学)
本文通过分析单层Transformer在合成图遍历任务上的策略梯度动力学,证明了基于结果的强化学习能够使Transformer自发学习出结构化的迭代推理算法,并揭示了训练数据中“简单示例”的分布对推理能力涌现的关键作用。
2026-11-09 cs.AI cs.LG
Decoupling Knowledge and Reasoning in Transformers: A Modular Architecture with Generalized Cross-Attention
Tsinghua University(清华大学);Ant Group(蚂蚁集团)
提出模块化 Transformer,通过带层特定变换的广义交叉注意力解耦知识与推理,并证明标准 FFN 是其特例。
2025-01-06 cs.AI cs.CL cs.LG
Unveiling the Mechanisms of Multi-Hop Reasoning in Transformers via Identity Bridge
School of Mathematical Sciences, Shanghai Jiao Tong University(上海交通大学数学科学学院);Institute of Natural Sciences, MOE-LSC, Shanghai Jiao Tong University(上海交通大学自然科学研究院);Shanghai Seres Information Technology Co., Ltd, Shanghai 200040, China(上海塞瑞斯信息技术有限公司)
研究大型语言模型多跳推理中两跳推理诅咒现象,引入身份桥进行最小监督,使单层Transformer能实现分布外两跳泛化,通过理论和实证分析揭示其机制及效果,并扩展到主流LLMs的实际设置。
2026-07-14 cs.AI cs.LG
A Mechanistic Analysis of a Transformer Trained on a Symbolic Multi-Step Reasoning Task
University of Mannheim(曼海姆大学);Heinrich-Heine University Düsseldorf(杜塞尔多夫海因里希·海涅大学);Georgia Institute of Technology(佐治亚理工学院)
本文通过机制性分析揭示在符号化多步推理任务上训练的Transformer采用深度有界的并行循环机制,并在特定token位置存储中间结果,为理解更复杂模型提供基础。
2024-06-30 cs.LG
Reinforcement Learning in hyperbolic space for multi-step reasoning
Texas Tech University Health Science Center(德克萨斯理工大学健康科学中心);The University of Texas Health Science Center at Houston(德克萨斯大学休斯顿健康科学中心);Society of Artificial Intelligence Research(人工智能研究学会)
本文提出将双曲Transformer融入强化学习的框架,利用双曲嵌入建模层次结构,在FrontierMath和非线性最优控制任务上显著提升准确率并降低计算时间。
2025-07-21 cs.AI cs.LG
Transfer learning with causal counterfactual reasoning in Decision Transformers
causaLens;King’s College London(伦敦国王学院)
适应环境突发事件变化的能力是强化学习中的一个重要挑战。事实上,将先前获得的知识转移到具有看不见的结构特性的环境中可以大大提高构建新的最优策略的灵活性和效率。在这项工作中,我们研究了环境动态变化下的迁移学习问题。在这项研究中,我们在离线强化学习设置中应用因果推理,将学习到的策略转移到新的环境中。具体来说,我们使用决策Transformer(DT)架构来提取新环境的新策略。DT通过在源环境的事实和反事实模拟上执行策略部署来收集数据。我们表明,这种机制可以引导一个成功的政策目标环境,同时保留大部分的奖励。
2021-10-27 cs.AI cs.LG stat.ML
Advancing Transformer's Capabilities in Commonsense Reasoning
University of California, Los Angeles(加州大学洛杉矶分校)
本研究通过引入知识迁移、模型集成和成对对比目标等现代机器学习方法,显著提升了通用预训练语言模型在常识推理基准(如Com2Sense)上的表现,分别获得约15%和8.7%的绝对准确率提升。
2023-10-10 cs.AI cs.CL cs.LG
RelViT: Concept-guided Vision Transformer for Visual Relational Reasoning
UCLA(加州大学洛杉矶分校);NVIDIA(英伟达);Northeastern University(东北大学);ASU(亚利桑那州立大学);UT Austin(德克萨斯大学奥斯汀分校);Caltech(加州理工学院)
关于视觉关系的推理是人类如何解释视觉世界的核心。该任务对于当前的深度学习算法仍然具有挑战性,因为它需要联合解决三个关键技术问题:1)识别对象实体及其属性,2)推断实体对之间的语义关系,以及3)推广到新的对象-关系组合,即,系统概括在这项工作中,我们使用视觉Transformer(ViTs)作为我们的视觉推理的基础模型,并更好地利用定义为对象实体及其关系的概念,以提高ViTs的推理能力。具体来说,我们引入了一种新的概念特征字典,允许灵活的图像特征检索在训练时的概念键。该词典实现了两个新的概念引导辅助任务:1)用于促进关系推理的全局任务,以及2)用于促进语义对象为中心的对应学习的局部任务。为了研究视觉推理模型的系统泛化,我们引入了标准的CHTO和GQA基准测试的系统分裂。我们展示了由此产生的模型,概念引导的视觉Transformer(或简称RelViT)显着优于先前的方法,分别为16%和13%,在原始的分裂和43%和18%,在系统的分裂。我们的消融分析还揭示了我们的模型与多种ViT变体的兼容性和对超参数的鲁棒性。
2022-06-11 cs.AI cs.CV cs.LG
Solving Reasoning Tasks with a Slot Transformer
Deepmind(深度思维)
将世界划分为有用的抽象概念,以便对时间和空间进行推理的能力是智能的重要组成部分。为了成功地感知和有效地使用感官采取行动,我们必须解析和压缩大量的信息,以便进行进一步的下游推理,从而使越来越复杂的概念出现。如果有任何希望扩展表示学习方法来处理真实世界的场景和时间动态,那么就必须有一种方法来学习准确,简洁和可组合的抽象。我们提出了插槽Transformer,一个架构,利用插槽的注意力,Transformers和迭代变分推理视频场景数据来推断这样的表示。我们评估的插槽Transformer CLEVRER,动力学600和CATER datesets和证明,该方法使我们能够开发强大的建模和推理周围的复杂行为,以及这些数据集的分数,比较有利的现有基线。最后,我们评估架构的关键组件的有效性,模型的代表性能力和预测能力,从不完整的输入。
2022-10-20 cs.LG
Neural Algorithmic Reasoning for Hypergraphs with Looped Transformers
Department of XXX, University of YYY, Location, Country(YYY大学XXX系);School of ZZZ, Institute of WWW, Location, Country(WWW研究所ZZZ学院)
本文提出基于循环变换器的超图神经算法推理方法,通过退化机制和超边感知编码方案模拟超图算法,展示其在高维数据处理中的可行性。
2026-01-24 cs.AI cs.CC cs.CL
Unveiling Transformers with LEGO: a synthetic reasoning task
Microsoft Research(微软研究院)
我们提出了一个综合推理任务,乐高(学习平等和组操作),封装的问题,以下的推理链,我们研究了如何学习这个任务的Transformer架构。我们特别关注数据效果,例如预训练(在看似无关的NLP任务上)和数据集组成(例如,在训练和测试时不同的链长度),以及架构变体,如权重绑定层或添加卷积组件。我们研究了经过训练的模型最终是如何成功完成任务的,特别是,我们设法了解了一些注意力头部以及信息在网络中的流动方式。特别是,我们已经确定了一个新的\emph{association}模式,全球只关注相同的令牌。基于这些观察,我们提出了一个假设,即由于某些结构化注意力模式,预训练有助于乐高任务,并且我们通过实验验证了这一假设。我们还观察到,在一些数据制度的训练Transformer找到“捷径”的解决方案,以遵循链的推理,这阻碍了模型的鲁棒性,此外,我们提出了方法来防止它。我们的结构化注意力模式的研究结果的动机,我们提出了乐高注意力模块,香草注意力头的下降,在替代品。这种架构上的改变显著地减少了Flop,并在大规模预训练中保持甚至\emph{improves}模型的性能。
2023-02-17 cs.AI cs.CL cs.LG
Multi-head Transformers Provably Learn Symbolic Multi-step Reasoning via Gradient Descent
Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学);The Ohio State University(俄亥俄州立大学);Yale University(耶鲁大学)
多头变压器通过梯度下降机制学习符号多步推理,证明其能有效解决复杂任务。
2025-12-07 cs.AI cs.IT cs.LG
Algorithmic Capabilities of Random Transformers
Massachusetts Institute of Technology(麻省理工学院)
该研究通过仅优化嵌入层的随机初始化Transformer实验,发现随机Transformer已具备模运算、联想回忆等多种算法能力,揭示Transformer的部分算法能力在训练前就已存在。
2024-10-06 cs.AI cs.CL cs.LG
Transformers Provably Learn Chain-of-Thought Reasoning with Length Generalization
University of Pennsylvania(宾夕法尼亚大学);Carnegie Mellon University(卡内基梅隆大学);Yale University(耶鲁大学)
本文从理论上证明Transformer通过注意力集中机制实现思维链推理的长度泛化,并首次给出常数深度Transformer可证明学习NC^1-完全问题的优化保证。
2025-11-10 cs.AI cs.LG math.OC
Enhancing Auto-regressive Chain-of-Thought through Loop-Aligned Reasoning
Peking University(北京大学);ByteDance Inc.(字节跳动公司)
针对自回归思维链生成长且正确轨迹的挑战,该研究提出RELAY方法,将思维链推理步骤与循环Transformer的迭代对齐并施加中间监督,提升其泛化性以生成超长推理链,进而微调自回归模型并显著提升其性能。
2025-02-12 cs.AI cs.CL cs.LG
Self-Verifying Reflection Helps Transformers with CoT Reasoning
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);King’s College London(伦敦国王学院);University College London(伦敦大学学院)
本文提出极简自验证反思框架,证明其能提升小型Transformer的思维链推理性能,在整数乘法和数独上达到LLM级表现,并揭示强化学习主要优化浅层模式而非减少验证错误。
2025-10-14 cs.LG
A Theoretical Understanding of Chain-of-Thought: Coherent Reasoning and Error-Aware Demonstration
Michigan State University(密歇根州立大学);Amazon(亚马逊公司)
本文从理论上证明连贯思维链(Coherent CoT)相比逐步上下文学习具有更好的纠错能力,并发现Transformer对中间推理步骤错误更敏感,据此提出在演示中同时纳入正确与错误推理路径的改进方法并实验验证其有效性。
2024-10-21 cs.AI cs.CL cs.LG
Enhancing Reasoning Capabilities of LLMs via Principled Synthetic Logic Corpus
Advanced AI Innovation Center, Hitachi(日立高级人工智能创新中心);The University of Sheffield(谢菲尔德大学)
针对LLM推理能力不足的问题,本文提出附加逻辑训练(ALT)方法,并基于符号逻辑理论构建了高质量多步演绎合成语料库FLD×2。实验表明,该方法显著提升了LLaMA-3.1-70B等先进模型在逻辑、数学、编程及BBH基准上的表现。
2024-12-23 cs.AI cs.LG cs.LO
Compositional Capabilities of Autoregressive Transformers: A Study on Synthetic, Interpretable Tasks
University of Pennsylvania(宾夕法尼亚大学);Harvard University(哈佛大学);University of Michigan(密歇根大学);MIT(麻省理工学院);NTT Research(NTT研究院)
本研究通过合成任务训练自回归Transformer,发现其能从小数据学习组合结构并泛化至指数级函数,且生成中间输出有助于新组合泛化,注意力层选择能力而前馈层执行。
2024-02-05 cs.LG
Disentangling Logic: The Role of Context in Large Language Model Reasoning Capabilities
Rutgers University(罗格斯大学);Microsoft(微软公司);University of Michigan(密歇根大学);The University of Liverpool(利物浦大学)
本研究通过对比抽象与上下文化逻辑问题,系统解耦纯逻辑推理与文本理解,探究LLMs在保持逻辑结构不变时的真正推理能力及微调泛化潜力,并构建了包含4个难度级别、12个领域的命题推理数据集。
2024-06-04 cs.AI cs.CL cs.LG
Grokking in the Wild: Data Augmentation for Real-World Multi-Hop Reasoning with Transformers
Technical University of Munich(慕尼黑工业大学)
本文首次将 grokking 扩展到真实世界多跳推理,通过合成数据增强知识图谱以提高推断事实与原子事实的比率 $ϕ_r$,使 Transformer 在 2WikiMultiHopQA 上达到 95-100% 准确率,并揭示了泛化回路的形成机制。
2025-05-07 cs.AI cs.CL cs.LG
Hypergraph Transformer: Weakly-supervised Multi-hop Reasoning for Knowledge-based Visual Question Answering
Seoul National University(首尔国立大学);Hanyang University(汉阳大学);AI Institute (AIIS), Seoul National University(首尔国立大学人工智能研究院(AIIS))
基于知识的视觉问答(QA)的目的是回答一个问题,这需要视觉基础的外部知识超越图像内容本身。在弱监督下对需要多跳推理的复杂问题进行推理被认为是一个具有挑战性的问题,因为i)没有对推理过程进行监督,ii)需要捕获多跳知识事实的高阶语义。在本文中,我们引入超图的概念来编码问题和知识库的高级语义,并学习它们之间的高阶关联。提出的模型Hypergraph Transformer构造了一个问题超图和一个查询感知知识超图,并通过编码超图之间的关联和超图本身的关联来推断答案。在两个基于知识的视觉问答和两个基于知识的文本问答上的实验证明了该方法的有效性,特别是对于多跳推理问题。我们的源代码可以在https://github.com/yujungheo/kbvqa-public上找到。
2022-04-22 cs.AI cs.CL cs.CV
Achieving and Understanding Out-of-Distribution Generalization in Systematic Reasoning in Small-Scale Transformers
Stanford University(斯坦福大学)
分布外泛化(OODG)是神经网络长期面临的挑战。这种挑战在具有明确定义的变量和规则的任务中非常明显,其中明确使用规则可以独立于变量的特定值来解决问题,但网络往往与其训练数据中采样的值范围相关联。基于transformer的大型语言模型已经突破了神经网络解决以前看不见的问题的能力,但是它们的复杂性和训练数据中相关内容的不清晰性模糊了它们如何实现这种鲁棒性。作为理解基于transformer的系统如何泛化的一步,我们探索了用已知分布的例子训练的小规模Transformers中的OODG问题。使用推理任务的基础上的难题数独,我们表明,OODG可以发生在一个复杂的问题,如果训练集包括从整个分布的简单组件任务的样本。成功的推广依赖于仔细管理位置对齐时,使用绝对位置编码,但我们发现,抑制绝对位置的敏感性克服了这一限制。总之,我们的研究结果代表了一小步,了解和促进系统化的Transformers。
2022-12-13 cs.LG
Lower Bounds for Chain-of-Thought Reasoning in Hard-Attention Transformers
Sharif University of Technology(沙里夫技术大学);Saarland University(萨尔兰大学)
本研究在硬注意力机制下系统探讨了不同算法问题中思维链步数的下界,提供了对数因子内紧致的界限,深化了对思维链推理能力与局限的理解。
2025-07-12 cs.CC cs.LG
Generating Symbolic Reasoning Problems with Transformer GANs
Saarland University(萨尔大学);Stanford University(斯坦福大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
该研究提出配备Transformer编码器的GAN与Wasserstein GAN,用于生成符号推理领域训练数据,可替代真实数据、适配小数据集,还能调整生成难度。
2023-05-05 cs.LG
OCR-Reasoning Benchmark: Unveiling the True Capabilities of MLLMs in Complex Text-Rich Image Reasoning
South China University of Technology(华南理工大学);Huawei Technologies Co., Ltd(华为技术有限公司)
提出OCR-Reasoning基准,包含1069个人工标注样本,覆盖6种核心推理能力和18个实际推理任务,通过双标注(最终答案和逐步推理过程)评估多模态大语言模型在文本丰富图像推理中的能力,发现最先进模型准确率均低于50%。
2026-05-26 cs.AI cs.CL cs.CV
Memory Mosaics
FAIR, Meta(FAIR(元公司));Carnegie Mellon University(卡内基梅隆大学);New York University(纽约大学)
记忆马赛克是一种由联想记忆组成的网络,通过透明方式实现组合与上下文学习,在中等规模语言建模中表现不逊于变压器。
2025-02-27 cs.AI cs.LG cs.NE
Bottlenecked Transformers: Periodic KV Cache Consolidation for Generalised Reasoning
University College London(伦敦大学学院);Huawei Noah’s Ark(华为诺亚方舟)
本文提出瓶颈化Transformer,通过周期性非因果的KV重写提升推理能力,基于信息瓶颈理论分析其有效性,并在数学推理任务中验证性能提升。
2026-03-25 cs.AI cs.IT cs.LG
ORCHARD: A Benchmark For Measuring Systematic Generalization of Multi-Hierarchical Reasoning
Nanyang Technological University(南洋理工大学)
对于自然语言处理来说,利用多层次结构进行推理的能力是顺序归纳偏差的一个有吸引力和令人期望的特性。最先进的Transformers和LSTM架构是否隐式地对这些偏差进行编码?为了回答这个问题,我们提出了ORCHARD,这是一个诊断数据集,用于系统地评估最先进的神经序列模型中的分层推理。虽然已经有了先前的评估框架,如ListOps或逻辑推理,但我们的工作提出了一种新颖且更自然的设置,在这种设置中,我们的模型学习使用多个显式层次结构进行推理,而不是只有一个,即,需要同时进行长期序列记忆、关系推理和层次结构推理的能力。因此,在一系列严格实验的支持下,我们发现(1)Transformer和LSTM模型在系统泛化方面令人惊讶地失败了,(2)随着层次结构之间引用的增加,Transformer的性能并不比随机更好。
2021-11-28 cs.AI cs.CL cs.LG
Transformer See, Transformer Do: Copying as an Intermediate Step in Learning Analogical Reasoning
University of Amsterdam(阿姆斯特丹大学)
本文研究了通过Meta-Learning for Compositionality训练的Transformer在类比推理任务中的表现,发现引入复制任务可提升模型对字母字符串类比的学习能力,并通过异质数据集训练提高了对新字母集的泛化能力。
2026-08-21 cs.CL cs.LG
Language Models are Hidden Reasoners: Unlocking Latent Reasoning Capabilities via Self-Rewarding
Salesforce AI Research(Salesforce AI研究院)
本文提出LaTRO框架,将推理建模为潜在分布采样并通过变分方法优化,使LLM无需外部反馈即可自我改进推理过程与评估能力,在多个模型和数据集上显著提升零样本推理准确率。
2024-11-21 cs.AI cs.CL cs.LG
Reasoning with Latent Thoughts: On the Power of Looped Transformers
Google Research(谷歌研究院);Toyota Technological Institute at Chicago(芝加哥丰田理工学院)
本研究证明循环Transformer能以较少参数实现深层推理,在合成与语言建模任务上媲美深层模型,并揭示其与思维链推理的联系,提出有效正则化方法。
2025-02-24 cs.AI cs.CL cs.LG
Compositional Reasoning with Transformers, RNNs, and Chain of Thought
Courant Institute of Mathematical Sciences(Courant数学科学研究所);New York University(纽约大学);Center for Data Science(数据科学中心);Center for Computational Mathematics(计算数学中心);Flatiron Institute(Flatiron研究所)
本文研究了变换器、RNN和思维链架构在解决组合推理问题上的表现,证明了不同架构在处理此类问题时各有优劣,无一严格优于其他。
2026-01-28 cs.AI cs.CL cs.LG
Perception-R1: Advancing Multimodal Reasoning Capabilities of MLLMs via Visual Perception Reward
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室);iFLYTEK AI Research(iFLYTEK人工智能研究院);Hong Kong University of Science and Technology(香港科学与技术大学)
Perception-R1通过引入视觉感知奖励提升多模态大语言模型的多模态推理能力
2026-03-03 cs.AI cs.CV cs.LG
Relational Reasoning via Set Transformers: Provable Efficiency and Applications to MARL
National University of Singapore(新加坡国立大学);Northwestern University(西北大学);Yale University(耶鲁大学)
基于置换不变智能体框架的协作多智能体自主学习(MARL)在实际应用中取得了巨大的成功。不幸的是,这个MARL问题的理论理解是缺乏的,由于许多代理人的诅咒和有限的探索关系推理在现有的作品。在本文中,我们验证了Transformer实现了复杂的关系推理,我们提出并分析了无模型和基于模型的离线MARL算法与Transformer逼近。我们证明了无模型和基于模型的算法的次优差距是独立的和对数的代理的数量分别,这减轻了许多代理的诅咒。这些结果是一种新的泛化误差界的Transformer和一种新的分析的最大似然估计(MLE)的系统动态与Transformer的后果。我们的基于模型的算法是第一个证明有效的MARL算法,明确利用置换不变性的代理。我们改进的泛化界可能是独立的利益,并适用于其他回归问题有关的Transformer超越MARL。
2022-10-16 cs.LG cs.MA stat.ML
Are Transformers Able to Reason by Connecting Separated Knowledge in Training Data?
Northwestern University(西北大学)
本文引入FTCT任务验证Transformers连接分离知识进行组合推理的能力,发现少样本思维链提示能促使其推断完整因果图轨迹,且该能力与模型复杂度和训练-测试数据相似度高度相关。
2025-10-11 cs.AI cs.CL cs.LG
Analyzing the Power of Chain of Thought through Memorization Capabilities
Institute of AI for Industries(人工智能产业研究院);State Key Laboratory of Mathematical Sciences(数学科学国家重点实验室);Academy of Mathematics and Systems Science(数学与系统科学学院);University of Chinese Academy of Sciences(中国科学院大学);Key Laboratory of System Software of Chinese Academy of Sciences(中国科学院系统软件重点实验室)
本文通过记忆能力视角分析思维链(CoT),证明带有或不带CoT的固定精度transformers记忆有限推理数据集的参数量上下界均为$overlineΘ(N)$,得出CoT并不能在所有推理任务上增强transformers推理能力的结论。
2025-11-03 cs.LG stat.ML
Does Entity Abstraction Help Generative Transformers Reason?
Quebec Artificial Intelligence Institute (Mila)(魁北克人工智能研究所(Mila));Polytechnique Montreal(蒙特利尔理工学院);ServiceNow Research(ServiceNow研究院);McGill University(麦吉尔大学)
我们研究了将实体类型抽象纳入预先训练的Transformers的实用性,并在四个需要不同形式逻辑推理的NLP任务上测试这些方法:(1)基于文本的关系推理(CLUTRR)的组合语言理解,(2)溯因推理(ProofWriter),(3)多跳问答(HotpotQA),以及(4)会话问答(CoQA)。我们提出并经验性地探索了三种添加这种抽象的方法:(i)作为额外的输入嵌入,(ii)作为单独的编码序列,以及(iii)作为模型的辅助预测任务。总体而言,我们的分析表明,模型与抽象实体知识的表现优于没有它。最好的抽象感知模型实现了88.8%和91.8%的整体准确率相比,基线模型实现62.9%和89.8%的CLUTRR和ProofWriter分别。然而,对于HotpotQA和CoQA,我们发现F1分数平均只提高了0.5%。我们的研究结果表明,显式抽象的好处是显着的,在正式定义的逻辑推理设置需要许多推理跳,但点的概念,它是不太有益的NLP任务具有不太正式的逻辑结构。
2022-11-21 cs.AI cs.CL cs.LG
On the Reasoning Abilities of Masked Diffusion Language Models
ETH Zürich(苏黎世联邦理工学院);Allen Institute for AI(人工智能研究所)
本文研究了掩码扩散模型在推理任务中的能力,通过与链式思维和填充循环变压器框架对比,证明了其在有限精度对数宽度下与多项式填充PLTs等效,并展示了其在解决特定问题时的高效性。
2026-04-26 cs.AI cs.CL cs.LG