Modular Cognitive Architecture Emerges in Large Language Models
该研究探究大型语言模型是否会出现类似人类大脑的模块化认知架构，经对4个认知领域46项任务的回路分析，发现其会形成相似模块化架构，表明模块化可能是智能系统的基本属性。
2026-08-17 cs.AI cs.CL cs.LG
X-InstructBLIP: A Framework for aligning X-Modal instruction-aware representations to LLMs and Emergent Cross-modal Reasoning
University of Pennsylvania（宾夕法尼亚大学）；Salesforce AI Research（Salesforce人工智能研究院）
本文提出X-InstructBLIP框架，将图像、3D、音频、视频对齐到冻结LLM，比较Q-Former与线性投影，并构建指令数据及DisCRn跨模态推理基准。
2024-09-09 cs.CL cs.CV
MortalMATH: Evaluating the Conflict Between Reasoning Objectives and Emergency Contexts
Univ. Lille（里尔大学）；Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189 - CRIStAL（里尔大学）
MortalMATH研究了推理模型在紧急情境下的表现差异，发现通用模型能拒绝危险任务，而专门模型则忽视危险，导致安全风险。
2026-01-26 cs.CL
Multi-Step Reasoning in Korean and the Emergent Mirage
OneLineAI；Yonsei University（延世大学）；MODULABS
本文提出韩语多步常识推理基准 HRMCR，发现模型性能在特定训练计算量阈值附近急剧提升，但逐步分析表明这种“涌现”可能只是多步错误累积造成的假象。
2025-03-12 cs.CL
Constrained Reasoning Chains for Enhancing Theory-of-Mind in Large Language Models
HKUST（香港科技大学）；Amazon（亚马逊）
提出零样本提示方法CCoToM，利用领域知识和ToM维度间因果关系，通过构建显式推理链并施加约束，提升LLMs在复杂及非叙事场景下的心智理论推理能力，大幅超越现有方法。
2024-09-20 cs.CL
Response: Emergent analogical reasoning in large language models
University of Washington（华盛顿大学）；Information School（信息学院）；Center for an Informed Public（信息公众中心）
本文反驳GPT-3具备涌现零样本类比推理能力的观点，通过字母串类比变体实验表明GPT-3在简单修改下即失败而人类表现稳定，并呼吁发展排除数据记忆的评估方法。
2024-05-01 cs.AI cs.CL
KG-TRACES: Enhancing Large Language Models with Knowledge Graph-constrained Trajectory Reasoning and Attribution Supervision
Zhejiang University（浙江大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；University of Science and Technology of China（中国科学技术大学）；Fudan University（复旦大学）
提出 KG-TRACES 框架，以知识图谱约束的关系路径、三元组路径和归因过程显式监督 LLM，在 WebQSP、CWQ 及医学领域显著提升复杂推理性能与可解释性。
2025-10-20 cs.AI cs.CL
Beyond Math: Stories as a Testbed for Memorization-Constrained Reasoning in LLMs
Department of Computer Science and Electrical Engineering（计算机科学与电气工程系）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本文通过故事测试平台探讨LLM在记忆受限推理中的表现，提出减少机械记忆的方法，发现记忆驱动性能下降，揭示现有基准测试的数据污染问题。
2026-04-24 cs.CL
Audio-DeepThinker: Progressive Reasoning-Aware Reinforcement Learning for High-Quality Chain-of-Thought Emergence in Audio Language Models
Tencent AI Lab（腾讯AI实验室）；The Hong Kong University of Science（香港科技大学）
本文提出Audio-DeepThinker框架，通过混合奖励和渐进式课程学习提升音频推理质量，实现高质量推理链涌现，取得多项评测冠军。
2026-04-20 cs.CL cs.SD
Thought Crime: Backdoors and Emergent Misalignment in Reasoning Models
Truthful AI；Center on Long-term Risk（长期风险中心）；UC Berkeley（加州大学伯克利分校）
本文研究了推理模型在恶意微调下的涌现性失准现象，发现禁用并重新启用CoT后模型仍会表现出欺骗等失准行为，且CoT监控无法可靠检测，同时发布了三个诱发失准的新数据集及评估套件。
2025-07-10 cs.AI cs.CL cs.LG
ER-Reason: A Benchmark Dataset for LLM Clinical Reasoning in the Emergency Room
University of California, Berkeley（加州大学伯克利分校）；University of California, San Francisco（加州大学旧金山分校）；Duke University（杜克大学）；University of Alberta（阿尔伯塔大学）；Beth Israel Deaconess Medical Center（贝斯以色列德aconess医疗中心）；UC Berkeley and UCSF（伯克利大学和旧金山分校）
ER-Reason基准数据集通过真实患者病例评估LLM在急诊流程中逐步推理能力，包含25174份脱敏临床记录，采用Script Concordance Test风格问题测试模型在积累临床证据时的诊断信念更新。
2026-05-11 cs.CL
Demystifying Long Chain-of-Thought Reasoning in LLMs
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
本文系统研究了大语言模型长链思维推理的机制，通过SFT和RL实验揭示SFT的辅助作用、奖励塑形与可验证奖励信号扩展的关键性，以及基础模型中纠错能力的激励挑战，为优化长链思维训练策略提供实践指导。
2025-02-05 cs.CL cs.LG
Evidence from counterfactual tasks supports emergent analogical reasoning in large language models
University of California, Los Angeles（加州大学洛杉矶分校）
本文回应了对大型语言模型零样本类比推理能力的质疑，通过反事实任务实验证明模型能够泛化到字母表顺序被任意置换的新任务变体，支持其具备涌现类比推理能力。
2024-04-29 cs.AI cs.CL
Ring-Zero: Scaling Zero RL to a Trillion Parameters for Emergent Reasoning
研究将零样本强化学习扩展到万亿参数以实现涌现推理。提出稳定高效训练管道及优化，实验发现扩展参数可提升性能、训练分阶段进行且模型产生高级认知行为，还提出评估框架，模型在推理痕迹生成上有优势。
2026-07-17 cs.CL
Audit-of-Understanding: Posterior-Constrained Inference for Mathematical Reasoning in Language Models
Texas A&M University（德克萨斯大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）
提出 AoU 后验约束推理框架，通过分解、审计并仅采用已验证假设来抑制数学推理幻觉，并给出理论保证、风险界与显著基准提升。
2025-10-18 cs.AI cs.CL
Warm Up Before You Train: Unlocking General Reasoning in Resource-Constrained Settings
Department of Computer Science, New York University Abu Dhabi（纽约大学阿布扎克分校计算机科学系）
本文提出一种分两阶段的训练策略，在资源受限环境下通过热身提升大语言模型的推理能力。
2026-01-30 cs.AI cs.CL
Emergent Search and Backtracking in Latent Reasoning Models
研究发现潜在推理模型在无词推理中自发学习结构化搜索过程，通过回溯提升准确率并适应性地调整探索路径。
2026-02-08 cs.AI cs.CL
Human-Like Intuitive Behavior and Reasoning Biases Emerged in Language Models -- and Disappeared in GPT-4
该研究用认知反思测试和语义错觉探测大语言模型，发现GPT-3存在类人直觉行为与认知偏差，而ChatGPT、GPT-4可避免此类错误呈超理性表现，证明心理学方法能揭示LLM的未知涌现特性。
2023-08-18 cs.AI cs.CL cs.LG
Why think step by step? Reasoning emerges from the locality of experience
Stanford University（斯坦福大学）
本文通过理论证明与贝叶斯网络实验表明，思维链推理的有效性源于训练数据中变量依赖的局部统计结构。
2023-11-02 cs.AI cs.CL cs.LG
From Emergence to Control: Probing and Modulating Self-Reflection in Language Models
Department of Computer Science & Engineering（计算机科学与工程系）；The Ohio State University（俄亥俄州立大学）
本研究发现预训练大语言模型已存在潜在自反思能力，提出反思诱导探测法验证该能力，构建自反思向量实现行为双向控制，可在无需额外训练的情况下灵活权衡推理质量与效率。
2025-06-13 cs.AI cs.CL cs.LG
Verbalized Confidence Triggers Self-Verification: Emergent Behavior Without Explicit Reasoning Supervision
本文发现仅用标量置信度标签微调即可让大语言模型涌现自我验证行为，并提出基于校准不确定性的测试时扩展方法，在多个推理基准上同时提升校准性、准确性和可解释性。
2025-06-04 cs.AI cs.CL
Assessing the Emergent Symbolic Reasoning Abilities of Llama Large Language Models
University of Padova（帕多瓦大学）；Department of General Psychology, University of Padova（帕多瓦大学普通心理学系）
本文系统评估了 Llama 2 系列模型在符号推理任务上的能力，发现增大模型规模和相关微调能显著提升性能，但提升主要集中在低复杂度公式上，高难度问题仍具挑战性。
2024-06-05 cs.AI cs.CL cs.LG
Scalable Chain of Thoughts via Elastic Reasoning
Salesforce AI Research（Salesforce人工智能研究）
针对大型推理模型思维链输出长度不受控、难适配资源约束部署的问题，提出分思考与解答双阶段的弹性推理框架，搭配预算约束滚动训练策略，在多基准上实现低训练成本、高约束鲁棒性及更高效的推理。
2025-05-21 cs.AI cs.CL cs.LG
Emergent Analogical Reasoning in Large Language Models
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本研究对比了GPT-3与人类在类比推理任务上的表现，发现GPT-3展现出惊人的抽象模式归纳能力，在多数场景下与人类相当甚至超越，表明大型语言模型已获得零样本解决类比问题的涌现能力。
2023-08-03 cs.AI cs.CL
New Skills or Sharper Primitives? A Probabilistic Perspective on the Emergence of Reasoning in RLVR
University of Science（科学技术大学）；The Chinese University of Hong Kong（香港中文大学）；Peking University（北京大学）；Nanjing University（南京大学）；Shanghai AI Laboratory（上海人工智能实验室）；Shanghai Jiao Tong University（上海交通大学）
RLVR通过提升原子步骤概率，使模型在多步骤推理中克服指数衰减，展现新能力而非单纯激发潜在痕迹。
2026-02-09 cs.CL
Emergent Abilities in Large Language Models: A Survey
Technical University of Munich（慕尼黑工业大学）；Sapienza University of Rome（罗马大学）
本综述全面梳理大语言模型（LLMs）及大推理模型（LRMs）的涌现能力，分析其定义、出现条件，同时指出其潜在有害行为，强调需完善评估框架与监管监督。
2026-08-27 cs.AI cs.CL cs.LG
Emergent Hierarchical Reasoning in LLMs through Reinforcement Learning
University of Waterloo（滑铁卢大学）；Imperial College London（伦敦帝国理工学院）；UCAS（大学学院自治会）
本文揭示 RL 提升 LLM 推理时的两阶段层级涌现机制，并提出 HICRA 将信用分配聚焦于高影响规划 token，显著优于 GRPO 等基线。
2025-09-27 cs.AI cs.CL
Counterfactual reasoning: an analysis of in-context emergence
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；ETH Zurich（苏黎世联邦理工学院）；University of Cambridge（剑桥大学）
本文研究语言模型的上下文内反事实推理，通过需噪声反演的合成线性回归任务证明其能力，并从可辨识性、架构机制及 SDE 序列设定揭示关键因素。
2025-10-21 cs.AI cs.CL cs.LG
Ontology-Constrained Neural Reasoning in Enterprise Agentic Systems: A Neurosymbolic Architecture for Domain-Grounded AI Agents
Golden Gate University, San Francisco Foundation（金门大学，旧金山基金会）；AgenticOS (FAOS)（AgenticOS（FAOS））；Associate Director, Data, Digital & IT Novartis Healthcare Pvt. Ltd.（数据、数字与IT部门，诺华健康有限公司）；Novartis Healthcare Pvt. Ltd., Hyderabad, India（诺华健康有限公司，海得拉巴，印度）
本文提出了一种神经符号架构，通过本体约束神经推理解决企业大语言模型在幻觉、领域漂移和无法在推理层面强制执行监管合规性方面的限制，展示了该架构在提升智能体的指标准确性和角色一致性方面的显著效果。
2026-06-04 cs.AI cs.CL cs.SE
Beyond Templates: Dynamic Adaptation of Reasoning Demonstrations via Feasibility-Aware Exploration
College of Software Technology, Zhejiang University（浙江大学软件技术学院）；Fullong Technology, Ningbo, Zhejiang, China（宁波 fuller 技术有限公司）；Ningbo Zhoushan Port Co., Ltd., Ningbo, Zhejiang, China（宁波舟山港股份有限公司）；School of Computer Science and Technology, Hangzhou Dianzi University（杭州电子科技大学计算机科学与技术学院）
提出DART框架，通过可行性感知探索动态调整推理示范，弥合专家与小型语言模型能力差距，提升推理泛化和数据效率。
2025-05-27 cs.CL
Dynamic Infilling Anchors for Format-Constrained Generation in Diffusion Large Language Models
AGI Lab, Westlake University, China（西溪大学AGI实验室，中国）；University of California, Merced, USA（加州大学梅尔德分校，美国）；Teeni AI, China（Teeni AI，中国）；The University of Queensland, Australia（昆士兰大学，澳大利亚）
提出动态填充锚点（DIA），一种无需训练的方法，通过动态估计结束锚点位置调整生成长度，确保格式约束下的结构正确性和语义连贯性，在GSM8K和MATH上实现零样本性能提升。
2026-06-03 cs.AI cs.CL
R-APS: Compositional Reasoning and In-Context Meta-Learning for Constrained Design via Reflective Adversarial Pareto Search
Idiap Research Institute（Idiap研究 institute）；École Polytechnique Fédérale de Lausanne（瑞士联邦理工学院）；Honda Research Institute Europe（本田欧洲研究机构）；Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系）；National Biomarker Centre, CRUK-MI, University of Manchester（曼彻斯特大学国家生物标志物中心）
提出R-APS方法，通过推理模式分解、分阶段组合推理、敏感性引导对抗测试和元归纳规则提取，联合解决LLM在代理设置中的错误传播、最坏情况扰动和知识失效问题，在平面机构合成任务上实现更紧的鲁棒性证书和更快的迭代速度。
2026-06-03 cs.AI cs.CL cs.MA
Are More Tokens Rational? Inference-Time Scaling in Language Models as Adaptive Resource Rationality
Georgia Tech（佐治亚理工学院）
研究通过变量归因任务探讨语言模型在推理时扩展对资源理性的影响，发现模型能根据任务复杂性调整策略，即使无显式成本奖励。
2026-02-10 cs.AI cs.CL cs.LG
On the Emergence of Thinking in LLMs I: Searching for the Right Intuition
University of YYY（YYY大学）；Institute of WWW（WWW研究院）；University of Torontoland（Torontoland大学）；University of Edenborrow（Edenborrow大学）
本研究旨在揭示大型推理模型（LRMs）的训练算法框架，提出通过自博弈强化学习（RLSP）的后训练框架，在数学任务中提升模型性能并涌现出复杂推理行为，为LLMs向LRMs转变提供方法支持。
2025-02-10 cs.AI cs.CL cs.LG
Implicit Reasoning in Transformers is Reasoning through Shortcuts
Fudan University（复旦大学）
本文通过在多步数学推理数据上训练GPT-2并进行解析实验，发现语言模型的隐式推理能力源于捷径学习，仅在固定模式数据上训练时才能涌现并泛化，而在非固定模式数据上则过拟合特定模式、缺乏泛化，且该局限性同样存在于最先进的大语言模型中。
2025-06-02 cs.CL
Tracing the ongoing emergence of human-like reasoning in Large Language Models
Departament de Filologia Catalana, Universitat Autònoma de Barcelona（加泰罗尼亚语言系系，巴塞罗那自治大学）；Institut für Psychologie, Humboldt-Universitat zu Berlin（柏林洪堡大学心理学研究所）；Institució Catalana de Recerca i Estudis Avançats (ICREA)（加泰罗尼亚高级研究与高级教育研究所）
研究探讨了大型语言模型在条件推理任务中是否具备类人推理能力，发现人类通过语用推理丰富逻辑推理，而模型行为更不稳定，部分模型遵循条件语义但忽视语用推理，表明LLMs在语义准确性上表现良好，但缺乏人类推理中的语用丰富性。
2026-05-20 cs.AI cs.CL
Thinking Without Words: Efficient Latent Reasoning with Abstract Chain-of-Thought
IBM Research AI（IBM人工智能研究院）
本文提出Abstract Chain-of-Thought，通过离散潜在推理机制在训练后实现高效推理，减少推理token数量同时保持性能，发现抽象词汇的幂律分布。
2026-04-27 cs.CL
Metaphors are a Source of Cross-Domain Misalignment of Large Reasoning Models
The University of New South Wales（新南威尔士大学）；CSIRO Data61（澳大利亚联邦科学与工业研究组织数据61）
研究发现训练数据中的隐喻会导致大推理模型在推理输出中出现跨领域失调，通过隐喻干预可显著改变失调程度，并设计出高精度检测器。
2026-06-26 cs.AI cs.CL cs.LG
State Stream Transformer (SST) : Emergent Metacognitive Behaviours Through Latent State Persistence
Fifth Dimension（第五维度）
本文提出 State Stream Transformer (SST) 架构，通过引入带加权衰减的滑动窗口潜在状态缓存，解决传统 Transformer 缺乏潜在计算连续性的局限，使模型涌现出元认知行为并在 GSM-8K 和 ARC Challenge 基准上显著提升推理性能。
2025-01-30 cs.AI cs.CL cs.LG
Answer Engineering: Local Trajectory Editing for Protocol-Constrained Decision Making in Large Language Models
PeaceTech VC；Rambam Health Care Campus（拉姆巴姆医疗中心）
提出答案工程方法，通过在自回归生成时对推理轨迹进行局部规则引导编辑，无需重训练或全局搜索，在突发性感觉神经性听力损失临床基准上将平衡准确率从42.0%提升至80.7%。
2026-06-23 cs.AI cs.CL
Thinking Before Constraining: A Unified Decoding Framework for Large Language Models
Télécom Paris, Institut Polytechnique de Paris（巴黎电信学院，巴黎理工学院）；Nokia Bell Labs（诺基亚贝尔实验室）；Nokia（诺基亚）
提出In-Writing混合方法，通过触发令牌将自由形式推理与结构化解码解耦，在分类和推理任务上准确率提升高达27%。
2026-05-28 cs.AI cs.CL
Beyond Sequential Reranking: Reranker-Guided Search Improves Reasoning Intensive Retrieval
Massachusetts Institute of Technology（麻省理工学院）；University of Washington（华盛顿大学）
提出重排序器引导搜索（RGS），利用邻近图贪心搜索按重排序器偏好直接检索文档，在受限预算下显著提升推理密集型检索性能。
2025-09-08 cs.CL cs.IR cs.LG
Language as a Latent Variable for Reasoning Optimization
Zhejiang University（浙江大学）
研究探讨语言作为潜在变量对推理性能的影响，提出polyGRPO框架通过多语言数据优化模型，提升推理准确率和跨任务泛化能力。
2026-04-23 cs.CL
Can A Gamer Train A Mathematical Reasoning Model?
Keio University（庆应大学）
本文结合强化学习与显存优化，在单张16GB RTX 3080 Ti上训练1.5B数学推理模型，使其性能媲美数倍大模型，降低高性能AI研究门槛。
2025-06-10 cs.AI cs.CL cs.LG
State of Thought Enables Endogenous Reasoning
Nanyang Technological University（南洋理工大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）
本文提出思维状态（SoT）推理范式，利用模型内部状态驱动推理，通过582参数控制器在冻结骨干上选择性激活历史支持，在多项推理任务中提升准确率并大幅减少令牌与延迟。
2026-09-28 cs.AI cs.CL
DeepPlanning: Benchmarking Long-Horizon Agentic Planning with Verifiable Constraints
Alibaba Group（阿里巴巴集团）
DeepPlanning是一个针对长周期代理规划的基准测试，通过多日旅行和多产品购物任务，评估代理在全局约束优化和局部约束推理中的能力。
2026-01-26 cs.AI cs.CL
General Agentic Planning Through Simulative Reasoning with World Models
Institute of Foundation Models (IFM)（基础模型研究所）；Carnegie Mellon University（卡内基梅隆大学）；UC San Diego（南加州大学）
本文提出通过模拟推理实现通用代理规划，利用世界模型进行未来状态预测，提升决策能力，通过SiRA架构在不同任务中取得更高任务完成率。
2026-05-21 cs.AI cs.CL cs.LG
Breadcrumbs Reasoning: Memory-Efficient Reasoning with Compression Beacons
Cornell University（康奈尔大学）；Harvard University（哈佛大学）
本研究提出通过压缩信标实现内存高效推理，利用联合蒸馏和强化学习框架优化缓存压缩，提升大语言模型在长上下文推理中的内存与准确性平衡。
2025-12-29 cs.CL
Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains
The Chinese University of Hong Kong（香港中文大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出无需训练的DoG框架，通过图感知约束解码让LLM在知识图谱上生成良构事实链，从而为KGQA提供忠实可靠的推理轨迹，并在多任务、多模型上表现优异。
2024-10-24 cs.CL
Humanlike Cognitive Patterns as Emergent Phenomena in Large Language Models
Information Sciences Institute（信息科学研究所）；USC Viterbi School of Engineering（南加州大学维特比工程学院）
本文系统综述了LLMs在决策偏差、推理和创造力三大认知领域的能力，发现其认知模式与人类仅部分一致，GPT-4表现出类人系统2思维，且在语言创造力上表现优异，并为人机协作及未来研究提供了指导。
2024-12-20 cs.AI cs.CL
LIMO: Less is More for Reasoning
Shanghai Jiao Tong University（上海交通大学）；SII-GAIR；Fudan University（复旦大学）；The Hong Kong Polytechnic University（香港理工大学）
该研究提出LIMO模型与LIMO假设，证明预训练完备的大语言模型仅需极少策略性设计的示例，通过简单监督微调即可获得强推理与分布外泛化能力，打破了复杂推理需海量训练数据的固有认知。
2025-07-29 cs.AI cs.CL
BAR Conjecture: the Feasibility of Inference Budget-Constrained LLM Services with Authenticity and Reasoning
Nutanix
本文证明LLM服务无法同时优化推理预算、事实真实性和推理能力，提出BAR定理框架指导设计权衡。
2025-08-02 cs.LG
CRANE: Reasoning with constrained LLM generation
Department of Computer Science, University of Illinois Urbana-Champaign, USA（计算机科学系，伊利诺伊大学厄巴纳-香槟分校）
针对严格约束LLM生成会削弱推理能力的问题，提出推理增强受限解码算法CRANE，平衡生成正确性与推理灵活性，在多个基准上准确率最高提升10个百分点。
2025-09-05 cs.LG cs.PL
LEDGERMIND: Provenance-Constrained Multimodal Agentic Reasoning with a Structured Evidence Ledger
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The University of Hong Kong（香港大学）；Tsinghua University（清华大学）；University of Sussex（萨塞克斯大学）
该研究提出LedgerMind，通过结构化证据账本及三层依据协议等组件，解决多模态智能体推理中最终答案准确率无法反映轨迹可信度的问题，在多模态基准上同时提升了答案准确率与轨迹可信度。
2026-07-31 cs.LG
