When More Thinking Hurts: Overthinking in LLM Test-Time Compute Scaling
Nanjing University(南京大学);Baidu(百度);Nanjing University of Finance & Economics(南京财经大学)
研究探讨了在LLM测试时间计算扩展中,增加推理token的边际效用随计算预算增加而下降的现象,发现模型存在过度思考问题,且最优思考长度因问题难度而异。
2026-04-12 cs.AI
Is It Thinking or Cheating? Detecting Implicit Reward Hacking by Measuring Reasoning Effort
LMU Munich(慕尼黑莱茵河大学);New York University(纽约大学);MCML
TRACE通过测量推理努力检测隐式奖励黑客,通过截断推理链并评估预期奖励来识别模型利用漏洞的行为,提升数学和编码任务的监控效果。
2026-03-02 cs.AI cs.CL
Chain-of-Thought Reasoning In The Wild Is Not Always Faithful
Poseidon Research(Poseidon研究)
研究发现,在自然语言提示下,模型有时会生成表面连贯但自相矛盾的思维链,揭示出隐含的事后合理化现象,且前沿模型也未能完全避免。
2026-06-16 cs.AI cs.CL cs.LG
Agon: Competitive Cross-Model RL with Implicit Rival Grading of Reasoning
Independent Researcher(独立研究者)
研究针对可验证奖励强化学习只评最终答案的问题,提出Agon方法,让两个竞争模型相互评分,通过轮流扮演角色隐式判断推理,在难题上提升了模型表现,且该排序在多种场景和模型家族中可复制。
2026-07-09 cs.AI cs.CL cs.LG
Learning Behavioral Soft Constraints from Demonstrations
Tulane University(杜兰大学);University of Brescia(布雷西亚大学);University of West Florida(西佛罗里达大学);IHMC(人类与机器认知研究所);IBM Research(IBM研究院)
许多现实生活中的场景要求人类做出艰难的权衡:我们是总是遵守所有的交通规则,还是在紧急情况下违反限速?这些情景迫使我们评估集体规则和规范与我们自己的个人目标和愿望之间的权衡。为了创建有效的人工智能-人类团队,我们必须为人工智能智能体配备一个模型,说明当存在隐式和显式规则和约束时,人类如何在复杂环境中进行权衡。配备这些模型的智能体将能够反映人类行为和/或将人类注意力吸引到可以改善决策的情况。为此,我们提出了一种新的逆强化学习(IRL)方法:最大熵逆软约束IRL(MESC-IRL),学习隐式的硬和软约束的状态,动作和状态特征的演示中确定性和非确定性的环境建模为马尔可夫决策过程(MDP)。我们的方法使代理隐式学习人类的约束和愿望,而不需要明确的建模代理设计师和环境之间转移这些约束。我们的新方法推广了以前的工作,只考虑确定性的硬约束,并实现了最先进的性能。
2022-02-21 cs.AI cs.CY cs.LG
End-to-End Model-Free Reinforcement Learning for Urban Driving using Implicit Affordances
MINES ParisTech(巴黎高等矿业学院);PSL(巴黎文理研究大学);Valeo Driving Assistance Research Valeo.ai(法雷奥驾驶辅助研究法雷奥人工智能)
强化学习(RL)旨在从自己的实验中学习最优行为策略,而不是基于规则的控制方法。然而,目前还没有RL算法能够处理像城市驾驶这样困难的任务。我们提出了一种新的技术,创造了隐含的启示,有效地利用RL的城市驾驶,从而包括车道保持,行人和车辆回避,交通灯检测。据我们所知,我们是第一个提出一个成功的RL代理处理这样一个复杂的任务,特别是关于交通灯检测。此外,我们通过赢得CARLA挑战赛的Camera Only赛道证明了我们方法的有效性。
2020-03-16 cs.AI cs.CV cs.LG
Position: Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces!
University of California, Berkeley(加州大学伯克利分校)
本文论证将模型生成的中间令牌拟人化为“推理痕迹”或“思考痕迹”具有误导性,呼吁社区避免此类拟人化。
2026-06-11 cs.AI
Think Deep, Speak Once: Relit, A Recursive Latent Implicit Transformer Framework
Indian Institute of Technology Roorkee(鲁尔基印度理工学院)
该研究针对思维链提示计算开销大、微型递归模型语义连贯性差的问题,提出ReLIT框架,结合TinyLlama-1.1B骨干与可训练递归块,在逻辑推理基准上高效实现推理,性能优于或媲美更大模型。
2026-08-11 cs.AI
Thinking with Visual Grounding
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
提出视觉锚定思维方法,让视觉语言模型在推理时交替生成自然语言和视觉锚点(点或框),并通过合成数据管道和锚定感知强化学习训练,在计数和空间推理任务上显著提升性能。
2026-06-16 cs.AI
Thinking in Latents: Adaptive Anchor Refinement for Implicit Reasoning in LLMs
Manipal University Jaipur(马普尔大学斋普尔);TCS Research(塔塔咨询研究)
本文提出AdaAnchor框架,通过自适应终止机制优化潜空间推理,提升准确率并减少计算步骤,实验表明在数学问题基准上准确率提升5%且减少48-60%的潜空间步骤。
2026-03-16 cs.AI cs.CL cs.LG
Exploring the System 1 Thinking Capability of Large Reasoning Models
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Tongyi Lab, Alibaba Group(阿里巴巴集团通义实验室)
本文研究大型推理模型的系统1思维能力,提出S1-Bench基准测试,发现现有模型在简单问题上存在准确率低和效率差的问题,揭示了模型对问题难度的隐含编码。
2026-05-01 cs.AI cs.CL
STaR: Towards Effective and Stable Table Reasoning via Slow-Thinking Large Language Models
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China(认知智能国家重点实验室,中国科学技术大学)
STaR通过慢思考机制提升表格推理的有效性和稳定性,采用两阶段训练框架和不确定性量化技术,在领域内和领域外均取得优异表现。
2026-01-26 cs.AI
The Fragility of Strategic Thinking in Large Language Models
IESE(IESE商学院)
该研究开发框架拆解博弈中信念形成等环节,发现前沿LLMs的战略思维存在但具脆弱性,随复杂性提升会出现逻辑转变与启发式规则,警示其作为战略主体应用需谨慎。
2026-08-18 cs.AI cs.GT
RTQA : Recursive Thinking for Complex Temporal Knowledge Graph Question Answering with Large Language Models
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);ZJU-Ant Group Joint Lab of Knowledge Graph(浙江大学-蚂蚁集团知识图谱联合实验室)
针对现有时序知识图谱问答方法处理复杂查询能力弱、推理能力有限及误差传播的问题,提出无需训练的RTQA递归思考框架,通过递归分解问题、自底向上求解和多路径答案聚合提升性能,在两个基准上的相关类别指标优于现有最优方法。
2025-09-04 cs.AI cs.CL
Learning Situation-Conditioned Thinking Policies for Long-Term LLM Agents
Chengdu University of Information Technology(成都信息工程大学)
本文提出情境条件化思考记忆框架,将历史推理经验转化为轻量级策略以预测当前情境下的思考内容,实验证明其显著提升推理性能并大幅降低处理时间。
2026-10-08 cs.AI cs.RO
The Effect of the Rooney Rule on Implicit Bias in the Long Term
Yale University(耶鲁大学)
大量证据表明,从招聘到医疗保健,各种情况下的隐性偏见都会产生负面影响。鲁尼规则是一种旨在消除隐性偏见的干预措施,已在私营和公共部门实施。鲁尼规则要求选拔小组在候选人入围名单中至少包括一名来自代表性不足群体的候选人。最近,Kleinberg和Raghavan提出了一个内隐偏见模型,并研究了鲁尼规则应用于单一选择决策时的有效性。然而,随着时间的推移,选择决策往往会反复出现。此外,人们还观察到,如果有一致的反刻板印象反馈,对代表性不足的候选人的隐性偏见可能会改变。我们考虑一个模型,如何选择小组的隐式偏见随着时间的推移而变化,无论是否有鲁尼规则的地方,他们的招聘决定。我们的主要结果是,当小组受到鲁尼规则的约束时,他们的隐性偏见大致以与候选人名单大小相反的速度减少-与候选人的数量无关,而没有鲁尼规则,该速度与候选人的数量成反比。因此,当候选人的数量远远大于候选人名单的大小时,鲁尼规则可以更快地减少隐式偏见,这为使用它作为减轻隐式偏见的策略提供了额外的理由。为了从经验上评估鲁尼规则在重复选择决策中的长期影响,我们在Amazon MTurk上进行了迭代候选人选择实验。我们观察到,事实上,决策者受到鲁尼规则选择更多的少数候选人除了那些规则本身所要求的比他们会,如果没有规则是有效的,这样做没有显着降低候选人的效用选择。
2020-10-21 cs.AI cs.CY cs.LG
Soft Thinking: Unlocking the Reasoning Potential of LLMs in Continuous Concept Space
University of California, Santa Barbara(加州大学圣芭芭拉分校);University of California, Santa Cruz(加州大学圣克ruz分校);University of California, Los Angeles(加州大学洛杉矶分校);Purdue University(普渡大学);LMSYS Org(LMSYS组织);Microsoft(微软)
针对当前大语言模型离散推理的局限性,研究提出无需训练的Soft Thinking方法,通过连续概念空间的软性概念词元实现类人推理,在数学与编程基准上提升了准确率且减少了词元用量,兼具可解释性。
2025-05-21 cs.AI cs.CL
AbstRaL: Augmenting LLMs' Reasoning by Reinforcing Abstract Thinking
AbstRaL通过强化学习提升LLM的抽象推理能力,有效缓解GSM扰动基准测试中的性能下降,并提升模型在OD数学和一般推理任务上的泛化能力。
2026-02-23 cs.AI cs.CL cs.SC
The SP Theory of Intelligence as a Foundation for the Development of a General, Human-Level Thinking Machine
本文总结了“SP智能理论”及其在“SP计算机模型”中的实现如何简化和整合人工智能及相关领域的概念,从而为开发一种通用的、人类水平的思维机器提供了一个有前途的基础,这与人工通用智能研究的主要目标是一致的。这种简化和整合的关键是从生物信息学中借用和改编的强大的“多重比对”概念。这一概念有可能成为智能的“双螺旋”,对人类智能的意义不亚于DNA对生物科学的意义。SP系统的优点包括:在表示不同种类的知识方面的通用性;在智能方面的通用性(包括:无监督学习的优势;自然语言的处理;在面对数据错误时具有鲁棒性的多级抽象的模式识别;几种推理(包括:一步“演绎”推理;推理链;溯因推理;用概率网络和树进行推理;用“规则”进行推理;非单调推理和用默认值进行推理;用“解释”进行贝叶斯推理;等等);规划;解决问题;等等);各种知识和智能的各种方面以任何组合方式的无缝集成;以及在若干领域中的应用潜力(包括:帮助解决大数据带来的九个问题;帮助自主机器人开发人类水平的智能;作为一个具有智能和多功能性的数据库,用于表示和整合多种形式的知识;作为医学知识的载体和医疗诊断的辅助工具;还有几个)。
2016-12-22 cs.AI
Distribution-Calibrated Inference Time Compute for Thinking LLM-as-a-Judge
University of California, Berkeley(加州大学伯克利分校);DeepMind(深Mind);University of Cambridge(剑桥大学)
针对思考型大语言模型作为评判者时单样本噪声和聚合不一致问题,提出基于Bradley-Terry-Davidson模型的分布校准聚合方案,利用极性(非平局边际)和决定性(非平局率)区分微弱多数与强共识,显著降低MAE并提高成对准确率,匹配或超越人类评判者。
2026-06-02 cs.AI cs.LG
Simulating Human Cognition: Heartbeat-Driven Autonomous Thinking Activity Scheduling for LLM-based AI systems
School of Computer Science, Chengdu University of Information Technology(成都信息学院计算机科学学院)
本文提出基于心跳驱动的自主思考活动调度机制,通过动态认知模块实现自适应和持续自我调节,提升LLM代理的适应性和效率。
2026-03-28 cs.AI q-bio.NC
StemBind: When MLLMs Get Lost Between Rules and Instances in Abstract Visual Reasoning
University of Science and Technology of China(中国科学技术大学)
提出 StemBind 诊断基准,通过共享主干的三对齐问题(感知、规则、完整)定位 MLLM 在抽象视觉推理中的失败环节,发现规则到实例的绑定是主要瓶颈。
2026-10-26 cs.AI cs.CV
Deconstructing the Dual Black Box:A Plug-and-Play Cognitive Framework for Human-AI Collaborative Enhancement and Its Implications for AI Governance
Northeastern University at Qinhuangdao(东北大学秦皇岛分校)
本文提出一种插拔式认知框架,通过元交互将人机协作提升至可审计的白箱系统,推动AI从工具向思维伙伴转变,并为AI治理提供透明可干预的新路径。
2025-12-09 cs.AI
Pathways of Thoughts: Multi-Directional Thinking for Long-form Personalized Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Google DeepMind(谷歌DeepMind);University of Michigan(密歇根大学)
本文提出PoT方法,通过多方向思考生成个性化问答响应,实验证明其在长文本问答任务中表现优异。
2026-01-21 cs.AI cs.CL cs.IR
Distilling Reasoning Traces into Advisory Prompts for Software Engineering Tasks
University of California, Davis(加州大学戴维斯分校);IBM(国际商业机器公司)
本文受编程学习过程启发,提出将LLM推理痕迹提炼为建议提示词的方法,可减少LLM代码错误,部分提示词还能跨模型迁移,同时明确了方法适用场景。
2026-11-20 cs.AI cs.SE
RISE-Video: Can Video Generators Decode Implicit World Rules?
Shanghai Jiao Tong University(上海交通大学);Tencent Youtu Lab(腾讯优图实验室);Xidian University(西安电子科技大学);Beijing Normal University(北京师范大学);The Chinese University of Hong Kong(香港中文大学)
RISE-Video通过多维评估框架评估视频生成模型在隐含世界规则推理能力,揭示其在复杂场景模拟中的不足,推动未来生成模型的发展。
2026-02-05 cs.AI cs.CV
SwiReasoning: Switch-Thinking in Latent and Explicit for Pareto-Superior Reasoning LLMs
Georgia Tech(佐治亚理工学院);Microsoft(微软)
SwiReasoning通过在潜在空间和显式空间之间切换,提升推理LLMs的准确率和令牌效率。
2026-03-01 cs.AI cs.CL
Thinking in Video: Can Video Generators Really Reason About the Real World?
Central South University(中南大学);Tencent(腾讯);Tsinghua University(清华大学)
探讨视频生成器能否对现实世界推理,引入因果生成双判断(CGDJ)评估,发现开源模型无明确因果感知却有合理动态,先进闭源系统推理与生成一致性有限,还揭示了视听失调问题。
2026-07-21 cs.AI cs.CL cs.CV
Thoughtbubbles: an Unsupervised Method for Parallel Thinking in Latent Space
Department of Computer Science, Stanford University, Stanford, CA, United States(计算机科学系,斯坦福大学,斯坦福,CA,美国)
Thoughtbubbles是一种通过预训练学习并行自适应计算的转换器变体,能够在潜在空间中实现更高效的计算,提升模型的推理性能和零样本评估表现。
2026-01-30 cs.AI cs.CL cs.LG
Evidence Before Sampling: Interpretable Implicit Negative Candidate Discovery for Recommendation
Michigan State University(密歇根州立大学);Intuit(Intuit公司)
针对推荐系统中负样本缺乏可解释证据的问题,提出一种基于符号规则和LLM解释的隐式负候选发现方法,在工业与公开数据集上提升精确度与下游性能。
2026-10-20 cs.AI
Implicit Rule Induction with Test-Time Task Embeddings in ARC-like Tasks
University of Liège(列日大学);Santa Fe Institute(圣塔菲研究所)
本研究提出两步测试时训练协议Embed-TTT,通过先微调任务嵌入再微调骨干网络,在ARC类任务中实现更好的隐式规则归纳,提升嵌入质量与检索性能,并支持规则插值。
2026-09-21 cs.AI cs.LG
Artificial Intelligence and Legal Analysis: Implications for Legal Education and the Profession
Oklahoma City University School of Law(俄克拉荷马城市大学法学院)
本文研究法律类与非法律类大语言模型运用IRAC框架进行法律分析的能力,发现其虽能完成基本分析但存在回答简略、虚假自信和幻觉等缺陷,并据此讨论了对法律教育与职业的启示。
2025-02-04 cs.AI cs.CY
Thought calibration: Efficient and confident test-time scaling
Department of Computer Science(计算机科学系);Massachusetts Institute of Technology(麻省理工学院)
本文提出思维校准方法,通过轻量级探针动态决定推理终止时机,在保持性能的同时将思考令牌减少60%(分布内)和20%(分布外)。
2025-05-23 cs.AI cs.LG
MobileIPL: Enhancing Mobile Agents Thinking Process via Iterative Preference Learning
Xiaomi Inc.(小米公司);Nanyang Technological University(南洋理工大学);Gaoling School of Artificial Intelligence, Renmin University of China(人民大学人工智能学院)
本文提出MobileIPL,通过迭代偏好学习构建CoaT树,结合规则奖励和反馈反向传播,提升移动代理在GUI任务中的推理能力与泛化能力。
2026-03-21 cs.AI cs.CL
Deep Reasoning Networks: Thinking Fast and Slow
Cornell University(康奈尔大学);California Institute of Technology(加州理工学院)
我们介绍了深度推理网络(DRNets),这是一个端到端的框架,它将深度学习与推理相结合,用于解决复杂的任务,通常是在无监督或弱监督的环境中。DRNet通过将逻辑和约束推理与基于随机梯度的神经网络优化紧密结合,利用问题结构和先验知识。我们说明了DRNets的力量去混合重叠的手写数独(多MNIST数独),并在一个更复杂的任务,在科学发现,涉及推断材料的晶体结构的X射线衍射数据下的热力学规则(晶体结构相映射)。在高级别上,DRNet对输入数据的结构化潜在空间进行编码,该潜在空间被推理模块约束以遵循先验知识。生成解码器使用结构化潜在编码来生成目标输出。最后,总体目标结合了来自生成解码器(快速思考)和推理模块(慢速思考)的响应,其使用约束感知随机梯度下降进行优化。我们展示了如何将不同的任务编码为DRNets,并通过详细的实验证明DRNets的有效性:DRNets在晶体结构相位映射方面的表现明显优于最先进的技术和专家的能力,恢复更精确和有物理意义的晶体结构。在Multi-MNIST-Sudoku上,DRNets完美地恢复了混合Sudoku的数字,数字准确率为100%,优于最先进的监督MNIST去混合模型。最后,作为概念证明,我们还展示了DRNets如何解决标准的组合问题- 9乘9数独谜题和布尔可满足性问题(SAT),优于其他专业的深度学习模型。DRNet是通用的,可以进行调整和扩展以处理其他任…
2019-06-04 cs.AI cs.LG stat.ML
Can Large Reasoning Models Improve Accuracy on Mathematical Tasks Using Flawed Thinking?
MIT(麻省理工学院)
本研究通过训练模型处理故意错误推理轨迹,提升其在数学任务中的错误恢复能力,同时保持准确性。
2025-12-18 cs.AI cs.LG
LatentChem: From Textual CoT to Latent Thinking in Chemical Reasoning
University of Science and Technology of China(中国科学技术大学)
针对化学大语言模型依赖显式思维链导致的模态不匹配问题,提出LatentChem推理接口,通过连续思维向量和动态感知解耦化学逻辑与语言生成,在ChemCoTBench上以59.88%非平局胜率超越强CoT基线,并实现平均10.84倍推理步骤开销降低(5.96倍实际加速)。
2026-07-23 cs.AI cs.CL cs.LG
MENTOR: A Metacognition-Driven Self-Evolution Framework for Uncovering and Mitigating Implicit Domain Risks in LLMs
School of Computer Science and Technology, East China Normal University(东华大学计算机科学与技术学院);Shanghai AI Lab, Shanghai Innovation Institute(上海人工智能实验室,上海创新研究院)
针对大语言模型在特定领域(如教育、金融、管理)中存在的隐式安全风险,提出基于元认知自我评估和动态规则知识图谱的MENTOR框架,通过激活级引导信号有效降低攻击成功率。
2026-10-23 cs.AI cs.CL
Compute Allocation for Reasoning-Intensive Retrieval Agents
研究通过BRIGHT基准和Gemini 2.5模型家族,探讨推理密集型检索管道中的计算分配,发现重排阶段受益于更强模型和更深候选池,而查询扩展在轻量模型后效果递减。
2026-03-21 cs.AI cs.IR
Shorter but not Worse: Frugal Reasoning via Easy Samples as Length Regularizers in Math RLVR
MBZUAI;Ecole Polytechnique(巴黎政治学院)
通过易样本作为长度正则化器,使模型在不增加输出长度的情况下更高效地解决复杂问题。
2026-01-09 cs.AI cs.LG stat.ML
Large Language Models can Learn Rules
Google(谷歌公司);Université de Montréal(蒙特利尔大学);HEC Montréal(蒙特利尔高等商学院);University of Alberta(阿尔伯塔大学)
提出Hypotheses-to-Theories (HtT)框架,通过归纳和演绎两阶段让LLM自动学习并应用规则库进行推理,解决隐式知识错误问题,在多类推理任务中准确率提升10-30%,且规则具备跨模型和问题形式的迁移能力。
2024-12-19 cs.AI cs.CL
Differentially Private Synthetic Data Generation Using Context-Aware GANs
Computer Science The University of Texas at El Paso El Paso, US(计算机科学 德克萨斯理工大学埃尔帕索分校);C.S.E.E. University of Maryland, Baltimore County Baltimore, US(计算机科学与工程系 马里兰大学巴尔的摩县分校)
本文提出ContextGAN,一种结合领域规则和差分隐私的生成对抗网络,用于生成高质量且符合隐私保护的合成数据,提升真实性和实用性。
2025-12-09 cs.AI cs.CR cs.LG
Loop, Think, & Generalize: Implicit Reasoning in Recurrent-Depth Transformers
The Ohio State University(俄亥俄州立大学)
本文研究了隐式推理能力,探讨了递归深度变换器在系统泛化和深度扩展中的作用,发现其能有效提升多跳推理能力,但过度递归会导致泛化能力下降。
2026-08-12 cs.AI cs.CL cs.LG
The Price of Thinking: Reasoning Effort as a Model-Specific API Contract
Brandeis University(布兰戴斯大学);Brandeis School of Business and Economics(布兰戴斯商学院与经济学学院)
该研究以Sonnet 5模型为对象,通过配对对比实验发现显式高推理工作量API契约的调用成本更高,但未检测到准确率差异,相关结论仅适用于特定模型、任务和日期。
2026-08-19 cs.AI cs.CL cs.CY