Enhancing Creativity in Large Language Models through Associative Thinking Strategies
MindAntix(明安替克斯公司);University of California Los Angeles(加州大学洛杉矶分校);Microsoft(微软公司)
本研究探索联想思维策略对大语言模型创造力的提升作用,针对vGPT-4在三个领域开展创意任务实验,证实该技术可显著提升其回复原创性,为LLMs创意能力增强提供新路径。
2024-05-09 cs.AI cs.CL
Demystifying Hybrid Thinking: Can LLMs Truly Switch Between Think and No-Think?
Case Western Reserve University(凯斯西储大学);Meta AI
本研究揭示混合思考LLM存在模式分离不彻底的问题,通过分析数据规模、数据来源、数据数量及两阶段训练等关键因素,提出实用训练方案,在保持准确率的同时大幅缩短不思考模式输出并减少推理标记。
2026-10-06 cs.AI cs.CL cs.LG
KAG-Thinker: Interactive Thinking and Deep Reasoning in LLMs via Knowledge-Augmented Generation
Inclusion AI Ant Group(Inclusion AI蚂蚁集团)
本文提出KAG-Thinker框架,通过轻量级LLM驱动的多轮交互思考与深度推理,将复杂问题分解为子问题并分类检索与推理,利用知识边界与深度求解模块增强逻辑连贯性与知识获取。
2025-06-30 cs.AI cs.CL
Does the Linguistic Register of Thinking Matter? Wenyan as a Compact Reasoning Register for Chinese LLMs
Soochow University(苏州大学)
该研究探究中文LLM推理的语言语域效率,提出Wenyan Thinking方法,将推理部分重写为文言文并微调Qwen3-4B-Thinking-2507,在多基准测试中验证其可缩短推理长度、降低弃权率且优于紧凑现代白话文对照组。
2026-10-15 cs.AI cs.CL
THiNK: Can Large Language Models Think-aloud?
McGill University(麦吉尔大学)
本文提出THiNK,一个基于布鲁姆分类法的多智能体反馈驱动评估框架,通过迭代生成、批评和修订促使LLM进行有声思考,系统评估低阶与高阶思维技能,实验表明反馈循环显著提升高阶推理性能。
2025-05-26 cs.AI cs.CL
Metaphors We Compute By: A Computational Audit of Cultural Translation vs. Thinking in LLMs
本文通过创造性写作任务研究LLM的文化包容性,发现模型在特定文化情境下存在刻板隐喻使用和西方默认倾向,表明单纯提示文化身份无法保证文化思维。
2026-04-06 cs.AI cs.CL
Eliminating Reasoning via Inferring with Planning: A New Framework to Guide LLMs' Non-linear Thinking
University of California, San Diego(加州大学圣迭戈分校);University of Pennsylvania(宾夕法尼亚大学);University of Southern California(南加州大学);Yale University(耶鲁大学)
提出IEP提示框架,通过规划与自然语言推断的排除过程引导大语言模型非线性思考,并构建含9,115个问题的MARB基准,实验证明其优于CoT且可结合使用。
2023-11-15 cs.AI cs.CL
LatEval: An Interactive LLMs Evaluation Benchmark with Incomplete Information from Lateral Thinking Puzzles
Netease Games AI Lab(网易游戏AI实验室)
针对LLMs横向思维能力评估的空白,提出基于横向思维谜题的交互式基准LatEval,从提问质量和信息整合两方面测试,发现包括GPT-4在内的模型均与人类存在差距。
2024-03-17 cs.CL
Meta-Thinking in LLMs via Multi-Agent Reinforcement Learning: A Survey
University of Oklahoma(俄克拉荷马大学);Stanford University(斯坦福大学);School of Electrical and Computer Engineering, Oklahoma State University(电气与计算机工程学院,俄克拉荷马州立大学);University of Glasgow(格拉斯哥大学)
本综述从多智能体强化学习视角系统梳理大语言模型元思维(自我反思、评估与控制)的发展,分析现有局限与新兴方法,提出多智能体架构可增强LLM鲁棒性,并给出构建内省、自适应、可信赖LLM的路线图。
2025-04-20 cs.AI cs.CL
MTMT: Consolidating Multiple Thinking Modes to Form a Thought Tree for Strengthening LLM
University of Science and Technology of China(中国科学技术大学)
针对 LLM 复杂推理不足的问题,本文提出 MTMT,通过整合联想、反事实、分解和比较等多种思维模式构建思维树,并在 GPT-4o mini 上验证其可显著提升复杂任务处理能力。
2024-12-05 cs.AI cs.CL
Do LLMs Really Think Step-by-step In Implicit Reasoning?
Tsinghua University(清华大学)
本研究针对隐式思维链是否等同于显式思维链的疑问,通过探测模型隐藏状态发现:提示驱动的隐式CoT多依赖经验而非逐步推理,训练驱动的则会计算中间步骤,且两者效果都受问题格式影响。
2025-01-16 cs.AI cs.CL
HDFlow: Enhancing LLM Complex Problem-Solving with Hybrid Thinking and Dynamic Workflows
Tencent AI Lab(腾讯AI实验室)
针对LLM复杂推理受限的问题,提出HDFlow框架,通过动态工作流分解任务并结合快慢混合思维,显著提升了模型的复杂问题求解能力与计算效率。
2024-09-25 cs.AI cs.CL
What Happened in LLMs Layers when Trained for Fast vs. Slow Thinking: A Gradient Perspective
University of Maryland(马里兰大学);University of Chicago(芝加哥大学)
本文从梯度视角分析LLM各层在快速思考与慢速思考训练下的差异,发现慢速思考能提升学习稳定性并区分推理路径正确性,为构建System-2智能体提供新见解。
2025-06-05 cs.AI cs.CL cs.LG
Think Together and Work Better: Combining Humans' and LLMs' Think-Aloud Outcomes for Effective Text Evaluation
Graduate School of Data Science, KAIST(韩国科学技术院数据科学研究生院);Department of Industrial & Systems Engineering, KAIST(韩国科学技术院工业与系统工程系)
提出InteractEval框架,通过出声思考方法融合人类与LLM生成文本评估检查表属性,在四个维度上优于基线,并揭示二者在内部质量与外部对齐属性识别上的互补优势。
2025-02-20 cs.CL
How Reliable are LLMs as Knowledge Bases? Re-thinking Facutality and Consistency
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Huawei Edinburgh Research Centre(华为爱丁堡研究中心)
本文重新定义LLM作为知识库的评估标准,提出事实性与一致性两个关键维度,并引入UnseenQA数据集及新指标,在26个LLM上揭示可靠性挑战。
2024-12-16 cs.AI cs.CL
Fast-Slow-Thinking: Complex Task Solving with Large Language Models
Nanjing University of Science and Technology(南京理工大学);The University of Sydney(悉尼大学)
本文提出快慢思考(FST)任务分解方法,通过快思考简化任务、慢思考恢复约束,使大语言模型以从粗到细的方式求解复杂任务,并在三类任务上验证了有效性。
2025-04-11 cs.AI cs.CL
Structured Thinking Matters: Improving LLMs Generalization in Causal Inference Tasks
École Polytechnique(巴黎高等理工学院);Institut Polytechnique de Paris(巴黎高等理工学院);Nokia Bell Labs(诺基亚贝尔实验室)
针对LLMs在因果推断中泛化能力不足的问题,提出引导模型构建结构化知识图谱的中间表示方法,在Corr2Cause基准上显著提升F1分数至48.26,验证了结构化思考的有效性。
2025-05-27 cs.AI cs.CL
Rewarding How Models Think Pedagogically: Integrating Pedagogical Reasoning and Thinking Rewards for LLMs in Education
Chosun University(昌原大学);Korea University(韩国大学);Seoul National University(首尔国立大学);Korea Institute for Curriculum and Evaluation(韩国课程与评价研究院);Upstage;Indiana University Bloomington(印第安纳大学布卢明顿分校);Nanyang Technological University(南洋理工大学)
本文提出PedagogicalRL-Thinking框架,通过教学推理提示和思考奖励方法,提升LLM在教育场景中的教学推理能力和结构化决策能力。
2026-01-21 cs.CL
ThinkPrune: Pruning Long Chain-of-Thought of LLMs via Reinforcement Learning
UC Santa Barbara(圣巴巴拉加利福尼亚大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
提出ThinkPrune方法,通过强化学习结合递减token限制的迭代剪枝策略,有效缩短长思考LLM的推理链长度,在AIME24上实现长度减半且性能仅降2%。
2025-04-02 cs.CL
Multilingual LLMs Are Not Multilingual Thinkers: Evidence from Hindi Analogy Evaluation
Mahindra University(马欣德拉大学);University of Pennsylvania(宾夕法尼亚大学)
本文构建含405题的印地语类比测试集HATS,评估多语言LLM并提出基于认知理论的扎根思维链方法,发现英语提示始终效果最佳。
2025-07-23 cs.AI cs.CL
Enhance Reasoning for Large Language Models in the Game Werewolf
Tencent AI Lab(腾讯AI实验室)
本文提出将LLM与外部Thinker模块集成的双系统推理框架,通过数据库知识和强化学习训练,在9人狼人杀游戏中提升演绎推理与发言生成能力,并贡献了最大规模社交推理游戏数据集。
2024-03-29 cs.AI cs.CL
Think Before Refusal : Triggering Safety Reflection in LLMs to Mitigate False Refusal Behavior
Technical University of Munich(慕尼黑工业大学);Ludwig Maximilian University of Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
针对大语言模型因对齐训练产生的良性查询错误拒绝问题,提出融入安全反思的TBR框架与安全感知指令微调,经15个预训练模型验证,可在保安全与性能的同时显著降低错误拒绝率。
2025-03-22 cs.AI cs.CL
Thinking Inertia: LLMs Keep Thinking When Told Not To
该研究针对大语言模型的无思维行为,提出三项评估指标,发现模型存在“思维惯性”,显式推理在严格控制下仍持续,开放式任务中仅答案合规性与准确率存在权衡,需系统评估无思维能力。
2026-11-02 cs.CL
Evaluating LLMs' Divergent Thinking Capabilities for Scientific Idea Generation with Minimal Context
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Bank of China(中国银行);School of Engineering Science, University of Chinese Academy of Sciences(中国科学院大学工程科学学院);State Key Laboratory of Nonlinear Mechanics, Institute of Mechanics, Chinese Academy of Sciences(中国科学院力学研究所非线性力学重点实验室)
本研究提出LiveIdeaBench,通过单关键词提示评估LLMs在科学想法生成中的发散思维能力,揭示通用智能指标无法有效预测该能力,表明需专门的评估基准和不同的训练策略来提升科学想法生成能力。
2026-02-23 cs.AI cs.CL
An Empirical Study of Reasoning Steps in Thinking Code LLMs
York University(约克大学)
针对思考型代码大语言模型推理链质量未充分探索的问题,本研究通过评估6个先进模型、分析100个任务的推理过程与质量,揭示了步骤调整对解决率的影响、完整性为主要失败模式等关键发现,为其在软件工程中的应用提供新见解。
2025-11-08 cs.AI
ThinkPatterns-21k: A Systematic Study on the Impact of Thinking Patterns in LLMs
Hong Kong University of Science and Technology(香港科技大学);Peking University(北京大学);Zhejiang University(浙江大学)
ThinkPatterns-21k研究了LLMs中思维模式的影响,通过系统分析发现结构化思维对小模型有益,而大模型使用结构化思维会降低性能,独白思维在各类模型中均有效。
2026-03-10 cs.CL
Argument Reconstruction as Supervision for Critical Thinking in LLMs
Carnegie Mellon University(卡内基梅隆大学);KAIST(韩国科学技术院);KIT(卡尔斯鲁厄理工学院)
本文提出GAAR引擎和Arguinas数据集,探讨通过论点重建提升大语言模型批判性思维能力,实验显示在七项任务中训练模型表现更优。
2026-05-14 cs.CL
Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs
Texas A&M University(得克萨斯农工大学)
通过生成性别中性故事对并利用直接偏好优化,该研究旨在减少大语言模型中的性别偏见,同时保持模型能力。
2026-01-14 cs.AI cs.CL cs.CY
Asynchronous Reasoning: Training-Free Interactive Thinking LLMs
Yandex;HSE University(俄罗斯高等经济大学);The University of Tokyo(东京大学);MATS;Together AI
本文提出一种无需额外训练的LLM异步推理方法,通过位置嵌入特性实现同时思考、倾听和生成输出,提升数学、常识和安全推理任务的准确性和响应速度。
2026-05-13 cs.CL cs.LG
Unlocking Recursive Thinking of LLMs: Alignment via Refinement
Soochow University(苏州大学);Zhipu AI(智谱AI);Tsinghua University(清华大学);Key Laboratory of Data Intelligence and Advanced Computing, Soochow University(苏州大学数据智能与先进计算重点实验室)
针对LLM递归推理与专家蒸馏数据不足问题,提出AvR对齐方法,通过批评—改进精炼过程和可微奖励优化合成多轮长CoT数据,仅3k样本即显著提升LLaMA-3-8B-Instruct在AlpacaEval 2.0上的胜率。
2025-06-06 cs.AI cs.CL
Weak-eval-Strong: Evaluating and Eliciting Lateral Thinking of LLMs with Situation Puzzles
Australian Institute for Machine Learning(澳大利亚机器学习研究所);University of Adelaide(阿德莱德大学)
针对LLMs横向思维难评估、缺数据的问题,研究者提出含975道分级情境谜题的SPLAT基准,用多轮玩家-裁判框架降低对强评估模型的依赖,验证了其与人类判断高一致性,且能提升其他横向思维基准的模型性能。
2024-10-09 cs.AI cs.CL cs.CV
Think, Verbalize, then Speak: Bridging Complex Thoughts and Comprehensible Speech
Seoul National University(首尔国立大学)
本文提出Think-Verbalize-Speak框架,通过引入言语化中间步骤和低延迟言语化器ReVerT,将LLM推理与语音表达解耦,在保持推理能力的同时提升语音自然度和简洁性。
2025-09-19 cs.AI cs.CL
How Do Answer Tokens Read Reasoning Traces? Self-Reading Patterns in Thinking LLMs for Quantitative Reasoning
State Key Laboratory for Novel Software Technology, Nanjing University, China(新型软件技术国家重点实验室,南京大学,中国);Alibaba Group, China(阿里巴巴集团,中国);Ant Group, China(蚂蚁集团,中国)
研究分析思考大语言模型在定量推理中如何通过自我阅读模式整合推理痕迹,提出基于自我阅读质量的训练无关引导方法,提升推理可靠性。
2026-04-21 cs.AI cs.CL
Read Quietly, Think Aloud: Decoupling Comprehension and Reasoning in LLMs
AppliedML
本文研究通过“静默阅读”机制解耦大语言模型的理解与推理,提出初始阅读空间和“阅读伙伴”架构两种方法,使模型在生成前先进行内部处理,从而显著提升回复准确率。
2025-07-04 cs.AI cs.CL
Think-J: Learning to Think for Generative LLM-as-a-Judge
\dagger(机构2)
Think-J通过学习思考方式提升生成式LLM作为评判者的性能,利用强化学习优化判断轨迹,无需额外标注即可超越现有方法。
2026-01-10 cs.AI cs.CL
Thinking Before Speaking: A Role-playing Model with Mindset
Beijing Institute of Technology(北京理工大学)
针对LLM角色扮演易被识破且难以处理角色知识盲区的问题,提出TBS模型,通过在对话数据中补充角色思维状态并引入超纲数据微调,使模型在语气、知识和思维上更逼真地模拟真实角色。
2024-09-14 cs.AI cs.CL
ReMA: Learning to Meta-think for LLMs with Multi-Agent Reinforcement Learning
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);University of British Columbia(不列颠哥伦比亚大学);University College London(伦敦大学学院)
提出ReMA框架,用多智能体强化学习解耦高层元思考与低层推理,提升大模型复杂推理能力,在数学和裁判基准上超越单智能体基线。
2025-05-27 cs.AI cs.CL cs.LG
Code to Think, Think to Code: A Survey on Code-Enhanced Reasoning and Reasoning-Driven Code Intelligence in LLMs
Meta AI;University of California, San Diego(加利福尼亚大学圣迭戈分校);University of Rochester(罗切斯特大学)
本文综述了代码与推理在大语言模型中的相互增强关系,分析了代码作为推理媒介的作用及推理对代码智能的推动,并提出了未来研究方向。
2025-02-26 cs.AI cs.CL cs.LG
Soft Thinking: Unlocking the Reasoning Potential of LLMs in Continuous Concept Space
University of California, Santa Barbara(加州大学圣芭芭拉分校);University of California, Santa Cruz(加州大学圣克ruz分校);University of California, Los Angeles(加州大学洛杉矶分校);Purdue University(普渡大学);LMSYS Org(LMSYS组织);Microsoft(微软)
针对当前大语言模型离散推理的局限性,研究提出无需训练的Soft Thinking方法,通过连续概念空间的软性概念词元实现类人推理,在数学与编程基准上提升了准确率且减少了词元用量,兼具可解释性。
2025-05-21 cs.AI cs.CL
AbstRaL: Augmenting LLMs' Reasoning by Reinforcing Abstract Thinking
AbstRaL通过强化学习提升LLM的抽象推理能力,有效缓解GSM扰动基准测试中的性能下降,并提升模型在OD数学和一般推理任务上的泛化能力。
2026-02-23 cs.AI cs.CL cs.SC
Think Before You Speak: Cultivating Communication Skills of Large Language Models via Inner Monologue
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对LLMs缺乏沟通技巧的问题,受认知科学启发,通过内心独白策略(CSIM)赋予其先思后说的能力,并构建Cskills基准进行评估,实验证明该方法优于基线。
2024-03-15 cs.AI cs.CL
ThinkBench: Dynamic Out-of-Distribution Evaluation for Robust LLM Reasoning
Zhejiang University(浙江大学);Westlake University(西湖大学);University College London(伦敦大学学院);Shanghai Jiao Tong University(上海交通大学);Northwestern University(西北大学)
ThinkBench通过动态生成分布外数据集,统一评估推理与非推理模型,在相同条件下测试16个LLM和4个PRM,发现多数模型性能不稳健且存在数据泄露,从而提供可靠评估并减少污染影响。
2025-02-22 cs.CL
Do Multilingual LLMs Think In English?
University of Oxford(牛津大学);Google DeepMind(谷歌DeepMind)
本研究通过logit lens探究多语言LLM的内部表征,发现其无论输入输出语言,关键决策与推理都在接近英语的表征空间进行,且英语计算的激活转向效果更优,揭示了多语言LLM受英语主导的内部机制。
2025-02-21 cs.AI cs.CL cs.LG
Beyond English-Centric LLMs: What Language Do Multilingual Language Models Think in?
Kyoto University(京都大学);National Institute of Informatics(信息学研究所);The University of Tokyo(东京大学)
本研究揭示非英语中心LLM(如Swallow和LLM-jp)具有日语和英语双潜在语言,并随层变化,加深了对多语言模型内部语言动态的理解。
2024-08-20 cs.AI cs.CL
OptimalThinkingBench: Evaluating Over and Underthinking in LLMs
FAIR at Meta(Meta 的 FAIR 研究院);Carnegie Mellon University(卡内基梅隆大学)
本研究推出统一基准OptimalThinkingBench,联合评估大语言模型的过度思考与思考不足问题,通过新指标评估33款模型发现无模型能实现最优思考,现有优化方法顾此失彼,凸显开发统一最优模型的需求。
2025-10-04 cs.CL cs.LG
uTeBC-NLP at SemEval-2024 Task 9: Can LLMs be Lateral Thinkers?
University of Tehran(德黑兰大学);University of British Columbia(不列颠哥伦比亚大学);Khatam University(哈塔姆大学);Tehran Institute for Advanced Studies(德黑兰高等研究院)
本文在 SemEval-2024 句子谜题任务中比较 CoT、直接提示、信息性描述与 RAG 等方法,发现压缩提示、动态上下文学习及思维路径微调可显著提升 LLM 的横向推理能力。
2024-04-03 cs.AI cs.CL cs.IR
Don't Overthink it. Preferring Shorter Thinking Chains for Improved LLM Reasoning
FAIR Team, Meta(Meta FAIR团队);The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本研究提出short-m@k方法,通过并行生成较短的思考链提高大语言模型推理效率,实验表明其在低计算环境下表现优于传统多数投票。
2026-02-03 cs.AI cs.CL
A Survey of Slow Thinking-based Reasoning LLMs using Reinforced Learning and Inference-time Scaling Law
School of Computer Science and Technology, East China Normal University(计算机科学与技术学院,东华大学)
本文综述了模拟人类慢思考的推理大语言模型,系统梳理了测试时扩展、强化学习和慢思考框架三类核心方法,并展望了其在科学发现与决策支持等领域的应用前景与挑战。
2025-05-08 cs.AI
Think-in-Memory: Recalling and Post-thinking Enable LLMs with Long-Term Memory
CUHK-Shenzhen(香港中文大学(深圳));Ant Group(蚂蚁集团)
提出TiM记忆机制,通过回忆和事后思考存储历史思考,消除重复推理,提升LLM长期交互性能。
2023-11-15 cs.CL
Think Carefully and Check Again! Meta-Generation Unlocking LLMs for Low-Resource Cross-Lingual Summarization
University of California, San Diego(加利福尼亚大学圣迭戈分校);Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学);Tsinghua University(清华大学)
针对低资源语言跨语言摘要性能不佳的问题,提出四步零样本SITR方法(摘要、改进、翻译、精炼),在多个数据集上验证,显著提升GPT-3.5和GPT-4的跨语言摘要能力。
2025-03-25 cs.AI cs.CL
SwiReasoning: Switch-Thinking in Latent and Explicit for Pareto-Superior Reasoning LLMs
Georgia Tech(佐治亚理工学院);Microsoft(微软)
SwiReasoning通过在潜在空间和显式空间之间切换,提升推理LLMs的准确率和令牌效率。
2026-03-01 cs.AI cs.CL
DynamicMind: A Tri-Mode Thinking System for Large Language Models
Southern University of Science and Technology(南方科技大学);Hong Kong University of Science and Technology(香港科技大学);University of Surrey(萨里大学)
针对 LLM 难以按任务复杂度调节推理深度的问题,本文提出 DynamicMind 三模式思维系统,利用提示工程、Thinking Density 指标、TMC 数据集与 Mind Router 实现零样本问答的性能和效率平衡。
2025-06-06 cs.AI cs.CL
Thinking Fast, Thinking Wrong: Intuitiveness Modulates LLM Counterfactual Reasoning in Policy Evaluation
Independent Researcher(独立研究者)
本研究构建了一个基于经济学和社会科学实证案例的基准,通过8000次实验评估大型语言模型在政策评估中的反事实推理,发现链式思维提示在反直觉案例中效果显著减弱,且直觉性是主导因素,表明模型存在知识-推理分离。
2026-05-28 cs.AI cs.CL
Towards System 2 Reasoning in LLMs: Learning How to Think With Meta Chain-of-Thought
Stanford University(斯坦福大学);UC Berkeley(加州大学伯克利分校)
本文提出 Meta-CoT 框架,显式建模生成思维链背后的推理过程,并结合过程监督、合成数据、搜索轨迹指令微调和强化学习,为 LLM 实现类系统2推理提供路线图。
2025-01-08 cs.AI cs.CL