Nuance Matters: Probing Epistemic Consistency in Causal Reasoning
EPFL(洛桑联邦理工学院);University of Waterloo(滑铁卢大学)
本文提出因果认知一致性概念及三项新度量指标,通过对21个主流LLMs的实证研究发现现有模型难以在因果推理中保持对中间因素极性和强度的自洽判断,并探索了利用内部token概率作为辅助手段。
2024-08-27 cs.AI cs.CL
Abstract Visual Reasoning with Tangram Shapes
Cornell University(康奈尔大学);Allen Institute for AI(艾伦人工智能研究所);New York University(纽约大学);Princeton University(普林斯顿大学)
我们介绍KiloGram,这是一个用于研究人类和机器的抽象视觉推理的资源。借鉴七巧板作为认知科学中刺激的历史,我们建立了一个注释丰富的数据集,该数据集具有>1k个不同的刺激,比现有资源大几个数量级,并且更加多样化。它在视觉上和语言上都更丰富,超越了整个形状描述,包括分割图和部分标签。我们使用这个资源来评估最近的多模态模型的抽象视觉推理能力。我们观察到,预先训练的权重表现出有限的抽象推理,这在微调后会显着改善。我们还观察到,明确地描述部件有助于人类和模型的抽象推理,特别是在联合编码语言和视觉输入时。KiloGram可在https://lil.nlp.cornell.edu/kilogram上获得。
2022-11-29 cs.AI cs.CL cs.CV
Cross-lingual Collapse: How Language-Centric Foundation Models Shape Reasoning in Large Language Models
NAVER Cloud(NAVER云);KAIST(韩国科学技术院)
该研究探讨了多语言模型在长链思考中因语言中心化先验导致的推理能力下降问题,并提出通过语言一致性奖励等方法缓解这一现象。
2026-02-23 cs.AI cs.CL
Order Doesn't Matter, But Reasoning Does: Training LLMs with Order-Centric Augmentation
Shanghai Key Laboratory of Data Science, School of Computer Science, Fudan University(上海数据科学关键实验室,计算机科学学院,复旦大学);School of Data Science, Fudan University(数据科学学院,复旦大学);Ant Group(蚂蚁集团)
针对大语言模型在逻辑推理中受顺序变化影响、泛化能力不足的问题,本文提出基于交换律的以顺序为中心的数据增强框架,通过打乱前提顺序和基于有向无环图重排推理步骤,显著提升了模型在多个逻辑推理基准上的性能与适应性。
2025-11-09 cs.AI cs.CL
Premise Order Matters in Reasoning with Large Language Models
Google DeepMind(谷歌DeepMind);Stanford University(斯坦福大学)
本研究揭示大语言模型对前提顺序敏感,顺序与推理步骤一致时性能最佳,打乱顺序可致准确率下降超30%,并发布R-GSM基准验证该效应。
2024-05-28 cs.AI cs.CL
Task Complexity Matters: An Empirical Study of Reasoning in LLMs for Sentiment Analysis
School of Computing and Information Systems, Singapore Management University(新加坡管理学院);Research and Development, Mastercard(麦star公司)
研究通过评估7种模型家族在不同粒度的情感分析数据集上的表现,发现推理效果高度依赖任务复杂性,二分类任务性能下降,多类情感识别性能提升,且少量样本学习在多数情况下优于零样本学习。
2026-02-27 cs.AI cs.CL
The Shape of Reasoning: Topological Analysis of Reasoning Traces in Large Language Models
University of Cambridge, Department of Engineering, England(剑桥大学工程系);National University of Singapore, School of Computing, Singapore(新加坡国立大学计算机学院)
提出基于拓扑数据分析(TDA)的评估框架,通过捕捉推理轨迹的几何结构实现高效自动评估,实验表明拓扑特征比图指标更有效预测推理质量。
2026-05-27 cs.AI
SHAPE of Thinking: Mathematical Heuristics for Analyzing and Improving LLM Reasoning
本研究提出用于分析LLM思维链轨迹的\texttt{SHAPE}框架,发现数学启发式比传统CoT特征更能解释答案正确性,基于此的后训练可提升LLM数学推理准确率。
2026-10-15 cs.AI
Entropy trajectory shape predicts LLM reasoning reliability: A diagnostic study of uncertainty dynamics in chain-of-thought
Huazhong University of Science and Technology(华中科技大学)
研究通过分析推理过程中熵轨迹形状来预测大语言模型的推理可靠性,提出了一种基于轨迹形状而非标量大小的诊断方法,展示了其在黑盒环境中的实用性与鲁棒性。
2026-03-27 cs.CL cs.LG
Reasoning Pattern Matters: Learning to Reason without Human Rationales
Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所智能信息处理重点实验室)
本文证明在模式化推理任务中,推理模式而非推理依据数量决定性能,提出PARO框架用LLM自动生成推理依据,无需人工标注,性能媲美10倍规模人工数据。
2025-10-14 cs.AI cs.CL
Not Just the Destination, But the Journey: Reasoning Traces Causally Shape Generalization Behaviors
Hong Kong University of Science and Technology(香港科技大学);Beijing Jiaotong University(北京交通大学)
研究探讨推理痕迹对模型泛化行为的因果影响,通过设计控制实验发现不同推理类型导致不同行为模式,证明推理本身具有独立信号。
2026-03-12 cs.CL
Semantic Integrity Matters: Benchmarking and Preserving High-Density Reasoning in KV Cache Compression
The Hong Kong University of Science(香港科学与技术大学);Guangzhou HKUST Fok Ying Tung Research Institute(广州HKUST傅种群研究院)
本文提出KVFundaBench基准测试,揭示了在高密度推理中压缩导致的严重任务依赖性退化问题,并提出ShotKV方法,通过分离prefill和解码阶段以优先保持语义完整性,提升了长上下文生成任务的准确率并降低了延迟。
2026-05-12 cs.AI cs.CL
Reasoning Topology Matters: Network-of-Thought for Complex Reasoning Tasks
Indiana University Bloomington(印第安纳大学布卢明顿)
本文提出网络推理框架NoT,通过有向图建模推理过程,探讨拓扑结构在复杂推理任务中的优势,评估不同拓扑的准确率、复杂度和效率。
2026-03-21 cs.AI cs.CL
Finding Answers in Thought Matters: Revisiting Evaluation on Large Language Models with Reasoning
NAVER Cloud(NAVER云);Neurofusion;University of Richmond(里奇蒙大学)
本研究提出答案再生框架,通过额外推理和“答案:”提示词提取答案,提高推理模型评估的鲁棒性与性能,适用于数学和开放式问答任务。
2025-10-16 cs.AI cs.CL
Finding RELIEF: Shaping Reasoning Behavior without Reasoning Supervision via Belief Engineering
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系);Sun Yat-sen University(中山大学);Zhejiang University(浙江大学);WUST(华中科技大学)
本文提出RELIFF,通过信念工程无需推理监督塑造大型推理模型的行为,实验表明其在效率和忠实度任务上表现优异。
2026-01-20 cs.AI cs.CL
Forgotten Polygons: Multimodal Large Language Models are Shape-Blind
Brown University(布朗大学);Tel Aviv University(特拉维夫大学);IIT Kharagpur(印度理工学院卡里帕尔分校);New York University(纽约大学);University of Tübingen(图宾根大学)
针对多模态大语言模型(MLLMs)在视觉-数学推理上的不足,研究通过评估几何理解、测试多步推理及提出视觉提示思维链(VC-CoT),发现其形状识别缺陷并提升GPT-4o相关任务准确率至93%,揭示系统2推理仍待解决。
2025-08-25 cs.AI cs.CL cs.CV
Order Matters in Hallucination: Reasoning Order as Benchmark and Reflexive Prompting for Large-Language-Models
University of Science and Technology of China(中国科学技术大学)
针对LLM推理与答案生成顺序导致的不一致及数值幻觉,本文提出双顺序一致性基准和一种简单反身提示策略,实验显示其可提升多种模型的可靠性。
2025-05-12 cs.AI cs.CL
Reason What Matters: Retrieval-Grounded Reasoning for Universal Multimodal Embeddings
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Artificial Intelligence and Data Science, USTC(中国科学技术大学人工智能与数据科学学院);Kuaishou Technology(快手科技);College of Future Information Technology, Fudan University(复旦大学未来信息技术学院)
针对通用多模态嵌入中GRPO信用分配不均和CoT推理延迟高的问题,提出ReWAM框架,通过检索感知自蒸馏和自适应推理,实现最先进检索性能并提升高达5倍推理吞吐量。
2026-09-29 cs.AI cs.CL
Memory Matters More: Event-Centric Memory as a Logic Map for Agent Searching and Reasoning
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学北京校区人工智能学院)
本文提出CompassMem,一种以事件为中心的记忆框架,通过构建事件图实现智能体的结构化记忆导航,提升长周期推理能力。
2026-01-08 cs.AI cs.CL
How Instruction and Reasoning Data shape Post-Training: Data Quality through the Lens of Layer-wise Gradients
University of Maryland(马里兰大学);Allen Institute for AI(Allen人工智能研究所)
本文通过层梯度的谱分析,揭示了高质量指令和推理数据对大语言模型训练后阶段的影响,统一了数据评估指标,并展示了数据质量与训练稳定性之间的关系。
2026-05-11 cs.AI cs.CL cs.LG
Anchoring What Matters: A Dual-Level Learning Framework for Visually-Grounded Multimodal Reasoning
Tsinghua University(清华大学)
提出PIVOT双层学习框架,通过自校准经验回放和视觉引导优势分配,解决RLVR在视觉基础多模态推理中的优化瓶颈,显著提升LVLMs推理能力。
2026-09-17 cs.AI
Making Reasoning Matter: Measuring and Improving Faithfulness of Chain-of-Thought Reasoning
EPFL(洛桑联邦理工学院)
针对大语言模型思维链推理中最终答案与推理步骤忠实度不足的问题,提出包含双模块的FRODO框架,通过因果奖励与反事实偏好目标提升推理忠实度,在多个基线上取得更优效果与更强泛化性。
2024-10-06 cs.CL
Which Heads Matter for Reasoning? RL-Guided KV Cache Compression
Westlake University(西华大学);McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克AI研究院);Zhejiang University(浙江大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德智能大学)
提出RLKV方法,利用强化学习识别对推理质量关键的注意力头,并对其保留完整KV缓存而对其他头进行激进压缩,实现20-60%缓存减少且性能近乎无损。
2026-05-27 cs.CL
Not All Heads Matter: A Head-Level KV Cache Compression Method with Integrated Retrieval and Reasoning
University of California, Riverside(加州大学河滨分校);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Microsoft(微软公司)
提出头部级KV缓存压缩方法HeadKV及HeadKV-R2,通过估计注意力头在检索与推理任务中的重要性,仅保留1.5%缓存即可达到完整缓存97%的性能。
2025-10-23 cs.AI cs.CL
Critical Tokens Matter: Token-Level Contrastive Estimation Enhances LLM's Reasoning Capability
Tencent AI Lab(腾讯AI实验室)
本研究提出关键令牌概念与令牌级对比估计框架cDPO,通过识别替换推理轨迹中的关键令牌优化LLM训练,在多个基准和模型上验证了其提升数学推理能力的有效性。
2025-01-13 cs.AI cs.CL cs.LG
Oops, Wait: Discourse Tokens Matter in Reasoning Model
NAVER AI Lab(NAVER人工智能实验室)
本文研究话语标记(如“wait”)在推理轨迹中的作用,发现数据高效微调可部分复现其模式,但不如大规模后训练与高置信答案转换对齐。
2026-06-16 cs.CL
You Frame It: How Conceptual Representations Shape LLM Detection and Reasoning about Antisemitism
Goethe University, Frankfurt(法兰克福歌德大学);HTW Berlin(柏林工业大学)
研究不同形式概念基础对四个先进大语言模型检测反犹主义及解释行为的影响,用两个专家注释数据集比较不同表征,发现细粒度分类表征能提高召回率但降低精度,还揭示了模型解释存在的局限。
2026-09-22 cs.CL
The Shape of Power: A Multilingual Framework for Social Power Reasoning in Dialogues
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本研究针对现有社会权力计算研究的语言文化局限,提出基于社会科学理论的多语言对话社会权力推理框架,构建含15836个实例的双语语料库,评估6类大模型并发现其与人类推理的差距,为跨文化社会推理提供评估设置。
2026-08-31 cs.AI
Why Reasoning Matters? A Survey of Advancements in Multimodal Reasoning (v1)
University of Rochester(罗切斯特大学);University of Central Florida(中央佛罗里达大学);Corning Inc.(康宁公司)
本文综述了多模态推理的进展,探讨了推理在多模态任务中的挑战与优化方法,为未来研究提供指导。
2025-11-25 cs.CL cs.LG
Buffer Matters: Unleashing the Power of Off-Policy Reinforcement Learning in Large Language Model Reasoning
本文提出BAPO框架,通过动态选择训练批次和保证策略改进下限,提升大语言模型训练效率,实验显示在数学、规划和视觉推理任务中平均提升12.5%。
2026-03-16 cs.AI
EpiCaR: Knowing What You Don't Know Matters for Better Reasoning in LLMs
Graduate School of Data Science, Seoul National University(数据科学研究生院,首尔国立大学);Department of Rural Systems Engineering, Seoul National University(农村系统工程系,首尔国立大学);Department of Aerospace Engineering, Seoul National University(航空航天工程系,首尔国立大学)
EpiCaR通过知识校准推理提升大语言模型的推理准确性和校准性,减少推理计算量。
2026-01-11 cs.CL
Thinking in a Crowd: How Auxiliary Information Shapes LLM Reasoning
School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学学院)
本文针对LLMs在复杂领域应用中常依赖外部辅助信息的问题,构建SciAux数据集研究其对LLMs显式逐步推理的因果影响,发现思考模式是双刃剑:有用信息提升准确率,误导性信息则加剧错误,凸显需赋予模型信息批判能力。
2025-09-17 cs.CL
Reasoning Topology Matters: A Controlled Study of LLM-Based Cybersecurity Analysis
University of Turku(图尔库大学)
本研究提出安全推理拓扑,通过对照实验证明图推理结构在网络安全分析中显著优于线性、分支及少样本提示,准确率提升9.8-12.2个百分点,且效果跨模型一致。
2026-09-22 cs.AI cs.CR
Thought Anchors: Which LLM Reasoning Steps Matter?
MATS
提出黑盒方法,通过替换推理轨迹中的句子衡量其反事实重要性,识别出对最终答案影响巨大的“思想锚点”,多为规划或不确定性管理句,并展示其用于预测问题难度和分析推理结构的潜力。
2025-10-27 cs.AI cs.CL cs.LG
Towards Understanding Chain-of-Thought Prompting: An Empirical Study of What Matters
The Ohio State University(俄亥俄州立大学);University of Washington(华盛顿大学);Google Research(谷歌研究院)
本文通过实证研究CoT提示的有效因素,发现无效推理示范仍可保留其80%至90%以上性能,而相关性和步骤顺序更关键。
2023-06-01 cs.CL
Make Geometry Matter for Spatial Reasoning
National University of Singapore, Singapore(新加坡国立大学)
本文提出GeoSR框架,通过几何解封掩码和几何引导融合,提升视觉语言模型的空间推理能力,实验证明其在静态和动态场景中均优于现有方法。
2026-03-27 cs.AI cs.CV
First Try Matters: Revisiting the Role of Reflection in Reasoning Models
MiroMind AI;National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文通过分析八个推理模型在五个数学数据集上的生成轨迹,发现反思多为确认性且很少改变初始答案,并提出问题感知早停与动态截断反思方法,以减少24.5%推理令牌且准确率仅降2.9%。
2025-10-09 cs.AI
Not All Tokens Matter: Towards Efficient LLM Reasoning via Token Significance in Reinforcement Learning
Tsinghua University(清华大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Peking University(北京大学);Qwen Large Model Application Team, Alibaba(阿里云文大模型应用团队);Microsoft(微软);Shenzhen Key Laboratory of Ubiquitous Data Enabling, Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院 ubiquitous 数据赋能重点实验室)
本文提出通过标记重要性优化强化学习,减少冗余并提升LLM推理效率和准确性,实验显示响应长度显著缩短且正确性保持或提升。
2026-04-16 cs.CL cs.LG
Does Table Source Matter? Benchmarking and Improving Multimodal Scientific Table Understanding and Reasoning
The University of Manchester(曼彻斯特大学);Tencent Timi Studio(腾讯天美工作室);Idiap Research Institute(Idiap研究所)
本研究提出多模态科学表格理解框架,含52K预训练样本、12K指令数据和3,114测试基准,证明领域特定数据优于通用数据,并提升数值推理能力。
2025-02-25 cs.CL
Does Rationale Quality Matter? Enhancing Mental Disorder Detection via Selective Reasoning Distillation
School of Computing(计算学院);Korea Advanced Institute of Science and Technology(韩国科学技术院)
本文研究理由质量对小型语言模型在精神障碍检测中的影响,提出基于专家临床推理对齐的选择性蒸馏框架,实验证明能显著提升检测与解释生成性能。
2025-05-26 cs.CL
Chain-of-Thought Matters: Improving Long-Context Language Models with Reasoning Path Supervision
Peking University(北京大学);Qiyuan Tech(启元科技)
本文提出LongRePS框架,通过过程监督和自采样生成高质量推理路径,显著提升长上下文语言模型在领域内及跨领域问答任务上的性能。
2025-02-28 cs.CL
Aha-Flow Distillation: Flow Markers Matter in LLM Reasoning
Peking University(北京大学);Pengcheng Laboratory(鹏城实验室)
本文提出 Aha-Flow 蒸馏(AFD),通过识别流时刻和啊哈时刻,构建 Flow-CoT 并采用双模式自蒸馏,在 AIME25 和 HMMT25 上显著提升 Qwen3 模型的推理性能。
2026-09-09 cs.AI cs.CL cs.LG
A Closer Look at Logical Reasoning with LLMs: The Choice of Tool Matters
Monash University(莫纳什大学)
本研究针对大语言模型结合符号求解器的逻辑推理范式中工具选择影响不明确的问题,通过对比Z3、Pyke、Prover9三类求解器,发现工具选择带来近50%性能差异,且Prover9的翻译可执行率与结果准确率强相关。
2024-07-11 cs.CL
Mind What Matters for Reasoning: Aligning Cross-Modal Attention via Selective Probability Mass Concentration
University of Technology Sydney(悉尼科技大学);East China Normal University(华东师范大学);The University of New South Wales(新南威尔士大学);Shanghai Jiaotong University(上海交通大学);The Education University of Hong Kong(香港教育大学)
本文提出选择性概率质量集中(sPMC)训练框架,通过识别并正则化视觉接地响应注意力头,引导文本到图像注意力集中于语义相关区域,在6个基准上平均零样本提升3%,最高达11.3%。
2026-09-25 cs.AI cs.CV
Reasoning Matters for 3D Visual Grounding
University of Washington(华盛顿大学)
本文提出了一种自动合成3D视觉定位数据的管道,并引入了在仅使用1.6%训练数据下表现优于现有方法的Reason3DVG-8B模型,证明了推理在3D视觉定位中的重要性。
2026-01-13 cs.AI cs.CV
What Matters for Latent Reasoning with Flow Matching
本文提出流式潜在推理(FLaRe),通过流匹配在潜在空间训练有效思维,满足有用、多样、可解释、可改进和高效五项要求,在算术基准上以四分之一延迟达到显式思维链97%的准确率。
2026-10-06 cs.CL cs.LG
Post-Training Shifts Confidence: A Three-Stage Analysis of How SFT, RL, and OPD Shape CoT Calibration
Eastern Institute of Technology(东理工学院);The Hong Kong Polytechnic University(香港理工大学)
研究大型语言模型训练后方法在推理中重塑置信度的情况,提出三阶段校准框架,发现不同方法在不同阶段的置信度特点,基于此提出位置感知置信策略PosConf,提升了强化学习答案聚合及在线策略蒸馏早期停止效果。
2026-07-21 cs.CL
Masking Matters: Unlocking the Spatial Reasoning Capabilities of LLMs for 3D Scene-Language Understanding
Sungkyunkwan University(庆尚国立大学)
本文提出3D-SLIM掩码策略,通过适应性注意力掩码提升LLMs在三维场景-语言理解中的空间推理能力,解决传统因果掩码导致的顺序偏差和注意力受限问题。
2026-03-24 cs.AI cs.CV
Foresight: Iterative Reasoning About Clues that Matter for Navigation
UT Austin(德克萨斯大学奥斯汀分校);FieldAI
提出Foresight框架,利用微调VLM交替提出和批评图像空间运动计划,通过人类反馈学习奖励模型进行强化学习后训练,实现无地图导航中稀疏语言指令下的迭代运动优化,任务成功率提升37%。
2026-06-12 cs.AI cs.RO
When Reasoning Traces Conflict with Evidence: How Answer Configuration Shapes Evidence Following
Stony Brook University(纽约州立大学石溪分校)
该研究在HotpotQA和MuSiQue上针对gpt-oss、Gemma4、Qwen3模型,发现独立答案调用相比延续配置可大幅提升证据遵循度,且推理轨迹的获益与听从是不同属性,评估需结合答案配置报告这两种属性。
2026-10-19 cs.AI cs.CL
Language Matters: How Do Multilingual Input and Reasoning Paths Affect Large Reasoning Models?
Appier AI Research(Appier人工智能研究院);University of Washington(华盛顿大学);National Taiwan University(台湾国立大学)
本研究探讨大型推理模型在多语言输入下的推理语言选择,发现其默认使用高资源语言,且输入语言推理会降低推理任务性能但有益于文化任务,揭示了语言偏见,为开发更公平模型提供方向。
2025-05-23 cs.CL
How Does Prefix Matter in Reasoning Model Tuning?
Mohamed bin Zayed University of Artificial Intelligence(莫莫德·本·扎耶德人工智能大学);Indian Institute of Technology Delhi(印度德里理工学院);INSAIT
本研究探讨前缀在推理模型微调中的作用,发现其能提升安全性和推理性能,但对事实性和编程任务效果有限。
2026-01-04 cs.CL
Rewrite What Matters: Adaptive Multilingual Query Rewriting for Reasoning via Agentic Reinforcement Learning
Beijing Jiaotong University(北京交通大学);Tencent Inc(腾讯公司);University of Edinburgh(爱丁堡大学)
针对多语言查询重写中一刀切策略的不足,提出基于强化学习的智能体框架mRewriter-R1,将重写视为多轮决策过程,通过自适应算子选择优化,提升推理性能并展现强泛化能力。
2026-10-06 cs.CL
Situational Awareness Matters in 3D Vision Language Reasoning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出SIG3D模型,通过语言引导的场景估计与情境化问答模块,解决三维视觉语言推理中的情境感知难题,在SQA3D和ScanQA上显著超越现有方法。
2024-06-26 cs.AI cs.CL cs.CV